Update interop test xplat header (#19576)

* Remove no-op #define logic for Interop tests
Remove single usage of #define for function remap

* Consolidate all uses of CoTaskMem* functions into new CoreClr* functions
for the Interop native tests.

* Remove unused functions and make formatting consistent.

* Remove '_cdecl' and replace all uses with '__cdecl'

* Convert '__stdcall' to 'STDMETHODCALLTYPE' for all non-calling convention dependent tests

* Replace 'CALLBACK' and 'NATIVEAPI' calling convention macros will well-defined 'STDMETHODCALLTYPE'

Implement Intel AES intrinsic

Add test cases for AES intrinsic

R2RDump - ARM and ARM64 UnwindInfo (#19618)

* UnwindInfo for Arm

* ARM64 unwindInfo, change Machine.Arm to Machine.ArmThumb2

* Fix incorrect location of UnwindCode and GcTransition in the disasm

* Use x64 GcInfo for Arm and Arm64

* Cleanup, update readme

Merge pull request #19636 from jakobbotsch/fix-shift-value-executed

Mask shift value for shift [mem], const

Fix superpmi-shim-counter (#19639)

* fix the issue

* improve counter perfomance

do not rewrite output file after each method

JIT: fix handling of newarr size (#19633)

`newarr` accepts either an int or native int for array size, and the
newarr helper the jit invokes takes a native int.

If the value on the stack is an int and the jit is running on a platform
where native int is larger than int, the jit must explicitly widen the
int to native int.

Found this while running some code through the interpreter -- the path
the interpreter uses to invoke jitted code doesn't guarantee that int args
are 64 bit clean.

Workaround to remove unnecessary bounds checks when using {ReadOnly}Span.IsEmpty (#19640)

Merge pull request #19635 from josalem/syntax-error-build-test

Fix syntax error in build-test.sh

Make clang happy and fix old comment

Mask shift value for shift [mem], const

The shift value needs to be masked as otherwise the emitter may end up
believing it needs 4 bytes for constants >= 128. Since an encoding with
4-byte immediate does not exist for shifts, the last part of the
immediate would be interpreted as code and executed.

This was only a problem for constants between 128 and 256 as other
constants are not currently contained.

Fixes #19601

fix syntax error in build-test.sh

Merge pull request #19610 from briansull/fmt-bb

define FMT_BB as "BB%02u" and use it uniformly in the codebase

Two R2RDump fixes for Crossgen output (#19585)

1) In some situations, Crossgen emits a section with EntrySize = 0.
Apparently the engine defaults to size_t in such case.

2) Similarly, Crossgen sometimes emits a section with the UNKNOWN
kind. I have relaxed the section kind check to just treat all
non-eager section kinds the same.

Thanks

Tomas

Fix terminology in netci file (#19608)

Remove Avx.PermuteVar tests to unblock signature change propagation to corefx

Test will be rewritten after corefx Avx.PermuteVar changes will be absorbed

Fix base types of second paramters used in Avx.PermuteVar and Avx2.Permute4x64
for float, double overloads

Fixes #19579

Merge branch 'master' into fmt-bb

Merge pull request #15011 from mikedn/ssa-mem-num

Eliminate duplicate SSA number bookkeeping

Deal with compilation warnings in VM in cross-bitness scenario (#18707)

Handle multireg copies correctly (#19588)

* Handle multireg copies correctly

Fix #19029

Enable unloading of AssemblyLoadContext (#18476)

Enable assembly unloading

* Allow PInvoke methods on collectible assemblies

* Fix test unloadability

Several hundreds of tests were using Helper class that created
GCHandle, but never freed it. That prevented unloading of those
tests. The change modifies the Helper class to keep the handle
in a finalizable object.

Several GCHandle related tests were not freeing the GCHandle they
allocated, so this change adds freeing them to enable the unloading.

* Add missing error messages to the resources

* Fix shuffle thunk cache for unloadability

* Add GetLoaderAllocator to ICLRPrivBinder

 Implement AVX2 MaskLoad and MaskStore (#19513)

* Implement AVX2 MaskLoad and MaskStore

* Add test cases for AVX2 MaskLoad and MaskStore

* Fix AVX MaskStore tests

* template AVX MaskLoad tests

define FMT_BB as "BB%02u" and use it uniformly in the codebase

We use the following format when print the BasicBlock number: bbNum
This define is used with string concatenation to put this in printf format strings

Make sure RuntimeEventSource is passed to EventListener.OnEventSourceCreated (#19393)

Fix a PAL spin lock issue (#19604)

Fix for https://github.com/dotnet/coreclr/issues/18486
- Lock release needs to be at least volatile

Fix broken documentation links into mscorlib code (#19598)

AesGcm, AesCcm (dotnet/corefx#31389)

* AesGcm, AesCcm

* add osx stubs

* disable tests on osx and desktop (APIs not there/not supported)

* TagByteSizes on OSX

* fix TagByteSizes compilation error

* apply review feedback

* fix typo when setting tag/nonce length in ccm

* add missing SetCcmTagLength

* attempt to detect if ccm is available on Ubuntu 14.04

* disable tests on ubuntu 14.04, attempt for osx support

* attempt to fix osx

* fix osx

* review feedback

* disable new ccm testcases on ubuntu 14.04

* attempt to make Ubuntu 14.04 work

* add Interop.Initialization to OSX

* fix KeySizeHelpers after merge conflict

Signed-off-by: dotnet-bot <dotnet-bot@microsoft.com>

R2RDump - Interweave x64 unwind codes into disasm (#19577)

* Interweave unwind codes into disasm, fix incorrect x64 register names

* Fix xml dump errors

Merge pull request #19572 from briansull/fmt-vn

Define FMT_VN as "$%x" and use it uniformly in the codebase

Merge pull request #19581 from sergign60/unwind_fix

[corert armel] Fixed CoreRT issue #5874 for non-callee-saved regs

Define FMT_VN as "$%x" and use it uniformly in the codebase

We use a unique prefix character when printing value numbers in dumps:  i.e.  $1c0
This define is used with string concatenation to put this in printf format strings

Cleanup unnecessary casts in roundUp

Add roundUp(unsigned size, unsigned mult) and roundDn(unsigned size, unsigned mult) to 64-bit host in src/jit/jit.h

[corert armel] Fixed CoreRT issue #5874 for non-callee-saved regs

Handle null byref in helper (#19571)

Add JIT_ByRefWriteBarrier to IsIPInMarkedJitHelper so that a null dereference will be handled.

Fix #19444

Backout change to pass -ibcoptimize in official builds

Stop using size_t for passing immediate values in CodeGen CodeGenInterface (#19544)

R2RDump - Add image describing R2R format (#19528)

* Add image describing R2R format

* Remove help message stating -v option dumps raw bytes

Fix tiered compilation option for case-sensitive systems (#19567)

Merge pull request #19334 from CarolEidt/Fix19243

Fix evaluation order for block copy

Add IBC support (#19046)

This change adds support to consume IBC data packages that are created by the dotnet/optimization repository. With these changes and dotnet/buildtools#2103 to enable IBC optimizations for corefx, we will see a 32% decrease in the size of NetCoreApp (and an overall decrease of 16%), a 30% reduction in ref set, a 5% improvement in time to first request and steady state performance for MusicStore.

Size

  Crossgen Partial Partial vs Crossgen (lower is better)
Shared (MB) 185.6 137.3 0.74
Microsoft.NETCore.App (MB) 115.6 67.4 0.58
RefSet

MusicStore

  Crossgen Partial Partial vs Crossgen (lower is better)
Total 19.389 13.472 0.69
AllReady

Crossgen Partial Partial vs Crossgen (lower is better)
Total 17.58 12.214
Performance

MusicStore

  Crossgen Partial Partial vs Crossgen (lower is better)
Server Start (ms) 870 870.6 1.00
First request (ms) 3532.6 3386.6 0.95
Steady State (ms) 2.926 2.79 0.95
AllReady

Crossgen Partial Partial vs Crossgen (lower is better)
Server Start (ms) 2102 1942.4
First Request (ms) 4263.2 4126
Steady State (ms) 5.69 5.68
TechEmpower Plaintext

Crossgen Partial Partial vs Crossgen (lower is better)
Requests per Second 1928649.8 1893183.8
First Request (ms) 76.14 80.11
Startup (ms) 391 372.8
Working Set (MB) 382.2 373.4

JIT: remove incremental ref count updates (#19345)

Remove almost all of the code in the jit that tries to maintain local ref
counts incrementally. Also remove `lvaSortAgain` and related machinery.

Explicitly sort locals before post-lower-liveness when optimizing to get the
best set of tracked locals.

Explicitly recount after post-lower liveness to get accurate counts after
dead stores. This can lead to tracked unreferenced arguments; tolerate this
during codegen.

Update Microsoft.NETCore.CoreDisTools to version 1.0.1-prerelease-00005 (#19520)

* Update Microsoft.NETCore.CoreDisTools to version 1.0.1-prerelease-00005. Temporarily add a direct reference to the win-x64 and win-x86 runtime packages

* Change Microsoft.NETCore.CoreDisTools package references to the identity package.

Improve formatting of R2RDump.csproj properties.

* Add an ArgumentException to explain the currently faulty behavior where disassembling an R2R image whose architecture is different than the coredistools.dll architecture.

* Add Issue #19564 to the R2RDump.cs Disassembler comment

Fix dbgshim's > 1000 module bug (issue #19538) (#19553)

Fix dbgshim's > 1000 module bug (issue #19538)

Cap cbNeeded on second EnumProcessModules call. Change the allocations
to HMODULE to make sure they are aligned properly.

Fix issues with calling convention in tests. (#19548)

Add comment

Normalize whitespace/indentation

Update t4 templates to generate simplified type names

Mark some readonly fields readonly (#19559)

Optimize number formatting (#19551)

Mark more structs as readonly (#19557)

Make DateTimeOffset a readonly struct (#19552)

 Free the alternate signal stack if this PAL's thread allocated it. (#19539)

Free the alternate signal stack if this PAL's thread allocated it.

Move Ensure/FreeSignalAlternateStack to CPalThread class.

Frees the alternate stack a little sooner during thread termination.

Fix test case comment to reflect the actual test (#19531)

Enable Microsoft.VisualBasic.dll in crossgen_comparison scenario

Return "default" target-specific NaN value during constant folding of arithmetic expressions on ARM32 and ARM64

Fix wrong sprinf_s format string in gtGetArgMsg getGetLateArgMsg on ARM32 (#19536)

Exclude some assemblies from CrossGen Comparison job (#19534)

* System.Runtime.Intrinsics.Experimental.dll
* Xunit assemblies

Initial support for R2R image diff (#19533)

* Initial support for R2R image diff

In this first cut I'm adding just three size diff statistics -
PE section size diff, R2R section size diff and method size diffs.
I assume we'll add more statistics as needed in the course of various
size investigations.

Thanks

Tomas

Remove tests previously ported to CoreFX repo (#19527)

* Remove tests previously ported to CoreFX repo

* Remove references to ported Marshal API tests

Merge pull request #19530 from BruceForstall/DisableArmUbuntuCorefxLogging

Disable Ubuntu arm32 corefx xunit test result parsing

Merge pull request #19378 from sergign60/unwind_fix

[CoreRT armel]Fix for unwinding support for ARM #5874

Disable Ubuntu arm32 corefx xunit test result parsing

We have a problem with the xunit plug-in, where it is consistently
failing on Ubuntu arm32 test result uploading with this error:

```
The plugin hasn't been performed correctly
```

We haven't been able to identify the reason. So, do not add xunit parsing of the test data in this scenario.
This is tracked by: https://github.com/dotnet/coreclr/issues/19447.

Merge pull request #19512 from dotnet-maestro-bot/master-UpdateDependencies

Update BuildTools, CoreClr, CoreFx, CoreSetup, PgoData to preview1-03116-01, preview1-26817-05, preview1-26817-04, preview1-26817-01, master-20180817-0151, respectively (master)

Enable Tiered Compilation by default (#19525)

Enable Tiered Compilation by default

1) Changes the default state of the tiered compilation feature check to be ON BY DEFAULT
2) Removed comments about the source about this being a work in progress. Although it will surely continue to evolve and improve, remaining issues would be better tracked in our issue tracking system with the same default presumption as other runtime features - assume it works unless noted otherwise.
3) Adjusts a number of tests and automated scripts that made assumptions that the default setting of this feature is off.
4) Stop accepting the deprecated env var COMPLUS_EXPERIMENTAL_TieredCompilation. I'm not aware it has any remaining usage but if so we're going to find out.
5) Adjust config names for JitBench

Update BuildTools, CoreClr, CoreFx, CoreSetup, PgoData to preview1-03116-01, preview1-26817-05, preview1-26817-04, preview1-26817-01, master-20180817-0151, respectively

Merge pull request #19514 from dotnet/dev/unix_test_workflow

 Introduce CrossGen Comparison scenario

Add CrossGen Comparison scenario to netci.groovy

Add tests/scripts/crossgen_comparison.py

Remove coreclr.*txt upload (#19524)

R2RDump - Documentation (#19497)

* Add comments

* Add README

* Use href links, disable disasm

Moved registry.cs to shared (#19471)

* moved registry to shared

* using corefx version

* set value added

Determine memory load based on cgroup usage. (#19518)

cgroup usage is used to trigger oom kills. It includes rss and file cache
of the cgroup.

The implementation was only using the process rss to determine memory load.
This is less than the cgroup usage and leads to oom kills due to GC not
being triggered soon enough.

Add an empty console application to measure startup of the runtime. (#19490)

Disable a regex test that is failing with minopts (#19488)

See dotnet/coreclr#18912. This test would always fail once tiered compilation is enabled by default in CoreFX test runs in the CoreCLR repo.

Build-test.sh handles native test assets (#19430)

* Respect Windows script argument to skip package building.

* Bring build.sh logic closer to build.cmd with respect to passing CMAKE flags for building tests

* Make cmake gen script find override file without using script arguments

* build-test.sh can now build native test projects
Remove compileoptions.cmake and push contents into configurecompiler.cmake
 which contains compiler configuration from repo root CMakeLists.txt

Some JitBench fixes (#19479)

Some JitBench fixes

- Fixed `dotnet run` from the `unofficial_dotnet` folder after `Directory.Build.targets` was added to `coreclr/tests/src`. This file is auto-imported and was adding dependencies and properties for targets that were not necessary. Added files to the root JitBench folder to override.
- Updated JitBench to be able to run against netcoreapp3.0. I haven't changed the default yet, could consider doing so once there are no pending perf issues being looked into.
  - Added a `RetargetProjects()` function to the setup steps to replace `TargetFramework` and `RuntimeFrameworkVersion` values in the relevant `.csproj` files to run against the expected runtime. This reduces some dependency on other repos containing the actual perf projects such that we don't have to update every repo to support environment variables to set those values.
- Disabled tiering for the `MinOpts` config

JIT: bail out in optExtractArrIndex for constant array length (#19493)

Generalize the bail out pattern to handle cases from spans where we may
see a known array length in a bounds check.

Fixes #19454

Optimize NumberBufferToDecimal (#19072)

Merge pull request #19396 from CarolEidt/Fix19288

Fix non-lclVar odd-byte struct passing

[CoreRT armel]Fix for unwinding support for ARM is not fully implemented #5874

Make file handle checks accurate on Windows (#19508)

* Make handle checks accurate on Windows

We can actually check the async state of a handle on Windows, so check directly when we have the API available.

Also allow all filetypes through when explicitly using extended syntax `\\?\` .

* Fix nits

* Don't throw in the handle constructor overloads

* Whoops

* Removing the close handle entirely. No adverse effects from closing a bad handle- or leaving it open for that matter.

Revert "Temporarily flag a SIMD test as optimization-sensitive (#19163)" (#19505)

This reverts commit 855ddf52c7b05994cf6728b9169fa6cdc694a537. Issue https://github.com/dotnet/coreclr/issues/19124 was fixed by PR https://github.com/dotnet/coreclr/pull/19234, so re-enabling the test in minopts and with tiering.

Update JapaneseLunisolarCalendar.cs (#19504)

Corrects an issue with the conversion table for Gregorian to Japanese lunisolar dates.
See: #19450.

Issue: data discrepancy in year 1962.
Table entry for 1962 has incorrect days per month for months 6 and 7.

Notes
The DaysPerMonth flag uses the binary literal for ease of readability.

JIT: properly handle special-case varargs params in minopts (#19489)

We were previously marking all lcl vars as implicitly referenced in minopts,
but there are some special varargs params that can't ever be marked as
referenced, either implicitly or explicitly.

Special case these when computing or checking ref counts in minopts.

Closes #19349.

Revert "Change CoreLib native image to be R2R by default on all platforms (#19359)" (#19501)

This reverts commit d485659348af3528b688ac5b7e4c58dacba6de58.

Add Public API Marshal.IsTypeVisibleFromCom and Marshal.GetEndComSlot (#19507)

R2RDump - GcInfo for x86

x86 GcInfo headers

x86 GcSlotTable

x86 GcTransitions

Update expected xml for R2RDumpTests

Add license headers

Allow multiple GcTransitions with same codeOffset

Add index property in GcSlot, make GcSlot a class instead of struct, add missing spaces, update tests

Remove placeholder functions for parsing partially interruptible pointer tables

Implement partially interruptible GcInfo

Example GcInfo output:
    CodeLength: 22 bytes
        InfoHdr:
            PrologSize: 7
            EpilogSize: 4
            EpilogCount: 1
            EpilogAtEnd: yes
            Callee-saved regs  = EBP
            EbpFrame: yes
            Fully Interruptible: yes
            DoubleAlign: no
            Arguments Size: 0 DWORDs
            Stack Frame Size: 1 DWORDs
            UntrackedCnt: 1
            VarPtrTableSize: 0
            GenericsContext: 0
            GenericsContextIsMethodDesc: 0
            ReturnKind: RT_Scalar
            RevPInvokeOffset: 0
            Epilogs: 18

            GcSlots:
                -------------------------
                [EBP-4]
                Flags: GC_SLOT_UNTRACKED
                LowBits:
                -------------------------

    28fc: 55                    push    ebp
    28fd: 8b ec                 mov     ebp, esp
    28ff: 50                    push    eax
    2900: 89 4d fc              mov     dword ptr [ebp - 4], ecx
    2903: 8b 4d fc              mov     ecx, dword ptr [ebp - 4]
    2906: ff 15 10 10 01 10     call    dword ptr [268505104]
                                reg ECX becoming live
    290c: 90                    nop
                                reg ECX becoming dead
    290d: 90                    nop
    290e: 8b e5                 mov     esp, ebp
    2910: 5d                    pop     ebp
    2911: c3                    ret

Update BuildTools, CoreClr, CoreFx, CoreSetup, PgoData to preview1-03115-01, preview1-26815-04, preview1-26815-04, preview1-26815-01, master-20180815-0120, respectively (#19494)

Merge pull request #19487 from acmyu/disable

ExcludeList for R2RDumpTests in wrong ItemGroup

Add TypeConverter fallback to DefaultValueAttribute (#19354)

Update debugging and createdump docs. (#19495)

ExcludeList for R2RDumpTests in wrong ItemGroup

Update BuildTools, CoreClr, CoreFx, CoreSetup, PgoData to preview1-03110-01, preview1-26814-06, preview1-26814-01, preview1-26814-01, master-20180814-0056, respectively (#19377)

Disable R2RDumpTests (#19475)

Delete dead code (#19452)

Unused strong name signing paths and related code

Translate [rip +- offset] to absolute RVA's in R2RDump (#19219)

* Translate [rip +- offset] to absoluate RVA's in R2RDump

The existing logic for displaying rip-relative addressed on X64
make it very hard to calculate the final addresses. I have added
a horrendous hack using textual analysis of the disassembled
instruction to translate this notation to absolute RVA's.

As part of this effort I have also encapsulated the CorDisTools
helper in a new class Disassembler that also contains customizable
provisions for handling special assembly cases on the individual
architectures.

Thanks

Tomas

* Temporarily block out disassembly to make tests pass

In my initial commit I removed the line blocking out disassembly
however this ends up failing several lab tests so I'm putting the
line back.

Thanks

Tomas

Code review feedback for the alternate stack changes (PR #19309). (#19476)

Fixed SOS plugin for core dumps.

Update URLs and exclusion list for staging (#19423)

* Update URLs and exclusion list for staging

* Update Failing tests

* Fix IO test namespace

* Add 2 failing Ubuntu tests

* Exclude test under Ubuntu

* Add regressed test

* Roll-back CI URLs

* Add issue number