Stop using size_t for passing immediate values in CodeGen CodeGenInterface (#19544)

R2RDump - Add image describing R2R format (#19528)

* Add image describing R2R format

* Remove help message stating -v option dumps raw bytes

Fix tiered compilation option for case-sensitive systems (#19567)

Merge pull request #19334 from CarolEidt/Fix19243

Fix evaluation order for block copy

Add IBC support (#19046)

This change adds support to consume IBC data packages that are created by the dotnet/optimization repository. With these changes and dotnet/buildtools#2103 to enable IBC optimizations for corefx, we will see a 32% decrease in the size of NetCoreApp (and an overall decrease of 16%), a 30% reduction in ref set, a 5% improvement in time to first request and steady state performance for MusicStore.

Size

  Crossgen Partial Partial vs Crossgen (lower is better)
Shared (MB) 185.6 137.3 0.74
Microsoft.NETCore.App (MB) 115.6 67.4 0.58
RefSet

MusicStore

  Crossgen Partial Partial vs Crossgen (lower is better)
Total 19.389 13.472 0.69
AllReady

Crossgen Partial Partial vs Crossgen (lower is better)
Total 17.58 12.214
Performance

MusicStore

  Crossgen Partial Partial vs Crossgen (lower is better)
Server Start (ms) 870 870.6 1.00
First request (ms) 3532.6 3386.6 0.95
Steady State (ms) 2.926 2.79 0.95
AllReady

Crossgen Partial Partial vs Crossgen (lower is better)
Server Start (ms) 2102 1942.4
First Request (ms) 4263.2 4126
Steady State (ms) 5.69 5.68
TechEmpower Plaintext

Crossgen Partial Partial vs Crossgen (lower is better)
Requests per Second 1928649.8 1893183.8
First Request (ms) 76.14 80.11
Startup (ms) 391 372.8
Working Set (MB) 382.2 373.4

JIT: remove incremental ref count updates (#19345)

Remove almost all of the code in the jit that tries to maintain local ref
counts incrementally. Also remove `lvaSortAgain` and related machinery.

Explicitly sort locals before post-lower-liveness when optimizing to get the
best set of tracked locals.

Explicitly recount after post-lower liveness to get accurate counts after
dead stores. This can lead to tracked unreferenced arguments; tolerate this
during codegen.

Update Microsoft.NETCore.CoreDisTools to version 1.0.1-prerelease-00005 (#19520)

* Update Microsoft.NETCore.CoreDisTools to version 1.0.1-prerelease-00005. Temporarily add a direct reference to the win-x64 and win-x86 runtime packages

* Change Microsoft.NETCore.CoreDisTools package references to the identity package.

Improve formatting of R2RDump.csproj properties.

* Add an ArgumentException to explain the currently faulty behavior where disassembling an R2R image whose architecture is different than the coredistools.dll architecture.

* Add Issue #19564 to the R2RDump.cs Disassembler comment

Fix dbgshim's > 1000 module bug (issue #19538) (#19553)

Fix dbgshim's > 1000 module bug (issue #19538)

Cap cbNeeded on second EnumProcessModules call. Change the allocations
to HMODULE to make sure they are aligned properly.

Fix issues with calling convention in tests. (#19548)

Add comment

Normalize whitespace/indentation

Update t4 templates to generate simplified type names

Mark some readonly fields readonly (#19559)

Optimize number formatting (#19551)

Mark more structs as readonly (#19557)

Make DateTimeOffset a readonly struct (#19552)

 Free the alternate signal stack if this PAL's thread allocated it. (#19539)

Free the alternate signal stack if this PAL's thread allocated it.

Move Ensure/FreeSignalAlternateStack to CPalThread class.

Frees the alternate stack a little sooner during thread termination.

Fix test case comment to reflect the actual test (#19531)

Enable Microsoft.VisualBasic.dll in crossgen_comparison scenario

Return "default" target-specific NaN value during constant folding of arithmetic expressions on ARM32 and ARM64

Fix wrong sprinf_s format string in gtGetArgMsg getGetLateArgMsg on ARM32 (#19536)

Exclude some assemblies from CrossGen Comparison job (#19534)

* System.Runtime.Intrinsics.Experimental.dll
* Xunit assemblies

Initial support for R2R image diff (#19533)

* Initial support for R2R image diff

In this first cut I'm adding just three size diff statistics -
PE section size diff, R2R section size diff and method size diffs.
I assume we'll add more statistics as needed in the course of various
size investigations.

Thanks

Tomas

Remove tests previously ported to CoreFX repo (#19527)

* Remove tests previously ported to CoreFX repo

* Remove references to ported Marshal API tests

Merge pull request #19530 from BruceForstall/DisableArmUbuntuCorefxLogging

Disable Ubuntu arm32 corefx xunit test result parsing

Merge pull request #19378 from sergign60/unwind_fix

[CoreRT armel]Fix for unwinding support for ARM #5874

Disable Ubuntu arm32 corefx xunit test result parsing

We have a problem with the xunit plug-in, where it is consistently
failing on Ubuntu arm32 test result uploading with this error:

```
The plugin hasn't been performed correctly
```

We haven't been able to identify the reason. So, do not add xunit parsing of the test data in this scenario.
This is tracked by: https://github.com/dotnet/coreclr/issues/19447.

Merge pull request #19512 from dotnet-maestro-bot/master-UpdateDependencies

Update BuildTools, CoreClr, CoreFx, CoreSetup, PgoData to preview1-03116-01, preview1-26817-05, preview1-26817-04, preview1-26817-01, master-20180817-0151, respectively (master)

Enable Tiered Compilation by default (#19525)

Enable Tiered Compilation by default

1) Changes the default state of the tiered compilation feature check to be ON BY DEFAULT
2) Removed comments about the source about this being a work in progress. Although it will surely continue to evolve and improve, remaining issues would be better tracked in our issue tracking system with the same default presumption as other runtime features - assume it works unless noted otherwise.
3) Adjusts a number of tests and automated scripts that made assumptions that the default setting of this feature is off.
4) Stop accepting the deprecated env var COMPLUS_EXPERIMENTAL_TieredCompilation. I'm not aware it has any remaining usage but if so we're going to find out.
5) Adjust config names for JitBench

Update BuildTools, CoreClr, CoreFx, CoreSetup, PgoData to preview1-03116-01, preview1-26817-05, preview1-26817-04, preview1-26817-01, master-20180817-0151, respectively

Merge pull request #19514 from dotnet/dev/unix_test_workflow

 Introduce CrossGen Comparison scenario

Add CrossGen Comparison scenario to netci.groovy

Add tests/scripts/crossgen_comparison.py

Remove coreclr.*txt upload (#19524)

R2RDump - Documentation (#19497)

* Add comments

* Add README

* Use href links, disable disasm

Moved registry.cs to shared (#19471)

* moved registry to shared

* using corefx version

* set value added

Determine memory load based on cgroup usage. (#19518)

cgroup usage is used to trigger oom kills. It includes rss and file cache
of the cgroup.

The implementation was only using the process rss to determine memory load.
This is less than the cgroup usage and leads to oom kills due to GC not
being triggered soon enough.

Add an empty console application to measure startup of the runtime. (#19490)

Disable a regex test that is failing with minopts (#19488)

See dotnet/coreclr#18912. This test would always fail once tiered compilation is enabled by default in CoreFX test runs in the CoreCLR repo.

Build-test.sh handles native test assets (#19430)

* Respect Windows script argument to skip package building.

* Bring build.sh logic closer to build.cmd with respect to passing CMAKE flags for building tests

* Make cmake gen script find override file without using script arguments

* build-test.sh can now build native test projects
Remove compileoptions.cmake and push contents into configurecompiler.cmake
 which contains compiler configuration from repo root CMakeLists.txt

Some JitBench fixes (#19479)

Some JitBench fixes

- Fixed `dotnet run` from the `unofficial_dotnet` folder after `Directory.Build.targets` was added to `coreclr/tests/src`. This file is auto-imported and was adding dependencies and properties for targets that were not necessary. Added files to the root JitBench folder to override.
- Updated JitBench to be able to run against netcoreapp3.0. I haven't changed the default yet, could consider doing so once there are no pending perf issues being looked into.
  - Added a `RetargetProjects()` function to the setup steps to replace `TargetFramework` and `RuntimeFrameworkVersion` values in the relevant `.csproj` files to run against the expected runtime. This reduces some dependency on other repos containing the actual perf projects such that we don't have to update every repo to support environment variables to set those values.
- Disabled tiering for the `MinOpts` config

JIT: bail out in optExtractArrIndex for constant array length (#19493)

Generalize the bail out pattern to handle cases from spans where we may
see a known array length in a bounds check.

Fixes #19454

Optimize NumberBufferToDecimal (#19072)

Merge pull request #19396 from CarolEidt/Fix19288

Fix non-lclVar odd-byte struct passing

[CoreRT armel]Fix for unwinding support for ARM is not fully implemented #5874

Make file handle checks accurate on Windows (#19508)

* Make handle checks accurate on Windows

We can actually check the async state of a handle on Windows, so check directly when we have the API available.

Also allow all filetypes through when explicitly using extended syntax `\\?\` .

* Fix nits

* Don't throw in the handle constructor overloads

* Whoops

* Removing the close handle entirely. No adverse effects from closing a bad handle- or leaving it open for that matter.

Revert "Temporarily flag a SIMD test as optimization-sensitive (#19163)" (#19505)

This reverts commit 855ddf52c7b05994cf6728b9169fa6cdc694a537. Issue https://github.com/dotnet/coreclr/issues/19124 was fixed by PR https://github.com/dotnet/coreclr/pull/19234, so re-enabling the test in minopts and with tiering.

Update JapaneseLunisolarCalendar.cs (#19504)

Corrects an issue with the conversion table for Gregorian to Japanese lunisolar dates.
See: #19450.

Issue: data discrepancy in year 1962.
Table entry for 1962 has incorrect days per month for months 6 and 7.

Notes
The DaysPerMonth flag uses the binary literal for ease of readability.

JIT: properly handle special-case varargs params in minopts (#19489)

We were previously marking all lcl vars as implicitly referenced in minopts,
but there are some special varargs params that can't ever be marked as
referenced, either implicitly or explicitly.

Special case these when computing or checking ref counts in minopts.

Closes #19349.

Revert "Change CoreLib native image to be R2R by default on all platforms (#19359)" (#19501)

This reverts commit d485659348af3528b688ac5b7e4c58dacba6de58.

Add Public API Marshal.IsTypeVisibleFromCom and Marshal.GetEndComSlot (#19507)

R2RDump - GcInfo for x86

x86 GcInfo headers

x86 GcSlotTable

x86 GcTransitions

Update expected xml for R2RDumpTests

Add license headers

Allow multiple GcTransitions with same codeOffset

Add index property in GcSlot, make GcSlot a class instead of struct, add missing spaces, update tests

Remove placeholder functions for parsing partially interruptible pointer tables

Implement partially interruptible GcInfo

Example GcInfo output:
    CodeLength: 22 bytes
        InfoHdr:
            PrologSize: 7
            EpilogSize: 4
            EpilogCount: 1
            EpilogAtEnd: yes
            Callee-saved regs  = EBP
            EbpFrame: yes
            Fully Interruptible: yes
            DoubleAlign: no
            Arguments Size: 0 DWORDs
            Stack Frame Size: 1 DWORDs
            UntrackedCnt: 1
            VarPtrTableSize: 0
            GenericsContext: 0
            GenericsContextIsMethodDesc: 0
            ReturnKind: RT_Scalar
            RevPInvokeOffset: 0
            Epilogs: 18

            GcSlots:
                -------------------------
                [EBP-4]
                Flags: GC_SLOT_UNTRACKED
                LowBits:
                -------------------------

    28fc: 55                    push    ebp
    28fd: 8b ec                 mov     ebp, esp
    28ff: 50                    push    eax
    2900: 89 4d fc              mov     dword ptr [ebp - 4], ecx
    2903: 8b 4d fc              mov     ecx, dword ptr [ebp - 4]
    2906: ff 15 10 10 01 10     call    dword ptr [268505104]
                                reg ECX becoming live
    290c: 90                    nop
                                reg ECX becoming dead
    290d: 90                    nop
    290e: 8b e5                 mov     esp, ebp
    2910: 5d                    pop     ebp
    2911: c3                    ret

Update BuildTools, CoreClr, CoreFx, CoreSetup, PgoData to preview1-03115-01, preview1-26815-04, preview1-26815-04, preview1-26815-01, master-20180815-0120, respectively (#19494)

Merge pull request #19487 from acmyu/disable

ExcludeList for R2RDumpTests in wrong ItemGroup

Add TypeConverter fallback to DefaultValueAttribute (#19354)

Update debugging and createdump docs. (#19495)

ExcludeList for R2RDumpTests in wrong ItemGroup

Update BuildTools, CoreClr, CoreFx, CoreSetup, PgoData to preview1-03110-01, preview1-26814-06, preview1-26814-01, preview1-26814-01, master-20180814-0056, respectively (#19377)

Disable R2RDumpTests (#19475)

Delete dead code (#19452)

Unused strong name signing paths and related code

Translate [rip +- offset] to absolute RVA's in R2RDump (#19219)

* Translate [rip +- offset] to absoluate RVA's in R2RDump

The existing logic for displaying rip-relative addressed on X64
make it very hard to calculate the final addresses. I have added
a horrendous hack using textual analysis of the disassembled
instruction to translate this notation to absolute RVA's.

As part of this effort I have also encapsulated the CorDisTools
helper in a new class Disassembler that also contains customizable
provisions for handling special assembly cases on the individual
architectures.

Thanks

Tomas

* Temporarily block out disassembly to make tests pass

In my initial commit I removed the line blocking out disassembly
however this ends up failing several lab tests so I'm putting the
line back.

Thanks

Tomas

Code review feedback for the alternate stack changes (PR #19309). (#19476)

Fixed SOS plugin for core dumps.

Update URLs and exclusion list for staging (#19423)

* Update URLs and exclusion list for staging

* Update Failing tests

* Fix IO test namespace

* Add 2 failing Ubuntu tests

* Exclude test under Ubuntu

* Add regressed test

* Roll-back CI URLs

* Add issue number

Merge pull request #19463 from BruceForstall/FixArmHeapVerify

Disable 3 tests for Windows/arm32 HeapVerify runs

disable tests\src\JIT\Methodical\fp\exgen\10w5d_cs_do (#19465)

in stress modes. The issue is #18988

Merge pull request #19469 from BruceForstall/DisableVectorDot

Disable VectorDot_ro.cmd_9267 for Windows arm64 R2R

Disable VectorDot_ro.cmd_9267 for Windows arm64 R2R

Tracked by #18991

Merge pull request #19466 from BruceForstall/Disable163200

Disable test b163200 under GCStress

Disable test b163200 under GCStress

Tracked by #19464

Disable 3 tests for Windows/arm32 HeapVerify runs

They all time out.

Fixes #19462

Merge pull request #19459 from BruceForstall/Disable437044

Exclude 437044.cmd_10304 from GCStress runs

Exclude 437044.cmd_10304 from GCStress runs

This test times out on ARM Windows R2R GCStress15 runs.

Add a skipmanaged option to build.sh (#19111)

This option is the opposite of -msbuildonunsupportedplatform, and an
managed version of of -skipnative.

This is useful for bootstrapping on new Linux/x64 distributions, where
dotnet may not work (yet) but coreclr will try and use it anyway,
failing the bootstrap scripts.

See also https://github.com/dotnet/source-build/issues/663 for
additional background information.

Merge pull request #19458 from BruceForstall/DisableTests

Disable System.Linq.Expressions.Tests against #19457

Disable System.Linq.Expressions.Tests against #19457

Remove unused local from List<T>.RemoveRange (dotnet/corefx#31727)

`int i` appears to be unused so i removed it.

Signed-off-by: dotnet-bot <dotnet-bot@microsoft.com>

non shared changes and feedback addressed

Signed-off-by: dotnet-bot <dotnet-bot@microsoft.com>

Fix a couple of apartment state issues (#19384)

* Fix a couple of apartment state issues

Fix for https://github.com/dotnet/coreclr/issues/17822
- The apartment state now defaults to MTA for the main thread along with a CoInitialize
- Calling `Thread.SetApartmentState` with STA now fails as expected (different behavior from previous netcore, same behavior as netfx)

Fix for https://github.com/dotnet/coreclr/issues/17787
- `WaitHandle.WaitAll` for multiple handles is not supported on an STA thread due to issues described in https://github.com/dotnet/coreclr/issues/17787#issuecomment-385117537
- It now throws `NotSupportedException` as expected (different behavior from previous netcore, same behavior as netfx)

Fix for https://github.com/dotnet/coreclr/issues/19225

* Temporarily exclude invalid CoreFX test

Create Microsoft.IO.Redist (dotnet/corefx#31679)

* Create Microsoft.Internal.IO

Includes all of Path, Directory, *Info, etc. from System.IO with targets of NetFX 4.6.1 and NetCore 2.1.

* Tweaks / minor fixes

* Remove netstandard build.

* Add package

Update to build for 4.7.2 only

* Rename folder to prepare for project rename

* Change the name to Microsoft.IO.Redist

* Namespace tweaks

* Use open key, tweak references

* More tweaks on feedback

Also grab latest build tools for 4.7.x RIDs

Signed-off-by: dotnet-bot <dotnet-bot@microsoft.com>

Silence WinRT type assert in crossgen (#19442)

Disable type loader assert that fires when resolving a type from a WinMD. Instead, compilation should fail gracefully, or at runtime a type load exception will be thrown.

[local gc] disable feature redhawk  (#17769)

Make RuntimeType sealed and deleted support for introspection only loads (#19427)

- Sealed Runtime makes `is RuntimeType` and similar checks faster. These checks are fairly common in reflection.
- Delete support for introspection only loads from the runtime. We do not plan to use in .NET Core. The support for introspection loads inherited from RuntimeType and thus it is incompatible with sealed RuntimeType.

moved to shared (#19419)

Moved SpinLock.cs to shared (#19391)

* m removed from names, spaces after \\ and braces added

* Moved to shared

Don't early terminate on null for 64bit NR HashCode (#19331)

* Don't early terminate on null for 64bit NR HashCode

* Improved GetNonRandomizedHashCode

* Update message on GetNonRandomizedHashCode

* Consume null terminator rather than special case odd lengths

Merge pull request #19434 from BruceForstall/DisableR2rDumpTest2

Disable R2RDumpTest for JIT stress modes

Disable R2RDumpTest for JIT stress modes

Merge pull request #19433 from BruceForstall/UpdateTriggerPhrases

Update existing trigger phrases documentation

Update existing trigger phrases documentation

CORDbgSetInstruction: clear thumb bit of the address before flushing icache (#19409)

We should clear thumb bit of the address before flushing icache otherwise
we may not flush the cache for the first byte of the instruction.

Moved to shared (#19399)

update order of locks so jitstress is unblocked (#19401)

Fix non-lclVar odd-byte struct passing

When a non-power-of-2 struct is passed, we can only use an IND if the arg is a local.

Fix #19288

Merge pull request #19344 from adityamandaleeka/aa64_vm_callconv_changes

CallDescr/TransitionBlock changes for ARM64 calling convention

Add SoA raytracer as a CQ test for Intel hardware intrinsic

Merge pull request #19414 from BruceForstall/ReduceCorefxInnerloopTesting

Reduce the number of innerloop CoreFX jobs

Reduce the number of innerloop CoreFX jobs

1. Stop doing any OSX CoreFX jobs; they're too unreliable.
2. Stop running Debug jobs.

Merge pull request #19387 from dotnetrt/parallel-test-build

Reenable parallel msbuild execution - 2x faster test build

Align the Contents of EventPipeBuffers (#19375)

Updating the ilproj-sdk to also copy native dependencies from Microsoft.NETCore.JIT