Remove more MDA support code (#24457)

* Remove more MDA support code

* PR Feedback

Add a check to prevent mixed-mode assemblies from being compiled into R2R (#24451)

Merge pull request #24447 from sandreenko/addGCStressExtraJobs

Add GCStress extra jobs.

Handle the case when the SamplingProfiler thread is terminated prematurely

Add generate crash dump command to diagnostics server (#24460)

Add the DiagnosticProtocolHelper class to deserialize and dispatch
the new GenerateCoreDump command.

Refactor the PAL createdump launch on unhandled exception code to
used by a new PAL_GenerateCoreDump method that doesn't depend on
the complus dump environment variables.

Changed the "full" createdump not to include the uncommitted pages and
removed the "add module metadata" workaround for SOS clrstack !UNKNOWN
problem now that is fixed in SOS (crashinfo.cpp).

Merge pull request #24463 from sandreenko/ExcludeMethodImpl

Exclude MethodImplOptionsTests.

Exclude MethodImplOptionsTests.

Exclude the test because the fix is postponed.

Merge pull request #24444 from BruceForstall/FixGenerateLayoutArgPassing

Fix build.cmd passing of args to runtest.cmd

Make Idn.GetAscii compatible with Windows (#24443)

GetAscii on Windows ignore if the uri has hyphens in the third and fourth places. We relaxing this on Linux too for the sake of the consistent behavior. This issue was causing some problems with the http stack.

Fixing up time.cpp in the PAL (#24428)

* Fixing up time.cpp in the PAL

* Fixing GetTickCount64 in the PAL to continue using CLOCK_MONOTONIC_COARSE where available

* Reverting QueryPerformanceFrequency in the PAL to return tccSecondsToNanoSeconds for CLOCK_MONOTONIC

* Removing two unused variables from GetTickCount64 in the PAL

* Updating the PAL to error if neither mach_absolute_time nor clock_gettime(CLOCK_MONOTONIC) are supported.

* Fixing the PAL configure.cmake to link rt where applicable

Fix typo.

Fix build.cmd passing of args to runtest.cmd

If you use the `generatelayout` argument to build.cmd, it passes
all "unprocessed" arguments directly on to msbuild. To accomplish
the same this with runtest.cmd, you must use the "msbuildargs"
argument, or else the arg will be treated as a `CORE_ROOT` argument.
(This seems like a bad design, but that's a separate issue.)

E.g., I always pass `/consoleloggerparameters:ForceNoAlign`, and want
that passed on to runtest.cmd. (This should also be the default, but
once again, that's a separate issue.)

Add GCStress extra jobs.

Contributes to #24358.

Update Microsoft.Build.Traversal SDK to v2. (#24430)

Merge pull request #23587 from BrianBohe/brbohe/moving_variableLiveRange

Moving VariableLiveRanges classes outside Compiler class

Merge pull request #24421 from sandreenko/AddZapDisableTailCallStresss

Add ZapDisable  and TailCallStress ADO testing.

Add option to only notify profiler of LOH allocations (#24291)

making DiagnosticCounter internal (#24427)

Merge pull request #24415 from sandreenko/corefxAddExclsusions

Add new CoreFX exclusions.

Move the Formatting jobs over to AzDO (#24367)

* First stab at running the format jobs in AzDO.

* Add display names for formatting jobs.

* Try to use a python version in the path

* Try to fix bootstrap download.

* Use imported paths. Output python major version.

* Clean up imports.

* Fix imports.

* Try just using urlretrieve again

* Cleanup

* Add back killing spurious dotnet processes.

* Try leaving all shutdown/kill work to AzDO.

* PR Feedback.

Leaving Scope Info as variable location tracking default system again

Signed-off-by: Brian Bohe <brianbohe@gmail.com>

Replace E_FAIL with E_NOTIMPL for an unsupported R2R encoding (Future work) (#24386)

Launch DiagnosticServer after EEStartup

Improve R2RDump resiliency towards invalid tokens (#24379)

This change adds a bunch of try blocks that make R2RDump survive
partially corrupted input.

Thanks

Tomas

Handle E_NOTIMPL return from CoInitializeEx. (#24387)

* Handle E_NOTIMPL return from CoInitializeEx.

* Remove unneeded STA attributes.

Add zapdisable and tailcallstress testing.

Rename ADO group outerloop-jitminopts-jitstress1-jitstress2 to outerloop-jitstress.

Allows us to add more scenarios there.

Port all managed product binaries to use SDK style projects (#24285)

Convert managed product binary to use SDK project system.
 - Uses Arcade for versions strings
 - Overrides Arcade defined output paths - should change in the future

Add new CoreFX exclusions.

Fixes AV when accessing LoaderModule for some objects (#24406)

Nullable: System.Collections.Generic remainder (#24340)

* Nullable: System.Collections.Generic remainder

* apply review feedback

Move AsyncMethodBuilder.SetStateMachine to non-generic (#24403)

Update dependencies from https://dev.azure.com/dnceng/internal/_git/dotnet-optimization build 20190505.1 (#24401)

- optimization.IBC.CoreCLR - 99.99.99-master-20190505.1
- optimization.PGO.CoreCLR - 99.99.99-master-20190505.1

Reenable corefx tests (#24157)

Minor tweaks for gcc (#24391)

* Fix a consistency check condition
Following error is reported by gcc 8 with debug configuration:

> error: enum constant in boolean context [-Werror=int-in-bool-context]

* Apply -Wno-register only to CXX flags
gcc 8 errors out like this:

```
[ 96%] Building C object src/ilasm/CMakeFiles/ilasm.dir/__/__/version.c.o
cc1: error: command line option -Wno-register is valid for C++/ObjC++ but not for C [-Werror]
cc1: all warnings being treated as errors
src/ilasm/CMakeFiles/ilasm.dir/build.make:254: recipe for target 'src/ilasm/CMakeFiles/ilasm.dir/__/__/version.c.o' failed
make[2]: *** [src/ilasm/CMakeFiles/ilasm.dir/__/__/version.c.o] Error 1
CMakeFiles/Makefile2:5710: recipe for target 'src/ilasm/CMakeFiles/ilasm.dir/all' failed
make[1]: *** [src/ilasm/CMakeFiles/ilasm.dir/all] Error 2
```

* Remove extra parantheses from variable declaration
gcc 8 reports:

> error: unnecessary parentheses in declaration of m_HashedModules [-Werror=parentheses]

* Use macro instead of const in C
gcc throws:

> error: variably modified collatorsPerOption at file scope
     UCollator* collatorsPerOption[CompareOptionsMask + 1];

* Cast to uintptr_t before (32-bit) DWORD
gcc error was:

> error: cast from LPCWSTR {aka const char16_t*} to DWORD {aka unsigned int} loses precision [-fpermissive]

Update dependencies from https://dev.azure.com/dnceng/internal/_git/dotnet-optimization build 20190504.1 (#24393)

- optimization.IBC.CoreCLR - 99.99.99-master-20190504.1
- optimization.PGO.CoreCLR - 99.99.99-master-20190504.1

Merge pull request #24392 from dotnet/revert-24363-GitHub_23199

Revert "Fix GCStress for multireg returns. "

Revert "Fix GCStress for multireg returns. "

Fix incorrect tier reported by SOS (#24374)

Fix incorrect tier reported by SOS

- The tier of the initial code version was being assumed to be 0
- Whether call counting is enabled for a method needed to be available to the DAC
- Some small renames / cleanup to simplify code

Fix CoreRT build breaks

Signed-off-by: dotnet-bot <dotnet-bot@microsoft.com>

Re-enable EventSourceTrace test (#24365)

Use our local-built instances of tools from Microsoft.DotNet.BuildTools.CoreClr instead of using the package. (#24347)

* Use our local-built instances of tools from Microsoft.DotNet.BuildTools.CoreClr instead of using the package.

* Fix const-correctness in InjectResource.

* Build cross-arch native components before building native components for target arch.

* Build InjectResource and GenClrDebugResource for the host arch when cross-building and import the targets into the cross-build.

* install(EXPORT) in the directory where the target is created

Fix EventPipe initialization order

Enable CoreFX test filtering for CoreCLR PRs (#24259)

This change enables CoreFX tests for CoreCLR.

Disable remaining Jenkins default-PR-triggered jobs

Change our DateTime marshalling tests to be culture-independent. (#24362)

Fixes #24089

Merge pull request #24315 from dotnet/darc-master-c4cf8915-b4aa-4756-a614-aa01a76fd5cb

[master] Update dependencies from dnceng/internal/dotnet-optimization

New options --sb / --isb for binary signature dump (#24375)

Based on JanV's suggestion I have added two new options to R2RDump:

"--sb" (SignatureBinary) appends the binary signature representation
at the end of the parsed textual signature;

"--isb" (InlineSignatureBinary) inlines the signature bytes into
the parsed textual signature and makes it (somewhat) easy to correlate
the binary bytes with individual parts of the signature.

Thanks

Tomas

Merge pull request #24343 from briansull/add-hva-tests

Add two additional HVA tests:

Implement String.IsAscii in shared CoreLib and use it for [Is]Normalize[d] for all runtimes (#24373)

Update dependencies from https://dev.azure.com/dnceng/internal/_git/dotnet-optimization build 20190503.1

- optimization.IBC.CoreCLR - 99.99.99-master-20190503.1
- optimization.PGO.CoreCLR - 99.99.99-master-20190503.1

Merge pull request #24363 from sandreenko/GitHub_23199

Fix GCStress for multireg returns.

Update the comment.

Vector.CopyTo / TryCopyTo should be readonly methods (#24359)

System.GC.AllocateUninitializedArray (#24096)

* Do not expand to allocation_quantum in SOH when GC_ALLOC_ZEROING_OPTIONAL

* short-circuit short arrays to use `new T[size]`

* Clean syncblock of large-aligned objects on ARM32

* specialize single-dimensional path  AllocateSzArray

* Unit tests

* Some PR feedback. Made AllocateUninitializedArray not be trimmed away.

* PR feedback on gchelpers
- replaced use of multiple bool parameters with flags enum
- merged some methods with nearly identical implementation
- switched callers to use AllocateSzArray vs. AllocateArrayEx where appropriate.

* PR feedback. Removed X86 specific array/string allocation helpers.

Merge pull request #24339 from briansull/linux-creation-time

Fix the PAL implemention of GetProcessTimes  to write the creation time

Changes from code review

Make sure we check the second buffer's creation date before we return

Make sure the thread running EventPipe::Disable is registered with the thread store so that rundown events can be collected

Fix DoGcStress for multireg return with GC pointers.

Note: we are overprotecting registers here, for example, we always protect 2 registers even if only one is returned. GCStress infrastructure should be able to tolerate extra registers. We have had such examples before (for example when returned a struct without pointers we protected the first reg anyway).

In the PAL GetProcessTimes implement lpCreationTime using the current time returned by gettimeofday
This allows IBC profile data to record a meaningful time of when the training scenario was run.
Made EPOCH_DIFF a defined constant
Change calcTime to be an unsigned 64-bit integer
Change constants to units of 100NS instead of NS to avoid division and integer overflows.
Use the defined constants SECS_TO_100NS and USECS_TO_100NS when performing time calculations
Don't add a space after the Assembly arg when argc is zero

Add a repro test.

When QuickJit is enabled, disable it for methods that contain loops by default (#24252)

When QuickJit is enabled, disable it for methods that contain loops by default

Fixes https://github.com/dotnet/coreclr/issues/19751 by default when QuickJit is enabled
- Added config variable TC_QuickJitForLoops. When disabled (the default), the JIT identifies loops and explicit tail calls and switches to tier 1 JIT.
- This would prevent the possibility of spending too long in QuickJit code, but may decrease startup time a bit when QuickJit is enabled
- Removed TC_StartupTier_OptimizeCode, as now that there is TC_QuickJit, I didn't see a good use for it
- Removed references to "StartupTier" in config variables because we had previously decided not to call it that.
- When QuickJit is disabled, avoid creating native code slots for methods in non-R2R'ed modules, as tiering would be disabled for those anyway
- Marked TC_QuickJit config var as external

Add Series/CounterType to CounterPayload and IncrementingCounterPayload (#24349)

Merge pull request #24332 from janvorli/fix-module-override

Fix module override effect on method instantiating signature

Add using System.Diagnostics on some files

Signed-off-by: dotnet-bot <dotnet-bot@microsoft.com>

Delete stale compilation constants from AsyncIteratorMethodBuilder (#37331)

I accidentally left these MICROSOFT_BCL_ASYNCINTERFACES_PACKAGE references in as part of some recent churn.  This compilation constant isn't set anywhere.

And the CORERT ifdef is no longer needed now that we've consolidated the code to shared.

Signed-off-by: dotnet-bot <dotnet-bot@microsoft.com>

Add ManualResetValueTaskSourceCore / AsyncIterateMethodBuilder to Microsoft.Bcl.AsyncInterfaces (#37320)

* Add ManualResetValueTaskSourceCore / AsyncIterateMethodBuilder to Microsoft.Bcl.AsyncInterfaces

These two types needed modifications to target .NET Standard 2.0 and are the necessary pieces to enable the compiler to compile async iterators.

- Copied ManualResetValueTaskSourceCore.cs from coreclr and tweaked it.  I opted to do this rather than ifdef because the changes are not localized and I didn't want to significantly perturb the primary implementation.
- Added a few ifdefs to the shared AsyncIteratorMethodBuilder.  It already had ifdefs, so I just added to it.
- Added a test project, and included the existing ManualResetValueTaskSourceCore tests.  I had to disable two of the tests because of some of the optimization differences.
- Augmented those tests to validate that the compiler is able to successfully generate iterators and await foreach them.

* Address PR feedback

Signed-off-by: dotnet-bot <dotnet-bot@microsoft.com>

Adding more coverage for the AES hwintrinsic tests. (#24335)

* Updating the AES tests to cover all current scenarios

* Regenerating the AES HWIntrinsic tests from the updated templates.

* Fixing a couple of typos in the Aes*OpTest.templates

* Modifying CodeGen::inst_RV_TT_IV to no longer assert when memIndir is nullptr

Re-enable all com crossgen testing (#24348)

- COM testing with crossgen was disabled due to lack of manifest support in crossgen

Update CoreClr to preview6-27702-71 (#24353)

Implement GC.RegisterMemoryLoadChangeNotification (#24202)

* Implement GC.RegisterMemoryLoadChangeNotification

This allows users to register a callback to be called whenever the
memory load is between a low and high thresholds. The idea is to allow
them to tweak their memory usage based on the available memory.

It is only internal for now because we are not confident on the shape of
the API and if it's the best we can provide users. This needs to go
through a few iterations with first party users like ASP.NET or corefx.

WIP for https://github.com/dotnet/coreclr/issues/18619

* fixup! Implement GC.RegisterMemoryLoadChangeNotification

* fixup! Implement GC.RegisterMemoryLoadChangeNotification

* fixup! Implement GC.RegisterMemoryLoadChangeNotification

Bug fix in R2RDump signature decoder w.r.t. large version bubbles (#24352)

JanV discovered a complex signature where the generic type argument
got decoded in an incorrect module context by R2RDump. Investigating
the issue I found out that the problem was caused by my slight
misunderstanding - all module override indices within a signature
are relative to the global signature context module, not to the current
context module that may change during descent into the signature tree.

Thanks

Tomas

Merge pull request #24322 from am11/libunwind-format-specifier

Unify Wformat suppression for libunwind

Add threading-related runtime counters (#24304)

* Add threadpool/contention counters

* fix build error

Adjust some terms (#24351)

Unify Wformat suppression for libunwind

Nullable: Interop and src/System remainder (#24328)

* Nullable: Interop and src/System remainder

* apply feedback

Nullable: System.Collections remainder (non-generic) (#24326)

* Nullable: System.Collections remainder (non-generic)

* apply feedback

Update CoreClr to preview6-27701-72 (#24329)

Added overloads to Path.Join (#24307)

* Added overloads to Path.Join

* Refactor Path.Join and Path.Combine to use ValueStringBuilder

* Use proper defined const for empty string

* Fix Windows-specific const

Addressing code review feedbacks

Simplifying Pop() logic

Remove the RundownThread filter

Avoid nested spin lock in WriteAllBuffersToFile and GetNextEvent

Pulling in Noah's fix in event_pipe_lock_fix branch

Update issues.targets and reduce test execution time. (#24345)

* Update issues.targets and reduce test execution time.

When large pages are enabled, only reserve/commit 1x seg size for LOH (#24320)

When large pages are enabled, we must commit everything we reserve.
Previously we reserved 2x the segment size for LOH. This is a problem
with large pages where we must commit everything we reserve.

Thanks to https://github.com/dotnet/coreclr/pull/24081 this does not
cause performance regression with large pages; but without large pages
we were seeing regressions when the loh_seg_size was reduced. So this
change will only take effect when large pages are enabled.

Copy all win32 resources (#24308)

- Add crossgen test to verify file version is preserved
- Add support for general win32 resource copying to ReadyToRun
  - Copy all resources

Move the new ConfigureAwait/WithCancellation extension methods to a new type (#24331)

We decided after all to put these on a different type, TaskAsyncEnumerableExtensions.  This commit adds the new type.  We can delete the methods in the old location once corefx consumes an updated build and switches over to using the new ones.

Add two additional HVA tests:

VectorMgdMgdStatic.cs  - Tests where we are passing and using a HVA that is stored in a static
VectorMgdMgdArray.cs   - Tests where we are passing and using a HVA that is stored in an array

Update SDK to 2.1.504

(Hopefully) Fixes #24083

Disable CallbackStressTest everywhere.

Update dependencies from https://dev.azure.com/dnceng/internal/_git/dotnet-optimization build 20190501.1

- optimization.IBC.CoreCLR - 99.99.99-master-20190501.1
- optimization.PGO.CoreCLR - 99.99.99-master-20190501.1

Updating lookupNamedIntrinsic to no longer assert for an unexpected hwintrinsic method. (#24327)

Fix module override effect on method instantiating signature

When a module override is placed on a fixup blob top level, it also
affects types in the method instantiating signature. This can cause
tokens in the signature to be resolved in a wrong module.

This change fixes it by adding module zapsig elements before each
argument of the method's instantiating signature.

Merge pull request #24258 from dotnet/NullableFeature

Merge nullable feature into master

Changing comments/names that refers to file switching to flushing instead

Support for larger version bubbles in R2RDump (#24277)

After JanV fixed basically all test failures related to larger
version bubbles originally implemented by Andon, it's high time
to fix R2RDump for its support as a prerequisite to enabling
larger version bubbles in CPAOT. This change implements this
support via the following particular changes:

1) In DumpOptions, I added a list of explicit assembly references,
another list of reference paths that are used for resolving
assembly references, a cache for repeated assembly lookups and
a new method FindAssembly for file resolution of a given simple
assembly name.

2) I have moved ECMA metadata-related logic from R2RReader to
its new base class EcmaMetadataReader. This class can represent
both R2R and MSIL binaries and adds the logic for reference
assembly lookup.

3) Large version bubble R2R PE exe's contain a special R2R header
table READYTORUN_SECTION_MANIFEST_METADATA that contains ECMA
metadata with a list of extra AssemblyRef's on top of those stored
in the original MSIL. I have added support for parsing this table
to the R2RReader constructor.

4) I have modified R2RSignature to be based off the new
EcmaMetadataReader instead of R2RReader which cannot represent
arbitrary reference assemblies. I have patched the two places
dealing with module overrides to use the new logic to temporarily
switch to a "remote module" SignatureDecoder for the purpose
of parsing an external entity.

5) I have removed temporary hacks Andon put in place to keep
R2RDump alive in some cases with larger version bubbles without
proper support for parsing module overrides.

6) I have added logic for dumping the contents of the manifest
metadata along with the standard AssemblyRef table to the
header dump as I fought with recalculation of the indices
when debugging larger version bubble code for quite some time.

7) As an extra half-forgotten bit from the past I added dumping
of unboxing and instantiation stubs.

I have noticed that the MSIL AssemblyRef count was off by one.
I have also found out that XML output has bitrotten over time.
This additional delta fixes both issues. [That forced me to
add a bunch of empty ctors even though in practice we don't
actually serialize anything into the dumper, we only use
the XML serializer to emit the XML output file.

Thanks

Tomas

Compute sizeof array instead of pointer (#24288)

* Compute sizeof array instead of pointer

* Consolidate element count in dumpStack