Port all managed product binaries to use SDK style projects (#24285)

Convert managed product binary to use SDK project system.
 - Uses Arcade for versions strings
 - Overrides Arcade defined output paths - should change in the future

Fixes AV when accessing LoaderModule for some objects (#24406)

Nullable: System.Collections.Generic remainder (#24340)

* Nullable: System.Collections.Generic remainder

* apply review feedback

Move AsyncMethodBuilder.SetStateMachine to non-generic (#24403)

Update dependencies from https://dev.azure.com/dnceng/internal/_git/dotnet-optimization build 20190505.1 (#24401)

- optimization.IBC.CoreCLR - 99.99.99-master-20190505.1
- optimization.PGO.CoreCLR - 99.99.99-master-20190505.1

Reenable corefx tests (#24157)

Minor tweaks for gcc (#24391)

* Fix a consistency check condition
Following error is reported by gcc 8 with debug configuration:

> error: enum constant in boolean context [-Werror=int-in-bool-context]

* Apply -Wno-register only to CXX flags
gcc 8 errors out like this:

```
[ 96%] Building C object src/ilasm/CMakeFiles/ilasm.dir/__/__/version.c.o
cc1: error: command line option -Wno-register is valid for C++/ObjC++ but not for C [-Werror]
cc1: all warnings being treated as errors
src/ilasm/CMakeFiles/ilasm.dir/build.make:254: recipe for target 'src/ilasm/CMakeFiles/ilasm.dir/__/__/version.c.o' failed
make[2]: *** [src/ilasm/CMakeFiles/ilasm.dir/__/__/version.c.o] Error 1
CMakeFiles/Makefile2:5710: recipe for target 'src/ilasm/CMakeFiles/ilasm.dir/all' failed
make[1]: *** [src/ilasm/CMakeFiles/ilasm.dir/all] Error 2
```

* Remove extra parantheses from variable declaration
gcc 8 reports:

> error: unnecessary parentheses in declaration of m_HashedModules [-Werror=parentheses]

* Use macro instead of const in C
gcc throws:

> error: variably modified collatorsPerOption at file scope
     UCollator* collatorsPerOption[CompareOptionsMask + 1];

* Cast to uintptr_t before (32-bit) DWORD
gcc error was:

> error: cast from LPCWSTR {aka const char16_t*} to DWORD {aka unsigned int} loses precision [-fpermissive]

Update dependencies from https://dev.azure.com/dnceng/internal/_git/dotnet-optimization build 20190504.1 (#24393)

- optimization.IBC.CoreCLR - 99.99.99-master-20190504.1
- optimization.PGO.CoreCLR - 99.99.99-master-20190504.1

Merge pull request #24392 from dotnet/revert-24363-GitHub_23199

Revert "Fix GCStress for multireg returns. "

Revert "Fix GCStress for multireg returns. "

Fix incorrect tier reported by SOS (#24374)

Fix incorrect tier reported by SOS

- The tier of the initial code version was being assumed to be 0
- Whether call counting is enabled for a method needed to be available to the DAC
- Some small renames / cleanup to simplify code

Fix CoreRT build breaks

Signed-off-by: dotnet-bot <dotnet-bot@microsoft.com>

Re-enable EventSourceTrace test (#24365)

Use our local-built instances of tools from Microsoft.DotNet.BuildTools.CoreClr instead of using the package. (#24347)

* Use our local-built instances of tools from Microsoft.DotNet.BuildTools.CoreClr instead of using the package.

* Fix const-correctness in InjectResource.

* Build cross-arch native components before building native components for target arch.

* Build InjectResource and GenClrDebugResource for the host arch when cross-building and import the targets into the cross-build.

* install(EXPORT) in the directory where the target is created

Fix EventPipe initialization order

Enable CoreFX test filtering for CoreCLR PRs (#24259)

This change enables CoreFX tests for CoreCLR.

Disable remaining Jenkins default-PR-triggered jobs

Change our DateTime marshalling tests to be culture-independent. (#24362)

Fixes #24089

Merge pull request #24315 from dotnet/darc-master-c4cf8915-b4aa-4756-a614-aa01a76fd5cb

[master] Update dependencies from dnceng/internal/dotnet-optimization

New options --sb / --isb for binary signature dump (#24375)

Based on JanV's suggestion I have added two new options to R2RDump:

"--sb" (SignatureBinary) appends the binary signature representation
at the end of the parsed textual signature;

"--isb" (InlineSignatureBinary) inlines the signature bytes into
the parsed textual signature and makes it (somewhat) easy to correlate
the binary bytes with individual parts of the signature.

Thanks

Tomas

Merge pull request #24343 from briansull/add-hva-tests

Add two additional HVA tests:

Implement String.IsAscii in shared CoreLib and use it for [Is]Normalize[d] for all runtimes (#24373)

Update dependencies from https://dev.azure.com/dnceng/internal/_git/dotnet-optimization build 20190503.1

- optimization.IBC.CoreCLR - 99.99.99-master-20190503.1
- optimization.PGO.CoreCLR - 99.99.99-master-20190503.1

Merge pull request #24363 from sandreenko/GitHub_23199

Fix GCStress for multireg returns.

Update the comment.

Vector.CopyTo / TryCopyTo should be readonly methods (#24359)

System.GC.AllocateUninitializedArray (#24096)

* Do not expand to allocation_quantum in SOH when GC_ALLOC_ZEROING_OPTIONAL

* short-circuit short arrays to use `new T[size]`

* Clean syncblock of large-aligned objects on ARM32

* specialize single-dimensional path  AllocateSzArray

* Unit tests

* Some PR feedback. Made AllocateUninitializedArray not be trimmed away.

* PR feedback on gchelpers
- replaced use of multiple bool parameters with flags enum
- merged some methods with nearly identical implementation
- switched callers to use AllocateSzArray vs. AllocateArrayEx where appropriate.

* PR feedback. Removed X86 specific array/string allocation helpers.

Merge pull request #24339 from briansull/linux-creation-time

Fix the PAL implemention of GetProcessTimes  to write the creation time

Changes from code review

Make sure we check the second buffer's creation date before we return

Make sure the thread running EventPipe::Disable is registered with the thread store so that rundown events can be collected

Fix DoGcStress for multireg return with GC pointers.

Note: we are overprotecting registers here, for example, we always protect 2 registers even if only one is returned. GCStress infrastructure should be able to tolerate extra registers. We have had such examples before (for example when returned a struct without pointers we protected the first reg anyway).

In the PAL GetProcessTimes implement lpCreationTime using the current time returned by gettimeofday
This allows IBC profile data to record a meaningful time of when the training scenario was run.
Made EPOCH_DIFF a defined constant
Change calcTime to be an unsigned 64-bit integer
Change constants to units of 100NS instead of NS to avoid division and integer overflows.
Use the defined constants SECS_TO_100NS and USECS_TO_100NS when performing time calculations
Don't add a space after the Assembly arg when argc is zero

Add a repro test.

When QuickJit is enabled, disable it for methods that contain loops by default (#24252)

When QuickJit is enabled, disable it for methods that contain loops by default

Fixes https://github.com/dotnet/coreclr/issues/19751 by default when QuickJit is enabled
- Added config variable TC_QuickJitForLoops. When disabled (the default), the JIT identifies loops and explicit tail calls and switches to tier 1 JIT.
- This would prevent the possibility of spending too long in QuickJit code, but may decrease startup time a bit when QuickJit is enabled
- Removed TC_StartupTier_OptimizeCode, as now that there is TC_QuickJit, I didn't see a good use for it
- Removed references to "StartupTier" in config variables because we had previously decided not to call it that.
- When QuickJit is disabled, avoid creating native code slots for methods in non-R2R'ed modules, as tiering would be disabled for those anyway
- Marked TC_QuickJit config var as external

Add Series/CounterType to CounterPayload and IncrementingCounterPayload (#24349)

Merge pull request #24332 from janvorli/fix-module-override

Fix module override effect on method instantiating signature

Add using System.Diagnostics on some files

Signed-off-by: dotnet-bot <dotnet-bot@microsoft.com>

Delete stale compilation constants from AsyncIteratorMethodBuilder (#37331)

I accidentally left these MICROSOFT_BCL_ASYNCINTERFACES_PACKAGE references in as part of some recent churn.  This compilation constant isn't set anywhere.

And the CORERT ifdef is no longer needed now that we've consolidated the code to shared.

Signed-off-by: dotnet-bot <dotnet-bot@microsoft.com>

Add ManualResetValueTaskSourceCore / AsyncIterateMethodBuilder to Microsoft.Bcl.AsyncInterfaces (#37320)

* Add ManualResetValueTaskSourceCore / AsyncIterateMethodBuilder to Microsoft.Bcl.AsyncInterfaces

These two types needed modifications to target .NET Standard 2.0 and are the necessary pieces to enable the compiler to compile async iterators.

- Copied ManualResetValueTaskSourceCore.cs from coreclr and tweaked it.  I opted to do this rather than ifdef because the changes are not localized and I didn't want to significantly perturb the primary implementation.
- Added a few ifdefs to the shared AsyncIteratorMethodBuilder.  It already had ifdefs, so I just added to it.
- Added a test project, and included the existing ManualResetValueTaskSourceCore tests.  I had to disable two of the tests because of some of the optimization differences.
- Augmented those tests to validate that the compiler is able to successfully generate iterators and await foreach them.

* Address PR feedback

Signed-off-by: dotnet-bot <dotnet-bot@microsoft.com>

Adding more coverage for the AES hwintrinsic tests. (#24335)

* Updating the AES tests to cover all current scenarios

* Regenerating the AES HWIntrinsic tests from the updated templates.

* Fixing a couple of typos in the Aes*OpTest.templates

* Modifying CodeGen::inst_RV_TT_IV to no longer assert when memIndir is nullptr

Re-enable all com crossgen testing (#24348)

- COM testing with crossgen was disabled due to lack of manifest support in crossgen

Update CoreClr to preview6-27702-71 (#24353)

Implement GC.RegisterMemoryLoadChangeNotification (#24202)

* Implement GC.RegisterMemoryLoadChangeNotification

This allows users to register a callback to be called whenever the
memory load is between a low and high thresholds. The idea is to allow
them to tweak their memory usage based on the available memory.

It is only internal for now because we are not confident on the shape of
the API and if it's the best we can provide users. This needs to go
through a few iterations with first party users like ASP.NET or corefx.

WIP for https://github.com/dotnet/coreclr/issues/18619

* fixup! Implement GC.RegisterMemoryLoadChangeNotification

* fixup! Implement GC.RegisterMemoryLoadChangeNotification

* fixup! Implement GC.RegisterMemoryLoadChangeNotification

Bug fix in R2RDump signature decoder w.r.t. large version bubbles (#24352)

JanV discovered a complex signature where the generic type argument
got decoded in an incorrect module context by R2RDump. Investigating
the issue I found out that the problem was caused by my slight
misunderstanding - all module override indices within a signature
are relative to the global signature context module, not to the current
context module that may change during descent into the signature tree.

Thanks

Tomas

Merge pull request #24322 from am11/libunwind-format-specifier

Unify Wformat suppression for libunwind

Add threading-related runtime counters (#24304)

* Add threadpool/contention counters

* fix build error

Adjust some terms (#24351)

Unify Wformat suppression for libunwind

Nullable: Interop and src/System remainder (#24328)

* Nullable: Interop and src/System remainder

* apply feedback

Nullable: System.Collections remainder (non-generic) (#24326)

* Nullable: System.Collections remainder (non-generic)

* apply feedback

Update CoreClr to preview6-27701-72 (#24329)

Added overloads to Path.Join (#24307)

* Added overloads to Path.Join

* Refactor Path.Join and Path.Combine to use ValueStringBuilder

* Use proper defined const for empty string

* Fix Windows-specific const

Addressing code review feedbacks

Simplifying Pop() logic

Remove the RundownThread filter

Avoid nested spin lock in WriteAllBuffersToFile and GetNextEvent

Pulling in Noah's fix in event_pipe_lock_fix branch

Update issues.targets and reduce test execution time. (#24345)

* Update issues.targets and reduce test execution time.

When large pages are enabled, only reserve/commit 1x seg size for LOH (#24320)

When large pages are enabled, we must commit everything we reserve.
Previously we reserved 2x the segment size for LOH. This is a problem
with large pages where we must commit everything we reserve.

Thanks to https://github.com/dotnet/coreclr/pull/24081 this does not
cause performance regression with large pages; but without large pages
we were seeing regressions when the loh_seg_size was reduced. So this
change will only take effect when large pages are enabled.

Copy all win32 resources (#24308)

- Add crossgen test to verify file version is preserved
- Add support for general win32 resource copying to ReadyToRun
  - Copy all resources

Move the new ConfigureAwait/WithCancellation extension methods to a new type (#24331)

We decided after all to put these on a different type, TaskAsyncEnumerableExtensions.  This commit adds the new type.  We can delete the methods in the old location once corefx consumes an updated build and switches over to using the new ones.

Add two additional HVA tests:

VectorMgdMgdStatic.cs  - Tests where we are passing and using a HVA that is stored in a static
VectorMgdMgdArray.cs   - Tests where we are passing and using a HVA that is stored in an array

Update SDK to 2.1.504

(Hopefully) Fixes #24083

Disable CallbackStressTest everywhere.

Update dependencies from https://dev.azure.com/dnceng/internal/_git/dotnet-optimization build 20190501.1

- optimization.IBC.CoreCLR - 99.99.99-master-20190501.1
- optimization.PGO.CoreCLR - 99.99.99-master-20190501.1

Updating lookupNamedIntrinsic to no longer assert for an unexpected hwintrinsic method. (#24327)

Fix module override effect on method instantiating signature

When a module override is placed on a fixup blob top level, it also
affects types in the method instantiating signature. This can cause
tokens in the signature to be resolved in a wrong module.

This change fixes it by adding module zapsig elements before each
argument of the method's instantiating signature.

Merge pull request #24258 from dotnet/NullableFeature

Merge nullable feature into master

Changing comments/names that refers to file switching to flushing instead

Support for larger version bubbles in R2RDump (#24277)

After JanV fixed basically all test failures related to larger
version bubbles originally implemented by Andon, it's high time
to fix R2RDump for its support as a prerequisite to enabling
larger version bubbles in CPAOT. This change implements this
support via the following particular changes:

1) In DumpOptions, I added a list of explicit assembly references,
another list of reference paths that are used for resolving
assembly references, a cache for repeated assembly lookups and
a new method FindAssembly for file resolution of a given simple
assembly name.

2) I have moved ECMA metadata-related logic from R2RReader to
its new base class EcmaMetadataReader. This class can represent
both R2R and MSIL binaries and adds the logic for reference
assembly lookup.

3) Large version bubble R2R PE exe's contain a special R2R header
table READYTORUN_SECTION_MANIFEST_METADATA that contains ECMA
metadata with a list of extra AssemblyRef's on top of those stored
in the original MSIL. I have added support for parsing this table
to the R2RReader constructor.

4) I have modified R2RSignature to be based off the new
EcmaMetadataReader instead of R2RReader which cannot represent
arbitrary reference assemblies. I have patched the two places
dealing with module overrides to use the new logic to temporarily
switch to a "remote module" SignatureDecoder for the purpose
of parsing an external entity.

5) I have removed temporary hacks Andon put in place to keep
R2RDump alive in some cases with larger version bubbles without
proper support for parsing module overrides.

6) I have added logic for dumping the contents of the manifest
metadata along with the standard AssemblyRef table to the
header dump as I fought with recalculation of the indices
when debugging larger version bubble code for quite some time.

7) As an extra half-forgotten bit from the past I added dumping
of unboxing and instantiation stubs.

I have noticed that the MSIL AssemblyRef count was off by one.
I have also found out that XML output has bitrotten over time.
This additional delta fixes both issues. [That forced me to
add a bunch of empty ctors even though in practice we don't
actually serialize anything into the dumper, we only use
the XML serializer to emit the XML output file.

Thanks

Tomas

Compute sizeof array instead of pointer (#24288)

* Compute sizeof array instead of pointer

* Consolidate element count in dumpStack

Make block optimized ClearWithoutReferences fully shared (#24312)

Update dependencies from https://github.com/dotnet/arcade build 20190429.8 (#24313)

- Microsoft.DotNet.Arcade.Sdk - 1.0.0-beta.19229.8
- Microsoft.DotNet.Helix.Sdk - 2.0.0-beta.19229.8

Update BuildTools, CoreClr to preview4-03930-01, preview6-27630-77, respectively (#24316)

Remove FreeLibrary call to unload CoreCLR (#24317)

Merge master into NullableFeature

Fix test failures

fix build errors after merge

Disable CallbackStressTest against #24305

Add more asserts for the EventPipeBufferManager consumers

Update dependencies from https://dev.azure.com/dnceng/internal/_git/dotnet-optimization build 20190430.1

- optimization.IBC.CoreCLR - 99.99.99-master-20190430.1
- optimization.PGO.CoreCLR - 99.99.99-master-20190430.1

[master] Update dependencies from dnceng/internal/dotnet-optimization (#24245)

- optimization.IBC.CoreCLR - 99.99.99-master-20190429.1
- optimization.PGO.CoreCLR - 99.99.99-master-20190429.1

Updating System.Numerics.Vector<T> to use the readonly members feature. (#23827)

[master] Update dependencies from dotnet/arcade (#24244)

- Microsoft.DotNet.Arcade.Sdk - 1.0.0-beta.19226.3
- Microsoft.DotNet.Helix.Sdk - 2.0.0-beta.19226.3

Add more span-based Vector<T> ctors and CopyTo methods (#23333)

[master] Update dependencies from dotnet/corefx (#24292)

- Microsoft.NETCore.Platforms - 3.0.0-preview6.19229.1
- Microsoft.Private.CoreFx.NETCoreApp - 4.6.0-preview6.19229.1

Move DefaultBinder.CanConvert.cs to shared (#23931)

Move NativeLibrary to the shared partition (#24143)

I'm taking the LibraryNameVariation helper from System.Runtime.Loader for the ride as well because it's a general purpose probing logic that is useful in a managed implementation of NativeLibrary.

Update CoreClr to preview6-27629-72

Fix GetObjectReferences API when caller doesn't zero the param (#24299)

Improve pref of `Array.IndexOf()` for certain `T`. (#24293)

Applies changes to `Array.IndexOf()` and `Array.LastIndexOf()` similar
to the changes made in #20855, so that types other than `byte` and
`char` can use use the fast vectorized path.

Also allows 32-bit and 64-bit types for which
`RuntimeHelpers.IsBitwiseEquatable<T>()` returns `true` to use the
faster implementation of `IndexOf` and `LastIndexOf` from
`MemoryExtensions`.

Workaround memset alignment sensitivity (#24302)

* Workaround memset alignment sensitivity

memset is up to 2x slower on misaligned block on some types of hardware. The problem is uneven performance of "rep stosb"
used to implement the memset in some cases. The exact matrix on when it is slower and by how much is very complex.

This change workarounds the issue by aligning the memory block before it is passed to memset and filling in the potential misaligned
part manually. This workaround will regress performance by a few percent (<10%) in some cases, but we will gain up to 2x improvement
in other cases.

Fixes #24300

Resolves an assert around Sse41.ConvertToVector128Int* and Avx2.ConvertToVector256Int* (#24289)

* Adding tests for the overloads of Sse41.ConvertToVector128Int* and Avx2.ConvertToVector256Int* that take a pointer

* Fixing the handling of Sse41.ConvertToVector128* and Avx2.ConvertToVector256*

Merge pull request #24283 from briansull/ibc-linux-new

Updated fixes for IBC profile data on Linux

Improve Precision to 10 microseconds in timespan (#24279)

* Increasing precision properly and leaving the rounding of to casting operator

* disabling corefx tests in coreclr and addressing feedback

* correcting test project name

* Fix json

Fix Satellite Assembly loading (#24191)

* Fix Satellite Assembly loading

When loading satellite assemblies, we should probe next to the parent
assembly and load into the same AssemblyLoadContext as the parent
assembly.

Disable fallback probing for satellite assemblies.

Add AssemblyLoadContext.Resolving handler to probe for satellite
assemblies next to parent

Fixes #20979

* Call ResolveSatelliteAssembly from native

Only call ResolveSatelliteAssembly from native when
resolving a satellite assembly

* PR Feedback

Minimize string creation
Remove unnecessary if null checks
Eliminate corner cases by only allowing one case insensitive matching directory.

* ResolveSatelliteAssembly should ...

ResolveSatelliteAssembly should always be called on the ALC which loaded parentAssembly

Simplify code.
Add Debug.Assert

* Remove case insensitive culture search

* PR Feedback

* Fix parentAssembly logic

* Fixes from initial testing

* Add probe for lower case culture name

* PR feedback

Merge pull request #24282 from erozenfeld/Fix24253

 Fix for a jit liveness bug.

Removed method ReleaseManagedCommandLine()
jkotas - We are intentionally not doing any cleanup that is just releasing memory.
We depend on the OS to take care of releasing the memory.

Restore IBCMerge using an authenticated service connection (#24284)

* Add separate build steps to do the IBCMerge restore.

* Attempt 1 to get config picked up.

* Attempt 2 getting ibcmerge restore working.

* Fix invalid MSBuild syntax.

* Fix getting IBC package version.