profiler changes for tiered compilation (#14612)

Add new apis for profiler to use with tiered jitting.

Merge pull request #14647 from BruceForstall/AddArm64FrameLayoutDoc

Add original ARM64 JIT frame layout design document

Fix for #12609 - add option to disable tiered compilation for profilers  (#14643)

add option to disable tiered compilation for profilers

Fix RID extraction in packages and test build for Alpine (#14656)

* Fix RID extraction in packages and test build for Alpine

The host RID extraction in build-packages.sh and build-test.sh
was not matching the one in build.sh

* Reflect feedback

Merge pull request #14649 from mikedn/float-absneg

Always use XORPS/ANDPS for FP NEG/ABS

[Arm64] SIMD simple defines (#14628)

* [Arm64] SIMD simple defines

* Fix #else

[Arm64] SIMD lsra (#14631)

* [Arm64] SIMD lsra

* Respond to feedback

[Arm64] SIMD ins_Load (#14636)

* [Arm64] SIMD ins_Load

* Respond to feedback

Merge pull request #14528 from jashook/pri1_rework

Pri0 and pri1 rework

Merge pull request #14639 from sdmaclea/PR-ARM64-SIMD-bogus-assert

[Arm64] Fix bogus assert

**Changes all outerloop jobs to explicitly use pri1 builds of the tests. It also rebrands PR Triggered pr triggered jobs to "innerloop" and will run pri0 tests.**

The change also includes netci.groovy cleanup. The list of Pr triggered jobs will change from:

Old PR Triggers (17):

```
CentOS7.1 x64 Debug Build and Test (debug_centos7.1_prtest)
CentOS7.1 x64 Release Priority 1 Build and Test (x64_release_centos7.1_pri1_flow_prtest)
OSX10.12 x64 Checked Build and Test (checked_osx10.12_flow_prtest)
Tizen armel Cross Debug Build (armel_cross_debug_tizen_prtest)
Tizen armel Cross Release Build (armel_cross_release_tizen_prtest)
Ubuntu arm64 Cross Debug Build (arm64_debug_small_page_size_prtest)
Ubuntu armlb Cross Release Build (armlb_cross_release_ubuntu_prtest)
Ubuntu x64 Checked Build and Test (checked_ubuntu_flow_prtest)
Ubuntu x64 Formatting (x64_ubuntu_formatting_prtest)
Ubuntu16.04 armlb Cross Debug Build (armlb_cross_debug_ubuntu16.04_prtest)
Windows_NT arm Cross Checked Build and Test (arm_cross_checked_windows_nt_prtest)
Windows_NT arm64 Cross Debug Build (arm64_cross_debug_windows_nt_prtest)
Windows_NT armlb Cross Checked Build and Test (armlb_cross_checked_windows_nt_prtest)
Windows_NT x64 Debug Build and Test (debug_windows_nt_prtest)
Windows_NT x64 Formatting (x64_windows_nt_formatting_prtest)
Windows_NT x64 Release Priority 1 Build and Test (x64_release_windows_nt_pri1_prtest)
Windows_NT x86 Checked Build and Test (x86_checked_windows_nt_prtest)
```

New PR Triggers (15):

```
CentOS7.1 x64 Checked Innerloop Build and Test (checked_centos7.1_flow_prtest)
CentOS7.1 x64 Debug Innerloop Build (debug_centos7.1_prtest)
OSX10.12 x64 Checked Innerloop Build and Test (checked_osx10.12_flow_prtest)
Ubuntu arm64 Debug Build (arm64_debug_small_page_size_prtest)
Ubuntu armlb Innerloop Cross Debug Build (armlb_cross_debug_ubuntu_prtest)
Ubuntu x64 Checked Innerloop Build and Test (checked_ubuntu_flow_prtest)
Ubuntu x64 Innerloop Formatting (x64_ubuntu_formatting_prtest)
Ubuntu16.04 armlb Innerloop Cross Debug Build (armlb_cross_debug_ubuntu16.04_prtest)
Windows_NT arm Cross Checked Innerloop Build and Test (arm_cross_checked_windows_nt_prtest)
Windows_NT arm64 Cross Checked Innerloop Build and Test (arm64_cross_checked_windows_nt_prtest)
Windows_NT arm64 Cross Debug Innerloop Build (arm64_cross_debug_windows_nt_prtest)
Windows_NT armlb Cross Checked Innerloop Build and Test (armlb_cross_checked_windows_nt_prtest)
Windows_NT x64 Checked Innerloop Build and Test (checked_windows_nt_prtest)
Windows_NT x64 Innerloop Formatting (x64_windows_nt_formatting_prtest)
Windows_NT x86 Checked Innerloop Build and Test (x86_checked_windows_nt_prtest)
```

PR Trigger Change summary:

```
-- Added Jobs --
CentOS7.1 x64 Checked Innerloop Build and Test (checked_centos7.1_flow_prtest)
Ubuntu armlb Cross Innerloop Debug Build (armlb_cross_debug_ubuntu_prtest)
Windows_NT arm64 Cross Checked Innerloop Build and Test (arm64_cross_checked_windows_nt_prtest)
Windows_NT x64 Checked Innerloop Build and Test (checked_windows_nt_prtest)

-- Removed Jobs --
CentOS7.1 x64 Release Priority 1 Build and Test (x64_release_centos7.1_pri1_flow_prtest)
Tizen armel Cross Debug Build (armel_cross_debug_tizen_prtest)
Tizen armel Cross Release Build (armel_cross_release_tizen_prtest)
Ubuntu armlb Cross Release Build (armlb_cross_release_ubuntu_prtest)
Windows_NT x64 Debug Build and Test (debug_windows_nt_prtest)
Windows_NT x64 Release Priority 1 Build and Test (x64_release_windows_nt_pri1_prtest)

-- Changed Jobs --
CentOS7.1 x64 Debug Build and Test -> CentOS7.1 x64 Debug Innerloop Build (debug_centos7.1_prtest)
OSX10.12 x64 Checked Build and Test -> OSX10.12 x64 Checked Innerloop Build and Test (checked_osx10.12_flow_prtest)
Ubuntu arm64 Cross Debug Build -> Ubuntu arm64 Cross Debug Innerloop Build
Ubuntu x64 Checked Build and Test -> Ubuntu x64 Checked Innerloop Build and Test (checked_ubuntu_flow_prtest)
Ubuntu x64 Formatting -> Ubuntu x64 Innerloop Formatting (x64_ubuntu_formatting_prtest)
Ubuntu16.04 armlb Cross Debug Build -> Ubuntu16.04 armlb Cross Debug Innerloop Build (armlb_cross_debug_ubuntu16.04_prtest)
Windows_NT arm Cross Checked Build and Test -> Windows_NT arm Cross Checked Innerloop Build and Test (arm_cross_checked_windows_nt_prtest)
Windows_NT arm64 Cross Debug Build -> Windows_NT arm64 Cross Debug Innerloop Build (arm64_cross_debug_windows_nt_prtest)
Windows_NT armlb Cross Checked Build and Test -> Windows_NT armlb Cross Checked Innerloop Build and Test (armlb_cross_checked_windows_nt_prtest)
Windows_NT x64 Formatting -> Windows_NT x64 Innerloop Formatting (x64_windows_nt_formatting_prtest)
Windows_NT x86 Checked Build and Test -> Windows_NT x86 Checked Innerloop Build and Test (x86_checked_windows_nt_prtest)
```

Merge pull request #14598 from jashook/fix_build_test_sh_osx

Add build-test osx support

JIT: defer constant-return merging for debug codegen (#14642)

If we merge constant returns into a common point we may lose track of sequence
points. So inhibit this when we are generating debuggable code.

Fixes #14339.

Merge pull request #14621 from briansull/fix-hash

Fix gtHashValue to properly hash all the bits when we have a 64-bit item

Remove low value purpose comments (#14653)

Most of the purpose comments removed referred to the struct as a "class" which is confusing. In addition, these value types are simple enough they don't warrant a full purpose description. Resolves #13479.

Hide post exception stack frames (#14652)

Respond to feedback

Enable build pipeline for Alpine Linux 3.6 (#14587)

Always use XORPS/ANDPS for FP NEG/ABS

They do the same thing but they're one byte shorter. Saves a call to genGetInsForOper too.

Add original ARM64 JIT frame layout design document

Merge pull request #14632 from sdmaclea/PR-ARM64-SIMD-SIMD.CPP

[Arm64] SIMD simd.cpp

Merge pull request #14630 from sdmaclea/PR-ARM64-SIMD-LOWERING

[Arm64] Basic SIMD lowering

Merge pull request #14627 from sdmaclea/PR-ARM64-SIMD-EMITTERS

[Arm64] Add SIMD emitters

Merge pull request #14638 from BruceForstall/FixSimdMinOpts

Allow GT_CALL as BYREF operand for SIMD intrinsics

Update profiling API status (#14644)

We've been making progress testing APIs and fixing issues. The description in this doc had gotten well out of date.

Merge pull request #14620 from CarolEidt/RegSelectFix

Fix Register selection refactor bugs

Revert "Reenable PGO on Linux Release builds" (#14645)

Merge pull request #14625 from BruceForstall/FixDynBlkAssert

Remove incorrect assert for DynBlk codegen

Rename MemoryHandle PinnedPointer to Pointer and add property HasPointer. (#14604)

remove duplicate line

[Arm64] Fix bogus assert

Allow GT_CALL as BYREF operand for SIMD intrinsics

This is an extension of #13965: in the MinOpts case, we don't
have GT_RET_EXPR -- we have GT_CALL instead.

We now see IR like:
```
[000429] --C-G--N----              |  |  \--*  BLK(32)   simd32
[000413] --C-G-------              |  |     \--*  CALL      byref  System.Runtime.CompilerServices.Unsafe.AsRef
[000410] ------------              |  |        |     /--*  CNS_INT   int    2
[000411] ------------              |  |        |  /--*  MUL       int
[000409] ------------              |  |        |  |  \--*  CAST      int <- int
[000408] ------------              |  |        |  |     \--*  CNS_INT   int    16 Vector<T>.Count
[000412] ------------ arg0         |  |        \--*  ADD       int
[000407] ------------              |  |           \--*  LCL_VAR   int    V01 arg1
```

Whereas in the optimizing case, we see:
```
[000060] ------------              *  STMT      void  (IL   ???...  ???)
[000058] I-C-G-------              \--*  CALL      byref  System.Runtime.CompilerServices.Unsafe.AsRef (exactContextHnd=0x028FAFF8)
[000055] ------------                 |     /--*  CNS_INT   int    2
[000056] ------------                 |  /--*  MUL       int
[000054] ------------                 |  |  \--*  CAST      int <- int
[000053] ------------                 |  |     \--*  CNS_INT   int    16 Vector<T>.Count
[000057] ------------ arg0            \--*  ADD       int
[000052] ------------                    \--*  LCL_VAR   int    V01 arg1

...

[000076] --C----N----              |  |  \--*  BLK(32)   simd32
[000065] --C---------              |  |     \--*  RET_EXPR  byref (inl return from call [000058])
```

Fixes #14301

[Arm64] SIMD simd.cpp

[Arm64] Basic SIMD lowering

[Arm64] Add SIMD emitters

[Arm64] Add more SIMD instructions

Remove incorrect assert for DynBlk codegen

The assert specified a particular register for the `size` argument
to the memset helper call. However, it preceded the genConsumeBlockOp()
function which ensured that would be the case.

Fixes #14544

Disable clang format around an area where it is incorrect

Fix the gtHashValue to properly hash all the bits when we have a 64-bit item

[RyuJit/arm32] Do nothing if double is on stack. (#14603)

Fix Register selection refactor bugs

Fix #14617
Fix #14618

Merge pull request #14606 from CarolEidt/Fix14591

LSRA Arm64 consistent reg sets

Merge pull request #14609 from hseok-oh/ryujit/fix_14377_linux

[RyuJIT/ARM32] Remove NYI: struct return from multi-reg GT_CALL

[RyuJIT/ARM32] Fast tail call: code generation (#14445)

* Codegen for fast tail call

Codegen call and epilog for fast tail call

* Implementation for GT_START_NONGC

This implementation removes two NYI_ARM
Code generation for GT_START_NONGC which is used to prevent GC in fast tail call

* Define fast tail call target register and mask on ARMARCH

Define REG_FASTTAILCALL_TARGET and RBM_FASTTAILCALL_TARGET on ARMARCH
Modify lsra init and codegen to use these definition

* Merge genFnEpilog

Merge genFnEpilog for ARM32 and ARM64

* Fix bug in getFirstArgWithStackSlot

Fix bug in getFirstArgWithStackSlot: AMD64 and X86

[Local GC] Add a Standalone GC loader design document (#14435)

* Add a Standalone GC loader design document

* First round of feedback:
        1. Remove some stuff from the preamble that doesn't belong in a
        design document
        2. Simplify the three-variable loading approach to just use one
        variable that contains the path of a GC to load.
        3. Clean up the wording in a few places.
        4. Remove the "state machine" section and reference to state
        machines in general.

Update comments in TieredCompilationManager (#14610)

We've continued plugging away and the status in the comment was out-of-date.

[RyuJIT/ARM32] Remove NYI: struct return from multi-reg GT_CALL

Remove useless NYI

Merge pull request #14600 from BruceForstall/FixArmBadGCInfoForCpObj

Fix ARM bad GC info for CpObj

Merge pull request #14602 from benaadams/jit-formatting

Fix jit fromatting

LSRA Arm64 consistent reg sets

tryAllocateFreeReg() uses the RegOrder array to iterate over the available registers. This needs to be consistent with the available registers of the given type. Otherwise, allocateBusyReg() will assert when it finds a free register that should have been allocated in tryAllocateFreeReg().
Fix #14591

Fix jit fromatting

Fix ARM bad GC info for CpObj

In the case where the dst lives on the stack, after the first
gcref/byref was copied, we never set the type back to non-GC
for subsequent copies using the same temp register.

Merge pull request #14597 from dotnet-bot/from-tfs

Merge changes from TFS

Add build-test osx support

Merge pull request #14576 from fiigii/knobs

Add configuration knobs to control "IsSupported" and fix a bug

Make ContractException public in impl assembly to support corert typeforwarding (#14589)

* Make ContractException public in impl assembly to support corert typeforwarding

Fix condition for mustExpand flag (#14590)

The flag was getting overwritten when both CORINFO_FLG_INTRINSIC and CORINFO_FLG_JIT_INTRINSIC are set

fix clang format complaint

[tfs-changeset: 1678578]

Add configuration knobs to control IsSupported

Fix Desktop build break - warning for unreachable code

[tfs-changeset: 1678568]

Fix warning: potentially uninitialized local variable 'recentAssignedRef' used

[tfs-changeset: 1678567]

Merge pull request #14582 from briansull/cleanup-iconhdl

Cleanup IconHandle nodes

Merge pull request #14570 from sdmaclea/PR-ARM64-FLAG_FEATURE_SIMD

[Arm64] Support flag FEATURE_SIMD

[RyuJIT/ARM32] Support for CFI unwind info (#14447)

* [RyuJIT/ARM32] Support for CFI unwind info

Use ascii * instead of Chinese * character. (#14584)

Currently we have Chinese `*` characters at `src\classlibnative\bcltype\number.cpp` L289-294. That would cause a `C4819: Non-ASCII character in source` warning when building on Windows via Visual Studio (version: 15.4.0 (msvc 19.11.25547)).

This PR replaces the Chinese * characters with ascii *.

Fix #14556

Merge pull request #14534 from CarolEidt/RegSelectCleanup

Refactor register selection heuristics

Fix hill climbing float overflow (#14505)

Fix hill climbing float overflow

- When hill climbing finds that it wants to decrease the thread count but can't because the thread count is already the minimum, it instead tries to increase the sampling interval by a factor of up to 10 depending on how much it wanted to decrease the thread count
- The ratio was being used incorrectly (used max instead of min), and sometimes the ratio can be so large that the conversion to int after the float math overflows
- If something in the process enabled floating point exceptions, it may also crash
  - There doesn't appear to be a clean way to disable hill climbing, added a config variable that disables it in case a workaround is necessary for some other reason in the future
- Fixed to avoid overflow in the math to what was probably intended
- There may be another bug in GetWaveComponent() that causes values of such high magnitude to be generated, I'll leave that investigation for when that in particular becomes a real issue

Merge pull request #14573 from CarolEidt/Fix13751

Fix multiple issues in LSRA for TYP_DOUBLE:

JIT: optimize stelem (ref) like we optimize stelem.ref (#14580)

In particular, avoid the array store check when storing null or values from
the same array.

Addresses first part of #14574.

Removed hnd1 and hnd2 arguments to gtNewIconEmb*HndNode methods

Clang format fixes

Ifdef out legacy uses of GT_ASG_op (#14384)

* Ifdef out legacy uses of GT_ASG_op

GT_ASG_op nodes are only generated when the legacy backend is used.

* Address feedback

* Cleanup gtOverflow/gtOverflowEx

Removed unused handle args
from gtNewIconHandleNode and gtNewIcomEmbHndNode

Fix BinaryWriter/Reader span parameter names (#14577)

Per API review, they should match the corresponding overloads' existing parameter names.

Allow both CORINFO_FLG_INTRINSIC and CORINFO_FLG_JIT_INTRINSIC to be set on potential intrinsics (#14566)

* Allow both CORINFO_FLG_INTRINSIC and CORINFO_FLG_JIT_INTRINSIC to be set on potential intrinsics

* Call getIntrinsicID for CORINFO_FLG_INTRINSIC only

Removed unused fields of Icon nodes
The union of gtIconHdl1, gtIconHdl2 and gtIconCPX, gtOIconCls is not used

Merge pull request #14572 from sdmaclea/PR-ARM64-SIMD-INSTRS

[Arm64] Add instructions needed by SIMD

Fix multiple issues in LSRA for TYP_DOUBLE:
- updateAssignedInterval() needs to handle the case where the previously assigned interval was TYP_DOUBLE.
- Similarly, at block boundaries, if we are setting the register for a double interval, and the assigned interval is either null or is TYP_FLOAT ,we also need to unassign the other half of the register.
- LSRA only considers the valid double registers when allocating. When setting the candidates for the source of a return, it should only set the bit for the valid double register.

Fix #13751

[Arm64] Support flag FEATURE_SIMD

[Arm64] Add instructions needed by SIMD

Merge pull request #14569 from wtgodbe/eqNe

Replace ne with eq in publish to azure steps

Replace ne with eq in publish to azure steps

Merge pull request #14554 from adiaaida/reenablePGOLinux

Reenable PGO on Linux Release builds

Improve thread statics performance (#14560)

- Disable code to handle multiple appdomains
- Use more efficient object array accessor

Update BuildTools, CoreClr, CoreFx to prerelease-02118-01, preview1-25818-02, preview1-25818-01, respectively (#14558)

Merge pull request #14547 from CarolEidt/Fix14539

Arm64: Use op2 type for LOCKADD

format spmi sources. (#14545)

format spmi sources.

Merge pull request #14553 from briansull/fix-warn

Fix for x86 desktop build break

Arm64: Use op2 type for LOCKADD

Fix #14539

Merge pull request #14555 from wtgodbe/AzureBlobSymPkg

Use C#-friendly path for indexing symbol packages

Use C#-friendly path for indexing symbol packages

Reenable PGO on Linux Release builds

Now that all the machines have been updated to have llvm 3.9 with PGO
support, reenable PGO builds.

Fix for x86 desktop build
Fix warning C4389: '==' : signed/unsigned mismatch

Merge pull request #14541 from stephentoub/taskbeginwait

Avoid TaskWaitBegin/End events in Task.Wait on already completed task

GetEnvironmentVariable: Avoid StringBuilder marshaling overhead (#14502)

* GetEnvironmentVariable: Avoid StringBuilder marshaling overhead

Try a stack allocated buffer first, then fallback to using the shared
array pool.

CLRLifoSemaphore cleanup (#14535)

- Removed volatile loads. They don't actually help with anything. Should help a bit on arm, haven't tested.
  - I had added them initially out of pattern and could have left them out. There was some concern before that without a volatile load a compiler could replace local uses with a memory load and that would change the meaning of what is intended, but that doesn't apply to these kind of loops because it would be incorrect to do so, the concern may apply to loops like the following:
    ```c#
    while(true)
    {
        Counts counts = m_counts;
        if(InterlockedCompareExchange(&m_counts, counts + 1, counts) == counts)
            break;
    }
    ```
    Where if the 3rd argument is replaced by the compiler with m_counts, it may yield an incorrect result. It's an invalid optimization but anyway that can't be done in the type of loops used in this code because the initial value used for subsequent loop iterations is the result of the compare-exchange operation and not the memory location.
- No need to decrement the count of waiters woken upon timeout. I had initially copied that part of the code from SemaphoreSlim, which needs it because it uses a Monitor that doesn't provide the same guarantees as the wait objects used here. It's not needed here.
- No change to perf on x64, I plan on testing arm as part of issue https://github.com/dotnet/coreclr/issues/14067 once I have some time and get a machine.

Avoid TaskWaitBegin/End events in Task.Wait on already completed task

We are unnecessarily firing the TaskWaitBegin/End EventSource event when the task has already completed if it's faulted/canceled.  We should only fire it if the task hasn't completed by the time we check.

Merge pull request #14493 from alpencolt/armel-cross-build

[RyuJIT/armel] cross build armel on x86 host

Merge pull request #14334 from BruceForstall/AddTestEnvToWindows

Fix corefx testing invocation

move ReplaceWith to cpp

to make DEBUG_DESTROY_NODE visible.