Merge pull request #6815 from rahku/apicompat

Expose MulticastDelegate.GetObjectData method

Add missing .gitmirror file. (#6864)

[tfs-changeset: 1623730]

Fix the ninja build for FC23. (#6861)

Fedora installs ninja under the name `ninja-build` rather than `ninja`.

Stop maintaining cost estimates in the RyuJIT backend. (#6849)

* Summarize HIR cost estimates on Compiler.

These cost estimates are made on HIR and are not used by the backend.
Stash them before converting the function to LIR and report them at the
end of compilation.

* Stop maintaining costs in the backend.

The backend does not use the tree cost estimates.

* Remove a bit more cost maintenance.

* Address PR feedback.

Merge pull request #6852 from BruceForstall/Disable4702

Conditionally disable C4702 "unreachable code" warnings

Adding missing members on System Namespace (#6818)

Adding missing members on System Namespace

Merge pull request #6664 from dagood/update-existing-pr

Use versions repo tooling from BuildTools

Merge pull request #6848 from BruceForstall/FixArm64SuperPmi2

Fix superpmi arm64 build

Merge pull request #6846 from BruceForstall/FixSuperPmiX86

Reenable superpmi test for x86

Conditionally disable C4702 "unreachable code" warnings

The CLR header file check.h, macro CHECK_MSG_EX, can create unreachable code if the LEAVE_DEBUG_ONLY_CODE
macro is not empty (such as it is defined in contract.h) and the _RESULT macro expands to "return".
Checked-in compilers used by the TFS-based desktop build (e.g., version 18.10.40116.8) started reporting
unreachable code warnings when debugholder.h was changed to no longer #define "return" to something relatively
complex. However, newer compilers, such as Visual Studio 2015, used to build the CLR from the open source
GitHub repo, still do not report this warning. We don't want to disable this warning for the open source build,
which will use a newer compiler. Hence, only disable it for older compilers.

Fix SOS build break from PR #6838. (#6845)

[tfs-changeset: 1623588]

Merge pull request #6847 from jhendrixMSFT/master

Use the "open" key for strong-name signing SOS.NETCore.dll.

Adding the missing string function to model.xml (#6694)

* Adding + stubbing out the missing Globalization functions
* Doing the correct native implementation now...

Merge pull request #6850 from mmitche/fix-regex

Fix regex

Fix regex

Merge pull request #6822 from smile21prc/coreclr-perf

Automate enhancement on the perf data collection for JIT CodeQuality benchmarks on Windows.

Fix superpmi arm64 build

Use the "open" key for strong-name signing SOS.NETCore.dll.

Switch to using the OSS strong name instead of the default MSFT one.

Reenable superpmi test for x86

Replace Roslyn CscBench with Bytemark, since CscBench fails with
an inlining assert (opened as issue #6844) on x86.

Remove fgDebugCheckLinear{Tree,NodeLinks}. (#6842)

These functions are not necessary for LIR.

Use versions repo tooling from BuildTools.

Sets up dependencies.props config. Removes UpdateDependencies powershell script, to be replaced by a call into VersionTools in Maestro automation. Changes UpdatePublishedVersions to pass through to VersionTools for backward compatibility.

Merge pull request #6840 from hann013/t-hazhan/SuppressIldasmAttribute

Added SuppressIldasmAttribute

Merge pull request #6821 from mellinoe/opensuse421

Add a CI job for openSUSE 42.1

Added SuppressIldasmAttribute to mscorlib and model.xml

Merge pull request #6806 from wateret/fix-hfa

[ARM/Linux] Fix HFA structs

Further optimizations for String.Join, String.Concat (#6800)

* Apply length-1 optimization to Join(string, object[])
* Apply length-1 optimization to Concat(IEnumerable<string>)
* Apply length-1 optimization to Concat(IEnumerable<T>)
* Apply lengths 0/1 optimizations to Concat(object[]), Concat(string[])

[ARM/Linux] Fix HFA structs

Re-enable FEATURE_MULTIREG_RET for ARM32 which was disabled by #6467.

Fix #6677

Merge pull request #6832 from dotnet-bot/from-tfs

Merge changes from TFS

Merge remote-tracking branch 'upstream/master' into from-tfs

Disable SuperPMI unit test for x86 legacy backend

[tfs-changeset: 1623421]

SuperPMI: fix ARM build break

[tfs-changeset: 1623419]

Assert that any node with a non-zero dstCount produces a value. (#6827)

* Assert that any node with a non-zero dstCount produces a value.

The register allocator will otherwise misallocate, as such nodes will
produce an unconsumed value.

* Fix the dstCount for GT_RETFILT.

Disable superpmi test for RyuJIT/x86

[tfs-changeset: 1623413]

Fix build break related to LogException requiring non-empty varargs arguments

[tfs-changeset: 1623412]

Fix ARM64 build breakage (#6819)

Delete CanChangeType from model.xml

[tfs-changeset: 1623392]

Fix build breaks and warnings in internal build

[tfs-changeset: 1623382]

Merge pull request #6793 from erozenfeld/TailCallInCalleeInlining

Don't inline methods that have tail-prefixed calls.

Fix casing of DaylightTime.cs

[tfs-changeset: 1623368]

Merge pull request #6799 from adityamandaleeka/osx_ci_dumps

Enable additional functionality for OS X CI dumps.

Merge pull request #6816 from CarolEidt/FixArmCrossgen2

Fix dstCount of GT_RETURNTRAP for Arm64

Instead of checking in these python tools, pull them from Nuget package instead.

Create SOS SymbolReader managed project and change SOS to use it. (#6783)

* Change SOS to use wrapper class that is now in System.Diagnostics.StackTrace.

The portable PDB helper code for SOS source/line support has been moved from
System.Diagnostics.Debug.SymbolReader to a new managed SOS project in the coreclr
repo called SOS.NETCore.

The public APIs have now been made internal.

Plumb through the loaded PE address to the managed SymbolReader functions so it can be used as a key.

Fixed a stack trashing/overflow when a unresolved managed breakpoint is resolved because one of the
module name buffers was too small (MAX_PATH_FNAME). Changed it (and others) to MAXLONGPATH.

SOS now works with Portable PDBs on Windows.

New dac private get module data request. Used to get the necessary info for portable PDBs.

SOS now supports in-memory PE's on xplat and Windows. Needed to get and plumb though the in-memory
PE layout where it is file based or loaded.

Better Windows GetLineByILOffset support. Uses the SymbolReader and now works with in-memory PEs.

Misc code formatting and general cleanup.

* Code review feedback.

Open source SuperPMI

OVERVIEW
========

This directory contains the SuperPMI tool used for testing the .NET
just-in-time (JIT) compiler.

SuperPMI has two uses:
1. Verification that a JIT code change doesn't cause any asserts.
2. Finding test code where two JIT compilers generate different code, or verifying
that the two compilers generate the same code.

Case #1 is useful for doing quick regression checking when making a source
code change to the JIT compiler. The process is: (a) make a JIT source code
change, (b) run that newly built JIT through a SuperPMI run to verify no
asserts have been introduced.

Case #2 is useful for generating assembly language diffs, to help analyze the
impact of a JIT code change.

SuperPMI works in two phases: collection and playback. In the collection phase,
the system is configured to collect SuperPMI data. Then, run any set of .NET managed
programs. When these managed programs invoke the JIT compiler, SuperPMI gathers and
captures all information passed between the JIT and its .NET host. In the
playback phase, SuperPMI loads the JIT directly, and causes it to compile all
the functions that it previously compiled, but using the collected data to
provide answers to various questions that the JIT needs to ask. The .NET
execution engine (EE) is not invoked at all.

TOOLS
==========

There are two native executable tools: superpmi and mcs. There is a .NET Core
C# program that is built as part of the coreclr repo tests build called
superpmicollect.exe.

All will show a help screen if passed -?.

COLLECTION
==========

Set the following environment variables:

SuperPMIShimLogPath=<full path to an empty temporary directory>
SuperPMIShimPath=<full path to clrjit.dll, the "standalone" JIT>
COMPlus_AltJit=*
COMPlus_AltJitName=superpmi-shim-collector.dll

(On Linux, use libclrjit.so and libsuperpmi-shim-collector.so. On Mac,
use libclrjit.dylib and libsuperpmi-shim-collector.dylib.)

Then, run some managed programs. When done running programs, un-set these variables.

Now, you will have a large number of .mc files. Merge these using the mcs
tool:

mcs -merge base.mch *.mc

One benefit of SuperPMI is the ability to remove duplicated compilations, so
on replay only unique functions are compiled. Use the following to create a
"unique" set of functions:

mcs -removeDup -thin base.mch unique.mch

Note that -thin is not required. However, it will delete all the compilation
result collected during the collection phase, which makes the resulting MCH
file smaller. Those compilation results are not required for playback.

Use the superpmicollect.exe tool to automate and simplify this process.

PLAYBACK
========

Once you have a merged, de-duplicated MCH collection, you can play it back
using:

superpmi unique.mch clrjit.dll

You can do this much faster by utilizing all the processors on your machine,
and replaying in parallel, using:

superpmi -p unique.mch clrjit.dll

REMAINING WORK
=============

The basic of assembly diffing are there, using the "coredistools"
package. The open source build needs to be altered to use this package
to wire up the correct build steps.

[tfs-changeset: 1623347]

Don't inline methods that have tail-prefixed calls.

This commit changes the inlining behavior when the callee has tail-prefixed calls.
The jit was turning tail-prefixed calls in inlinees into normal calls. That means that
in some cases tail prefix wasn't honored. I changed the code to not inline such callees.
This matches the behavior of the legacy x64 jit. A possible improvement would be to allow
inlining when the tail-prefixed calls in the inlinee could still be dispatched as tail calls from the caller.

I enabled TailcallVerifyWithPrefix set of tests. They were disabled because Condition8.Test1, Condition8.Test2,
and Condition8.Test3 used varargs calling convention. I commented out code that was calling those tests.
I didn't delete them in case CoreCLR will support varargs in the future.

I also turned on Condition21.Test1, Condition21.Test2, Condition21.Test3, Condition21.Test6, and Condition21.Test7.
Condition21.Test3 is the test that was failing because the jit was inlining calees with tail-prefixed calls.
The other Condition21 tests above were passing and just weren't called.

Use getBootstrapPublishRid function to override __PUBLISH_RID while bringing up new platforms

1. Enable machine data collection.
2. Upload generated machinedata.json and all perf-*.xml files to /artifact/ Jenkins dir.
3. Enable InstRetired.
4. Force the perf runs to use physical machines.
5. Add test name, and benchmark InstRetired to the console output per Eugene's request.

Support MSBuild on opensuse.42.1-x64

Add a run for opensuse 42.1

Merge pull request #6813 from CarolEidt/FixArmCrossgen

Fix One Arm64 crossgen failure

Merge pull request #6811 from mellinoe/update-buildtools

Update buildtools to 1.0.26-prerelease-00718-04, remove duplicate props

Automate the perf data collection for JIT CodeQuality benchmarks on Windows.

Fix a quote.

Merge pull request #6812 from kouvel/Api

Expose some types deriving from SafeHandle

Fix dstCount of GT_RETURNTRAP

Fix Arm64 crossgen

The type of the ADDR node needs to be set to TYP_BYREF for arm64.
For x64/ux, oddly, it requires the struct type. I added a TODO-Cleanu8p
comment because a GT_ADDR should never be TYP_STRUCT.

Using the public DaylightTime instead of the internal one in  corefx dir for Linux/OSX builds.

[tfs-changeset: 1623319]

Merge pull request #6810 from hann013/t-hazhan/SystemVersion

Added constructor to System.Version

Expose MulticastDelegate.GetObjectData method

Remove properties which are now defined in buildtools

These all have the same values in buildtools now

Don't create dumpling list file unless there are actually dumps.

Expose some types deriving from SafeHandle

- SafeHandleMinusOneIsInvalid
- SafeHandleZeroOrMinusOneIsInvalid

Part of dotnet/corefx#10933

Merge pull request #6808 from stephentoub/fix_wr

Fix WeakReference in mscorlib ref assembly

Update buildtools to 1.0.26-prerelease-00718-04

Implement the proposed design for RyuJIT's LIR. (#6689)

These changes implement the design for RyuJIT's LIR described in https://github.com/dotnet/coreclr/blob/master/Documentation/design-docs/removing-embedded-statements.md.

The following passes required changes:

Rationalize, which has been almost completely rewritten
Long decomposition
Target-independent lowering
Target-dependent lowering
LSRA
Liveness
Flowgraph optimization
Codegen
For the most part, these changes are confined to the backend. Common code that needed to be updated included liveness, flowgraph optimization, and a few miscellaneous utilities.

The utilities used to analyze and manipulate LIR live (almost) entirely in src/jit/lir.{cpp,h}. The core concepts that are unique to LIR are LIR::Use and LIR::Range. The latter is a tuple that captures an SDSU def (i.e. an LIR node) and its corresponding use->def edge and user. The former serves to abstract a self-contained sequence of LIR nodes that make up e.g. the contents of a basic block.

Testing indicates that neither JIT throughput nor code quality are significantly impacted by these changes.

Added constructor to System.Version

Expose missing members of System.Reflection in contract to prep for dotnet/corefx#1053 (#6614)

* Add missing Reflection APIs, Misc
* Add missing Reflection APIs, System.Reflection.Assembly
* Add missing Reflection APIs, some AssemblyAttributes, AssemblyName, AssemblyNameFlags
* Add missing Reflection APIs, ConstructorInfo, CustomAttributeData, CustomAttributeNamedArgument, CustomAttributeTypedArgument
* Add missing Reflection APIs, EventInfo, FieldInfo
* Add missing Reflection APIs, IReflect, ImageFileMachine, ExceptionHandlingClause
* Add missing Reflection APIs, ParameterInfo, PropertyInfo, Pointer, ResourceAttributes
* Add missing Reflection APIs, MethodBase, MethodBody, MethodInfo
* Fix some issues and add few more missing APIs
* Add more missing APIs
* Add rest from System.Reflection.AssemblyName
* Add serialization features, AssemblyName, Pointer, Missing
* Add more from System.Reflection.Module and add System.ModuleHandle
* Add equality operators to System.Reflection.Module* Add equality operators to System.Reflection.MemberInfo and System.Type
* Add some of missing APIs from System.Type
* Add some missing changes for System.Type

Fix WeakReference in mscorlib ref assembly

It's missing the ISerializable implementation.

Print info from core dumps on OS X using LLDB.

Merge pull request #6780 from CarolEidt/Pre1stClassStructBlkOps

Preparatory changes for Blk Ops IR

Merge pull request #6797 from dotnet-bot/from-tfs

Merge changes from TFS

Merge pull request #6774 from kouvel/Apis

Expose some threading type members

Merge pull request #6765 from bryanar/cat_call

printing dumpling url at dumpling upload time

Preparatory changes for Blk Ops IR

These are mostly refactoring changes, in preparation for the change to the IR for block assignments.

Merge pull request #6782 from ramarag/testjson

Restoring the Test Runtime libraries from a single project.json
Fixes #5174

Merge pull request #6796 from stephentoub/fix_serialization_issues

Fix several serialization issues

Expose some threading type members

- Exposed some public members of WaitHandle
- Fixed "path too long" error message to take a length parameter (as in mscorlib.txt) and uses of it to pass in the correct value for the length
- Made SignalAndWait implementation available on Windows, and throw PlatformNotSupportedException on others

Part of dotnet/corefx#10933

Enable additional functionality for OS X CI dumps.

Remove TypeForwardedFrom attributes for System and System.Core

These assemblies don't exist in .NET Core.  Having these attributes on serializable types causes deserialization for such types to fail, as it attempts to load the assembly from which they were forwarded.

Fix serialization of delegates without targets

A null check is missing when FEATURE_REMOTING is not defined, resulting in an invalid cast exception when deserializing a delegate without a target (e.g. a delegate for a static method).

Fix serialization of several exception types

VerificationException's deserialization ctor was being tree-shaken away.

SecurityException's deserialization ctor was ifdef'd out.

Merge pull request #6747 from JosephTremoulet/VNLoops

Record expr location for opqaue value numbers

An easy fix for #6760 (#6770)

As mentioned in #6760 we can postpone the calculation of the NeedsTurkishCasing property.

Conflicts:
src/mscorlib/corefx/System/Globalization/TextInfo.Unix.cs

Due to comdat folding some fcalls are pointing to same code. This fix ensures that these fcall has a unique code address. (#6776)

Restoring the Test Runtime libraries from a single project.json
This will ensure the expected version to be present at the runtime

Fix CRWLock ID generation overflow bug

There are several problems with the CRWLock constructor, where it tries to increment a 64-bit lock ID in two 32-bit pieces using lock-free code in a fast path:
- For the lower 32 bits, LLockID, zero is reserved for identifying a free lock entry. Upon incrementing LLockID from -1 to 0, the code was not skipping zero or incrementing the upper 32 bits, ULockID. Instead, it waited for one more increment to LLockID before increment ULockID. Assignment of the invalid LLockID caused a free lock entry to be reused for a new lock, and corruption in lock state thereafter. This is the issue identified by the bug.
- If LLockID != -1 in thread A, but the compare-exchange fails because thread B had updated the value before thread A, ULockID was not being read again in thread A. If thread B had also incremented ULockID, thread A would continue to use the old ULockID.
- In the locked slow path that handles incrementing ULockID, ULockID is updated before LLockID. The constructor though, was reading ULockID before LLockID. This allows a race where Thread A reads an old value for ULockID and a new value for LLockID, increments LLockID successfully, and continues to use the old ULockID.

Due to the availability of InterlockedCompareExchange64 on all supported platforms, we decided to use that instead to simplify the solution and fix all of the above issues at the same time.

Bug: 242568
Integrated from changes: 1621197, 1621810

[tfs-changeset: 1622814]

Merge pull request #6773 from jashook/disable_jit32_timeouts_round_two

Disable tests that timeout for jit32

Merge pull request #6748 from rahku/arm64ShadowHeap

update GC shadow heap as part of writebarrier jit helper

Disable tests that timeout for jit32

See issues #6720, #6718, #6714 for more information.

Merge pull request #6766 from dotnet-bot/UpdateDependencies20160817062015

Updating External dependencies to beta-24417-00

Makes FCallMemcpy unwindable (#6753)

FCallMemcpy function in vm/arm/memcpy.S creates an stack frame that
libunwind cannot recognize, which leads to the issue in #6752.

This commit makes the stack frame of FCallMemcpy unwindable to fix
issue #6752.

Updating External dependencies to beta-24417-00

Apply correct symbolic name _ARM_ instead of _TARGET_ARM_ (#6756)

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>

printing dumpling url at upload time.

Merge pull request #6749 from ramarag/sos_misc

Arm64 Sos fixes for

Merge pull request #6763 from dotnet-bot/from-tfs

Merge changes from TFS

Merge pull request #6362 from svick/culturedata-regionnames

Move RegionNames out of #ifs

Fix build break from new alignments

- MSVC seems to require alignment specification to be on the declaration as well as the definition
- Ignore warning about padding parent struct due to __declspec(align()), as that is intentional

Original change PR: https://github.com/dotnet/coreclr/pull/6516

[tfs-changeset: 1622589]

Merge pull request #6761 from stephentoub/mscorlib_deserialization

Add deserialization ctors to mscorlib ref assembly

Adding new generics tests (#6709)

Add deserialization ctors to mscorlib ref assembly

In a previous PR, I'd added these to model.xml, but we're still consuming the mscorlib ref assembly in corefx, so we need these deserialization ctors there, too.