Fixup

Fixup

Add coreclr Linux tests to CI definition

Merge pull request #1769 from mmitche/fix-type-assert

Remove assert found in internal testing

Merge pull request #1772 from anurse/anurse/1771-coreconsole-wpgmptr

change coreconsole to use _get_wpgmptr

Change CoreConsole to use _get_wpgmptr

The first value in argv only contains the string that was used to
launch the process. This means that when the CoreConsole-based
application is on the PATH, some invocations of it (most notably
those done from 'cmd') cause that value to be incomplete.

Changing to use _get_wpgmptr ensures that we always get the full
path to the executable, no matter how it is executed.

Fix #1771

Remove assert found in internal testing

This assert was introduced with the fix for #1323 as a sanity check that truly incompatible types couldn't enter this function.  However, there are at least some cases where the types could be different.  In the case found, REF and LONG were the types and the operand was a GT_LEA, which is handled later in the function.
This assert was introduced with the fix for #1323 as a sanity check that truly incompatible types couldn't enter this function.  However, there are at least some cases where the types could be different.  In the case found, REF and LONG were the types and the operand was a GT_LEA, which is handled later in the function.

Merge pull request #1747 from stephentoub/string_tolowerupper_ascii

Add ASCII optimization to string.ToLower/ToUpper on Unix

Avoid brancing in ToLower/UpperAsciiInvariant(char)

Rather than comparing the input char against 'A'/'a' and 'Z'/'z', we simply trim off all but the lower 7 bits and do a lookup into a precomputed table.  This is ~3-4x faster than the branching version.

Merge pull request #1761 from kouvel/Instructions

Add some instructions (tests, new APIs)

Merge pull request #1763 from kouvel/PerfFix

Add string allocation fast path outside Windows

Add ASCII optimization to string.ToLower/ToUpper on Unix

Merge pull request #1758 from wtgodbe/failingTests

Removed working tests from failing tests file

Merge pull request #1759 from ellismg/format-corefx-code

Format native CoreFX code to follow conventions

Add string allocation fast path outside Windows

- On Linux, a microbenchmark is 140% faster with the portable fast path
- On Windows with the asm fast path, the microbenchmark was 300% faster than on Linux before, and is now 65% faster with the portable fast path
- On Windows, the portable fast path is 5% slower than the asm fast path

Merge pull request #1669 from joperezr/UseNewBclRewriter

Using DotNetCore version of BclRewriter in mscorlib build

Merge pull request #1755 from kouvel/DisableTests

Disable a couple of tests that are not supported outside Windows

Add some instructions (tests, new APIs)

- Instructions for running CoreCLR and PAL tests outside Windows
- Brief instructions for running CoreFX tests with a private build of CoreCLR outside Windows
- Adding new public APIs to mscorlib

Run format-code.sh

Add format-code.sh from CoreFX

Using DotNetCore version of BclRewriter in mscorlib build

Removed working tests from failing tests file

Merge pull request #1756 from mmitche/add-arm-arm64-cross

Add arm64/arm cross builds to CI definition

Add missing quote

Use the correct comment style

Add arm64/arm cross builds to CI definition

Disable a couple of tests that are not supported outside Windows

Merge pull request #1738 from janvorli/fix-cocreate-guid

Implement CoCreateGuid using uuid_generate on Unix

Implement CoCreateGuid using uuid_generate on Unix

We were generating GUIDs on Unix as random numbers. But that is not
correct since GUIDs have defined structure with bits having specific
meanings. For example, there are four bits that represent the type of
the GUID, which means whether the guid is randomly generated,
name based on SHA1, time based etc.
This change changes the CoCreateGuid to use the uuid_generate function
from the uuid library that should generate well-formed GUIDs on
Linux and OSX and the uuid_create on FreeBSD.

Merge pull request #1753 from ramarag/lttng_check

Add checks for liblttng-ust-dev at build time

Add checks for liblttng-ust-dev at build time

Merge pull request #1749 from janvorli/improve-frame-destructor

Improve frame destructor performance

Merge pull request #1746 from kouvel/PerfFix2

Add some fast paths that are missing outside Windows

Improve frame destructor performance

This change makes the Frame destructor access thread local storage much less often,
only in rare case when the Frame was not popped before the destructor is called.

Add some fast paths that are missing outside Windows

- Allocation fast path for arrays of object elements
  - On Linux, a microbenchmark is 25% faster with the portable fast path
  - On Windows with the asm fast path, the microbenchmark was 52% faster than on Linux before, and is now 22% faster with the portable fast path
  - On Windows, the portable fast path is within 4% slower than the asm fast path
- Allocation fast path for objects
  - On Linux, a microbenchmark is 200% faster with the portable fast path
  - On Windows with the asm fast path, the microbenchmark was 325% faster than on Linux before, and is now 43% faster with the portable fast path
  - On Windows, the portable fast path is within 1% slower than the asm fast path
- Skipped the Box fast path since that seems to be inlined into jitted code using the new object fast path. As a result of adding the new object fast path, boxing perf has also improved outside Windows similarly to above.

Merge pull request #1739 from jasonwilliams200OK/master

code,pal: Removes unused headers

Merge pull request #1598 from ramarag/enablelttng

Enablelttng

This enables Lttng Logging for CoreClr,

The Tracepoint Providers are built as a separate shared object called libcoreclrtraceptprovider and it is
available in the same directory as libcoreclr.so

By Default the ability of Tracing will not be present
To enable the ability of  Tracing, the apps need to be run like:

LD_PRELOAD=libcoreclrtraceptprovider.so ./corerun HelloWorld.exe

For now to change Xplat Event Logging mechanism add any events to:
        <root>/src/vm/ClrEtwAll.man
Then regenerate files by running :
        <root>/src/inc/genXplatLtnng.pl

Conflicts:
Documentation/building/linux-instructions.md

code,pal: Removes unused headers.
`<typeinfo>` and `<errno.h>` were unused in `seh.cpp`.
On FreeBSD, the `errno` macro was conflicting due to these
stale inclusions. The exact cause is still unknown that how
it is building on CI and only failing locally on clean FreeBSD 10.2
installation with Clang 3.5.

Fixes #1091.

Merge pull request #1733 from kouvel/PerfFix

Add allocation fast path for arrays of value type elements outside Wi…

Merge pull request #1723 from steveharter/FixDefaultLocale

Add support for obtaining default locale in Linux and fix issue with collation not being passed to ICU

Merge pull request #1737 from dotnet-bot/from-tfs

Merge changes from TFS

Add support for obtaining default locale in Linux and fix issue with @collation= not being passed to ICU

Add allocation fast path for arrays of value type elements outside Windows

- A microbenchmark involving byte array allocation was about 200% faster on Windows compared to Linux
- On Windows, using the portable version of the fast path is about 5% slower than using the asm version on the microbenchmark
- On Linux, using the portable fast path improves the microbenchmark perf by 160%
- With the fast path enabled on Linux, the microbenchmark on Windows (with asm fast path) is now about 17% faster than on Linux.

Fix contracts so scanRuntime@x86chk task succeeds

[tfs-changeset: 1535699]

Merge pull request #1719 from stephentoub/sb_direction

Add [Out] to a couple of StringBuilders in DllImports

Merge pull request #1722 from stephentoub/casing_branches

Improve String.ToLower/ToUpper throughput on Unix

Merge pull request #1721 from richardlford/fixruntimecontract

Fix incorrect runtime contract for FailedAssembly::Initialize

Code changes for firing etw events when a pdb is dynamically loaded. This corresponds to the following user story: 1200238. As a profiler developer, I want to access PDB content for dynamic assemblies in the ETW event stream, so that I can show my users source for their callstack frames.

The main function in eventtrace.cpp, EmitCodeSymbols, divides the pdb stream into appropriate chunks and transmits them as events in order. There are helper functions which have been taken from the corresponding code in Desktop (Netfxdev1) to provide a dynamically loaded pdb through the profiler authored by Noah.

The test uses EventToSymbols, which is based on TraceEventParser to turn on the CodeSymbols and ModuleLoad keywords and listens for events that send out pdb chunks. It then concatenates the chunks to create the pdb on disk. The BigPdb.cs program loads a dll and pdb dynamically, which triggers the events by the runtime. Once the pdb is recreated, it is compared with the original to make sure there are no differences and if not, the test is declared as passed. The test also uses an EventSource event to transmit a unique cookie to make sure the pdb created corresponds to the process under test, in case there are mulitple instances of the test running.

[tfs-changeset: 1535373]

Merge pull request #1726 from janvorli/fix-win-coreconsole

Fix Windows CoreConsole property list

Fix Windows CoreConsole property list

The property list was broken - the keys list was missing a comma between two entries,
so they got merged into one string. And the values list was missing one value too.

Improve string.ToLower/ToUpper perf

Our Unix implementation of changing case is currently slower than our implementation on Windows.  In our ChangeCase implementation in System.Globalization.Native that uses ICU, we have a loop that reads each code point, processes it, and writes out the result.  That processing involves branching into four cases based on whether we're going to upper or to lower, and whether we're using Turkish or not.  By manually hoisting the invariants and loop cloning in order to remove the branches from the inner loop, we can improve the performance of this routine by ~15-20%.

Merge pull request #1706 from mmitche/update-badges

Update badges to new job locations

Merge pull request #1724 from mmitche/reenable-suse

Reenable OpenSuSE PRs

Reenable OpenSuSE PRs

Merge pull request #1720 from janvorli/fix-osx-activation-and-exception-collision

Fix OSX hardware exception and activation collision

Merge pull request #1689 from Priya91/palstring

Apply StackString for pal MAX_LONGPATH references.

Fix incorrect runtime contract for FailedAssembly::Initialize

FailedAssembly::Initialize may call CLRException::GetHR.
CLRException::GetHR is marked GC_TRIGGERS.
FailedAssembly::Initialize has to be marked GC_TRIGGERS
as well.

Merge pull request #1718 from stephentoub/stringcasing_allocations

Reduce allocations in string.ToLower/ToUpper on Unix

Fix OSX hardware exception and activation collision

This change fixes a collision between hardware exception handling and activation
injection. Both require creating helper frame on stack and patching the target thread
context to inject invocation of a handler. When these two happened together,
they both tried to update the context and create helper frame on stack at the same
time, which lead to various issues including PAL_SEHException escaping from
the host application unhandled.

Merge pull request #1683 from krixalis/master

Typos in qcall.h

Fix additional StringBuilder directions in corefx Unix code

Merge pull request #1711 from mikem8361/unhand

Fix unhandled exception debugger notification

Add Null check to lib_name before getting string length.

Add [Out] to a couple of StringBuilders in DllImports

I audited all of the StringBuilders being used in P/Invokes in mscorlib.  Almost all of them were correctly annotated as to their direction of needed marshaling.  Two weren't.

Reduce allocations in string.ToLower/ToUpper on Unix

On Windows, ToLower/ToUpper calls into InternalChangeCaseString in the runtime which does two optiizations:
- a 0-length check to just return an empty string if the source is empty
- allocates the string and writes the results into it directly

In our current Unix implementation, the ChangeCase implementation doesn't do either of these, no special-casing empty strings and first allocating a char[] into which the results are written and then constructing a string from that.

This commit brings the Unix implementation more in line with the Windows one, adding the 0-length check, and writing the results directly into the result string so as to avoid the unnecessary char[] allocation and copy.

Merge pull request #1715 from janvorli/add-unhandled-exception-trap

Add high level unhandled exception trap

Add high level unhandled exception trap

After the recent exception handling changes, we were missing a high level
exception trap in the ExecuteAssembly. While it was fine for exceptions
comming from or through managed code, it was a problem for exceptions
happening in the ExecuteAssembly call chain before the managed code was
called.
So for example when ExecuteAssembly was called for assembly that didn't
have proper file access rights for the current user, the PAL_SEHException
leaked out of the host app (corerun) and the C++ runtime displayed
message like this:
libc++abi.dylib: terminating with uncaught exception of type PAL_SEHException
Abort trap: 6
The fix is to put back the unhandled managed exception trap that I've removed
with the recent exception handling changes, but to implement it in a slightly
different way - to contain exception holder.
This way, the call to InternalUnhandledExceptionFilter_Worker can be removed
from the UnwindManagedExceptionPass1, since this new trap would ensure it
is called for both the case when the one in UnwindManagedExceptionPass1 would
kick in and the case that this issue is fixing.

Merge pull request #1688 from kouvel/LoadFromNativeSearchPathsTest

Add unit test for loading native library from host-provided native se…

Merge pull request #1702 from stephentoub/marshaling_allocs

Reduce garbage generated in StringBuilder marshaling

Merge pull request #1696 from brianrob/framepointers

Enable Frame Pointers for UNIX Builds

Merge pull request #1693 from Kagamine/correct-word-spelling

Correct word spelling

Merge pull request #1705 from kyulee1/protojit

Producing standalone Jit for testing

Fix UnhandledException notifications.  The IsDebuggerPresent check was left over from windows coreclr and prevented notifications from being sent.

Merge pull request #1697 from mikem8361/osxbp

Fix managed breakpoints on OSX

Address PR feedback

Remove addition of null terminator, which should already be added by ConvertToAnsi.

Merge pull request #1710 from mmitche/disable-centos-suse

Disable PRs on SuSE and CentOS until we get more nodes spun up

Disable PRs on SuSE and CentOS until we get more nodes spun up

Producing standalone Jit for testing

protojit.dll (Windows) / libprotojit.so (*nix) is produced in addition, which is a standalone Jit that are not attached to CoreCLR.
Note CoreCLR still embeds such Jit by default same as before to not disrupt the existing clients.
This (same) standalone Jit can be used for other testing purpose and also this can be specified as an altjit as well in CoreCLR.
Added to nuget dev package.

Merge pull request #1645 from eerhardt/Encoding

Implement Encodings on Linux

Merge remote-tracking branch 'upstream/master' into osxbp

Update badges to new job locations

Merge pull request #1701 from janvorli/fix-osx-hardware-exceptions-2

Add missing file to the previous hardware exceptions fix

Reduce garbage generated in StringBuilder marshaling

When marshaling a StringBuilder In as Ansi (both done by default on Unix), we currently allocate enough native memory to hold the result.  But then we use AnsiCharMarshaler.DoAnsiConversion to allocate a managed byte array and fill it with the converted results, and then we copy those results into the native memory.  We can instead just call String's ConvertToAnsi directly, avoiding the extra managed array allocation and the extra memory copy.

Add missing file to the previous hardware exceptions fix

Merge pull request #1692 from mmitche/add-netci

Initial commit of CI definition for inner loop

Initial commit of CI definition for inner loop

Implement Encodings on Linux

Our current Encodings implementation on Linux is stubbed out and
needs to be fully implemented for CoreClr.

Fix https://github.com/dotnet/corefx/issues/2774.

Merge pull request #1699 from janvorli/fix-osx-hardware-exceptions

Fix OSX hardware exception handling

Fix OSX hardware exception handling

In my recent change that has added the runtime suspension for OSX,
I have also added a fix for the unwind info of the PAL_DispatchExceptionWrapper
function. It turns out that I've made a mistake in the offset in the set_cfa_register
and it has broken hardware exception handling on OSX since the unwinder was not
able to unwind correctly through the wrapper.
It also turns out that the same wrong offset in set_cfa_register is in the
ActivationHelperWrapper.S, but in that function, the unwinding still works correctly.
I've actually verified that with both the wrong and the correct offset, the unwinder
gets the same correct RSP / RBP at the time of the exception. So I believe linked ignored
the DWARF unwind info and used compact unwind info instead that it was able to
derive correctly on its own.
Also, the allocate_stack was incorrectly placed before the set_cfa_register, which again
didn't cause a problem due to the DWARF info being ignored. The issue with this one was
that it updates the CFA, but the CFA offset is relative to RBP at that point and
RBP didn't change.
As an additional fix, there was a problem in PAL_VirtualUnwind that @sergiy-k has
spotted. The return value of the recently added unw_is_signal_frame call was
overwriting the status code returned by the unw_step that we use on OSX to
detect walking out of stack.

Add unit test for loading native library from host-provided native search paths

Also used and added to existing macros for separator chars and removed the new members I had added to the Path class.

Related to #1680

Merge pull request #1694 from janvorli/fix-exception-handling-issue

Fix issue in the new exception handling

Suppress debug exceptions when running under native (lldb/gdb) debugger.

Fix managed breakpoints on OSx.

Changed the OSx exception initialization to enable breakpoints/stepping.

Fix problem with faults and breakpoints in coreclr code not being forwarded to
native debugger (if being debugged).

Fix debugger shutdown where we release the transport too many times and assert in debug.

When building the register context for an exception don't save/restore the debug
registers because they cause an priviledged instruction fault.

Fixed the PAL's TRACE formatting by merging the printfcpp.cpp formatting into
silent_printf.cpp. "%p" wasn't being formatted correctly in a PAL TRACE statement.

The executable heap zone wasn't being set because the process heap
is used instead of creating a new heap.

Compile with frame pointers on UNIX builds.

correct word spelling

Merge pull request #1666 from jasonwilliams200OK/master

cmake: cleanup FreeBSD system include path

Merge pull request #1687 from jasonwilliams200OK/__fastcall-Wmacro-redefined

code: Fix redefined macro warning

Apply StackString for pal MAX_LONGPATH references.

Fix issue in the new exception handling

There was a problem with scanned stack range stored in an exception tracker.
After unwinding a sequence of native frames during the 2nd pass of unwinding,
the scanned stack range was not cleared and referenced stack frames that
were unwound. In some rare cases related to throwing an exception from
a catch handler, this was causing the exception handling to consider stack
frames that accidentally had the same range of addresses as already visited,
which resulted in a wrong exception handler being executed.