[ELF] Don't emit SHF_GNU_RETAIN on Solaris
authorRainer Orth <ro@gcc.gnu.org>
Wed, 11 Aug 2021 07:27:51 +0000 (09:27 +0200)
committerRainer Orth <ro@gcc.gnu.org>
Wed, 11 Aug 2021 07:27:51 +0000 (09:27 +0200)
commit7bbbf2956181f375ab193321b37ea71c5fc44054
tree6741d38fa660e06c9f80b66fa5fca117da2c5b6e
parent4b56e2ee1dd46a5c239bd9bbf0408332fba523a9
[ELF] Don't emit SHF_GNU_RETAIN on Solaris

The introduction of `SHF_GNU_RETAIN` has caused massive problems on Solaris.

Initially, as reported in Bug 49437, it caused dozens of testsuite failures
on both sparc and x86.  The objects were marked as `ELFOSABI_NONE`, but
`SHF_GNU_RETAIN` is a GNU extension. In the native Solaris ABI, that flag
(in the range for OS-specific values) is `SHF_SUNW_ABSENT` with a
completely different semantics, which confuses Solaris `ld` very much.

Later, the objects became (correctly) marked `ELFOSABI_GNU`, which Solaris
`ld` doesn't support, causing it to SEGV and break the build.  The linker
is currently being hardened to not accept non-native OS ABIs to avoid this.

The need for linker support is already documented in
`clang/include/clang/Basic/AttrDocs.td`, but not currently checked.

This patch avoids all this by not emitting `SHF_GNU_RETAIN` on Solaris at all.

Tested on `amd64-pc-solaris2.11`, `sparcv9-sun-solaris2.11`, and
`x86_64-pc-linux-gnu`.

Differential Revision: https://reviews.llvm.org/D107747
llvm/lib/CodeGen/TargetLoweringObjectFileImpl.cpp