bfd/elf64-x86-64.c

   1 /* X86-64 specific support for ELF
   2    Copyright 2000, 2001, 2002, 2003, 2004, 2005, 2006, 2007, 2008, 2009,
   3    2010, 2011, 2012
   4    Free Software Foundation, Inc.
   5    Contributed by Jan Hubicka <jh@suse.cz>.
   6
   7    This file is part of BFD, the Binary File Descriptor library.
   8
   9    This program is free software; you can redistribute it and/or modify
  10    it under the terms of the GNU General Public License as published by
  11    the Free Software Foundation; either version 3 of the License, or
  12    (at your option) any later version.
  13
  14    This program is distributed in the hope that it will be useful,
  15    but WITHOUT ANY WARRANTY; without even the implied warranty of
  16    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  17    GNU General Public License for more details.
  18
  19    You should have received a copy of the GNU General Public License
  20    along with this program; if not, write to the Free Software
  21    Foundation, Inc., 51 Franklin Street - Fifth Floor, Boston,
  22    MA 02110-1301, USA.  */
  23
  24 #include "sysdep.h"
  25 #include "bfd.h"
  26 #include "bfdlink.h"
  27 #include "libbfd.h"
  28 #include "elf-bfd.h"
  29 #include "elf-nacl.h"
  30 #include "bfd_stdint.h"
  31 #include "objalloc.h"
  32 #include "hashtab.h"
  33 #include "dwarf2.h"
  34 #include "libiberty.h"
  35
  36 #include "elf/x86-64.h"
  37
  38 #ifdef CORE_HEADER
  39 #include <stdarg.h>
  40 #include CORE_HEADER
  41 #endif
  42
  43 /* In case we're on a 32-bit machine, construct a 64-bit "-1" value.  */
  44 #define MINUS_ONE (~ (bfd_vma) 0)
  45
  46 /* Since both 32-bit and 64-bit x86-64 encode relocation type in the
  47    identical manner, we use ELF32_R_TYPE instead of ELF64_R_TYPE to get
  48    relocation type.  We also use ELF_ST_TYPE instead of ELF64_ST_TYPE
  49    since they are the same.  */
  50
  51 #define ABI_64_P(abfd) \
  52   (get_elf_backend_data (abfd)->s->elfclass == ELFCLASS64)
  53
  54 /* The relocation "howto" table.  Order of fields:
  55    type, rightshift, size, bitsize, pc_relative, bitpos, complain_on_overflow,
  56    special_function, name, partial_inplace, src_mask, dst_mask, pcrel_offset.  */
  57 static reloc_howto_type x86_64_elf_howto_table[] =
  58 {
  59   HOWTO(R_X86_64_NONE, 0, 0, 0, FALSE, 0, complain_overflow_dont,
  60         bfd_elf_generic_reloc, "R_X86_64_NONE", FALSE, 0x00000000, 0x00000000,
  61         FALSE),
  62   HOWTO(R_X86_64_64, 0, 4, 64, FALSE, 0, complain_overflow_bitfield,
  63         bfd_elf_generic_reloc, "R_X86_64_64", FALSE, MINUS_ONE, MINUS_ONE,
  64         FALSE),
  65   HOWTO(R_X86_64_PC32, 0, 2, 32, TRUE, 0, complain_overflow_signed,
  66         bfd_elf_generic_reloc, "R_X86_64_PC32", FALSE, 0xffffffff, 0xffffffff,
  67         TRUE),
  68   HOWTO(R_X86_64_GOT32, 0, 2, 32, FALSE, 0, complain_overflow_signed,
  69         bfd_elf_generic_reloc, "R_X86_64_GOT32", FALSE, 0xffffffff, 0xffffffff,
  70         FALSE),
  71   HOWTO(R_X86_64_PLT32, 0, 2, 32, TRUE, 0, complain_overflow_signed,
  72         bfd_elf_generic_reloc, "R_X86_64_PLT32", FALSE, 0xffffffff, 0xffffffff,
  73         TRUE),
  74   HOWTO(R_X86_64_COPY, 0, 2, 32, FALSE, 0, complain_overflow_bitfield,
  75         bfd_elf_generic_reloc, "R_X86_64_COPY", FALSE, 0xffffffff, 0xffffffff,
  76         FALSE),
  77   HOWTO(R_X86_64_GLOB_DAT, 0, 4, 64, FALSE, 0, complain_overflow_bitfield,
  78         bfd_elf_generic_reloc, "R_X86_64_GLOB_DAT", FALSE, MINUS_ONE,
  79         MINUS_ONE, FALSE),
  80   HOWTO(R_X86_64_JUMP_SLOT, 0, 4, 64, FALSE, 0, complain_overflow_bitfield,
  81         bfd_elf_generic_reloc, "R_X86_64_JUMP_SLOT", FALSE, MINUS_ONE,
  82         MINUS_ONE, FALSE),
  83   HOWTO(R_X86_64_RELATIVE, 0, 4, 64, FALSE, 0, complain_overflow_bitfield,
  84         bfd_elf_generic_reloc, "R_X86_64_RELATIVE", FALSE, MINUS_ONE,
  85         MINUS_ONE, FALSE),
  86   HOWTO(R_X86_64_GOTPCREL, 0, 2, 32, TRUE, 0, complain_overflow_signed,
  87         bfd_elf_generic_reloc, "R_X86_64_GOTPCREL", FALSE, 0xffffffff,
  88         0xffffffff, TRUE),
  89   HOWTO(R_X86_64_32, 0, 2, 32, FALSE, 0, complain_overflow_unsigned,
  90         bfd_elf_generic_reloc, "R_X86_64_32", FALSE, 0xffffffff, 0xffffffff,
  91         FALSE),
  92   HOWTO(R_X86_64_32S, 0, 2, 32, FALSE, 0, complain_overflow_signed,
  93         bfd_elf_generic_reloc, "R_X86_64_32S", FALSE, 0xffffffff, 0xffffffff,
  94         FALSE),
  95   HOWTO(R_X86_64_16, 0, 1, 16, FALSE, 0, complain_overflow_bitfield,
  96         bfd_elf_generic_reloc, "R_X86_64_16", FALSE, 0xffff, 0xffff, FALSE),
  97   HOWTO(R_X86_64_PC16,0, 1, 16, TRUE, 0, complain_overflow_bitfield,
  98         bfd_elf_generic_reloc, "R_X86_64_PC16", FALSE, 0xffff, 0xffff, TRUE),
  99   HOWTO(R_X86_64_8, 0, 0, 8, FALSE, 0, complain_overflow_bitfield,
 100         bfd_elf_generic_reloc, "R_X86_64_8", FALSE, 0xff, 0xff, FALSE),
 101   HOWTO(R_X86_64_PC8, 0, 0, 8, TRUE, 0, complain_overflow_signed,
 102         bfd_elf_generic_reloc, "R_X86_64_PC8", FALSE, 0xff, 0xff, TRUE),
 103   HOWTO(R_X86_64_DTPMOD64, 0, 4, 64, FALSE, 0, complain_overflow_bitfield,
 104         bfd_elf_generic_reloc, "R_X86_64_DTPMOD64", FALSE, MINUS_ONE,
 105         MINUS_ONE, FALSE),
 106   HOWTO(R_X86_64_DTPOFF64, 0, 4, 64, FALSE, 0, complain_overflow_bitfield,
 107         bfd_elf_generic_reloc, "R_X86_64_DTPOFF64", FALSE, MINUS_ONE,
 108         MINUS_ONE, FALSE),
 109   HOWTO(R_X86_64_TPOFF64, 0, 4, 64, FALSE, 0, complain_overflow_bitfield,
 110         bfd_elf_generic_reloc, "R_X86_64_TPOFF64", FALSE, MINUS_ONE,
 111         MINUS_ONE, FALSE),
 112   HOWTO(R_X86_64_TLSGD, 0, 2, 32, TRUE, 0, complain_overflow_signed,
 113         bfd_elf_generic_reloc, "R_X86_64_TLSGD", FALSE, 0xffffffff,
 114         0xffffffff, TRUE),
 115   HOWTO(R_X86_64_TLSLD, 0, 2, 32, TRUE, 0, complain_overflow_signed,
 116         bfd_elf_generic_reloc, "R_X86_64_TLSLD", FALSE, 0xffffffff,
 117         0xffffffff, TRUE),
 118   HOWTO(R_X86_64_DTPOFF32, 0, 2, 32, FALSE, 0, complain_overflow_signed,
 119         bfd_elf_generic_reloc, "R_X86_64_DTPOFF32", FALSE, 0xffffffff,
 120         0xffffffff, FALSE),
 121   HOWTO(R_X86_64_GOTTPOFF, 0, 2, 32, TRUE, 0, complain_overflow_signed,
 122         bfd_elf_generic_reloc, "R_X86_64_GOTTPOFF", FALSE, 0xffffffff,
 123         0xffffffff, TRUE),
 124   HOWTO(R_X86_64_TPOFF32, 0, 2, 32, FALSE, 0, complain_overflow_signed,
 125         bfd_elf_generic_reloc, "R_X86_64_TPOFF32", FALSE, 0xffffffff,
 126         0xffffffff, FALSE),
 127   HOWTO(R_X86_64_PC64, 0, 4, 64, TRUE, 0, complain_overflow_bitfield,
 128         bfd_elf_generic_reloc, "R_X86_64_PC64", FALSE, MINUS_ONE, MINUS_ONE,
 129         TRUE),
 130   HOWTO(R_X86_64_GOTOFF64, 0, 4, 64, FALSE, 0, complain_overflow_bitfield,
 131         bfd_elf_generic_reloc, "R_X86_64_GOTOFF64",
 132         FALSE, MINUS_ONE, MINUS_ONE, FALSE),
 133   HOWTO(R_X86_64_GOTPC32, 0, 2, 32, TRUE, 0, complain_overflow_signed,
 134         bfd_elf_generic_reloc, "R_X86_64_GOTPC32",
 135         FALSE, 0xffffffff, 0xffffffff, TRUE),
 136   HOWTO(R_X86_64_GOT64, 0, 4, 64, FALSE, 0, complain_overflow_signed,
 137         bfd_elf_generic_reloc, "R_X86_64_GOT64", FALSE, MINUS_ONE, MINUS_ONE,
 138         FALSE),
 139   HOWTO(R_X86_64_GOTPCREL64, 0, 4, 64, TRUE, 0, complain_overflow_signed,
 140         bfd_elf_generic_reloc, "R_X86_64_GOTPCREL64", FALSE, MINUS_ONE,
 141         MINUS_ONE, TRUE),
 142   HOWTO(R_X86_64_GOTPC64, 0, 4, 64, TRUE, 0, complain_overflow_signed,
 143         bfd_elf_generic_reloc, "R_X86_64_GOTPC64",
 144         FALSE, MINUS_ONE, MINUS_ONE, TRUE),
 145   HOWTO(R_X86_64_GOTPLT64, 0, 4, 64, FALSE, 0, complain_overflow_signed,
 146         bfd_elf_generic_reloc, "R_X86_64_GOTPLT64", FALSE, MINUS_ONE,
 147         MINUS_ONE, FALSE),
 148   HOWTO(R_X86_64_PLTOFF64, 0, 4, 64, FALSE, 0, complain_overflow_signed,
 149         bfd_elf_generic_reloc, "R_X86_64_PLTOFF64", FALSE, MINUS_ONE,
 150         MINUS_ONE, FALSE),
 151   EMPTY_HOWTO (32),
 152   EMPTY_HOWTO (33),
 153   HOWTO(R_X86_64_GOTPC32_TLSDESC, 0, 2, 32, TRUE, 0,
 154         complain_overflow_bitfield, bfd_elf_generic_reloc,
 155         "R_X86_64_GOTPC32_TLSDESC",
 156         FALSE, 0xffffffff, 0xffffffff, TRUE),
 157   HOWTO(R_X86_64_TLSDESC_CALL, 0, 0, 0, FALSE, 0,
 158         complain_overflow_dont, bfd_elf_generic_reloc,
 159         "R_X86_64_TLSDESC_CALL",
 160         FALSE, 0, 0, FALSE),
 161   HOWTO(R_X86_64_TLSDESC, 0, 4, 64, FALSE, 0,
 162         complain_overflow_bitfield, bfd_elf_generic_reloc,
 163         "R_X86_64_TLSDESC",
 164         FALSE, MINUS_ONE, MINUS_ONE, FALSE),
 165   HOWTO(R_X86_64_IRELATIVE, 0, 4, 64, FALSE, 0, complain_overflow_bitfield,
 166         bfd_elf_generic_reloc, "R_X86_64_IRELATIVE", FALSE, MINUS_ONE,
 167         MINUS_ONE, FALSE),
 168   HOWTO(R_X86_64_RELATIVE64, 0, 4, 64, FALSE, 0, complain_overflow_bitfield,
 169         bfd_elf_generic_reloc, "R_X86_64_RELATIVE64", FALSE, MINUS_ONE,
 170         MINUS_ONE, FALSE),
 171
 172   /* We have a gap in the reloc numbers here.
 173      R_X86_64_standard counts the number up to this point, and
 174      R_X86_64_vt_offset is the value to subtract from a reloc type of
 175      R_X86_64_GNU_VT* to form an index into this table.  */
 176 #define R_X86_64_standard (R_X86_64_IRELATIVE + 1)
 177 #define R_X86_64_vt_offset (R_X86_64_GNU_VTINHERIT - R_X86_64_standard)
 178
 179 /* GNU extension to record C++ vtable hierarchy.  */
 180   HOWTO (R_X86_64_GNU_VTINHERIT, 0, 4, 0, FALSE, 0, complain_overflow_dont,
 181          NULL, "R_X86_64_GNU_VTINHERIT", FALSE, 0, 0, FALSE),
 182
 183 /* GNU extension to record C++ vtable member usage.  */
 184   HOWTO (R_X86_64_GNU_VTENTRY, 0, 4, 0, FALSE, 0, complain_overflow_dont,
 185          _bfd_elf_rel_vtable_reloc_fn, "R_X86_64_GNU_VTENTRY", FALSE, 0, 0,
 186          FALSE),
 187
 188 /* Use complain_overflow_bitfield on R_X86_64_32 for x32.  */
 189   HOWTO(R_X86_64_32, 0, 2, 32, FALSE, 0, complain_overflow_bitfield,
 190         bfd_elf_generic_reloc, "R_X86_64_32", FALSE, 0xffffffff, 0xffffffff,
 191         FALSE)
 192 };
 193
 194 #define IS_X86_64_PCREL_TYPE(TYPE)      \
 195   (   ((TYPE) == R_X86_64_PC8)          \
 196    || ((TYPE) == R_X86_64_PC16)         \
 197    || ((TYPE) == R_X86_64_PC32)         \
 198    || ((TYPE) == R_X86_64_PC64))
 199
 200 /* Map BFD relocs to the x86_64 elf relocs.  */
 201 struct elf_reloc_map
 202 {
 203   bfd_reloc_code_real_type bfd_reloc_val;
 204   unsigned char elf_reloc_val;
 205 };
 206
 207 static const struct elf_reloc_map x86_64_reloc_map[] =
 208 {
 209   { BFD_RELOC_NONE,             R_X86_64_NONE, },
 210   { BFD_RELOC_64,               R_X86_64_64,   },
 211   { BFD_RELOC_32_PCREL,         R_X86_64_PC32, },
 212   { BFD_RELOC_X86_64_GOT32,     R_X86_64_GOT32,},
 213   { BFD_RELOC_X86_64_PLT32,     R_X86_64_PLT32,},
 214   { BFD_RELOC_X86_64_COPY,      R_X86_64_COPY, },
 215   { BFD_RELOC_X86_64_GLOB_DAT,  R_X86_64_GLOB_DAT, },
 216   { BFD_RELOC_X86_64_JUMP_SLOT, R_X86_64_JUMP_SLOT, },
 217   { BFD_RELOC_X86_64_RELATIVE,  R_X86_64_RELATIVE, },
 218   { BFD_RELOC_X86_64_GOTPCREL,  R_X86_64_GOTPCREL, },
 219   { BFD_RELOC_32,               R_X86_64_32, },
 220   { BFD_RELOC_X86_64_32S,       R_X86_64_32S, },
 221   { BFD_RELOC_16,               R_X86_64_16, },
 222   { BFD_RELOC_16_PCREL,         R_X86_64_PC16, },
 223   { BFD_RELOC_8,                R_X86_64_8, },
 224   { BFD_RELOC_8_PCREL,          R_X86_64_PC8, },
 225   { BFD_RELOC_X86_64_DTPMOD64,  R_X86_64_DTPMOD64, },
 226   { BFD_RELOC_X86_64_DTPOFF64,  R_X86_64_DTPOFF64, },
 227   { BFD_RELOC_X86_64_TPOFF64,   R_X86_64_TPOFF64, },
 228   { BFD_RELOC_X86_64_TLSGD,     R_X86_64_TLSGD, },
 229   { BFD_RELOC_X86_64_TLSLD,     R_X86_64_TLSLD, },
 230   { BFD_RELOC_X86_64_DTPOFF32,  R_X86_64_DTPOFF32, },
 231   { BFD_RELOC_X86_64_GOTTPOFF,  R_X86_64_GOTTPOFF, },
 232   { BFD_RELOC_X86_64_TPOFF32,   R_X86_64_TPOFF32, },
 233   { BFD_RELOC_64_PCREL,         R_X86_64_PC64, },
 234   { BFD_RELOC_X86_64_GOTOFF64,  R_X86_64_GOTOFF64, },
 235   { BFD_RELOC_X86_64_GOTPC32,   R_X86_64_GOTPC32, },
 236   { BFD_RELOC_X86_64_GOT64,     R_X86_64_GOT64, },
 237   { BFD_RELOC_X86_64_GOTPCREL64,R_X86_64_GOTPCREL64, },
 238   { BFD_RELOC_X86_64_GOTPC64,   R_X86_64_GOTPC64, },
 239   { BFD_RELOC_X86_64_GOTPLT64,  R_X86_64_GOTPLT64, },
 240   { BFD_RELOC_X86_64_PLTOFF64,  R_X86_64_PLTOFF64, },
 241   { BFD_RELOC_X86_64_GOTPC32_TLSDESC, R_X86_64_GOTPC32_TLSDESC, },
 242   { BFD_RELOC_X86_64_TLSDESC_CALL, R_X86_64_TLSDESC_CALL, },
 243   { BFD_RELOC_X86_64_TLSDESC,   R_X86_64_TLSDESC, },
 244   { BFD_RELOC_X86_64_IRELATIVE, R_X86_64_IRELATIVE, },
 245   { BFD_RELOC_VTABLE_INHERIT,   R_X86_64_GNU_VTINHERIT, },
 246   { BFD_RELOC_VTABLE_ENTRY,     R_X86_64_GNU_VTENTRY, },
 247 };
 248
 249 static reloc_howto_type *
 250 elf_x86_64_rtype_to_howto (bfd *abfd, unsigned r_type)
 251 {
 252   unsigned i;
 253
 254   if (r_type == (unsigned int) R_X86_64_32)
 255     {
 256       if (ABI_64_P (abfd))
 257         i = r_type;
 258       else
 259         i = ARRAY_SIZE (x86_64_elf_howto_table) - 1;
 260     }
 261   else if (r_type < (unsigned int) R_X86_64_GNU_VTINHERIT
 262            || r_type >= (unsigned int) R_X86_64_max)
 263     {
 264       if (r_type >= (unsigned int) R_X86_64_standard)
 265         {
 266           (*_bfd_error_handler) (_("%B: invalid relocation type %d"),
 267                                  abfd, (int) r_type);
 268           r_type = R_X86_64_NONE;
 269         }
 270       i = r_type;
 271     }
 272   else
 273     i = r_type - (unsigned int) R_X86_64_vt_offset;
 274   BFD_ASSERT (x86_64_elf_howto_table[i].type == r_type);
 275   return &x86_64_elf_howto_table[i];
 276 }
 277
 278 /* Given a BFD reloc type, return a HOWTO structure.  */
 279 static reloc_howto_type *
 280 elf_x86_64_reloc_type_lookup (bfd *abfd,
 281                               bfd_reloc_code_real_type code)
 282 {
 283   unsigned int i;
 284
 285   for (i = 0; i < sizeof (x86_64_reloc_map) / sizeof (struct elf_reloc_map);
 286        i++)
 287     {
 288       if (x86_64_reloc_map[i].bfd_reloc_val == code)
 289         return elf_x86_64_rtype_to_howto (abfd,
 290                                           x86_64_reloc_map[i].elf_reloc_val);
 291     }
 292   return 0;
 293 }
 294
 295 static reloc_howto_type *
 296 elf_x86_64_reloc_name_lookup (bfd *abfd,
 297                               const char *r_name)
 298 {
 299   unsigned int i;
 300
 301   if (!ABI_64_P (abfd) && strcasecmp (r_name, "R_X86_64_32") == 0)
 302     {
 303       /* Get x32 R_X86_64_32.  */
 304       reloc_howto_type *reloc
 305         = &x86_64_elf_howto_table[ARRAY_SIZE (x86_64_elf_howto_table) - 1];
 306       BFD_ASSERT (reloc->type == (unsigned int) R_X86_64_32);
 307       return reloc;
 308     }
 309
 310   for (i = 0; i < ARRAY_SIZE (x86_64_elf_howto_table); i++)
 311     if (x86_64_elf_howto_table[i].name != NULL
 312         && strcasecmp (x86_64_elf_howto_table[i].name, r_name) == 0)
 313       return &x86_64_elf_howto_table[i];
 314
 315   return NULL;
 316 }
 317
 318 /* Given an x86_64 ELF reloc type, fill in an arelent structure.  */
 319
 320 static void
 321 elf_x86_64_info_to_howto (bfd *abfd ATTRIBUTE_UNUSED, arelent *cache_ptr,
 322                           Elf_Internal_Rela *dst)
 323 {
 324   unsigned r_type;
 325
 326   r_type = ELF32_R_TYPE (dst->r_info);
 327   cache_ptr->howto = elf_x86_64_rtype_to_howto (abfd, r_type);
 328   BFD_ASSERT (r_type == cache_ptr->howto->type);
 329 }
 330 \f
 331 /* Support for core dump NOTE sections.  */
 332 static bfd_boolean
 333 elf_x86_64_grok_prstatus (bfd *abfd, Elf_Internal_Note *note)
 334 {
 335   int offset;
 336   size_t size;
 337
 338   switch (note->descsz)
 339     {
 340       default:
 341         return FALSE;
 342
 343       case 296:         /* sizeof(istruct elf_prstatus) on Linux/x32 */
 344         /* pr_cursig */
 345         elf_tdata (abfd)->core_signal = bfd_get_16 (abfd, note->descdata + 12);
 346
 347         /* pr_pid */
 348         elf_tdata (abfd)->core_lwpid = bfd_get_32 (abfd, note->descdata + 24);
 349
 350         /* pr_reg */
 351         offset = 72;
 352         size = 216;
 353
 354         break;
 355
 356       case 336:         /* sizeof(istruct elf_prstatus) on Linux/x86_64 */
 357         /* pr_cursig */
 358         elf_tdata (abfd)->core_signal
 359           = bfd_get_16 (abfd, note->descdata + 12);
 360
 361         /* pr_pid */
 362         elf_tdata (abfd)->core_lwpid
 363           = bfd_get_32 (abfd, note->descdata + 32);
 364
 365         /* pr_reg */
 366         offset = 112;
 367         size = 216;
 368
 369         break;
 370     }
 371
 372   /* Make a ".reg/999" section.  */
 373   return _bfd_elfcore_make_pseudosection (abfd, ".reg",
 374                                           size, note->descpos + offset);
 375 }
 376
 377 static bfd_boolean
 378 elf_x86_64_grok_psinfo (bfd *abfd, Elf_Internal_Note *note)
 379 {
 380   switch (note->descsz)
 381     {
 382       default:
 383         return FALSE;
 384
 385       case 124:         /* sizeof(struct elf_prpsinfo) on Linux/x32 */
 386         elf_tdata (abfd)->core_pid
 387           = bfd_get_32 (abfd, note->descdata + 12);
 388         elf_tdata (abfd)->core_program
 389           = _bfd_elfcore_strndup (abfd, note->descdata + 28, 16);
 390         elf_tdata (abfd)->core_command
 391           = _bfd_elfcore_strndup (abfd, note->descdata + 44, 80);
 392         break;
 393
 394       case 136:         /* sizeof(struct elf_prpsinfo) on Linux/x86_64 */
 395         elf_tdata (abfd)->core_pid
 396           = bfd_get_32 (abfd, note->descdata + 24);
 397         elf_tdata (abfd)->core_program
 398          = _bfd_elfcore_strndup (abfd, note->descdata + 40, 16);
 399         elf_tdata (abfd)->core_command
 400          = _bfd_elfcore_strndup (abfd, note->descdata + 56, 80);
 401     }
 402
 403   /* Note that for some reason, a spurious space is tacked
 404      onto the end of the args in some (at least one anyway)
 405      implementations, so strip it off if it exists.  */
 406
 407   {
 408     char *command = elf_tdata (abfd)->core_command;
 409     int n = strlen (command);
 410
 411     if (0 < n && command[n - 1] == ' ')
 412       command[n - 1] = '\0';
 413   }
 414
 415   return TRUE;
 416 }
 417
 418 #ifdef CORE_HEADER
 419 static char *
 420 elf_x86_64_write_core_note (bfd *abfd, char *buf, int *bufsiz,
 421                             int note_type, ...)
 422 {
 423   const struct elf_backend_data *bed = get_elf_backend_data (abfd);
 424   va_list ap;
 425   const char *fname, *psargs;
 426   long pid;
 427   int cursig;
 428   const void *gregs;
 429
 430   switch (note_type)
 431     {
 432     default:
 433       return NULL;
 434
 435     case NT_PRPSINFO:
 436       va_start (ap, note_type);
 437       fname = va_arg (ap, const char *);
 438       psargs = va_arg (ap, const char *);
 439       va_end (ap);
 440
 441       if (bed->s->elfclass == ELFCLASS32)
 442         {
 443           prpsinfo32_t data;
 444           memset (&data, 0, sizeof (data));
 445           strncpy (data.pr_fname, fname, sizeof (data.pr_fname));
 446           strncpy (data.pr_psargs, psargs, sizeof (data.pr_psargs));
 447           return elfcore_write_note (abfd, buf, bufsiz, "CORE", note_type,
 448                                      &data, sizeof (data));
 449         }
 450       else
 451         {
 452           prpsinfo64_t data;
 453           memset (&data, 0, sizeof (data));
 454           strncpy (data.pr_fname, fname, sizeof (data.pr_fname));
 455           strncpy (data.pr_psargs, psargs, sizeof (data.pr_psargs));
 456           return elfcore_write_note (abfd, buf, bufsiz, "CORE", note_type,
 457                                      &data, sizeof (data));
 458         }
 459       /* NOTREACHED */
 460
 461     case NT_PRSTATUS:
 462       va_start (ap, note_type);
 463       pid = va_arg (ap, long);
 464       cursig = va_arg (ap, int);
 465       gregs = va_arg (ap, const void *);
 466       va_end (ap);
 467
 468       if (bed->s->elfclass == ELFCLASS32)
 469         {
 470           if (bed->elf_machine_code == EM_X86_64)
 471             {
 472               prstatusx32_t prstat;
 473               memset (&prstat, 0, sizeof (prstat));
 474               prstat.pr_pid = pid;
 475               prstat.pr_cursig = cursig;
 476               memcpy (&prstat.pr_reg, gregs, sizeof (prstat.pr_reg));
 477               return elfcore_write_note (abfd, buf, bufsiz, "CORE", note_type,
 478                                          &prstat, sizeof (prstat));
 479             }
 480           else
 481             {
 482               prstatus32_t prstat;
 483               memset (&prstat, 0, sizeof (prstat));
 484               prstat.pr_pid = pid;
 485               prstat.pr_cursig = cursig;
 486               memcpy (&prstat.pr_reg, gregs, sizeof (prstat.pr_reg));
 487               return elfcore_write_note (abfd, buf, bufsiz, "CORE", note_type,
 488                                          &prstat, sizeof (prstat));
 489             }
 490         }
 491       else
 492         {
 493           prstatus64_t prstat;
 494           memset (&prstat, 0, sizeof (prstat));
 495           prstat.pr_pid = pid;
 496           prstat.pr_cursig = cursig;
 497           memcpy (&prstat.pr_reg, gregs, sizeof (prstat.pr_reg));
 498           return elfcore_write_note (abfd, buf, bufsiz, "CORE", note_type,
 499                                      &prstat, sizeof (prstat));
 500         }
 501     }
 502   /* NOTREACHED */
 503 }
 504 #endif
 505 \f
 506 /* Functions for the x86-64 ELF linker.  */
 507
 508 /* The name of the dynamic interpreter.  This is put in the .interp
 509    section.  */
 510
 511 #define ELF64_DYNAMIC_INTERPRETER "/lib/ld64.so.1"
 512 #define ELF32_DYNAMIC_INTERPRETER "/lib/ldx32.so.1"
 513
 514 /* If ELIMINATE_COPY_RELOCS is non-zero, the linker will try to avoid
 515    copying dynamic variables from a shared lib into an app's dynbss
 516    section, and instead use a dynamic relocation to point into the
 517    shared lib.  */
 518 #define ELIMINATE_COPY_RELOCS 1
 519
 520 /* The size in bytes of an entry in the global offset table.  */
 521
 522 #define GOT_ENTRY_SIZE 8
 523
 524 /* The size in bytes of an entry in the procedure linkage table.  */
 525
 526 #define PLT_ENTRY_SIZE 16
 527
 528 /* The first entry in a procedure linkage table looks like this.  See the
 529    SVR4 ABI i386 supplement and the x86-64 ABI to see how this works.  */
 530
 531 static const bfd_byte elf_x86_64_plt0_entry[PLT_ENTRY_SIZE] =
 532 {
 533   0xff, 0x35, 8, 0, 0, 0,       /* pushq GOT+8(%rip)  */
 534   0xff, 0x25, 16, 0, 0, 0,      /* jmpq *GOT+16(%rip) */
 535   0x0f, 0x1f, 0x40, 0x00        /* nopl 0(%rax)       */
 536 };
 537
 538 /* Subsequent entries in a procedure linkage table look like this.  */
 539
 540 static const bfd_byte elf_x86_64_plt_entry[PLT_ENTRY_SIZE] =
 541 {
 542   0xff, 0x25,   /* jmpq *name@GOTPC(%rip) */
 543   0, 0, 0, 0,   /* replaced with offset to this symbol in .got.  */
 544   0x68,         /* pushq immediate */
 545   0, 0, 0, 0,   /* replaced with index into relocation table.  */
 546   0xe9,         /* jmp relative */
 547   0, 0, 0, 0    /* replaced with offset to start of .plt0.  */
 548 };
 549
 550 /* .eh_frame covering the .plt section.  */
 551
 552 static const bfd_byte elf_x86_64_eh_frame_plt[] =
 553 {
 554 #define PLT_CIE_LENGTH          20
 555 #define PLT_FDE_LENGTH          36
 556 #define PLT_FDE_START_OFFSET    4 + PLT_CIE_LENGTH + 8
 557 #define PLT_FDE_LEN_OFFSET      4 + PLT_CIE_LENGTH + 12
 558   PLT_CIE_LENGTH, 0, 0, 0,      /* CIE length */
 559   0, 0, 0, 0,                   /* CIE ID */
 560   1,                            /* CIE version */
 561   'z', 'R', 0,                  /* Augmentation string */
 562   1,                            /* Code alignment factor */
 563   0x78,                         /* Data alignment factor */
 564   16,                           /* Return address column */
 565   1,                            /* Augmentation size */
 566   DW_EH_PE_pcrel | DW_EH_PE_sdata4, /* FDE encoding */
 567   DW_CFA_def_cfa, 7, 8,         /* DW_CFA_def_cfa: r7 (rsp) ofs 8 */
 568   DW_CFA_offset + 16, 1,        /* DW_CFA_offset: r16 (rip) at cfa-8 */
 569   DW_CFA_nop, DW_CFA_nop,
 570
 571   PLT_FDE_LENGTH, 0, 0, 0,      /* FDE length */
 572   PLT_CIE_LENGTH + 8, 0, 0, 0,  /* CIE pointer */
 573   0, 0, 0, 0,                   /* R_X86_64_PC32 .plt goes here */
 574   0, 0, 0, 0,                   /* .plt size goes here */
 575   0,                            /* Augmentation size */
 576   DW_CFA_def_cfa_offset, 16,    /* DW_CFA_def_cfa_offset: 16 */
 577   DW_CFA_advance_loc + 6,       /* DW_CFA_advance_loc: 6 to __PLT__+6 */
 578   DW_CFA_def_cfa_offset, 24,    /* DW_CFA_def_cfa_offset: 24 */
 579   DW_CFA_advance_loc + 10,      /* DW_CFA_advance_loc: 10 to __PLT__+16 */
 580   DW_CFA_def_cfa_expression,    /* DW_CFA_def_cfa_expression */
 581   11,                           /* Block length */
 582   DW_OP_breg7, 8,               /* DW_OP_breg7 (rsp): 8 */
 583   DW_OP_breg16, 0,              /* DW_OP_breg16 (rip): 0 */
 584   DW_OP_lit15, DW_OP_and, DW_OP_lit11, DW_OP_ge,
 585   DW_OP_lit3, DW_OP_shl, DW_OP_plus,
 586   DW_CFA_nop, DW_CFA_nop, DW_CFA_nop, DW_CFA_nop
 587 };
 588
 589 /* Architecture-specific backend data for x86-64.  */
 590
 591 struct elf_x86_64_backend_data
 592 {
 593   /* Templates for the initial PLT entry and for subsequent entries.  */
 594   const bfd_byte *plt0_entry;
 595   const bfd_byte *plt_entry;
 596   unsigned int plt_entry_size;          /* Size of each PLT entry.  */
 597
 598   /* Offsets into plt0_entry that are to be replaced with GOT[1] and GOT[2].  */
 599   unsigned int plt0_got1_offset;
 600   unsigned int plt0_got2_offset;
 601
 602   /* Offset of the end of the PC-relative instruction containing
 603      plt0_got2_offset.  */
 604   unsigned int plt0_got2_insn_end;
 605
 606   /* Offsets into plt_entry that are to be replaced with...  */
 607   unsigned int plt_got_offset;    /* ... address of this symbol in .got. */
 608   unsigned int plt_reloc_offset;  /* ... offset into relocation table. */
 609   unsigned int plt_plt_offset;    /* ... offset to start of .plt. */
 610
 611   /* Length of the PC-relative instruction containing plt_got_offset.  */
 612   unsigned int plt_got_insn_size;
 613
 614   /* Offset of the end of the PC-relative jump to plt0_entry.  */
 615   unsigned int plt_plt_insn_end;
 616
 617   /* Offset into plt_entry where the initial value of the GOT entry points.  */
 618   unsigned int plt_lazy_offset;
 619
 620   /* .eh_frame covering the .plt section.  */
 621   const bfd_byte *eh_frame_plt;
 622   unsigned int eh_frame_plt_size;
 623 };
 624
 625 #define get_elf_x86_64_backend_data(abfd) \
 626   ((const struct elf_x86_64_backend_data *) \
 627    get_elf_backend_data (abfd)->arch_data)
 628
 629 #define GET_PLT_ENTRY_SIZE(abfd) \
 630   get_elf_x86_64_backend_data (abfd)->plt_entry_size
 631
 632 /* These are the standard parameters.  */
 633 static const struct elf_x86_64_backend_data elf_x86_64_arch_bed =
 634   {
 635     elf_x86_64_plt0_entry,              /* plt0_entry */
 636     elf_x86_64_plt_entry,               /* plt_entry */
 637     sizeof (elf_x86_64_plt_entry),      /* plt_entry_size */
 638     2,                                  /* plt0_got1_offset */
 639     8,                                  /* plt0_got2_offset */
 640     12,                                 /* plt0_got2_insn_end */
 641     2,                                  /* plt_got_offset */
 642     7,                                  /* plt_reloc_offset */
 643     12,                                 /* plt_plt_offset */
 644     6,                                  /* plt_got_insn_size */
 645     PLT_ENTRY_SIZE,                     /* plt_plt_insn_end */
 646     6,                                  /* plt_lazy_offset */
 647     elf_x86_64_eh_frame_plt,            /* eh_frame_plt */
 648     sizeof (elf_x86_64_eh_frame_plt),   /* eh_frame_plt_size */
 649   };
 650
 651 #define elf_backend_arch_data   &elf_x86_64_arch_bed
 652
 653 /* x86-64 ELF linker hash entry.  */
 654
 655 struct elf_x86_64_link_hash_entry
 656 {
 657   struct elf_link_hash_entry elf;
 658
 659   /* Track dynamic relocs copied for this symbol.  */
 660   struct elf_dyn_relocs *dyn_relocs;
 661
 662 #define GOT_UNKNOWN     0
 663 #define GOT_NORMAL      1
 664 #define GOT_TLS_GD      2
 665 #define GOT_TLS_IE      3
 666 #define GOT_TLS_GDESC   4
 667 #define GOT_TLS_GD_BOTH_P(type) \
 668   ((type) == (GOT_TLS_GD | GOT_TLS_GDESC))
 669 #define GOT_TLS_GD_P(type) \
 670   ((type) == GOT_TLS_GD || GOT_TLS_GD_BOTH_P (type))
 671 #define GOT_TLS_GDESC_P(type) \
 672   ((type) == GOT_TLS_GDESC || GOT_TLS_GD_BOTH_P (type))
 673 #define GOT_TLS_GD_ANY_P(type) \
 674   (GOT_TLS_GD_P (type) || GOT_TLS_GDESC_P (type))
 675   unsigned char tls_type;
 676
 677   /* Offset of the GOTPLT entry reserved for the TLS descriptor,
 678      starting at the end of the jump table.  */
 679   bfd_vma tlsdesc_got;
 680 };
 681
 682 #define elf_x86_64_hash_entry(ent) \
 683   ((struct elf_x86_64_link_hash_entry *)(ent))
 684
 685 struct elf_x86_64_obj_tdata
 686 {
 687   struct elf_obj_tdata root;
 688
 689   /* tls_type for each local got entry.  */
 690   char *local_got_tls_type;
 691
 692   /* GOTPLT entries for TLS descriptors.  */
 693   bfd_vma *local_tlsdesc_gotent;
 694 };
 695
 696 #define elf_x86_64_tdata(abfd) \
 697   ((struct elf_x86_64_obj_tdata *) (abfd)->tdata.any)
 698
 699 #define elf_x86_64_local_got_tls_type(abfd) \
 700   (elf_x86_64_tdata (abfd)->local_got_tls_type)
 701
 702 #define elf_x86_64_local_tlsdesc_gotent(abfd) \
 703   (elf_x86_64_tdata (abfd)->local_tlsdesc_gotent)
 704
 705 #define is_x86_64_elf(bfd)                              \
 706   (bfd_get_flavour (bfd) == bfd_target_elf_flavour      \
 707    && elf_tdata (bfd) != NULL                           \
 708    && elf_object_id (bfd) == X86_64_ELF_DATA)
 709
 710 static bfd_boolean
 711 elf_x86_64_mkobject (bfd *abfd)
 712 {
 713   return bfd_elf_allocate_object (abfd, sizeof (struct elf_x86_64_obj_tdata),
 714                                   X86_64_ELF_DATA);
 715 }
 716
 717 /* x86-64 ELF linker hash table.  */
 718
 719 struct elf_x86_64_link_hash_table
 720 {
 721   struct elf_link_hash_table elf;
 722
 723   /* Short-cuts to get to dynamic linker sections.  */
 724   asection *sdynbss;
 725   asection *srelbss;
 726   asection *plt_eh_frame;
 727
 728   union
 729   {
 730     bfd_signed_vma refcount;
 731     bfd_vma offset;
 732   } tls_ld_got;
 733
 734   /* The amount of space used by the jump slots in the GOT.  */
 735   bfd_vma sgotplt_jump_table_size;
 736
 737   /* Small local sym cache.  */
 738   struct sym_cache sym_cache;
 739
 740   bfd_vma (*r_info) (bfd_vma, bfd_vma);
 741   bfd_vma (*r_sym) (bfd_vma);
 742   unsigned int pointer_r_type;
 743   const char *dynamic_interpreter;
 744   int dynamic_interpreter_size;
 745
 746   /* _TLS_MODULE_BASE_ symbol.  */
 747   struct bfd_link_hash_entry *tls_module_base;
 748
 749   /* Used by local STT_GNU_IFUNC symbols.  */
 750   htab_t loc_hash_table;
 751   void * loc_hash_memory;
 752
 753   /* The offset into splt of the PLT entry for the TLS descriptor
 754      resolver.  Special values are 0, if not necessary (or not found
 755      to be necessary yet), and -1 if needed but not determined
 756      yet.  */
 757   bfd_vma tlsdesc_plt;
 758   /* The offset into sgot of the GOT entry used by the PLT entry
 759      above.  */
 760   bfd_vma tlsdesc_got;
 761
 762   /* The index of the next R_X86_64_JUMP_SLOT entry in .rela.plt.  */
 763   bfd_vma next_jump_slot_index;
 764   /* The index of the next R_X86_64_IRELATIVE entry in .rela.plt.  */
 765   bfd_vma next_irelative_index;
 766 };
 767
 768 /* Get the x86-64 ELF linker hash table from a link_info structure.  */
 769
 770 #define elf_x86_64_hash_table(p) \
 771   (elf_hash_table_id ((struct elf_link_hash_table *) ((p)->hash)) \
 772   == X86_64_ELF_DATA ? ((struct elf_x86_64_link_hash_table *) ((p)->hash)) : NULL)
 773
 774 #define elf_x86_64_compute_jump_table_size(htab) \
 775   ((htab)->elf.srelplt->reloc_count * GOT_ENTRY_SIZE)
 776
 777 /* Create an entry in an x86-64 ELF linker hash table.  */
 778
 779 static struct bfd_hash_entry *
 780 elf_x86_64_link_hash_newfunc (struct bfd_hash_entry *entry,
 781                               struct bfd_hash_table *table,
 782                               const char *string)
 783 {
 784   /* Allocate the structure if it has not already been allocated by a
 785      subclass.  */
 786   if (entry == NULL)
 787     {
 788       entry = (struct bfd_hash_entry *)
 789           bfd_hash_allocate (table,
 790                              sizeof (struct elf_x86_64_link_hash_entry));
 791       if (entry == NULL)
 792         return entry;
 793     }
 794
 795   /* Call the allocation method of the superclass.  */
 796   entry = _bfd_elf_link_hash_newfunc (entry, table, string);
 797   if (entry != NULL)
 798     {
 799       struct elf_x86_64_link_hash_entry *eh;
 800
 801       eh = (struct elf_x86_64_link_hash_entry *) entry;
 802       eh->dyn_relocs = NULL;
 803       eh->tls_type = GOT_UNKNOWN;
 804       eh->tlsdesc_got = (bfd_vma) -1;
 805     }
 806
 807   return entry;
 808 }
 809
 810 /* Compute a hash of a local hash entry.  We use elf_link_hash_entry
 811   for local symbol so that we can handle local STT_GNU_IFUNC symbols
 812   as global symbol.  We reuse indx and dynstr_index for local symbol
 813   hash since they aren't used by global symbols in this backend.  */
 814
 815 static hashval_t
 816 elf_x86_64_local_htab_hash (const void *ptr)
 817 {
 818   struct elf_link_hash_entry *h
 819     = (struct elf_link_hash_entry *) ptr;
 820   return ELF_LOCAL_SYMBOL_HASH (h->indx, h->dynstr_index);
 821 }
 822
 823 /* Compare local hash entries.  */
 824
 825 static int
 826 elf_x86_64_local_htab_eq (const void *ptr1, const void *ptr2)
 827 {
 828   struct elf_link_hash_entry *h1
 829      = (struct elf_link_hash_entry *) ptr1;
 830   struct elf_link_hash_entry *h2
 831     = (struct elf_link_hash_entry *) ptr2;
 832
 833   return h1->indx == h2->indx && h1->dynstr_index == h2->dynstr_index;
 834 }
 835
 836 /* Find and/or create a hash entry for local symbol.  */
 837
 838 static struct elf_link_hash_entry *
 839 elf_x86_64_get_local_sym_hash (struct elf_x86_64_link_hash_table *htab,
 840                                bfd *abfd, const Elf_Internal_Rela *rel,
 841                                bfd_boolean create)
 842 {
 843   struct elf_x86_64_link_hash_entry e, *ret;
 844   asection *sec = abfd->sections;
 845   hashval_t h = ELF_LOCAL_SYMBOL_HASH (sec->id,
 846                                        htab->r_sym (rel->r_info));
 847   void **slot;
 848
 849   e.elf.indx = sec->id;
 850   e.elf.dynstr_index = htab->r_sym (rel->r_info);
 851   slot = htab_find_slot_with_hash (htab->loc_hash_table, &e, h,
 852                                    create ? INSERT : NO_INSERT);
 853
 854   if (!slot)
 855     return NULL;
 856
 857   if (*slot)
 858     {
 859       ret = (struct elf_x86_64_link_hash_entry *) *slot;
 860       return &ret->elf;
 861     }
 862
 863   ret = (struct elf_x86_64_link_hash_entry *)
 864         objalloc_alloc ((struct objalloc *) htab->loc_hash_memory,
 865                         sizeof (struct elf_x86_64_link_hash_entry));
 866   if (ret)
 867     {
 868       memset (ret, 0, sizeof (*ret));
 869       ret->elf.indx = sec->id;
 870       ret->elf.dynstr_index = htab->r_sym (rel->r_info);
 871       ret->elf.dynindx = -1;
 872       *slot = ret;
 873     }
 874   return &ret->elf;
 875 }
 876
 877 /* Create an X86-64 ELF linker hash table.  */
 878
 879 static struct bfd_link_hash_table *
 880 elf_x86_64_link_hash_table_create (bfd *abfd)
 881 {
 882   struct elf_x86_64_link_hash_table *ret;
 883   bfd_size_type amt = sizeof (struct elf_x86_64_link_hash_table);
 884
 885   ret = (struct elf_x86_64_link_hash_table *) bfd_malloc (amt);
 886   if (ret == NULL)
 887     return NULL;
 888
 889   if (!_bfd_elf_link_hash_table_init (&ret->elf, abfd,
 890                                       elf_x86_64_link_hash_newfunc,
 891                                       sizeof (struct elf_x86_64_link_hash_entry),
 892                                       X86_64_ELF_DATA))
 893     {
 894       free (ret);
 895       return NULL;
 896     }
 897
 898   ret->sdynbss = NULL;
 899   ret->srelbss = NULL;
 900   ret->plt_eh_frame = NULL;
 901   ret->sym_cache.abfd = NULL;
 902   ret->tlsdesc_plt = 0;
 903   ret->tlsdesc_got = 0;
 904   ret->tls_ld_got.refcount = 0;
 905   ret->sgotplt_jump_table_size = 0;
 906   ret->tls_module_base = NULL;
 907   ret->next_jump_slot_index = 0;
 908   ret->next_irelative_index = 0;
 909
 910   if (ABI_64_P (abfd))
 911     {
 912       ret->r_info = elf64_r_info;
 913       ret->r_sym = elf64_r_sym;
 914       ret->pointer_r_type = R_X86_64_64;
 915       ret->dynamic_interpreter = ELF64_DYNAMIC_INTERPRETER;
 916       ret->dynamic_interpreter_size = sizeof ELF64_DYNAMIC_INTERPRETER;
 917     }
 918   else
 919     {
 920       ret->r_info = elf32_r_info;
 921       ret->r_sym = elf32_r_sym;
 922       ret->pointer_r_type = R_X86_64_32;
 923       ret->dynamic_interpreter = ELF32_DYNAMIC_INTERPRETER;
 924       ret->dynamic_interpreter_size = sizeof ELF32_DYNAMIC_INTERPRETER;
 925     }
 926
 927   ret->loc_hash_table = htab_try_create (1024,
 928                                          elf_x86_64_local_htab_hash,
 929                                          elf_x86_64_local_htab_eq,
 930                                          NULL);
 931   ret->loc_hash_memory = objalloc_create ();
 932   if (!ret->loc_hash_table || !ret->loc_hash_memory)
 933     {
 934       free (ret);
 935       return NULL;
 936     }
 937
 938   return &ret->elf.root;
 939 }
 940
 941 /* Destroy an X86-64 ELF linker hash table.  */
 942
 943 static void
 944 elf_x86_64_link_hash_table_free (struct bfd_link_hash_table *hash)
 945 {
 946   struct elf_x86_64_link_hash_table *htab
 947     = (struct elf_x86_64_link_hash_table *) hash;
 948
 949   if (htab->loc_hash_table)
 950     htab_delete (htab->loc_hash_table);
 951   if (htab->loc_hash_memory)
 952     objalloc_free ((struct objalloc *) htab->loc_hash_memory);
 953   _bfd_generic_link_hash_table_free (hash);
 954 }
 955
 956 /* Create .plt, .rela.plt, .got, .got.plt, .rela.got, .dynbss, and
 957    .rela.bss sections in DYNOBJ, and set up shortcuts to them in our
 958    hash table.  */
 959
 960 static bfd_boolean
 961 elf_x86_64_create_dynamic_sections (bfd *dynobj,
 962                                     struct bfd_link_info *info)
 963 {
 964   struct elf_x86_64_link_hash_table *htab;
 965
 966   if (!_bfd_elf_create_dynamic_sections (dynobj, info))
 967     return FALSE;
 968
 969   htab = elf_x86_64_hash_table (info);
 970   if (htab == NULL)
 971     return FALSE;
 972
 973   htab->sdynbss = bfd_get_linker_section (dynobj, ".dynbss");
 974   if (!info->shared)
 975     htab->srelbss = bfd_get_linker_section (dynobj, ".rela.bss");
 976
 977   if (!htab->sdynbss
 978       || (!info->shared && !htab->srelbss))
 979     abort ();
 980
 981   if (!info->no_ld_generated_unwind_info
 982       && htab->plt_eh_frame == NULL
 983       && htab->elf.splt != NULL)
 984     {
 985       flagword flags = (SEC_ALLOC | SEC_LOAD | SEC_READONLY
 986                         | SEC_HAS_CONTENTS | SEC_IN_MEMORY
 987                         | SEC_LINKER_CREATED);
 988       htab->plt_eh_frame
 989         = bfd_make_section_anyway_with_flags (dynobj, ".eh_frame", flags);
 990       if (htab->plt_eh_frame == NULL
 991           || !bfd_set_section_alignment (dynobj, htab->plt_eh_frame, 3))
 992         return FALSE;
 993     }
 994   return TRUE;
 995 }
 996
 997 /* Copy the extra info we tack onto an elf_link_hash_entry.  */
 998
 999 static void
1000 elf_x86_64_copy_indirect_symbol (struct bfd_link_info *info,
1001                                  struct elf_link_hash_entry *dir,
1002                                  struct elf_link_hash_entry *ind)
1003 {
1004   struct elf_x86_64_link_hash_entry *edir, *eind;
1005
1006   edir = (struct elf_x86_64_link_hash_entry *) dir;
1007   eind = (struct elf_x86_64_link_hash_entry *) ind;
1008
1009   if (eind->dyn_relocs != NULL)
1010     {
1011       if (edir->dyn_relocs != NULL)
1012         {
1013           struct elf_dyn_relocs **pp;
1014           struct elf_dyn_relocs *p;
1015
1016           /* Add reloc counts against the indirect sym to the direct sym
1017              list.  Merge any entries against the same section.  */
1018           for (pp = &eind->dyn_relocs; (p = *pp) != NULL; )
1019             {
1020               struct elf_dyn_relocs *q;
1021
1022               for (q = edir->dyn_relocs; q != NULL; q = q->next)
1023                 if (q->sec == p->sec)
1024                   {
1025                     q->pc_count += p->pc_count;
1026                     q->count += p->count;
1027                     *pp = p->next;
1028                     break;
1029                   }
1030               if (q == NULL)
1031                 pp = &p->next;
1032             }
1033           *pp = edir->dyn_relocs;
1034         }
1035
1036       edir->dyn_relocs = eind->dyn_relocs;
1037       eind->dyn_relocs = NULL;
1038     }
1039
1040   if (ind->root.type == bfd_link_hash_indirect
1041       && dir->got.refcount <= 0)
1042     {
1043       edir->tls_type = eind->tls_type;
1044       eind->tls_type = GOT_UNKNOWN;
1045     }
1046
1047   if (ELIMINATE_COPY_RELOCS
1048       && ind->root.type != bfd_link_hash_indirect
1049       && dir->dynamic_adjusted)
1050     {
1051       /* If called to transfer flags for a weakdef during processing
1052          of elf_adjust_dynamic_symbol, don't copy non_got_ref.
1053          We clear it ourselves for ELIMINATE_COPY_RELOCS.  */
1054       dir->ref_dynamic |= ind->ref_dynamic;
1055       dir->ref_regular |= ind->ref_regular;
1056       dir->ref_regular_nonweak |= ind->ref_regular_nonweak;
1057       dir->needs_plt |= ind->needs_plt;
1058       dir->pointer_equality_needed |= ind->pointer_equality_needed;
1059     }
1060   else
1061     _bfd_elf_link_hash_copy_indirect (info, dir, ind);
1062 }
1063
1064 static bfd_boolean
1065 elf64_x86_64_elf_object_p (bfd *abfd)
1066 {
1067   /* Set the right machine number for an x86-64 elf64 file.  */
1068   bfd_default_set_arch_mach (abfd, bfd_arch_i386, bfd_mach_x86_64);
1069   return TRUE;
1070 }
1071
1072 static bfd_boolean
1073 elf32_x86_64_elf_object_p (bfd *abfd)
1074 {
1075   /* Set the right machine number for an x86-64 elf32 file.  */
1076   bfd_default_set_arch_mach (abfd, bfd_arch_i386, bfd_mach_x64_32);
1077   return TRUE;
1078 }
1079
1080 /* Return TRUE if the TLS access code sequence support transition
1081    from R_TYPE.  */
1082
1083 static bfd_boolean
1084 elf_x86_64_check_tls_transition (bfd *abfd,
1085                                  struct bfd_link_info *info,
1086                                  asection *sec,
1087                                  bfd_byte *contents,
1088                                  Elf_Internal_Shdr *symtab_hdr,
1089                                  struct elf_link_hash_entry **sym_hashes,
1090                                  unsigned int r_type,
1091                                  const Elf_Internal_Rela *rel,
1092                                  const Elf_Internal_Rela *relend)
1093 {
1094   unsigned int val;
1095   unsigned long r_symndx;
1096   struct elf_link_hash_entry *h;
1097   bfd_vma offset;
1098   struct elf_x86_64_link_hash_table *htab;
1099
1100   /* Get the section contents.  */
1101   if (contents == NULL)
1102     {
1103       if (elf_section_data (sec)->this_hdr.contents != NULL)
1104         contents = elf_section_data (sec)->this_hdr.contents;
1105       else
1106         {
1107           /* FIXME: How to better handle error condition?  */
1108           if (!bfd_malloc_and_get_section (abfd, sec, &contents))
1109             return FALSE;
1110
1111           /* Cache the section contents for elf_link_input_bfd.  */
1112           elf_section_data (sec)->this_hdr.contents = contents;
1113         }
1114     }
1115
1116   htab = elf_x86_64_hash_table (info);
1117   offset = rel->r_offset;
1118   switch (r_type)
1119     {
1120     case R_X86_64_TLSGD:
1121     case R_X86_64_TLSLD:
1122       if ((rel + 1) >= relend)
1123         return FALSE;
1124
1125       if (r_type == R_X86_64_TLSGD)
1126         {
1127           /* Check transition from GD access model.  For 64bit, only
1128                 .byte 0x66; leaq foo@tlsgd(%rip), %rdi
1129                 .word 0x6666; rex64; call __tls_get_addr
1130              can transit to different access model.  For 32bit, only
1131                 leaq foo@tlsgd(%rip), %rdi
1132                 .word 0x6666; rex64; call __tls_get_addr
1133              can transit to different access model.  */
1134
1135           static const unsigned char call[] = { 0x66, 0x66, 0x48, 0xe8 };
1136           static const unsigned char leaq[] = { 0x66, 0x48, 0x8d, 0x3d };
1137
1138           if ((offset + 12) > sec->size
1139               || memcmp (contents + offset + 4, call, 4) != 0)
1140             return FALSE;
1141
1142           if (ABI_64_P (abfd))
1143             {
1144               if (offset < 4
1145                   || memcmp (contents + offset - 4, leaq, 4) != 0)
1146                 return FALSE;
1147             }
1148           else
1149             {
1150               if (offset < 3
1151                   || memcmp (contents + offset - 3, leaq + 1, 3) != 0)
1152                 return FALSE;
1153             }
1154         }
1155       else
1156         {
1157           /* Check transition from LD access model.  Only
1158                 leaq foo@tlsld(%rip), %rdi;
1159                 call __tls_get_addr
1160              can transit to different access model.  */
1161
1162           static const unsigned char lea[] = { 0x48, 0x8d, 0x3d };
1163
1164           if (offset < 3 || (offset + 9) > sec->size)
1165             return FALSE;
1166
1167           if (memcmp (contents + offset - 3, lea, 3) != 0
1168               || 0xe8 != *(contents + offset + 4))
1169             return FALSE;
1170         }
1171
1172       r_symndx = htab->r_sym (rel[1].r_info);
1173       if (r_symndx < symtab_hdr->sh_info)
1174         return FALSE;
1175
1176       h = sym_hashes[r_symndx - symtab_hdr->sh_info];
1177       /* Use strncmp to check __tls_get_addr since __tls_get_addr
1178          may be versioned.  */
1179       return (h != NULL
1180               && h->root.root.string != NULL
1181               && (ELF32_R_TYPE (rel[1].r_info) == R_X86_64_PC32
1182                   || ELF32_R_TYPE (rel[1].r_info) == R_X86_64_PLT32)
1183               && (strncmp (h->root.root.string,
1184                            "__tls_get_addr", 14) == 0));
1185
1186     case R_X86_64_GOTTPOFF:
1187       /* Check transition from IE access model:
1188                 mov foo@gottpoff(%rip), %reg
1189                 add foo@gottpoff(%rip), %reg
1190        */
1191
1192       /* Check REX prefix first.  */
1193       if (offset >= 3 && (offset + 4) <= sec->size)
1194         {
1195           val = bfd_get_8 (abfd, contents + offset - 3);
1196           if (val != 0x48 && val != 0x4c)
1197             {
1198               /* X32 may have 0x44 REX prefix or no REX prefix.  */
1199               if (ABI_64_P (abfd))
1200                 return FALSE;
1201             }
1202         }
1203       else
1204         {
1205           /* X32 may not have any REX prefix.  */
1206           if (ABI_64_P (abfd))
1207             return FALSE;
1208           if (offset < 2 || (offset + 3) > sec->size)
1209             return FALSE;
1210         }
1211
1212       val = bfd_get_8 (abfd, contents + offset - 2);
1213       if (val != 0x8b && val != 0x03)
1214         return FALSE;
1215
1216       val = bfd_get_8 (abfd, contents + offset - 1);
1217       return (val & 0xc7) == 5;
1218
1219     case R_X86_64_GOTPC32_TLSDESC:
1220       /* Check transition from GDesc access model:
1221                 leaq x@tlsdesc(%rip), %rax
1222
1223          Make sure it's a leaq adding rip to a 32-bit offset
1224          into any register, although it's probably almost always
1225          going to be rax.  */
1226
1227       if (offset < 3 || (offset + 4) > sec->size)
1228         return FALSE;
1229
1230       val = bfd_get_8 (abfd, contents + offset - 3);
1231       if ((val & 0xfb) != 0x48)
1232         return FALSE;
1233
1234       if (bfd_get_8 (abfd, contents + offset - 2) != 0x8d)
1235         return FALSE;
1236
1237       val = bfd_get_8 (abfd, contents + offset - 1);
1238       return (val & 0xc7) == 0x05;
1239
1240     case R_X86_64_TLSDESC_CALL:
1241       /* Check transition from GDesc access model:
1242                 call *x@tlsdesc(%rax)
1243        */
1244       if (offset + 2 <= sec->size)
1245         {
1246           /* Make sure that it's a call *x@tlsdesc(%rax).  */
1247           static const unsigned char call[] = { 0xff, 0x10 };
1248           return memcmp (contents + offset, call, 2) == 0;
1249         }
1250
1251       return FALSE;
1252
1253     default:
1254       abort ();
1255     }
1256 }
1257
1258 /* Return TRUE if the TLS access transition is OK or no transition
1259    will be performed.  Update R_TYPE if there is a transition.  */
1260
1261 static bfd_boolean
1262 elf_x86_64_tls_transition (struct bfd_link_info *info, bfd *abfd,
1263                            asection *sec, bfd_byte *contents,
1264                            Elf_Internal_Shdr *symtab_hdr,
1265                            struct elf_link_hash_entry **sym_hashes,
1266                            unsigned int *r_type, int tls_type,
1267                            const Elf_Internal_Rela *rel,
1268                            const Elf_Internal_Rela *relend,
1269                            struct elf_link_hash_entry *h,
1270                            unsigned long r_symndx)
1271 {
1272   unsigned int from_type = *r_type;
1273   unsigned int to_type = from_type;
1274   bfd_boolean check = TRUE;
1275
1276   /* Skip TLS transition for functions.  */
1277   if (h != NULL
1278       && (h->type == STT_FUNC
1279           || h->type == STT_GNU_IFUNC))
1280     return TRUE;
1281
1282   switch (from_type)
1283     {
1284     case R_X86_64_TLSGD:
1285     case R_X86_64_GOTPC32_TLSDESC:
1286     case R_X86_64_TLSDESC_CALL:
1287     case R_X86_64_GOTTPOFF:
1288       if (info->executable)
1289         {
1290           if (h == NULL)
1291             to_type = R_X86_64_TPOFF32;
1292           else
1293             to_type = R_X86_64_GOTTPOFF;
1294         }
1295
1296       /* When we are called from elf_x86_64_relocate_section,
1297          CONTENTS isn't NULL and there may be additional transitions
1298          based on TLS_TYPE.  */
1299       if (contents != NULL)
1300         {
1301           unsigned int new_to_type = to_type;
1302
1303           if (info->executable
1304               && h != NULL
1305               && h->dynindx == -1
1306               && tls_type == GOT_TLS_IE)
1307             new_to_type = R_X86_64_TPOFF32;
1308
1309           if (to_type == R_X86_64_TLSGD
1310               || to_type == R_X86_64_GOTPC32_TLSDESC
1311               || to_type == R_X86_64_TLSDESC_CALL)
1312             {
1313               if (tls_type == GOT_TLS_IE)
1314                 new_to_type = R_X86_64_GOTTPOFF;
1315             }
1316
1317           /* We checked the transition before when we were called from
1318              elf_x86_64_check_relocs.  We only want to check the new
1319              transition which hasn't been checked before.  */
1320           check = new_to_type != to_type && from_type == to_type;
1321           to_type = new_to_type;
1322         }
1323
1324       break;
1325
1326     case R_X86_64_TLSLD:
1327       if (info->executable)
1328         to_type = R_X86_64_TPOFF32;
1329       break;
1330
1331     default:
1332       return TRUE;
1333     }
1334
1335   /* Return TRUE if there is no transition.  */
1336   if (from_type == to_type)
1337     return TRUE;
1338
1339   /* Check if the transition can be performed.  */
1340   if (check
1341       && ! elf_x86_64_check_tls_transition (abfd, info, sec, contents,
1342                                             symtab_hdr, sym_hashes,
1343                                             from_type, rel, relend))
1344     {
1345       reloc_howto_type *from, *to;
1346       const char *name;
1347
1348       from = elf_x86_64_rtype_to_howto (abfd, from_type);
1349       to = elf_x86_64_rtype_to_howto (abfd, to_type);
1350
1351       if (h)
1352         name = h->root.root.string;
1353       else
1354         {
1355           struct elf_x86_64_link_hash_table *htab;
1356
1357           htab = elf_x86_64_hash_table (info);
1358           if (htab == NULL)
1359             name = "*unknown*";
1360           else
1361             {
1362               Elf_Internal_Sym *isym;
1363
1364               isym = bfd_sym_from_r_symndx (&htab->sym_cache,
1365                                             abfd, r_symndx);
1366               name = bfd_elf_sym_name (abfd, symtab_hdr, isym, NULL);
1367             }
1368         }
1369
1370       (*_bfd_error_handler)
1371         (_("%B: TLS transition from %s to %s against `%s' at 0x%lx "
1372            "in section `%A' failed"),
1373          abfd, sec, from->name, to->name, name,
1374          (unsigned long) rel->r_offset);
1375       bfd_set_error (bfd_error_bad_value);
1376       return FALSE;
1377     }
1378
1379   *r_type = to_type;
1380   return TRUE;
1381 }
1382
1383 /* Look through the relocs for a section during the first phase, and
1384    calculate needed space in the global offset table, procedure
1385    linkage table, and dynamic reloc sections.  */
1386
1387 static bfd_boolean
1388 elf_x86_64_check_relocs (bfd *abfd, struct bfd_link_info *info,
1389                          asection *sec,
1390                          const Elf_Internal_Rela *relocs)
1391 {
1392   struct elf_x86_64_link_hash_table *htab;
1393   Elf_Internal_Shdr *symtab_hdr;
1394   struct elf_link_hash_entry **sym_hashes;
1395   const Elf_Internal_Rela *rel;
1396   const Elf_Internal_Rela *rel_end;
1397   asection *sreloc;
1398
1399   if (info->relocatable)
1400     return TRUE;
1401
1402   BFD_ASSERT (is_x86_64_elf (abfd));
1403
1404   htab = elf_x86_64_hash_table (info);
1405   if (htab == NULL)
1406     return FALSE;
1407
1408   symtab_hdr = &elf_symtab_hdr (abfd);
1409   sym_hashes = elf_sym_hashes (abfd);
1410
1411   sreloc = NULL;
1412
1413   rel_end = relocs + sec->reloc_count;
1414   for (rel = relocs; rel < rel_end; rel++)
1415     {
1416       unsigned int r_type;
1417       unsigned long r_symndx;
1418       struct elf_link_hash_entry *h;
1419       Elf_Internal_Sym *isym;
1420       const char *name;
1421
1422       r_symndx = htab->r_sym (rel->r_info);
1423       r_type = ELF32_R_TYPE (rel->r_info);
1424
1425       if (r_symndx >= NUM_SHDR_ENTRIES (symtab_hdr))
1426         {
1427           (*_bfd_error_handler) (_("%B: bad symbol index: %d"),
1428                                  abfd, r_symndx);
1429           return FALSE;
1430         }
1431
1432       if (r_symndx < symtab_hdr->sh_info)
1433         {
1434           /* A local symbol.  */
1435           isym = bfd_sym_from_r_symndx (&htab->sym_cache,
1436                                         abfd, r_symndx);
1437           if (isym == NULL)
1438             return FALSE;
1439
1440           /* Check relocation against local STT_GNU_IFUNC symbol.  */
1441           if (ELF_ST_TYPE (isym->st_info) == STT_GNU_IFUNC)
1442             {
1443               h = elf_x86_64_get_local_sym_hash (htab, abfd, rel,
1444                                                  TRUE);
1445               if (h == NULL)
1446                 return FALSE;
1447
1448               /* Fake a STT_GNU_IFUNC symbol.  */
1449               h->type = STT_GNU_IFUNC;
1450               h->def_regular = 1;
1451               h->ref_regular = 1;
1452               h->forced_local = 1;
1453               h->root.type = bfd_link_hash_defined;
1454             }
1455           else
1456             h = NULL;
1457         }
1458       else
1459         {
1460           isym = NULL;
1461           h = sym_hashes[r_symndx - symtab_hdr->sh_info];
1462           while (h->root.type == bfd_link_hash_indirect
1463                  || h->root.type == bfd_link_hash_warning)
1464             h = (struct elf_link_hash_entry *) h->root.u.i.link;
1465         }
1466
1467       /* Check invalid x32 relocations.  */
1468       if (!ABI_64_P (abfd))
1469         switch (r_type)
1470           {
1471           default:
1472             break;
1473
1474           case R_X86_64_DTPOFF64:
1475           case R_X86_64_TPOFF64:
1476           case R_X86_64_PC64:
1477           case R_X86_64_GOTOFF64:
1478           case R_X86_64_GOT64:
1479           case R_X86_64_GOTPCREL64:
1480           case R_X86_64_GOTPC64:
1481           case R_X86_64_GOTPLT64:
1482           case R_X86_64_PLTOFF64:
1483               {
1484                 if (h)
1485                   name = h->root.root.string;
1486                 else
1487                   name = bfd_elf_sym_name (abfd, symtab_hdr, isym,
1488                                            NULL);
1489                 (*_bfd_error_handler)
1490                   (_("%B: relocation %s against symbol `%s' isn't "
1491                      "supported in x32 mode"), abfd,
1492                    x86_64_elf_howto_table[r_type].name, name);
1493                 bfd_set_error (bfd_error_bad_value);
1494                 return FALSE;
1495               }
1496             break;
1497           }
1498
1499       if (h != NULL)
1500         {
1501           /* Create the ifunc sections for static executables.  If we
1502              never see an indirect function symbol nor we are building
1503              a static executable, those sections will be empty and
1504              won't appear in output.  */
1505           switch (r_type)
1506             {
1507             default:
1508               break;
1509
1510             case R_X86_64_32S:
1511             case R_X86_64_32:
1512             case R_X86_64_64:
1513             case R_X86_64_PC32:
1514             case R_X86_64_PC64:
1515             case R_X86_64_PLT32:
1516             case R_X86_64_GOTPCREL:
1517             case R_X86_64_GOTPCREL64:
1518               if (htab->elf.dynobj == NULL)
1519                 htab->elf.dynobj = abfd;
1520               if (!_bfd_elf_create_ifunc_sections (htab->elf.dynobj, info))
1521                 return FALSE;
1522               break;
1523             }
1524
1525           /* Since STT_GNU_IFUNC symbol must go through PLT, we handle
1526              it here if it is defined in a non-shared object.  */
1527           if (h->type == STT_GNU_IFUNC
1528               && h->def_regular)
1529             {
1530               /* It is referenced by a non-shared object. */
1531               h->ref_regular = 1;
1532               h->needs_plt = 1;
1533
1534               /* STT_GNU_IFUNC symbol must go through PLT.  */
1535               h->plt.refcount += 1;
1536
1537               /* STT_GNU_IFUNC needs dynamic sections.  */
1538               if (htab->elf.dynobj == NULL)
1539                 htab->elf.dynobj = abfd;
1540
1541               switch (r_type)
1542                 {
1543                 default:
1544                   if (h->root.root.string)
1545                     name = h->root.root.string;
1546                   else
1547                     name = bfd_elf_sym_name (abfd, symtab_hdr, isym,
1548                                              NULL);
1549                   (*_bfd_error_handler)
1550                     (_("%B: relocation %s against STT_GNU_IFUNC "
1551                        "symbol `%s' isn't handled by %s"), abfd,
1552                      x86_64_elf_howto_table[r_type].name,
1553                      name, __FUNCTION__);
1554                   bfd_set_error (bfd_error_bad_value);
1555                   return FALSE;
1556
1557                 case R_X86_64_32:
1558                   if (ABI_64_P (abfd))
1559                     goto not_pointer;
1560                 case R_X86_64_64:
1561                   h->non_got_ref = 1;
1562                   h->pointer_equality_needed = 1;
1563                   if (info->shared)
1564                     {
1565                       /* We must copy these reloc types into the output
1566                          file.  Create a reloc section in dynobj and
1567                          make room for this reloc.  */
1568                       sreloc = _bfd_elf_create_ifunc_dyn_reloc
1569                         (abfd, info, sec, sreloc,
1570                          &((struct elf_x86_64_link_hash_entry *) h)->dyn_relocs);
1571                       if (sreloc == NULL)
1572                         return FALSE;
1573                     }
1574                   break;
1575
1576                 case R_X86_64_32S:
1577                 case R_X86_64_PC32:
1578                 case R_X86_64_PC64:
1579 not_pointer:
1580                   h->non_got_ref = 1;
1581                   if (r_type != R_X86_64_PC32
1582                       && r_type != R_X86_64_PC64)
1583                     h->pointer_equality_needed = 1;
1584                   break;
1585
1586                 case R_X86_64_PLT32:
1587                   break;
1588
1589                 case R_X86_64_GOTPCREL:
1590                 case R_X86_64_GOTPCREL64:
1591                   h->got.refcount += 1;
1592                   if (htab->elf.sgot == NULL
1593                       && !_bfd_elf_create_got_section (htab->elf.dynobj,
1594                                                        info))
1595                     return FALSE;
1596                   break;
1597                 }
1598
1599               continue;
1600             }
1601         }
1602
1603       if (! elf_x86_64_tls_transition (info, abfd, sec, NULL,
1604                                        symtab_hdr, sym_hashes,
1605                                        &r_type, GOT_UNKNOWN,
1606                                        rel, rel_end, h, r_symndx))
1607         return FALSE;
1608
1609       switch (r_type)
1610         {
1611         case R_X86_64_TLSLD:
1612           htab->tls_ld_got.refcount += 1;
1613           goto create_got;
1614
1615         case R_X86_64_TPOFF32:
1616           if (!info->executable && ABI_64_P (abfd))
1617             {
1618               if (h)
1619                 name = h->root.root.string;
1620               else
1621                 name = bfd_elf_sym_name (abfd, symtab_hdr, isym,
1622                                          NULL);
1623               (*_bfd_error_handler)
1624                 (_("%B: relocation %s against `%s' can not be used when making a shared object; recompile with -fPIC"),
1625                  abfd,
1626                  x86_64_elf_howto_table[r_type].name, name);
1627               bfd_set_error (bfd_error_bad_value);
1628               return FALSE;
1629             }
1630           break;
1631
1632         case R_X86_64_GOTTPOFF:
1633           if (!info->executable)
1634             info->flags |= DF_STATIC_TLS;
1635           /* Fall through */
1636
1637         case R_X86_64_GOT32:
1638         case R_X86_64_GOTPCREL:
1639         case R_X86_64_TLSGD:
1640         case R_X86_64_GOT64:
1641         case R_X86_64_GOTPCREL64:
1642         case R_X86_64_GOTPLT64:
1643         case R_X86_64_GOTPC32_TLSDESC:
1644         case R_X86_64_TLSDESC_CALL:
1645           /* This symbol requires a global offset table entry.  */
1646           {
1647             int tls_type, old_tls_type;
1648
1649             switch (r_type)
1650               {
1651               default: tls_type = GOT_NORMAL; break;
1652               case R_X86_64_TLSGD: tls_type = GOT_TLS_GD; break;
1653               case R_X86_64_GOTTPOFF: tls_type = GOT_TLS_IE; break;
1654               case R_X86_64_GOTPC32_TLSDESC:
1655               case R_X86_64_TLSDESC_CALL:
1656                 tls_type = GOT_TLS_GDESC; break;
1657               }
1658
1659             if (h != NULL)
1660               {
1661                 if (r_type == R_X86_64_GOTPLT64)
1662                   {
1663                     /* This relocation indicates that we also need
1664                        a PLT entry, as this is a function.  We don't need
1665                        a PLT entry for local symbols.  */
1666                     h->needs_plt = 1;
1667                     h->plt.refcount += 1;
1668                   }
1669                 h->got.refcount += 1;
1670                 old_tls_type = elf_x86_64_hash_entry (h)->tls_type;
1671               }
1672             else
1673               {
1674                 bfd_signed_vma *local_got_refcounts;
1675
1676                 /* This is a global offset table entry for a local symbol.  */
1677                 local_got_refcounts = elf_local_got_refcounts (abfd);
1678                 if (local_got_refcounts == NULL)
1679                   {
1680                     bfd_size_type size;
1681
1682                     size = symtab_hdr->sh_info;
1683                     size *= sizeof (bfd_signed_vma)
1684                       + sizeof (bfd_vma) + sizeof (char);
1685                     local_got_refcounts = ((bfd_signed_vma *)
1686                                            bfd_zalloc (abfd, size));
1687                     if (local_got_refcounts == NULL)
1688                       return FALSE;
1689                     elf_local_got_refcounts (abfd) = local_got_refcounts;
1690                     elf_x86_64_local_tlsdesc_gotent (abfd)
1691                       = (bfd_vma *) (local_got_refcounts + symtab_hdr->sh_info);
1692                     elf_x86_64_local_got_tls_type (abfd)
1693                       = (char *) (local_got_refcounts + 2 * symtab_hdr->sh_info);
1694                   }
1695                 local_got_refcounts[r_symndx] += 1;
1696                 old_tls_type
1697                   = elf_x86_64_local_got_tls_type (abfd) [r_symndx];
1698               }
1699
1700             /* If a TLS symbol is accessed using IE at least once,
1701                there is no point to use dynamic model for it.  */
1702             if (old_tls_type != tls_type && old_tls_type != GOT_UNKNOWN
1703                 && (! GOT_TLS_GD_ANY_P (old_tls_type)
1704                     || tls_type != GOT_TLS_IE))
1705               {
1706                 if (old_tls_type == GOT_TLS_IE && GOT_TLS_GD_ANY_P (tls_type))
1707                   tls_type = old_tls_type;
1708                 else if (GOT_TLS_GD_ANY_P (old_tls_type)
1709                          && GOT_TLS_GD_ANY_P (tls_type))
1710                   tls_type |= old_tls_type;
1711                 else
1712                   {
1713                     if (h)
1714                       name = h->root.root.string;
1715                     else
1716                       name = bfd_elf_sym_name (abfd, symtab_hdr,
1717                                                isym, NULL);
1718                     (*_bfd_error_handler)
1719                       (_("%B: '%s' accessed both as normal and thread local symbol"),
1720                        abfd, name);
1721                     return FALSE;
1722                   }
1723               }
1724
1725             if (old_tls_type != tls_type)
1726               {
1727                 if (h != NULL)
1728                   elf_x86_64_hash_entry (h)->tls_type = tls_type;
1729                 else
1730                   elf_x86_64_local_got_tls_type (abfd) [r_symndx] = tls_type;
1731               }
1732           }
1733           /* Fall through */
1734
1735         case R_X86_64_GOTOFF64:
1736         case R_X86_64_GOTPC32:
1737         case R_X86_64_GOTPC64:
1738         create_got:
1739           if (htab->elf.sgot == NULL)
1740             {
1741               if (htab->elf.dynobj == NULL)
1742                 htab->elf.dynobj = abfd;
1743               if (!_bfd_elf_create_got_section (htab->elf.dynobj,
1744                                                 info))
1745                 return FALSE;
1746             }
1747           break;
1748
1749         case R_X86_64_PLT32:
1750           /* This symbol requires a procedure linkage table entry.  We
1751              actually build the entry in adjust_dynamic_symbol,
1752              because this might be a case of linking PIC code which is
1753              never referenced by a dynamic object, in which case we
1754              don't need to generate a procedure linkage table entry
1755              after all.  */
1756
1757           /* If this is a local symbol, we resolve it directly without
1758              creating a procedure linkage table entry.  */
1759           if (h == NULL)
1760             continue;
1761
1762           h->needs_plt = 1;
1763           h->plt.refcount += 1;
1764           break;
1765
1766         case R_X86_64_PLTOFF64:
1767           /* This tries to form the 'address' of a function relative
1768              to GOT.  For global symbols we need a PLT entry.  */
1769           if (h != NULL)
1770             {
1771               h->needs_plt = 1;
1772               h->plt.refcount += 1;
1773             }
1774           goto create_got;
1775
1776         case R_X86_64_32:
1777           if (!ABI_64_P (abfd))
1778             goto pointer;
1779         case R_X86_64_8:
1780         case R_X86_64_16:
1781         case R_X86_64_32S:
1782           /* Let's help debug shared library creation.  These relocs
1783              cannot be used in shared libs.  Don't error out for
1784              sections we don't care about, such as debug sections or
1785              non-constant sections.  */
1786           if (info->shared
1787               && (sec->flags & SEC_ALLOC) != 0
1788               && (sec->flags & SEC_READONLY) != 0)
1789             {
1790               if (h)
1791                 name = h->root.root.string;
1792               else
1793                 name = bfd_elf_sym_name (abfd, symtab_hdr, isym, NULL);
1794               (*_bfd_error_handler)
1795                 (_("%B: relocation %s against `%s' can not be used when making a shared object; recompile with -fPIC"),
1796                  abfd, x86_64_elf_howto_table[r_type].name, name);
1797               bfd_set_error (bfd_error_bad_value);
1798               return FALSE;
1799             }
1800           /* Fall through.  */
1801
1802         case R_X86_64_PC8:
1803         case R_X86_64_PC16:
1804         case R_X86_64_PC32:
1805         case R_X86_64_PC64:
1806         case R_X86_64_64:
1807 pointer:
1808           if (h != NULL && info->executable)
1809             {
1810               /* If this reloc is in a read-only section, we might
1811                  need a copy reloc.  We can't check reliably at this
1812                  stage whether the section is read-only, as input
1813                  sections have not yet been mapped to output sections.
1814                  Tentatively set the flag for now, and correct in
1815                  adjust_dynamic_symbol.  */
1816               h->non_got_ref = 1;
1817
1818               /* We may need a .plt entry if the function this reloc
1819                  refers to is in a shared lib.  */
1820               h->plt.refcount += 1;
1821               if (r_type != R_X86_64_PC32 && r_type != R_X86_64_PC64)
1822                 h->pointer_equality_needed = 1;
1823             }
1824
1825           /* If we are creating a shared library, and this is a reloc
1826              against a global symbol, or a non PC relative reloc
1827              against a local symbol, then we need to copy the reloc
1828              into the shared library.  However, if we are linking with
1829              -Bsymbolic, we do not need to copy a reloc against a
1830              global symbol which is defined in an object we are
1831              including in the link (i.e., DEF_REGULAR is set).  At
1832              this point we have not seen all the input files, so it is
1833              possible that DEF_REGULAR is not set now but will be set
1834              later (it is never cleared).  In case of a weak definition,
1835              DEF_REGULAR may be cleared later by a strong definition in
1836              a shared library.  We account for that possibility below by
1837              storing information in the relocs_copied field of the hash
1838              table entry.  A similar situation occurs when creating
1839              shared libraries and symbol visibility changes render the
1840              symbol local.
1841
1842              If on the other hand, we are creating an executable, we
1843              may need to keep relocations for symbols satisfied by a
1844              dynamic library if we manage to avoid copy relocs for the
1845              symbol.  */
1846           if ((info->shared
1847                && (sec->flags & SEC_ALLOC) != 0
1848                && (! IS_X86_64_PCREL_TYPE (r_type)
1849                    || (h != NULL
1850                        && (! SYMBOLIC_BIND (info, h)
1851                            || h->root.type == bfd_link_hash_defweak
1852                            || !h->def_regular))))
1853               || (ELIMINATE_COPY_RELOCS
1854                   && !info->shared
1855                   && (sec->flags & SEC_ALLOC) != 0
1856                   && h != NULL
1857                   && (h->root.type == bfd_link_hash_defweak
1858                       || !h->def_regular)))
1859             {
1860               struct elf_dyn_relocs *p;
1861               struct elf_dyn_relocs **head;
1862
1863               /* We must copy these reloc types into the output file.
1864                  Create a reloc section in dynobj and make room for
1865                  this reloc.  */
1866               if (sreloc == NULL)
1867                 {
1868                   if (htab->elf.dynobj == NULL)
1869                     htab->elf.dynobj = abfd;
1870
1871                   sreloc = _bfd_elf_make_dynamic_reloc_section
1872                     (sec, htab->elf.dynobj, ABI_64_P (abfd) ? 3 : 2,
1873                      abfd, /*rela?*/ TRUE);
1874
1875                   if (sreloc == NULL)
1876                     return FALSE;
1877                 }
1878
1879               /* If this is a global symbol, we count the number of
1880                  relocations we need for this symbol.  */
1881               if (h != NULL)
1882                 {
1883                   head = &((struct elf_x86_64_link_hash_entry *) h)->dyn_relocs;
1884                 }
1885               else
1886                 {
1887                   /* Track dynamic relocs needed for local syms too.
1888                      We really need local syms available to do this
1889                      easily.  Oh well.  */
1890                   asection *s;
1891                   void **vpp;
1892
1893                   isym = bfd_sym_from_r_symndx (&htab->sym_cache,
1894                                                 abfd, r_symndx);
1895                   if (isym == NULL)
1896                     return FALSE;
1897
1898                   s = bfd_section_from_elf_index (abfd, isym->st_shndx);
1899                   if (s == NULL)
1900                     s = sec;
1901
1902                   /* Beware of type punned pointers vs strict aliasing
1903                      rules.  */
1904                   vpp = &(elf_section_data (s)->local_dynrel);
1905                   head = (struct elf_dyn_relocs **)vpp;
1906                 }
1907
1908               p = *head;
1909               if (p == NULL || p->sec != sec)
1910                 {
1911                   bfd_size_type amt = sizeof *p;
1912
1913                   p = ((struct elf_dyn_relocs *)
1914                        bfd_alloc (htab->elf.dynobj, amt));
1915                   if (p == NULL)
1916                     return FALSE;
1917                   p->next = *head;
1918                   *head = p;
1919                   p->sec = sec;
1920                   p->count = 0;
1921                   p->pc_count = 0;
1922                 }
1923
1924               p->count += 1;
1925               if (IS_X86_64_PCREL_TYPE (r_type))
1926                 p->pc_count += 1;
1927             }
1928           break;
1929
1930           /* This relocation describes the C++ object vtable hierarchy.
1931              Reconstruct it for later use during GC.  */
1932         case R_X86_64_GNU_VTINHERIT:
1933           if (!bfd_elf_gc_record_vtinherit (abfd, sec, h, rel->r_offset))
1934             return FALSE;
1935           break;
1936
1937           /* This relocation describes which C++ vtable entries are actually
1938              used.  Record for later use during GC.  */
1939         case R_X86_64_GNU_VTENTRY:
1940           BFD_ASSERT (h != NULL);
1941           if (h != NULL
1942               && !bfd_elf_gc_record_vtentry (abfd, sec, h, rel->r_addend))
1943             return FALSE;
1944           break;
1945
1946         default:
1947           break;
1948         }
1949     }
1950
1951   return TRUE;
1952 }
1953
1954 /* Return the section that should be marked against GC for a given
1955    relocation.  */
1956
1957 static asection *
1958 elf_x86_64_gc_mark_hook (asection *sec,
1959                          struct bfd_link_info *info,
1960                          Elf_Internal_Rela *rel,
1961                          struct elf_link_hash_entry *h,
1962                          Elf_Internal_Sym *sym)
1963 {
1964   if (h != NULL)
1965     switch (ELF32_R_TYPE (rel->r_info))
1966       {
1967       case R_X86_64_GNU_VTINHERIT:
1968       case R_X86_64_GNU_VTENTRY:
1969         return NULL;
1970       }
1971
1972   return _bfd_elf_gc_mark_hook (sec, info, rel, h, sym);
1973 }
1974
1975 /* Update the got entry reference counts for the section being removed.  */
1976
1977 static bfd_boolean
1978 elf_x86_64_gc_sweep_hook (bfd *abfd, struct bfd_link_info *info,
1979                           asection *sec,
1980                           const Elf_Internal_Rela *relocs)
1981 {
1982   struct elf_x86_64_link_hash_table *htab;
1983   Elf_Internal_Shdr *symtab_hdr;
1984   struct elf_link_hash_entry **sym_hashes;
1985   bfd_signed_vma *local_got_refcounts;
1986   const Elf_Internal_Rela *rel, *relend;
1987
1988   if (info->relocatable)
1989     return TRUE;
1990
1991   htab = elf_x86_64_hash_table (info);
1992   if (htab == NULL)
1993     return FALSE;
1994
1995   elf_section_data (sec)->local_dynrel = NULL;
1996
1997   symtab_hdr = &elf_symtab_hdr (abfd);
1998   sym_hashes = elf_sym_hashes (abfd);
1999   local_got_refcounts = elf_local_got_refcounts (abfd);
2000
2001   htab = elf_x86_64_hash_table (info);
2002   relend = relocs + sec->reloc_count;
2003   for (rel = relocs; rel < relend; rel++)
2004     {
2005       unsigned long r_symndx;
2006       unsigned int r_type;
2007       struct elf_link_hash_entry *h = NULL;
2008
2009       r_symndx = htab->r_sym (rel->r_info);
2010       if (r_symndx >= symtab_hdr->sh_info)
2011         {
2012           h = sym_hashes[r_symndx - symtab_hdr->sh_info];
2013           while (h->root.type == bfd_link_hash_indirect
2014                  || h->root.type == bfd_link_hash_warning)
2015             h = (struct elf_link_hash_entry *) h->root.u.i.link;
2016         }
2017       else
2018         {
2019           /* A local symbol.  */
2020           Elf_Internal_Sym *isym;
2021
2022           isym = bfd_sym_from_r_symndx (&htab->sym_cache,
2023                                         abfd, r_symndx);
2024
2025           /* Check relocation against local STT_GNU_IFUNC symbol.  */
2026           if (isym != NULL
2027               && ELF_ST_TYPE (isym->st_info) == STT_GNU_IFUNC)
2028             {
2029               h = elf_x86_64_get_local_sym_hash (htab, abfd, rel, FALSE);
2030               if (h == NULL)
2031                 abort ();
2032             }
2033         }
2034
2035       if (h)
2036         {
2037           struct elf_x86_64_link_hash_entry *eh;
2038           struct elf_dyn_relocs **pp;
2039           struct elf_dyn_relocs *p;
2040
2041           eh = (struct elf_x86_64_link_hash_entry *) h;
2042
2043           for (pp = &eh->dyn_relocs; (p = *pp) != NULL; pp = &p->next)
2044             if (p->sec == sec)
2045               {
2046                 /* Everything must go for SEC.  */
2047                 *pp = p->next;
2048                 break;
2049               }
2050         }
2051
2052       r_type = ELF32_R_TYPE (rel->r_info);
2053       if (! elf_x86_64_tls_transition (info, abfd, sec, NULL,
2054                                        symtab_hdr, sym_hashes,
2055                                        &r_type, GOT_UNKNOWN,
2056                                        rel, relend, h, r_symndx))
2057         return FALSE;
2058
2059       switch (r_type)
2060         {
2061         case R_X86_64_TLSLD:
2062           if (htab->tls_ld_got.refcount > 0)
2063             htab->tls_ld_got.refcount -= 1;
2064           break;
2065
2066         case R_X86_64_TLSGD:
2067         case R_X86_64_GOTPC32_TLSDESC:
2068         case R_X86_64_TLSDESC_CALL:
2069         case R_X86_64_GOTTPOFF:
2070         case R_X86_64_GOT32:
2071         case R_X86_64_GOTPCREL:
2072         case R_X86_64_GOT64:
2073         case R_X86_64_GOTPCREL64:
2074         case R_X86_64_GOTPLT64:
2075           if (h != NULL)
2076             {
2077               if (r_type == R_X86_64_GOTPLT64 && h->plt.refcount > 0)
2078                 h->plt.refcount -= 1;
2079               if (h->got.refcount > 0)
2080                 h->got.refcount -= 1;
2081               if (h->type == STT_GNU_IFUNC)
2082                 {
2083                   if (h->plt.refcount > 0)
2084                     h->plt.refcount -= 1;
2085                 }
2086             }
2087           else if (local_got_refcounts != NULL)
2088             {
2089               if (local_got_refcounts[r_symndx] > 0)
2090                 local_got_refcounts[r_symndx] -= 1;
2091             }
2092           break;
2093
2094         case R_X86_64_8:
2095         case R_X86_64_16:
2096         case R_X86_64_32:
2097         case R_X86_64_64:
2098         case R_X86_64_32S:
2099         case R_X86_64_PC8:
2100         case R_X86_64_PC16:
2101         case R_X86_64_PC32:
2102         case R_X86_64_PC64:
2103           if (info->shared
2104               && (h == NULL || h->type != STT_GNU_IFUNC))
2105             break;
2106           /* Fall thru */
2107
2108         case R_X86_64_PLT32:
2109         case R_X86_64_PLTOFF64:
2110           if (h != NULL)
2111             {
2112               if (h->plt.refcount > 0)
2113                 h->plt.refcount -= 1;
2114             }
2115           break;
2116
2117         default:
2118           break;
2119         }
2120     }
2121
2122   return TRUE;
2123 }
2124
2125 /* Adjust a symbol defined by a dynamic object and referenced by a
2126    regular object.  The current definition is in some section of the
2127    dynamic object, but we're not including those sections.  We have to
2128    change the definition to something the rest of the link can
2129    understand.  */
2130
2131 static bfd_boolean
2132 elf_x86_64_adjust_dynamic_symbol (struct bfd_link_info *info,
2133                                   struct elf_link_hash_entry *h)
2134 {
2135   struct elf_x86_64_link_hash_table *htab;
2136   asection *s;
2137   struct elf_x86_64_link_hash_entry *eh;
2138   struct elf_dyn_relocs *p;
2139
2140   /* STT_GNU_IFUNC symbol must go through PLT. */
2141   if (h->type == STT_GNU_IFUNC)
2142     {
2143       /* All local STT_GNU_IFUNC references must be treate as local
2144          calls via local PLT.  */
2145       if (h->ref_regular
2146           && SYMBOL_CALLS_LOCAL (info, h))
2147         {
2148           bfd_size_type pc_count = 0, count = 0;
2149           struct elf_dyn_relocs **pp;
2150
2151           eh = (struct elf_x86_64_link_hash_entry *) h;
2152           for (pp = &eh->dyn_relocs; (p = *pp) != NULL; )
2153             {
2154               pc_count += p->pc_count;
2155               p->count -= p->pc_count;
2156               p->pc_count = 0;
2157               count += p->count;
2158               if (p->count == 0)
2159                 *pp = p->next;
2160               else
2161                 pp = &p->next;
2162             }
2163
2164           if (pc_count || count)
2165             {
2166               h->needs_plt = 1;
2167               h->plt.refcount += 1;
2168               h->non_got_ref = 1;
2169             }
2170         }
2171
2172       if (h->plt.refcount <= 0)
2173         {
2174           h->plt.offset = (bfd_vma) -1;
2175           h->needs_plt = 0;
2176         }
2177       return TRUE;
2178     }
2179
2180   /* If this is a function, put it in the procedure linkage table.  We
2181      will fill in the contents of the procedure linkage table later,
2182      when we know the address of the .got section.  */
2183   if (h->type == STT_FUNC
2184       || h->needs_plt)
2185     {
2186       if (h->plt.refcount <= 0
2187           || SYMBOL_CALLS_LOCAL (info, h)
2188           || (ELF_ST_VISIBILITY (h->other) != STV_DEFAULT
2189               && h->root.type == bfd_link_hash_undefweak))
2190         {
2191           /* This case can occur if we saw a PLT32 reloc in an input
2192              file, but the symbol was never referred to by a dynamic
2193              object, or if all references were garbage collected.  In
2194              such a case, we don't actually need to build a procedure
2195              linkage table, and we can just do a PC32 reloc instead.  */
2196           h->plt.offset = (bfd_vma) -1;
2197           h->needs_plt = 0;
2198         }
2199
2200       return TRUE;
2201     }
2202   else
2203     /* It's possible that we incorrectly decided a .plt reloc was
2204        needed for an R_X86_64_PC32 reloc to a non-function sym in
2205        check_relocs.  We can't decide accurately between function and
2206        non-function syms in check-relocs;  Objects loaded later in
2207        the link may change h->type.  So fix it now.  */
2208     h->plt.offset = (bfd_vma) -1;
2209
2210   /* If this is a weak symbol, and there is a real definition, the
2211      processor independent code will have arranged for us to see the
2212      real definition first, and we can just use the same value.  */
2213   if (h->u.weakdef != NULL)
2214     {
2215       BFD_ASSERT (h->u.weakdef->root.type == bfd_link_hash_defined
2216                   || h->u.weakdef->root.type == bfd_link_hash_defweak);
2217       h->root.u.def.section = h->u.weakdef->root.u.def.section;
2218       h->root.u.def.value = h->u.weakdef->root.u.def.value;
2219       if (ELIMINATE_COPY_RELOCS || info->nocopyreloc)
2220         h->non_got_ref = h->u.weakdef->non_got_ref;
2221       return TRUE;
2222     }
2223
2224   /* This is a reference to a symbol defined by a dynamic object which
2225      is not a function.  */
2226
2227   /* If we are creating a shared library, we must presume that the
2228      only references to the symbol are via the global offset table.
2229      For such cases we need not do anything here; the relocations will
2230      be handled correctly by relocate_section.  */
2231   if (info->shared)
2232     return TRUE;
2233
2234   /* If there are no references to this symbol that do not use the
2235      GOT, we don't need to generate a copy reloc.  */
2236   if (!h->non_got_ref)
2237     return TRUE;
2238
2239   /* If -z nocopyreloc was given, we won't generate them either.  */
2240   if (info->nocopyreloc)
2241     {
2242       h->non_got_ref = 0;
2243       return TRUE;
2244     }
2245
2246   if (ELIMINATE_COPY_RELOCS)
2247     {
2248       eh = (struct elf_x86_64_link_hash_entry *) h;
2249       for (p = eh->dyn_relocs; p != NULL; p = p->next)
2250         {
2251           s = p->sec->output_section;
2252           if (s != NULL && (s->flags & SEC_READONLY) != 0)
2253             break;
2254         }
2255
2256       /* If we didn't find any dynamic relocs in read-only sections, then
2257          we'll be keeping the dynamic relocs and avoiding the copy reloc.  */
2258       if (p == NULL)
2259         {
2260           h->non_got_ref = 0;
2261           return TRUE;
2262         }
2263     }
2264
2265   /* We must allocate the symbol in our .dynbss section, which will
2266      become part of the .bss section of the executable.  There will be
2267      an entry for this symbol in the .dynsym section.  The dynamic
2268      object will contain position independent code, so all references
2269      from the dynamic object to this symbol will go through the global
2270      offset table.  The dynamic linker will use the .dynsym entry to
2271      determine the address it must put in the global offset table, so
2272      both the dynamic object and the regular object will refer to the
2273      same memory location for the variable.  */
2274
2275   htab = elf_x86_64_hash_table (info);
2276   if (htab == NULL)
2277     return FALSE;
2278
2279   /* We must generate a R_X86_64_COPY reloc to tell the dynamic linker
2280      to copy the initial value out of the dynamic object and into the
2281      runtime process image.  */
2282   if ((h->root.u.def.section->flags & SEC_ALLOC) != 0 && h->size != 0)
2283     {
2284       const struct elf_backend_data *bed;
2285       bed = get_elf_backend_data (info->output_bfd);
2286       htab->srelbss->size += bed->s->sizeof_rela;
2287       h->needs_copy = 1;
2288     }
2289
2290   s = htab->sdynbss;
2291
2292   return _bfd_elf_adjust_dynamic_copy (h, s);
2293 }
2294
2295 /* Allocate space in .plt, .got and associated reloc sections for
2296    dynamic relocs.  */
2297
2298 static bfd_boolean
2299 elf_x86_64_allocate_dynrelocs (struct elf_link_hash_entry *h, void * inf)
2300 {
2301   struct bfd_link_info *info;
2302   struct elf_x86_64_link_hash_table *htab;
2303   struct elf_x86_64_link_hash_entry *eh;
2304   struct elf_dyn_relocs *p;
2305   const struct elf_backend_data *bed;
2306   unsigned int plt_entry_size;
2307
2308   if (h->root.type == bfd_link_hash_indirect)
2309     return TRUE;
2310
2311   eh = (struct elf_x86_64_link_hash_entry *) h;
2312
2313   info = (struct bfd_link_info *) inf;
2314   htab = elf_x86_64_hash_table (info);
2315   if (htab == NULL)
2316     return FALSE;
2317   bed = get_elf_backend_data (info->output_bfd);
2318   plt_entry_size = GET_PLT_ENTRY_SIZE (info->output_bfd);
2319
2320   /* Since STT_GNU_IFUNC symbol must go through PLT, we handle it
2321      here if it is defined and referenced in a non-shared object.  */
2322   if (h->type == STT_GNU_IFUNC
2323       && h->def_regular)
2324     return _bfd_elf_allocate_ifunc_dyn_relocs (info, h,
2325                                                &eh->dyn_relocs,
2326                                                plt_entry_size,
2327                                                GOT_ENTRY_SIZE);
2328   else if (htab->elf.dynamic_sections_created
2329            && h->plt.refcount > 0)
2330     {
2331       /* Make sure this symbol is output as a dynamic symbol.
2332          Undefined weak syms won't yet be marked as dynamic.  */
2333       if (h->dynindx == -1
2334           && !h->forced_local)
2335         {
2336           if (! bfd_elf_link_record_dynamic_symbol (info, h))
2337             return FALSE;
2338         }
2339
2340       if (info->shared
2341           || WILL_CALL_FINISH_DYNAMIC_SYMBOL (1, 0, h))
2342         {
2343           asection *s = htab->elf.splt;
2344
2345           /* If this is the first .plt entry, make room for the special
2346              first entry.  */
2347           if (s->size == 0)
2348             s->size += plt_entry_size;
2349
2350           h->plt.offset = s->size;
2351
2352           /* If this symbol is not defined in a regular file, and we are
2353              not generating a shared library, then set the symbol to this
2354              location in the .plt.  This is required to make function
2355              pointers compare as equal between the normal executable and
2356              the shared library.  */
2357           if (! info->shared
2358               && !h->def_regular)
2359             {
2360               h->root.u.def.section = s;
2361               h->root.u.def.value = h->plt.offset;
2362             }
2363
2364           /* Make room for this entry.  */
2365           s->size += plt_entry_size;
2366
2367           /* We also need to make an entry in the .got.plt section, which
2368              will be placed in the .got section by the linker script.  */
2369           htab->elf.sgotplt->size += GOT_ENTRY_SIZE;
2370
2371           /* We also need to make an entry in the .rela.plt section.  */
2372           htab->elf.srelplt->size += bed->s->sizeof_rela;
2373           htab->elf.srelplt->reloc_count++;
2374         }
2375       else
2376         {
2377           h->plt.offset = (bfd_vma) -1;
2378           h->needs_plt = 0;
2379         }
2380     }
2381   else
2382     {
2383       h->plt.offset = (bfd_vma) -1;
2384       h->needs_plt = 0;
2385     }
2386
2387   eh->tlsdesc_got = (bfd_vma) -1;
2388
2389   /* If R_X86_64_GOTTPOFF symbol is now local to the binary,
2390      make it a R_X86_64_TPOFF32 requiring no GOT entry.  */
2391   if (h->got.refcount > 0
2392       && info->executable
2393       && h->dynindx == -1
2394       && elf_x86_64_hash_entry (h)->tls_type == GOT_TLS_IE)
2395     {
2396       h->got.offset = (bfd_vma) -1;
2397     }
2398   else if (h->got.refcount > 0)
2399     {
2400       asection *s;
2401       bfd_boolean dyn;
2402       int tls_type = elf_x86_64_hash_entry (h)->tls_type;
2403
2404       /* Make sure this symbol is output as a dynamic symbol.
2405          Undefined weak syms won't yet be marked as dynamic.  */
2406       if (h->dynindx == -1
2407           && !h->forced_local)
2408         {
2409           if (! bfd_elf_link_record_dynamic_symbol (info, h))
2410             return FALSE;
2411         }
2412
2413       if (GOT_TLS_GDESC_P (tls_type))
2414         {
2415           eh->tlsdesc_got = htab->elf.sgotplt->size
2416             - elf_x86_64_compute_jump_table_size (htab);
2417           htab->elf.sgotplt->size += 2 * GOT_ENTRY_SIZE;
2418           h->got.offset = (bfd_vma) -2;
2419         }
2420       if (! GOT_TLS_GDESC_P (tls_type)
2421           || GOT_TLS_GD_P (tls_type))
2422         {
2423           s = htab->elf.sgot;
2424           h->got.offset = s->size;
2425           s->size += GOT_ENTRY_SIZE;
2426           if (GOT_TLS_GD_P (tls_type))
2427             s->size += GOT_ENTRY_SIZE;
2428         }
2429       dyn = htab->elf.dynamic_sections_created;
2430       /* R_X86_64_TLSGD needs one dynamic relocation if local symbol
2431          and two if global.
2432          R_X86_64_GOTTPOFF needs one dynamic relocation.  */
2433       if ((GOT_TLS_GD_P (tls_type) && h->dynindx == -1)
2434           || tls_type == GOT_TLS_IE)
2435         htab->elf.srelgot->size += bed->s->sizeof_rela;
2436       else if (GOT_TLS_GD_P (tls_type))
2437         htab->elf.srelgot->size += 2 * bed->s->sizeof_rela;
2438       else if (! GOT_TLS_GDESC_P (tls_type)
2439                && (ELF_ST_VISIBILITY (h->other) == STV_DEFAULT
2440                    || h->root.type != bfd_link_hash_undefweak)
2441                && (info->shared
2442                    || WILL_CALL_FINISH_DYNAMIC_SYMBOL (dyn, 0, h)))
2443         htab->elf.srelgot->size += bed->s->sizeof_rela;
2444       if (GOT_TLS_GDESC_P (tls_type))
2445         {
2446           htab->elf.srelplt->size += bed->s->sizeof_rela;
2447           htab->tlsdesc_plt = (bfd_vma) -1;
2448         }
2449     }
2450   else
2451     h->got.offset = (bfd_vma) -1;
2452
2453   if (eh->dyn_relocs == NULL)
2454     return TRUE;
2455
2456   /* In the shared -Bsymbolic case, discard space allocated for
2457      dynamic pc-relative relocs against symbols which turn out to be
2458      defined in regular objects.  For the normal shared case, discard
2459      space for pc-relative relocs that have become local due to symbol
2460      visibility changes.  */
2461
2462   if (info->shared)
2463     {
2464       /* Relocs that use pc_count are those that appear on a call
2465          insn, or certain REL relocs that can generated via assembly.
2466          We want calls to protected symbols to resolve directly to the
2467          function rather than going via the plt.  If people want
2468          function pointer comparisons to work as expected then they
2469          should avoid writing weird assembly.  */
2470       if (SYMBOL_CALLS_LOCAL (info, h))
2471         {
2472           struct elf_dyn_relocs **pp;
2473
2474           for (pp = &eh->dyn_relocs; (p = *pp) != NULL; )
2475             {
2476               p->count -= p->pc_count;
2477               p->pc_count = 0;
2478               if (p->count == 0)
2479                 *pp = p->next;
2480               else
2481                 pp = &p->next;
2482             }
2483         }
2484
2485       /* Also discard relocs on undefined weak syms with non-default
2486          visibility.  */
2487       if (eh->dyn_relocs != NULL
2488           && h->root.type == bfd_link_hash_undefweak)
2489         {
2490           if (ELF_ST_VISIBILITY (h->other) != STV_DEFAULT)
2491             eh->dyn_relocs = NULL;
2492
2493           /* Make sure undefined weak symbols are output as a dynamic
2494              symbol in PIEs.  */
2495           else if (h->dynindx == -1
2496                    && ! h->forced_local
2497                    && ! bfd_elf_link_record_dynamic_symbol (info, h))
2498             return FALSE;
2499         }
2500
2501     }
2502   else if (ELIMINATE_COPY_RELOCS)
2503     {
2504       /* For the non-shared case, discard space for relocs against
2505          symbols which turn out to need copy relocs or are not
2506          dynamic.  */
2507
2508       if (!h->non_got_ref
2509           && ((h->def_dynamic
2510                && !h->def_regular)
2511               || (htab->elf.dynamic_sections_created
2512                   && (h->root.type == bfd_link_hash_undefweak
2513                       || h->root.type == bfd_link_hash_undefined))))
2514         {
2515           /* Make sure this symbol is output as a dynamic symbol.
2516              Undefined weak syms won't yet be marked as dynamic.  */
2517           if (h->dynindx == -1
2518               && ! h->forced_local
2519               && ! bfd_elf_link_record_dynamic_symbol (info, h))
2520             return FALSE;
2521
2522           /* If that succeeded, we know we'll be keeping all the
2523              relocs.  */
2524           if (h->dynindx != -1)
2525             goto keep;
2526         }
2527
2528       eh->dyn_relocs = NULL;
2529
2530     keep: ;
2531     }
2532
2533   /* Finally, allocate space.  */
2534   for (p = eh->dyn_relocs; p != NULL; p = p->next)
2535     {
2536       asection * sreloc;
2537
2538       sreloc = elf_section_data (p->sec)->sreloc;
2539
2540       BFD_ASSERT (sreloc != NULL);
2541
2542       sreloc->size += p->count * bed->s->sizeof_rela;
2543     }
2544
2545   return TRUE;
2546 }
2547
2548 /* Allocate space in .plt, .got and associated reloc sections for
2549    local dynamic relocs.  */
2550
2551 static bfd_boolean
2552 elf_x86_64_allocate_local_dynrelocs (void **slot, void *inf)
2553 {
2554   struct elf_link_hash_entry *h
2555     = (struct elf_link_hash_entry *) *slot;
2556
2557   if (h->type != STT_GNU_IFUNC
2558       || !h->def_regular
2559       || !h->ref_regular
2560       || !h->forced_local
2561       || h->root.type != bfd_link_hash_defined)
2562     abort ();
2563
2564   return elf_x86_64_allocate_dynrelocs (h, inf);
2565 }
2566
2567 /* Find any dynamic relocs that apply to read-only sections.  */
2568
2569 static bfd_boolean
2570 elf_x86_64_readonly_dynrelocs (struct elf_link_hash_entry *h,
2571                                void * inf)
2572 {
2573   struct elf_x86_64_link_hash_entry *eh;
2574   struct elf_dyn_relocs *p;
2575
2576   /* Skip local IFUNC symbols. */
2577   if (h->forced_local && h->type == STT_GNU_IFUNC)
2578     return TRUE;
2579
2580   eh = (struct elf_x86_64_link_hash_entry *) h;
2581   for (p = eh->dyn_relocs; p != NULL; p = p->next)
2582     {
2583       asection *s = p->sec->output_section;
2584
2585       if (s != NULL && (s->flags & SEC_READONLY) != 0)
2586         {
2587           struct bfd_link_info *info = (struct bfd_link_info *) inf;
2588
2589           info->flags |= DF_TEXTREL;
2590
2591           if (info->warn_shared_textrel && info->shared)
2592             info->callbacks->einfo (_("%P: %B: warning: relocation against `%s' in readonly section `%A'.\n"),
2593                                     p->sec->owner, h->root.root.string,
2594                                     p->sec);
2595
2596           /* Not an error, just cut short the traversal.  */
2597           return FALSE;
2598         }
2599     }
2600   return TRUE;
2601 }
2602
2603 /* Convert
2604    mov foo@GOTPCREL(%rip), %reg
2605    to
2606    lea foo(%rip), %reg
2607    with the local symbol, foo.  */
2608
2609 static bfd_boolean
2610 elf_x86_64_convert_mov_to_lea (bfd *abfd, asection *sec,
2611                                struct bfd_link_info *link_info)
2612 {
2613   Elf_Internal_Shdr *symtab_hdr;
2614   Elf_Internal_Rela *internal_relocs;
2615   Elf_Internal_Rela *irel, *irelend;
2616   bfd_byte *contents;
2617   struct elf_x86_64_link_hash_table *htab;
2618   bfd_boolean changed_contents;
2619   bfd_boolean changed_relocs;
2620   bfd_signed_vma *local_got_refcounts;
2621
2622   /* Don't even try to convert non-ELF outputs.  */
2623   if (!is_elf_hash_table (link_info->hash))
2624     return FALSE;
2625
2626   /* Nothing to do if there are no codes, no relocations or no output.  */
2627   if ((sec->flags & (SEC_CODE | SEC_RELOC)) != (SEC_CODE | SEC_RELOC)
2628       || sec->reloc_count == 0
2629       || discarded_section (sec))
2630     return TRUE;
2631
2632   symtab_hdr = &elf_tdata (abfd)->symtab_hdr;
2633
2634   /* Load the relocations for this section.  */
2635   internal_relocs = (_bfd_elf_link_read_relocs
2636                      (abfd, sec, NULL, (Elf_Internal_Rela *) NULL,
2637                       link_info->keep_memory));
2638   if (internal_relocs == NULL)
2639     return FALSE;
2640
2641   htab = elf_x86_64_hash_table (link_info);
2642   changed_contents = FALSE;
2643   changed_relocs = FALSE;
2644   local_got_refcounts = elf_local_got_refcounts (abfd);
2645
2646   /* Get the section contents.  */
2647   if (elf_section_data (sec)->this_hdr.contents != NULL)
2648     contents = elf_section_data (sec)->this_hdr.contents;
2649   else
2650     {
2651       if (!bfd_malloc_and_get_section (abfd, sec, &contents))
2652         goto error_return;
2653     }
2654
2655   irelend = internal_relocs + sec->reloc_count;
2656   for (irel = internal_relocs; irel < irelend; irel++)
2657     {
2658       unsigned int r_type = ELF32_R_TYPE (irel->r_info);
2659       unsigned int r_symndx = htab->r_sym (irel->r_info);
2660       unsigned int indx;
2661       struct elf_link_hash_entry *h;
2662
2663       if (r_type != R_X86_64_GOTPCREL)
2664         continue;
2665
2666       /* Get the symbol referred to by the reloc.  */
2667       if (r_symndx < symtab_hdr->sh_info)
2668         {
2669           Elf_Internal_Sym *isym;
2670
2671           isym = bfd_sym_from_r_symndx (&htab->sym_cache,
2672                                         abfd, r_symndx);
2673
2674           /* STT_GNU_IFUNC must keep R_X86_64_GOTPCREL relocation.  */
2675           if (ELF_ST_TYPE (isym->st_info) != STT_GNU_IFUNC
2676               && bfd_get_8 (input_bfd,
2677                             contents + irel->r_offset - 2) == 0x8b)
2678             {
2679               bfd_put_8 (output_bfd, 0x8d,
2680                          contents + irel->r_offset - 2);
2681               irel->r_info = htab->r_info (r_symndx, R_X86_64_PC32);
2682               if (local_got_refcounts != NULL
2683                   && local_got_refcounts[r_symndx] > 0)
2684                 local_got_refcounts[r_symndx] -= 1;
2685               changed_contents = TRUE;
2686               changed_relocs = TRUE;
2687             }
2688           continue;
2689         }
2690
2691       indx = r_symndx - symtab_hdr->sh_info;
2692       h = elf_sym_hashes (abfd)[indx];
2693       BFD_ASSERT (h != NULL);
2694
2695       while (h->root.type == bfd_link_hash_indirect
2696              || h->root.type == bfd_link_hash_warning)
2697         h = (struct elf_link_hash_entry *) h->root.u.i.link;
2698
2699       /* STT_GNU_IFUNC must keep R_X86_64_GOTPCREL relocation.  We also
2700          avoid optimizing _DYNAMIC since ld.so may use its link-time
2701          address.  */
2702       if (h->def_regular
2703           && h->type != STT_GNU_IFUNC
2704           && h != htab->elf.hdynamic
2705           && SYMBOL_REFERENCES_LOCAL (link_info, h)
2706           && bfd_get_8 (input_bfd,
2707                         contents + irel->r_offset - 2) == 0x8b)
2708         {
2709           bfd_put_8 (output_bfd, 0x8d,
2710                      contents + irel->r_offset - 2);
2711           irel->r_info = htab->r_info (r_symndx, R_X86_64_PC32);
2712           if (h->got.refcount > 0)
2713             h->got.refcount -= 1;
2714           changed_contents = TRUE;
2715           changed_relocs = TRUE;
2716         }
2717     }
2718
2719   if (contents != NULL
2720       && elf_section_data (sec)->this_hdr.contents != contents)
2721     {
2722       if (!changed_contents && !link_info->keep_memory)
2723         free (contents);
2724       else
2725         {
2726           /* Cache the section contents for elf_link_input_bfd.  */
2727           elf_section_data (sec)->this_hdr.contents = contents;
2728         }
2729     }
2730
2731   if (elf_section_data (sec)->relocs != internal_relocs)
2732     {
2733       if (!changed_relocs)
2734         free (internal_relocs);
2735       else
2736         elf_section_data (sec)->relocs = internal_relocs;
2737     }
2738
2739   return TRUE;
2740
2741  error_return:
2742   if (contents != NULL
2743       && elf_section_data (sec)->this_hdr.contents != contents)
2744     free (contents);
2745   if (internal_relocs != NULL
2746       && elf_section_data (sec)->relocs != internal_relocs)
2747     free (internal_relocs);
2748   return FALSE;
2749 }
2750
2751 /* Set the sizes of the dynamic sections.  */
2752
2753 static bfd_boolean
2754 elf_x86_64_size_dynamic_sections (bfd *output_bfd,
2755                                   struct bfd_link_info *info)
2756 {
2757   struct elf_x86_64_link_hash_table *htab;
2758   bfd *dynobj;
2759   asection *s;
2760   bfd_boolean relocs;
2761   bfd *ibfd;
2762   const struct elf_backend_data *bed;
2763
2764   htab = elf_x86_64_hash_table (info);
2765   if (htab == NULL)
2766     return FALSE;
2767   bed = get_elf_backend_data (output_bfd);
2768
2769   dynobj = htab->elf.dynobj;
2770   if (dynobj == NULL)
2771     abort ();
2772
2773   if (htab->elf.dynamic_sections_created)
2774     {
2775       /* Set the contents of the .interp section to the interpreter.  */
2776       if (info->executable)
2777         {
2778           s = bfd_get_linker_section (dynobj, ".interp");
2779           if (s == NULL)
2780             abort ();
2781           s->size = htab->dynamic_interpreter_size;
2782           s->contents = (unsigned char *) htab->dynamic_interpreter;
2783         }
2784     }
2785
2786   /* Set up .got offsets for local syms, and space for local dynamic
2787      relocs.  */
2788   for (ibfd = info->input_bfds; ibfd != NULL; ibfd = ibfd->link_next)
2789     {
2790       bfd_signed_vma *local_got;
2791       bfd_signed_vma *end_local_got;
2792       char *local_tls_type;
2793       bfd_vma *local_tlsdesc_gotent;
2794       bfd_size_type locsymcount;
2795       Elf_Internal_Shdr *symtab_hdr;
2796       asection *srel;
2797
2798       if (! is_x86_64_elf (ibfd))
2799         continue;
2800
2801       for (s = ibfd->sections; s != NULL; s = s->next)
2802         {
2803           struct elf_dyn_relocs *p;
2804
2805           if (!elf_x86_64_convert_mov_to_lea (ibfd, s, info))
2806             return FALSE;
2807
2808           for (p = (struct elf_dyn_relocs *)
2809                     (elf_section_data (s)->local_dynrel);
2810                p != NULL;
2811                p = p->next)
2812             {
2813               if (!bfd_is_abs_section (p->sec)
2814                   && bfd_is_abs_section (p->sec->output_section))
2815                 {
2816                   /* Input section has been discarded, either because
2817                      it is a copy of a linkonce section or due to
2818                      linker script /DISCARD/, so we'll be discarding
2819                      the relocs too.  */
2820                 }
2821               else if (p->count != 0)
2822                 {
2823                   srel = elf_section_data (p->sec)->sreloc;
2824                   srel->size += p->count * bed->s->sizeof_rela;
2825                   if ((p->sec->output_section->flags & SEC_READONLY) != 0
2826                       && (info->flags & DF_TEXTREL) == 0)
2827                     {
2828                       info->flags |= DF_TEXTREL;
2829                       if (info->warn_shared_textrel && info->shared)
2830                         info->callbacks->einfo (_("%P: %B: warning: relocation in readonly section `%A'.\n"),
2831                                                 p->sec->owner, p->sec);
2832                     }
2833                 }
2834             }
2835         }
2836
2837       local_got = elf_local_got_refcounts (ibfd);
2838       if (!local_got)
2839         continue;
2840
2841       symtab_hdr = &elf_symtab_hdr (ibfd);
2842       locsymcount = symtab_hdr->sh_info;
2843       end_local_got = local_got + locsymcount;
2844       local_tls_type = elf_x86_64_local_got_tls_type (ibfd);
2845       local_tlsdesc_gotent = elf_x86_64_local_tlsdesc_gotent (ibfd);
2846       s = htab->elf.sgot;
2847       srel = htab->elf.srelgot;
2848       for (; local_got < end_local_got;
2849            ++local_got, ++local_tls_type, ++local_tlsdesc_gotent)
2850         {
2851           *local_tlsdesc_gotent = (bfd_vma) -1;
2852           if (*local_got > 0)
2853             {
2854               if (GOT_TLS_GDESC_P (*local_tls_type))
2855                 {
2856                   *local_tlsdesc_gotent = htab->elf.sgotplt->size
2857                     - elf_x86_64_compute_jump_table_size (htab);
2858                   htab->elf.sgotplt->size += 2 * GOT_ENTRY_SIZE;
2859                   *local_got = (bfd_vma) -2;
2860                 }
2861               if (! GOT_TLS_GDESC_P (*local_tls_type)
2862                   || GOT_TLS_GD_P (*local_tls_type))
2863                 {
2864                   *local_got = s->size;
2865                   s->size += GOT_ENTRY_SIZE;
2866                   if (GOT_TLS_GD_P (*local_tls_type))
2867                     s->size += GOT_ENTRY_SIZE;
2868                 }
2869               if (info->shared
2870                   || GOT_TLS_GD_ANY_P (*local_tls_type)
2871                   || *local_tls_type == GOT_TLS_IE)
2872                 {
2873                   if (GOT_TLS_GDESC_P (*local_tls_type))
2874                     {
2875                       htab->elf.srelplt->size
2876                         += bed->s->sizeof_rela;
2877                       htab->tlsdesc_plt = (bfd_vma) -1;
2878                     }
2879                   if (! GOT_TLS_GDESC_P (*local_tls_type)
2880                       || GOT_TLS_GD_P (*local_tls_type))
2881                     srel->size += bed->s->sizeof_rela;
2882                 }
2883             }
2884           else
2885             *local_got = (bfd_vma) -1;
2886         }
2887     }
2888
2889   if (htab->tls_ld_got.refcount > 0)
2890     {
2891       /* Allocate 2 got entries and 1 dynamic reloc for R_X86_64_TLSLD
2892          relocs.  */
2893       htab->tls_ld_got.offset = htab->elf.sgot->size;
2894       htab->elf.sgot->size += 2 * GOT_ENTRY_SIZE;
2895       htab->elf.srelgot->size += bed->s->sizeof_rela;
2896     }
2897   else
2898     htab->tls_ld_got.offset = -1;
2899
2900   /* Allocate global sym .plt and .got entries, and space for global
2901      sym dynamic relocs.  */
2902   elf_link_hash_traverse (&htab->elf, elf_x86_64_allocate_dynrelocs,
2903                           info);
2904
2905   /* Allocate .plt and .got entries, and space for local symbols.  */
2906   htab_traverse (htab->loc_hash_table,
2907                  elf_x86_64_allocate_local_dynrelocs,
2908                  info);
2909
2910   /* For every jump slot reserved in the sgotplt, reloc_count is
2911      incremented.  However, when we reserve space for TLS descriptors,
2912      it's not incremented, so in order to compute the space reserved
2913      for them, it suffices to multiply the reloc count by the jump
2914      slot size.
2915
2916      PR ld/13302: We start next_irelative_index at the end of .rela.plt
2917      so that R_X86_64_IRELATIVE entries come last.  */
2918   if (htab->elf.srelplt)
2919     {
2920       htab->sgotplt_jump_table_size
2921         = elf_x86_64_compute_jump_table_size (htab);
2922       htab->next_irelative_index = htab->elf.srelplt->reloc_count - 1;
2923     }
2924   else if (htab->elf.irelplt)
2925     htab->next_irelative_index = htab->elf.irelplt->reloc_count - 1;
2926
2927   if (htab->tlsdesc_plt)
2928     {
2929       /* If we're not using lazy TLS relocations, don't generate the
2930          PLT and GOT entries they require.  */
2931       if ((info->flags & DF_BIND_NOW))
2932         htab->tlsdesc_plt = 0;
2933       else
2934         {
2935           htab->tlsdesc_got = htab->elf.sgot->size;
2936           htab->elf.sgot->size += GOT_ENTRY_SIZE;
2937           /* Reserve room for the initial entry.
2938              FIXME: we could probably do away with it in this case.  */
2939           if (htab->elf.splt->size == 0)
2940             htab->elf.splt->size += GET_PLT_ENTRY_SIZE (output_bfd);
2941           htab->tlsdesc_plt = htab->elf.splt->size;
2942           htab->elf.splt->size += GET_PLT_ENTRY_SIZE (output_bfd);
2943         }
2944     }
2945
2946   if (htab->elf.sgotplt)
2947     {
2948       /* Don't allocate .got.plt section if there are no GOT nor PLT
2949          entries and there is no refeence to _GLOBAL_OFFSET_TABLE_.  */
2950       if ((htab->elf.hgot == NULL
2951            || !htab->elf.hgot->ref_regular_nonweak)
2952           && (htab->elf.sgotplt->size
2953               == get_elf_backend_data (output_bfd)->got_header_size)
2954           && (htab->elf.splt == NULL
2955               || htab->elf.splt->size == 0)
2956           && (htab->elf.sgot == NULL
2957               || htab->elf.sgot->size == 0)
2958           && (htab->elf.iplt == NULL
2959               || htab->elf.iplt->size == 0)
2960           && (htab->elf.igotplt == NULL
2961               || htab->elf.igotplt->size == 0))
2962         htab->elf.sgotplt->size = 0;
2963     }
2964
2965   if (htab->plt_eh_frame != NULL
2966       && htab->elf.splt != NULL
2967       && htab->elf.splt->size != 0
2968       && !bfd_is_abs_section (htab->elf.splt->output_section)
2969       && _bfd_elf_eh_frame_present (info))
2970     {
2971       const struct elf_x86_64_backend_data *arch_data
2972         = (const struct elf_x86_64_backend_data *) bed->arch_data;
2973       htab->plt_eh_frame->size = arch_data->eh_frame_plt_size;
2974     }
2975
2976   /* We now have determined the sizes of the various dynamic sections.
2977      Allocate memory for them.  */
2978   relocs = FALSE;
2979   for (s = dynobj->sections; s != NULL; s = s->next)
2980     {
2981       if ((s->flags & SEC_LINKER_CREATED) == 0)
2982         continue;
2983
2984       if (s == htab->elf.splt
2985           || s == htab->elf.sgot
2986           || s == htab->elf.sgotplt
2987           || s == htab->elf.iplt
2988           || s == htab->elf.igotplt
2989           || s == htab->plt_eh_frame
2990           || s == htab->sdynbss)
2991         {
2992           /* Strip this section if we don't need it; see the
2993              comment below.  */
2994         }
2995       else if (CONST_STRNEQ (bfd_get_section_name (dynobj, s), ".rela"))
2996         {
2997           if (s->size != 0 && s != htab->elf.srelplt)
2998             relocs = TRUE;
2999
3000           /* We use the reloc_count field as a counter if we need
3001              to copy relocs into the output file.  */
3002           if (s != htab->elf.srelplt)
3003             s->reloc_count = 0;
3004         }
3005       else
3006         {
3007           /* It's not one of our sections, so don't allocate space.  */
3008           continue;
3009         }
3010
3011       if (s->size == 0)
3012         {
3013           /* If we don't need this section, strip it from the
3014              output file.  This is mostly to handle .rela.bss and
3015              .rela.plt.  We must create both sections in
3016              create_dynamic_sections, because they must be created
3017              before the linker maps input sections to output
3018              sections.  The linker does that before
3019              adjust_dynamic_symbol is called, and it is that
3020              function which decides whether anything needs to go
3021              into these sections.  */
3022
3023           s->flags |= SEC_EXCLUDE;
3024           continue;
3025         }
3026
3027       if ((s->flags & SEC_HAS_CONTENTS) == 0)
3028         continue;
3029
3030       /* Allocate memory for the section contents.  We use bfd_zalloc
3031          here in case unused entries are not reclaimed before the
3032          section's contents are written out.  This should not happen,
3033          but this way if it does, we get a R_X86_64_NONE reloc instead
3034          of garbage.  */
3035       s->contents = (bfd_byte *) bfd_zalloc (dynobj, s->size);
3036       if (s->contents == NULL)
3037         return FALSE;
3038     }
3039
3040   if (htab->plt_eh_frame != NULL
3041       && htab->plt_eh_frame->contents != NULL)
3042     {
3043       const struct elf_x86_64_backend_data *arch_data
3044         = (const struct elf_x86_64_backend_data *) bed->arch_data;
3045
3046       memcpy (htab->plt_eh_frame->contents,
3047               arch_data->eh_frame_plt, htab->plt_eh_frame->size);
3048       bfd_put_32 (dynobj, htab->elf.splt->size,
3049                   htab->plt_eh_frame->contents + PLT_FDE_LEN_OFFSET);
3050     }
3051
3052   if (htab->elf.dynamic_sections_created)
3053     {
3054       /* Add some entries to the .dynamic section.  We fill in the
3055          values later, in elf_x86_64_finish_dynamic_sections, but we
3056          must add the entries now so that we get the correct size for
3057          the .dynamic section.  The DT_DEBUG entry is filled in by the
3058          dynamic linker and used by the debugger.  */
3059 #define add_dynamic_entry(TAG, VAL) \
3060   _bfd_elf_add_dynamic_entry (info, TAG, VAL)
3061
3062       if (info->executable)
3063         {
3064           if (!add_dynamic_entry (DT_DEBUG, 0))
3065             return FALSE;
3066         }
3067
3068       if (htab->elf.splt->size != 0)
3069         {
3070           if (!add_dynamic_entry (DT_PLTGOT, 0)
3071               || !add_dynamic_entry (DT_PLTRELSZ, 0)
3072               || !add_dynamic_entry (DT_PLTREL, DT_RELA)
3073               || !add_dynamic_entry (DT_JMPREL, 0))
3074             return FALSE;
3075
3076           if (htab->tlsdesc_plt
3077               && (!add_dynamic_entry (DT_TLSDESC_PLT, 0)
3078                   || !add_dynamic_entry (DT_TLSDESC_GOT, 0)))
3079             return FALSE;
3080         }
3081
3082       if (relocs)
3083         {
3084           if (!add_dynamic_entry (DT_RELA, 0)
3085               || !add_dynamic_entry (DT_RELASZ, 0)
3086               || !add_dynamic_entry (DT_RELAENT, bed->s->sizeof_rela))
3087             return FALSE;
3088
3089           /* If any dynamic relocs apply to a read-only section,
3090              then we need a DT_TEXTREL entry.  */
3091           if ((info->flags & DF_TEXTREL) == 0)
3092             elf_link_hash_traverse (&htab->elf,
3093                                     elf_x86_64_readonly_dynrelocs,
3094                                     info);
3095
3096           if ((info->flags & DF_TEXTREL) != 0)
3097             {
3098               if (!add_dynamic_entry (DT_TEXTREL, 0))
3099                 return FALSE;
3100             }
3101         }
3102     }
3103 #undef add_dynamic_entry
3104
3105   return TRUE;
3106 }
3107
3108 static bfd_boolean
3109 elf_x86_64_always_size_sections (bfd *output_bfd,
3110                                  struct bfd_link_info *info)
3111 {
3112   asection *tls_sec = elf_hash_table (info)->tls_sec;
3113
3114   if (tls_sec)
3115     {
3116       struct elf_link_hash_entry *tlsbase;
3117
3118       tlsbase = elf_link_hash_lookup (elf_hash_table (info),
3119                                       "_TLS_MODULE_BASE_",
3120                                       FALSE, FALSE, FALSE);
3121
3122       if (tlsbase && tlsbase->type == STT_TLS)
3123         {
3124           struct elf_x86_64_link_hash_table *htab;
3125           struct bfd_link_hash_entry *bh = NULL;
3126           const struct elf_backend_data *bed
3127             = get_elf_backend_data (output_bfd);
3128
3129           htab = elf_x86_64_hash_table (info);
3130           if (htab == NULL)
3131             return FALSE;
3132
3133           if (!(_bfd_generic_link_add_one_symbol
3134                 (info, output_bfd, "_TLS_MODULE_BASE_", BSF_LOCAL,
3135                  tls_sec, 0, NULL, FALSE,
3136                  bed->collect, &bh)))
3137             return FALSE;
3138
3139           htab->tls_module_base = bh;
3140
3141           tlsbase = (struct elf_link_hash_entry *)bh;
3142           tlsbase->def_regular = 1;
3143           tlsbase->other = STV_HIDDEN;
3144           (*bed->elf_backend_hide_symbol) (info, tlsbase, TRUE);
3145         }
3146     }
3147
3148   return TRUE;
3149 }
3150
3151 /* _TLS_MODULE_BASE_ needs to be treated especially when linking
3152    executables.  Rather than setting it to the beginning of the TLS
3153    section, we have to set it to the end.  This function may be called
3154    multiple times, it is idempotent.  */
3155
3156 static void
3157 elf_x86_64_set_tls_module_base (struct bfd_link_info *info)
3158 {
3159   struct elf_x86_64_link_hash_table *htab;
3160   struct bfd_link_hash_entry *base;
3161
3162   if (!info->executable)
3163     return;
3164
3165   htab = elf_x86_64_hash_table (info);
3166   if (htab == NULL)
3167     return;
3168
3169   base = htab->tls_module_base;
3170   if (base == NULL)
3171     return;
3172
3173   base->u.def.value = htab->elf.tls_size;
3174 }
3175
3176 /* Return the base VMA address which should be subtracted from real addresses
3177    when resolving @dtpoff relocation.
3178    This is PT_TLS segment p_vaddr.  */
3179
3180 static bfd_vma
3181 elf_x86_64_dtpoff_base (struct bfd_link_info *info)
3182 {
3183   /* If tls_sec is NULL, we should have signalled an error already.  */
3184   if (elf_hash_table (info)->tls_sec == NULL)
3185     return 0;
3186   return elf_hash_table (info)->tls_sec->vma;
3187 }
3188
3189 /* Return the relocation value for @tpoff relocation
3190    if STT_TLS virtual address is ADDRESS.  */
3191
3192 static bfd_vma
3193 elf_x86_64_tpoff (struct bfd_link_info *info, bfd_vma address)
3194 {
3195   struct elf_link_hash_table *htab = elf_hash_table (info);
3196   const struct elf_backend_data *bed = get_elf_backend_data (info->output_bfd);
3197   bfd_vma static_tls_size;
3198
3199   /* If tls_segment is NULL, we should have signalled an error already.  */
3200   if (htab->tls_sec == NULL)
3201     return 0;
3202
3203   /* Consider special static TLS alignment requirements.  */
3204   static_tls_size = BFD_ALIGN (htab->tls_size, bed->static_tls_alignment);
3205   return address - static_tls_size - htab->tls_sec->vma;
3206 }
3207
3208 /* Is the instruction before OFFSET in CONTENTS a 32bit relative
3209    branch?  */
3210
3211 static bfd_boolean
3212 is_32bit_relative_branch (bfd_byte *contents, bfd_vma offset)
3213 {
3214   /* Opcode             Instruction
3215      0xe8               call
3216      0xe9               jump
3217      0x0f 0x8x          conditional jump */
3218   return ((offset > 0
3219            && (contents [offset - 1] == 0xe8
3220                || contents [offset - 1] == 0xe9))
3221           || (offset > 1
3222               && contents [offset - 2] == 0x0f
3223               && (contents [offset - 1] & 0xf0) == 0x80));
3224 }
3225
3226 /* Relocate an x86_64 ELF section.  */
3227
3228 static bfd_boolean
3229 elf_x86_64_relocate_section (bfd *output_bfd,
3230                              struct bfd_link_info *info,
3231                              bfd *input_bfd,
3232                              asection *input_section,
3233                              bfd_byte *contents,
3234                              Elf_Internal_Rela *relocs,
3235                              Elf_Internal_Sym *local_syms,
3236                              asection **local_sections)
3237 {
3238   struct elf_x86_64_link_hash_table *htab;
3239   Elf_Internal_Shdr *symtab_hdr;
3240   struct elf_link_hash_entry **sym_hashes;
3241   bfd_vma *local_got_offsets;
3242   bfd_vma *local_tlsdesc_gotents;
3243   Elf_Internal_Rela *rel;
3244   Elf_Internal_Rela *relend;
3245   const unsigned int plt_entry_size = GET_PLT_ENTRY_SIZE (info->output_bfd);
3246
3247   BFD_ASSERT (is_x86_64_elf (input_bfd));
3248
3249   htab = elf_x86_64_hash_table (info);
3250   if (htab == NULL)
3251     return FALSE;
3252   symtab_hdr = &elf_symtab_hdr (input_bfd);
3253   sym_hashes = elf_sym_hashes (input_bfd);
3254   local_got_offsets = elf_local_got_offsets (input_bfd);
3255   local_tlsdesc_gotents = elf_x86_64_local_tlsdesc_gotent (input_bfd);
3256
3257   elf_x86_64_set_tls_module_base (info);
3258
3259   rel = relocs;
3260   relend = relocs + input_section->reloc_count;
3261   for (; rel < relend; rel++)
3262     {
3263       unsigned int r_type;
3264       reloc_howto_type *howto;
3265       unsigned long r_symndx;
3266       struct elf_link_hash_entry *h;
3267       Elf_Internal_Sym *sym;
3268       asection *sec;
3269       bfd_vma off, offplt;
3270       bfd_vma relocation;
3271       bfd_boolean unresolved_reloc;
3272       bfd_reloc_status_type r;
3273       int tls_type;
3274       asection *base_got;
3275
3276       r_type = ELF32_R_TYPE (rel->r_info);
3277       if (r_type == (int) R_X86_64_GNU_VTINHERIT
3278           || r_type == (int) R_X86_64_GNU_VTENTRY)
3279         continue;
3280
3281       if (r_type >= R_X86_64_max)
3282         {
3283           bfd_set_error (bfd_error_bad_value);
3284           return FALSE;
3285         }
3286
3287       if (r_type != (int) R_X86_64_32
3288           || ABI_64_P (output_bfd))
3289         howto = x86_64_elf_howto_table + r_type;
3290       else
3291         howto = (x86_64_elf_howto_table
3292                  + ARRAY_SIZE (x86_64_elf_howto_table) - 1);
3293       r_symndx = htab->r_sym (rel->r_info);
3294       h = NULL;
3295       sym = NULL;
3296       sec = NULL;
3297       unresolved_reloc = FALSE;
3298       if (r_symndx < symtab_hdr->sh_info)
3299         {
3300           sym = local_syms + r_symndx;
3301           sec = local_sections[r_symndx];
3302
3303           relocation = _bfd_elf_rela_local_sym (output_bfd, sym,
3304                                                 &sec, rel);
3305
3306           /* Relocate against local STT_GNU_IFUNC symbol.  */
3307           if (!info->relocatable
3308               && ELF_ST_TYPE (sym->st_info) == STT_GNU_IFUNC)
3309             {
3310               h = elf_x86_64_get_local_sym_hash (htab, input_bfd,
3311                                                  rel, FALSE);
3312               if (h == NULL)
3313                 abort ();
3314
3315               /* Set STT_GNU_IFUNC symbol value.  */
3316               h->root.u.def.value = sym->st_value;
3317               h->root.u.def.section = sec;
3318             }
3319         }
3320       else
3321         {
3322           bfd_boolean warned ATTRIBUTE_UNUSED;
3323
3324           RELOC_FOR_GLOBAL_SYMBOL (info, input_bfd, input_section, rel,
3325                                    r_symndx, symtab_hdr, sym_hashes,
3326                                    h, sec, relocation,
3327                                    unresolved_reloc, warned);
3328         }
3329
3330       if (sec != NULL && discarded_section (sec))
3331         RELOC_AGAINST_DISCARDED_SECTION (info, input_bfd, input_section,
3332                                          rel, 1, relend, howto, 0, contents);
3333
3334       if (info->relocatable)
3335         continue;
3336
3337       if (rel->r_addend == 0
3338           && r_type == R_X86_64_64
3339           && !ABI_64_P (output_bfd))
3340         {
3341           /* For x32, treat R_X86_64_64 like R_X86_64_32 and zero-extend
3342              it to 64bit if addend is zero.  */
3343           r_type = R_X86_64_32;
3344           memset (contents + rel->r_offset + 4, 0, 4);
3345         }
3346
3347       /* Since STT_GNU_IFUNC symbol must go through PLT, we handle
3348          it here if it is defined in a non-shared object.  */
3349       if (h != NULL
3350           && h->type == STT_GNU_IFUNC
3351           && h->def_regular)
3352         {
3353           asection *plt;
3354           bfd_vma plt_index;
3355           const char *name;
3356
3357           if ((input_section->flags & SEC_ALLOC) == 0
3358               || h->plt.offset == (bfd_vma) -1)
3359             abort ();
3360
3361           /* STT_GNU_IFUNC symbol must go through PLT.  */
3362           plt = htab->elf.splt ? htab->elf.splt : htab->elf.iplt;
3363           relocation = (plt->output_section->vma
3364                         + plt->output_offset + h->plt.offset);
3365
3366           switch (r_type)
3367             {
3368             default:
3369               if (h->root.root.string)
3370                 name = h->root.root.string;
3371               else
3372                 name = bfd_elf_sym_name (input_bfd, symtab_hdr, sym,
3373                                          NULL);
3374               (*_bfd_error_handler)
3375                 (_("%B: relocation %s against STT_GNU_IFUNC "
3376                    "symbol `%s' isn't handled by %s"), input_bfd,
3377                  x86_64_elf_howto_table[r_type].name,
3378                  name, __FUNCTION__);
3379               bfd_set_error (bfd_error_bad_value);
3380               return FALSE;
3381
3382             case R_X86_64_32S:
3383               if (info->shared)
3384                 abort ();
3385               goto do_relocation;
3386
3387             case R_X86_64_32:
3388               if (ABI_64_P (output_bfd))
3389                 goto do_relocation;
3390               /* FALLTHROUGH */
3391             case R_X86_64_64:
3392               if (rel->r_addend != 0)
3393                 {
3394                   if (h->root.root.string)
3395                     name = h->root.root.string;
3396                   else
3397                     name = bfd_elf_sym_name (input_bfd, symtab_hdr,
3398                                              sym, NULL);
3399                   (*_bfd_error_handler)
3400                     (_("%B: relocation %s against STT_GNU_IFUNC "
3401                        "symbol `%s' has non-zero addend: %d"),
3402                      input_bfd, x86_64_elf_howto_table[r_type].name,
3403                      name, rel->r_addend);
3404                   bfd_set_error (bfd_error_bad_value);
3405                   return FALSE;
3406                 }
3407
3408               /* Generate dynamic relcoation only when there is a
3409                  non-GOT reference in a shared object.  */
3410               if (info->shared && h->non_got_ref)
3411                 {
3412                   Elf_Internal_Rela outrel;
3413                   asection *sreloc;
3414
3415                   /* Need a dynamic relocation to get the real function
3416                      address.  */
3417                   outrel.r_offset = _bfd_elf_section_offset (output_bfd,
3418                                                              info,
3419                                                              input_section,
3420                                                              rel->r_offset);
3421                   if (outrel.r_offset == (bfd_vma) -1
3422                       || outrel.r_offset == (bfd_vma) -2)
3423                     abort ();
3424
3425                   outrel.r_offset += (input_section->output_section->vma
3426                                       + input_section->output_offset);
3427
3428                   if (h->dynindx == -1
3429                       || h->forced_local
3430                       || info->executable)
3431                     {
3432                       /* This symbol is resolved locally.  */
3433                       outrel.r_info = htab->r_info (0, R_X86_64_IRELATIVE);
3434                       outrel.r_addend = (h->root.u.def.value
3435                                          + h->root.u.def.section->output_section->vma
3436                                          + h->root.u.def.section->output_offset);
3437                     }
3438                   else
3439                     {
3440                       outrel.r_info = htab->r_info (h->dynindx, r_type);
3441                       outrel.r_addend = 0;
3442                     }
3443
3444                   sreloc = htab->elf.irelifunc;
3445                   elf_append_rela (output_bfd, sreloc, &outrel);
3446
3447                   /* If this reloc is against an external symbol, we
3448                      do not want to fiddle with the addend.  Otherwise,
3449                      we need to include the symbol value so that it
3450                      becomes an addend for the dynamic reloc.  For an
3451                      internal symbol, we have updated addend.  */
3452                   continue;
3453                 }
3454               /* FALLTHROUGH */
3455             case R_X86_64_PC32:
3456             case R_X86_64_PC64:
3457             case R_X86_64_PLT32:
3458               goto do_relocation;
3459
3460             case R_X86_64_GOTPCREL:
3461             case R_X86_64_GOTPCREL64:
3462               base_got = htab->elf.sgot;
3463               off = h->got.offset;
3464
3465               if (base_got == NULL)
3466                 abort ();
3467
3468               if (off == (bfd_vma) -1)
3469                 {
3470                   /* We can't use h->got.offset here to save state, or
3471                      even just remember the offset, as finish_dynamic_symbol
3472                      would use that as offset into .got.  */
3473
3474                   if (htab->elf.splt != NULL)
3475                     {
3476                       plt_index = h->plt.offset / plt_entry_size - 1;
3477                       off = (plt_index + 3) * GOT_ENTRY_SIZE;
3478                       base_got = htab->elf.sgotplt;
3479                     }
3480                   else
3481                     {
3482                       plt_index = h->plt.offset / plt_entry_size;
3483                       off = plt_index * GOT_ENTRY_SIZE;
3484                       base_got = htab->elf.igotplt;
3485                     }
3486
3487                   if (h->dynindx == -1
3488                       || h->forced_local
3489                       || info->symbolic)
3490                     {
3491                       /* This references the local defitionion.  We must
3492                          initialize this entry in the global offset table.
3493                          Since the offset must always be a multiple of 8,
3494                          we use the least significant bit to record
3495                          whether we have initialized it already.
3496
3497                          When doing a dynamic link, we create a .rela.got
3498                          relocation entry to initialize the value.  This
3499                          is done in the finish_dynamic_symbol routine.   */
3500                       if ((off & 1) != 0)
3501                         off &= ~1;
3502                       else
3503                         {
3504                           bfd_put_64 (output_bfd, relocation,
3505                                       base_got->contents + off);
3506                           /* Note that this is harmless for the GOTPLT64
3507                              case, as -1 | 1 still is -1.  */
3508                           h->got.offset |= 1;
3509                         }
3510                     }
3511                 }
3512
3513               relocation = (base_got->output_section->vma
3514                             + base_got->output_offset + off);
3515
3516               goto do_relocation;
3517             }
3518         }
3519
3520       /* When generating a shared object, the relocations handled here are
3521          copied into the output file to be resolved at run time.  */
3522       switch (r_type)
3523         {
3524         case R_X86_64_GOT32:
3525         case R_X86_64_GOT64:
3526           /* Relocation is to the entry for this symbol in the global
3527              offset table.  */
3528         case R_X86_64_GOTPCREL:
3529         case R_X86_64_GOTPCREL64:
3530           /* Use global offset table entry as symbol value.  */
3531         case R_X86_64_GOTPLT64:
3532           /* This is the same as GOT64 for relocation purposes, but
3533              indicates the existence of a PLT entry.  The difficulty is,
3534              that we must calculate the GOT slot offset from the PLT
3535              offset, if this symbol got a PLT entry (it was global).
3536              Additionally if it's computed from the PLT entry, then that
3537              GOT offset is relative to .got.plt, not to .got.  */
3538           base_got = htab->elf.sgot;
3539
3540           if (htab->elf.sgot == NULL)
3541             abort ();
3542
3543           if (h != NULL)
3544             {
3545               bfd_boolean dyn;
3546
3547               off = h->got.offset;
3548               if (h->needs_plt
3549                   && h->plt.offset != (bfd_vma)-1
3550                   && off == (bfd_vma)-1)
3551                 {
3552                   /* We can't use h->got.offset here to save
3553                      state, or even just remember the offset, as
3554                      finish_dynamic_symbol would use that as offset into
3555                      .got.  */
3556                   bfd_vma plt_index = h->plt.offset / plt_entry_size - 1;
3557                   off = (plt_index + 3) * GOT_ENTRY_SIZE;
3558                   base_got = htab->elf.sgotplt;
3559                 }
3560
3561               dyn = htab->elf.dynamic_sections_created;
3562
3563               if (! WILL_CALL_FINISH_DYNAMIC_SYMBOL (dyn, info->shared, h)
3564                   || (info->shared
3565                       && SYMBOL_REFERENCES_LOCAL (info, h))
3566                   || (ELF_ST_VISIBILITY (h->other)
3567                       && h->root.type == bfd_link_hash_undefweak))
3568                 {
3569                   /* This is actually a static link, or it is a -Bsymbolic
3570                      link and the symbol is defined locally, or the symbol
3571                      was forced to be local because of a version file.  We
3572                      must initialize this entry in the global offset table.
3573                      Since the offset must always be a multiple of 8, we
3574                      use the least significant bit to record whether we
3575                      have initialized it already.
3576
3577                      When doing a dynamic link, we create a .rela.got
3578                      relocation entry to initialize the value.  This is
3579                      done in the finish_dynamic_symbol routine.  */
3580                   if ((off & 1) != 0)
3581                     off &= ~1;
3582                   else
3583                     {
3584                       bfd_put_64 (output_bfd, relocation,
3585                                   base_got->contents + off);
3586                       /* Note that this is harmless for the GOTPLT64 case,
3587                          as -1 | 1 still is -1.  */
3588                       h->got.offset |= 1;
3589                     }
3590                 }
3591               else
3592                 unresolved_reloc = FALSE;
3593             }
3594           else
3595             {
3596               if (local_got_offsets == NULL)
3597                 abort ();
3598
3599               off = local_got_offsets[r_symndx];
3600
3601               /* The offset must always be a multiple of 8.  We use
3602                  the least significant bit to record whether we have
3603                  already generated the necessary reloc.  */
3604               if ((off & 1) != 0)
3605                 off &= ~1;
3606               else
3607                 {
3608                   bfd_put_64 (output_bfd, relocation,
3609                               base_got->contents + off);
3610
3611                   if (info->shared)
3612                     {
3613                       asection *s;
3614                       Elf_Internal_Rela outrel;
3615
3616                       /* We need to generate a R_X86_64_RELATIVE reloc
3617                          for the dynamic linker.  */
3618                       s = htab->elf.srelgot;
3619                       if (s == NULL)
3620                         abort ();
3621
3622                       outrel.r_offset = (base_got->output_section->vma
3623                                          + base_got->output_offset
3624                                          + off);
3625                       outrel.r_info = htab->r_info (0, R_X86_64_RELATIVE);
3626                       outrel.r_addend = relocation;
3627                       elf_append_rela (output_bfd, s, &outrel);
3628                     }
3629
3630                   local_got_offsets[r_symndx] |= 1;
3631                 }
3632             }
3633
3634           if (off >= (bfd_vma) -2)
3635             abort ();
3636
3637           relocation = base_got->output_section->vma
3638                        + base_got->output_offset + off;
3639           if (r_type != R_X86_64_GOTPCREL && r_type != R_X86_64_GOTPCREL64)
3640             relocation -= htab->elf.sgotplt->output_section->vma
3641                           - htab->elf.sgotplt->output_offset;
3642
3643           break;
3644
3645         case R_X86_64_GOTOFF64:
3646           /* Relocation is relative to the start of the global offset
3647              table.  */
3648
3649           /* Check to make sure it isn't a protected function symbol
3650              for shared library since it may not be local when used
3651              as function address.  */
3652           if (!info->executable
3653               && h
3654               && !SYMBOLIC_BIND (info, h)
3655               && h->def_regular
3656               && h->type == STT_FUNC
3657               && ELF_ST_VISIBILITY (h->other) == STV_PROTECTED)
3658             {
3659               (*_bfd_error_handler)
3660                 (_("%B: relocation R_X86_64_GOTOFF64 against protected function `%s' can not be used when making a shared object"),
3661                  input_bfd, h->root.root.string);
3662               bfd_set_error (bfd_error_bad_value);
3663               return FALSE;
3664             }
3665
3666           /* Note that sgot is not involved in this
3667              calculation.  We always want the start of .got.plt.  If we
3668              defined _GLOBAL_OFFSET_TABLE_ in a different way, as is
3669              permitted by the ABI, we might have to change this
3670              calculation.  */
3671           relocation -= htab->elf.sgotplt->output_section->vma
3672                         + htab->elf.sgotplt->output_offset;
3673           break;
3674
3675         case R_X86_64_GOTPC32:
3676         case R_X86_64_GOTPC64:
3677           /* Use global offset table as symbol value.  */
3678           relocation = htab->elf.sgotplt->output_section->vma
3679                        + htab->elf.sgotplt->output_offset;
3680           unresolved_reloc = FALSE;
3681           break;
3682
3683         case R_X86_64_PLTOFF64:
3684           /* Relocation is PLT entry relative to GOT.  For local
3685              symbols it's the symbol itself relative to GOT.  */
3686           if (h != NULL
3687               /* See PLT32 handling.  */
3688               && h->plt.offset != (bfd_vma) -1
3689               && htab->elf.splt != NULL)
3690             {
3691               relocation = (htab->elf.splt->output_section->vma
3692                             + htab->elf.splt->output_offset
3693                             + h->plt.offset);
3694               unresolved_reloc = FALSE;
3695             }
3696
3697           relocation -= htab->elf.sgotplt->output_section->vma
3698                         + htab->elf.sgotplt->output_offset;
3699           break;
3700
3701         case R_X86_64_PLT32:
3702           /* Relocation is to the entry for this symbol in the
3703              procedure linkage table.  */
3704
3705           /* Resolve a PLT32 reloc against a local symbol directly,
3706              without using the procedure linkage table.  */
3707           if (h == NULL)
3708             break;
3709
3710           if (h->plt.offset == (bfd_vma) -1
3711               || htab->elf.splt == NULL)
3712             {
3713               /* We didn't make a PLT entry for this symbol.  This
3714                  happens when statically linking PIC code, or when
3715                  using -Bsymbolic.  */
3716               break;
3717             }
3718
3719           relocation = (htab->elf.splt->output_section->vma
3720                         + htab->elf.splt->output_offset
3721                         + h->plt.offset);
3722           unresolved_reloc = FALSE;
3723           break;
3724
3725         case R_X86_64_PC8:
3726         case R_X86_64_PC16:
3727         case R_X86_64_PC32:
3728           if (info->shared
3729               && (input_section->flags & SEC_ALLOC) != 0
3730               && (input_section->flags & SEC_READONLY) != 0
3731               && h != NULL)
3732             {
3733               bfd_boolean fail = FALSE;
3734               bfd_boolean branch
3735                 = (r_type == R_X86_64_PC32
3736                    && is_32bit_relative_branch (contents, rel->r_offset));
3737
3738               if (SYMBOL_REFERENCES_LOCAL (info, h))
3739                 {
3740                   /* Symbol is referenced locally.  Make sure it is
3741                      defined locally or for a branch.  */
3742                   fail = !h->def_regular && !branch;
3743                 }
3744               else
3745                 {
3746                   /* Symbol isn't referenced locally.  We only allow
3747                      branch to symbol with non-default visibility. */
3748                   fail = (!branch
3749                           || ELF_ST_VISIBILITY (h->other) == STV_DEFAULT);
3750                 }
3751
3752               if (fail)
3753                 {
3754                   const char *fmt;
3755                   const char *v;
3756                   const char *pic = "";
3757
3758                   switch (ELF_ST_VISIBILITY (h->other))
3759                     {
3760                     case STV_HIDDEN:
3761                       v = _("hidden symbol");
3762                       break;
3763                     case STV_INTERNAL:
3764                       v = _("internal symbol");
3765                       break;
3766                     case STV_PROTECTED:
3767                       v = _("protected symbol");
3768                       break;
3769                     default:
3770                       v = _("symbol");
3771                       pic = _("; recompile with -fPIC");
3772                       break;
3773                     }
3774
3775                   if (h->def_regular)
3776                     fmt = _("%B: relocation %s against %s `%s' can not be used when making a shared object%s");
3777                   else
3778                     fmt = _("%B: relocation %s against undefined %s `%s' can not be used when making a shared object%s");
3779
3780                   (*_bfd_error_handler) (fmt, input_bfd,
3781                                          x86_64_elf_howto_table[r_type].name,
3782                                          v,  h->root.root.string, pic);
3783                   bfd_set_error (bfd_error_bad_value);
3784                   return FALSE;
3785                 }
3786             }
3787           /* Fall through.  */
3788
3789         case R_X86_64_8:
3790         case R_X86_64_16:
3791         case R_X86_64_32:
3792         case R_X86_64_PC64:
3793         case R_X86_64_64:
3794           /* FIXME: The ABI says the linker should make sure the value is
3795              the same when it's zeroextended to 64 bit.  */
3796
3797           if ((input_section->flags & SEC_ALLOC) == 0)
3798             break;
3799
3800           if ((info->shared
3801                && (h == NULL
3802                    || ELF_ST_VISIBILITY (h->other) == STV_DEFAULT
3803                    || h->root.type != bfd_link_hash_undefweak)
3804                && (! IS_X86_64_PCREL_TYPE (r_type)
3805                    || ! SYMBOL_CALLS_LOCAL (info, h)))
3806               || (ELIMINATE_COPY_RELOCS
3807                   && !info->shared
3808                   && h != NULL
3809                   && h->dynindx != -1
3810                   && !h->non_got_ref
3811                   && ((h->def_dynamic
3812                        && !h->def_regular)
3813                       || h->root.type == bfd_link_hash_undefweak
3814                       || h->root.type == bfd_link_hash_undefined)))
3815             {
3816               Elf_Internal_Rela outrel;
3817               bfd_boolean skip, relocate;
3818               asection *sreloc;
3819
3820               /* When generating a shared object, these relocations
3821                  are copied into the output file to be resolved at run
3822                  time.  */
3823               skip = FALSE;
3824               relocate = FALSE;
3825
3826               outrel.r_offset =
3827                 _bfd_elf_section_offset (output_bfd, info, input_section,
3828                                          rel->r_offset);
3829               if (outrel.r_offset == (bfd_vma) -1)
3830                 skip = TRUE;
3831               else if (outrel.r_offset == (bfd_vma) -2)
3832                 skip = TRUE, relocate = TRUE;
3833
3834               outrel.r_offset += (input_section->output_section->vma
3835                                   + input_section->output_offset);
3836
3837               if (skip)
3838                 memset (&outrel, 0, sizeof outrel);
3839
3840               /* h->dynindx may be -1 if this symbol was marked to
3841                  become local.  */
3842               else if (h != NULL
3843                        && h->dynindx != -1
3844                        && (IS_X86_64_PCREL_TYPE (r_type)
3845                            || ! info->shared
3846                            || ! SYMBOLIC_BIND (info, h)
3847                            || ! h->def_regular))
3848                 {
3849                   outrel.r_info = htab->r_info (h->dynindx, r_type);
3850                   outrel.r_addend = rel->r_addend;
3851                 }
3852               else
3853                 {
3854                   /* This symbol is local, or marked to become local.  */
3855                   if (r_type == htab->pointer_r_type)
3856                     {
3857                       relocate = TRUE;
3858                       outrel.r_info = htab->r_info (0, R_X86_64_RELATIVE);
3859                       outrel.r_addend = relocation + rel->r_addend;
3860                     }
3861                   else if (r_type == R_X86_64_64
3862                            && !ABI_64_P (output_bfd))
3863                     {
3864                       relocate = TRUE;
3865                       outrel.r_info = htab->r_info (0,
3866                                                     R_X86_64_RELATIVE64);
3867                       outrel.r_addend = relocation + rel->r_addend;
3868                       /* Check addend overflow.  */
3869                       if ((outrel.r_addend & 0x80000000)
3870                           != (rel->r_addend & 0x80000000))
3871                         {
3872                           const char *name;
3873                           int addend = rel->r_addend;
3874                           if (h && h->root.root.string)
3875                             name = h->root.root.string;
3876                           else
3877                             name = bfd_elf_sym_name (input_bfd, symtab_hdr,
3878                                                      sym, NULL);
3879                           if (addend < 0)
3880                             (*_bfd_error_handler)
3881                               (_("%B: addend -0x%x in relocation %s against "
3882                                  "symbol `%s' at 0x%lx in section `%A' is "
3883                                  "out of range"),
3884                                input_bfd, input_section, addend,
3885                                x86_64_elf_howto_table[r_type].name,
3886                                name, (unsigned long) rel->r_offset);
3887                           else
3888                             (*_bfd_error_handler)
3889                               (_("%B: addend 0x%x in relocation %s against "
3890                                  "symbol `%s' at 0x%lx in section `%A' is "
3891                                  "out of range"),
3892                                input_bfd, input_section, addend,
3893                                x86_64_elf_howto_table[r_type].name,
3894                                name, (unsigned long) rel->r_offset);
3895                           bfd_set_error (bfd_error_bad_value);
3896                           return FALSE;
3897                         }
3898                     }
3899                   else
3900                     {
3901                       long sindx;
3902
3903                       if (bfd_is_abs_section (sec))
3904                         sindx = 0;
3905                       else if (sec == NULL || sec->owner == NULL)
3906                         {
3907                           bfd_set_error (bfd_error_bad_value);
3908                           return FALSE;
3909                         }
3910                       else
3911                         {
3912                           asection *osec;
3913
3914                           /* We are turning this relocation into one
3915                              against a section symbol.  It would be
3916                              proper to subtract the symbol's value,
3917                              osec->vma, from the emitted reloc addend,
3918                              but ld.so expects buggy relocs.  */
3919                           osec = sec->output_section;
3920                           sindx = elf_section_data (osec)->dynindx;
3921                           if (sindx == 0)
3922                             {
3923                               asection *oi = htab->elf.text_index_section;
3924                               sindx = elf_section_data (oi)->dynindx;
3925                             }
3926                           BFD_ASSERT (sindx != 0);
3927                         }
3928
3929                       outrel.r_info = htab->r_info (sindx, r_type);
3930                       outrel.r_addend = relocation + rel->r_addend;
3931                     }
3932                 }
3933
3934               sreloc = elf_section_data (input_section)->sreloc;
3935
3936               if (sreloc == NULL || sreloc->contents == NULL)
3937                 {
3938                   r = bfd_reloc_notsupported;
3939                   goto check_relocation_error;
3940                 }
3941
3942               elf_append_rela (output_bfd, sreloc, &outrel);
3943
3944               /* If this reloc is against an external symbol, we do
3945                  not want to fiddle with the addend.  Otherwise, we
3946                  need to include the symbol value so that it becomes
3947                  an addend for the dynamic reloc.  */
3948               if (! relocate)
3949                 continue;
3950             }
3951
3952           break;
3953
3954         case R_X86_64_TLSGD:
3955         case R_X86_64_GOTPC32_TLSDESC:
3956         case R_X86_64_TLSDESC_CALL:
3957         case R_X86_64_GOTTPOFF:
3958           tls_type = GOT_UNKNOWN;
3959           if (h == NULL && local_got_offsets)
3960             tls_type = elf_x86_64_local_got_tls_type (input_bfd) [r_symndx];
3961           else if (h != NULL)
3962             tls_type = elf_x86_64_hash_entry (h)->tls_type;
3963
3964           if (! elf_x86_64_tls_transition (info, input_bfd,
3965                                            input_section, contents,
3966                                            symtab_hdr, sym_hashes,
3967                                            &r_type, tls_type, rel,
3968                                            relend, h, r_symndx))
3969             return FALSE;
3970
3971           if (r_type == R_X86_64_TPOFF32)
3972             {
3973               bfd_vma roff = rel->r_offset;
3974
3975               BFD_ASSERT (! unresolved_reloc);
3976
3977               if (ELF32_R_TYPE (rel->r_info) == R_X86_64_TLSGD)
3978                 {
3979                   /* GD->LE transition.  For 64bit, change
3980                      .byte 0x66; leaq foo@tlsgd(%rip), %rdi
3981                      .word 0x6666; rex64; call __tls_get_addr
3982                      into:
3983                      movq %fs:0, %rax
3984                      leaq foo@tpoff(%rax), %rax
3985                      For 32bit, change
3986                      leaq foo@tlsgd(%rip), %rdi
3987                      .word 0x6666; rex64; call __tls_get_addr
3988                      into:
3989                      movl %fs:0, %eax
3990                      leaq foo@tpoff(%rax), %rax */
3991                   if (ABI_64_P (output_bfd))
3992                     memcpy (contents + roff - 4,
3993                             "\x64\x48\x8b\x04\x25\0\0\0\0\x48\x8d\x80\0\0\0",
3994                             16);
3995                   else
3996                     memcpy (contents + roff - 3,
3997                             "\x64\x8b\x04\x25\0\0\0\0\x48\x8d\x80\0\0\0",
3998                             15);
3999                   bfd_put_32 (output_bfd,
4000                               elf_x86_64_tpoff (info, relocation),
4001                               contents + roff + 8);
4002                   /* Skip R_X86_64_PC32/R_X86_64_PLT32.  */
4003                   rel++;
4004                   continue;
4005                 }
4006               else if (ELF32_R_TYPE (rel->r_info) == R_X86_64_GOTPC32_TLSDESC)
4007                 {
4008                   /* GDesc -> LE transition.
4009                      It's originally something like:
4010                      leaq x@tlsdesc(%rip), %rax
4011
4012                      Change it to:
4013                      movl $x@tpoff, %rax.  */
4014
4015                   unsigned int val, type;
4016
4017                   type = bfd_get_8 (input_bfd, contents + roff - 3);
4018                   val = bfd_get_8 (input_bfd, contents + roff - 1);
4019                   bfd_put_8 (output_bfd, 0x48 | ((type >> 2) & 1),
4020                              contents + roff - 3);
4021                   bfd_put_8 (output_bfd, 0xc7, contents + roff - 2);
4022                   bfd_put_8 (output_bfd, 0xc0 | ((val >> 3) & 7),
4023                              contents + roff - 1);
4024                   bfd_put_32 (output_bfd,
4025                               elf_x86_64_tpoff (info, relocation),
4026                               contents + roff);
4027                   continue;
4028                 }
4029               else if (ELF32_R_TYPE (rel->r_info) == R_X86_64_TLSDESC_CALL)
4030                 {
4031                   /* GDesc -> LE transition.
4032                      It's originally:
4033                      call *(%rax)
4034                      Turn it into:
4035                      xchg %ax,%ax.  */
4036                   bfd_put_8 (output_bfd, 0x66, contents + roff);
4037                   bfd_put_8 (output_bfd, 0x90, contents + roff + 1);
4038                   continue;
4039                 }
4040               else if (ELF32_R_TYPE (rel->r_info) == R_X86_64_GOTTPOFF)
4041                 {
4042                   /* IE->LE transition:
4043                      Originally it can be one of:
4044                      movq foo@gottpoff(%rip), %reg
4045                      addq foo@gottpoff(%rip), %reg
4046                      We change it into:
4047                      movq $foo, %reg
4048                      leaq foo(%reg), %reg
4049                      addq $foo, %reg.  */
4050
4051                   unsigned int val, type, reg;
4052
4053                   val = bfd_get_8 (input_bfd, contents + roff - 3);
4054                   type = bfd_get_8 (input_bfd, contents + roff - 2);
4055                   reg = bfd_get_8 (input_bfd, contents + roff - 1);
4056                   reg >>= 3;
4057                   if (type == 0x8b)
4058                     {
4059                       /* movq */
4060                       if (val == 0x4c)
4061                         bfd_put_8 (output_bfd, 0x49,
4062                                    contents + roff - 3);
4063                       else if (!ABI_64_P (output_bfd) && val == 0x44)
4064                         bfd_put_8 (output_bfd, 0x41,
4065                                    contents + roff - 3);
4066                       bfd_put_8 (output_bfd, 0xc7,
4067                                  contents + roff - 2);
4068                       bfd_put_8 (output_bfd, 0xc0 | reg,
4069                                  contents + roff - 1);
4070                     }
4071                   else if (reg == 4)
4072                     {
4073                       /* addq -> addq - addressing with %rsp/%r12 is
4074                          special  */
4075                       if (val == 0x4c)
4076                         bfd_put_8 (output_bfd, 0x49,
4077                                    contents + roff - 3);
4078                       else if (!ABI_64_P (output_bfd) && val == 0x44)
4079                         bfd_put_8 (output_bfd, 0x41,
4080                                    contents + roff - 3);
4081                       bfd_put_8 (output_bfd, 0x81,
4082                                  contents + roff - 2);
4083                       bfd_put_8 (output_bfd, 0xc0 | reg,
4084                                  contents + roff - 1);
4085                     }
4086                   else
4087                     {
4088                       /* addq -> leaq */
4089                       if (val == 0x4c)
4090                         bfd_put_8 (output_bfd, 0x4d,
4091                                    contents + roff - 3);
4092                       else if (!ABI_64_P (output_bfd) && val == 0x44)
4093                         bfd_put_8 (output_bfd, 0x45,
4094                                    contents + roff - 3);
4095                       bfd_put_8 (output_bfd, 0x8d,
4096                                  contents + roff - 2);
4097                       bfd_put_8 (output_bfd, 0x80 | reg | (reg << 3),
4098                                  contents + roff - 1);
4099                     }
4100                   bfd_put_32 (output_bfd,
4101                               elf_x86_64_tpoff (info, relocation),
4102                               contents + roff);
4103                   continue;
4104                 }
4105               else
4106                 BFD_ASSERT (FALSE);
4107             }
4108
4109           if (htab->elf.sgot == NULL)
4110             abort ();
4111
4112           if (h != NULL)
4113             {
4114               off = h->got.offset;
4115               offplt = elf_x86_64_hash_entry (h)->tlsdesc_got;
4116             }
4117           else
4118             {
4119               if (local_got_offsets == NULL)
4120                 abort ();
4121
4122               off = local_got_offsets[r_symndx];
4123               offplt = local_tlsdesc_gotents[r_symndx];
4124             }
4125
4126           if ((off & 1) != 0)
4127             off &= ~1;
4128           else
4129             {
4130               Elf_Internal_Rela outrel;
4131               int dr_type, indx;
4132               asection *sreloc;
4133
4134               if (htab->elf.srelgot == NULL)
4135                 abort ();
4136
4137               indx = h && h->dynindx != -1 ? h->dynindx : 0;
4138
4139               if (GOT_TLS_GDESC_P (tls_type))
4140                 {
4141                   outrel.r_info = htab->r_info (indx, R_X86_64_TLSDESC);
4142                   BFD_ASSERT (htab->sgotplt_jump_table_size + offplt
4143                               + 2 * GOT_ENTRY_SIZE <= htab->elf.sgotplt->size);
4144                   outrel.r_offset = (htab->elf.sgotplt->output_section->vma
4145                                      + htab->elf.sgotplt->output_offset
4146                                      + offplt
4147                                      + htab->sgotplt_jump_table_size);
4148                   sreloc = htab->elf.srelplt;
4149                   if (indx == 0)
4150                     outrel.r_addend = relocation - elf_x86_64_dtpoff_base (info);
4151                   else
4152                     outrel.r_addend = 0;
4153                   elf_append_rela (output_bfd, sreloc, &outrel);
4154                 }
4155
4156               sreloc = htab->elf.srelgot;
4157
4158               outrel.r_offset = (htab->elf.sgot->output_section->vma
4159                                  + htab->elf.sgot->output_offset + off);
4160
4161               if (GOT_TLS_GD_P (tls_type))
4162                 dr_type = R_X86_64_DTPMOD64;
4163               else if (GOT_TLS_GDESC_P (tls_type))
4164                 goto dr_done;
4165               else
4166                 dr_type = R_X86_64_TPOFF64;
4167
4168               bfd_put_64 (output_bfd, 0, htab->elf.sgot->contents + off);
4169               outrel.r_addend = 0;
4170               if ((dr_type == R_X86_64_TPOFF64
4171                    || dr_type == R_X86_64_TLSDESC) && indx == 0)
4172                 outrel.r_addend = relocation - elf_x86_64_dtpoff_base (info);
4173               outrel.r_info = htab->r_info (indx, dr_type);
4174
4175               elf_append_rela (output_bfd, sreloc, &outrel);
4176
4177               if (GOT_TLS_GD_P (tls_type))
4178                 {
4179                   if (indx == 0)
4180                     {
4181                       BFD_ASSERT (! unresolved_reloc);
4182                       bfd_put_64 (output_bfd,
4183                                   relocation - elf_x86_64_dtpoff_base (info),
4184                                   htab->elf.sgot->contents + off + GOT_ENTRY_SIZE);
4185                     }
4186                   else
4187                     {
4188                       bfd_put_64 (output_bfd, 0,
4189                                   htab->elf.sgot->contents + off + GOT_ENTRY_SIZE);
4190                       outrel.r_info = htab->r_info (indx,
4191                                                     R_X86_64_DTPOFF64);
4192                       outrel.r_offset += GOT_ENTRY_SIZE;
4193                       elf_append_rela (output_bfd, sreloc,
4194                                                 &outrel);
4195                     }
4196                 }
4197
4198             dr_done:
4199               if (h != NULL)
4200                 h->got.offset |= 1;
4201               else
4202                 local_got_offsets[r_symndx] |= 1;
4203             }
4204
4205           if (off >= (bfd_vma) -2
4206               && ! GOT_TLS_GDESC_P (tls_type))
4207             abort ();
4208           if (r_type == ELF32_R_TYPE (rel->r_info))
4209             {
4210               if (r_type == R_X86_64_GOTPC32_TLSDESC
4211                   || r_type == R_X86_64_TLSDESC_CALL)
4212                 relocation = htab->elf.sgotplt->output_section->vma
4213                   + htab->elf.sgotplt->output_offset
4214                   + offplt + htab->sgotplt_jump_table_size;
4215               else
4216                 relocation = htab->elf.sgot->output_section->vma
4217                   + htab->elf.sgot->output_offset + off;
4218               unresolved_reloc = FALSE;
4219             }
4220           else
4221             {
4222               bfd_vma roff = rel->r_offset;
4223
4224               if (ELF32_R_TYPE (rel->r_info) == R_X86_64_TLSGD)
4225                 {
4226                   /* GD->IE transition.  For 64bit, change
4227                      .byte 0x66; leaq foo@tlsgd(%rip), %rdi
4228                      .word 0x6666; rex64; call __tls_get_addr@plt
4229                      into:
4230                      movq %fs:0, %rax
4231                      addq foo@gottpoff(%rip), %rax
4232                      For 32bit, change
4233                      leaq foo@tlsgd(%rip), %rdi
4234                      .word 0x6666; rex64; call __tls_get_addr@plt
4235                      into:
4236                      movl %fs:0, %eax
4237                      addq foo@gottpoff(%rip), %rax */
4238                   if (ABI_64_P (output_bfd))
4239                     memcpy (contents + roff - 4,
4240                             "\x64\x48\x8b\x04\x25\0\0\0\0\x48\x03\x05\0\0\0",
4241                             16);
4242                   else
4243                     memcpy (contents + roff - 3,
4244                             "\x64\x8b\x04\x25\0\0\0\0\x48\x03\x05\0\0\0",
4245                             15);
4246
4247                   relocation = (htab->elf.sgot->output_section->vma
4248                                 + htab->elf.sgot->output_offset + off
4249                                 - roff
4250                                 - input_section->output_section->vma
4251                                 - input_section->output_offset
4252                                 - 12);
4253                   bfd_put_32 (output_bfd, relocation,
4254                               contents + roff + 8);
4255                   /* Skip R_X86_64_PLT32.  */
4256                   rel++;
4257                   continue;
4258                 }
4259               else if (ELF32_R_TYPE (rel->r_info) == R_X86_64_GOTPC32_TLSDESC)
4260                 {
4261                   /* GDesc -> IE transition.
4262                      It's originally something like:
4263                      leaq x@tlsdesc(%rip), %rax
4264
4265                      Change it to:
4266                      movq x@gottpoff(%rip), %rax # before xchg %ax,%ax.  */
4267
4268                   /* Now modify the instruction as appropriate. To
4269                      turn a leaq into a movq in the form we use it, it
4270                      suffices to change the second byte from 0x8d to
4271                      0x8b.  */
4272                   bfd_put_8 (output_bfd, 0x8b, contents + roff - 2);
4273
4274                   bfd_put_32 (output_bfd,
4275                               htab->elf.sgot->output_section->vma
4276                               + htab->elf.sgot->output_offset + off
4277                               - rel->r_offset
4278                               - input_section->output_section->vma
4279                               - input_section->output_offset
4280                               - 4,
4281                               contents + roff);
4282                   continue;
4283                 }
4284               else if (ELF32_R_TYPE (rel->r_info) == R_X86_64_TLSDESC_CALL)
4285                 {
4286                   /* GDesc -> IE transition.
4287                      It's originally:
4288                      call *(%rax)
4289
4290                      Change it to:
4291                      xchg %ax, %ax.  */
4292
4293                   bfd_put_8 (output_bfd, 0x66, contents + roff);
4294                   bfd_put_8 (output_bfd, 0x90, contents + roff + 1);
4295                   continue;
4296                 }
4297               else
4298                 BFD_ASSERT (FALSE);
4299             }
4300           break;
4301
4302         case R_X86_64_TLSLD:
4303           if (! elf_x86_64_tls_transition (info, input_bfd,
4304                                            input_section, contents,
4305                                            symtab_hdr, sym_hashes,
4306                                            &r_type, GOT_UNKNOWN,
4307                                            rel, relend, h, r_symndx))
4308             return FALSE;
4309
4310           if (r_type != R_X86_64_TLSLD)
4311             {
4312               /* LD->LE transition:
4313                  leaq foo@tlsld(%rip), %rdi; call __tls_get_addr.
4314                  For 64bit, we change it into:
4315                  .word 0x6666; .byte 0x66; movq %fs:0, %rax.
4316                  For 32bit, we change it into:
4317                  nopl 0x0(%rax); movl %fs:0, %eax.  */
4318
4319               BFD_ASSERT (r_type == R_X86_64_TPOFF32);
4320               if (ABI_64_P (output_bfd))
4321                 memcpy (contents + rel->r_offset - 3,
4322                         "\x66\x66\x66\x64\x48\x8b\x04\x25\0\0\0", 12);
4323               else
4324                 memcpy (contents + rel->r_offset - 3,
4325                         "\x0f\x1f\x40\x00\x64\x8b\x04\x25\0\0\0", 12);
4326               /* Skip R_X86_64_PC32/R_X86_64_PLT32.  */
4327               rel++;
4328               continue;
4329             }
4330
4331           if (htab->elf.sgot == NULL)
4332             abort ();
4333
4334           off = htab->tls_ld_got.offset;
4335           if (off & 1)
4336             off &= ~1;
4337           else
4338             {
4339               Elf_Internal_Rela outrel;
4340
4341               if (htab->elf.srelgot == NULL)
4342                 abort ();
4343
4344               outrel.r_offset = (htab->elf.sgot->output_section->vma
4345                                  + htab->elf.sgot->output_offset + off);
4346
4347               bfd_put_64 (output_bfd, 0,
4348                           htab->elf.sgot->contents + off);
4349               bfd_put_64 (output_bfd, 0,
4350                           htab->elf.sgot->contents + off + GOT_ENTRY_SIZE);
4351               outrel.r_info = htab->r_info (0, R_X86_64_DTPMOD64);
4352               outrel.r_addend = 0;
4353               elf_append_rela (output_bfd, htab->elf.srelgot,
4354                                         &outrel);
4355               htab->tls_ld_got.offset |= 1;
4356             }
4357           relocation = htab->elf.sgot->output_section->vma
4358                        + htab->elf.sgot->output_offset + off;
4359           unresolved_reloc = FALSE;
4360           break;
4361
4362         case R_X86_64_DTPOFF32:
4363           if (!info->executable|| (input_section->flags & SEC_CODE) == 0)
4364             relocation -= elf_x86_64_dtpoff_base (info);
4365           else
4366             relocation = elf_x86_64_tpoff (info, relocation);
4367           break;
4368
4369         case R_X86_64_TPOFF32:
4370         case R_X86_64_TPOFF64:
4371           BFD_ASSERT (info->executable);
4372           relocation = elf_x86_64_tpoff (info, relocation);
4373           break;
4374
4375         default:
4376           break;
4377         }
4378
4379       /* Dynamic relocs are not propagated for SEC_DEBUGGING sections
4380          because such sections are not SEC_ALLOC and thus ld.so will
4381          not process them.  */
4382       if (unresolved_reloc
4383           && !((input_section->flags & SEC_DEBUGGING) != 0
4384                && h->def_dynamic)
4385           && _bfd_elf_section_offset (output_bfd, info, input_section,
4386                                       rel->r_offset) != (bfd_vma) -1)
4387         {
4388           (*_bfd_error_handler)
4389             (_("%B(%A+0x%lx): unresolvable %s relocation against symbol `%s'"),
4390              input_bfd,
4391              input_section,
4392              (long) rel->r_offset,
4393              howto->name,
4394              h->root.root.string);
4395           return FALSE;
4396         }
4397
4398 do_relocation:
4399       r = _bfd_final_link_relocate (howto, input_bfd, input_section,
4400                                     contents, rel->r_offset,
4401                                     relocation, rel->r_addend);
4402
4403 check_relocation_error:
4404       if (r != bfd_reloc_ok)
4405         {
4406           const char *name;
4407
4408           if (h != NULL)
4409             name = h->root.root.string;
4410           else
4411             {
4412               name = bfd_elf_string_from_elf_section (input_bfd,
4413                                                       symtab_hdr->sh_link,
4414                                                       sym->st_name);
4415               if (name == NULL)
4416                 return FALSE;
4417               if (*name == '\0')
4418                 name = bfd_section_name (input_bfd, sec);
4419             }
4420
4421           if (r == bfd_reloc_overflow)
4422             {
4423               if (! ((*info->callbacks->reloc_overflow)
4424                      (info, (h ? &h->root : NULL), name, howto->name,
4425                       (bfd_vma) 0, input_bfd, input_section,
4426                       rel->r_offset)))
4427                 return FALSE;
4428             }
4429           else
4430             {
4431               (*_bfd_error_handler)
4432                 (_("%B(%A+0x%lx): reloc against `%s': error %d"),
4433                  input_bfd, input_section,
4434                  (long) rel->r_offset, name, (int) r);
4435               return FALSE;
4436             }
4437         }
4438     }
4439
4440   return TRUE;
4441 }
4442
4443 /* Finish up dynamic symbol handling.  We set the contents of various
4444    dynamic sections here.  */
4445
4446 static bfd_boolean
4447 elf_x86_64_finish_dynamic_symbol (bfd *output_bfd,
4448                                   struct bfd_link_info *info,
4449                                   struct elf_link_hash_entry *h,
4450                                   Elf_Internal_Sym *sym ATTRIBUTE_UNUSED)
4451 {
4452   struct elf_x86_64_link_hash_table *htab;
4453   const struct elf_x86_64_backend_data *const abed
4454     = get_elf_x86_64_backend_data (output_bfd);
4455
4456   htab = elf_x86_64_hash_table (info);
4457   if (htab == NULL)
4458     return FALSE;
4459
4460   if (h->plt.offset != (bfd_vma) -1)
4461     {
4462       bfd_vma plt_index;
4463       bfd_vma got_offset;
4464       Elf_Internal_Rela rela;
4465       bfd_byte *loc;
4466       asection *plt, *gotplt, *relplt;
4467       const struct elf_backend_data *bed;
4468
4469       /* When building a static executable, use .iplt, .igot.plt and
4470          .rela.iplt sections for STT_GNU_IFUNC symbols.  */
4471       if (htab->elf.splt != NULL)
4472         {
4473           plt = htab->elf.splt;
4474           gotplt = htab->elf.sgotplt;
4475           relplt = htab->elf.srelplt;
4476         }
4477       else
4478         {
4479           plt = htab->elf.iplt;
4480           gotplt = htab->elf.igotplt;
4481           relplt = htab->elf.irelplt;
4482         }
4483
4484       /* This symbol has an entry in the procedure linkage table.  Set
4485          it up.  */
4486       if ((h->dynindx == -1
4487            && !((h->forced_local || info->executable)
4488                 && h->def_regular
4489                 && h->type == STT_GNU_IFUNC))
4490           || plt == NULL
4491           || gotplt == NULL
4492           || relplt == NULL)
4493         abort ();
4494
4495       /* Get the index in the procedure linkage table which
4496          corresponds to this symbol.  This is the index of this symbol
4497          in all the symbols for which we are making plt entries.  The
4498          first entry in the procedure linkage table is reserved.
4499
4500          Get the offset into the .got table of the entry that
4501          corresponds to this function.  Each .got entry is GOT_ENTRY_SIZE
4502          bytes. The first three are reserved for the dynamic linker.
4503
4504          For static executables, we don't reserve anything.  */
4505
4506       if (plt == htab->elf.splt)
4507         {
4508           got_offset = h->plt.offset / abed->plt_entry_size - 1;
4509           got_offset = (got_offset + 3) * GOT_ENTRY_SIZE;
4510         }
4511       else
4512         {
4513           got_offset = h->plt.offset / abed->plt_entry_size;
4514           got_offset = got_offset * GOT_ENTRY_SIZE;
4515         }
4516
4517       /* Fill in the entry in the procedure linkage table.  */
4518       memcpy (plt->contents + h->plt.offset, abed->plt_entry,
4519               abed->plt_entry_size);
4520
4521       /* Insert the relocation positions of the plt section.  */
4522
4523       /* Put offset the PC-relative instruction referring to the GOT entry,
4524          subtracting the size of that instruction.  */
4525       bfd_put_32 (output_bfd,
4526                   (gotplt->output_section->vma
4527                    + gotplt->output_offset
4528                    + got_offset
4529                    - plt->output_section->vma
4530                    - plt->output_offset
4531                    - h->plt.offset
4532                    - abed->plt_got_insn_size),
4533                   plt->contents + h->plt.offset + abed->plt_got_offset);
4534
4535       /* Fill in the entry in the global offset table, initially this
4536          points to the second part of the PLT entry.  */
4537       bfd_put_64 (output_bfd, (plt->output_section->vma
4538                                + plt->output_offset
4539                                + h->plt.offset + abed->plt_lazy_offset),
4540                   gotplt->contents + got_offset);
4541
4542       /* Fill in the entry in the .rela.plt section.  */
4543       rela.r_offset = (gotplt->output_section->vma
4544                        + gotplt->output_offset
4545                        + got_offset);
4546       if (h->dynindx == -1
4547           || ((info->executable
4548                || ELF_ST_VISIBILITY (h->other) != STV_DEFAULT)
4549               && h->def_regular
4550               && h->type == STT_GNU_IFUNC))
4551         {
4552           /* If an STT_GNU_IFUNC symbol is locally defined, generate
4553              R_X86_64_IRELATIVE instead of R_X86_64_JUMP_SLOT.  */
4554           rela.r_info = htab->r_info (0, R_X86_64_IRELATIVE);
4555           rela.r_addend = (h->root.u.def.value
4556                            + h->root.u.def.section->output_section->vma
4557                            + h->root.u.def.section->output_offset);
4558           /* R_X86_64_IRELATIVE comes last.  */
4559           plt_index = htab->next_irelative_index--;
4560         }
4561       else
4562         {
4563           rela.r_info = htab->r_info (h->dynindx, R_X86_64_JUMP_SLOT);
4564           rela.r_addend = 0;
4565           plt_index = htab->next_jump_slot_index++;
4566         }
4567
4568       /* Don't fill PLT entry for static executables.  */
4569       if (plt == htab->elf.splt)
4570         {
4571           /* Put relocation index.  */
4572           bfd_put_32 (output_bfd, plt_index,
4573                       plt->contents + h->plt.offset + abed->plt_reloc_offset);
4574           /* Put offset for jmp .PLT0.  */
4575           bfd_put_32 (output_bfd, - (h->plt.offset + abed->plt_plt_insn_end),
4576                       plt->contents + h->plt.offset + abed->plt_plt_offset);
4577         }
4578
4579       bed = get_elf_backend_data (output_bfd);
4580       loc = relplt->contents + plt_index * bed->s->sizeof_rela;
4581       bed->s->swap_reloca_out (output_bfd, &rela, loc);
4582
4583       if (!h->def_regular)
4584         {
4585           /* Mark the symbol as undefined, rather than as defined in
4586              the .plt section.  Leave the value if there were any
4587              relocations where pointer equality matters (this is a clue
4588              for the dynamic linker, to make function pointer
4589              comparisons work between an application and shared
4590              library), otherwise set it to zero.  If a function is only
4591              called from a binary, there is no need to slow down
4592              shared libraries because of that.  */
4593           sym->st_shndx = SHN_UNDEF;
4594           if (!h->pointer_equality_needed)
4595             sym->st_value = 0;
4596         }
4597     }
4598
4599   if (h->got.offset != (bfd_vma) -1
4600       && ! GOT_TLS_GD_ANY_P (elf_x86_64_hash_entry (h)->tls_type)
4601       && elf_x86_64_hash_entry (h)->tls_type != GOT_TLS_IE)
4602     {
4603       Elf_Internal_Rela rela;
4604
4605       /* This symbol has an entry in the global offset table.  Set it
4606          up.  */
4607       if (htab->elf.sgot == NULL || htab->elf.srelgot == NULL)
4608         abort ();
4609
4610       rela.r_offset = (htab->elf.sgot->output_section->vma
4611                        + htab->elf.sgot->output_offset
4612                        + (h->got.offset &~ (bfd_vma) 1));
4613
4614       /* If this is a static link, or it is a -Bsymbolic link and the
4615          symbol is defined locally or was forced to be local because
4616          of a version file, we just want to emit a RELATIVE reloc.
4617          The entry in the global offset table will already have been
4618          initialized in the relocate_section function.  */
4619       if (h->def_regular
4620           && h->type == STT_GNU_IFUNC)
4621         {
4622           if (info->shared)
4623             {
4624               /* Generate R_X86_64_GLOB_DAT.  */
4625               goto do_glob_dat;
4626             }
4627           else
4628             {
4629               asection *plt;
4630
4631               if (!h->pointer_equality_needed)
4632                 abort ();
4633
4634               /* For non-shared object, we can't use .got.plt, which
4635                  contains the real function addres if we need pointer
4636                  equality.  We load the GOT entry with the PLT entry.  */
4637               plt = htab->elf.splt ? htab->elf.splt : htab->elf.iplt;
4638               bfd_put_64 (output_bfd, (plt->output_section->vma
4639                                        + plt->output_offset
4640                                        + h->plt.offset),
4641                           htab->elf.sgot->contents + h->got.offset);
4642               return TRUE;
4643             }
4644         }
4645       else if (info->shared
4646                && SYMBOL_REFERENCES_LOCAL (info, h))
4647         {
4648           if (!h->def_regular)
4649             return FALSE;
4650           BFD_ASSERT((h->got.offset & 1) != 0);
4651           rela.r_info = htab->r_info (0, R_X86_64_RELATIVE);
4652           rela.r_addend = (h->root.u.def.value
4653                            + h->root.u.def.section->output_section->vma
4654                            + h->root.u.def.section->output_offset);
4655         }
4656       else
4657         {
4658           BFD_ASSERT((h->got.offset & 1) == 0);
4659 do_glob_dat:
4660           bfd_put_64 (output_bfd, (bfd_vma) 0,
4661                       htab->elf.sgot->contents + h->got.offset);
4662           rela.r_info = htab->r_info (h->dynindx, R_X86_64_GLOB_DAT);
4663           rela.r_addend = 0;
4664         }
4665
4666       elf_append_rela (output_bfd, htab->elf.srelgot, &rela);
4667     }
4668
4669   if (h->needs_copy)
4670     {
4671       Elf_Internal_Rela rela;
4672
4673       /* This symbol needs a copy reloc.  Set it up.  */
4674
4675       if (h->dynindx == -1
4676           || (h->root.type != bfd_link_hash_defined
4677               && h->root.type != bfd_link_hash_defweak)
4678           || htab->srelbss == NULL)
4679         abort ();
4680
4681       rela.r_offset = (h->root.u.def.value
4682                        + h->root.u.def.section->output_section->vma
4683                        + h->root.u.def.section->output_offset);
4684       rela.r_info = htab->r_info (h->dynindx, R_X86_64_COPY);
4685       rela.r_addend = 0;
4686       elf_append_rela (output_bfd, htab->srelbss, &rela);
4687     }
4688
4689   return TRUE;
4690 }
4691
4692 /* Finish up local dynamic symbol handling.  We set the contents of
4693    various dynamic sections here.  */
4694
4695 static bfd_boolean
4696 elf_x86_64_finish_local_dynamic_symbol (void **slot, void *inf)
4697 {
4698   struct elf_link_hash_entry *h
4699     = (struct elf_link_hash_entry *) *slot;
4700   struct bfd_link_info *info
4701     = (struct bfd_link_info *) inf;
4702
4703   return elf_x86_64_finish_dynamic_symbol (info->output_bfd,
4704                                              info, h, NULL);
4705 }
4706
4707 /* Used to decide how to sort relocs in an optimal manner for the
4708    dynamic linker, before writing them out.  */
4709
4710 static enum elf_reloc_type_class
4711 elf_x86_64_reloc_type_class (const Elf_Internal_Rela *rela)
4712 {
4713   switch ((int) ELF32_R_TYPE (rela->r_info))
4714     {
4715     case R_X86_64_RELATIVE:
4716     case R_X86_64_RELATIVE64:
4717       return reloc_class_relative;
4718     case R_X86_64_JUMP_SLOT:
4719       return reloc_class_plt;
4720     case R_X86_64_COPY:
4721       return reloc_class_copy;
4722     default:
4723       return reloc_class_normal;
4724     }
4725 }
4726
4727 /* Finish up the dynamic sections.  */
4728
4729 static bfd_boolean
4730 elf_x86_64_finish_dynamic_sections (bfd *output_bfd,
4731                                     struct bfd_link_info *info)
4732 {
4733   struct elf_x86_64_link_hash_table *htab;
4734   bfd *dynobj;
4735   asection *sdyn;
4736   const struct elf_x86_64_backend_data *const abed
4737     = get_elf_x86_64_backend_data (output_bfd);
4738
4739   htab = elf_x86_64_hash_table (info);
4740   if (htab == NULL)
4741     return FALSE;
4742
4743   dynobj = htab->elf.dynobj;
4744   sdyn = bfd_get_linker_section (dynobj, ".dynamic");
4745
4746   if (htab->elf.dynamic_sections_created)
4747     {
4748       bfd_byte *dyncon, *dynconend;
4749       const struct elf_backend_data *bed;
4750       bfd_size_type sizeof_dyn;
4751
4752       if (sdyn == NULL || htab->elf.sgot == NULL)
4753         abort ();
4754
4755       bed = get_elf_backend_data (dynobj);
4756       sizeof_dyn = bed->s->sizeof_dyn;
4757       dyncon = sdyn->contents;
4758       dynconend = sdyn->contents + sdyn->size;
4759       for (; dyncon < dynconend; dyncon += sizeof_dyn)
4760         {
4761           Elf_Internal_Dyn dyn;
4762           asection *s;
4763
4764           (*bed->s->swap_dyn_in) (dynobj, dyncon, &dyn);
4765
4766           switch (dyn.d_tag)
4767             {
4768             default:
4769               continue;
4770
4771             case DT_PLTGOT:
4772               s = htab->elf.sgotplt;
4773               dyn.d_un.d_ptr = s->output_section->vma + s->output_offset;
4774               break;
4775
4776             case DT_JMPREL:
4777               dyn.d_un.d_ptr = htab->elf.srelplt->output_section->vma;
4778               break;
4779
4780             case DT_PLTRELSZ:
4781               s = htab->elf.srelplt->output_section;
4782               dyn.d_un.d_val = s->size;
4783               break;
4784
4785             case DT_RELASZ:
4786               /* The procedure linkage table relocs (DT_JMPREL) should
4787                  not be included in the overall relocs (DT_RELA).
4788                  Therefore, we override the DT_RELASZ entry here to
4789                  make it not include the JMPREL relocs.  Since the
4790                  linker script arranges for .rela.plt to follow all
4791                  other relocation sections, we don't have to worry
4792                  about changing the DT_RELA entry.  */
4793               if (htab->elf.srelplt != NULL)
4794                 {
4795                   s = htab->elf.srelplt->output_section;
4796                   dyn.d_un.d_val -= s->size;
4797                 }
4798               break;
4799
4800             case DT_TLSDESC_PLT:
4801               s = htab->elf.splt;
4802               dyn.d_un.d_ptr = s->output_section->vma + s->output_offset
4803                 + htab->tlsdesc_plt;
4804               break;
4805
4806             case DT_TLSDESC_GOT:
4807               s = htab->elf.sgot;
4808               dyn.d_un.d_ptr = s->output_section->vma + s->output_offset
4809                 + htab->tlsdesc_got;
4810               break;
4811             }
4812
4813           (*bed->s->swap_dyn_out) (output_bfd, &dyn, dyncon);
4814         }
4815
4816       /* Fill in the special first entry in the procedure linkage table.  */
4817       if (htab->elf.splt && htab->elf.splt->size > 0)
4818         {
4819           /* Fill in the first entry in the procedure linkage table.  */
4820           memcpy (htab->elf.splt->contents,
4821                   abed->plt0_entry, abed->plt_entry_size);
4822           /* Add offset for pushq GOT+8(%rip), since the instruction
4823              uses 6 bytes subtract this value.  */
4824           bfd_put_32 (output_bfd,
4825                       (htab->elf.sgotplt->output_section->vma
4826                        + htab->elf.sgotplt->output_offset
4827                        + 8
4828                        - htab->elf.splt->output_section->vma
4829                        - htab->elf.splt->output_offset
4830                        - 6),
4831                       htab->elf.splt->contents + abed->plt0_got1_offset);
4832           /* Add offset for the PC-relative instruction accessing GOT+16,
4833              subtracting the offset to the end of that instruction.  */
4834           bfd_put_32 (output_bfd,
4835                       (htab->elf.sgotplt->output_section->vma
4836                        + htab->elf.sgotplt->output_offset
4837                        + 16
4838                        - htab->elf.splt->output_section->vma
4839                        - htab->elf.splt->output_offset
4840                        - abed->plt0_got2_insn_end),
4841                       htab->elf.splt->contents + abed->plt0_got2_offset);
4842
4843           elf_section_data (htab->elf.splt->output_section)
4844             ->this_hdr.sh_entsize = abed->plt_entry_size;
4845
4846           if (htab->tlsdesc_plt)
4847             {
4848               bfd_put_64 (output_bfd, (bfd_vma) 0,
4849                           htab->elf.sgot->contents + htab->tlsdesc_got);
4850
4851               memcpy (htab->elf.splt->contents + htab->tlsdesc_plt,
4852                       abed->plt0_entry, abed->plt_entry_size);
4853
4854               /* Add offset for pushq GOT+8(%rip), since the
4855                  instruction uses 6 bytes subtract this value.  */
4856               bfd_put_32 (output_bfd,
4857                           (htab->elf.sgotplt->output_section->vma
4858                            + htab->elf.sgotplt->output_offset
4859                            + 8
4860                            - htab->elf.splt->output_section->vma
4861                            - htab->elf.splt->output_offset
4862                            - htab->tlsdesc_plt
4863                            - 6),
4864                           htab->elf.splt->contents
4865                           + htab->tlsdesc_plt + abed->plt0_got1_offset);
4866           /* Add offset for the PC-relative instruction accessing GOT+TDG,
4867              where TGD stands for htab->tlsdesc_got, subtracting the offset
4868              to the end of that instruction.  */
4869               bfd_put_32 (output_bfd,
4870                           (htab->elf.sgot->output_section->vma
4871                            + htab->elf.sgot->output_offset
4872                            + htab->tlsdesc_got
4873                            - htab->elf.splt->output_section->vma
4874                            - htab->elf.splt->output_offset
4875                            - htab->tlsdesc_plt
4876                            - abed->plt0_got2_insn_end),
4877                           htab->elf.splt->contents
4878                           + htab->tlsdesc_plt + abed->plt0_got2_offset);
4879             }
4880         }
4881     }
4882
4883   if (htab->elf.sgotplt)
4884     {
4885       if (bfd_is_abs_section (htab->elf.sgotplt->output_section))
4886         {
4887           (*_bfd_error_handler)
4888             (_("discarded output section: `%A'"), htab->elf.sgotplt);
4889           return FALSE;
4890         }
4891
4892       /* Fill in the first three entries in the global offset table.  */
4893       if (htab->elf.sgotplt->size > 0)
4894         {
4895           /* Set the first entry in the global offset table to the address of
4896              the dynamic section.  */
4897           if (sdyn == NULL)
4898             bfd_put_64 (output_bfd, (bfd_vma) 0, htab->elf.sgotplt->contents);
4899           else
4900             bfd_put_64 (output_bfd,
4901                         sdyn->output_section->vma + sdyn->output_offset,
4902                         htab->elf.sgotplt->contents);
4903           /* Write GOT[1] and GOT[2], needed for the dynamic linker.  */
4904           bfd_put_64 (output_bfd, (bfd_vma) 0, htab->elf.sgotplt->contents + GOT_ENTRY_SIZE);
4905           bfd_put_64 (output_bfd, (bfd_vma) 0, htab->elf.sgotplt->contents + GOT_ENTRY_SIZE*2);
4906         }
4907
4908       elf_section_data (htab->elf.sgotplt->output_section)->this_hdr.sh_entsize =
4909         GOT_ENTRY_SIZE;
4910     }
4911
4912   /* Adjust .eh_frame for .plt section.  */
4913   if (htab->plt_eh_frame != NULL
4914       && htab->plt_eh_frame->contents != NULL)
4915     {
4916       if (htab->elf.splt != NULL
4917           && htab->elf.splt->size != 0
4918           && (htab->elf.splt->flags & SEC_EXCLUDE) == 0
4919           && htab->elf.splt->output_section != NULL
4920           && htab->plt_eh_frame->output_section != NULL)
4921         {
4922           bfd_vma plt_start = htab->elf.splt->output_section->vma;
4923           bfd_vma eh_frame_start = htab->plt_eh_frame->output_section->vma
4924                                    + htab->plt_eh_frame->output_offset
4925                                    + PLT_FDE_START_OFFSET;
4926           bfd_put_signed_32 (dynobj, plt_start - eh_frame_start,
4927                              htab->plt_eh_frame->contents
4928                              + PLT_FDE_START_OFFSET);
4929         }
4930       if (htab->plt_eh_frame->sec_info_type == SEC_INFO_TYPE_EH_FRAME)
4931         {
4932           if (! _bfd_elf_write_section_eh_frame (output_bfd, info,
4933                                                  htab->plt_eh_frame,
4934                                                  htab->plt_eh_frame->contents))
4935             return FALSE;
4936         }
4937     }
4938
4939   if (htab->elf.sgot && htab->elf.sgot->size > 0)
4940     elf_section_data (htab->elf.sgot->output_section)->this_hdr.sh_entsize
4941       = GOT_ENTRY_SIZE;
4942
4943   /* Fill PLT and GOT entries for local STT_GNU_IFUNC symbols.  */
4944   htab_traverse (htab->loc_hash_table,
4945                  elf_x86_64_finish_local_dynamic_symbol,
4946                  info);
4947
4948   return TRUE;
4949 }
4950
4951 /* Return address for Ith PLT stub in section PLT, for relocation REL
4952    or (bfd_vma) -1 if it should not be included.  */
4953
4954 static bfd_vma
4955 elf_x86_64_plt_sym_val (bfd_vma i, const asection *plt,
4956                         const arelent *rel ATTRIBUTE_UNUSED)
4957 {
4958   return plt->vma + (i + 1) * GET_PLT_ENTRY_SIZE (plt->owner);
4959 }
4960
4961 /* Handle an x86-64 specific section when reading an object file.  This
4962    is called when elfcode.h finds a section with an unknown type.  */
4963
4964 static bfd_boolean
4965 elf_x86_64_section_from_shdr (bfd *abfd,
4966                                 Elf_Internal_Shdr *hdr,
4967                                 const char *name,
4968                                 int shindex)
4969 {
4970   if (hdr->sh_type != SHT_X86_64_UNWIND)
4971     return FALSE;
4972
4973   if (! _bfd_elf_make_section_from_shdr (abfd, hdr, name, shindex))
4974     return FALSE;
4975
4976   return TRUE;
4977 }
4978
4979 /* Hook called by the linker routine which adds symbols from an object
4980    file.  We use it to put SHN_X86_64_LCOMMON items in .lbss, instead
4981    of .bss.  */
4982
4983 static bfd_boolean
4984 elf_x86_64_add_symbol_hook (bfd *abfd,
4985                             struct bfd_link_info *info,
4986                             Elf_Internal_Sym *sym,
4987                             const char **namep ATTRIBUTE_UNUSED,
4988                             flagword *flagsp ATTRIBUTE_UNUSED,
4989                             asection **secp,
4990                             bfd_vma *valp)
4991 {
4992   asection *lcomm;
4993
4994   switch (sym->st_shndx)
4995     {
4996     case SHN_X86_64_LCOMMON:
4997       lcomm = bfd_get_section_by_name (abfd, "LARGE_COMMON");
4998       if (lcomm == NULL)
4999         {
5000           lcomm = bfd_make_section_with_flags (abfd,
5001                                                "LARGE_COMMON",
5002                                                (SEC_ALLOC
5003                                                 | SEC_IS_COMMON
5004                                                 | SEC_LINKER_CREATED));
5005           if (lcomm == NULL)
5006             return FALSE;
5007           elf_section_flags (lcomm) |= SHF_X86_64_LARGE;
5008         }
5009       *secp = lcomm;
5010       *valp = sym->st_size;
5011       return TRUE;
5012     }
5013
5014   if ((abfd->flags & DYNAMIC) == 0
5015       && (ELF_ST_TYPE (sym->st_info) == STT_GNU_IFUNC
5016           || ELF_ST_BIND (sym->st_info) == STB_GNU_UNIQUE))
5017     elf_tdata (info->output_bfd)->has_gnu_symbols = TRUE;
5018
5019   return TRUE;
5020 }
5021
5022
5023 /* Given a BFD section, try to locate the corresponding ELF section
5024    index.  */
5025
5026 static bfd_boolean
5027 elf_x86_64_elf_section_from_bfd_section (bfd *abfd ATTRIBUTE_UNUSED,
5028                                          asection *sec, int *index_return)
5029 {
5030   if (sec == &_bfd_elf_large_com_section)
5031     {
5032       *index_return = SHN_X86_64_LCOMMON;
5033       return TRUE;
5034     }
5035   return FALSE;
5036 }
5037
5038 /* Process a symbol.  */
5039
5040 static void
5041 elf_x86_64_symbol_processing (bfd *abfd ATTRIBUTE_UNUSED,
5042                               asymbol *asym)
5043 {
5044   elf_symbol_type *elfsym = (elf_symbol_type *) asym;
5045
5046   switch (elfsym->internal_elf_sym.st_shndx)
5047     {
5048     case SHN_X86_64_LCOMMON:
5049       asym->section = &_bfd_elf_large_com_section;
5050       asym->value = elfsym->internal_elf_sym.st_size;
5051       /* Common symbol doesn't set BSF_GLOBAL.  */
5052       asym->flags &= ~BSF_GLOBAL;
5053       break;
5054     }
5055 }
5056
5057 static bfd_boolean
5058 elf_x86_64_common_definition (Elf_Internal_Sym *sym)
5059 {
5060   return (sym->st_shndx == SHN_COMMON
5061           || sym->st_shndx == SHN_X86_64_LCOMMON);
5062 }
5063
5064 static unsigned int
5065 elf_x86_64_common_section_index (asection *sec)
5066 {
5067   if ((elf_section_flags (sec) & SHF_X86_64_LARGE) == 0)
5068     return SHN_COMMON;
5069   else
5070     return SHN_X86_64_LCOMMON;
5071 }
5072
5073 static asection *
5074 elf_x86_64_common_section (asection *sec)
5075 {
5076   if ((elf_section_flags (sec) & SHF_X86_64_LARGE) == 0)
5077     return bfd_com_section_ptr;
5078   else
5079     return &_bfd_elf_large_com_section;
5080 }
5081
5082 static bfd_boolean
5083 elf_x86_64_merge_symbol (struct bfd_link_info *info ATTRIBUTE_UNUSED,
5084                          struct elf_link_hash_entry **sym_hash ATTRIBUTE_UNUSED,
5085                          struct elf_link_hash_entry *h,
5086                          Elf_Internal_Sym *sym,
5087                          asection **psec,
5088                          bfd_vma *pvalue ATTRIBUTE_UNUSED,
5089                          unsigned int *pold_alignment ATTRIBUTE_UNUSED,
5090                          bfd_boolean *skip ATTRIBUTE_UNUSED,
5091                          bfd_boolean *override ATTRIBUTE_UNUSED,
5092                          bfd_boolean *type_change_ok ATTRIBUTE_UNUSED,
5093                          bfd_boolean *size_change_ok ATTRIBUTE_UNUSED,
5094                          bfd_boolean *newdyn ATTRIBUTE_UNUSED,
5095                          bfd_boolean *newdef,
5096                          bfd_boolean *newdyncommon ATTRIBUTE_UNUSED,
5097                          bfd_boolean *newweak ATTRIBUTE_UNUSED,
5098                          bfd *abfd ATTRIBUTE_UNUSED,
5099                          asection **sec,
5100                          bfd_boolean *olddyn ATTRIBUTE_UNUSED,
5101                          bfd_boolean *olddef,
5102                          bfd_boolean *olddyncommon ATTRIBUTE_UNUSED,
5103                          bfd_boolean *oldweak ATTRIBUTE_UNUSED,
5104                          bfd *oldbfd,
5105                          asection **oldsec)
5106 {
5107   /* A normal common symbol and a large common symbol result in a
5108      normal common symbol.  We turn the large common symbol into a
5109      normal one.  */
5110   if (!*olddef
5111       && h->root.type == bfd_link_hash_common
5112       && !*newdef
5113       && bfd_is_com_section (*sec)
5114       && *oldsec != *sec)
5115     {
5116       if (sym->st_shndx == SHN_COMMON
5117           && (elf_section_flags (*oldsec) & SHF_X86_64_LARGE) != 0)
5118         {
5119           h->root.u.c.p->section
5120             = bfd_make_section_old_way (oldbfd, "COMMON");
5121           h->root.u.c.p->section->flags = SEC_ALLOC;
5122         }
5123       else if (sym->st_shndx == SHN_X86_64_LCOMMON
5124                && (elf_section_flags (*oldsec) & SHF_X86_64_LARGE) == 0)
5125         *psec = *sec = bfd_com_section_ptr;
5126     }
5127
5128   return TRUE;
5129 }
5130
5131 static int
5132 elf_x86_64_additional_program_headers (bfd *abfd,
5133                                        struct bfd_link_info *info ATTRIBUTE_UNUSED)
5134 {
5135   asection *s;
5136   int count = 0;
5137
5138   /* Check to see if we need a large readonly segment.  */
5139   s = bfd_get_section_by_name (abfd, ".lrodata");
5140   if (s && (s->flags & SEC_LOAD))
5141     count++;
5142
5143   /* Check to see if we need a large data segment.  Since .lbss sections
5144      is placed right after the .bss section, there should be no need for
5145      a large data segment just because of .lbss.  */
5146   s = bfd_get_section_by_name (abfd, ".ldata");
5147   if (s && (s->flags & SEC_LOAD))
5148     count++;
5149
5150   return count;
5151 }
5152
5153 /* Return TRUE if symbol should be hashed in the `.gnu.hash' section.  */
5154
5155 static bfd_boolean
5156 elf_x86_64_hash_symbol (struct elf_link_hash_entry *h)
5157 {
5158   if (h->plt.offset != (bfd_vma) -1
5159       && !h->def_regular
5160       && !h->pointer_equality_needed)
5161     return FALSE;
5162
5163   return _bfd_elf_hash_symbol (h);
5164 }
5165
5166 /* Return TRUE iff relocations for INPUT are compatible with OUTPUT. */
5167
5168 static bfd_boolean
5169 elf_x86_64_relocs_compatible (const bfd_target *input,
5170                               const bfd_target *output)
5171 {
5172   return ((xvec_get_elf_backend_data (input)->s->elfclass
5173            == xvec_get_elf_backend_data (output)->s->elfclass)
5174           && _bfd_elf_relocs_compatible (input, output));
5175 }
5176
5177 static const struct bfd_elf_special_section
5178   elf_x86_64_special_sections[]=
5179 {
5180   { STRING_COMMA_LEN (".gnu.linkonce.lb"), -2, SHT_NOBITS,   SHF_ALLOC + SHF_WRITE + SHF_X86_64_LARGE},
5181   { STRING_COMMA_LEN (".gnu.linkonce.lr"), -2, SHT_PROGBITS, SHF_ALLOC + SHF_X86_64_LARGE},
5182   { STRING_COMMA_LEN (".gnu.linkonce.lt"), -2, SHT_PROGBITS, SHF_ALLOC + SHF_EXECINSTR + SHF_X86_64_LARGE},
5183   { STRING_COMMA_LEN (".lbss"),            -2, SHT_NOBITS,   SHF_ALLOC + SHF_WRITE + SHF_X86_64_LARGE},
5184   { STRING_COMMA_LEN (".ldata"),           -2, SHT_PROGBITS, SHF_ALLOC + SHF_WRITE + SHF_X86_64_LARGE},
5185   { STRING_COMMA_LEN (".lrodata"),         -2, SHT_PROGBITS, SHF_ALLOC + SHF_X86_64_LARGE},
5186   { NULL,                       0,          0, 0,            0 }
5187 };
5188
5189 #define TARGET_LITTLE_SYM                   bfd_elf64_x86_64_vec
5190 #define TARGET_LITTLE_NAME                  "elf64-x86-64"
5191 #define ELF_ARCH                            bfd_arch_i386
5192 #define ELF_TARGET_ID                       X86_64_ELF_DATA
5193 #define ELF_MACHINE_CODE                    EM_X86_64
5194 #define ELF_MAXPAGESIZE                     0x200000
5195 #define ELF_MINPAGESIZE                     0x1000
5196 #define ELF_COMMONPAGESIZE                  0x1000
5197
5198 #define elf_backend_can_gc_sections         1
5199 #define elf_backend_can_refcount            1
5200 #define elf_backend_want_got_plt            1
5201 #define elf_backend_plt_readonly            1
5202 #define elf_backend_want_plt_sym            0
5203 #define elf_backend_got_header_size         (GOT_ENTRY_SIZE*3)
5204 #define elf_backend_rela_normal             1
5205 #define elf_backend_plt_alignment           4
5206
5207 #define elf_info_to_howto                   elf_x86_64_info_to_howto
5208
5209 #define bfd_elf64_bfd_link_hash_table_create \
5210   elf_x86_64_link_hash_table_create
5211 #define bfd_elf64_bfd_link_hash_table_free \
5212   elf_x86_64_link_hash_table_free
5213 #define bfd_elf64_bfd_reloc_type_lookup     elf_x86_64_reloc_type_lookup
5214 #define bfd_elf64_bfd_reloc_name_lookup \
5215   elf_x86_64_reloc_name_lookup
5216
5217 #define elf_backend_adjust_dynamic_symbol   elf_x86_64_adjust_dynamic_symbol
5218 #define elf_backend_relocs_compatible       elf_x86_64_relocs_compatible
5219 #define elf_backend_check_relocs            elf_x86_64_check_relocs
5220 #define elf_backend_copy_indirect_symbol    elf_x86_64_copy_indirect_symbol
5221 #define elf_backend_create_dynamic_sections elf_x86_64_create_dynamic_sections
5222 #define elf_backend_finish_dynamic_sections elf_x86_64_finish_dynamic_sections
5223 #define elf_backend_finish_dynamic_symbol   elf_x86_64_finish_dynamic_symbol
5224 #define elf_backend_gc_mark_hook            elf_x86_64_gc_mark_hook
5225 #define elf_backend_gc_sweep_hook           elf_x86_64_gc_sweep_hook
5226 #define elf_backend_grok_prstatus           elf_x86_64_grok_prstatus
5227 #define elf_backend_grok_psinfo             elf_x86_64_grok_psinfo
5228 #ifdef CORE_HEADER
5229 #define elf_backend_write_core_note         elf_x86_64_write_core_note
5230 #endif
5231 #define elf_backend_reloc_type_class        elf_x86_64_reloc_type_class
5232 #define elf_backend_relocate_section        elf_x86_64_relocate_section
5233 #define elf_backend_size_dynamic_sections   elf_x86_64_size_dynamic_sections
5234 #define elf_backend_always_size_sections    elf_x86_64_always_size_sections
5235 #define elf_backend_init_index_section      _bfd_elf_init_1_index_section
5236 #define elf_backend_plt_sym_val             elf_x86_64_plt_sym_val
5237 #define elf_backend_object_p                elf64_x86_64_elf_object_p
5238 #define bfd_elf64_mkobject                  elf_x86_64_mkobject
5239
5240 #define elf_backend_section_from_shdr \
5241         elf_x86_64_section_from_shdr
5242
5243 #define elf_backend_section_from_bfd_section \
5244   elf_x86_64_elf_section_from_bfd_section
5245 #define elf_backend_add_symbol_hook \
5246   elf_x86_64_add_symbol_hook
5247 #define elf_backend_symbol_processing \
5248   elf_x86_64_symbol_processing
5249 #define elf_backend_common_section_index \
5250   elf_x86_64_common_section_index
5251 #define elf_backend_common_section \
5252   elf_x86_64_common_section
5253 #define elf_backend_common_definition \
5254   elf_x86_64_common_definition
5255 #define elf_backend_merge_symbol \
5256   elf_x86_64_merge_symbol
5257 #define elf_backend_special_sections \
5258   elf_x86_64_special_sections
5259 #define elf_backend_additional_program_headers \
5260   elf_x86_64_additional_program_headers
5261 #define elf_backend_hash_symbol \
5262   elf_x86_64_hash_symbol
5263
5264 #define elf_backend_post_process_headers  _bfd_elf_set_osabi
5265
5266 #include "elf64-target.h"
5267
5268 /* FreeBSD support.  */
5269
5270 #undef  TARGET_LITTLE_SYM
5271 #define TARGET_LITTLE_SYM                   bfd_elf64_x86_64_freebsd_vec
5272 #undef  TARGET_LITTLE_NAME
5273 #define TARGET_LITTLE_NAME                  "elf64-x86-64-freebsd"
5274
5275 #undef  ELF_OSABI
5276 #define ELF_OSABI                           ELFOSABI_FREEBSD
5277
5278 #undef  elf64_bed
5279 #define elf64_bed elf64_x86_64_fbsd_bed
5280
5281 #include "elf64-target.h"
5282
5283 /* Solaris 2 support.  */
5284
5285 #undef  TARGET_LITTLE_SYM
5286 #define TARGET_LITTLE_SYM                   bfd_elf64_x86_64_sol2_vec
5287 #undef  TARGET_LITTLE_NAME
5288 #define TARGET_LITTLE_NAME                  "elf64-x86-64-sol2"
5289
5290 /* Restore default: we cannot use ELFOSABI_SOLARIS, otherwise ELFOSABI_NONE
5291    objects won't be recognized.  */
5292 #undef ELF_OSABI
5293
5294 #undef  elf64_bed
5295 #define elf64_bed                           elf64_x86_64_sol2_bed
5296
5297 /* The 64-bit static TLS arena size is rounded to the nearest 16-byte
5298    boundary.  */
5299 #undef elf_backend_static_tls_alignment
5300 #define elf_backend_static_tls_alignment    16
5301
5302 /* The Solaris 2 ABI requires a plt symbol on all platforms.
5303
5304    Cf. Linker and Libraries Guide, Ch. 2, Link-Editor, Generating the Output
5305    File, p.63.  */
5306 #undef elf_backend_want_plt_sym
5307 #define elf_backend_want_plt_sym            1
5308
5309 #include "elf64-target.h"
5310
5311 /* Native Client support.  */
5312
5313 #undef  TARGET_LITTLE_SYM
5314 #define TARGET_LITTLE_SYM               bfd_elf64_x86_64_nacl_vec
5315 #undef  TARGET_LITTLE_NAME
5316 #define TARGET_LITTLE_NAME              "elf64-x86-64-nacl"
5317 #undef  elf64_bed
5318 #define elf64_bed                       elf64_x86_64_nacl_bed
5319
5320 #undef  ELF_MAXPAGESIZE
5321 #undef  ELF_MINPAGESIZE
5322 #undef  ELF_COMMONPAGESIZE
5323 #define ELF_MAXPAGESIZE                 0x10000
5324 #define ELF_MINPAGESIZE                 0x10000
5325 #define ELF_COMMONPAGESIZE              0x10000
5326
5327 /* Restore defaults.  */
5328 #undef  ELF_OSABI
5329 #undef  elf_backend_static_tls_alignment
5330 #undef  elf_backend_want_plt_sym
5331 #define elf_backend_want_plt_sym        0
5332
5333 /* NaCl uses substantially different PLT entries for the same effects.  */
5334
5335 #undef  elf_backend_plt_alignment
5336 #define elf_backend_plt_alignment       5
5337 #define NACL_PLT_ENTRY_SIZE             64
5338 #define NACLMASK                        0xe0 /* 32-byte alignment mask.  */
5339
5340 static const bfd_byte elf_x86_64_nacl_plt0_entry[NACL_PLT_ENTRY_SIZE] =
5341   {
5342     0xff, 0x35, 8, 0, 0, 0,             /* pushq GOT+8(%rip)            */
5343     0x4c, 0x8b, 0x1d, 16, 0, 0, 0,      /* mov GOT+16(%rip), %r11       */
5344     0x41, 0x83, 0xe3, NACLMASK,         /* and $-32, %r11d              */
5345     0x4d, 0x01, 0xfb,                   /* add %r15, %r11               */
5346     0x41, 0xff, 0xe3,                   /* jmpq *%r11                   */
5347
5348     /* 9-byte nop sequence to pad out to the next 32-byte boundary.  */
5349     0x2e, 0x0f, 0x1f, 0x84, 0, 0, 0, 0, 0, /* nopl %cs:0x0(%rax,%rax,1) */
5350
5351     /* 32 bytes of nop to pad out to the standard size.  */
5352     0x66, 0x66, 0x66, 0x66, 0x66, 0x66,    /* excess data32 prefixes    */
5353     0x2e, 0x0f, 0x1f, 0x84, 0, 0, 0, 0, 0, /* nopw %cs:0x0(%rax,%rax,1) */
5354     0x66, 0x66, 0x66, 0x66, 0x66, 0x66,    /* excess data32 prefixes    */
5355     0x2e, 0x0f, 0x1f, 0x84, 0, 0, 0, 0, 0, /* nopw %cs:0x0(%rax,%rax,1) */
5356     0x66,                                  /* excess data32 prefix      */
5357     0x90                                   /* nop */
5358   };
5359
5360 static const bfd_byte elf_x86_64_nacl_plt_entry[NACL_PLT_ENTRY_SIZE] =
5361   {
5362     0x4c, 0x8b, 0x1d, 0, 0, 0, 0,       /* mov name@GOTPCREL(%rip),%r11 */
5363     0x41, 0x83, 0xe3, NACLMASK,         /* and $-32, %r11d              */
5364     0x4d, 0x01, 0xfb,                   /* add %r15, %r11               */
5365     0x41, 0xff, 0xe3,                   /* jmpq *%r11                   */
5366
5367     /* 15-byte nop sequence to pad out to the next 32-byte boundary.  */
5368     0x66, 0x66, 0x66, 0x66, 0x66, 0x66,    /* excess data32 prefixes    */
5369     0x2e, 0x0f, 0x1f, 0x84, 0, 0, 0, 0, 0, /* nopw %cs:0x0(%rax,%rax,1) */
5370
5371     /* Lazy GOT entries point here (32-byte aligned).  */
5372     0x68,                 /* pushq immediate */
5373     0, 0, 0, 0,           /* replaced with index into relocation table.  */
5374     0xe9,                 /* jmp relative */
5375     0, 0, 0, 0,           /* replaced with offset to start of .plt0.  */
5376
5377     /* 22 bytes of nop to pad out to the standard size.  */
5378     0x66, 0x66, 0x66, 0x66, 0x66, 0x66,    /* excess data32 prefixes    */
5379     0x2e, 0x0f, 0x1f, 0x84, 0, 0, 0, 0, 0, /* nopw %cs:0x0(%rax,%rax,1) */
5380     0x0f, 0x1f, 0x80, 0, 0, 0, 0,          /* nopl 0x0(%rax)            */
5381   };
5382
5383 /* .eh_frame covering the .plt section.  */
5384
5385 static const bfd_byte elf_x86_64_nacl_eh_frame_plt[] =
5386   {
5387 #if (PLT_CIE_LENGTH != 20                               \
5388      || PLT_FDE_LENGTH != 36                            \
5389      || PLT_FDE_START_OFFSET != 4 + PLT_CIE_LENGTH + 8  \
5390      || PLT_FDE_LEN_OFFSET != 4 + PLT_CIE_LENGTH + 12)
5391 # error "Need elf_x86_64_backend_data parameters for eh_frame_plt offsets!"
5392 #endif
5393     PLT_CIE_LENGTH, 0, 0, 0,    /* CIE length */
5394     0, 0, 0, 0,                 /* CIE ID */
5395     1,                          /* CIE version */
5396     'z', 'R', 0,                /* Augmentation string */
5397     1,                          /* Code alignment factor */
5398     0x78,                       /* Data alignment factor */
5399     16,                         /* Return address column */
5400     1,                          /* Augmentation size */
5401     DW_EH_PE_pcrel | DW_EH_PE_sdata4, /* FDE encoding */
5402     DW_CFA_def_cfa, 7, 8,       /* DW_CFA_def_cfa: r7 (rsp) ofs 8 */
5403     DW_CFA_offset + 16, 1,      /* DW_CFA_offset: r16 (rip) at cfa-8 */
5404     DW_CFA_nop, DW_CFA_nop,
5405
5406     PLT_FDE_LENGTH, 0, 0, 0,    /* FDE length */
5407     PLT_CIE_LENGTH + 8, 0, 0, 0,/* CIE pointer */
5408     0, 0, 0, 0,                 /* R_X86_64_PC32 .plt goes here */
5409     0, 0, 0, 0,                 /* .plt size goes here */
5410     0,                          /* Augmentation size */
5411     DW_CFA_def_cfa_offset, 16,  /* DW_CFA_def_cfa_offset: 16 */
5412     DW_CFA_advance_loc + 6,     /* DW_CFA_advance_loc: 6 to __PLT__+6 */
5413     DW_CFA_def_cfa_offset, 24,  /* DW_CFA_def_cfa_offset: 24 */
5414     DW_CFA_advance_loc + 58,    /* DW_CFA_advance_loc: 58 to __PLT__+64 */
5415     DW_CFA_def_cfa_expression,  /* DW_CFA_def_cfa_expression */
5416     13,                         /* Block length */
5417     DW_OP_breg7, 8,             /* DW_OP_breg7 (rsp): 8 */
5418     DW_OP_breg16, 0,            /* DW_OP_breg16 (rip): 0 */
5419     DW_OP_const1u, 63, DW_OP_and, DW_OP_const1u, 37, DW_OP_ge,
5420     DW_OP_lit3, DW_OP_shl, DW_OP_plus,
5421     DW_CFA_nop, DW_CFA_nop
5422   };
5423
5424 static const struct elf_x86_64_backend_data elf_x86_64_nacl_arch_bed =
5425   {
5426     elf_x86_64_nacl_plt0_entry,              /* plt0_entry */
5427     elf_x86_64_nacl_plt_entry,               /* plt_entry */
5428     NACL_PLT_ENTRY_SIZE,                     /* plt_entry_size */
5429     2,                                       /* plt0_got1_offset */
5430     9,                                       /* plt0_got2_offset */
5431     13,                                      /* plt0_got2_insn_end */
5432     3,                                       /* plt_got_offset */
5433     33,                                      /* plt_reloc_offset */
5434     38,                                      /* plt_plt_offset */
5435     7,                                       /* plt_got_insn_size */
5436     42,                                      /* plt_plt_insn_end */
5437     32,                                      /* plt_lazy_offset */
5438     elf_x86_64_nacl_eh_frame_plt,            /* eh_frame_plt */
5439     sizeof (elf_x86_64_nacl_eh_frame_plt),   /* eh_frame_plt_size */
5440   };
5441
5442 #undef  elf_backend_arch_data
5443 #define elf_backend_arch_data   &elf_x86_64_nacl_arch_bed
5444
5445 #undef  elf_backend_modify_segment_map
5446 #define elf_backend_modify_segment_map          nacl_modify_segment_map
5447 #undef  elf_backend_modify_program_headers
5448 #define elf_backend_modify_program_headers      nacl_modify_program_headers
5449
5450 #include "elf64-target.h"
5451
5452 /* Native Client x32 support.  */
5453
5454 #undef  TARGET_LITTLE_SYM
5455 #define TARGET_LITTLE_SYM               bfd_elf32_x86_64_nacl_vec
5456 #undef  TARGET_LITTLE_NAME
5457 #define TARGET_LITTLE_NAME              "elf32-x86-64-nacl"
5458 #undef  elf32_bed
5459 #define elf32_bed                       elf32_x86_64_nacl_bed
5460
5461 #define bfd_elf32_bfd_link_hash_table_create \
5462   elf_x86_64_link_hash_table_create
5463 #define bfd_elf32_bfd_link_hash_table_free \
5464   elf_x86_64_link_hash_table_free
5465 #define bfd_elf32_bfd_reloc_type_lookup \
5466   elf_x86_64_reloc_type_lookup
5467 #define bfd_elf32_bfd_reloc_name_lookup \
5468   elf_x86_64_reloc_name_lookup
5469 #define bfd_elf32_mkobject \
5470   elf_x86_64_mkobject
5471
5472 #undef elf_backend_object_p
5473 #define elf_backend_object_p \
5474   elf32_x86_64_elf_object_p
5475
5476 #undef elf_backend_bfd_from_remote_memory
5477 #define elf_backend_bfd_from_remote_memory \
5478   _bfd_elf32_bfd_from_remote_memory
5479
5480 #undef elf_backend_size_info
5481 #define elf_backend_size_info \
5482   _bfd_elf32_size_info
5483
5484 #include "elf32-target.h"
5485
5486 /* Restore defaults.  */
5487 #undef  elf_backend_object_p
5488 #define elf_backend_object_p                elf64_x86_64_elf_object_p
5489 #undef  elf_backend_bfd_from_remote_memory
5490 #undef  elf_backend_size_info
5491 #undef  elf_backend_modify_segment_map
5492 #undef  elf_backend_modify_program_headers
5493
5494 /* Intel L1OM support.  */
5495
5496 static bfd_boolean
5497 elf64_l1om_elf_object_p (bfd *abfd)
5498 {
5499   /* Set the right machine number for an L1OM elf64 file.  */
5500   bfd_default_set_arch_mach (abfd, bfd_arch_l1om, bfd_mach_l1om);
5501   return TRUE;
5502 }
5503
5504 #undef  TARGET_LITTLE_SYM
5505 #define TARGET_LITTLE_SYM                   bfd_elf64_l1om_vec
5506 #undef  TARGET_LITTLE_NAME
5507 #define TARGET_LITTLE_NAME                  "elf64-l1om"
5508 #undef ELF_ARCH
5509 #define ELF_ARCH                            bfd_arch_l1om
5510
5511 #undef  ELF_MACHINE_CODE
5512 #define ELF_MACHINE_CODE                    EM_L1OM
5513
5514 #undef  ELF_OSABI
5515
5516 #undef  elf64_bed
5517 #define elf64_bed elf64_l1om_bed
5518
5519 #undef elf_backend_object_p
5520 #define elf_backend_object_p                elf64_l1om_elf_object_p
5521
5522 /* Restore defaults.  */
5523 #undef  ELF_MAXPAGESIZE
5524 #undef  ELF_MINPAGESIZE
5525 #undef  ELF_COMMONPAGESIZE
5526 #define ELF_MAXPAGESIZE                 0x200000
5527 #define ELF_MINPAGESIZE                 0x1000
5528 #define ELF_COMMONPAGESIZE              0x1000
5529 #undef  elf_backend_plt_alignment
5530 #define elf_backend_plt_alignment       4
5531 #undef  elf_backend_arch_data
5532 #define elf_backend_arch_data   &elf_x86_64_arch_bed
5533
5534 #include "elf64-target.h"
5535
5536 /* FreeBSD L1OM support.  */
5537
5538 #undef  TARGET_LITTLE_SYM
5539 #define TARGET_LITTLE_SYM                   bfd_elf64_l1om_freebsd_vec
5540 #undef  TARGET_LITTLE_NAME
5541 #define TARGET_LITTLE_NAME                  "elf64-l1om-freebsd"
5542
5543 #undef  ELF_OSABI
5544 #define ELF_OSABI                           ELFOSABI_FREEBSD
5545
5546 #undef  elf64_bed
5547 #define elf64_bed elf64_l1om_fbsd_bed
5548
5549 #include "elf64-target.h"
5550
5551 /* Intel K1OM support.  */
5552
5553 static bfd_boolean
5554 elf64_k1om_elf_object_p (bfd *abfd)
5555 {
5556   /* Set the right machine number for an K1OM elf64 file.  */
5557   bfd_default_set_arch_mach (abfd, bfd_arch_k1om, bfd_mach_k1om);
5558   return TRUE;
5559 }
5560
5561 #undef  TARGET_LITTLE_SYM
5562 #define TARGET_LITTLE_SYM                   bfd_elf64_k1om_vec
5563 #undef  TARGET_LITTLE_NAME
5564 #define TARGET_LITTLE_NAME                  "elf64-k1om"
5565 #undef ELF_ARCH
5566 #define ELF_ARCH                            bfd_arch_k1om
5567
5568 #undef  ELF_MACHINE_CODE
5569 #define ELF_MACHINE_CODE                    EM_K1OM
5570
5571 #undef  ELF_OSABI
5572
5573 #undef  elf64_bed
5574 #define elf64_bed elf64_k1om_bed
5575
5576 #undef elf_backend_object_p
5577 #define elf_backend_object_p                elf64_k1om_elf_object_p
5578
5579 #undef  elf_backend_static_tls_alignment
5580
5581 #undef elf_backend_want_plt_sym
5582 #define elf_backend_want_plt_sym            0
5583
5584 #include "elf64-target.h"
5585
5586 /* FreeBSD K1OM support.  */
5587
5588 #undef  TARGET_LITTLE_SYM
5589 #define TARGET_LITTLE_SYM                   bfd_elf64_k1om_freebsd_vec
5590 #undef  TARGET_LITTLE_NAME
5591 #define TARGET_LITTLE_NAME                  "elf64-k1om-freebsd"
5592
5593 #undef  ELF_OSABI
5594 #define ELF_OSABI                           ELFOSABI_FREEBSD
5595
5596 #undef  elf64_bed
5597 #define elf64_bed elf64_k1om_fbsd_bed
5598
5599 #include "elf64-target.h"
5600
5601 /* 32bit x86-64 support.  */
5602
5603 #undef  TARGET_LITTLE_SYM
5604 #define TARGET_LITTLE_SYM                   bfd_elf32_x86_64_vec
5605 #undef  TARGET_LITTLE_NAME
5606 #define TARGET_LITTLE_NAME                  "elf32-x86-64"
5607 #undef  elf32_bed
5608
5609 #undef ELF_ARCH
5610 #define ELF_ARCH                            bfd_arch_i386
5611
5612 #undef  ELF_MACHINE_CODE
5613 #define ELF_MACHINE_CODE                    EM_X86_64
5614
5615 #undef  ELF_OSABI
5616
5617 #undef elf_backend_object_p
5618 #define elf_backend_object_p \
5619   elf32_x86_64_elf_object_p
5620
5621 #undef elf_backend_bfd_from_remote_memory
5622 #define elf_backend_bfd_from_remote_memory \
5623   _bfd_elf32_bfd_from_remote_memory
5624
5625 #undef elf_backend_size_info
5626 #define elf_backend_size_info \
5627   _bfd_elf32_size_info
5628
5629 #include "elf32-target.h"