gdb/
[external/binutils.git] / gdb / amd64-tdep.c
1 /* Target-dependent code for AMD64.
2
3    Copyright (C) 2001, 2002, 2003, 2004, 2005, 2006, 2007, 2008, 2009, 2010,
4    2011 Free Software Foundation, Inc.
5
6    Contributed by Jiri Smid, SuSE Labs.
7
8    This file is part of GDB.
9
10    This program is free software; you can redistribute it and/or modify
11    it under the terms of the GNU General Public License as published by
12    the Free Software Foundation; either version 3 of the License, or
13    (at your option) any later version.
14
15    This program is distributed in the hope that it will be useful,
16    but WITHOUT ANY WARRANTY; without even the implied warranty of
17    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
18    GNU General Public License for more details.
19
20    You should have received a copy of the GNU General Public License
21    along with this program.  If not, see <http://www.gnu.org/licenses/>.  */
22
23 #include "defs.h"
24 #include "opcode/i386.h"
25 #include "dis-asm.h"
26 #include "arch-utils.h"
27 #include "block.h"
28 #include "dummy-frame.h"
29 #include "frame.h"
30 #include "frame-base.h"
31 #include "frame-unwind.h"
32 #include "inferior.h"
33 #include "gdbcmd.h"
34 #include "gdbcore.h"
35 #include "objfiles.h"
36 #include "regcache.h"
37 #include "regset.h"
38 #include "symfile.h"
39 #include "disasm.h"
40 #include "gdb_assert.h"
41 #include "exceptions.h"
42 #include "amd64-tdep.h"
43 #include "i387-tdep.h"
44
45 #include "features/i386/amd64.c"
46 #include "features/i386/amd64-avx.c"
47
48 /* Note that the AMD64 architecture was previously known as x86-64.
49    The latter is (forever) engraved into the canonical system name as
50    returned by config.guess, and used as the name for the AMD64 port
51    of GNU/Linux.  The BSD's have renamed their ports to amd64; they
52    don't like to shout.  For GDB we prefer the amd64_-prefix over the
53    x86_64_-prefix since it's so much easier to type.  */
54
55 /* Register information.  */
56
57 static const char *amd64_register_names[] = 
58 {
59   "rax", "rbx", "rcx", "rdx", "rsi", "rdi", "rbp", "rsp",
60
61   /* %r8 is indeed register number 8.  */
62   "r8", "r9", "r10", "r11", "r12", "r13", "r14", "r15",
63   "rip", "eflags", "cs", "ss", "ds", "es", "fs", "gs",
64
65   /* %st0 is register number 24.  */
66   "st0", "st1", "st2", "st3", "st4", "st5", "st6", "st7",
67   "fctrl", "fstat", "ftag", "fiseg", "fioff", "foseg", "fooff", "fop",
68
69   /* %xmm0 is register number 40.  */
70   "xmm0", "xmm1", "xmm2", "xmm3", "xmm4", "xmm5", "xmm6", "xmm7",
71   "xmm8", "xmm9", "xmm10", "xmm11", "xmm12", "xmm13", "xmm14", "xmm15",
72   "mxcsr",
73 };
74
75 static const char *amd64_ymm_names[] = 
76 {
77   "ymm0", "ymm1", "ymm2", "ymm3",
78   "ymm4", "ymm5", "ymm6", "ymm7",
79   "ymm8", "ymm9", "ymm10", "ymm11",
80   "ymm12", "ymm13", "ymm14", "ymm15"
81 };
82
83 static const char *amd64_ymmh_names[] = 
84 {
85   "ymm0h", "ymm1h", "ymm2h", "ymm3h",
86   "ymm4h", "ymm5h", "ymm6h", "ymm7h",
87   "ymm8h", "ymm9h", "ymm10h", "ymm11h",
88   "ymm12h", "ymm13h", "ymm14h", "ymm15h"
89 };
90
91 /* The registers used to pass integer arguments during a function call.  */
92 static int amd64_dummy_call_integer_regs[] =
93 {
94   AMD64_RDI_REGNUM,             /* %rdi */
95   AMD64_RSI_REGNUM,             /* %rsi */
96   AMD64_RDX_REGNUM,             /* %rdx */
97   AMD64_RCX_REGNUM,             /* %rcx */
98   8,                            /* %r8 */
99   9                             /* %r9 */
100 };
101
102 /* DWARF Register Number Mapping as defined in the System V psABI,
103    section 3.6.  */
104
105 static int amd64_dwarf_regmap[] =
106 {
107   /* General Purpose Registers RAX, RDX, RCX, RBX, RSI, RDI.  */
108   AMD64_RAX_REGNUM, AMD64_RDX_REGNUM,
109   AMD64_RCX_REGNUM, AMD64_RBX_REGNUM,
110   AMD64_RSI_REGNUM, AMD64_RDI_REGNUM,
111
112   /* Frame Pointer Register RBP.  */
113   AMD64_RBP_REGNUM,
114
115   /* Stack Pointer Register RSP.  */
116   AMD64_RSP_REGNUM,
117
118   /* Extended Integer Registers 8 - 15.  */
119   8, 9, 10, 11, 12, 13, 14, 15,
120
121   /* Return Address RA.  Mapped to RIP.  */
122   AMD64_RIP_REGNUM,
123
124   /* SSE Registers 0 - 7.  */
125   AMD64_XMM0_REGNUM + 0, AMD64_XMM1_REGNUM,
126   AMD64_XMM0_REGNUM + 2, AMD64_XMM0_REGNUM + 3,
127   AMD64_XMM0_REGNUM + 4, AMD64_XMM0_REGNUM + 5,
128   AMD64_XMM0_REGNUM + 6, AMD64_XMM0_REGNUM + 7,
129
130   /* Extended SSE Registers 8 - 15.  */
131   AMD64_XMM0_REGNUM + 8, AMD64_XMM0_REGNUM + 9,
132   AMD64_XMM0_REGNUM + 10, AMD64_XMM0_REGNUM + 11,
133   AMD64_XMM0_REGNUM + 12, AMD64_XMM0_REGNUM + 13,
134   AMD64_XMM0_REGNUM + 14, AMD64_XMM0_REGNUM + 15,
135
136   /* Floating Point Registers 0-7.  */
137   AMD64_ST0_REGNUM + 0, AMD64_ST0_REGNUM + 1,
138   AMD64_ST0_REGNUM + 2, AMD64_ST0_REGNUM + 3,
139   AMD64_ST0_REGNUM + 4, AMD64_ST0_REGNUM + 5,
140   AMD64_ST0_REGNUM + 6, AMD64_ST0_REGNUM + 7,
141   
142   /* Control and Status Flags Register.  */
143   AMD64_EFLAGS_REGNUM,
144
145   /* Selector Registers.  */
146   AMD64_ES_REGNUM,
147   AMD64_CS_REGNUM,
148   AMD64_SS_REGNUM,
149   AMD64_DS_REGNUM,
150   AMD64_FS_REGNUM,
151   AMD64_GS_REGNUM,
152   -1,
153   -1,
154
155   /* Segment Base Address Registers.  */
156   -1,
157   -1,
158   -1,
159   -1,
160
161   /* Special Selector Registers.  */
162   -1,
163   -1,
164
165   /* Floating Point Control Registers.  */
166   AMD64_MXCSR_REGNUM,
167   AMD64_FCTRL_REGNUM,
168   AMD64_FSTAT_REGNUM
169 };
170
171 static const int amd64_dwarf_regmap_len =
172   (sizeof (amd64_dwarf_regmap) / sizeof (amd64_dwarf_regmap[0]));
173
174 /* Convert DWARF register number REG to the appropriate register
175    number used by GDB.  */
176
177 static int
178 amd64_dwarf_reg_to_regnum (struct gdbarch *gdbarch, int reg)
179 {
180   struct gdbarch_tdep *tdep = gdbarch_tdep (gdbarch);
181   int ymm0_regnum = tdep->ymm0_regnum;
182   int regnum = -1;
183
184   if (reg >= 0 && reg < amd64_dwarf_regmap_len)
185     regnum = amd64_dwarf_regmap[reg];
186
187   if (regnum == -1)
188     warning (_("Unmapped DWARF Register #%d encountered."), reg);
189   else if (ymm0_regnum >= 0
190            && i386_xmm_regnum_p (gdbarch, regnum))
191     regnum += ymm0_regnum - I387_XMM0_REGNUM (tdep);
192
193   return regnum;
194 }
195
196 /* Map architectural register numbers to gdb register numbers.  */
197
198 static const int amd64_arch_regmap[16] =
199 {
200   AMD64_RAX_REGNUM,     /* %rax */
201   AMD64_RCX_REGNUM,     /* %rcx */
202   AMD64_RDX_REGNUM,     /* %rdx */
203   AMD64_RBX_REGNUM,     /* %rbx */
204   AMD64_RSP_REGNUM,     /* %rsp */
205   AMD64_RBP_REGNUM,     /* %rbp */
206   AMD64_RSI_REGNUM,     /* %rsi */
207   AMD64_RDI_REGNUM,     /* %rdi */
208   AMD64_R8_REGNUM,      /* %r8 */
209   AMD64_R9_REGNUM,      /* %r9 */
210   AMD64_R10_REGNUM,     /* %r10 */
211   AMD64_R11_REGNUM,     /* %r11 */
212   AMD64_R12_REGNUM,     /* %r12 */
213   AMD64_R13_REGNUM,     /* %r13 */
214   AMD64_R14_REGNUM,     /* %r14 */
215   AMD64_R15_REGNUM      /* %r15 */
216 };
217
218 static const int amd64_arch_regmap_len =
219   (sizeof (amd64_arch_regmap) / sizeof (amd64_arch_regmap[0]));
220
221 /* Convert architectural register number REG to the appropriate register
222    number used by GDB.  */
223
224 static int
225 amd64_arch_reg_to_regnum (int reg)
226 {
227   gdb_assert (reg >= 0 && reg < amd64_arch_regmap_len);
228
229   return amd64_arch_regmap[reg];
230 }
231
232 /* Register names for byte pseudo-registers.  */
233
234 static const char *amd64_byte_names[] =
235 {
236   "al", "bl", "cl", "dl", "sil", "dil", "bpl", "spl",
237   "r8l", "r9l", "r10l", "r11l", "r12l", "r13l", "r14l", "r15l",
238   "ah", "bh", "ch", "dh"
239 };
240
241 /* Number of lower byte registers.  */
242 #define AMD64_NUM_LOWER_BYTE_REGS 16
243
244 /* Register names for word pseudo-registers.  */
245
246 static const char *amd64_word_names[] =
247 {
248   "ax", "bx", "cx", "dx", "si", "di", "bp", "", 
249   "r8w", "r9w", "r10w", "r11w", "r12w", "r13w", "r14w", "r15w"
250 };
251
252 /* Register names for dword pseudo-registers.  */
253
254 static const char *amd64_dword_names[] =
255 {
256   "eax", "ebx", "ecx", "edx", "esi", "edi", "ebp", "esp", 
257   "r8d", "r9d", "r10d", "r11d", "r12d", "r13d", "r14d", "r15d"
258 };
259
260 /* Return the name of register REGNUM.  */
261
262 static const char *
263 amd64_pseudo_register_name (struct gdbarch *gdbarch, int regnum)
264 {
265   struct gdbarch_tdep *tdep = gdbarch_tdep (gdbarch);
266   if (i386_byte_regnum_p (gdbarch, regnum))
267     return amd64_byte_names[regnum - tdep->al_regnum];
268   else if (i386_ymm_regnum_p (gdbarch, regnum))
269     return amd64_ymm_names[regnum - tdep->ymm0_regnum];
270   else if (i386_word_regnum_p (gdbarch, regnum))
271     return amd64_word_names[regnum - tdep->ax_regnum];
272   else if (i386_dword_regnum_p (gdbarch, regnum))
273     return amd64_dword_names[regnum - tdep->eax_regnum];
274   else
275     return i386_pseudo_register_name (gdbarch, regnum);
276 }
277
278 static struct value *
279 amd64_pseudo_register_read_value (struct gdbarch *gdbarch,
280                                   struct regcache *regcache,
281                                   int regnum)
282 {
283   gdb_byte raw_buf[MAX_REGISTER_SIZE];
284   struct gdbarch_tdep *tdep = gdbarch_tdep (gdbarch);
285   enum register_status status;
286   struct value *result_value;
287   gdb_byte *buf;
288
289   result_value = allocate_value (register_type (gdbarch, regnum));
290   VALUE_LVAL (result_value) = lval_register;
291   VALUE_REGNUM (result_value) = regnum;
292   buf = value_contents_raw (result_value);
293
294   if (i386_byte_regnum_p (gdbarch, regnum))
295     {
296       int gpnum = regnum - tdep->al_regnum;
297
298       /* Extract (always little endian).  */
299       if (gpnum >= AMD64_NUM_LOWER_BYTE_REGS)
300         {
301           /* Special handling for AH, BH, CH, DH.  */
302           status = regcache_raw_read (regcache,
303                                       gpnum - AMD64_NUM_LOWER_BYTE_REGS,
304                                       raw_buf);
305           if (status == REG_VALID)
306             memcpy (buf, raw_buf + 1, 1);
307           else
308             mark_value_bytes_unavailable (result_value, 0,
309                                           TYPE_LENGTH (value_type (result_value)));
310         }
311       else
312         {
313           status = regcache_raw_read (regcache, gpnum, raw_buf);
314           if (status == REG_VALID)
315             memcpy (buf, raw_buf, 1);
316           else
317             mark_value_bytes_unavailable (result_value, 0,
318                                           TYPE_LENGTH (value_type (result_value)));
319         }
320     }
321   else if (i386_dword_regnum_p (gdbarch, regnum))
322     {
323       int gpnum = regnum - tdep->eax_regnum;
324       /* Extract (always little endian).  */
325       status = regcache_raw_read (regcache, gpnum, raw_buf);
326       if (status == REG_VALID)
327         memcpy (buf, raw_buf, 4);
328       else
329         mark_value_bytes_unavailable (result_value, 0,
330                                       TYPE_LENGTH (value_type (result_value)));
331     }
332   else
333     i386_pseudo_register_read_into_value (gdbarch, regcache, regnum,
334                                           result_value);
335
336   return result_value;
337 }
338
339 static void
340 amd64_pseudo_register_write (struct gdbarch *gdbarch,
341                              struct regcache *regcache,
342                              int regnum, const gdb_byte *buf)
343 {
344   gdb_byte raw_buf[MAX_REGISTER_SIZE];
345   struct gdbarch_tdep *tdep = gdbarch_tdep (gdbarch);
346
347   if (i386_byte_regnum_p (gdbarch, regnum))
348     {
349       int gpnum = regnum - tdep->al_regnum;
350
351       if (gpnum >= AMD64_NUM_LOWER_BYTE_REGS)
352         {
353           /* Read ... AH, BH, CH, DH.  */
354           regcache_raw_read (regcache,
355                              gpnum - AMD64_NUM_LOWER_BYTE_REGS, raw_buf);
356           /* ... Modify ... (always little endian).  */
357           memcpy (raw_buf + 1, buf, 1);
358           /* ... Write.  */
359           regcache_raw_write (regcache,
360                               gpnum - AMD64_NUM_LOWER_BYTE_REGS, raw_buf);
361         }
362       else
363         {
364           /* Read ...  */
365           regcache_raw_read (regcache, gpnum, raw_buf);
366           /* ... Modify ... (always little endian).  */
367           memcpy (raw_buf, buf, 1);
368           /* ... Write.  */
369           regcache_raw_write (regcache, gpnum, raw_buf);
370         }
371     }
372   else if (i386_dword_regnum_p (gdbarch, regnum))
373     {
374       int gpnum = regnum - tdep->eax_regnum;
375
376       /* Read ...  */
377       regcache_raw_read (regcache, gpnum, raw_buf);
378       /* ... Modify ... (always little endian).  */
379       memcpy (raw_buf, buf, 4);
380       /* ... Write.  */
381       regcache_raw_write (regcache, gpnum, raw_buf);
382     }
383   else
384     i386_pseudo_register_write (gdbarch, regcache, regnum, buf);
385 }
386
387 \f
388
389 /* Return the union class of CLASS1 and CLASS2.  See the psABI for
390    details.  */
391
392 static enum amd64_reg_class
393 amd64_merge_classes (enum amd64_reg_class class1, enum amd64_reg_class class2)
394 {
395   /* Rule (a): If both classes are equal, this is the resulting class.  */
396   if (class1 == class2)
397     return class1;
398
399   /* Rule (b): If one of the classes is NO_CLASS, the resulting class
400      is the other class.  */
401   if (class1 == AMD64_NO_CLASS)
402     return class2;
403   if (class2 == AMD64_NO_CLASS)
404     return class1;
405
406   /* Rule (c): If one of the classes is MEMORY, the result is MEMORY.  */
407   if (class1 == AMD64_MEMORY || class2 == AMD64_MEMORY)
408     return AMD64_MEMORY;
409
410   /* Rule (d): If one of the classes is INTEGER, the result is INTEGER.  */
411   if (class1 == AMD64_INTEGER || class2 == AMD64_INTEGER)
412     return AMD64_INTEGER;
413
414   /* Rule (e): If one of the classes is X87, X87UP, COMPLEX_X87 class,
415      MEMORY is used as class.  */
416   if (class1 == AMD64_X87 || class1 == AMD64_X87UP
417       || class1 == AMD64_COMPLEX_X87 || class2 == AMD64_X87
418       || class2 == AMD64_X87UP || class2 == AMD64_COMPLEX_X87)
419     return AMD64_MEMORY;
420
421   /* Rule (f): Otherwise class SSE is used.  */
422   return AMD64_SSE;
423 }
424
425 /* Return non-zero if TYPE is a non-POD structure or union type.  */
426
427 static int
428 amd64_non_pod_p (struct type *type)
429 {
430   /* ??? A class with a base class certainly isn't POD, but does this
431      catch all non-POD structure types?  */
432   if (TYPE_CODE (type) == TYPE_CODE_STRUCT && TYPE_N_BASECLASSES (type) > 0)
433     return 1;
434
435   return 0;
436 }
437
438 /* Classify TYPE according to the rules for aggregate (structures and
439    arrays) and union types, and store the result in CLASS.  */
440
441 static void
442 amd64_classify_aggregate (struct type *type, enum amd64_reg_class class[2])
443 {
444   int len = TYPE_LENGTH (type);
445
446   /* 1. If the size of an object is larger than two eightbytes, or in
447         C++, is a non-POD structure or union type, or contains
448         unaligned fields, it has class memory.  */
449   if (len > 16 || amd64_non_pod_p (type))
450     {
451       class[0] = class[1] = AMD64_MEMORY;
452       return;
453     }
454
455   /* 2. Both eightbytes get initialized to class NO_CLASS.  */
456   class[0] = class[1] = AMD64_NO_CLASS;
457
458   /* 3. Each field of an object is classified recursively so that
459         always two fields are considered. The resulting class is
460         calculated according to the classes of the fields in the
461         eightbyte: */
462
463   if (TYPE_CODE (type) == TYPE_CODE_ARRAY)
464     {
465       struct type *subtype = check_typedef (TYPE_TARGET_TYPE (type));
466
467       /* All fields in an array have the same type.  */
468       amd64_classify (subtype, class);
469       if (len > 8 && class[1] == AMD64_NO_CLASS)
470         class[1] = class[0];
471     }
472   else
473     {
474       int i;
475
476       /* Structure or union.  */
477       gdb_assert (TYPE_CODE (type) == TYPE_CODE_STRUCT
478                   || TYPE_CODE (type) == TYPE_CODE_UNION);
479
480       for (i = 0; i < TYPE_NFIELDS (type); i++)
481         {
482           struct type *subtype = check_typedef (TYPE_FIELD_TYPE (type, i));
483           int pos = TYPE_FIELD_BITPOS (type, i) / 64;
484           enum amd64_reg_class subclass[2];
485           int bitsize = TYPE_FIELD_BITSIZE (type, i);
486           int endpos;
487
488           if (bitsize == 0)
489             bitsize = TYPE_LENGTH (subtype) * 8;
490           endpos = (TYPE_FIELD_BITPOS (type, i) + bitsize - 1) / 64;
491
492           /* Ignore static fields.  */
493           if (field_is_static (&TYPE_FIELD (type, i)))
494             continue;
495
496           gdb_assert (pos == 0 || pos == 1);
497
498           amd64_classify (subtype, subclass);
499           class[pos] = amd64_merge_classes (class[pos], subclass[0]);
500           if (bitsize <= 64 && pos == 0 && endpos == 1)
501             /* This is a bit of an odd case:  We have a field that would
502                normally fit in one of the two eightbytes, except that
503                it is placed in a way that this field straddles them.
504                This has been seen with a structure containing an array.
505
506                The ABI is a bit unclear in this case, but we assume that
507                this field's class (stored in subclass[0]) must also be merged
508                into class[1].  In other words, our field has a piece stored
509                in the second eight-byte, and thus its class applies to
510                the second eight-byte as well.
511
512                In the case where the field length exceeds 8 bytes,
513                it should not be necessary to merge the field class
514                into class[1].  As LEN > 8, subclass[1] is necessarily
515                different from AMD64_NO_CLASS.  If subclass[1] is equal
516                to subclass[0], then the normal class[1]/subclass[1]
517                merging will take care of everything.  For subclass[1]
518                to be different from subclass[0], I can only see the case
519                where we have a SSE/SSEUP or X87/X87UP pair, which both
520                use up all 16 bytes of the aggregate, and are already
521                handled just fine (because each portion sits on its own
522                8-byte).  */
523             class[1] = amd64_merge_classes (class[1], subclass[0]);
524           if (pos == 0)
525             class[1] = amd64_merge_classes (class[1], subclass[1]);
526         }
527     }
528
529   /* 4. Then a post merger cleanup is done:  */
530
531   /* Rule (a): If one of the classes is MEMORY, the whole argument is
532      passed in memory.  */
533   if (class[0] == AMD64_MEMORY || class[1] == AMD64_MEMORY)
534     class[0] = class[1] = AMD64_MEMORY;
535
536   /* Rule (b): If SSEUP is not preceded by SSE, it is converted to
537      SSE.  */
538   if (class[0] == AMD64_SSEUP)
539     class[0] = AMD64_SSE;
540   if (class[1] == AMD64_SSEUP && class[0] != AMD64_SSE)
541     class[1] = AMD64_SSE;
542 }
543
544 /* Classify TYPE, and store the result in CLASS.  */
545
546 void
547 amd64_classify (struct type *type, enum amd64_reg_class class[2])
548 {
549   enum type_code code = TYPE_CODE (type);
550   int len = TYPE_LENGTH (type);
551
552   class[0] = class[1] = AMD64_NO_CLASS;
553
554   /* Arguments of types (signed and unsigned) _Bool, char, short, int,
555      long, long long, and pointers are in the INTEGER class.  Similarly,
556      range types, used by languages such as Ada, are also in the INTEGER
557      class.  */
558   if ((code == TYPE_CODE_INT || code == TYPE_CODE_ENUM
559        || code == TYPE_CODE_BOOL || code == TYPE_CODE_RANGE
560        || code == TYPE_CODE_CHAR
561        || code == TYPE_CODE_PTR || code == TYPE_CODE_REF)
562       && (len == 1 || len == 2 || len == 4 || len == 8))
563     class[0] = AMD64_INTEGER;
564
565   /* Arguments of types float, double, _Decimal32, _Decimal64 and __m64
566      are in class SSE.  */
567   else if ((code == TYPE_CODE_FLT || code == TYPE_CODE_DECFLOAT)
568            && (len == 4 || len == 8))
569     /* FIXME: __m64 .  */
570     class[0] = AMD64_SSE;
571
572   /* Arguments of types __float128, _Decimal128 and __m128 are split into
573      two halves.  The least significant ones belong to class SSE, the most
574      significant one to class SSEUP.  */
575   else if (code == TYPE_CODE_DECFLOAT && len == 16)
576     /* FIXME: __float128, __m128.  */
577     class[0] = AMD64_SSE, class[1] = AMD64_SSEUP;
578
579   /* The 64-bit mantissa of arguments of type long double belongs to
580      class X87, the 16-bit exponent plus 6 bytes of padding belongs to
581      class X87UP.  */
582   else if (code == TYPE_CODE_FLT && len == 16)
583     /* Class X87 and X87UP.  */
584     class[0] = AMD64_X87, class[1] = AMD64_X87UP;
585
586   /* Aggregates.  */
587   else if (code == TYPE_CODE_ARRAY || code == TYPE_CODE_STRUCT
588            || code == TYPE_CODE_UNION)
589     amd64_classify_aggregate (type, class);
590 }
591
592 static enum return_value_convention
593 amd64_return_value (struct gdbarch *gdbarch, struct type *func_type,
594                     struct type *type, struct regcache *regcache,
595                     gdb_byte *readbuf, const gdb_byte *writebuf)
596 {
597   struct gdbarch_tdep *tdep = gdbarch_tdep (gdbarch);
598   enum amd64_reg_class class[2];
599   int len = TYPE_LENGTH (type);
600   static int integer_regnum[] = { AMD64_RAX_REGNUM, AMD64_RDX_REGNUM };
601   static int sse_regnum[] = { AMD64_XMM0_REGNUM, AMD64_XMM1_REGNUM };
602   int integer_reg = 0;
603   int sse_reg = 0;
604   int i;
605
606   gdb_assert (!(readbuf && writebuf));
607   gdb_assert (tdep->classify);
608
609   /* 1. Classify the return type with the classification algorithm.  */
610   tdep->classify (type, class);
611
612   /* 2. If the type has class MEMORY, then the caller provides space
613      for the return value and passes the address of this storage in
614      %rdi as if it were the first argument to the function.  In effect,
615      this address becomes a hidden first argument.
616
617      On return %rax will contain the address that has been passed in
618      by the caller in %rdi.  */
619   if (class[0] == AMD64_MEMORY)
620     {
621       /* As indicated by the comment above, the ABI guarantees that we
622          can always find the return value just after the function has
623          returned.  */
624
625       if (readbuf)
626         {
627           ULONGEST addr;
628
629           regcache_raw_read_unsigned (regcache, AMD64_RAX_REGNUM, &addr);
630           read_memory (addr, readbuf, TYPE_LENGTH (type));
631         }
632
633       return RETURN_VALUE_ABI_RETURNS_ADDRESS;
634     }
635
636   gdb_assert (class[1] != AMD64_MEMORY);
637   gdb_assert (len <= 16);
638
639   for (i = 0; len > 0; i++, len -= 8)
640     {
641       int regnum = -1;
642       int offset = 0;
643
644       switch (class[i])
645         {
646         case AMD64_INTEGER:
647           /* 3. If the class is INTEGER, the next available register
648              of the sequence %rax, %rdx is used.  */
649           regnum = integer_regnum[integer_reg++];
650           break;
651
652         case AMD64_SSE:
653           /* 4. If the class is SSE, the next available SSE register
654              of the sequence %xmm0, %xmm1 is used.  */
655           regnum = sse_regnum[sse_reg++];
656           break;
657
658         case AMD64_SSEUP:
659           /* 5. If the class is SSEUP, the eightbyte is passed in the
660              upper half of the last used SSE register.  */
661           gdb_assert (sse_reg > 0);
662           regnum = sse_regnum[sse_reg - 1];
663           offset = 8;
664           break;
665
666         case AMD64_X87:
667           /* 6. If the class is X87, the value is returned on the X87
668              stack in %st0 as 80-bit x87 number.  */
669           regnum = AMD64_ST0_REGNUM;
670           if (writebuf)
671             i387_return_value (gdbarch, regcache);
672           break;
673
674         case AMD64_X87UP:
675           /* 7. If the class is X87UP, the value is returned together
676              with the previous X87 value in %st0.  */
677           gdb_assert (i > 0 && class[0] == AMD64_X87);
678           regnum = AMD64_ST0_REGNUM;
679           offset = 8;
680           len = 2;
681           break;
682
683         case AMD64_NO_CLASS:
684           continue;
685
686         default:
687           gdb_assert (!"Unexpected register class.");
688         }
689
690       gdb_assert (regnum != -1);
691
692       if (readbuf)
693         regcache_raw_read_part (regcache, regnum, offset, min (len, 8),
694                                 readbuf + i * 8);
695       if (writebuf)
696         regcache_raw_write_part (regcache, regnum, offset, min (len, 8),
697                                  writebuf + i * 8);
698     }
699
700   return RETURN_VALUE_REGISTER_CONVENTION;
701 }
702 \f
703
704 static CORE_ADDR
705 amd64_push_arguments (struct regcache *regcache, int nargs,
706                       struct value **args, CORE_ADDR sp, int struct_return)
707 {
708   struct gdbarch *gdbarch = get_regcache_arch (regcache);
709   struct gdbarch_tdep *tdep = gdbarch_tdep (gdbarch);
710   int *integer_regs = tdep->call_dummy_integer_regs;
711   int num_integer_regs = tdep->call_dummy_num_integer_regs;
712
713   static int sse_regnum[] =
714   {
715     /* %xmm0 ... %xmm7 */
716     AMD64_XMM0_REGNUM + 0, AMD64_XMM1_REGNUM,
717     AMD64_XMM0_REGNUM + 2, AMD64_XMM0_REGNUM + 3,
718     AMD64_XMM0_REGNUM + 4, AMD64_XMM0_REGNUM + 5,
719     AMD64_XMM0_REGNUM + 6, AMD64_XMM0_REGNUM + 7,
720   };
721   struct value **stack_args = alloca (nargs * sizeof (struct value *));
722   /* An array that mirrors the stack_args array.  For all arguments
723      that are passed by MEMORY, if that argument's address also needs
724      to be stored in a register, the ARG_ADDR_REGNO array will contain
725      that register number (or a negative value otherwise).  */
726   int *arg_addr_regno = alloca (nargs * sizeof (int));
727   int num_stack_args = 0;
728   int num_elements = 0;
729   int element = 0;
730   int integer_reg = 0;
731   int sse_reg = 0;
732   int i;
733
734   gdb_assert (tdep->classify);
735
736   /* Reserve a register for the "hidden" argument.  */
737   if (struct_return)
738     integer_reg++;
739
740   for (i = 0; i < nargs; i++)
741     {
742       struct type *type = value_type (args[i]);
743       int len = TYPE_LENGTH (type);
744       enum amd64_reg_class class[2];
745       int needed_integer_regs = 0;
746       int needed_sse_regs = 0;
747       int j;
748
749       /* Classify argument.  */
750       tdep->classify (type, class);
751
752       /* Calculate the number of integer and SSE registers needed for
753          this argument.  */
754       for (j = 0; j < 2; j++)
755         {
756           if (class[j] == AMD64_INTEGER)
757             needed_integer_regs++;
758           else if (class[j] == AMD64_SSE)
759             needed_sse_regs++;
760         }
761
762       /* Check whether enough registers are available, and if the
763          argument should be passed in registers at all.  */
764       if (integer_reg + needed_integer_regs > num_integer_regs
765           || sse_reg + needed_sse_regs > ARRAY_SIZE (sse_regnum)
766           || (needed_integer_regs == 0 && needed_sse_regs == 0))
767         {
768           /* The argument will be passed on the stack.  */
769           num_elements += ((len + 7) / 8);
770           stack_args[num_stack_args] = args[i];
771           /* If this is an AMD64_MEMORY argument whose address must also
772              be passed in one of the integer registers, reserve that
773              register and associate this value to that register so that
774              we can store the argument address as soon as we know it.  */
775           if (class[0] == AMD64_MEMORY
776               && tdep->memory_args_by_pointer
777               && integer_reg < tdep->call_dummy_num_integer_regs)
778             arg_addr_regno[num_stack_args] =
779               tdep->call_dummy_integer_regs[integer_reg++];
780           else
781             arg_addr_regno[num_stack_args] = -1;
782           num_stack_args++;
783         }
784       else
785         {
786           /* The argument will be passed in registers.  */
787           const gdb_byte *valbuf = value_contents (args[i]);
788           gdb_byte buf[8];
789
790           gdb_assert (len <= 16);
791
792           for (j = 0; len > 0; j++, len -= 8)
793             {
794               int regnum = -1;
795               int offset = 0;
796
797               switch (class[j])
798                 {
799                 case AMD64_INTEGER:
800                   regnum = integer_regs[integer_reg++];
801                   break;
802
803                 case AMD64_SSE:
804                   regnum = sse_regnum[sse_reg++];
805                   break;
806
807                 case AMD64_SSEUP:
808                   gdb_assert (sse_reg > 0);
809                   regnum = sse_regnum[sse_reg - 1];
810                   offset = 8;
811                   break;
812
813                 default:
814                   gdb_assert (!"Unexpected register class.");
815                 }
816
817               gdb_assert (regnum != -1);
818               memset (buf, 0, sizeof buf);
819               memcpy (buf, valbuf + j * 8, min (len, 8));
820               regcache_raw_write_part (regcache, regnum, offset, 8, buf);
821             }
822         }
823     }
824
825   /* Allocate space for the arguments on the stack.  */
826   sp -= num_elements * 8;
827
828   /* The psABI says that "The end of the input argument area shall be
829      aligned on a 16 byte boundary."  */
830   sp &= ~0xf;
831
832   /* Write out the arguments to the stack.  */
833   for (i = 0; i < num_stack_args; i++)
834     {
835       struct type *type = value_type (stack_args[i]);
836       const gdb_byte *valbuf = value_contents (stack_args[i]);
837       int len = TYPE_LENGTH (type);
838       CORE_ADDR arg_addr = sp + element * 8;
839
840       write_memory (arg_addr, valbuf, len);
841       if (arg_addr_regno[i] >= 0)
842         {
843           /* We also need to store the address of that argument in
844              the given register.  */
845           gdb_byte buf[8];
846           enum bfd_endian byte_order = gdbarch_byte_order (gdbarch);
847
848           store_unsigned_integer (buf, 8, byte_order, arg_addr);
849           regcache_cooked_write (regcache, arg_addr_regno[i], buf);
850         }
851       element += ((len + 7) / 8);
852     }
853
854   /* The psABI says that "For calls that may call functions that use
855      varargs or stdargs (prototype-less calls or calls to functions
856      containing ellipsis (...) in the declaration) %al is used as
857      hidden argument to specify the number of SSE registers used.  */
858   regcache_raw_write_unsigned (regcache, AMD64_RAX_REGNUM, sse_reg);
859   return sp; 
860 }
861
862 static CORE_ADDR
863 amd64_push_dummy_call (struct gdbarch *gdbarch, struct value *function,
864                        struct regcache *regcache, CORE_ADDR bp_addr,
865                        int nargs, struct value **args,  CORE_ADDR sp,
866                        int struct_return, CORE_ADDR struct_addr)
867 {
868   enum bfd_endian byte_order = gdbarch_byte_order (gdbarch);
869   struct gdbarch_tdep *tdep = gdbarch_tdep (gdbarch);
870   gdb_byte buf[8];
871
872   /* Pass arguments.  */
873   sp = amd64_push_arguments (regcache, nargs, args, sp, struct_return);
874
875   /* Pass "hidden" argument".  */
876   if (struct_return)
877     {
878       struct gdbarch_tdep *tdep = gdbarch_tdep (gdbarch);
879       /* The "hidden" argument is passed throught the first argument
880          register.  */
881       const int arg_regnum = tdep->call_dummy_integer_regs[0];
882
883       store_unsigned_integer (buf, 8, byte_order, struct_addr);
884       regcache_cooked_write (regcache, arg_regnum, buf);
885     }
886
887   /* Reserve some memory on the stack for the integer-parameter registers,
888      if required by the ABI.  */
889   if (tdep->integer_param_regs_saved_in_caller_frame)
890     sp -= tdep->call_dummy_num_integer_regs * 8;
891
892   /* Store return address.  */
893   sp -= 8;
894   store_unsigned_integer (buf, 8, byte_order, bp_addr);
895   write_memory (sp, buf, 8);
896
897   /* Finally, update the stack pointer...  */
898   store_unsigned_integer (buf, 8, byte_order, sp);
899   regcache_cooked_write (regcache, AMD64_RSP_REGNUM, buf);
900
901   /* ...and fake a frame pointer.  */
902   regcache_cooked_write (regcache, AMD64_RBP_REGNUM, buf);
903
904   return sp + 16;
905 }
906 \f
907 /* Displaced instruction handling.  */
908
909 /* A partially decoded instruction.
910    This contains enough details for displaced stepping purposes.  */
911
912 struct amd64_insn
913 {
914   /* The number of opcode bytes.  */
915   int opcode_len;
916   /* The offset of the rex prefix or -1 if not present.  */
917   int rex_offset;
918   /* The offset to the first opcode byte.  */
919   int opcode_offset;
920   /* The offset to the modrm byte or -1 if not present.  */
921   int modrm_offset;
922
923   /* The raw instruction.  */
924   gdb_byte *raw_insn;
925 };
926
927 struct displaced_step_closure
928 {
929   /* For rip-relative insns, saved copy of the reg we use instead of %rip.  */
930   int tmp_used;
931   int tmp_regno;
932   ULONGEST tmp_save;
933
934   /* Details of the instruction.  */
935   struct amd64_insn insn_details;
936
937   /* Amount of space allocated to insn_buf.  */
938   int max_len;
939
940   /* The possibly modified insn.
941      This is a variable-length field.  */
942   gdb_byte insn_buf[1];
943 };
944
945 /* WARNING: Keep onebyte_has_modrm, twobyte_has_modrm in sync with
946    ../opcodes/i386-dis.c (until libopcodes exports them, or an alternative,
947    at which point delete these in favor of libopcodes' versions).  */
948
949 static const unsigned char onebyte_has_modrm[256] = {
950   /*       0 1 2 3 4 5 6 7 8 9 a b c d e f        */
951   /*       -------------------------------        */
952   /* 00 */ 1,1,1,1,0,0,0,0,1,1,1,1,0,0,0,0, /* 00 */
953   /* 10 */ 1,1,1,1,0,0,0,0,1,1,1,1,0,0,0,0, /* 10 */
954   /* 20 */ 1,1,1,1,0,0,0,0,1,1,1,1,0,0,0,0, /* 20 */
955   /* 30 */ 1,1,1,1,0,0,0,0,1,1,1,1,0,0,0,0, /* 30 */
956   /* 40 */ 0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0, /* 40 */
957   /* 50 */ 0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0, /* 50 */
958   /* 60 */ 0,0,1,1,0,0,0,0,0,1,0,1,0,0,0,0, /* 60 */
959   /* 70 */ 0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0, /* 70 */
960   /* 80 */ 1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1, /* 80 */
961   /* 90 */ 0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0, /* 90 */
962   /* a0 */ 0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0, /* a0 */
963   /* b0 */ 0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0, /* b0 */
964   /* c0 */ 1,1,0,0,1,1,1,1,0,0,0,0,0,0,0,0, /* c0 */
965   /* d0 */ 1,1,1,1,0,0,0,0,1,1,1,1,1,1,1,1, /* d0 */
966   /* e0 */ 0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0, /* e0 */
967   /* f0 */ 0,0,0,0,0,0,1,1,0,0,0,0,0,0,1,1  /* f0 */
968   /*       -------------------------------        */
969   /*       0 1 2 3 4 5 6 7 8 9 a b c d e f        */
970 };
971
972 static const unsigned char twobyte_has_modrm[256] = {
973   /*       0 1 2 3 4 5 6 7 8 9 a b c d e f        */
974   /*       -------------------------------        */
975   /* 00 */ 1,1,1,1,0,0,0,0,0,0,0,0,0,1,0,1, /* 0f */
976   /* 10 */ 1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1, /* 1f */
977   /* 20 */ 1,1,1,1,1,1,1,0,1,1,1,1,1,1,1,1, /* 2f */
978   /* 30 */ 0,0,0,0,0,0,0,0,1,0,1,0,0,0,0,0, /* 3f */
979   /* 40 */ 1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1, /* 4f */
980   /* 50 */ 1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1, /* 5f */
981   /* 60 */ 1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1, /* 6f */
982   /* 70 */ 1,1,1,1,1,1,1,0,1,1,1,1,1,1,1,1, /* 7f */
983   /* 80 */ 0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0, /* 8f */
984   /* 90 */ 1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1, /* 9f */
985   /* a0 */ 0,0,0,1,1,1,1,1,0,0,0,1,1,1,1,1, /* af */
986   /* b0 */ 1,1,1,1,1,1,1,1,1,0,1,1,1,1,1,1, /* bf */
987   /* c0 */ 1,1,1,1,1,1,1,1,0,0,0,0,0,0,0,0, /* cf */
988   /* d0 */ 1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1, /* df */
989   /* e0 */ 1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1, /* ef */
990   /* f0 */ 1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,0  /* ff */
991   /*       -------------------------------        */
992   /*       0 1 2 3 4 5 6 7 8 9 a b c d e f        */
993 };
994
995 static int amd64_syscall_p (const struct amd64_insn *insn, int *lengthp);
996
997 static int
998 rex_prefix_p (gdb_byte pfx)
999 {
1000   return REX_PREFIX_P (pfx);
1001 }
1002
1003 /* Skip the legacy instruction prefixes in INSN.
1004    We assume INSN is properly sentineled so we don't have to worry
1005    about falling off the end of the buffer.  */
1006
1007 static gdb_byte *
1008 amd64_skip_prefixes (gdb_byte *insn)
1009 {
1010   while (1)
1011     {
1012       switch (*insn)
1013         {
1014         case DATA_PREFIX_OPCODE:
1015         case ADDR_PREFIX_OPCODE:
1016         case CS_PREFIX_OPCODE:
1017         case DS_PREFIX_OPCODE:
1018         case ES_PREFIX_OPCODE:
1019         case FS_PREFIX_OPCODE:
1020         case GS_PREFIX_OPCODE:
1021         case SS_PREFIX_OPCODE:
1022         case LOCK_PREFIX_OPCODE:
1023         case REPE_PREFIX_OPCODE:
1024         case REPNE_PREFIX_OPCODE:
1025           ++insn;
1026           continue;
1027         default:
1028           break;
1029         }
1030       break;
1031     }
1032
1033   return insn;
1034 }
1035
1036 /* Return an integer register (other than RSP) that is unused as an input
1037    operand in INSN.
1038    In order to not require adding a rex prefix if the insn doesn't already
1039    have one, the result is restricted to RAX ... RDI, sans RSP.
1040    The register numbering of the result follows architecture ordering,
1041    e.g. RDI = 7.  */
1042
1043 static int
1044 amd64_get_unused_input_int_reg (const struct amd64_insn *details)
1045 {
1046   /* 1 bit for each reg */
1047   int used_regs_mask = 0;
1048
1049   /* There can be at most 3 int regs used as inputs in an insn, and we have
1050      7 to choose from (RAX ... RDI, sans RSP).
1051      This allows us to take a conservative approach and keep things simple.
1052      E.g. By avoiding RAX, we don't have to specifically watch for opcodes
1053      that implicitly specify RAX.  */
1054
1055   /* Avoid RAX.  */
1056   used_regs_mask |= 1 << EAX_REG_NUM;
1057   /* Similarily avoid RDX, implicit operand in divides.  */
1058   used_regs_mask |= 1 << EDX_REG_NUM;
1059   /* Avoid RSP.  */
1060   used_regs_mask |= 1 << ESP_REG_NUM;
1061
1062   /* If the opcode is one byte long and there's no ModRM byte,
1063      assume the opcode specifies a register.  */
1064   if (details->opcode_len == 1 && details->modrm_offset == -1)
1065     used_regs_mask |= 1 << (details->raw_insn[details->opcode_offset] & 7);
1066
1067   /* Mark used regs in the modrm/sib bytes.  */
1068   if (details->modrm_offset != -1)
1069     {
1070       int modrm = details->raw_insn[details->modrm_offset];
1071       int mod = MODRM_MOD_FIELD (modrm);
1072       int reg = MODRM_REG_FIELD (modrm);
1073       int rm = MODRM_RM_FIELD (modrm);
1074       int have_sib = mod != 3 && rm == 4;
1075
1076       /* Assume the reg field of the modrm byte specifies a register.  */
1077       used_regs_mask |= 1 << reg;
1078
1079       if (have_sib)
1080         {
1081           int base = SIB_BASE_FIELD (details->raw_insn[details->modrm_offset + 1]);
1082           int index = SIB_INDEX_FIELD (details->raw_insn[details->modrm_offset + 1]);
1083           used_regs_mask |= 1 << base;
1084           used_regs_mask |= 1 << index;
1085         }
1086       else
1087         {
1088           used_regs_mask |= 1 << rm;
1089         }
1090     }
1091
1092   gdb_assert (used_regs_mask < 256);
1093   gdb_assert (used_regs_mask != 255);
1094
1095   /* Finally, find a free reg.  */
1096   {
1097     int i;
1098
1099     for (i = 0; i < 8; ++i)
1100       {
1101         if (! (used_regs_mask & (1 << i)))
1102           return i;
1103       }
1104
1105     /* We shouldn't get here.  */
1106     internal_error (__FILE__, __LINE__, _("unable to find free reg"));
1107   }
1108 }
1109
1110 /* Extract the details of INSN that we need.  */
1111
1112 static void
1113 amd64_get_insn_details (gdb_byte *insn, struct amd64_insn *details)
1114 {
1115   gdb_byte *start = insn;
1116   int need_modrm;
1117
1118   details->raw_insn = insn;
1119
1120   details->opcode_len = -1;
1121   details->rex_offset = -1;
1122   details->opcode_offset = -1;
1123   details->modrm_offset = -1;
1124
1125   /* Skip legacy instruction prefixes.  */
1126   insn = amd64_skip_prefixes (insn);
1127
1128   /* Skip REX instruction prefix.  */
1129   if (rex_prefix_p (*insn))
1130     {
1131       details->rex_offset = insn - start;
1132       ++insn;
1133     }
1134
1135   details->opcode_offset = insn - start;
1136
1137   if (*insn == TWO_BYTE_OPCODE_ESCAPE)
1138     {
1139       /* Two or three-byte opcode.  */
1140       ++insn;
1141       need_modrm = twobyte_has_modrm[*insn];
1142
1143       /* Check for three-byte opcode.  */
1144       switch (*insn)
1145         {
1146         case 0x24:
1147         case 0x25:
1148         case 0x38:
1149         case 0x3a:
1150         case 0x7a:
1151         case 0x7b:
1152           ++insn;
1153           details->opcode_len = 3;
1154           break;
1155         default:
1156           details->opcode_len = 2;
1157           break;
1158         }
1159     }
1160   else
1161     {
1162       /* One-byte opcode.  */
1163       need_modrm = onebyte_has_modrm[*insn];
1164       details->opcode_len = 1;
1165     }
1166
1167   if (need_modrm)
1168     {
1169       ++insn;
1170       details->modrm_offset = insn - start;
1171     }
1172 }
1173
1174 /* Update %rip-relative addressing in INSN.
1175
1176    %rip-relative addressing only uses a 32-bit displacement.
1177    32 bits is not enough to be guaranteed to cover the distance between where
1178    the real instruction is and where its copy is.
1179    Convert the insn to use base+disp addressing.
1180    We set base = pc + insn_length so we can leave disp unchanged.  */
1181
1182 static void
1183 fixup_riprel (struct gdbarch *gdbarch, struct displaced_step_closure *dsc,
1184               CORE_ADDR from, CORE_ADDR to, struct regcache *regs)
1185 {
1186   enum bfd_endian byte_order = gdbarch_byte_order (gdbarch);
1187   const struct amd64_insn *insn_details = &dsc->insn_details;
1188   int modrm_offset = insn_details->modrm_offset;
1189   gdb_byte *insn = insn_details->raw_insn + modrm_offset;
1190   CORE_ADDR rip_base;
1191   int32_t disp;
1192   int insn_length;
1193   int arch_tmp_regno, tmp_regno;
1194   ULONGEST orig_value;
1195
1196   /* %rip+disp32 addressing mode, displacement follows ModRM byte.  */
1197   ++insn;
1198
1199   /* Compute the rip-relative address.  */
1200   disp = extract_signed_integer (insn, sizeof (int32_t), byte_order);
1201   insn_length = gdb_buffered_insn_length (gdbarch, dsc->insn_buf,
1202                                           dsc->max_len, from);
1203   rip_base = from + insn_length;
1204
1205   /* We need a register to hold the address.
1206      Pick one not used in the insn.
1207      NOTE: arch_tmp_regno uses architecture ordering, e.g. RDI = 7.  */
1208   arch_tmp_regno = amd64_get_unused_input_int_reg (insn_details);
1209   tmp_regno = amd64_arch_reg_to_regnum (arch_tmp_regno);
1210
1211   /* REX.B should be unset as we were using rip-relative addressing,
1212      but ensure it's unset anyway, tmp_regno is not r8-r15.  */
1213   if (insn_details->rex_offset != -1)
1214     dsc->insn_buf[insn_details->rex_offset] &= ~REX_B;
1215
1216   regcache_cooked_read_unsigned (regs, tmp_regno, &orig_value);
1217   dsc->tmp_regno = tmp_regno;
1218   dsc->tmp_save = orig_value;
1219   dsc->tmp_used = 1;
1220
1221   /* Convert the ModRM field to be base+disp.  */
1222   dsc->insn_buf[modrm_offset] &= ~0xc7;
1223   dsc->insn_buf[modrm_offset] |= 0x80 + arch_tmp_regno;
1224
1225   regcache_cooked_write_unsigned (regs, tmp_regno, rip_base);
1226
1227   if (debug_displaced)
1228     fprintf_unfiltered (gdb_stdlog, "displaced: %%rip-relative addressing used.\n"
1229                         "displaced: using temp reg %d, old value %s, new value %s\n",
1230                         dsc->tmp_regno, paddress (gdbarch, dsc->tmp_save),
1231                         paddress (gdbarch, rip_base));
1232 }
1233
1234 static void
1235 fixup_displaced_copy (struct gdbarch *gdbarch,
1236                       struct displaced_step_closure *dsc,
1237                       CORE_ADDR from, CORE_ADDR to, struct regcache *regs)
1238 {
1239   const struct amd64_insn *details = &dsc->insn_details;
1240
1241   if (details->modrm_offset != -1)
1242     {
1243       gdb_byte modrm = details->raw_insn[details->modrm_offset];
1244
1245       if ((modrm & 0xc7) == 0x05)
1246         {
1247           /* The insn uses rip-relative addressing.
1248              Deal with it.  */
1249           fixup_riprel (gdbarch, dsc, from, to, regs);
1250         }
1251     }
1252 }
1253
1254 struct displaced_step_closure *
1255 amd64_displaced_step_copy_insn (struct gdbarch *gdbarch,
1256                                 CORE_ADDR from, CORE_ADDR to,
1257                                 struct regcache *regs)
1258 {
1259   int len = gdbarch_max_insn_length (gdbarch);
1260   /* Extra space for sentinels so fixup_{riprel,displaced_copy don't have to
1261      continually watch for running off the end of the buffer.  */
1262   int fixup_sentinel_space = len;
1263   struct displaced_step_closure *dsc =
1264     xmalloc (sizeof (*dsc) + len + fixup_sentinel_space);
1265   gdb_byte *buf = &dsc->insn_buf[0];
1266   struct amd64_insn *details = &dsc->insn_details;
1267
1268   dsc->tmp_used = 0;
1269   dsc->max_len = len + fixup_sentinel_space;
1270
1271   read_memory (from, buf, len);
1272
1273   /* Set up the sentinel space so we don't have to worry about running
1274      off the end of the buffer.  An excessive number of leading prefixes
1275      could otherwise cause this.  */
1276   memset (buf + len, 0, fixup_sentinel_space);
1277
1278   amd64_get_insn_details (buf, details);
1279
1280   /* GDB may get control back after the insn after the syscall.
1281      Presumably this is a kernel bug.
1282      If this is a syscall, make sure there's a nop afterwards.  */
1283   {
1284     int syscall_length;
1285
1286     if (amd64_syscall_p (details, &syscall_length))
1287       buf[details->opcode_offset + syscall_length] = NOP_OPCODE;
1288   }
1289
1290   /* Modify the insn to cope with the address where it will be executed from.
1291      In particular, handle any rip-relative addressing.  */
1292   fixup_displaced_copy (gdbarch, dsc, from, to, regs);
1293
1294   write_memory (to, buf, len);
1295
1296   if (debug_displaced)
1297     {
1298       fprintf_unfiltered (gdb_stdlog, "displaced: copy %s->%s: ",
1299                           paddress (gdbarch, from), paddress (gdbarch, to));
1300       displaced_step_dump_bytes (gdb_stdlog, buf, len);
1301     }
1302
1303   return dsc;
1304 }
1305
1306 static int
1307 amd64_absolute_jmp_p (const struct amd64_insn *details)
1308 {
1309   const gdb_byte *insn = &details->raw_insn[details->opcode_offset];
1310
1311   if (insn[0] == 0xff)
1312     {
1313       /* jump near, absolute indirect (/4) */
1314       if ((insn[1] & 0x38) == 0x20)
1315         return 1;
1316
1317       /* jump far, absolute indirect (/5) */
1318       if ((insn[1] & 0x38) == 0x28)
1319         return 1;
1320     }
1321
1322   return 0;
1323 }
1324
1325 static int
1326 amd64_absolute_call_p (const struct amd64_insn *details)
1327 {
1328   const gdb_byte *insn = &details->raw_insn[details->opcode_offset];
1329
1330   if (insn[0] == 0xff)
1331     {
1332       /* Call near, absolute indirect (/2) */
1333       if ((insn[1] & 0x38) == 0x10)
1334         return 1;
1335
1336       /* Call far, absolute indirect (/3) */
1337       if ((insn[1] & 0x38) == 0x18)
1338         return 1;
1339     }
1340
1341   return 0;
1342 }
1343
1344 static int
1345 amd64_ret_p (const struct amd64_insn *details)
1346 {
1347   /* NOTE: gcc can emit "repz ; ret".  */
1348   const gdb_byte *insn = &details->raw_insn[details->opcode_offset];
1349
1350   switch (insn[0])
1351     {
1352     case 0xc2: /* ret near, pop N bytes */
1353     case 0xc3: /* ret near */
1354     case 0xca: /* ret far, pop N bytes */
1355     case 0xcb: /* ret far */
1356     case 0xcf: /* iret */
1357       return 1;
1358
1359     default:
1360       return 0;
1361     }
1362 }
1363
1364 static int
1365 amd64_call_p (const struct amd64_insn *details)
1366 {
1367   const gdb_byte *insn = &details->raw_insn[details->opcode_offset];
1368
1369   if (amd64_absolute_call_p (details))
1370     return 1;
1371
1372   /* call near, relative */
1373   if (insn[0] == 0xe8)
1374     return 1;
1375
1376   return 0;
1377 }
1378
1379 /* Return non-zero if INSN is a system call, and set *LENGTHP to its
1380    length in bytes.  Otherwise, return zero.  */
1381
1382 static int
1383 amd64_syscall_p (const struct amd64_insn *details, int *lengthp)
1384 {
1385   const gdb_byte *insn = &details->raw_insn[details->opcode_offset];
1386
1387   if (insn[0] == 0x0f && insn[1] == 0x05)
1388     {
1389       *lengthp = 2;
1390       return 1;
1391     }
1392
1393   return 0;
1394 }
1395
1396 /* Fix up the state of registers and memory after having single-stepped
1397    a displaced instruction.  */
1398
1399 void
1400 amd64_displaced_step_fixup (struct gdbarch *gdbarch,
1401                             struct displaced_step_closure *dsc,
1402                             CORE_ADDR from, CORE_ADDR to,
1403                             struct regcache *regs)
1404 {
1405   enum bfd_endian byte_order = gdbarch_byte_order (gdbarch);
1406   /* The offset we applied to the instruction's address.  */
1407   ULONGEST insn_offset = to - from;
1408   gdb_byte *insn = dsc->insn_buf;
1409   const struct amd64_insn *insn_details = &dsc->insn_details;
1410
1411   if (debug_displaced)
1412     fprintf_unfiltered (gdb_stdlog,
1413                         "displaced: fixup (%s, %s), "
1414                         "insn = 0x%02x 0x%02x ...\n",
1415                         paddress (gdbarch, from), paddress (gdbarch, to),
1416                         insn[0], insn[1]);
1417
1418   /* If we used a tmp reg, restore it.  */
1419
1420   if (dsc->tmp_used)
1421     {
1422       if (debug_displaced)
1423         fprintf_unfiltered (gdb_stdlog, "displaced: restoring reg %d to %s\n",
1424                             dsc->tmp_regno, paddress (gdbarch, dsc->tmp_save));
1425       regcache_cooked_write_unsigned (regs, dsc->tmp_regno, dsc->tmp_save);
1426     }
1427
1428   /* The list of issues to contend with here is taken from
1429      resume_execution in arch/x86/kernel/kprobes.c, Linux 2.6.28.
1430      Yay for Free Software!  */
1431
1432   /* Relocate the %rip back to the program's instruction stream,
1433      if necessary.  */
1434
1435   /* Except in the case of absolute or indirect jump or call
1436      instructions, or a return instruction, the new rip is relative to
1437      the displaced instruction; make it relative to the original insn.
1438      Well, signal handler returns don't need relocation either, but we use the
1439      value of %rip to recognize those; see below.  */
1440   if (! amd64_absolute_jmp_p (insn_details)
1441       && ! amd64_absolute_call_p (insn_details)
1442       && ! amd64_ret_p (insn_details))
1443     {
1444       ULONGEST orig_rip;
1445       int insn_len;
1446
1447       regcache_cooked_read_unsigned (regs, AMD64_RIP_REGNUM, &orig_rip);
1448
1449       /* A signal trampoline system call changes the %rip, resuming
1450          execution of the main program after the signal handler has
1451          returned.  That makes them like 'return' instructions; we
1452          shouldn't relocate %rip.
1453
1454          But most system calls don't, and we do need to relocate %rip.
1455
1456          Our heuristic for distinguishing these cases: if stepping
1457          over the system call instruction left control directly after
1458          the instruction, the we relocate --- control almost certainly
1459          doesn't belong in the displaced copy.  Otherwise, we assume
1460          the instruction has put control where it belongs, and leave
1461          it unrelocated.  Goodness help us if there are PC-relative
1462          system calls.  */
1463       if (amd64_syscall_p (insn_details, &insn_len)
1464           && orig_rip != to + insn_len
1465           /* GDB can get control back after the insn after the syscall.
1466              Presumably this is a kernel bug.
1467              Fixup ensures its a nop, we add one to the length for it.  */
1468           && orig_rip != to + insn_len + 1)
1469         {
1470           if (debug_displaced)
1471             fprintf_unfiltered (gdb_stdlog,
1472                                 "displaced: syscall changed %%rip; "
1473                                 "not relocating\n");
1474         }
1475       else
1476         {
1477           ULONGEST rip = orig_rip - insn_offset;
1478
1479           /* If we just stepped over a breakpoint insn, we don't backup
1480              the pc on purpose; this is to match behaviour without
1481              stepping.  */
1482
1483           regcache_cooked_write_unsigned (regs, AMD64_RIP_REGNUM, rip);
1484
1485           if (debug_displaced)
1486             fprintf_unfiltered (gdb_stdlog,
1487                                 "displaced: "
1488                                 "relocated %%rip from %s to %s\n",
1489                                 paddress (gdbarch, orig_rip),
1490                                 paddress (gdbarch, rip));
1491         }
1492     }
1493
1494   /* If the instruction was PUSHFL, then the TF bit will be set in the
1495      pushed value, and should be cleared.  We'll leave this for later,
1496      since GDB already messes up the TF flag when stepping over a
1497      pushfl.  */
1498
1499   /* If the instruction was a call, the return address now atop the
1500      stack is the address following the copied instruction.  We need
1501      to make it the address following the original instruction.  */
1502   if (amd64_call_p (insn_details))
1503     {
1504       ULONGEST rsp;
1505       ULONGEST retaddr;
1506       const ULONGEST retaddr_len = 8;
1507
1508       regcache_cooked_read_unsigned (regs, AMD64_RSP_REGNUM, &rsp);
1509       retaddr = read_memory_unsigned_integer (rsp, retaddr_len, byte_order);
1510       retaddr = (retaddr - insn_offset) & 0xffffffffUL;
1511       write_memory_unsigned_integer (rsp, retaddr_len, byte_order, retaddr);
1512
1513       if (debug_displaced)
1514         fprintf_unfiltered (gdb_stdlog,
1515                             "displaced: relocated return addr at %s "
1516                             "to %s\n",
1517                             paddress (gdbarch, rsp),
1518                             paddress (gdbarch, retaddr));
1519     }
1520 }
1521
1522 /* If the instruction INSN uses RIP-relative addressing, return the
1523    offset into the raw INSN where the displacement to be adjusted is
1524    found.  Returns 0 if the instruction doesn't use RIP-relative
1525    addressing.  */
1526
1527 static int
1528 rip_relative_offset (struct amd64_insn *insn)
1529 {
1530   if (insn->modrm_offset != -1)
1531     {
1532       gdb_byte modrm = insn->raw_insn[insn->modrm_offset];
1533
1534       if ((modrm & 0xc7) == 0x05)
1535         {
1536           /* The displacement is found right after the ModRM byte.  */
1537           return insn->modrm_offset + 1;
1538         }
1539     }
1540
1541   return 0;
1542 }
1543
1544 static void
1545 append_insns (CORE_ADDR *to, ULONGEST len, const gdb_byte *buf)
1546 {
1547   target_write_memory (*to, buf, len);
1548   *to += len;
1549 }
1550
1551 void
1552 amd64_relocate_instruction (struct gdbarch *gdbarch,
1553                             CORE_ADDR *to, CORE_ADDR oldloc)
1554 {
1555   enum bfd_endian byte_order = gdbarch_byte_order (gdbarch);
1556   int len = gdbarch_max_insn_length (gdbarch);
1557   /* Extra space for sentinels.  */
1558   int fixup_sentinel_space = len;
1559   gdb_byte *buf = xmalloc (len + fixup_sentinel_space);
1560   struct amd64_insn insn_details;
1561   int offset = 0;
1562   LONGEST rel32, newrel;
1563   gdb_byte *insn;
1564   int insn_length;
1565
1566   read_memory (oldloc, buf, len);
1567
1568   /* Set up the sentinel space so we don't have to worry about running
1569      off the end of the buffer.  An excessive number of leading prefixes
1570      could otherwise cause this.  */
1571   memset (buf + len, 0, fixup_sentinel_space);
1572
1573   insn = buf;
1574   amd64_get_insn_details (insn, &insn_details);
1575
1576   insn_length = gdb_buffered_insn_length (gdbarch, insn, len, oldloc);
1577
1578   /* Skip legacy instruction prefixes.  */
1579   insn = amd64_skip_prefixes (insn);
1580
1581   /* Adjust calls with 32-bit relative addresses as push/jump, with
1582      the address pushed being the location where the original call in
1583      the user program would return to.  */
1584   if (insn[0] == 0xe8)
1585     {
1586       gdb_byte push_buf[16];
1587       unsigned int ret_addr;
1588
1589       /* Where "ret" in the original code will return to.  */
1590       ret_addr = oldloc + insn_length;
1591       push_buf[0] = 0x68; /* pushq $...  */
1592       memcpy (&push_buf[1], &ret_addr, 4);
1593       /* Push the push.  */
1594       append_insns (to, 5, push_buf);
1595
1596       /* Convert the relative call to a relative jump.  */
1597       insn[0] = 0xe9;
1598
1599       /* Adjust the destination offset.  */
1600       rel32 = extract_signed_integer (insn + 1, 4, byte_order);
1601       newrel = (oldloc - *to) + rel32;
1602       store_signed_integer (insn + 1, 4, byte_order, newrel);
1603
1604       if (debug_displaced)
1605         fprintf_unfiltered (gdb_stdlog,
1606                             "Adjusted insn rel32=%s at %s to"
1607                             " rel32=%s at %s\n",
1608                             hex_string (rel32), paddress (gdbarch, oldloc),
1609                             hex_string (newrel), paddress (gdbarch, *to));
1610
1611       /* Write the adjusted jump into its displaced location.  */
1612       append_insns (to, 5, insn);
1613       return;
1614     }
1615
1616   offset = rip_relative_offset (&insn_details);
1617   if (!offset)
1618     {
1619       /* Adjust jumps with 32-bit relative addresses.  Calls are
1620          already handled above.  */
1621       if (insn[0] == 0xe9)
1622         offset = 1;
1623       /* Adjust conditional jumps.  */
1624       else if (insn[0] == 0x0f && (insn[1] & 0xf0) == 0x80)
1625         offset = 2;
1626     }
1627
1628   if (offset)
1629     {
1630       rel32 = extract_signed_integer (insn + offset, 4, byte_order);
1631       newrel = (oldloc - *to) + rel32;
1632       store_signed_integer (insn + offset, 4, byte_order, newrel);
1633       if (debug_displaced)
1634         fprintf_unfiltered (gdb_stdlog,
1635                             "Adjusted insn rel32=%s at %s to"
1636                             " rel32=%s at %s\n",
1637                             hex_string (rel32), paddress (gdbarch, oldloc),
1638                             hex_string (newrel), paddress (gdbarch, *to));
1639     }
1640
1641   /* Write the adjusted instruction into its displaced location.  */
1642   append_insns (to, insn_length, buf);
1643 }
1644
1645 \f
1646 /* The maximum number of saved registers.  This should include %rip.  */
1647 #define AMD64_NUM_SAVED_REGS    AMD64_NUM_GREGS
1648
1649 struct amd64_frame_cache
1650 {
1651   /* Base address.  */
1652   CORE_ADDR base;
1653   int base_p;
1654   CORE_ADDR sp_offset;
1655   CORE_ADDR pc;
1656
1657   /* Saved registers.  */
1658   CORE_ADDR saved_regs[AMD64_NUM_SAVED_REGS];
1659   CORE_ADDR saved_sp;
1660   int saved_sp_reg;
1661
1662   /* Do we have a frame?  */
1663   int frameless_p;
1664 };
1665
1666 /* Initialize a frame cache.  */
1667
1668 static void
1669 amd64_init_frame_cache (struct amd64_frame_cache *cache)
1670 {
1671   int i;
1672
1673   /* Base address.  */
1674   cache->base = 0;
1675   cache->base_p = 0;
1676   cache->sp_offset = -8;
1677   cache->pc = 0;
1678
1679   /* Saved registers.  We initialize these to -1 since zero is a valid
1680      offset (that's where %rbp is supposed to be stored).
1681      The values start out as being offsets, and are later converted to
1682      addresses (at which point -1 is interpreted as an address, still meaning
1683      "invalid").  */
1684   for (i = 0; i < AMD64_NUM_SAVED_REGS; i++)
1685     cache->saved_regs[i] = -1;
1686   cache->saved_sp = 0;
1687   cache->saved_sp_reg = -1;
1688
1689   /* Frameless until proven otherwise.  */
1690   cache->frameless_p = 1;
1691 }
1692
1693 /* Allocate and initialize a frame cache.  */
1694
1695 static struct amd64_frame_cache *
1696 amd64_alloc_frame_cache (void)
1697 {
1698   struct amd64_frame_cache *cache;
1699
1700   cache = FRAME_OBSTACK_ZALLOC (struct amd64_frame_cache);
1701   amd64_init_frame_cache (cache);
1702   return cache;
1703 }
1704
1705 /* GCC 4.4 and later, can put code in the prologue to realign the
1706    stack pointer.  Check whether PC points to such code, and update
1707    CACHE accordingly.  Return the first instruction after the code
1708    sequence or CURRENT_PC, whichever is smaller.  If we don't
1709    recognize the code, return PC.  */
1710
1711 static CORE_ADDR
1712 amd64_analyze_stack_align (CORE_ADDR pc, CORE_ADDR current_pc,
1713                            struct amd64_frame_cache *cache)
1714 {
1715   /* There are 2 code sequences to re-align stack before the frame
1716      gets set up:
1717
1718         1. Use a caller-saved saved register:
1719
1720                 leaq  8(%rsp), %reg
1721                 andq  $-XXX, %rsp
1722                 pushq -8(%reg)
1723
1724         2. Use a callee-saved saved register:
1725
1726                 pushq %reg
1727                 leaq  16(%rsp), %reg
1728                 andq  $-XXX, %rsp
1729                 pushq -8(%reg)
1730
1731      "andq $-XXX, %rsp" can be either 4 bytes or 7 bytes:
1732      
1733         0x48 0x83 0xe4 0xf0                     andq $-16, %rsp
1734         0x48 0x81 0xe4 0x00 0xff 0xff 0xff      andq $-256, %rsp
1735    */
1736
1737   gdb_byte buf[18];
1738   int reg, r;
1739   int offset, offset_and;
1740
1741   if (target_read_memory (pc, buf, sizeof buf))
1742     return pc;
1743
1744   /* Check caller-saved saved register.  The first instruction has
1745      to be "leaq 8(%rsp), %reg".  */
1746   if ((buf[0] & 0xfb) == 0x48
1747       && buf[1] == 0x8d
1748       && buf[3] == 0x24
1749       && buf[4] == 0x8)
1750     {
1751       /* MOD must be binary 10 and R/M must be binary 100.  */
1752       if ((buf[2] & 0xc7) != 0x44)
1753         return pc;
1754
1755       /* REG has register number.  */
1756       reg = (buf[2] >> 3) & 7;
1757
1758       /* Check the REX.R bit.  */
1759       if (buf[0] == 0x4c)
1760         reg += 8;
1761
1762       offset = 5;
1763     }
1764   else
1765     {
1766       /* Check callee-saved saved register.  The first instruction
1767          has to be "pushq %reg".  */
1768       reg = 0;
1769       if ((buf[0] & 0xf8) == 0x50)
1770         offset = 0;
1771       else if ((buf[0] & 0xf6) == 0x40
1772                && (buf[1] & 0xf8) == 0x50)
1773         {
1774           /* Check the REX.B bit.  */
1775           if ((buf[0] & 1) != 0)
1776             reg = 8;
1777
1778           offset = 1;
1779         }
1780       else
1781         return pc;
1782
1783       /* Get register.  */
1784       reg += buf[offset] & 0x7;
1785
1786       offset++;
1787
1788       /* The next instruction has to be "leaq 16(%rsp), %reg".  */
1789       if ((buf[offset] & 0xfb) != 0x48
1790           || buf[offset + 1] != 0x8d
1791           || buf[offset + 3] != 0x24
1792           || buf[offset + 4] != 0x10)
1793         return pc;
1794
1795       /* MOD must be binary 10 and R/M must be binary 100.  */
1796       if ((buf[offset + 2] & 0xc7) != 0x44)
1797         return pc;
1798       
1799       /* REG has register number.  */
1800       r = (buf[offset + 2] >> 3) & 7;
1801
1802       /* Check the REX.R bit.  */
1803       if (buf[offset] == 0x4c)
1804         r += 8;
1805
1806       /* Registers in pushq and leaq have to be the same.  */
1807       if (reg != r)
1808         return pc;
1809
1810       offset += 5;
1811     }
1812
1813   /* Rigister can't be %rsp nor %rbp.  */
1814   if (reg == 4 || reg == 5)
1815     return pc;
1816
1817   /* The next instruction has to be "andq $-XXX, %rsp".  */
1818   if (buf[offset] != 0x48
1819       || buf[offset + 2] != 0xe4
1820       || (buf[offset + 1] != 0x81 && buf[offset + 1] != 0x83))
1821     return pc;
1822
1823   offset_and = offset;
1824   offset += buf[offset + 1] == 0x81 ? 7 : 4;
1825
1826   /* The next instruction has to be "pushq -8(%reg)".  */
1827   r = 0;
1828   if (buf[offset] == 0xff)
1829     offset++;
1830   else if ((buf[offset] & 0xf6) == 0x40
1831            && buf[offset + 1] == 0xff)
1832     {
1833       /* Check the REX.B bit.  */
1834       if ((buf[offset] & 0x1) != 0)
1835         r = 8;
1836       offset += 2;
1837     }
1838   else
1839     return pc;
1840
1841   /* 8bit -8 is 0xf8.  REG must be binary 110 and MOD must be binary
1842      01.  */
1843   if (buf[offset + 1] != 0xf8
1844       || (buf[offset] & 0xf8) != 0x70)
1845     return pc;
1846
1847   /* R/M has register.  */
1848   r += buf[offset] & 7;
1849
1850   /* Registers in leaq and pushq have to be the same.  */
1851   if (reg != r)
1852     return pc;
1853
1854   if (current_pc > pc + offset_and)
1855     cache->saved_sp_reg = amd64_arch_reg_to_regnum (reg);
1856
1857   return min (pc + offset + 2, current_pc);
1858 }
1859
1860 /* Do a limited analysis of the prologue at PC and update CACHE
1861    accordingly.  Bail out early if CURRENT_PC is reached.  Return the
1862    address where the analysis stopped.
1863
1864    We will handle only functions beginning with:
1865
1866       pushq %rbp        0x55
1867       movq %rsp, %rbp   0x48 0x89 0xe5
1868
1869    Any function that doesn't start with this sequence will be assumed
1870    to have no prologue and thus no valid frame pointer in %rbp.  */
1871
1872 static CORE_ADDR
1873 amd64_analyze_prologue (struct gdbarch *gdbarch,
1874                         CORE_ADDR pc, CORE_ADDR current_pc,
1875                         struct amd64_frame_cache *cache)
1876 {
1877   enum bfd_endian byte_order = gdbarch_byte_order (gdbarch);
1878   static gdb_byte proto[3] = { 0x48, 0x89, 0xe5 }; /* movq %rsp, %rbp */
1879   gdb_byte buf[3];
1880   gdb_byte op;
1881
1882   if (current_pc <= pc)
1883     return current_pc;
1884
1885   pc = amd64_analyze_stack_align (pc, current_pc, cache);
1886
1887   op = read_memory_unsigned_integer (pc, 1, byte_order);
1888
1889   if (op == 0x55)               /* pushq %rbp */
1890     {
1891       /* Take into account that we've executed the `pushq %rbp' that
1892          starts this instruction sequence.  */
1893       cache->saved_regs[AMD64_RBP_REGNUM] = 0;
1894       cache->sp_offset += 8;
1895
1896       /* If that's all, return now.  */
1897       if (current_pc <= pc + 1)
1898         return current_pc;
1899
1900       /* Check for `movq %rsp, %rbp'.  */
1901       read_memory (pc + 1, buf, 3);
1902       if (memcmp (buf, proto, 3) != 0)
1903         return pc + 1;
1904
1905       /* OK, we actually have a frame.  */
1906       cache->frameless_p = 0;
1907       return pc + 4;
1908     }
1909
1910   return pc;
1911 }
1912
1913 /* Work around false termination of prologue - GCC PR debug/48827.
1914
1915    START_PC is the first instruction of a function, PC is its minimal already
1916    determined advanced address.  Function returns PC if it has nothing to do.
1917
1918    84 c0                test   %al,%al
1919    74 23                je     after
1920    <-- here is 0 lines advance - the false prologue end marker.
1921    0f 29 85 70 ff ff ff movaps %xmm0,-0x90(%rbp)
1922    0f 29 4d 80          movaps %xmm1,-0x80(%rbp)
1923    0f 29 55 90          movaps %xmm2,-0x70(%rbp)
1924    0f 29 5d a0          movaps %xmm3,-0x60(%rbp)
1925    0f 29 65 b0          movaps %xmm4,-0x50(%rbp)
1926    0f 29 6d c0          movaps %xmm5,-0x40(%rbp)
1927    0f 29 75 d0          movaps %xmm6,-0x30(%rbp)
1928    0f 29 7d e0          movaps %xmm7,-0x20(%rbp)
1929    after:  */
1930
1931 static CORE_ADDR
1932 amd64_skip_xmm_prologue (CORE_ADDR pc, CORE_ADDR start_pc)
1933 {
1934   struct symtab_and_line start_pc_sal, next_sal;
1935   gdb_byte buf[4 + 8 * 7];
1936   int offset, xmmreg;
1937
1938   if (pc == start_pc)
1939     return pc;
1940
1941   start_pc_sal = find_pc_sect_line (start_pc, NULL, 0);
1942   if (start_pc_sal.symtab == NULL
1943       || producer_is_gcc_ge_4 (start_pc_sal.symtab->producer) < 6
1944       || start_pc_sal.pc != start_pc || pc >= start_pc_sal.end)
1945     return pc;
1946
1947   next_sal = find_pc_sect_line (start_pc_sal.end, NULL, 0);
1948   if (next_sal.line != start_pc_sal.line)
1949     return pc;
1950
1951   /* START_PC can be from overlayed memory, ignored here.  */
1952   if (target_read_memory (next_sal.pc - 4, buf, sizeof (buf)) != 0)
1953     return pc;
1954
1955   /* test %al,%al */
1956   if (buf[0] != 0x84 || buf[1] != 0xc0)
1957     return pc;
1958   /* je AFTER */
1959   if (buf[2] != 0x74)
1960     return pc;
1961
1962   offset = 4;
1963   for (xmmreg = 0; xmmreg < 8; xmmreg++)
1964     {
1965       /* 0x0f 0x29 0b??000101 movaps %xmmreg?,-0x??(%rbp) */
1966       if (buf[offset] != 0x0f || buf[offset + 1] != 0x29
1967           || (buf[offset + 2] & 0x3f) != (xmmreg << 3 | 0x5))
1968         return pc;
1969
1970       /* 0b01?????? */
1971       if ((buf[offset + 2] & 0xc0) == 0x40)
1972         {
1973           /* 8-bit displacement.  */
1974           offset += 4;
1975         }
1976       /* 0b10?????? */
1977       else if ((buf[offset + 2] & 0xc0) == 0x80)
1978         {
1979           /* 32-bit displacement.  */
1980           offset += 7;
1981         }
1982       else
1983         return pc;
1984     }
1985
1986   /* je AFTER */
1987   if (offset - 4 != buf[3])
1988     return pc;
1989
1990   return next_sal.end;
1991 }
1992
1993 /* Return PC of first real instruction.  */
1994
1995 static CORE_ADDR
1996 amd64_skip_prologue (struct gdbarch *gdbarch, CORE_ADDR start_pc)
1997 {
1998   struct amd64_frame_cache cache;
1999   CORE_ADDR pc;
2000
2001   amd64_init_frame_cache (&cache);
2002   pc = amd64_analyze_prologue (gdbarch, start_pc, 0xffffffffffffffffLL,
2003                                &cache);
2004   if (cache.frameless_p)
2005     return start_pc;
2006
2007   return amd64_skip_xmm_prologue (pc, start_pc);
2008 }
2009 \f
2010
2011 /* Normal frames.  */
2012
2013 static void
2014 amd64_frame_cache_1 (struct frame_info *this_frame,
2015                      struct amd64_frame_cache *cache)
2016 {
2017   struct gdbarch *gdbarch = get_frame_arch (this_frame);
2018   enum bfd_endian byte_order = gdbarch_byte_order (gdbarch);
2019   gdb_byte buf[8];
2020   int i;
2021
2022   cache->pc = get_frame_func (this_frame);
2023   if (cache->pc != 0)
2024     amd64_analyze_prologue (gdbarch, cache->pc, get_frame_pc (this_frame),
2025                             cache);
2026
2027   if (cache->frameless_p)
2028     {
2029       /* We didn't find a valid frame.  If we're at the start of a
2030          function, or somewhere half-way its prologue, the function's
2031          frame probably hasn't been fully setup yet.  Try to
2032          reconstruct the base address for the stack frame by looking
2033          at the stack pointer.  For truly "frameless" functions this
2034          might work too.  */
2035
2036       if (cache->saved_sp_reg != -1)
2037         {
2038           /* Stack pointer has been saved.  */
2039           get_frame_register (this_frame, cache->saved_sp_reg, buf);
2040           cache->saved_sp = extract_unsigned_integer (buf, 8, byte_order);
2041
2042           /* We're halfway aligning the stack.  */
2043           cache->base = ((cache->saved_sp - 8) & 0xfffffffffffffff0LL) - 8;
2044           cache->saved_regs[AMD64_RIP_REGNUM] = cache->saved_sp - 8;
2045
2046           /* This will be added back below.  */
2047           cache->saved_regs[AMD64_RIP_REGNUM] -= cache->base;
2048         }
2049       else
2050         {
2051           get_frame_register (this_frame, AMD64_RSP_REGNUM, buf);
2052           cache->base = extract_unsigned_integer (buf, 8, byte_order)
2053                         + cache->sp_offset;
2054         }
2055     }
2056   else
2057     {
2058       get_frame_register (this_frame, AMD64_RBP_REGNUM, buf);
2059       cache->base = extract_unsigned_integer (buf, 8, byte_order);
2060     }
2061
2062   /* Now that we have the base address for the stack frame we can
2063      calculate the value of %rsp in the calling frame.  */
2064   cache->saved_sp = cache->base + 16;
2065
2066   /* For normal frames, %rip is stored at 8(%rbp).  If we don't have a
2067      frame we find it at the same offset from the reconstructed base
2068      address.  If we're halfway aligning the stack, %rip is handled
2069      differently (see above).  */
2070   if (!cache->frameless_p || cache->saved_sp_reg == -1)
2071     cache->saved_regs[AMD64_RIP_REGNUM] = 8;
2072
2073   /* Adjust all the saved registers such that they contain addresses
2074      instead of offsets.  */
2075   for (i = 0; i < AMD64_NUM_SAVED_REGS; i++)
2076     if (cache->saved_regs[i] != -1)
2077       cache->saved_regs[i] += cache->base;
2078
2079   cache->base_p = 1;
2080 }
2081
2082 static struct amd64_frame_cache *
2083 amd64_frame_cache (struct frame_info *this_frame, void **this_cache)
2084 {
2085   volatile struct gdb_exception ex;
2086   struct amd64_frame_cache *cache;
2087
2088   if (*this_cache)
2089     return *this_cache;
2090
2091   cache = amd64_alloc_frame_cache ();
2092   *this_cache = cache;
2093
2094   TRY_CATCH (ex, RETURN_MASK_ERROR)
2095     {
2096       amd64_frame_cache_1 (this_frame, cache);
2097     }
2098   if (ex.reason < 0 && ex.error != NOT_AVAILABLE_ERROR)
2099     throw_exception (ex);
2100
2101   return cache;
2102 }
2103
2104 static enum unwind_stop_reason
2105 amd64_frame_unwind_stop_reason (struct frame_info *this_frame,
2106                                 void **this_cache)
2107 {
2108   struct amd64_frame_cache *cache =
2109     amd64_frame_cache (this_frame, this_cache);
2110
2111   if (!cache->base_p)
2112     return UNWIND_UNAVAILABLE;
2113
2114   /* This marks the outermost frame.  */
2115   if (cache->base == 0)
2116     return UNWIND_OUTERMOST;
2117
2118   return UNWIND_NO_REASON;
2119 }
2120
2121 static void
2122 amd64_frame_this_id (struct frame_info *this_frame, void **this_cache,
2123                      struct frame_id *this_id)
2124 {
2125   struct amd64_frame_cache *cache =
2126     amd64_frame_cache (this_frame, this_cache);
2127
2128   if (!cache->base_p)
2129     return;
2130
2131   /* This marks the outermost frame.  */
2132   if (cache->base == 0)
2133     return;
2134
2135   (*this_id) = frame_id_build (cache->base + 16, cache->pc);
2136 }
2137
2138 static struct value *
2139 amd64_frame_prev_register (struct frame_info *this_frame, void **this_cache,
2140                            int regnum)
2141 {
2142   struct gdbarch *gdbarch = get_frame_arch (this_frame);
2143   struct amd64_frame_cache *cache =
2144     amd64_frame_cache (this_frame, this_cache);
2145
2146   gdb_assert (regnum >= 0);
2147
2148   if (regnum == gdbarch_sp_regnum (gdbarch) && cache->saved_sp)
2149     return frame_unwind_got_constant (this_frame, regnum, cache->saved_sp);
2150
2151   if (regnum < AMD64_NUM_SAVED_REGS && cache->saved_regs[regnum] != -1)
2152     return frame_unwind_got_memory (this_frame, regnum,
2153                                     cache->saved_regs[regnum]);
2154
2155   return frame_unwind_got_register (this_frame, regnum, regnum);
2156 }
2157
2158 static const struct frame_unwind amd64_frame_unwind =
2159 {
2160   NORMAL_FRAME,
2161   amd64_frame_unwind_stop_reason,
2162   amd64_frame_this_id,
2163   amd64_frame_prev_register,
2164   NULL,
2165   default_frame_sniffer
2166 };
2167 \f
2168
2169 /* Signal trampolines.  */
2170
2171 /* FIXME: kettenis/20030419: Perhaps, we can unify the 32-bit and
2172    64-bit variants.  This would require using identical frame caches
2173    on both platforms.  */
2174
2175 static struct amd64_frame_cache *
2176 amd64_sigtramp_frame_cache (struct frame_info *this_frame, void **this_cache)
2177 {
2178   struct gdbarch *gdbarch = get_frame_arch (this_frame);
2179   struct gdbarch_tdep *tdep = gdbarch_tdep (gdbarch);
2180   enum bfd_endian byte_order = gdbarch_byte_order (gdbarch);
2181   volatile struct gdb_exception ex;
2182   struct amd64_frame_cache *cache;
2183   CORE_ADDR addr;
2184   gdb_byte buf[8];
2185   int i;
2186
2187   if (*this_cache)
2188     return *this_cache;
2189
2190   cache = amd64_alloc_frame_cache ();
2191
2192   TRY_CATCH (ex, RETURN_MASK_ERROR)
2193     {
2194       get_frame_register (this_frame, AMD64_RSP_REGNUM, buf);
2195       cache->base = extract_unsigned_integer (buf, 8, byte_order) - 8;
2196
2197       addr = tdep->sigcontext_addr (this_frame);
2198       gdb_assert (tdep->sc_reg_offset);
2199       gdb_assert (tdep->sc_num_regs <= AMD64_NUM_SAVED_REGS);
2200       for (i = 0; i < tdep->sc_num_regs; i++)
2201         if (tdep->sc_reg_offset[i] != -1)
2202           cache->saved_regs[i] = addr + tdep->sc_reg_offset[i];
2203
2204       cache->base_p = 1;
2205     }
2206   if (ex.reason < 0 && ex.error != NOT_AVAILABLE_ERROR)
2207     throw_exception (ex);
2208
2209   *this_cache = cache;
2210   return cache;
2211 }
2212
2213 static enum unwind_stop_reason
2214 amd64_sigtramp_frame_unwind_stop_reason (struct frame_info *this_frame,
2215                                          void **this_cache)
2216 {
2217   struct amd64_frame_cache *cache =
2218     amd64_sigtramp_frame_cache (this_frame, this_cache);
2219
2220   if (!cache->base_p)
2221     return UNWIND_UNAVAILABLE;
2222
2223   return UNWIND_NO_REASON;
2224 }
2225
2226 static void
2227 amd64_sigtramp_frame_this_id (struct frame_info *this_frame,
2228                               void **this_cache, struct frame_id *this_id)
2229 {
2230   struct amd64_frame_cache *cache =
2231     amd64_sigtramp_frame_cache (this_frame, this_cache);
2232
2233   if (!cache->base_p)
2234     return;
2235
2236   (*this_id) = frame_id_build (cache->base + 16, get_frame_pc (this_frame));
2237 }
2238
2239 static struct value *
2240 amd64_sigtramp_frame_prev_register (struct frame_info *this_frame,
2241                                     void **this_cache, int regnum)
2242 {
2243   /* Make sure we've initialized the cache.  */
2244   amd64_sigtramp_frame_cache (this_frame, this_cache);
2245
2246   return amd64_frame_prev_register (this_frame, this_cache, regnum);
2247 }
2248
2249 static int
2250 amd64_sigtramp_frame_sniffer (const struct frame_unwind *self,
2251                               struct frame_info *this_frame,
2252                               void **this_cache)
2253 {
2254   struct gdbarch_tdep *tdep = gdbarch_tdep (get_frame_arch (this_frame));
2255
2256   /* We shouldn't even bother if we don't have a sigcontext_addr
2257      handler.  */
2258   if (tdep->sigcontext_addr == NULL)
2259     return 0;
2260
2261   if (tdep->sigtramp_p != NULL)
2262     {
2263       if (tdep->sigtramp_p (this_frame))
2264         return 1;
2265     }
2266
2267   if (tdep->sigtramp_start != 0)
2268     {
2269       CORE_ADDR pc = get_frame_pc (this_frame);
2270
2271       gdb_assert (tdep->sigtramp_end != 0);
2272       if (pc >= tdep->sigtramp_start && pc < tdep->sigtramp_end)
2273         return 1;
2274     }
2275
2276   return 0;
2277 }
2278
2279 static const struct frame_unwind amd64_sigtramp_frame_unwind =
2280 {
2281   SIGTRAMP_FRAME,
2282   amd64_sigtramp_frame_unwind_stop_reason,
2283   amd64_sigtramp_frame_this_id,
2284   amd64_sigtramp_frame_prev_register,
2285   NULL,
2286   amd64_sigtramp_frame_sniffer
2287 };
2288 \f
2289
2290 static CORE_ADDR
2291 amd64_frame_base_address (struct frame_info *this_frame, void **this_cache)
2292 {
2293   struct amd64_frame_cache *cache =
2294     amd64_frame_cache (this_frame, this_cache);
2295
2296   return cache->base;
2297 }
2298
2299 static const struct frame_base amd64_frame_base =
2300 {
2301   &amd64_frame_unwind,
2302   amd64_frame_base_address,
2303   amd64_frame_base_address,
2304   amd64_frame_base_address
2305 };
2306
2307 /* Normal frames, but in a function epilogue.  */
2308
2309 /* The epilogue is defined here as the 'ret' instruction, which will
2310    follow any instruction such as 'leave' or 'pop %ebp' that destroys
2311    the function's stack frame.  */
2312
2313 static int
2314 amd64_in_function_epilogue_p (struct gdbarch *gdbarch, CORE_ADDR pc)
2315 {
2316   gdb_byte insn;
2317   struct symtab *symtab;
2318
2319   symtab = find_pc_symtab (pc);
2320   if (symtab && symtab->epilogue_unwind_valid)
2321     return 0;
2322
2323   if (target_read_memory (pc, &insn, 1))
2324     return 0;   /* Can't read memory at pc.  */
2325
2326   if (insn != 0xc3)     /* 'ret' instruction.  */
2327     return 0;
2328
2329   return 1;
2330 }
2331
2332 static int
2333 amd64_epilogue_frame_sniffer (const struct frame_unwind *self,
2334                               struct frame_info *this_frame,
2335                               void **this_prologue_cache)
2336 {
2337   if (frame_relative_level (this_frame) == 0)
2338     return amd64_in_function_epilogue_p (get_frame_arch (this_frame),
2339                                          get_frame_pc (this_frame));
2340   else
2341     return 0;
2342 }
2343
2344 static struct amd64_frame_cache *
2345 amd64_epilogue_frame_cache (struct frame_info *this_frame, void **this_cache)
2346 {
2347   struct gdbarch *gdbarch = get_frame_arch (this_frame);
2348   enum bfd_endian byte_order = gdbarch_byte_order (gdbarch);
2349   volatile struct gdb_exception ex;
2350   struct amd64_frame_cache *cache;
2351   gdb_byte buf[8];
2352
2353   if (*this_cache)
2354     return *this_cache;
2355
2356   cache = amd64_alloc_frame_cache ();
2357   *this_cache = cache;
2358
2359   TRY_CATCH (ex, RETURN_MASK_ERROR)
2360     {
2361       /* Cache base will be %esp plus cache->sp_offset (-8).  */
2362       get_frame_register (this_frame, AMD64_RSP_REGNUM, buf);
2363       cache->base = extract_unsigned_integer (buf, 8,
2364                                               byte_order) + cache->sp_offset;
2365
2366       /* Cache pc will be the frame func.  */
2367       cache->pc = get_frame_pc (this_frame);
2368
2369       /* The saved %esp will be at cache->base plus 16.  */
2370       cache->saved_sp = cache->base + 16;
2371
2372       /* The saved %eip will be at cache->base plus 8.  */
2373       cache->saved_regs[AMD64_RIP_REGNUM] = cache->base + 8;
2374
2375       cache->base_p = 1;
2376     }
2377   if (ex.reason < 0 && ex.error != NOT_AVAILABLE_ERROR)
2378     throw_exception (ex);
2379
2380   return cache;
2381 }
2382
2383 static enum unwind_stop_reason
2384 amd64_epilogue_frame_unwind_stop_reason (struct frame_info *this_frame,
2385                                          void **this_cache)
2386 {
2387   struct amd64_frame_cache *cache
2388     = amd64_epilogue_frame_cache (this_frame, this_cache);
2389
2390   if (!cache->base_p)
2391     return UNWIND_UNAVAILABLE;
2392
2393   return UNWIND_NO_REASON;
2394 }
2395
2396 static void
2397 amd64_epilogue_frame_this_id (struct frame_info *this_frame,
2398                               void **this_cache,
2399                               struct frame_id *this_id)
2400 {
2401   struct amd64_frame_cache *cache = amd64_epilogue_frame_cache (this_frame,
2402                                                                this_cache);
2403
2404   if (!cache->base_p)
2405     return;
2406
2407   (*this_id) = frame_id_build (cache->base + 8, cache->pc);
2408 }
2409
2410 static const struct frame_unwind amd64_epilogue_frame_unwind =
2411 {
2412   NORMAL_FRAME,
2413   amd64_epilogue_frame_unwind_stop_reason,
2414   amd64_epilogue_frame_this_id,
2415   amd64_frame_prev_register,
2416   NULL, 
2417   amd64_epilogue_frame_sniffer
2418 };
2419
2420 static struct frame_id
2421 amd64_dummy_id (struct gdbarch *gdbarch, struct frame_info *this_frame)
2422 {
2423   CORE_ADDR fp;
2424
2425   fp = get_frame_register_unsigned (this_frame, AMD64_RBP_REGNUM);
2426
2427   return frame_id_build (fp + 16, get_frame_pc (this_frame));
2428 }
2429
2430 /* 16 byte align the SP per frame requirements.  */
2431
2432 static CORE_ADDR
2433 amd64_frame_align (struct gdbarch *gdbarch, CORE_ADDR sp)
2434 {
2435   return sp & -(CORE_ADDR)16;
2436 }
2437 \f
2438
2439 /* Supply register REGNUM from the buffer specified by FPREGS and LEN
2440    in the floating-point register set REGSET to register cache
2441    REGCACHE.  If REGNUM is -1, do this for all registers in REGSET.  */
2442
2443 static void
2444 amd64_supply_fpregset (const struct regset *regset, struct regcache *regcache,
2445                        int regnum, const void *fpregs, size_t len)
2446 {
2447   const struct gdbarch_tdep *tdep = gdbarch_tdep (regset->arch);
2448
2449   gdb_assert (len == tdep->sizeof_fpregset);
2450   amd64_supply_fxsave (regcache, regnum, fpregs);
2451 }
2452
2453 /* Collect register REGNUM from the register cache REGCACHE and store
2454    it in the buffer specified by FPREGS and LEN as described by the
2455    floating-point register set REGSET.  If REGNUM is -1, do this for
2456    all registers in REGSET.  */
2457
2458 static void
2459 amd64_collect_fpregset (const struct regset *regset,
2460                         const struct regcache *regcache,
2461                         int regnum, void *fpregs, size_t len)
2462 {
2463   const struct gdbarch_tdep *tdep = gdbarch_tdep (regset->arch);
2464
2465   gdb_assert (len == tdep->sizeof_fpregset);
2466   amd64_collect_fxsave (regcache, regnum, fpregs);
2467 }
2468
2469 /* Similar to amd64_supply_fpregset, but use XSAVE extended state.  */
2470
2471 static void
2472 amd64_supply_xstateregset (const struct regset *regset,
2473                            struct regcache *regcache, int regnum,
2474                            const void *xstateregs, size_t len)
2475 {
2476   amd64_supply_xsave (regcache, regnum, xstateregs);
2477 }
2478
2479 /* Similar to amd64_collect_fpregset, but use XSAVE extended state.  */
2480
2481 static void
2482 amd64_collect_xstateregset (const struct regset *regset,
2483                             const struct regcache *regcache,
2484                             int regnum, void *xstateregs, size_t len)
2485 {
2486   amd64_collect_xsave (regcache, regnum, xstateregs, 1);
2487 }
2488
2489 /* Return the appropriate register set for the core section identified
2490    by SECT_NAME and SECT_SIZE.  */
2491
2492 static const struct regset *
2493 amd64_regset_from_core_section (struct gdbarch *gdbarch,
2494                                 const char *sect_name, size_t sect_size)
2495 {
2496   struct gdbarch_tdep *tdep = gdbarch_tdep (gdbarch);
2497
2498   if (strcmp (sect_name, ".reg2") == 0 && sect_size == tdep->sizeof_fpregset)
2499     {
2500       if (tdep->fpregset == NULL)
2501         tdep->fpregset = regset_alloc (gdbarch, amd64_supply_fpregset,
2502                                        amd64_collect_fpregset);
2503
2504       return tdep->fpregset;
2505     }
2506
2507   if (strcmp (sect_name, ".reg-xstate") == 0)
2508     {
2509       if (tdep->xstateregset == NULL)
2510         tdep->xstateregset = regset_alloc (gdbarch,
2511                                            amd64_supply_xstateregset,
2512                                            amd64_collect_xstateregset);
2513
2514       return tdep->xstateregset;
2515     }
2516
2517   return i386_regset_from_core_section (gdbarch, sect_name, sect_size);
2518 }
2519 \f
2520
2521 /* Figure out where the longjmp will land.  Slurp the jmp_buf out of
2522    %rdi.  We expect its value to be a pointer to the jmp_buf structure
2523    from which we extract the address that we will land at.  This
2524    address is copied into PC.  This routine returns non-zero on
2525    success.  */
2526
2527 static int
2528 amd64_get_longjmp_target (struct frame_info *frame, CORE_ADDR *pc)
2529 {
2530   gdb_byte buf[8];
2531   CORE_ADDR jb_addr;
2532   struct gdbarch *gdbarch = get_frame_arch (frame);
2533   int jb_pc_offset = gdbarch_tdep (gdbarch)->jb_pc_offset;
2534   int len = TYPE_LENGTH (builtin_type (gdbarch)->builtin_func_ptr);
2535
2536   /* If JB_PC_OFFSET is -1, we have no way to find out where the
2537      longjmp will land.  */
2538   if (jb_pc_offset == -1)
2539     return 0;
2540
2541   get_frame_register (frame, AMD64_RDI_REGNUM, buf);
2542   jb_addr= extract_typed_address
2543             (buf, builtin_type (gdbarch)->builtin_data_ptr);
2544   if (target_read_memory (jb_addr + jb_pc_offset, buf, len))
2545     return 0;
2546
2547   *pc = extract_typed_address (buf, builtin_type (gdbarch)->builtin_func_ptr);
2548
2549   return 1;
2550 }
2551
2552 static const int amd64_record_regmap[] =
2553 {
2554   AMD64_RAX_REGNUM, AMD64_RCX_REGNUM, AMD64_RDX_REGNUM, AMD64_RBX_REGNUM,
2555   AMD64_RSP_REGNUM, AMD64_RBP_REGNUM, AMD64_RSI_REGNUM, AMD64_RDI_REGNUM,
2556   AMD64_R8_REGNUM, AMD64_R9_REGNUM, AMD64_R10_REGNUM, AMD64_R11_REGNUM,
2557   AMD64_R12_REGNUM, AMD64_R13_REGNUM, AMD64_R14_REGNUM, AMD64_R15_REGNUM,
2558   AMD64_RIP_REGNUM, AMD64_EFLAGS_REGNUM, AMD64_CS_REGNUM, AMD64_SS_REGNUM,
2559   AMD64_DS_REGNUM, AMD64_ES_REGNUM, AMD64_FS_REGNUM, AMD64_GS_REGNUM
2560 };
2561
2562 void
2563 amd64_init_abi (struct gdbarch_info info, struct gdbarch *gdbarch)
2564 {
2565   struct gdbarch_tdep *tdep = gdbarch_tdep (gdbarch);
2566   const struct target_desc *tdesc = info.target_desc;
2567
2568   /* AMD64 generally uses `fxsave' instead of `fsave' for saving its
2569      floating-point registers.  */
2570   tdep->sizeof_fpregset = I387_SIZEOF_FXSAVE;
2571
2572   if (! tdesc_has_registers (tdesc))
2573     tdesc = tdesc_amd64;
2574   tdep->tdesc = tdesc;
2575
2576   tdep->num_core_regs = AMD64_NUM_GREGS + I387_NUM_REGS;
2577   tdep->register_names = amd64_register_names;
2578
2579   if (tdesc_find_feature (tdesc, "org.gnu.gdb.i386.avx") != NULL)
2580     {
2581       tdep->ymmh_register_names = amd64_ymmh_names;
2582       tdep->num_ymm_regs = 16;
2583       tdep->ymm0h_regnum = AMD64_YMM0H_REGNUM;
2584     }
2585
2586   tdep->num_byte_regs = 20;
2587   tdep->num_word_regs = 16;
2588   tdep->num_dword_regs = 16;
2589   /* Avoid wiring in the MMX registers for now.  */
2590   tdep->num_mmx_regs = 0;
2591
2592   set_gdbarch_pseudo_register_read_value (gdbarch,
2593                                           amd64_pseudo_register_read_value);
2594   set_gdbarch_pseudo_register_write (gdbarch,
2595                                      amd64_pseudo_register_write);
2596
2597   set_tdesc_pseudo_register_name (gdbarch, amd64_pseudo_register_name);
2598
2599   /* AMD64 has an FPU and 16 SSE registers.  */
2600   tdep->st0_regnum = AMD64_ST0_REGNUM;
2601   tdep->num_xmm_regs = 16;
2602
2603   /* This is what all the fuss is about.  */
2604   set_gdbarch_long_bit (gdbarch, 64);
2605   set_gdbarch_long_long_bit (gdbarch, 64);
2606   set_gdbarch_ptr_bit (gdbarch, 64);
2607
2608   /* In contrast to the i386, on AMD64 a `long double' actually takes
2609      up 128 bits, even though it's still based on the i387 extended
2610      floating-point format which has only 80 significant bits.  */
2611   set_gdbarch_long_double_bit (gdbarch, 128);
2612
2613   set_gdbarch_num_regs (gdbarch, AMD64_NUM_REGS);
2614
2615   /* Register numbers of various important registers.  */
2616   set_gdbarch_sp_regnum (gdbarch, AMD64_RSP_REGNUM); /* %rsp */
2617   set_gdbarch_pc_regnum (gdbarch, AMD64_RIP_REGNUM); /* %rip */
2618   set_gdbarch_ps_regnum (gdbarch, AMD64_EFLAGS_REGNUM); /* %eflags */
2619   set_gdbarch_fp0_regnum (gdbarch, AMD64_ST0_REGNUM); /* %st(0) */
2620
2621   /* The "default" register numbering scheme for AMD64 is referred to
2622      as the "DWARF Register Number Mapping" in the System V psABI.
2623      The preferred debugging format for all known AMD64 targets is
2624      actually DWARF2, and GCC doesn't seem to support DWARF (that is
2625      DWARF-1), but we provide the same mapping just in case.  This
2626      mapping is also used for stabs, which GCC does support.  */
2627   set_gdbarch_stab_reg_to_regnum (gdbarch, amd64_dwarf_reg_to_regnum);
2628   set_gdbarch_dwarf2_reg_to_regnum (gdbarch, amd64_dwarf_reg_to_regnum);
2629
2630   /* We don't override SDB_REG_RO_REGNUM, since COFF doesn't seem to
2631      be in use on any of the supported AMD64 targets.  */
2632
2633   /* Call dummy code.  */
2634   set_gdbarch_push_dummy_call (gdbarch, amd64_push_dummy_call);
2635   set_gdbarch_frame_align (gdbarch, amd64_frame_align);
2636   set_gdbarch_frame_red_zone_size (gdbarch, 128);
2637   tdep->call_dummy_num_integer_regs =
2638     ARRAY_SIZE (amd64_dummy_call_integer_regs);
2639   tdep->call_dummy_integer_regs = amd64_dummy_call_integer_regs;
2640   tdep->classify = amd64_classify;
2641
2642   set_gdbarch_convert_register_p (gdbarch, i387_convert_register_p);
2643   set_gdbarch_register_to_value (gdbarch, i387_register_to_value);
2644   set_gdbarch_value_to_register (gdbarch, i387_value_to_register);
2645
2646   set_gdbarch_return_value (gdbarch, amd64_return_value);
2647
2648   set_gdbarch_skip_prologue (gdbarch, amd64_skip_prologue);
2649
2650   tdep->record_regmap = amd64_record_regmap;
2651
2652   set_gdbarch_dummy_id (gdbarch, amd64_dummy_id);
2653
2654   /* Hook the function epilogue frame unwinder.  This unwinder is
2655      appended to the list first, so that it supercedes the other
2656      unwinders in function epilogues.  */
2657   frame_unwind_prepend_unwinder (gdbarch, &amd64_epilogue_frame_unwind);
2658
2659   /* Hook the prologue-based frame unwinders.  */
2660   frame_unwind_append_unwinder (gdbarch, &amd64_sigtramp_frame_unwind);
2661   frame_unwind_append_unwinder (gdbarch, &amd64_frame_unwind);
2662   frame_base_set_default (gdbarch, &amd64_frame_base);
2663
2664   /* If we have a register mapping, enable the generic core file support.  */
2665   if (tdep->gregset_reg_offset)
2666     set_gdbarch_regset_from_core_section (gdbarch,
2667                                           amd64_regset_from_core_section);
2668
2669   set_gdbarch_get_longjmp_target (gdbarch, amd64_get_longjmp_target);
2670
2671   set_gdbarch_relocate_instruction (gdbarch, amd64_relocate_instruction);
2672 }
2673
2674 /* Provide a prototype to silence -Wmissing-prototypes.  */
2675 void _initialize_amd64_tdep (void);
2676
2677 void
2678 _initialize_amd64_tdep (void)
2679 {
2680   initialize_tdesc_amd64 ();
2681   initialize_tdesc_amd64_avx ();
2682 }
2683 \f
2684
2685 /* The 64-bit FXSAVE format differs from the 32-bit format in the
2686    sense that the instruction pointer and data pointer are simply
2687    64-bit offsets into the code segment and the data segment instead
2688    of a selector offset pair.  The functions below store the upper 32
2689    bits of these pointers (instead of just the 16-bits of the segment
2690    selector).  */
2691
2692 /* Fill register REGNUM in REGCACHE with the appropriate
2693    floating-point or SSE register value from *FXSAVE.  If REGNUM is
2694    -1, do this for all registers.  This function masks off any of the
2695    reserved bits in *FXSAVE.  */
2696
2697 void
2698 amd64_supply_fxsave (struct regcache *regcache, int regnum,
2699                      const void *fxsave)
2700 {
2701   struct gdbarch *gdbarch = get_regcache_arch (regcache);
2702   struct gdbarch_tdep *tdep = gdbarch_tdep (gdbarch);
2703
2704   i387_supply_fxsave (regcache, regnum, fxsave);
2705
2706   if (fxsave && gdbarch_ptr_bit (gdbarch) == 64)
2707     {
2708       const gdb_byte *regs = fxsave;
2709
2710       if (regnum == -1 || regnum == I387_FISEG_REGNUM (tdep))
2711         regcache_raw_supply (regcache, I387_FISEG_REGNUM (tdep), regs + 12);
2712       if (regnum == -1 || regnum == I387_FOSEG_REGNUM (tdep))
2713         regcache_raw_supply (regcache, I387_FOSEG_REGNUM (tdep), regs + 20);
2714     }
2715 }
2716
2717 /* Similar to amd64_supply_fxsave, but use XSAVE extended state.  */
2718
2719 void
2720 amd64_supply_xsave (struct regcache *regcache, int regnum,
2721                     const void *xsave)
2722 {
2723   struct gdbarch *gdbarch = get_regcache_arch (regcache);
2724   struct gdbarch_tdep *tdep = gdbarch_tdep (gdbarch);
2725
2726   i387_supply_xsave (regcache, regnum, xsave);
2727
2728   if (xsave && gdbarch_ptr_bit (gdbarch) == 64)
2729     {
2730       const gdb_byte *regs = xsave;
2731
2732       if (regnum == -1 || regnum == I387_FISEG_REGNUM (tdep))
2733         regcache_raw_supply (regcache, I387_FISEG_REGNUM (tdep),
2734                              regs + 12);
2735       if (regnum == -1 || regnum == I387_FOSEG_REGNUM (tdep))
2736         regcache_raw_supply (regcache, I387_FOSEG_REGNUM (tdep),
2737                              regs + 20);
2738     }
2739 }
2740
2741 /* Fill register REGNUM (if it is a floating-point or SSE register) in
2742    *FXSAVE with the value from REGCACHE.  If REGNUM is -1, do this for
2743    all registers.  This function doesn't touch any of the reserved
2744    bits in *FXSAVE.  */
2745
2746 void
2747 amd64_collect_fxsave (const struct regcache *regcache, int regnum,
2748                       void *fxsave)
2749 {
2750   struct gdbarch *gdbarch = get_regcache_arch (regcache);
2751   struct gdbarch_tdep *tdep = gdbarch_tdep (gdbarch);
2752   gdb_byte *regs = fxsave;
2753
2754   i387_collect_fxsave (regcache, regnum, fxsave);
2755
2756   if (gdbarch_ptr_bit (gdbarch) == 64)
2757     {
2758       if (regnum == -1 || regnum == I387_FISEG_REGNUM (tdep))
2759         regcache_raw_collect (regcache, I387_FISEG_REGNUM (tdep), regs + 12);
2760       if (regnum == -1 || regnum == I387_FOSEG_REGNUM (tdep))
2761         regcache_raw_collect (regcache, I387_FOSEG_REGNUM (tdep), regs + 20);
2762     }
2763 }
2764
2765 /* Similar to amd64_collect_fxsave, but use XSAVE extended state.  */
2766
2767 void
2768 amd64_collect_xsave (const struct regcache *regcache, int regnum,
2769                      void *xsave, int gcore)
2770 {
2771   struct gdbarch *gdbarch = get_regcache_arch (regcache);
2772   struct gdbarch_tdep *tdep = gdbarch_tdep (gdbarch);
2773   gdb_byte *regs = xsave;
2774
2775   i387_collect_xsave (regcache, regnum, xsave, gcore);
2776
2777   if (gdbarch_ptr_bit (gdbarch) == 64)
2778     {
2779       if (regnum == -1 || regnum == I387_FISEG_REGNUM (tdep))
2780         regcache_raw_collect (regcache, I387_FISEG_REGNUM (tdep),
2781                               regs + 12);
2782       if (regnum == -1 || regnum == I387_FOSEG_REGNUM (tdep))
2783         regcache_raw_collect (regcache, I387_FOSEG_REGNUM (tdep),
2784                               regs + 20);
2785     }
2786 }