btrace: pretend we're not replaying when generating a core file
[external/binutils.git] / gdb / i386-sol2-tdep.c
1 /* Target-dependent code for Solaris x86.
2
3    Copyright (C) 2002-2014 Free Software Foundation, Inc.
4
5    This file is part of GDB.
6
7    This program is free software; you can redistribute it and/or modify
8    it under the terms of the GNU General Public License as published by
9    the Free Software Foundation; either version 3 of the License, or
10    (at your option) any later version.
11
12    This program is distributed in the hope that it will be useful,
13    but WITHOUT ANY WARRANTY; without even the implied warranty of
14    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
15    GNU General Public License for more details.
16
17    You should have received a copy of the GNU General Public License
18    along with this program.  If not, see <http://www.gnu.org/licenses/>.  */
19
20 #include "defs.h"
21 #include "value.h"
22 #include "osabi.h"
23
24 #include <string.h>
25
26 #include "sol2-tdep.h"
27 #include "i386-tdep.h"
28 #include "solib-svr4.h"
29
30 /* From <ia32/sys/reg.h>.  */
31 static int i386_sol2_gregset_reg_offset[] =
32 {
33   11 * 4,                       /* %eax */
34   10 * 4,                       /* %ecx */
35   9 * 4,                        /* %edx */
36   8 * 4,                        /* %ebx */
37   17 * 4,                       /* %esp */
38   6 * 4,                        /* %ebp */
39   5 * 4,                        /* %esi */
40   4 * 4,                        /* %edi */
41   14 * 4,                       /* %eip */
42   16 * 4,                       /* %eflags */
43   15 * 4,                       /* %cs */
44   18 * 4,                       /* %ss */
45   3 * 4,                        /* %ds */
46   2 * 4,                        /* %es */
47   1 * 4,                        /* %fs */
48   0 * 4                         /* %gs */
49 };
50
51 /* Return whether THIS_FRAME corresponds to a Solaris sigtramp
52    routine.  */
53
54 static int
55 i386_sol2_sigtramp_p (struct frame_info *this_frame)
56 {
57   CORE_ADDR pc = get_frame_pc (this_frame);
58   const char *name;
59
60   find_pc_partial_function (pc, &name, NULL, NULL);
61   return (name && (strcmp ("sigacthandler", name) == 0
62                    || strcmp (name, "ucbsigvechandler") == 0));
63 }
64
65 /* Solaris doesn't have a `struct sigcontext', but it does have a
66    `mcontext_t' that contains the saved set of machine registers.  */
67
68 static CORE_ADDR
69 i386_sol2_mcontext_addr (struct frame_info *this_frame)
70 {
71   CORE_ADDR sp, ucontext_addr;
72
73   sp = get_frame_register_unsigned (this_frame, I386_ESP_REGNUM);
74   ucontext_addr = get_frame_memory_unsigned (this_frame, sp + 8, 4);
75
76   return ucontext_addr + 36;
77 }
78
79 /* SunPRO encodes the static variables.  This is not related to C++
80    mangling, it is done for C too.  */
81
82 static const char *
83 i386_sol2_static_transform_name (const char *name)
84 {
85   char *p;
86   if (name[0] == '.')
87     {
88       /* For file-local statics there will be a period, a bunch of
89          junk (the contents of which match a string given in the
90          N_OPT), a period and the name.  For function-local statics
91          there will be a bunch of junk (which seems to change the
92          second character from 'A' to 'B'), a period, the name of the
93          function, and the name.  So just skip everything before the
94          last period.  */
95       p = strrchr (name, '.');
96       if (p != NULL)
97         name = p + 1;
98     }
99   return name;
100 }
101
102 /* Solaris 2.  */
103
104 static void
105 i386_sol2_init_abi (struct gdbarch_info info, struct gdbarch *gdbarch)
106 {
107   struct gdbarch_tdep *tdep = gdbarch_tdep (gdbarch);
108
109   /* Solaris is SVR4-based.  */
110   i386_svr4_init_abi (info, gdbarch);
111
112   /* The SunPRO compiler puts out 0 instead of the address in N_SO symbols,
113      and for SunPRO 3.0, N_FUN symbols too.  */
114   set_gdbarch_sofun_address_maybe_missing (gdbarch, 1);
115
116   /* Handle SunPRO encoding of static symbols.  */
117   set_gdbarch_static_transform_name (gdbarch, i386_sol2_static_transform_name);
118
119   /* Solaris reserves space for its FPU emulator in `fpregset_t'.
120      There is also some space reserved for the registers of a Weitek
121      math coprocessor.  */
122   tdep->gregset_reg_offset = i386_sol2_gregset_reg_offset;
123   tdep->gregset_num_regs = ARRAY_SIZE (i386_sol2_gregset_reg_offset);
124   tdep->sizeof_gregset = 19 * 4;
125   tdep->sizeof_fpregset = 380;
126
127   /* Signal trampolines are slightly different from SVR4.  */
128   tdep->sigtramp_p = i386_sol2_sigtramp_p;
129   tdep->sigcontext_addr = i386_sol2_mcontext_addr;
130   tdep->sc_reg_offset = tdep->gregset_reg_offset;
131   tdep->sc_num_regs = tdep->gregset_num_regs;
132
133   /* Solaris has SVR4-style shared libraries.  */
134   set_gdbarch_skip_solib_resolver (gdbarch, sol2_skip_solib_resolver);
135   set_solib_svr4_fetch_link_map_offsets
136     (gdbarch, svr4_ilp32_fetch_link_map_offsets);
137
138   /* How to print LWP PTIDs from core files.  */
139   set_gdbarch_core_pid_to_str (gdbarch, sol2_core_pid_to_str);
140 }
141 \f
142
143 static enum gdb_osabi
144 i386_sol2_osabi_sniffer (bfd *abfd)
145 {
146   /* If we have a section named .SUNW_version, then it is almost
147      certainly Solaris 2.  */
148   if (bfd_get_section_by_name (abfd, ".SUNW_version"))
149     return GDB_OSABI_SOLARIS;
150
151   return GDB_OSABI_UNKNOWN;
152 }
153
154 /* Provide a prototype to silence -Wmissing-prototypes.  */
155 void _initialize_i386_sol2_tdep (void);
156
157 void
158 _initialize_i386_sol2_tdep (void)
159 {
160   /* Register an ELF OS ABI sniffer for Solaris 2 binaries.  */
161   gdbarch_register_osabi_sniffer (bfd_arch_i386, bfd_target_elf_flavour,
162                                   i386_sol2_osabi_sniffer);
163
164   gdbarch_register_osabi (bfd_arch_i386, 0, GDB_OSABI_SOLARIS,
165                           i386_sol2_init_abi);
166 }