* aix386-core.c: Remove use of PTR and PARAMS macros.
[external/binutils.git] / bfd / ptrace-core.c
1 /* BFD backend for core files which use the ptrace_user structure
2    Copyright 1993, 1994, 1995, 1996, 1998, 1999, 2001, 2002, 2003, 2004,
3    2005, 2006, 2007, 2012  Free Software Foundation, Inc.
4    The structure of this file is based on trad-core.c written by John Gilmore
5    of Cygnus Support.
6    Modified to work with the ptrace_user structure by Kevin A. Buettner.
7    (Longterm it may be better to merge this file with trad-core.c)
8
9    This file is part of BFD, the Binary File Descriptor library.
10
11    This program is free software; you can redistribute it and/or modify
12    it under the terms of the GNU General Public License as published by
13    the Free Software Foundation; either version 3 of the License, or
14    (at your option) any later version.
15
16    This program is distributed in the hope that it will be useful,
17    but WITHOUT ANY WARRANTY; without even the implied warranty of
18    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
19    GNU General Public License for more details.
20
21    You should have received a copy of the GNU General Public License
22    along with this program; if not, write to the Free Software
23    Foundation, Inc., 51 Franklin Street - Fifth Floor, Boston,
24    MA 02110-1301, USA.  */
25
26 #ifdef PTRACE_CORE
27
28 #include "sysdep.h"
29 #include "bfd.h"
30 #include "libbfd.h"
31
32 #include <sys/param.h>
33 #include <sys/dir.h>
34 #include <signal.h>
35 #include <sys/ptrace.h>
36
37 struct trad_core_struct
38 {
39   asection *data_section;
40   asection *stack_section;
41   asection *reg_section;
42   struct ptrace_user u;
43 };
44
45 #define core_upage(bfd)  (&((bfd)->tdata.trad_core_data->u))
46 #define core_datasec(bfd)  ((bfd)->tdata.trad_core_data->data_section)
47 #define core_stacksec(bfd) ((bfd)->tdata.trad_core_data->stack_section)
48 #define core_regsec(bfd)   ((bfd)->tdata.trad_core_data->reg_section)
49
50 /* forward declarations */
51
52 const bfd_target *ptrace_unix_core_file_p (bfd *abfd);
53 char * ptrace_unix_core_file_failing_command (bfd *abfd);
54 int ptrace_unix_core_file_failing_signal (bfd *abfd);
55 #define ptrace_unix_core_file_matches_executable_p generic_core_file_matches_executable_p
56 #define ptrace_unix_core_file_pid _bfd_nocore_core_file_pid
57 static void swap_abort (void);
58
59 const bfd_target *
60 ptrace_unix_core_file_p (bfd *abfd)
61 {
62   int val;
63   struct ptrace_user u;
64   struct trad_core_struct *rawptr;
65   bfd_size_type amt;
66   flagword flags;
67
68   val = bfd_bread ((void *)&u, (bfd_size_type) sizeof u, abfd);
69   if (val != sizeof u || u.pt_magic != _BCS_PTRACE_MAGIC
70       || u.pt_rev != _BCS_PTRACE_REV)
71     {
72       /* Too small to be a core file */
73       bfd_set_error (bfd_error_wrong_format);
74       return 0;
75     }
76
77   /* OK, we believe you.  You're a core file (sure, sure).  */
78
79   /* Allocate both the upage and the struct core_data at once, so
80      a single free() will free them both.  */
81   amt = sizeof (struct trad_core_struct);
82   rawptr = (struct trad_core_struct *) bfd_zalloc (abfd, amt);
83
84   if (rawptr == NULL)
85     return 0;
86
87   abfd->tdata.trad_core_data = rawptr;
88
89   rawptr->u = u; /*Copy the uarea into the tdata part of the bfd */
90
91   /* Create the sections.  */
92
93   flags = SEC_ALLOC + SEC_LOAD + SEC_HAS_CONTENTS;
94   core_stacksec (abfd) = bfd_make_section_anyway_with_flags (abfd, ".stack",
95                                                              flags);
96   if (core_stacksec (abfd) == NULL)
97     goto fail;
98   core_datasec (abfd) = bfd_make_section_anyway_with_flags (abfd, ".data",
99                                                             flags);
100   if (core_datasec (abfd) == NULL)
101     goto fail;
102   core_regsec (abfd) = bfd_make_section_anyway_with_flags (abfd, ".reg",
103                                                            SEC_HAS_CONTENTS);
104   if (core_regsec (abfd) == NULL)
105     goto fail;
106
107   /* FIXME:  Need to worry about shared memory, library data, and library
108      text.  I don't think that any of these things are supported on the
109      system on which I am developing this for though.  */
110
111   core_datasec (abfd)->size =  u.pt_dsize;
112   core_stacksec (abfd)->size = u.pt_ssize;
113   core_regsec (abfd)->size = sizeof (u);
114
115   core_datasec (abfd)->vma = u.pt_o_data_start;
116   core_stacksec (abfd)->vma = USRSTACK - u.pt_ssize;
117   core_regsec (abfd)->vma = 0 - sizeof (u);     /* see trad-core.c */
118
119   core_datasec (abfd)->filepos = (int) u.pt_dataptr;
120   core_stacksec (abfd)->filepos = (int) (u.pt_dataptr + u.pt_dsize);
121   core_regsec (abfd)->filepos = 0; /* Register segment is ptrace_user */
122
123   /* Align to word at least */
124   core_stacksec (abfd)->alignment_power = 2;
125   core_datasec (abfd)->alignment_power = 2;
126   core_regsec (abfd)->alignment_power = 2;
127
128   return abfd->xvec;
129
130  fail:
131   bfd_release (abfd, abfd->tdata.any);
132   abfd->tdata.any = NULL;
133   bfd_section_list_clear (abfd);
134   return NULL;
135 }
136
137 char *
138 ptrace_unix_core_file_failing_command (bfd *abfd)
139 {
140   char *com = abfd->tdata.trad_core_data->u.pt_comm;
141
142   if (*com)
143     return com;
144   else
145     return 0;
146 }
147
148 int
149 ptrace_unix_core_file_failing_signal (bfd *abfd)
150 {
151   return abfd->tdata.trad_core_data->u.pt_sigframe.sig_num;
152 }
153 \f
154 /* If somebody calls any byte-swapping routines, shoot them.  */
155 static void
156 swap_abort (void)
157 {
158   abort (); /* This way doesn't require any declaration for ANSI to fuck up */
159 }
160
161 #define NO_GET ((bfd_vma (*) (const void *)) swap_abort)
162 #define NO_PUT ((void (*) (bfd_vma, void *)) swap_abort)
163 #define NO_GETS ((bfd_signed_vma (*) (const void *)) swap_abort)
164 #define NO_GET64 ((bfd_uint64_t (*) (const void *)) swap_abort)
165 #define NO_PUT64 ((void (*) (bfd_uint64_t, void *)) swap_abort)
166 #define NO_GETS64 ((bfd_int64_t (*) (const void *)) swap_abort)
167
168 const bfd_target ptrace_core_vec =
169   {
170     "trad-core",
171     bfd_target_unknown_flavour,
172     BFD_ENDIAN_UNKNOWN,         /* target byte order */
173     BFD_ENDIAN_UNKNOWN,         /* target headers byte order */
174     (HAS_RELOC | EXEC_P |       /* object flags */
175      HAS_LINENO | HAS_DEBUG |
176      HAS_SYMS | HAS_LOCALS | WP_TEXT | D_PAGED),
177     (SEC_HAS_CONTENTS | SEC_ALLOC | SEC_LOAD | SEC_RELOC), /* section flags */
178     0,                                                     /* symbol prefix */
179     ' ',                                                   /* ar_pad_char */
180     16,                                                    /* ar_max_namelen */
181     NO_GET64, NO_GETS64, NO_PUT64,      /* 64 bit data */
182     NO_GET, NO_GETS, NO_PUT,            /* 32 bit data */
183     NO_GET, NO_GETS, NO_PUT,            /* 16 bit data */
184     NO_GET64, NO_GETS64, NO_PUT64,      /* 64 bit hdrs */
185     NO_GET, NO_GETS, NO_PUT,            /* 32 bit hdrs */
186     NO_GET, NO_GETS, NO_PUT,            /* 16 bit hdrs */
187
188     {                           /* bfd_check_format */
189       _bfd_dummy_target,                /* unknown format */
190       _bfd_dummy_target,                /* object file */
191       _bfd_dummy_target,                /* archive */
192       ptrace_unix_core_file_p           /* a core file */
193     },
194     {                           /* bfd_set_format */
195       bfd_false, bfd_false,
196       bfd_false, bfd_false
197     },
198     {                           /* bfd_write_contents */
199       bfd_false, bfd_false,
200       bfd_false, bfd_false
201     },
202
203     BFD_JUMP_TABLE_GENERIC (_bfd_generic),
204     BFD_JUMP_TABLE_COPY (_bfd_generic),
205     BFD_JUMP_TABLE_CORE (ptrace_unix),
206     BFD_JUMP_TABLE_ARCHIVE (_bfd_noarchive),
207     BFD_JUMP_TABLE_SYMBOLS (_bfd_nosymbols),
208     BFD_JUMP_TABLE_RELOCS (_bfd_norelocs),
209     BFD_JUMP_TABLE_WRITE (_bfd_generic),
210     BFD_JUMP_TABLE_LINK (_bfd_nolink),
211     BFD_JUMP_TABLE_DYNAMIC (_bfd_nodynamic),
212
213     NULL,
214
215     NULL                        /* backend_data */
216   };
217
218 #endif /* PTRACE_CORE */