95f5b92683ecf2f2855a24be6e3fbcf754267cb3
[platform/upstream/elfutils.git] / backends / i386_retval.c
1 /* Function return value location for Linux/i386 ABI.
2    Copyright (C) 2005-2010 Red Hat, Inc.
3    This file is part of elfutils.
4
5    This file is free software; you can redistribute it and/or modify
6    it under the terms of either
7
8      * the GNU Lesser General Public License as published by the Free
9        Software Foundation; either version 3 of the License, or (at
10        your option) any later version
11
12    or
13
14      * the GNU General Public License as published by the Free
15        Software Foundation; either version 2 of the License, or (at
16        your option) any later version
17
18    or both in parallel, as here.
19
20    elfutils is distributed in the hope that it will be useful, but
21    WITHOUT ANY WARRANTY; without even the implied warranty of
22    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
23    General Public License for more details.
24
25    You should have received copies of the GNU General Public License and
26    the GNU Lesser General Public License along with this program.  If
27    not, see <http://www.gnu.org/licenses/>.  */
28
29 #ifdef HAVE_CONFIG_H
30 # include <config.h>
31 #endif
32
33 #include <assert.h>
34 #include <dwarf.h>
35
36 #define BACKEND i386_
37 #include "libebl_CPU.h"
38
39
40 /* %eax, or pair %eax, %edx.  */
41 static const Dwarf_Op loc_intreg[] =
42   {
43     { .atom = DW_OP_reg0 }, { .atom = DW_OP_piece, .number = 4 },
44     { .atom = DW_OP_reg2 }, { .atom = DW_OP_piece, .number = 4 },
45   };
46 #define nloc_intreg     1
47 #define nloc_intregpair 4
48
49 /* %st(0).  */
50 static const Dwarf_Op loc_fpreg[] =
51   {
52     { .atom = DW_OP_reg11 }
53   };
54 #define nloc_fpreg      1
55
56 /* The return value is a structure and is actually stored in stack space
57    passed in a hidden argument by the caller.  But, the compiler
58    helpfully returns the address of that space in %eax.  */
59 static const Dwarf_Op loc_aggregate[] =
60   {
61     { .atom = DW_OP_breg0, .number = 0 }
62   };
63 #define nloc_aggregate 1
64
65 int
66 i386_return_value_location (Dwarf_Die *functypedie, const Dwarf_Op **locp)
67 {
68   /* Start with the function's type, and get the DW_AT_type attribute,
69      which is the type of the return value.  */
70
71   Dwarf_Attribute attr_mem;
72   Dwarf_Attribute *attr = dwarf_attr_integrate (functypedie, DW_AT_type,
73                                                 &attr_mem);
74   if (attr == NULL)
75     /* The function has no return value, like a `void' function in C.  */
76     return 0;
77
78   Dwarf_Die die_mem;
79   Dwarf_Die *typedie = dwarf_formref_die (attr, &die_mem);
80   int tag = dwarf_tag (typedie);
81
82   /* Follow typedefs and qualifiers to get to the actual type.  */
83   while (tag == DW_TAG_typedef
84          || tag == DW_TAG_const_type || tag == DW_TAG_volatile_type
85          || tag == DW_TAG_restrict_type || tag == DW_TAG_mutable_type)
86     {
87       attr = dwarf_attr_integrate (typedie, DW_AT_type, &attr_mem);
88       typedie = dwarf_formref_die (attr, &die_mem);
89       tag = dwarf_tag (typedie);
90     }
91
92   switch (tag)
93     {
94     case -1:
95       return -1;
96
97     case DW_TAG_subrange_type:
98       if (! dwarf_hasattr_integrate (typedie, DW_AT_byte_size))
99         {
100           attr = dwarf_attr_integrate (typedie, DW_AT_type, &attr_mem);
101           typedie = dwarf_formref_die (attr, &die_mem);
102           tag = dwarf_tag (typedie);
103         }
104       /* Fall through.  */
105
106     case DW_TAG_base_type:
107     case DW_TAG_enumeration_type:
108     case DW_TAG_pointer_type:
109     case DW_TAG_ptr_to_member_type:
110       {
111         Dwarf_Word size;
112         if (dwarf_formudata (dwarf_attr_integrate (typedie, DW_AT_byte_size,
113                                                    &attr_mem), &size) != 0)
114           {
115             if (tag == DW_TAG_pointer_type || tag == DW_TAG_ptr_to_member_type)
116               size = 4;
117             else
118               return -1;
119           }
120         if (tag == DW_TAG_base_type)
121           {
122             Dwarf_Word encoding;
123             if (dwarf_formudata (dwarf_attr_integrate (typedie, DW_AT_encoding,
124                                                        &attr_mem),
125                                  &encoding) != 0)
126               return -1;
127             if (encoding == DW_ATE_float)
128               {
129                 if (size > 16)
130                   return -2;
131                 *locp = loc_fpreg;
132                 return nloc_fpreg;
133               }
134           }
135         *locp = loc_intreg;
136         if (size <= 4)
137           return nloc_intreg;
138         if (size <= 8)
139           return nloc_intregpair;
140
141         /* Else fall through.  */
142       }
143
144     case DW_TAG_structure_type:
145     case DW_TAG_class_type:
146     case DW_TAG_union_type:
147     case DW_TAG_array_type:
148       *locp = loc_aggregate;
149       return nloc_aggregate;
150     }
151
152   /* XXX We don't have a good way to return specific errors from ebl calls.
153      This value means we do not understand the type, but it is well-formed
154      DWARF and might be valid.  */
155   return -2;
156 }