soft-fp: fix floating-point to integer unsigned saturation.
[platform/upstream/glibc.git] / soft-fp / single.h
1 /* Software floating-point emulation.
2    Definitions for IEEE Single Precision.
3    Copyright (C) 1997-2013 Free Software Foundation, Inc.
4    This file is part of the GNU C Library.
5    Contributed by Richard Henderson (rth@cygnus.com),
6                   Jakub Jelinek (jj@ultra.linux.cz),
7                   David S. Miller (davem@redhat.com) and
8                   Peter Maydell (pmaydell@chiark.greenend.org.uk).
9
10    The GNU C Library is free software; you can redistribute it and/or
11    modify it under the terms of the GNU Lesser General Public
12    License as published by the Free Software Foundation; either
13    version 2.1 of the License, or (at your option) any later version.
14
15    In addition to the permissions in the GNU Lesser General Public
16    License, the Free Software Foundation gives you unlimited
17    permission to link the compiled version of this file into
18    combinations with other programs, and to distribute those
19    combinations without any restriction coming from the use of this
20    file.  (The Lesser General Public License restrictions do apply in
21    other respects; for example, they cover modification of the file,
22    and distribution when not linked into a combine executable.)
23
24    The GNU C Library is distributed in the hope that it will be useful,
25    but WITHOUT ANY WARRANTY; without even the implied warranty of
26    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
27    Lesser General Public License for more details.
28
29    You should have received a copy of the GNU Lesser General Public
30    License along with the GNU C Library; if not, see
31    <http://www.gnu.org/licenses/>.  */
32
33 #if _FP_W_TYPE_SIZE < 32
34 #error "Here's a nickel kid.  Go buy yourself a real computer."
35 #endif
36
37 #define _FP_FRACTBITS_S         _FP_W_TYPE_SIZE
38
39 #if _FP_W_TYPE_SIZE < 64
40 # define _FP_FRACTBITS_DW_S     (2 * _FP_W_TYPE_SIZE)
41 #else
42 # define _FP_FRACTBITS_DW_S     _FP_W_TYPE_SIZE
43 #endif
44
45 #define _FP_FRACBITS_S          24
46 #define _FP_FRACXBITS_S         (_FP_FRACTBITS_S - _FP_FRACBITS_S)
47 #define _FP_WFRACBITS_S         (_FP_WORKBITS + _FP_FRACBITS_S)
48 #define _FP_WFRACXBITS_S        (_FP_FRACTBITS_S - _FP_WFRACBITS_S)
49 #define _FP_EXPBITS_S           8
50 #define _FP_EXPBIAS_S           127
51 #define _FP_EXPMAX_S            255
52 #define _FP_QNANBIT_S           ((_FP_W_TYPE)1 << (_FP_FRACBITS_S-2))
53 #define _FP_QNANBIT_SH_S        ((_FP_W_TYPE)1 << (_FP_FRACBITS_S-2+_FP_WORKBITS))
54 #define _FP_IMPLBIT_S           ((_FP_W_TYPE)1 << (_FP_FRACBITS_S-1))
55 #define _FP_IMPLBIT_SH_S        ((_FP_W_TYPE)1 << (_FP_FRACBITS_S-1+_FP_WORKBITS))
56 #define _FP_OVERFLOW_S          ((_FP_W_TYPE)1 << (_FP_WFRACBITS_S))
57
58 #define _FP_WFRACBITS_DW_S      (2 * _FP_WFRACBITS_S)
59 #define _FP_WFRACXBITS_DW_S     (_FP_FRACTBITS_DW_S - _FP_WFRACBITS_DW_S)
60 #define _FP_HIGHBIT_DW_S        \
61   ((_FP_W_TYPE)1 << (_FP_WFRACBITS_DW_S - 1) % _FP_W_TYPE_SIZE)
62
63 /* The implementation of _FP_MUL_MEAT_S and _FP_DIV_MEAT_S should be
64    chosen by the target machine.  */
65
66 typedef float SFtype __attribute__((mode(SF)));
67
68 union _FP_UNION_S
69 {
70   SFtype flt;
71   struct _FP_STRUCT_LAYOUT {
72 #if __BYTE_ORDER == __BIG_ENDIAN
73     unsigned sign : 1;
74     unsigned exp  : _FP_EXPBITS_S;
75     unsigned frac : _FP_FRACBITS_S - (_FP_IMPLBIT_S != 0);
76 #else
77     unsigned frac : _FP_FRACBITS_S - (_FP_IMPLBIT_S != 0);
78     unsigned exp  : _FP_EXPBITS_S;
79     unsigned sign : 1;
80 #endif
81   } bits __attribute__((packed));
82 };
83
84 #define FP_DECL_S(X)            _FP_DECL(1,X)
85 #define FP_UNPACK_RAW_S(X,val)  _FP_UNPACK_RAW_1(S,X,val)
86 #define FP_UNPACK_RAW_SP(X,val) _FP_UNPACK_RAW_1_P(S,X,val)
87 #define FP_PACK_RAW_S(val,X)    _FP_PACK_RAW_1(S,val,X)
88 #define FP_PACK_RAW_SP(val,X)           \
89   do {                                  \
90     if (!FP_INHIBIT_RESULTS)            \
91       _FP_PACK_RAW_1_P(S,val,X);        \
92   } while (0)
93
94 #define FP_UNPACK_S(X,val)              \
95   do {                                  \
96     _FP_UNPACK_RAW_1(S,X,val);          \
97     _FP_UNPACK_CANONICAL(S,1,X);        \
98   } while (0)
99
100 #define FP_UNPACK_SP(X,val)             \
101   do {                                  \
102     _FP_UNPACK_RAW_1_P(S,X,val);        \
103     _FP_UNPACK_CANONICAL(S,1,X);        \
104   } while (0)
105
106 #define FP_UNPACK_SEMIRAW_S(X,val)      \
107   do {                                  \
108     _FP_UNPACK_RAW_1(S,X,val);          \
109     _FP_UNPACK_SEMIRAW(S,1,X);          \
110   } while (0)
111
112 #define FP_UNPACK_SEMIRAW_SP(X,val)     \
113   do {                                  \
114     _FP_UNPACK_RAW_1_P(S,X,val);        \
115     _FP_UNPACK_SEMIRAW(S,1,X);          \
116   } while (0)
117
118 #define FP_PACK_S(val,X)                \
119   do {                                  \
120     _FP_PACK_CANONICAL(S,1,X);          \
121     _FP_PACK_RAW_1(S,val,X);            \
122   } while (0)
123
124 #define FP_PACK_SP(val,X)               \
125   do {                                  \
126     _FP_PACK_CANONICAL(S,1,X);          \
127     if (!FP_INHIBIT_RESULTS)            \
128       _FP_PACK_RAW_1_P(S,val,X);        \
129   } while (0)
130
131 #define FP_PACK_SEMIRAW_S(val,X)        \
132   do {                                  \
133     _FP_PACK_SEMIRAW(S,1,X);            \
134     _FP_PACK_RAW_1(S,val,X);            \
135   } while (0)
136
137 #define FP_PACK_SEMIRAW_SP(val,X)       \
138   do {                                  \
139     _FP_PACK_SEMIRAW(S,1,X);            \
140     if (!FP_INHIBIT_RESULTS)            \
141       _FP_PACK_RAW_1_P(S,val,X);        \
142   } while (0)
143
144 #define FP_ISSIGNAN_S(X)                _FP_ISSIGNAN(S,1,X)
145 #define FP_NEG_S(R,X)                   _FP_NEG(S,1,R,X)
146 #define FP_ADD_S(R,X,Y)                 _FP_ADD(S,1,R,X,Y)
147 #define FP_SUB_S(R,X,Y)                 _FP_SUB(S,1,R,X,Y)
148 #define FP_MUL_S(R,X,Y)                 _FP_MUL(S,1,R,X,Y)
149 #define FP_DIV_S(R,X,Y)                 _FP_DIV(S,1,R,X,Y)
150 #define FP_SQRT_S(R,X)                  _FP_SQRT(S,1,R,X)
151 #define _FP_SQRT_MEAT_S(R,S,T,X,Q)      _FP_SQRT_MEAT_1(R,S,T,X,Q)
152
153 #if _FP_W_TYPE_SIZE < 64
154 # define FP_FMA_S(R, X, Y, Z)   _FP_FMA(S, 1, 2, R, X, Y, Z)
155 #else
156 # define FP_FMA_S(R, X, Y, Z)   _FP_FMA(S, 1, 1, R, X, Y, Z)
157 #endif
158
159 #define FP_CMP_S(r,X,Y,un)      _FP_CMP(S,1,r,X,Y,un)
160 #define FP_CMP_EQ_S(r,X,Y)      _FP_CMP_EQ(S,1,r,X,Y)
161 #define FP_CMP_UNORD_S(r,X,Y)   _FP_CMP_UNORD(S,1,r,X,Y)
162
163 #define FP_TO_INT_S(r,X,rsz,rsg)        _FP_TO_INT(S,1,r,X,rsz,rsg)
164 #define FP_FROM_INT_S(X,r,rs,rt)        _FP_FROM_INT(S,1,X,r,rs,rt)
165
166 #define _FP_FRAC_HIGH_S(X)      _FP_FRAC_HIGH_1(X)
167 #define _FP_FRAC_HIGH_RAW_S(X)  _FP_FRAC_HIGH_1(X)
168
169 #if _FP_W_TYPE_SIZE < 64
170 # define _FP_FRAC_HIGH_DW_S(X)  _FP_FRAC_HIGH_2(X)
171 #else
172 # define _FP_FRAC_HIGH_DW_S(X)  _FP_FRAC_HIGH_1(X)
173 #endif