d41d3f3608ff5003768b7bf539313ba584b5f43d
[platform/upstream/mpc.git] / tests / asin.dat
1 # Data file for mpc_asin.
2 #
3 # Copyright (C) 2009 Philippe Th\'eveny, Paul Zimmermann
4 #
5 # This file is part of the MPC Library.
6 #
7 # The MPC Library is free software; you can redistribute it and/or modify
8 # it under the terms of the GNU Lesser General Public License as published by
9 # the Free Software Foundation; either version 2.1 of the License, or (at your
10 # option) any later version.
11 #
12 # The MPC Library is distributed in the hope that it will be useful, but
13 # WITHOUT ANY WARRANTY; without even the implied warranty of MERCHANTABILITY
14 # or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU Lesser General Public
15 # License for more details.
16 #
17 # You should have received a copy of the GNU Lesser General Public License
18 # along with the MPC Library; see the file COPYING.LIB.  If not, write to
19 # the Free Software Foundation, Inc., 59 Temple Place - Suite 330, Boston,
20 # MA 02111-1307, USA.
21 #
22 # The line format respects the parameter order in function prototype as
23 # follow:
24 #
25 # INEX_RE  INEX_IM  PREC_ROP_RE  ROP_RE  PREC_ROP_IM  ROP_IM  PREC_OP_RE  OP_RE  PREC_OP_IM  OP_IM  RND_RE  RND_IM
26 #
27 # where op = op_re + i * op_im, rop = rop_re + i * rop_im,
28 # rop_re is ROP_RE rounded to nearest to the precision of PREC_ROP_RE
29 # rop_im is ROP_IM rounded to nearest to the precision of PREC_ROP_IM
30 # op_re is OP_RE rounded to nearest to the precision of PREC_OP_RE
31 # op_im is OP_IM rounded to nearest to the precision of PREC_OP_IM
32 # ROP_RE is checked against Re(asin op) rounded to the precision PREC_ROP_RE
33 #   in the direction RND_RE
34 # ROP_IM is checked against Im(asin op) rounded to the precision PREC_ROP_IM
35 #   in the direction RND_IM
36 # INEX_RE is the ternary value for the real part with the following notation:
37 # "?" ternary value not checked
38 # "+" if ROP_RE is greater than the exact mathematical result
39 # "0" if ROP_RE is exactly the mathematical result
40 # "-" if ROP_RE is less than the exact mathematical result
41 # (m.m. INEX_IM)
42 # rounding modes notation:
43 # "N" is rounding to nearest
44 # "Z" is rounding towards zero
45 # "U" is rounding towards plus infinity
46 # "D" is rounding towards minus infinity
47 # Use prefixes "0b" for values in base two, "0x" for values in base sixteen,
48 #   no prefix for value in base ten.
49 # In all bases, "nan" is NaN, "inf" is infinity;
50 # The sign of the result is checked with "+inf", "-inf", "-0", or "+0".
51
52 # special values (following ISO C99 standard)
53 + 0 53 -0x1921FB54442D18p-53 53 -inf    53 -inf 53 -inf N N
54 + 0 53 -0x1921FB54442D18p-52 53 -inf    53 -inf 53   -1 N N
55 + 0 53 -0x1921FB54442D18p-52 53 -inf    53 -inf 53   -0 N N
56 + 0 53 -0x1921FB54442D18p-52 53 +inf    53 -inf 53   +0 N N
57 + 0 53 -0x1921FB54442D18p-52 53 +inf    53 -inf 53   +1 N N
58 + 0 53 -0x1921FB54442D18p-53 53 +inf    53 -inf 53 +inf N N
59 0 0 53                   nan 53  inf    53 -inf 53  nan N N
60 0 0 53                    -0 53 -inf    53   -6 53 -inf N N
61 0 0 53                    -0 53 +inf    53   -6 53 +inf N N
62 0 0 53                   nan 53  nan    53   -6 53  nan N N
63 0 0 53                    -0 53 -inf    53 -0.5 53 -inf N N
64 0 0 53                    -0 53 +inf    53 -0.5 53 +inf N N
65 0 0 53                   nan 53  nan    53 -0.5 53  nan N N
66 0 0 53                    -0 53 -inf    53   -0 53 -inf N N
67 0 0 53                    -0 53   -0    53   -0 53   -0 N N
68 0 0 53                    -0 53   +0    53   -0 53   +0 N N
69 0 0 53                    -0 53 +inf    53   -0 53 +inf N N
70 0 0 53                    -0 53  nan    53   -0 53  nan N N
71 0 0 53                    +0 53 -inf    53   +0 53 -inf N N
72 0 0 53                    +0 53   -0    53   +0 53   -0 N N
73 0 0 53                    +0 53   +0    53   +0 53   +0 N N
74 0 0 53                    +0 53 +inf    53   +0 53 +inf N N
75 0 0 53                    +0 53  nan    53   +0 53  nan N N
76 0 0 53                    +0 53 -inf    53 +0.5 53 -inf N N
77 0 0 53                    +0 53 +inf    53 +0.5 53 +inf N N
78 0 0 53                   nan 53  nan    53 +0.5 53  nan N N
79 0 0 53                    +0 53 -inf    53   +6 53 -inf N N
80 0 0 53                    +0 53 +inf    53   +6 53 +inf N N
81 0 0 53                   nan 53  nan    53   +6 53  nan N N
82 - 0 53  0x1921FB54442D18p-53 53 -inf    53 +inf 53 -inf N N
83 - 0 53  0x1921FB54442D18p-52 53 -inf    53 +inf 53   -1 N N
84 - 0 53  0x1921FB54442D18p-52 53 -inf    53 +inf 53   -0 N N
85 - 0 53  0x1921FB54442D18p-52 53 +inf    53 +inf 53   +0 N N
86 - 0 53  0x1921FB54442D18p-52 53 +inf    53 +inf 53   +1 N N
87 - 0 53  0x1921FB54442D18p-53 53 +inf    53 +inf 53 +inf N N
88 0 0 53                   nan 53  inf    53 +inf 53  nan N N
89 0 0 53                   nan 53 -inf    53  nan 53 -inf N N
90 0 0 53                   nan 53  nan    53  nan 53   -1 N N
91 0 0 53                   nan 53  nan    53  nan 53   -0 N N
92 0 0 53                   nan 53  nan    53  nan 53   +0 N N
93 0 0 53                   nan 53  nan    53  nan 53   +1 N N
94 0 0 53                   nan 53 +inf    53  nan 53 +inf N N
95 0 0 53                   nan 53  nan    53  nan 53  nan N N
96
97 # pure real argument
98 + - 53 -0x1921FB54442D18p-52 53 -0x1ECC2CAEC5160Ap-53    53 -1.5 53   -0 N N
99 + + 53 -0x1921FB54442D18p-52 53  0x1ECC2CAEC5160Ap-53    53 -1.5 53   +0 N N
100 + 0 53 -0x1921FB54442D18p-52 53                    -0    53   -1 53   -0 N N
101 + 0 53 -0x1921FB54442D18p-52 53                    +0    53   -1 53   +0 N N
102 - 0 53 -0x10C152382D7366p-53 53                    -0    53 -0.5 53   -0 N N
103 - 0 53 -0x10C152382D7366p-53 53                    +0    53 -0.5 53   +0 N N
104 + 0 53  0x10C152382D7366p-53 53                    -0    53 +0.5 53   -0 N N
105 + 0 53  0x10C152382D7366p-53 53                    +0    53 +0.5 53   +0 N N
106 - 0 53  0x1921FB54442D18p-52 53                    -0    53   +1 53   -0 N N
107 - 0 53  0x1921FB54442D18p-52 53                    +0    53   +1 53   +0 N N
108 - - 53  0x1921FB54442D18p-52 53 -0x1ECC2CAEC5160Ap-53    53 +1.5 53   -0 N N
109 - + 53  0x1921FB54442D18p-52 53  0x1ECC2CAEC5160Ap-53    53 +1.5 53   +0 N N
110
111 # pure imaginary argument
112 0 + 53                    -0 53 -0x131DC0090B63D8p-52    53   -0 53 -1.5 N N
113 0 + 53                    +0 53 -0x131DC0090B63D8p-52    53   +0 53 -1.5 N N
114 0 - 53                    -0 53 -0x1C34366179D427p-53    53   -0 53   -1 N N
115 0 - 53                    +0 53 -0x1C34366179D427p-53    53   +0 53   -1 N N
116 0 - 53                    -0 53 -0x1ECC2CAEC5160Ap-54    53   -0 53 -0.5 N N
117 0 - 53                    +0 53 -0x1ECC2CAEC5160Ap-54    53   +0 53 -0.5 N N
118 0 + 53                    -0 53  0x1ECC2CAEC5160Ap-54    53   -0 53 +0.5 N N
119 0 + 53                    +0 53  0x1ECC2CAEC5160Ap-54    53   +0 53 +0.5 N N
120 0 + 53                    -0 53  0x1C34366179D427p-53    53   -0 53   +1 N N
121 0 + 53                    +0 53  0x1C34366179D427p-53    53   +0 53   +1 N N
122 0 - 53                    -0 53  0x131DC0090B63D8p-52    53   -0 53 +1.5 N N
123 0 - 53                    +0 53  0x131DC0090B63D8p-52    53   +0 53 +1.5 N N
124
125 # IEEE-754 double precision and other precisions
126 + - 53 0x189BF9EC7FCD5Bp-54 53 0x1206ECFA94614Bp-50 53 17 53 42 N N
127 - + 2 1.5 2 6 2 96 2 0x1p-8 N N
128 - - 8 0xC9p-7 8 0x15p-2 2 96 2 0x1p-8 N N