tests/atan.dat

   1 # Data file for mpc_atan.
   2 #
   3 # Copyright (C) 2009, 2012 INRIA
   4 #
   5 # This file is part of GNU MPC.
   6 #
   7 # GNU MPC is free software; you can redistribute it and/or modify it under
   8 # the terms of the GNU Lesser General Public License as published by the
   9 # Free Software Foundation; either version 3 of the License, or (at your
  10 #o ption) any later version.
  11 #
  12 # GNU MPC is distributed in the hope that it will be useful, but WITHOUT ANY
  13 # WARRANTY; without even the implied warranty of MERCHANTABILITY or FITNESS
  14 # FOR A PARTICULAR PURPOSE. See the GNU Lesser General Public License for
  15 # more details.
  16 #
  17 # You should have received a copy of the GNU Lesser General Public License
  18 # along with this program. If not, see http://www.gnu.org/licenses/ .
  19 #
  20 # The line format respects the parameter order in function prototype as
  21 # follow:
  22 #
  23 # INEX_RE  INEX_IM  PREC_ROP_RE  ROP_RE  PREC_ROP_IM  ROP_IM  PREC_OP_RE  OP_RE  PREC_OP_IM  OP_IM  RND_RE  RND_IM
  24 #
  25 # where op = op_re + i * op_im, rop = rop_re + i * rop_im,
  26 # rop_re is ROP_RE rounded to nearest to the precision of PREC_ROP_RE
  27 # rop_im is ROP_IM rounded to nearest to the precision of PREC_ROP_IM
  28 # op_re is OP_RE rounded to nearest to the precision of PREC_OP_RE
  29 # op_im is OP_IM rounded to nearest to the precision of PREC_OP_IM
  30 # ROP_RE is checked against Re(atan op) rounded to the precision PREC_ROP_RE
  31 #   in the direction RND_RE
  32 # ROP_IM is checked against Im(atan op) rounded to the precision PREC_ROP_IM
  33 #   in the direction RND_IM
  34 # INEX_RE is the ternary value for the real part with the following notation:
  35 # "?" ternary value not checked
  36 # "+" if ROP_RE is greater than the exact mathematical result
  37 # "0" if ROP_RE is exactly the mathematical result
  38 # "-" if ROP_RE is less than the exact mathematical result
  39 # (m.m. INEX_IM)
  40 # rounding modes notation:
  41 # "N" is rounding to nearest
  42 # "Z" is rounding towards zero
  43 # "U" is rounding towards plus infinity
  44 # "D" is rounding towards minus infinity
  45 # Use prefixes "0b" for values in base two, "0x" for values in base sixteen,
  46 #   no prefix for value in base ten.
  47 # In all bases, "nan" is NaN, "inf" is infinity;
  48 # The sign of the result is checked with "+inf", "-inf", "-0", or "+0".
  49
  50 # special values (following ISO C99 standard)
  51 + 0 53 -0x1921FB54442D18p-52 53   -0    53 -inf 53 -inf N N
  52 + 0 53 -0x1921FB54442D18p-52 53   -0    53 -inf 53   -1 N N
  53 + 0 53 -0x1921FB54442D18p-52 53   -0    53 -inf 53   -0 N N
  54 + 0 53 -0x1921FB54442D18p-52 53   +0    53 -inf 53   +0 N N
  55 + 0 53 -0x1921FB54442D18p-52 53   +0    53 -inf 53   +1 N N
  56 + 0 53 -0x1921FB54442D18p-52 53   +0    53 -inf 53 +inf N N
  57 + 0 53 -0x1921FB54442D18p-52 53    0    53 -inf 53  nan N N
  58 + 0 53 -0x1921FB54442D18p-52 53   -0    53   -6 53 -inf N N
  59 + 0 53 -0x1921FB54442D18p-52 53   +0    53   -6 53 +inf N N
  60 0 0 53                   nan 53  nan    53   -6 53  nan N N
  61 + 0 53 -0x1921FB54442D18p-52 53   -0    53   -0 53 -inf N N
  62 0 0 53                    -0 53   -0    53   -0 53   -0 N N
  63 0 0 53                    -0 53   +0    53   -0 53   +0 N N
  64 + 0 53 -0x1921FB54442D18p-52 53   +0    53   -0 53 +inf N N
  65 0 0 53                   nan 53  nan    53   -0 53  nan N N
  66 - 0 53 +0x1921FB54442D18p-52 53   -0    53   +0 53 -inf N N
  67 0 0 53                    +0 53   -0    53   +0 53   -0 N N
  68 0 0 53                    +0 53   +0    53   +0 53   +0 N N
  69 - 0 53 +0x1921FB54442D18p-52 53   +0    53   +0 53 +inf N N
  70 0 0 53                   nan 53  nan    53   +0 53  nan N N
  71 - 0 53 +0x1921FB54442D18p-52 53   -0    53   +6 53 -inf N N
  72 - 0 53 +0x1921FB54442D18p-52 53   +0    53   +6 53 +inf N N
  73 0 0 53                   nan 53  nan    53   +6 53  nan N N
  74 - 0 53 +0x1921FB54442D18p-52 53   -0    53 +inf 53 -inf N N
  75 - 0 53 +0x1921FB54442D18p-52 53   -0    53 +inf 53   -1 N N
  76 - 0 53 +0x1921FB54442D18p-52 53   -0    53 +inf 53   -0 N N
  77 - 0 53 +0x1921FB54442D18p-52 53   +0    53 +inf 53   +0 N N
  78 - 0 53 +0x1921FB54442D18p-52 53   +0    53 +inf 53   +1 N N
  79 - 0 53 +0x1921FB54442D18p-52 53   +0    53 +inf 53 +inf N N
  80 - 0 53 +0x1921FB54442D18p-52 53    0    53 +inf 53  nan N N
  81 0 0 53                   nan 53   -0    53  nan 53 -inf N N
  82 0 0 53                   nan 53  nan    53  nan 53   -1 N N
  83 0 0 53                   nan 53   -0    53  nan 53   -0 N N
  84 0 0 53                   nan 53   +0    53  nan 53   +0 N N
  85 0 0 53                   nan 53  nan    53  nan 53   +1 N N
  86 0 0 53                   nan 53   +0    53  nan 53 +inf N N
  87 0 0 53                   nan 53  nan    53  nan 53  nan N N
  88
  89 # pure real argument
  90 - 0 53 -0x16DCC57BB565FDp-52 53   -0    53     -7 53 -0 N N
  91 - 0 53 -0x16DCC57BB565FDp-52 53   +0    53     -7 53 +0 N N
  92 + 0 53 -0x1F730BD281F69Bp-53 53   -0    53   -1.5 53 -0 N N
  93 + 0 53 -0x1F730BD281F69Bp-53 53   +0    53   -1.5 53 +0 N N
  94 + 0 53 -0x1921FB54442D18p-53 53   -0    53     -1 53 -0 N N
  95 + 0 53 -0x1921FB54442D18p-53 53   +0    53     -1 53 +0 N N
  96 - 0 53 -0x1700A7C5784634p-53 53   -0    53 -0.875 53 -0 N N
  97 - 0 53 -0x1700A7C5784634p-53 53   +0    53 -0.875 53 +0 N N
  98 - 0 53 -0x1FD5BA9AAC2F6Ep-56 53   -0    53 -0.125 53 -0 N N
  99 - 0 53 -0x1FD5BA9AAC2F6Ep-56 53   +0    53 -0.125 53 +0 N N
 100 + 0 53 +0x1FD5BA9AAC2F6Ep-56 53   +0    53 +0.125 53 +0 N N
 101 + 0 53 +0x1FD5BA9AAC2F6Ep-56 53   -0    53 +0.125 53 -0 N N
 102 + 0 53 +0x1700A7C5784634p-53 53   +0    53 +0.875 53 +0 N N
 103 + 0 53 +0x1700A7C5784634p-53 53   -0    53 +0.875 53 -0 N N
 104 - 0 53 +0x1921FB54442D18p-53 53   +0    53     +1 53 +0 N N
 105 - 0 53 +0x1921FB54442D18p-53 53   -0    53     +1 53 -0 N N
 106 - 0 53 +0x1F730BD281F69Bp-53 53   +0    53   +1.5 53 +0 N N
 107 - 0 53 +0x1F730BD281F69Bp-53 53   -0    53   +1.5 53 -0 N N
 108 + 0 53 +0x16DCC57BB565FDp-52 53   +0    53     +7 53 +0 N N
 109 + 0 53 +0x16DCC57BB565FDp-52 53   -0    53     +7 53 -0 N N
 110
 111 # pure imaginary argument
 112 + + 53 -0x1921FB54442D18p-52 53 -0x1269621134DB92p-55    53 -0 53     -7 N N
 113 - + 53 +0x1921FB54442D18p-52 53 -0x1269621134DB92p-55    53 +0 53     -7 N N
 114 + + 53 -0x1921FB54442D18p-52 53 -0x19C041F7ED8D33p-53    53 -0 53   -1.5 N N
 115 - + 53 +0x1921FB54442D18p-52 53 -0x19C041F7ED8D33p-53    53 +0 53   -1.5 N N
 116 0 0 53                   nan 53                  -inf    53 -0 53     -1 N N
 117 0 0 53                   nan 53                  -inf    53 +0 53     -1 N N
 118 0 + 53                    -0 53 -0x15AA16394D481Fp-52    53 -0 53 -0.875 N N
 119 0 + 53                    +0 53 -0x15AA16394D481Fp-52    53 +0 53 -0.875 N N
 120 0 + 53                    -0 53 -0x1015891C9EAEF7p-55    53 -0 53 -0.125 N N
 121 0 + 53                    +0 53 -0x1015891C9EAEF7p-55    53 +0 53 -0.125 N N
 122 0 - 53                    +0 53 +0x1015891C9EAEF7p-55    53 +0 53 +0.125 N N
 123 0 - 53                    -0 53 +0x1015891C9EAEF7p-55    53 -0 53 +0.125 N N
 124 0 - 53                    +0 53 +0x15AA16394D481Fp-52    53 +0 53 +0.875 N N
 125 0 - 53                    -0 53 +0x15AA16394D481Fp-52    53 -0 53 +0.875 N N
 126 0 0 53                   nan 53                  +inf    53 +0 53     +1 N N
 127 0 0 53                   nan 53                  +inf    53 -0 53     +1 N N
 128 - - 53 +0x1921FB54442D18p-52 53 +0x19C041F7ED8D33p-53    53 +0 53   +1.5 N N
 129 + - 53 -0x1921FB54442D18p-52 53 +0x19C041F7ED8D33p-53    53 -0 53   +1.5 N N
 130 - - 53 +0x1921FB54442D18p-52 53 +0x1269621134DB92p-55    53 +0 53     +7 N N
 131 + - 53 -0x1921FB54442D18p-52 53 +0x1269621134DB92p-55    53 -0 53     +7 N N
 132 0 + 53                    +0 53  0x1FFFFFFFFFFF82p-52    53 +0 53 0x1ED9505E1BC3C2p-53 N N
 133 0 0 53                   nan 53                  -inf    53 +0 53     -1 N N
 134 0 0 53                   nan 53                  +inf    53 +0 53     +1 N N
 135 + - 512 0x6487ED5110B4611A62633145C06E0E68948127044533E63A0105DF531D89CD9128A5043CC71A026EF7CA8CD9E69D218D98158536F92F8A1BA7F09AB6B6A8E123p-510 512 0x5D137113B914461DA3202D77346EE4980DA5FD0BAD68F5A7928DCA9F632750D9BFFA00654C523929F15DED554EC6BC476DB2C46FA433E569227085E0BDEA86FFp-509 512 0 512 0x1018734E311AB77B710F9212969B3C86E8F388BB7DA5BAF74ADE078F43D96456D088C8A0B2A370159DFB8D4A4BC51BCDA91F2DCD01B2EC610C62AA33FAD1688p-504 N Z
 136 + - 12 0xC91p-11 12 0x6F1p-50 12 +0 12 0x9380000000 N N
 137
 138 # general inputs
 139 + - 72 0x91EA521228BFC46ACAp-118 72 -0x9E96A01DBAD6470974p-73   72 0x84C3E02A5C6DEE8410p-118 72 -0x99B43C52A95A21C220p-73 U N
 140 - - 72 0x91EA521228BFC46AC9p-118 72 -0x9E96A01DBAD6470974p-73   72 0x84C3E02A5C6DEE8410p-118 72 -0x99B43C52A95A21C220p-73 D D
 141 - + 72 0x91EA521228BFC46AC9p-118 72 -0x9E96A01DBAD6470973p-73   72 0x84C3E02A5C6DEE8410p-118 72 -0x99B43C52A95A21C220p-73 D U
 142 + + 72 0x91EA521228BFC46ACAp-118 72 0x9E96A01DBAD6470974p-73   72 0x84C3E02A5C6DEE8410p-118 72 0x99B43C52A95A21C220p-73 U N
 143 - + 72 0x91EA521228BFC46AC9p-118 72 0x9E96A01DBAD6470974p-73   72 0x84C3E02A5C6DEE8410p-118 72 0x99B43C52A95A21C220p-73 D U
 144 - - 72 0x91EA521228BFC46AC9p-118 72 0x9E96A01DBAD6470973p-73   72 0x84C3E02A5C6DEE8410p-118 72 0x99B43C52A95A21C220p-73 D D
 145 + - 156 -0xC90FDAA22167B20DB08A0C3B1FF415CABE49624p-155 156 0xEA84E971BD52E49CCEE036E303D5ECB2D9D9B9Ap-222   156 -0xF0CE58073F866A53F25DB85DE8D503FBDD81051p-109 156  0xCF81D7C76BB9754A52056CB0F144B0C6700CC8Cp-128 N N
 146 - - 2 0.75 2 -3 2 0x1p-7 2 -1 N N
 147 - + 2 0.75 2 3 2 0x1p-7 2 1 N N
 148
 149 # improve test coverage
 150 + - 57 -0x1.921fb54442d184 57 -0x8.a7e33db93ecf18@-34  57 -0xa.529626a89a1960@23 57 -0x3.9a5472b5709e74@14 N N