tests/atan.dat

   1 # Data file for mpc_atan.
   2 #
   3 # Copyright (C) 2009 Philippe Th\'eveny, Paul Zimmermann
   4 #
   5 # This file is part of the MPC Library.
   6 #
   7 # The MPC Library is free software; you can redistribute it and/or modify
   8 # it under the terms of the GNU Lesser General Public License as published by
   9 # the Free Software Foundation; either version 2.1 of the License, or (at your
  10 # option) any later version.
  11 #
  12 # The MPC Library is distributed in the hope that it will be useful, but
  13 # WITHOUT ANY WARRANTY; without even the implied warranty of MERCHANTABILITY
  14 # or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU Lesser General Public
  15 # License for more details.
  16 #
  17 # You should have received a copy of the GNU Lesser General Public License
  18 # along with the MPC Library; see the file COPYING.LIB.  If not, write to
  19 # the Free Software Foundation, Inc., 59 Temple Place - Suite 330, Boston,
  20 # MA 02111-1307, USA.
  21 #
  22 # The line format respects the parameter order in function prototype as
  23 # follow:
  24 #
  25 # INEX_RE  INEX_IM  PREC_ROP_RE  ROP_RE  PREC_ROP_IM  ROP_IM  PREC_OP_RE  OP_RE  PREC_OP_IM  OP_IM  RND_RE  RND_IM
  26 #
  27 # where op = op_re + i * op_im, rop = rop_re + i * rop_im,
  28 # rop_re is ROP_RE rounded to nearest to the precision of PREC_ROP_RE
  29 # rop_im is ROP_IM rounded to nearest to the precision of PREC_ROP_IM
  30 # op_re is OP_RE rounded to nearest to the precision of PREC_OP_RE
  31 # op_im is OP_IM rounded to nearest to the precision of PREC_OP_IM
  32 # ROP_RE is checked against Re(atan op) rounded to the precision PREC_ROP_RE
  33 #   in the direction RND_RE
  34 # ROP_IM is checked against Im(atan op) rounded to the precision PREC_ROP_IM
  35 #   in the direction RND_IM
  36 # INEX_RE is the ternary value for the real part with the following notation:
  37 # "?" ternary value not checked
  38 # "+" if ROP_RE is greater than the exact mathematical result
  39 # "0" if ROP_RE is exactly the mathematical result
  40 # "-" if ROP_RE is less than the exact mathematical result
  41 # (m.m. INEX_IM)
  42 # rounding modes notation:
  43 # "N" is rounding to nearest
  44 # "Z" is rounding towards zero
  45 # "U" is rounding towards plus infinity
  46 # "D" is rounding towards minus infinity
  47 # Use prefixes "0b" for values in base two, "0x" for values in base sixteen,
  48 #   no prefix for value in base ten.
  49 # In all bases, "nan" is NaN, "inf" is infinity;
  50 # The sign of the result is checked with "+inf", "-inf", "-0", or "+0".
  51
  52 # special values (following ISO C99 standard)
  53 + 0 53 -0x1921FB54442D18p-52 53   -0    53 -inf 53 -inf N N
  54 + 0 53 -0x1921FB54442D18p-52 53   -0    53 -inf 53   -1 N N
  55 + 0 53 -0x1921FB54442D18p-52 53   -0    53 -inf 53   -0 N N
  56 + 0 53 -0x1921FB54442D18p-52 53   +0    53 -inf 53   +0 N N
  57 + 0 53 -0x1921FB54442D18p-52 53   +0    53 -inf 53   +1 N N
  58 + 0 53 -0x1921FB54442D18p-52 53   +0    53 -inf 53 +inf N N
  59 + 0 53 -0x1921FB54442D18p-52 53    0    53 -inf 53  nan N N
  60 + 0 53 -0x1921FB54442D18p-52 53   -0    53   -6 53 -inf N N
  61 + 0 53 -0x1921FB54442D18p-52 53   +0    53   -6 53 +inf N N
  62 0 0 53                   nan 53  nan    53   -6 53  nan N N
  63 + 0 53 -0x1921FB54442D18p-52 53   -0    53   -0 53 -inf N N
  64 0 0 53                    -0 53   -0    53   -0 53   -0 N N
  65 0 0 53                    -0 53   +0    53   -0 53   +0 N N
  66 + 0 53 -0x1921FB54442D18p-52 53   +0    53   -0 53 +inf N N
  67 0 0 53                   nan 53  nan    53   -0 53  nan N N
  68 - 0 53 +0x1921FB54442D18p-52 53   -0    53   +0 53 -inf N N
  69 0 0 53                    +0 53   -0    53   +0 53   -0 N N
  70 0 0 53                    +0 53   +0    53   +0 53   +0 N N
  71 - 0 53 +0x1921FB54442D18p-52 53   +0    53   +0 53 +inf N N
  72 0 0 53                   nan 53  nan    53   +0 53  nan N N
  73 - 0 53 +0x1921FB54442D18p-52 53   -0    53   +6 53 -inf N N
  74 - 0 53 +0x1921FB54442D18p-52 53   +0    53   +6 53 +inf N N
  75 0 0 53                   nan 53  nan    53   +6 53  nan N N
  76 - 0 53 +0x1921FB54442D18p-52 53   -0    53 +inf 53 -inf N N
  77 - 0 53 +0x1921FB54442D18p-52 53   -0    53 +inf 53   -1 N N
  78 - 0 53 +0x1921FB54442D18p-52 53   -0    53 +inf 53   -0 N N
  79 - 0 53 +0x1921FB54442D18p-52 53   +0    53 +inf 53   +0 N N
  80 - 0 53 +0x1921FB54442D18p-52 53   +0    53 +inf 53   +1 N N
  81 - 0 53 +0x1921FB54442D18p-52 53   +0    53 +inf 53 +inf N N
  82 - 0 53 +0x1921FB54442D18p-52 53    0    53 +inf 53  nan N N
  83 0 0 53                   nan 53   -0    53  nan 53 -inf N N
  84 0 0 53                   nan 53  nan    53  nan 53   -1 N N
  85 0 0 53                   nan 53   -0    53  nan 53   -0 N N
  86 0 0 53                   nan 53   +0    53  nan 53   +0 N N
  87 0 0 53                   nan 53  nan    53  nan 53   +1 N N
  88 0 0 53                   nan 53   +0    53  nan 53 +inf N N
  89 0 0 53                   nan 53  nan    53  nan 53  nan N N
  90
  91 # pure real argument
  92 - 0 53 -0x16DCC57BB565FDp-52 53   -0    53     -7 53 -0 N N
  93 - 0 53 -0x16DCC57BB565FDp-52 53   +0    53     -7 53 +0 N N
  94 + 0 53 -0x1F730BD281F69Bp-53 53   -0    53   -1.5 53 -0 N N
  95 + 0 53 -0x1F730BD281F69Bp-53 53   +0    53   -1.5 53 +0 N N
  96 + 0 53 -0x1921FB54442D18p-53 53   -0    53     -1 53 -0 N N
  97 + 0 53 -0x1921FB54442D18p-53 53   +0    53     -1 53 +0 N N
  98 - 0 53 -0x1700A7C5784634p-53 53   -0    53 -0.875 53 -0 N N
  99 - 0 53 -0x1700A7C5784634p-53 53   +0    53 -0.875 53 +0 N N
 100 - 0 53 -0x1FD5BA9AAC2F6Ep-56 53   -0    53 -0.125 53 -0 N N
 101 - 0 53 -0x1FD5BA9AAC2F6Ep-56 53   +0    53 -0.125 53 +0 N N
 102 + 0 53 +0x1FD5BA9AAC2F6Ep-56 53   +0    53 +0.125 53 +0 N N
 103 + 0 53 +0x1FD5BA9AAC2F6Ep-56 53   -0    53 +0.125 53 -0 N N
 104 + 0 53 +0x1700A7C5784634p-53 53   +0    53 +0.875 53 +0 N N
 105 + 0 53 +0x1700A7C5784634p-53 53   -0    53 +0.875 53 -0 N N
 106 - 0 53 +0x1921FB54442D18p-53 53   +0    53     +1 53 +0 N N
 107 - 0 53 +0x1921FB54442D18p-53 53   -0    53     +1 53 -0 N N
 108 - 0 53 +0x1F730BD281F69Bp-53 53   +0    53   +1.5 53 +0 N N
 109 - 0 53 +0x1F730BD281F69Bp-53 53   -0    53   +1.5 53 -0 N N
 110 + 0 53 +0x16DCC57BB565FDp-52 53   +0    53     +7 53 +0 N N
 111 + 0 53 +0x16DCC57BB565FDp-52 53   -0    53     +7 53 -0 N N
 112
 113 # pure imaginary argument
 114 + + 53 -0x1921FB54442D18p-52 53 -0x1269621134DB92p-55    53 -0 53     -7 N N
 115 - + 53 +0x1921FB54442D18p-52 53 -0x1269621134DB92p-55    53 +0 53     -7 N N
 116 + + 53 -0x1921FB54442D18p-52 53 -0x19C041F7ED8D33p-53    53 -0 53   -1.5 N N
 117 - + 53 +0x1921FB54442D18p-52 53 -0x19C041F7ED8D33p-53    53 +0 53   -1.5 N N
 118 0 0 53                   nan 53                  -inf    53 -0 53     -1 N N
 119 0 0 53                   nan 53                  -inf    53 +0 53     -1 N N
 120 0 + 53                    -0 53 -0x15AA16394D481Fp-52    53 -0 53 -0.875 N N
 121 0 + 53                    +0 53 -0x15AA16394D481Fp-52    53 +0 53 -0.875 N N
 122 0 + 53                    -0 53 -0x1015891C9EAEF7p-55    53 -0 53 -0.125 N N
 123 0 + 53                    +0 53 -0x1015891C9EAEF7p-55    53 +0 53 -0.125 N N
 124 0 - 53                    +0 53 +0x1015891C9EAEF7p-55    53 +0 53 +0.125 N N
 125 0 - 53                    -0 53 +0x1015891C9EAEF7p-55    53 -0 53 +0.125 N N
 126 0 - 53                    +0 53 +0x15AA16394D481Fp-52    53 +0 53 +0.875 N N
 127 0 - 53                    -0 53 +0x15AA16394D481Fp-52    53 -0 53 +0.875 N N
 128 0 0 53                   nan 53                  +inf    53 +0 53     +1 N N
 129 0 0 53                   nan 53                  +inf    53 -0 53     +1 N N
 130 - - 53 +0x1921FB54442D18p-52 53 +0x19C041F7ED8D33p-53    53 +0 53   +1.5 N N
 131 + - 53 -0x1921FB54442D18p-52 53 +0x19C041F7ED8D33p-53    53 -0 53   +1.5 N N
 132 - - 53 +0x1921FB54442D18p-52 53 +0x1269621134DB92p-55    53 +0 53     +7 N N
 133 + - 53 -0x1921FB54442D18p-52 53 +0x1269621134DB92p-55    53 -0 53     +7 N N
 134 0 + 53                    +0 53  0x1FFFFFFFFFFF82p-52    53 +0 53 0x1ED9505E1BC3C2p-53 N N
 135 0 0 53                   nan 53                  -inf    53 +0 53     -1 N N
 136 0 0 53                   nan 53                  +inf    53 +0 53     +1 N N
 137 + - 512 0x6487ED5110B4611A62633145C06E0E68948127044533E63A0105DF531D89CD9128A5043CC71A026EF7CA8CD9E69D218D98158536F92F8A1BA7F09AB6B6A8E123p-510 512 0x5D137113B914461DA3202D77346EE4980DA5FD0BAD68F5A7928DCA9F632750D9BFFA00654C523929F15DED554EC6BC476DB2C46FA433E569227085E0BDEA86FFp-509 512 0 512 0x1018734E311AB77B710F9212969B3C86E8F388BB7DA5BAF74ADE078F43D96456D088C8A0B2A370159DFB8D4A4BC51BCDA91F2DCD01B2EC610C62AA33FAD1688p-504 N Z
 138 + - 12 0xC91p-11 12 0x6F1p-50 12 +0 12 0x9380000000 N N
 139
 140 # general inputs
 141 + - 72 0x91EA521228BFC46ACAp-118 72 -0x9E96A01DBAD6470974p-73   72 0x84C3E02A5C6DEE8410p-118 72 -0x99B43C52A95A21C220p-73 U N
 142 + - 156 -0xC90FDAA22167B20DB08A0C3B1FF415CABE49624p-155 156 0xEA84E971BD52E49CCEE036E303D5ECB2D9D9B9Ap-222   156 -0xF0CE58073F866A53F25DB85DE8D503FBDD81051p-109 156  0xCF81D7C76BB9754A52056CB0F144B0C6700CC8Cp-128 N N
 143 - - 2 0.75 2 -3 2 0x1p-7 2 -1 N N
 144 - + 2 0.75 2 3 2 0x1p-7 2 1 N N