Lib/test/decimaltestdata/ddToIntegral.decTest

   1 ------------------------------------------------------------------------\r
   2 -- ddToIntegral.decTest -- round Double to integral value             --\r
   3 -- Copyright (c) IBM Corporation, 2001, 2008.  All rights reserved.   --\r
   4 ------------------------------------------------------------------------\r
   5 -- Please see the document "General Decimal Arithmetic Testcases"     --\r
   6 -- at http://www2.hursley.ibm.com/decimal for the description of      --\r
   7 -- these testcases.                                                   --\r
   8 --                                                                    --\r
   9 -- These testcases are experimental ('beta' versions), and they       --\r
  10 -- may contain errors.  They are offered on an as-is basis.  In       --\r
  11 -- particular, achieving the same results as the tests here is not    --\r
  12 -- a guarantee that an implementation complies with any Standard      --\r
  13 -- or specification.  The tests are not exhaustive.                   --\r
  14 --                                                                    --\r
  15 -- Please send comments, suggestions, and corrections to the author:  --\r
  16 --   Mike Cowlishaw, IBM Fellow                                       --\r
  17 --   IBM UK, PO Box 31, Birmingham Road, Warwick CV34 5JL, UK         --\r
  18 --   mfc@uk.ibm.com                                                   --\r
  19 ------------------------------------------------------------------------\r
  20 version: 2.59\r
  21 \r
  22 -- This set of tests tests the extended specification 'round-to-integral\r
  23 -- value-exact' operations (from IEEE 854, later modified in 754r).\r
  24 -- All non-zero results are defined as being those from either copy or\r
  25 -- quantize, so those are assumed to have been tested extensively\r
  26 -- elsewhere; the tests here are for integrity, rounding mode, etc.\r
  27 -- Also, it is assumed the test harness will use these tests for both\r
  28 -- ToIntegralExact (which does set Inexact) and the fixed-name\r
  29 -- functions (which do not set Inexact).\r
  30 \r
  31 -- Note that decNumber implements an earlier definition of toIntegral\r
  32 -- which never sets Inexact; the decTest operator for that is called\r
  33 -- 'tointegral' instead of 'tointegralx'.\r
  34 \r
  35 precision:   16\r
  36 maxExponent: 384\r
  37 minExponent: -383\r
  38 extended:    1\r
  39 clamp:       1\r
  40 rounding:    half_even\r
  41 \r
  42 ddintx001 tointegralx      0     ->  0\r
  43 ddintx002 tointegralx      0.0   ->  0\r
  44 ddintx003 tointegralx      0.1   ->  0  Inexact Rounded\r
  45 ddintx004 tointegralx      0.2   ->  0  Inexact Rounded\r
  46 ddintx005 tointegralx      0.3   ->  0  Inexact Rounded\r
  47 ddintx006 tointegralx      0.4   ->  0  Inexact Rounded\r
  48 ddintx007 tointegralx      0.5   ->  0  Inexact Rounded\r
  49 ddintx008 tointegralx      0.6   ->  1  Inexact Rounded\r
  50 ddintx009 tointegralx      0.7   ->  1  Inexact Rounded\r
  51 ddintx010 tointegralx      0.8   ->  1  Inexact Rounded\r
  52 ddintx011 tointegralx      0.9   ->  1  Inexact Rounded\r
  53 ddintx012 tointegralx      1     ->  1\r
  54 ddintx013 tointegralx      1.0   ->  1  Rounded\r
  55 ddintx014 tointegralx      1.1   ->  1  Inexact Rounded\r
  56 ddintx015 tointegralx      1.2   ->  1  Inexact Rounded\r
  57 ddintx016 tointegralx      1.3   ->  1  Inexact Rounded\r
  58 ddintx017 tointegralx      1.4   ->  1  Inexact Rounded\r
  59 ddintx018 tointegralx      1.5   ->  2  Inexact Rounded\r
  60 ddintx019 tointegralx      1.6   ->  2  Inexact Rounded\r
  61 ddintx020 tointegralx      1.7   ->  2  Inexact Rounded\r
  62 ddintx021 tointegralx      1.8   ->  2  Inexact Rounded\r
  63 ddintx022 tointegralx      1.9   ->  2  Inexact Rounded\r
  64 -- negatives\r
  65 ddintx031 tointegralx     -0     -> -0\r
  66 ddintx032 tointegralx     -0.0   -> -0\r
  67 ddintx033 tointegralx     -0.1   -> -0  Inexact Rounded\r
  68 ddintx034 tointegralx     -0.2   -> -0  Inexact Rounded\r
  69 ddintx035 tointegralx     -0.3   -> -0  Inexact Rounded\r
  70 ddintx036 tointegralx     -0.4   -> -0  Inexact Rounded\r
  71 ddintx037 tointegralx     -0.5   -> -0  Inexact Rounded\r
  72 ddintx038 tointegralx     -0.6   -> -1  Inexact Rounded\r
  73 ddintx039 tointegralx     -0.7   -> -1  Inexact Rounded\r
  74 ddintx040 tointegralx     -0.8   -> -1  Inexact Rounded\r
  75 ddintx041 tointegralx     -0.9   -> -1  Inexact Rounded\r
  76 ddintx042 tointegralx     -1     -> -1\r
  77 ddintx043 tointegralx     -1.0   -> -1  Rounded\r
  78 ddintx044 tointegralx     -1.1   -> -1  Inexact Rounded\r
  79 ddintx045 tointegralx     -1.2   -> -1  Inexact Rounded\r
  80 ddintx046 tointegralx     -1.3   -> -1  Inexact Rounded\r
  81 ddintx047 tointegralx     -1.4   -> -1  Inexact Rounded\r
  82 ddintx048 tointegralx     -1.5   -> -2  Inexact Rounded\r
  83 ddintx049 tointegralx     -1.6   -> -2  Inexact Rounded\r
  84 ddintx050 tointegralx     -1.7   -> -2  Inexact Rounded\r
  85 ddintx051 tointegralx     -1.8   -> -2  Inexact Rounded\r
  86 ddintx052 tointegralx     -1.9   -> -2  Inexact Rounded\r
  87 -- next two would be NaN using quantize(x, 0)\r
  88 ddintx053 tointegralx    10E+60  -> 1.0E+61\r
  89 ddintx054 tointegralx   -10E+60  -> -1.0E+61\r
  90 \r
  91 -- numbers around precision\r
  92 ddintx060 tointegralx '56267E-17'   -> '0'      Inexact Rounded\r
  93 ddintx061 tointegralx '56267E-5'    -> '1'      Inexact Rounded\r
  94 ddintx062 tointegralx '56267E-2'    -> '563'    Inexact Rounded\r
  95 ddintx063 tointegralx '56267E-1'    -> '5627'   Inexact Rounded\r
  96 ddintx065 tointegralx '56267E-0'    -> '56267'\r
  97 ddintx066 tointegralx '56267E+0'    -> '56267'\r
  98 ddintx067 tointegralx '56267E+1'    -> '5.6267E+5'\r
  99 ddintx068 tointegralx '56267E+9'    -> '5.6267E+13'\r
 100 ddintx069 tointegralx '56267E+10'   -> '5.6267E+14'\r
 101 ddintx070 tointegralx '56267E+11'   -> '5.6267E+15'\r
 102 ddintx071 tointegralx '56267E+12'   -> '5.6267E+16'\r
 103 ddintx072 tointegralx '56267E+13'   -> '5.6267E+17'\r
 104 ddintx073 tointegralx '1.23E+96'    -> '1.23E+96'\r
 105 ddintx074 tointegralx '1.23E+384'   -> #47fd300000000000  Clamped\r
 106 \r
 107 ddintx080 tointegralx '-56267E-10'  -> '-0'      Inexact Rounded\r
 108 ddintx081 tointegralx '-56267E-5'   -> '-1'      Inexact Rounded\r
 109 ddintx082 tointegralx '-56267E-2'   -> '-563'    Inexact Rounded\r
 110 ddintx083 tointegralx '-56267E-1'   -> '-5627'   Inexact Rounded\r
 111 ddintx085 tointegralx '-56267E-0'   -> '-56267'\r
 112 ddintx086 tointegralx '-56267E+0'   -> '-56267'\r
 113 ddintx087 tointegralx '-56267E+1'   -> '-5.6267E+5'\r
 114 ddintx088 tointegralx '-56267E+9'   -> '-5.6267E+13'\r
 115 ddintx089 tointegralx '-56267E+10'  -> '-5.6267E+14'\r
 116 ddintx090 tointegralx '-56267E+11'  -> '-5.6267E+15'\r
 117 ddintx091 tointegralx '-56267E+12'  -> '-5.6267E+16'\r
 118 ddintx092 tointegralx '-56267E+13'  -> '-5.6267E+17'\r
 119 ddintx093 tointegralx '-1.23E+96'   -> '-1.23E+96'\r
 120 ddintx094 tointegralx '-1.23E+384'  -> #c7fd300000000000  Clamped\r
 121 \r
 122 -- subnormal inputs\r
 123 ddintx100 tointegralx        1E-299 -> 0  Inexact Rounded\r
 124 ddintx101 tointegralx      0.1E-299 -> 0  Inexact Rounded\r
 125 ddintx102 tointegralx     0.01E-299 -> 0  Inexact Rounded\r
 126 ddintx103 tointegralx        0E-299 -> 0\r
 127 \r
 128 -- specials and zeros\r
 129 ddintx120 tointegralx 'Inf'       ->  Infinity\r
 130 ddintx121 tointegralx '-Inf'      -> -Infinity\r
 131 ddintx122 tointegralx   NaN       ->  NaN\r
 132 ddintx123 tointegralx  sNaN       ->  NaN  Invalid_operation\r
 133 ddintx124 tointegralx     0       ->  0\r
 134 ddintx125 tointegralx    -0       -> -0\r
 135 ddintx126 tointegralx     0.000   ->  0\r
 136 ddintx127 tointegralx     0.00    ->  0\r
 137 ddintx128 tointegralx     0.0     ->  0\r
 138 ddintx129 tointegralx     0       ->  0\r
 139 ddintx130 tointegralx     0E-3    ->  0\r
 140 ddintx131 tointegralx     0E-2    ->  0\r
 141 ddintx132 tointegralx     0E-1    ->  0\r
 142 ddintx133 tointegralx     0E-0    ->  0\r
 143 ddintx134 tointegralx     0E+1    ->  0E+1\r
 144 ddintx135 tointegralx     0E+2    ->  0E+2\r
 145 ddintx136 tointegralx     0E+3    ->  0E+3\r
 146 ddintx137 tointegralx     0E+4    ->  0E+4\r
 147 ddintx138 tointegralx     0E+5    ->  0E+5\r
 148 ddintx139 tointegralx    -0.000   -> -0\r
 149 ddintx140 tointegralx    -0.00    -> -0\r
 150 ddintx141 tointegralx    -0.0     -> -0\r
 151 ddintx142 tointegralx    -0       -> -0\r
 152 ddintx143 tointegralx    -0E-3    -> -0\r
 153 ddintx144 tointegralx    -0E-2    -> -0\r
 154 ddintx145 tointegralx    -0E-1    -> -0\r
 155 ddintx146 tointegralx    -0E-0    -> -0\r
 156 ddintx147 tointegralx    -0E+1    -> -0E+1\r
 157 ddintx148 tointegralx    -0E+2    -> -0E+2\r
 158 ddintx149 tointegralx    -0E+3    -> -0E+3\r
 159 ddintx150 tointegralx    -0E+4    -> -0E+4\r
 160 ddintx151 tointegralx    -0E+5    -> -0E+5\r
 161 -- propagating NaNs\r
 162 ddintx152 tointegralx   NaN808    ->  NaN808\r
 163 ddintx153 tointegralx  sNaN080    ->  NaN80  Invalid_operation\r
 164 ddintx154 tointegralx  -NaN808    -> -NaN808\r
 165 ddintx155 tointegralx -sNaN080    -> -NaN80  Invalid_operation\r
 166 ddintx156 tointegralx  -NaN       -> -NaN\r
 167 ddintx157 tointegralx -sNaN       -> -NaN    Invalid_operation\r
 168 \r
 169 -- examples\r
 170 rounding:    half_up\r
 171 ddintx200 tointegralx     2.1    -> 2            Inexact Rounded\r
 172 ddintx201 tointegralx   100      -> 100\r
 173 ddintx202 tointegralx   100.0    -> 100          Rounded\r
 174 ddintx203 tointegralx   101.5    -> 102          Inexact Rounded\r
 175 ddintx204 tointegralx  -101.5    -> -102         Inexact Rounded\r
 176 ddintx205 tointegralx   10E+5    -> 1.0E+6\r
 177 ddintx206 tointegralx  7.89E+77  -> 7.89E+77\r
 178 ddintx207 tointegralx   -Inf     -> -Infinity\r
 179 \r
 180 \r
 181 -- all rounding modes\r
 182 rounding:    half_even\r
 183 ddintx210 tointegralx     55.5   ->  56  Inexact Rounded\r
 184 ddintx211 tointegralx     56.5   ->  56  Inexact Rounded\r
 185 ddintx212 tointegralx     57.5   ->  58  Inexact Rounded\r
 186 ddintx213 tointegralx    -55.5   -> -56  Inexact Rounded\r
 187 ddintx214 tointegralx    -56.5   -> -56  Inexact Rounded\r
 188 ddintx215 tointegralx    -57.5   -> -58  Inexact Rounded\r
 189 \r
 190 rounding:    half_up\r
 191 \r
 192 ddintx220 tointegralx     55.5   ->  56  Inexact Rounded\r
 193 ddintx221 tointegralx     56.5   ->  57  Inexact Rounded\r
 194 ddintx222 tointegralx     57.5   ->  58  Inexact Rounded\r
 195 ddintx223 tointegralx    -55.5   -> -56  Inexact Rounded\r
 196 ddintx224 tointegralx    -56.5   -> -57  Inexact Rounded\r
 197 ddintx225 tointegralx    -57.5   -> -58  Inexact Rounded\r
 198 \r
 199 rounding:    half_down\r
 200 \r
 201 ddintx230 tointegralx     55.5   ->  55  Inexact Rounded\r
 202 ddintx231 tointegralx     56.5   ->  56  Inexact Rounded\r
 203 ddintx232 tointegralx     57.5   ->  57  Inexact Rounded\r
 204 ddintx233 tointegralx    -55.5   -> -55  Inexact Rounded\r
 205 ddintx234 tointegralx    -56.5   -> -56  Inexact Rounded\r
 206 ddintx235 tointegralx    -57.5   -> -57  Inexact Rounded\r
 207 \r
 208 rounding:    up\r
 209 \r
 210 ddintx240 tointegralx     55.3   ->  56  Inexact Rounded\r
 211 ddintx241 tointegralx     56.3   ->  57  Inexact Rounded\r
 212 ddintx242 tointegralx     57.3   ->  58  Inexact Rounded\r
 213 ddintx243 tointegralx    -55.3   -> -56  Inexact Rounded\r
 214 ddintx244 tointegralx    -56.3   -> -57  Inexact Rounded\r
 215 ddintx245 tointegralx    -57.3   -> -58  Inexact Rounded\r
 216 \r
 217 rounding:    down\r
 218 \r
 219 ddintx250 tointegralx     55.7   ->  55  Inexact Rounded\r
 220 ddintx251 tointegralx     56.7   ->  56  Inexact Rounded\r
 221 ddintx252 tointegralx     57.7   ->  57  Inexact Rounded\r
 222 ddintx253 tointegralx    -55.7   -> -55  Inexact Rounded\r
 223 ddintx254 tointegralx    -56.7   -> -56  Inexact Rounded\r
 224 ddintx255 tointegralx    -57.7   -> -57  Inexact Rounded\r
 225 \r
 226 rounding:    ceiling\r
 227 \r
 228 ddintx260 tointegralx     55.3   ->  56  Inexact Rounded\r
 229 ddintx261 tointegralx     56.3   ->  57  Inexact Rounded\r
 230 ddintx262 tointegralx     57.3   ->  58  Inexact Rounded\r
 231 ddintx263 tointegralx    -55.3   -> -55  Inexact Rounded\r
 232 ddintx264 tointegralx    -56.3   -> -56  Inexact Rounded\r
 233 ddintx265 tointegralx    -57.3   -> -57  Inexact Rounded\r
 234 \r
 235 rounding:    floor\r
 236 \r
 237 ddintx270 tointegralx     55.7   ->  55  Inexact Rounded\r
 238 ddintx271 tointegralx     56.7   ->  56  Inexact Rounded\r
 239 ddintx272 tointegralx     57.7   ->  57  Inexact Rounded\r
 240 ddintx273 tointegralx    -55.7   -> -56  Inexact Rounded\r
 241 ddintx274 tointegralx    -56.7   -> -57  Inexact Rounded\r
 242 ddintx275 tointegralx    -57.7   -> -58  Inexact Rounded\r
 243 \r
 244 -- Int and uInt32 edge values for testing conversions\r
 245 ddintx300 tointegralx -2147483646  -> -2147483646\r
 246 ddintx301 tointegralx -2147483647  -> -2147483647\r
 247 ddintx302 tointegralx -2147483648  -> -2147483648\r
 248 ddintx303 tointegralx -2147483649  -> -2147483649\r
 249 ddintx304 tointegralx  2147483646  ->  2147483646\r
 250 ddintx305 tointegralx  2147483647  ->  2147483647\r
 251 ddintx306 tointegralx  2147483648  ->  2147483648\r
 252 ddintx307 tointegralx  2147483649  ->  2147483649\r
 253 ddintx308 tointegralx  4294967294  ->  4294967294\r
 254 ddintx309 tointegralx  4294967295  ->  4294967295\r
 255 ddintx310 tointegralx  4294967296  ->  4294967296\r
 256 ddintx311 tointegralx  4294967297  ->  4294967297\r
 257 \r