deps/v8/test/test262/test262.status

   1 # Copyright 2011 the V8 project authors. All rights reserved.
   2 # Redistribution and use in source and binary forms, with or without
   3 # modification, are permitted provided that the following conditions are
   4 # met:
   5 #
   6 #     * Redistributions of source code must retain the above copyright
   7 #       notice, this list of conditions and the following disclaimer.
   8 #     * Redistributions in binary form must reproduce the above
   9 #       copyright notice, this list of conditions and the following
  10 #       disclaimer in the documentation and/or other materials provided
  11 #       with the distribution.
  12 #     * Neither the name of Google Inc. nor the names of its
  13 #       contributors may be used to endorse or promote products derived
  14 #       from this software without specific prior written permission.
  15 #
  16 # THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
  17 # "AS IS" AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
  18 # LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR
  19 # A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT
  20 # OWNER OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
  21 # SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT
  22 # LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE,
  23 # DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY
  24 # THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
  25 # (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE
  26 # OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
  27
  28 [
  29 [ALWAYS, {
  30   ############################### BUGS ###################################
  31
  32   '15.5.4.9_CE': [['no_i18n', SKIP]],
  33
  34   # BUG(v8:3455)
  35   '11.2.3_b': [FAIL],
  36   '12.2.3_b': [FAIL],
  37
  38   ############################### ES6 ###################################
  39   # ES6 allows block-local functions.
  40   'Sbp_A1_T1': [PASS, FAIL_OK],
  41   'Sbp_A2_T1': [PASS, FAIL_OK],
  42   'Sbp_A2_T2': [PASS, FAIL_OK],
  43   'Sbp_A3_T1': [PASS, FAIL_OK],
  44   'Sbp_A3_T2': [PASS, FAIL_OK],
  45   'Sbp_A4_T1': [PASS, FAIL_OK],
  46   'Sbp_A4_T2': [PASS, FAIL_OK],
  47   'Sbp_A5_T1': [PASS], # Test is broken (strict reference to unbound variable)
  48   'Sbp_A5_T2': [PASS, FAIL_OK],
  49
  50   # Passes in ES6 since {__arr} syntax is parsed as object literal.
  51   'S12.1_A4_T2': [PASS, FAIL_OK],
  52   'S12.6.4_A15': [PASS, FAIL_OK],
  53
  54   # ES6 allows duplicate properties
  55   '11.1.5-4-4-a-1-s': [FAIL],
  56   '11.1.5_4-4-b-1': [FAIL],
  57   '11.1.5_4-4-b-2': [FAIL],
  58   '11.1.5_4-4-c-1': [FAIL],
  59   '11.1.5_4-4-c-2': [FAIL],
  60   '11.1.5_4-4-d-1': [FAIL],
  61   '11.1.5_4-4-d-2': [FAIL],
  62   '11.1.5_4-4-d-3': [FAIL],
  63   '11.1.5_4-4-d-4': [FAIL],
  64
  65   # Function length properties are configurable in ES6
  66   '10.1_L15': [FAIL],
  67   '10.2.2_L15': [FAIL],
  68   '10.3.2_1_a_L15': [FAIL],
  69   '10.3.2_L15': [FAIL],
  70   '10.3.3_L15': [FAIL],
  71   '11.1_L15': [FAIL],
  72   '11.2.2_L15': [FAIL],
  73   '11.3.2_1_a_L15': [FAIL],
  74   '11.3.2_L15': [FAIL],
  75   '11.3.3_L15': [FAIL],
  76   '11.4.1-5-a-28-s': [FAIL],
  77   '12.1_L15': [FAIL],
  78   '12.2.2_L15': [FAIL],
  79   '12.3.2_1_a_L15': [FAIL],
  80   '12.3.2_L15': [FAIL],
  81   '12.3.3_L15': [FAIL],
  82   '13.1.1_L15': [FAIL],
  83   '13.2-15-1': [FAIL],
  84   '13.2.1_L15': [FAIL],
  85   '13.3.1_L15': [FAIL],
  86   '13.3.2_L15': [FAIL],
  87   '13.3.3_L15': [FAIL],
  88   '15.2.3.3-4-186': [FAIL],
  89   '15.2.3.3-4-187': [FAIL],
  90   '15.2.3.3-4-191': [FAIL],
  91   '15.2.3.3-4-194': [FAIL],
  92   '15.2.3.3-4-201': [FAIL],
  93   '15.3.3.2-1': [FAIL],
  94   'S15.1.2.1_A4.2': [FAIL],
  95   'S15.1.2.2_A9.2': [FAIL],
  96   'S15.1.2.3_A7.2': [FAIL],
  97   'S15.1.2.4_A2.2': [FAIL],
  98   'S15.1.2.5_A2.2': [FAIL],
  99   'S15.1.3.1_A5.2': [FAIL],
 100   'S15.1.3.2_A5.2': [FAIL],
 101   'S15.1.3.3_A5.2': [FAIL],
 102   'S15.1.3.4_A5.2': [FAIL],
 103   'S15.10.6.2_A9': [FAIL],
 104   'S15.10.6.3_A9': [FAIL],
 105   'S15.10.6.4_A9': [FAIL],
 106   'S15.2.4.2_A9': [FAIL],
 107   'S15.2.4.3_A9': [FAIL],
 108   'S15.2.4.4_A9': [FAIL],
 109   'S15.2.4.5_A9': [FAIL],
 110   'S15.2.4.6_A9': [FAIL],
 111   'S15.2.4.7_A9': [FAIL],
 112   'S15.3.4.2_A9': [FAIL],
 113   'S15.3.4.3_A9': [FAIL],
 114   'S15.3.4.4_A9': [FAIL],
 115   'S15.3.5.1_A2_T1': [FAIL],
 116   'S15.3.5.1_A2_T2': [FAIL],
 117   'S15.3.5.1_A2_T3': [FAIL],
 118   'S15.4.3_A2.2': [FAIL],
 119   'S15.4.4.10_A5.2': [FAIL],
 120   'S15.4.4.11_A7.2': [FAIL],
 121   'S15.4.4.12_A5.2': [FAIL],
 122   'S15.4.4.13_A5.2': [FAIL],
 123   'S15.4.4.2_A4.2': [FAIL],
 124   'S15.4.4.3_A4.2': [FAIL],
 125   'S15.4.4.4_A4.2': [FAIL],
 126   'S15.4.4.5_A6.2': [FAIL],
 127   'S15.4.4.6_A5.2': [FAIL],
 128   'S15.4.4.7_A6.2': [FAIL],
 129   'S15.4.4.8_A5.2': [FAIL],
 130   'S15.4.4.9_A5.2': [FAIL],
 131   'S15.5.4.10_A9': [FAIL],
 132   'S15.5.4.11_A9': [FAIL],
 133   'S15.5.4.12_A9': [FAIL],
 134   'S15.5.4.13_A9': [FAIL],
 135   'S15.5.4.14_A9': [FAIL],
 136   'S15.5.4.15_A9': [FAIL],
 137   'S15.5.4.16_A9': [FAIL],
 138   'S15.5.4.17_A9': [FAIL],
 139   'S15.5.4.18_A9': [FAIL],
 140   'S15.5.4.19_A9': [FAIL],
 141   'S15.5.4.4_A9': [FAIL],
 142   'S15.5.4.5_A9': [FAIL],
 143   'S15.5.4.6_A9': [FAIL],
 144   'S15.5.4.7_A9': [FAIL],
 145   'S15.5.4.8_A9': [FAIL],
 146   'S15.5.4.9_A9': [FAIL],
 147   'S15.9.4.2_A3_T2': [FAIL],
 148   'S15.9.4.3_A3_T2': [FAIL],
 149   'S15.9.5.10_A3_T2': [FAIL],
 150   'S15.9.5.11_A3_T2': [FAIL],
 151   'S15.9.5.12_A3_T2': [FAIL],
 152   'S15.9.5.13_A3_T2': [FAIL],
 153   'S15.9.5.14_A3_T2': [FAIL],
 154   'S15.9.5.15_A3_T2': [FAIL],
 155   'S15.9.5.16_A3_T2': [FAIL],
 156   'S15.9.5.17_A3_T2': [FAIL],
 157   'S15.9.5.18_A3_T2': [FAIL],
 158   'S15.9.5.19_A3_T2': [FAIL],
 159   'S15.9.5.1_A3_T2': [FAIL],
 160   'S15.9.5.20_A3_T2': [FAIL],
 161   'S15.9.5.21_A3_T2': [FAIL],
 162   'S15.9.5.22_A3_T2': [FAIL],
 163   'S15.9.5.23_A3_T2': [FAIL],
 164   'S15.9.5.24_A3_T2': [FAIL],
 165   'S15.9.5.25_A3_T2': [FAIL],
 166   'S15.9.5.26_A3_T2': [FAIL],
 167   'S15.9.5.27_A3_T2': [FAIL],
 168   'S15.9.5.28_A3_T2': [FAIL],
 169   'S15.9.5.29_A3_T2': [FAIL],
 170   'S15.9.5.2_A3_T2': [FAIL],
 171   'S15.9.5.30_A3_T2': [FAIL],
 172   'S15.9.5.31_A3_T2': [FAIL],
 173   'S15.9.5.32_A3_T2': [FAIL],
 174   'S15.9.5.33_A3_T2': [FAIL],
 175   'S15.9.5.34_A3_T2': [FAIL],
 176   'S15.9.5.35_A3_T2': [FAIL],
 177   'S15.9.5.36_A3_T2': [FAIL],
 178   'S15.9.5.37_A3_T2': [FAIL],
 179   'S15.9.5.38_A3_T2': [FAIL],
 180   'S15.9.5.39_A3_T2': [FAIL],
 181   'S15.9.5.3_A3_T2': [FAIL],
 182   'S15.9.5.40_A3_T2': [FAIL],
 183   'S15.9.5.41_A3_T2': [FAIL],
 184   'S15.9.5.42_A3_T2': [FAIL],
 185   'S15.9.5.4_A3_T2': [FAIL],
 186   'S15.9.5.5_A3_T2': [FAIL],
 187   'S15.9.5.6_A3_T2': [FAIL],
 188   'S15.9.5.7_A3_T2': [FAIL],
 189   'S15.9.5.8_A3_T2': [FAIL],
 190   'S15.9.5.9_A3_T2': [FAIL],
 191
 192   ######################## NEEDS INVESTIGATION ###########################
 193
 194   # These test failures are specific to the intl402 suite and need investigation
 195   # to be either marked as bugs with issues filed for them or as deliberate
 196   # incompatibilities if the test cases turn out to be broken or ambiguous.
 197   '6.2.3': [FAIL],
 198   '9.2.1_2': [FAIL],
 199   '9.2.6_2': [FAIL],
 200   '10.1.1_a': [FAIL],
 201   '10.1.1_19_c': [PASS, FAIL, NO_VARIANTS],
 202   '10.1.2.1_4': [FAIL],
 203   '10.2.3_b': [PASS, FAIL],
 204   '10.3_a': [FAIL],
 205   '11.1.1_17': [PASS, FAIL],
 206   '11.1.1_19': [PASS, FAIL],
 207   '11.1.1_20_c': [FAIL],
 208   '11.1.1_a': [FAIL],
 209   '11.1.2.1_4': [FAIL],
 210   '11.3.2_FN_2': [PASS, FAIL],
 211   '11.3.2_TRF': [PASS, FAIL],
 212   '11.3_a': [FAIL],
 213   '12.1.1_a': [FAIL],
 214   '12.1.2.1_4': [FAIL],
 215   '12.3.2_FDT_7_a_iv': [FAIL],
 216   '12.3.3': [FAIL],
 217   '12.3_a': [FAIL],
 218   '15.5.4.9_3': [PASS, FAIL],
 219
 220   ##################### DELIBERATE INCOMPATIBILITIES #####################
 221
 222   'S15.8.2.8_A6': [PASS, FAIL_OK],  # Math.exp (less precise with --fast-math)
 223
 224   # Linux for ia32 (and therefore simulators) default to extended 80 bit
 225   # floating point formats, so these tests checking 64-bit FP precision fail.
 226   # The other platforms/arch's pass these tests.
 227   # We follow the other major JS engines by keeping this default.
 228   'S8.5_A2.1': [PASS, FAIL_OK],
 229   'S8.5_A2.2': [PASS, FAIL_OK],
 230
 231   ############################ INVALID TESTS #############################
 232
 233   # The reference value calculated by Test262 is incorrect if you run these
 234   # tests in PST/PDT between first Sunday in March and first Sunday in April.
 235   # The DST switch was moved in 2007 whereas Test262 bases the reference value
 236   # on 2000. Test262 Bug: https://bugs.ecmascript.org/show_bug.cgi?id=293
 237   'S15.9.3.1_A5_T1': [PASS, FAIL_OK],
 238   'S15.9.3.1_A5_T2': [PASS, FAIL_OK],
 239   'S15.9.3.1_A5_T3': [PASS, FAIL_OK],
 240   'S15.9.3.1_A5_T4': [PASS, FAIL_OK],
 241   'S15.9.3.1_A5_T5': [PASS, FAIL_OK],
 242   'S15.9.3.1_A5_T6': [PASS, FAIL_OK],
 243
 244   # ObjectKeys() no longer throws TypeError when passed a primitive value which
 245   # is not null or undefined (per ES6).
 246   '15.2.3.14-1-1': [FAIL_OK],
 247   '15.2.3.14-1-2': [FAIL_OK],
 248   '15.2.3.14-1-3': [FAIL_OK],
 249
 250   # Object.getOwnPropertyNames(O) no longer throws when passed a primitive value.
 251   '15.2.3.4-1-4': [FAIL_OK],
 252   '15.2.3.4-1-5': [FAIL_OK],
 253   '15.2.3.4-1': [FAIL_OK],
 254
 255   ############################ SKIPPED TESTS #############################
 256
 257   # These tests take a looong time to run in debug mode.
 258   'S15.1.3.1_A2.5_T1': [PASS, ['mode == debug', SKIP]],
 259   'S15.1.3.2_A2.5_T1': [PASS, ['mode == debug', SKIP]],
 260 }],  # ALWAYS
 261
 262 ['system == macos', {
 263   '11.3.2_TRP': [FAIL],
 264   '9.2.5_11_g_ii_2': [FAIL],
 265 }],  # system == macos
 266
 267 ['arch == arm or arch == mipsel or arch == mips or arch == arm64 or arch == mips64el', {
 268
 269   # TODO(mstarzinger): Causes stack overflow on simulators due to eager
 270   # compilation of parenthesized function literals. Needs investigation.
 271   'S13.2.1_A1_T1': [SKIP],
 272
 273   # BUG(3251225): Tests that timeout with --nocrankshaft.
 274   'S15.1.3.1_A2.4_T1': [SKIP],
 275   'S15.1.3.1_A2.5_T1': [SKIP],
 276   'S15.1.3.2_A2.4_T1': [SKIP],
 277   'S15.1.3.2_A2.5_T1': [SKIP],
 278   'S15.1.3.3_A2.3_T1': [SKIP],
 279   'S15.1.3.4_A2.3_T1': [SKIP],
 280 }],  # 'arch == arm or arch == mipsel or arch == mips or arch == arm64'
 281 ]