src/v8/test/test262-es6/test262-es6.status

   1 # Copyright 2011 the V8 project authors. All rights reserved.
   2 # Redistribution and use in source and binary forms, with or without
   3 # modification, are permitted provided that the following conditions are
   4 # met:
   5 #
   6 #     * Redistributions of source code must retain the above copyright
   7 #       notice, this list of conditions and the following disclaimer.
   8 #     * Redistributions in binary form must reproduce the above
   9 #       copyright notice, this list of conditions and the following
  10 #       disclaimer in the documentation and/or other materials provided
  11 #       with the distribution.
  12 #     * Neither the name of Google Inc. nor the names of its
  13 #       contributors may be used to endorse or promote products derived
  14 #       from this software without specific prior written permission.
  15 #
  16 # THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
  17 # "AS IS" AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
  18 # LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR
  19 # A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT
  20 # OWNER OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
  21 # SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT
  22 # LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE,
  23 # DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY
  24 # THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
  25 # (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE
  26 # OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
  27
  28 [
  29 [ALWAYS, {
  30   ############################### BUGS ###################################
  31
  32   # BUG(v8:3455)
  33   '11.2.3_b': [FAIL],
  34   '12.2.3_b': [FAIL],
  35
  36   # Unicode canonicalization is not available with i18n turned off.
  37   '15.5.4.9_CE': [['no_i18n', SKIP]],
  38
  39   ###################### NEEDS INVESTIGATION #######################
  40
  41   # Possibly same cause as S8.5_A2.1, below: floating-point tests.
  42   'S15.8.2.16_A7': [PASS, FAIL_OK],
  43   'S15.8.2.18_A7': [PASS, FAIL_OK],
  44   'S15.8.2.7_A7': [PASS, FAIL_OK],
  45
  46   # This is an incompatibility between ES5 and V8 on enumerating
  47   # shadowed elements in a for..in loop.
  48   # https://code.google.com/p/v8/issues/detail?id=705
  49   '12.6.4-2': [PASS, FAIL_OK],
  50
  51   ###################### MISSING ES6 FEATURES #######################
  52
  53   # Array.fill (currently requires --harmony-arrays)
  54   'S22.1.3.6_T1': [FAIL],
  55
  56   # Array.find (currently requires --harmony-arrays)
  57   'S22.1.2.3_T1': [FAIL],
  58   'S22.1.2.3_T2': [FAIL],
  59   'Array.prototype.find_empty-array-undefined': [FAIL],
  60   'Array.prototype.find_length-property': [FAIL],
  61   'Array.prototype.find_modify-after-start': [FAIL],
  62   'Array.prototype.find_non-returning-predicate': [FAIL],
  63   'Array.prototype.find_predicate-arguments': [FAIL],
  64   'Array.prototype.find_push-after-start': [FAIL],
  65   'Array.prototype.find_remove-after-start': [FAIL],
  66   'Array.prototype.find_return-found-value': [FAIL],
  67   'Array.prototype.find_skip-empty': [FAIL],
  68   'Array.prototype.find_this-defined': [FAIL],
  69   'Array.prototype.find_this-is-object': [FAIL],
  70   'Array.prototype.find_this-undefined': [FAIL],
  71
  72   # Array.from
  73   'S22.1.2.1_T1': [FAIL],
  74   'S22.1.2.1_T2': [FAIL],
  75
  76   # Direct proxies
  77   'Array.prototype.find_callable-predicate': [FAIL],
  78
  79   ######################## OBSOLETED BY ES6 ###########################
  80
  81   # ES6 allows duplicate properties
  82   # TODO(arv): Reactivate when check removal has relanded.
  83   # '11.1.5-4-4-a-1-s': [FAIL],
  84   # '11.1.5_4-4-b-1': [FAIL],
  85   # '11.1.5_4-4-b-2': [FAIL],
  86   # '11.1.5_4-4-c-1': [FAIL],
  87   # '11.1.5_4-4-c-2': [FAIL],
  88   # '11.1.5_4-4-d-1': [FAIL],
  89   # '11.1.5_4-4-d-2': [FAIL],
  90   # '11.1.5_4-4-d-3': [FAIL],
  91   # '11.1.5_4-4-d-4': [FAIL],
  92
  93   # ES6 does ToObject for Object.prototype.getOwnPropertyNames
  94   '15.2.3.4-1': [FAIL],
  95   '15.2.3.4-1-4': [FAIL],
  96   '15.2.3.4-1-5': [FAIL],
  97
  98   # ES6 allows block-local functions.
  99   'Sbp_A1_T1': [FAIL],
 100   'Sbp_A2_T1': [FAIL],
 101   'Sbp_A2_T2': [FAIL],
 102   'Sbp_A3_T1': [FAIL],
 103   'Sbp_A3_T2': [FAIL],
 104   'Sbp_A4_T1': [FAIL],
 105   'Sbp_A4_T2': [FAIL],
 106   'Sbp_A5_T1': [PASS], # Test is broken (strict reference to unbound variable)
 107   'Sbp_A5_T2': [FAIL],
 108
 109   ######################## NEEDS INVESTIGATION ###########################
 110
 111   # These test failures are specific to the intl402 suite and need investigation
 112   # to be either marked as bugs with issues filed for them or as deliberate
 113   # incompatibilities if the test cases turn out to be broken or ambiguous.
 114   '6.2.3': [FAIL],
 115   '9.2.1_2': [FAIL],
 116   '9.2.6_2': [FAIL],
 117   '10.1.1_a': [FAIL],
 118   '10.1.1_19_c': [PASS, FAIL, NO_VARIANTS],
 119   '10.1.2.1_4': [FAIL],
 120   '10.2.3_b': [PASS, FAIL],
 121   '10.3_a': [FAIL],
 122   '11.1.1_17': [PASS, FAIL],
 123   '11.1.1_19': [PASS, FAIL],
 124   '11.1.1_20_c': [FAIL],
 125   '11.1.1_a': [FAIL],
 126   '11.1.2.1_4': [FAIL],
 127   '11.3.2_FN_2': [PASS, FAIL],
 128   '11.3.2_TRF': [PASS, FAIL],
 129   '11.3_a': [FAIL],
 130   '12.1.1_a': [FAIL],
 131   '12.1.2.1_4': [FAIL],
 132   '12.3.2_FDT_7_a_iv': [FAIL],
 133   '12.3.3': [FAIL],
 134   '12.3_a': [FAIL],
 135   '15.5.4.9_3': [PASS, FAIL],
 136
 137   ##################### DELIBERATE INCOMPATIBILITIES #####################
 138
 139   'S15.8.2.8_A6': [PASS, FAIL_OK],  # Math.exp (less precise with --fast-math)
 140
 141   # Linux for ia32 (and therefore simulators) default to extended 80 bit
 142   # floating point formats, so these tests checking 64-bit FP precision fail.
 143   # The other platforms/arch's pass these tests.
 144   # We follow the other major JS engines by keeping this default.
 145   'S8.5_A2.1': [PASS, FAIL_OK],
 146   'S8.5_A2.2': [PASS, FAIL_OK],
 147
 148   ############################ INVALID TESTS #############################
 149
 150   # The reference value calculated by Test262 is incorrect if you run these
 151   # tests in PST/PDT between first Sunday in March and first Sunday in April.
 152   # The DST switch was moved in 2007 whereas Test262 bases the reference value
 153   # on 2000. Test262 Bug: https://bugs.ecmascript.org/show_bug.cgi?id=293
 154   'S15.9.3.1_A5_T1': [PASS, FAIL_OK],
 155   'S15.9.3.1_A5_T2': [PASS, FAIL_OK],
 156   'S15.9.3.1_A5_T3': [PASS, FAIL_OK],
 157   'S15.9.3.1_A5_T4': [PASS, FAIL_OK],
 158   'S15.9.3.1_A5_T5': [PASS, FAIL_OK],
 159   'S15.9.3.1_A5_T6': [PASS, FAIL_OK],
 160
 161   # Test makes unjustified assumptions about the number of calls to SortCompare.
 162   # Test262 Bug: https://bugs.ecmascript.org/show_bug.cgi?id=596
 163   'bug_596_1': [PASS, FAIL_OK],
 164
 165   # Tests do not return boolean.
 166   '15.2.3.14-1-1': [PASS, FAIL_OK],
 167   '15.2.3.14-1-2': [PASS, FAIL_OK],
 168   '15.2.3.14-1-3': [PASS, FAIL_OK],
 169
 170   ############################ SKIPPED TESTS #############################
 171
 172   # These tests take a looong time to run in debug mode.
 173   'S15.1.3.1_A2.5_T1': [PASS, ['mode == debug', SKIP]],
 174   'S15.1.3.2_A2.5_T1': [PASS, ['mode == debug', SKIP]],
 175 }],  # ALWAYS
 176
 177 ['system == macos', {
 178   '11.3.2_TRP': [FAIL],
 179   '9.2.5_11_g_ii_2': [FAIL],
 180 }],  # system == macos
 181
 182 ['arch == arm or arch == mipsel or arch == mips or arch == arm64 or arch == mips64el', {
 183
 184   # TODO(mstarzinger): Causes stack overflow on simulators due to eager
 185   # compilation of parenthesized function literals. Needs investigation.
 186   'S13.2.1_A1_T1': [SKIP],
 187
 188   # BUG(3251225): Tests that timeout with --nocrankshaft.
 189   'S15.1.3.1_A2.4_T1': [SKIP],
 190   'S15.1.3.1_A2.5_T1': [SKIP],
 191   'S15.1.3.2_A2.4_T1': [SKIP],
 192   'S15.1.3.2_A2.5_T1': [SKIP],
 193   'S15.1.3.3_A2.3_T1': [SKIP],
 194   'S15.1.3.4_A2.3_T1': [SKIP],
 195 }],  # 'arch == arm or arch == mipsel or arch == mips or arch == arm64'
 196 ]