src/v8/test/test262/test262.status

   1 # Copyright 2011 the V8 project authors. All rights reserved.
   2 # Redistribution and use in source and binary forms, with or without
   3 # modification, are permitted provided that the following conditions are
   4 # met:
   5 #
   6 #     * Redistributions of source code must retain the above copyright
   7 #       notice, this list of conditions and the following disclaimer.
   8 #     * Redistributions in binary form must reproduce the above
   9 #       copyright notice, this list of conditions and the following
  10 #       disclaimer in the documentation and/or other materials provided
  11 #       with the distribution.
  12 #     * Neither the name of Google Inc. nor the names of its
  13 #       contributors may be used to endorse or promote products derived
  14 #       from this software without specific prior written permission.
  15 #
  16 # THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
  17 # "AS IS" AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
  18 # LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR
  19 # A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT
  20 # OWNER OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
  21 # SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT
  22 # LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE,
  23 # DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY
  24 # THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
  25 # (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE
  26 # OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
  27
  28 [
  29 [ALWAYS, {
  30   ############################### BUGS ###################################
  31
  32   '15.5.4.9_CE': [['no_i18n', SKIP]],
  33
  34   ######################## NEEDS INVESTIGATION ###########################
  35
  36   # These test failures are specific to the intl402 suite and need investigation
  37   # to be either marked as bugs with issues filed for them or as deliberate
  38   # incompatibilities if the test cases turn out to be broken or ambiguous.
  39   '6.2.3': [FAIL],
  40   '9.2.1_2': [FAIL],
  41   '9.2.5_11_g_ii_2': [FAIL],
  42   '9.2.6_2': [FAIL],
  43   '10.1.1_a': [FAIL],
  44   '10.1.1_19_c': [PASS, FAIL],
  45   '10.1.2.1_4': [FAIL],
  46   '10.2.3_b': [PASS, FAIL],
  47   '10.3_a': [FAIL],
  48   '11.1.1_17': [PASS, FAIL],
  49   '11.1.1_19': [PASS, FAIL],
  50   '11.1.1_20_c': [FAIL],
  51   '11.1.1_a': [FAIL],
  52   '11.1.2.1_4': [FAIL],
  53   '11.3.2_FN_2': [PASS, FAIL],
  54   '11.3.2_TRF': [PASS, FAIL],
  55   '11.3.2_TRP': [FAIL],
  56   '11.3_a': [FAIL],
  57   '12.1.1_a': [FAIL],
  58   '12.1.2.1_4': [FAIL],
  59   '12.3.2_FDT_7_a_iv': [FAIL],
  60   '12.3.3': [FAIL],
  61   '12.3_a': [FAIL],
  62   '15.5.4.9_3': [PASS, FAIL],
  63
  64   ##################### DELIBERATE INCOMPATIBILITIES #####################
  65
  66   # This tests precision of Math functions.  The implementation for those
  67   # trigonometric functions are platform/compiler dependent.  Furthermore, the
  68   # expectation values by far deviates from the actual result given by an
  69   # arbitrary-precision calculator, making those tests partly bogus.
  70   'S15.8.2.7_A7': [PASS, FAIL_OK],  # Math.cos
  71   'S15.8.2.8_A6': [PASS, FAIL_OK],  # Math.exp (less precise with --fast-math)
  72   'S15.8.2.16_A7': [PASS, FAIL_OK],  # Math.sin
  73   'S15.8.2.18_A7': [PASS, FAIL_OK],  # Math.tan
  74
  75   # Linux for ia32 (and therefore simulators) default to extended 80 bit
  76   # floating point formats, so these tests checking 64-bit FP precision fail.
  77   # The other platforms/arch's pass these tests.
  78   # We follow the other major JS engines by keeping this default.
  79   'S8.5_A2.1': [PASS, FAIL_OK],
  80   'S8.5_A2.2': [PASS, FAIL_OK],
  81
  82   ############################ INVALID TESTS #############################
  83
  84   # The reference value calculated by Test262 is incorrect if you run these
  85   # tests in PST/PDT between first Sunday in March and first Sunday in April.
  86   # The DST switch was moved in 2007 whereas Test262 bases the reference value
  87   # on 2000. Test262 Bug: https://bugs.ecmascript.org/show_bug.cgi?id=293
  88   'S15.9.3.1_A5_T1': [PASS, FAIL_OK],
  89   'S15.9.3.1_A5_T2': [PASS, FAIL_OK],
  90   'S15.9.3.1_A5_T3': [PASS, FAIL_OK],
  91   'S15.9.3.1_A5_T4': [PASS, FAIL_OK],
  92   'S15.9.3.1_A5_T5': [PASS, FAIL_OK],
  93   'S15.9.3.1_A5_T6': [PASS, FAIL_OK],
  94
  95   ############################ SKIPPED TESTS #############################
  96
  97   # These tests take a looong time to run in debug mode.
  98   'S15.1.3.1_A2.5_T1': [PASS, ['mode == debug', SKIP]],
  99   'S15.1.3.2_A2.5_T1': [PASS, ['mode == debug', SKIP]],
 100 }],  # ALWAYS
 101
 102 ['arch == arm or arch == mipsel or arch == mips or arch == arm64', {
 103
 104   # TODO(mstarzinger): Causes stack overflow on simulators due to eager
 105   # compilation of parenthesized function literals. Needs investigation.
 106   'S13.2.1_A1_T1': [SKIP],
 107
 108   # BUG(3251225): Tests that timeout with --nocrankshaft.
 109   'S15.1.3.1_A2.4_T1': [SKIP],
 110   'S15.1.3.1_A2.5_T1': [SKIP],
 111   'S15.1.3.2_A2.4_T1': [SKIP],
 112   'S15.1.3.2_A2.5_T1': [SKIP],
 113   'S15.1.3.3_A2.3_T1': [SKIP],
 114   'S15.1.3.4_A2.3_T1': [SKIP],
 115 }],  # 'arch == arm or arch == mipsel or arch == mips or arch == arm64'
 116 ]