src/v8/test/cctest/cctest.status

   1 # Copyright 2011 the V8 project authors. All rights reserved.
   2 # Redistribution and use in source and binary forms, with or without
   3 # modification, are permitted provided that the following conditions are
   4 # met:
   5 #
   6 #     * Redistributions of source code must retain the above copyright
   7 #       notice, this list of conditions and the following disclaimer.
   8 #     * Redistributions in binary form must reproduce the above
   9 #       copyright notice, this list of conditions and the following
  10 #       disclaimer in the documentation and/or other materials provided
  11 #       with the distribution.
  12 #     * Neither the name of Google Inc. nor the names of its
  13 #       contributors may be used to endorse or promote products derived
  14 #       from this software without specific prior written permission.
  15 #
  16 # THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
  17 # "AS IS" AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
  18 # LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR
  19 # A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT
  20 # OWNER OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
  21 # SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT
  22 # LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE,
  23 # DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY
  24 # THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
  25 # (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE
  26 # OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
  27
  28 [
  29 [ALWAYS, {
  30   # All tests prefixed with 'Bug' are expected to fail.
  31   'test-api/Bug*': [FAIL],
  32
  33   ##############################################################################
  34   # BUG(382): Weird test. Can't guarantee that it never times out.
  35   'test-api/ApplyInterruption': [PASS, TIMEOUT],
  36
  37   # TODO(mstarzinger): Fail gracefully on multiple V8::Dispose calls.
  38   'test-api/InitializeAndDisposeOnce': [SKIP],
  39   'test-api/InitializeAndDisposeMultiple': [SKIP],
  40
  41   # These tests always fail.  They are here to test test.py.  If
  42   # they don't fail then test.py has failed.
  43   'test-serialize/TestThatAlwaysFails': [FAIL],
  44   'test-serialize/DependentTestThatAlwaysFails': [FAIL],
  45
  46   # This test always fails.  It tests that LiveEdit causes abort when turned off.
  47   'test-debug/LiveEditDisabled': [FAIL],
  48
  49   # This test always fails.  It tests that DisallowJavascriptExecutionScope
  50   # works as intended.
  51   'test-api/DisallowJavascriptExecutionScope': [FAIL],
  52
  53   # TODO(gc): Temporarily disabled in the GC branch.
  54   'test-log/EquivalenceOfLoggingAndTraversal': [PASS, FAIL],
  55
  56   # We do not yet shrink weak maps after they have been emptied by the GC
  57   'test-weakmaps/Shrinking': [FAIL],
  58   'test-weaksets/WeakSet_Shrinking': [FAIL],
  59
  60   # Boot up memory use is bloated in debug mode.
  61   'test-mark-compact/BootUpMemoryUse': [PASS, PASS, ['mode == debug', FAIL]],
  62
  63   # This tests only that the preparser and parser agree, so there is no point in
  64   # running several variants. Note that this still takes ages, because there
  65   # are actually 13 * 38 * 5 * 128 = 316160 individual tests hidden here.
  66   'test-parsing/ParserSync': [PASS, NO_VARIANTS],
  67
  68   # This tests only the type system, so there is no point in running several
  69   # variants.
  70   'test-hydrogen-types/*': [PASS, NO_VARIANTS],
  71   # TODO(ningxin): Temporarily disabled in M37, look at this in M38.
  72   'test-types/Distributivity1': [SKIP],
  73   'test-types/*': [PASS, NO_VARIANTS],
  74
  75   # The cpu profiler tests are notoriously flaky.
  76   # BUG(2999). (test/cpu-profiler/CollectCpuProfile)
  77   # BUG(3287). (test-cpu-profiler/SampleWhenFrameIsNotSetup)
  78   'test-cpu-profiler/*': [PASS, FLAKY],
  79
  80   # BUG(crbug/386492). This will be fixed by r22029.
  81   'test-debug/ThreadedDebugging': [PASS, FAIL],
  82
  83   ############################################################################
  84   # Slow tests.
  85   'test-api/Threading1': [PASS, ['mode == debug', SLOW]],
  86   'test-api/Threading2': [PASS, ['mode == debug', SLOW]],
  87   'test-api/Threading3': [PASS, ['mode == debug', SLOW]],
  88   'test-api/Threading4': [PASS, ['mode == debug', SLOW]],
  89   'test-strings/StringOOM*': [PASS, ['mode == debug', SKIP]],
  90 }],  # ALWAYS
  91
  92 ##############################################################################
  93 ['arch == arm64', {
  94
  95   'test-api/Bug618': [PASS],
  96
  97   # BUG(v8:3385).
  98   'test-serialize/DeserializeFromSecondSerialization': [PASS, FAIL],
  99   'test-serialize/DeserializeFromSecondSerializationAndRunScript2': [PASS, FAIL],
 100
 101   # BUG(v8:2999).
 102   'test-cpu-profiler/CollectCpuProfile': [PASS, FAIL],
 103
 104   # BUG(v8:3154).
 105   'test-heap/ReleaseOverReservedPages': [PASS, FAIL],
 106
 107   # BUG(v8:3155).
 108   'test-strings/AsciiArrayJoin': [PASS, ['mode == debug', FAIL]],
 109
 110   # BUG(v8:3247).
 111   'test-mark-compact/NoPromotion': [SKIP],
 112 }],  # 'arch == arm64'
 113
 114 ['arch == arm64 and simulator_run == True', {
 115
 116   # Pass but take too long with the simulator.
 117   'test-api/ExternalArrays': [PASS, TIMEOUT],
 118   'test-api/Threading1': [SKIP],
 119 }],  # 'arch == arm64 and simulator_run == True'
 120
 121 ['arch == arm64 and mode == debug and simulator_run == True', {
 122
 123   # Pass but take too long with the simulator in debug mode.
 124   'test-api/ExternalDoubleArray': [SKIP],
 125   'test-api/ExternalFloat32Array': [SKIP],
 126   'test-api/ExternalFloat64Array': [SKIP],
 127   'test-api/ExternalFloatArray': [SKIP],
 128   'test-api/Float32Array': [SKIP],
 129   'test-api/Float64Array': [SKIP],
 130   'test-debug/DebugBreakLoop': [SKIP],
 131 }],  # 'arch == arm64 and mode == debug and simulator_run == True'
 132
 133 ##############################################################################
 134 ['asan == True', {
 135   # Skip tests not suitable for ASAN.
 136   'test-assembler-x64/AssemblerX64XchglOperations': [SKIP],
 137   'test-lockers/MultithreadedParallelIsolates': [SKIP],
 138 }],  # 'asan == True'
 139
 140 ##############################################################################
 141 ['no_snap == True', {
 142   # BUG(3215)
 143   'test-lockers/MultithreadedParallelIsolates': [PASS, FAIL],
 144 }],  # 'no_snap == True'
 145
 146 ##############################################################################
 147 # TODO(machenbach): Fix application of '*'. Nosnap windows needs a separate
 148 # section to not overwrite the expectations for TestThatAlwaysFails.
 149 ['no_snap == True and system == windows', {
 150   # Windows doesn't support nosnap mode.
 151   'test-serialize/*': [SKIP],
 152 }],  # 'no_snap == True and system == windows'
 153
 154 ##############################################################################
 155 ['system == windows', {
 156
 157   # BUG(2999).
 158   'test-cpu-profiler/CollectCpuProfile': [PASS, FAIL],
 159
 160   # BUG(3055).
 161   'test-cpu-profiler/JsNative1JsNative2JsSample': [PASS, ['mode == release', FAIL], ['mode == debug', FLAKY]],
 162
 163   # BUG(3005).
 164   'test-alloc/CodeRange': [PASS, FAIL],
 165
 166   # BUG(3215). Crashes on windows.
 167   'test-lockers/MultithreadedParallelIsolates': [SKIP],
 168
 169   # BUG(3331). Fails on windows.
 170   'test-heap/NoWeakHashTableLeakWithIncrementalMarking': [SKIP],
 171
 172 }],  # 'system == windows'
 173
 174 ##############################################################################
 175 ['system == macos', {
 176
 177   # BUG(3125).
 178   'test-debug/DebugGetLoadedScripts': [PASS, FLAKY],
 179   'test-debug/DebugStepLinear': [PASS, FLAKY],
 180   'test-debug/DebuggerClearMessageHandler': [PASS, FLAKY],
 181 }],  # 'system == macos'
 182
 183 ##############################################################################
 184 ['arch == arm', {
 185
 186   # BUG(355): Test crashes on ARM.
 187   'test-log/ProfLazyMode': [SKIP],
 188
 189   # BUG(1075): Unresolved crashes.
 190   'test-serialize/Deserialize': [SKIP],
 191   'test-serialize/DeserializeFromSecondSerializationAndRunScript2': [SKIP],
 192   'test-serialize/DeserializeAndRunScript2': [SKIP],
 193   'test-serialize/DeserializeFromSecondSerialization': [SKIP],
 194
 195   ############################################################################
 196   # Slow tests.
 197   'test-api/Threading1': [PASS, SLOW],
 198   'test-api/Threading2': [PASS, SLOW],
 199   'test-api/Threading3': [PASS, SLOW],
 200   'test-api/Threading4': [PASS, SLOW],
 201 }],  # 'arch == arm'
 202
 203 ##############################################################################
 204 ['arch == mipsel or arch == mips', {
 205
 206   # BUG(2657): Test sometimes times out on MIPS simulator.
 207   'test-thread-termination/TerminateMultipleV8ThreadsDefaultIsolate': [PASS, TIMEOUT],
 208
 209   # BUG(1075): Unresolved crashes on MIPS also.
 210   'test-serialize/Deserialize': [SKIP],
 211   'test-serialize/DeserializeFromSecondSerializationAndRunScript2': [SKIP],
 212   'test-serialize/DeserializeAndRunScript2': [SKIP],
 213   'test-serialize/DeserializeFromSecondSerialization': [SKIP],
 214 }],  # 'arch == mipsel or arch == mips'
 215
 216 ##############################################################################
 217 ['arch == x87', {
 218
 219   # TODO (weiliang): Enable below tests after fixing the double register
 220   # allocation limit in X87 port.
 221   'test-serialize/Serialize': [PASS, ['mode == debug', SKIP]],
 222   'test-serialize/Deserialize': [PASS, ['mode == debug', SKIP]],
 223   'test-serialize/SerializeTwice': [PASS, ['mode == debug', SKIP]],
 224   'test-serialize/ContextSerialization': [PASS, ['mode == debug', SKIP]],
 225   'test-serialize/ContextDeserialization': [PASS, ['mode == debug', SKIP]],
 226   'test-serialize/PartialDeserialization': [PASS, ['mode == debug', SKIP]],
 227   'test-serialize/PartialSerialization': [PASS, ['mode == debug', SKIP]],
 228   'test-serialize/DeserializeAndRunScript2': [PASS, ['mode == debug', SKIP]],
 229   'test-serialize/DeserializeFromSecondSerializationAndRunScript2': [PASS, ['mode == debug', SKIP]],
 230   'test-serialize/DeserializeFromSecondSerialization': [PASS, ['mode == debug', SKIP]],
 231 }],  # 'arch == x87'
 232
 233 ##############################################################################
 234 ['arch == android_arm or arch == android_ia32', {
 235
 236   # Tests crash as there is no /tmp directory in Android.
 237   'test-log/LogAccessorCallbacks': [SKIP],
 238   'test-log/LogCallbacks': [SKIP],
 239   'test-log/ProfLazyMode': [SKIP],
 240
 241   # platform-tls.h does not contain an ANDROID-related header.
 242   'test-platform-tls/FastTLS': [SKIP],
 243
 244   # This test times out.
 245   'test-threads/ThreadJoinSelf': [SKIP],
 246 }],  # 'arch == android_arm or arch == android_ia32'
 247
 248 ##############################################################################
 249 ['arch == nacl_ia32 or arch == nacl_x64', {
 250
 251   # NaCl builds have problems with threaded tests since Pepper_28.
 252   # V8 Issue 2786
 253   'test-api/Threading1': [SKIP],
 254   'test-lockers/MultithreadedParallelIsolates': [SKIP],
 255   'test-lockers/ExtensionsRegistration': [SKIP],
 256
 257   # These tests fail as there is no /tmp directory in Native Client.
 258   'test-log/LogAccessorCallbacks': [SKIP],
 259   'test-log/LogCallbacks': [SKIP],
 260   'test-log/ProfLazyMode': [SKIP],
 261
 262   # Native Client doesn't support sockets.
 263   'test-debug/DebuggerAgent': [SKIP],
 264   'test-debug/DebuggerAgentProtocolOverflowHeader': [SKIP],
 265   'test-socket/Socket': [SKIP],
 266
 267   # Profiling doesn't work on Native Client.
 268   'test-cpu-profiler/*': [SKIP],
 269
 270   # Fails since 16322 (new test).
 271   'test-code-stubs-arm/ConvertDToI': [SKIP],
 272
 273   # BUG(2998).
 274   'test-macro-assembler-arm/LoadAndStoreWithRepresentation': [SKIP],
 275
 276   # BUG(3150).
 277   'test-api/PreCompileInvalidPreparseDataError': [SKIP],
 278
 279   'test-types/Convert' : [SKIP],
 280   'test-symbols/Create' : [SKIP],
 281   'test-parsing/ParserSync' : [SKIP],
 282   'test-parsing/ErrorsEvalAndArguments' : [SKIP],
 283   'test-parsing/ErrorsFutureStrictReservedWords' : [SKIP],
 284   'test-parsing/ErrorsReservedWords' : [SKIP],
 285   'test-parsing/ErrorsYieldStrict' : [SKIP],
 286   'test-parsing/ErrorsNotAnIdentifierName' : [SKIP],
 287   'test-parsing/FunctionDeclaresItselfStrict' : [SKIP],
 288   'test-parsing/ErrorsObjectLiteralChecking' : [SKIP],
 289   'test-parsing/InvalidLeftHandSide' : [SKIP],
 290   'test-heap/GarbageCollection' : [SKIP],
 291   'test-heap/GlobalHandles' : [SKIP],
 292   'test-heap/WeakGlobalHandlesScavenge' : [SKIP],
 293   'test-heap/DeleteWeakGlobalHandle' : [SKIP],
 294   'test-heap/GrowAndShrinkNewSpace' : [SKIP],
 295   'test-heap/OptimizedAllocationAlwaysInNewSpace' : [SKIP],
 296   'test-heap/OptimizedPretenuringAllocationFolding' : [SKIP],
 297   'test-heap/OptimizedPretenuringObjectArrayLiterals' : [SKIP],
 298   'test-heap/OptimizedPretenuringAllocationFoldingBlocks' : [SKIP],
 299   'test-heap/OptimizedPretenuringMixedInObjectProperties' : [SKIP],
 300   'test-heap/OptimizedPretenuringDoubleArrayProperties' : [SKIP],
 301   'test-heap/OptimizedPretenuringdoubleArrayLiterals' : [SKIP],
 302   'test-heap/OptimizedPretenuringNestedMixedArrayLiterals' : [SKIP],
 303   'test-heap/OptimizedPretenuringNestedObjectLiterals' : [SKIP],
 304   'test-heap/OptimizedPretenuringNestedDoubleLiterals' : [SKIP],
 305   'test-heap/Regress169928' : [SKIP],
 306   'test-decls/Unknown' : [SKIP],
 307   'test-decls/Present' : [SKIP],
 308   'test-decls/Absent' : [SKIP],
 309   'test-decls/Appearing' : [SKIP],
 310   'test-decls/Reappearing' : [SKIP],
 311   'test-decls/ExistsInPrototype' : [SKIP],
 312   'test-decls/AbsentInPrototype' : [SKIP],
 313   'test-decls/ExistsInHiddenPrototype' : [SKIP],
 314   'test-debug/ConditionalScriptBreakPoint' : [SKIP],
 315   'test-debug/DebugEvaluate' : [SKIP],
 316   'test-debug/ConditionalBreakpointWithCodeGenerationDisallowed' : [SKIP],
 317   'test-debug/DebugEvaluateWithCodeGenerationDisallowed' : [SKIP],
 318   'test-debug/DebugBreak' : [SKIP],
 319   'test-debug/ThreadedDebugging' : [SKIP],
 320   'test-debug/RecursiveBreakpoints' : [SKIP],
 321   'test-dictionary/HashMap' : [SKIP],
 322   'test-debug/Backtrace' : [SKIP],
 323   'test-debug/DebugBreakLoop' : [SKIP],
 324   'test-constantpool/ConstantPool' : [SKIP],
 325   'test-compiler/GetScriptLineNumber' : [SKIP],
 326   'test-api/ScriptMakingExternalString' : [SKIP],
 327   'test-api/ScriptMakingExternalAsciiString' : [SKIP],
 328   'test-api/MakingExternalStringConditions' : [SKIP],
 329   'test-api/MakingExternalAsciiStringConditions' : [SKIP],
 330   'test-api/MakingExternalUnalignedAsciiString' : [SKIP],
 331   'test-api/IndexedInterceptorUnboxedDoubleWithIndexedAccessor' : [SKIP],
 332   'test-api/IndependentWeakHandle' : [SKIP],
 333   'test-api/GCFromWeakCallbacks' : [SKIP],
 334   'test-api/IndependentHandleRevival' : [SKIP],
 335   'test-api/StringWrite' : [SKIP],
 336   'test-api/Threading3' : [SKIP],
 337   'test-api/Threading4' : [SKIP],
 338   'test-api/Threading2' : [SKIP],
 339   'test-api/FixedFloat32Array' : [SKIP],
 340   'test-api/FixedFloat64Array' : [SKIP],
 341   'test-api/ExternalFloat32Array' : [SKIP],
 342   'test-api/ExternalFloat64Array' : [SKIP],
 343   'test-api/ExternalArrays' : [SKIP],
 344   'test-api/Float32Array' : [SKIP],
 345   'test-api/Float64Array' : [SKIP],
 346   'test-api/Regress2333' : [SKIP],
 347   'test-alloc/StressHandles' : [SKIP],
 348   'test-alloc/StressJS' : [SKIP],
 349   'test-accessors/HandleScopePop' : [SKIP],
 350   'test-accessors/Gc' : [SKIP],
 351
 352 }],  # 'arch == nacl_ia32 or arch == nacl_x64'
 353 ]