src/v8/test/cctest/cctest.status

   1 # Copyright 2011 the V8 project authors. All rights reserved.
   2 # Redistribution and use in source and binary forms, with or without
   3 # modification, are permitted provided that the following conditions are
   4 # met:
   5 #
   6 #     * Redistributions of source code must retain the above copyright
   7 #       notice, this list of conditions and the following disclaimer.
   8 #     * Redistributions in binary form must reproduce the above
   9 #       copyright notice, this list of conditions and the following
  10 #       disclaimer in the documentation and/or other materials provided
  11 #       with the distribution.
  12 #     * Neither the name of Google Inc. nor the names of its
  13 #       contributors may be used to endorse or promote products derived
  14 #       from this software without specific prior written permission.
  15 #
  16 # THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
  17 # "AS IS" AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
  18 # LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR
  19 # A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT
  20 # OWNER OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
  21 # SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT
  22 # LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE,
  23 # DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY
  24 # THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
  25 # (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE
  26 # OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
  27
  28 [
  29 [ALWAYS, {
  30   # All tests prefixed with 'Bug' are expected to fail.
  31   'test-api/Bug*': [FAIL],
  32
  33   # BUG(3303). Crashes on mac builds, known race condition.
  34   'test-lockers/MultithreadedParallelIsolates': [SKIP],
  35
  36   ##############################################################################
  37   # BUG(382): Weird test. Can't guarantee that it never times out.
  38   'test-api/ApplyInterruption': [PASS, TIMEOUT],
  39
  40   # TODO(mstarzinger): Fail gracefully on multiple V8::Dispose calls.
  41   'test-api/InitializeAndDisposeOnce': [SKIP],
  42   'test-api/InitializeAndDisposeMultiple': [SKIP],
  43
  44   # These tests always fail.  They are here to test test.py.  If
  45   # they don't fail then test.py has failed.
  46   'test-serialize/TestThatAlwaysFails': [FAIL],
  47   'test-serialize/DependentTestThatAlwaysFails': [FAIL],
  48
  49   # This test always fails.  It tests that LiveEdit causes abort when turned off.
  50   'test-debug/LiveEditDisabled': [FAIL],
  51
  52   # This test always fails.  It tests that DisallowJavascriptExecutionScope
  53   # works as intended.
  54   'test-api/DisallowJavascriptExecutionScope': [FAIL],
  55
  56   # TODO(gc): Temporarily disabled in the GC branch.
  57   'test-log/EquivalenceOfLoggingAndTraversal': [PASS, FAIL],
  58
  59   # We do not yet shrink weak maps after they have been emptied by the GC
  60   'test-weakmaps/Shrinking': [FAIL],
  61   'test-weaksets/WeakSet_Shrinking': [FAIL],
  62
  63   # Boot up memory use is bloated in debug mode.
  64   'test-mark-compact/BootUpMemoryUse': [PASS, PASS, ['mode == debug', FAIL]],
  65
  66   # This tests only that the preparser and parser agree, so there is no point in
  67   # running several variants. Note that this still takes ages, because there
  68   # are actually 13 * 38 * 5 * 128 = 316160 individual tests hidden here.
  69   'test-parsing/ParserSync': [PASS, NO_VARIANTS],
  70
  71   # This tests only the type system, so there is no point in running several
  72   # variants.
  73   'test-types/*': [PASS, NO_VARIANTS],
  74
  75   # BUG(2999).
  76   'test-cpu-profiler/CollectCpuProfile': [PASS, FLAKY],
  77   # BUG(3287).
  78   'test-cpu-profiler/SampleWhenFrameIsNotSetup': [PASS, FLAKY],
  79   # BUG(3308).
  80   'test-cpu-profiler/JsNativeJsRuntimeJsSample': [PASS, FLAKY],
  81
  82   ############################################################################
  83   # Slow tests.
  84   'test-api/Threading1': [PASS, ['mode == debug', SLOW]],
  85   'test-api/Threading2': [PASS, ['mode == debug', SLOW]],
  86   'test-api/Threading3': [PASS, ['mode == debug', SLOW]],
  87   'test-api/Threading4': [PASS, ['mode == debug', SLOW]],
  88   'test-strings/StringOOM*': [PASS, ['mode == debug', SKIP]],
  89 }],  # ALWAYS
  90
  91 ##############################################################################
  92 ['arch == arm64', {
  93
  94   'test-api/Bug618': [PASS],
  95
  96   # BUG(v8:2999).
  97   'test-cpu-profiler/CollectCpuProfile': [PASS, FAIL],
  98
  99   # BUG(v8:3154).
 100   'test-heap/ReleaseOverReservedPages': [PASS, ['mode == debug', FAIL]],
 101
 102   # BUG(v8:3155).
 103   'test-strings/AsciiArrayJoin': [PASS, ['mode == debug', FAIL]],
 104
 105   # BUG(v8:3247).
 106   'test-mark-compact/NoPromotion': [SKIP],
 107 }],  # 'arch == arm64'
 108
 109 ['arch == arm64 and simulator_run == True', {
 110
 111   # Pass but take too long with the simulator.
 112   'test-api/ExternalArrays': [PASS, TIMEOUT],
 113   'test-api/Threading1': [SKIP],
 114 }],  # 'arch == arm64 and simulator_run == True'
 115
 116 ['arch == arm64 and mode == debug and simulator_run == True', {
 117
 118   # Pass but take too long with the simulator in debug mode.
 119   'test-api/ExternalDoubleArray': [SKIP],
 120   'test-api/ExternalFloat32Array': [SKIP],
 121   'test-api/ExternalFloat64Array': [SKIP],
 122   'test-api/ExternalFloatArray': [SKIP],
 123   'test-api/Float32Array': [SKIP],
 124   'test-api/Float64Array': [SKIP],
 125   'test-debug/DebugBreakLoop': [SKIP],
 126 }],  # 'arch == arm64 and mode == debug and simulator_run == True'
 127
 128 ##############################################################################
 129 ['asan == True', {
 130   # Skip tests not suitable for ASAN.
 131   'test-assembler-x64/AssemblerX64XchglOperations': [SKIP],
 132   'test-lockers/MultithreadedParallelIsolates': [SKIP],
 133 }],  # 'asan == True'
 134
 135 ##############################################################################
 136 ['no_snap == True', {
 137   # BUG(3215)
 138   'test-lockers/MultithreadedParallelIsolates': [PASS, FAIL],
 139 }],  # 'no_snap == True'
 140
 141 ##############################################################################
 142 # TODO(machenbach): Fix application of '*'. Nosnap windows needs a separate
 143 # section to not overwrite the expectations for TestThatAlwaysFails.
 144 ['no_snap == True and system == windows', {
 145   # Windows doesn't support nosnap mode.
 146   'test-serialize/*': [SKIP],
 147 }],  # 'no_snap == True and system == windows'
 148
 149 ##############################################################################
 150 ['system == windows', {
 151
 152   # BUG(2999).
 153   'test-cpu-profiler/CollectCpuProfile': [PASS, FAIL],
 154   'test-cpu-profiler/JsNativeJsSample': [PASS, FLAKY],
 155
 156   # BUG(3055).
 157   'test-cpu-profiler/JsNative1JsNative2JsSample': [PASS, ['mode == release', FAIL], ['mode == debug', FLAKY]],
 158
 159   # BUG(3005).
 160   'test-alloc/CodeRange': [PASS, FAIL],
 161
 162   # BUG(3215). Crashes on windows.
 163   'test-lockers/MultithreadedParallelIsolates': [SKIP],
 164 }],  # 'system == windows'
 165
 166 ##############################################################################
 167 ['system == macos', {
 168
 169   # BUG(3125).
 170   'test-debug/DebugGetLoadedScripts': [PASS, FLAKY],
 171   'test-debug/DebugStepLinear': [PASS, FLAKY],
 172   'test-debug/DebuggerClearMessageHandler': [PASS, FLAKY],
 173 }],  # 'system == macos'
 174
 175 ##############################################################################
 176 ['arch == arm', {
 177
 178   # BUG(355): Test crashes on ARM.
 179   'test-log/ProfLazyMode': [SKIP],
 180
 181   # BUG(1075): Unresolved crashes.
 182   'test-serialize/Deserialize': [SKIP],
 183   'test-serialize/DeserializeFromSecondSerializationAndRunScript2': [SKIP],
 184   'test-serialize/DeserializeAndRunScript2': [SKIP],
 185   'test-serialize/DeserializeFromSecondSerialization': [SKIP],
 186
 187   ############################################################################
 188   # Slow tests.
 189   'test-api/Threading1': [PASS, SLOW],
 190   'test-api/Threading2': [PASS, SLOW],
 191   'test-api/Threading3': [PASS, SLOW],
 192   'test-api/Threading4': [PASS, SLOW],
 193 }],  # 'arch == arm'
 194
 195 ##############################################################################
 196 ['arch == mipsel or arch == mips', {
 197
 198   # BUG(2657): Test sometimes times out on MIPS simulator.
 199   'test-thread-termination/TerminateMultipleV8ThreadsDefaultIsolate': [PASS, TIMEOUT],
 200
 201   # BUG(1075): Unresolved crashes on MIPS also.
 202   'test-serialize/Deserialize': [SKIP],
 203   'test-serialize/DeserializeFromSecondSerializationAndRunScript2': [SKIP],
 204   'test-serialize/DeserializeAndRunScript2': [SKIP],
 205   'test-serialize/DeserializeFromSecondSerialization': [SKIP],
 206 }],  # 'arch == mipsel or arch == mips'
 207
 208 ##############################################################################
 209 ['arch == android_arm or arch == android_ia32', {
 210
 211   # Tests crash as there is no /tmp directory in Android.
 212   'test-log/LogAccessorCallbacks': [SKIP],
 213   'test-log/LogCallbacks': [SKIP],
 214   'test-log/ProfLazyMode': [SKIP],
 215
 216   # platform-tls.h does not contain an ANDROID-related header.
 217   'test-platform-tls/FastTLS': [SKIP],
 218
 219   # This test times out.
 220   'test-threads/ThreadJoinSelf': [SKIP],
 221 }],  # 'arch == android_arm or arch == android_ia32'
 222
 223 ##############################################################################
 224 ['arch == nacl_ia32 or arch == nacl_x64', {
 225
 226   # NaCl builds have problems with threaded tests since Pepper_28.
 227   # V8 Issue 2786
 228   'test-api/Threading1': [SKIP],
 229   'test-lockers/MultithreadedParallelIsolates': [SKIP],
 230   'test-lockers/ExtensionsRegistration': [SKIP],
 231
 232   # These tests fail as there is no /tmp directory in Native Client.
 233   'test-log/LogAccessorCallbacks': [SKIP],
 234   'test-log/LogCallbacks': [SKIP],
 235   'test-log/ProfLazyMode': [SKIP],
 236
 237   # Native Client doesn't support sockets.
 238   'test-debug/DebuggerAgent': [SKIP],
 239   'test-debug/DebuggerAgentProtocolOverflowHeader': [SKIP],
 240   'test-socket/Socket': [SKIP],
 241
 242   # Profiling doesn't work on Native Client.
 243   'test-cpu-profiler/*': [SKIP],
 244
 245   # Fails since 16322 (new test).
 246   'test-code-stubs-arm/ConvertDToI': [SKIP],
 247
 248   # BUG(2998).
 249   'test-macro-assembler-arm/LoadAndStoreWithRepresentation': [SKIP],
 250
 251   # BUG(3150).
 252   'test-api/PreCompileInvalidPreparseDataError': [SKIP],
 253
 254   'test-types/Convert' : [SKIP],
 255   'test-symbols/Create' : [SKIP],
 256   'test-parsing/ParserSync' : [SKIP],
 257   'test-parsing/ErrorsEvalAndArguments' : [SKIP],
 258   'test-parsing/ErrorsFutureStrictReservedWords' : [SKIP],
 259   'test-parsing/ErrorsReservedWords' : [SKIP],
 260   'test-parsing/ErrorsYieldStrict' : [SKIP],
 261   'test-parsing/ErrorsNotAnIdentifierName' : [SKIP],
 262   'test-parsing/FunctionDeclaresItselfStrict' : [SKIP],
 263   'test-parsing/ErrorsObjectLiteralChecking' : [SKIP],
 264   'test-parsing/InvalidLeftHandSide' : [SKIP],
 265   'test-heap/GarbageCollection' : [SKIP],
 266   'test-heap/GlobalHandles' : [SKIP],
 267   'test-heap/WeakGlobalHandlesScavenge' : [SKIP],
 268   'test-heap/DeleteWeakGlobalHandle' : [SKIP],
 269   'test-heap/GrowAndShrinkNewSpace' : [SKIP],
 270   'test-heap/OptimizedAllocationAlwaysInNewSpace' : [SKIP],
 271   'test-heap/OptimizedPretenuringAllocationFolding' : [SKIP],
 272   'test-heap/OptimizedPretenuringObjectArrayLiterals' : [SKIP],
 273   'test-heap/OptimizedPretenuringAllocationFoldingBlocks' : [SKIP],
 274   'test-heap/OptimizedPretenuringMixedInObjectProperties' : [SKIP],
 275   'test-heap/OptimizedPretenuringDoubleArrayProperties' : [SKIP],
 276   'test-heap/OptimizedPretenuringdoubleArrayLiterals' : [SKIP],
 277   'test-heap/OptimizedPretenuringNestedMixedArrayLiterals' : [SKIP],
 278   'test-heap/OptimizedPretenuringNestedObjectLiterals' : [SKIP],
 279   'test-heap/OptimizedPretenuringNestedDoubleLiterals' : [SKIP],
 280   'test-heap/Regress169928' : [SKIP],
 281   'test-decls/Unknown' : [SKIP],
 282   'test-decls/Present' : [SKIP],
 283   'test-decls/Absent' : [SKIP],
 284   'test-decls/Appearing' : [SKIP],
 285   'test-decls/Reappearing' : [SKIP],
 286   'test-decls/ExistsInPrototype' : [SKIP],
 287   'test-decls/AbsentInPrototype' : [SKIP],
 288   'test-decls/ExistsInHiddenPrototype' : [SKIP],
 289   'test-debug/ConditionalScriptBreakPoint' : [SKIP],
 290   'test-debug/DebugEvaluate' : [SKIP],
 291   'test-debug/ConditionalBreakpointWithCodeGenerationDisallowed' : [SKIP],
 292   'test-debug/DebugEvaluateWithCodeGenerationDisallowed' : [SKIP],
 293   'test-debug/DebugBreak' : [SKIP],
 294   'test-debug/ThreadedDebugging' : [SKIP],
 295   'test-debug/RecursiveBreakpoints' : [SKIP],
 296   'test-dictionary/HashMap' : [SKIP],
 297   'test-debug/Backtrace' : [SKIP],
 298   'test-debug/DebugBreakLoop' : [SKIP],
 299   'test-constantpool/ConstantPool' : [SKIP],
 300   'test-compiler/GetScriptLineNumber' : [SKIP],
 301   'test-api/ScriptMakingExternalString' : [SKIP],
 302   'test-api/ScriptMakingExternalAsciiString' : [SKIP],
 303   'test-api/MakingExternalStringConditions' : [SKIP],
 304   'test-api/MakingExternalAsciiStringConditions' : [SKIP],
 305   'test-api/MakingExternalUnalignedAsciiString' : [SKIP],
 306   'test-api/IndexedInterceptorUnboxedDoubleWithIndexedAccessor' : [SKIP],
 307   'test-api/IndependentWeakHandle' : [SKIP],
 308   'test-api/GCFromWeakCallbacks' : [SKIP],
 309   'test-api/IndependentHandleRevival' : [SKIP],
 310   'test-api/StringWrite' : [SKIP],
 311   'test-api/Threading3' : [SKIP],
 312   'test-api/Threading4' : [SKIP],
 313   'test-api/Threading2' : [SKIP],
 314   'test-api/FixedFloat32Array' : [SKIP],
 315   'test-api/FixedFloat64Array' : [SKIP],
 316   'test-api/ExternalFloat32Array' : [SKIP],
 317   'test-api/ExternalFloat64Array' : [SKIP],
 318   'test-api/ExternalArrays' : [SKIP],
 319   'test-api/Float32Array' : [SKIP],
 320   'test-api/Float64Array' : [SKIP],
 321   'test-api/Regress2333' : [SKIP],
 322   'test-alloc/StressHandles' : [SKIP],
 323   'test-alloc/StressJS' : [SKIP],
 324   'test-accessors/HandleScopePop' : [SKIP],
 325   'test-accessors/Gc' : [SKIP],
 326
 327 }],  # 'arch == nacl_ia32 or arch == nacl_x64'
 328 ]