t/tap-planskip-unplanned.sh

   1 #! /bin/sh
   2 # Copyright (C) 2011-2012 Free Software Foundation, Inc.
   3 #
   4 # This program is free software; you can redistribute it and/or modify
   5 # it under the terms of the GNU General Public License as published by
   6 # the Free Software Foundation; either version 2, or (at your option)
   7 # any later version.
   8 #
   9 # This program is distributed in the hope that it will be useful,
  10 # but WITHOUT ANY WARRANTY; without even the implied warranty of
  11 # MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  12 # GNU General Public License for more details.
  13 #
  14 # You should have received a copy of the GNU General Public License
  15 # along with this program.  If not, see <http://www.gnu.org/licenses/>.
  16
  17 # TAP support:
  18 #  - a "plan with skip" given after one or more test result have already
  19 #    been seen is an error
  20 #  - any test result following a "plan with skip" is an error.
  21
  22 am_parallel_tests=yes
  23 . ./defs || Exit 1
  24
  25 . "$am_testauxdir"/tap-setup.sh || fatal_ "sourcing tap-setup.sh"
  26
  27 cat > all.test <<END
  28 ok 1
  29 1..0 # SKIP too late
  30 END
  31 $MAKE check >stdout && { cat stdout; Exit 1; }
  32 cat stdout
  33 count_test_results total=2 pass=1 fail=0 xpass=0 xfail=0 skip=0 error=1
  34 grep '^ERROR: all\.test - too many tests run (expected 0, got 1)$' stdout
  35
  36 cat > all.test <<END
  37 ok 1
  38 ok 2 # SKIP
  39 not ok 3 # TODO
  40 1..0 # SKIP too late
  41 END
  42 $MAKE check >stdout && { cat stdout; Exit 1; }
  43 cat stdout
  44 count_test_results total=4 pass=1 fail=0 xpass=0 xfail=1 skip=1 error=1
  45 grep '^ERROR: all\.test - too many tests run (expected 0, got 3)$' stdout
  46
  47 cat > all.test <<END
  48 1..0 # SKIP falsified later
  49 ok 1
  50 END
  51 $MAKE check >stdout && { cat stdout; Exit 1; }
  52 cat stdout
  53 count_test_results total=3 pass=0 fail=0 xpass=0 xfail=0 skip=1 error=2
  54 grep '^ERROR: all\.test 1 # UNPLANNED$' stdout
  55 grep '^ERROR: all\.test - too many tests run (expected 0, got 1)$' stdout
  56
  57 cat > all.test <<END
  58 1..0 # SKIP falsified later
  59 ok 1
  60 ok 2 # SKIP
  61 not ok 3
  62 not ok 4 # TODO
  63 END
  64 $MAKE check >stdout && { cat stdout; Exit 1; }
  65 cat stdout
  66 count_test_results total=6 pass=0 fail=0 xpass=0 xfail=0 skip=1 error=5
  67 grep '^ERROR: all\.test 1 # UNPLANNED$' stdout
  68 grep '^ERROR: all\.test 2 # UNPLANNED$' stdout
  69 grep '^ERROR: all\.test 3 # UNPLANNED$' stdout
  70 grep '^ERROR: all\.test 4 # UNPLANNED$' stdout
  71 grep '^ERROR: all\.test - too many tests run (expected 0, got 4)$' stdout
  72
  73 :