t/tap-bad-prog.tap

   1 #! /bin/sh
   2 # Copyright (C) 2011-2012 Free Software Foundation, Inc.
   3 #
   4 # This program is free software; you can redistribute it and/or modify
   5 # it under the terms of the GNU General Public License as published by
   6 # the Free Software Foundation; either version 2, or (at your option)
   7 # any later version.
   8 #
   9 # This program is distributed in the hope that it will be useful,
  10 # but WITHOUT ANY WARRANTY; without even the implied warranty of
  11 # MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  12 # GNU General Public License for more details.
  13 #
  14 # You should have received a copy of the GNU General Public License
  15 # along with this program.  If not, see <http://www.gnu.org/licenses/>.
  16
  17 # TAP support:
  18 #  - missing, unreadable, or not-executable test scripts cause proper
  19 #    error reports
  20
  21 . ./defs || Exit 1
  22
  23 fetch_tap_driver
  24
  25 plan_ 6
  26
  27 cat >> configure.ac <<END
  28 AC_OUTPUT
  29 END
  30
  31 cat > Makefile.am << 'END'
  32 TEST_LOG_DRIVER = $(srcdir)/tap-driver
  33 TESTS = none.test noread.test noexec.test
  34 none.test:
  35 END
  36
  37 cat > noexec.test <<'END'
  38 #!/bin/sh
  39 echo 1..1
  40 echo ok 1
  41 END
  42
  43 cp noexec.test noread.test
  44 chmod a-r noread.test
  45
  46 $ACLOCAL
  47 $AUTOCONF
  48 $AUTOMAKE
  49
  50 ./configure
  51
  52 if $MAKE check >stdout; then
  53   r='not ok'
  54 else
  55   r='ok'
  56 fi
  57 cat stdout
  58 result_ "$r" '"make check" returns non-zero exit status'
  59
  60 # FIXME: maybe grep for stricter error messages in the next checks?
  61
  62 command_ok_ "non-existent test is reported" \
  63             grep '^ERROR: none\.test' stdout
  64
  65 desc="non-executable test is reported"
  66 # Redirect output to avoid confusing automake's testsuite own TAP driver.
  67 if ./noexec.test >/dev/null; then
  68   skip_ -r "any file is executable" "$desc"
  69 else
  70   command_ok_ "$desc" -- grep '^ERROR: noexec\.test' stdout
  71 fi
  72
  73 desc="non-readable test is reported"
  74 if test -r noread.test; then
  75   skip_ -r "any file is readable" "$desc"
  76 else
  77   command_ok_ "$desc" -- grep '^ERROR: noread\.test' stdout
  78 fi
  79
  80 # Check that no spurious test result is reported.  This is lower-priority
  81 # (and in fact the check currently fails for our awk-based driver).
  82 directive=
  83 if test $am_tap_implementation = shell; then
  84   directive=TODO
  85 else
  86   # Older versions of IPC::Open3 (e.g., version 1.05 on perl 5.12.4 or
  87   # version 1.0103 on perl 5.6.2) fail to properly trap errors in exec(2)
  88   # calls in the child process; hence, the TAP driver cannot be properly
  89   # informed of such error.
  90   if $PERL -w -e '
  91     use IPC::Open3 qw/open3/;
  92     $@ = "";
  93     eval { open3(*STDIN, *STDOUT, *STDERR, "am--no-such-command") };
  94     $@ =~ m/\bopen3:.*am--no-such-command/
  95       or die "Bad \$@ value: \"$@\"\n";
  96   '; then
  97     : # OK. IPC::Open3 should be good enough.
  98   else
  99     for s in '"missing plan" message' 'results'; do
 100       skip_ -r "IPC::Open3 not good enough" "no spurious $s"
 101     done
 102     Exit 0
 103   fi
 104 fi
 105
 106 command_ok_ 'no spurious "missing plan" message' \
 107     -D "$directive" -- not grep 'missing.* plan' stdout
 108 command_ok_ 'no spurious results' \
 109   -D "$directive" -r 'still get "missing plan"' \
 110   count_test_results total=3 pass=0 fail=0 xpass=0 xfail=0 skip=0 error=3
 111
 112 :