Documentation for bisect.pl and bisect-runner.pl

In bisect-runner.pl, fix a bug where a good "test_prep" build would skip.

The "skip"/continue logic was not aware that the build code could change
"test_prep" to "test-prep" or "test" on very old perls, and so was looking
for a file that did not exist, instead of ./perl, and then signaling a
"skip" because it could not find it.

Also fix a fencepost error for the -j test - 5.10.0 (inclusive) and later
are safe to build with paralllel make.

In bisect.pl, support matching on files generated by the build.

If --target isn't specified, then --match will match files in the repository.
If --target is specified, then --mach will match built files (and ignore files
in the repository)

Add 'config.h' as a known target. If a "binary" file matches, print only
the file name, not the "binary" match. Print the match count as part of the
good/bad report line.

If patching fails, bisect-runner.pl should report the name of the file.

When commit 0142f0ceeb8dc10a refactored the relevant code into apply_patch(),
it left "perl.c" hard coded into an error message.

Add another exception to dual-life.t

Module::Build’s tests create a file named something like

    cpan/Module-Build/MB-rrWnCs8O/Simple/bin/foo.PL

during testing, causing dual-life.t to fail when testing in
parallel.

This commit adds that to the list of exceptions, but since the
exact name can vary, it changes the exception list into a
regular expression.

Stop dual-life.t from failing during parallel testing

dual-life.t makes sure all dual-lifed scripts make their way into
utils/ during make.

ExtUtils::Install creates a test script in
dist/ExtUtils-Install/t/Big-Dummy/bin/program during testing.

dual-life.t should skip anything containing /t/, to avoid failing
erroneously.

Remove unused variable from S_set_caret_X

bisect-runner.pl must use Fcntl::S_IMODE() on the raw output from stat.

Fixes a bug whereby it was failing to mask out the non-file-mode bits from
the return value from stat when testing whether the mode had changed.

Update Unicode-Collate to CPAN version 0.79

  [DELTA]

  0.79  Sun Oct  2 20:31:01 2011
    - pod: [rt.cpan.org #70241] Fix minor grammar error in manpage
            by Harlan Lieberman-Berg.
    - 'suppress' no longer affects contractions via 'entry'.
    - U::C::Locale newly supports locales: as, fi__phonebook, gu.
    - added loc_as.t, loc_fiph.t, loc_gu in t.
    - updated some locales to CLDR 2.0 : ar, be, bg.

Update Digest to CPAN version 1.17

  [DELTA]

  2011-10-02   Gisle Aas <gisle@ActiveState.com>

   Release 1.17.

   Gisle Aas (6):
      Less noisy 'git status' output
      Merge pull request #1 from schwern/bug/require_eval
      Don't clobber $@ in Digest->new [RT#50663]
      More meta info added to Makefile.PL
      Fix typo in RIPEMD160 [RT#50629]
      Add schwern's test files

   Michael G. Schwern (5):
      Turn on strict.
      Convert tests to use Test::More
      Untabify
      Turn Digest::Dummy into a real file which exercises the Digest->new() require logic.
      Close the eval "require $module" security hole in Digest->new($algorithm)

Add 'config.sh' as a build target for bisect.pl

This allows one to bisect to find which commit caused Configure options to
stop/start Configure running to completion.

Permit bisect.pl to pass -D, -U and -A parameters to Configure.

This gives pretty much complete control of the configuration options for a
bisect run.

Refactor bisect-runner.pl to use the hashref interface to GetOptions().

This eliminates many lexical variables used only to hold option state.

Refactor bisect.pl to use Getopt::Long's pass_through option.

Add a --check-args option to bisect-runner.pl to validate the arguments that
bisect.pl doesn't know how to check (else the automatic start detection
will get very confused by invalid arguments). Switch bisect.pl to bundling,
which permits the "traditional" make argument form of -j4 to be used instead
of -j=4. As this actually makes -j=4 invalid syntax now (an error about the
unknown option "="), change the syntax messages.

Typo in comment share_hek_kek

handy.h: Reorder tests for speed

It's much more likely that a random character will have its ordinal be
above the ordinal for '7' than below.  In the test for if a character is
octal then, testing first if it is <= '7' will exclude many more
possibilities than if the first test is if it is >= '0'.

I left the ones for lowercase letters in the same order, because, in
ASCII, anyway, there are more characters below 'a' than above it.

handy.h: Add macro

handy.h Fix isOCTAL_A macro

This has the incorrect definition, allowing 8 and 9, for programs that
don't include perl.h.  Likely no one actually uses this recently added
macro who doesn't also include perl.h.

In bisect.pl, use the earliest passing stable perl as the default revision.

This is better than defaulting the start revision to any particular fixed
revision, as it handles most "new" syntax gracefully, instead of forcing the
user to work out what minimum version is required to run their testcase.

handy.h: Add comments, pod change

handy.h: Improve definition of FITS_IN_8_BITS

Unoptimized, the new definition takes signficantly fewer machine
instructions than the old one

handy.h: Change '(foo) ? bar : 0 to 'foo && bar'

This is clearer, and leads to better unoptimized code at least.
'bar' is a boolean

utf8.h: Revise formal parameter name for clarity

utf8.h: Remove redundant checks

The macros that these call have been revised to do the same checks,
enhanced to not call the functions for all of Latin1, not just ASCII as
these did.  So the tests here are redundant.

handy.h: Speed up isIDFIRST_utf8()

This now takes advantage of the new table that mktables generates
to find out if a character is a legal start character in Perl's
definition.  Previously, it had to be looked up in two tables.

Add tests for isIDFirst

utf8.c: Add function to retrieve new _Perl_IDStart prop

mktables: Add Perl_IDStart property

This is a space/time trade-off.  We add a table that is compiled to
calculate what Perl wants for a character to be the beginning of an
identifier.  This will enable us to not have to take the && of two
tables.

Comment-only nits

handy.h: Add missing isASCII_L1 macro

This macro is in the pod, but never got defined.

handy.h: Don't call _utf8 fcns if Latin1

This patch avoids the overhead of calling eg. is_utf8_alpha() on Latin1
inputs. The result is known to Perl's core, and this can avoid a swash
load.

handy.h: Don't call _utf8 fcns if ASCII

This patch avoids the overhead of calling eg. is_utf8_alpha() on ASCII
inputs. The result is known to Perl's core, and this can avoid a swash
load.

utf8.c: Remove (mostly) redundant test

The swashes already have the underscore, so this test is redundant.  It
does save some time for this character to avoid having to go out and
load the swash, but why just the underscore?  In fact an earlier commit
changed the macro that most people should use to access this function to
not even call it for the underscore.

handy.h: Don't call _uni fcns if have applicable macro

This patch avoids the overhead of calling eg. is_uni_alpha() if the
result is known to Perl's core.  This can avoid a swash load.

Don't use swash to find cntrls

Unicode stability policy guarantees that no code points will ever be
added to the control characters beyond those already in it.

All such characters are in the Latin1 range, and so the Perl core
already knows which ones those are, and so there is no need to go out to
disk and create a swash for these.

utf8.c: Use less confusing property name

The XPerlSpace is less confusing than SpacePerl (at least to me).  It
means take PerlSpace and extend it beyond ASCII.

No need for swashes for properties that are ASCII-only

These three properties are restricted to being true only for ASCII
characters.  That information is compiled into Perl, so no need to
create swashes for them.

No need for swashes for computing if ASCII

This information is trivially computed via the macro, no need to go out
to disk and store a swash for this.

handy.h: No need to call fcns to compute if ASCII

Only the characters whose ordinals are 0-127 are ASCII.  This is
trivially computed by the macro, so no need to call is_uni_ascii() to do
this.  Also, since ASCII characters are the same when represented in
utf8 or not, the utf8 function call is also superfluous.

handy.h: Simplify isASCII definition

Thus retains essentially the same definition for EBCDIC platforms, but
substitutes a simpler one for ASCII platforms.  On my system, the new
definition compiles to about half the assembly instructions that the old
one did (non-optimized)

A bomb-proof definition of ASCII is to make sure that the value is
unsigned in the largest possible unsigned for the platform so there is
no possible loss of information, and then the ord  must be < 128.

handy.h: refactor FITS_IN_8_BITS defn

This creates a #define for the platforms widest UV, and then uses this
in the FITS_IN_8ITS definition, instead of #ifdef'ing that.  This will
be useful in future commits.

handy.h: clarify, typos in comment

More documenting that \p{} defined only for <= U+10FFF

utf8.c: Call new function invlist_invert_prop()

This new function is now potentially called.  However, there is no data file
or other circumstances which currently cause this path to get executed.

regcomp.c: Add invlist_invert_prop()

This new function inverts a Unicode property.  A regular inversion
doesn't work because it operates on the whole of the code space, and
Unicode property inversions don't invert above-Unicode code points.

This does for inversion lists, what an earlier commit did for swashes.
This function is currently not called by anyone.

perlunicode, perluniprops: \p{Title} is Perl extension

This property is not official Unicode, and so should be documented by
us.

Revise diagnostic text

I believe that the new wording is clearer than the older, which I wrote.

regexec.c: Avoid hard-coded utf8 tests for EBCDIC

When a swash is loaded, generally it is checked for sanity with an
assert().  The strings used are hard-coded utf8 strings, which will be
different in EBCDIC, and hence will fail.  I haven't figured out a
simple way to get compile-time utf8 vs utfebcdic strings, but we can
just skip the check in EBCDIC builds

regcomp.c: Add assertion

This is to guard against misuse of the functions.  There is no guard
currently in the underlying Perl functions to lengthening a string
beyond the capacity to hold it.

utf8.c: White space only

This indents a block of code to match being in a newly created block

utf8.c: Don't invert beyond-Unicode code points

The Unicode properties are defined only on Unicode code points.  In the
past, this meant all property matches would fail for non-Unicode code
points.  However, starting with 5.15.1 some properties do succeed.  This
restores the previous behavior.

regexec.c: Add assertion check

This makes sure before there is a segfault that the is_() functions
actually have the side effect that this expects.

mk_PL_charclass.pl: Accept Unicode 6.1 syntax

The file read by this has a slightly changed format in 6.1

mk_PL_charclass.pl: Revise comments, gen'd header

bisect-runner.pl should "skip" if --force-manifest detects changes.

Teach bisect-runner.pl how to build perl back to perl-5.000.

It's unlikely that x86_64 Linux will ever be able to build extentions for
versions before e1666bf5602ae794 which upgraded MakeMaker to 3.7, although
there are still other problems at that commit which we don't (yet) work round.
The earliest released version that does build extensions is 5.002

For 5.002 we need to patch perl.c to avoid double calls to fclose() in the
-e handling code.
For 5.001 we need to force -Dusenm.
For 5.000 we need to patch Configure to allow spaces in -D, and to correctly
conclude that struct dirent does *not* contain a d_namlen member.

Add options --force-manifest and --test-build to bisect.pl

--force-manifest touches any files in MANIFEST that are missing. This avoids
hanging on 5.004 or earlier (where Configure's stdin is a tty) when Configure
detects the missing files and asks you if you want to stop. It's also useful
on 5.005 or later if you don't want to treat missing files as a "skip".
--test-build changes behaviour to treat failing to build the target exectuable
as a "fail", instead of a "skip".

[perl #99984] Incorrect errmsg with our $::é

Having PL_parser->error_count set to non-zero when utf8_heavy.pl tries
to do() one of its swashes results in ‘Compilation error’ being placed
in $@ during the do, even if it was successful.  This patch sets the
error_count to 0 before calling SWASHNEW, to prevent that.  It uses
SAVEI8, to make sure it is restored on scope exit.

Regen Configure and friends

After backporting Nicholas' work and slimming down metaconfig.h

Add more x-y aliases for x_y targets in Makefile

Consistently make test_prep identical to test-prep
for all x-y and x_y targets.

Avoid bisect-runner.pl hanging on pre-5.004 if a file in MANIFEST is missing.

Restore the package name to overload errors; fix crash

Commit bfcb351493b (which was backported to 5.8.8) caused these error
messages always to mention the overload package, instead of the pack-
age involved:

Can't resolve method "foo" overloading "+" in package "baz"
Stub found while resolving method "foo" overloading "+" in package "baz"

This commit fixes that.  A compiler warning alerted me to the possi-
bility of HvNAME being null, so I wrote a small test for that, found
that it crashed, and incorporated the fix for the crash into the same
commit (since it’s the same line of code).

Export DynaLoader symbols from libperl again

With 5.15.2 and the new xubpp, DynaLoader symbols were XS_INTERNAL, before
they were effectively XS_EXTERNAL. This broke B::C and possibly other
embedded apps which link to DynaLoader functions.

To build perl-5.003 bisect-runner.pl needs to force a value for trnl.

Without this the current makedepend will hang waiting on stdin.
Additionally, when bisecting this far back we need to watch out for the
//depot/perlext/Compiler branch, which has no Configure, patchlevel.h or
other perl source, but may be checked out by the bisect, as it is the second
parent of a8581515f26a081f. If the file Configure is missing, we exit 125
to signal a skip.

In bisect-runner.pl, don't close Configure's STDIN for 5.004

Before commit dfe9444ca7881e71, Configure would refuse to run if STDIN was
not a tty. With that commit, the tty requirement was dropped for -de and -dE.

Change the default start in bisect.pl from perl-5.005 to perl-5.004.

Add a --match option to bisect.pl, to locate source code changes.

In bisect-runner.pl, refactor the reporting code into report_and_exit().

bisect-runner.pl must clean up, even if it's skipping.

It modifies makedepend.SH before running Configure, and a failed build may
well modify other files. The bisect run will fail if git can't checkout
the next revision to test because a file is locally modified.

bisect.pl should still print the time taken if it fails.

(Bisect runs can legitimately return failure for various reasons, such as if
"There are only 'skip'ped commits left to test.")

Add an editor block, and convert the only tabs to spaces.

Document BEGIN, END, etc. in perlsyn

This adds a brief note that blocks can be preceded by a
compilation phase keyword and points the reader to
perlmod for the gory details.

Add lib/Config.pm as a target for bisect-runner.pl

Add -Ilib to the command line generated when -e is used.

Now you can use --target=lib/Config.pm -e 'use Config; ...' to test code
that needs Config, but doesn't require building perl.

bisect-runner.pl can build miniperl in parallel for earlier perl versions.

Makefile bugs that caused problems for parallel builds were for targets built
after miniperl.

Also add an editor block to bisect-runner.pl

Add Porting/bisect.pl, to automate bisecting a perl code test case.

update valgrind URL and platforms

Add darwin to the list of valgrind platforms

Makefile.SH: emit make valgrind* targets only on linux

This inserts several case $osname in linux) spitshell ... esac
statements to emit valgrind targets only where valgrind is available.
Platform dependence is better than checking for valgrind executable
because it serves as a subtle hint that it can be installed.
Other platforms can be added by those who have them.

Makefile.SH: fix ?= gmake-isms

commit c7b956bbbaff changed Makefile.SH to emit gmake-only syntax, fix
that by doing so only on linux, by inserting a spitshell dependent on
osname.  This isnt the most direct fix, but it starts to isolate
linux-only/mostly stuff, like test.valgrind.

perldelta for ExtUtils::MakeMaker version 6.61_01.

Update ExtUtils::MakeMaker to CPAN version 6.61_01

[DELTA]

6.61_01  Sat Sep 24 22:16:13 PDT 2011
    Win32
    * Liblist::Kid now checks the ActiveState MinGW library path environment
      variable [MITHALDU]
    * Further fixes to the Win32 quoting rules.  Fixes failures on VC8+.
      [rt.cpan.org #69528] [SHAY]

Add missing C on </p> construct

Make a new section for vars related to interpreter state

This is a little arbitrary, for example one could argue that @INC and %INC
belong in there. My main goal was to move stuff that you're less likely to
care about later in the document. Basically, this is the stuff that wizards
care about and mere mortals generally don't.

Move $0 and $$ together

Move uid & gid variable docs next to each other

Update README.freebsd with the new approach for making $^X absolute.

Merge the improved $^X absolute pathname conversion.

Note the improved $^X absolute pathname conversion in perldelta.pod

Teach Configure about "procselfexe" on Solaris and NetBSD

Configure would already find /proc/self/exe on NetBSD, where /proc/self is
a symlink to /proc/curproc. However, the revised probe avoids the extra
symlink traversal. Configure did not previously probe for the
relevant path on Solaris, /proc/self/path/a.out

Rename the description of /proc/curproc/file from BSD to FreeBSD, as it seems
that of the "big 3" BSDs, only FreeBSD uses this path.

Based on a patch from Johann 'Myrkraverk' Oskarsson.

In Configure, refactor the test for procselfexe into a loop.

This removes code duplication, and makes it easy to add more variants.
Based on a patch from Johann 'Myrkraverk' Oskarsson.

Where available, use _NSGetExecutablePath() to make $^X absolute.

In Configure, check whether _NSGetExecutablePath() can be used to find the
absolute pathname of the executable. If so, set usensgetexecutablepath in
config.sh and USE_NSGETEXECUTABLEPATH in config.h. If this is set, then use
this approach in S_set_caret_X() to canonicalise $^X as an absolute
path. This approach works on OS X, and possible on other platforms that
use dyld.

Where available, use sysctl() with KERN_PROC_PATHNAME to make $^X absolute.

In Configure, check whether sysctl() and KERN_PROC_PATHNAME can be used
to find the absolute pathname of the executable. If so, set
usekernprocpathname in config.sh and USE_KERN_PROC_PATHNAME in config.h.
If this is set, then use this approach in S_set_caret_X() to canonicalise
$^X as an absolute path. This approach works on (at least) FreeBSD, and
doesn't rely on the /proc filesystem existing, or /proc/curproc/file being
present.

Upgrade perlfaq from version 5.0150034 to 5.0150035

Avoid a "use of uninitialized value" warning from pwent.t

16acebfd4bd4723d refactored parts of t/op/pwent.t and enabled warnings.
The refactoring was not the cause - the previous t/op/pwent.t code would
warn if run with -w.

On OS X (and presumably any other platform where the test processes the
output of /usr/bin/dscl), where a user does not have a real name, dscl does
not output a corresponding line, and as a result the test's processing code
had undef in a data structure. The implicit conversion of this to an empty
string was correct for the test to pass, but generates a warning when
warnings are enabled. Hence disable this specific warning for the minimal
scope where the conversion is wanted behaviour.

Dual-life perlglossary.pod as part of perlfaq

Add 5.14.2 to perlhist

Add 5.14.2-RC1 to perlhist

Add the 5.14.2 perldelta

Add the 5.14.2 epigraph

podcheck.t: Work for scripts/utilities under VMS

 As noted in the comments in the code for this commit, VMS builds
 add a '.com' suffix to scripts and utilities and hence their names don't
 match what is in podcheck's db.  This canonicalizes such names
 back to what the db is expecting.

t/re/re_tests: Add TODO

perlrebackslash: Add missing paren to example