rename REG_SEEN_WHATEVER to REG_WHATEVER_SEEN to match RXf_ and PREGf_ convention

Add "Errata From Previous Releases" section to perldelta.pod

Which we use to document a mistake in perl5180delta.pod.

This patch also removes the mistake from perl5180delta.pod

[perl #120626] Mention RDF::Trine in perl5200delta

handy.h: Add a cBOOL()

isascii() is used as a fallback for isASCII().  This would be on an
unusual platform or under unusual circumstances.  isascii() may return
values besides 0 and 1 which can cause things that are expecting a bool
to fail.

pp.c: Silence compiler warning

The only time the result of toFOLD_LC() can be larger than a byte is
in a UTF-8 locale, which has already been ruled out for this section of
code.

regcomp.c: Revert mistakenly changed line

Commit 31f05a37 mistakenly included a line that is supposed to be in a
future commit.  This reverts that until then; and adds a test for it, as
this was not caught by the test suite.

INSTALL: Updates to the cross-compilation section

Configure: use $undef, not plain undef

README.qnx: Add a section for cross-compilation

QNX hints: Add LC_ALL=C to targetenv

Glossary for targetenv

Configure: Added a targetenv variable

Currently this is only used during make test, and allows setting
the environment of the target before running tests.

README.solaris: Add a section for cross-compilation

Configure, Solaris hints: Allow cross-compiling to Solaris.

This only required some minor changes to the Solaris hints, and
adding a few lines for Solaris in the part of Configure that handles
setting osname and osvers when cross-compiling.

t/io/fs.t: sh in Blackberry might behave like android's

Configure, qnx hints: Improve the cross-compilation support for QNX

Now, like with Android and plain Linux, cross-compiling to QNX (which
includes newer Blackberry devices) will load hints/qnx.sh.

Move the RXf_ANCH flags to intflags as PREGf_ANCH_xxx and add RXf_IS_ANCHORED as a replacement

The only requirement outside of the regex engine is to identify that there is
an anchor involved at all. So we move the 4 anchor flags to intflags and replace
it with a single aggregate flag RXf_IS_ANCHORED in extflags.

This frees up another 3 bits in extflags.

rename RXf_UNUSED flags to match their BASE_SHIFT offset

So they stay stable as I move other flags from extflags to intflags

move RXf_GPOS_SEEN and RXf_GPOS_FLOAT to intflags

This required removing the RXf_GPOS_CHECK mask as it uses one flag
that will stay in extflags for now (RXf_ANCH_GPOS), and one flag that
moves to intflags (RXf_GPOS_SEEN). This mask is strange however, as
you cant have RXf_ANCH_GPOS without having RXf_GPOS_SEEN so I dont
know why we test both. Further investigation required.

Rename RXf_CANY_SEEN to PREGf_CANY_SEEN and move from extflags to intflags

move RXf_NOSCAN from extflags to intflags as PREGf_NOSCAN

Includes some improvements to how we dump regexps so that when a regexp
is for the standard perl engine we also show the intflags for the engine

Update Digest-SHA to CPAN version 5.86

  [DELTA]

5.86  Thu Jan 30 08:24:28 MST 2014
  - improved the performance of hexadecimal output functions
    -- ref. 'shahex' in src/sha.c
    -- thanks to Thomas Drugeon for ideas and test script

perl5200delta: Tk has been fixed

perl5200delta: Mouse has been fixed

perldelta for c4cf781e24ac2

op.c: Consistent spaces after dots in apidocs

perl5200delta: Glib has been fixed

[perl #121068] Mention HTML::FormHandler in perl5200delta

A patch has been submitted.

perldelta for e4c0574e9d

ensure we have a reference when we call SvRV()

perldelta for c23547d5c6

Optimisation for 'my $x; my $y;' -> 'my ($x, $y)'.

Brings:

  sub { my $x; my $y; return 1; }

Up to speed with:

  sub { my ($x, $y); return 1; }

[perl #121104] avoid using a less sane find(1)

locale.c: Fix failure to find UTF-8 locales

Commit 119ee68b changed the method to determine if a locale is a UTF-8
one to a method that was usable on more platforms, by using the C99 libc
function mbtowc().  I didn't realize that there needs to be a special
call to this function preceeding the main call to make sure it is in the
initial state.  This commit fixes that.

In looking at the results from several different platforms, I decided it
is best to use nl_langinfo() in preference to mbtowc() when available,
and only use mbtowc() if nl_langinfo doesn't exist on the platform or
fails to return a real result, which happens for some locales on Darwin.
This commit does that as well.

lib/locale.t: Better debug information

This adds a couple of lines of information, and sorts some other output

Clarify op_free documentation

regcomp.c: Process all POSIXes in [...] under /l

Commit 31f05a37 introduced a regression in which if you have something
like /[\s\d[:punct:]/, all but the final class were ignored.  This was
due to initialization happening every time through the loop, instead of
the first time needed.

regcomp.c: White-space only

Properly indent 9 lines.  This makes it easier to see the logic flaws to
be fixed in the next commits.

t/loc_tools.pl: find_locales() Don't destroy callers ENV

This code was recently moved from lib/locale.t to a new file essentially
unchanged, so that it could be common code.  It deletes several
environment variables, such as PATH,  to avoid interference with going
out and looking at the locales.  In lib/locale.t, those environment
variables are not needed again, but that isn't true of all the callers.
The solution is simply to localize the removal.

This should fix [perl #121106], but there remain test failures there.

remove redundancy in documentation of exec

exec's behavior is determined by the count of items in LIST, and
not by whether it's an array.

update embed.fnc now op_null and op_free have docs

PATCH: [perl #121109] locales failing

This was due to a logic error in toFOLD_LC() introduced in
31f05a37c4e9c37a7263491f2fc0237d836e1a80.  It affected only the code
point at 0xB5 and shows up only in locales in which the character at that
code point is an uppercase letter.

perldelta for Cow Tools

I somehow missed this.

op.c: fix grammar in apidocs

Fix crash with (??{undef *^R}) and (?{})

$ ./perl -Ilib -e '"" =~ /(??{undef *^R;""})(?{42})/'
Segmentation fault: 11

This started crashing in 4b22688e5c.

What happens is that the undef frees the scalar pointed to by oreplsv
in regtry,  Then that scalar is reused for the regexp object created
from the return value of the ?? block.  sv_setsv(oreplsv,...) ends up
trying to set the IV slot of a regexp, overwriting the engine field
(sv_setsv probably needs an assertion).  Then later accesses crash
because r->engine is now a bad pointer.

(Though why it only started crashing in 4b22688e5c and not before I
have not figured out.)

The solution is for S_regtry to hang on to the SV with an extra refer-
ence count in case it gets freed.

document op_free and op_null

from https://rt.perl.org/Public/Bug/Display.html?id=121077#txn-1277679

Tony Cook: s/Neutralized/Neutralizes/

mktables: Refer to an actual commit number

version has files customized by 858cc5e3f0 and e2ca569edb

Now logged in rt.cpan.org as #92536.

ExtUtils::MakeMaker has files customized by d59900f697 and 8aaffb9f45

Now logged in rt.cpan.org as #92535.

Config::Perl::V has files customized by 0b39d4dc4a

Now logged in rt.cpan.org as #92534.

Update autodie to CPAN version 2.23

  [DELTA]

2.23      2014-01-27 13:50:55EST+1100 Australia/Melbourne

        * TEST / BUGFIX: Improved testing support on Android
          and Blackberry devices. (GH #44, thanks to
          Hugmeir.)

        * TEST / INTERNAL / TRAVIS: Various non-code
          tweaks to make travis-ci more happy with testing
          autodie.

        * BUGFIX: autodie no longer weakens strict by allowing
          undeclared variables with the same name as built-ins.
          (RT #74246, thanks to Neils Thykier and Father
          Chrysostomos.)

        * BUGFIX: `use autodie qw( foo ! foo);` now correctly
          insists that we have hints for foo. (Thanks Niels Thykier)

        * INTERNAL: Improved benchmarking code, thanks to
          Niels Thykier.

regcomp.c: Change a variable and flag bit names

The meaning of these was expanded two commits ago, so update the name to
reflect this, to prevent future confusion

White-space, comments only

This mostly indents and outdents base on blocks added or removed by the
previous commit.  But there are a few comment changes and vertical
alignment of macro backslash continuation characters, and other
white-space changes

Work properly under UTF-8 LC_CTYPE locales

This large (sorry, I couldn't figure out how to meaningfully split it
up) commit causes Perl to fully support LC_CTYPE operations (case
changing, character classification) in UTF-8 locales.

As a side effect it resolves [perl #56820].

The basics are easy, but there were a lot of details, and one
troublesome edge case discussed below.

What essentially happens is that when the locale is changed to a UTF-8
one, a global variable is set TRUE (FALSE when changed to a non-UTF-8
locale).  Within the scope of 'use locale', this variable is checked,
and if TRUE, the code that Perl uses for non-locale behavior is used
instead of the code for locale behavior.  Since Perl's internal
representation is UTF-8, we get UTF-8 behavior for a UTF-8 locale.

More work had to be done for regular expressions.  There are three
cases.

1) The character classes \w, [[:punct:]] needed no extra work, as
the changes fall out from the base work.

2) Strings that are to be matched case-insensitively.  These form
EXACTFL regops (nodes).  Notice that if such a string contains only
characters above-Latin1 that match only themselves, that the node can be
downgraded to an EXACT-only node, which presents better optimization
possibilities, as we now have a fixed string known at compile time to be
required to be in the target string to match.  Similarly if all
characters in the string match only other above-Latin1 characters
case-insensitively, the node can be downgraded to a regular EXACTFU node
(match, folding, using Unicode, not locale, rules).  The code changes
for this could be done without accepting UTF-8 locales fully, but there
were edge cases which needed to be handled differently if I stopped
there, so I continued on.

In an EXACTFL node, all such characters are now folded at compile time
(just as before this commit), while the other characters whose folds are
locale-dependent are left unfolded.  This means that they have to be
folded at execution time based on the locale in effect at the moment.
Again, this isn't a change from before.  The difference is that now some
of the folds that need to be done at execution time (in regexec) are
potentially multi-char.  Some of the code in regexec was trivial to
extend to account for this because of existing infrastructure, but the
part dealing with regex quantifiers, had to have more work.

Also the code that joins EXACTish nodes together had to be expanded to
account for the possibility of multi-character folds within locale
handling.  This was fairly easy, because it already has infrastructure
to handle these under somewhat different circumstances.

3) In bracketed character classes, represented by ANYOF nodes, a new
inversion list was created giving the characters that should be matched
by this node when the runtime locale is UTF-8.  The list is ignored
except under that circumstance.  To do this, I created a new ANYOF type
which has an extra SV for the inversion list.

The edge case that caused the most difficulty is folding involving the
MICRO SIGN, U+00B5.  It folds to the GREEK SMALL LETTER MU, as does the
GREEK CAPITAL LETTER MU.  The MICRO SIGN is the only 0-255 range
character that folds to outside that range.  The issue is that it
doesn't naturally fall out that it will match the CAP MU.  If we let the
CAP MU fold to the samll mu at compile time (which it can because both
are above-Latin1 and so the fold is the same no matter what locale is in
effect), it could appear that the regnode can be downgraded away from
EXACTFL to EXACTFU, but doing so would cause the MICRO SIGN to not case
insensitvely match the CAP MU.  This could be special cased in regcomp
and regexec, but I wanted to avoid that.  Instead the mktables tables
are set up to include the CAP MU as a character whose presence forbids
the downgrading, so the special casing is in mktables, and not in the C
code.

Rename an internal flag

The UTF8 in the name is kind of misleading, and would be more misleading
after future commits make UTF8 locales special.

regcomp.c: Avoid calling heavy duty functions when possible

This code calls the general purpose functions to fold and convert to
utf8.  These can be avoided for many frequently used code points.

regcomp.c: Nit in comments

regcomp.c: Swap two else clauses for clarity.

This makes one clause mostly positive tests, instead of mostly negative
tests; using positives is easier to understand.

regen pod issues

Increase $B::Deparse::VERSION to 1.25

[perl #121050] Teach B::Deparse about prototype whitespace

It has been hanging or unnecessarily using & since commit d16269d835
caused spaces to be preserved in the prototype and stripped when
applied during sub call compilation.  That commit did not update
B::Deparse accordingly.

PATCH: Bump Locale-Codes from 3.28 to 3.29

I just released Locale-Codes-3.29 which contains the core modules
Locale::Country, Locale::Language, and Locale::Currency.  The patch is
attached here.

====
Background:

The core modules Locale::Country, Locale::Language, and Locale::Currency
(all part of the Locale-Codes distribution) should be updated on a
regular basis. They contain "codes" from various internet standards
which change over time.

I plan on releasing new versions at 4 times a year to keep the codes
up-to-date. At this point, I'm not planning on any significant code
changes (other than bug fixes), so the only significant changes between
releases should be to update the codes.

Signed-off-by: Chris 'BinGOs' Williams <chris@bingosnet.co.uk>

Taint more operands with case changes

 The documentation says that Perl taints certain operations when subject
 to locale rules, such as lc() and ucfirst().  Prior to this commit
 there were exceptions when the operand to these functions contained no
 characters whose case change actually varied depending on the locale,
 for example the empty string or above-Latin1 code points.  Changing to
 conform to the documentation simplifies the core code, and yields more
 consistent results.

fold_grind.t: Use LC_CTYPE, not LC_ALL

We are testing here just LC_CTYPE, so is better to use just that
category.

Avoid unnecessary malformed checking

regen/regcharclass.pl can create macros for use where we need to worry
about the possibility of malformed UTF-8, and for where we don't.  In
the case of looking at regex patterns, the Perl core has complete
control over generating them, and hence isn't generally going to create
too short a buffer;  if it does, it's a bug that will show up and get
fixed.  This commit changes to generate and use the faster macros that
don't do bounds checking.

regen/regcharclass.pl: Don't test UV >= 0

An unsigned must always be >= 0, and generating a test for that can lead
to a compiler warning, even if it gets optimized out.  The input to the
macros generated by this are supposed to be UV.  This commit suppresses
any >= 0 test.

regen/regcharclass.pl: Fix warning

wrap() is already defined by the regen infrastructure; no need to do so
again, and get warning if we persist in doing so.

Move an inversion list generation to mktables

Prior to this patch, this was in regen/mk_invlists.pl, but future
commits will want it to also be used by the header generated by
regen/regcharclass.pl, so use a common source so the logic doesn't have
to be duplicated.

Regen porting/known_pod_issues.dat

This is to acknowledge the too-long verbatim lines in perlandroid,
which look to me to be better left long

Move more locale code to t/loc_tools.pl

This trivial code to determine if a locale is a utf8 one or not is
currently used in just one place, but future commits will use it in
others, and will make it non-trivial, and non-obvious.

Android support

This merge introduces Android support for Perl, for all three currently
available architectures (ARM, MIPS, x86), either through native builds
or cross-compilation (from x86_64 and x86 hosts).

perldelta for Android

Plus an entry in perlport

Android hints: run-adb-shell was mishandling '\0'

That's literally '\0', all four characters, not a null.  Previously, due to
mistakenly passing things through the shell twice, it turned '\0' into an
actual null, and that screwed up the test for fflush(NULL)

Configure: Fix the fflush(NULL) test in cross builds

Second attempt at this. This is less portable than the previous
version, since it assumes that the target system will have a cat, but unlike
the previous version this now actually works.

README.android: minor wording fixups

reentr.c: Handle systems without getpwent

Namely, Android.

ExtUtils::ParseXS: Fix tests for native android builds

AUTHORS and MANIFEST for the CBuilder Android patch

Up the version of ExtUtils::CBuilder

CBuilder, android: Fix the useshrplib check

ExtUtils::CBuilder: Android with useshrplib needs -lperl

pod fixups on README.android

README.android: Notes about cross-compiling from a x86 host

README.android: Update for native builds

Added README.android

Cwd.pm: Handle native android builds better

ext/POSIX/t/sysconf.t: Skip testing pathconf with _PC_LINK_MAX on android

IO::Socket::INET: Handle getprotobyn{ame,umber} not being available

Net::Ping: Handle getprotobyn{ame,umber} not being available

dist/IO/t/io_pipe.t: Work around android only having an inbuilt echo

t/op/sigdispatch.t: SKIP, not TODO

t/io/fs.t: Handle Android's pwd being a shell builtin

t/op/filetest.t: On Android, don't try checking if ln exists with which

Assume that it does -- even the most barebone of toolbox binaries
provides ln, but not which.

t/op/sigdispatch.t: Increase timeout to avoid issues on slow processors

t/op/stat.t: use 'ls -l' on android, even if d_readlink is defined

t/op/fork.t: Up the sleep time in a test to avoid timing issues

t/op/fork.t: Work around android only having an inbuilt echo

t/op/magic.t: Skip tests that use env on Android

t/op/magic.t: Work around android only having an inbuilt pwd

t/op/incfilter.t: Work around android only having an inbuilt echo