[Indic] Limit syllables to at most five consonants

Seems to be about what Uniscribe does.  Not exactly.  But close enough.
More consonants will start a new cluster.

A few scripts went way down in failures.  In particular:

  - Devanagari failures went down from 490 to 56.
  - Telugu went down from 113 to 49.

Other scripts went down slightly or didn't change.  New numbers:

BENGALI: 353908 out of 354285 tests passed. 377 failed (0.106412%)
DEVANAGARI: 693572 out of 693628 tests passed. 56 failed (0.00807349%)
GUJARATI: 366485 out of 366506 tests passed. 21 failed (0.00572978%)
GURMUKHI: 60750 out of 60809 tests passed. 59 failed (0.0970251%)
KANNADA: 950730 out of 951913 tests passed. 1183 failed (0.124276%)
KHMER: 298613 out of 299124 tests passed. 511 failed (0.170832%)
MALAYALAM: 1046881 out of 1048416 tests passed. 1535 failed (0.146411%)
ORIYA: 42320 out of 42329 tests passed. 9 failed (0.021262%)
SINHALA: 271333 out of 271847 tests passed. 514 failed (0.189077%)
TAMIL: 1091837 out of 1091837 tests passed. 0 failed (0%)
TELUGU: 970524 out of 970573 tests passed. 49 failed (0.00504856%)

Some of the remaining Telugu and Devanagari issues seem to be Uniscribe
eating Anusvara when placed before a non-joiner.  Ouch!

[Thai] Fix SARA AM handling

Oops, thinko.

[Thai] Reorder U+0E3A THAI VOWEL SIGN PHINTHU

Uniscribe reorders U+0E3A to be after U+0E38 and U+0E39.  We do that by
modifying the ccc for U+0E3A.

Fixes the two remaining Thai failures (see previous commit).

[Thai] Adjust SARA AM reordering to match Uniscribe

Adjust the list of marks before SARA AM that get the reordering
treatment.  Also adjust cluster formation to match Uniscribe.

With Wikipedia test data, now I see:

  - For Thai, with the Angsana New font from Win7, I see 54 failures out
    of over 4M tests  (0.00129107%).  Of the 54, two are legitimate
    reordering issues (fix coming soon), and the other 52 are simply
    Uniscribe using a zero-width space char instead of an unknown
    character for missing glyphs.  No idea why.  The missing-glyph
    sequences include one that is a Thai character followed by an Arabic
    Sokun.  Someone confused it with Nikhahit I assume!

  - For Lao, with the Dokchampa font from Win7, 33 tests fail out of
    54k (0.0615167%).  All seem to be insignificant mark positioning
    with two marks on a base.  Have to investigate.

[Indic] Fix cluster formation with left-matras and conjunct forms

Test case was: <U+0D15,U+0D4D,U+0D15,U+0D4A>.

[Indic] Further streamline cluster formation

This should address all possible cluster misformations that I had in
mind.

[Indic] Merge clusters before sorting

This should fix any instabilities in cluster formation that we were
speculating may happen with surrounding syllables.  Or most of it
perhaps.

[Indic] Update clusters for left-matra even if matra didn't move

Fixes crashes reported with left matra under
non-uniscribe-bug-compatibilty mode.

[Indic] Merge in Malayalam tests

From:
http://silpa.org.in/pub/tests/hb/ml/ml-harfbuzz-testdata.txt

[Indic] Add extensive Sinhala tests

Generated by:
http://git.savannah.gnu.org/cgit/sinhala.git/plain/utils/gen-unicode-sinhala.py

[Indic] Add Sinhala tests

Merge tests from:
http://git.savannah.gnu.org/cgit/sinhala.git/plain/patches/icu-sinhala-rendering.txt

Add a test case

[Indic] Stop searching for base if a post form is found before below form

Improves Bengali and Gurmukhi.  Malayalam regressed a bit.  We will deal
with that later.

[Indic] Recompose Bengali Ya,Nukta

This is a bunch of hacks for now.

Improves Bengali a bit.

[Uniscribe] Fix script fallback

Gurmukhi failures half now.  Others changed slightly.

[Indic] Allow a ZWNJ after SM's

Malayalam failures go way down.  Other scripts benefitted slightly too.
Sinhala had one or two test regressions, but...

[Indic] Improve Reph AfterMain positioning

Fixes 20 out of 48 failing Oriya tests.  Failure rate down to 0.066% now.

[Indic] Reposition Oriya Candrabindu

Oriya failures down from 0.65% to 0.20%.

[Indic] Fix base search in final_reordering

Fixes most Malayalam failures.  Down from 1.6% to 0.38% now.  Fixes a
few more in other scripts too.

[Indic] Don't attach SM/VD to other characters

Fix compiler warnings

If x is not constant, we cannot ASSERT_STATIC on it.

[Indic] Form Telugu Reph out of Ra,Virama,ZWJ

Apparently this was approved in Feb 2012.  No font yet.

[Indic] Don't split U+0AC9

Althought IndicMatraCategory.txt classifies it as Top_And_Right matra,
it does not have Unicode decomposition, and Uniscribe does not do
anything special about it either.

Gujarati failures down from 0.672% to 0.0130966%.

[Indic] Simplify Uniscribe cluster emulation

Now that we break syllables on Halant,ZWNJ, this code can be simplified.

[Indic] Minor!

[Indic] Break syllables at Halant,ZWNJ

That's really what Uniscribe does, and explains a lot of pecularities of
Halant,ZWNJ before the base.

Sent Telugu from 1% failures to 0.03%.  Improved Kannada and Malayalam
slightly.  Fixed half of Bengali, and did NOT break anything!

[Indic] Better check for applying 'init'

Specifically, don't apply 'init' if previous char is a joiner.

Fixes some more of Bengali.

[GPOS] Don't zero mark advances

Fixes more of Telugu, Kannada, and Oriya.

May break things (outside Indic...), but we cannot think of any font relying
on this immediately.

[Indic] Minor

[Indic] Implement reph positioning step 5

Not tuned, just copied from step 2.  Fixes another 0.5% of Kannada
failures.  1% to go.

[Indic] Don't let ZWNJ at the end of syllable affect base search

Fixes a few Devanagari, half of remaining Kannada failures, quarter for
Telugu, and others slightly improved or unchanged.

[Indic] Apply 'cjct' globally

Fixes 5 Devanagari failures, and no regressions.

[Indic] Unbreak old scriptures

Brings down failures with Lohit-Telugu from 57% to 1.40%.

Minor

[Indic] Recategorize some Kannada right matras

Kannada failures down from 3.5% to 2.93%.

[Indic] Recategorize GURMUKHI ADDAK

It's not in IndicSyllabicCategory.txt.  Fixes most of Gurmukhi failures.
Failures down from 7.7% to 0.222%!

Minor

[buffer] Make sure out_info = info during GPOS

Print line number during return when tracing

[Indic] Unbreak Khmer

For Khmer, all consonants are subjoining.  No need to look in the font.
We were looking in the wrong order anyway.

[Indic] Apply 'akhn' globally

Fixes 1.5% more failures for Telugu, 2% for Kannada.
Breaks one test in Devanagari.

[Indic] Add failing test for Kannada

[Indic] Better position U+0CD5

Fixes another 5% of Kannada failures.

[Indic] Lookup consonant position in the font

Fixes most failures of Oriya, and improves others a bit.

[GSUB] Fix would_apply() for LigatureSubst

[TODO] Minor

Add src/test-would-substitute tool

Refactor / finish would_apply() operation

Untested.

[Indic] Implement per-script matra positioning

Following what the spec says.

Brings down Telugu failures from 40% to 3.75%, and Kannada failures from
44% to 10%.  Does NOT affect other scripts' test results.

[Indic] More refactoring

[Indic] Minor refactoring

[Indic] Minor

[Indic] Start refactoring different matra positions per script

[test] Ignore tests with DOTTED CIRCLE in the output

[Indic] Disallow decomposition of a couple characters

This is a hack for now.  Will be fixed when we do complex-shaper-driven
normalization properly.

The results with or without decomposition are the same, but Uniscribe
does not normalize, so this matches better.

[Indic] Accept a forced Rakar sequence at the end of syllable

In Sinhala, Rakar is formed by Al-Lakuna,ZWJ,Ra.  If you put that at the
end of a Consonant,Matra syllable, you get a dotted-circle from
Uniscribe.  Apparently adding a ZWJ before the Al-Lakuna "fixes" that.
And people have been encoding that sequence...  So, allow a forced
"ZWJ,Virama,ZWJ,Ra" sequence at the of syllables.

Fixes some 100 or more of Sinhala failures.  Now at 622 only (0.23%).

[Indic] Allow joiners on both sides of Halant at the same time

The sequence <ZWJ,Al-Lakuna,ZWJ> is used in Sinhala to explicitly ask
for Rakar.  Fixes two-thousand Sinhala tests.  Not many left.

[Indic] In final reordering, find base, even if it disappeared

POS_BASE can disappear if base ligated backward.  Define base as last
with position not after base.

Fixes a few hundred of Sinhala failures with Iskoola Pota.

[Indic] Minor

[Indic] Implement Sinhala "Al Lakuna" Reph behavior

In Sinhala, Reph is formed only explicitly, by the presence of a ZWJ.

[Indic/Unicode] Decompose Sinhala split matras the way Uniscribe likes

Makes no visual difference.

Fixes most of the failures.  Down from 15% to 1.3%!

Apply Tibetan (global) features.

Fixes all Tibetan failures.  All 180k of them!

Merges back Hangul into the default shaper.

[Indic] Treat Register Shifters like Nukta

Really this time.

Fixes another 18 Khmer tests.

[Indic] Minor

[Indic] Fix Matra reordering when base is at end of syllable

For example: U+915,U+200c,U+93f

Fixes last Tamil failure!

Leave one extra item at the end of buffer allocation

Just in case, for the times we do out-of-bounds access.

jk

[Indic] Fix out-of-bounds array access

[Indic] Allow joiners before matras

Fixes 1 more Devanagari test!

[Indic] Allow halant group in Vowel and placeholder syllables

Fixes 2 out of 560 Devanagari failures.  AND:
Fixes 1 out of 2 Tamil failures.

[Indic] Streamline halant/joiner in grammar

[Indic] Minor

[Indic] Hopefully minor!

Refactoring Indic machin.  No semantic change.

[Indic] Minor

[Indic] Unbreak Tamil

Tamil has only about 150 failures now!

[Indic] Position Khmer Robat

It's a visual Repha.

Still not positioning logical Repha as occurs in Malayalam.

Another 200 Khmer failures fixed.  547 to go.  That's better than
Devanagari!

[Indic] Better categorize Register Shifters and Khmer Various signs

Down another 500 or so Khmer failures!

Add hb_buffer_normalize_glyphs() and hb-shape --normalize-glyphs

This reorders glyphs within the cluster to a nominal order.  This should
have no visible effect on the output, but helps with testing, for
getting the same hb-shape output for visually-equal glyphs for each
cluster.

[Indic] Minor

[Indic] For scripts without Half forms, always choose first consonant as base

In such scripts (ie. Khmer), a ZWJ/ZWNJ shouldn't stop the search for
base.  So, instead just choose the first consonant as base directly.

Test sequence:
U+1798,200c,U+17C9,U+17D2,U+179B,U+17C1,U+17C7

[Indic] Treat Khmer Register Shifters more like Nuktas

Except that there may be a ZWNJ before a Register Shifter.

[Indic] Minor

[Indic] Apply 'cfar' for Khmer

Mark stuff after a pre-base reordering Ro 'cfar'.  Used in Khmer.
This allows distinguishing the following cases with MS Khmer fonts:

  U+1784,U+17D2,U+179A,U+17D2,U+1782
  U+1784,U+17D2,U+1782,U+17D2,U+179A

[Indic] Position final subjoined consonants (and vowels) after matras

In Khmer, a final subjoined consonant or independent vowel can occur
after matras.  This final subjoined thing should NOT be reordered to
before the matra even though it's subjoined.

Fixes another 1k of the Khmer failures.  Not much left really.

[Indic] Recategorize Khmer coeng sign as a separate category OT_Coeng

Amend the syllable structure to allow a final subscripted consonant
(Coeng+C) and a final subscripted independent vowel (Coeng+V).
Fixes another 2k of Khmer failures.

[Indic] Add a separate Coeng class

No characters recategorized yet.  No semantic change.

[Indic] Move Halant with after-base consonants

Normally, we attach the Halant to the previous character and move it
with it.  For after-base consonants however, the Halant "belongs" to the
consonant after, so attach it so.

This fixes Bengali sequences involving post-base consonant Ya, which
should ligate with the Halant to form Ya Phala, but previously a
reordered matras was blocking the ligation.

[Indic] Apply presentation-forms features all at once

Seems like this is what Uniscribe is doing, and does not break any fonts
we tested (with Devanagari, Malayalam, Khmer, and Bengali), while fixing
some Ra Phala sequences for Bengali with Vrinda.  Fixes another 2% of
Bengali failures (a couple more to go).

Fix MarkAttachmentType matching

Fixes issue reported by Khaled Hosny with his Hussaini Nastaleeq font
and sequences like those added in the previous commit.

[test/arabic] Add Arabic tests for mark skipping

Expose a bug with Khaled's Hussaini Nastaleeq font.

Minor

[Indic] Disable 'kern' in Uniscribe bug compatibility mode

Uniscribe does not apply 'kern' in the Indic module.  Some of the Khmer
fonts they ship have small adjustments in the 'kern' table.  Disable
'kern' in the Indic module under Uniscribe bug compatibility mode.

Fixes some 10% of the Khmer failures.  Remains under 3% (excluding
dotted-circle ones).

Allow complex shapers overriding common features

In a new callback...  Currently unused by all complex shapers.

[Indic] Categorize other Khmer marks

Mark them the same as the Register Shifters for now.  Need to rename
that category to something more sensible after all is settled.

Fixes another percent of Khmer failures.  Down to under 3%!

[Indic] Recognize pre-base reordering Ra anywhere in the syllable

We were doing that only immediately after base.

Fixes another percent in the Khmer failures.  About three more to go...

[Indic] Recognizer Register Shifter marks

Fixes another 6% of the Khmer failures.

[GSUB/GDEF] Guess glyph classes after substitution only if no GDEF

Brings down Khmer failures with Daun Penh font from 36% to 20%.

[Indic] Categorize Khmer Ro

Khmer failures down from 58% to 36%.

[Indic] Reoder pre-base reordering Ra

Brings down Malayalam failures from 14% down to 3%.

[Indic] Rename

[Indic] Start implementing pre-base reordering