[GSUB/GPOS/Indic] Apply GSUB/GPOS within syllables only

This does not apply to the context matchings.

This regresses tests right now.  And we are not sure whether this is
the right thing to do for GPOS.  But we'll figure out.

[GSUB/GPOS] Fix wrong buffer access in backward skippy mask matching

[Indic] Don't use syllable serial value 0

[Indic] Implement Uniscribe Reph+Matra+Halant bug feature

[Indic] Add example of different Uniscribe behavior

[Indic] Add runtime Uniscribe bug compatibility mode!

Enable by setting envvar:

  HB_OT_INDIC_OPTIONS=uniscribe-bug-compatible

Plus, LeftMatra+Halant "feature".

[Indic] Add #define UNISCRIBE_BUG_COMPATIBLE 1

[Indic] Fix Left Matra + Halant reordering

As can be seen in: U+092B,U+093F,U+094D

Minor

[Indic] Add test for Left Matra with Halant

Uniscribe doesn't move the Halant, we do.  And do a broken job of it now.

[GSUB/GPOS] Check all glyph masks when matching input

[Indic] Apply Reph mask to all POS_REPH glyphs

Needed for upcoming changes to GSUB/GPOS mask matching.

[Indic] Fix state machine to backtrack

[Indic] Move syllable tracking from Indic to generic layer

This is to incorporate it into GSUB/GPOS processing.

[Indic] Disable conjuncts when a ZWJ happens

Not that the code makes any difference since the presence of ZWJ itself
causes the ligature to fail to match anyway.

[Indic] Fix bitops typo!

Another 1000 down!

Make APPLY debug output print current index and codepoint

Yay!

Minor

Some more...

Done.  I promise.

More beauty in debug output!

Finish off debug output beautification

Only print class name in debug output if there's one available

Only printout class name in tracing, if one is available

Makes debug output much more pleasant.

Minor

Add return annotation for APPLY

/Minor/

Annotate SANITIZE return values

More to come, for APPLY, CLOSURE, etc.

Minor

Code reshuffling

Beautify debug output

More massaging trace messaging

Minor

Better trace message support infrastructure

We have varargs in the trace interface now.  To be used soon...

[Indic] Towards better Reph positioning

Fixed for Deva cases with two full-form consonants.  Failures **way** down.
Not much left to go :-).

[Indic] Add Ra back for scripts without Reph

We now check that the 'rphp' table exists before forming Reph, so
we don't need to comment out Ra for those scripts.

[Indic] Add note re Uniscribe clusters

[Indic] Do clustering like Uniscribe does

Hindi Wikipedia failures down to 6639 (0.938381%)!

[Indic] Add test for matra group

The spec says: "[{M}+[N]+[H]]", and that's what Uniscribe implements.
We instead do: "{M+[N]+[H]}", which means we allow Nukta and Halant
after all Matras, not just the last one.  It makes more sense.

[Indic] Reorder Reph to before the Halant after Matras

Uniscribe doesn't do it, but we want to do as it gives the Reph the
opportunity to interact with the Matras.  Test with mangal for example.
Sequence: <0930,094d,0915,094b,094d>
In test suite already.

[Indic] Don't clear the mask for Reph

This was removing the mandatory global 1 bit in the mask and hence
disabling GPOS for Reph!

[Indic] Improve Left Matra repositioning

Move its dependents too.

[Indic] Add tricky reordering test cases

In the case of Consonant,LeftMatra,Halant, Uniscribe leaves the Halant
where it is, but we want to move it with the Matra as that makes more
logical sense.

[Indic] Do Reph repositioning in final reordering like the spec says

This introduced a failure, which we tracked down to a test case like this:

  U+092E,U+094B,U+094D,U+0930

The final character is a Ra that should be put in a syllable of it's
own.  And we do.  But it will interact with the Halant before it.  So
now we finally are convinced that we have to limit features to syllable
boundaries.  That's coming after lunch!

Minor

[Indic] Reorder left matras to be closer to base

[Indic] Treat the standalone cluster case reusing the consonant logic

[Indic] Minor

[Indic] Handle Vowel syllables

Reusing the consonant logic!

[Indic] Simplify Reph logic

[Indic] Don't form Reph is Ra is the only consonant in the syllable

[Indic] Increase max syllable length

20 was way too low, one could hit a syllable with 7ish consonants with it.

[Indic] Adjust base after sorting

[Indic] Don't return for long syllables.  Just not sort.

Fix Uniscribe clusters with multiple items

[Indic] Don't give up syllable parsing upon junk

[Indic] Towards multi-cluster syllables and final reordering

Combine lig_id and lig_comp into one byte, to free up one for Indic

Minor

[Indic] Make room for more reordering positions

[Indic] Improve matra vs consonant ordering

Another 1.5% down.

[Indic] Categorize Anudatta

[Indic] Add joiner test cases for Devanagari

[Indic] Make sure Reph jumps over all matras to the right

Another 12 thousand failures gone! (78 to go)

[Indic] Keep Vedic signs at the right too

Replace zerowidth invisible chars with a zero-advance space glyph

Like Uniscribe does.

[indic] Keep the syllable modifier marks to the right

Shaping failures on Hindi Wikipedia go down from 25% to 14%!

Minor

Minor

[indic] Better Reph matching

Minor

[indic] Apply Indic features in order

[indic] Apply rakaar forms

Fixes 10% of the failures against all of Hindi Wikipedia!

Add hb-diff-ngrams

Add N-gram generator

Use groupby()

Add hb-diff-stat

Make hb-diff-filter-failtures retain all test info for failed tests

Add hb-diff-colorize

Accepts --format=html now.

Cleanup diff

Doesn't do --color anymore.  That will go into a new hb-diff-colorize
tool.

Make hb-diff faster

More tests

Fix warning and build issues

As reported by Jonathan Kew on the list.

Minor

Add hb_ot_shape_glyphs_closure()

Experimental API for now.

Minor

Minor

Add test caes for a minority language using Bengali

U+0985 BENGALI LETTER A followed by U+09D7 BENGALI AU LENGTH MARK.
According to Bobby de Vos on the mailing list, this results in a dotted
circle with most shaping engines, but is a legitimate sequence in this
minority language.

We reached the consensus on the list to NOT implement dotted-circle
in HarfBuzz.

Add a few more set operations

TODO: Tests for hb_set_t.

Make closure() return void

Add hb_set_t

Update copyright headers

Rename hb_glyph_map_t to hb_set_t

Improve clustering

Minor

Add map->substitute_closure()

Implement closure() for Context and ChainContext lookups

Flesh out closure() for GSUB

The GSUBGPOS part still missing.

Fix Coverage iters

Minor

Minor refactoring