[Support] unsafe pointer arithmetic in llvm_regcomp()
authorMiod Vallat <miod@online.fr>
Fri, 4 Feb 2022 00:50:58 +0000 (19:50 -0500)
committerBrad Smith <brad@comstyle.com>
Fri, 4 Feb 2022 00:59:27 +0000 (19:59 -0500)
commit877c84acd466364858d37c9e2e8d9dfa3891d51a
tree2b885bcadfc7ac4e47e779c61c9b8017186f29c7
parent2b78ef06c2cd65175a5f39240b4d4c8674e1e754
[Support] unsafe pointer arithmetic in llvm_regcomp()

regcomp.c uses the "start + count < end" idiom to check that there are
"count" bytes available in an array of char "start" and "end" both point
to.

This is fine, unless "start + count" goes beyond the last element of the
array. In this case, pedantic interpretation of the C standard makes
the comparison of such a pointer against "end" undefined, and optimizers
from hell will happily remove as much code as possible because of this.

An example of this occurs in regcomp.c's bothcases(), which defines
bracket[3], sets "next" to "bracket" and "end" to "bracket + 2". Then it
invokes p_bracket(), which starts with "if (p->next + 5 < p->end)"...

Because bothcases() and p_bracket() are static functions in regcomp.c,
there is a real risk of miscompilation if aggressive inlining happens.

The following diff rewrites the "start + count < end" constructs into
"end - start > count". Assuming "end" and "start" are always pointing in
the array (such as "bracket[3]" above), "end - start" is well-defined
and can be compared without trouble.

As a bonus, MORE2() implies MORE() therefore SEETWO() can be simplified
a bit.

Bug report: https://github.com/llvm/llvm-project/issues/47993

Reviewed By: MaskRay, vitalybuka

Differential Revision: https://reviews.llvm.org/D97129
llvm/lib/Support/regcomp.c