Fix i686 memchr for large input sizes
authorAdhemerval Zanella <adhemerval.zanella@linaro.org>
Mon, 2 Jan 2017 14:20:21 +0000 (12:20 -0200)
committerAdhemerval Zanella <adhemerval.zanella@linaro.org>
Mon, 2 Jan 2017 19:52:51 +0000 (17:52 -0200)
commit23d27709a423aec32821e9a5198a10267107bae2
tree70f3e22be28951df11af9a80c07ba2ff487ed103
parent62210e7eb1b270c72c2ee61a14015285cd817262
Fix i686 memchr for large input sizes

Similar to BZ#19387 and BZ#20971, both i686 memchr optimized assembly
implementations (memchr-sse2-bsf and memchr-sse2) do not handle the
size overflow correctly.

It is shown by the new tests added by commit 3daef2c8ee4df29, where
both implementation fails with size as SIZE_MAX.

This patch uses a similar strategy used on 3daef2c8ee4df2, where
saturared math is used for overflow case.

Checked on i686-linux-gnu.

[BZ #21014]
* sysdeps/i386/i686/multiarch/memchr-sse2-bsf.S (MEMCHR): Avoid overflow
in pointer addition.
* sysdeps/i386/i686/multiarch/memchr-sse2.S (MEMCHR): Likewise.
ChangeLog
sysdeps/i386/i686/multiarch/memchr-sse2-bsf.S
sysdeps/i386/i686/multiarch/memchr-sse2.S