x86-64 memcmp/wmemcmp: Properly handle the length parameter [BZ# 24097]
authorH.J. Lu <hjl.tools@gmail.com>
Mon, 21 Jan 2019 19:25:56 +0000 (11:25 -0800)
committerH.J. Lu <hjl.tools@gmail.com>
Mon, 21 Jan 2019 19:26:07 +0000 (11:26 -0800)
commitb304fc201d2f6baf52ea790df8643e99772243cd
tree502227813e790ba46c8f6e4ee826cb3f36ffb9bb
parent97700a34f36721b11a754cf37a1cc40695ece1fd
x86-64 memcmp/wmemcmp: Properly handle the length parameter [BZ# 24097]

On x32, the size_t parameter may be passed in the lower 32 bits of a
64-bit register with the non-zero upper 32 bits.  The string/memory
functions written in assembly can only use the lower 32 bits of a
64-bit register as length or must clear the upper 32 bits before using
the full 64-bit register for length.

This pach fixes memcmp/wmemcmp for x32.  Tested on x86-64 and x32.  On
x86-64, libc.so is the same with and withou the fix.

[BZ# 24097]
CVE-2019-6488
* sysdeps/x86_64/multiarch/memcmp-avx2-movbe.S: Use RDX_LP for
length.  Clear the upper 32 bits of RDX register.
* sysdeps/x86_64/multiarch/memcmp-sse4.S: Likewise.
* sysdeps/x86_64/multiarch/memcmp-ssse3.S: Likewise.
* sysdeps/x86_64/x32/Makefile (tests): Add tst-size_t-memcmp and
tst-size_t-wmemcmp.
* sysdeps/x86_64/x32/tst-size_t-memcmp.c: New file.
* sysdeps/x86_64/x32/tst-size_t-wmemcmp.c: Likewise.
ChangeLog
sysdeps/x86_64/multiarch/memcmp-avx2-movbe.S
sysdeps/x86_64/multiarch/memcmp-sse4.S
sysdeps/x86_64/multiarch/memcmp-ssse3.S
sysdeps/x86_64/x32/Makefile
sysdeps/x86_64/x32/tst-size_t-memcmp.c [new file with mode: 0644]
sysdeps/x86_64/x32/tst-size_t-wmemcmp.c [new file with mode: 0644]