Fix ldbl-96 scalblnl underflowing results (bug 17803).
authorJoseph Myers <joseph@codesourcery.com>
Mon, 12 Jan 2015 23:02:14 +0000 (23:02 +0000)
committerJoseph Myers <joseph@codesourcery.com>
Mon, 12 Jan 2015 23:02:14 +0000 (23:02 +0000)
commit5a9e4c09a2601a8100ea9a1f7bc0360782cd1625
treef70efee88fe34c9f405165c4241978724ccf3282
parent34e93d6c76b7a6eaf94697a172b958704fd33396
Fix ldbl-96 scalblnl underflowing results (bug 17803).

The ldbl-96 implementation of scalblnl (used for x86_64 and ia64) uses
a condition k <= -63 to determine when a standard underflowing result
tiny*__copysignl(tiny,x) should be returned.  However, that condition
corresponds to values with exponent -16446 or less, and in the case of
-16446, the correct result for round-to-nearest depends on whether the
value is exactly 0x1p-16446 (half the least subnormal) or more than
that.  This patch fixes the bug by changing the condition to k <= -64
and accordingly adjusting the exponent by 64 not 63 when converting to
a normal value.

Tested for x86_64.

[BZ #17803]
* sysdeps/ieee754/ldbl-96/s_scalblnl.c (twom63): Rename to
twom64.  Adjust value to 0x1p-64L.
(__scalblnl): Only return standard underflowing result for K <=
-64 not K <= -63; adjust exponent for underflowing result by 64
not 63.
* math/libm-test.inc (scalbn_test_data): Add more tests.
(scalbln_test_data): Likewise.
ChangeLog
NEWS
math/libm-test.inc
sysdeps/ieee754/ldbl-96/s_scalblnl.c