Fix strtof decimal rounding close to half least subnormal (bug 18247).
authorJoseph Myers <joseph@codesourcery.com>
Fri, 10 Apr 2015 20:45:30 +0000 (20:45 +0000)
committerJoseph Myers <joseph@codesourcery.com>
Fri, 10 Apr 2015 20:45:30 +0000 (20:45 +0000)
commit5556d30caee170384553d2ae3247ec77a66b9ae8
treef17624c702ee8f1304651ebe95145205f294273d
parentb3c66c534f8a9dbee44aa4983814fc52008f0323
Fix strtof decimal rounding close to half least subnormal (bug 18247).

Bug 18247 is an off-by-one error in strtof's determination of a
decimal exponent such that any value with that decimal exponent is at
most half the least subnormal and so the appropriate underflowing
value for the rounding mode can be determined with no
multiple-precision computations.  (Whether the value is in fact safe
despite the off-by-one depends on the floating-point format in
question.  It's wrong for float and for m68k ldbl-96 but not for other
supported formats.)  This patch corrects the computation of the
exponent in question to be safe in general, adding a comment
explaining the new computation.

Tested for x86_64.

[BZ #18247]
* stdlib/strtod_l.c (____STRTOF_INTERNAL): Decrease minimum
decimal exponent by 1.
* stdlib/tst-strtod-round-data: Add more tests.
* stdlib/tst-strtod-round.c (tests): Regenerated.
ChangeLog
NEWS
stdlib/strtod_l.c
stdlib/tst-strtod-round-data
stdlib/tst-strtod-round.c