Make this/next iiratio unsigned.
authorJohn Koleszar <jkoleszar@google.com>
Sat, 12 Jun 2010 18:11:51 +0000 (14:11 -0400)
committerJohn Koleszar <jkoleszar@google.com>
Sat, 12 Jun 2010 18:11:51 +0000 (14:11 -0400)
commitcd475da8ed054187ed5e2013cc71f46a28202575
tree601bc24be82090e6a9e82412dc700d4ef204fe71
parent00d566eae1591078ecbadcaf67e30b2778c06b4e
Make this/next iiratio unsigned.

This patch addresses issue #79, which is a regression since commit
28de670 "Fix RD bug." If the coded error value is zero, the iiratio
calculation effectively multiplies by 1000000 by the
DOUBLE_DIVIDE_CHECK macro. This can result in a value larger than
INT_MAX, giving a negative ratio. Since the error values are
conceptually unsigned (though they're stored in a double) this patch
makes the iiratio values unsigned, which allows the clamping to work
as expected.
vp8/encoder/onyx_int.h