vp8cx : bestsad declared and initialized incorrectly.
authorFritz Koenig <frkoenig@google.com>
Thu, 24 Jun 2010 16:18:23 +0000 (12:18 -0400)
committerFritz Koenig <frkoenig@google.com>
Thu, 24 Jun 2010 16:18:23 +0000 (12:18 -0400)
commitcecdd73db786c2ea29f9d6eff1d30f1e8b75eeb5
tree445c822f06f2ffd580c17d3465ce7190dd17bae3
parentd1920de22cd6f13ba85b087ff06f6a8cfd4641d2
vp8cx : bestsad declared and initialized incorrectly.

bestsad should be an int initialized to INT_MAX.  The optimized
SAD function expects a signed value for bestsad to use for comparison
and early loop termination.  When no match is made, which is
determined by a comparison of bestsad to INT_MAX, INT_MAX is returned.
vp8/encoder/mcomp.c