vp8cx : bestsad declared and initialized incorrectly.
authorFritz Koenig <frkoenig@google.com>
Thu, 24 Jun 2010 18:30:48 +0000 (14:30 -0400)
committerFritz Koenig <frkoenig@google.com>
Thu, 24 Jun 2010 18:30:48 +0000 (14:30 -0400)
bestsad needs to be a int and set to INT_MAX because at the end
of the function it is compared to INT_MAX to determine if there
was a match in the function.

Change-Id: Ie80e88e4c4bb4a1ff9446079b794d14d5a219788

vp8/encoder/mcomp.c

index 6d69a9e..156578b 100644 (file)
@@ -1238,7 +1238,7 @@ int vp8_full_search_sadx3(MACROBLOCK *x, BLOCK *b, BLOCKD *d, MV *ref_mv, int er
     unsigned char *bestaddress;
     MV *best_mv = &d->bmi.mv.as_mv;
     MV this_mv;
-    unsigned int bestsad = UINT_MAX;
+    int bestsad = INT_MAX;
     int r, c;
 
     unsigned char *check_here;