Fix unsigned overflows in temporal filter.
authorAlex Converse <aconverse@google.com>
Tue, 3 May 2016 17:49:19 +0000 (10:49 -0700)
committerAlex Converse <aconverse@google.com>
Tue, 3 May 2016 17:55:44 +0000 (10:55 -0700)
Change-Id: Iebdc8304d30c78f03f99f6dc665003ff41c8b1cd

vp9/encoder/vp9_temporal_filter.c

index ebe28b8..2ba2750 100644 (file)
@@ -143,8 +143,8 @@ void vp9_temporal_filter_apply_c(uint8_t *frame1,
 
       for (idy = -1; idy <= 1; ++idy) {
         for (idx = -1; idx <= 1; ++idx) {
-          int row = i + idy;
-          int col = j + idx;
+          int row = (int)i + idy;
+          int col = (int)j + idx;
 
           if (row >= 0 && row < (int)block_height &&
               col >= 0 && col < (int)block_width) {
@@ -211,8 +211,8 @@ void vp9_highbd_temporal_filter_apply_c(uint8_t *frame1_8,
 
       for (idy = -1; idy <= 1; ++idy) {
         for (idx = -1; idx <= 1; ++idx) {
-          int row = i + idy;
-          int col = j + idx;
+          int row = (int)i + idy;
+          int col = (int)j + idx;
 
           if (row >= 0 && row < (int)block_height &&
               col >= 0 && col < (int)block_width) {