Fix a typo introduced in #94401aff
authorYaowu Xu <yaowu@google.com>
Thu, 12 Mar 2015 15:01:08 +0000 (08:01 -0700)
committerYaowu Xu <yaowu@google.com>
Thu, 12 Mar 2015 15:01:08 +0000 (08:01 -0700)
This fixes all test vector failures

Change-Id: Ie1a9fe0f023f7a0c7e89eb55df1b40ff65302adc

vp9/common/vp9_blockd.c

index caec1da..3cd9f44 100644 (file)
@@ -58,7 +58,7 @@ void vp9_foreach_transformed_block_in_plane(
   const int max_blocks_wide = num_4x4_w + (xd->mb_to_right_edge >= 0 ? 0 :
       xd->mb_to_right_edge >> (5 + pd->subsampling_x));
   const int max_blocks_high = num_4x4_h + (xd->mb_to_bottom_edge >= 0 ? 0 :
-      xd->mb_to_bottom_edge >> (5 + pd->subsampling_x));
+      xd->mb_to_bottom_edge >> (5 + pd->subsampling_y));
 
   // Keep track of the row and column of the blocks we use so that we know
   // if we are in the unrestricted motion border.