Fix bug in sb8x8 bitstream decoding.
authorRonald S. Bultje <rbultje@google.com>
Wed, 1 May 2013 21:50:39 +0000 (14:50 -0700)
committerRonald S. Bultje <rbultje@google.com>
Thu, 2 May 2013 00:13:27 +0000 (17:13 -0700)
Change-Id: I7ac69a369851b09d9422f2e3c62b12b3fcd49a4c

vp9/decoder/vp9_decodemv.c

index 0e55657..55c6737 100644 (file)
@@ -205,7 +205,11 @@ static void kfread_modes(VP9D_COMP *pbi, MODE_INFO *m,
   } else if (cm->txfm_mode >= ALLOW_32X32 &&
              m->mbmi.sb_type >= BLOCK_SIZE_SB32X32) {
     m->mbmi.txfm_size = TX_32X32;
-  } else if (cm->txfm_mode >= ALLOW_16X16 && m->mbmi.mode <= TM_PRED) {
+  } else if (cm->txfm_mode >= ALLOW_16X16 &&
+#if CONFIG_SB8X8
+             m->mbmi.sb_type >= BLOCK_SIZE_MB16X16 &&
+#endif
+             m->mbmi.mode <= TM_PRED) {
     m->mbmi.txfm_size = TX_16X16;
   } else if (cm->txfm_mode >= ALLOW_8X8 && m->mbmi.mode != I4X4_PRED) {
     m->mbmi.txfm_size = TX_8X8;