fix superframe index marker masks
authorJohn Koleszar <jkoleszar@google.com>
Wed, 13 Mar 2013 02:03:05 +0000 (19:03 -0700)
committerJohn Koleszar <jkoleszar@google.com>
Wed, 13 Mar 2013 02:04:32 +0000 (19:04 -0700)
commitbd9cd9a1859aa464b3092f2023b3a4040166572d
tree4adc4c17450c9dba01d4bbda27988c1f600c4d6d
parentc11313e31e41e8167dd93c2e2072ba925fa86687
fix superframe index marker masks

The superframe index marker byte carries data in the lower 5 bits. Only the
upper 3 should be used as part of the mask to detect it. By masking with
0xf0, the previous code was incorrect for frames over 65k bytes.

Change-Id: I6248889f5af227457f359a56b2348ef6db87a3b4
test/superframe_test.cc
vp9/vp9_dx_iface.c