tscc2: DCT output should not be clipped
authorKostya Shishkov <kostya.shishkov@gmail.com>
Mon, 16 Jul 2012 18:14:37 +0000 (20:14 +0200)
committerKostya Shishkov <kostya.shishkov@gmail.com>
Tue, 17 Jul 2012 05:21:24 +0000 (07:21 +0200)
This fixes decoding some TSCC2 files with large quantisers.

libavcodec/tscc2.c

index 7fd87fd..972dc43 100644 (file)
@@ -95,7 +95,7 @@ static av_cold int init_vlcs(TSCC2Context *c)
     OP(d3, 5 * ((s0) - (s1) + (s2)) - 2 * (s3));  \
 
 #define COL_OP(a, b)  a = b
-#define ROW_OP(a, b)  a = av_clip_uint8((((b) + 0x20) >> 6) + 0x80)
+#define ROW_OP(a, b)  a = (((b) + 0x20) >> 6) + 0x80
 
 static void tscc2_idct4_put(int *in, int q[3], uint8_t *dst, int stride)
 {