Use qstride = 0 and allocate only a single line for qscale_table since
authorReimar Döffinger <Reimar.Doeffinger@gmx.de>
Sat, 23 Jan 2010 18:01:38 +0000 (18:01 +0000)
committerReimar Döffinger <Reimar.Doeffinger@gmx.de>
Sat, 23 Jan 2010 18:01:38 +0000 (18:01 +0000)
for this codecs all quants are the same for a single frame.

Originally committed as revision 21404 to svn://svn.ffmpeg.org/ffmpeg/trunk

libavcodec/mdec.c

index 9cf2a0c..fa9661e 100644 (file)
@@ -201,7 +201,7 @@ static int decode_frame(AVCodecContext *avctx,
     }
 
     p->quality= a->qscale * FF_QP2LAMBDA;
-    memset(p->qscale_table, a->qscale, p->qstride*a->mb_height);
+    memset(p->qscale_table, a->qscale, a->mb_width);
 
     *picture   = a->picture;
     *data_size = sizeof(AVPicture);
@@ -229,8 +229,8 @@ static av_cold int decode_init(AVCodecContext *avctx){
     ff_mpeg12_init_vlcs();
     ff_init_scantable(a->dsp.idct_permutation, &a->scantable, ff_zigzag_direct);
 
-    p->qstride= a->mb_width;
-    p->qscale_table= av_mallocz( p->qstride * a->mb_height);
+    p->qstride= 0;
+    p->qscale_table= av_mallocz(a->mb_width);
     avctx->pix_fmt= PIX_FMT_YUV420P;
 
     return 0;