Allocate 1 line more in the chroma plane for H.264, this avoids some
authorMichael Niedermayer <michaelni@gmx.at>
Tue, 30 Sep 2008 01:45:53 +0000 (01:45 +0000)
committerMichael Niedermayer <michaelni@gmx.at>
Tue, 30 Sep 2008 01:45:53 +0000 (01:45 +0000)
out of array reads with mmx/sse2 code.
Fixes issue327.

Originally committed as revision 15467 to svn://svn.ffmpeg.org/ffmpeg/trunk

libavcodec/utils.c

index 66122a5..cf40681 100644 (file)
@@ -170,6 +170,8 @@ void avcodec_align_dimensions(AVCodecContext *s, int *width, int *height){
 
     *width = ALIGN(*width , w_align);
     *height= ALIGN(*height, h_align);
+    if(s->codec_id == CODEC_ID_H264)
+        *height+=2; // some of the optimized chroma MC reads one line too much
 }
 
 int avcodec_check_dimensions(void *av_log_ctx, unsigned int w, unsigned int h){