Expand UMV border to 96 pixels
authorJohn Koleszar <jkoleszar@google.com>
Mon, 29 Apr 2013 20:44:54 +0000 (13:44 -0700)
committerJohn Koleszar <jkoleszar@google.com>
Tue, 30 Apr 2013 00:35:51 +0000 (17:35 -0700)
Ensures that the full 64 pixel border is available for prediction (need a minimum of
64+INTERP_EXTEND on all sides, and 32+INTERP_EXTEND on UV). Value also must be a
multiple of 32 to keep UV stride alignment. The smaller border was causing the prediction
to read outside the frame, which can cause a mismatch.

TODO: Get rid of this explicit border and use edge emulation instead.

Change-Id: I3f68453a088ec0ab4349d0f5cc02b573be06d7c4

vpx_scale/yv12config.h

index 14b6e27..22df399 100644 (file)
@@ -18,7 +18,7 @@ extern "C" {
 #include "vpx/vpx_integer.h"
 
 #define VP8BORDERINPIXELS       32
-#define VP9BORDERINPIXELS       64
+#define VP9BORDERINPIXELS       96
 #define VP9_INTERP_EXTEND        4
 
   /*************************************