Modified Aq1 and Aq2
authorPaul Wilkins <paulwilkins@google.com>
Mon, 3 Feb 2014 12:47:01 +0000 (12:47 +0000)
committerPaul Wilkins <paulwilkins@google.com>
Tue, 11 Feb 2014 16:27:05 +0000 (16:27 +0000)
commitf30b323180c3c358b646414f79f33da5664eeccb
treebacec642c363d3d4b0f92bfa22ecc9526e04de67
parent9602ed8808498c0bdc176ec4ffc60654860f12ec
Modified Aq1 and Aq2

Aq 1 only updates segment map on kf and arf and
only uses 3 segments. With these settings AQ1 is
+ for most clips in SSIM but negative in psnr.
However, the penalty in PSNR is much less than
previously.

Old version aq1 average results for std hd
-20.899% psnr, -5.809% SSIM
New version aq1 for std hd
-3.57% psnr, +1.23% SSIM

Aq2 Now uses only 2 segments and rd.
This mode is still slightly negative for most clips on
psnr and SSIM but seems to have a much bigger visual
impact on several problem clips than aq mode 1.

Old results for std hd:
-2.578% psnr, -1.151% SSIM
New results for std hd:
-1.561% psnr, -0.85% SSIM

Change-Id: I94f57f8a73121629ce598fb921aad761c1450e1c
vp9/encoder/vp9_encodeframe.c
vp9/encoder/vp9_onyx_if.c
vp9/encoder/vp9_vaq.c