cap the best quantizer for 2nd order DC
authorYaowu Xu <yaowu@google.com>
Wed, 26 Jan 2011 06:24:22 +0000 (22:24 -0800)
committerYaowu Xu <yaowu@google.com>
Wed, 26 Jan 2011 06:26:18 +0000 (22:26 -0800)
commit999e155f55f07238e9900d4ec25ff4ac311a5f92
treef42c2f7321be4d668d4b0d90b227cda51b3cc286
parent907e98fbb5d66133e57dd3b499d3d7d77420a7ce
cap the best quantizer for 2nd order DC

This commit also removes artificial RDMULT cap for low quantizers.
The intention is to address some abnormal behavior of mode selections
at the low quantizer end, where many macroblocks were coded with
SPLITMV with all partitions using same motion vector including (0,0).
This change improves the compression quality substantially for high
quality encodings in both PSNR and SSIM terms. Overall effect on
mid/low rate range is also positive for all metrics, but smaller
in magnitude.

Change-Id: I864b29c4bd9ff610d2545fa94a19cc7e80c02667
vp8/encoder/onyx_if.c
vp8/encoder/rdopt.c