Use modeled rate distortion costs for non-RD mode
authorJingning Han <jingning@google.com>
Fri, 7 Mar 2014 02:56:50 +0000 (18:56 -0800)
committerJingning Han <jingning@google.com>
Fri, 7 Mar 2014 07:00:48 +0000 (23:00 -0800)
commit539c961ed4825bace64647e122893a77eeb9a0c4
treef8cf01b0f952911bb8719c582c0cf3071269f640
parent90a8dad162ab678e3f669c11ec7624b8fd00e94b
Use modeled rate distortion costs for non-RD mode

This commit replaces SAD cost with modeled rate-distortion cost
for non-RD mode decision. It translates the prediction residual
SSE into estimate rate and reconstruction distorion costs, hence
capturing the quantization setting effect. The compression
performance of speed -7 for rtc set is improved by 14.79%.

Change-Id: Ifda014eb0501d13109fe7f92680bf1410b463632
vp9/encoder/vp9_encodeframe.c
vp9/encoder/vp9_pickmode.c
vp9/encoder/vp9_rdopt.c
vp9/encoder/vp9_rdopt.h