Correct the mode decisions in special cases
authorYunqing Wang <yunqingwang@google.com>
Thu, 4 Sep 2014 22:16:12 +0000 (15:16 -0700)
committerYunqing Wang <yunqingwang@google.com>
Fri, 5 Sep 2014 19:01:07 +0000 (12:01 -0700)
commit1dd9a63929495a0f1d39848f33a970a159bf03de
tree15f5a3b37ecf37a68fa7da5b05ed93ca6b89af26
parent6f980c6a1e7e0f4c1436f8cb4527e2239f4cd906
Correct the mode decisions in special cases

The rate costs calculated for inter modes are not precise in some
cases, which causes NEWMV is chosen instead of NEARESTMV, NEARMV,
and ZEROMV. This patch added checks for these cases, and corrected
the mode decisions.

Borg tests at speed 3 showed:
1. stdhd set: 0.102% PSNR gain and 0.088% SSIM gain.
2. derf set:  0.147% PSNR gain and 0.132% SSIM gain.
No speed change.

Change-Id: I35d17684b89ad4734fb610942d707899146426db
vp9/encoder/vp9_rdopt.c