Make fdct32 computation flow within 16bit range
authorJingning Han <jingning@google.com>
Fri, 14 Jun 2013 18:28:56 +0000 (11:28 -0700)
committerJingning Han <jingning@google.com>
Tue, 18 Jun 2013 16:46:24 +0000 (09:46 -0700)
commita41a4860c0b3be7815f37b4ec833e87218307c4f
tree8d795f9d348b6c21627b36e0e266027e53263d4d
parentc43af9a8a3adc7bd3888e746ce7b7bd581c476ae
Make fdct32 computation flow within 16bit range

This commit makes use of dual fdct32x32 versions for rate-distortion
optimization loop and encoding process, respectively. The one for
rd loop requires only 16 bits precision for intermediate steps.
The original fdct32x32 that allows higher intermediate precision (18
bits) was retained for the encoding process only.

This allows speed-up for fdct32x32 in the rd loop. No performance
loss observed.

Change-Id: I3237770e39a8f87ed17ae5513c87228533397cc3
vp9/common/vp9_idct.h
vp9/common/vp9_rtcd_defs.sh
vp9/encoder/vp9_block.h
vp9/encoder/vp9_dct.c
vp9/encoder/vp9_encodeframe.c
vp9/encoder/vp9_encodemb.c