Fast computation path for forward transform and quantization
authorJingning Han <jingning@google.com>
Fri, 30 May 2014 01:14:17 +0000 (18:14 -0700)
committerJingning Han <jingning@google.com>
Thu, 12 Jun 2014 18:10:54 +0000 (11:10 -0700)
commitccba289f8d1760a45b972685a64eb829529b70ab
tree819c723e62c4392394e9675ded1106ee6e1f2476
parent5556d1184169168e59656863456c88c3f958ca45
Fast computation path for forward transform and quantization

This commit enables a fast path computational flow for forward
transformation. It checks the sse and variance of prediction
residuals and decides if the quantized coefficients are all
zero, dc only, or more. It then selects the corresponding coding
path in the forward transformation and quantization stage.

It is currently enabled in rtc coding mode. Will do it for rd
coding mode next.

In speed -6, the runtime for pedestrian_area 1080p at 1000 kbps
goes down from 14234 ms to 13704 ms, i.e., about 4% speed-up.
Overall coding performance for rtc set is changed by -0.18%.

Change-Id: I0452da1786d59bc8bcbe0a35fdae9f623d1d44e1
vp9/common/vp9_rtcd_defs.pl
vp9/encoder/vp9_block.h
vp9/encoder/vp9_context_tree.h
vp9/encoder/vp9_dct.c
vp9/encoder/vp9_encodeframe.c
vp9/encoder/vp9_encodemb.c
vp9/encoder/vp9_encodemb.h
vp9/encoder/vp9_pickmode.c
vp9/encoder/vp9_quantize.c
vp9/encoder/vp9_quantize.h
vp9/encoder/x86/vp9_dct_sse2.c