Remove tx cache and speed up tx size selection
authorYunqing Wang <yunqingwang@google.com>
Wed, 29 Jul 2015 20:37:41 +0000 (13:37 -0700)
committerYunqing Wang <yunqingwang@google.com>
Fri, 31 Jul 2015 01:53:40 +0000 (18:53 -0700)
commit3b2e73b9a476ad1b6cffb126118e394c65cfecab
treedd7cbff2513e9ac3936c0284e3f0b69b7295303a
parenteb6b443bd266d3c1f7931830de92fd11b86e27cd
Remove tx cache and speed up tx size selection

1. The RD scores obtained during the tx size selection were stored in the
tx cache, and used to help make the tx decision for the following frames.
This wasn't used anymore in VP9 encoder. Recovered the related decision
making code from 1.5+ years ago, and borg tests didn't show any quality
gain. This patch removed it to lower the complexity.

2. An optimization was done after the above refactoring. If the tx_mode
is not TX_MODE_SELECT, we only need to test the chosen tx size instead
of all posible tx sizes. This gave a 1.5% average speed gain at speed 2,
and a 1% average speed gain at speed 3.

Change-Id: Id8cd650e066a8cef33829d8c15388a8138adc78c
vp9/encoder/vp9_context_tree.h
vp9/encoder/vp9_encodeframe.c
vp9/encoder/vp9_rdopt.c