Further experimentation with the mode context
authorPaul Wilkins <paulwilkins@google.com>
Fri, 16 Nov 2012 16:31:32 +0000 (16:31 +0000)
committerPaul Wilkins <paulwilkins@google.com>
Fri, 16 Nov 2012 16:58:00 +0000 (16:58 +0000)
commita57dbd957b44a5b72bd404a3b006aaf5a5eb4bc0
tree903f8d1bc8424cb02684cfd31ab8fa1f8c97ba18
parent6bca6decbf3cce47f77ccb0bf6a5cc293ce6a186
Further experimentation with the mode context

Experiments with a larger set of contexts and some
clean up to replace magic numbers regarding the
number of contexts.

The starting values and rate of backwards adaption
are still suspect and based on a small set of tests.
Added forwards adjustment of probabilities.

The net result of adding the new context and forward
update is small compared to the old context from the
legacy find_near function.  (down a little on derf but
up by a similar amount for HD)

HOWEVER.... with the new context and forward update
the impact of disabling the reverse update (which may be
necessary in some use cases to facilitate parallel decoding)
is hugely reduced.

For the old context without forward update, the impact of
turning off reverse update (Experiment was with SB off) was
Derf - 0.9, Yt -1.89, ythd -2.75 and sthd -8.35. The impact was
mainly at low data rates.

With the new context and forward update enabled the impact
for all the test sets was no more than 0.5-1% (again most at
the low end).

Change-Id: Ic751b414c8ce7f7f3ebc6f19a741d774d2b4b556
12 files changed:
vp9/common/entropy.h
vp9/common/entropymode.c
vp9/common/findnearmv.h
vp9/common/modecont.c
vp9/common/modecont.h
vp9/common/mvref_common.c
vp9/common/onyxc_int.h
vp9/decoder/decodframe.c
vp9/encoder/bitstream.c
vp9/encoder/encodeframe.c
vp9/encoder/onyx_int.h
vp9/encoder/ratectrl.c