Abstract selection of coef band.
authorPaul Wilkins <paulwilkins@google.com>
Mon, 11 Feb 2013 20:44:53 +0000 (20:44 +0000)
committerPaul Wilkins <paulwilkins@google.com>
Wed, 13 Feb 2013 19:01:25 +0000 (19:01 +0000)
commit9255ad107f2e17685090c15555c0a80b6cd06854
tree6096c9acc269e6bfc941fc008b184454f6516393
parent56049d9488af78bf29a45eaa4625b75d4def865e
Abstract selection of coef band.

This patch abstracts the selection of the coefficient band
context into a function as a precursor to further experiments
with the coefficient context.

It also removes the large per TX size coefficient band structures
and uses a single matrix for all block sizes within the test function.

This may have an impact on quality (results to follow) but is only an
intermediate step in the process of redefining the context. Also the
quality impact will be larger initially because the default tables will
be out of step with the new banding.

In particular the 4x4 will in this case only use 7 bands. If needed we
can add back block size dependency localized within the function, but
this can follow on after the other changes to the definition of the
context.

Change-Id: Id7009c2f4f9bb1d02b861af85fd8223d4285bde5
vp9/common/vp9_entropy.c
vp9/common/vp9_entropy.h
vp9/decoder/vp9_detokenize.c
vp9/encoder/vp9_encodemb.c
vp9/encoder/vp9_rdopt.c
vp9/encoder/vp9_tokenize.c