Change to mode early breakout rules for FILM mode.
authorPaul Wilkins <paulwilkins@google.com>
Thu, 28 Feb 2019 14:10:12 +0000 (14:10 +0000)
committerPaul Wilkins <paulwilkins@google.com>
Mon, 11 Mar 2019 13:50:33 +0000 (13:50 +0000)
commitc48b2c96adab9055e97a84ac11d5ff3dde62afca
treeb13ca4690bc31c1095741a606b21a7fb2f9bec28
parent9ce7bf835a8dceca891dbce05fecd5b5417b3856
Change to mode early breakout rules for FILM mode.

The biggest offender in terms of preventing retention of film
grain in high rate film content is the use of DC-PRED mode.
Some of the directional modes whilst not strictly preserving
grain do better at at least preserving some texture.

This change blocks the early breakout of the rd loop based
on the reference frame giving the best result so far. In practice,
unless DC-PRED was chosen as the best mode so far, the other
directional intra modes would not even be considered.

As the film grain mode also tends to bias against DC-PRED (or
intra in general) this was pretty much blocking all use of directional
intra modes.

The patch also allows for a broader spectrum of DC modes at the
16x16 transform level than previously.

Change-Id: I860b7726ea9f5fcbb3ec1a90edbdd8cade2e8b28
vp9/encoder/vp9_speed_features.c