[spatial svc]Remove key frame quantizer settings since key frame is decided by rate control

Change-Id: I7eda0f5e678034f0e9c2ab481c517d2e9b280eb5

Merge "[spatial svc]Don't skip motion search in first pass encoding"

Merge "[spatial svc]Implement lag in frames for spatial svc"

Merge "Replace cpi->common with preset variable cm"

Merge "Add vp9_ prefix to mv_pred and setup_pred_block functions"

Merge "Reuse inter prediction result in real-time speed 6"

Merge "Dual ARF changes: Buffer index selection."

Merge "Adjust arf Q limits with multi-arf."

vp9: check tile column count

the max is 6. there are assumptions throughout the decode regarding
this; fixes a crash with a fuzzed bitstream

$ zzuf -s 5861 -r 0.01:0.05 -b 6- \
  < vp90-2-00-quantizer-00.webm.ivf \
  | dd of=invalid-vp90-2-00-quantizer-00.webm.ivf.s5861_r01-05_b6-.ivf \
    bs=1 count=81883

Change-Id: I6af41bb34252e88bc156a4c27c80d505d45f5642

Replace cpi->common with preset variable cm

This commit replaces a few use cases of cpi->common with preset
variable cm, to avoid unnecessary pointer fetch in the non-RD
coding mode.

Change-Id: I4038f1c1a47373b8fd7bc5d69af61346103702f6

Add vp9_ prefix to mv_pred and setup_pred_block functions

Make these two functions accessible by both RD and non-RD coding
modes.

Change-Id: Iecb39dbf3d65436286ea3c7ffaa9920d0b3aff85

[spatial svc]Don't skip motion search in first pass encoding

Change-Id: Ia6bcdaf5a5b80e68176f60d8d00e9b5cf3f9bfe3

[spatial svc]Implement lag in frames for spatial svc

Change-Id: I930dced169c9d53f8044d2754a04332138347409

Reuse inter prediction result in real-time speed 6

In real-time speed 6, no partition search is done. The inter
prediction results got from picking mode can be reused in the
following encoding process. A speed feature reuse_inter_pred_sby
is added to only enable the resue in speed 6.

This patch doesn't change encoding result. RTC set tests showed
that the encoding speed gain is 2% - 5%.

Change-Id: I3884780f64ef95dd8be10562926542528713b92c

Add unit test to test user_priv parameter.

Change-Id: I6ba6171e43e0a43331ee0a7b698590b143979c44

Fix test on maximum downscaling limits

There is a normative scaling range of (x1/2, x16)
for VP9. This patch fixes the maximum downscaling
tests that are applied in the convolve function.

The code used a maximum downscaling limit of x1/5
for historic reasons related to the scalable
coding work. Since the downsampling in this
application is non-normative it will revert to
using a separate non-normative scaler.

Change-Id: Ide80ed712cee82fe5cb3c55076ac428295a6019f

Merge "Fixed VP9 denoiser COPY_BLOCK case"

Dual ARF changes: Buffer index selection.

Add indirection to the section of buffer indices.
This is to help simplify things in the future if we
have other codec features that switch indices.

Limit the max GF interval for static sections to fit
the gf_group structures.

Change-Id: I38310daaf23fd906004c0e8ee3e99e15570f84cb

Adjust arf Q limits with multi-arf.

Adjust enforced minimum arf Q deltas for non primary arfs
in the middle of an arf/gf group.

Change-Id: Ie8034ffb3ac00f887d74ae1586d4cac91d6cace2

Further dual arf changes: multi_arf_allowed.

Add multi_arf_allowed flag.
Re-initialize buffer indices every kf.
Add some const indicators.

Change-Id: If86c39153517c427182691d2d4d4b7e90594be71

Fix some bugs in multi-arf

Fix some bugs relating to the use of buffers
in the overlay frames.

Fix bug where a mid sequence overlay was
propagating large partition and transform sizes into
the subsequent frame because of :-
  sf->last_partitioning_redo_frequency  > 1 and
  sf->tx_size_search_method == USE_LARGESTALL

Change-Id: Ibf9ef39a5a5150f8cbdd2c9275abb0316c67873a

Clean out old CONFIG_MULTIPLE_ARF code.

Remove the old experimental multi arf code that was under
the flag CONFIG_MULTIPLE_ARF.

Change-Id: Ib24865abc11691d6ac8cb0434ada1da674368a61

Experiment for mid group second arf.

This patch implements a mechanism for inserting a second
arf at the mid position of arf groups.

It is currently disabled by default using the flag multi_arf_enabled.

Results are currently down somewhat in initial testing if
multi-arf is enabled. Most of the loss is attributable to the
fact that code to preserve the previous golden frame
(in the arf buffer) in cases where we are coding an overlay
frame, is currently disabled in the multi-arf case.

Change-Id: I1d777318ca09f147db2e8c86d7315fe86168c865

Merge "Switch active map implementation to segment based."

Merge "Fork vp9_rd_pick_inter_mode_sb_seg_skip"

Allocate buffers based on correct chroma format

The encoder currently allocates frame buffers before
it establishes what the chroma sub-sampling factor is,
always allocating based on the 4:4:4 format.

This patch detects the chroma format as early as
possible allowing the encoder to allocate buffers of
the correct size.

Future patches will change the encoder to allocate
frame buffers on demand to further reduce the memory
profile of the encoder and rationalize the buffer
management in the encoder and decoder.

Change-Id: Ifd41dd96e67d0011719ba40fada0bae74f3a0d57

Merge "Add Check for Peek Stream validity to decoder test."

Merge "Actually skip blocks in skip segments in non-rd encoder."

Merge "Remove unused vp9_init_quant_tables function"

Merge "error check vp9 superframe parsing"

Add Check for Peek Stream validity to decoder test.

Change-Id: I9b745670a9f842582c47e6001dc77480b31fb6a1

error check vp9 superframe parsing

This patch insures that the last byte of a chunk that contains a
valid superframe marker byte,  actually has a proper superframe index.
If not it returns an error.

As part of doing that the file : vp90-2-15-fuzz-flicker.webm now fails
to decode properly and moves to the invalid file test from the test
vector suite.

Change-Id: I5f1da7eb37282ec0c6394df5c73251a2df9c1744

Revert 3 patches from Hangyu to get Chrome to build:

Avoids failures:
MSE_ClearKey/EncryptedMediaTest.Playback_VP9Video_WebM/0
MSE_ClearKey_Prefixed/EncryptedMediaTest.Playback_VP9Video_WebM/0
MSE_ExternalClearKey_Prefixed/EncryptedMediaTest.Playback_VP9Video_WebM/0
MSE_ExternalClearKey/EncryptedMediaTest.Playback_VP9Video_WebM/0
MSE_ExternalClearKeyDecryptOnly/EncryptedMediaTest.Playback_VP9Video_WebM/0
MSE_ExternalClearKeyDecryptOnly_Prefixed/EncryptedMediaTest.Playback_VP9Video_WebM/0
SRC_ExternalClearKey/EncryptedMediaTest.Playback_VP9Video_WebM/0
SRC_ExternalClearKey_Prefixed/EncryptedMediaTest.Playback_VP9Video_WebM/0
SRC_ClearKey_Prefixed/EncryptedMediaTest.Playback_VP9Video_WebM/0

Patches are
This reverts commit 9bc040859b0ca6869d31bc0efa223e8684eef37a
This reverts commit 6f5aba069a2c7ffb293ddce70219a9ab4a037441
This reverts commit 9bc040859b0ca6869d31bc0efa223e8684eef37a

I1f250441 Revert "Refactor the vp9_get_frame code for frame parallel."
Ibfdddce5 Revert "Delay decreasing reference count in frame-parallel decoding."
I00ce6771 Revert "Introduce FrameWorker for decoding."

Need better testing in libvpx for these commits

Change-Id: Ifa1f279b0cabf4b47c051ec26018f9301c1e130e

Merge "Fix bug in error handling that causes segfault"

Merge "fix peek_si to enable 1 byte show existing frames."

Merge "Added Test vector that tests more show existing frames."

Add back libmkv ebml writer files.

Another project in ChromeOS is using these files. To make libvpx
rolls simpler, add these files back unitl the other project removes
the dependency.

crbug.com/387246 tracking bug to remove dependency.

Change-Id: If9c197081c845c4a4e5c5488d4e0190380bcb1e4

Merge "Introduce FrameWorker for decoding."

Introduce FrameWorker for decoding.

When decoding in serial mode, there will be only
one FrameWorker doing decoding. When decoding in
parallel mode, there will be several FrameWorkers
doing decoding in parallel.

Change-Id: If53fc5c49c7a0bf5e773f1ce7008b8a62fdae257

Added Test vector that tests more show existing frames.

Change-Id: I0ddd7dd55313ee62d231ed4b9040e08c3761b3fe

Fix bug in error handling that causes segfault

See: https://code.google.com/p/chromium/issues/detail?id=362697

The code properly catches an invalid stream but seg faults instead of
returning an error due to a buffer not having been initialized. This
code fixes that.

Change-Id: I695595e742cb08807e1dfb2f00bc097b3eae3a9b

Merge "Validate error checking code in decoder."

Validate error checking code in decoder.

This patch adds a mechanism for insuring error checking on invalid files
by creating a unit test that runs the decoder and tests that the error
code matches what's expected on each frame in the decoder.

Disabled for now as this unit test will segfault with existing code.

Change-Id: I896f9686d9ebcbf027426933adfbea7b8c5d956e

Switch active map implementation to segment based.

Change-Id: Ibb841a1fa4d08d164cf5461246ec290f582b1f80

Fork vp9_rd_pick_inter_mode_sb_seg_skip

Change-Id: I549868725b789f0f4f89828005a65972c20df888

Actually skip blocks in skip segments in non-rd encoder.

Copy split from macroblock to pick mode context so it doesn't get lost.

Change-Id: Ie37aa12558dbe65c4f8076cf808250fffb7f27a8

Merge "Include type defines"

Don't return value for void functions

Clears "warning: 'return' with a value, in function returning void"

Change-Id: I93972610d67e243ec772a1021d2fdfcfc689c8c2

Include type defines

Clears error: unknown type name 'uint8_t'

Change-Id: I9b6eff66a5c69bc24aeaeb5ade29255a164ef0e2

Merge "VP9 denoiser bugfixes"

Merge "Allow key frame more flexibility in mode search"

Fixed VP9 denoiser COPY_BLOCK case

Now copies the src to the correct location in the running average buffer.

Change-Id: I9c83c96dc7a97f42c8df16ab4a9f18b733181f34

VP9 denoiser bugfixes

s/stdint.h/vpx\/vpx_int.h

Added missing 'break;'s

Also included other minor changes, mostly cosmetic.

Change-Id: I852bba3e85e794f1d4af854c45c16a23a787e6a3

Merge "Added CFLAG for outputting vp9 denoised signal"

fix peek_si to enable 1 byte show existing frames.

The test for this is in test vector code ( show existing frames will
fail ).  I can't check it in disabled as I'm changing the generic
test code to do this:

https://gerrit.chromium.org/gerrit/#/c/70569/

Change-Id: I5ab324f0cb7df06316a949af0f7fc089f4a3d466

Merge "Remove labels from quantize"

Allow key frame more flexibility in mode search

This commit allows the key frame to search through more prediction
modes and more flexible block sizes. No speed change observed. The
coding performance for rtc set is improved by 1.7% for speed -5 and
3.0% for speed -6.

Change-Id: Ifd1bc28558017851b210b4004f2d80838938bcc5

Merge "Fixes in VP9 alloc, free, and COPY_FRAME case"

Merge "Add superframe support for frame parallel decoding."

Merge "Separate rate-distortion modeling for DC and AC coefficients"

Merge "Improved vp9 denoiser running avg update."

Merge "Implemented COPY_BLOCK case for vp9 denoiser"

Remove labels from quantize

Use break instead of goto for early exit. Unbreaks Visual Studio
builds.

Change-Id: I96dee43a3c82145d4abe0d6a99af6e6e1a3991b5

Add superframe support for frame parallel decoding.

A superframe is a bunch of frames that bundled as one frame. It is mostly
used to combine one or more non-displayable frames and one displayable frame.

For frame parallel decoding, libvpx decoder will only support decoding one
normal frame or a super frame with superframe index.

If an application pass a superframe without superframe index or a chunk
of displayable frames without superframe index to libvpx decoder, libvpx
will not decode it in frame parallel mode. But libvpx decoder still could
decode it in serial mode.

Change-Id: I04c9f2c828373d64e880a8c7bcade5307015ce35

Merge "Modify non-rd intra mode checking"

Merge "sse4 regular quantize"

Added CFLAG for outputting vp9 denoised signal

Change-Id: Iab9b4e11cad927f3282e486c203564e1a658f377

Fixes in VP9 alloc, free, and COPY_FRAME case

Change-Id: I1216f17e2206ef521fe219b6d72d8e41d1ba1147

Improved vp9 denoiser running avg update.

Change-Id: Ie0aa41fb7957755544321897b3bb2dd92f392027

Implemented COPY_BLOCK case for vp9 denoiser

Change-Id: Ie89ad1e3aebbd474e1a0db69c1961b4d1ddcd33e

Merge "Changed buf_2ds in vp9 denoiser to YV12 buffers"

Merge "Update running avg for VP9 denoiser"

Merge "Implemented vp9_denoiser_{alloc,free}()"

Merge "iosbuild.sh: Add vpx_config.h and vpx_version.h to VPX.framework."

Merge "Removing decode_one_iter() function."

sse4 regular quantize

Change-Id: Ibd95df0adf9cc9143006ee9032b4cb2ebfd5dd1b

Changed buf_2ds in vp9 denoiser to YV12 buffers

Changed alloc, free, and running average code as necessary.

Change-Id: Ifc4d9ccca462164214019963b3768a457791b9c1

Update running avg for VP9 denoiser

Change-Id: I9577d648542064052795bf5770428fbd5c276b7b

Implemented vp9_denoiser_{alloc,free}()

Change-Id: I79eba79f7c52eec19ef2356278597e06620d5e27

Merge "Improve vp9_rb_bytes_read"

iosbuild.sh: Add vpx_config.h and vpx_version.h to VPX.framework.

- Rename build_targets to build_framework
- Add functions for creating the vpx_config shim and obtaining
  preproc symbols.

Change-Id: Ieca6938b9779077eefa26bf4cfee64286d1840b0

Remove unused vp9_init_quant_tables function

This function is not effectively used, hence removed.

Change-Id: I2e8e48fa07c7518931690f3b04bae920cb360e49

Modify non-rd intra mode checking

Speed 6 uses small tx size, namely 8x8. max_intra_bsize needs to
be modified accordingly to ensure valid intra mode checking.
Borg test on RTC set showed an overall PSNR gain of 0.335% in speed
-6.

This also changes speed -5 encoding by allowing DC_PRED checking
for block32x32. Borg test on RTC set showed a slight PSNR gain of
0.145%, and no noticeable speed change.

Change-Id: I1502978d8fbe265b3bb235db0f9c35ba0703cd45

Separate rate-distortion modeling for DC and AC coefficients

This is the first step to rework the rate-distortion modeling used
in rtc coding mode. The overall goal is to make the modeling
customized for the statistics encountered in the rtc coding.

This commit makes encoder to perform rate-distortion modeling for
DC and AC coefficients separately. No speed changes observed.
The coding performance for pedestrian_area_1080p is largely
improved:

speed -5, from 79558 b/f, 37.871 dB -> 79598 b/f, 38.600 dB
speed -6, from 79515 b/f, 37.822 dB -> 79544 b/f, 38.130 dB

Overall performance for rtc set at speed -6 is improved by 0.67%.

Change-Id: I9153444567e5f75ccdcaac043c2365992c005c0c

Improve vp9_rb_bytes_read

Change-Id: I69eba120eb3d8ec43b5552451c8a9bd009390795

Merge "gen_msvs_proj: fix in tree configure under cygwin"

Merge "Moving RD-opt related code from vp9_encoder.h to vp9_rdopt.h."

Merge "skip the un-necessary motion search in the first pass"

Merge "iosbuild.sh: Add missing function comments."

Merge "vp8 denoising: add bias factor to zero_mv sse."

Merge "Fix C versions of DC calculation functions"

Merge "vp9_rtcd: correct avx2 references"

iosbuild.sh: Add missing function comments.

Change-Id: Ib23a59475d566a7b7f44071614d730ceecfcfa60

Merge "example tests: Make failures due to incorrect bin path easier to diagnose."

vp8 denoising: add bias factor to zero_mv sse.

Change-Id: I95818754424e89f0d56c6d9c0c5709e6f84fa46a

gen_msvs_proj: fix in tree configure under cygwin

strip trailing '/' from paths, this is later converted to '\' which
causes execution errors for obj_int_extract/yasm. vs10+ wasn't affected
by this issue, but make the same change for consistency.

gen_msvs_proj:
+ add missing '&quot;' to obj_int_extract call
  unlike gen_msvs_vcproj, the block is duplicated
  missed in: 1e3d9b9 build/msvs: fix builds in source dirs with spaces

Change-Id: I76208e6cdc66dc5a0a7ffa8aa1edbefe31e4b130

Merge "vp9_pickmode.c: fix vs12 compiler warnings"

example tests: Make failures due to incorrect bin path easier to diagnose.

Add elog() to tools_common, and checks for the executable in each test.

Change-Id: I3c6334eca62c0b56040d91145abbe1bf5f9c763c

Merge "Add non420 support to vp9_extend_frame_borders."

Merge "Fix out of boundary memory read in fuzz test on vpxdec"