[svc rc] RC improvement for key frames in upper layers for spatial svc.

Change-Id: Id6ab59e505be28cd4eb9f1fe114feb47debe0539

Merge "Move shared test variables to tools_common.sh."

Remove test against NULL before freeing memory

Change-Id: I6ce6395b74019345c8b7242d874761f981ad53af

Remove key_frame_frequency variable from VP9_COMP

This member of VP9_COMP seemed unnecessary since it
only shadowed VP9EncoderConfig.key_freq that is
accessible through VP9_COMP.

Change-Id: Ib751bb1cf1b0b3c50a2a527d7c34f6829dd6fee3

Merge "Add VPXD_SET_DECRYPTOR support to the VP9 decoder."

Merge "Fixed handling of regularly placed keyframes"

Merge "Enable tests using WebM files only if webm_io is enabled"

Enable tests using WebM files only if webm_io is enabled

There are a few tests which read/write directly to/from WebM files. They should
be disabled when --disable-webm-io is passed.

Change-Id: Ibac4732e27c66da33082151ba6e6993eaa9a1efd

Move shared test variables to tools_common.sh.

The global variables used in vpxdec.sh and vpxenc.sh have become useful
elsewhere: Define them in tools_common.sh instead.

Change-Id: I5b8dbd2e88c8d6b2f46c5c55d7711fa154c12b6a

Fixed handling of regularly placed keyframes

The encoder was not handling requests to place keyframes at
fixed intervals, i.e. kf_min_dist == kf_max_dist, correctly.

In this case when looking to place the next keyframe it was
accumulating stats all the way up to the end of the firstpass
file. This patch corrects this behavior.

Change-Id: I948ad9f1d7faa0c05861df588136cce3bb61d7e7

configure: quote some uses of source_path

doesn't completely fix configure/build in directories with spaces, but
it's good practice

Change-Id: Ic7a5b3a0aa9e297b34061af07e099de8b1f003cd

Add VPXD_SET_DECRYPTOR support to the VP9 decoder.

Change-Id: I88f86c8ff9af34e0b6531028b691921b54c2fc48

Merge changes I2f05a5d9,I674337a7

* changes:
  gen_msvs_vcxproj.sh: support cygwin style paths
  gen_msvs_proj.sh: support cygwin style paths

Merge "Chessboard pattern prediction filter type search in non-RD coding"

gen_msvs_vcxproj.sh: support cygwin style paths

Change-Id: I2f05a5d90b3ad6250d31f7b422af4c22527177d1

gen_msvs_proj.sh: support cygwin style paths

Change-Id: I674337a775651d7d9c9aa9fee755deaed11c104e

Merge "Adding macro to define vp9_variance_WxH_c() functions."

Chessboard pattern prediction filter type search in non-RD coding

This commit introduces a chessboard pattern search for the prediction
filter type search. It runs extensive search in alternate blocks and
allows the rest blocks to refer coding decisions of their nearby
neighbors.

For pedestrian 1080p at 4000 kbps, the runtime of speed -5 goes down
from 43990 ms to 42200 ms. The overall compression performance for
RTC set is changed by -1.37%.

Change-Id: Icfe220c49451cda796f0ca91d935c9ed01e56c9d

Merge "tools_common.sh: Add run messages."

Merge "Rename FilterMode for compatibility with libyuv"

Merge "Renaming MB_PREDICTION_MODE to PREDICTION_MODE."

tools_common.sh: Add run messages.

Echo "Run test_name" before running each test in verbose mode.

Change-Id: Idb2a736b3af13b9bbf2fbc137f2fa7da3662a2c6

Merge "tools_common.sh: Set VPX_TEST_EXE_SUFFIX for windows targets."

tools_common.sh: Set VPX_TEST_EXE_SUFFIX for windows targets.

Change-Id: Ic3c792bcb76917c4d4b829d0377a9c36e06dd77d

Renaming MB_PREDICTION_MODE to PREDICTION_MODE.

Actually, it would be great to have two separate enums INTRA_MODES and
INTER_MODES in future.

Change-Id: I6c4147cf0002853da9c1e03fe9514eab876f01c8

Adding macro to define vp9_variance_WxH_c() functions.

Change-Id: I983e3831938d4ae055de20b8d257d223e7916b1f

Merge "Fix dr memory VP8 encode/decode errors"

Merge "Renaming "onyx" to "encoder"."

Merge "Reusing vp9_get_interp_kernel() function in unit tests."

Renaming "onyx" to "encoder".

Actual renames:
  vp9_onyx_if.c -> vp9_encoder.c
  vp9_onyx_int.h -> vp9_encoder.h

Change-Id: I80532a80b118d0060518e6c6a0d640e3f411783c

Merge "Add utiltest target to Makefile."

Merge "Fix the CONFIG_ALPHA build."

Merge "Template macros to generate subpix variance functions."

Merge "Inlining vp9_set_segmentation_map() function."

Fix the CONFIG_ALPHA build.

Change-Id: Ib89fe34812c17cd6294ce3c38f87d43a79abb16f

Rename FilterMode for compatibility with libyuv

Renames FilterMode to FilterModeEnum for compatibility
with google3 libyuv

Change-Id: Iec845e6a6aeac4171790c87ce3dd9000ab840a36

Merge "Bug fix for svc first pass rate control."

Merge "Force ARNR filtering to be centered on the ARF frame"

Add utiltest target to Makefile.

Add target for running tests via make. Runs vpxdec.sh and vpxenc.sh.

Change-Id: I5fddb7356b6ac37e284b4f15b47310f108ae3da3

Force ARNR filtering to be centered on the ARF frame

ARNR filtering is now forced to be centered on the ARF
frame and the other two options have been removed.

The other modes of constructing the ARNR frame were
not used and there does not seem to be any good
reason to maintain them.

This is purely an encoder-side change.

Change-Id: Ic772636d23f280752973852b9740083532a49de2

Merge "Adds test code for supplemental superframe data"

Inlining vp9_set_segmentation_map() function.

Change-Id: I82f23f0f91a0be8329e20fcd2a5918c6a096dacc

Template macros to generate subpix variance functions.

Change-Id: I931fde6013aa18294b49a361f75f177ab1262574

Merge "Allow full RD TX size search for GF/ALT at speed 2"

Merge "Change naming of end_usage parameter."

Merge "Remove an unused function"

Fix dr memory VP8 encode/decode errors

This patch fixed errors reported in Issue 746: "dr memory VP8
encode errors" and Issue 745: "dr memory VP8 decode errors".
The "UNINITIALIZED READ" errors were fixed in x86 assembly
code. The list of files fixed is
vp8_intra_pred_uv_tm_sse2
vp8_intra_pred_uv_tm_ssse3

vp8_intra_pred_uv_ho_mmx2
vp8_intra_pred_uv_ho_ssse3

vp8_intra_pred_y_tm_sse2
vp8_intra_pred_y_tm_ssse3

vp8_intra_pred_y_ho_sse2

Change-Id: Ib6df7bf1d442077fe534edfd90e50ad16fadacdd

Reusing vp9_get_interp_kernel() function in unit tests.

Change-Id: Ic24a371817c9dd5c4035a6fe01111bd9ab63f552

Allow full RD TX size search for GF/ALT at speed 2

For speed 3 and above, such search is only allowed at speed 3.
The change helped cif and stdhd set by 1.2% and .7% in compression,
but increased the encoding time by around 5%.

Change-Id: Ifa4832327f1c1bef3decb032ceb769cbf50e059f

Merge "Inlining and removing encoder_common_init()."

Adds test code for supplemental superframe data

Adds test code to verify that supplemental superframe information
that precedes the normal superframe information will not break
decoding.

Change-Id: Ia252b887d7ee138f51dc9a778376ff739402c455

Change naming of end_usage parameter.

The end_useage parameter  is confusingly named since it
now actually defines the rate control method used.

Change-Id: I98912caabfe556b7af0b939a645d1336409e4d71

Merge "Adding setup_frame() function."

Merge "Cleaning up vp9_rdopt.c."

Merge "Don't set loop filter sharpness in vp9_change_config()."

Merge "Cleaning vp9_variance.{c, h}."

Merge "Enable background detection for adaptive quantizer control"

Merge "Merge two new VBR adjustment schemes."

Merge "Add experimental VBR adaptation method."

Enable background detection for adaptive quantizer control

This commit enables a background detection approach for adaptive
quantizer control. It combines the cyclic refresh pattern and the
background information to determine the segment id for adaptive
quantizer selection, prior to the non-RD mode decision process.
It hence allows proper quantization information update for a more
precise rate-distortion modeling in the non-RD mode decision.

The compression performance of speed -5 for rtc set is improved
by 2.5%, at no speed change.

Change-Id: Ic3713e8ed9185b403b5b1679d19dabd57506d452

Remove an unused function

Change-Id: I0f2592ecfc5197dfb94975260cb2f862315e7895

test/WebMVideoSource: fix WebMInputContext leak

lost in the shuffle of:
4fd6317 Remove duplicate code in test/webm_video_source.h

Change-Id: I89792fa17f03920616c55486bbdaf56c6461c9eb

Merge "Moving set_rd_speed_thresholds{,_sub8x8} to vp9_rdopt.{h, c}."

Inlining and removing encoder_common_init().

Change-Id: I35f948fe1ac107950c8d8e4ba06e5a95ac4ec30e

Cleaning vp9_variance.{c, h}.

Change-Id: I802308de4817e48a627bb44a744d32010fe7818f

Cleaning up vp9_rdopt.c.

Change-Id: Ifd008968326e61ab492162351e358bf0ac0dac0a

Merge "Remove ALT_REF_MC_ENABLED and tidy-up ARNR code."

Moving set_rd_speed_thresholds{,_sub8x8} to vp9_rdopt.{h, c}.

Change-Id: I983364b33e8f103b43a0448821e890989176f1cc

Don't set loop filter sharpness in vp9_change_config().

The right value is calculated and set in vp9_pick_filter_level().

Change-Id: I5f725ac21f90dc9b80181a09a2040970bf6671d4

Bug fix for svc first pass rate control.

1. We didn't scale source image in lower layers so that
the stats are incorrect.
2. We didn't extend borders for re-constructed image.

Change-Id: Ia8d7bafbdb695ffa7f504e171f9449812e7bb0a3

Renaming VP9_CONFIG to VP9EncoderConfig.

Change-Id: Id48edd12c6f649c82113128491ef6ea7410e93b2

Merge "Adding get_pass() function."

Merge "Remove duplicate code in test/webm_video_source.h"

Remove ALT_REF_MC_ENABLED and tidy-up ARNR code.

Change-Id: I922d988486b47f413d11a8eeb38532a484d15c80

Merge "Fix broken encoding process at sub8x8 block size"

Remove duplicate code in test/webm_video_source.h

Remove duplicate WebM parsing code in test/webm_video_source.h and linking it
against webmdec.c which does the exact same thing.

Change-Id: Ib7152eecde890fca58be42028cab18c9cb54221c

Remove warn() call in webmdec.c

Remove call to warn() in webmdec.c so that it does not depend on
tools_common.c for compilation.

Change-Id: I2790e837985ce1d84b35f5a20c783d0e6020a9f5

Merge "Removing cq_target_quality from VP9_COMP."

Merge "Adding is_best_mode() function."

Merge "rename labels2mode because it was a terrible name."

Merge "renamed pick_best_mbsegmentation and remove rd_check_segment_txsize"

Merge "rename mode_index to ref index in vp9_rd_pick_inter_mode_sub_8x8"

Fix broken encoding process at sub8x8 block size

Use the correct buffer to update the coding mode decision for
sub8x8 blocks.

Change-Id: I091ef27d2047eeb8b73ceb7c2c7c45b38ba8c6d5

Adding get_pass() function.

Change-Id: I43de248615b79828d5164b670e7358b8a520d075

Merge "Skip fetching original frame pointers for UV in background check"

Adding is_best_mode() function.

Change-Id: Idca7c1cd8a12df465c58b6ba064a99404b3b4bce

Merge "examples: remove off_t overrides"

Removing cq_target_quality from VP9_COMP.

Use cq_level (which is identical) from VP9_CONFIG instead.

Change-Id: I1aaf2fcef3d2dbd4577f613d27693ff8a68989fd

Merge "Replacing cpu_used with speed in VP9_CONFIG."

rename labels2mode because it was a terrible name.

Change-Id: I2d577d11966fcc5ffaaf0896bf51d18078ad1e9c

Merge "Relax the threshold for datarate test by 5%"

Merge two new VBR adjustment schemes.

To make direct side by side testing this patch combines two
VBR corrections schemes to allow more direct side by side testing.
(The other patch was by Debargha chg id I0cd1f7...)

Change-Id: I271c45e5c4ccf8de8305589000218b80d9dc3a25

Skip fetching original frame pointers for UV in background check

The background detection only tracks luma component. This commits
removes the frame buffer pointer retrieval for chroma components.

Change-Id: I098bd2950f5e5829ed5dc2b48568167248da7fad

examples: remove off_t overrides

this is error prone, int64 will suffice for all cases

Change-Id: I94883f93518cfc356ed57b14dc39d79aebccf47d

Merge "Remove redundant buffer initialization and mode_info assignments"

renamed pick_best_mbsegmentation and remove rd_check_segment_txsize

Change-Id: Ia7d33bc3eb595965bccf4b2231df1e3b2a0243c6

Relax the threshold for datarate test by 5%

Change-Id: Ibc770df77939a68f9f0d1d78c0edd737b0d398ad

rename mode_index to ref index in vp9_rd_pick_inter_mode_sub_8x8

Change-Id: I00bceb9de2009963c91e5102564c05c31ac1ad78

add a context tree structure to encoder

This patch sets up a quad_tree structure (pc_tree) for holding all of
pick_mode_context data we use at any square block size during encoding
or picking modes.  That includes contexts for 2 horizontal and 2 vertical
splits, one none, and pointers to 4 sub pc_tree nodes corresponding
to split.  It also includes a pointer to the current chosen partitioning.

This replaces code that held an index for every level in the pick
modes array including:  sb_index, mb_index,
b_index, ab_index.

These were used as stateful indexes that pointed to the current pick mode
contexts you had at each level stored in the following arrays

array ab4x4_context[][][],
sb8x4_context[][][], sb4x8_context[][][], sb8x8_context[][][],
sb8x16_context[][][], sb16x8_context[][][], mb_context[][], sb32x16[][],
sb16x32[],  sb32_context[], sb32x64_context[], sb64x32_context[],
sb64_context

and the partitioning that had been stored in the following:
b_partitioning, mb_partitioning, sb_partitioning, and sb64_partitioning.

Prior to this patch before doing an encode you had to set the appropriate
index for your block size ( switch statement),  update it ( up to 3
lookups for the index array value) and then make your call into a recursive
function at which point you'd have to call get_context which then
had to do a switch statement based on the blocksize,  and then up to 3
lookups based upon the block size to find the context to use.

With the new code the context for the block size is passed around directly
avoiding the extraneous switch statements and multi dimensional array
look ups that were listed above.   At any level in the search all of the
contexts are local to the pc_tree you are working on (in?).

In addition in most places code that used to call sub functions and
then check if the block size was 4x4 and index was > 0 and return
now don't preferring instead to call the right none function on the inside.

Change-Id: I06e39318269d9af2ce37961b3f95e181b57f5ed9

Merge "Cleaning up vp9_init_second_pass()."