Fix dr memory VP8 encode/decode errors

This patch fixed errors reported in Issue 746: "dr memory VP8
encode errors" and Issue 745: "dr memory VP8 decode errors".
The "UNINITIALIZED READ" errors were fixed in x86 assembly
code. The list of files fixed is
vp8_intra_pred_uv_tm_sse2
vp8_intra_pred_uv_tm_ssse3

vp8_intra_pred_uv_ho_mmx2
vp8_intra_pred_uv_ho_ssse3

vp8_intra_pred_y_tm_sse2
vp8_intra_pred_y_tm_ssse3

vp8_intra_pred_y_ho_sse2

Change-Id: Ib6df7bf1d442077fe534edfd90e50ad16fadacdd

Merge "Inlining and removing encoder_common_init()."

Merge "Adding setup_frame() function."

Merge "Cleaning up vp9_rdopt.c."

Merge "Don't set loop filter sharpness in vp9_change_config()."

Merge "Cleaning vp9_variance.{c, h}."

Merge "Enable background detection for adaptive quantizer control"

Merge "Merge two new VBR adjustment schemes."

Merge "Add experimental VBR adaptation method."

Enable background detection for adaptive quantizer control

This commit enables a background detection approach for adaptive
quantizer control. It combines the cyclic refresh pattern and the
background information to determine the segment id for adaptive
quantizer selection, prior to the non-RD mode decision process.
It hence allows proper quantization information update for a more
precise rate-distortion modeling in the non-RD mode decision.

The compression performance of speed -5 for rtc set is improved
by 2.5%, at no speed change.

Change-Id: Ic3713e8ed9185b403b5b1679d19dabd57506d452

test/WebMVideoSource: fix WebMInputContext leak

lost in the shuffle of:
4fd6317 Remove duplicate code in test/webm_video_source.h

Change-Id: I89792fa17f03920616c55486bbdaf56c6461c9eb

Merge "Moving set_rd_speed_thresholds{,_sub8x8} to vp9_rdopt.{h, c}."

Inlining and removing encoder_common_init().

Change-Id: I35f948fe1ac107950c8d8e4ba06e5a95ac4ec30e

Cleaning vp9_variance.{c, h}.

Change-Id: I802308de4817e48a627bb44a744d32010fe7818f

Cleaning up vp9_rdopt.c.

Change-Id: Ifd008968326e61ab492162351e358bf0ac0dac0a

Merge "Remove ALT_REF_MC_ENABLED and tidy-up ARNR code."

Moving set_rd_speed_thresholds{,_sub8x8} to vp9_rdopt.{h, c}.

Change-Id: I983364b33e8f103b43a0448821e890989176f1cc

Don't set loop filter sharpness in vp9_change_config().

The right value is calculated and set in vp9_pick_filter_level().

Change-Id: I5f725ac21f90dc9b80181a09a2040970bf6671d4

Renaming VP9_CONFIG to VP9EncoderConfig.

Change-Id: Id48edd12c6f649c82113128491ef6ea7410e93b2

Merge "Adding get_pass() function."

Merge "Remove duplicate code in test/webm_video_source.h"

Remove ALT_REF_MC_ENABLED and tidy-up ARNR code.

Change-Id: I922d988486b47f413d11a8eeb38532a484d15c80

Merge "Fix broken encoding process at sub8x8 block size"

Remove duplicate code in test/webm_video_source.h

Remove duplicate WebM parsing code in test/webm_video_source.h and linking it
against webmdec.c which does the exact same thing.

Change-Id: Ib7152eecde890fca58be42028cab18c9cb54221c

Remove warn() call in webmdec.c

Remove call to warn() in webmdec.c so that it does not depend on
tools_common.c for compilation.

Change-Id: I2790e837985ce1d84b35f5a20c783d0e6020a9f5

Merge "Removing cq_target_quality from VP9_COMP."

Merge "Adding is_best_mode() function."

Merge "rename labels2mode because it was a terrible name."

Merge "renamed pick_best_mbsegmentation and remove rd_check_segment_txsize"

Merge "rename mode_index to ref index in vp9_rd_pick_inter_mode_sub_8x8"

Fix broken encoding process at sub8x8 block size

Use the correct buffer to update the coding mode decision for
sub8x8 blocks.

Change-Id: I091ef27d2047eeb8b73ceb7c2c7c45b38ba8c6d5

Adding get_pass() function.

Change-Id: I43de248615b79828d5164b670e7358b8a520d075

Merge "Skip fetching original frame pointers for UV in background check"

Adding is_best_mode() function.

Change-Id: Idca7c1cd8a12df465c58b6ba064a99404b3b4bce

Merge "examples: remove off_t overrides"

Removing cq_target_quality from VP9_COMP.

Use cq_level (which is identical) from VP9_CONFIG instead.

Change-Id: I1aaf2fcef3d2dbd4577f613d27693ff8a68989fd

Merge "Replacing cpu_used with speed in VP9_CONFIG."

rename labels2mode because it was a terrible name.

Change-Id: I2d577d11966fcc5ffaaf0896bf51d18078ad1e9c

Merge "Relax the threshold for datarate test by 5%"

Merge two new VBR adjustment schemes.

To make direct side by side testing this patch combines two
VBR corrections schemes to allow more direct side by side testing.
(The other patch was by Debargha chg id I0cd1f7...)

Change-Id: I271c45e5c4ccf8de8305589000218b80d9dc3a25

Skip fetching original frame pointers for UV in background check

The background detection only tracks luma component. This commits
removes the frame buffer pointer retrieval for chroma components.

Change-Id: I098bd2950f5e5829ed5dc2b48568167248da7fad

examples: remove off_t overrides

this is error prone, int64 will suffice for all cases

Change-Id: I94883f93518cfc356ed57b14dc39d79aebccf47d

Merge "Remove redundant buffer initialization and mode_info assignments"

renamed pick_best_mbsegmentation and remove rd_check_segment_txsize

Change-Id: Ia7d33bc3eb595965bccf4b2231df1e3b2a0243c6

Relax the threshold for datarate test by 5%

Change-Id: Ibc770df77939a68f9f0d1d78c0edd737b0d398ad

rename mode_index to ref index in vp9_rd_pick_inter_mode_sub_8x8

Change-Id: I00bceb9de2009963c91e5102564c05c31ac1ad78

add a context tree structure to encoder

This patch sets up a quad_tree structure (pc_tree) for holding all of
pick_mode_context data we use at any square block size during encoding
or picking modes.  That includes contexts for 2 horizontal and 2 vertical
splits, one none, and pointers to 4 sub pc_tree nodes corresponding
to split.  It also includes a pointer to the current chosen partitioning.

This replaces code that held an index for every level in the pick
modes array including:  sb_index, mb_index,
b_index, ab_index.

These were used as stateful indexes that pointed to the current pick mode
contexts you had at each level stored in the following arrays

array ab4x4_context[][][],
sb8x4_context[][][], sb4x8_context[][][], sb8x8_context[][][],
sb8x16_context[][][], sb16x8_context[][][], mb_context[][], sb32x16[][],
sb16x32[],  sb32_context[], sb32x64_context[], sb64x32_context[],
sb64_context

and the partitioning that had been stored in the following:
b_partitioning, mb_partitioning, sb_partitioning, and sb64_partitioning.

Prior to this patch before doing an encode you had to set the appropriate
index for your block size ( switch statement),  update it ( up to 3
lookups for the index array value) and then make your call into a recursive
function at which point you'd have to call get_context which then
had to do a switch statement based on the blocksize,  and then up to 3
lookups based upon the block size to find the context to use.

With the new code the context for the block size is passed around directly
avoiding the extraneous switch statements and multi dimensional array
look ups that were listed above.   At any level in the search all of the
contexts are local to the pc_tree you are working on (in?).

In addition in most places code that used to call sub functions and
then check if the block size was 4x4 and index was > 0 and return
now don't preferring instead to call the right none function on the inside.

Change-Id: I06e39318269d9af2ce37961b3f95e181b57f5ed9

Merge "Cleaning up vp9_init_second_pass()."

Replacing cpu_used with speed in VP9_CONFIG.

Change-Id: I86b85b5c11388e84a48f8936330c0d920df5d1f0

Remove redundant buffer initialization and mode_info assignments

There is no need to initialize source/dst frame buffers at frame
level. These will be done at block coding stage. This commit hence
removes the redundant operations.

Change-Id: I11d9f2556058c6205c8e58ed53e31f78622c41b7

Merge "Enable more precise background detection for partition decision"

Add experimental VBR adaptation method.

Add code to monitor over and under spend and
apply limited correction to the data rate of subsequent
frames. To prevent the problem of starvation or overspend
on individual frames (especially near the end of a clip) the
maximum adjustment on a single frame is limited to a %
of its un-modified allocation.

Change-Id: I6e1ca035ab8afb0c98eac4392115d0752d9cbd7f

Merge "Prevent reading of uninitialized value"

Cleaning up vp9_init_second_pass().

Change-Id: Ibf360fe0728e07de448e77e3841c49eb25d3ba2d

Merge "Remove old activity masking code."

Merge "Renaming VP9D_CONFIG to VP9DecoderConfig."

Merge "Adding sad function generation macros."

Enable more precise background detection for partition decision

This commit compares the current original frame to the previous
original frame at 64x64 block level and decides if the entire
block belongs to background area. If it is in the background area,
skip non-RD partition search and copy the partition types of the
collocated block in the previous frame.

For vidyo1 in the rtc set, this makes the speed -5 coding speed
about 8% faster. The overall compression performance is down by
1.37% for rtc set.

Change-Id: Iccf920562fcc88f21d377fb6a44c547c8689b7ea

Prevent reading of uninitialized value

This commit added a check of reference frame to make sure that pre
buffer pointers are initialized only when necessary and make them
to 0 if ref frame is intra, hence those buffer should never be used.

Change-Id: Ieb474fcd9feb759f02e2f9c282b7348a8fa31117

Merge "Add consts in set_fixed_partitioning()"

Merge "Refactor common code into a function"

Remove old activity masking code.

Delete code relating to the old VP8_TUNE_SSIM flag
as this code does not currently work and is largely made
redundant in VP9 by the various AQ modes.

Change-Id: I71f28e1f680573d296422254489000678552b17b

Merge "Fix rate control bug."

Unfork rd_thresh sub8x8.

Remove duplicate rd_thresh code introduced when vp9_rd_pick_inter_mode_sub8x8()
was forked from vp9_rd_pick_inter_mode_sb().

Change-Id: I3c9b7143d182e1f28b29c16518eaca81dc2ecfed

Fix rate control bug.

Fix rate control bug whereby the rate factor heuristics
were being updated on arf overlays causing a rate surge
for a few frames followed by a corrective drop.

This fix eliminates many of the overshoot problems that
we were seeing on hard clips (even without applying
stricter vbr rate control) and also helps quality on
almost all clips with some hard clips improving by >5%.

Overall quality results measured at speed 2.
Derf  +1.78% opsnr , +2.44% SSIM
Stdhd +2.41% opsnr, +2.85% SSIM

Change-Id: I2369df6295c2705963fa6307877f6acb304bcc39

Merge "webmdec: Fix return values for webm_read_frame"

Merge "Renaming av_per_frame_bandwidth to avg_frame_bandwidth."

Merge "Consistent mode names."

Renaming av_per_frame_bandwidth to avg_frame_bandwidth.

Just to be consistent with min_frame_bandwidth & max_frame_bandwidth names.

Change-Id: I36702c708cba9ad1a5c36393f37758a2edeadb90

Merge "Adding scale_if_required() function."

Adding sad function generation macros.

Change-Id: If6f013835b69ae61b0a0c6006fe0955303f579a5

Merge "Adding get_search_range() function."

Merge "Cleaning up vp9_rc_compute_frame_size_bounds()."

Merge "Cleaning up vp9_twopass_worst_quality()."

Adding scale_if_required() function.

Change-Id: I87819fed5aebb6ffe2f4d4655df226235a3d21cb

Adding get_search_range() function.

Change-Id: I988eea8f78f71135b914661420c5c75674e5c010

Merge "More user friendly vpxenc help strings."

webmdec: Fix return values for webm_read_frame

Fix return values for webm_read_frame so that we can distinguish between
error and end of stream. 0 - Success, 1 - End of stream, -1 error.

Change-Id: Ic35d0c7d7a166e027711a3d2300ecdda25a5d0cc

Add consts in set_fixed_partitioning()

Change-Id: Ib8c1b3b0a5a5689d3261dc822a69e9d473b89be1

Merge "Moving frame_frags field from VP9Common to VP9_COMP."

Merge "Using anonymous enum instead of macros."

Merge "Adding get_skip_encode_frame()."

Refactor common code into a function

Change-Id: Id156af5662ebe6fbe1cab636564f5f4bedb85ab0

Merge "Remove fatal() call in webmdec.c"

Merge "Removing unused vp9_mcomp_x86.h file."

Merge "Replacing int_mv with MV."

Merge "Remove vp9_ prefix on static inline function."

Adding get_skip_encode_frame().

Change-Id: Id687aa617650a859463e7ae63dd4c0dc4f3e4779

Using anonymous enum instead of macros.

Change-Id: I5ed360585dae2c9fea6c32058dbfb8ec07700677

Merge "Reduce code duplication"

Merge "Enable vpxenc to specify internal coded frame size"

Remove fatal() call in webmdec.c

Remove call to fatal() in webmdec.c so that it does not depend on
tools_common.c for compilation.

Change-Id: I3eec483afe6fae72436993c72b26d61d14a7f2bf

Consistent mode names.

Change-Id: Icb4851d98c951506fe5d73d8d5a8ac7e53fecfd0

More user friendly vpxenc help strings.

Change-Id: I257fb32673c47848258dc7e6e22147d0beb49f86

Merge "Speed 2 alternative balance."

Replacing int_mv with MV.

Change-Id: I35b9d1856d7951b8df7c933df6936dfc52a28451

Removing unused vp9_mcomp_x86.h file.

We don't use declarations from this file. The real declarations
(differently named) are in vp9_rtcd_defs.pl, e.g. vp9_full_search_sad.

Change-Id: I73cbf064305710ba20747233cfdbe67366f069a0

Reduce code duplication

Change-Id: I6ea1c335da9ca5b65f6a11466b417ad196fd0d65

Enable vpxenc to specify internal coded frame size

Added command line flags "resize-width" & "resize-height"
to allow the user to specify the frame size to encode at.

These two flags are ignored if the "resize-allowed" switch
is not set to 1.

All frames in the clip are then encoded at this size, which
must be smaller than the raw frame size.

Change-Id: I3d64bd9303d5c0bd678461a866a1ea621700d744

Merge "Cleaning up check_best_zero_mv()."