Merge "rename mode_index to ref index in vp9_rd_pick_inter_mode_sub_8x8"

Merge "Skip fetching original frame pointers for UV in background check"

Merge "examples: remove off_t overrides"

Merge "Replacing cpu_used with speed in VP9_CONFIG."

Merge "Relax the threshold for datarate test by 5%"

Skip fetching original frame pointers for UV in background check

The background detection only tracks luma component. This commits
removes the frame buffer pointer retrieval for chroma components.

Change-Id: I098bd2950f5e5829ed5dc2b48568167248da7fad

examples: remove off_t overrides

this is error prone, int64 will suffice for all cases

Change-Id: I94883f93518cfc356ed57b14dc39d79aebccf47d

Merge "Remove redundant buffer initialization and mode_info assignments"

Relax the threshold for datarate test by 5%

Change-Id: Ibc770df77939a68f9f0d1d78c0edd737b0d398ad

rename mode_index to ref index in vp9_rd_pick_inter_mode_sub_8x8

Change-Id: I00bceb9de2009963c91e5102564c05c31ac1ad78

add a context tree structure to encoder

This patch sets up a quad_tree structure (pc_tree) for holding all of
pick_mode_context data we use at any square block size during encoding
or picking modes.  That includes contexts for 2 horizontal and 2 vertical
splits, one none, and pointers to 4 sub pc_tree nodes corresponding
to split.  It also includes a pointer to the current chosen partitioning.

This replaces code that held an index for every level in the pick
modes array including:  sb_index, mb_index,
b_index, ab_index.

These were used as stateful indexes that pointed to the current pick mode
contexts you had at each level stored in the following arrays

array ab4x4_context[][][],
sb8x4_context[][][], sb4x8_context[][][], sb8x8_context[][][],
sb8x16_context[][][], sb16x8_context[][][], mb_context[][], sb32x16[][],
sb16x32[],  sb32_context[], sb32x64_context[], sb64x32_context[],
sb64_context

and the partitioning that had been stored in the following:
b_partitioning, mb_partitioning, sb_partitioning, and sb64_partitioning.

Prior to this patch before doing an encode you had to set the appropriate
index for your block size ( switch statement),  update it ( up to 3
lookups for the index array value) and then make your call into a recursive
function at which point you'd have to call get_context which then
had to do a switch statement based on the blocksize,  and then up to 3
lookups based upon the block size to find the context to use.

With the new code the context for the block size is passed around directly
avoiding the extraneous switch statements and multi dimensional array
look ups that were listed above.   At any level in the search all of the
contexts are local to the pc_tree you are working on (in?).

In addition in most places code that used to call sub functions and
then check if the block size was 4x4 and index was > 0 and return
now don't preferring instead to call the right none function on the inside.

Change-Id: I06e39318269d9af2ce37961b3f95e181b57f5ed9

Merge "Cleaning up vp9_init_second_pass()."

Replacing cpu_used with speed in VP9_CONFIG.

Change-Id: I86b85b5c11388e84a48f8936330c0d920df5d1f0

Remove redundant buffer initialization and mode_info assignments

There is no need to initialize source/dst frame buffers at frame
level. These will be done at block coding stage. This commit hence
removes the redundant operations.

Change-Id: I11d9f2556058c6205c8e58ed53e31f78622c41b7

Merge "Enable more precise background detection for partition decision"

Merge "Prevent reading of uninitialized value"

Cleaning up vp9_init_second_pass().

Change-Id: Ibf360fe0728e07de448e77e3841c49eb25d3ba2d

Merge "Remove old activity masking code."

Merge "Renaming VP9D_CONFIG to VP9DecoderConfig."

Merge "Adding sad function generation macros."

Enable more precise background detection for partition decision

This commit compares the current original frame to the previous
original frame at 64x64 block level and decides if the entire
block belongs to background area. If it is in the background area,
skip non-RD partition search and copy the partition types of the
collocated block in the previous frame.

For vidyo1 in the rtc set, this makes the speed -5 coding speed
about 8% faster. The overall compression performance is down by
1.37% for rtc set.

Change-Id: Iccf920562fcc88f21d377fb6a44c547c8689b7ea

Prevent reading of uninitialized value

This commit added a check of reference frame to make sure that pre
buffer pointers are initialized only when necessary and make them
to 0 if ref frame is intra, hence those buffer should never be used.

Change-Id: Ieb474fcd9feb759f02e2f9c282b7348a8fa31117

Merge "Add consts in set_fixed_partitioning()"

Merge "Refactor common code into a function"

Remove old activity masking code.

Delete code relating to the old VP8_TUNE_SSIM flag
as this code does not currently work and is largely made
redundant in VP9 by the various AQ modes.

Change-Id: I71f28e1f680573d296422254489000678552b17b

Merge "Fix rate control bug."

Unfork rd_thresh sub8x8.

Remove duplicate rd_thresh code introduced when vp9_rd_pick_inter_mode_sub8x8()
was forked from vp9_rd_pick_inter_mode_sb().

Change-Id: I3c9b7143d182e1f28b29c16518eaca81dc2ecfed

Fix rate control bug.

Fix rate control bug whereby the rate factor heuristics
were being updated on arf overlays causing a rate surge
for a few frames followed by a corrective drop.

This fix eliminates many of the overshoot problems that
we were seeing on hard clips (even without applying
stricter vbr rate control) and also helps quality on
almost all clips with some hard clips improving by >5%.

Overall quality results measured at speed 2.
Derf  +1.78% opsnr , +2.44% SSIM
Stdhd +2.41% opsnr, +2.85% SSIM

Change-Id: I2369df6295c2705963fa6307877f6acb304bcc39

Merge "webmdec: Fix return values for webm_read_frame"

Merge "Renaming av_per_frame_bandwidth to avg_frame_bandwidth."

Merge "Consistent mode names."

Renaming av_per_frame_bandwidth to avg_frame_bandwidth.

Just to be consistent with min_frame_bandwidth & max_frame_bandwidth names.

Change-Id: I36702c708cba9ad1a5c36393f37758a2edeadb90

Merge "Adding scale_if_required() function."

Adding sad function generation macros.

Change-Id: If6f013835b69ae61b0a0c6006fe0955303f579a5

Merge "Adding get_search_range() function."

Merge "Cleaning up vp9_rc_compute_frame_size_bounds()."

Merge "Cleaning up vp9_twopass_worst_quality()."

Adding scale_if_required() function.

Change-Id: I87819fed5aebb6ffe2f4d4655df226235a3d21cb

Adding get_search_range() function.

Change-Id: I988eea8f78f71135b914661420c5c75674e5c010

Merge "More user friendly vpxenc help strings."

webmdec: Fix return values for webm_read_frame

Fix return values for webm_read_frame so that we can distinguish between
error and end of stream. 0 - Success, 1 - End of stream, -1 error.

Change-Id: Ic35d0c7d7a166e027711a3d2300ecdda25a5d0cc

Add consts in set_fixed_partitioning()

Change-Id: Ib8c1b3b0a5a5689d3261dc822a69e9d473b89be1

Merge "Moving frame_frags field from VP9Common to VP9_COMP."

Merge "Using anonymous enum instead of macros."

Merge "Adding get_skip_encode_frame()."

Refactor common code into a function

Change-Id: Id156af5662ebe6fbe1cab636564f5f4bedb85ab0

Merge "Remove fatal() call in webmdec.c"

Merge "Removing unused vp9_mcomp_x86.h file."

Merge "Replacing int_mv with MV."

Merge "Remove vp9_ prefix on static inline function."

Adding get_skip_encode_frame().

Change-Id: Id687aa617650a859463e7ae63dd4c0dc4f3e4779

Using anonymous enum instead of macros.

Change-Id: I5ed360585dae2c9fea6c32058dbfb8ec07700677

Merge "Reduce code duplication"

Merge "Enable vpxenc to specify internal coded frame size"

Remove fatal() call in webmdec.c

Remove call to fatal() in webmdec.c so that it does not depend on
tools_common.c for compilation.

Change-Id: I3eec483afe6fae72436993c72b26d61d14a7f2bf

Consistent mode names.

Change-Id: Icb4851d98c951506fe5d73d8d5a8ac7e53fecfd0

More user friendly vpxenc help strings.

Change-Id: I257fb32673c47848258dc7e6e22147d0beb49f86

Merge "Speed 2 alternative balance."

Replacing int_mv with MV.

Change-Id: I35b9d1856d7951b8df7c933df6936dfc52a28451

Removing unused vp9_mcomp_x86.h file.

We don't use declarations from this file. The real declarations
(differently named) are in vp9_rtcd_defs.pl, e.g. vp9_full_search_sad.

Change-Id: I73cbf064305710ba20747233cfdbe67366f069a0

Reduce code duplication

Change-Id: I6ea1c335da9ca5b65f6a11466b417ad196fd0d65

Enable vpxenc to specify internal coded frame size

Added command line flags "resize-width" & "resize-height"
to allow the user to specify the frame size to encode at.

These two flags are ignored if the "resize-allowed" switch
is not set to 1.

All frames in the clip are then encoded at this size, which
must be smaller than the raw frame size.

Change-Id: I3d64bd9303d5c0bd678461a866a1ea621700d744

Merge "Cleaning up check_best_zero_mv()."

Merge "Cleaning up optimize_b()."

Merge "Removing redundant mvsadcost local variables."

Merge "Removing redundant checks from vp9_change_config()."

Remove vp9_ prefix on static inline function.

This prefix reserved for global scope functions etc.

Change-Id: I671cda2a63e01a40aae3d7407dd1bb4d338d709c

Speed 2 alternative balance.

A previous path improved speed 2 quality a little but
more extensive testing showed that it slowed encode
by a few %.

The change will have a similar effect for speed 3 but
should not impact speeds 4+;

This experiment should reverse that and give a speed
up at the cost of a small quality loss.

Borg results pending.

Change-Id: I4493fc1541aaf44587f1a41ff219f7088da9252c

Merge "Add a few "const""

Merge "Adding consts in vp9_picklpf.c."

Merge "Fixing error found by ioc."

Merge "Adding vp9_rc_update_framerate() function."

Fixing error found by ioc.

vp9/encoder/vp9_rdopt.c:3913:44: runtime error: index -1 out of bounds for
type 'RefBuffer [3]'.

Change-Id: Ic0ec755328853b359e3a1ee84d319589183e38b7

Merge "Fix the VP9 encoding unit test failure on ARM."

Removing redundant checks from vp9_change_config().

Both values are already checked as command line arguments:
RANGE_CHECK_HI(cfg, g_lag_in_frames, MAX_LAG_BUFFERS);
RANGE_CHECK_HI(extra_cfg, sharpness, 7);

Change-Id: I584798d587152d88dfd517c210054b466f4e5f8a

Add a few "const"

Change-Id: I258351fc1fff70ff2e9fa4845e575b0bb6a423d1

Merge "Replace the call to set_offsets()"

Adding consts in vp9_picklpf.c.

Change-Id: I84af62cc52954fc2eaf0b737245be76551fc8005

Renaming VP9D_CONFIG to VP9DecoderConfig.

Change-Id: I9677aab1c7bb0ca9e989cb21348a3a2c926d8f5a

Cleaning up check_best_zero_mv().

Change-Id: I5c450a4932fb4f20449487596932458ee3b48ae0

Adding vp9_rc_update_framerate() function.

Change-Id: Ie0c905b6f32a37e4360bbb44ceeae77c42ad1dc5

Merge "rename README.webm -> README.libvpx"

Removing redundant mvsadcost local variables.

Change-Id: I19a197b9525172579f253702c77fa76af88f6565

Merge "Removing offset argument of mvcomp macros."

Merge "Adding RD_OPT struct."

Merge "Removing unused cost arguments from mcomp functions."

Merge "Renaming zz_motion_search() to get_block_variance()."

Merge "Adding temp variable q to vp9_cyclic_refresh_setup()."

Replace the call to set_offsets()

With a more approriate one vp9_setup_src_planes() as only src buffer
pointers need to be initialized here.

Change-Id: I40fac4d8b2d39eb7d0c65b9b6afab45138a13936

rename README.webm -> README.libvpx

matches the project name and doesn't share a media file extension

Change-Id: I9ad6c0a180e36c41f8fc49120615a070ea792a30

Renaming zz_motion_search() to get_block_variance().

Change-Id: Ibec06411c8cd843c2ca33b528a511a656e551983

Adding RD_OPT struct.

Change-Id: I2d1b5c1481aefe226082e1f096ca9edd340d4d31

vp9_rc_postencode_update() cleanup.

Change-Id: Idb1289aa0eadff8f75dcf995547ab3a1b9e27375

Adding temp variable q to vp9_cyclic_refresh_setup().

Change-Id: If0e9c811c8ae78c0914d615bad0067a5b57e4a71

Merge "Removing legacy XMA code from vp8."

Removing unused cost arguments from mcomp functions.

Change-Id: Id81a76d18be6b2de69f81bb563d74c3bb356d434

Merge "Removing unused initial_{width, height} from VP9Decoder."

Merge "Removing unnecessary typedef."

Merge "Replacing int_mv with MV."

Adjust active minQ calculation for normal frames.

This increases the range of Q values available to
normal inter frames to allow encoder a better chance
to hit the target rate.

Change-Id: I33cd96469a46577fdcea631e26d3355710909e6d