Align frame size to 8 instead of 16.

Change-Id: Ic606ef1b31e49963a779455a1e010a9ebb0f3f1f

Add slightly more colorspace variations.

Change-Id: Ib44541fbbdcf71ec881814bd6715ea1c6bd82cf4

Merge "Preparation to new frame size encoding." into experimental

Fix ref_frame segment feature when it is intra.

Change-Id: Ifbf790c14cee0c08a27f6728e3c637404e1f8477

Fix segment feature data size.

Change-Id: I4331cfd99a717938f4f970cad81c468cbf287b00

Fix line that disables the line above it.

Change-Id: I19d5cb60a00a001f6e5b3d90ce2db6e49d6209ad

Fix segment feature data type.

It has a range of -255,255, so should be int16_t, not int8_t.

Change-Id: I5ef4b6aefb6212b0f35f4754f3c4d73fddbc52a0

Don't crash if motion vector ref points to out-of-bounds area.

This can only happen if partition is partly out-of-frame, in which
case the referenced mv is either out-of-frame also (and thus has the
same value as an already-read one), or it is actually uninitialized,
in which case we don't want to use it.

Change-Id: Icf39fa4d987c7abcbebb9bbdcdd6311e8fb9d3c9

Fix static segmentation feature.

Change-Id: Ia36f626b9b3c2fe7eb89bb9acddf4701db1baef2

Change to segment ref frame feature.

Simplify feature to only support a single reference frame
instead of a mask.

Change-Id: I5dd3a98c7a224aafb35708850ab82e2f220e68fb

Preparation to new frame size encoding.

Just an intermediate change set to simplify merges. Reordering several
uncompressed header bits, code restructuring + minor cleanups.

Change-Id: I28272f520762f8c4e3ad230ae39fff5102ba5c0d

Merge "Fix mingw build error" into experimental

Merge "Add cheap show-buffer operation" into experimental

Merge "Add bits for colorspace, profile" into experimental

Merge "Add marker bit to bool-coded partition start" into experimental

Merge "Remove two un-used entries in mode_lf_delta[]" into experimental

Merge "Specify mv neighborhood for block larger than 8x8" into experimental

Remove two un-used entries in mode_lf_delta[]

With the removal of i4X4 and SPLIT_MV modes, the two entries for the
modes are no longer used. This patch remove the coding of the deltas.

Change-Id: Iea4eb500404ebe9706159380a03b8eca542fb4c3

Merge "Coding updates for tx-size selection" into experimental

Merge "Revert "Align frame size to 8 instead of 16."" into experimental

Specify mv neighborhood for block larger than 8x8

The new neighorbhood adapts to the shape and size of the block type
cif +.16%
stdhd +.13%

Change-Id: I978db58278e9ae3fbd6726ef831bdfc5f5f37d02

Revert "Align frame size to 8 instead of 16."

This reverts commit c2574414d432c7d040f3b2b05f23a109a801ea69

Change-Id: Ie9013cb0bb43e639e01b4588f630b1da59295d38

Coding updates for tx-size selection

Changes to the coding of transform sizes, along with forward
and backward probability updates.

Results:
derf300: +0.241%

Context based coding of transform sizes will be in a separate
patch.

Change-Id: I97241d60a926f014fee2de21fa4446ca56495756

Fix bug in segment skip.

Wrong max data size (skip has no data) and use of vp9_get_segdata()
when it should be vp9_segfeature_active().

Change-Id: I1eb97d33df6e2a42cc589049f704266fe3639902

Compound inter encoder bug fix.

In the longer term the encoder should allow compound as long
as one of the buffers has opposite sign bias and as per the decoder
this buffer is then set as the fixed reference. However at the moment
the encoder and RD loop only supports the case where the ALTREF_FRAME
buffer (or third of the 3 allowed in any given frame) is the odd one out.

This patch fixes a bug that would allow compound inter and set
fixed ref to ALTREF_FRAME when it is not the odd one out.

Change-Id: Ic83a69486e088a147ba83a4aedc2a0042f6b3721

Add cheap show-buffer operation

Adds the ability to have the decoder show one of the existing reference
frames directly, without having to code it indirectly as a series of
skip blocks.

Change-Id: Ib6c26c5f6a8709863cf304ab890db8559687d25e

Add bits for colorspace, profile

Adds 3 bits for colorspace (sent on keyframes), 2 bits for version.

Change-Id: Iaa0cf1dcdd085cebb46e2bc4a7c78cd33cf24325

Add marker bit to bool-coded partition start

Adds a marker bit to allow distinguishing the frame header from its residual
data.

Change-Id: Id75d47acc9e5a97007e4690c4f8748a4ce63e641

Merge "Removed rectangular intra prediction code" into experimental

fix a typo

Change-Id: I8fd21e3a8435b873c5687d8b273922fc60988295

Fix a merge conflict

ref_frame in MB_Mode_Info was changed in the ref frame coding patch
to be an array to handle first and second reference frame, this patch
fix the loop filter code that use the pointer directly as reference
frame.

Change-Id: I71afa5a49deb50c1bc38029fd07470b984c6dfe9

Removed rectangular intra prediction code

As all intra predictions happen on squared transform block now.

Change-Id: I7ec91e3f0ad01383a03d2bd3099bbf32e87e3466

Merge "Fix FIXME." into experimental

Merge "Align frame size to 8 instead of 16." into experimental

Merge "Reimplementation of loop filter" into experimental

Align frame size to 8 instead of 16.

Change-Id: Ic22f416a33de558519d5c30a929f6a954546ade9

Fix FIXME.

Change-Id: I47a9857d35da1bff6153f8090c6b98b689b31a61

Change ref frame coding.

Code intra/inter, then comp/single, then the ref frame selection.
Use contextualization for all steps. Don't code two past frames
in comp pred mode.

Change-Id: I4639a78cd5cccb283023265dbcc07898c3e7cf95

Merge "fix vp9_wb_write_bit uninitialized variable" into experimental

fix vp9_wb_write_bit uninitialized variable

This fixes a valgrind error.

Change-Id: I0e1ef212ba09d65e3d71dd209f0786ae6530d2c8

Merge "Moving segmentation and tile info to uncompressed header." into experimental

Moving segmentation and tile info to uncompressed header.

Change-Id: I0ca77329d882a2026f6c1941b8e447d86bc87bda

New intra mode and partitioning probabilities.

Split partition probabilities between keyframes and non-keyframes,
since they are fairly different. Also have per-blocksize interframe
y intramode probabilities, since these vary heavily between different
blocksizes.

Lastly, replace default probabilities for partitioning and intra modes
with new ones generated from current codec. Replace counts with actual
probabilities also.

Change-Id: I77ca996e25e4a28e03bdbc542f27a3e64ca1234f

Bug fix in rd_pick_inter_mode_sb_

Fix the calculation of step size in height.

Change-Id: I0e0c0175f141f5a41214ae51cef233d13942d3c5

Merge "Rd thresholds change with block size." into experimental

Merge "Turn off compound inter search refinement for good quality." into experimental

signs reverted

Change-Id: Ieface458c83eb6e7ee95595d9fc662f372117c9a

Reimplementation of loop filter

This version of the loop filter supports non-4:2:0 subsampling and
a fourth plane, as well as changing the filtering order to be more
friendly to hardware implementations.

The filters are applied first to all vertical edges within the
64x64 SB, followed by the top horizontal edge and any internal
horizontal edges. Since filtering is applied on each 4x4 edge
serially, a dependency is created from filtering one block edge
to the next. It would be possible to remove this depencnecy by
building all filtering decisions from the unfiltered
reconstruction data.

Change-Id: I08f3e9683eb7bded8a76651cbc50fc0dfdd05fa7

Rd thresholds change with block size.

Added structures to support independent rd thresholds
for different block sizes (and set experimental block
size correction factors).

Added structure to to allow dynamic adaptation of thresholds
per mode and per block size basis depending on how often
the mode/block size combination is seen (currently fixed factor).

Removed some unused variables.

TODO
- Adaptation of thresholds based on how often each mode chosen.
- The baseline mode values could also be adjusted based on
  the block size (e.g. for a particular intra mode use a low threshold
  for 4x4 prediction blocks but a relatively high value for 64x64.

Change-Id: Iddee65ff3324ee309815ae7c1c5a8584720e7568

Turn off compound inter search refinement for good quality.

Turn this feature off for some modes in  "good" quality.

Change-Id: I3f262d62cca8f01736b977af1465291e8be29f0a

don't tokenize & encode tokens for blocks in UMV

This avoids encoding tokens for blocks that are entirely
in the UMV border. This changes the bitstream.

Change-Id: I32b4df46ac8a990d0c37cee92fd34f8ddd4fb6c9

Merge "Moving bits from compressed header to uncompressed one." into experimental

Merge "Fix in forward updates for INTRA modes/partitions" into experimental

Merge "Fix UV intra coding rd loop" into experimental

Fix UV intra coding rd loop

This commit makes the coding/reconstruction operations of intra
coding rate-distortion loop for UV components consistent with those
of the encoding process.

key frame coding gains:
derf:   0.11%
stdhd:  0.42%

Change-Id: I8d49f83924a320e3689ef2d60096c49d7f0c7a40

Moving bits from compressed header to uncompressed one.

Bits moved: refresh_frame_flags, active_ref_idx[], ref_frame_sign_bias[],
allow_high_precision_mv, mcomp_filter_type, ref_pred_probs[].

Derf results: +0.040%

Change-Id: I011f43c7eac0371d533b255fd99aee5ed75b85a5

Fix in forward updates for INTRA modes/partitions

Results:
derfraw300: +0.2

Change-Id: Ie40dc3b31e877ee705f936066d7fa5702bd01ecd

Cosmetic renaming VP9_MVREFS to VP9_INTER_MODES

NO bitstream change

Change-Id: I79f6146dac5fdd157051b6f8dc611c0b7b5e5f7f

Clean-ups on switchable interpolation and mv_ref

Adds backward adaptation and differential forward updates of switchable
interpolation filter probabilities. Also adds some cosmetic cleanups
and minor fixes on mv_ref probabilities.

derfraw300: +0.353% (with most coming from switchable interp changes)

Change-Id: Ie2718be73528c945fd0d80cfd63ca2d9cb3032de

Merge "Make sb intra rd search consistent with encoding" into experimental

Make sb intra rd search consistent with encoding

This commit makes operations of the superblock intra coding rate
distortion optimization consistent with those used in the encoding
process. Given the test prediction mode and transform size, the rd
optimizer encodes and reconstructs each transformed block of the
superblock consecutively, then computes the total rate-distortion
costs accosicated with the current superblock to select the coding
decisions.

It achieves coding performance gains:
derf 0.353%
yt   1.111%

Change-Id: I0da2eb7a71361dfb8c1384927fc536b0c2790d07

Fix mingw build error

Fixes an issue where newer versions of GCC would try to compile the
visual studio inline assembly.

Fixes issue #571

Change-Id: I8e4500a9277447fdab0b55e5efa1f24ca97bdc03

Merge "Fix a off-by-one bug" into experimental

Merge "Replacing memcpy with struct assignment." into experimental

Merge "Moving quantization and loopfilter data to uncompressed header." into experimental

Fix a off-by-one bug

in the calculation of maximum number of tiles in log2 scale.

Change-Id: Id283d6e51a8b926015fd3fc631cdbfb4b8268d4a

Moving quantization and loopfilter data to uncompressed header.

Overall PSNR drop on derf set is -0.024.

Change-Id: I1c05d2ace83488205ca16e3b06cd5f0ebceec8d6

Put iterative motion search under speed control

Enable iterative motion search for compound inter-inter prediction
of block sizes 4x4/4x8/8x4 only when best coding quality is selected.
The iterative motion search provides about 0.1% gains for derf and
stdhd at this point, at the expense of longer runtime.

Change-Id: Idc03e7f827e51f1bb8d269bc3752ee297a6bbfe5

Merge "Replace scatter scan 32x32 with HW friendly scan." into experimental

Merge "vp9_find_mv_refs_idx change for last frame." into experimental

Replacing memcpy with struct assignment.

Change-Id: Ib557cc6351404b9e178e95a545883eb3666f11f0

Merge "Adding plane_block_width and plane_block_height functions." into experimental

Merge "Adding new encode_txfm function." into experimental

Costing fixes related to trellis optimization

Migrates costing changes/fixes from the rebalance expt to the head
without the expt on.

Rebased.

Change-Id: I51677d62f77ed08aca8d21a4c9a13103eb8de93f
Results:
derfraw300: +0.126%

Adding new encode_txfm function.

Moving some code from vp9_pack_bitstream to encode_txfm function.

Change-Id: Icc25d6083e54f09886216fea632ceac002042d7f

Renaming 'motion_vector' to 'mv' for consistency.

Change-Id: Ie869ea4992e26867caec46cb878fc86a646aeb9f

Adding plane_block_width and plane_block_height functions.

Change-Id: I02c17fb733c0f3c22dc3167c3d3182797415f1ae

Merge "Fix silly bug with ENTROPY_STATS enabled." into experimental

Fix silly bug with ENTROPY_STATS enabled.

Change-Id: I615125483da71a623a930d6e20c42df82ea0e6ee

Merge "Merge all various transform size data trackers into single variables." into experimental

Merge "Moved use_prev_in_find_mv_refs check to frame level" into experimental

Merge all various transform size data trackers into single variables.

Change-Id: I2dfc569106b29fbe4da20585a0e85e5e9ea6a4db

vp9_find_mv_refs_idx change for last frame.

Restrict get_matching_candidate() to considering
mvs at 8x8 and larger sizes for last frame case.

This is to reduce the HW load of using vectors down
to the 4x4 level from the previous frame.

Change-Id: I6505e610fd63a4e22d67f136aec7905a01b893ba

Merge "put back in lost speedups" into experimental

put back in lost speedups

speed >1 can be spead up by turning these on - lost in a prior commit

Change-Id: Iaef85e10ecfeec3aea5ab0e691edf02bb7f5190d

Fix inter mode context adaptation.

Change-Id: Ibaa47be878c1cd84d88d7518418d2d8d38224e70

Merge "Patch to remove implicit segmentation." into experimental

Merge "Changed to use a new variant of WHT" into experimental

Merge "Changed to use new intra coding calls for 1st pass" into experimental

Changed to use new intra coding calls for 1st pass

And removed 1st pass specific version of intra coding funcitons

Change-Id: Ia54e67c71d750957cb2efda8360bf2133468498a

Minor cosmetic changes.

Change-Id: Ieb4a8c97bf1b1dfb993f40a9a3ef3bed5ae7d948

Merge "Remove unused define." into experimental

Merge "Merge VP9_YMODES, VP9_UV_MODES, INTRA_MODE_COUNT and cousins." into experimental

Merge "Remove TX_SIZE_MAX_MB." into experimental

Merge "Remove one (unused) entry from mvref tables." into experimental

Merge "Creates a new speed 1:" into experimental

Creates a new speed 1:

This speed 1 - uses variance threshold stolen from static-thresh
to determine split.  Any superblock with greater than the variance
set by static thresh * quantizer index squared is split. In addition
transform size is set to largest size less than or equal to partition
size, sub pixel filter is set to normal,  and only 12 modes are used
at all.

Change-Id: If7a2858ee70f96d1eb989c04fd87a332b147abef

Merge "Remove splitmv." into experimental

Merge changes I98c18fe5,I80c37cff into experimental

* changes:
  Remove i4x4_pred.
  Remove unused table.

Remove unused define.

Change-Id: Ic6555128206d61f47a46c550cb3dcaf3b4ec6374