Move diff to MACROBLOCKD per-plane data.

Change-Id: Ic27af09e38af8317ac4743241883d577a44f1490

make build_inter_predictors block size agnostic (split)

All build_inter_predictors can now be serviced by the same inner
function.

Change-Id: I40b08bee8f047286db4b1aad9dcae37b879c3f2a

Removing rounding from UV MV calculation for SPLITMV

Similar to the prior change that removed the rounding from non-SPLITMV
modes. Improves quality by a similar amount (Additional +0.087% on derf)

Change-Id: I39d80b4a3037a3aa7e285eb2320346ddaf646f52

Merge "make buid_inter_predictors block size agnostic (chroma)" into experimental

Merge "Use SSSE3 for 2d filters larger than 16" into experimental

Merge "Replacing BOOL_DECODER with vp9_reader inside vp9_decodframe." into experimental

Merge "Fixing member names inside TOKENVALUE and TOKENEXTRA structs." into experimental

Merge "catch all for new block sizes" into experimental

Use SSSE3 for 2d filters larger than 16

The C code was being used as a fallback for the >16 case, but only for 2D.

Change-Id: I1e2e6da9e4b28bd88bde9ba4dd32724ce466cf6f

catch all for new block sizes

Just make sure we don't stop them from testing in speed 1.

Change-Id: Iec9b3dba0a32616ff7a451207e0f54b81bb72575

Merge "set up a new speed 1" into experimental

set up a new speed 1

slightly worse results for faster encodes

Change-Id: I25ea82a18ce20635dbcd328808c1d05ac1f58fd7

Removal of CONFIG_NEW_MVREF experiment.

This experiment has failed to give much benefit but
does add complexity so deprecated.

Change-Id: Ic7b929ba706390b9907ef0b4f965bd401ca799a4

Remove dummy place holder function.

void __attribute__((noinline)) hi(void) { }
Causes build failure in VS2008

Change-Id: Ie2f2a09d90bd5502c492e4d9f4983532a0edbc01

Simplification of MVref search.

As we are no longer able to sort the candidate
mvrefs in both encoder and decode and given
that the cost of explicit signalling has proved
prohibitive, it no longer makes sense to find more
than 2 candidates.

This patch:

Modifies and simplifies add_candidate_mv()

Removes the forced addition of a 0 vector in the
MAX_MV_REF_CANDIDATES-1 position (in preparation
to reducing MAX_MV_REF_CANDIDATES to 2).

Re-orders the addition of candidates slightly.

This actually gives small gains (circa 0.2% on std-hd)

A subsequent patch will remove NEW_MVREF experiment,
reduce MAX_MV_REF_CANDIDATES to 2 and remove distance
weights as these are implicit now in the order.

Change-Id: I3dbe1a6f8a1a18b3c108257069c22a1141a207a4

Merge "Adjustments to key frame sizing." into experimental

Adjustments to key frame sizing.

Adjustments take heavier account of the frame near a kf
in deciding boost and limit the total number that can contribute.
Also adjusted the minq calculations such that in most cases we
generate a smaller key frame.
Modified the code that accounts for how static the sequence is and
added some adjustment based on image size. This is still very
crude but smaller images tend to behave better with a larger
delta between KF Q and other frames than larger image formats.
Changes give sizable gains in overall PSNR  on all the test sets but the
biggest gains (~3%) were on the std-hd set.
The gains were smaller for SSIM but still significant.
Average PSNR results are mixed because this metric can very easily
be altered by having a very good / lossless coding of one or two frames.
Some of the YT and YT-HD clips in particular have blank lead ins and
allowing lossless coding of these appears to make a big difference to
average PSNR but it reality does not help much at all.

Change-Id: I6bfe485a1d330b47c783832f1717c95c535464ec

Merge changes I320e160e,Iddd99733 into experimental

* changes:
  Removing rounding from UV MV calculation
  make buid_inter_predictors block size agnostic (luma)

make buid_inter_predictors block size agnostic (chroma)

Updates to make non-SPLITMV inter predictors work for all
plane types.

Change-Id: I25dbef40b7ffcac30254b43eed1e22fc732378ae

Removing rounding from UV MV calculation

Consider the previous behavior for the MV 1 3/8 (11/8 pel). In the
existing code, the fractional part of the MV is considered separately,
and rounded is applied, giving a result of 6/8. Rounding is not required
in this case, as we're increasing the precision from a q3 to a q4, and
the correct value 11/16 can be represented exactly.

Slight gain observed (+.033 average on derf)

Change-Id: I320e160e8b12f1dd66aa0ce7966b5088870fe9f8

make buid_inter_predictors block size agnostic (luma)

This commit converts the luma versions of vp9_build_inter_predictors_sb
to use a common function. Update the convolution functions to support
block sizes larger than 16x16, and add a foreach_predicted_block walker.

Next step will be to calculate the UV motion vector and implement SBUV,
then fold in vp9_build_inter16x16_predictors_mb and SPLITMV.

At the 16x16, 32x32, and 64x64 levels implemented in this commit, each
plane is predicted with only a single call to vp9_build_inter_predictor.
This is not yet called for SPLITMV. If the notion of SPLITMV/I8X8/I4X4
goes away, then the prediction block walker can go away, since we'll
always predict the whole bsize in a single step. Implemented using a
block walker at this stage for SPLITMV, as a 4x4 "prediction block size"
within the BLOCK_SIZE_MB16X16 macroblock. It would also support other
rectangular sizes too, if the blocks smaller than 16x16 remain
implemented as a SPLITMV-like thing. Just using 4x4 for now.

There's also a potential to combine with the foreach_transformed_block
walker if the logic for calculating the size of the subsampled
transform is made more straightforward, perhaps as a consequence of
supporing smaller macroblocks than 16x16. Will watch what happens there.

Change-Id: Iddd9973398542216601b630c628b9b7fdee33fe2

Fixing member names inside TOKENVALUE and TOKENEXTRA structs.

Change-Id: I183ec5819d4d80966c92db36db75b8c3be0d381d

Merge "Fixing rounding inside vp9_mv_bit_cost function." into experimental

Replacing BOOL_DECODER with vp9_reader inside vp9_decodframe.

Change-Id: Ia6722bc26f34ae7fc5cb15e491aba39d2f20a85b

Fixing rounding inside vp9_mv_bit_cost function.

Change-Id: I7209a05919162a8155520bc543658ddb69ba12ce

Merge "Code cleanup inside findnearmv code." into experimental

Merge "Make the use of pred buffers consistent in MB/SB" into experimental

Code cleanup inside findnearmv code.

Using predefined clamp function, removing redundant variables, declare and
init on the same line.

Change-Id: I14636eb242194bac33f8a9d4a273a416d32856fc

Make the use of pred buffers consistent in MB/SB

Use in-place buffers (dst of MACROBLOCKD) for  macroblock prediction.
This makes the macroblock buffer handling consistent with those of
superblock. Remove predictor buffer MACROBLOCKD.

Change-Id: Id1bcd898961097b1e6230c10f0130753a59fc6df

Replacing BOOLEAN_DECODER with vp9_reader inside vp9_detokenize.

Change-Id: I71369a30a86111ae737168c795a29b4d8cff6ebf

Merge "Adding DEFAULT_PRED_PROB_{0, 1, 2} constants." into experimental

Merge "Motion vector decoding code cleanup." into experimental

Merge "Changing argument type of vp9_get_mv_joint from MV to MV*." into experimental

Merge "convolve: support larger blocks, fix asm saturation bug" into experimental

Merge "Replacing VP9_COMBINEENTROPYCONTEXTS macro with function." into experimental

Merge "Moving functions from vp9_dboolhuff.c to vp9_decodframe.c." into experimental

Merge "Renaming y1dc_delta_q, uvdc_delta_q, uvac_delta_q fields from VP9Common." into experimental

Merge "Transforming decode_sb_row to decode_tile function." into experimental

convolve: support larger blocks, fix asm saturation bug

Updates the common convoloution code to support blocks larger than
16x16, and rectangular blocks. This uncovered a bug in the SSSE3
filtering routines due to the order of application of saturation.
This commit fixes that bug, adjusts the unit test to bias its
random values towards the extremes, and adds a test to ensure that
all filters conform to the expected pairwise addition structure.

Change-Id: I81f69668b1de0de5a8ed43f0643845641525c8f0

Motion vector decoding code cleanup.

Change-Id: I9790baedbd4acb7113575efc6f228b2656c42ff7

Merge "Use BLOCK_SIZE_TYPE in foreach_ walker" into experimental

Merge "Fix edge bug in recent merge of 64x64 and 32x32 inter predictors." into experimental

Fix edge bug in recent merge of 64x64 and 32x32 inter predictors.

Change-Id: I83aa188d414922db19cccb210c4001c02d5a404c

Merge "Remove skip_recon_sb" into experimental

Remove skip_recon_sb

Removed skip_recon_sb(). Cleanup code so that we could combine
decode_sb and decode_mb later.

Change-Id: I24d1dd5283e2565072838a03c344938b88bfd35c

Use BLOCK_SIZE_TYPE in foreach_ walker

Change-Id: I655305c9e22bdd9abc893d3c40d4bc6616aa1d35

Merge "clean out experiments" into experimental

Merge "make lf_deltas dependent on filter_lvl" into experimental

Merge "Make alt_extra_bits a local variable" into experimental

Merge "Remove unused file vp9_context.c." into experimental

Transforming decode_sb_row to decode_tile function.

Also moving frame size check into read_frame_size function.

Change-Id: Ib098d83bd50081bfc2941c87aea0dc58cb39583e

Remove unused file vp9_context.c.

Change-Id: Id268ccaf1aefee6a3ed3e31486d4370f1c25e8cb

Moving functions from vp9_dboolhuff.c to vp9_decodframe.c.

List of moved functions: vp9_decode_uniform, vp9_decode_term_subexp,
vo9_inv_recenter_nonneg, vp9_decode_unsigned_max.

Change-Id: Ib518beb90b791690c5c93de17b8bdbf560033b41

Adding DEFAULT_PRED_PROB_{0, 1, 2} constants.

Also using ALLOWED_REFS_PER_FRAME instead of 3.

Change-Id: I810dd8521d8138edb9dbd78edede49b62f706554

Merge "Remove BLOCK_SIZE_LG2." into experimental

Merge "Add SSE2 versions for rectangular sad and sad4d functions." into experimental

Changing argument type of vp9_get_mv_joint from MV to MV*.

Change-Id: I28c3026946fc1bde7074e6e0198da93bb0d75dfe

Merge "replace hev_thr_lut[][] with simpler logic" into experimental

Make alt_extra_bits a local variable

alt_extra_bits is now only used in a local context so
remove it from the twopass_rc structure.

Change-Id: I5bbf0a3dba9712a3da45760f7bb865243705b53e

clean out experiments

that are related to using reconstructed pixel for selecting reference
motion vectors.

Change-Id: I048dfae39ca7385e344b57d46347ecc6e753e1bb

Remove BLOCK_SIZE_LG2.

It is unused.

Change-Id: Ied3269ffacf9b6303bc9d85f996384c3575ef812

make lf_deltas dependent on filter_lvl

Change-Id: Idb0d11e3ae9afabe667a9f327bf4d3aa84f63649

replace hev_thr_lut[][] with simpler logic

Using filter_level/16 instead.

Change-Id: I73a7e83a785d6aa6f9b5d22cf66e22f0a39ed078

Merge "Fairly basic integration of rectangular blocks in encoding RD loop." into experimental

Merge "Change to do LPF in SB64 order" into experimental

Add SSE2 versions for rectangular sad and sad4d functions.

About 11% overall encoder speedup with the sbsegment experiment enabled.

Change-Id: Iffb1bdba6932d9f11a6c791cda8697ccf9327183

Change to do LPF in SB64 order

Change-Id: I41b3f5932ecd6256e8207369ad19aa81e7987be1

Merge "Move configure_arnr_filter function" into experimental

Merge "Fixed overflow test on boost calculation" into experimental

Fairly basic integration of rectangular blocks in encoding RD loop.

Adds RD integration for 32x16, 16x32, 64x32 and 32x64 rectangular blocks.
Derf almost +0.6%, HD a little over +1.0%, STDHD +1.3%.

Change-Id: Id651fdb6a655fdbb5c47009757e63317acfb88a5

Recursive partition syntax coding

Enable recursive partition information coding from SB64X64 down to
MB16X16. The bit-stream syntax is now supporting rectangular block
sizes. It starts from SB64X64 and recursively describes the partition
type of the current block. If the partition type is PARTITION_NONE,
the block is coded as a single unit; if it is PARTITION_HORZ or
PARTITION_VERT, the block is segmented into two independently coded
rectangular units, with no further partition needed; otherwise, the
block is segmented into 4 square blocks. i.e., PARTITION_SPLIT case,
each can be potentially further partitioned.

Forward adaptive probability modeling is used for the partition
information coding, conditioned on the current block size.

Change-Id: I499365fb547839d555498e3bcc0387d8a3587d87

Merge "Replacing BOOL_DECODER with vp9_reader inside vp9_decodemv." into experimental

Merge "Adding vp9_write_prob function (macro for now)." into experimental

Replacing BOOL_DECODER with vp9_reader inside vp9_decodemv.

Also a little bit of code cleanup: replacing pbi->common with cm,
pbi->mb with xd.

Change-Id: I2f70a005704a2833d644dfaafc4cd354e6e8532b

Merge "Adding write_le16 and write_le32 functions." into experimental

Merge "Slightly hackish workaround to support rectangles in directional intra predictors." into experimental

Merge "Faster vp9_short_fdct4x4 and vp9_short_fdct8x4." into experimental

Adding write_le16 and write_le32 functions.

Change-Id: I7057ed8e2a13a3c5367e2923eb4b3260bd7cf546

Adding vp9_write_prob function (macro for now).

Change-Id: Ic795cf6fc202bf32c9b5b0b3cef9ac422af53cd0

Faster vp9_short_fdct4x4 and vp9_short_fdct8x4.

Scalar path is about 1.3x faster (2.1% overall encoder speedup).
SSE2 path is about 5.0x faster (8.4% overall encoder speedup).

Change-Id: I360d167b5ad6f387bba00406129323e2fe6e7dda

Move configure_arnr_filter function

This function is now called from configures the ARNR
filter so it belongs with the other temporal filter
functions.

Change-Id: I64211875918364b5b8edfb97743e573c6def1663

Replacing VP9_COMBINEENTROPYCONTEXTS macro with function.

Change-Id: I3bbc31840af69481e1d9bb4427c9ee25abf82946

Fixed overflow test on boost calculation

Normalization of the frame boost value was being done
when it reached the value 1028. The intention was to
keep to a range of 10 bits, so it should have been
clipped above 1023.

Change-Id: I0afdddc1d2eb9e7822ec4578903cbe6ec0b33b91

Renaming y1dc_delta_q, uvdc_delta_q, uvac_delta_q fields from VP9Common.

New names are y_dc_delta_q, uv_dc_delta_q, uv_ac_delta_q.

Change-Id: I4acae1fc23a4697ce2c5a5becb8dc28ef0a4b552

Slightly hackish workaround to support rectangles in directional intra predictors.

Change-Id: I8a4da6925f2d58a426c4d122df8b97bb69452e49

Merge "Moving tx_type == DCT_DCT checks inside iht_add functions." into experimental

Remove the mb_no_coeff_skip flag

This flag was added to VP8 to allow a mode where MB-level skipping
was not allowed, saving a bit per mb. It was never used in practice,
and hasn't been tested in VP9, so remove it.

Change-Id: Id450ec6904c6d06c1919508e7efc52d05cde5631

Moving tx_type == DCT_DCT checks inside iht_add functions.

tx_type == DCT_DCT check is an implementation detail of iht_add. Also
adding dequant_add_y function with explicit DCT_DCT check inside.

Change-Id: Ia3cb0225601752cdef0ff6f0acd3a09d9dbd8938

Merge "Code cleanup inside vp9_reconintra4x4.c file." into experimental

Merge "Adding mv_joint_vertical and mv_joint_horizontal functions." into experimental

Merge "Optimize the scaling calculation" into experimental

Merge "Removing extra params from x_add_residual() functions" into experimental

Optimize the scaling calculation

In decoder, the scaling calculation, such as (mv * x_num / x_den),
is fairly time-consuming. In this patch, we check if the scaling
happens or not at frame level, and then decide which function to
call to skip scaling calculation when no scaling is needed. Tests
showed a 3% decoder performance gain.

Change-Id: I270901dd0331048e50368cfd51ce273dd82b8733

Merge "Replacing vp9_read, vp9_read_literal, vp9_read_bit macros with functions." into experimental

Removing extra params from x_add_residual() functions

Now that the predictor is the dest, we do not need the
extra parameters.

Change-Id: I31e2c3d2015f4a1cd12e7f04536d8db478582a0a

Merge "Removing TRUE and FALSE macro definitions." into experimental

Merge "Removing extra params in dequant functions" into experimental

Removing TRUE and FALSE macro definitions.

Using regular 0 and 1 constants now.

Change-Id: Ie763503cbb727847cc8f1d6506cd6f2ee607f056

Replacing vp9_read, vp9_read_literal, vp9_read_bit macros with functions.

This is the first CL with vp9_reader changes. All another macro
definitions will be replaced after.

Change-Id: I1c6bd9c9a612ec1663d484d6adb4fb720af54063

Merge "Fix lingering x->skip settings if static_threshold is used." into experimental