Merge "Removing extra params from x_add_residual() functions" into experimental

Merge "Replacing vp9_read, vp9_read_literal, vp9_read_bit macros with functions." into experimental

Removing extra params from x_add_residual() functions

Now that the predictor is the dest, we do not need the
extra parameters.

Change-Id: I31e2c3d2015f4a1cd12e7f04536d8db478582a0a

Merge "Removing TRUE and FALSE macro definitions." into experimental

Merge "Removing extra params in dequant functions" into experimental

Removing TRUE and FALSE macro definitions.

Using regular 0 and 1 constants now.

Change-Id: Ie763503cbb727847cc8f1d6506cd6f2ee607f056

Replacing vp9_read, vp9_read_literal, vp9_read_bit macros with functions.

This is the first CL with vp9_reader changes. All another macro
definitions will be replaced after.

Change-Id: I1c6bd9c9a612ec1663d484d6adb4fb720af54063

Merge "Fix lingering x->skip settings if static_threshold is used." into experimental

Merge "Add rectangular block size variance/sad functions." into experimental

Merge "Make filter RD code and encode breakout variance size-independent." into experimental

Fix lingering x->skip settings if static_threshold is used.

Keyframes don't set this variable, so it would use the last set
values from inter frames.

Change-Id: Ie1ef45ece2c44b21b5d55f6cea9f7d6e7a445692

Add rectangular block size variance/sad functions.

With this, the RD loop properly supports rectangular blocks.

Change-Id: Iece79048fb4e84741ee1ada982da129a7bf00470

Make filter RD code and encode breakout variance size-independent.

Static threshold results slightly up (+0.1% on derf), probably b/c
we now take the filter (sharp/lowpass) into account for the breakout
decision.

Change-Id: I9f597601da434205142afd05f32690e7ba8fd690

Merge "Motion vector decoder cleanup." into experimental

Removing extra params in dequant functions

Now that the predictor is the dest, we do not need the
extra parameters.

Change-Id: I78db73d39b5aff62f15303f3d51ad2797eae74b6

Merge "Reorder enum i4X4 predcition modes" into experimental

Merge "Fix width/height switch-up in U/V SB quantize code." into experimental

Merge "Removed unused structs in vp9_onyx_int.h." into experimental

Fix width/height switch-up in U/V SB quantize code.

Change-Id: I697514efd6024e1b4153bbde58ae5e323b030981

Removed unused structs in vp9_onyx_int.h.

Change-Id: I1f2dbf04a0140a7cc2060b0a9efb4ed8e5270d3d

Merge "Initial addition of multiple ARF frames" into experimental

Initial addition of multiple ARF frames

This is work-in-progress, it implements multiple ARF
encoding behind an experimental flag.

It adds the ability to insert multiple ARF frames into a
single ARF group. This patch implements the reordering
of the coded frames, and implements a fixed-length coding
pattern. It applies a fixed quantizer strategy based on
where the frame is in the coding sequence.

Further work to modify the rate control strategy is
ongoing and will be submitted via a set of future patches.

In this first step, each ARF group is recursively
bisected and an ARF frame added at that position in the
sequence. The recursion continues until ARF frames are
within MIN_GF_INTERVAL frames.

The code sits behind the "multiple-arf" experimental
flag ("CONFIG_MULTIPLE_ARF"). The experimental flag
"oneshotq" ("CONFIG_ONESHOTQ") also needs to be enabled
for this patch to work correctly.

Change-Id: Ie473b05ebb43ac473c0cfb659b2b8042823085e2

Merge "Encoder code cleanup." into experimental

Merge "Adding vp9_read_and_apply_sign function." into experimental

Merge "Intra code cleanup." into experimental

Merge "Renaming vp9_token_struct to vp9_token and removing previous typedef." into experimental

Intra code cleanup.

Removing redundant code.

Change-Id: I71bfc40a1fb06d8e3149ed5400aa4dfd87a51aac

Motion vector decoder cleanup.

Change-Id: I7d3b2ef26aba3dfb1d5c83309aab2024e04ee819

Merge "Enable inter predictor for rectangular block size" into experimental

Enable inter predictor for rectangular block size

Combine superblock inter predictors into a unified function that
allows configurable block width and height. The inter predictions
of block sizes smaller than 16x16 are handled differently. To be
continued on merging them later.

Change-Id: I14075959dd5e221f00c205c99ca35c1c31ef728e

Removed unnecessary copy from vp9_dequant_iht_add_8x8_c

Change-Id: I8fff2216c169c872f7073e66357e400f78a3445d

Merge changes I196814c0,I896fdfa0 into experimental

* changes:
  Move prediction hit counting to update_state().
  Merge loop over all macroblock modes into encode_sb_row().

Reorder enum i4X4 predcition modes

To match the order of  directional intra prediction modes for larger
blocks, also renamed the i4x4 prediction modes to mirror the larger
variants.

Change-Id: I77cea4d0add6c7758460bf9c7a2fe59aca601f0b

Rename B_PRED to I4X4_PRED

So it is consistent with I8x8_PRED.

Change-Id: Iefa65124b2419690d83e526c611129c0ede29d11

Merge "Remove unnecessary vp9_copy_memNxN() calls" into experimental

Move prediction hit counting to update_state().

The probabilities derived from these statistics are used in bitstream
writing; therefore, we should only do this when we actually decide to
use macroblock coding (over superblock coding). Derf gains +0.15%.

Change-Id: I196814c070a7c79889590658ce10a6eb07454389

Remove unnecessary vp9_copy_memNxN() calls

The build predictors now output directly to the dest.  These
copies are no longer required.

Change-Id: I8e91eda6b49993e6c16cfadc705d82a7e80f19b2

Make intra predictor support rectangular blocks

The intra predictor supports configurable block sizes. It can handle
intra prediction down to 4x4 sizes, when enabled in BLOCK_SIZE_TYPE.

Change-Id: I7399ec2512393aa98aadda9813ca0c83e19af854

Merge loop over all macroblock modes into encode_sb_row().

Rename pick_mb_modes to pick_mb_mode, since it now handles only a
single macroblock. This is consistent with pick_sb_mode handling a
single non-macroblock.

Change-Id: I896fdfa06436b2d8c24d6474718cc74420df6b3b

Merge "Remove unused vp9_recon_mb{y,uv}_s" into experimental

Merge "Remove subtract_mb* functions." into experimental

Adding vp9_read_and_apply_sign function.

Change-Id: I9951a06dbe4514cc1cf69ff4349c4e12cb4a318c

Merge "WIP: removing predictor buffer usage from decoder" into experimental

Merge "Remove unused macroblock versions of reconstruction functions." into experimental

Merge "Remove "tplist" from VP9_COMP." into experimental

Merge "Merge pick_sb_modes and pick_sb64_modes." into experimental

Merge "Turning model-based updates on with modelcoefprob" into experimental

Turning model-based updates on with modelcoefprob

This patch changes the default with the modecoefprob expt
to use mode-based forward updates with one-node pegged
modeling.

The maximum difference with fully trained tables is now
less that 0.1%.

Change-Id: I06b44322e10c6703f93f3c1d48d973b1136a0618

Merge "Remove unused vp9 ppc files" into experimental

Remove unused vp9_recon_mb{y,uv}_s

These functions now are handled through the common superblock code.

Change-Id: Ib6688971bae297896dcec42fae1d3c79af7a611c

WIP: removing predictor buffer usage from decoder

This patch will use the dest buffer instead of the
predictor buffer.  This will allow us in future commits
to remove the extra mem copy that occurs in the dequant
functions when eob == 0.  We should also be able to remove
extra params that are passed into the dequant functions.

Change-Id: I7241bc1ab797a430418b1f3a95b5476db7455f6a

Merge "vp8: set y_crop_{width,height}" into experimental

Merge changes I6721e42f,Iaffb1ae8 into experimental

* changes:
  tokenize: convert skippable functions
  Add foreach_transformed_block

Remove unused vp9 ppc files

Change-Id: I3fe8c529ddec658cfa2376cfc05d9c8a5366e978

Renaming vp9_token_struct to vp9_token and removing previous typedef.

Change-Id: If69c3d795f87af5cc7bfdfe70ef733c41b4d55c8

tokenize: convert skippable functions

Use the common block walker to calculate skippability.

Change-Id: I6721e42f065df237426c91c1d871ec226ba7cdcb

Remove subtract_mb* functions.

Use subtract_sb* instead.

Change-Id: I3f34140ab97061063a4452945347ef1fe37e13d1

Remove unused macroblock versions of reconstruction functions.

More specifically, remove vp9_quantize_mb*, vp9_optimize_mb*,
vp9_inverse_transform_mb* and vp9_transform_mb*. Instead, use the
generic _sb* functions that take a size argument, and call them with
BLOCK_SIZE_MB16X16.

Change-Id: I33024afea95d3a23ffbc1df7da426e4645110f29

Remove "tplist" from VP9_COMP.

It is write-only.

Change-Id: I2412344688d96593cc01c038e7f51410d0f85ed0

Add foreach_transformed_block

Adds a framework for doing arbitrary functions on each transform-
sized block in the mb/sb.

Change-Id: Iaffb1ae8db5ff2abfa8720c608c78376b42f2096

Remove vp9_reset_mb_tokens_context

Use sb-common version instead.

Change-Id: If2552b5a39fd2e5272f66a41c5667dda85fd3939

Encoder code cleanup.

Removing duplicated code from vp9_encodemv.c and reusing ROUND_POWER_OF_TWO
macro definitions.

Change-Id: I9caf0c17f761ada7905cb99a3e2a31f871fef0f9

Merge pick_sb_modes and pick_sb64_modes.

Change-Id: Iad69e7a3b7e470acf6094f6a52e7da69066fd552

Slight simplification of SB RD loop recursion conditions.

Change-Id: I87a406fcd18ab043253ca0c009d1182fdc5c3046

A few more cases where sb_type was used arithmetically.

With these fixed, the codec produces identical results regardless of
what literal values are used for the enum members in BLOCK_SIZE_*.

Change-Id: I26db8e08019b58ba432af1f0950ebe6b0eb4ad8c

Remove copying of coefficients and predictor in i8x8 RD loop.

The resulting values are never used.

Change-Id: I688caf30da9aab87aa280cce913eda4f33172293

Make usage of sb_type independent of literal values.

Change-Id: I0d12f9ef9d960df0172a1377f8e5236eb6d90492

Make RD superblock mode search size-agnostic.

Merge various super_block_yrd and super_block_uvrd versions into one
common function that works for all sizes. Make transform size selection
size-agnostic also. This fixes a slight bug in the intra UV superblock
code where it used the wrong transform size for txsz > 8x8, and stores
the txsz selection for superblocks properly (instead of forgetting it).
Lastly, it removes the trellis search that was done for 16x16 intra
predictors, since trellis is relatively expensive and should thus only
be done after RD mode selection.

Gives basically identical results on derf (+0.009%).

Change-Id: If4485c6f0a0fe4038b3172f7a238477c35a6f8d3

Merge "Make dequant/idct block size independent" into experimental

Make dequant/idct block size independent

The unified dequantization, inverse transform, and adding functions
support rectangular block sizes. Also separate the operations on
luma and chroma components, in the consideration of the txfm_size
for uv components in rectangular block sizes.

Change-Id: I2a13246b2a9086b37d575d346070990d854cc110

Merge "Remove obselete code" into experimental

Remove obselete code

The strategy to run fast loop filter picking for encoder speed-up
should be revisited at a later stage.

Change-Id: I3b75e06d767cff41be952a42e63b3292f4eab996

Merge "Make SB Decoding units size-independent" into experimental

Merge "Fixing upper case names." into experimental

Make SB Decoding units size-independent

Unify the sb32x32 and sb64x64 decoding units, which also allow for
other rectangular block sizes.

Change-Id: Ia5187ab2af56f98c3f99272bdf4dbcabe798ad5d

Merge "Code cleanup in bitstream code." into experimental

Merge "Adding setup_quantization function." into experimental

Merge "Renaming inverse hybrid transform functions." into experimental

Merge "Cleanup of set_offsets function." into experimental

Merge "Configure: make --enable-gprof work" into experimental

Merge "Make SB coding size-independent." into experimental

Merge "Don't use BLOCKD in vp9_invtrans.c." into experimental

Make SB coding size-independent.

Merge sb32x32 and sb64x64 functions; allow for rectangular sizes. Code
gives identical encoder results before and after. There are a few
macros for rectangular block sizes under the sbsegment experiment; this
experiment is not yet functional and should not yet be used.

Change-Id: I71f93b5d2a1596e99a6f01f29c3f0a456694d728

Adding setup_quantization function.

Change-Id: I8fe25a905717a3cd2da5f87ba0403357536183cf

Merge "Fix an issue in set_refs()" into experimental

Merge "detokenize: use consistent structure for all block sizes" into experimental

Configure: make --enable-gprof work

Modified for option "--enable-gprof".

Change-Id: I07f78f28c1b789c0b3e9e7db3561463551ae5460

Fix an issue in set_refs()

Scale factor for second ref frame wasn't assigned in the code.

Change-Id: I6ef3f3f71bd652a879ad847369c54c744782ea37

Renaming inverse hybrid transform functions.

Renaming vp9_ht_dequant_idct_add* functions to vp9_dequant_iht_add*.

Change-Id: Ie427b322b1cc7c8f39d1155f5df91dedfbd944af

Fixing upper case names.

Renaming Y1dequant to y_dequant, UVdequant to uv_dequant, QIndex to qindex.

Change-Id: I1c356e5f886deb3f8807dc212de9799b55b09d58

Cleanup of set_offsets function.

Adding ALLOWED_REFS_PER_FRAME constant instead of hard coded number 3.

Change-Id: I46146aa837896936f920c748c7d4aa4c27f026e4

Merge "Simplification of decoder's code." into experimental

Merge "Clamp inferred motion vectors only" into experimental

Code cleanup in bitstream code.

Lower case variable names, less code.

Change-Id: I1abc8f592ad2343ab5c76fe2d16262741a4a894a

detokenize: use consistent structure for all block sizes

Restructure the code to avoid the majority of per-block-size
switches, code duplication, etc. All block types (mb/sb32/sb64)
can be handled by the same code.

Change-Id: I4022718d66e31a15a7074e43f3b98cd0a5124ea7

Simplification of decoder's code.

Removing several commented code blocks, using uint32_t and uint8_t types,
removing redundant code.

Change-Id: Ifc5cc9863897925ea2a7cab4f7309ccf28d80bfe

Don't use BLOCKD in vp9_invtrans.c.

Change-Id: I40524170334109e2864b06e3c73c8b34e5aa8b0f

Clamp inferred motion vectors only

Clamp only the motion vectors inferred from neighboring reference
macroblocks. The motion vectors obtained through motion search in
NEWMV mode are constrained during the search process, which allows
a relatively larger referencing region than the inferred mvs.
Hence further clamping the best mv provided by the motion search may
affect the efficacy of NEWMV mode.

Synchronized the decoding process. The decoded mvs in NEWMV modes
should be guaranteed to fit in the effective range. Put a mv range
clamping function there for security purpose.

This improves the coding performance of high motion sequences, e.g.,
derf set:
foreman 0.233%
husky   0.175%
icd     0.135%
mother_daughter 0.337%
pamphlet        0.561%

stdhd set:
blue_sky 0.408%
city     0.455%
also saw sunflower goes down by -0.469%.

Change-Id: I3fcbba669e56dab779857a8126a91b926e899cb5

Fix typo which breaks 4x4 splitmv compound prediction RD code.

0.15% quality increase on derf, particularly noticeable on hard clips
at the higher bitrate end.

Change-Id: I02415a96eb9bbc361cba923069625fae71844bc9

Merge "Small cleanup inside setup_loopfilter function." into experimental