Merge "Fix bug in sb8x8 partition context" into experimental

Merge "Fix block reconstruction with sb8x8 enabled." into experimental

Fix bug in sb8x8 partition context

Fix the issue that causes array bound excess in getting partition
context.

Change-Id: I66166f047f0bcaefebb0bcf441c5b1f777d8da44

Merge "Fix bugs in sb8x8 experiment/context prob update" into experimental

Fix block reconstruction with sb8x8 enabled.

The encoder reconstruction is now correct. Decoder to follow shortly.

Change-Id: Iedf98cdaebb4ca1256c7714cad7024a75853ad6a

Merge "Fix bug in sb8x8 bitstream decoding." into experimental

Merge "Store splitmv modes in context after 8x8 rd loop." into experimental

Fix bug in sb8x8 bitstream decoding.

Change-Id: I7ac69a369851b09d9422f2e3c62b12b3fcd49a4c

Store splitmv modes in context after 8x8 rd loop.

Change-Id: I07aa89a67e0ac5f99ef0c448553dbc46b0ed27f2

Fix bugs in sb8x8 experiment/context prob update

Fix bugs occur in contextual partition probability update, when
sb8x8 is enabled.

Change-Id: I19e2cec8a54c2dafd2be2803bbfde7337a2ae45f

Merge "Remove unused quantize optimizations." into experimental

Merge "Change to fourcc to enable decoding of ffmpeg files." into experimental

Fix some crashes in sb8x8 experiment.

Change-Id: I390bb1cedc835f439fd5dd6cda6572b29cbb139c

Merge "Enable bit-stream support to SB8X8" into experimental

Enable bit-stream support to SB8X8

This commit enables bit-stream writing and reading for recursive
partition down to block 8x8.

Change-Id: I163cd48d191cc94ead49cbb7fc91374f6bf204e2

Merge "Adding vp9_get_qindex function." into experimental

Merge "Make vp9_optimize_sb* common" into experimental

Make vp9_optimize_sb* common

Unify the various vp9_optimize_sb functions into one that handles all
transform sizes.

Change-Id: I48b642fbfb3e72cc2e0bcf1d0317a80a80547882

Migrating MB decoding into decode_sb/atom

The decode_mb only carries I8X8_PRED decoding, which will be covered
by the regular MB intra modes when SB8X8 is on. To be removed later.

Change-Id: I3b9ee55917a30b42518b81987bc10c22b1a19e7f

Remove unused quantize optimizations.

Files were copied from vp8 and never maintained.

Change-Id: I9659a8755985da73e8c19c3c984423b6666d8871

Merge "Cleaning up encoder segmentation code." into experimental

Merge "Use more restrictive block radius for 8x8 block MV references." into experimental

Use more restrictive block radius for 8x8 block MV references.

Change-Id: If02e006aa8a89da9de23da92362bd2e7718ea07c

Merge "sb8x8 integration in rd loop." into experimental

sb8x8 integration in rd loop.

Work-in-progress, not yet ready for review. TODO items:
- bitstream writing (encoder) and reading (decoder)
- decoder reconstruction

Change-Id: I5afb7284e7e0480847b47cd0097cb469433c9081

Merge "Expand UMV border to 96 pixels" into experimental

Adding vp9_get_qindex function.

Moving common code from encoder and decoder to vp9_get_qindex function.
Also moving quant-related constants from vp9_onyxc_int.h to
vp9_quant_common.h.

Change-Id: I70c5bfbaa1c8bf00fde0bfc459d077f88b6d46c8

Merge "Removed code no longer being used." into experimental

Merge "Migrating SPLITMV_4X4 decoding into decode_atom" into experimental

Removed code no longer being used.

Change-Id: Iab9a88f250614a790b6ad96bf3150a74210910df

Merge "Adding vp9_update_frame_size function." into experimental

Change to fourcc to enable decoding of ffmpeg files.

Change-Id: Ia16f167d904d53bc38cb3a8c841c6c52daad500f
(cherry picked from commit 296421d84cd1ffd074ff3fe4a772238c897f1bda)
reverts: dbd050c vpxdec: correct VP[89] fourccs

Adding vp9_update_frame_size function.

Moving common code from encoder and decoder to vp9_update_frame_size.

Change-Id: I6ca758b7d05ffd52821bd3f7ad68089da11e4165

Merge "General cleanup inside vp9_bitstream.c." into experimental

Migrating SPLITMV_4X4 decoding into decode_atom

Separate the decoding process of 4x4 block based coding (both intra
and inter) from decode_mb and move it into decode_atom_. This allows
to further move the rest per 16x16 block decoding of decode_mb into
decode_sb, and hence eventually deprecating decode_mb when SB8X8 is
enabled.

Change-Id: I678cb8007d8a57b792d7a23020edb0c74fbf4237

Merge "Renaming refresh_entropy_probs to refresh_frame_context." into experimental

Merge "Consistent names for quant-related functions and variables." into experimental

Merge "Fix incorrect 32x64, 16x32 subpel variance" into experimental

Merge "Separate I4X4_PRED coding from macroblock modules" into experimental

Separate I4X4_PRED coding from macroblock modules

Separate the functionality of I4X4_PRED from decode_mb. Use
decode_atom_intra instead, to enable recursive partition of superblock
down to 8x8.

Change-Id: Ifc89a3be82225398954169d0a839abdbbfd8ca3b

Make sure 32x32 coefficients fit in int16_t.

Fixes mismatches on yt.

Change-Id: I65444137578b29a4984af5c01b2874c5ab086acc

Expand UMV border to 96 pixels

Ensures that the full 64 pixel border is available for prediction (need a minimum of
64+INTERP_EXTEND on all sides, and 32+INTERP_EXTEND on UV). Value also must be a
multiple of 32 to keep UV stride alignment. The smaller border was causing the prediction
to read outside the frame, which can cause a mismatch.

TODO: Get rid of this explicit border and use edge emulation instead.

Change-Id: I3f68453a088ec0ab4349d0f5cc02b573be06d7c4

Merge "fixed new intra code for rectanglar blocks" into experimental

Cleaning up encoder segmentation code.

Moving code from vp9_pack_bitstream to new function encode_segmentation.

Change-Id: I1f1e59a1f038618ad95162b7db4b6f8164850ea8

Merge "Enabled i4x4 to use right above pixels" into experimental

Merge "Use same intra prediction for all block size" into experimental

fixed new intra code for rectanglar blocks

Also fixed two minor subtle boundary conditions in intra prediction
code, and replaced memcpy/memset with vpx_ prefixed version.

Change-Id: I9cddff3be831228b628f1f2f065a61feacbcbee6

Enabled i4x4 to use right above pixels

Change-Id: I7442b4600b6812bed13e655ccf68f9ea56cc83a2

Use same intra prediction for all block size

The commmit changed to use same intra prediction function for all
block sizes.

Some details on the changes:
1. All directional modes except DC/TM/V/H now have built-in filtering
for all pixels with filter taps either (1, 2, 1)/4 or (1, 1)/2.
2. Above edge get automatic extended to double width (bw*2), which
makes a lot of the prediciton mode computation simpler.
3. Same intra prediction function is called with different size
for i4x4_pred and all other larger size.

Overall, the change helped keyframe only coding for both cif size
and std-hd size test sets by .5% consistently on all encodings.
For normal coding with single/auto key frame, the change now also
is consistently net positive for all encodings. The overall gains
is about .15% on std-hd set.

Change-Id: I01ceb31fbc73d49776262e6bdc06853b03bbd1d1

Fix incorrect 32x64, 16x32 subpel variance

Incorrect strides caused use of uninitialized stack data.

Change-Id: Ifc12174285311bcf0453987d4283e91141f979ef

Merge "Use foreach_transformed_block with tokenize_b" into experimental

Merge "Merge encode_sb and encode_sb64 in a recursive encode_sb/b function." into experimental

Merge "Fix mi_row argument to update_stats()." into experimental

Merge "Factor out assigning correct partitioning seg_context pointers." into experimental

Merge "Use recursive function in resetting txfm_size for skip-blocks." into experimental

Merge "Use recursive function in choosing segmentation map coding method." into experimental

Use foreach_transformed_block with tokenize_b

Updates the tokenizer to use the common block walker used by the
detokenizer, to support non-4:2:0 and more than 3 planes.

Change-Id: If1854117a9c7c1427349209fa2b3051ce6459dcb

Merge encode_sb and encode_sb64 in a recursive encode_sb/b function.

Change-Id: Ifd1f7319e398381ca7d55aaacc68c39a1319d651

Fix mi_row argument to update_stats().

This doesn't change output, because the argument isn't actually used
ATM. However, we should fix it for consistency.

Change-Id: I7b7326a8e92c0d411c999ec2c781204b516ed53d

Factor out assigning correct partitioning seg_context pointers.

Change-Id: I6e787915a92e0abdea86adaa3e1106aa9c165034

Use recursive function in resetting txfm_size for skip-blocks.

This is shorter than fully writing out all cases (52 vs. 84 LOC), and
is easier to extend.

Change-Id: Ic75f86f15cf037543c3dc6234d9ac088205a0ed1

Use recursive function in choosing segmentation map coding method.

This is shorter than fully writing out all cases (55 vs. 84 LOC), and
is easier to extend.

Change-Id: Ibad1bf6463198cad9188c5507181d4b03d393e6d

Merge "Immigrate tokenize_mb into tokenize_sb" into experimental

Merge "Change above/left_context to use an 8x8 basis." into experimental

Immigrate tokenize_mb into tokenize_sb

Unify the tokenize_ function and enable configurable block size for
superblock 8x8. We are immigrating the functionalities of
macroblock handles into superblock ones, and eventually will remove
encode_mb and decode_mb. To be continued on detokenize_ module.

Change-Id: I9f81e8c2291082535cf5e0c4b662eb24fb7c8a7f

Change above/left_context to use an 8x8 basis.

Output changes slightly because of a minor bug in (at least) the sb32x16
block2above tx16x16 tables that previously existed in vp9_blockd.c.

Change-Id: I624af28ac200a8322d64454cf05c79e9502968cc

Merge "Turning model based reverse update on for coefs" into experimental

Turning model based reverse update on for coefs

Turns model based reverse updates on for coefficients in an
effort to reduce the memory requirement for counters.

With this patch the counters needed will be reduced by about
75% since only 3 counts are needed instead of 12.

The impact in performance is:
derf300: -0.252%
stdhd250: -0.046%

However retraining should alleviate some of the drop in
performance.

Change-Id: I6f2b3e13f6d5520aa3400b0b228fb5e8b4a43caa

Unify decode_sb for >16x16 in vp9_decodframe.c

First patch to make sb decoding based on the transform size. This patch
is working for the sb modes, combining the parts of decode_mb that fit
into this framework will come as a second patch.

Change-Id: I26123416a7a87e096bbdb5eb944ce5bb198384f8

Merge "Minor tweak to implicit segmentation experiment." into experimental

Add forward probability model update for partition

Enable forward model update for partition syntax coding.

Change-Id: If47b423b6d12f34614c57f25d235dc9ba688efc5

General cleanup inside vp9_bitstream.c.

Change-Id: I0c57b90055a018d53c32b5e39d8e899a9a4d1c1b

Merge "Grow MODE_INFO array to use an 8x8 basis." into experimental

Renaming refresh_entropy_probs to refresh_frame_context.

Change-Id: I5429c02246d198eb1b6aadbc3313b26bf3436062

Merge "Merge branch 'master' into experimental" into experimental

Merge branch 'master' into experimental

Conflicts:
vp9/common/vp9_findnearmv.c
vp9/common/vp9_rtcd_defs.sh
vp9/decoder/vp9_decodframe.c
vp9/decoder/x86/vp9_dequantize_sse2.c
vp9/encoder/vp9_rdopt.c
vp9/vp9_common.mk

Resolve file name changes in favor of master. Resolve rdopt changes in
favor of experimental, preserving the newer experiments.

Change-Id: If51ed8f457470281c7b20a5c1a2f4ce2cf76c20f

Consistent names for quant-related functions and variables.

Change-Id: I3a6d601e90e8740b9c26dd0afbfe9d467b75d367

Grow MODE_INFO array to use an 8x8 basis.

Change-Id: I087e08e7909a406b71715b8525c104208daa6889

Merge "Code cleanup inside vp9_decodframe.c." into experimental

Merge changes I7ff2fa72,I7907230d into experimental

* changes:
  Remove BLOCKD structure
  Remove destination pointers from BLOCKD

Merge "Restore vp9_asm_enc_offsets.c" into experimental

Remove BLOCKD structure

All members can be referenced from their per-plane counterparts, and
removes assumptions about 24 blocks per macroblock.

Change-Id: I7ff2fa72d22c29163eb558981c8193765a8113d9

Remove destination pointers from BLOCKD

Access these members from MACROBLOCKD instead.

Change-Id: I7907230dd473ff12ebe182b9280d8b7f12a888c4

Restore vp9_asm_enc_offsets.c

The previous commit 15255ee "Move dequant from BLOCKD to per-plane MACROBLOCKD"
removed the vp9_asm_enc_offsets.c file, but didn't update the various secondary
build systems that special case these files. Restore it for now, to ensure any
in-progress changes and builds continue working, to allow time to more carefully
coordinate removal of these files.

Change-Id: I24b78db3fb874d5fbd226548b7366a05ed98e536

code cleanup for arm_cpudetect.c

Change-Id: I5c49a983ced45197e1035fa5615d71b0bdad4109

Merge "quantize: make 4x4, 8x8 common with larger transforms" into experimental

Removed bmi from blockd

This originally was "Removed update_blockd_bmi()".  Now,
this patch removed bmi from blockd and uses the bmi found
in mode_info_context.  Eliminates unnecessary bmi copies between
blockd and mode_info_context.

Change-Id: I287a4972974bb363f49e528daa9b2a2293f4bc76

Merge "Normalize more intrinsic filenames"

Normalize more intrinsic filenames

vp9_dequantize_x86 has only sse2 functions.

vp9_dct_sse2_intrinsics has no namespace collision and can drop
_intrinsics.

vp9_idct_mmx.h is unused.

Change-Id: Ic16e31fb372a1d1e841a62ecb4189fe8f95808ec

Code cleanup inside vp9_decodframe.c.

Change-Id: I8447565feeadda1a4a06df907b0156728b1ad5bf

quantize: make 4x4, 8x8 common with larger transforms

There were 4 variants of the quantize loop in vp9_quantize.c, now
there is 1.

Change-Id: Ic853393411214b32d46a6ba53769413bd14e1cac

Remove duplicate code in RD handle_inter_mode() function.

Change-Id: I552d53f7e7331e9246d8a32d6c6dcc0cfa0cbeb0

Remove implicit assumption that mode_info_stride == mb_cols + 1.

Change-Id: I3030d7adac73109aeaa1ecc0f78ac968c092d9aa

Remove write-only variables that store refframe, signbias and mv.

These were superseeded by prev_mip.

Change-Id: Ide240475350ce003d68aa990eddc2ee30920663a

Use b_width/height_log2 instead of mb_ where appropriate.

Basic assumption: when talking about transform units, use b_; when
talking about macroblock indices, use mb_.

Change-Id: Ifd163f595d4924ff892de4eb0401ccd56dc81884

Merge "Change default iOS dev path"

Fix incorrect dequant used in detokenize

The quantizer can vary per-plane, and the dequantization vector is
available in the per-plane part of MACROBLOCKD. The previous code would
incorrectly use the Y quantizer for the whole macroblock.

Change-Id: I3ab418aef9168ea0ddcfa4b7c0be32ae48b536d7

Remove predictor pointers from BLOCKD

Access these members from MACROBLOCKD instead.

Change-Id: I2574622e577bb9feede47f6b7ccbb11f3e928ca8

Remove diff from BLOCKD

The underlying storage for these buffers is in the per-plane MACROBLOCKD
area, so read it from there directly.

Change-Id: Id6bd835117fdd9dea07db95ad06eff9f12afaaf7

Move dequant from BLOCKD to per-plane MACROBLOCKD

This data can vary per-plane, but not per-block.

Change-Id: I1971b0b2c2e697d2118e38b54ef446e52f63c65a