Merge "Automatically flag intrinsic files" into experimental

Fix a unit test failure of sb8x8 on scaling ref

Disable the use of scaled reference frame for motion search in
SPLITMV mode. This fixes the unit test failure issue triggered
when merging sb8x8 from experimental list.

Change-Id: I02ac25fd8db8d5762f8fee29513b947189875fa0

Fix first-pass intra4x4 for sb8x8 experiment.

Change-Id: I1df17f45721c690d157800daa6a0b377e3d32bc2

Merge "fix permissions on cpplint.py (0644->0755)" into experimental

fix permissions on cpplint.py (0644->0755)

Change-Id: Ief419d894efbd89b6aa2451e47d8ed03cb9fb21e

Merge "Fix overflow in RD error calculation code." into experimental

Merge "Remove old_block_idx_4x4" into experimental

Merge "update cpplint" into experimental

Remove old_block_idx_4x4

Removes several instances where the old block numbering was
still in use.

Change-Id: Id35130591455a4abe6844613e45c0b70c1220c08

Merge "Separate transform and quant from vp9_encode_sb" into experimental

Merge "configure: special case flag test for clang" into experimental

Automatically flag intrinsic files

Change-Id: Iee9894615265d42aa23c43a4183924953aedb0c6

configure: use .cc as c++ extension

clang++ will warn causing flag check failures when using -Werror

Change-Id: Ib7157140a7af2cf5bc41f86ea9ff8d9527f30414

configure: special case flag test for clang

(while still abusing the gcc targets)

Change-Id: I40f33f619ed1ee760caf23f5598587b30cf8a9ed

update cpplint

latest from (r103):
http://google-styleguide.googlecode.com/svn/trunk/cpplint/cpplint.py

Change-Id: I474bf11e0f08115d5e579c92f43577978960d4ed

Separate transform and quant from vp9_encode_sb

This allows removing a large number of transform size specific functions,
as well as supporting 444/alpha by routing all code through the
subsampling-aware path.

Change-Id: Ieb085cebe9f37f24fc24de179898b22abfda08a4

Merge "vp9/count_segs: fix out of bounds read" into experimental

Fix overflow in RD error calculation code.

Change-Id: I61ef1f198c876f9f79787ea7d7385a862cfbae19

Merge "Create common vp9_encode_sb{,y}" into experimental

Merge "Extend number of reference buffers to 8." into experimental

Extend number of reference buffers to 8.

The number of reference buffers is extended to 8 and
a reference sign-bias added for the LAST_FRAME.

Whilst the number of reference buffers used by an
individual frame remains unchanged at 3, these may
now be selected from 8 possible buffers.

Change-Id: I2d247b9c1c2b3a339d6c9fac125e81ba373f75a7

Merge "Removed is_inter_mode() check" into experimental

Merge "Reduced y_dequant, uv_dequant size" into experimental

Fix use of wrong rate/distortion variables in 16x8 r/d check.

Change-Id: Ib5961b4c8ca84d54c84b2651a4e0317c72fe7da4

Merge "Removing MAXF macro and using MAX instead." into experimental

Merge changes Ifea8618a,I014b832a into experimental

* changes:
  convolve_test: cosmetics
  convolve_test: remove unnecessary memset

convolve_test: cosmetics

fix indent, whitespace, casts

Change-Id: Ifea8618a90f9da263a8955dd242bb3aa7fc59ae5

vp9/count_segs: fix out of bounds read

don't access mi until mi_{row,col} validation has been done

Change-Id: Ie1be052612cfccb2730dff9281c222bca28bf2c6

Merge "superframe_test: use delete[] where appropriate" into experimental

superframe_test: use delete[] where appropriate

Change-Id: Id374267c93a7e14e985b8079833364c8eff5248b

Fix 16x16-iteration indexing bug in main encode_sb_row loop.

With this, encoder/decoder appear to match with sb8x8 experiment.
Needs some larger-scale testing.

Change-Id: I44d3cac37b3c98264985ed0a0fc763c30089aa64

Fix state update in sb8x8 rate-distortion loop

Update mode_info of 8x8 blocks within the scope of current block.

Change-Id: I110c599e60664a5acde6afd919b107cea8419a0d

Merge "Cache splitmv motion vectors appropriately in decoder." into experimental

Create common vp9_encode_sb{,y}

Creates a common encode (subtract, transform, quantize, optimize,
inverse transform, reconstruct) function for all sb sizes, including
the old 16x16 path.

Change-Id: I964dff1ea7a0a5c378046a069ad83495f54df007

Merge "Fix i4x4 mode reading and writing in sb8x8 bitstream." into experimental

Cache splitmv motion vectors appropriately in decoder.

This fixes some problems in splitmv-related bitstream parsing in the
sb8x8 experiment.

Change-Id: Id168f9ec9c88626877d8f536e6f394b6f4f782e4

Fix i4x4 mode reading and writing in sb8x8 bitstream.

Don't allow i4x4 except for sb8x8 recursion step. Read only 4 (not 16)
i4x4 submodes if we are i4x4.

Change-Id: Iaaaced1a134006b2c96eed66f014300eae41e0ed

Merge "Set transform size correctly for non-tx_select splitmv/i4x4_pred." into experimental

convolve_test: remove unnecessary memset

input_ is filled with random values just afterward.
the size was wrong anyway as input_ is allocated with memalign so
sizeof(input_)==sizeof(uint8_t*)

Change-Id: I014b832ac60960cd22b6f369dbc9fd648d4055b5

Set transform size correctly for non-tx_select splitmv/i4x4_pred.

Fixes mismatch in keyframes with sb8x8 experiment enabled.

Change-Id: Id44c25e1cd32be5c6543ed8cd840a5b0c8e726f1

Removing MAXF macro and using MAX instead.

Change-Id: I51c53692b1150005645bf362c5e5a8275178a8fd

Merge "Fix intra4x4 decoder reconstruction stride for sb8x8 experiment." into experimental

Fix intra4x4 decoder reconstruction stride for sb8x8 experiment.

Change-Id: I5a886a6fa19086629a274f9ada7a862fd0ddf62f

Merge "Always initialize values in sb/mb_partitioning." into experimental

Removed is_inter_mode() check

If a reference frame is inter, the only valid modes would
be inter modes.  This check is unnecessary.

Change-Id: Ib8433ab5a3418f94149ee4e3062d48d7740d225a

Merge "Using treed_read/treed_write functions for segment ids." into experimental

Always initialize values in sb/mb_partitioning.

This doesn't affect the output, because in previous cases where the
values were uninitialized, this was because the mb_row/col is outside
the codable area, and thus encode_sb will test them for the next
decomposition-level, but return right after that on size-check. All
this does is prevent a warning in valgrind.

Change-Id: I90d8a29e6f8ebb2b0143684e08fe77ae3a0816b1

Fix right-edge availability for intra prediction in sb8x8.

Fixes valgrind uninitialized value use warnings.

Change-Id: Ie9314d684e2ad194f8aca5bde1729fb9b7c0221d

Merge "Fix some more offset errors in sb8x8." into experimental

Merge "Fix bug in sb8x8 partition context" into experimental

Fix some more offset errors in sb8x8.

Change-Id: I83677227f7610fdf2db9f15f87fecd4d8e072427

Merge "Fix block reconstruction with sb8x8 enabled." into experimental

Fix bug in sb8x8 partition context

Fix the issue that causes array bound excess in getting partition
context.

Change-Id: I66166f047f0bcaefebb0bcf441c5b1f777d8da44

Merge "Fix bugs in sb8x8 experiment/context prob update" into experimental

Fix block reconstruction with sb8x8 enabled.

The encoder reconstruction is now correct. Decoder to follow shortly.

Change-Id: Iedf98cdaebb4ca1256c7714cad7024a75853ad6a

Merge "Fix bug in sb8x8 bitstream decoding." into experimental

Merge "Store splitmv modes in context after 8x8 rd loop." into experimental

Fix bug in sb8x8 bitstream decoding.

Change-Id: I7ac69a369851b09d9422f2e3c62b12b3fcd49a4c

Store splitmv modes in context after 8x8 rd loop.

Change-Id: I07aa89a67e0ac5f99ef0c448553dbc46b0ed27f2

Fix bugs in sb8x8 experiment/context prob update

Fix bugs occur in contextual partition probability update, when
sb8x8 is enabled.

Change-Id: I19e2cec8a54c2dafd2be2803bbfde7337a2ae45f

Merge "Remove unused quantize optimizations." into experimental

Merge "Change to fourcc to enable decoding of ffmpeg files." into experimental

Fix some crashes in sb8x8 experiment.

Change-Id: I390bb1cedc835f439fd5dd6cda6572b29cbb139c

Merge "Enable bit-stream support to SB8X8" into experimental

Reduced y_dequant, uv_dequant size

Currently, only two values are used.  Removed the unused
values.

Change-Id: Idc5b8be354d84ffc68df39ea3e45f9f50d977b35

Enable bit-stream support to SB8X8

This commit enables bit-stream writing and reading for recursive
partition down to block 8x8.

Change-Id: I163cd48d191cc94ead49cbb7fc91374f6bf204e2

Merge "Adding vp9_get_qindex function." into experimental

Merge "Make vp9_optimize_sb* common" into experimental

Make vp9_optimize_sb* common

Unify the various vp9_optimize_sb functions into one that handles all
transform sizes.

Change-Id: I48b642fbfb3e72cc2e0bcf1d0317a80a80547882

Migrating MB decoding into decode_sb/atom

The decode_mb only carries I8X8_PRED decoding, which will be covered
by the regular MB intra modes when SB8X8 is on. To be removed later.

Change-Id: I3b9ee55917a30b42518b81987bc10c22b1a19e7f

Remove unused quantize optimizations.

Files were copied from vp8 and never maintained.

Change-Id: I9659a8755985da73e8c19c3c984423b6666d8871

Merge "Cleaning up encoder segmentation code." into experimental

Merge "Use more restrictive block radius for 8x8 block MV references." into experimental

Use more restrictive block radius for 8x8 block MV references.

Change-Id: If02e006aa8a89da9de23da92362bd2e7718ea07c

Merge "sb8x8 integration in rd loop." into experimental

sb8x8 integration in rd loop.

Work-in-progress, not yet ready for review. TODO items:
- bitstream writing (encoder) and reading (decoder)
- decoder reconstruction

Change-Id: I5afb7284e7e0480847b47cd0097cb469433c9081

Merge "Expand UMV border to 96 pixels" into experimental

Using treed_read/treed_write functions for segment ids.

Changing the order of probabilities inside mb_segment_tree_probs in order
to use treed_read/treed_write function instead of custom code.

Change-Id: I843487d5057913b9358db73da270893eefecc6c8

Adding vp9_get_qindex function.

Moving common code from encoder and decoder to vp9_get_qindex function.
Also moving quant-related constants from vp9_onyxc_int.h to
vp9_quant_common.h.

Change-Id: I70c5bfbaa1c8bf00fde0bfc459d077f88b6d46c8

Merge "Removed code no longer being used." into experimental

Merge "Migrating SPLITMV_4X4 decoding into decode_atom" into experimental

Removed code no longer being used.

Change-Id: Iab9a88f250614a790b6ad96bf3150a74210910df

Merge "Adding vp9_update_frame_size function." into experimental

Change to fourcc to enable decoding of ffmpeg files.

Change-Id: Ia16f167d904d53bc38cb3a8c841c6c52daad500f
(cherry picked from commit 296421d84cd1ffd074ff3fe4a772238c897f1bda)
reverts: dbd050c vpxdec: correct VP[89] fourccs

Adding vp9_update_frame_size function.

Moving common code from encoder and decoder to vp9_update_frame_size.

Change-Id: I6ca758b7d05ffd52821bd3f7ad68089da11e4165

Merge "General cleanup inside vp9_bitstream.c." into experimental

Migrating SPLITMV_4X4 decoding into decode_atom

Separate the decoding process of 4x4 block based coding (both intra
and inter) from decode_mb and move it into decode_atom_. This allows
to further move the rest per 16x16 block decoding of decode_mb into
decode_sb, and hence eventually deprecating decode_mb when SB8X8 is
enabled.

Change-Id: I678cb8007d8a57b792d7a23020edb0c74fbf4237

Merge "Renaming refresh_entropy_probs to refresh_frame_context." into experimental

Merge "Consistent names for quant-related functions and variables." into experimental

Merge "Fix incorrect 32x64, 16x32 subpel variance" into experimental

Merge "Separate I4X4_PRED coding from macroblock modules" into experimental

Separate I4X4_PRED coding from macroblock modules

Separate the functionality of I4X4_PRED from decode_mb. Use
decode_atom_intra instead, to enable recursive partition of superblock
down to 8x8.

Change-Id: Ifc89a3be82225398954169d0a839abdbbfd8ca3b

Make sure 32x32 coefficients fit in int16_t.

Fixes mismatches on yt.

Change-Id: I65444137578b29a4984af5c01b2874c5ab086acc

Expand UMV border to 96 pixels

Ensures that the full 64 pixel border is available for prediction (need a minimum of
64+INTERP_EXTEND on all sides, and 32+INTERP_EXTEND on UV). Value also must be a
multiple of 32 to keep UV stride alignment. The smaller border was causing the prediction
to read outside the frame, which can cause a mismatch.

TODO: Get rid of this explicit border and use edge emulation instead.

Change-Id: I3f68453a088ec0ab4349d0f5cc02b573be06d7c4

Merge "fixed new intra code for rectanglar blocks" into experimental

Cleaning up encoder segmentation code.

Moving code from vp9_pack_bitstream to new function encode_segmentation.

Change-Id: I1f1e59a1f038618ad95162b7db4b6f8164850ea8

Merge "Enabled i4x4 to use right above pixels" into experimental

Merge "Use same intra prediction for all block size" into experimental

fixed new intra code for rectanglar blocks

Also fixed two minor subtle boundary conditions in intra prediction
code, and replaced memcpy/memset with vpx_ prefixed version.

Change-Id: I9cddff3be831228b628f1f2f065a61feacbcbee6

Enabled i4x4 to use right above pixels

Change-Id: I7442b4600b6812bed13e655ccf68f9ea56cc83a2