Merge "Adding alpha plane to YV12_BUFFER_CONFIG structure." into experimental

Adding alpha plane to YV12_BUFFER_CONFIG structure.

Change-Id: I8b2687138df636b2b78c8cc5156e3882b0009de0

Merge "Preparing vp9_deblock and vp9_denoise to alpha support." into experimental

Merge "Moving several static functions from vp9_reconinter.h to vp9_reconinter.c." into experimental

WIP: 16x16 idct/recon merge

This patch eliminates the intermediate diff buffer usage by
combining the short idct and the add residual into one function.
The encoder can use the same code as well.

Change-Id: Iea7976b22b1927d24b8004d2a3fddae7ecca3ba1

Moving several static functions from vp9_reconinter.h to vp9_reconinter.c.

Change-Id: I5da9c16bab26f6ff0c9d3a2a29ef6c84f5093161

WIP: 32x32 idct/recon merge

This patch eliminates the intermediate diff buffer usage by
combining the short idct and the add residual into one function.
The encoder can use the same code as well.

Change-Id: I4ea09df0e162591e420d869b7431c2e7f89a8c1a

Enable recursive partition down to 4x4

This commit allows the rate-distortion optimization recursion
at encoder to go down to 4x4 block size. It deprecates the use
of I4X4_PRED and SPLITMV syntax elements from bit-stream
writing/reading. Will remove the unused probability models in
the next patch.

The partition type search and bit-stream are now capable of
supporting the rectangular partition of 8x8 block, i.e., 8x4
and 4x8. Need to revise the rate-distortion parts to get these
two partition tested in the rd loop.

Change-Id: I0dfe3b90a1507ad6138db10cc58e6e237a06a9d6

Preparing vp9_deblock and vp9_denoise to alpha support.

Change-Id: I299feefa64b93bd62263aea1ff1e41e85faeb6ca

Merge "Do joint motion search iteratively" into experimental

Merge "changed to use adst for D63_PRED" into experimental

Merge "Revert "Preparing vp9_deblock and vp9_denoise to alpha support."" into experimental

Revert "Preparing vp9_deblock and vp9_denoise to alpha support."

This reverts commit a933311131bfc77ffd1c64b29f7e1688a1c4b192

Change-Id: I2321f88011178381adbcffeda1bcc6a430ab8f1d

changed to use adst for D63_PRED

To be consistent with other prediciton modes

Change-Id: If9e1464e5c807f0b36047a046c4ac59d91b1b868

Merge "Using loop through all planes inside scale_and_extend_frame function." into experimental

Merge "Preparing vp9_deblock and vp9_denoise to alpha support." into experimental

Merge "Moving vp9_decode_frame declaration to vp9_decodframe.h." into experimental

Merge "Adding encode_quantization function." into experimental

Merge "Code cleanup inside vp9_firstpass.c." into experimental

Merge "Removing simple loopfilter and code duplication from loopfilter code." into experimental

Removing simple loopfilter and code duplication from loopfilter code.

Change-Id: Ib19352e391408507f2237985501406900a355964

Adding encode_quantization function.

Change-Id: Ib7448f7f325ba34a3cba8ab3129028e31e593cf5

Using loop through all planes inside scale_and_extend_frame function.

Change-Id: I493bcf7bac930e9937a9b57e4b7c803da22728bd

Moving vp9_decode_frame declaration to vp9_decodframe.h.

Change-Id: Ia7a772718a4b11b413c36d4280df8668e19c9084

Preparing vp9_deblock and vp9_denoise to alpha support.

Change-Id: Id1cc1c2663b9c2219cb830ffb4b0c6ab3468dc04

Do joint motion search iteratively

Allow motion search multiple times iteratively, and break out
the loop if this search couldn't find better motion vectors.
Limit the maximum number of search to 2.

Tests results:
1. stdhd set: 0.311%(overall psnr); 0.346%(ssim).
positive gain on 10 out of 16 clips(best: 2.746% on sunflower;
worst: -0.434% on old_town_cross).
2. derf set: 0.016%(overall psnr); 0.062%(ssim).
positive gain on half of the clips(best: 0.499% on bowing;
worst: -0.387 on city).

Change-Id: Ibf0a51776d4caf7707be0586346db08128117559

Merge "Use consistent partition context setup in enc/dec" into experimental

Merge "Force bsize for UV in I4X4 and SPLITMV" into experimental

Merge "Move get_sb_index to vp9_blockd.h" into experimental

Change to band calculation.

Change band calculation back to simpler model based
on the order in which coefficients are coded in scan order
not the absolute coefficient positions.

With the scatter scan experiment enabled the results were
appear broadly neutral on derf (-0.028) but up a little on std-hd +0.134).

Without the scatterscan experiment on the results were up derf as well.

Change-Id: Ie9ef03ce42a6b24b849a4bebe950d4a5dffa6791

Use consistent partition context setup in enc/dec

Move set_partition_seg_context_ to common file. Use consistent
context setup conditions for partition probability model update at
encoder and decoder.

Change-Id: I24b7ed3b1c48e3d2568191a46b70136b99b67b1a

Force bsize for UV in I4X4 and SPLITMV

Use 4x4 block coding for UV components arbitrarily in I4X4_PRED and
SPLITMV coding modes. This is a temporary solution to enable
bit-stream support for recursive partition down to 4x4 block size.
Will separate the functionalities of 4x4 block coding rate-distortion
out from those of superblocks.

Change-Id: I03dc15d5897014f175f3f2c91e9b266091d56797

Move get_sb_index to vp9_blockd.h

Use common function to fetch/assign sb_index in rd loop, bit-stream
writing and reading.

Change-Id: I1d8a214a57ed9cbcd026040436ef33e5e39d65b7

Merge "Fix token allocation for non-4:2:0" into experimental

Merge "Fix non-4:2:0 chroma MV calculation for SPLITMV" into experimental

Merge "Fix 4:2:0 assumptions in debug plane output" into experimental

Merge "vpxenc: fix mismatch check for non-4:2:0" into experimental

Merge "Subsampling aware allocs and bitstream" into experimental

Merge "Enable recursive partition type search" into experimental

Merge "Removing unused simple loopfilter code." into experimental

Removing unused simple loopfilter code.

Change-Id: Ic11dc052fb641687c015e1bbc37181b9babcd43e

Remove unused mdcounts

mdcounts seems no longer used.

Change-Id: Idd8162e8acfa3f5be7a18767156cc79ccbc2bdee

Add joint motion search in comp_inter_inter mode(experiment)

In current code, motion vectors got from single prediction mode are used
in compound prediction mode directly. These motion vectors may not give
accurate prediction since they are searched independently. In this patch,
we took Pascal's suggestion, and did joint motion search in compound
prediction mode to find better motion vectors in this situation.
Test results:
Overall PSNR: 0.570%(derf), 0.918%(stdhd);
SSIM: 0.572%(derf), 1.009%(stdhd);

The encoder is a little slower. This can be improved since some c
code is used in motion search.

Change-Id: Ib30c9240f6c56c9b070867b4ca89412a76d9f3c6

Enable recursive partition type search

This commit enables the search for the optimal superblock
partition types in the recursion form. The intention is to
make the optimization process more concise and ready to
support partition down to 4x4 block size next.

Change-Id: Iae279a67df3a7cc372553c84c775bc4d2f3e4336

Avoid calls to get_coef_band().

Use value already computed value to save of calls

Change-Id: I42836698e59c116416ccd75395bebdd11dd609fb

Fix token allocation for non-4:2:0

Increase the allocated size of the token array to support 4:4:4.

Change-Id: I7766a7bedc74b819dcc1f3622d634f340fd3186d

Fix non-4:2:0 chroma MV calculation for SPLITMV

The previous code was somewhat vestigial for 16x16 MI units, but was
incorrect when called with chroma blocks larger than 4x4 because the
block index caused a reference to a non-existent BMI. This patch uses
the same MV for all chroma subblocks in SPLITMV mode, which is
suboptimal for non-4:2:0 subsamplings, but as SPLITMV may be removed
in the near future, will use this as a stop gap.

Change-Id: I3211cee5ccf1cfb426e5eef5353b0ce5bb92b4cd

Fix 4:2:0 assumptions in debug plane output

Fixes some debugging code to be able to write out frames with
chroma other than 4:2:0.

Change-Id: I5ee3d29e584db1f52d2de344db249e927eff10b7

vpxenc: fix mismatch check for non-4:2:0

Change-Id: Iffe7c2e6c6cb14b637420ffc368a5003f5db42fa

Subsampling aware allocs and bitstream

Make framebuffer allocations according to the chroma subsamping
factors in use. A bit is placed in the raw part of the frame header for
each of the two subsampling factors. This will be moved in a future
commit to make them part of the TBD feature set bits, probably only set
on keyframes, etc.

Change-Id: I59ed38d3a3c0d4af3c7c277617de28d04a001853

Merge "Change test image format to VPX_IMG_FMT_I420" into experimental

Merge "Use common get_uv_tx_size()" into experimental

Merge "Make firstpass encode Y-only" into experimental

Updating comments for prediction modes.

Change-Id: If4063184f7b37dc011ec6a7a3e75260f4251e984

Make firstpass encode Y-only

The chroma planes are not used during the first pass encode,
but the vp9_encode_sb() function was operating on them anyway.
This was causing the use of uninitialized memory.

Change-Id: I5ebafcd3d5e34ed91a8336dad159b573995a939f

Change test image format to VPX_IMG_FMT_I420

Code was previously using VPX_IMG_FMT_VPXI420, which was intended to be the
"vpx" non-YUV colorspace variant.

Change-Id: Icf8771eeefeb574055ed638a93450c3d0ed5b9f5

Use common get_uv_tx_size()

Use a single method for calculating the transform size of
non-luma planes.

Change-Id: I16ebd10e7944d7b9075ab79d15e6a5b5f9bab775

Code cleanup inside vp9_firstpass.c.

Change-Id: Ia2814402e3c2ec97c24c536c05f0f526fe1a431c

Removing LOOPFILTER_TYPE and corresponding bit in bitstream.

We don't have two loopfilter types anymore.

Change-Id: I53c0137361342c7d00887ad03be3490f0dfa3532

Merge "Using 4-iteration loop for extra_mb_col inside loopfilter function." into experimental

Merge "Removing unused YV12_BUFFER_CONFIG arguments from motion search functions." into experimental

Merge "Eliminating several YV12_BUFFER_CONFIG usages." into experimental

Merge "Renaming 'Speed' to 'speed' inside VP9_COMP struct." into experimental

Merge "Removing y_to_uv_block_size and y_bsizet_to_block_size functions." into experimental

Merge "Extend left/above partition context to per mi(8x8)" into experimental

Removing y_to_uv_block_size and y_bsizet_to_block_size functions.

Change-Id: I49527ff8dd8bef1074c18a964fed2a575f0b118a

Renaming 'Speed' to 'speed' inside VP9_COMP struct.

Change-Id: I4374b5af40ee9082ddf7956a9756a15ad9ad5436

Removing unused YV12_BUFFER_CONFIG arguments from motion search functions.

Also doing a little bit of cleanup inside vp9_mbgraph.c.

Change-Id: I9c6711b73810969d2d8fdb19f8edf9ed6e49d1e3

Eliminating several YV12_BUFFER_CONFIG usages.

Change-Id: Ia85b987c935d545920dcae5a6f44136b1a08a008

Using loop to iterate through YV12_BUFFER_CONFIG planes.

Change-Id: I22f1066eb0022c8d75f65a78435ee4ffecdfe0c9

Merge "Replacing vp9_{write, write_literal, bit} macros with functions." into experimental

Merge "Removing unused code + little cleanup." into experimental

Extend left/above partition context to per mi(8x8)

Update and buffer left/above partition information context per 8x8
block. This allows to further enable recursive partition down to
4x4 block size, and hence deprecating I4X4_PRED and SPLITMV.

This commit also fixes a context buffer swap/restore issue in 32x32
partition type search. This gives 0.1% performance gain for derf/yt.
Will refactor the superblock partition type search into recursion
form.

Change-Id: Ib61975aca5f12b78d8018481d7fa1393d085689b

Make switchable filter search subsampling-aware

Makes the temporary storage of the filtered data agnostic to
the number of planes and how they're subsampled.

Change-Id: I12f352cd69a47ebe1ac622af30db29b49becb7f4

Merge "Make setup_pred_block subsampling-aware." into experimental

Replacing vp9_{write, write_literal, bit} macros with functions.

Also removing BOOL_CODER and using vp9_writer instead.

Change-Id: I31d1ec661872f7eb1fe869607b6ed0ebfbb03e01

Using 4-iteration loop for extra_mb_col inside loopfilter function.

Change-Id: I3a4f456035628a9397bdc57c19cdb03439ab1ed3

Merge "Renaming Y1 and UV quant prefixes to y_ and uv_." into experimental

Merge "Adding get_switchable_rate function." into experimental

Merge "Deprecate code_zerogroup experiment." into experimental

Merge "Removing vp9_swap_yv12_buffer function and corresponding files." into experimental

Renaming Y1 and UV quant prefixes to y_ and uv_.

Change-Id: If57e360c187a475fc90edb8c7170f498efcb31a5

Removing unused code + little cleanup.

Change-Id: I81c19a8f19cfb5c7183609656ade833d72feb500

Deprecate code_zerogroup experiment.

Delete code under the CONFIG_CODE_ZEROGROUP flag.

Change-Id: I5fe6c7b42a5da9b73118e33594301da4129f320a

Adding get_switchable_rate function.

Change-Id: I71311a14f8d7f48508b250f25d1d0914c6a1ac72

Removing vp9_swap_yv12_buffer function and corresponding files.

Adding static swap_yv12 function to vp9_firstpass.c.

Change-Id: I7da9caab9720498db4a74c627901bf37816ed06c

Deprecate comp_interintra_pred experiment.

Delete code under the CONFIG_COMP_INTERINTRA_PRED
flag.

Change-Id: I3d1079cf46305c08f7e11d738596ea112e7b547f

Remove enable_6tap filter experiment.

Clean out code under CONFIG_ENABLE_6TAP flag.

Change-Id: Ic45b624081181027d6ba24d55dd644c3197f9830

Deprecate the newbintramode experiment.

Clean out code relating to newbintramode.

Change-Id: Ie91f4f156cdf60ce0da8ca407c1c9cb00c7d0705

Adjust q range

Skip Q values between the q.0 mode and a real q of
2.0 as these are not valuable from an RD perspective.

Change-Id: I110c4858c57f97315953f4d88a2596d4764360df

Merge "Partially disable error resilience test" into experimental

Merge "Add building blocks for partition down to 4x4" into experimental

Merge "Cosmetic changes in handle_inter_mode_" into experimental

Merge "Revert "Adjust error resilience test data rate."" into experimental

Merge "General code cleanup inside treewriter-related files." into experimental

Partially disable error resilience test

Disables the part of the error-resilient test that tests the
quality after dropping undroppable frames. It's not clear how
to set the threshold for this correctly at the moment.

Change-Id: I3ee4a0d475498f44711fdef05749f305e8d08591

Merge "Adding encode_loopfilter function." into experimental

Revert "Adjust error resilience test data rate."

This reverts commit b24735c622cefe3a03633edd69dff65d2a6ee0dd
since the adjusted threshold doesn't allow the existing tests
to pass. Will disable the failing test in a separate commit.

Change-Id: I26d41cf6175f300bbad493cecdc96e6b0dd6f2fe

Add building blocks for partition down to 4x4

Macro ab4x4 contains experiments for recursive partition down to
4x4 block size.

Change-Id: Ic727842fa98a4df9fd51e0025a545dc76a5c76c1

Cosmetic changes in handle_inter_mode_

Use unified function pointers to variance_.

Change-Id: I78891bede56e73306851808d96f09dc0d3d8074e