Fix silly bug with ENTROPY_STATS enabled.

Change-Id: I615125483da71a623a930d6e20c42df82ea0e6ee

Merge all various transform size data trackers into single variables.

Change-Id: I2dfc569106b29fbe4da20585a0e85e5e9ea6a4db

Merge "put back in lost speedups" into experimental

put back in lost speedups

speed >1 can be spead up by turning these on - lost in a prior commit

Change-Id: Iaef85e10ecfeec3aea5ab0e691edf02bb7f5190d

Fix inter mode context adaptation.

Change-Id: Ibaa47be878c1cd84d88d7518418d2d8d38224e70

Merge "Patch to remove implicit segmentation." into experimental

Merge "Changed to use a new variant of WHT" into experimental

Merge "Changed to use new intra coding calls for 1st pass" into experimental

Changed to use new intra coding calls for 1st pass

And removed 1st pass specific version of intra coding funcitons

Change-Id: Ia54e67c71d750957cb2efda8360bf2133468498a

Minor cosmetic changes.

Change-Id: Ieb4a8c97bf1b1dfb993f40a9a3ef3bed5ae7d948

Merge "Remove unused define." into experimental

Merge "Merge VP9_YMODES, VP9_UV_MODES, INTRA_MODE_COUNT and cousins." into experimental

Merge "Remove TX_SIZE_MAX_MB." into experimental

Merge "Remove one (unused) entry from mvref tables." into experimental

Merge "Creates a new speed 1:" into experimental

Creates a new speed 1:

This speed 1 - uses variance threshold stolen from static-thresh
to determine split.  Any superblock with greater than the variance
set by static thresh * quantizer index squared is split. In addition
transform size is set to largest size less than or equal to partition
size, sub pixel filter is set to normal,  and only 12 modes are used
at all.

Change-Id: If7a2858ee70f96d1eb989c04fd87a332b147abef

Merge "Remove splitmv." into experimental

Merge changes I98c18fe5,I80c37cff into experimental

* changes:
  Remove i4x4_pred.
  Remove unused table.

Remove unused define.

Change-Id: Ic6555128206d61f47a46c550cb3dcaf3b4ec6374

Merge VP9_YMODES, VP9_UV_MODES, INTRA_MODE_COUNT and cousins.

These are now merged in a new define called VP9_INTRA_MODES.

Change-Id: I0890f895756a7395d84c92f98f43e43f4cf9050d

Remove TX_SIZE_MAX_MB.

Change-Id: I715870513d1fef8471bfd0f5218a79360a1ef126

Remove one (unused) entry from mvref tables.

Change-Id: Ieb4669ae564bec9f3051485ecdf186cb4e00decb

Remove splitmv.

We leave it in rdopt.c as a local define for now - this can be removed
later. In all other places, we remove it, thereby slightly decreasing
the size of some arrays in the bitstream.

Change-Id: Ic2a9beb97a4eda0b086f62c039d994b192f99ca5

Remove i4x4_pred.

It remains as a local define in rdopt.c so we can distinguish between
split and non-split modes in the RD loop, but disappears outside that
scope in the codec.

Change-Id: I98c18fe5ab7e4fbd1d6620ec5695e2ea20513ce9

Remove unused table.

Change-Id: I80c37cffa176bac942ab3051abdfd585ed5555e1

Changed to use a new variant of WHT

The commit changed to use a new variant of Walsh-Hadamard Transform
by Tim Terriberry. This new variant has the best compression among a
number of variants that developed by Tim.

Change-Id: Icb3a88515463cfc644b17ca046fcd139db2557e9

Merge "Remove set_scale_factors call" into experimental

Merge "Bugfix in forward update with modeling on." into experimental

Bugfix in forward update with modeling on.

Fixes an issue with reducing branch cts in the encoder causing
a drop in performance. The bug was introduced in a previous
clean up patch.

Test: Went back to the offending patch, applied this same fix
to it, and checked that results are identical to the parent
of that patch.

Change-Id: I0bad8e2d930235d0284300fcebf836ceb56f2498

Merge "Merge all intra mode coding trees into a single one." into experimental

Merge "Enable iterative motion search for 4x4 inter pred" into experimental

Merge "Add intra_only and reset_frame_context flags" into experimental

Merge "Using vp9 function prefix instead of vp8 inside vp9_cx_iface.c." into experimental

Merge all intra mode coding trees into a single one.

Also merge all counters. This removes a few unused probability updates
from the bitstream.

Change-Id: I20f58853e9dac84d8c0d9703ae012c55917516eb

Merge "valgrind - txfm_thresh not set" into experimental

Merge "Balancing coef-tree to reduce bool decodes" into experimental

Merge "fix valgrind warning" into experimental

Patch to remove implicit segmentation.

This patch removes the implicit segmentation
experiment from the code base as the benefits
were still unproven as of the bitstream deadline.

Change-Id: I273b99d8d621d1853eac4182f97982cb5957247e

Enable iterative motion search for 4x4 inter pred

This commit enables iterative motion search for 4x4/4x8/8x4 block
size compound inter-inter prediction.

WIP: borg run testing

Change-Id: I2b318db4a03cdca5a8002b3fa6c0fa89b129288b

sad_test: fix msvc compile

Fixes:
error C2121: '#' : invalid character : possibly the result of a macro expansion

Change-Id: I63d7ebba29f3a3cbb546406be39270290e9dc47d

Merge "Remove some unused code related to macroblock/splitmv coding." into experimental

Merge "Remove unused and outdated debug code." into experimental

Add intra_only and reset_frame_context flags

Added two flags to the frame header:

intra_only:
Signals that the frame is encoded using only INTRA
coding modes.

reset_frame_context:
Indicates that the coding context specified
in the frame header should be reset to default values before the
frame is encoded/decoded.

Change-Id: I182d46f1f84fb67a13c46ad767f246a38d7861a2

Remove set_scale_factors call

We could remove calling set_scale_factors() since it is also
done in set_refs() right after vp9_decode_mb_mode_mv() call in
decode_modes_b().

Change-Id: I9e62c90ffb770240987cd42815786567261b5d97

Merge "Build fix when ENTROPY_STATS is defined" into experimental

Merge "Refactor 4x4 block level rd loop" into experimental

Balancing coef-tree to reduce bool decodes

This patch changes the coefficient tree to move the EOB to below
the ZERO node in order to save number of bool decodes.

The advantages of moving EOB one step down as opposed to two steps down
in the other parallel patch are: 1. The coef modeling based on
the One-node becomes independent of the tree structure above it, and
2. Fewer conext/counter increases are needed.

The drawback is that the potential savings in bool decodes will be
less, but assuming that 0s are much more predominant than 1's the
potential savings is still likely to be substantial.

Results on derf300: -0.237%

Change-Id: Ie784be13dc98291306b338e8228703a4c2ea2242

Merge "Compressed/uncompressed frame header changes." into experimental

valgrind - txfm_thresh not set

For 4x4 blocks valgrind points out the cache was uninitalized.
This resolves the issue by setting it.

Change-Id: I22733000da048643762813a84fbda66d8e4040d2

Refactor 4x4 block level rd loop

This commit makes clean-ups in the rate-distortion loop for 4x4,
4x8, and 8x4 block sizes for the use of iterative motion search.

Removed unnecessary use of bmi in handle_inter_mode.

Deprecated loop over labels in the 4x4/4x8/8x4 block rd search.

Change-Id: I71203dbb68b65e66f073b37abd90d82ef5ae6826

fix valgrind warning

scales for second reference frame vars are unitialized if the
second ref frame is one of of those disallowed by refframeflags

Change-Id: I4ce42de391178c1699dcaede18c5f12c84993c61

Merge "Refactor rd loop for inter modes" into experimental

Merge "further clean-ups on intra4x4 coding" into experimental

Residual coding to cache energy class of tokens.

Proposal for tuning the residual coding by changing how the context
from previous tokens is calculated. Storing the energy class of previous
tokens instead of the token itself eases the critical path of
HW implementations.

Change-Id: I6d71d856b84518f6c88de771ddd818436f794bab

Remove some unused code related to macroblock/splitmv coding.

Change-Id: Ic40d56fb162f4e201547dfae33e62ccd9e865889

Remove unused and outdated debug code.

Change-Id: I0e789bdeaed60f920f7a470e56a8d4ea374233fc

Compressed/uncompressed frame header changes.

Adding API to read/write uncompressed frame header bits (it is not final
yet). Separate functions to read/write uncompressed header. Moving
clr_type, error_resilient_mode, refresh_frame_context,
frame_parallel_decoding_mode, frame_context_idx from compressed partition
to uncompressed frame header.

Change-Id: Id3ed8a387980c652ae147549412f4ec24a0a5bd0

Build fix when ENTROPY_STATS is defined

Fixes a build issue due to removal of VP9_KF_BINTRAMODES macro,
when ENTROPY_STATS is on.

Change-Id: I75c61702bf626376c942ab49ab887714b43284f0

Merge "Clean up related to coefficient modeling" into experimental

Clean up related to coefficient modeling

Uses reduced arrays for probabilities and branch counts in the
encoder. No change in bitstream.

Change-Id: Iec605446f44db4cd325eb45fa12a3003a6ee29db

Refactor rd loop for inter modes

This commit pulls the iterative motion search for compound inter-
inter out from handle_inter_mode_ as a separate function. Hence,
it is applicable to 4x4/4x8/8x4 level compound inter search to be
enabled later.

Also edit the rd loop for 4x4 inter block sizes for cosmetic
purpose.

Change-Id: Ibc71a11cbe5a26cd52faba01026cf8446cf4d2b4

further clean-ups on intra4x4 coding

Removed one 4x4 prediction step that was unnessary in the rd loop.
Removed a unused modecosts estimate from encoder side.

Change-Id: I65221a52719d6876492996955ef04142d2752d86

Merge "Moving txfm_size bits before prediction mode bits." into experimental

Merge "Removed setup_pre_planes() call in read_mb_modes_mv()" into experimental

Merge "Remove loop dering experiment." into experimental

Revert "Adding API to read/write uncompressed frame header bits." because of bitstream mismatches.

This reverts commit df037b615fcc0196386977faae060fdfd9a887a8

Change-Id: I1a529f2590df7bc912f5035d22311268933e3dd6

Merge "a few clean-ups" into experimental

Merge "Decrease scope of frame_mv argument to handle_inter_mode()." into experimental

Decrease scope of frame_mv argument to handle_inter_mode().

Change-Id: I81c637c61ecc33cb66beb59a2a33166d66b9a0a2

a few clean-ups

1. remove prediction mode conversion
2. unified bmode, same for key and non-key frame
3. set I4X4_PRED count for pdf to 0, as I4X4_PRED is no longer
coded ever. It is determined by ref_frame and block partition

Change-Id: If5b282957c24339b241acdb9f2afef85658fe47d

Reduce WHT complexity.

Saves 1 add, 3 shifts (and a shift bias) per 1-D transform.

Change-Id: I1104bb1679fe342b2f9677df8a9cdc0cb9699e7d

Merge "Reduce bmi buffer length from 16 to 4" into experimental

Reduce bmi buffer length from 16 to 4

This commit removes the use of bmi_ in the first-pass encoding by
forcing encode_intra4x4block_ to use DC_PRED, followed by DCT_DCT
only, as John suggested. This makes the need for bmi buffer only
up to 4 entries, instead of 16.

Change-Id: I3410007dfae789ee46a09ae20c39d3ce3c7954aa

Remove unused mode_index argument from handle_inter_mode().

Change-Id: I07b8c15f33e6e7c63dd0033c18c4ac5c0303cf32

Fix coding statistics compilation.

Change-Id: I21e7c4ef6bc80f4b9281fc94c88fb710b1595c23

Moving txfm_size bits before prediction mode bits.

Hardware implementation needs to load coeff probs based on the
transform size. For selectable transform size, moving these bits
earlier in the bitstream adds some delay giving time to preload
the probs and speeds up the decoding process.

Change-Id: I3bfc1f662ae6f219c9286fe9ae6310c7d8a63ea7

Remove splitmv.

Also do per-partition motion vector referencing in <sb8x8 partitions,
and adjust mvref finding for sub8x8 partitions.

Change-Id: Id3ed1ed4d2a8910d11d327db6cc63b8eb79f941f

Remove loop dering experiment.

Change-Id: I1a979bf74c286b157c31bab6bdcba0494acb4918

Merge "Adding API to read/write uncompressed frame header bits." into experimental

Fix transform size coding mismatch

This commit fixes a transform size enc/dec mismatch issue in the
key frame coding.

Change-Id: I0c4f40464a367b33dd91ace84506650b1aec2873

Removed setup_pre_planes() call in read_mb_modes_mv()

This code does not seem to be necessary anymore.

For the 1080p clip used, the decoder performance improved by
~2%.

Change-Id: I66bb0496d4998b0d6c6637c746b642b77bdbef88

Fix two bugs

1) Added an initialization of rd_tx_select_threshs[].
2) Made updating transform size counts to be consistent

Change-Id: Iaa9d6c6be825b0364c9d61a9802873d01356815c

update txfm size counting

Change-Id: I3a26baf8b2f945fea4f1aea156e60fa79f620f86

Fix bug in 4x4 band definition.

Also some unused data structures/references removed.

Change-Id: I295809e887173543e794250cb60ddaf1475ffd24

Removed code not in use

As intra coded blocks are always decoded using decode_sb_intra(), this
commmit removed the code no longer in use.

Change-Id: I09f14fa9cdc875656e8fbe245f72c8fd83b9e31e

Change txfm_type decision

The changing in intra coding to base on transform block, i.e. pred->
txfm->quant->dequant-itxfm->recon, made all blocks within a prediction
unit behave consistently, there is no longer a need to handle blocks
differently based on the position within a predicitn block. So this
commit simplifies the decision of transform type to be based on
prediction mode only.

Change-Id: If96cb72386f2e9186126ace88afa35ef085b6c96

Fix a bug in intra4x4 level rd loop

This commit fixed a uninitialized value use in the intra 4x4/8x4/4x8
rate-distortion loop.

Change-Id: I5c25b3536b59e4f5fbb23cf85baf93b2ccec7d72

Remove type from vmvn

datatype is optional for the instruction but clang refuses it.
http://infocenter.arm.com/help/index.jsp?topic=/com.arm.doc.dui0489c/CIHIJIHC.html

It is still required when using an immediate.
http://infocenter.arm.com/help/index.jsp?topic=/com.arm.doc.dui0489c/CIHGGEEB.html

Change-Id: I0fae956c8c0fa3f97578ce80abea247f7fc88705

Make comp_inter_inter support 4x4 partition coding

This commit refactors the iterative motion search for compound
inter-inter mode, to make it support all partition types including
4x4/4x8/8x4 block sizes.

Change-Id: I5f1212b0f307377291763e45c6bdc9693b5f04c8

Merge Scatter Scan experiment.

Removal from under configure flag.
A bit  renaming

Change-Id: I2213229dfe852001dfec16b149f47c52ce88f3aa

Merge 4x4 block level partition into codebase

Move 4x4/4x8/8x4 partition coding out of experimental list.

This commit fixed the unit test failure issues. It also resolved
the merge conflicts between 4x4 block level partition and iterative
motion search for comp_inter_inter.

Change-Id: I898671f0631f5ddc4f5cc68d4c62ead7de9c5a58

Using vp9 function prefix instead of vp8 inside vp9_cx_iface.c.

Change-Id: Ia74e7cf626db46ab47a74fe003602a55b949244c

Merge "Optimize variance functions" into experimental

Merge "Using 128 entry look up table for coef models" into experimental

Optimize variance functions

Added SSE2 version of variance functions for super blocks.

Change-Id: Ibeaae8771ca21c99d41dd74067574a51e97b412d

Merge "Make the intra rd search support 8x4/4x8" into experimental

Using 128 entry look up table for coef models

Reverts to using 128 bit LUT for the coef models rather than 48
to ease hardware implementation.

Also incorporates some cleanups including removing various
hooks to support different lookup tables based on block_type and
ref_type.

Change-Id: I54100c120cca07a2ebd3a7776bc4630fa6a153f6

Merge "changes intra coding to be based on txfm block" into experimental

Merge "Generalized intra 4x4 encoding for all sizes" into experimental

Merge "Merge CONFIG_COMP_INTER_JOINT_SEARCH." into experimental