Merge "bitstream: give exported symbols a vp9_ prefix; make local symbols static." into experimental

Merge "alloccommon: give exported symbols a vp9_ prefix." into experimental

Merge "Make implicit_segmentation-related code an experiment." into experimental

Merge "decodframe: make local symbol static." into experimental

Merge changes I23aa5547,I8341a19c into experimental

* changes:
  tokenize: make local symbols static; give exported symbols a vp9_ prefix.
  encodemb: make locally used functions static.

Merge "onyx_if: remove unused function, and make locally used functions static." into experimental

Merge "reconintra: make locally used symbols static." into experimental

Merge "rdopt: make locally used symbols static." into experimental

Merge "ratectrl: make locally used symbol static." into experimental

Merge "mbgraph: remove unused function, and make local function static." into experimental

Merge "Fix superblock experiment." into experimental

Merge "More MSVC build fixes" into experimental

Merge "Improves subpixel reference mv evaluation" into experimental

bitstream: give exported symbols a vp9_ prefix; make local symbols static.

Change-Id: I3aa5b515c1eae19ae40ba9808d133590c95f7d13

alloccommon: give exported symbols a vp9_ prefix.

Also include the correct header in ratectrl.c so it picks up these
function prototypes.

Change-Id: Ic51b13119f1625f0691917f2713b23d0249dece7

Make implicit_segmentation-related code an experiment.

This way, the code is not compiled in by default, thus decreasing
overall binary size.

Change-Id: I85cac8f5a22a51a7d99c820ef6d6ed179d4106a0

decodframe: make local symbol static.

Change-Id: Id55f3cd3c2f5857dbfd78703452740dfd63cdf41

tokenize: make local symbols static; give exported symbols a vp9_ prefix.

Change-Id: I23aa5547b1e74f31327258dda0e330aae7ca1d35

encodemb: make locally used functions static.

Change-Id: I8341a19cb4f2234841a40fcbf560315f079b0108

onyx_if: remove unused function, and make locally used functions static.

Change-Id: Ica08c2c9cda9623389dde3f276dfed77c36e3a11

reconintra: make locally used symbols static.

Also remove them from the header file.

Change-Id: I38182f70268fd47985fb1d8d87cdeb207f67e475

rdopt: make locally used symbols static.

Change-Id: Id33c448084ca5c1c0525a05c3c4f35d6b0805fbe

ratectrl: make locally used symbol static.

Change-Id: I4f317f413fbbcc59f84ff77899ea208fb0dccb2a

mbgraph: remove unused function, and make local function static.

Change-Id: I295c7bcf13b630cb9395585ede7311d85d785f25

Fix superblock experiment.

Also merge some duplicate code related to the superblock experiment
in the RD loop.

Change-Id: Ic93f1d4d1ed81220fd7ecf6e65da2821a215b2de

More MSVC build fixes

Change-Id: I3b7bae440bba7ffb401c94fc7e338dbe75daa980

fixed a build issue

Two head files dct.h and dct_x86.h were removed in a previous commit,
this commit removed the build's dependency on the two files.

Change-Id: Idd33712470912d39d42f133dc30b710cab6fa832

Merge "Name space clean up." into experimental

Merge "A clean up of the down_copy function" into experimental

remove fdct invoke macros

Remove the fdct invoke macro calls

Change-Id: Ica2431c655819fa012133ee7abc75a16761e5fd6

Fixes invoke macro commit...

Change-Id: Ic186269b51ffb3c344635bfa9825bed25be2c5ae

Name space clean up.

Preparation for project restructuring.
Added vp9_ prefix on some function names that have global scope.
Added static declaration on some that dont.

Change-Id: If072f78b4300e8c17cfeed82c5d17b59946dcc5e

Improves subpixel reference mv evaluation

Previously, in evaluating reference motion vectors, MVs are always
rounded to integer pixel position and SADs are calculated.  This
commit takes into account the subpixel portion of the mvs, and uses
bilinear interpolation to produce reference pixel values in subpixel
postions. In addition, SSE is used in place of SAD. Pixels used are
16x2 above and 2x16 to the left.

This commmit intends to test the potential of this line of work in
term of compression improvement, obviously, the change would increase
decoder complexity significantly.

Test results
std-hd: 1.738%(avg) 1.779%(glb), 1.663%(ssim)
derf: 0.472%(avg) 0.477%(glb), 0.418%(ssim)

Change-Id: I3ae1b098f6289df78891134d9a5e4bb2fde87a0b

Inconsistent reference to MacroblockD data structure.

Cleaned up some inconsistent references using both xd-> and
x->e_mbd. to access the same data structure in the same function.

Change-Id: Ieb496fa22bf1feec6aa7bc70b941ea4f16e0f8b5

Merge "invoke macro removal encodemb" into experimental

invoke macro removal encodemb

Change-Id: I321280abcf48f3dc16e194d29bde2bd3baec6006

A clean up of the down_copy function

Change-Id: I0c689fb44e9e91539c450d26672d7a1d92e92900

Merge "Faster 8t filtering" into experimental

Merge "Extend edges correctly during actual frame encoding also." into experimental

Merge "Explicit MV reference experiment." into experimental

Explicit MV reference experiment.

Coding and costing of mv reference signal.

Issues in updating MV ref with COMPANDED_MVREF_THRESH
to be resolved. Ideally the MV precision should be defined based
on absolute MV magnitude not as now the MV ref magnitude.

Update to mv counts moved into bitstream.c because otherwise
if the motion reference is changed at the last minute the encoder
and decoder get out of step in terms of the counts used to update
entropy probs.

Code working on a few test clips but no results yet re benefit vs
signaling cost and no tuning of red loop to test lower cost alternatives
based on the available reference values.

Patch 3. Added check to make sure we don't pick a reference
that would give rise to an uncodeable / out of range residual.

Patch 6-7: Attempt to rebase. OK to submit but best to leave flag off for now.

Patch 9. Remove print no longer needed.

Change-Id: I1938c2ffe41afe6d3cf6ccc0cb2c5d404809a712

Extend edges correctly during actual frame encoding also.

Should fix B_PRED-related encoder/decoder mismatches.

Change-Id: I16f808dffd19094e02e8562ba58cc1016155ce93

Faster 8t filtering

Quickly modified the ssse3 sixtap filters to support eight taps.  For the test
clip used, a 23+% boost in decoder performance was seen.  We can
revisit later and improve further.

Change-Id: I5f59860459e80d6fa23e6cc0fd91296a969f5240

Merge "Always extend macroblock edges in the decoder." into experimental

Always extend macroblock edges in the decoder.

This fixes edge extension if SB [0,1] doesn't use B_PRED but [1,1] does.

Change-Id: I48354a9dba0de16472938824f5e6db87ce61979f

Added sse2 instrinsic version of vp8_sad3x16

1.6% boost in decoder performance for the clip used.

Change-Id: I91f3c4573fd3d10afbf18930f279af7ae2223e3a

Merge "Added sse2 instrinsic version of vp8_sad16x3" into experimental

Added sse2 instrinsic version of vp8_sad16x3

3.7% boost in decoder performance for the clip used.

Change-Id: I74f28486a9352b472b36e21b5eaf30eff35e9199

Fix 4x4 intra prediction on the edge of SB rows.

Change-Id: I87d571008c73f0a8514e0a864405aadb82fd1bc0

Fix yet another typo in splitmv/tx_select code.

Change-Id: I6a28cc87af275fc267b3cc8d90d642dcc870c249

Generalize coefficient tokenizing.

Change-Id: Ie33f7d0f90d0e5862be975d676a700d06f79eec6

Generalize EOB token stuffing.

Change-Id: Ibb51f3f8c3575d4621890220b20887a13a46a04e

Merge "Fix typo in splitmv/tx_select code." into experimental

Fix typo in splitmv/tx_select code.

Change-Id: I2823043634b0fa617c2715d63ff18595b7209287

Fix bad merge of coef_probs update

Stray CONFIG_HYBRIDTRANSFORM caused decode mismatch.

Change-Id: I1d77bad9b366f7a6ceb3cb45269ed5badb5c4c53

coef_probs: remove duplicate read/update code

Refactor per-transform copy & paste into a common function
update_coef_probs_common() and read_coef_probs_common(). The dry-run and
bit-writing loops in the encoder are still obvious candidates to be made
common, but they start to diverge a bit in the next commit, so are left
as-is for now.

Change-Id: I896bd3f4a073a6296eab7e92463fef79d8c6c08c

Merge "Fix "_FORTIFY_SOURCE" redefined warning" into experimental

Fix "_FORTIFY_SOURCE" redefined warning

On Ubuntu 12.04, we got the following warning message:
<command-line>:0:0: warning: "_FORTIFY_SOURCE" redefined
 [enabled by default]
<built-in>:0:0: note: this is the location of the previous definition

This was already fixed in VP8 configure file. Did the same change in
experimental branch to stop this warning.

Change-Id: Id162e5fd8841585ae806df6560b2f7536ea307c0

Merge "Fixed the MSVC compiling error with correct cast" into experimental

Fixed the MSVC compiling error with correct cast

Change-Id: Ia904f4ec72500d29f1361ce305d8f3231e592f47

Merge "Change eob[] array type in splitmv RD loop to a regular integer." into experimental

Revert "make the instrinsic code build with MS compilers"

This reverts commit b0e3ca126189123ddec27ebba6aa62290e64adb6.

Change-Id: I9c5aa463461b187160ad01fbc1795ae4f5263b2c

Merge "changed to avoid code confusion" into experimental

Merge "make the instrinsic code build with MS compilers" into experimental

make the instrinsic code build with MS compilers

to enable build under windows/MSVC

Change-Id: Ida41cc5b3c8d0fec9512c2f5c5feb64e07b44805

Change eob[] array type in splitmv RD loop to a regular integer.

Change-Id: I240d6b50069fd3f35cc4fed2f4507796f0ef25e9

Merging in the Switchable interp experiment

There is a macro DEFAULT_INTERP_FILTER defined in encoder/onyx_if.c that
is set as EIGHTTAP for now - so SWITCHABLE is not really used. Ideally,
this should be SWITCHABLE but that would make the encoder quite a bit slower.
We will change the default filter to SWITCHABLE once we find a faster way to
search for switchable filters.

Change-Id: Iee91832cdc07e6e14108d9b543130fdd12fc9874

Merge "Change entropy context assignment style from *(x + y) = z to x[y] = z." into experimental

Merging in the TX_SELECT experiment

Change-Id: I0d306b0062be59bc785b65882691c956c8b5e7c8

Merge of the newmventropy experiment

Removes the old mv encoding code.

Change-Id: I1026d48cc5ac15ccb776f98463e929254c3dc7da

Change entropy context assignment style from *(x + y) = z to x[y] = z.

Change-Id: Ibc4425bb6e01606751021e57c93106c365a2da21

changed to avoid code confusion

The previous double if and else code snippets were rather confusing.

Change-Id: Id1b6152fa0e471beb9b20407aa406e109c1471e3

Merge "Added rtcd support vp8_sad16x3 and vp8_sad3x16" into experimental

Added rtcd support vp8_sad16x3 and vp8_sad3x16

Change-Id: I5bca7b7a4b230082d36ac6fb84db84137ad177d7

Merge changes I02e7f64a,Ide954b00,Idc8b5977 into experimental

* changes:
  Fix another typo in 4x4-transform-for-i8x8-intra-pred coeff contexts.
  8x8 transform support in splitmv.
  Use SPLITMV_PARTITIONING instead of a plain integer type.

Merge "Merging the hybrid transform experiments" into experimental

Merging the hybrid transform experiments

Change-Id: I99f1982b30a630a9a070a8326d83b34a33cba14c

Fix another typo in 4x4-transform-for-i8x8-intra-pred coeff contexts.

Change-Id: I02e7f64a7c99f6c222b9ef21341b0e801d646810

8x8 transform support in splitmv.

For splitmv, where partitioning is 8x16, 16x8 or 8x8, this patch
uses the 8x8 transform (instead of the 4x4) if txfm_mode is
ALLOW_8X8 or ALLOW_16X16. For TX_MODE_SELECT, splitmv can indicate
which of the 2 transform sizes (4x4 or 8x8) it wants to use.

Gains (with hybridtx4x4/8x8/16x16 and tx_select experiments
enabled) on derf: +0.9%, HD: +0.4%, STD/HD: +0.8% (SSIM or overall
PSNR, both metrics show similar improvements).

Change-Id: Ide954b000b415548ed92a7ac78e24f36e60fcf06

Merge "Re-enable specialized sse2 block loop filter functions" into experimental

Merge "sse2 intrinsic version of vp8_mbloop_filter_vertical_edge()" into experimental

Merge "sse2 intrinsic version of vp8_mbloop_filter_horizontal_edge()" into experimental

Use SPLITMV_PARTITIONING instead of a plain integer type.

This can be used to distinguish between 16x8, 8x16, 8x8 and 4x4
partitioning modes when choosing splitmv as a MB mode.

Change-Id: Idc8b59772e1a80ccc4ad44d63c5c2ec3fc061a3c

Merge "Invert SB probability." into experimental

Merge "Remove variance vtable from rtcd" into experimental

Invert SB probability.

It currently counts the probability that the branch is true, but it
should count the probability that the branch is false.

Change-Id: I963825da2e7a7ed3a613eb23ffd085e427dc36e5

Merge "Fix use of wrong context in i8x8 coefficient cost calculation." into experimental

Remove variance vtable from rtcd

Change-Id: Idd2722a538423b451e1e3495f89a7141480493d6

Merge "Allow B_VL_PRED & B_LD_PRED modes with Superblocks" into experimental

Allow B_VL_PRED & B_LD_PRED modes with Superblocks

Allows B_VL_PRED & B_LD_PRED modes to be used for all blocks
within a MB in B_PRED mode. These modes were temporarily
disabled with super-block coding.

Change-Id: I973b9bdb82c3da5f12d7cc963162a28805f25303

Fix use of wrong context in i8x8 coefficient cost calculation.

Change-Id: Ica58d0c7d8addb5ddd5d6e1fdea8f0f96e110862

Re-enable specialized sse2 block loop filter functions

vp8_loop_filter_bh and vp8_loop_filter_bv

Change-Id: I0a77d38c701a6cce96cb8371c7f3ab7e2e7f878c

sse2 intrinsic version of vp8_mbloop_filter_vertical_edge()

First sse2 version of vp8_mbloop_filter_vertical_edge().  For now,
intrinsics are being used until the bitstream is finalized.  This function
will be revisited later for further performance improvements.

For the test clip used, a 34+% decoder performance improvement
was seen.  This will vary depending on material.

Change-Id: I455b438bc8d8af76cf7533ac42eda5f689b21f7c

calculate probs consistently

There were several different methods for calculating bitstream
probabilities in use. Consolodate these into a pair of functions,
get_prob() and get_binary_prob().

Change-Id: I5534f517f74027fee16d89c9baefaafea8156b2f

lint-hunks: better support for working tree

When run with no arguments, report warnings in the diff between the
working tree and HEAD. With arguments, report warnings in the diff
between the named commit and its parents.

Change-Id: Ie10dcdecb303edf8af51bad645cc11206a1fc26b

Remove bc, bc2 from pbi,cpi,xd

Pass the bool coder to be used explicitly. This avoids cases where two
different bool coders can be addressed from the same function. Also be
more consistent with bool coder variable naming, start to standardize
on 'bc'.

Change-Id: I1c95e2fdbe24ebe8c0f84924daa1728e3b054a31

Some cleanups and fixes.

Separates the logic on transform type selection previously spread out
over a number of files into a separate function. Currently the tx_type
field in b_mode_info is not used, but still left in there to eventually
use for signaling the transform type in the bitstream.

Also, now for tx_type = DCT_DCT, the regular integer DCT is used, as
opposed to the floating point DCT used in conjuction with hybrid
transform.

Results change somewhat due to the transform change, but are within
reasonable limits. The hd/std-hd sets are slightly up, while derf/yt
are slightly down.

Change-Id: I5776840c2239ca2da31ca6cfd7fd1148dc5f9e0f

Merge "Fix encode breakout skip handling." into experimental

Merge "Detect skippable blocks in splitmv RD loop case." into experimental

sse2 intrinsic version of vp8_mbloop_filter_horizontal_edge()

First sse2 version of vp8_mbloop_filter_horizontal_edge().  For now,
intrinsics are being used until the bitstream is finalized.  This function
will be revisited later for further performance improvements.
For the test clip used, a 31+% decoder performance improvement
was seen.  This will vary depending on material.

Change-Id: I03ed3a7182478bdd1f094644ff3e0442625600e7