Add early termination in transform size search

In the full-rd transform size search, we go through all transform
sizes to choose the one with best rd score. In this patch, an
early termination is added to stop the search once we see that the
smaller size won't give better rd score than the larger size. Also,
the search starts from largest transform size, then goes down to
smallest size.

A speed feature tx_size_search_breakout is added, which is turned off
at speed 0, and on for other speeds. The transform size search is
turned on at speed 1.

Borg test results:
1. At speed 1,
   derf set: psnr gain: 0.618%, ssim gain: 0.377%;
   stdhd set: psnr gain: 0.594%, ssim gain: 0.162%;
   No noticeable speed change.
3. At speed 2,
   derf set: psnr loss: 0.157%, ssim loss: 0.175%;
   stdhd set: psnr loss: 0.090%, ssim loss: 0.101%;
   speed gain: ~4%.

Change-Id: I22535cd2017b5e54f2a62bb6a38231aea4268b3f

Merge "Fix active_map speed 6."

Merge "Cleanup SEG_LVL_SKIP handling in encode_superblock."

Merge "Fix bug 807"

Fix bug 807

in the sub_pixel_*variance* function the dst is aligned to 16 bytes and not
to 32 bytes - now load unaligned data

Change-Id: I2e0b9745543697efc56fefa32857ea10117af135

test/vpxenc.sh: Enable the VP9 lossless test.

Change-Id: Iff403dfb4c8face0494f0dba840ce91f51e9ca04

Merge "vp9 ssvc test: Remove disabled tests."

Merge "vpxenc tests: Relocate vpxenc wrapper."

Merge "Fix bug 806"

Fix active_map speed 6.

Fix the interaction between active map and reuse_inter_pred_sby. The
reuse_inter_pred_sby feature expects inter predictors to already be
built, but blocks with active map on skip this step.

Change-Id: Ibb2bf0d228f678935d82a0ede9cb0919ab7c8878

Cleanup SEG_LVL_SKIP handling in encode_superblock.

Change-Id: Ib7497ba08696765cbc1b2cc4218d37f4298f278c

vp9 ssvc test: Remove disabled tests.

The disabled tests require a mode parameter that has been removed
from the ssvc example.

BUG=https://code.google.com/p/webm/issues/detail?id=833

Change-Id: I1a5d67628ed769cc5372c4a864f33d5569b6eb13

Merge "tools_common.c: unsigned signed mismatch addressed"

Merge "vp8: for spatial resize, reallocate denoiser in vp8_allocate_comp."

Fix bug 806

in the function sad32x32x4d and sad64x64x4d the source is aligned to 16 bytes
and not to 32 bytes - the load is now unaligned.

Change-Id: I922fdba56d0936b5cf72e4503519f185645a168c

Merge "Removing direct references to VP9_COMP."

vp8: for spatial resize, reallocate denoiser in vp8_allocate_comp.

Change-Id: I1827efe2126501a4a5637ee3ae85233d7526bc0e

Merge "vp9_bitstream: make some function params const"

vpxenc tests: Relocate vpxenc wrapper.

Move vpxenc() from tools_common.sh to vpxenc.sh.

Change-Id: If3bc1e8616f7e0334d39b560946e467482fe5cf4

Merge "Changes hdr for profiles > 1 for intraonly frames"

vp9_bitstream: make some function params const

Change-Id: Ic49e290c7c88c55e730a0b2b0eb16ee3d0f120e7

Merge "vp9_cx_iface.c: warning missing default"

Merge "Adding ticks <-> timebase units conversion functions."

Changes hdr for profiles > 1 for intraonly frames

Specifies the bit-depth, color sampling and colorspace
for intra only frames for profiles > 0

Also adds checks to ensure that profile 1 and 3 are
exclusively used for non 420 streams.

Change-Id: Icfb15fa1acccbce8f757c78fa8a2f60591360745

Merge "configure: add --enable-coefficient-range-checking"

tools_common.c: unsigned signed mismatch addressed

Change-Id: I919ca42794f13751ca099868e73892d9df64e45f

vp9_cx_iface.c: warning missing default

Change-Id: I18cbdad6031d14d4c1a818c0ab33bbedf7b33e19

Merge "vp9_rd.c: cleanup ugly expression"

Merge "Make the api behavior conform to api spec."

configure: add --enable-coefficient-range-checking

This commit adds a configure time option used to enable strict error
checking in decoder to make sure intermediate stage cofficients of
inverse transforms are within valid range of signed 16 bit integer.

For valid VP9 input streams, intermediate stage coefficients should
always stay within the range of a signed 16 bit integer. Coefficients
can go out of this range for invalid/corrupt VP9 streams. However,
strictly checking this range for every intermediate coefficient can
be a burden for decoder, therefore such validation is only enabled
with configure option --enable-coefficient-range-checking.

Change-Id: I47d47c8c4e48a922c3d223ca59064f51b3f0f5ed

vp9_rd.c: cleanup ugly expression

Change-Id: I066763c2e3ae69ab772bb986da97af9b504f0329

Merge "[spatial svc]Add is_spatial_svc() helper function."

Merge "vp8 bugfix: Reallocate denoiser when spatially resizing."

[spatial svc]Add is_spatial_svc() helper function.

Change-Id: Ice5376100d8e27cbdaddfd3cd06898cedd2720fe

Adding ticks <-> timebase units conversion functions.

Change-Id: I75abd57367a7974a9fab8a727b2bbc54dea428c3

vp8 bugfix: Reallocate denoiser when spatially resizing.

This is needed to update the width/height and stride parameters
for the reference buffers that the denoiser uses.

Change-Id: Id51b3bdcb56bbbc8187865544ccd3d872a0d51fe

Merge "Create function vp9_preserve_existing_gf"

Removing direct references to VP9_COMP.

Change-Id: Ic37624d807884e71f08b50fd04892f03f2708ba7

Merge "Write VP9E_SET_TUNE_CONTENT to the correct location."

Merge "vp9_subexp: remove vp9_compute_update_table()"

Make the api behavior conform to api spec.

When no more data is available, vpx_codec_decode should
be called with NULL as data and 0 as data_sz.

vpx_codec_get_frame iterates over a list of the frames
available for display. The iterator storage should be initialized
to NULL to start the iteration. Iteration is complete when this
function returns NULL.

Also change the unit test to conform to the api spec.

Change-Id: I4b258b309f5df3d37d10c82f01492c0394181c2a

Write VP9E_SET_TUNE_CONTENT to the correct location.

Change-Id: Ie8c976ececc79fd58c6eb16b7add053dc58e3bb8

Merge "Use INTER_ALL for VAR based partitions for screencast material."

Merge "Add a codec control option to tune for screen content."

Merge "Remove vp9_postproc_x86.h"

Merge "Directly split the block in partition search"

Directly split the block in partition search

This patch allows the encoder to directly split the block
in partition search, therefore skip searching NONE. It
computes a score which measures whether 16x16 motion vectors
from the first pass in the current block are consistent with
each others. If they are inconsistent and we have enough Q
to encode, split the block directly, and skip searching NONE.

This feature is under flag CONFIG_FP_MB_STATS. In speed 2,
it further gives a speedup of 3-8% on sample yt clips as
compared to the previous version under the same flag. Overall,
the features under the flag will give 7-15% on typical yt
clips at up to 6000kbps data rate. The speedup at very high
data rate is not significant.

For hard stdhd clips:
park_joy_1080p @ 15000kbps:       504541ms -> 506293ms (-0.35%)
pedestrian_area_1080p @ 2000kbps: 326610ms -> 290090ms (+11.2%)

The compression performance using the features under the flag:
derf: -0.068%
yt:   -0.189%
hd:   -0.318%
stdhd:-0.183%

To use the feature, set CONFIG_FP_MB_STATS and turn on
cpi->use_fp_mb_stats.

Change-Id: Iad58a2966515c8861aa9eb211565b1864048d47f

Remove vp9_postproc_x86.h

This configuration has moved to vp9_rtcd_defs.pl

Change-Id: I71a31dbb8d79df226b60dd834324a5af69956c51

Create function vp9_preserve_existing_gf

This code was being called from two places and
difficult to parse. I rationalized it in to a
function to improve readability.

Change-Id: I154b8fe0b84e6c01e69601e78e67bd47c954d8b6

Use INTER_ALL for VAR based partitions for screencast material.

This offers 25% more compression on my HD screencast testset.

Change-Id: I85eaef95fd8f2e03e326443e9514482b2ee35cef

Add a codec control option to tune for screen content.

Change-Id: I12b0b0a06750cb9a5f1bdc3368deb44137acc9a3

vp9_subexp: remove vp9_compute_update_table()

makes update_bits[] a constant table

Change-Id: If105bf0522487f54a31e12a7cc73aa24671b19d4

Merge "[spatial svc]Enabl golden frame for base layer and fix wrong ref_frame_flag for upper layers in first frame"

Merge changes I4e2aeaef,Ie3e478ef

* changes:
  vpxdec warning errors addressed
  cast enums to int to avoid gcc warning in pred_common

Merge "Store first pass motion vector directions"

Store first pass motion vector directions

Re-organize the one-byte structure for 16x16 first pass
block. Add bits to indicate motion vector directions.

Change-Id: Id10754ba343dfc712c7fed5bcc85c67fa0bbcb89

Merge "Cosmetic indent fix in vp9_rd_pick_inter_mode_sb"

[spatial svc]Enabl golden frame for base layer and fix wrong ref_frame_flag for upper layers in first frame

Change-Id: I1fec9c084b499b2f445b79726066d01b136b59fa

Cosmetic indent fix in vp9_rd_pick_inter_mode_sb

Change-Id: I303213fbb0ad5fbf28f0ca17271624b75e9d6319

vpxdec warning errors addressed

Change-Id: I4e2aeaef3e6efd5be3cb963d2eba5e08dc89b803

cast enums to int to avoid gcc warning in pred_common

Change-Id: Ie3e478ef4fa565225d9e19a14d2f40aad966c2b6

energy -> int to avoid unsigned / signed mismatch

Change-Id: Idd1327852f0df0eab0ea3b33959f2b8292b77301

vp9_firstpass.c: fix unused static function

Change-Id: Ia989a01d79f1f02defbeccb1b8eee23fdf5e764e

set but unused var in vp9_rdopt

Change-Id: Ie813af24d23c7d72b38749b3382b315daf516be5

break at the end of clauses with assert(0) to avoid gcc warning

Change-Id: I1b3c5337f018dde27dc819ab18bd081d169a91e8

uint8_t segment and skip to avoid signed / unsigned warnings

Change-Id: I2e2765b851fb0a1b15351c2aa0e079197cbee373

avoid signed mismatch warning in gcc

Change-Id: I9d995178fd764be252e571fa23901da0f991bbb8

Merge "frame_size_tests: cosmetics"

Merge "vp9_entropy: inline comes first to avoid warning."

Merge "signed unsigned mismatch - warning error"

vp9_entropy: inline comes first to avoid warning.

Change-Id: I5b050122e6ed183a5b33c1f38e4fbf63b6721062

Merge "removed sign mismatch warning"

Merge "Added vp9_sad8x8_neon()"

frame_size_tests: cosmetics

- output DecodeError() on failure
- remove unused includes

Change-Id: Ib5059137f7033089d4010cbdfd633861b9028718

Neon version of vp9_sub_pixel_variance8x8(),

vp9_variance8x8(), and vp9_get8x8var().

On a Nexus 7, vpxenc (in realtime mode, speed -12)
reported a performance improvement of ~1.2%.

Change-Id: I8a66ac2a0f550b407caa27816833bdc563395102

Merge "Neon version of vp9_sub_pixel_variance32x32(),"

Added vp9_sad8x8_neon()

Change-Id: I3be8911121ef9a5f39f6c1a2e28f9e00972e0624

signed unsigned mismatch - warning error

Change-Id: I991e36aa3cfa62aae6d27b253297dd9ca9e8bc12

removed sign mismatch warning

Change-Id: Iaa40b472f6c1c48bb3bb47332b6fcf36d7f3c10e

Merge "Skip calling vp9_block_energy when aq-mode is off"

Merge "Require armv6/media when building armv7"

Merge "Code cleanup in rdopt.c"

Merge "configure: remove multiple_arf experiment"

Merge "Changes interface to avoid uninitialized warnings in vp9_cx_iface.c."

Skip calling vp9_block_energy when aq-mode is off

The mb_energy value is used by aq-mode. Turn off computing its
value when aq-mode is off.

Change-Id: I26c239f124eca45a5ee58b90d19eae00d9a7cda5

Merge "Neon version of vp9_subtract_block()"

Code cleanup in rdopt.c

Moved encode_breakout code out of handle_inter_mode().

Change-Id: Icd661136b05fdf163768c406f91e0c98a8df89eb

Merge "Remove third_party/libmkv"

Merge "vp9_spatial_svc_encoder.sh: Disable existing tests, add a test that works."

Merge "vpxdec.sh: Refactor vpxdec()."

Merge "tools_common.sh: Move vpxdec() test support to vpxdec.sh"

Neon version of vp9_subtract_block()

On a Nexus 7, vpxenc (in realtime mode, speed -12)
reported a performance improvement of ~3.2%

Change-Id: I8862497264142171b7efc32df1a67714a23539f4

Merge "Refactor rd_pick_parition interface"

Remove third_party/libmkv

The dependency on the libmkv code has been removed from Chrome.
See:https://code.google.com/p/chromium/issues/detail?id=387738

Change-Id: I42887864f0c478bb065f7687b4c09f1b2f4c97c2

Neon version of vp9_sub_pixel_variance32x32(),

vp9_variance32x32(), and vp9_get32x32var().

Change-Id: I8137e2540e50984744da59ae3a41e94f8af4a548

Changes interface to avoid uninitialized warnings in vp9_cx_iface.c.

Change-Id: I1092239e21c1cde188ee2dcb765f4c6fc8c5cdec

vp9_spatial_svc_encoder.sh: Disable existing tests, add a test that works.

- vp9_spatial_svc_encoder.c no longer supports the -m parameter that
  has been used in the example test. Tests using -m have been disabled.
- Added a basic test that appears to work as of commit
  3249f26ff85e2bfe148167ce80df53643a89a2d2.
- Minor style clean up.

Change-Id: Ic1402fcbbe28e33982c5ea12d1e3349f4069a5bf

Merge "vp9_spatial_svc_encoder.sh: Prevent failures when ssvc is unavailable."

vpxdec.sh: Refactor vpxdec().

- Split vpxdec wrapper function into vpxdec() and vpxdec_pipe().
- Remove hard coded --noblit and --summary arguments from
  the wrappers in favor of shifting off the first argument (the
  input file) and passing all remaining parameters to vpxdec.
- Add --noblit and --summary args to existing tests, and update the
  pipe input test to use vpxdec_pipe().

Change-Id: Ia390a9990eace793058b3603ada733fb878eb78c

tools_common.sh: Move vpxdec() test support to vpxdec.sh

Change-Id: I7bb9b10fa8a949e9eaa1299b521f2b9785f36d50