Merge "vpx_codec_decode: check data size"

Merge "inline vpx functions in headers to avoid unused function warning"

Merge "fixes several -Wunused-function warnings"

Merge "Fix a run-time integer overflow"

Merge "Rework y4mwrite test to pass google3 tests"

inline vpx functions in headers to avoid unused function warning

Change-Id: I80284ae82915b9df56f7c5ef4953bd53e8cffd1f

fixes several -Wunused-function warnings

Change-Id: I4dc2cb255f4fe30998b6ee61184895dee9f5da8e

Fix a run-time integer overflow

Change-Id: I87255d8a25ef8c7d235cbf3c8887d7bed7892cfe

Rework y4mwrite test to pass google3 tests

Reverts to using tmpfile() for non-Windows platforms. On google3
the test directory does not have write permissions, and hence the
Y4mWriteTest fails. This patch fixes the issue.
On Windows, a temporary file is created in the temp directory
that has write permissions.

The tests pass on linux, mingw, and MS visual studio.

Change-Id: Ibada1d80e25d8b8e5b6a9d3d597533674bd9024c

Fix pickmode for intra DC blocks

Change-Id: I4906043ec1e3577ba37622a235c54adacb66125a

Merge "remove unused fields from BOOL_CODER / vp9_writer"

Merge "remove remaining references to XMA"

remove remaining references to XMA

the bulk of the functionality was removed in:
a42b5c2 Removing legacy XMA features from libvpx.

BUG=840

Change-Id: I8ca51d6aa76028f36d0eb1a15d2f2e3161e12ea4

Merge "vp9_write_bit_buffer: fix function name typo"

Merge "Enable fast forward txfm and quant for rate-distortion search"

Merge "Implementing right flushing for simple_encoder."

Merge "Add tune-content command line option"

Implementing right flushing for simple_encoder.

simple_encoder: Flush encoder. According to the current API spec we need
to call vpx_codec_encode() until vpx_codec_get_cx_data() returns NULL.

Change-Id: Ibc37706e5257a3d51e5421ca17f77ab41249d9b5

[spatial svc]Remove CONFIG_SPATIAL_SVC for ss_enable_auto_alt_ref in vpx_codec_enc_cfg to fix heap-overflow issue in asan config

Change-Id: Icdf08501db5f416285f751d316941dfacd2c69ba

vpx_codec_decode: check data size

When a valid data pointer is given make sure the size is greater than
zero.
A previous check for vp9 was incorrectly removed in:
7050074 Make the api behavior conform to api spec.

No semantics for valid pointers + 0-sized frames are defined for VPx
codecs, so move the check to vpx_codec_decode(). This avoids an assert
in vp9.

+ add some basic invalid param testing for decoder init/decode/destroy

Change-Id: I99f9cef6076d15874fd72ac973f2685d8a2353c3

Merge "Removing unised OUTPUT_YUV_SRC define."

Merge "Integrate fast txfm and quant path into skip_recode system"

Merge "Extend skip_txfm flag into array to cover YUV planes"

Merge "Adds spatial-svc macros to code to allow disabling"

Merge "test/vpxenc.sh: Convert vpxenc() to a simple wrapper."

Merge "vp8: Code cleanup for control of denoiser mode."

Removing unised OUTPUT_YUV_SRC define.

Change-Id: Ia88eebf10c8620dadaa66722543db291e44fe104

Enable fast forward txfm and quant for rate-distortion search

This commit enables encoder to select fast forward transform and
quantization path according to the prediction residual sse/variance,
in the rate-distortion optimization scheme.

Change-Id: Ief9fc3844fd4107166d401970e800c6e5ce2b5fe

vp8: Code cleanup for control of denoiser mode.

Change-Id: Icb9918dd38d15061d62852e6a2d905e8ceb2c1ac

Adds spatial-svc macros to code to allow disabling

Adds a couple of CONFIG_SPATIAL_SVC macros to allow compilation
when spatial-svc is disabled.

Change-Id: I67f84406d1d3fa26f225d9c6518161a0841f2d29

Merge "Moving pass from VP9_COMP to VP9EncoderConfig."

Merge "Common encode/decode function to get reference frame"

test/vpxenc.sh: Convert vpxenc() to a simple wrapper.

- Split vpxenc() into vpxenc() and vpxenc_pipe().
- Drop all but one positional param (the input file) in favor
  of passing args directly to vpxenc.
- Add an extra lossless test that explicitly sets min-q and
  max-q to 0.

Change-Id: I7d5f7b495f8b9447388c5f459bc9f6de2214caf2

Merge "Removing legacy XMA features from libvpx."

Moving pass from VP9_COMP to VP9EncoderConfig.

We had a very complicated way to initialize cpi->pass from
cfg->g_pass:
switch (cfg->g_pass) {
  case VPX_RC_ONE_PASS:
    oxcf->mode = ONE_PASS_GOOD;
    break;
  case VPX_RC_FIRST_PASS:
    oxcf->mode = TWO_PASS_FIRST;
    break;
  case VPX_RC_LAST_PASS:
    oxcf->mode = TWO_PASS_SECOND_BEST;
    break;
}

cpi->pass = get_pass(oxcf->mode).

Now pass is moved to VP9EncoderConfig and initialization is simple:
switch (cfg->g_pass) {
  case VPX_RC_ONE_PASS:
    oxcf->pass = 0;
    break;
  case VPX_RC_FIRST_PASS:
    oxcf->pass = 1;
    break;
  case VPX_RC_LAST_PASS:
    oxcf->pass = 2;
    break;
}

Change-Id: I8f582203a4575f5e39b071598484a8ad2b72e0d9

Merge "Cleaning up vp9_encodeframe.c."

Common encode/decode function to get reference frame

Replaced encoder and decoder functions to get a pointer
to a reference frame with a common function, vp9_get_ref_frame,
and simplified it.

Change-Id: Icb206fcce8caace3bfd1db3dbfa318dde79043ee

Remove coding_use_prev_mi member from VP9_COMMON

This was shadowing the use of error_resilient_mode, but with
the opposite sense.

Change-Id: Ie4d30263a304fe4b3e94f0c7741db6888cc6afd8

Merge "Fix active_map speed 6."

Merge "Cleanup SEG_LVL_SKIP handling in encode_superblock."

Merge "Fix bug 807"

Fix bug 807

in the sub_pixel_*variance* function the dst is aligned to 16 bytes and not
to 32 bytes - now load unaligned data

Change-Id: I2e0b9745543697efc56fefa32857ea10117af135

test/vpxenc.sh: Enable the VP9 lossless test.

Change-Id: Iff403dfb4c8face0494f0dba840ce91f51e9ca04

Merge "vp9 ssvc test: Remove disabled tests."

Merge "vpxenc tests: Relocate vpxenc wrapper."

Merge "Fix bug 806"

Fix active_map speed 6.

Fix the interaction between active map and reuse_inter_pred_sby. The
reuse_inter_pred_sby feature expects inter predictors to already be
built, but blocks with active map on skip this step.

Change-Id: Ibb2bf0d228f678935d82a0ede9cb0919ab7c8878

Cleanup SEG_LVL_SKIP handling in encode_superblock.

Change-Id: Ib7497ba08696765cbc1b2cc4218d37f4298f278c

vp9 ssvc test: Remove disabled tests.

The disabled tests require a mode parameter that has been removed
from the ssvc example.

BUG=https://code.google.com/p/webm/issues/detail?id=833

Change-Id: I1a5d67628ed769cc5372c4a864f33d5569b6eb13

Merge "tools_common.c: unsigned signed mismatch addressed"

Cleaning up vp9_encodeframe.c.

Change-Id: Ia3001ae5c44faee3978fc3eb7a027cd9712a0373

Merge "vp8: for spatial resize, reallocate denoiser in vp8_allocate_comp."

Fix bug 806

in the function sad32x32x4d and sad64x64x4d the source is aligned to 16 bytes
and not to 32 bytes - the load is now unaligned.

Change-Id: I922fdba56d0936b5cf72e4503519f185645a168c

Merge "Removing direct references to VP9_COMP."

vp8: for spatial resize, reallocate denoiser in vp8_allocate_comp.

Change-Id: I1827efe2126501a4a5637ee3ae85233d7526bc0e

Merge "vp9_bitstream: make some function params const"

vpxenc tests: Relocate vpxenc wrapper.

Move vpxenc() from tools_common.sh to vpxenc.sh.

Change-Id: If3bc1e8616f7e0334d39b560946e467482fe5cf4

Merge "Changes hdr for profiles > 1 for intraonly frames"

vp9_bitstream: make some function params const

Change-Id: Ic49e290c7c88c55e730a0b2b0eb16ee3d0f120e7

Merge "vp9_cx_iface.c: warning missing default"

Merge "Adding ticks <-> timebase units conversion functions."

Changes hdr for profiles > 1 for intraonly frames

Specifies the bit-depth, color sampling and colorspace
for intra only frames for profiles > 0

Also adds checks to ensure that profile 1 and 3 are
exclusively used for non 420 streams.

Change-Id: Icfb15fa1acccbce8f757c78fa8a2f60591360745

Merge "configure: add --enable-coefficient-range-checking"

tools_common.c: unsigned signed mismatch addressed

Change-Id: I919ca42794f13751ca099868e73892d9df64e45f

vp9_cx_iface.c: warning missing default

Change-Id: I18cbdad6031d14d4c1a818c0ab33bbedf7b33e19

Merge "vp9_rd.c: cleanup ugly expression"

Merge "Make the api behavior conform to api spec."

configure: add --enable-coefficient-range-checking

This commit adds a configure time option used to enable strict error
checking in decoder to make sure intermediate stage cofficients of
inverse transforms are within valid range of signed 16 bit integer.

For valid VP9 input streams, intermediate stage coefficients should
always stay within the range of a signed 16 bit integer. Coefficients
can go out of this range for invalid/corrupt VP9 streams. However,
strictly checking this range for every intermediate coefficient can
be a burden for decoder, therefore such validation is only enabled
with configure option --enable-coefficient-range-checking.

Change-Id: I47d47c8c4e48a922c3d223ca59064f51b3f0f5ed

vp9_rd.c: cleanup ugly expression

Change-Id: I066763c2e3ae69ab772bb986da97af9b504f0329

Merge "[spatial svc]Add is_spatial_svc() helper function."

Integrate fast txfm and quant path into skip_recode system

This commit integrates the fast transform and quantization process
into skip_recode scheme in the rate-distortion optimization loop.
Previously the fast transform and quantization process was only
enabled for non-RD coding flow.

Change-Id: Ib7db4d39b7033f1495c75897271f769799198ba8

Merge "vp8 bugfix: Reallocate denoiser when spatially resizing."

[spatial svc]Add is_spatial_svc() helper function.

Change-Id: Ice5376100d8e27cbdaddfd3cd06898cedd2720fe

Adding ticks <-> timebase units conversion functions.

Change-Id: I75abd57367a7974a9fab8a727b2bbc54dea428c3

vp8 bugfix: Reallocate denoiser when spatially resizing.

This is needed to update the width/height and stride parameters
for the reference buffers that the denoiser uses.

Change-Id: Id51b3bdcb56bbbc8187865544ccd3d872a0d51fe

Merge "Create function vp9_preserve_existing_gf"

Removing direct references to VP9_COMP.

Change-Id: Ic37624d807884e71f08b50fd04892f03f2708ba7

Merge "Write VP9E_SET_TUNE_CONTENT to the correct location."

Merge "vp9_subexp: remove vp9_compute_update_table()"

Make the api behavior conform to api spec.

When no more data is available, vpx_codec_decode should
be called with NULL as data and 0 as data_sz.

vpx_codec_get_frame iterates over a list of the frames
available for display. The iterator storage should be initialized
to NULL to start the iteration. Iteration is complete when this
function returns NULL.

Also change the unit test to conform to the api spec.

Change-Id: I4b258b309f5df3d37d10c82f01492c0394181c2a

Add tune-content command line option

Change-Id: I3793b54ad432e46bcdb2dcc7adc0e15fa6deec47

Write VP9E_SET_TUNE_CONTENT to the correct location.

Change-Id: Ie8c976ececc79fd58c6eb16b7add053dc58e3bb8

Merge "Use INTER_ALL for VAR based partitions for screencast material."

Merge "Add a codec control option to tune for screen content."

Merge "Remove vp9_postproc_x86.h"

Merge "Directly split the block in partition search"

remove unused fields from BOOL_CODER / vp9_writer

measure_cost, bit_counter, value

Change-Id: I8f93444ddddbee4ece7db6076a922ad96786044c

vp9_write_bit_buffer: fix function name typo

vp9_rb_bytes_written -> vp9_wb_bytes_written
+ move limits.h from the header to the source file where it's needed

Change-Id: Ifcdc856b4d4dcc2fff555ef11f86c86a0d83dab3

Removing legacy XMA features from libvpx.

Change-Id: I60ffee7cf78e748792fa6d109322ec32f92e40a9

Directly split the block in partition search

This patch allows the encoder to directly split the block
in partition search, therefore skip searching NONE. It
computes a score which measures whether 16x16 motion vectors
from the first pass in the current block are consistent with
each others. If they are inconsistent and we have enough Q
to encode, split the block directly, and skip searching NONE.

This feature is under flag CONFIG_FP_MB_STATS. In speed 2,
it further gives a speedup of 3-8% on sample yt clips as
compared to the previous version under the same flag. Overall,
the features under the flag will give 7-15% on typical yt
clips at up to 6000kbps data rate. The speedup at very high
data rate is not significant.

For hard stdhd clips:
park_joy_1080p @ 15000kbps:       504541ms -> 506293ms (-0.35%)
pedestrian_area_1080p @ 2000kbps: 326610ms -> 290090ms (+11.2%)

The compression performance using the features under the flag:
derf: -0.068%
yt:   -0.189%
hd:   -0.318%
stdhd:-0.183%

To use the feature, set CONFIG_FP_MB_STATS and turn on
cpi->use_fp_mb_stats.

Change-Id: Iad58a2966515c8861aa9eb211565b1864048d47f

Remove vp9_postproc_x86.h

This configuration has moved to vp9_rtcd_defs.pl

Change-Id: I71a31dbb8d79df226b60dd834324a5af69956c51

Extend skip_txfm flag into array to cover YUV planes

Change-Id: Ieae182d72d625d0d3fd4ed7c7d24cb521a0f21b0

Create function vp9_preserve_existing_gf

This code was being called from two places and
difficult to parse. I rationalized it in to a
function to improve readability.

Change-Id: I154b8fe0b84e6c01e69601e78e67bd47c954d8b6

Use INTER_ALL for VAR based partitions for screencast material.

This offers 25% more compression on my HD screencast testset.

Change-Id: I85eaef95fd8f2e03e326443e9514482b2ee35cef

Add a codec control option to tune for screen content.

Change-Id: I12b0b0a06750cb9a5f1bdc3368deb44137acc9a3

vp9_subexp: remove vp9_compute_update_table()

makes update_bits[] a constant table

Change-Id: If105bf0522487f54a31e12a7cc73aa24671b19d4

Merge "[spatial svc]Enabl golden frame for base layer and fix wrong ref_frame_flag for upper layers in first frame"

Merge changes I4e2aeaef,Ie3e478ef

* changes:
  vpxdec warning errors addressed
  cast enums to int to avoid gcc warning in pred_common

Merge "Store first pass motion vector directions"

Store first pass motion vector directions

Re-organize the one-byte structure for 16x16 first pass
block. Add bits to indicate motion vector directions.

Change-Id: Id10754ba343dfc712c7fed5bcc85c67fa0bbcb89