Merge "Removing active_arnr_{strength, frames} from VP9_COMP."

Merge "get_ref_frame: fix test for valid buffer."

Removing active_arnr_{strength, frames} from VP9_COMP.

Change-Id: I60472b71ca75ee0522ed2611f43e1207d44b66d0

Merge "Add an adaptive denoising mode."

Merge "vp8: Modify to use closest reference in zero_mv bias."

Merge "vpxenc.sh: use --test-decode=fatal for vp9"

vpxenc.sh: use --test-decode=fatal for vp9

vp8 is broken:
https://code.google.com/p/webm/issues/detail?id=841

Change-Id: If73afe0e2314279b560ad758cb04b1760dcc3605

Merge "vp9_copy_reference_dec: check ref frame index before use"

Merge "Remove redundant vp9_init_plane_quantizers call"

Merge "32 Align Load bug In the sub_pixel_avg_variance the parameter sec was also aligned load and changed to unaligned."

Merge "Moving framerate from VP9EncoderConfig to VP9_COMP."

Add an adaptive denoising mode.

On key frame, will always start with normal denoising mode,
but based on a computed noise metric (normalized mse on source diff)
may switch to aggressive mode (and back down again).

Change-Id: I20330b2dcf3056287be37223302b2cab5fc103eb

vp8: Modify to use closest reference in zero_mv bias.

Modify zero_mv bias condition to include check that "closest" reference is last_frame.
This is needed for temporal layers, where the last_frame is not always the closest reference.
Also, constain zeromv_count to be for last_frame reference.

Change-Id: I7af54a809ebf01ef43b9933c9d4095b6cb189390

Merge "Mask out H_PRED and V_PRED for 32x32 blocks"

Merge "Set max_intra_bsize to 32x32"

vp9_copy_reference_dec: check ref frame index before use

use get_ref_frame() to ensure a valid frame is retrieved if one exists

Change-Id: I4b116d928e643ee62a991babd4b974037b6b3830

Merge "Fix bug 837: realloc mode info buffers on resize"

Remove redundant vp9_init_plane_quantizers call

When aq mode is on, the quantizer will be reset later in the same
function (line 571).

Change-Id: I20635db31261d136d04d5deeb881ad3957078bf1

32 Align Load bug
In the sub_pixel_avg_variance the parameter sec was also aligned load and
changed to unaligned.

Change-Id: I4d4966e0291059ea4d705baed1503dc58444fcb7

get_ref_frame: fix test for valid buffer.

In the current implementation of the encoder,
frame buffers may come from the wider set of
12 such buffers, and is not restricted to the
8 allowed as reference frames. This is only
an implementation detail and does not affect
the constraint of having a total of 8 reference
buffers overall.

Change-Id: I075f777146c2df49c275d89232933f8127235175

Mask out H_PRED and V_PRED for 32x32 blocks

Change-Id: I2847af5062b5fa320629fcabb9fa6b23ba3e5513

Set max_intra_bsize to 32x32

At --good and speed 3 or above for resolution less than 720p. This
disables the tests for 64x64 intra prediction modes. Encoding time
reduction is about 1%.

Change-Id: Ib396e3d1417fece416e3f0fee929b128acbb130f

Merge "Replace current_video_frame with better alternatives"

Fix bug 837: realloc mode info buffers on resize

The test to determine if the mode info buffers need
to be resized when the frame size changes was
incorrect, as per bug 837.

By storing the size of the allocated data structure,
a simple test determines whether to allocate more
memory when the frame size changes.

Change-Id: I1544698f2882cf958fc672485614f2f46e9719bd

Merge "vpx_codec_internal.h : clean out unused function warning"

Merge "Simplify select_tx_mode()"

Merge "cq_test: allow test cases to be run out of order"

vpx_codec_internal.h : clean out unused function warning

Change-Id: I53659e3ff8ba1b70d89d152e0580ac7a412b89b2

Replace current_video_frame with better alternatives

In the encoder, current_video_frame is used in a couple of places to
decide encoding strategy, this commit replaces with more appropriate
variables.

Change-Id: I3d3d8d8e2ea02c489e4639b9d4c446a63e357d29

Allow full coeff probability model and cost update

This commit moves the simplified coefficient probability model
and costing update to speed 4, and turns on chessboard pattern
mode search for sub 720p sequences. The overall coding performance
of speed 3 is improved:
derf  0.889%
stdhd 1.744%

The speed 3 runtime for test sequences are improved:
bus cif at 1000 kbps 9823 ms -> 9642 ms
pedestrian 1080p 2000 kbps 189559 ms -> 183284 ms

Change-Id: Iecbc7496a68f31fd49fb09f8dfd97c028d675a5d

Skip mode search based on reference frame consistency

This commit enables the encoder to skip NEARMV and ZEROMV if the
above and left blocks have identical reference frame, and the
current reference is different from that. It reduces the runtime
of speed 3 for test sequences:
bus cif at 1000 kbps 10064 ms -> 9823 ms
pedestrian 1080p at 2000 kbps 193078 ms -> 189559 ms

The compression performance is changed by
derf  -0.085%
stdhd -0.103%

Change-Id: If304f26d42e6412152a84c3dd7b02635c38444f4

Merge "Enable motion field based mode seach skip"

Enable motion field based mode seach skip

This commit allows the encoder to check the above and left neighbor
blocks' reference frames and motion vectors. If they are all
consistent, skip checking the NEARMV and ZEROMV modes. This is
enabled in speed 3. The coding performance is improved:

pedestrian area 1080p at 2000 kbps,
from  74773 b/f, 41.101 dB, 198064 ms
to    74795 b/f, 41.099 dB, 193078 ms

park joy 1080p at 15000 kbps,
from 290727 b/f, 30.640 dB, 609113 ms
to   290558 b/f, 30.630 dB, 592815 ms

Overall compression performance of speed 3 is changed
derf  -0.171%
stdhd -0.168%

Change-Id: I8d47dd543a5f90d7a1c583f74035b926b6704b95

Simplify select_tx_mode()

The function is called only once, right after all stats counters are
reset to 0. Therefore all the computations have zero effect on return
values. This commmit to removed those effectless code.

Change-Id: I50d27c0802547921fa36c60aa4bd92d76247f595

Merge "vpx_internal_error -> fix -Wunused-function issues"

cq_test: allow test cases to be run out of order

check that bitrates increase with cqlevel at global test case teardown,
rather than after each individual test case. this allows the tests to be
run out of order with --gtest_shuffle.

Change-Id: I9e0d4e6a2d920a1f2fe9aee7b7876a3e7eb5d297

Merge "Initialization to prevent asan failure on google3"

Initialization to prevent asan failure on google3

Reinstates an assignment to prevent an asan failurere on google3.
Not sure why the failure happens. This was removed in a recent patch
https://gerrit.chromium.org/gerrit/#/c/71068/.

Change-Id: Ifd9ccffd4c2164f4de38b21821ffb28bd779b0f3

Merge "intra blocks disallowed inadvertently"

Merge "Update PATENTS to reflect s/VP8/WebM/g"

vpx_internal_error -> fix -Wunused-function issues

Moved to global function to avoid unused function warnings...

Change-Id: I4e9002dcb20748f6d8d84cbbe6ef2de0bd9a8018

Merge "Minor Two pass rate control adjustments."

Merge "decode_api_test: fix type conversion warning"

Merge "libyuv: update to r1041"

decode_api_test: fix type conversion warning

size_t -> uint32 in the call to vpx_codec_decode()

Change-Id: Ibf39d3749321c97292b35ac0631fa22211cff800

libyuv: update to r1041

Change-Id: I38dad398844ee424a7a92a745ab703645018d02b

Merge "get_ref_frame: check ref_frame_map value"

Merge "VP8D_GET_FRAME_CORRUPTED: check frame pointer"

Merge "vpx_codec_decode: check data size"

Merge "inline vpx functions in headers to avoid unused function warning"

Merge "fixes several -Wunused-function warnings"

Merge "Fix a run-time integer overflow"

Merge "Rework y4mwrite test to pass google3 tests"

get_ref_frame: check ref_frame_map value

'ref_frame_map' is initialized to -1. avoids using an invalid index  if
VP9_GET_REFERENCE/VP8_COPY_REFERENCE controls are issued after a decode
error.

Change-Id: I4599762c4d0b07a5943a72bf4a86ccb596cc062a

VP8D_GET_FRAME_CORRUPTED: check frame pointer

if the decode of the first frame fails, frame_to_show may not be set.
fixes a crash in vpxdec with corrupt data.

Change-Id: I5ab9476d005778a13fd42a39d05876bb6c90a93c

inline vpx functions in headers to avoid unused function warning

Change-Id: I80284ae82915b9df56f7c5ef4953bd53e8cffd1f

fixes several -Wunused-function warnings

Change-Id: I4dc2cb255f4fe30998b6ee61184895dee9f5da8e

Fix a run-time integer overflow

Change-Id: I87255d8a25ef8c7d235cbf3c8887d7bed7892cfe

intra blocks disallowed inadvertently

At speed 6 the smallest partitioning was 16x16 and biggest
intra block was 8x8, essentially disallowing all intra blocks
which produces ugly artifacts when revealing new video.

Change-Id: I364042d4c64e09be0666ade64aac94d0a1b586cf

Rework y4mwrite test to pass google3 tests

Reverts to using tmpfile() for non-Windows platforms. On google3
the test directory does not have write permissions, and hence the
Y4mWriteTest fails. This patch fixes the issue.
On Windows, a temporary file is created in the temp directory
that has write permissions.

The tests pass on linux, mingw, and MS visual studio.

Change-Id: Ibada1d80e25d8b8e5b6a9d3d597533674bd9024c

Fix pickmode for intra DC blocks

Change-Id: I4906043ec1e3577ba37622a235c54adacb66125a

Minor Two pass rate control adjustments.

Alter way in which we identify static scenes.
Remove some redundant code.

Change-Id: I883c2ea2e341770648a8663d8881f720ed099b61

Merge "remove unused fields from BOOL_CODER / vp9_writer"

Merge "remove remaining references to XMA"

remove remaining references to XMA

the bulk of the functionality was removed in:
a42b5c2 Removing legacy XMA features from libvpx.

BUG=840

Change-Id: I8ca51d6aa76028f36d0eb1a15d2f2e3161e12ea4

Merge "vp9_write_bit_buffer: fix function name typo"

Merge "Enable fast forward txfm and quant for rate-distortion search"

Merge "Implementing right flushing for simple_encoder."

Merge "Add tune-content command line option"

Update PATENTS to reflect s/VP8/WebM/g

Sync with http://www.webmproject.org/license/additional/

modified:   PATENTS
modified:   third_party/libwebm/PATENTS.TXT

Change-Id: I97fc588589654c83c6cb7e2e2b909f23a370db8a

Implementing right flushing for simple_encoder.

simple_encoder: Flush encoder. According to the current API spec we need
to call vpx_codec_encode() until vpx_codec_get_cx_data() returns NULL.

Change-Id: Ibc37706e5257a3d51e5421ca17f77ab41249d9b5

[spatial svc]Remove CONFIG_SPATIAL_SVC for ss_enable_auto_alt_ref in vpx_codec_enc_cfg to fix heap-overflow issue in asan config

Change-Id: Icdf08501db5f416285f751d316941dfacd2c69ba

vpx_codec_decode: check data size

When a valid data pointer is given make sure the size is greater than
zero.
A previous check for vp9 was incorrectly removed in:
7050074 Make the api behavior conform to api spec.

No semantics for valid pointers + 0-sized frames are defined for VPx
codecs, so move the check to vpx_codec_decode(). This avoids an assert
in vp9.

+ add some basic invalid param testing for decoder init/decode/destroy

Change-Id: I99f9cef6076d15874fd72ac973f2685d8a2353c3

Merge "Removing unised OUTPUT_YUV_SRC define."

Merge "Integrate fast txfm and quant path into skip_recode system"

Merge "Extend skip_txfm flag into array to cover YUV planes"

Merge "Adds spatial-svc macros to code to allow disabling"

Merge "test/vpxenc.sh: Convert vpxenc() to a simple wrapper."

Merge "vp8: Code cleanup for control of denoiser mode."

Removing unised OUTPUT_YUV_SRC define.

Change-Id: Ia88eebf10c8620dadaa66722543db291e44fe104

Enable fast forward txfm and quant for rate-distortion search

This commit enables encoder to select fast forward transform and
quantization path according to the prediction residual sse/variance,
in the rate-distortion optimization scheme.

Change-Id: Ief9fc3844fd4107166d401970e800c6e5ce2b5fe

vp8: Code cleanup for control of denoiser mode.

Change-Id: Icb9918dd38d15061d62852e6a2d905e8ceb2c1ac

Adds spatial-svc macros to code to allow disabling

Adds a couple of CONFIG_SPATIAL_SVC macros to allow compilation
when spatial-svc is disabled.

Change-Id: I67f84406d1d3fa26f225d9c6518161a0841f2d29

Merge "Moving pass from VP9_COMP to VP9EncoderConfig."

Merge "Common encode/decode function to get reference frame"

Moving framerate from VP9EncoderConfig to VP9_COMP.

Framerate changes over time, VP9EncoderConfig supposed to have static
read-only data.

Change-Id: I36580a7ee71243c1eabb57691089691731d03e67

test/vpxenc.sh: Convert vpxenc() to a simple wrapper.

- Split vpxenc() into vpxenc() and vpxenc_pipe().
- Drop all but one positional param (the input file) in favor
  of passing args directly to vpxenc.
- Add an extra lossless test that explicitly sets min-q and
  max-q to 0.

Change-Id: I7d5f7b495f8b9447388c5f459bc9f6de2214caf2

Merge "Removing legacy XMA features from libvpx."

Moving pass from VP9_COMP to VP9EncoderConfig.

We had a very complicated way to initialize cpi->pass from
cfg->g_pass:
switch (cfg->g_pass) {
  case VPX_RC_ONE_PASS:
    oxcf->mode = ONE_PASS_GOOD;
    break;
  case VPX_RC_FIRST_PASS:
    oxcf->mode = TWO_PASS_FIRST;
    break;
  case VPX_RC_LAST_PASS:
    oxcf->mode = TWO_PASS_SECOND_BEST;
    break;
}

cpi->pass = get_pass(oxcf->mode).

Now pass is moved to VP9EncoderConfig and initialization is simple:
switch (cfg->g_pass) {
  case VPX_RC_ONE_PASS:
    oxcf->pass = 0;
    break;
  case VPX_RC_FIRST_PASS:
    oxcf->pass = 1;
    break;
  case VPX_RC_LAST_PASS:
    oxcf->pass = 2;
    break;
}

Change-Id: I8f582203a4575f5e39b071598484a8ad2b72e0d9

Merge "Cleaning up vp9_encodeframe.c."

Common encode/decode function to get reference frame

Replaced encoder and decoder functions to get a pointer
to a reference frame with a common function, vp9_get_ref_frame,
and simplified it.

Change-Id: Icb206fcce8caace3bfd1db3dbfa318dde79043ee

Remove coding_use_prev_mi member from VP9_COMMON

This was shadowing the use of error_resilient_mode, but with
the opposite sense.

Change-Id: Ie4d30263a304fe4b3e94f0c7741db6888cc6afd8

Merge "Fix active_map speed 6."

Merge "Cleanup SEG_LVL_SKIP handling in encode_superblock."

Merge "Fix bug 807"

Fix bug 807

in the sub_pixel_*variance* function the dst is aligned to 16 bytes and not
to 32 bytes - now load unaligned data

Change-Id: I2e0b9745543697efc56fefa32857ea10117af135

test/vpxenc.sh: Enable the VP9 lossless test.

Change-Id: Iff403dfb4c8face0494f0dba840ce91f51e9ca04

Merge "vp9 ssvc test: Remove disabled tests."

Merge "vpxenc tests: Relocate vpxenc wrapper."

Merge "Fix bug 806"