Merge "Adding set_rc_buffer_sizes()."

Merge changes I13d975d1,I26710359

* changes:
  vpxenc: fix compile with --disable-libyuv
  vpxdec: fix compile with --disable-libyuv

Merge "Add basic tests for the set_maps example."

Adding set_rc_buffer_sizes().

Change-Id: I76aab1e4f56a790597104b5c9b0d3543d6982eae

Moving frame_is_boosted() to vp9_speed_features.c.

Change-Id: I9261ded5fbba7a625d8224d91be296265a932410

Merge "Removing unnecessary casts to int64_t."

Merge "vpxdec.c : resolve uninitialized member warning"

Merge "vp9_rdopt.c : signed unsigned mismatch in choose_tx_size"

Merge "vp9_firstpass.c : remove unused parm in get_zero_motion"

Merge "Improved vp9_quantize_fp_neon()"

vpxdec.c : resolve uninitialized member warning

Change-Id: Icd07ee241b1e36bb4c9e40e592bae259e65f2ce4

vp9_rdopt.c : signed unsigned mismatch in choose_tx_size

Change-Id: Id68736ffa71843b02ee3634edc525219d6e54d4f

vp9_firstpass.c : remove unused parm in get_zero_motion

Change-Id: I803bfc0b26804912ccd088d8a90a0f02fc55eed9

Merge "vp9_firstpass.c : clear warning re: use of null lc"

Merge "Add early termination in transform size search"

Merge "Speed up mode search depending on relative ref frame position"

vp9_firstpass.c : clear warning re: use of null lc

Change-Id: I80f81f6f4f15766f504c15f8c20258a84bbaa9ac

Add early termination in transform size search

In the full-rd transform size search, we go through all transform
sizes to choose the one with best rd score. In this patch, an
early termination is added to stop the search once we see that the
smaller size won't give better rd score than the larger size. Also,
the search starts from largest transform size, then goes down to
smallest size.

A speed feature tx_size_search_breakout is added, which is turned off
at speed 0, and on for other speeds. The transform size search is
turned on at speed 1.

Borg test results:
1. At speed 1,
   derf set: psnr gain: 0.618%, ssim gain: 0.377%;
   stdhd set: psnr gain: 0.594%, ssim gain: 0.162%;
   No noticeable speed change.
3. At speed 2,
   derf set: psnr loss: 0.157%, ssim loss: 0.175%;
   stdhd set: psnr loss: 0.090%, ssim loss: 0.101%;
   speed gain: ~4%.

Change-Id: I22535cd2017b5e54f2a62bb6a38231aea4268b3f

Speed up mode search depending on relative ref frame position

This commit enables the encoder to record the location of the
center frame to generate alter reference frame. It then allows to
skip checking prediction modes of other reference frame types when
it comes to encode this frame.

The speed 3 runtime is reduced for the test sequences:
bus at CIF 1000 kbps, 9791 ms -> 9446 ms, i.e., 3.5% speed-up,
pedestrian at 1080p 2000 kbps, 184043 ms -> 175730 ms, i.e., 4.5%
speed-up.

No compression performance change observed.

Change-Id: Iacfde3bcc1445964e7a241f239bd6ea11cb94bd1

Add basic tests for the set_maps example.

Change-Id: I1b1978a7758540bc4e073db8136104847ee8ea3c

Removing unnecessary casts to int64_t.

Change-Id: I156419fdf68056759a4cd4206cc829a00025ef78

Replacing SVC oxcf->mode check with oxcf->pass check.

oxcf->pass is used in all other places in similar contexts.

Change-Id: I9de3a5f24311838d5a6dc3dd470d258cb189ff59

Merge "set_maps: Flush encoder."

Merge "Removing vp9_rescale()."

Merge "vpxenc.sh: Add 2-pass and lagged encode tests for VP8 and VP9."

Merge "Revert "Removing duplicated code from init_config().""

Merge "Remove unused variables in vp9_rd_pick_inter_mode_sb"

Merge "Remove unused code in vp9_rd_pick_inter_mode_sb"

Revert "Removing duplicated code from init_config()."

This reverts commit 5509b7fd8fe6ad3555831b8d49077182daf92758

Observed a big drop in compression quality and speed for speed 1 for a 360p test clip, revert this now for investigation.

Change-Id: If69dc8d77a225b34dc7907a9472e1a7a0a22762d

Merge "Add support for MIPS64."

vp8: Add check on noise_sensitivity/denoiser on.

Change-Id: Ic53b2fb69e6eee600ea222e4d06424a1bbca496c

Merge "test/vpxenc.sh: Always use --test-decode=FATAL"

test/vpxenc.sh: Always use --test-decode=FATAL

Change-Id: I5ca3400aec1f77fd92762d0c4fc86ba3694de1ca

vpxenc: fix compile with --disable-libyuv

Change-Id: I13d975d1f0e598e498798e4f33b06483f3a41130

vpxdec: fix compile with --disable-libyuv

Change-Id: I267103595f28c9d9dce2bc38e6db4e371acc7235

Add support for MIPS64.

Change-Id: I78e27bf942b4a825543e76be25546b6458bad8b6

Merge "Add a speed feature to give the tighter search range"

Merge "frame_size_tests: reduce 'large' size for win32"

set_maps: Flush encoder.

According to the current API spec we need to call vpx_codec_encode() until
vpx_codec_get_cx_data() returns NULL.

Change-Id: I4617f8042d50480a8f47b0b7114d4759fa566b14

Merge "Removing duplicated code from init_config()."

Removing vp9_rescale().

Now everything is int64_t, so we don't need that function.

Change-Id: I7dd2023677b4943ecd968d68cc06f9d4862c3c3f

Merge "Set uv_crop_height/width in all the places"

Add a speed feature to give the tighter search range

Add a speed feature to give the tighter partition search
range. Before partition search, calculate the histogram
of the partition sizes of the left, above and previous
co-located blocks of the current block. If the variance of
observed partition sizes is small enough, adjust the search
range around the mean partition size, which will be tigher.

The feature is currently turned on at speed 2. Experiments on
sample youtube clips show on average the runtime is reduced
by 3-7%.

For hard stdhd clips:
park_joy_1080p @ 15000kbps:       509251 ms -> 491953 ms (3.3%)
pedestrian_area_1080p @ 2000kbps: 223941 ms -> 214226 ms (4.3%)

The PSNR performance is changed:
derf: -0.112%
yt:   -0.099%
hd:   -0.090%
stdhd:-0.102%

Change-Id: Ie205ec5325bf92ec5676c243e30ba9d0adca10f2

vpxenc.sh: Add 2-pass and lagged encode tests for VP8 and VP9.

- Fix nit: make test function definitions match test order.
- Fix nit: use elog instead of echo for env verification error.

Change-Id: I0eec078fc056a5bb2bd88d5833e43de48d77ec08

Merge "Simplifying vp9_set_speed_features() function."

Remove unused variables in vp9_rd_pick_inter_mode_sb

Change-Id: Ib52e1ce5aa4a22d70e124c3c29a92e00ffac50e4

Merge "Remove a unused speed feature"

Remove unused code in vp9_rd_pick_inter_mode_sb

Change-Id: I4f0bac3367b1a7c5e7f746b97ca619b81c8dfc49

Set uv_crop_height/width in all the places

When configuring the buffer make sure to set all the (now) required
fields. Use the canonical variables and match the style from vpx_scale.

https://code.google.com/p/webm/issues/detail?id=841

Change-Id: I71b43d4a03756b8b2d6d60fdf8d7bf41b8041787

frame_size_tests: reduce 'large' size for win32

this test allocates >2GB currently. depending on the order of the test
runs the allocation may fail most regularly with mingw+wine.

Change-Id: Ibee1c18cfbe29a4de6c65075647ec3955d8206c0

Removing duplicated code from init_config().

Change-Id: I50f4485cfbdaadc3084aa5bc63bf3a2f15a0d903

Merge "vpxdec.sh: Fix some style nits."

vpxdec.sh: Fix some style nits.

Change-Id: I960c26dcb0db230e50f923d00f64ded1a39bf783

Remove a unused speed feature

Removed disable_split_var_thresh, which is not used anymore.

Change-Id: I50119b150442e1571157433b5effc6aae0dbe0fd

Merge "Removes fileno check to prevent valgrind error"

Merge "examples.sh: Run all example tests."

Merge "Cleaning up vp9_encoder.c."

Merge "vp8cx_set_ref: Flush encoder."

Merge "Removing active_arnr_{strength, frames} from VP9_COMP."

examples.sh: Run all example tests.

- Remove vpxdec and vpxenc from the exclude list.
- vpx{dec,enc}.sh: Updates to support finding their executable when
  LIBVPX_BIN_PATH is setup for the examples.
- tools_common.sh: New library function, vpx_tool_path(). Provides
  support for finding the exectuables in vpx{dec,enc}.sh.

Change-Id: I730f11cceb44646491a7a7ff58603a4a760129ef

Merge "get_ref_frame: fix test for valid buffer."

vp8cx_set_ref: Flush encoder.

According to the current API spec we need to call vpx_codec_encode() until
vpx_codec_get_cx_data() returns NULL.

Change-Id: Ide0c531dc0d453df8ec1edb8acb894856d6cc22e

Cleaning up vp9_encoder.c.

Change-Id: Ib06c59d1adefb841a6ff653619dffb7e23f3318d

Removing active_arnr_{strength, frames} from VP9_COMP.

Change-Id: I60472b71ca75ee0522ed2611f43e1207d44b66d0

Removes fileno check to prevent valgrind error

Explicitly makes the fileptr null when close source is called
on a temporary file. This avoids a valgrind error.

Change-Id: I9c364290eeb6842fde946dd9bf817814c7178aaa

Merge "Add an adaptive denoising mode."

Merge "vp8: Modify to use closest reference in zero_mv bias."

Merge "vpxenc.sh: use --test-decode=fatal for vp9"

vpxenc.sh: use --test-decode=fatal for vp9

vp8 is broken:
https://code.google.com/p/webm/issues/detail?id=841

Change-Id: If73afe0e2314279b560ad758cb04b1760dcc3605

Merge "vp9_copy_reference_dec: check ref frame index before use"

Merge "Remove redundant vp9_init_plane_quantizers call"

Merge "32 Align Load bug In the sub_pixel_avg_variance the parameter sec was also aligned load and changed to unaligned."

Merge "Moving framerate from VP9EncoderConfig to VP9_COMP."

Add an adaptive denoising mode.

On key frame, will always start with normal denoising mode,
but based on a computed noise metric (normalized mse on source diff)
may switch to aggressive mode (and back down again).

Change-Id: I20330b2dcf3056287be37223302b2cab5fc103eb

vp8: Modify to use closest reference in zero_mv bias.

Modify zero_mv bias condition to include check that "closest" reference is last_frame.
This is needed for temporal layers, where the last_frame is not always the closest reference.
Also, constain zeromv_count to be for last_frame reference.

Change-Id: I7af54a809ebf01ef43b9933c9d4095b6cb189390

Merge "Mask out H_PRED and V_PRED for 32x32 blocks"

Merge "Set max_intra_bsize to 32x32"

vp9_copy_reference_dec: check ref frame index before use

use get_ref_frame() to ensure a valid frame is retrieved if one exists

Change-Id: I4b116d928e643ee62a991babd4b974037b6b3830

Merge "Fix bug 837: realloc mode info buffers on resize"

Remove redundant vp9_init_plane_quantizers call

When aq mode is on, the quantizer will be reset later in the same
function (line 571).

Change-Id: I20635db31261d136d04d5deeb881ad3957078bf1

32 Align Load bug
In the sub_pixel_avg_variance the parameter sec was also aligned load and
changed to unaligned.

Change-Id: I4d4966e0291059ea4d705baed1503dc58444fcb7

get_ref_frame: fix test for valid buffer.

In the current implementation of the encoder,
frame buffers may come from the wider set of
12 such buffers, and is not restricted to the
8 allowed as reference frames. This is only
an implementation detail and does not affect
the constraint of having a total of 8 reference
buffers overall.

Change-Id: I075f777146c2df49c275d89232933f8127235175

Mask out H_PRED and V_PRED for 32x32 blocks

Change-Id: I2847af5062b5fa320629fcabb9fa6b23ba3e5513

Set max_intra_bsize to 32x32

At --good and speed 3 or above for resolution less than 720p. This
disables the tests for 64x64 intra prediction modes. Encoding time
reduction is about 1%.

Change-Id: Ib396e3d1417fece416e3f0fee929b128acbb130f

Merge "Replace current_video_frame with better alternatives"

Fix bug 837: realloc mode info buffers on resize

The test to determine if the mode info buffers need
to be resized when the frame size changes was
incorrect, as per bug 837.

By storing the size of the allocated data structure,
a simple test determines whether to allocate more
memory when the frame size changes.

Change-Id: I1544698f2882cf958fc672485614f2f46e9719bd

Merge "vpx_codec_internal.h : clean out unused function warning"

Merge "Simplify select_tx_mode()"

Merge "cq_test: allow test cases to be run out of order"

vpx_codec_internal.h : clean out unused function warning

Change-Id: I53659e3ff8ba1b70d89d152e0580ac7a412b89b2

Replace current_video_frame with better alternatives

In the encoder, current_video_frame is used in a couple of places to
decide encoding strategy, this commit replaces with more appropriate
variables.

Change-Id: I3d3d8d8e2ea02c489e4639b9d4c446a63e357d29

Allow full coeff probability model and cost update

This commit moves the simplified coefficient probability model
and costing update to speed 4, and turns on chessboard pattern
mode search for sub 720p sequences. The overall coding performance
of speed 3 is improved:
derf  0.889%
stdhd 1.744%

The speed 3 runtime for test sequences are improved:
bus cif at 1000 kbps 9823 ms -> 9642 ms
pedestrian 1080p 2000 kbps 189559 ms -> 183284 ms

Change-Id: Iecbc7496a68f31fd49fb09f8dfd97c028d675a5d

Skip mode search based on reference frame consistency

This commit enables the encoder to skip NEARMV and ZEROMV if the
above and left blocks have identical reference frame, and the
current reference is different from that. It reduces the runtime
of speed 3 for test sequences:
bus cif at 1000 kbps 10064 ms -> 9823 ms
pedestrian 1080p at 2000 kbps 193078 ms -> 189559 ms

The compression performance is changed by
derf  -0.085%
stdhd -0.103%

Change-Id: If304f26d42e6412152a84c3dd7b02635c38444f4

Merge "Enable motion field based mode seach skip"

Enable motion field based mode seach skip

This commit allows the encoder to check the above and left neighbor
blocks' reference frames and motion vectors. If they are all
consistent, skip checking the NEARMV and ZEROMV modes. This is
enabled in speed 3. The coding performance is improved:

pedestrian area 1080p at 2000 kbps,
from  74773 b/f, 41.101 dB, 198064 ms
to    74795 b/f, 41.099 dB, 193078 ms

park joy 1080p at 15000 kbps,
from 290727 b/f, 30.640 dB, 609113 ms
to   290558 b/f, 30.630 dB, 592815 ms

Overall compression performance of speed 3 is changed
derf  -0.171%
stdhd -0.168%

Change-Id: I8d47dd543a5f90d7a1c583f74035b926b6704b95

Simplify select_tx_mode()

The function is called only once, right after all stats counters are
reset to 0. Therefore all the computations have zero effect on return
values. This commmit to removed those effectless code.

Change-Id: I50d27c0802547921fa36c60aa4bd92d76247f595

Merge "vpx_internal_error -> fix -Wunused-function issues"

cq_test: allow test cases to be run out of order

check that bitrates increase with cqlevel at global test case teardown,
rather than after each individual test case. this allows the tests to be
run out of order with --gtest_shuffle.

Change-Id: I9e0d4e6a2d920a1f2fe9aee7b7876a3e7eb5d297

Merge "Initialization to prevent asan failure on google3"

Initialization to prevent asan failure on google3

Reinstates an assignment to prevent an asan failurere on google3.
Not sure why the failure happens. This was removed in a recent patch
https://gerrit.chromium.org/gerrit/#/c/71068/.

Change-Id: Ifd9ccffd4c2164f4de38b21821ffb28bd779b0f3