Fix vp9_compute_qdelta_by_rate loop behavior

The return value from vp9_compute_qdelta_by_rate, which is
a delta value for the quantizer, could never be 0 if
(qindex == rc->worst_quality).

This occurs because target_index was setup unconditionally
in the loop and yet the loop counter stopped at
(rc->worst_quality - 1).

Change-Id: I6b59cd9b5811ff33357e71cd7d814c5e53d291f2

Refactor read_intra_frame_mode_info

Change-Id: I56b0614154408e8ec613784b2007374df00fbf17

Merge "Don't waste time partitioning skip superblocks."

Merge "Skip golden ref frame check when it is same as last ref frame"

Skip golden ref frame check when it is same as last ref frame

When golden reference frame is refreshed, the next frame has both
its last and golden reference frames point to the same reference
frame in real-time coding mode. Experiments suggest that using
two separate reference frames for frames right after golden refresh
frame does not provide further compression performance advantage.
This commit hence retains the current encoder implementation and
shuts off the mode search over golden reference frame in this case.

It makes the encoder run slightly faster at no coding performance
change.

Change-Id: I1561f7799253a10e675d05c63c1749fe9e85b472

Don't waste time partitioning skip superblocks.

Force 64x64 partitioning when a whole superblock is SEGMENT_LVL_SKIP. This
drops encode times of screens mostly at rest by 20%.

Change-Id: Ieba554b0b8a0c1679aae784a8bd11f038ab942c3

Add aq-mode=3 to ethread test.

Change-Id: I619a2be502f1d2eb0ae746f7fcb465d19ddae048

Merge "vp9_ethread: fix me consts initialization to support aq_mode=3 encoding"

Merge "Move pred_mv assign outside integral projection motion search"

Merge "Reduce default overshoot/undershoot params to 25"

Merge "Modify the setting of transform skip flags in non-rd mode"

vp9_ethread: fix me consts initialization to support aq_mode=3 encoding

While turning on "--aq_mode=3", the quantizers are updated by each
thread. Fixed the me consts initialization function to make sure
that the correct thread data are updated.

Change-Id: Ied27bb7bae76fc3fa2cda4f8c35ac0b46271bef4

Merge "Cherry pick libyuv VS fix"

Cherry pick libyuv VS fix

Change-Id: I1f2e077af87d29b07eaf7acaec8d955e00da9333

Remove some unnecessary code in thread context copy.

Change-Id: Iddf098e1bae9c10fc2f325f84156f50a0bd0055a

Merge "Only wait for previous frame's motion vector if needed."

Merge "Set the threads/tile_columns in vpx_temporal_svc_encoder."

Set the threads/tile_columns in vpx_temporal_svc_encoder.

Change-Id: I794e8b64f26ebe68d7f18c3a11cb7c80e1cd3110

Modify the setting of transform skip flags in non-rd mode

While searching for the best mode in non-rd case, SSE of
a partition block is calculated and the transform size is set.
This patch rewrites the skip checking conditions based on
transform size instead of partition size to be more precise.

Small gains were seen in rtc set borg test (speed 6).
AVG PSNR: 0.087%, overall PSNR: 0.073%, SSIM: 0.146%.
No noticeable speed change.

Change-Id: I5603ca5339c784dfa02263f4005988ccd8c32f6e

Merge changes I1b972c94,I9c897d32

* changes:
  Prevent invalid memory access
  Use correct bsize for uv

Only wait for previous frame's motion vector if needed.

Change-Id: Iecce685a33b64844446c0009f21bc85566d7469f

Prevent invalid memory access

Change-Id: I1b972c945274254d896d772d859840b2f8211b4f

Merge "Fix a tsan error bug in frame parallel decode."

Merge changes I219c287b,I6adee670

* changes:
  Call encoder control before running ethread test.
  Don't copy thread data for the main thread.

Merge "Fix misleading indentation."

Call encoder control before running ethread test.

The first value of video->frame() is 15 because of the source range used.

Change-Id: I219c287b500fa376160d6dcfb937092e577ec959

Reduce default overshoot/undershoot params to 25

Reducing these values from 100 makes rate control tighter by
default.

Change-Id: I979409c93e6f19e128898f08ad581bf67eb0f824

Merge "Use 8 threads by default for VP9 encodes"

Merge "VP9: turn on tile-columns and frame-parallel-mode by default"

Merge "Don't inline cost_coeffs."

Merge "Fix valgrind memcpy memory overlaps warning"

Don't inline cost_coeffs.

It was tiny when it was orginally marked INLINE. Forcing this function
to be inlined prevents the compiler from inlining its much smaller
callers.

No measurable speed impact, 28320 byte smaller libvpx.a

Change-Id: I6bf4c917157d15cbadb3cd3e20a9e82d35dc7d6f

Fix misleading indentation.

Change-Id: Ic82b039a3d42f9aa01b85a3a69facfaa84b43a53

Don't copy thread data for the main thread.

Change-Id: I6adee6704cacfeae0ed0b217a91095457d1be74a

Move pred_mv assign outside integral projection motion search

Change-Id: I040b066fdce08e2f05115a22ea808715aa147779

Merge "Move integral projection motion search to vp9_mcomp.c"

Use correct bsize for uv

Change-Id: I9c897d32af6c3a956bb6f424a74c12737727038a

Declare function used by 'once' with 'void' parameters

Visual Studio is exceptionally picky about this:
vp9_reconintra.c(900): warning C4113: 'void (__cdecl *)()' differs in
parameter lists from 'void (__cdecl *)(void)'
[.build-x86_64-win64-vs10\vpx.vcxproj]

Change-Id: I564c7415f4608fd962be8c699d6133a996b545f7

Merge "Fix variable shadowing."

Merge "Small rationalization of code in vp9_first_pass"

Fix variable shadowing.

Change-Id: I287c61ad4aa85654aef3c871a62131bcd0d891ac

Merge "Remove unnecessary loopfilter init."

Merge "Make encoder buffer allocation dynamic"

Small rationalization of code in vp9_first_pass

Change-Id: I87cc0e038171c60a957298827e312fead500f7fb

Merge "Use SAD value to set chroma cost flag"

Move integral projection motion search to vp9_mcomp.c

Make it a general purpose fast motion estimation function, to be
used in the mode search process.

Change-Id: Ib354cb0e664dc61c30c0b2314297835ee75b157a

Use SAD value to set chroma cost flag

This saves an extra 64x64 variance calculation and replaces two
32x32 variance functions with sad functions. The compression
performance change is unnoticeable.

Change-Id: I6d33868695664ec73b56c42945162ae61c484856

Merge "Properly handle the boundary blocks for integral projection search"

Make encoder buffer allocation dynamic

Frame buffers are now allocated dynamically on-demand.

Entries in the reference frame map, cm->ref_frame_map,
may now be set to -1 (INVALID_IDX) to indicate that
there is not a valid reference buffer in that "slot".

All slots in the reference frame map are now initialized
to the empty state (-1) and each buffer is initialized
to have a reference count of 0.

Change-Id: Id1afe98de98db4ae8b2dfefed7889c3b28c68582

Merge "dc quantizer fix for 32x32 transforms"

Merge "Scale the normalization factor depending on the block size"

Use 8 threads by default for VP9 encodes

BUG=https://code.google.com/p/webm/issues/detail?id=964

Change-Id: I70679d0f139b8e0962f7e19eb56b34060953e9b0

Properly handle the boundary blocks for integral projection search

Use rectangular block size for integral projection motion estimation
if the the 64x64 block has over half block outside the frame. This
avoids the issue that the motion information of these blocks is
dominated by the extended pixels, instead of the pixels of interest.

Change-Id: I22f4d2bb7f6a20db9b3f5e2e5463a7f4b9d1b737

dc quantizer fix for 32x32 transforms

The rounding factor needs to be scaled down by a factor of 2.
Also, the quantized and dequantized coefficients are memset to 0
when dc quantizer is used.

Change-Id: Ifa68bab02addbf1b83d249c5b4cbd5cda796b1cf

Merge "fix a race condition caused by intra function pointer initialization"

Merge "Adapt color sensitiviy threshold to luma signal energy"

Fix valgrind memcpy memory overlaps warning

Change-Id: Id0bb162b48b891c5c849f0411ef2ac0aa4bbe261

Fix a tsan error bug in frame parallel decode.

A frame may be waiting for an out of border pixel from another
frame. A frame's row progress variable is set to -1 when start being decoded
and another frame may be waiting for -2 row pixel from this frame.
In this case, vp9_frameworker_wait will return directly and skip the waiting
which leads to tsan error between threads.

Change-Id: Id16604915fb598b823e34393f696e3aa46fb6422

Scale the normalization factor depending on the block size

Change-Id: I0a26994bf65ea224e496b09af2ce71e1a4210433

VP9: turn on tile-columns and frame-parallel-mode by default

Most of the current decoders use tile-based multithreading. Also
most of the current decoders need frame_parallel_decoding_mode
turned on to enable multithreaded decoding. tile-columns is
limited by resolution, so setting to max (6) is fine.

BUG=https://code.google.com/p/webm/issues/detail?id=963

Change-Id: I6e7ac3485d96bf0c69e06706cbb326dd38be0020

Adapt color sensitiviy threshold to luma signal energy

Instead using only a fixed threshold, this commit adapts the threshold
for color sensitivity decision to luma signal energy: chroma channel's
sse is at least 1/6 of that in luma for color sensitivity flag to be
set to active.

This recoups a large portion of the speed loss due to accounting for
chroma component costs in RTC mode decision.

Change-Id: Ie01f747f6037dba6a1d1ed3e10b71a0ef1abc42c

Remove unnecessary loopfilter init.

Loopfilters are init in vp9_decode_frame.

Change-Id: I4fbf6286b9b231451452e4ef3c19877a7b9a6768

fix a race condition caused by intra function pointer initialization

This patch fixed webm issue 962.
(https://code.google.com/p/webm/issues/detail?id=962)
The data races occurred when an encoder and a decoder were created
at the same time, and the function pointers were initialized twice.

Change-Id: I8851b753c4b4ad4767d6eea781b61f0ac9abb44b

Merge "libyuv: update to r1305"

ResizeCspTest: request PSNR packets

without VPX_CODEC_USE_PSNR they're only generated by default with
--enable-internal-stats

Change-Id: I9a5a8874a3aa4bde39ae09a4101ed5616c83c9a1

libyuv: update to r1305

MIPS build fixes

https://code.google.com/p/webm/issues/detail?id=957

Change-Id: I9d53900af36d783c369b5dff27a7479cb94fd16b

Use variance metric for integral projection vector match

This commit replaces the SAD with variance as metric for the
integral projection vector match. It improves the search accuracy
in the presence of slight light change. The average speed -6
compression performance for rtc set is improved by 1.7%. No speed
changes are observed for the test clips.

Change-Id: I71c1d27e42de2aa429fb3564e6549bba1c7d6d4d

Merge "Fix source frame border extension"

Fix source frame border extension

This commit fixes an issue in source frame border extension. It
causes certain frame resolution such as 640x480 to have a portion
of the right/bottom extension filled by zeros, which misleads
motion search and degrades transform coding performance when large
block size is used.

This fix improves the speed 2 compression performance of a few
yt sequence, typically ranging from 1% - 2%, up to 5% at median
to low bit-rate.

Change-Id: Id6b09a5695d9e7651c6dfbc2c6a72288b08af7fb

Merge "Fix calc_highbd_psnr"

Merge "Make SVC compatible with external resize."

Fix calc_highbd_psnr

Should use the crop dimensions of the frame rather
than the extended size.

Change-Id: I49ed041a46ff0753d43e074020857b7ff2f95e17

Merge "Fix arithmetic overflow warnings."

Merge "use LC_ALL=C to sort libvpx_*srcs.txt"

Merge "Refactor integral projection based motion estimation"

Merge "Fix high bit-depth loop-filter sse2 compiling issue - part 4"

Merge "Fix high bit-depth loop-filter sse2 compiling issue - part 3"

Merge "Fix high bit-depth loop-filter sse2 compiling issue - part 2"

Merge "Fix high bit-depth loop-filter sse2 compiling issue - part 1"

test-data.mk: fix perf test data dependency

both the encode and decode perf tests require niklas_1280_720_30.yuv
broken since:
28eebf3 Merge "tests: add a shorter 720p test clip"
7839d03 tests: add a shorter 720p test clip

Change-Id: I51ebbf7261832e25d8f2c1da5c7df5c2e47f748e

use LC_ALL=C to sort libvpx_*srcs.txt

Change-Id: I387da141ebade4fc4d2f3c0a2b6aa5aaea091c0c

tools_common.sh: use $$ in VPX_TEST_OUTPUT_DIR

a bit simpler than invoking awk for rand()

Change-Id: I36ac474708f7bf0157ae59b882c2a9f69b0aaf41

Merge "tools_common.sh: add directory name to error output"

Fix arithmetic overflow warnings.

Change-Id: Ib85b5bc135aa0907a76b8c74faafe577e27d014f

Fix high bit-depth loop-filter sse2 compiling issue - part 3

Change-Id: Idb14b9a285f8098126f967c5e2750221d6a58f69

Merge "Fix the encoder to support profile change"

Merge "Correct parameter order in a function call"

Merge "tests: add a shorter 720p test clip"

Refactor integral projection based motion estimation

Support variable block size integral projection based motion
estimation.

Change-Id: Iee6d65e44df4480aa13fb7b84b9c91914b89caa1

tools_common.sh: add directory name to error output

+ add a helper function to reduce the duplication

this is a bit clearer when the environment variable is set, but the
directory is missing

Change-Id: I08f9b56122b5741bb40a5f795f7f82f5b49f1047

Fix high bit-depth loop-filter sse2 compiling issue - part 2

Change-Id: I6728b69bb3dff1daa64ff7142f691e80a089f1c4

Fix the encoder to support profile change

Change-Id: Iefb928ad1174e274409facfb44f80265ff0f7683

Correct parameter order in a function call

Change-Id: Ibd87db1c4371edcbe193d39df2fdc07d3842c21a

Merge "Account for rate error in GF group Q calculation."

tests: add a shorter 720p test clip

niklas_1280_720_30.y4m 60 frames @ 30fps
only a small number of frames are being used; this reduces the test data
download size in non-perf-test cases by >500M.
retain niklas_1280_720_30.yuv for encode+decode perf tests

Change-Id: I56b3433104acd462f952a9554280de5a3ec0b6d2

Make SVC compatible with external resize.

Fixes https://code.google.com/p/webm/issues/detail?id=943

Change-Id: I6177bf6ab6b31a22d2652732f579b8aed3f28887

Merge "Motion compensated reference refinement"

Merge "Re-distribute hierarchical vector match pattern"

Motion compensated reference refinement

This commit applies one-step refinement search to the resulting
motion vector of the integral projectiion based motion estimation,
per 64x64 block. It improves the coding performance of speed -6.

pedestrian 1080p 500 kbps
51735 b/f, 36.794 dB, 16044 ms ->
51382 b/f, 36.793 dB, 16282 ms

cloud 1080p 500 kbps
24081 b/f, 37.988 dB, 14016 ms ->
23597 b/f, 38.076 dB, 12774 ms

vidyo1 720p 1000 kbps
16552 b/f, 40.514 dB, 8279 ms ->
16553 b/f, 40.543 dB, 8510 ms

The rtc set compression performance is improved by 0.5%.

Change-Id: I3d09bea2caf58b2a4f3b38aa26fffafcbe9a2c17

Merge "Fix a trivial memory leak"