Modify block transform skipping check

Block transform skipping was implemented based on DCT's energy
conservation property. Modified the thresholds using zero bin
parameters. AC and DC coefficients were checked separately to
allow better identifying of skippable blocks.

Borg test at speed 3 showed:
stdhd set: psnr gain: 0.153%, ssim gain: 0.051%;
derf set: psnr gain: 0.023%, ssim gain: 0.036%

For most test clips, the encoding speedup is 1% - 2%.
parkrun(720p): 7.5% speedup, park_joy(1080p): 3.5% speedup.

Change-Id: If28eb81113a077414f5ca7b021c14f9069b373bb

Merge "Skip the partition search for still frames"

Merge "Refactor encode_rd_sb_row function"

Merge "Misc. high-bit-depth fixes"

Merge "Remove redundant header file declaration"

Misc. high-bit-depth fixes

Change-Id: Ie9fb6a4078eb6a3fb7c4ff1453831ab9afe23121

Merge "Fix compiling error in vp9_idct.h"

Remove redundant header file declaration

Some header file in vp9_idct.c has been included in vp9_idct.h.
This commit removes these redundant declarations.

Change-Id: I0238c27e4efff5c981eb437022c6bc6970c4e445

Fix compiling error in vp9_idct.h

This commit fixes a compiling error in vp9_idct.h, where the codec
checks that the intermediate steps of transformation fit within
16-bit length. The issue was due to broken file dependency.

Change-Id: Ib22bba13a1e6df28489cb23d6774c561969f1fdc

Merge "Adds two new subpel search methods"

Merge "Fix a bug in calculating delta in VP9 denoiser."

Fix a bug in calculating delta in VP9 denoiser.

When calculating delta in VP8 denoiser, since the block size is fixed to 16x16,
the divisor is 256, which is the number of the pixel.
But in VP9, the block size varies, the divisor should correspond to the block
size.

Change-Id: Ibdc1e5d23ba8c788b0d0dc6d406bcdfc34c1b142

Adds two new subpel search methods

One is a more aggressive version of the pruned subpel tree
search where only a single halfpel candidate is searched.
The search candidate is based on a surface fit result.
The other is a method to obtain the subpel position at one
shot based on the same surface fit.

The methods have not been deployed in any speed setting yet.

Change-Id: I34fef3f2e34f11396c9d1ba97f4be8c4ffca62d3

Miscellaneous decoder changes for high bitdepth

Also includes yv12 config changes.

Change-Id: Iacf40d8bf486815b54c32a127ce3cd4516b7e44f

Merge "Skip certain ALTREF inter modes in ARF coding"

Fix a bug introduced in a previous patch on highbd

Change-Id: Ice692334f75157446a44a6e81503cada977934f4

Skip certain ALTREF inter modes in ARF coding

This commit enables the encoder to skip checking ALTREF inter modes
in ARF coding, if the predicted motion vectors suggest that the
GOLDEN_FRAME provides higher prediction accuracy than ALTREF_FRAME.

It improves the speed 3 encoding speed by about 5%, at the expense
of compression performance loss -0.041% and -0.225% for derf and
stdhd, respectively.

pedestrian_area 1080p 2000 kbps
66705 b/f, 40.909 dB, 118738 ms ->
66732 b/f, 40.908 dB, 113688 ms

old_town_cross 720p 1500 kbps
14427 b/f, 36.256 dB, 62746 ms ->
14412 b/f, 36.252 dB, 60690 ms

blue_sky 1080p 1500 kbps
51026 b/f, 35.897 dB, 73310 ms ->
50921 b/f, 35.893 dB, 70406 ms

bus CIF 1000 kbps
21301 b/f, 34.841 dB, 7326 ms ->
21248 b/f, 34.837 dB, 7196 ms

Change-Id: I76cf88b4d655e1ee3c0cb03c8a5745493040e8d2

Merge "iphonesimulator: make iOS 6 the minimum requirement"

Skip the partition search for still frames

This patch re-enabled the feature in Pengchong's patch
(commit 12861260732a4fd5f6b667ce9d5105dc9b606eda). Originally, it
was turned on while use_lastframe_partitioning > 0(not used anymore).
Now it was added as a feature, and turned on while speed >= 2.
As described in the original patch, this feature helps speed up the
slideshows in YouTube.

Change-Id: I1b0f18d65da1ee1c8d1e117dabba910c5207c471

iphonesimulator: make iOS 6 the minimum requirement

iOS 5 support isn't available in the Xcode 6 install; iOS 6 covers
phones starting at the 3GS, so should be a reasonable base line

Change-Id: I15572ec0dd73f1ffc88c58120c706384a01f2478

Merge "Avoid calling vp9_is_scaled two times in a function."

Merge "Adds various high bit-depth encode functions"

Fix build failure with Android NDK

The version of gcc4.6 included with the Android NDK through r10b
fails to compile this function. Replace it with C code.

BUG=860

Change-Id: Ifcc0476664071aec46a171cdd5ad17305930986a

Merge "Clarify GCC version check"

Merge "Fix IOCs"

Clarify GCC version check

The version check was incorrectly matching some versions of clang
which reported as gcc 4.2

Change-Id: I686d3576e71883fe1463206b56ab5e2aa9bb68a8

Avoid calling vp9_is_scaled two times in a function.

Use a local variable to hold the result of vp9_is_scaled.

Change-Id: I5e203909805923e20eefef596bc84424da47dbe2

Fix IOCs

A left shift of negative value causes IOC runtime warnings, this
commit converts two such left shifts to multiply to avoid IOCs.

Change-Id: I8811428768d7135e6e16af4b3094d0341589a995

Fix a couple of comments

The first comment is obselete given the way is now normative in VP9
bitstream. The second comment line was too long.

Change-Id: I6546585babf60d466485ddcf2daa6d2fa79e999a

Adds various high bit-depth encode functions

Change-Id: I6f67b171022bbc8199c6d674190b57f6bab1b62f

Remove unused variable in handle_inter_mode

Change-Id: Id757d2c940756ce1b0ead2ea24af9ac0a493de05

Merge "Correct the condition for border extension"

Correct the condition for border extension

As reported in issue #850, the condition for border extension was not
complete. This commit added the case when the scaling is enabled.

This fixes issue #850.

Change-Id: I67768b23f0dcc4ac9a9aa0a0825b0fe8cb85a72e

Merge "Fix build issue with stats enabled."

Refactor encode_rd_sb_row function

Simplified the code and removed some code that was not used anymore.
This patch didn't change encoding result.

Change-Id: I7e54a74c8f35a6726dfc8a1c55b337448b7ea124

Merge "Fix invalid memory access on 2x downscale."

Merge "Fix incorrect subsampling used in VP9 non420 loopfilter."

Fix incorrect subsampling used in VP9 non420 loopfilter.

Change-Id: Ia959e24b4676242c80a8867d2c39a6fee90f71a5

Fix build issue with stats enabled.

Compiler build issue when output stats enabled.

Change-Id: I7b5409108f3f27ba61b0241b9340b412683eff45

Adds high bit-depth frame resize functions

Change-Id: I35b015a759325d72d0da427c61a09f19f8e69697

Merge "Adapt mode based rd_threshold for similar block size"

Merge "Fix an IOC"

Adds high bit-depth psnr/sse functions

Also adds some miscellaneous high bit-depth setup functions.

Change-Id: I66488b08a5a2a8cb9518ca10497cf1c1501ceded

Merge "High bit-depth loop/arf/postproc filter functions"

Merge "Pruned subpel search for speed 3."

High bit-depth loop/arf/postproc filter functions

Adds high-bitdepth loopfilter, temporal filter and postproc functions

Change-Id: I81c8a9176890784686bc4f2af0d550d243b3b2d3

Adapt mode based rd_threshold for similar block size

The rd_thresholds are adaptively changed based on best mode tested.
It was only changed for the same block size, this commit makes the
adaptation for similar block sizes too. The commit also made minor
adjustment and code cleanups.

The impact on encoding time for _ped:
118089 ms -> 111927 ms

The impact on compression:
derf:  -0.339%
stdhd: -0.303%

Change-Id: I8817fed1102350497f2ec631849e43f753878e5d

Fix an IOC

Change-Id: I0ca6746696d81657c035b0f6523c9af370da3c95

Pruned subpel search for speed 3.

Adds code to return an integer cost list for NSTEP search. Then
uses it for pruned subpel search in speed 3.

derf: -0.06%
Speed on mobcal 720p increaes from 10.28 fps to 10.65 fps.
[Subject to further testing].

Change-Id: Ib591382d25b2c11bcaba9d3a27a93a9d1ab27a96

Merge "Remove code duplication"

Merge "Simplify rd_pick_intra_sby_mode()"

Merge "invalid_file_test.cc is only for VP9 decoder"

Remove code duplication

Change-Id: I453b3e0d946951665d5919248445fc4f3222d2ad

Simplify rd_pick_intra_sby_mode()

Change-Id: Ifb0915c94c2db48827ddbd446314cb6e3155b99c

invalid_file_test.cc is only for VP9 decoder

Fix --disable-vp9 build

https://code.google.com/p/webm/issues/detail?id=857

Change-Id: I98eacab5aa4aa9a657647acadd8ce2bd1a4590c0

Merge "[spatial svc] Remove vpx_svc_parameters_t and the loop that sets it for each layer"

Merge "[spatial svc]Remove quantizers option. Use max/min quantizers for each layer."

Merge "[spatial svc] Use string for quantizers and scale-factors option in the test app"

Merge "Remove unnecessary local variable declaration"

Merge "Adaptive mode search scheduling"

Merge "Fix compile warning."

Remove unnecessary local variable declaration

This commit removes a repetitive local variable declaration in
vp9_rd_pick_inter_mode_sb.

Change-Id: I1b0afa98ff1ecbfb46e17d3d1cee95d32c4309db

Adaptive mode search scheduling

This commit enables an adaptive mode search order scheduling scheme
in the rate-distortion optimization. It changes the compression
performance by -0.433% and -0.420% for derf and stdhd respectively.
It provides speed improvement for speed 3:

bus CIF 1000 kbps
24590 b/f, 35.513 dB, 7864 ms ->
24696 b/f, 35.491 dB, 7408 ms (6% speed-up)

stockholm 720p 1000 kbps
8983 b/f, 35.078 dB, 65698 ms ->
8962 b/f, 35.054 dB, 60298 ms (8%)

old_town_cross 720p 1000 kbps
11804 b/f, 35.666 dB, 62492 ms ->
11778 b/f, 35.609 dB, 56040 ms (10%)

blue_sky 1080p 1500 kbps
57173 b/f, 36.179 dB, 77879 ms ->
57199 b/f, 36.131 dB, 69821 ms (10%)

pedestrian_area 1080p 2000 kbps
74241 b/f, 41.105 dB, 144031 ms ->
74271 b/f, 41.091 dB, 133614 ms (8%)

Change-Id: Iaad28cbc99399030fc5f9951eb5aa7fa633f320e

Fix compile warning.

warning: comparison between signed and unsigned integer expressions.

Change-Id: Ib6ee7500fe910983f290fc321ad89c0ab9989455

Merge "Remove mi_grid_* structures."

Remove mi_grid_* structures.

mi_grid_* are arrays of pointer to pointer. They save the pointers that point
to the MIs in cm->mi. But they are unnecessary and complicated. The original
goal was to remove MODE_INFO_t copy. But with an extra MODE_INFO_t pointer
inside MODE_INFO_t, same goal could be achieved.

This commit totally removes the mi_grid_* structures. But there are still
many dummy MODE_INFO_t inside cm->mi which are a waste of memory. Next commit
will do on-demand MODE_INFO_t allocation in order to save these memories.

Change-Id: I3a05cf1610679fed26e0b2eadd315a9ae91afdd6

Merge "test/tools_common.sh: Add support for dumping list of tests."

Merge "High bit-depth coefficient coding functions"

test/tools_common.sh: Add support for dumping list of tests.

Via new command line argument --list-tests.

Change-Id: I0f12d10b49c14f5f68aafd5bc45362b1ea4f361f

High bit-depth coefficient coding functions

Tokenization and Detokenization enhancements for 10/12 bit

Change-Id: I3c269ec30f8eb160ee024905638a193975237559

Merge "build/make/iosbuild.sh: Support extra configure args."

Merge "build/make/rtcd.pl: Add missing arm64 support."

build/make/iosbuild.sh: Support extra configure args.

Change-Id: I9860ac1bb0180315e26987c5fc53d814ea1f0283

Merge "rtcd: relocate 'extern "C" {' declaration"

build/make/rtcd.pl: Add missing arm64 support.

Treats arm64 the same as armv8.

Change-Id: Ia5029f7bbff251d5aa0836bcccdf20fa0a693891

Merge "vp8: Update to the adaptive denoising mode."

vp8: Update to the adaptive denoising mode.

Allow for option to apply spatial blur for temporal
denoising, under the aggressive denoising mode.

Change-Id: I41c5fdc0b6cf32d8f8d1d4236b25fa5aa406e89e

rtcd: relocate 'extern "C" {' declaration

Place after pulling in forward declarations from the codec. This fixes
compilation of the tests under vs9.

Since
10783d4 Adds high bitdepth transform functions and tests
where vp9_idct.h was added to vp9_rtcd.h the tests are pulling in
vp9_systemdependent.h, which under visual studio include intrin.h. With
VS9 these include headers which define helper classes for intel
intrinsics. When including it in the tests (via vp9_rtcd.h) __cplusplus
is defined but vp9_rtcd.h would wrap declarations in 'extern "C" {'
causing a mismatch in linkage which resulted in compilation failure.

Change-Id: I475e50198b71320e8606bc95c9454876d8799ede

Merge "Add a conditional compilation macro to VP8 unit test."

[spatial svc] Remove vpx_svc_parameters_t and the loop that sets it for each layer

vpx_svc_parameters_t contains id, resolution and min/max qp for each spatial layer.

In this change we will use extra config to send min/max qp and scaling factors, then calculate layer resolution inside encoder.

Change-Id: Ib673303266605fe803c3b067284aae5f7a25514a

Add a conditional compilation macro to VP8 unit test.

In many tests in VP8, the denoiser is disabled. By adding this
conditional comilation macro, the unit test will not be included
when denoiser is not enabled.

Change-Id: I6edec85c996acca22aacd11161c52408be2660a3

Merge "FIX: vp9_loopfilter_intrin_sse2.c"

FIX: vp9_loopfilter_intrin_sse2.c

Fixes Visual Studio build failures

Change-Id: I233719cd63b3ad0db16e2834bf1d7ea1df805880

Merge "Add unit test for VP9 denoiser."

Merge "[spatial svc] Use same golden frame for all temporal layers"

Add unit test for VP9 denoiser.

Check basic datarate targeting for a single bitrate
when the denoiser is on.

Change-Id: Iad0e664859ffeb4ae6dd5f6dfb71a121e917e3fb

[spatial svc] Use same golden frame for all temporal layers

Overhead goes down from 8% to 3% for 1080 60p

Change-Id: Idf3e5ca8712402a914a8cb79df17d3cdab63b163

[spatial svc]Remove quantizers option. Use max/min quantizers for each layer.

Change-Id: I214bc4169f6c5eaee4957cd308a74d309e999005

Merge "Adds high bitdepth convolve, interpred & scaling"

Adds high bitdepth convolve, interpred & scaling

Change-Id: Ie51c352a6b250547207cbc1ebba833a01ed053e3

Substantial reworking of code for arf and kf groups.

Substantial restructuring of the way we estimate
the rate of decay in prediction quality and determine
the arf interval and amount of boost used.

Also other changes to support moving to a lower first pass
Q which exposes some new features and allows us to better
distinguish genuinely static blocks from low motion or noisy
blocks.

Net gains now visible on all the test sets with std-hd PSNR up
1.87%. There are still some bad outlier cases but most of these
are low motion or slide show type content where the metrics
are already high at any given rate. The best + case is up by
more than 10%.

Change-Id: I18e25170053bdf3188f493ff8062f48a74515815

Merge "Improved mb_lpf_horizontal_edge_w_sse2_16() #2"

[spatial svc] Use string for quantizers and scale-factors option in the test app

1. This is to align with the ffmpeg implementation
2. Remove APIs for setting quantizers and scale-factors

Change-Id: I6e238d71db790a9fb3254baaeb61e2a5aac58f48

Improved mb_lpf_horizontal_edge_w_sse2_16() #2

The decoder performance improved up to 1% for the
test clips used.

Change-Id: I4621112bdccfba01640322facfa4ba8da8290ea5

Merge "Resolves a few gcc warnings"

Merge "vp8: common: postproc: fix signed overflow of statement of (X +c) >= X when '-Werror=strict-overflow' is set."

Resolves a few gcc warnings

clang is fine.

Change-Id: Ia4e9ff17ea3b86bc87dca35828ee7ce45bea6994

Merge "arm: Fix building vp8_mse16x16_neon.c with MSVC"

Merge "Adding high-bitdepth intra prediction functions"

Merge "Remove memset of every external frame buffer."