Unify reference variance functions

Use uint32_t for all output and make all functions static

Change-Id: I2c9c6f6310732dc53444607d1c1a268ac1ab83ba

Merge "Cast variance reference output"

Merge "Fast feedback of bits on undershoot."

Cast variance reference output

The larger internal variables are required for the intermediates
but RoundHighBitDepth brings them down to uint32_t/unsigned int.

Fixes type warnings in visual studio.

Change-Id: I48d35284d6cbde330ccdc1f46b6215a645d5eb00

Merge "mips msa vp9 updated macros and disable all MSA functions"

Merge changes from topic 'vp9-intra-pred'

* changes:
  vp9_reconintra_neon: add DC 16x16 predictors
  vp9_reconintra_neon: add DC 8x8 predictors

vp9_reconintra_neon: add DC 16x16 predictors

85-89% faster over 20M pixels

Change-Id: I9b320ed6b9e67f27df738b84c8b43b65a93c50c2

vp9_reconintra_neon: add DC 8x8 predictors

~90% faster over 20M pixels

Change-Id: Iab791510cc57c8332c2f9a5da0ed50702e5f5763

mips msa vp9 updated macros and disable all MSA functions

Done little restructuring/styling changes to the sources like generic macro definitions, their use to reduce code lines, better code alignments etc.
Disabled all MSA hooks and tests

Change-Id: Ic6f2dce0b501f46b80c06c46c0fe2043d557b190

variance_neon: add missing include

vpx_ports/mem.h is necessary for MSVC __builtin_prefetch compatibility
macro

Change-Id: I210fad6c6b4545df1874d028b31f42018490b029

For non-rd pickmode: remove VAR_PARTITION condition.

Keep the logic, transform size based on cyclic refresh and bsize,
(that was conditioned on VAR_PARTITION conditions) the same
for all speeds in non-rd mode (speeds >= 5).

No change to speeds >=6.
Small improvement for speed 5, ~0.5/1.5% gain for avg psnr/ssim.

Change-Id: If9c5657f3d30efd3c7f147166bba7cb69ea55114

Merge "[svc] Disable tiles for spatial svc case"

Merge "Check size restrictions before running test vector"

Merge "Re-worked header files"

Merge "Use correct parameters for NEON variance tests"

Merge "Remove conversion warnings from hbd shifts"

Merge "Don't #define snprintf in VS 2015 or higher."

Use correct parameters for NEON variance tests

Change-Id: Ib2949d0a3e9273e7952bbf91956357c1138093f1

Merge "Add error handling when running out of free frame buffers."

Don't #define snprintf in VS 2015 or higher.

In VS 2015 and higher snprintf is supplied and therefore vsnprintf
doesn't need to be defined. This also avoids problems caused by
_snprintf being different from snprintf.

This fixes a build break with VS 2015 and improves security.

Originally submitted via chromium by brucedawson@chromium.org
https://codereview.chromium.org/1055603003

Additionally break this MSVC-specific tweak to a new file, which will
become the home of all such MSVC-specific things.

This requires adding a dependency on msvc.h to every example which uses
args.c and tools_common.h

Change-Id: I35b5f8e7ea00f6627403aabc9ea79b0412557a99

Remove conversion warnings from hbd shifts

ROUND_POWER_OF_TWO has some poor side effects when used
with [u]int64_t such as doing the shifting in 32bits.

Change-Id: Ic85a19765cd316fb43657cb21c86f35ceb772773

Check size restrictions before running test vector

Change-Id: I60ea7724e6ab06fc658f678c1b76d984a43f5a5e

Add error handling when running out of free frame buffers.

Change-Id: If28b59b9521204a6e3aecedcf75932d76a752567

Merge "Only use one 'END' per file"

Merge "[decoder] Optimize context buffer re-allocation"

Non-rd variance partition: Adjust thresholds for 1080p.

Increase the 32x32 split threshold, to allow for more 32x32
at expense of 16x16. Visually looks somewhat better.

Change-Id: Ia1439c3a0dc2d7933468b88bd59266fcd9f03505

Merge "Correct case in Get4x4SSEFunc"

Merge "Refactor set_vbp_thresholds."

Only use one 'END' per file

On visual studio builds the 'END' directive aggressively signals the end
of file.

Change-Id: I28714da32762ef5abcbaeb5a109fb02b80dd13ec

Correct case in Get4x4SSEFunc

Change-Id: Ie8a7508798fa8e65c579a77cedb8305cee4ddc81

Merge "[svc] Make size of empty frame to be 16x16 all the time"

Refactor set_vbp_thresholds.

Break out the setting of the block variance split thresholds,
since they are locally modified, e.g., based on local/segment qp.

No change in performance.

Change-Id: I0a3238e6dab05140657539fc4bd27ac5ff7a554e

[svc] Make size of empty frame to be 16x16 all the time

Change-Id: Ibab09aa0e8c69cf5efea2f0ec035e5da9cc894b0

Merge "Move variance functions to vpx_dsp"

Move variance functions to vpx_dsp

subpel functions will be moved in another patch.

Change-Id: Idb2e049bad0b9b32ac42cc7731cd6903de2826ce

Merge "[svc] Turn on frame_parallel_decoding_mode"

Merge "Fix integral projection motion search for frame resize"

Merge changes Ie15e301e,Ib070c79b

* changes:
  vp9_reconintra_neon: cosmetics: reindent
  vp9_reconintra_neon: cosmetics: drop unneeded returns

vp9_reconintra_neon: cosmetics: reindent

Change-Id: Ie15e301e8f55cf928f42a03e53a8bb8b66d0e5d5

vp9_reconintra_neon: cosmetics: drop unneeded returns

Change-Id: Ib070c79bdbb9c1f4e25af693d7056ec9f964c789

vp9: move ssse3 convolve fns to intrinsics file

+ synchronize filter function signatures

this makes any intrinsics filters available for inlining and has the
side-effect of making those filters static, quieting missing-prototype
warnings.

Change-Id: I1908875caffa585bd4fc65aaf10d17a5e20cfb46

vp9: move avx2 convolve fns to intrinsics file

+ synchronize filter function signatures

this makes any intrinsics filters available for inlining and has the
side-effect of making those filters static, quieting missing-prototype
warnings.

Change-Id: I1cd55c9d52547793ad65aa90c7620f0e426edaa2

add vp9/common/x86/convolve.h

collect the vp9_convolve function definition macros there; this will
allow some relocation of functions from vp9_asm_stubs.c

Change-Id: Idadd117fa256dd48748379856973fd985b8204e8

Merge "Remove unused "alt-tree-layout""

Fix integral projection motion search for frame resize

This commit fixes the integral projection motion search crash when
frame resize is used. It fixes issue 994.

Change-Id: Ieeb52619121d7444f7d6b3d0cf09415f990d1506

vp9_subpixel_8t_intrin_ssse3: quiet vs9 warning

reorder includes to avoid:
warning C4985: 'ceil': attributes not present on previous declaration.

this is the same workaround used in vp9/common/vp9_systemdependent.h

Change-Id: Ia10dd63de24f96fa1507a6179220e9d6ec774db6

Remove unused "alt-tree-layout"

Change-Id: Idddefb2fd3e4441421f61bd246479c627020a652

Re-worked header files

Various header/test files had to be re-worked in order to
build "Remove cm parameter from vp9_decode_block_tokens()".

This patch reverts the "Remove cm" part and only contains
the re-worked header files.

Change-Id: I520958a88d1991fee988a3c784d0eac40e117a32

Fix to visual studio build error.

Change-Id: Ide080141ebc064584574c861fb324fe64cc572cc

Merge "Fix issues with mixed ARF and GF groups."

vp9_mvref_common.c: fix compile warning

string literal to int within an assert

Change-Id: Ifd7acc717e01ee1bb3955ef830ec0d1645942459

[svc] Disable tiles for spatial svc case

Change-Id: I8655a6760ab61947c09f337ddd9f4c1baf803a56

vp8_drop_encodedframe_overshoot: fix to return setting.

Make sure force_maxqp is set to 0 for return 0.

Change-Id: Ie7c57842637226e932a390e7080e5ebb99996da3

[decoder] Optimize context buffer re-allocation

1. Check existing buffer sizes when re-allocate context buffers.
2. Don't need to set mi buffers to 0 during setup_mi.

Change-Id: I6b48b0e077a4d804312b605ad0dc34aec5795a6d

[svc] Turn on frame_parallel_decoding_mode

Change-Id: I33b0384ee87f83950e03be6c999bc5f193055fd3

Fast feedback of bits on undershoot.

This patch provides a partial rapid feedback of bits
resulting from extreme undershoot.

Some  improvement on some problem animated material
but in its current form only a small impact on the metrics results
of our standard test sets.

Change-Id: Ie03036ea8123bc2553437cb8c8c9e7a9fc5dac5d

Fix issues with mixed ARF and GF groups.

This patch addresses two issues that can occur when the
encoder chooses to use a mixture of ARF and GF groups.

The first issue relates to a failure to reset the "ARF active" flag
correctly when transitioning from coding ARF groups to coding
GF groups. This caused some golden frames to be  encoded
with an incorrect bit rate target as if they were ARF overlay frames.

The second issue relates to the encoding of a single short GF group
just before a key frame.  Where the last group before a key frame
is an ARF group we expect the final frame before the key frame  to
be an low data rate overlay frame. However, when the last  group
is a GF group, the final frame before the key frame should be a normal
frame with a normal bit allocation. This issue had the potential to cause
a single poorly coded frame just before a key frame. If that key frame
were a forced key frame rather than a real scene cut, this might cause
pulsing.

Change-Id: Idf1eb5eaf63a231495a74de7899236e1ead9fb00

VP8: For high overshoot, force drop frame and max-out QP.

This allows rate control to react to content of current frame being encoded.
Enabling this feature via the setting: screen_content_mode = 2.

Change-Id: Ib2c6670551d96f4907495d5b7b76bb8c49e673db

Merge "rename vp9_dct_impl_sse2.c to vp9_dct_sse2_impl.h"

Merge "rename vp9_dct32x32_sse2.c to vp9_dct32x32_sse2_impl.h"

Merge "rename vp9_dct32x32_avx2.c to vp9_dct32x32_avx2_impl.h"

md5_helper.h: fix type conversion warning

add a cast in Add() from size_t -> uint32; quiets a visual studio build
warning

Change-Id: I0d87a3e460faf1fe2d4fb44df5f4042ef7500190

test_intra_pred_speed: reuse test_libvpx's main()

this allows test_libvpx's simd caps check to be used; it also fixes a
link error on OS X with -fcommon.

Change-Id: I1a62a3e74ba06b8f3b37a22fcfdebf90c04ab289

test_libvpx: add <arch>.* to negative filter

in addition to <arch>/*. this will pick up tests defined with TEST()
instead of INSTANTIATE_TEST_CASE_P()

Change-Id: I0917741baac89d9ce857f4d4aa53790e8a0c6c12

dec_build_inter_predictors: don't return a void fn

split call of extend_and_predict() and return, fixes visual studio build
warning since:
0a80164 Move mc_buf to cut down size of MACROBLOCKD.

Change-Id: I7cdf712941ef773a07f038539cb8080dc27861cd

rename vp9_dct_impl_sse2.c to vp9_dct_sse2_impl.h

this file shouldn't be built directly, it is included in vp9_dct_sse2.c
to create a non-high-bitdepth and a high-bitdepth version

silences missing prototype warnings for the unused FDCT* functions

Change-Id: Ide6ff8c24ab31bdb0f833260505ae33660a1ad5b

rename vp9_dct32x32_sse2.c to vp9_dct32x32_sse2_impl.h

this file shouldn't be built directly, it is included in vp9_dct_sse2.c
to create a non-high-bitdepth and a high-bitdepth version

silences missing prototype warnings for the unused FDCT32x32* functions

Change-Id: I0e38f16dae5ea1728de184ee2c89287d48675c51

rename vp9_dct32x32_avx2.c to vp9_dct32x32_avx2_impl.h

this file shouldn't be built directly, it is included in vp9_dct_avx2.c
to create a non-high-bitdepth and a high-bitdepth version

silences missing prototype warnings for the unused FDCT32x32* functions

Change-Id: I4c19935c0e035b393be513bde735e9a78064a494

Merge "tests: add test_intra_pred_speed"

Merge changes from topic 'missing-proto'

* changes:
  vp9_subexp.h: add a missing prototype
  vp9: add some missing includes
  vp9 intrinsics: add vp9_rtcd include
  vp9: correct some function signatures
  vp9_variance_sse2: sync function signatures
  vp9/encoder: make some functions static
  vp9_dct_sse2: make some functions static
  vp9_decodeframe.c: make a function static

Merge "Change tx_size_search_method setting for non-rd speed 5."

Change tx_size_search_method setting for non-rd speed 5.

Use the same settting as in speed >=6.
This will use same logic for tx_size selecton as in speed >=6,
which limits the transform size and reduces ringing artifact.
Also metrics go up on average with this change: ~2% for PSNR, ~10% for SSIM.

Change-Id: Ia2d50db236ae1cc72f742bfa6c9ec5ea50ff0e0a

vp9_subexp.h: add a missing prototype

+ include the .h in the .c
silences missing prototype warnings

Change-Id: Ia87366dccb4bf4e9f2ffa5d3ab51ac6ca5488c91

vp9: add some missing includes

mostly: <file>.c should include <file>.h
silences missing prototype warnings

Change-Id: Ic05ec32c6f7b2224b78825904d96d73aacad6000

vp9 intrinsics: add vp9_rtcd include

silences a missing declaration warning

Change-Id: I59a34e1a1377cf3529b678d7ec0122bd43ab1bf1

vp9: correct some function signatures

silences missing prototype warnings

Change-Id: Idaf68d83d2cb03847f3ee002c4d00c2ac79da604

vp9_variance_sse2: sync function signatures

+ include vp9_rtcd.h
silences missing prototype warnings

Change-Id: I77902f07a454029baad4fe5fe6fc37c65644e6f7

vp9/encoder: make some functions static

silences missing prototype warnings

Change-Id: I3338fcaa67b5dcdf6bf237e8b374db3befd18753

vp9_dct_sse2: make some functions static

silences missing prototype warnings

Change-Id: I773b6a6b5bd7c57db18c3b17c519534f80e131de

vp9_decodeframe.c: make a function static

silences a missing declaration warning

Change-Id: I2f49ebca9ba7a47f3c48f5fe919b90cd4114a9bc

Merge "Fix illegal memory access when stream starts w/ invisible frame."

Merge changes from topic 'missing-proto'

* changes:
  vp8/rdopt.h+onyx_int.h: add some missing prototypes
  vp8: add some missing includes
  vp8: make some functions static
  vp8/common/variance*: add vp8_rtcd include
  vp8_copy32xn: sync function signature

Merge changes from topic 'missing-proto'

* changes:
  sad*_avx2.c: sync function signatures
  vpx_scale: add missing rtcd + vpx_scale includes

Merge changes from topic 'missing-proto'

* changes:
  fdct8x8_test: move functions to an anonymous namespace
  md5_utils.c: make a function static
  vpx_config.c: add vpx_codec include

Merge "Move mc_buf to cut down size of MACROBLOCKD."

Merge "Revert "Skip the last frame update for some frame repeats.""

vp8/rdopt.h+onyx_int.h: add some missing prototypes

silences missing prototype warnings

Change-Id: Icd477e37b502205d0a60e7389e51b1ba17d8888e

vp8: add some missing includes

silences missing prototype warnings

Change-Id: Ib62e4743532b871e63bc99732875fff20501b8ac

vp8: make some functions static

silences missing prototype warnings

Change-Id: I9f24a3214c832c982ca0dc5a032316eba48472ff

vp8/common/variance*: add vp8_rtcd include

silences missing prototype warnings

Change-Id: I5ca198b56a5ff0cf5b93c89957526f243c04e9c8

vp8_copy32xn: sync function signature

+ include vp8_rtcd.h in copy_c.c
silences missing prototype warnings

Change-Id: Iecc279c695b08a26b231dedb41e3b84c551703f3

sad*_avx2.c: sync function signatures

+ include vpx_dsp_rtcd.h
silences missing prototype warnings

Change-Id: Ifa1780bcf72b1fa2b153025d0d78d91ad38774c3

vpx_scale: add missing rtcd + vpx_scale includes

silences missing prototype warnings

Change-Id: I33320f66c789b8c5c51d69f9dc0e017f9e06b0d0

fdct8x8_test: move functions to an anonymous namespace

silences missing declaration warnings

Change-Id: I9486c13c973df3d25fcdc2c3de9a0da783ce8fd6

md5_utils.c: make a function static

silences a missing prototype warning

Change-Id: I982c9c70e0e9f94a5201559300cadb8bd22441f9

vpx_config.c: add vpx_codec include

silences a missing prototype warning

Change-Id: I31a11c8390ae58e9a99ecc7cdf2a36334fac3f65

Move mc_buf to cut down size of MACROBLOCKD.

Change-Id: Icea64b9e5632b41aaa7cd7018c501d6add9b7a7f

tests: add test_intra_pred_speed

useful for speed testing / verifying individual function optimizations;
currently tests non-high-bitdepth VP9 intra predictors

Change-Id: Ibd247765e43a31894697d43f1d39d312e0ba2090

Fix illegal memory access when stream starts w/ invisible frame.

Add a check to make sure we have a decoded frame available
before copying its 'corrupt' flag.

(Originally submitted to the old repository by Alexander Voronov
as: https://gerrit.chromium.org/gerrit/#/c/74305/).

Change-Id: Iceb4686c785afb437b668015bf8818b18d60e0ce

Merge "Remove BUILD_LIBVPX_SO variable from the build system."