Remove unused sub pixel mse

Change-Id: I7a5e4e2632c3fa69d2a85a68fa9b418631caf09c

Merge "mips msa vp9 convolve8 avg vert optimization"

Merge "test-data.sha1: mark test data files as binary"

Merge "Support building shared libraries on OS/2"

test-data.sha1: mark test data files as binary

Change-Id: Ie3605bf4c4fb16eb21186adbb4577c20a8027344

Support building shared libraries on OS/2

Change-Id: I5750db0504cb69ead52f9f44bf583e693bffbb7e

mips msa vp9 convolve8 avg vert optimization

average improvement ~4x-6x

Change-Id: Ia2e6f770da46416ebec31fdcea5cc7878879a9d9

Merge "mips msa vp9 idct4x4 and iwht4x4 optimization"

Merge "Unify reference variance functions"

Unify reference variance functions

Use uint32_t for all output and make all functions static

Change-Id: I2c9c6f6310732dc53444607d1c1a268ac1ab83ba

Merge "Disable neon bilinear 4x4"

Vidyo patch: Rate control for SVC, 1 pass CBR mode.

-Make Rate control work for SVC 1 pass CBR mode.
-Added temporal layering mode.
-Fixed bug in non-rd variance partition.
-Modified/updated the sample encoders (vp9_spatial_svc_encoder, vpx_temporal_svc_encoder).
-Added datarate unittest(s) for 1 pass CBR SVC.

Change-Id: Ie94b1b68a56ea1267b5087c625e5df04def2ee48

mips msa vp9 idct4x4 and iwht4x4 optimization

average improvement ~3x-4x
moved assert to respective files

Change-Id: I6c915059d456a00bdd76fab0dd2eede8b6c6ea58

mips msa vp9 updated convolve horiz, vert, hv, copy, avg module

Updated sources according to improved version of common MSA macros.
Enabled respective convolve MSA hooks and tests.
Overall, this is just upgrading the code with styling changes.

Change-Id: If5ad6ef8ea7ca47feed6d2fc9f34f0f0e8b6694d

Merge "mips msa vp9 updated idct 8x8, 16x16 and 32x32 module"

Disable neon bilinear 4x4

Clang adds alignment hints when casting up the loads/stores. Although
this should be safe for most paths, it's causing some crashes. Either
the source of the misalignment needs to be determined and adjusted or
the intrinsics need to be rewritten to avoid using the cast to load the
data.

BUG=817,892

Change-Id: Ia3aa824d6a4cd97e14325ff49dc730b6f85ec7e8

Merge "Adds subsecond frame rates to webm"

Merge changes from topic 'vp9-intra-pred'

* changes:
  vp9_reconintra_neon/tm: improve above_left load
  vp9_reconintra_neon: cosmetics: normalize fn params

Merge "vp9_reconintra_neon_asm/tm: simplify above_left load"

Merge "Cast variance reference output"

Merge "Fast feedback of bits on undershoot."

Cast variance reference output

The larger internal variables are required for the intermediates
but RoundHighBitDepth brings them down to uint32_t/unsigned int.

Fixes type warnings in visual studio.

Change-Id: I48d35284d6cbde330ccdc1f46b6215a645d5eb00

Adds subsecond frame rates to webm

Numerator was being range checked against the
denominator - preventing any frame rate slower
than 1 fps.

I've tested this on a Mac using using ffmpeg and
results are comparable to mp4 and ogg files generated
at the same time.

Not yet tested on Windows.

Johnny Klonaris
google@jawknee.com

Change-Id: Idb358dbc2e7dc000037880ede4a1b0df248a42c8

mips msa vp9 updated idct 8x8, 16x16 and 32x32 module

Updated sources according to improved version of common MSA macros.
Enabled idct MSA hooks and tests.
Overall, this is just upgrading the code with styling changes.

Change-Id: I1f488ab2c741f6c622b7a855388a202168082209

Merge "mips msa vp9 updated macros and disable all MSA functions"

vp9_reconintra_neon/tm: improve above_left load

use vld1?_dup_u8 over vdup?_n_u8, reduces general register use; mildly
faster

Change-Id: Ie0e4e550849a207b34b378541196b553c9f12011

vp9_reconintra_neon: cosmetics: normalize fn params

s/y_stride/stride/

Change-Id: Ie98c3fe241dc240b653849eda356a8862bdd52f4

vp9_reconintra_neon_asm/tm: simplify above_left load

use vld1.8 {d0[]}, [r0] rather than ldrb+vdup; mildly faster

Change-Id: I5c24d49a90c2855c94395184774b289da8e9d5a7

Merge changes from topic 'vp9-intra-pred'

* changes:
  vp9_reconintra_neon: add DC 16x16 predictors
  vp9_reconintra_neon: add DC 8x8 predictors

vp9_reconintra_neon: add DC 16x16 predictors

85-89% faster over 20M pixels

Change-Id: I9b320ed6b9e67f27df738b84c8b43b65a93c50c2

vp9_reconintra_neon: add DC 8x8 predictors

~90% faster over 20M pixels

Change-Id: Iab791510cc57c8332c2f9a5da0ed50702e5f5763

mips msa vp9 updated macros and disable all MSA functions

Done little restructuring/styling changes to the sources like generic macro definitions, their use to reduce code lines, better code alignments etc.
Disabled all MSA hooks and tests

Change-Id: Ic6f2dce0b501f46b80c06c46c0fe2043d557b190

variance_neon: add missing include

vpx_ports/mem.h is necessary for MSVC __builtin_prefetch compatibility
macro

Change-Id: I210fad6c6b4545df1874d028b31f42018490b029

For non-rd pickmode: remove VAR_PARTITION condition.

Keep the logic, transform size based on cyclic refresh and bsize,
(that was conditioned on VAR_PARTITION conditions) the same
for all speeds in non-rd mode (speeds >= 5).

No change to speeds >=6.
Small improvement for speed 5, ~0.5/1.5% gain for avg psnr/ssim.

Change-Id: If9c5657f3d30efd3c7f147166bba7cb69ea55114

Merge "[svc] Disable tiles for spatial svc case"

Merge "Check size restrictions before running test vector"

Merge "Re-worked header files"

Merge "Use correct parameters for NEON variance tests"

Merge "Remove conversion warnings from hbd shifts"

Merge "Don't #define snprintf in VS 2015 or higher."

Use correct parameters for NEON variance tests

Change-Id: Ib2949d0a3e9273e7952bbf91956357c1138093f1

Merge "Add error handling when running out of free frame buffers."

Don't #define snprintf in VS 2015 or higher.

In VS 2015 and higher snprintf is supplied and therefore vsnprintf
doesn't need to be defined. This also avoids problems caused by
_snprintf being different from snprintf.

This fixes a build break with VS 2015 and improves security.

Originally submitted via chromium by brucedawson@chromium.org
https://codereview.chromium.org/1055603003

Additionally break this MSVC-specific tweak to a new file, which will
become the home of all such MSVC-specific things.

This requires adding a dependency on msvc.h to every example which uses
args.c and tools_common.h

Change-Id: I35b5f8e7ea00f6627403aabc9ea79b0412557a99

Remove conversion warnings from hbd shifts

ROUND_POWER_OF_TWO has some poor side effects when used
with [u]int64_t such as doing the shifting in 32bits.

Change-Id: Ic85a19765cd316fb43657cb21c86f35ceb772773

Check size restrictions before running test vector

Change-Id: I60ea7724e6ab06fc658f678c1b76d984a43f5a5e

Add error handling when running out of free frame buffers.

Change-Id: If28b59b9521204a6e3aecedcf75932d76a752567

Merge "Only use one 'END' per file"

Merge "[decoder] Optimize context buffer re-allocation"

Non-rd variance partition: Adjust thresholds for 1080p.

Increase the 32x32 split threshold, to allow for more 32x32
at expense of 16x16. Visually looks somewhat better.

Change-Id: Ia1439c3a0dc2d7933468b88bd59266fcd9f03505

Merge "Correct case in Get4x4SSEFunc"

Merge "Refactor set_vbp_thresholds."

Only use one 'END' per file

On visual studio builds the 'END' directive aggressively signals the end
of file.

Change-Id: I28714da32762ef5abcbaeb5a109fb02b80dd13ec

Correct case in Get4x4SSEFunc

Change-Id: Ie8a7508798fa8e65c579a77cedb8305cee4ddc81

Merge "[svc] Make size of empty frame to be 16x16 all the time"

Refactor set_vbp_thresholds.

Break out the setting of the block variance split thresholds,
since they are locally modified, e.g., based on local/segment qp.

No change in performance.

Change-Id: I0a3238e6dab05140657539fc4bd27ac5ff7a554e

[svc] Make size of empty frame to be 16x16 all the time

Change-Id: Ibab09aa0e8c69cf5efea2f0ec035e5da9cc894b0

Merge "Move variance functions to vpx_dsp"

Move variance functions to vpx_dsp

subpel functions will be moved in another patch.

Change-Id: Idb2e049bad0b9b32ac42cc7731cd6903de2826ce

Merge "[svc] Turn on frame_parallel_decoding_mode"

Merge "Fix integral projection motion search for frame resize"

Merge changes Ie15e301e,Ib070c79b

* changes:
  vp9_reconintra_neon: cosmetics: reindent
  vp9_reconintra_neon: cosmetics: drop unneeded returns

vp9_reconintra_neon: cosmetics: reindent

Change-Id: Ie15e301e8f55cf928f42a03e53a8bb8b66d0e5d5

vp9_reconintra_neon: cosmetics: drop unneeded returns

Change-Id: Ib070c79bdbb9c1f4e25af693d7056ec9f964c789

vp9: move ssse3 convolve fns to intrinsics file

+ synchronize filter function signatures

this makes any intrinsics filters available for inlining and has the
side-effect of making those filters static, quieting missing-prototype
warnings.

Change-Id: I1908875caffa585bd4fc65aaf10d17a5e20cfb46

vp9: move avx2 convolve fns to intrinsics file

+ synchronize filter function signatures

this makes any intrinsics filters available for inlining and has the
side-effect of making those filters static, quieting missing-prototype
warnings.

Change-Id: I1cd55c9d52547793ad65aa90c7620f0e426edaa2

add vp9/common/x86/convolve.h

collect the vp9_convolve function definition macros there; this will
allow some relocation of functions from vp9_asm_stubs.c

Change-Id: Idadd117fa256dd48748379856973fd985b8204e8

Merge "Remove unused "alt-tree-layout""

Fix integral projection motion search for frame resize

This commit fixes the integral projection motion search crash when
frame resize is used. It fixes issue 994.

Change-Id: Ieeb52619121d7444f7d6b3d0cf09415f990d1506

vp9_subpixel_8t_intrin_ssse3: quiet vs9 warning

reorder includes to avoid:
warning C4985: 'ceil': attributes not present on previous declaration.

this is the same workaround used in vp9/common/vp9_systemdependent.h

Change-Id: Ia10dd63de24f96fa1507a6179220e9d6ec774db6

Remove unused "alt-tree-layout"

Change-Id: Idddefb2fd3e4441421f61bd246479c627020a652

Re-worked header files

Various header/test files had to be re-worked in order to
build "Remove cm parameter from vp9_decode_block_tokens()".

This patch reverts the "Remove cm" part and only contains
the re-worked header files.

Change-Id: I520958a88d1991fee988a3c784d0eac40e117a32

Fix to visual studio build error.

Change-Id: Ide080141ebc064584574c861fb324fe64cc572cc

Merge "Fix issues with mixed ARF and GF groups."

vp9_mvref_common.c: fix compile warning

string literal to int within an assert

Change-Id: Ifd7acc717e01ee1bb3955ef830ec0d1645942459

[svc] Disable tiles for spatial svc case

Change-Id: I8655a6760ab61947c09f337ddd9f4c1baf803a56

vp8_drop_encodedframe_overshoot: fix to return setting.

Make sure force_maxqp is set to 0 for return 0.

Change-Id: Ie7c57842637226e932a390e7080e5ebb99996da3

[decoder] Optimize context buffer re-allocation

1. Check existing buffer sizes when re-allocate context buffers.
2. Don't need to set mi buffers to 0 during setup_mi.

Change-Id: I6b48b0e077a4d804312b605ad0dc34aec5795a6d

[svc] Turn on frame_parallel_decoding_mode

Change-Id: I33b0384ee87f83950e03be6c999bc5f193055fd3

Fast feedback of bits on undershoot.

This patch provides a partial rapid feedback of bits
resulting from extreme undershoot.

Some  improvement on some problem animated material
but in its current form only a small impact on the metrics results
of our standard test sets.

Change-Id: Ie03036ea8123bc2553437cb8c8c9e7a9fc5dac5d

Fix issues with mixed ARF and GF groups.

This patch addresses two issues that can occur when the
encoder chooses to use a mixture of ARF and GF groups.

The first issue relates to a failure to reset the "ARF active" flag
correctly when transitioning from coding ARF groups to coding
GF groups. This caused some golden frames to be  encoded
with an incorrect bit rate target as if they were ARF overlay frames.

The second issue relates to the encoding of a single short GF group
just before a key frame.  Where the last group before a key frame
is an ARF group we expect the final frame before the key frame  to
be an low data rate overlay frame. However, when the last  group
is a GF group, the final frame before the key frame should be a normal
frame with a normal bit allocation. This issue had the potential to cause
a single poorly coded frame just before a key frame. If that key frame
were a forced key frame rather than a real scene cut, this might cause
pulsing.

Change-Id: Idf1eb5eaf63a231495a74de7899236e1ead9fb00

VP8: For high overshoot, force drop frame and max-out QP.

This allows rate control to react to content of current frame being encoded.
Enabling this feature via the setting: screen_content_mode = 2.

Change-Id: Ib2c6670551d96f4907495d5b7b76bb8c49e673db

Merge "rename vp9_dct_impl_sse2.c to vp9_dct_sse2_impl.h"

Merge "rename vp9_dct32x32_sse2.c to vp9_dct32x32_sse2_impl.h"

Merge "rename vp9_dct32x32_avx2.c to vp9_dct32x32_avx2_impl.h"

md5_helper.h: fix type conversion warning

add a cast in Add() from size_t -> uint32; quiets a visual studio build
warning

Change-Id: I0d87a3e460faf1fe2d4fb44df5f4042ef7500190

test_intra_pred_speed: reuse test_libvpx's main()

this allows test_libvpx's simd caps check to be used; it also fixes a
link error on OS X with -fcommon.

Change-Id: I1a62a3e74ba06b8f3b37a22fcfdebf90c04ab289

test_libvpx: add <arch>.* to negative filter

in addition to <arch>/*. this will pick up tests defined with TEST()
instead of INSTANTIATE_TEST_CASE_P()

Change-Id: I0917741baac89d9ce857f4d4aa53790e8a0c6c12

dec_build_inter_predictors: don't return a void fn

split call of extend_and_predict() and return, fixes visual studio build
warning since:
0a80164 Move mc_buf to cut down size of MACROBLOCKD.

Change-Id: I7cdf712941ef773a07f038539cb8080dc27861cd

rename vp9_dct_impl_sse2.c to vp9_dct_sse2_impl.h

this file shouldn't be built directly, it is included in vp9_dct_sse2.c
to create a non-high-bitdepth and a high-bitdepth version

silences missing prototype warnings for the unused FDCT* functions

Change-Id: Ide6ff8c24ab31bdb0f833260505ae33660a1ad5b

rename vp9_dct32x32_sse2.c to vp9_dct32x32_sse2_impl.h

this file shouldn't be built directly, it is included in vp9_dct_sse2.c
to create a non-high-bitdepth and a high-bitdepth version

silences missing prototype warnings for the unused FDCT32x32* functions

Change-Id: I0e38f16dae5ea1728de184ee2c89287d48675c51

rename vp9_dct32x32_avx2.c to vp9_dct32x32_avx2_impl.h

this file shouldn't be built directly, it is included in vp9_dct_avx2.c
to create a non-high-bitdepth and a high-bitdepth version

silences missing prototype warnings for the unused FDCT32x32* functions

Change-Id: I4c19935c0e035b393be513bde735e9a78064a494

Merge "tests: add test_intra_pred_speed"

Merge changes from topic 'missing-proto'

* changes:
  vp9_subexp.h: add a missing prototype
  vp9: add some missing includes
  vp9 intrinsics: add vp9_rtcd include
  vp9: correct some function signatures
  vp9_variance_sse2: sync function signatures
  vp9/encoder: make some functions static
  vp9_dct_sse2: make some functions static
  vp9_decodeframe.c: make a function static

Merge "Change tx_size_search_method setting for non-rd speed 5."

Change tx_size_search_method setting for non-rd speed 5.

Use the same settting as in speed >=6.
This will use same logic for tx_size selecton as in speed >=6,
which limits the transform size and reduces ringing artifact.
Also metrics go up on average with this change: ~2% for PSNR, ~10% for SSIM.

Change-Id: Ia2d50db236ae1cc72f742bfa6c9ec5ea50ff0e0a

vp9_subexp.h: add a missing prototype

+ include the .h in the .c
silences missing prototype warnings

Change-Id: Ia87366dccb4bf4e9f2ffa5d3ab51ac6ca5488c91

vp9: add some missing includes

mostly: <file>.c should include <file>.h
silences missing prototype warnings

Change-Id: Ic05ec32c6f7b2224b78825904d96d73aacad6000

vp9 intrinsics: add vp9_rtcd include

silences a missing declaration warning

Change-Id: I59a34e1a1377cf3529b678d7ec0122bd43ab1bf1

vp9: correct some function signatures

silences missing prototype warnings

Change-Id: Idaf68d83d2cb03847f3ee002c4d00c2ac79da604

vp9_variance_sse2: sync function signatures

+ include vp9_rtcd.h
silences missing prototype warnings

Change-Id: I77902f07a454029baad4fe5fe6fc37c65644e6f7