Merge "mips msa vp9 copy and avg convolve optimization"

Merge "Disable ssse3 version idct16x16_256_add()"

Disable ssse3 version idct16x16_256_add()

The version is currently producing different result from c version
for some input. Disable the use of it for now to allow time for
investigation the source of mismatch.

Change-Id: Id039455494ee531db4886a9f1fa4761174ef6df3

Merge "vpx_temporal_svc_encoder: Keep static_threshold off as default."

vpx_temporal_svc_encoder: Keep static_threshold off as default.

Change-Id: Iadb42041f08ac969cc0b6af6f15e30c8498db680

Merge changes from topic 'vpx_mem-cruft'

* changes:
  vpx_mem: remove vpx_memset
  vpx_mem: remove vpx_memcpy
  vpx_mem: remove vpx_memmove

vpx_temporal_svc_encoder: Update some settings.

Set denoiser off by default: should add this option to command line.

Change-Id: Iaecc94f5b5099feaacd7a5c415fc86eb68a2eea5

vpx_temporal_svc_encoder: Set static threshold to off by default.

Change-Id: I029484a5ffddcc3e518eeee609a6709b01cba146

mips msa vp9 copy and avg convolve optimization

average improvement ~3x-5x

Change-Id: I422e4c33ea7e6d6783ba40029438ccf21b0e76bb

vpx_mem: remove vpx_memset

vestigial. replace instances with memset() which they already were being
defined to.

Change-Id: Ie030cfaaa3e890dd92cf1a995fcb1927ba175201

vpx_mem: remove vpx_memcpy

vestigial. replace instances with memcpy() which they already were being
defined to.

Change-Id: Icfd1b0bc5d95b70efab91b9ae777ace1e81d2d7c

vpx_mem: remove vpx_memmove

vestigial. replace instances with memmove() which they already were
being defined to.

Change-Id: If396d3f9e3cf79c0ee5d7429615ef3d6b2a34afa

Merge "vpx_mem: remove REPLACE_BUILTIN_FUNCTIONS"

Merge "x86_simd_caps: check max cpuid before testing AVX2"

Merge "WIP: Use LUT for y_dequant/uv_dequant"

Merge "Fix debugmodes file to print modes and MVs correctly"

WIP: Use LUT for y_dequant/uv_dequant

instead of calculating every block.

Change-Id: Ib19ff2546be8441f8755ae971ba2910f29412029

Fix debugmodes file to print modes and MVs correctly

This patch fixed the issues in debugmodes file because of the recent
changes in MODE_INFO struct.

Change-Id: I4df83379ecc887c1f009d4a8329c9809c5b299d6

Merge "PATENTS: fix a typo: constitutes -> constitute"

PATENTS: fix a typo: constitutes -> constitute

Change-Id: Ie54413818b7f731b8a48b719038e66c9744de81e

x86_simd_caps: check max cpuid before testing AVX2

structured extended feature flags require eax = 7; avoids incorrectly
detecting avx2 on some older processors that support avx.

from [1]:
INPUT EAX = 0: Returns CPUID’s Highest Value for Basic Processor
Information and the Vendor Identification String

[1] http://www.intel.com/content/www/us/en/processors/processor-identification-cpuid-instruction-note.html

Change-Id: I6b4735b5f7b7729a815e428fca767d1e5a10bcab

Add validation of UV partition size

For color sampling format other than 420, valid partion size in Y may
not work for UV plane. This commit adds validation of UV partition
size before select the partition choice.

This fixes a crash for real time encoding of 422 input.

Change-Id: I1fe3282accfd58625e8b5e6a4c8d2c84199751b6

vpx_mem: remove REPLACE_BUILTIN_FUNCTIONS

vestigial. there are other ways to achieve this.

Change-Id: Ie977ce952527e596479df3084f331b694a682e39

vpx_mem: remove global function pointer

vestigial.

Change-Id: I11389f660d0c5db8fa48bd355cbc3223fc3bcabb

vpx_mem: remove mem tracker

vestigial. there are tools better suited for this

Change-Id: I7a72a2cfe32377f07c8cd0973ddb18842720a225

Merge "vpx_mem: remove 'mem checks'"

Merge "vpx_mem: remove memory manager code"

Adds worst frame metrics for a bunch of metrics.

Change-Id: Ieaccc36ed1bee024bb644a9cfaafdaaa65d31772

Merge "Modified test for auto key frame detection."

Merge "Limit arf interval for low fpf clips."

Merge "mips msa vp9 convolve8 horiz optimization"

Merge "Adds a new temporal consistency metric to libvpx."

Merge "Rename neon convolve avg file"

Rename neon convolve avg file

Some build systems use just the basename for object files.

Change-Id: I333e1107ee866f3906cc46476ef8d04c6200a8a0

Revert "Remove mi_grid_* structures."

(see I3a05cf1610679fed26e0b2eadd315a9ae91afdd6)

For the test clip used, the decoder performance improved by ~2%.
This is also an intermediate step towards adding back the
mode_info streams.

Change-Id: Idddc4a3f46e4180fbebddc156c4bbf177d5c2e0d

Adds a new temporal consistency metric to libvpx.

Change-Id: Id61699ebf57ae4f8af96a468740c852b2f45f8e1

Merge "Resolve configuration conflict"

Modified test for auto key frame detection.

The existing test was triggering a lot of false positives on some types
of animated material with very plain backgrounds. These were triggering
code designed to catch key frames in letter box format clips.

This patch tightens up the criteria and imposes a minimum requirement
on the % blocks coded intra in the first pass and the ratio between the
% coded intra and the modified inter % after discounting neutral (flat)
blocks that are coded equally well either way.

On a particular problem animation clip this change eliminated a large
number of false positives including some cases where the old code
selected kf several times in a row. Marginal false negatives are less
damaging typically to compression and in the problem clip there are now
a couple of cases where "visual" scene cuts are ignored because of well
correlated content across the scene cut.

Replaced some magic numbers related to this with #defines and added
explanatory comments.

Change-Id: Ia3d304ac60eb7e4323e3817eaf83b4752cd63ecf

mips msa vp9 convolve8 horiz optimization

average improvement ~6x-8x

Change-Id: I7c91eec41aada3b0a5231dda7869b3b968f3ad18

Merge "mips msa vp9 convolve8 hv optimization"

vpx_mem: remove 'mem checks'

vestigial. there are tools better suited for this

Change-Id: I1d6f604452fbc62cb7523eec8d1f8a72a276d6b5

vpx_mem: remove memory manager code

vestigial. the code is stale and couldn't be configured directly; there
are better ways to achieve this now

Change-Id: I5a9c62e099215588cd0d7e5ae002dfc77c21a895

mips msa vp9 convolve8 hv optimization

average improvement ~5x-8x

Change-Id: I3214734cb3716e742907ce0d2d7a042d953df82b

Resolve configuration conflict

Between --enable-internal-stats and --enable-vp9-highbitdepth

Change-Id: I36b741554e835033e69883270b6b0e5374a1aafa

Move declaration before statement

Change-Id: Ib64786fcc0d6dc11c4e66f5b7f3e93b2a4fcb664

Merge "mips msa vp9 convolve8 vert optimization"

mips msa vp9 convolve8 vert optimization

average improvement ~6x-10x

Change-Id: Ie3f3ab3a9005be84935919701e56b404e420affa

Merge "Adds a blockiness metric to internal stats."

Merge "adds psnrhvs to internal stats."

Merge "Adds a fastssim metric to VPX internal stats."

Adds a blockiness metric to internal stats.

Change-Id: Iedceeb020492050063acf3fd2326f96c29db9ae5

Fix dependency of android vpx test application.

Change-Id: I32b7c92c89c9a2be0cf38e67a17266b9d3866154

adds psnrhvs to internal stats.

PSNR HVS is a human visual system weighted version of SNR that's
gained some popularity from academia and apparently better matches
MOS testing.

This code is borrowed from the Daala Project but uses our FDCT code.

Change-Id: Idd10fbc93129f7f4734946f6009f87d0f44cd2d7

Adds a fastssim metric to VPX internal stats.

This code appeared in the Daala project first and was originally
committed by Nathan Egge.

Change-Id: Iadce416a091929c51b46637ebdec984cddcaf18c

Merge "Remove unnecessary backup token stream pointer"

Revert "Revert "Force_split on 16x16 blocks in variance partition.""

This reverts commit 004b9d83e37d355f590a6976a27b7b845d19a869

Change-Id: I2f2d0bdb9368c2c07f1d29a69cd461267a3a8743

Remove unnecessary backup token stream pointer

When the tokenization is not taking effect, the tokenization
pointer remains unchanged. No need to re-assign the backup pointer
value.

Change-Id: I58fe1f6285aa3b4a88ceb864c11d5de8ac6235dd

Merge "Fix multithread encode test"

Fix multithread encode test

The multithread encode test was never actually setting more than
one thread.

Change-Id: Ie7a3b7b138e88344c943bffd544cf2b4aab866a9

Merge "[svc] Fix syntax error when encoding multiple tiles."

Merge "Use extern for *_rtcd() in test/test_libvpx.cc"

[svc] Fix syntax error when encoding multiple tiles.

Change-Id: Ia77b551415f3b3386e22a6c805f244f2d13fe3e3

Use extern for *_rtcd() in test/test_libvpx.cc

This partially reverts commit 14ef4aeafb

Including the rtcd headers to get the function definitions causes
problems on VS9.

Change-Id: I780874d9e03af2d3124192ab0e3907301f22674c

Merge "Android.mk: remove unnecessary -llog reference"

Limit arf interval for low fpf clips.

This patch limits  the maximum arf interval length to
approximately half a second. In some low fps animations in
particular the existing code was selecting an overly long interval
which was hurting visual quality. For a sample problem test clip
(360P animation , 15fps, ~200Kbit/s) this change also improved
metrics by >0.5 db.

There may be some clips where this hurts metrics a little, but the
worst case impact visually is likely to be less than having an
interval that is much too long. On more normal material at 24
fps or higher, the impact is likely to be nil/minimal.

Change-Id: Id8b57413931a670c861213ea91d7cc596375a297

Merge "mips msa configuration fix"

Android.mk: remove unnecessary -llog reference

nothing is using android/log.h currently; also quiets a warning when
building a static lib:
Android NDK: WARNING:libvpx/build/make/Android.mk:vpx: LOCAL_LDLIBS is
always ignored for static libraries

Change-Id: I1469a5d6fca4f7338a4a82e26a03e60fc91d92ca

Merge "Android.mk: add a flag to control shared/static lib"

Merge "Fix Tsan errors"

Fix Tsan errors

This patch fixed 2 reported Tsan errors while running VP9 real-time
encoder.

Change-Id: Ib0278fe802852862c3ce87c4a500e544d7089f67

Merge "Reorganize *_rtcd() calling conventions"

Merge "Allow specifying a different prefix in x86inc.asm"

Reorganize *_rtcd() calling conventions

Change-Id: Ib1e17d8aae9b713b87f560ab5e49952ee2bfdcc2

Allow specifying a different prefix in x86inc.asm

Currently the prefix is forced to vp9 for any function using
x86inc.asm.

Change-Id: Icbca57ce68a52e743bdd7e9be86cfe8353f274c1

Merge "Remove unused scaleopt.cpp"

mips msa configuration fix

for big endian disable msa
removed -flax-vector-conversion flag
disable runtime_cpu_detect feature if enabled

Change-Id: Icd5130b733f2ddcdb94ffb6e4d170e6ca0f9832b

Revert "Force_split on 16x16 blocks in variance partition."

This reverts commit eb8c667570aa83134c7db0690de9dbdde4d90291.
The patch caused mismatch while using multi-threads.

Change-Id: Icd646340af25b5d91e32f03ed3ea212e00e3e0be

Remove unused scaleopt.cpp

Change-Id: Ibaeede61c128c73809332b9a853cd62b8d6d5325

Merge "Force_split on 16x16 blocks in variance partition."

Merge "Remove unnecessary set postproc flags."

Force_split on 16x16 blocks in variance partition.

Force split on 16x16 block (to 8x8) based on the minmax over the 8x8 sub-blocks.

Also increase variance threshold for 32x32, and add exit condiiton in choose_partition
(with very safe threshold) based on sad used to select reference frame.

Some visual improvement near moving boundaries.
Average gain in psnr/ssim: ~0.6%, some clips go up ~1 or 2%.
Encoding time increase (due to more 8x8 blocks) from ~1-4%, depending on clip.

Change-Id: I4759bb181251ac41517cd45e326ce2997dadb577

Merge "mips msa vp9 common headers added"

Merge "Remove get_nonrd_var_based_fixed_partition function"

Merge "Compute prediction filter type cost only when needed"

Merge "SSSE3 assembly implementation of 8x8 Hadamard transform"

Merge "Remove unnecessary mv clamp with on demand border extension."

Remove get_nonrd_var_based_fixed_partition function

This function has been replaced by other approaches and is not
in use now.

Change-Id: I387f45b5607d202539e482468ccc70e6c0f9341f

mips msa vp9 common headers added

Change-Id: Ia31ada59172eb1818e1eb91009f83cbb1f581223

Android.mk: add a flag to control shared/static lib

ndk-build ENABLE_SHARED=1 ...

Change-Id: Idd64804b165d0d4bbfb0b242d6c4eee5e828dab4

Merge "vpxdec.sh: fix vp9_webm_less_than_50_frames w/valgrind"

Remove unnecessary mv clamp with on demand border extension.

Change-Id: Ia2956f06f409b9b0ca8320ca4c1ea5680e938402

Refactor dec_build_inter_predictors

Refactor the loops in dec_build_inter_predictors to try and decrease
the number of instructions. Limited testing saw about 1% perf
increase on x86 and about 0.67 % perf increase on Arm.

Change-Id: I69cfe6335bb562fbaaebf43fb3f5c5a2a28882a2

vpxdec.sh: fix vp9_webm_less_than_50_frames w/valgrind

add a check for the status line to awk and better report failure given
the program output will be lost in this case

Change-Id: I1348a80108c81099d609f2e2227dd2c31bd8cd54

Merge "Improve accuracy of rate control in CQ mode"

Merge "vp9_full_search_sadx[38]: align sad arrays"

Merge "Optimize the checking for transform skipping"

Merge "move ref_frame_cost computations into a function"

Improve accuracy of rate control in CQ mode

Modifies a special handling that improves rate control accuracy in
the constrained quality mode, when the undershoot and overshoot
limits are set tighter.

Change-Id: If62103f0ef3ed1cac92807400678c93da50cf046

Merge "Test loopfilters with count=2"

vp9_full_search_sadx[38]: align sad arrays

the sse4 code expects 16-byte aligned arrays; vp8 already had a similar
change applied:
b2aa401 Align SAD output array to be 16-byte aligned

Change-Id: I5e902035e5a87e23309e151113f3c0d4a8372226