vp9_accumulate_frame_counts: pass counts directly

Change-Id: Ic3c6cfba5b1867c335f2834da936e20caec8597a

Merge "Make update_map/temporal_update fields implicit for keyframes."

Merge "VPX: subpixel_8t_ssse3 asm using x86inc"

VPX: subpixel_8t_ssse3 asm using x86inc

This is based on the original patch optimized for 32bit
platforms by Tamar/Ilya and now uses the x86inc style asm.
The assembly was also modified to support 64bit platforms.

Change-Id: Ice12f249bbbc162a7427e3d23fbf0cbe4135aff2

Make update_map/temporal_update fields implicit for keyframes.

These frame types cannot make bitstream parsing depend on previous
frames, so the hypothetical combinations of e.g. keyframe=1 and
update_map=0 or keyframe=1 and temporal_update=1 are non-sensical.
Therefore, make it impossible to code such combinations in the vp10
bitstream header.

See issue 1044.

Change-Id: I3f0a83d5c7e3989541a469a909471424a285239d

Merge "Fix to dynamic resize mode under change_config()."

Fix to dynamic resize mode under change_config().

If the encoder dynamic resize is triggered and change config()
is then called, it will reset the current (resized) codec width/height
back to the the config (unresized) width/height (which will then
prevent the resizing action from occurring in encoder_loop).

Avoid this by checking for a change in the config width/height
before resetting the cm->width/height.

Change-Id: Id9d50c0ee8a943abe4b6c72bbaa02d9696f93177

Unify coding order of MC filters between blocks and frame header.

In VP9, the order for frame header was: [0] smooth, [1] regular, [2]
sharp, [3] bilinear. Per-block, the order was [0] regular, [1] smooth
and [2] sharp. For VP10, swap smooth/regular in the frame header so
that the block ordering and frame header ordering are interchangeable.

See issue #1046.

Change-Id: Ic9ec5964874375e40cd59bef50b489a76cbe4365

test/*.h: use inline rather than INLINE

inline is always available in c++

Change-Id: Ie8e4fc4df75309b649d7ef36bb5aadd95554035f

Merge "Revert "add range_check for fdct in vp10""

Revert "add range_check for fdct in vp10"

Tests fail to build.

This reverts commit f78d6aa77245cea5cd7f630a20f4e6d576679e7f.

Change-Id: Ia220270517ded273c65a7ab965d82edb696663c9

Merge "add range_check for fdct in vp10"

add range_check for fdct in vp10

Unify the style of fdct4() fdct8() fdct16()
Add fdct32()
Add range_check() at each stage
Add unit test at ../../test/vp10_dct_test.cc

Change-Id: I9e912b2c5683862e65c5a21abc3e1c260cca4576

Merge changes If253fb95,I1c8a792c,I49f9b10f,I15472738,I1e7f3c32

* changes:
  test: limit the valid image size on OS/2
  configure: add -Zhigh-mem to LDFLAGS on OS/2
  configure: disable PIC on OS/2
  Makefile: add $(STACKREALIGN) to CFLAGS for vp9_reconintra.c
  x86inc.asm: fix NASM compilation

test: limit the valid image size on OS/2

Without this, test_libvpx crashes at VP9FrameSizeTestsLarge.ValidSizes
on OS/2.

Change-Id: If253fb95a04216babed56458f0fab8c70523fc7e

configure: add -Zhigh-mem to LDFLAGS on OS/2

-Zhigh-mem enables to allocate very large memory on OS/2.

Change-Id: I1c8a792cc792c65ce9539a6d3d6b77fc4767848a

configure: disable PIC on OS/2

Change-Id: I49f9b10faa059decf18e123a1f88738071b9c2b8

Makefile: add $(STACKREALIGN) to CFLAGS for vp9_reconintra.c

Without this, test_libvpx crashes at
VP9MultiThreadedFrameParallel.PauseSeekResume on OS/2.

Change-Id: I15472738f4166d97cb49868652982d351a291c11

x86inc.asm: fix NASM compilation

Change-Id: I1e7f3c32969dac7911921062b396750302878c2e

Merge changes I2e0cc72a,I63a7da78,I4aee2600,I71113505,I3dce6c70, ...

* changes:
  Only build multithreaded functions on mt builds.
  Don't build calc_psnr for high bit depth.
  Enable missing dual lpf test
  Remove unused VP10 functions.
  Mark VP10 functions as 'INLINE'
  Remove unused functions from test files
  Only build append_negative_gtest_filter when it is used.
  Add INLINE decoration to static test functions

Only build multithreaded functions on mt builds.

Change-Id: I2e0cc72a0543bfea1d2d3499b9906519d5cb3f15

Don't build calc_psnr for high bit depth.

Change-Id: I63a7da7857534dcb4c69ed316c1feadea9ffb45b

Enable missing dual lpf test

Found with -Wunused-function
Change-Id: I4aee260016ae522e3fbbd72977ff09a8ebe5f3cf

Remove unused VP10 functions.

Change-Id: I711135054f02883289cca2efb1f109637009ffbb

Mark VP10 functions as 'INLINE'

Change-Id: I3dce6c702344a5cb5aaf9de1e4be44c53f9ce7e9

Remove unused functions from test files

Change-Id: Id479a83fe3cb7d989a490328b3ff526530777f81

Only build append_negative_gtest_filter when it is used.

Change-Id: If6fec02fd8125b368ea83c99208575ac0d4a662b

Match improved vp9/10 style in libs.mk

Change-Id: I5402c4e4a7d028f4865f429ec5ac6cb592aa2dcb

Add INLINE decoration to static test functions

Fixes "unused function" warnings.

Change-Id: Idc0cd06189917c37dead17d923ac7f9ecef18983

Merge "Disable temporal/spatial svc test in VP10"

Disable temporal/spatial svc test in VP10

The svc tests are disabled since it is not supported in VP10.

Change-Id: Ie6801e7a573b27afd1ea951bf037ccbae1201e8b

Include vpx_dsp_common.h when using VPXMIN/MAX

Change-Id: I2e387a06484a06301f3cd6600c4ba2f4335b61ee

Merge "Fix an indent"

Merge "Check CONFIG_VP<N> instead of encoder and decoder"

Merge "Expand the idct4_c() function in idct8_c()"

Fix an indent

An indent fix in bitstream.c.

Change-Id: Ia47e9ac5b01490cb2173a254444848b7bed56e5c

vp10: fix high bitdepth build

broken since:
c147c4d vp10 cleanup: remove svc code

Change-Id: Id703502b2d645fc051a5d9a23e6f1715d92a116b

Merge changes from topic 'vp9-enc-static-fns'

* changes:
  vp9_mcomp: make search functions private
  vp9_mbgraph: use vp9_full_pixel_search(HEX)
  vp9_temporal_filter: use vp9_full_pixel_search(HEX)
  vp9_firstpass: make vp9_init_subsampling private
  vp9_encoder: make vp9_alloc_compressor_data private

update gitignore

Change-Id: I01c8ba864b73fd3a66c10442041274767ac87bf1

vp9_mcomp: make search functions private

vp9_full_pixel_search() can be used as a replacement as it dispatches to
all search methods

Change-Id: I57fcb79c1362b569dc95237bdcc8390f54efd440

vp9_mbgraph: use vp9_full_pixel_search(HEX)

instead of calling vp9_hex_search() directly. this will allow the
function to be made private

Change-Id: I2f9d4779763aa5b24eda4eb01c78954e061e45ac

vp9_temporal_filter: use vp9_full_pixel_search(HEX)

instead of calling vp9_hex_search() directly. this will allow the
function to be made private

Change-Id: I8c8cfc61fca4faef593c1c3fc29824dc417cae22

vp9_firstpass: make vp9_init_subsampling private

Change-Id: I03b2ae99ec2e212c76bf815de7d5745b5c965d57

vp9_encoder: make vp9_alloc_compressor_data private

Change-Id: I38b4de692f4f7e880766316783981cbd1134bed9

Check CONFIG_VP<N> instead of encoder and decoder

If either the encoder or the decoder is enabled, CONFIG_VP<N> will be
set. This simplifies the conditional and passes the chromium update
script when CONFIG_ values are passed in with 'yes' and 'no' values.

This was failing because it was checking against empty strings but
they are set to 'no'

Change-Id: I02ecd557210088ba1458cd0e89eead5666f6597a

Merge "vp10 cleanup: remove svc code"

Merge "vp8: modifcatiion to skin map computation."

Merge "encode_test_driver: test for failure prior to encode"

vp10 cleanup: remove svc code

Spatial/temporal svc code was removed. Verified using Borg test,
and the results before and after the change are matching.

Change-Id: I4c2ee5cd560428e3e50be02e57e5871ef4246390

Expand the idct4_c() function in idct8_c()

Change-Id: I5afa3c351ba7c5e7deb3889f7471619ac60af255

Fix to golden update in cyclic_refresh.

For one pass CBR: only check for updating refresh_golden
if ext_refresh_frame_flags_pending is not set (i.e., == 0).
And move the resetting of ext_refresh_frame_flags_pending = 0
down to after the encode_loop (and account for dropped frames).

This is to prevent changing refresh_golden flga when the user
supplies the reference/update flags.

Change-Id: I4d87b3e705ba43f243667e367503b585c61e2a54

Merge "configure: append --extra-cflags to final set"

encode_test_driver: test for failure prior to encode

limits the amount of failure messages should e.g., a test file fail to
be opened

Change-Id: I0b30da0faa78cada23a226b577b3a48c74a896cd

vp8: use VPX(MIN|MAX) from vpx_dsp_common.h

remove MIN/MAX defines in vp8/common/common.h

Change-Id: I41520f34af175e05b263ebd12198f4de29a967db

Merge changes I53b5bdc5,Ib81168a7,Ie0113945

* changes:
  Only build ssse3 filter functions on 64 bit
  Clean up unused function warnings in vp8 encoder
  Clean up unused function warnings in vp8 onyx_if.c

Merge "Clean up unused function warnings in vp8 common"

Merge "Add sse2 versions of halfpix variance"

Add sse2 versions of halfpix variance

These were lost in the great sub pixel variance move of
6a82f0d7fb9ee908c389e8d55444bbaed3d54e9c

Not having these functions caused a ~10% performance regression in
some realtime vp8 encodes.

Change-Id: I50658483d9198391806b27899f2c0d309233c4b5

configure: append --extra-cflags to final set

previously any flags added while setting up the toolchain would
override the user selections; environment variables could be treated
similarly

Change-Id: Ibfcc644137d8e579af554d19a38d4020019a7a34

vpx_dsp_common: add VPX prefix to MIN/MAX

prevents redeclaration warnings;
vp8 has its own define which will be resolved in a future commit

Change-Id: Ic941fef3dd4262fcdce48b73075fe6b375f11c9c

Merge changes I56fad85c,I7401a70a

* changes:
  vp8e_encode: check validate_config return
  vp9_update_layer_...config: delete dead assignment

Merge "vp9_spatial_svc_encoder: Enable aq-mode for real-time mode."

vp9_spatial_svc_encoder: Enable aq-mode for real-time mode.

For real-time mode (speeds >=5) enable aq-mode=3.

Change-Id: Ib8b4ef7609bc30ac935742c8d27e8cd89933c6af

Merge "Remove vp10_default_scan_orders[] that is unused"

vp10 cleanup: remove nonrd and real-time code

Code cleanup.

Change-Id: I668bd5a4e5fbe96969d51d9ee777fc5f1d8abfe6

Merge "vp9_spatial_svc_encoder: Add encoding time log."

vp9_spatial_svc_encoder: Add encoding time log.

Change-Id: Iab4e4a13a65c9dc5314e5107b126c30667c7b448

Merge "Clean up unused function warnings in vp8 decoder"

Remove vp10_default_scan_orders[] that is unused

Change-Id: Ibc3b5cb3799f080808cf22ccb01d733e74ab4461

Only build ssse3 filter functions on 64 bit

Avoid an unused function warning by only building the functions when
they will be used.

Change-Id: I53b5bdc5a180c79d63b34e4c8921d679bbc54009

Clean up unused function warnings in vp8 encoder

Mark rdopt.h and treewriter.h functions with INLINE.

Change-Id: Ib81168a709d09dfba7de16c596133310e04c6656

Clean up unused function warnings in vp8 onyx_if.c

Remove really unused segmentation_test_function

Hide decide_key_frame and recode_loop_test under non-realtime check.

Change-Id: Ie0113945ffbd096dbb89a553548f526b2a0ee0c6

Clean up unused function warnings in vp8 common

Mark functions in findnearmv.h, invtrans.h and setupintrarecon.h
with INLINE.

Hide function in postproc.h behind the same #if as it's callers.

Change-Id: Ic1e014a943d2aca280f137019218b9d4f1443d61

Remove vp8_priv_sz

This is a leftover of the XMA code which was removed a long time ago.

Found while looking for unused functions.

Change-Id: I07a3d542ae55440af59380dcdcf9a6c11cdfcb75

Clean up unused function warnings in vp8 decoder

Mark functions in dboolhuff.h and treereader.h with INLINE.

Change-Id: Ifc1008de0713c8d43f4fec83a8c2b836622be365

vp8e_encode: check validate_config return

Change-Id: I56fad85cae4537f9d68febf9b9264c3e1cf82ce1

vp9_update_layer_...config: delete dead assignment

Change-Id: I7401a70a3f33d13fa1ab0393e59fceb5ef083534

Mark Scale2Ratio INLINE

WebRTC builds with -Wunused-function do not like all the uses of onyx.h

Change-Id: Ic57cb143b48df9c9895f94b5f8f395c260fa7025

Merge "Limit new motion vector size"

Limit new motion vector size

This commit adds clamp of new vectors similar to the logic in RD loop.
Such clamp is not necessary from the perspective of VP8 bitstream, but
is added to improve ChromeCast mirroring's robustness.

Change-Id: I42f6adbc60ffce283b994869364230858632d6fa

Merge "Add transform size rate for intra skip mode in rdopt"

Merge "Prevent an ASAN failure for svc tests"

Add transform size rate for intra skip mode in rdopt

stdhd +0.226 hevchr +0.091 hevcmr +0.052 derflr +0.033

Change-Id: I84034209c5760609a99bd6e0ce55e02534b72cac

vp8: modifcatiion to skin map computation.

For each block in pickinter: use average of four middle
pixels (instead of single pixel) to set skin map.
This can help a little in reducing false skin detection in
some cases.

Change-Id: Ic247af75e9c2948b08ab977a39e061adacd8ec97

Fix a bug induced in f1d090e2f56e28b3218fb99f648bd5d59ae2f4b1

Change-Id: I5f7ab8ee75192a4c6c7aa723d2e113400d6ca9a5

Merge "Refactoring on transform types"

Avoid setting rate multiplier as 0

In high bitdepth setting, the rate multipier may be set as 0. In
lossless mode, the RD cost would always be 0, resulting in bad
partition and prediction mode choices.

Change-Id: I297014dd8bfa8a07ff0ab480119f75678300ff68

Refactoring on transform types

Prepare for adding more transform varieties (EXT_TX and TX_SKIP in nextgen).

Change-Id: I2dfe024f6be7a92078775917092ed62abc2e7d1e

Prevent an ASAN failure for svc tests

This patch just fixes the test for the time being, but does not
actually solve the underlying issue, which still needs investigation.

Change-Id: I54a35de839723f5b499b57e38dd2bdd400adc427

Turn on codec behavior unit tests for vp10

This commit adds codec behavior unit tests for vp10.

Change-Id: Ieb49cb66f0b29679ff2a3e2c0804d1ebbf48f986

Merge "vpxenc: fix DECODER ifdef"

Merge "Refactor get_tx_type and get_scan"

vpxenc: fix DECODER ifdef

CONFIG_VP10_ENCODER -> CONFIG_VP10_DECODER

Change-Id: I6f1a798835acc4ef66bd2c5d6ffb02247c74b1d6

Refactor get_tx_type and get_scan

This makes it easier to add new transform types and scan orders
to VP10 in the future.

Change-Id: I94874ddc9b19928d7820d57e94e2af04adf51efe

Merge "Replace MAX_REF_LF_DELTAS with MAX_REF_FRAMES"

Merge "Update to dynamic resize for 1 pass CBR: source scaling."

Merge "VPX: scaled convolve : fix windows build errors"

Update to dynamic resize for 1 pass CBR: source scaling.

Switch to use the normative (convolve8) filter for source scaling,
only for 1/2x1/2 scaling for now. This is faster and has better
quality than either the vpx_scale_frame or the nonnormative scaler.

Remove the vp9_scale_if_required_fast, which is now not used.

Change-Id: I2f7d73950589d19baafb1fa650eac987d531bcc8

VPX: scaled convolve : fix windows build errors

Change-Id: Ic81d435ea928183197040cdf64b6afd7dbaf57e4

Merge "Refactor REFS_PER_FRAME definition"