Merge "vp9_resize_plane: quiet some static analysis warnings"

Merge changes Ie5a24275,Ib72946a8,I532b882b

* changes:
  vp9_fdct8x8_quant_ssse3: quiet a static analysis warning
  vp9_fdct8x8_quant_sse2: quiet a static analysis warning
  vp9_mv_pred: quiet a static analysis warning

Merge "Fix external resize memory issues."

vp9_resize_plane: quiet some static analysis warnings

document resolution assumptions with a few asserts

Change-Id: Ia4ab738fd3e0a1ba0ed30a57facd2658c2c1fd60

vp9_fdct8x8_quant_ssse3: quiet a static analysis warning

add an assert to validate 'in' array size

Change-Id: Ie5a24275c066d9dd59714f6104510abbd4850dc5

vp9_fdct8x8_quant_sse2: quiet a static analysis warning

add an assert to validate 'in' array size

Change-Id: Ib72946a86f34e1ce8a69954e8e3e4fe1a0f18a91

vp9_mv_pred: quiet a static analysis warning

add an assert to validate pred_mv array size

Change-Id: I532b882b71e2baff3ac76e07ed133ec5a11bd0fc

Merge changes Icc7da602,Id166bd8a

* changes:
  Remove last remnants of obj_int_extract
  Initialize "corrupted" to zero

Order header files alphabetically

Change-Id: I3e275544bff478849c1b5f3dcd5de950ee330d14

Remove last remnants of obj_int_extract

Change-Id: Icc7da6027763b5ed7cbfe70ffe271103ead59fe1

Initialize "corrupted" to zero

Because the call to vpx_codec_control at line 928 is now guarded by
!frame_parallel, 'corrupted' may not be set.

Change-Id: Id166bd8a8cdb5e5120fca1640011a3545f6e178a

Merge "Add protection for codec interface name change."

Merge "Fix the C version of column vector projection"

Fix the C version of column vector projection

Make the C and SSE2 versions consistent.

Change-Id: I03c405d22a36bd1a97480efb96dc5af230667424

Update to variance partition.

Use force_split to constrain the partition selection.
This is used because in the top-down approach to variance partition,
a block size may be selected even though one of its subblocks may have
high variance.

In this patch the selection of the 64x64 block size will only
be allowed if the variance of all the 32x32 subblocks are also below the threshold.

Stil testing, but some visual improvement for areas near slow moving boundary
can be seen. Metrics for RTC set increase by about ~0.5%.

Change-Id: Iab3e7b19bf70f534236f7a43fd873895a2bb261d

Merge "Refactor set vbp thresholds function"

Merge "Remove unused ZBIN_BOOST macros"

Add protection for codec interface name change.

Change-Id: I9101cb1132aa580fc32fd47e8ac9d91d5b09e963

Refactor set vbp thresholds function

Code refactoring.

Change-Id: I73b6fcc0444155ee46c1efa5253c1d608c6439cb

Remove unused ZBIN_BOOST macros

Change-Id: I5169155b20ea3676a6ce58ec77d6aeba07db29d9

Add frame parallel decode option to vpxdec.

Change-Id: I0ba02d501d65a2f219fa1bb87b8eb81f7e6ab332

Merge "Remove duplicate clamping"

Merge "Remove ineffective newmv skip checking from vp9_pick_inter_mode"

Merge "Simplify prediction filter search in rtc coding mode"

Merge "Refactor column integral projection computation"

Merge "change the order of inter modes evaluated"

Fix external resize memory issues.

These were uncovered by the chromoting perftest.

Change-Id: Ia5a90fd1718ff757c1484decf3861295260e6722

Remove duplicate clamping

The mvs are clamped in the vp9_find_best_ref_mvs() already.

Change-Id: I9bea5e35aef6007466fe7fca4bc2dc5c17e74222

Remove ineffective newmv skip checking from vp9_pick_inter_mode

Change-Id: I41ee684cf113a7b5edf280183e51cb08b2e93cc4

Simplify prediction filter search in rtc coding mode

Reduce unnecessary fetch from MB_MODE_INFO.

Change-Id: Iff89b76d5e2774c00a564e902913a633fa2e1ea9

change the order of inter modes evaluated

Change-Id: I10c1ad23b110cf92cb026e895039c215c47abfd0

Merge changes I67890f52,I33c72799

* changes:
  usage.dox: fix encoder/decoder subpage list indent
  usage.dox: fix doxygen warnings in 1.8.x

Refactor column integral projection computation

Move the scaling factor outside column projection. This avoids
repeated calculation of the same scaling factor. Profiling shows
that the percentage of vp9_int_pro_col_sse2 of overall cycles
goes from 2.29% down to 1.88%.

Change-Id: I5ac4e324ab2d7f33ba2de66dd2a12e04e04dfd66

Merge "Fix indent in choose_partitioning"

Fix indent in choose_partitioning

Change-Id: I4039f8ac75a9cfcc4d07abd0619d1379bb10fe51

vp9_pick_inter_mode(): minor optimizations

1. remove duplicate initialization to mbmi->interp_filter.
2. move mv clamping into ref_frame loop instead of mode checking loop.
3. move the check if last frame is same as golden frame earlier to
avoid initialization of Golden reference related variables.

Change-Id: Idf2d05e19e94a24f69cc289687869fc71d2ff289

Merge "Fix choose_partitioning threshold setup for speed -5"

Fix 1-step refinement search table

Change-Id: I32f0bcb40c6e7ba63bfae487739ededd0b6b2dde

usage.dox: fix encoder/decoder subpage list indent

use \li to separate the list items contained in conditionals. this
avoids the encode page becoming a sub-item of decode; likely a problem
in <1.8.3.
+ fix encoder conditional, spelling error
+ correct encode page name to match decode 'Encoding'

Change-Id: I67890f52bed8e708bad63fb8819a074e0beff2ca

usage.dox: fix doxygen warnings in 1.8.x

use \li to denote list items with \if.

fixes the following likely visible in <1.8.3:
usage.dox: warning: Invalid list item found
usage.dox: warning: End of list marker found without any preceding list items

Change-Id: I33c72799edf9f8866596ac8f79247050b8c75681

Fix choose_partitioning threshold setup for speed -5

The compression performance of speed -5 is on average 12.6% better
than speed -6. At lower bit-rates, the gains are typically 20% or
more. For 2-thread encoding, the speed -5 takes about 1.6x time of
speed -6.

Change-Id: If7a73464a24d33e8f49b9533b51ec51c8da7fc80

Merge "Fix comments for vpx_codec_enc_config_default()"

Fix comments for vpx_codec_enc_config_default()

This makes clear that for end-usage, only 0 is supported currently.

Change-Id: I99795807c20df1d71b3c803e8d5f3b36583dcc85

Merge "Provide information on codec controls"

Merge "Set default encode test driver to 1 column and 1 thread."

Merge "Fix crash with vp9 denoiser on."

Merge "Use sdx4df to do 1-step refinement"

Provide information on codec controls

The commit updates the comments in vp8cx.h to make it clear which
codec support each of codec control functions.

Change-Id: Ibf876e289d4325bbb61ce19311da60d384624c2f

Fix crash with vp9 denoiser on.

Crash occured on very first key frame, because denoiser
temporal function was beng entered.

Updated denoiser unittest to set cpu_used from first frame,
and verified fix fixes the crash.

Change-Id: I3be1124b52846fbbe7248d2c3d6136e086c80bc1

Merge "Lower bitrate threshold below which cyclic refresh is turned off."

Merge "Reconcile active_map and cyclic refresh"

Merge "Reset src buffer only once in vp9_int_pro_motion_estimation"

Merge "Reduce the number of full block SAD calls"

Use sdx4df to do 1-step refinement

Change-Id: Ie0c3ef3ae3aedf049b1a296de607730b79c12672

Lower bitrate threshold below which cyclic refresh is turned off.

Change-Id: Ib54ab11adf8178eec74f65388a89c8f912c7869a

Merge "Shorten GF/arf interval in hard scenes."

Set default encode test driver to 1 column and 1 thread.

Change-Id: I70ee538609cefad76b8ce9b225bbf8d8447aff23

Merge changes Ic54c88ec,I6f120b65

* changes:
  Added comment for vp9 only codec controls
  Rename a vp9 only control with vp9e prefix

Reset src buffer only once in vp9_int_pro_motion_estimation

Change-Id: I5c96b6a25f9df60da65b7af7c92a921b611746e3

Merge "vp9_pick_inter_mode(): Use single loop to evaluate inter modes"

Added comment for vp9 only codec controls

Comments are updated to reflect that these controls apply to VP9 only,
thereby, to insure the document produced by doxygent to reflect the
same fact too.

Change-Id: Ic54c88ec066aa0ec4552d43dd4a7016e1f810f42

Rename a vp9 only control with vp9e prefix

Also updated comments and doc to make it clear that the control is
supported in VP9 only.

Change-Id: I6f120b65135fc1185695e9e3dc29fbe0d430824b

Reduce the number of full block SAD calls

This commit uses a 6-point 1-step refine motion search in the
integral projection based full pixel motion estimation, to replace
the current 9-point search.

It reduces runtime cost of speed -6 on some noisy clips, e.g.,
dark720p single thread
33314 b/f, 40.076 dB, 18231 ms ->
33307 b/f, 40.067 dB, 17768 ms

The compression performance for rtc set remains unchanged.

Change-Id: I194ea5a9ce52e5a10baeee36338633adc22f764c

Merge "Minorly modify model_rd_for_sb_y function"

Merge "Fix fdct8x8_quant ssse3 overflow issue"

Reconcile active_map and cyclic refresh

Change-Id: Id7f8654aeeb20caa402bc822521b1d72c658f4f9

vp9_pick_inter_mode(): Use single loop to evaluate inter modes

This commit changes to use single loop to evaluate all inter modes.
There is no impact on compression quality and speed, but allow future
experiment with the order of modes evaluated.

Change-Id: I71696ce1014cbe127e25e98710d835987f5ecc09

Minorly modify model_rd_for_sb_y function

Added a skip_dc check. If skip_dc = 1, we could eliminate calling
of vp9_model_rd_from_var_lapndz(). This gave slight PSNR & SSIM
gain(<0.1%), and no speed change.

Change-Id: If5ca733366148c86b98e196a00cc890f50e9a3e5

Fix fdct8x8_quant ssse3 overflow issue

This resolves webm issue 968.

Change-Id: Ieb363129b1e135a561141c68211d413226aba754

Merge "Some rate control adjustments to control overshoot"

Merge "Prevent integer overflow in choose_partitioning"

Merge "Remove unnecessary speed feature checking"

Merge "Apply fast motion search to golden reference frame"

Merge "Refactor to remove GLOBAL_MOTION"

Fix a typo introduced in #94401aff

This fixes all test vector failures

Change-Id: Ie1a9fe0f023f7a0c7e89eb55df1b40ff65302adc

Merge "Fix visual studio build failure."

Prevent integer overflow in choose_partitioning

Re-arrange the multiplication and right shift operations to avoid
integer overflow in choose_partitioning.

Change-Id: Ib4005cafb410a67c1960486471d75b6ebe38c4e0

Merge "Refactor the block decode code to make it simpler."

Fix visual studio build failure.

Change-Id: Ifeb14f945d0f0300eb7b21b38e5720ac1c11a6cf

Remove unnecessary speed feature checking

This commit removes the pred_mv_sad comparison from rtc motion
search, given that a stronger comparison has been done at the
mode search level to eliminate unlikely selected reference frames.

Change-Id: I49b8d24b2174303066fd8eff2102c0648f2869df

Merge "Clamp rate correction factor after scaling it"

Apply fast motion search to golden reference frame

This commit enables the rtc coding mode to run integral projection
based motion search for golden reference frame. It improves the
speed -6 compression performance by 1.1% on average, 3.46% for
jimred_vga, 6.46% for tacomascmvvga, and 0.5% for vidyo clips. The
speed -6 is about 6% slower.

Change-Id: I0fe402ad2edf0149d0349ad304ab9b2abdf0c804

Refactor to remove GLOBAL_MOTION

Make the vp9_int_pro_motion_estimation() function return zero
motion vector if high bit depth is turned on, instead of removing
it from compiled codes.

Change-Id: Ia48f010eb590b2d517d5678c394110b326a1a95e

vpx_temporal_svc_encoder: Update some default settings.

Set flags=0 if layering_mode=0, and set static_thresh=1.

Change-Id: Id9874923b23966a2b1d0e83965add7d5c9d26d16

Refactor the block decode code to make it simpler.

Change-Id: I0f983cb821ad7ec6fbefe7895cb8124a8fa39df6

Merge "Separate rd_thresh adaption by ref_frame"

Clamp rate correction factor after scaling it

Added clamp on the rate correction factor after
it has been scaled.

Change-Id: I5d4b46a101987b43c5bcfd7e0bd1b7b4d53640a4

Shorten GF/arf interval in hard scenes.

This patch accounts in the first pass stats for blocks that
while not coded as intra, are complex and have an intra error /
best error ratio below a threshold.

The modification shortens the GF arf interval for a particular
class of content that contains a lot of blocks matching the
above criteria. (In one short problem test sequence the average
interval dropped from about 14-15 to 10-11)

The change results in small net gains in metrics results for the
Yt(~0.2%) and yt-hd (~0.5%) sets and is approximately neutral
for the other test sets.

The change is currently shielded by a flag and off by default
pending verification that it does not cause other regressions
in tests on a wider YT test set.

Change-Id: I6b803daa6a4ac09a6f428fb3a18be1ecedd974b7

Separate rd_thresh adaption by ref_frame

Only update the rd_thresh factors for modes sharing same reference
frame. This helps overall compression of 6 and 7 by .13% and .19%
respectively without any noticeable speed difference.

Change-Id: Idb3a3879512c5d7d0880034516079949290690c5

Some rate control adjustments to control overshoot

Some rate control adjustments to control overshoot
in the constrained quality mode.

Change-Id: I8907b9a883642d779009d0a138adfa6ba67e7f41

Merge "Modify update golden reference update under aq-mode=3 mode."

Modify update golden reference update under aq-mode=3 mode.

For non-SVC 1 pass CBR: make the GF update interval a multiple of the
cyclic refresh period, and use encoding stats to prevent GF update at certain times.

Change-Id: I4c44cacc2f70f1d27391a47644837e1eaa065017

Merge "Accumulate tx_totals counters in multi-threaded encoder"

Merge "Enable using Golden reference in choose_partition()"

Merge "Allow q adjustment for VPX_CQ and VPX_CBR."

Accumulate tx_totals counters in multi-threaded encoder

Tx_totals counters weren't handled correctly in multi-thread
case, which caused the mismatch while encoding using threads > 1.
This patch fixed that.

Change-Id: Ice9b0386f57175fb92a0bdcd5042686a3106246a

Fix vp9_compute_qdelta_by_rate loop behavior

The return value from vp9_compute_qdelta_by_rate, which is
a delta value for the quantizer, could never be 0 if
(qindex == rc->worst_quality).

This occurs because target_index was setup unconditionally
in the loop and yet the loop counter stopped at
(rc->worst_quality - 1).

Change-Id: I6b59cd9b5811ff33357e71cd7d814c5e53d291f2

Enable using Golden reference in choose_partition()

Choose_partition uses only the last frame as reference frame in making
partition decision, this commit adds the check on how well Golden
frame with (0,0) predicts the current block, and uses GF(0,0) as
basis for partition decision if it produces better prediction.

The commit improves rtc speed 6 and 7 encoding by 0.14% and 0.19%
respectively.

Change-Id: I156acf925bd6e0b586d48155d1940d27270a3915

Refactor read_intra_frame_mode_info

Change-Id: I56b0614154408e8ec613784b2007374df00fbf17

Merge "Don't waste time partitioning skip superblocks."