Removing unnecessary assert(delta != 0) from encode_loopfilter().

Change-Id: I8ae093d0b61d71d3c294b95d98d0178f7f67c8f6

Merge "Using MV struct instead of int_mv union in encoder."

Merge "vp9_convole.c cleanup."

Merge "Cleaning up vp9_append_sub8x8_mvs_for_idx()."

Using MV struct instead of int_mv union in encoder.

Change-Id: I8b81a3e4b4fa530a654c28d9c136afa0c1d379fd

Merge "Increase disable_filter_search_var_thresh threshold"

Merge "obj_int_extract: fix compile warning"

Merge "vp9 asserts: fix compile warning"

Merge "Rename so -> scan_order in vp9_encodemb.c"

Merge "Renaming treed_write() to vp9_write_tree()."

Merge "zz_motion_search() cleanup."

Merge "Moving mi configuration loop from vp9_read_mode_info to set_offsets."

Merge "Remove some dead code"

Rename so -> scan_order in vp9_encodemb.c

Change-Id: I7ff2899ea18a55b37f5c581431ef59806f01e009

Increase disable_filter_search_var_thresh threshold

Increased threshold(t) for interp filter search. This sped up the
encoder with some PSNR loss.

Borg tests were ran at speed 2.
t = 100, PSNR loss:
-0.710%(derf); -0.561%(stdhd); -0.647%(youtube)
speedup:
9%(derf); 3%(stdhd); 5.7%(youtube)

t = 500, PSNR loss:
-1.687%(derf); -1.665%(stdhd); -1.664%(youtube)
speedup:
18%(derf); 10%(stdhd); 8%(youtube)

Change-Id: I180e3657c1e156aaa88dc7c437f8bcbd19f5caba

Merge "Set rc_2pass_vbr_maxsection_pct to correct value"

Merge "Enable adaptive pred filter type for sub8x8"

Set rc_2pass_vbr_maxsection_pct to correct value

Corrected a typo that set rc_2pass_vbr_minsection_pct to
two different values on consecutive lines. Second line
should have set rc_2pass_vbr_maxsection_pct.

Change-Id: Ie07ac67cd5455afe556bef34da8127304db9c97c

Moving mi configuration loop from vp9_read_mode_info to set_offsets.

set_offsets() is a right place to configure all mi-related pointers.

Change-Id: I7d2fda72de5fc27e86c6589543b41fa044681dbf

vp9 asserts: fix compile warning

string literal to int within an assert

Change-Id: I0c889256b67a078e6e2a79577f0b7ae084243258

obj_int_extract: fix compile warning

string literals should be returned as const char*

Change-Id: Iaab98711ed22f9c6eff1ca922c0576a1ff93a58f

Enable adaptive pred filter type for sub8x8

This commit enables an adaptive prediction filter type selection
for sub8x8 block sizes. In speed 1, it re-uses the filter type of
collocated 8x8 block if it is tested in the rate-distortion optimization
loop, for the sub8x8 blocks. Otherwise, it runs the normal test
over all the three filter types. In speed 2, it re-uses the 8x8
block's prediction filter type, if available. Otherwise, force it
to be EIGHTTAP.

Compression and speed performance wise:
speed 1
derf -0.266%
yt   -0.138%

bus at 2000 kbps: 33766ms -> 30451ms (10% speed-up)
football at 600 kbps: 48173ms -> 43786ms (9% speed-up)

speed 2
derf -0.026%
yt   +0.134%

bus at 2000 kbps: 18973ms -> 17698ms (6% speed-up)
football at 600 kbps: 26748ms -> 25096ms (6% speed-up)

Change-Id: I77e097533b969fd3472147225fa79fc98095d342

Merge "test-data.sha1: add missing sha1sums"

zz_motion_search() cleanup.

Change-Id: I4991bc36e1627bd3a9495ca72c0738f1a937da2e

vp9_convole.c cleanup.

Making overall logic more clear, moving "hacked" calculation of base filter
array pointer to get_filter_base() function.

Change-Id: Ibbd38a9f937e48d35bbbfef3ad933ab36664cccb

Cleanup copyright headers.

Change-Id: I7ff2b18e085f3fffaa7f25d40e4e50427b808f43

Merge "Move test vector list into a separate header."

Merge "Add pre decode frame hook to decoder test class."

Move test vector list into a separate header.

Change-Id: I36f9033492f12fda7f9ce0e7a97a009aab9aab57

test-data.sha1: add missing sha1sums

vp90-2-02-size-lf-1920x1080.webm{,.md5} were added in:
ebb583d Add a test vector for loopfilter

Change-Id: I021808338935932cb742ea2621b94f44f22e3037

Merge "Little cleanup in vp9_encode_block_intra()."

Merge "Changes interfaces to vp9_get_compressed_data fn"

Little cleanup in vp9_encode_block_intra().

Change-Id: Ibfe04b920648e15bf7116f4fdc98960572a7007e

Merge "Rename clamp_mv_min_max to set_mv_search_range"

Merge "Renames for consistency in vp9_pred_common.{c, h} files."

Merge "Reduce the number of frames used in lossless test"

Changes interfaces to vp9_get_compressed_data fn

Silences some lint warnings in previous patches

Change-Id: I04bf47ebe7e63a95fd322719a3154e589c115d78

Rename clamp_mv_min_max to set_mv_search_range

This function sets the motion search range limit. Rename it to be
more informative.

Change-Id: I2e8e01073dcb99c9bea9c9acd0a61d672d615444

Merge "Enforce motion search range clamp for sub8x8"

Reduce the number of frames used in lossless test

Change-Id: I976f70b640b06f20533ad29578a5b2acca134fd4

Merge "Fix valgrind error."

Fix valgrind error.

Temporarily change memcpy to memmove.

Change-Id: I700a197bc1ce496be1ddad7118429c5da465b0ca

Merge "vp8: remove 2 unused tables"

Merge "Fix the printf format string"

Enforce motion search range clamp for sub8x8

This commit constrains the maximal motion search range for sub8x8
blocks to be [-1023, 1023], in the unit of full pixel.

Change-Id: I955b60649364ab410f2453cafd46a496f2fcb43e

Fix the printf format string

There were two problems with the format string in
the conditionally compiled print statement. It referred
to a variable that is no longer available and it used
incorrect format specifiers.

Change-Id: I315e22bea2691bb535a2e33f5ca206fc55287a37

Add pre decode frame hook to decoder test class.

Adds a hook that derived test classes can implement to be notified
before every call to decode a frame.

Change-Id: Iefa836459cf3e5d7df9ee27f8198daf82b1be088

vp8: remove 2 unused tables

Change-Id: Ib5ba4e0b438107741efa28251848306322fd7f89

vp9 mt decode: reorder tile decode

reorder the tiles based on size and their presumed complexity. this
minimizes the cases where the main thread is waiting on a worker to
complete.

Change-Id: Ie80642c6a1d64ece884f41683d23a3708ab38e0c

Renames for consistency in vp9_pred_common.{c, h} files.

Change-Id: Icba06e84ca55c419abbacedf5825eeb394a1b140

Renaming treed_write() to vp9_write_tree().

Making name consistent with vp9_read_tree().

Change-Id: Ie213ffe0d5345bf3035f28e17f610894fec79205

Cleaning up vp9_append_sub8x8_mvs_for_idx().

Replacing if-else with switch statement, reordering function arguments.

Change-Id: I4825d2ef311ba8999b6d4ceb0eef003587a13434

Merge "Fix a bug"

Merge "Cleaning up skip context calculation."

Merge "Cleaning up read_inter_block_mode_info() function."

Merge "avoid crash when using --best on cpus with SSE3 (but not SSE4) support"

Fix a bug

In evaluating partition split case, Wrong partition size is used in
calling partition_plane_context(). This commit change to use the
correct sub partition size. The incorrect partition size used were
causing an ASAN error in unit test.

Change-Id: Iab695b764bc51cc61580075f2ae4001421132362

Cleaning up skip context calculation.

Renames:
  vp9_get_pred_context_mbskip => vp9_get_skip_context
  vp9_get_pred_prob_mbskip    => vp9_get_skip_prob

Change-Id: I2af499848ef73f3f5cd8cdb27852d0bcdfe31d09

Merge "Removing unused vp9_get_pred_flag_mbskip() function."

Merge "Refactor inter_predictor function."

Removing unused vp9_get_pred_flag_mbskip() function.

Change-Id: Ib46a97d8ff9f2915b9fa2abba3cd18b6711fcb0c

Merge "Renaming comp_pred_mode to reference_mode."

Refactor inter_predictor function.

Change-Id: Ic429b2f16462e926f30efb3af4da3080026359d8

avoid crash when using --best on cpus with SSE3 (but not SSE4) support

Change-Id: Ie100114a01b8b4da7248603c40676792cd06b32a

Merge "Cleaning up vp9_get_pred_context_switchable_interp() functuion."

Merge "Add include guards to setupintrarecon.h and vpx_once.h"

Merge "Implenment on demand border extension. In place extend the border now. Next commit will totally remove the border."

Cleaning up vp9_get_pred_context_switchable_interp() functuion.

Change-Id: I67a45a41312ca0efd8fe00ccd8bdc0f97675d09f

Implenment on demand border extension. In place extend
the border now. Next commit will totally remove the border.

Change-Id: Ic1e1ca9cc34f81c688715b3948689b47df63a151

Merge "Clean-ups in diamond_search_sad"

Merge "Full range motion search for regular block sizes"

Merge "Further clean up of estimate_max_q."

Renaming comp_pred_mode to reference_mode.

Change-Id: I83ffed2b1878a35ac35f07f9ee74309adc9c7b11

Merge "Renaming vp9_get_pred_context_tx_size() function."

Cleaning up read_inter_block_mode_info() function.

Change-Id: Ib4e215a80f00e342d857a54a4ca1b2dc82b6db1d

Removing max_uv_txsize_lookup lookup table.

Adding get_uv_tx_size_impl() with tx size selection logic, rewriting
get_uv_tx_size().

Change-Id: I3ecb108059a41be227a8c89a0710bd174f508951

Add include guards to setupintrarecon.h and vpx_once.h

Change-Id: Ife17fc6369ce32f36d5c7f8a2ef5a3b7724d81b9

Further clean up of estimate_max_q.

Clean up and simplification of both estimate_max_q
variants and only call once per clip/section.

This leads to a more constrained range of Q values
across a clip / section.

Average gains across all 4 test sets:-

PSNR ~0.5%  SSIM ~0.3%

Change-Id: If77d5f7bb50939a464e117724f4da5b001c62d70

Merge "Removing BLOCK_TYPES and adding PLANE_TYPES constant instead."

Remove some dead code

Change-Id: I0953a3b28758811f9d6a85787850e77592bd7670

Renaming vp9_get_pred_context_tx_size() function.

Change-Id: Ia6d6f4dfb1fd1ec0f8ba53796b59a802e9d7881d

Disable warning for intentional lossless coding

For VP9, lossless coding is enabled by passing 0 for both min_q and
max_q. This is a valid configuration, and should not be warned.

Change-Id: Idd117579cd89cd14c0723b1d7e482067ac12b401

Merge "Disable early exit based on distortion in lossless"

Clean-ups in diamond_search_sad

Use the pre-fetched stride value.

Change-Id: I8d4aaedab7a83a4870be51c110da27e55ca3bc85

Merge "Renaming reference mode context calculation function."

Merge "Replacing b_width_log2 with num_4x4_blocks_wide_lookup."

Disable early exit based on distortion in lossless

In lossless coding, distortion is always 0. Early exit based on this
metric was incorrect.

This CL also changed to use best_rd instead of distortion as the metric
for easly exit as requested by Jim.

Change-Id: I8ef3e407ac03b4abc3283b273f936a68fad5c2ab

Merge "add tile test vectors"

Full range motion search for regular block sizes

Add a full range motion search for regular block sizes. This runs
exhaustive search within the given reference area. This commit further
optimizes the search process by combining 4 points test into one
pipeline, which gives 30% speed-up as compared to run each individual
point at a time.

This full range search serves as a best possible motion search reference.
When replacing the diamond search with full range search, the speed 0
runtime of bus CIF at 2000 kbps goes from 153872ms to 623051ms. The
compression performance compared to speed 0 setting gains 0.585% for
derf set.

Change-Id: Ieef1225216b0b86b4ac4872fa7fb9e18bf2eabb3

Merge "Removing duplicated C code from vp9_loopfilter_filters.c file."

Replacing b_width_log2 with num_4x4_blocks_wide_lookup.

Change-Id: I8ab9bbe2595ed1743f35223b6a6ce6d023b9a20e

Renaming reference mode context calculation function.

Renames:
  vp9_get_pred_context_comp_inter_inter => vp9_get_reference_mode_context
  vp9_get_pred_prob_comp_inter_inter    => vp9_get_reference_mode_prob

Change-Id: I3bbb69481e6b0c848028667c9269f567f293d3bd

Removing BLOCK_TYPES and adding PLANE_TYPES constant instead.

Change-Id: Ic3bb862e93aedf6a489a33ea6f7e5097d96855ee

Merge "Remove rate correction factor."

Merge "Moving vp9_tree_probs_from_distribution() to encoder."

Merge "Renaming constants."

Merge "vp9_get_pred_context_intra_inter() clean up."

Merge "Remove redundant calls to vp9_update_mode_info_border"

Merge "Remove redundant bsize mapping in motion search"

Remove rate correction factor.

Removed an adaptive rate correction factor that was having
a negative impact on quality in many clips. This factor
was influencing the Q range available to each frame
independently of the bits allocated to each.

Average results with DISABLE_RC_LONG_TERM_MEM.

derf +0.199, -0.059.
yt +3.957, +3.798
std hd +1.577, +2.140
yt hd +4.127, +4.513

Average results without  DISABLE_RC_LONG_TERM_MEM

derf -0.628, -0.665
yt +3.432, +3.015
std hd -0.105, +0.153
yt hd +3.432, +3.015

Change-Id: I45bab6b606f49a442e7b27a6d631f3ffd843bbce