Merge "Added plumbing for setting color space"

Merge "Unit test for turning VP8 denoiser on/off periodically."

vp8: Fix to crash in pick_inter.

Added unittest that triggers the crash without this fix.

Issue: https://code.google.com/p/webm/issues/detail?id=911

Change-Id: If5208ceb210c821891675fdf3d9951ab83d52ae6

Merge "Fix comments and color format"

Unit test for turning VP8 denoiser on/off periodically.

Change-Id: Id537d1126f25c0218adcfb4d6ee641ee81a2169a

Added plumbing for setting color space

Change-Id: If64052cc6e404abc8a64a889f42930d14fad21d3

Fix comments and color format

Replaced "color space" with "color format" in comments where color
sampling format is concerned, so to differentiate from the concept
defined in COLOR_SPACE.

Change-Id: I8c935034c166b24307a99352dab1686531276bb8

Merge "Use 64 bit to accumulate frame sse."

Merge "Refactor mc reference block fetch in denoiser"

Merge "vp9: add per-tile longjmp error handling"

Merge "vp9: fix -Wclobbered (longjmp + local variables)"

Merge "Use lookup table to find pixel numbers in block"

Merge "Disable vp9 _8_ loopfilters"

Refactor mc reference block fetch in denoiser

This commit refactors the motion compensated reference block fetch
process in denoiser. It skips the stage that generates motion
compensated reference block if denoiser decides to use copy block
mode. For high motion clips, this could speed up the denoising
process by about 10%.

Change-Id: I8ef4fa5fe766a8c4529119b9ec01faefb3d4ef53

Use lookup table to find pixel numbers in block

This could save one multiplication in each threshold funtion
called by the denoiser per block.

Change-Id: I35f437e09999f0a087180878ef7805f0d86e5819

Merge "Refactor denoiser frame buffer update"

Merge "Initalize zeromv_sse and newmv_sse in vp9_pick_inter_mode"

Merge "Use vp9_convolve_copy in denoiser output"

Merge "Remove unnecessary init_macroblockd."

Merge "Removed redundant local variables in the forward hybrid transforms."

Merge "Unit test for turning VP9 denoiser on/off periodically."

Refactor denoiser frame buffer update

Use frame buffer pointer swap instead of memcpy when possible.
These two CLs make the denoiser when running on vidyo1 720p at
speed -6 over 10% faster.

Change-Id: I64fe8a2422cafca6787a50c7f4dfb961191c0a9d

Unit test for turning VP9 denoiser on/off periodically.

Change-Id: Ifd2813e8ccd8af189a8dc89b24efb6a5681714c7

Use vp9_convolve_copy in denoiser output

Replace copy_block with vp9_convolve_copy for speed performance
improvement.

Change-Id: I3a08c4d01dff2253b6ee573efd02f65ccdc1b5a5

Removed redundant local variables in the forward hybrid transforms.

Change-Id: I60f7ccbbc8dc624134e325bdce6042bc183075b6

Merge "Refactor calculation of tile_cols"

Merge "Always check and free denoiser buffer memory space"

Initalize zeromv_sse and newmv_sse in vp9_pick_inter_mode

These two parameters are used to control the denoiser cut-off
thresholds. They should be properly initialized when starting
mode search of a given block.

Change-Id: Iba8a25487026a0dbe0d350c347d7e4e4e237b637

Merge "Use qdiff to adjust the threshold of sad and variance in MFQE."

Refactor calculation of tile_cols

Change-Id: I2c38ea2bcf6d221a0b6b2fb9be4cebbee21006a3

Merge "Fix best ref frame rd cost update in sub8x8 non-RD mode search"

Merge "Format fix in vp9_pick_inter_mode_sub8x8"

Fix best ref frame rd cost update in sub8x8 non-RD mode search

This fixes the issue that sub8x8 inter blocks always end up
with GOLDEN_FRAME.

Change-Id: Id0c25cbb9c2003f43b4dff8fb1572512c246e077

Format fix in vp9_pick_inter_mode_sub8x8

Replace ref_frame++ with ++ref_frame.

Change-Id: Ic39793081156c314bf1b85d5ab76def97f3bff52

Merge "Fix denoiser chroma component initialization"

Merge "Skip duplicate denoiser frame buffer allocation"

Merge "Turn denoiser sensitivity on starting from kf in unit test"

Merge "Rearrange loopfilter functions"

Merge "Add missing tests for neon _16_ filters"

Merge "Moves inter mode count updates to update_stats"

Use qdiff to adjust the threshold of sad and variance in MFQE.

When qdiff is larger, the sad/variance threshold should also be
higher which indicates a more aggressive action on MFQE.

Change-Id: I44c5c93572805458d4f87fdc7619cc9d8a522185

Always check and free denoiser buffer memory space

The vp9_denoiser_free() function will internally check if the
buffer pointers are NULL. This commit makes the encoder always
call vp9_denoiser_free() after finishing encoding. It protects the
case where noise_sensitivity_level is changed during encoding
process and happen to be turned off towards the end of sequence,
which could result memory space allocated to denoiser not being
released.

Change-Id: Ie20dc2f2e6e5fb6333fbab3356bc153978a6a0f8

Fix denoiser chroma component initialization

Use the correct frame size and stride value for chroma components
when setting the initial values. These control parameters are
assigned when the denoiser buffer was allocated and initialized.

Change-Id: Ia6318194c7738aff540bcbd34f77f0dac46221a1

Skip duplicate denoiser frame buffer allocation

Allocate the frame buffer allocation for denoiser once during the
encoder initialization. This avoids allocating frame buffer
multiple times and overwriting the buffer pointer without proper
releasing.

Change-Id: I9b3baa6283449d86fd164534d344c036bb035700

Use 64 bit to accumulate frame sse.

When testing frame sse to choose a loop filter value and
when checking ambient error in kf Q selection, use 64 bit
values for accumulating the sse, to avoid risk of overflow
for large image formats.

Change-Id: I03765d16c843d0ade61a45b0cd46312472697e57

Disable vp9 _8_ loopfilters

Investigating https://code.google.com/p/chromium/issues/detail?id=443839

Change-Id: Ibb7485d835c5aa5e1d40f31715596ba8d208eedb

Rearrange loopfilter functions

Separate functions and rename files. This will make it easier to disable
some functions later to help work around a compiler issue in chromium.

Change-Id: I7f30e109f77c4cd22e2eda7bd006672f090c1dc5

Add missing tests for neon _16_ filters

Change-Id: I47174884efa257f331a369410a2fa7440368250b

Merge "Use -1 consistently as invalid buffer idx"

Moves inter mode count updates to update_stats

This makes the inter_mode counts update consistent with other symbols.
Also, forward updates should work corerctly now.

Change-Id: Id98be26fd08875162e644bb8f1de6f0918f85396

Use -1 consistently as invalid buffer idx

Instead of mixed use of both -1 and INT_MAX.

This also fixes a vp9 fuzzing test failure.

Change-Id: I950ea94b44ec7cdb5232773bee30b104e342f52a

Merge "Enable coefficient range checking for 10-/12-bit"

Fix encode perf test.

JSON was missing a comma.

Change-Id: I7e6b6251b17bc4e74b0197a449ef0313255997e7

Turn denoiser sensitivity on starting from kf in unit test

The denoiser sensitivity level should be set to 1 starting from
key frame. The internal function of denoiser should make the
temporal denoising operations cut off in key frame coding.

Change-Id: Id3e704a73e98e4ea801284a2cbbab2ea9c371d23

Merge "Fix compiler warnigns for msvc2013"

Merge "Return error on wrong sync code"

Merge "Properly validate data size"

Merge "Deleted unused #define"

Enable coefficient range checking for 10-/12-bit

Also fixes a broken build with --enable-coefficient-range-checking
configuration option.

Change-Id: Icc536f53088e8cec59dfb8f635668555fdb9125e

Properly validate data size

With "show_existing_frame" frames:
Minimum data size for profile 0 and 1 is 1 byte (8bits)
Minimum data size for profile 2 and 3 is 2 bytes (9bits)

Otherwise:
Minimum data size is 8 bytes.

This resolves the VP9 failure in fuzzing test build #56.

Change-Id: I146d9d37688f535dd68d24aacc76d464ccffdf04

Fix compiler warnigns for msvc2013

Change-Id: I1e32bf8f6872a6fb7e9cabe86483e94805e2f790

Return error on wrong sync code

Not initialize codec stream info

This fixes vp8 fuzzing issue reported at build #56

Change-Id: I307ac839b4f4bda3a02a551019c0d688dba19c86

Merge "Fix denoised video output function"

Adopt weighted averaging in MFQE.

By using weighted averaging in the calculation of the frames to be
displayed, we get an average gain of more than 1 db for key frames
whose base qp are 20 higher than non-key frames.

Change-Id: I7bcb2e7b9c6420ea3f73f33204d18b072dffd17c

Fix denoised video output function

This commit fixes the buffer alignment control in denoised video
output function. The encoder is now able to properly store the
denoised input video into provided file when enabled.

Change-Id: I258e272c8d4a9b52592e16d6d09976c6f5c21728

Merge "Remove redundant local variable for segment_id"

Add help info for --enable-vp9-highbitdepth

This fixes issue# 903.

Change-Id: I649d8584898a93681073e1ac1b444ff66e240050

Remove redundant local variable for segment_id

Use mbmi->segment_id directly in vp9_pick_inter_mode. The value is
set outside this function, hence no need to assign it again.

Change-Id: I3d63cdd2e4fadf62ccdefada638b00d979eb3741

Merge "Add bsize check condition in nonrd_use_partition"

Add bsize check condition in nonrd_use_partition

Check if block size is below 8x8 for rectangular block coding. It
is added to support 4x8 and 8x4 block coding for RTC mode.

Change-Id: I760b328f45b98ae48adc45ed5a39fb643cd8aebd

Merge "Use less tmp motion vectors in vp9_pick_inter_mode_sub8x8"

Merge "Enable sub8x8 inter block search for RTC coding mode"

Remove unnecessary init_macroblockd.

macroblockd are init again inside decode_tiles and decode_tiles_mt.

Change-Id: I1f42837864f095c319cdb24cec7d6aa6a3a4da50

Use less tmp motion vectors in vp9_pick_inter_mode_sub8x8

This commit simplifies the reference motion vector part for sub8x8
block coding in RTC mode and reduces the required local variables.

Change-Id: I470d1482092563b68af22404dc1f497e7457b0a8

Properly set size based on actual buffer layout

VP9FrameSizeTestsLarge.OneByOneVideo has been causing a failure in
jenkins libvpx__unit_tests-valgrind_long for "using of uninitialized
memory", the root cause was that the input image for this test was
not initialized with proper size, therefore plan U and V were not
initialized at all.

This commit fixes the size initialization, and resolves the issue.

Change-Id: Ic4dd1542b7bb0cb260a1e0aeeb505db21ae5edc8

Merge "Set ref frame scaling factor in RTC inter mode decision"

Merge "WIP: Remove giant value cost table"

Enable sub8x8 inter block search for RTC coding mode

This commit enables sub8x8 inter block coding for RTC mode. The
use of sub8x8 blocks can be turned on by allowing
choose_partitioning function to select 4x4/4x8/8x4 block sizes.

Change-Id: Ifbf1fb3888fe4c094fc85158ac3aa89867d8494a

WIP: Remove giant value cost table

Change-Id: Iabe8a8868a747626c24bb13f1796f4c7827af367

Set ref frame scaling factor in RTC inter mode decision

Properly set the corresponding scaling factor of the reference
frame in the non-RD mode decision process. This allows the mode
search process to account for the scaled reference frame when
selecting coding mode.

Change-Id: I9d41bff6931c98e5a82b413e37ac5e6e14b93b23

vp9: fix -Wclobbered (longjmp + local variables)

Local variables used at the setjmp() site need to be marked volatile.
Relevant excerpt from the 'man longjmp':

===============
The values of automatic variables are unspecified after a call to
longjmp() if they meet all the following criteria:
·  they are local to the function that made the corresponding setjmp(3) call;
·  their values are changed between the calls to setjmp(3) and longjmp(); and
·  they are not declared as volatile.
===============

Change-Id: I093e6eeeedbf5f781d202248ca701ba2c29d3064

assert that the write writes the whole packet

As a side effect this should avoid an unsigned signed failure in
jenkins.

Change-Id: I8e6a9c3dbd4252d37e6325f95fc80e49ce4cc59e

Merge "make vp9_coef_encodings const"

Merge "remove static initializers for partition tree"

Merge "Revert "Revert "Removal of legacy zbin_extra / zbin_oq_value."""

Merge "Tokenization without huge tables."

make vp9_coef_encodings const

Change-Id: I28a3d342a4a4b23e02a0f47bb8037c4403f71d61

Merge "convert extra bit cat structure to const statics"

Merge "Add multithread encodes to the encode perf test"

Revert "Revert "Removal of legacy zbin_extra / zbin_oq_value.""

This reverts commit 9946ee23e0a4c158e26a505b162a072f81b8a3be.

Fix the ssse3 asm function.

Change-Id: I07f77a63aa98087626e45c4e87aa5dcafc0b0b07

Tokenization without huge tables.

Change-Id: Iff528c4b7528cc70320343b3a7ce07a92b024dfd

convert extra bit cat structure to const statics

Change-Id: Idb257e78dab2339ab1f41c3c82e537bc23e90b65

Revert "remove vp8 unused uvstride parm in simple loop filter"

This reverts commit 392a2c43c77242f05715bdac086f235e6cbbdf2e

Failing nexus build tests:
http://build.chromium.org/p/client.libvpx/builders/Nexus%207%20Builder/builds/224

Change-Id: I95ae2c894b70cef9c757334fcab7fdeca9003e9c

Merge "Resolve several style issues in decode_perf_test"

Merge "remove vp8 unused uvstride parm in simple loop filter"

Resolve several style issues in decode_perf_test

This allows us to track decode speed for new encodes so that we catch
problems like an encode change that makes decode really slow.

Change-Id: I7210196415c4e53d455e9c81246d9fb324913a06

Add multithread encodes to the encode perf test

Encode the files with 1, 2, and 4 threads.

Explicitly turn on error resilient and frame parallel
decoding and turn off altref frames.

Change-Id: I02b66f72b7d35c666c3ba685b33015508e440209

Merge "resolve visual studio warnings around initializers"

resolve visual studio warnings around initializers

Change-Id: Id2ad4fb24242f7ca8fa7a152f0889fded4113613

Merge "vp9_ethread: add the multi-threaded encoder unit tests"