Enable coefficient range checking for 10-/12-bit

Also fixes a broken build with --enable-coefficient-range-checking
configuration option.

Change-Id: Icc536f53088e8cec59dfb8f635668555fdb9125e

Merge "Remove redundant local variable for segment_id"

Add help info for --enable-vp9-highbitdepth

This fixes issue# 903.

Change-Id: I649d8584898a93681073e1ac1b444ff66e240050

Remove redundant local variable for segment_id

Use mbmi->segment_id directly in vp9_pick_inter_mode. The value is
set outside this function, hence no need to assign it again.

Change-Id: I3d63cdd2e4fadf62ccdefada638b00d979eb3741

Merge "Add bsize check condition in nonrd_use_partition"

Add bsize check condition in nonrd_use_partition

Check if block size is below 8x8 for rectangular block coding. It
is added to support 4x8 and 8x4 block coding for RTC mode.

Change-Id: I760b328f45b98ae48adc45ed5a39fb643cd8aebd

Merge "Use less tmp motion vectors in vp9_pick_inter_mode_sub8x8"

Merge "Enable sub8x8 inter block search for RTC coding mode"

Use less tmp motion vectors in vp9_pick_inter_mode_sub8x8

This commit simplifies the reference motion vector part for sub8x8
block coding in RTC mode and reduces the required local variables.

Change-Id: I470d1482092563b68af22404dc1f497e7457b0a8

Properly set size based on actual buffer layout

VP9FrameSizeTestsLarge.OneByOneVideo has been causing a failure in
jenkins libvpx__unit_tests-valgrind_long for "using of uninitialized
memory", the root cause was that the input image for this test was
not initialized with proper size, therefore plan U and V were not
initialized at all.

This commit fixes the size initialization, and resolves the issue.

Change-Id: Ic4dd1542b7bb0cb260a1e0aeeb505db21ae5edc8

Merge "Set ref frame scaling factor in RTC inter mode decision"

Merge "WIP: Remove giant value cost table"

Enable sub8x8 inter block search for RTC coding mode

This commit enables sub8x8 inter block coding for RTC mode. The
use of sub8x8 blocks can be turned on by allowing
choose_partitioning function to select 4x4/4x8/8x4 block sizes.

Change-Id: Ifbf1fb3888fe4c094fc85158ac3aa89867d8494a

WIP: Remove giant value cost table

Change-Id: Iabe8a8868a747626c24bb13f1796f4c7827af367

Set ref frame scaling factor in RTC inter mode decision

Properly set the corresponding scaling factor of the reference
frame in the non-RD mode decision process. This allows the mode
search process to account for the scaled reference frame when
selecting coding mode.

Change-Id: I9d41bff6931c98e5a82b413e37ac5e6e14b93b23

assert that the write writes the whole packet

As a side effect this should avoid an unsigned signed failure in
jenkins.

Change-Id: I8e6a9c3dbd4252d37e6325f95fc80e49ce4cc59e

Merge "make vp9_coef_encodings const"

Merge "remove static initializers for partition tree"

Merge "Revert "Revert "Removal of legacy zbin_extra / zbin_oq_value."""

Merge "Tokenization without huge tables."

make vp9_coef_encodings const

Change-Id: I28a3d342a4a4b23e02a0f47bb8037c4403f71d61

Merge "convert extra bit cat structure to const statics"

Merge "Add multithread encodes to the encode perf test"

Revert "Revert "Removal of legacy zbin_extra / zbin_oq_value.""

This reverts commit 9946ee23e0a4c158e26a505b162a072f81b8a3be.

Fix the ssse3 asm function.

Change-Id: I07f77a63aa98087626e45c4e87aa5dcafc0b0b07

Tokenization without huge tables.

Change-Id: Iff528c4b7528cc70320343b3a7ce07a92b024dfd

convert extra bit cat structure to const statics

Change-Id: Idb257e78dab2339ab1f41c3c82e537bc23e90b65

Revert "remove vp8 unused uvstride parm in simple loop filter"

This reverts commit 392a2c43c77242f05715bdac086f235e6cbbdf2e

Failing nexus build tests:
http://build.chromium.org/p/client.libvpx/builders/Nexus%207%20Builder/builds/224

Change-Id: I95ae2c894b70cef9c757334fcab7fdeca9003e9c

Merge "Resolve several style issues in decode_perf_test"

Merge "remove vp8 unused uvstride parm in simple loop filter"

Resolve several style issues in decode_perf_test

This allows us to track decode speed for new encodes so that we catch
problems like an encode change that makes decode really slow.

Change-Id: I7210196415c4e53d455e9c81246d9fb324913a06

Add multithread encodes to the encode perf test

Encode the files with 1, 2, and 4 threads.

Explicitly turn on error resilient and frame parallel
decoding and turn off altref frames.

Change-Id: I02b66f72b7d35c666c3ba685b33015508e440209

Merge "resolve visual studio warnings around initializers"

resolve visual studio warnings around initializers

Change-Id: Id2ad4fb24242f7ca8fa7a152f0889fded4113613

Merge "vp9_ethread: add the multi-threaded encoder unit tests"

Merge "vpxdec: ignore GET_FRAME_CORRUPTED error w/--keep-going"

Merge "Add a guard on intra mode skip control for RTC mode"

Merge "Remove ARF mode entries from THR_MODES array in non-RD mode"

Merge "Rework mode search threshold update for RTC coding mode"

Merge "Properly store the tx_size of selected intra mode"

Merge "Fix including test file twice."

Merge "Fix encode perf test"

Revert "Removal of legacy zbin_extra / zbin_oq_value."

This reverts commit e9b586e21bb899e247346e82bccf5afb42604910.

Change-Id: I5b36e6727da6c05278d97e2c37b80c109f79bed4

Merge "Removal of legacy zbin_extra / zbin_oq_value."

Merge "make vp9 encoder static initializers thread safe"

Merge "tests/examples.sh: skip env. check for filtered tests"

vp9_ethread: add the multi-threaded encoder unit tests

The unit tests for VP9 multi-threaded encoder are added, which
carry out tests for all three modes(i.e. kTwoPassGood, kOnePassGood
and kRealTime), and speeds ranging from 1 to 8. A 1280x720 test
clip is used, which is encoded into multiple tiles. The number of
threads is num_of_tiles.

Change-Id: I04419eeca145ad841c9c527603668239a82e7fbd

Fix including test file twice.

The test file niklas_1280_720_30.yuv may be included twice.

Change-Id: I44512073e9e430a8e10fbce5afd62041e0edea17

make vp9 encoder static initializers thread safe

Change-Id: If2d0888d13ebe52bc7c3b16f16319408a86ab6de

Fix encode perf test

The accepted range changed to -8..8.
BUG:https://code.google.com/p/webm/issues/detail?id=901

Change-Id: I53ac80b58f4819b82c76db61db5dc476f821191f

Add a guard on intra mode skip control for RTC mode

This commit adds a guard condition to the intra mode test skip
control in RTC coding mode. If all inter modes are skipped, force
the encoder to check intra mode. It avoids situations where the
encoder processes without properly assigning required mode
information.

Change-Id: Ibb349fee997d6584ce901d08b06e8df3ca9c01b1

Removal of legacy zbin_extra / zbin_oq_value.

zbin extra / zbin_oq_value was widely passed around,
hence removal touches a lot of code.

Change-Id: Idc94359735b60c38a160e4385ae09d5ca8b6b8e5

Remove mode dependent zbin boost.

Initial patch to remove get_zbin_mode_boost() and
cpi->zbin_mode_boost.

For now sets a dummy value of 0 for zbin extra pending
a further clean up patch.

Change-Id: I64a1e1eca2d39baa8ffb0871b515a0be05c9a6af

Merge "Improve motion detection for low complexity regions."

vpxdec: ignore GET_FRAME_CORRUPTED error w/--keep-going

this function may return an error if no frame is available; --keep-going
is meant to test decoder resilience, so simply warn in this case.

Change-Id: I6e6aed3e78eca21cca80d7d8a06a1a244685ba29

tests/examples.sh: skip env. check for filtered tests

Change-Id: Ide670b00ae3ecd9e18f394905341bf793349f247

Let YUV plane share the same dqcoeff buffer.

Remove unnecessary dqcoeff from macroblockd which reduce macroblockd
size by 16384 bytes.

Change-Id: Ia379a703b4fee81c8fd4698b52488a85a90c9bc2

Remove ARF mode entries from THR_MODES array in non-RD mode

The alternate reference frame is disabled in non-RD mode. No need
to keep the related entries in the THR_MODES array.

Change-Id: I53386f4bb1c6284f582801f27246c5edf55bc24b

Merge "Corrected value range of --cpu-used for vp9"

Rework mode search threshold update for RTC coding mode

In RTC coding mode, the alternate reference frame modes and compound
inter prediction modes are disabled. This commit reworks the
related mode search threshold update process to skip interacting
with these coding modes. It provides about 1.5% speed-up for speed
-6 on average.

vidyo1
16551 b/f, 40.451 dB, 6261 ms -> 16550 b/f, 40.459 dB, 6190 ms

nik720p
33316 b/f, 38.795 dB, 6335 ms -> 33310 b/f, 38.798 dB, 6237 ms

mmmoving
33265 b/f, 41.055 dB, 7176 ms -> 33267 b/f, 41.064 dB, 7084 ms

dark720
33329 b/f, 39.729 dB, 11235 ms -> 33331 b/f, 39.733 dB, 10731 ms

Change-Id: If2a4090a371cd28f579be219c013b972d7d9b97f

Corrected value range of --cpu-used for vp9

This commit removes undefined value options of cpu-used for VP9 and
changed vpxenc prompt to reflect the usable range of [-8,8]

Change-Id: Ib80fef3dbb6ec9aabac45ed13e8ab6fbaf94f55e

Merge "Add rectangle block support for MFQE."

Merge "Enhance the end to end psnr tests"

Enhance the end to end psnr tests

Includes more speed settings and also real-time mode now.

Change-Id: I71c77c4a2471d715c61cc30db092aa053cf012e1

remove static initializers for partition tree

Could have problem with 2 encoders.

Change-Id: I92d326933c00fee688f77b54acf467ca5a8516bc
see: https://code.google.com/p/webm/issues/detail?id=900&thanks=900&ts=1418843841

Merge "Improve the libvpx encoder test driver"

Merge "Use bit_depth in VP9Common as the flag of highbit."

Properly store the tx_size of selected intra mode

Use a temporary variable to store the transform size associated
with the best intra mode and restore the mode_info if the overall
best mode is intra mode.

Change-Id: I2606e0061ad32f91b095462902b1eb734b128eea

Merge "Remove reset mode_info array per frame"

Merge "Set second ref frame to be NONE in key frame coding"

Improve the libvpx encoder test driver

The encoder initialization is called in EncodeFrame(). Therefore,
in the unit tests, the set control is done when video->frame() is 1.
This didn't cause problem since current tests mainly test lag_frame
> 0 case, or no encoding option that needs to allocate memory before
1st frame is used. If use lag_frame = 0 and encoding multiple tiles,
the unit tests crash. The issue is fixed by doing the initialization
before encoding frames.

Change-Id: I43102048f88448bcf27e9c60e0ec06c176b02e5c

Use bit_depth in VP9Common as the flag of highbit.

Change-Id: I881aefbe68f9c10bb4629a2a5ee1e42a225d5ab7

VP9 common for ARMv8 by using NEON intrinsics 15

Re-write
- vp9_lpf_horizontal_4_dual_neon
in vp9_loopfilter_16_neon.c

Change-Id: Ie14f63d352f9564ad01db3939a61d91cf6d21a31
Signed-off-by: James Yu <james.yu@linaro.org>

Merge "Use defines for inline and __builtin_prefetch"

Merge "Fix intra mode update process in vp9_pick_inter_mode"

Add rectangle block support for MFQE.

Only for the rectangle blocks larger than 16X16, SAD and Variance are
still based on the internal square blocks.

Change-Id: I3754da1b0254147313f86a0140dbf4f980f06a5a

Merge "VP9 common for ARMv8 by using NEON intrinsics 16"

Merge "Allow building multi-res encoder with --shared"

Merge "Silence -Werror=unused-parameter"

Remove reset mode_info array per frame

The mode_info array was unnecessarily reset to zero every frame
when error resilient mode turned on, given that the mode info
values per block will be assigned during mode search stage.

This commit removes this reset operation. It reduces the runtime
cost on memset operation to 1/3. The overall speed -6 runtime is
reduced by 2%.

Change-Id: I32ecb73338d8995cc0c5147de09357364f13d45b

Set second ref frame to be NONE in key frame coding

This commit explicitly set the second reference frame type to be
NONE in key frame coding mode. This fixes a subtle dependency of
reference motion vector used by next inter frame on mode_info
reset before key frame coding.

Change-Id: I5ff0359753fdc9992b0bfe889490f7a32d7d5f6a

Use defines for inline and __builtin_prefetch

These were established for compatibility. Make sure to use them.

Most frequently they manifest as issues on Visual Studio builds.

Change-Id: I39d764d2eb341b999d7a6132cb44b2acfc511160

Merge "Revert "Revert "Add support for setting byte alignment."""

VP9 common for ARMv8 by using NEON intrinsics 16

Add vp9_reconintra_neon.c
- vp9_v_predictor_4x4_neon
- vp9_v_predictor_8x8_neon
- vp9_v_predictor_16x16_neon
- vp9_v_predictor_32x32_neon
- vp9_h_predictor_4x4_neon
- vp9_h_predictor_8x8_neon
- vp9_h_predictor_16x16_neon
- vp9_h_predictor_32x32_neon
- vp9_tm_predictor_4x4_neon
- vp9_tm_predictor_8x8_neon
- vp9_tm_predictor_16x16_neon
- vp9_tm_predictor_32x32_neon

Change-Id: Ib5d54a4766a1b5127169045659974f33aa98376d
Signed-off-by: James Yu <james.yu@linaro.org>

Allow building multi-res encoder with --shared

Export vpx_codec_enc_init_multi_ver so the vp8 multi res encoder example
can see it when building shared.

Change-Id: Ic5222b1b6d949f39c7e50c3bc58fb76bece2a3f1

Silence -Werror=unused-parameter

Cast away remaining issues so that new ones don't get lost in the noise.

Change-Id: Iacd6999b0686ce80f9835730d68db6382690fa92

Merge "rtcd: handle armv7s architecture"

VP9 common for ARMv8 by using NEON intrinsics 19

Delete vp9_dc_only_idct_add_neon.c

The function was merged with vp9_short_idct4x4_1_add (later
vp9_idct4x4_1_add) in d2de1ca and should have been deleted then.

Change-Id: Ie58ba3dd9dc7330a8f1238dd7dd71c9ed4639b94
Signed-off-by: James Yu <james.yu@linaro.org>

Merge "Fixed MFQE crash issue for highbit depth."

Fixed MFQE crash issue for highbit depth.

Check the flags, no MFQE for highbit now. Will add highbit support
latter.

Change-Id: I548c27593e0f47ab7f4c92b45f14fb037dc86591

Merge "Initialize best_tx_size with invalid value"

Merge "Prevent decoder from using uninitialized entropy context."

Merge "Use right shift to replace division in vp9_pick_inter_mode"

Improve motion detection for low complexity regions.

Where there is very subtle motion, especially when combined
with low spatial complexity, the codec sometimes fails to quickly
pick up the ambient motion field.

Once it has been established though the field propagates well using
Nearest and Near MV.

This patch looks specifically at the case where the Nearest and Near
have not been established as non zero vectors and in this case
discounts the cost of searching for a new vector in the rd code.

This will almost certainly have some implications in terms of encode
speed but it should be possible to mitigate the impact in a subsequent
using first pass stats and the local spatial complexity.

Average results for test sets approximately neutral.

Change-Id: I44a29e20f11f7ab10f8c93ffbdc50183d9801524

Merge "Fix for crash in highbitdepth rt mode"

Merge "Fix the comments."

Fix for crash in highbitdepth rt mode

Change 72141 introduced a new use of vp9_avg_4x4.
This call needs to switch to using vp9_highbd_avg_4x4
when performing high bitdepth encodes.

Change-Id: I6a8ba4b62f8a75d0a917b365a55245e2f0438ea1

Merge "iosbuild.sh: allow for out of tree builds"

iosbuild.sh: allow for out of tree builds

Change-Id: Id89ed4a4153dd6e02380c4b8ae8ad6c1f8d21944

rtcd: handle armv7s architecture

quiets build warnings about implicit (armv6) function declarations

Change-Id: I896a5ef3e367e5bb92777a60d34003eb3a040997

Fix intra mode update process in vp9_pick_inter_mode

When multiple intra modes are tested, the previous mode info
update process may overwrite the selected best intra mode and make
the final selection use an inter mode. This commit fixes this
issue by moving the mode_info reset outside the intra mode search
loop.

Change-Id: I15ed4288a6b3cb0832104a5e6d5d9a25cd1a5b2b