Compact formatting default_coef_probs_{4x4, 8x8, 16x16, 32x32}.

Change-Id: If40b930431766d5179b9769509b5e4ca1628e9cc

Merge "Formatting vp9_pareto8_full array."

Revert "Simplify mask checking in loop filters"

Jingning saw bitstream change with this patch. It could be true
that (mask_16x16_0 & 1) is 1, but (mask_16x16_1 & 1) is 0 in some
edge cases.

This reverts commit 8f05e70340533b9922be5b1c97c37e50607fd862.

Change-Id: I0a529435ce816a1e14653eb510d5090de276070a

Merge "Moving eob array to the encoder."

Merge "Change default behavior to assume sampled chroma"

Merge "Improve idct16x16: _256_add_sse2(x1.107)&_10_add_sse2(x1.012)"

Formatting vp9_pareto8_full array.

Change-Id: Ic7f47a8d233daf5e61e82092865837ea4eda4095

Merge "Fix a spelling mistake in filename"

Merge "Fix VP8 border replication for very small image"

Moving eob array to the encoder.

In the decoder we don't need to save eobs, we can pass eob as an argument.
That's why removing eob arrays from VP9Decompressor and TileWorkerData,
and moving eob pointer from macroblockd_plane to macroblock_plane.

Change-Id: I8eb919acc837acfb3abdd8319af63d1bbca8217a

Fix a spelling mistake in filename

Change-Id: Ic06124ed95a50935b1c6509907dcac87c7707bcc

Fix VP8 border replication for very small image

Also added a test vector for this issue.

Change-Id: I8a8654f9d33b27afd53c295f1ea44d198550d067

Fix initialization order for the encoder

This commit makes the coefficient tree initialized prior to token
initialization, where the coefficient costs are filled out according
to the probabilities associated with coefficient value categories.

Change-Id: If4e89c3923058376f8382c683fe4a225a4a38af3

Merge "Making names consistent with REFERENCE_MODE enum name."

Merge "Removing token_to_counttoken array."

Merge "Using local variable for token_cache."

Merge "Removing dummy assignments."

Merge "Remove plane_block_idx."

Merge "Fix intra prediction ref selection in skip_encode"

Merge "Fix use_uv_intra_estimate in rd loop"

Fix intra prediction ref selection in skip_encode

This commit fixes the intra prediction reference source selection
in the settings of skip_encode. Use original boundary pixels as
prediction reference, when the inverse transform and reconstruction
are skipped in the per block size rate-distortion optimization loop.

Change-Id: I36081aa30aa46e203e0e6f4e8a420fd08269469a

Removing token_to_counttoken array.

Change-Id: I02050bcca4c9fd68a00abdea5aba0c3f8993d9a9

Remove plane_block_idx.

Its last remaining caller can be passed its results directly without any
additional work. Also, it's not non-4:2:0 safe.

Change-Id: Ia5089ba5f7f66c7617270483c619c9271aefd868

Improve idct16x16: _256_add_sse2(x1.107)&_10_add_sse2(x1.012)

The performance gain of idct16x16_10_add_sse2 function is not
noticeable. However since both functions use the IDCT16_1D,
idct16x16_10_add_sse2 should be modified as well.
Tested with: park_joy_420_720p50.y4m

Change-Id: I02b957e36fcf997c677d15baf496533895271bff

Fix use_uv_intra_estimate in rd loop

This commit fixes the use of uv_intra_estimate by properly restoring
the mode_info struct required by rd_pick_intra_sbuv_mode.

Change-Id: I6a156d79533c4e2e60dfd3b8c5bb0a42a8eca280

Using local variable for token_cache.

The difference with the old code is that originally the whole token_cache
was initialized with zeros at the beginning of decode_coefs() function.
Now we set several zero values explicitly with "token_cache[scan[c]] = 0".

Change-Id: I88cc5031f01d13012d1a4491739c36cb44f9401e

Merge "Cleaning up decode_coefs() function."

Merge "improve vp9_idct32x32_34(x1.472)&1024(x1.032)_add_sse2"

Merge "Disable partitioning in the dominant subsampling direction."

Cleaning up decode_coefs() function.

Removing goto and using while loop instead, renaming seg_eob to max_eob,
moving eob token counter increment.

Change-Id: Idcc4b3a45e4f313596a71776aef56691a6647e5f

Disable partitioning in the dominant subsampling direction.

E.g. disable vertical partioning for 4:2:2. Until we come up with something
better to do with the chroma block size, this prevents an assert error.

Change-Id: I9394fb3f14ec1343abc3ad4769de208e6278f285

Merge "Simplify mask checking in loop filters"

Merge branch 'forest'

Bookkeeping. master already contains everything
in forest.

Change-Id: I1471064eef341411c6ed0c9e855fce18cff12ebc

Fix bug in extend_frame chroma extended too far

This fixes issue 667.

In the case where the frame was an odd number of pixels
wide or high, the border was being extended by one col
or row too far.

The calculation of color plane dimensions was modified
to use those already computed at the time the frame
buffer was allocated.

Also freed the temporary scaling buffer in vpxdec to
prevent a memory leak.

Change-Id: I195bc81d84c0fc5d8260c1232200d62399e4b51f

Merge "Moving token-encoding related stuff from common to encoder."

Merge "Moving reaster_block_offset{,_int16} from vp9_blockd.h to vp9_rdopt.h."

Merge "Simplify super_block_yrd()"

Merge "Merge tx selection into RD calculation"

Fixing inadvertent change

Fixes an inadvertant change made in a previous patch while doing
some experiments.

Change-Id: I9961f2157c803676491a3d6daf056ff8a37367b3

Simplify mask checking in loop filters

Considering a horizontal edge, if mask_16x16 is 1 for an even-
indexed 8x8 block, then mask_16x16 is 1 for next 8x8 block in
same row. Similiar to a verticle edge, if mask_16x16 is 1 for
an even-rowed 8x8 block, then mask_16x16 is 1 for the 8x8 block
right below it in next raw. Based on that, the mask_16x16 checking
can be simplified to save cycles. The corresponding 8-pixel
vp9_mb_lpf_horizontal_edge code can also be removed.

Change-Id: Ic3fe7a5674322239208cbe2731dc3216ce2084f3

Moving reaster_block_offset{,_int16} from vp9_blockd.h to vp9_rdopt.h.

Change-Id: I5a5888d4639cc6b7eb266be47581dd15ba08c91e

Merge "Continued rate control clean-ups"

Continued rate control clean-ups

Moves all post encode rate control updates to a separate function
plus other cleanups.

Change-Id: I70e8eccf666c88d8b649b969997fd84d27e4baaa

Moving token-encoding related stuff from common to encoder.

Change-Id: I0e59d320407b3bed0ba3622a7b29975f6fad7ebf

Merge "Moving mode encodings from common to encoder + cleanup."

Merge "vp9_short_fdct32x32_rd vp9_short_fdct32x32 optimized for AVX2"

Removing qcoeff buffers from the decoder.

We only need qcoeff buffers in the encoder. Reducing TileWorkerData struct
and VP9Decompressor struct sizes by 24K.

Change-Id: Id148868461f7ffa3d3dd634b371503ae9c57e207

Simplify super_block_yrd()

Change-Id: Iae16644faeed920e69cd5d1db71e2e1e4bda241c

Making names consistent with REFERENCE_MODE enum name.

Change-Id: I17268af3e0cbf7e5788c3154466e404947c944b3

Removing dummy assignments.

Change-Id: I10d1a4bcac751a982d9dd135f019e3a4d92f8522

Moving mode encodings from common to encoder + cleanup.

Change-Id: I248ccb1532e2cd95314d0b95108f2c2e71cf084f

Merge "Amended some comments for clarity"

Merge "Deleting vp9_treereader.h file."

Deleting vp9_treereader.h file.

Renaming treed_read() to consistent vp9_read_tree() and moving it from
deleted vp9_treereader.h to vp9_dboolhuff.h file.

Change-Id: Iedd8655acbe25e4fcf62b79e5a13bdea69b6b004

Merge tx selection into RD calculation

Change-Id: I406021e34b31b899202a99b39d3da4fa06ebee69

Merge "Add a noise test vector"

Merge "thumb: Fix a typo in a comment"

Add a noise test vector

Added the test vector provided by Attila, which caught the bug in
Issue 661 "Decoder produces mismatched outputs with ssse3 enabled
and disabled"

vp90-hantro-stream-001.ivf
size: 320x180; 20 frames

Change-Id: Ic0d2b57ac7596ecb938dd55abc8c706fc2dd6d8f

Merge "Fix unit test failures"

Fix 16 wide neon horz loopfilter.

Multiply by 3 was on 8bit vectors when it should have been on
16bit vectors.

Change-Id: I248c1429b3134dfd171dfab0ebb109fd2437e1fc

Fix unit test failures

Change-Id: Ibc61ef81fafeb20df6df6e5496b6c01760f3dc84

Merge "Do vertical loopfiltering in parallel"

Merge "Some cleanups on rate control"

improve vp9_idct32x32_34(x1.472)&1024(x1.032)_add_sse2

vp9_idct32x32_34_add_sse2:
speedup: 1.472
IDCT32_1D_34 and MULTIPLICATION_AND_ADD_2 are optimized
based on the fact that Only upper-left 8x8 has
non-zero values.

vp9_idct32x32_1024_add_sse2:
speedup: 1.032

Tested with: park_joy_420_720p50.y4m

Change-Id: I8670ce547552b48695049de298e2fc46ce28dfbc

thumb: Fix a typo in a comment

Change-Id: Ic318be9d74a95793abc41501fe563164de53a6d7

Merge "Moving mv entropy encodings calculation to the encoder side."

Merge "Removing vp9_modecosts.{c, h} files."

Some cleanups on rate control

Removes the active_worst_qchanged variable since it is never
set to 1.

Change-Id: I29a291fd1068fd9b504a2db7768d45644c1eae3e

Moving mv entropy encodings calculation to the encoder side.

Moved arrays:
  vp9_mv_joint_encodings
  vp9_mv_class_encodings
  vp9_mv_class0_encodings
  vp9_mv_fp_encodings

Change-Id: Iaf5008c579fcbd6d77fdd81d1aef8c71b5f308b7

Merge "Removing redundant call of vp9_init_mbmode_probs()."

Removing vp9_modecosts.{c, h} files.

Renaming vp9_init_mode_costs() to fill_mode_costs() and moving it to
vp9_rdopt.c.

Change-Id: Ib2542d216458f6dced9f4b7ccbdd2cd98176aa5a

vpxenc: Move config check code into its own source files.

- Add command line args that allow display of warnings without prompting
  for user input.
- Extend warning code to make it somewhat scalable.

Change-Id: I2bad8f9315f6eed120c2e1bbe0a2a5ede15fbf35

Reusing txfrm_block_to_raster_xy in vp9_xform_quant().

Change-Id: Ib273dfff3be284f3c9ae288e5315fb6c6126f9c2

Merge "Cleaning up vp9_write_nmv_probs() function."

Merge "Adding select_tx_size() function."

Merge "Moving {left, right}_block_mode to vp9_blockd.h."

Merge "Renaming COMPPREDMODE_TYPE enum and its members."

Amended some comments for clarity

Change-Id: I31c3908ba394095deb5d3a5d7b7c9b2b5328c3e8

Merge "In frame Q adjustment experiment."

Merge "Use separate inter predictors for enc/dec"

In frame Q adjustment experiment.

The idea here is to allow "in frame" adjustment of the final Q
value used to encode each SB64, using segmentation.

There is also adjustment of the rd mult in regions of overspend.

Activated using aq_mode=2

Change-Id: I2f140cd898c9f877c32cd6d2e667f5e11ada4b1c

Merge "Fix a build issue with visual c."

Merge "Rename block_yrd_txfm to block_rd_txfm"

Use separate inter predictors for enc/dec

The decoder will construct inter predictor using lazy border extension,
while the encoder, going with multiple runs of motion search in the rate-
distortion optimization loop for each block, does border extension at
frame level. This commit makes separate the inter predictors for encoder
and decoder, respectively.

Change-Id: Ieca2fecba3a7201a6d64ef9f219e5d91e50559c3

Merge "Separate setup_scale_factor/extend_frame_borders"

Change default behavior to assume sampled chroma

When calling check_initial_width through vp9_set_size_literal
the function was defaulting to using non-subsampled chroma.

This patch changes the default to assume sampled chroma as
an interim solution until complete support for other
color formats is added.

Change-Id: Id8e7e919b350e3473dfdf7551af6fd0716478b04

Fix a build issue with visual c.

Change-Id: Ic8fc16ee1734cfde0d12a2e3abb3e9299382f3b1

Cleaning up vp9_write_nmv_probs() function.

Change-Id: I9af38f1a0e226ee094c17081f044a722ac1caded

Rename block_yrd_txfm to block_rd_txfm

This function is also used with the U and V planes.

Change-Id: Ib6beae0438790bfb690b3a2bda9c5c8b0e89a9b8

Merge "Using partition counts from FRAME_COUNTS struct in the encoder."

Merge "Cleaning up vp9_append_sub8x8_mvs_for_idx."

Merge "Inlining and removing vp9_set_pred_flag_seg_id() function."

Merge "Added cpuid compatibility for older MSVC versions"

Inlining and removing vp9_set_pred_flag_seg_id() function.

Change-Id: I0fd76937e847f78378a7ab3fa0af00a7c2c52b42

Merge "Organizing all scan tables into lookup table."

Added cpuid compatibility for older MSVC versions

Change-Id: I891bf936e03411ca611620e7cb2eb5081993a346

Merge "Fix bug in extend_frame chroma extended too far"

Renaming COMPPREDMODE_TYPE enum and its members.

List of renames:
  COMPPREDMODE_TYPE      => REFERENCE_MODE
  SINGLE_PREDICTION_ONLY => SINGLE_REFERENCE
  COMP_PREDICTION_ONLY   => COMPOUND_REFERENCE
  HYBRID_PREDICTION      => REFERENCE_MODE_SELECT (like TX_MODE_SELECT)
  NB_PREDICTION_TYPES    => REFERENCE_MODES

Change-Id: If723dabe9435325d0165dcd028142a2c78b417b4

Organizing all scan tables into lookup table.

Change-Id: Ie829ee58a55157e6972c63cebe69a5d0a3221349

Cleaning up vp9_append_sub8x8_mvs_for_idx.

Change-Id: Ic92f15d82ff5cfa3df655d08e460335c2ef8a325