Nice looking motion vector clamping functions.

Removing assign_and_clamp_mv function, making implementation of clamp_mv
and clamp_mv2 more clear and consistent.

Change-Id: Iecd08e1c1bf0379f8314ebe01811f8253f4ade58

Merge "Optimize 32x32 2D inverse DCT for speed-up"

Merge "Adding missing const to vp9_extra_bits array."

Adding missing const to vp9_extra_bits array.

Change-Id: Icd128ab58719e0b9066bdfa66a5d0d427a84d6df

Optimize 32x32 2D inverse DCT for speed-up

This commit exploits the sparsity of quantized coefficient matrix.
It detects each 32x8 array and skip the corresponding inverse
transformation if all entries are zero.

For ped1080p at 8000 kbps, this on average reduces the runtime of
32x32 inverse 2D-DCT SSE2 function from 6256 cycles -> 5200
cycles. It makes the overall encoding process about 2% faster at
speed 0. The speed-up is more pronounceable for the decoding process.

Change-Id: If20056c3566bd117642a76f8884c83e8bc8efbcf

Remove unnecessary arguments in rd_pick_ref_frame

This commit removes redundant arguments passing in the function of
rd_pick_reference_frame. This resolves the clang warnings about
potential use of uninitialized values.

Change-Id: Ic68f949a9f8fcd0a583786b0c75321104ea44739

vp9_decodemv.c cleanup.

Inlining VP9_NMV_UPDATE_PROB constant, consistent local variable names.

Change-Id: I01692501982568fa535882d6b320e3c692f88abb

Removing get_mi_{row, col} functions.

Passing mi_row and mi_col parameters to functions explicitly. Removing
unused xd argument from scale_mv function.

Change-Id: Icb4c495ec72d26fb066c14470d3ae0b741fbf18a

Merge "Removing unused "ishp" arguments."

Merge "Consistent update for inter_mode probabilities."

Removing unused "ishp" arguments.

Using different variable names "allow_hp" and "use_hp" instead of "usehp".

Change-Id: I0cd5996ddeb46bd754473b680a993c0aaf8eb879

Merge "Make the use of ref_frame index consistent"

Make the use of ref_frame index consistent

Refactor the frame buffer referencing in choose_partition and make
it consistent with other places. This means to prevent potential
issues when we extend reference frame buffer.

Change-Id: I5ff33ed5f671e1f4cc7049622212769a9b4578d9

Consistent update for inter_mode probabilities.

Using inter-mode counts instead of inter-mode-tree branch counts inside
FRAME_COUNTS structure.

Change-Id: I60dde13af37d06146d7d15543311c1b5044e9e04

Merge "Cleanup: remove two stray '+', fix typos."

Merge "Cleanup typos, remove unnecessary lines, replace switch"

Cleanup: remove two stray '+', fix typos.

Change-Id: I9c30e3dbedabe4942439a0ee2f691fb9a04cd03b

Cleanup typos, remove unnecessary lines, replace switch

Removed unnecessary code lines, replaced switch with an if,
fixed spelling errors and formatting.

Change-Id: Ie48aa4604aa0ed48362ca359d792fb21b2ec1dc6

Merge "removed duplication"

removed duplication

Change-Id: Ica23b66f6664e5a5b168499584f0afffbc54794f

Remove a redundant branching in tokenize_b

The tokenize_b function is only called when output flag is on. Hence
removing the conditional branch on it therein.

Change-Id: Ib709f47f23f39ca05a695faf86fa3377f11f2dd0

Tune tokenization/detokenization flow for speed-up

This commit optimizes the tokenization and detokenization operational
flow for speed-up. It makes the coding process about 0.3% faster at
speed 0.

Change-Id: I28008df7482874e4b5f237f2d418ff82a249dd56

Skip redundant tokenization in rd loop

This commit makes the encoder skip the redundant tokenization process
in the rate-distortion optimization search loop, while updating the
entropy contexts accordingly. It makes the speed 0 encoding process
about 0.5% faster at no performance change.

Change-Id: I34a4155a0b5332afeb45c93a51c7f35a294d685c

Merge "16x16 inverse 2D-DCT with DC only"

Merge "Remove unnecessary 64 byte alignment"

16x16 inverse 2D-DCT with DC only

This commit provides special handle on 16x16 inverse 2D-DCT, where
only DC coefficient is quantized to be non-zero value.

Change-Id: I7bf71be7fa13384fab453dc8742b5b50e77a277c

Renaming txfm to tx for consistency in some places.

Change-Id: I2a6a646570e2af66315e7c658d00d99f80c4b127

Remove unnecessary 64 byte alignment

Fixes a warning on MSVS 2012 where the alignment of vp9_default_iscan_8x8
didn't match between its declaration and definition.

Change-Id: I1466a15635f4b22594d705d570b7e399bfb6cf21

Renaming NB_TXFM_MODES constant to TX_MODES.

Change-Id: I10bf06e3a3d5271221ae6a42a36074d01d493039

Renaming TX_SIZE_MAX_SB to TX_SIZES.

Change-Id: I6aa4191935aa93461a07c41b59fdae1eb5f5f107

Merge "Shortcut 8x8/16x16 inverse 2D-DCT"

Cleanup: replacing xd->mode_info_context with temp variable.

Change-Id: I5a3e83102784cabb918a5404405fcab99c5bb9b6

Inverse dimension order in token_cost array.

This allows us to increment the position at the band-level only as
we go from one band to the next; more importantly, that allows us to
use an add instead of multiply instruction, and omit the instruction
altogether if the band doesn't change from one coef to the next, thus
being slightly faster (probably more noticeable on systems where a
multiply is expensive, like arm).

Change-Id: I4343fe35b9f9a47fa00b217bdcbf5f91ff96c381

Merge "vp9_decodemv.c cleanup."

Merge "d45 intra prediction SSSE3 optimizations."

Merge "Save pixels instead of coefficients in intra4x4 RD loop."

Merge "Add best_rd breakout in intra4x4 RD loop."

Shortcut 8x8/16x16 inverse 2D-DCT

This commit brought back the shortcut implementation of 8x8/16x16
inverse 2D-DCT. When the eob <= 10, it skips the inverse transform
operations on row 4:7/4:15 in the first round. For bus_cif at 1000
kbps, this provides about 2% speed-up at speed 0.

Change-Id: I453e2d72956467d75be4ad8c04b4482ab889d572

vp9_decodemv.c cleanup.

Renaming:
  read_intra_mode_info  -> read_intra_frame_mode_info
  read_inter_mode_info  -> read_inter_frame_mode_info
  read_intra_block_part -> read_intra_block_mode_info
  read_inter_block_part -> read_inter_block_mode_info
  read_ref_frame        -> read_ref_frames
  read_reference_frame  -> read_is_inter_block

Using num_4x4_blocks_{wide, high}_lookup instead of bit shifts.

Change-Id: I83c81573b4ef6f53f2f8d24683895014bebfba61

Merge "Special handle on DC only inverse 8x8 2D-DCT"

Merge "Making read_inter_mode_info function more clear."

Merge "Fix some format error and code error in neon code."

Special handle on DC only inverse 8x8 2D-DCT

This commit enables a special handle for the 8x8 inverse 2D-DCT,
where only DC coefficient is quantized to be non-zero. For bus_cif
at 2000 kbps, it provides about 1% speed-up at speed 0.

Change-Id: I2523222359eec26b144cf8fd4c63a4ad63b1b011

Fix some format error and code error in neon code.

Change-Id: I748dee8938dfb19f417f24eed005f3d216f83a82

Merge "General cleanups."

d45 intra prediction SSSE3 optimizations.

Change-Id: Ie48035ff4f93c41f8a9b3023e6444fd10432d8fb

Merge "Auto min and max partition size experiment."

Auto min and max partition size experiment.

Speed feature experiment to set an upper and lower
partition size limit based on what has been seen
in spatial neighbors.

This seems to gives quite reasonable speed gains in local
(10-15%) and when used with speed 0 the losses are small
(0.25% derf, 0.35% stdhd). However, for now I am only
enabling it on speed 1 as there may be clashes with the existing
temporal partition selection in speed 2.

Using a tighter min / max around the range derived from the
neighbors increases speed further but at the cost of a
bigger quality loss. However,  I think this spatial method could
be combined with data from either the last frame or a variance
method (or both) to refine the range of minimum and maximum
partition size. I.e. consider the min and max from spatial and
temporal neighbors and the variance recommendation.

Change-Id: I1b96bf8b84368d6aad0c7aa600fe141b4f07435f

Modify static threshold calculation

Used 3 * standard_deviation in internal threshold calculation
instead of fit curve. This actually approached the algorithm
better.
For comparison, similar tests were done:
The overall psnr loss is less than before.
1. derf set:
when static-thresh = 1, psnr loss is 0.329%;
when static-thresh = 500, psnr loss is 0.970%;
2. stdhd set:
when static-thresh = 1, psnr loss is 0.922%;
when static-thresh = 500, psnr loss is 1.307%;

Similar speedup is achieved. For example,
clip            bitrate  static-thresh psnr    time
akiyo(cif)       500        0          48.952  5.077s(50f)
akiyo            500        500        48.866  4.169s(50f)

parkjoy(1080p)   4000       0          30.388  78.20s(30f)
parkjoy          4000       500        30.367  70.85s(30f)

sunflower(1080p) 4000       0          44.402  74.55s(30f)
sunflower        4000       500        44.414  68.69s(30f)

Change-Id: Ic78833642ce1911dbbd1cb6c899a2d7e2dfcc1f3

Making read_inter_mode_info function more clear.

Now read_inter_mode_info calls read_intra_block_part (renamed from
read_intra_block_modes) or read_inter_block_part (just added).

Change-Id: I541badea6b663e0ae692ec158665efb90ed20c03

Merge "Add const to vp9_accum_mv_refs parameter"

Merge "Add encoding option --static-thresh"

Add encoding option --static-thresh

This option exists in VP8, and it was rewritten in VP9 to support
skipping on different partition levels. After prediction is done,
we can check if the residuals in the partition block will be all
quantized to 0. If this is true, the skip flag is set, and only
prediction data are needed in reconstruction. Based on DCT's energy
conservation property, the skipping check can be estimated in
spatial domain.

The prediction error is calculated and compared to a threshold.
The threshold is determined by the dequant values, and also
adjusted by partition sizes. To be precise, the DC and AC parts
for Y, U, and V planes are checked to decide skipping or not.

Test showed that
1. derf set:
when static-thresh = 1, psnr loss is 0.666%;
when static-thresh = 500, psnr loss is 1.162%;
2. stdhd set:
when static-thresh = 1, psnr loss is 1.249%;
when static-thresh = 500, psnr loss is 1.668%;

For different clips, encoding speedup range is between several
percentage and 20+% when static-thresh <= 500. For example,
clip            bitrate  static-thresh psnr    time
akiyo(cif)       500        0          48.923  5.635s(50f)
akiyo            500        500        48.863  4.402s(50f)

parkjoy(1080p)   4000       0          30.380  77.54s(30f)
parkjoy          4000       500        30.384  69.59s(30f)

sunflower(1080p) 4000       0          44.461  85.2s(30f)
sunflower        4000       500        44.418  78.1s(30f)

Higher static-thresh values give larger speedup with larger
quality loss.

Change-Id: I857031ceb466ff314ab580ac5ec5d18542203c53

Add const to vp9_accum_mv_refs parameter

Change-Id: I0625d8ffddf590dfecd1bb8b8d6f57ef64b8bf18

General cleanups.

Removing unused constants, macros, and function declarations. Using
ROUND_POWER_OF_TWO macro, vp9_zero, vp9_copy where possible. Moving
#include from *.h to *.c. Merging for loops for motion vectors.

Change-Id: Ic3bf841764a2bb177128bb3a6d7aa8f68229cd13

Merge "Adding lookup table for size group."

Adding lookup table for size group.

Change-Id: Ia6144d77ebed66e0739b62e4d673e26a95aa9550

Merge "Simplify handling of sub-partition motion vectors"

Merge "Use local variables rather than structure members"

Merge "Removing duplicated code for merging two probabilities."

Merge "Removing vp9_adapt_mode_context function."

Merge "Make coeff_optimize initialized per-plane"

Merge "Inlining inc_mv_component_count function."

Merge "Removing duplicated PREDICTION_PROBS constant."

Merge "fix a bug where flags are not reset"

Simplify handling of sub-partition motion vectors

Simplified the code that extracts and uses the motion
vectors for the 4 sub-partitions in rd_pick_partition.

Change-Id: Iaf698ef7ee3aef9edd59015e1ae065dd359b17d9

Merge "msvs: Generate proper configurations for mixed platforms"

Make coeff_optimize initialized per-plane

This commit makes the initialization of trellis coeff optimization
a per-plane operation, thereby eliminating the redundant steps in
encode_sby and encode_sbuv. It makes the encoder at speed 0 slightly
faster.

Change-Id: Iffe9faca6a109dafc0dd69dc7273cbdec19b17cd

Removing duplicated PREDICTION_PROBS constant.

Already defined in vp9_seg_common.h.

Change-Id: I5a0e3fa15966b1ebeb77ccd506b55fc231c22342

Removing vp9_adapt_mode_context function.

Moving code from vp9_adapt_mode_context to vp9_adapt_mode_probs.

Change-Id: I60829c30b28968cd813551ef3a206dfb98d323c9

fix a bug where flags are not reset

The feature that uses small partition results as a measure to skip
mode evaluation at larger partition requires the flags to be reset.
The reset was missing in the code path that calls rd_use_partition().

Change-Id: Ia0a3a0aee1a862b6e2333d596808db7c48033d50

Merge "SSE2 inverse 4x4 2D-DCT with DC only"

Merge "pack_inter_mode_mvs cleanup"

SSE2 inverse 4x4 2D-DCT with DC only

Add SSE2 implementation to handle the special case of inverse 2D-DCT
where only DC coefficient is non-zero.

Change-Id: I2c6a59e21e5e77b8cf39a4af5eecf4d5ade32e2f

Merge "Merge vp9_dc_only_idct_add and vp9_short_idct4x4_1"

Removing duplicated code for merging two probabilities.

Adding common merge_probs and merge_probs2 functions. Changing ints to
usigned ints in some places.

Change-Id: Icf088ffdea7cf5b95284a128916409bdd53506b0

Inlining vp9_init_mode_contexts function.

Change-Id: I21ee76bcae101cc9f6ef1d867622e50b7ae565fc

Merge vp9_dc_only_idct_add and vp9_short_idct4x4_1

They share the same functionality, so merging together.

Change-Id: I98a0386fcee052cb854f9ff90c283c1b844bcb79

Removing CONFIG_BALANCED_COEFTREE experiment.

Change-Id: I61a8b0101eac3ee2e0621d56151b90c269fd4db4

Merge "Adding condition inside get_tx_type_{4x4, 8x8, 16x16}."

Inlining inc_mv_component_count function.

Change-Id: Ic99d07a56b1752ec49fc5074b1dd6804b17609a0

msvs: Generate proper configurations for mixed platforms

Prior to 73c4e284, the generated .sln files didn't contain any
information about the different configurations when using .vcxproj
project files. The MSVS IDE was able to fill this in just fine when
loaded though.

When building for ARM, the obj_int_extract project still is built
for x86, in order for the build process to be able to use
obj_int_extract.exe.

Now that configuration info is generated, it breaks current ARM
setups, since the configurations generated by gen_msvs_sln.sh only
included configurations from the last parsed project file (as
mentioned in the comment).

In these setups, the MSVS IDE generated a third meta-platform, called
"Mixed Platforms". This meta-platform points to either ARM or
Win32 as platform in each of the individual projects.

When the MSVS IDE generated this automatically, it also included
the original ARM and Win32 platforms as separate choices, but these
can be omitted since they don't make sense.

Change-Id: Ie25226496f91af4bb1ad8eb9ae9ca5bfed0433d7

Adding condition inside get_tx_type_{4x4, 8x8, 16x16}.

Adding plane type check condition because it was always used outside of
get_tx_type_{4x4, 8x8, 16x16}.

Change-Id: I02f0bbfee8063474865bd903eb25b54d26e07230

Merge "vp9_find_mv_refs_idx: remove unused split_count"

vp9_find_mv_refs_idx: remove unused split_count

variable was write only

Change-Id: I04b002178f66961836ee08fb60a05b91b54e91d8

Use local variables rather than structure members

Although local copies of the mode member variables
(mode, ref_frame) were made, they were not used in
all places. Also, made a local copy of the
second_ref_frame member.

Change-Id: I84d8c822e5cb3d8a02fc3de8a4037ca3fea8bfad

Merge "Correct spelling mistakes"

Save pixels instead of coefficients in intra4x4 RD loop.

Prevents doing duplicate IDCTs; encoding of first 50 frames of bus
(speed 0) @ 1500kbps goes from 1min4.0 to 1min3.5, i.e. 0.87% faster
overall.

Change-Id: I2df39e29ed9d5ea5e7d2704a34940ba622832ddd

Add best_rd breakout in intra4x4 RD loop.

Encoding time of first 50 frames of bus (speed 0) @ 1500kbps goes from
1min5.4 to 1min4.0, i.e. 2.2% faster overall.

Change-Id: I8c32f2aff9a649ce7dd49d910dc5ba16b99c3bc6

Correct spelling mistakes

Change-Id: Id4138293efeac4503b2e01ce7a6c150a5abeef77

Merge "More optimizations for cost_coeffs()."

Merge "Unify the use of encode_b_args/optimize_block_args"

Moving counts from FRAME_CONTEXT to new struct FRAME_COUNTS.

Counts are separate from frame context. We have several frame contexts but
need only one copy of all counts.

Change-Id: I5279b0321cb450bbea7049adaa9275306a7cef7d

Unify the use of encode_b_args/optimize_block_args

The struct optimize_block_args is defined same as encode_b_args.
Remove this redundant definition, and use encode_b_args consistently.

Change-Id: I1703aeeb3bacf92e98a34f4355202712110173d9

Removing LOW_PRECISION_MV_UPDATE define.

Change-Id: I78d16ee758e1fae0200b746f00031f6d9c6d6ce7

Merge "Removing vp9_is_interpolating_filter array."

Merge "Rolled-up several for loops into one"

Rolled-up several for loops into one

Several consecutive for loops executed over the same
index range, so I rolled them into one.

Change-Id: I5cfcc8c38c738478965768409cca9d09adf224e1

Removing vp9_is_interpolating_filter array.

All filters are interpolating now, so we don't need this array, all
values from this array are evaluated to true.

Change-Id: I9af6d8219ae0eb984063cd15e4e2296374ae4961

Merge "Adding update_tx_counts function."