Make coeff_optimize initialized per-plane

This commit makes the initialization of trellis coeff optimization
a per-plane operation, thereby eliminating the redundant steps in
encode_sby and encode_sbuv. It makes the encoder at speed 0 slightly
faster.

Change-Id: Iffe9faca6a109dafc0dd69dc7273cbdec19b17cd

Merge "SSE2 inverse 4x4 2D-DCT with DC only"

Merge "pack_inter_mode_mvs cleanup"

SSE2 inverse 4x4 2D-DCT with DC only

Add SSE2 implementation to handle the special case of inverse 2D-DCT
where only DC coefficient is non-zero.

Change-Id: I2c6a59e21e5e77b8cf39a4af5eecf4d5ade32e2f

Merge "Merge vp9_dc_only_idct_add and vp9_short_idct4x4_1"

Inlining vp9_init_mode_contexts function.

Change-Id: I21ee76bcae101cc9f6ef1d867622e50b7ae565fc

Merge vp9_dc_only_idct_add and vp9_short_idct4x4_1

They share the same functionality, so merging together.

Change-Id: I98a0386fcee052cb854f9ff90c283c1b844bcb79

Removing CONFIG_BALANCED_COEFTREE experiment.

Change-Id: I61a8b0101eac3ee2e0621d56151b90c269fd4db4

Merge "Adding condition inside get_tx_type_{4x4, 8x8, 16x16}."

Adding condition inside get_tx_type_{4x4, 8x8, 16x16}.

Adding plane type check condition because it was always used outside of
get_tx_type_{4x4, 8x8, 16x16}.

Change-Id: I02f0bbfee8063474865bd903eb25b54d26e07230

Merge "vp9_find_mv_refs_idx: remove unused split_count"

vp9_find_mv_refs_idx: remove unused split_count

variable was write only

Change-Id: I04b002178f66961836ee08fb60a05b91b54e91d8

Merge "Correct spelling mistakes"

Correct spelling mistakes

Change-Id: Id4138293efeac4503b2e01ce7a6c150a5abeef77

Merge "More optimizations for cost_coeffs()."

Merge "Unify the use of encode_b_args/optimize_block_args"

Moving counts from FRAME_CONTEXT to new struct FRAME_COUNTS.

Counts are separate from frame context. We have several frame contexts but
need only one copy of all counts.

Change-Id: I5279b0321cb450bbea7049adaa9275306a7cef7d

Unify the use of encode_b_args/optimize_block_args

The struct optimize_block_args is defined same as encode_b_args.
Remove this redundant definition, and use encode_b_args consistently.

Change-Id: I1703aeeb3bacf92e98a34f4355202712110173d9

Removing LOW_PRECISION_MV_UPDATE define.

Change-Id: I78d16ee758e1fae0200b746f00031f6d9c6d6ce7

Merge "Removing vp9_is_interpolating_filter array."

Merge "Rolled-up several for loops into one"

Rolled-up several for loops into one

Several consecutive for loops executed over the same
index range, so I rolled them into one.

Change-Id: I5cfcc8c38c738478965768409cca9d09adf224e1

Removing vp9_is_interpolating_filter array.

All filters are interpolating now, so we don't need this array, all
values from this array are evaluated to true.

Change-Id: I9af6d8219ae0eb984063cd15e4e2296374ae4961

Merge "Adding update_tx_counts function."

Merge "Removing MODE_COUNT_TESTING from vp9_entropymode.c."

Merge "Make xform_quant operations tx_type independent"

Merge "Cleanup inside vp9_get_pred_context_tx_size."

Removing MODE_COUNT_TESTING from vp9_entropymode.c.

Change-Id: I5367bc1d9e660d86879d285a6f146d8a47e62464

Make xform_quant operations tx_type independent

The xform_quant() module is only used by inter modes, hence removing
the redundant switches therein conditioned on tx_type.

Change-Id: Ib87ce5b2f2e4cbf3ceb133a1108afa173c933a3f

Merge "vp9: make some static tables const"

Merge "Skip inverse transform when eob is zero"

Merge "VP9_COMMON: remove unused temp_scale_frame"

Merge "Diamond search change to accelerate movement"

Skip inverse transform when eob is zero

When all the transform coefficients were quantized to zero, skip
the inverse transform operation. For bus_cif at 1000 kbps, the
runtime goes from 154967ms -> 149842ms, i.e., about 3% speed-up,
at speed 0.

Change-Id: Ic0a813fff5e28972d4888ee42d8747846a6c3cc6

Merge "Renaming of segment constants."

pack_inter_mode_mvs cleanup

xd->mode_info_context is set to m prior to this call.

Change-Id: Ibc442529961750c29ccf0c6cae08cb2b0431415f

Merge "clean up bw, bh"

clean up bw, bh

many structures use bw and bh and they have different meanings.   This cl attempts
to start this clean up and remove unneccessary 2 step look up log and then
shift operations...

also removed partition type multiple operation code in bitstream.c.

Change-Id: I7e03e552bdfc0939738e430862e3073d30fdd5db

Merge "Eliminated prev_mip memsets/memcpys in encoder"

Merge "Reworked the auto_mv_step_size speed feature"

Renaming of segment constants.

Renamed:
  MAX_MB_SEGMENTS to MAX_SEGMENTS
  MB_SEG_TREE_PROBS to SEG_TREE_PROBS

The minimum unit for segmentation in the segment map
is now 8x8 so it is misleading to use MB_ as macro-block
traditionally refers to a 16x16 region.

Change-Id: I0b55a6f0426bb46dd13435fcfa5bae0a30a7fa22

vp9: make some static tables const

Change-Id: I8bcae51271673da8755c66a51aea005dfe6a3739

Merge "Speedup loopfilter neon code."

Cleanup inside vp9_get_pred_context_tx_size.

Using max_txsize_lookup to get max transform size.

Change-Id: If4b39beba3c06a581effd8cab698ea90727dc2c9

Merge "VP9_COMMON: drop cur_tile_{row,col}_idx"

Speedup loopfilter neon code.

Try and cut down the cycle count by rearranging the instructions
so there are less stalls.

Change-Id: Ic1383335ee0f05e656477d9ee9c179ec231285d5

Merge "vp9: apply loopfilter inline if possible"

More optimizations for cost_coeffs().

4x4:    163 ->  123 cycles (33% faster)
8x8:    491 ->  399 cycles (23% faster)
16x16: 1889 -> 1763 cycles (7% faster)
32x32: 8311 -> 8180 cycles (1.6% faster)

Overall encoding time of first 50 frames of bus (speed 0) @ 1500kbps
goes from 1min4.33 to 1min3.00, i.e. 2.11% faster.

Change-Id: Ib52d1dbb5649b14de769d3e7a74af67440b5284f

vp9: apply loopfilter inline if possible

excludes tiled content currently

Change-Id: I44155253e8d6771e5e039d663be5f21cc9d0355d

libyuv: fix SSSE3 code in scale.c

This patch was provided by Frank.

Change-Id: Icebcbd96016a51a85dbe5e8a351ab7624ace962b

Adding update_tx_counts function.

Moving common encoder/decoder code to update_tx_counts. Also renaming
vp9_get_pred_probs_tx_size to get_tx_probs2 and adding get_tx_probs to
call vp9_get_pred_context_tx_size inside read_selected_tx_size only once
(twice before).

Change-Id: Ia50247f3893de88ef8e9041b0d44be44a40aaa4d

Merge "filter_block_plane: remove MACROBLOCKD param"

VP9_COMMON: remove unused temp_scale_frame

Change-Id: I696a0dca1d02d365e283029d1d077710bd5680e0

Merge "Using update_ct and update_ct2 functions for probability update."

VP9_COMMON: drop cur_tile_{row,col}_idx

these were only being written in one location and never read.

Change-Id: If59f3c09aa1485cf89bac0099a8a79e99688b5d1

Merge "fix a build error"

Merge "configure: default configure log to config.log"

Merge "VP[89]_COMMON: remove golden/altref frame counts"

fix a build error

Change-Id: I3b05687f439ff6a7c426d2c97a6c58c831fa51ac

Merge "Skip buffer update in sub8x8 rd loop"

Merge "Optimize operation flow in sub8x8 rd loop"

Using update_ct and update_ct2 functions for probability update.

Update logic for both mode and mvref was the same, so using MODE_COUNT_SAT,
MODE_MAX_UPDATE_FACTOR, update_ct, update_ct2 for both cases. Removing
function update_tx_ct because it was identical to update_mode_ct2.

Change-Id: Iff566be27dbd6cde4c2ec04e8d988f207046b8f0

Merge "tests: silence a few type related warnings"

Merge "cosmetics: idct_test.cc: fix formatting"

Diamond search change to accelerate movement

Optional change in diamond search to continue in the best move
direction until that move turns worse.

This is still WIP since the exact way the new method is to be used is
under investigation. One option is to make it an option in diamond
search and use it only when motion is large.

Overall slightly positive on derfraw300 +0.02%, stdhdraw +0.13%,
but works a lot better for high motion sequences (ex. football : +1%).

Change-Id: If88e01a6021daa0cda934680cdc70be1ee04f798

Merge "Re-order mode search in rd."

Optimize operation flow in sub8x8 rd loop

Stack the rate-distortion statistics in the sub8x8 rd loop. This allows
the encoder to skip the forward transform, quantization, and coeff cost
estimation, in the sub8x8 rd optimization search, if the motion
vector(s) are of integer pixel value, and have been tested in the
previous prediction filter type rd loops of the same block.

This gives about 2% speed-up for bus_cif at 2000 kpbs, for speed 0.
Its efficacy depends how frequently the motion search will select an
integer motion vector.

Change-Id: Iee15d4283ad4adea05522c1d40b198b127e6dd97

Re-order mode search in rd.

Mode search order in rd loop changed to better reflect
observed hit counts.

Also some adjustment of the baseline mode rd thresholds
to reflect the order change and observed frequencies.

Change-Id: I47a131cc83e11551df8add6d6d8d413d78d3a63c

Merge "fix left over overflow"

fix left over overflow

This cl fixes issues rbultje brought up. that I somehow neglected when I
submitted yaowu's patch.

Change-Id: I07ad18796317822510b96e951c88d29f194a3c2e

Fix build error.

When CONFIG_POSTPROC is set there was a now
invalid reference to cm->filter_level.

Changed to cpi->mb.e_mbd.lf.filter_level in line with
change Iaf5fb71c33719cdfa1b991f671caf071be9ea035

Change-Id: If746e60044903f7ba8d0d346225b3d015226c7d0

Merge "Removing pre probabilities from FRAME_CONTEXT."

Merge "Moving all loop filter related variables into new struct."

Merge "Consistent names for inter mode probabilities and encodings."

Merge "Removing frame_type field from MACROBLOCKD struct."

Merge "Removing unused static arrays from vp9_reatectrl.c."

Merge "Moving vp9_reader into decode_tiles function."

Skip buffer update in sub8x8 rd loop

This commit allows the encoder to skip a few buffer update steps in
rd_pick_best_mbsegmentation, when early breakout has been triggered
in the rd_check_segment_txsize. It provides about 1% speed-up for
bus_cif at 2000 kbps, in the settings of speed 0.

Change-Id: Ica034f10a24dec572b397d8389a2b81020ebc0b9

added checks to prevent rate/distortion overflow

At speed 2, due to the threshold scheme used, it is possible the rate
and distortion assigned with INT_MAX value. The patch added checking
to prevent the INT_MAX value is used in further calculation of RD
scores. The patch also changed the assertion in rd_use_partition() to
be mirror similar assertion in rd_pick_partition().

Change-Id: Idb52c543cc1e10abdf6e6a5d6e9cb535a42214dc

Removing pre probabilities from FRAME_CONTEXT.

Using cm->frame_contexts[cm->frame_context_idx] as source of previous
probabilities.

Change-Id: Ie03778acf0e7bebdc3a1f6a51854d4a0712f24a1

Moving all loop filter related variables into new struct.

Adding loopfilter struct with fields from MACROBLOCKD and VP9Common.
Eventually it will be moved to vp9_loopfilter.h for better code structure.

Change-Id: Iaf5fb71c33719cdfa1b991f671caf071be9ea035

Merge "Fixing problem introduced in one of my previous commits."

Removing unused static arrays from vp9_reatectrl.c.

Removed arrays: kf_boost_seperation_adjustment,
                gf_adjust_table,
                gf_intra_usage_adjustment,
                gf_interval_table.

Change-Id: I62e400cb6e4d039787615169a3779e31ebf95893

Merge "Moving Scale2Ration function from vp9_onyx.h to vp9_onyx_if.c."

Fixing problem introduced in one of my previous commits.

Changing fc->tx_probs back to fc->pre_tx_probs. This change actually
affects the bitstream but current test vectors work. Chrome branch is not
affected at all. Broken since:

cc662dd Adding struct tx_probs and struct tx_counts to cleanup the code.

Change-Id: I36dd4b3678e902e10aba8dd49b0012eb558c209d

Reworked the auto_mv_step_size speed feature

This patch modifies the auto_mv_step_size speed feature to
use a combination of the maximum magnitude mv from the last
inter frame, and the maximum magnitude mv for the two reference
mvs with the same reference. For arf frames, the max mav step
for the resolution is used.
The bounds therefore are slightly tighter. The feature is made
a speed 1 feature.

Rebased.

Results (when this feature is turned on over speed 0):
derfraw300: -0.046% psnr, about 5+% speedup
(tested on football: goes from 4m30.760s to 4m17.410s).

Change-Id: If492797a61b0b4b3e58c0b8f86afb880165fc9f6

filter_block_plane: remove MACROBLOCKD param

replace with direct use of the plane and MODE_INFO

Change-Id: Icce57bc398a6e3607aedde0573d977e192040696

Merge "Make libvpx compile on OSX 10.9 (Mavericks)"

Moving vp9_reader into decode_tiles function.

Change-Id: Ic741054836d6c1b89c4f1c75cc6bd938a7d56723

Make libvpx compile on OSX 10.9 (Mavericks)

Change-Id: Ibf2555f1c0d00e91d416eb39201a5a91df7fab27

Merge "Renaming TXFM_MODE to TX_MODE (like TX_SIZE, TX_TYPE)."

Removing frame_type field from MACROBLOCKD struct.

Change-Id: Ia4e83913251c1cdc7aa2abd64bf01ecb1a962119

Renaming TXFM_MODE to TX_MODE (like TX_SIZE, TX_TYPE).

Moving TX_MODE enum to vp9_enums.h. Renaming txfm_mode variables to
tx_mode.

Change-Id: I459d1af6dd928ce7fccdf8ce30b6f1ca057bef92

Removing redundant VP9_COMMON* from function signatures.

Functions: vp9_get_pred_context_switchable_interp,
           vp9_get_pred_context_intra_inter,
           vp9_get_pred_context_single_ref_p1,
           vp9_get_pred_context_single_ref_p2.

Change-Id: I3d6fb8aee23c9062270768e1e6da416dd9bb8f96

Consistent names for inter mode probabilities and encodings.

Renaming vp9_sb_mv_ref_tree to vp9_inter_mode_tree, and
vp9_sb_mv_ref_encoding_array to vp9_inter_mode_encodings.

Change-Id: I0e91fbf81350d3ec5a2599064c74089b5d06133a

Merge "cosmetics: tile_independence_test: fix formatting"

Merge "Alignment of THR_MODES to vp9_mode_order[]"

Merge "Block index variables in MACROBLOCKD reduced to chars."

Merge "Add neon optimize vp9_short_idct8x8_add."

Alignment of THR_MODES to vp9_mode_order[]

Change-Id: I4032dd0442043543954dcb3724df974b7cc7e515