Make xform_quant operations tx_type independent

The xform_quant() module is only used by inter modes, hence removing
the redundant switches therein conditioned on tx_type.

Change-Id: Ib87ce5b2f2e4cbf3ceb133a1108afa173c933a3f

Merge "vp9: make some static tables const"

Merge "Skip inverse transform when eob is zero"

Merge "VP9_COMMON: remove unused temp_scale_frame"

Merge "Diamond search change to accelerate movement"

Skip inverse transform when eob is zero

When all the transform coefficients were quantized to zero, skip
the inverse transform operation. For bus_cif at 1000 kbps, the
runtime goes from 154967ms -> 149842ms, i.e., about 3% speed-up,
at speed 0.

Change-Id: Ic0a813fff5e28972d4888ee42d8747846a6c3cc6

Merge "Renaming of segment constants."

Merge "clean up bw, bh"

clean up bw, bh

many structures use bw and bh and they have different meanings.   This cl attempts
to start this clean up and remove unneccessary 2 step look up log and then
shift operations...

also removed partition type multiple operation code in bitstream.c.

Change-Id: I7e03e552bdfc0939738e430862e3073d30fdd5db

Merge "Eliminated prev_mip memsets/memcpys in encoder"

Merge "Reworked the auto_mv_step_size speed feature"

Renaming of segment constants.

Renamed:
  MAX_MB_SEGMENTS to MAX_SEGMENTS
  MB_SEG_TREE_PROBS to SEG_TREE_PROBS

The minimum unit for segmentation in the segment map
is now 8x8 so it is misleading to use MB_ as macro-block
traditionally refers to a 16x16 region.

Change-Id: I0b55a6f0426bb46dd13435fcfa5bae0a30a7fa22

vp9: make some static tables const

Change-Id: I8bcae51271673da8755c66a51aea005dfe6a3739

Merge "Speedup loopfilter neon code."

Merge "VP9_COMMON: drop cur_tile_{row,col}_idx"

Speedup loopfilter neon code.

Try and cut down the cycle count by rearranging the instructions
so there are less stalls.

Change-Id: Ic1383335ee0f05e656477d9ee9c179ec231285d5

Merge "vp9: apply loopfilter inline if possible"

vp9: apply loopfilter inline if possible

excludes tiled content currently

Change-Id: I44155253e8d6771e5e039d663be5f21cc9d0355d

libyuv: fix SSSE3 code in scale.c

This patch was provided by Frank.

Change-Id: Icebcbd96016a51a85dbe5e8a351ab7624ace962b

Merge "filter_block_plane: remove MACROBLOCKD param"

VP9_COMMON: remove unused temp_scale_frame

Change-Id: I696a0dca1d02d365e283029d1d077710bd5680e0

Merge "Using update_ct and update_ct2 functions for probability update."

VP9_COMMON: drop cur_tile_{row,col}_idx

these were only being written in one location and never read.

Change-Id: If59f3c09aa1485cf89bac0099a8a79e99688b5d1

Merge "fix a build error"

Merge "configure: default configure log to config.log"

Merge "VP[89]_COMMON: remove golden/altref frame counts"

fix a build error

Change-Id: I3b05687f439ff6a7c426d2c97a6c58c831fa51ac

Merge "Skip buffer update in sub8x8 rd loop"

Merge "Optimize operation flow in sub8x8 rd loop"

Using update_ct and update_ct2 functions for probability update.

Update logic for both mode and mvref was the same, so using MODE_COUNT_SAT,
MODE_MAX_UPDATE_FACTOR, update_ct, update_ct2 for both cases. Removing
function update_tx_ct because it was identical to update_mode_ct2.

Change-Id: Iff566be27dbd6cde4c2ec04e8d988f207046b8f0

Merge "tests: silence a few type related warnings"

Merge "cosmetics: idct_test.cc: fix formatting"

Diamond search change to accelerate movement

Optional change in diamond search to continue in the best move
direction until that move turns worse.

This is still WIP since the exact way the new method is to be used is
under investigation. One option is to make it an option in diamond
search and use it only when motion is large.

Overall slightly positive on derfraw300 +0.02%, stdhdraw +0.13%,
but works a lot better for high motion sequences (ex. football : +1%).

Change-Id: If88e01a6021daa0cda934680cdc70be1ee04f798

Merge "Re-order mode search in rd."

Optimize operation flow in sub8x8 rd loop

Stack the rate-distortion statistics in the sub8x8 rd loop. This allows
the encoder to skip the forward transform, quantization, and coeff cost
estimation, in the sub8x8 rd optimization search, if the motion
vector(s) are of integer pixel value, and have been tested in the
previous prediction filter type rd loops of the same block.

This gives about 2% speed-up for bus_cif at 2000 kpbs, for speed 0.
Its efficacy depends how frequently the motion search will select an
integer motion vector.

Change-Id: Iee15d4283ad4adea05522c1d40b198b127e6dd97

Re-order mode search in rd.

Mode search order in rd loop changed to better reflect
observed hit counts.

Also some adjustment of the baseline mode rd thresholds
to reflect the order change and observed frequencies.

Change-Id: I47a131cc83e11551df8add6d6d8d413d78d3a63c

Merge "fix left over overflow"

fix left over overflow

This cl fixes issues rbultje brought up. that I somehow neglected when I
submitted yaowu's patch.

Change-Id: I07ad18796317822510b96e951c88d29f194a3c2e

Fix build error.

When CONFIG_POSTPROC is set there was a now
invalid reference to cm->filter_level.

Changed to cpi->mb.e_mbd.lf.filter_level in line with
change Iaf5fb71c33719cdfa1b991f671caf071be9ea035

Change-Id: If746e60044903f7ba8d0d346225b3d015226c7d0

Merge "Removing pre probabilities from FRAME_CONTEXT."

Merge "Moving all loop filter related variables into new struct."

Merge "Consistent names for inter mode probabilities and encodings."

Merge "Removing frame_type field from MACROBLOCKD struct."

Merge "Removing unused static arrays from vp9_reatectrl.c."

Merge "Moving vp9_reader into decode_tiles function."

Skip buffer update in sub8x8 rd loop

This commit allows the encoder to skip a few buffer update steps in
rd_pick_best_mbsegmentation, when early breakout has been triggered
in the rd_check_segment_txsize. It provides about 1% speed-up for
bus_cif at 2000 kbps, in the settings of speed 0.

Change-Id: Ica034f10a24dec572b397d8389a2b81020ebc0b9

added checks to prevent rate/distortion overflow

At speed 2, due to the threshold scheme used, it is possible the rate
and distortion assigned with INT_MAX value. The patch added checking
to prevent the INT_MAX value is used in further calculation of RD
scores. The patch also changed the assertion in rd_use_partition() to
be mirror similar assertion in rd_pick_partition().

Change-Id: Idb52c543cc1e10abdf6e6a5d6e9cb535a42214dc

Removing pre probabilities from FRAME_CONTEXT.

Using cm->frame_contexts[cm->frame_context_idx] as source of previous
probabilities.

Change-Id: Ie03778acf0e7bebdc3a1f6a51854d4a0712f24a1

Moving all loop filter related variables into new struct.

Adding loopfilter struct with fields from MACROBLOCKD and VP9Common.
Eventually it will be moved to vp9_loopfilter.h for better code structure.

Change-Id: Iaf5fb71c33719cdfa1b991f671caf071be9ea035

Merge "Fixing problem introduced in one of my previous commits."

Removing unused static arrays from vp9_reatectrl.c.

Removed arrays: kf_boost_seperation_adjustment,
                gf_adjust_table,
                gf_intra_usage_adjustment,
                gf_interval_table.

Change-Id: I62e400cb6e4d039787615169a3779e31ebf95893

Merge "Moving Scale2Ration function from vp9_onyx.h to vp9_onyx_if.c."

Fixing problem introduced in one of my previous commits.

Changing fc->tx_probs back to fc->pre_tx_probs. This change actually
affects the bitstream but current test vectors work. Chrome branch is not
affected at all. Broken since:

cc662dd Adding struct tx_probs and struct tx_counts to cleanup the code.

Change-Id: I36dd4b3678e902e10aba8dd49b0012eb558c209d

Reworked the auto_mv_step_size speed feature

This patch modifies the auto_mv_step_size speed feature to
use a combination of the maximum magnitude mv from the last
inter frame, and the maximum magnitude mv for the two reference
mvs with the same reference. For arf frames, the max mav step
for the resolution is used.
The bounds therefore are slightly tighter. The feature is made
a speed 1 feature.

Rebased.

Results (when this feature is turned on over speed 0):
derfraw300: -0.046% psnr, about 5+% speedup
(tested on football: goes from 4m30.760s to 4m17.410s).

Change-Id: If492797a61b0b4b3e58c0b8f86afb880165fc9f6

filter_block_plane: remove MACROBLOCKD param

replace with direct use of the plane and MODE_INFO

Change-Id: Icce57bc398a6e3607aedde0573d977e192040696

Merge "Make libvpx compile on OSX 10.9 (Mavericks)"

Moving vp9_reader into decode_tiles function.

Change-Id: Ic741054836d6c1b89c4f1c75cc6bd938a7d56723

Make libvpx compile on OSX 10.9 (Mavericks)

Change-Id: Ibf2555f1c0d00e91d416eb39201a5a91df7fab27

Merge "Renaming TXFM_MODE to TX_MODE (like TX_SIZE, TX_TYPE)."

Removing frame_type field from MACROBLOCKD struct.

Change-Id: Ia4e83913251c1cdc7aa2abd64bf01ecb1a962119

Renaming TXFM_MODE to TX_MODE (like TX_SIZE, TX_TYPE).

Moving TX_MODE enum to vp9_enums.h. Renaming txfm_mode variables to
tx_mode.

Change-Id: I459d1af6dd928ce7fccdf8ce30b6f1ca057bef92

Removing redundant VP9_COMMON* from function signatures.

Functions: vp9_get_pred_context_switchable_interp,
           vp9_get_pred_context_intra_inter,
           vp9_get_pred_context_single_ref_p1,
           vp9_get_pred_context_single_ref_p2.

Change-Id: I3d6fb8aee23c9062270768e1e6da416dd9bb8f96

Consistent names for inter mode probabilities and encodings.

Renaming vp9_sb_mv_ref_tree to vp9_inter_mode_tree, and
vp9_sb_mv_ref_encoding_array to vp9_inter_mode_encodings.

Change-Id: I0e91fbf81350d3ec5a2599064c74089b5d06133a

Merge "cosmetics: tile_independence_test: fix formatting"

Merge "Alignment of THR_MODES to vp9_mode_order[]"

Merge "Block index variables in MACROBLOCKD reduced to chars."

Merge "Add neon optimize vp9_short_idct8x8_add."

Alignment of THR_MODES to vp9_mode_order[]

Change-Id: I4032dd0442043543954dcb3724df974b7cc7e515

Block index variables in MACROBLOCKD reduced to chars.

Change-Id: I9a4df095732d561807de01a41dcb1a1960726a3c

Merge "Removing kf_{y, uv}_mode_prob arrays from VP9Common."

Merge "Fix slightly quality drop caused at speed 1."

Merge "Removing unused int_mv32 union."

Fix slightly quality drop caused at speed 1.

We would skip the rectangular blocks for sub8x8 partitions because
we would conclude that PARTITION_NONE was better than PARTITION_SPLIT,
however, that conclusion was made before we actually really tested
PARTITION_SPLIT.

Change-Id: I8fa91e59894badc1d8cee3ba8a49e40ae4c4a489

Merge "Add best_rd breakout to keyframe partition selection also."

Merge "Merge scale_factors and scale_factors_uv."

Merge "Do in-place UV intra mode selection."

Merge "Change break statement in a 2d loop to a return statement."

Merge "Using VP9_REF_NO_SCALE instead of (1 << VP9_REF_SCALE_SHIFT)."

Add neon optimize vp9_short_idct8x8_add.

Change-Id: Ic32acf3e2939c6d12d9c2bf192a5f5da59705fda

tests: silence a few type related warnings

Change-Id: If908328c1dbbb5bd84c57e30fab1cda1804933e4

cosmetics: tile_independence_test: fix formatting

Change-Id: Ifd48f796fa70fe1dc9b87a6f2bdc715bc0ea5ad3

cosmetics: idct_test.cc: fix formatting

clang-format -style=Google

Change-Id: Ic85f2cd2a1d65d9cf18a0f8bc515c0a0f5161747

Using VP9_REF_NO_SCALE instead of (1 << VP9_REF_SCALE_SHIFT).

Change-Id: Ide58a74d31ff948319445a6337d2c05e98720e34

Merge "Remove motion vectors from PARTITION_INFO."

Merge "Removing unused mv_bias and check_mv_bounds functions."

Merge "Removing unused members of VP9Decompressor: mbc, prob_skip_false."

configure: default configure log to config.log

this is consistent with autoconf

Change-Id: I1860831693789259ee35d644775653d6a460cc77

Add best_rd breakout to keyframe partition selection also.

Change-Id: I96b8058f6dfecf8aa3e152cdcbfd7e10071fbbc9

Merge scale_factors and scale_factors_uv.

This prevents a duplicate memcpy of a 128-byte struct every time
set_scale_factors() is called (which is a lot), thus leading to a
decrease from 3.7 MB to 1.85 MB of struct copying per 64x64 block
RD/partition loop.

Overall, this decreases encoding time of the first 50 frames of bus
@ 1500kbps (speed 0) from 1min5.9 to 1min4.9, i.e. about a 1.5%
overall speedup. We can likely get more gains by removing the copy
of the other struct (and replacing it with an indexing) as well.

Change-Id: I3dceb7e79f71e6fe911b11cc994cf89a869dde7a

Do in-place UV intra mode selection.

This means we only do UV intra mode selection if we find any intra
mode to actually be useful at all; in addition, we only do UV intra
mode selection for the transform sizes that were selected, rather
than all sizes available in this partition.

First 50 frames of bus @ 1500kbps (speed 0) gains about 5% with this
change.

Change-Id: I7b461eb8b803247f57896c5a9505f745b55502b3

Change break statement in a 2d loop to a return statement.

The break statement only breaks out of the nested loop, not the
top-level loop, so it doesn't always work as intended. Changing it
to a return statement does what's intended.

Change-Id: I585419823b39a04ec8826b1c8a216099b1728ba7

Remove motion vectors from PARTITION_INFO.

The same information already exists in union b_mode_info.

Change-Id: Iac5086b99a3c3cc270380138062bb693e58f9e6d

VP[89]_COMMON: remove golden/altref frame counts

these are only used in the encoder.
frames_since_golden / frames_till_alt_ref_frame -> VP[89]_COMP

Change-Id: Ie14a6f46987bced685ddb449b85dc261caba6dfe

Moving Scale2Ration function from vp9_onyx.h to vp9_onyx_if.c.

Change-Id: Idfe2a850f72b38f519aea1aac1266d8c3aa813ee

Merge "Fix bug where we don't choose any mode in RD selection."

Fix bug where we don't choose any mode in RD selection.

This could happen during golden overlay frame coding from a previous
alt-ref frame if the special overlay code was triggered.

Change-Id: I3056d0c547cd26903b260ef93c94026e96bd9868

Removing unused members of VP9Decompressor: mbc, prob_skip_false.

Change-Id: Id5480a4fd56c184ad046c2192b30d190debb3de0

Removing unused mv_bias and check_mv_bounds functions.

Change-Id: I1558fd969d9ad112bf6480bdd16ef87edd396ab5

Merge "libvpx: enable building for iOS devices (armv7)"

libvpx: enable building for iOS devices (armv7)

Allow output of gas syntax assembly directly from obj_int_extract

Change-Id: I33a747e87ef1c590a8766dea17f8cb2497e54591