Merge "quantize: make 4x4, 8x8 common with larger transforms" into experimental

Removed bmi from blockd

This originally was "Removed update_blockd_bmi()".  Now,
this patch removed bmi from blockd and uses the bmi found
in mode_info_context.  Eliminates unnecessary bmi copies between
blockd and mode_info_context.

Change-Id: I287a4972974bb363f49e528daa9b2a2293f4bc76

quantize: make 4x4, 8x8 common with larger transforms

There were 4 variants of the quantize loop in vp9_quantize.c, now
there is 1.

Change-Id: Ic853393411214b32d46a6ba53769413bd14e1cac

Remove duplicate code in RD handle_inter_mode() function.

Change-Id: I552d53f7e7331e9246d8a32d6c6dcc0cfa0cbeb0

Remove implicit assumption that mode_info_stride == mb_cols + 1.

Change-Id: I3030d7adac73109aeaa1ecc0f78ac968c092d9aa

Remove write-only variables that store refframe, signbias and mv.

These were superseeded by prev_mip.

Change-Id: Ide240475350ce003d68aa990eddc2ee30920663a

Use b_width/height_log2 instead of mb_ where appropriate.

Basic assumption: when talking about transform units, use b_; when
talking about macroblock indices, use mb_.

Change-Id: Ifd163f595d4924ff892de4eb0401ccd56dc81884

Fix incorrect dequant used in detokenize

The quantizer can vary per-plane, and the dequantization vector is
available in the per-plane part of MACROBLOCKD. The previous code would
incorrectly use the Y quantizer for the whole macroblock.

Change-Id: I3ab418aef9168ea0ddcfa4b7c0be32ae48b536d7

Remove predictor pointers from BLOCKD

Access these members from MACROBLOCKD instead.

Change-Id: I2574622e577bb9feede47f6b7ccbb11f3e928ca8

Remove diff from BLOCKD

The underlying storage for these buffers is in the per-plane MACROBLOCKD
area, so read it from there directly.

Change-Id: Id6bd835117fdd9dea07db95ad06eff9f12afaaf7

Move dequant from BLOCKD to per-plane MACROBLOCKD

This data can vary per-plane, but not per-block.

Change-Id: I1971b0b2c2e697d2118e38b54ef446e52f63c65a

Remove BLOCK structure

All members can be referenced from their per-plane counterparts, and
removes assumptions about 24 blocks per macroblock.

Change-Id: I593fb0715e74cd84b48facd1c9b18c3ae1185d4b

Adding is_inter_mode function.

Change-Id: I2d32d46002cb92c63050c2b8328865c406103621

Merge "Removing unused mi_mv_pred_row and mi_mv_pred_col functions." into experimental

Merge "Using ROUND_POWER_OF_TWO macro inside vp9_loopfilter_filters.c." into experimental

Merge "Handling frame references and scale factors in one for loop." into experimental

Merge "Move sbsegment out of experimental list" into experimental

Merge "Moved dequantization into the token decoder" into experimental

Handling frame references and scale factors in one for loop.

Using ALLOWED_REFS_PER_FRAME constants instead of hard coded 3, replacing
memcpy with plain struct assignment.

Change-Id: Ibc86f5d175fcb3f3a3eddacf593525370f1f854c

Merge two similar functions into one

Function set_mb_row() and set_mb_col() do similar work and are always
called together, this commit merged them into a single function for
clarity and easy maintainence.  This was a TODO item.

Change-Id: I956bd9ed6afb8b2b0469b20fd8bc893b26f8a0f3

Merge "Fixing PRED_SWITCHABLE_INTERP case in vp9_get_pred_context function." into experimental

Move sbsegment out of experimental list

Move rectangular superblock coding out of experimental list.

Change-Id: I96c37547d122330d666a67b4bf577ae54547857f

Contextual entropy coding of partition syntax

This commit enables selecting probability models for recursive block
partition information syntax, depending on its above/left partition
information, as well as the current block size. These conditional
probability models are reasonably stationary and consistent across
frames, hence the backward adaptive approach is used to maintain and
update the contextual models.

It achieves coding performance gains (on top of enabling rectangular
block sizes):
derf:   0.242%
yt:     0.391%
hd:     0.376%
stdhd:  0.645%

Change-Id: Ie513d9673337f0d27abd65fb566b711d0844ec2e

Using ROUND_POWER_OF_TWO macro inside vp9_loopfilter_filters.c.

Change-Id: Icb671cd011f645a3361684207840d14330ca7488

Merge "Change chroma loopfilter to skip inner SB edges for tx16x16 also." into experimental

Merge "Minor indent changes in loopfilter code." into experimental

Merge "Add basic building blocks for 8x8 superblocks experiment." into experimental

Fixing PRED_SWITCHABLE_INTERP case in vp9_get_pred_context function.

Adding xd->up_available as additional check for above context.

Change-Id: If5654e4cae184b9c369b7b2e08076cb2951d00ed

Change chroma loopfilter to skip inner SB edges for tx16x16 also.

Change-Id: I6ea9e110b5c5b07ab7d092886dbd51a6eccc0217

Merge "Extension of segmentation to 8 segments." into experimental

Merge "Simplify Segment Coding" into experimental

Merge "Fix in token allocation with zerogroup expt" into experimental

Extension of segmentation to 8 segments.

Also some further simplification following removal
of top node code.

There is an issue in regards to the shared file vp8cx.h
in regard to the roi_map as this interface assumes that
there are only 4 segments. I have left the value here as
4 for now meaning that the roi_map interface is broken
for VP9.

Note that this change would have been easier if I hadn't
had to search for hard wire instances of the number 4
and <= 3.

Change-Id: Ia8b6deea4be4dbd20deb1656e689dd43a5f190e8

Simplify Segment Coding

Remove top node optimization.
The improvement this gives is not sufficient to justify
the extra complexity.

Change-Id: I2bb4a12a50ffd52cacfa4a3e8acbb2e522066905

Simple implicit segmentation experiment.

Change-Id: Iaef16122732c2a81e0927f9862b51b68dc788712

Merge "Move skip_block from BLOCK to MACROBLOCK" into experimental

Merge "Move quantizer data from BLOCK to MACROBLOCK" into experimental

Merge "Code cleanup inside vp9_get_pred_context function." into experimental

Merge "Simple cleanup inside vp9_decodframe.c and vp9_entropymode.c." into experimental

Merge "Removing redundant code in vp9_entropymode.c." into experimental

Move skip_block from BLOCK to MACROBLOCK

This data is fixed at the MB level, so move it to the common part
of MACROBLOCK.

Change-Id: Idd8c87118e501cdf0a202bd84c28b502a8234edf

Move quantizer data from BLOCK to MACROBLOCK

Quantizers can vary per plane, but not per block. Move these values to
the per-plane part of MACROBLOCK.

Change-Id: I320a55e38b7b28b29aec751a4aca5ccd0c9b9326

Merge "Remove coeff from BLOCK" into experimental

Merge "Convert coeff to per-plane MACROBLOCK data" into experimental

Merge "Enable rectangular support for comp inter-intra" into experimental

Remove coeff from BLOCK

Lookup the data per-plane from the MACROBLOCK struct.

Change-Id: I9253c4d3cf886aa9ab4aeab23a2156bfcf994ede

Removing unused mi_mv_pred_row and mi_mv_pred_col functions.

Change-Id: If8ba37bf0b86e8dea88c27d911e8ddb0f6d5a3c5

Convert coeff to per-plane MACROBLOCK data

This commit moves the coeff storage from the MACROBLOCK struct to its
per-plane part. The next commit will remove the coeff member from the
BLOCK structure so that it is consistently accessed per-plane.

Also refactors vp9_sb_block_error_c and vp9_sb_uv_block_error_c to be
variable subsampling aware.

Change-Id: I18c30f87f27c3a012119b6c1970d5fa499804455

Merge "Move src_diff to per-plane MACROBLOCK data" into experimental

Code cleanup inside vp9_get_pred_context function.

Change-Id: Id06b7a299a26ed944a401faae51907537f722a7e

Removing redundant code in vp9_entropymode.c.

Change-Id: Ia7266b8d3aa3d5cff2db0c3b2f014def045759af

Simple cleanup inside vp9_decodframe.c and vp9_entropymode.c.

Change-Id: I62dde981f5201c5fbc22001609ee4b5fd0a9bdf5

Enable rectangular support for comp inter-intra

This commit enables rectangular block prediction of compound
inter-intra mode. It combines the mb/sb32/sb64 prediction functions
into a unified version with configurable block width and height.
This fixes the enc/dec mismatch of the codebase when
comp-interintra-pred is enabled.

Change-Id: I1d0db2f1f184007802df04fcd12b9dadb3189ff0

Merge changes I54acef34,I72d42971 into experimental

* changes:
  Make some sb_type comparisons independent of literal enum values.
  Make loopfilter aware of rectangular blocks.

Merge "Adding select_txfm_size function + vp9_decode_frame cleanup." into experimental

Merge "Remove the unused gf_active_ptr from MACROBLOCK" into experimental

Remove the unused gf_active_ptr from MACROBLOCK

The variable gf_active_ptr is not used anywhere, hence is removed.

Change-Id: I6badc20fade48ae12fd19e7e4cd8fe5e051c20ac

Merge "Adding get_scan_{4x4, 8x8, 16x16} functions." into experimental

Minor indent changes in loopfilter code.

Change-Id: I0cdc951558e4d7748f63df8c03b1c9dce086acb0

Add basic building blocks for 8x8 superblocks experiment.

Change-Id: I274a1d2e461e6ffdb106bac4ad6951692ace314e

Make some sb_type comparisons independent of literal enum values.

Change-Id: I54acef342b8e787e05af0febd7cf0d7d10288383

Make loopfilter aware of rectangular blocks.

Also use explicitely named enum values in sb_type comparisons, rather
than relying on absolute integer values, because enum values may
change in the future.

Change-Id: I72d42971a98157af93413a25ac2c7e6f9b369cec

Move src_diff to per-plane MACROBLOCK data

First in a series of commits making certain MACROBLOCK members
addressable per-plane. This commit also refactors the block subtraction
functions vp9_subtract_b, vp9_subtract_sby_c, etc to be
loops-over-planes and variable subsampling aware.

Change-Id: I371d092b914ae0a495dfd852ea1a3d2467be6ec3

Remove unused corner_predictor and log2_minus_1 functions.

Change-Id: Ic659544ca12b1bc191b93ddfa378964bd133bfc9

Remove unused stuffing function.

Change-Id: I2bc8d775f8d698bf8582f4eecabc2329452e8d9b

Merge "Eliminated prev_mip  memsets/memcpys" into experimental

Fix in token allocation with zerogroup expt

Fix to increase allocation of tokens at very high rates.

Change-Id: Ia27aa0316b0fab664230800f9c9947b5c68ecd58

Removing configure option for implicit wtd pred

Change-Id: Ibe0628905925fc81bbb192651276f417c2aa7552

Merge "Removing the implicit compound inter experiment" into experimental

Removing the implicit compound inter experiment

Removing this experiment for now, since it has been broken with
the latest code changes.

Change-Id: I1be2181b56de490fcb577f5905b5e147a8ed82d8

Merge "new version of speed 1" into experimental

new version of speed 1

This version of speed 1 only disables modes at higher resolution that
had distortions >2x the best mode we found...

The hope is that this could be a replacement for speed 0 ...

Change-Id: I7421f1016b8958314469da84c4dccddf25390720

Moved dequantization into the token decoder

Mostly for cleanup purposes.  Now we should be able to rework
the encoder/decoder to use a common idct/add function.

Change-Id: I1597cc59812f362ecec0a3493b6101a6cc6fa7ff

Adding select_txfm_size function + vp9_decode_frame cleanup.

Change-Id: I7594ca84106ee48f83e6fc3098c0de7a28d5a183

Adding get_scan_{4x4, 8x8, 16x16} functions.

Change-Id: Id4306ef6d65d4a3984aed50b775bdf48d4f6c438

Merge "Bugfix from reordering frame probs patch" into experimental

Bugfix from reordering frame probs patch

This fixes an intermittent mismatch issue cause by moving
the lossless mode decoding bit to after the loop filter
setup information. We need to ensure that the lossless bit
is decoded prior to loop filter setup.

Change-Id: I3faa3fff8e1013b7405dac91268350e059ed121e

Remove vp9_recon_intra_mbuv

Use common vp9_recon_sbuv instead.

Change-Id: I146f79adfdfda2b52257a52fa783727f12afa246

Rewrite vp9_recon_sb*

Rewrite vp9_recon_sb{,y,uv} to be a loop over planes.

Change-Id: Ica2bbbb3105a1d29b2ff2ead07b76cde9683154c

Move pre, second_pre to per-plane MACROBLOCKD data

Continue moving framebuffers to per-plane data.

Change-Id: I237e5a998b364c4ec20316e7249206c0bff8631a

Merge "Removes the code_nonzerocount experiment" into experimental

Removes the code_nonzerocount experiment

This patch does not seem to give any benefits.

Change-Id: I9d2b4091d6af3dfc0875f24db86c01e2de57f8db

Merge "End of orientation zero group experiment" into experimental

End of orientation zero group experiment

Adds an experiment that codes an end-of-orientation symbol
for every eligible zero encountered in scan order.

This cleans out various other sub-experiments that were part
of the origiinal patch, which will be later included if found
useful.

Results are slightly positive on all sets (0.1 - 0.2% range).

Change-Id: I57765c605fefc7fb9d1b57f1b356843602abefaf

reconinter: remove unnecessary functions, params

Removes the redundant dst pointers from vp9_build_inter_predictors_sb{y,uv}
and the remaining mb specific functions.

Change-Id: I7b6bf439d9394b85ea79b4fe61a3ffc1025720da

Merge "make DC_PRED for i4x4 to use real pixels only" into experimental

Merge "Reordering frame header probs." into experimental

Merge "Removing get_segment_id function and using existing vp9_get_pred_mb_segid." into experimental

Merge "Finally removing BOOL_DECODER and using vp9_reader instead." into experimental

Merge "Renaming vp9_extra_bit_struct to vp9_extra_bit." into experimental

Merge "Move dst to per-plane MACROBLOCKD data" into experimental

Merge "Remove vp9_recon_mb{,y}" into experimental

make DC_PRED for i4x4 to use real pixels only

Wherever there are real pixels available before falling back to use
assumed values 127 and 129.

This also make DC_PRED for i4x4 consistent with DC_PRED for larger
blocks.

Change-Id: I54372924826118da023f402c802ac6ce0caa70c3

Merge "Remove redundant pointers from void vp9_recon_sb{y,uv}" into experimental

Move dst to per-plane MACROBLOCKD data

First in a series of commits moving the framebuffers pointers to
per-plane data, so that they can be indexed numerically rather than
by name.

Change-Id: I6e0d60fd4d51e6375c384eb7321776564df21775

Eliminated prev_mip  memsets/memcpys

For 1080 material, this buffer is currently 2,270,928 bytes.  This patch swaps
ptrs instead of copying and uses the last show_frame flag instead of setting
the entire buffer to zero.  For the test clip used, the decoder improved by up
to 1%.

Change-Id: I686825712ad56043e09ada9808dc489f875a6ce0

Merge "Clean out some legacy code." into experimental

Removing get_segment_id function and using existing vp9_get_pred_mb_segid.

Change-Id: Iff35d4b2f8f65511f80c594958c01fb4673fa033

Clean out some legacy code.

Removed some unused legacy code relating to GF activity.

Change-Id: I0b0fe90a1a5208aaa81d7393ba6cf75ab412dbda

Merge "Remove unused parameters in handle_inter_mode" into experimental