Merge "disable avx/avx2 for old versions of MSVC"

Merge "Move SVC per-frame loop from sample app into libvpx proper"

Merge "Using pd->dqcoeff instead of pd->qcoeff in the decoder."

Using pd->dqcoeff instead of pd->qcoeff in the decoder.

It is more logical to use dqcoeff buffer to put there *dequantized*
transform coefficients (inside inverse_transform_block and
decode_coefs functions). Dequantization happens inside WRITE_COEF_CONTINUE
macro.

qcoeff buffer should be only used in the encoder for *quantized*
transform coefficients.

Change-Id: Ifd54bef272bbf5311ced6669c4f1079f998af5d7

Move SVC per-frame loop from sample app into libvpx proper

SVC multiple layer per frame encoding is invoked with vpx_svc_init and
vpx_svc_encode. These interfaces are designed to be invoked from ffmpeg.
Additional improvements:
- make dummy frame handling a bit more explicit
- fixed bug with single layer encodes
- track individual frame sizes and psnrs instead of averages
- parameterized quantizer, 16th scalefactors, more logging,
- enabled single layer encodes to generate baseline
- include new mode for 3 layer I frame with 5 total layers

Change-Id: I46cfa600d102e208c6af8acd6132e0cc25cda8d4

Merge "Replacing mi_{width,height}_log2 with num_8x8_blocks_{wide,high}_lookup."

Merge "Allow test data path to be set by preprocessor symbol"

Replacing mi_{width,height}_log2 with num_8x8_blocks_{wide,high}_lookup.

Change-Id: I04c55daef89bca2b85cb7db0850f9b052abc5a7c

Merge "Removes stack allocation of token_cache"

Allow test data path to be set by preprocessor symbol

Change-Id: I19c482c7cba34db574b3f33178ba20aede49779e

Merge "Missing _ means no sse3 for vp9_h_predictor_32x32."

disable avx/avx2 for old versions of MSVC

Change-Id: Ifb40757c9c6b353482cfeef929af282ee0136c6c

Removes stack allocation of token_cache

Removes stack-allocation of token_cache in the tokenize
function in the encoder.

Change-Id: Ifdbab76dc2b23384da0080d2e9390533e489db8c

webmenc: Clean up the truly egregious style issues.

I'm sure I could do more, but I don't know how long this code has to
live. I think this at least makes the code a little easier to read and
understand.

Change-Id: I6ca76357f89468d4851a3d1826e7aefa498e51d1

Merge "Move WebM writing support out of vpxenc.c."

Merge "optimize decode_bool operation"

Move WebM writing support out of vpxenc.c.

This is mainly a clean up patchset. It moves the WebM writing support
out of vpxenc and into its own source file. Changes to tools_common and
vpxdec result from relocation of shared bits of code.

Change-Id: Iee55d3285f56e0a548f791094fb14c5ac5346a26

Missing _ means no sse3 for vp9_h_predictor_32x32.

Error in script means vp9_h_predictor_32x32 sse3 version
is not enabled.

Change-Id: Ia43672740da1ecdfb7fcd420490ef424b04accc4

Simply a macro

Change-Id: I1c0c1b92aab33b1e4321b8e584a934fe58e0b324

Merge "Removing old code."

Merge "Fixes to buffer update for temporal layers."

Merge "Unified approach for backward probability update."

token_cache changes in decoder

Removes stack-alocation of token_cache in decode_coefs function

Seems to achieve about 1% decode speed improvement as tested on
25 480p videos.

Change-Id: I8e7eb3361fa09d9654dfad0677a6d606701fdc6e

Merge "Remove one shot q experiment"

Merge "Fix the use case of plane_block_idx in sub8x8 RD"

Merge "Avoid mv cost check for invalid mv values"

Merge "Remove unused members from VP9_COMP"

Avoid mv cost check for invalid mv values

The compound inter prediction could potentially run with initial
motion vectors of invalid value and check the mv_cost, which triggers
overheap read. This commit resolves this issue by forcing a motion
vector value check for compound inter modes of both superblock and
sub8x8 block sizes.

Change-Id: I4f4fc19ce83c8272782bc382f12c82a3f03212fc

optimize decode_bool operation

Change-Id: I7fe44633d29046ddd38c88c00e8520d27ac748bf

Removing old code.

Change-Id: Ie05cc5e2d8ce12eacdf482a8b75e5a6ce6f59f57

Unified approach for backward probability update.

Replacing update_mode_probs() and adapt_probs() with tree_merge_probs().

Change-Id: I50b2c968d67c9265f5216c700cbeba25fb014654

Splitting partition_probs array into two arrays.

We only update partition_probs for inter frames but they are constant
for key frames. It is not necessary to have constants inside frame
context and copy them every time. This change reduces FRAME_CONTEXT size
by at least 48 bytes.

Change-Id: If70a53be51043f37fe7d113853217937710932a7

Remove unused members from VP9_COMP

Removed:
goldfreq, avg_encode_time, avg_pick_mode_time,
cpu_freq, interquantizer
member variables from VP9_COMP since they are no longer
used in the code.

Change-Id: I010a82c217d0da03c3f53d1858d3462190c12dcf

Merge "Remove unused member variables from VP9_COMP"

Merge "Removing 'new' probability calculation from convert_distribution()."

Remove unused member variables from VP9_COMP

Removed three members from the VP9_COMP data structure:
inter_zz_count, gf_bad_count, gf_update_recommended.

These were part of the VP8 real-time mode implementation
that was removed from the initial VP9 codecbase.

Change-Id: I866b083b88ef02c74837277d50ce532ca88492f3

Merge "Add second ref frame check back in rdcost hist"

Fix the use case of plane_block_idx in sub8x8 RD

This commit fixes the use case of plane_block_idx, which determines
the plane (Y/U/V) index based on block index. When block idx >= 4 in
sub8x8 block loop, it should be of chroma components.

Change-Id: I072705aa7b35445524ac607089ca8ce54b7ba478

Add second ref frame check back in rdcost hist

Update best_inter_rd and best_inter_ref_frame only in single ref
frame case.

Change-Id: Id56825b231a62d6852bd83811410c05a7569f715

Merge "vp9 ssse3 d207_predictor_32x32: add missing GLOBAL()"

vp9 ssse3 d207_predictor_32x32: add missing GLOBAL()

removes a textrel for sh_b23456789abcdefff

Change-Id: I80cb9dfd8e49a0fe884c8ff76472275b3a00cb57

Removing 'new' probability calculation from convert_distribution().

We don't have to calculate 'new' probability in convert_distribution()
because it is enough to calculate only 'new' counters which could be used
to calculate probability if necessary. That's why removing a lot of unused
temporary probability arrays and reducing number of get_binary_prob()
calls.

Change-Id: I4e14eb7203d1ace61bbddefd6b9b6326be83ba63

Merge "Convert filter kernel choice to lookup"

Convert filter kernel choice to lookup

Also removed unused declaration related 6 tap filter

Change-Id: Ic17f516141d885157918505f4204081e4c951fad

Fixes to buffer update for temporal layers.

When a frame is dropped due to |buffer_level| < 0 for a given temporal layer,
the buffer level for the upper temporal layers was not updated (in calc_pframe_target_size()).
This change fixes that.

Also, use the layer per-frame-bandwidth for updating the buffer level
of the higher layers when a frame is dropped.

Change-Id: I660c23f3229b47e9d124a950b480314b4307c5a8

Merge "Cleanup. Adding const to function pointer arguments."

Merge "Cleaning up read_skip_coeff() function."

Two optimizations:

1. Reduced the size memset based on eob for 32x32 transform. The reset
of non-zero coefficient should probably go into where they are read in
inverse transform functions. (TODO)
2. Removed a redundant level of indirection.
vp9_iht4x4_add() checks transform type and call vp9_iht4x4_16_add()
for tranforms other than DCT_DCT. In this case, the DCT_DCT case
has been already handled here.

Change-Id: Iacbc77da761f0b308df5acea0f20c9add9f33d20

Merge "simplify read_coef_prob()"

Merge "Removing is_intra_mode() function."

simplify read_coef_prob()

Change-Id: I529c634db4f81ba5386092c126f53312b1e51b2b

Cleaning up read_skip_coeff() function.

Making code easier to read and avoiding calculation of skip context twice.

Change-Id: I42c376b1a1811bc842bf6420bf81d2de7a1bf980

Merge "Reducing the number of foreach_transformed_block() calls."

Cleanup. Adding const to function pointer arguments.

Change-Id: I12c67c8c0fa1aa7fb3f7d6cc2ef65be29c4ea292

Reducing the number of foreach_transformed_block() calls.

The change doesn't affect the bitstream. It changes the order or function
calls and affects how we reconstruct intra- and inter-blocks. Speed up is
about 1...1.5%.

For intra-blocks:
  Before:
    for each transform block read tokens
    for each transform block do prediction
    for each transform block do inverse transform
  Now:
    for each transform block
      read tokens
      do prediction
      do inverse transform

For inter-blocks:
  Before:
    for each transform block read tokens
    for each transform block do inverse transform
  Now:
    for each transform block
      read tokens
      do inverse transform

Change-Id: I12a79bf1aa5a18c351b8010369bd3ff1deae1570

Merge "mb_lpf_horizontal_edge AVX2 optimization"

Merge "Fix x_offset_q4/y_offset_q4 calculation"

mb_lpf_horizontal_edge AVX2 optimization

This CL contains two AVX2 optimized loop filter functions,
mb_lpf_horizontal_edge_w_avx2_8 and mb_lpf_horizontal_edge_w_avx2_16.

Change-Id: I604e4fe6e99752b7800c2ea98721d97f7e0b931b

Remove one shot q experiment

The experiment is no longer used and can be removed.

Change-Id: I9feab378fc895c120aa375353c68f93cad090609

Updates to 1-pass:

   -Don't reduce maxQ for gold/alt in CBR mode.

   -Fix to min/maxQ for first/initial key frame.

   -Add more speeds to datarate test and reduce the starting bitrate for test.

Change-Id: Id2a333d76dd3f6a51b322ca984588e2a22159c58

Merge "Enable all-zero coeff block index for sub8x8 blk"

Merge "Reducing the number of recursive calls."

Replacing (SWITCHABLE_FILTERS + 1) with SWITCHABLE_FILTER_CONTEXTS.

Change-Id: I9781a62bc1a4cd9176554d1271d87dbcafda9cb0

Enable all-zero coeff block index for sub8x8 blk

This commit makes zcoeff_blk cache the case where the entire block
is quantized to be zero (without applying zero-forcing) in the rate-
distortion optimization loop, and skip the forward DCT, quantization,
inverse DCT, and reconstruction process in the encode_block stage.

It now works for all the block sizes, including sub8x8 blocks.

Change-Id: I5ae60a9c436ba3637d11666733554bec4580ef98

Reducing the number of recursive calls.

Both decode_modes_sb and decode_modes_b had conditions to immediately
return at the beginning. Eliminating these conditions here and calling
these functions only to do a real work. Also unrolling loop for
PARTITION_SPLIT.

Change-Id: I2fc41cb74ac491f045a2f04fe68d30ff4aaa555d

vp9/decode: align tile worker data allocation

fixes a crash in assembly on 32-bit linux/windows

Change-Id: I0c27e6c0ece9732b5eb2ee5b59ff42c3c8016c50

Merge "vp9_decodframe.c: use vpx_memset instead of cast"

Merge "idct_blk_mmx.c: use vpx_memset instead of cast"

Merge "decodframe.c: use vpx_memset instead of cast"

Merge "threading.c: use vpx_memset instead of cast"

Merge "idct_blk.c: use vpx_memset instead of cast"

Fix x_offset_q4/y_offset_q4 calculation

"<< SUBPEL_BITS" needs to be added in the calculation. Call
set_scaled_offsets() to calculate x_offset_q4 and y_offset_q4.

Change-Id: Ied130ea771510e918f51cd1dc3abe57f4c0962b5

Merge "vp9: add multi-threaded tile decoder"

Merge "vp9/decode: add get_tile()"

vp9: add multi-threaded tile decoder

tiles are decoded in parallel within a single frame

Change-Id: I7aca87cb1c239b74eceef72bdc9f672faebac373

vp9/decode: add get_tile()

factorizes the code in decode_tiles(). reading the offsets backwards
wasn't doing anything to prove tile independence

Change-Id: I0395d3c77205852ebdc55efedc68291e93cef85c

Merge "Adding const to vp9_quantize_b_{32x32,} parameters."

Merge "CL for adding AVX-AVX2 support in libvpx."

Adding const to vp9_quantize_b_{32x32,} parameters.

Change-Id: I56f8c50ac382202f66040cd9cfaa05d889572fc7

CL for adding AVX-AVX2 support in libvpx.

Change-Id: Idc03f3fca4bf2d0afd33631ea1d3caf8fc34ec29

Fixing clang warning.

Warning was: "implicit conversion from enumeration type 'VPX_SCALING_MODE'
(aka 'enum vpx_scaling_mode_1d') to different enumeration type
'VPX_SCALING'".

Change-Id: I45689e439a8775bc1e7534d0ea1ff7c729f2c7f5

Merge "Fixing wrongly initialized tx_type variable."

vp9_decodframe.c: use vpx_memset instead of cast

Fix warning with -Wstrict-aliasing=1

Change-Id: Idfac09be1ab328923883e63436577f1018c895b8

idct_blk_mmx.c: use vpx_memset instead of cast

Fix warning with -Wstrict-aliasing=1

Change-Id: Ic37013e6477cf213925830d0bd8e6f17364ff7cc

decodframe.c: use vpx_memset instead of cast

Fix warning with -Wstrict-aliasing=1

Change-Id: Ic4e511af924247800e87d5f990636565f3dd91d2

threading.c: use vpx_memset instead of cast

Fix warning with -Wstrict-aliasing=1

Change-Id: I43df2781656dd7b3f4c0ec6daa283d7a78928a0c

idct_blk.c: use vpx_memset instead of cast

Fix warning with -Wstrict-aliasing=1

Change-Id: Ibf4af991f2c82b8ccbdc20362da64be669564333

Merge "changed to comply with strict aliasing rule"

Fixing wrongly initialized tx_type variable.

Wrong value was used in get_tx_type_4x4() function, so making
initialization before that call.

Change-Id: Ief30bb1e0c03b2f23d993bbf9ae18d7150ba9a83

Merge "Correct handling of show_bit in uncompressed header."

Correct handling of show_bit in uncompressed header.

"keyframe" variable in the current code actually means that previous
frame is a keyframe because cm->frame_type has not been initialized
in read_uncompressed_header.

Change-Id: I5645b0816c70abdef5dfc70113018d06276dac77

changed to comply with strict aliasing rule

The clamp operation may not affect the values of the final assigned mv
where compiler may make use of strict aliasing rule to optimize out the
clamp operation. This change made the code segments to better comply
the strict aliasing rule.

Change-Id: I24502ff18bd4f9e62507a879cc8760a91a0fd07e

Merge "Disable aliasing when building with Clang"

Merge "Cleaning up vp9_regular_quantize_b_4x4."

Merge "Making get_tx_counts() similar to get_tx_probs()."

Merge "Resolved Doxygen warnings."

Merge "Rewrite loop_filter_info_n struct"

Resolved Doxygen warnings.

Added comments to make the codebase build cleanly in Doxygen.

Change-Id: I01e000ceac57dbafa04342858c8f1be250ba20d1

Merge "vp9_decode_frame: group assignments/setup calls"

vp9_decode_frame: group assignments/setup calls

group error checking at the top followed by allocations, setup then
decode.

Change-Id: I877d21326bb767885520511ecea70e5fd1e28054