Merge "Enable reduced set of intra modes in rtc coding"

Merge "Added three test vectors with droppable frames"

Enable reduced set of intra modes in rtc coding

This commit enables the use of DC, vertical, and horizontal intra
prediction mode in rtc non-RD mode decision. When the best cost value
of inter modes is above a given threshold, the encoder runs the
above three intra modes and selects the one that has minimum
prediction residual in terms of SAD.

This together with recent changes on non-RD mode decision and coding
control improves compression performance of speed -6 by
derf  91%
yt    61%
hd    46%
stdhd 52%

In terms of encoding speed, it is about 3 times faster than speed -5.

Change-Id: I6b483bfd0307e6482bb22a6676ae4e25a52b1310

Merge "Force alt reference frame off in rtc mode"

Added three test vectors with droppable frames

Change-Id: I70240e50927b4379603628f6349bf615f756b5a1

Merge "Test vectors for odd image width and height."

Merge "vp9_subpel_variance_impl_intrin_avx2.c: make some tables static"

Merge "vp9_subpixel_8t_intrin_ssse3.c: make some tables static"

Merge "vp9_subpixel_8t_intrin_avx2.c: make some tables static"

Force alt reference frame off in rtc mode

When non-RD coding decision is used in rtc mode, the alt reference
is not used for inter frame prediction. This commit disabled alt ref
option whenever speed -6 is used.

Change-Id: I0b33ca03661de1db2d9bef1bcbff848cd4c9396f

Test vectors for odd image width and height.

Change-Id: I39286df9fc76e3451f14ce2652d671e11b0c37bc

Merge "Rename vp8_cfg to vp9_cfg in vp9_cx_iface"

Merge "Use MI_BLOCK_SIZE in block coding loop"

Merge "Rework non-RD mode decision coding flow"

Merge "twopass_encoder.c: Silence MSVC data loss warnings."

Merge "vpx_temporal_scalable_patterns: set rc_target_bitrate correct."

Merge "Use fast HEX search in real time mode"

Merge "Only track mode_chosen_counts if CONFIG_INTERNAL_STATS."

vp9_encodeframe.c: Silence rdmult assignment warning with a cast.

Cast result of round() to int.

Change-Id: Ib708fddfadde4c765001ce9723fda113fd0f4bf6

Merge "vp9_vaq.c: Cast result of round() to int to silence warning caused by clamp() call."

vp9_encodeframe.c: Silence totalrate assignment warning with a cast.

Cast result of round() to int.

Change-Id: I4982886ad4e7657b4c40d21bd850d31690a68c28

vpx_temporal_scalable_patterns: set rc_target_bitrate correct.

Current setting was specific to 1 layer case.
rc_target_bitrate is total bitrate for whole stream,
so set it to ts_target_bitrate for highest/top temporal layer.

Change-Id: I83de73364956fa21c0a7c971c9f390d4840457e6

Condition alt-ref entropy context setting on svc.

Avoid special context setting for alt-ref in svc mode.

Change-Id: I5337d0739abe16aab7854bcaa3c8537191c4b60c

Merge "vp9_rdopt.c: Use int64_t for dist_sum and rate_sum in model_rd_for_sb()."

Merge "video_source.h: Minor clean up."

Merge "vp8_set_maps.c: Silence signed/unsigned mismatch MSVC warnings."

Merge "vp8cx_set_ref.c: Silence MSVC data loss warning."

Merge "Fixed compilation on mingw with secure APIs enabled by default."

Only track mode_chosen_counts if CONFIG_INTERNAL_STATS.

Change-Id: Ia9252ad0caa4d2bda529a3fe93efcb31e7eb2da0

vp8cx_set_ref.c: Silence MSVC data loss warning.

Change-Id: I1210ce23cf8f98950c445a17ef51a73c6852c89f

vp8_set_maps.c: Silence signed/unsigned mismatch MSVC warnings.

Use unsigned loop counters in set_roi_map() and set_active_map().

Change-Id: I9bbaed38b51ef73b82ba4ad4c4bc18ca5d2399f9

twopass_encoder.c: Silence MSVC data loss warnings.

Use unsigned int instead of uint64_t for duration and deadline
arguments to functions get_frame_stats() and encode_frame().

Change-Id: I1f26a7afc38ae89916b2c67415ced26fdc9d53e7

video_source.h: Minor clean up.

- Use size_t for frame_size() (fixes warnings elsewhere)
- Remove unnecessary use of const.

Change-Id: Id2cba182ac3fd2f67d25fd1db3a0bc3e1eda040b

Merge "decode_with_drops.c: Cast away MSVC data loss warning."

Merge "simple_decoder.c: Silence MSVC data loss warning."

Merge "postproc.c: Cast away MSVC data loss warning."

Rename vp8_cfg to vp9_cfg in vp9_cx_iface

This variable takes control parameters for vp9 encoder, hence
renamed vp9_cfg.

Change-Id: I9b253c41a06e44d97fe699f26005cd71e2eeb36c

Merge "Adding is_mv_valid() function."

Merge "Do not use the value of 'rate_mv' if uninitialized."

Merge "vpx_temporal_scalable_patterns.c: Silence MSVC warnings."

simple_decoder.c: Silence MSVC data loss warning.

Change-Id: I138d7f62ac7e905642405e60a49ac3d282695e3f

postproc.c: Cast away MSVC data loss warning.

Change-Id: Ib80d4f394692a981e369dc5fecd5432cbec488d1

decode_with_drops.c: Cast away MSVC data loss warning.

Change-Id: Ib8ee2b9a4cb785176ca1054489df5dced004837a

Merge "error_resilient.c: Cast away MSVC data loss warning."

Merge "decode_to_md5.c: Silence warning with cast."

Merge "force_keyframe.c: Cast away MSVC data loss warning."

Merge "vpx_frame_buffer.h: add doxygen \file block"

error_resilient.c: Cast away MSVC data loss warning.

Change-Id: I6d81f7d94cb724a9f5a302ca3551196f2d06f9b4

Merge "vp9: normalize DECLARE_ALIGNED use on global tables"

force_keyframe.c: Cast away MSVC data loss warning.

Change-Id: Ibf09b76d5b8c8106b804354d9a7f007a0e3f6173

vpx_temporal_scalable_patterns.c: Silence MSVC warnings.

Change floats to doubles in RateControlMetrics, and make loop
counter signs agree.

Change-Id: I845cf268d9ce837a543d052d8d0f8dfd32bd9817

Use MI_BLOCK_SIZE in block coding loop

Change-Id: Ia70057e11c9b3d9d4bea6fbdd08839334ed02dce

Rework non-RD mode decision coding flow

In the first coding run of a 64x64 block, check the coding mode
for each 8x8 block. Will need a second annealing stage to decide
the partition size to be encoded.

Change-Id: Ida9417805ff3358979b0c0429d4099c023c88866

decode_to_md5.c: Silence warning with cast.

More size_t/unsigned int disagreement.

Change-Id: I2be01ee680f852f168f6fcac554a534ca3c83e5d

Merge "Remove comment from calls to vp9_clear_system_state."

Adding is_mv_valid() function.

Change-Id: I9d036244b558765b252d8c6681b22721cb2e51bb

Cleaning up vp9_onyx_if.c.

Change-Id: I389790f1ad0dd40816a7ae1ddad4a5c46278cff3

Merge "Cleaning up pack_inter_mode_mvs() function."

Merge "Removing unused tree_update_hist[] array."

Merge "Cleaning up vp9_encodemb.c."

vp9: normalize DECLARE_ALIGNED use on global tables

- place extern within the macro
- use in the header only

Change-Id: I4274b345d8af9ef329c0eb9553a3ddaad70d1d26

vp9_rdopt.c: Use int64_t for dist_sum and rate_sum in model_rd_for_sb().

Removes unnecessary casts and silences warnings.

Change-Id: Ic516a909a2b3748831be6717f02d86ca60190af3

Removed unnecessary type cast

Change-Id: I0f2d5155ec042e9b5cbe9a9d6b186b121ed7737f

vp9_subpel_variance_impl_intrin_avx2.c: make some tables static

+ fix formatting

Change-Id: I7b4ec11b7b46d8926750e0b69f7a606f3ab80895

vp9_subpixel_8t_intrin_ssse3.c: make some tables static

+ fix formatting

Change-Id: I344d4de089d03e403f0c7b3e64aeb7086cce86ac

vp9_subpixel_8t_intrin_avx2.c: make some tables static

+ fix formatting

Change-Id: Ia62610bff3d63855104366d7860749b6a3cf4577

Merge "vp9_filter: move table alignment decl's to header"

Merge "restore examples to doxygen output"

Add comments to portion of SVC interface.

Fixes issue #705.

Change-Id: I60d45ee28fb34f401a440015bfe7bd3837b51de1

vp9_vaq.c: Cast result of round() to int to silence warning caused by clamp() call.

clamp() wants an int, round returns a double, warning! Too bad we can't just use lrint.

Change-Id: I9c08289dde742fac0d673df8559a1892edcd1bc7

Do not use the value of 'rate_mv' if uninitialized.

This happens when exiting single_motion_search() early due to adaptive_motion_search.

Change-Id: Ic396e7e31e59ff219bb66a459c873c9e5b17400d

Remove comment from calls to vp9_clear_system_state.

Removed the comment "// __asm emms;" from all calls
to vp9_clear_system_state.

Change-Id: Ib4dae69c1cdf3f185b04184a870cd70c4d703f10

Merge "Enable sub-pixel motion search for rtc mode"

Merge "Initialize internal buffer pointers in rtc mode"

Use fast HEX search in real time mode

In good quality mode motion search, the best matches are normally
found after searching in a large area. In real time mode, to make
encoding fast, a center-biased fast HEX search is used, which
converges quickly most of the time. A 4-point diamond search is
also carried out as the following refining search, which gives more
precise results, and maintains good motion search quality.

At speed 5, the borg test on rtc set showed an overall PSNR loss of
0.936%. The encoding speed gain is 4% - 5%.

Change-Id: I42cd68bb56a09ca1b86293c99d5f7312225ca7ae

Merge "SSSE3 convolution optimization"

Merge "AVX2 SubPixel Variance Optimization"

Enable sub-pixel motion search for rtc mode

Run sub-pixel motion search when NEWMV gives lower rate-distortion
cost. This improves coding performance of derf set by 8%, std-hd by
2.2%.

Change-Id: Ife50f7fda8463927784fe59a41cc439c833e941a

Merge "Replace vqshrun by vqmovun if shift #0 bit"

Merge "vp9_onyx_if.c resolve vs warnings"

Merge "Change post- to pre-increment."

Cleaning up vp9_encodemb.c.

Change-Id: Ia5b35494e4e18758f9f6c172526db83a87fdaa26

vp9_onyx_if.c resolve vs warnings

Change-Id: I02cc50648b62768e20d2f465b5ad09648b1abe93

Merge "A couple more V.S. warnings silenced."

vp9_filter: move table alignment decl's to header

avoids mismatched alignment warnings in visual studio builds

Change-Id: I2cedb8042fd47e708bde3f7168a6fb4bd9aaa569

vp9_cx_iface vp9_dx_iface vpxdec vs warnings

Change-Id: I747982e7d1157a8b45f4034ddf207306f9f957e0

vp9/encoder/vp9_onyx_if: Fix compute_qdelta_by_rate() warnings

- Rename and make static
  s/vp9_compute_qdelta_by_rate/compute_qdelta_by_rate/
- Make base_q_index an integer.
- Add a cast.

Change-Id: Iea8d1397fd2717e7373b182ec51f5db960ef2cca

Replace vqshrun by vqmovun if shift #0 bit

Change-Id: Ifabb8c7ec0c327fea9d6739cab10addb060ff435
Signed-off-by: James Yu <james.yu@linaro.org>

A couple more V.S. warnings silenced.

Change-Id: Ica1b583d69810182f621de757d2543b2a3b35566

Fixed compilation on mingw with secure APIs enabled by default.

If MINGW_HAS_SECURE_API is defined, we don't need to declare strtok_s, but we still need strtok_r define.

Change-Id: I7cf781bb58f991a2bdce6a2ccf5082f6924579a3

Merge "Remove redundant arm neon instructions."

restore examples to doxygen output

these were incorrectly stripped in:
50fa585 Removing examples code generation and making them static.

Change-Id: Idb475ad5b303634311e9f616604312cb925cc6a9

Removing unused tree_update_hist[] array.

Change-Id: If2e8e06c74d065323523904ff1771590fd48cabc

Change post- to pre-increment.

Change-Id: I29e4d3a3c8cceb18825371bb78c83c0e7dd86e0f

Merge "Cleanup some comments."

AVX2 SubPixel Variance Optimization

Optimizing 2 functions to process 32 elements in parallel instead of 16:
1. vp9_sub_pixel_variance64x64
2. vp9_sub_pixel_variance32x32
both of those function were calling vp9_sub_pixel_variance16xh_ssse3
instead of calling that function, it calls vp9_sub_pixel_variance32xh_avx2
that is written in avx2 and process 32 elements in parallel.
This Optimization gave 70% function level gain and 2% user level gain

Change-Id: I4f5cb386b346ff6c878a094e1c3b37e418e50bde

Merge "Make cpi->speed always positive"

Merge "Enforce max-intra-pct in one-pass cbr mode"

Cleanup some comments.

Change-Id: I568861ba1d43620865ad9a98a97eef37a51fd856

Merge "minor spelling cleanup in comments"