Merge "Remove repeated tx_mode_select calls"

Merge "Move set_speed_feature out of frame encoding"

Merge "vp9_picklpf.c: remove unused functions and params"

Merge "improved speed of 4x4 sse2 fdct."

vp9_picklpf.c: remove unused functions and params

Change-Id: Ib4d850227cef35694c663feb157765a2cbf84699

Merge "Merging force-keyframe example into simple_encoder."

Merge "Cleaning up vp9_refining_search_sadx4()."

Merging force-keyframe example into simple_encoder.

The only difference between two examples was usage of VPX_EFLAG_FORCE_KF
flag for frame encoding. Moving this functionality into simple_encoder
with additional command line option.

Change-Id: Ia3c4209be073eeb541d4ac6b41bd0f12812f6676

Merge "Converting vp8cx_set_ref example to use new API."

Merge "Prune RT mode decisions for BLOCK_32x32 and up"

Merge "Cleaning up vp9_mvref_common.c."

Merge "Removing VP9_PTR."

Cleaning up vp9_refining_search_sadx4().

Change-Id: I3ed0a95645a66be069ce92a1fad8083a87d01001

Converting vp8cx_set_ref example to use new API.

Change-Id: I8e40811c85c2246da75d9f06c4fda1a5079fcc71

Remove repeated tx_mode_select calls

The frame level transform size selection is done inside
encode_frame_internal().

Change-Id: Id7e5e417a3a3f88f875bf12b21bb8029bc6d0d82

Merge changes Idfb71188,Ibe1e72db

* changes:
  build: convert rtcd.sh to perl
  configure: check for perl

Merge "msvs: filter out include-only asm files"

Merge changes Ibc5352e6,I28d0ec5c,I5c4fc3bb,Ie574a3a7

* changes:
  nestegg: ne_buffer_read: quiet uint64->size_t warning
  nestegg: quiet read related uint64->size_t warnings
  nestegg: ne_parse: normalize size_t usage
  nestegg: ne_read_(string|binary|block): normalize size_t usage

msvs: filter out include-only asm files

avoid building x86inc.asm, x86_abi_support.asm and vpx_config.asm as
they provide no symbols themselves

fixes:
 warning LNK4221: This object file does not define any previously
undefined public symbols, so it will not be used by any link operation
that consumes this library

Change-Id: Iecfe03aa76efbfc07c2af5b91ba5405634e45f1d

Move set_speed_feature out of frame encoding

Set speed features before running frame encoding. This avoids
redundant RD threshold calculation in key frame coding.

Change-Id: If8e3cf2c02976baa59b310c1c23af9eea0c46e36

Merge "vp8_decrypt_test.c: Silence MSVC data loss warning."

Prune RT mode decisions for BLOCK_32x32 and up

* Remove all non-DC intra modes for BLOCK_32x32 and up
* Remove all intra modes for blocks bigger than BLOCK_32x32
* Remove ZEROMV for BLOCK_32x32 and up
* Only consider NEARESTMV for blocks bigger than BLOCK_32x32

Change-Id: Ia18351a238213e2f072f9e481d622949346a245f

Avoid gf/altref boost in pick_q under svc cbr mode.

Change-Id: Ib719a9f74924718715592e0238bc391ae239d026

nestegg: ne_buffer_read: quiet uint64->size_t warning

the buffer length is already a size_t making the offset into it limited

Change-Id: Ibc5352e69049186cc07f7d86117696b11a98a600

nestegg: quiet read related uint64->size_t warnings

ne_read_ebml_lacing / ne_read_discard_padding
+ add some asserts

Change-Id: I28d0ec5c8f901ae0a35928a8f512c51b3ecf177d

nestegg: ne_parse: normalize size_t usage

in calls to ne_read_simple / ne_io_read_skip

Change-Id: I5c4fc3bb41832973830ad54248839d6a4944aae6

nestegg: ne_read_(string|binary|block): normalize size_t usage

+ nestegg_track_codec_data
quiets uint64_t -> size_t warnings
the sizes used are previously validated against their associated LIMIT_*
values

Change-Id: Ie574a3a7496d0143bd58b778145c27f38dd6a4da

vp8_decrypt_test.c: Silence MSVC data loss warning.

- Change type of encrypt_buffer() offset argument to ptrdiff_t, and change the
  type of the size argument to size_t.
- Update size argument encrypt_buffer() in vp8_boolcoder_test.c with
  same.

Change-Id: Ie29c7c82c73318bee01b89c6fb4c4e1442eef03c

Merge "Cleaning up vp9_init_dsmotion_compensation()."

Removing VP9_PTR.

Change-Id: Ib49d8dbc67c590f22a1a70251ff607c9f38febd7

Refactoring motion search libs

The core motion estimation fucntions all return sad now consistently.
The only exception is vp9_full_pixel_diamond(), however the core diamond
and refining search routines called from vp9_full_pixel_diamond() also
return SAD. If variance of pred error + mv cost is desired it must be
calculated explicitly outside these functions. For very fast encoding,
hopefully this will eliminate some redundant computations.

Also suggests reimplementing FAST_HEX with the vp9_pattern_search
framework. It is not exactly the same as the existing FAST_HEX, but
performance is slightly better and speed is very similar. Enables
removing a lot of duplicate code.

Change-Id: I152736393438c25bdf7e96b37cbb8ce330f4f94a

build: convert rtcd.sh to perl

significantly speeds up file generation.

the goal of this change is to convert rtcd.sh to perl as directly as
possible to allow for simple comparison. future changes can make it more
perl-like.

---
Linux
    [CREATE] vpx_scale_rtcd.h
real    0m0.485s ->    0m0.022s
    [CREATE] vp8_rtcd.h
real    0m4.619s ->    0m0.060s
    [CREATE] vp9_rtcd.h
real    0m10.102s ->    0m0.087s

Windows
    [CREATE] vpx_scale_rtcd.h
real    0m8.360s ->    0m0.080s
    [CREATE] vp8_rtcd.h
real    1m8.083s ->    0m0.160s
    [CREATE] vp9_rtcd.h
real    2m6.489s ->    0m0.233s

Change-Id: Idfb71188206c91237d6a3c3a81dfe00d103f11ee

configure: check for perl

Though not (currently) required this tests for perl in all
configurations.

Fixes issue #671

Change-Id: Ibe1e72db74bb4cf3252b73c68ff1dfc2ecfc902b

improved speed of 4x4 sse2 fdct.

* speed improvment of 30 percent achieved
* multiplies and adds remain the same
* non-arithmetic instructions minimized by hand, by:
   -expanding 2 pass loop
   -removing irrelivant "shuffles"
   -combining last two rounding steps
* further improvments may be possible

Change-Id: Idec2c3f52910c48e6a0e0f9aefed5cae31b0b8c0

Merge "Adding get_tx_type() instead of get_tx_type_{8x8, 16x16}."

Merge "Moving FRAME_CONTEXT & FRAME_COUNTS to vp9_entropymode.h."

Merge "Adding consts and cleaning up vp9_rdopt."

Merge "cost_coefs approximation speed up"

Merge changes I67b2b0d7,I24c024d1,I3703d739,Ia6f669a9

* changes:
  nestegg: packet_track: fix uint64->uint32 warning
  nestegg: fix track_scale double->uint64 warning
  nestegg: fix track_number uint64->uint32 warnings
  nestegg: add ne_get_uint32 convenience function

Merge "Enforce intra_y_mode_mask for inter rd."

Merge "Refactor ZEROMV equivalence"

Merge "Reset search_method for non-rd pick mode"

Adding get_tx_type() instead of get_tx_type_{8x8, 16x16}.

Change-Id: I4a54b12e5229705222c5a101258b9d1f81e2948d

Adding consts and cleaning up vp9_rdopt.

Change-Id: I9423b543e1be414e5c9e10480b813f06e6b88f8a

Merge "Merging error-resilient example into simple_encoder."

cost_coefs approximation speed up

This patch adds a new speed feature which doesn't do the rather
expensive entropy context lookup or save to the table,  while
doing costing.

The speed up on desktop36p.y4m is around 10% other clips much less.

On the RTC test set this was + 1% in overall datarate.

Change-Id: Ia5144bbf45270671e7be9c8e4055369909e2f738

Refactor ZEROMV equivalence

This gets more accurate mode hit stats. It's also the first step to
handling ZEROMV not being allowed more intelligently.

Change-Id: I5de6734507b5177bf73e9ddbad923f218c39f3e4

Reset search_method for non-rd pick mode

Reset FAST_HEX search_method, which was lost because of code merging.

Change-Id: Ic2b2cb9ec2f1751e96f7db0f9226310f605fcc83

Enforce intra_y_mode_mask for inter rd.

intra_y_mode_mask is already enforced for the sub8x8 case.
intra_uv_mode_mask is already enforced for all sizes.

Change-Id: Ia9dd14701cb49873c2e8f24eb5f8b255eaf76a1f

Merge "Cleanup conditions in vp9_rd_pick_inter_mode_sb()."

Merge "Clear implied conversion to int64_t warning."

Merge "Removing VP9D_PTR."

Merge "AVX2 SubPixel AVG Variance Optimization"

Merge "vp9_lookahead_push(): remove unused parameters"

Merge "vp9_decodeframe.c: remove unused params"

Merge "Silence int64 to int warning"

Merge "vp9_mbgraph.c: remove unused parameters"

Merge "temporal_filter_find_matching_mb_c(): remove a param"

Merge "vp9_prob_diff_update_savings_search_model(): remove params"

Clear implied conversion to int64_t warning.

Clear warning caused by implied conversion from int32 to int64.

Change-Id: I473b37a54984cbfb22702eb3f712465881ff86e8

Silence int64 to int warning

Change-Id: Ic97ddd5143425a7b63fac4e40d9740a10a0491ad

Merge "vp9_firstpass.c: remove unused functions & params"

Merge "Sorting includes in vp9_firstpass.c."

vp9_mbgraph.c: remove unused parameters

Change-Id: I5a01d0dccc9afc87e2adbb5ddc7d44379fe1f125

temporal_filter_find_matching_mb_c(): remove a param

There is one parameter that is never used, therefore is removed.

Change-Id: I595722e7c5731534c72831315359e4dce9c21763

vp9_prob_diff_update_savings_search_model(): remove params

Two paramemters are not in use, therefore are removed.

Change-Id: I41eb601b7b4bf2feedb13b3f240315656d8694f9

vp9_lookahead_push(): remove unused parameters

Change-Id: Ia319bd924401677b5c30b0f46d1ab2be6a1f446e

vp9_decodeframe.c: remove unused params

Change-Id: Ie83e18802234199491dbb6e90886739814558f96

vp9_firstpass.c: remove unused functions & params

Change-Id: I111c5bd0dd47db7b1f6952c18056bee548bb42e9

vp9_encodeframe.c: remove unused function params

Change-Id: I6d47618e8aee6e6c2fe1cf0b8bb4da0b2a0bab66

Remove dec_build_inter_predictors() parameters

There were two parameters not in use, this commit removed them.

Change-Id: Ia03a73b9a2521400bed539df45574e34214ed93a

Remove unused parameters from update_state_rt()

In addition, a local variable was renamed to avoid confusion.

Change-Id: Id4c497f9cfa219e8a414aa9fee9a85af5f147249

Remove vp9_create_common()

The function has evolved over time, now only calls vp9_rtcd(), so this
commit removes the function and changes to call vp9_rtcd() directly.

Change-Id: I8cfa6190daa4b28f6f3d1e11bb3a07f9c95322bf

Remove a parameter from write_selected_tx_size()

The parameter was never used.

Change-Id: I99fd9aad697917ddbe3d10c71cae344228fafc31

AVX2 SubPixel AVG Variance Optimization

Optimizing 2 functions to process 32 elements in parallel instead of 16:
1. vp9_sub_pixel_avg_variance64x64
2. vp9_sub_pixel_avg_variance32x32
both of those function were calling vp9_sub_pixel_avg_variance16xh_ssse3
instead of calling that function, it calls vp9_sub_pixel_avg_variance32xh_avx2
that is written in avx2 and process 32 elements in parallel.
This Optimization gave 80% function level gain and 2% user level gain

Change-Id: Iea694654e1b7612dc6ed11e2626208c2179502c8

nestegg: packet_track: fix uint64->uint32 warning

Change-Id: I67b2b0d722424df9938d7c26f9d3478592bc813a

nestegg: fix track_scale double->uint64 warning

Change-Id: I24c024d1b328b9c34289c125c501d2fdc246e92e

nestegg: fix track_number uint64->uint32 warnings

ne_read_block/ne_find_cue_position_for_track/nestegg_get_cue_point
in the use of ne_map_track_number_to_index
+ add a check to ensure it doesn't exceed the type bounds

fixes:
./third_party/nestegg/src/nestegg.c|1322| warning C4244: 'function' :
conversion from 'uint64_t' to 'unsigned int', possible loss of data

Change-Id: I3703d739dcf9a2d4d8e2b704e957e5e3fd80dca0

nestegg: add ne_get_uint32 convenience function

- avoids downcasting from uint64_t in multiple locations

Change-Id: Ia6f669a9ee81336ed1ef29a6a79240d5905acab5

Merge "normalize perl shebangs"

Merge "Fix unused parameters in vp9_extend_frame_borders"

Merge "fix vp9 only build"

Merge "Replacing int_mv with MV."

Merge "Removing unnecessary casts from quantization code."

Merge "Using ref_mv[2] instead of two separate variables."

Fix unused parameters in vp9_extend_frame_borders

Change-Id: I7255b3bc47d760333f58ac4878becbcc8ad30967

Merge "Sorting includes in vp9_rdopt.c."

fix vp9 only build

Change-Id: I7a1a7190dc32c65846a897a3162a02d63e59719f

Cleaning up vp9_mvref_common.c.

different_ref_found is always equal to one (if calculated) because
ref_frame[0] != ref_frame[1] for each mi-block.

Change-Id: Ibd7625b7b29dec2fd3c40edbc3de1169abb78585

Merge "Adds speed 8 to vp9 as reference"

Using ref_mv[2] instead of two separate variables.

Change-Id: I909a81991aa0cc18afe6526542c7513837445213

Sorting includes in vp9_rdopt.c.

Change-Id: I7e2591b4b54e0eac8521e128c7d97f62d2057ed8

Merge "Sorting and eliminating includes in vp9_pickmode.c."

Moving FRAME_CONTEXT & FRAME_COUNTS to vp9_entropymode.h.

Change-Id: I1fe71e35b1e44da693b43d26607abb33efd56820

Merge "Fixing include order in vp9_quantize.c"

Merge "Fix potential invalid partition size use"

Adds speed 8 to vp9 as reference

Adds a speed 8 to VP9 where only the nearestmv (0 mv) is searched.
This seems to be about the same speed as vp8 speed 5.

Adds a new speed feature to disable inter modes based on a mask for
each blocksize.

Adds code for having lower complexity motion search methods
in nonrd pick mode function, even though speed 7 still uses DIAMOND
search for now.

Also uses HEX search for speed 6 rather than FAST_HEX which improves
psnr by 0.56% without any noticeable speed drop (tested on gipsmotion).

Change-Id: Ic13176572dbd3aed5884a26786940a4b1bbd8a75

Merge "Skip some mode SAD calculation in non-RD mode"

Replacing int_mv with MV.

Change-Id: Ib68d4a2de838254a66272324b909292048cbe60d

Removing unnecessary casts from quantization code.

Change-Id: I64172710654e95a90ee754d14d7104337d28010f