Merge "Fix encoder uninitialized read errors reported by drmemory"

Merge "Fix coding format in vp9_rc_regulate_q"

Merge "Prevent the usage of invalid best_mode_index"

Merge "Remove duplicate code"

Merge "Minor code cleanup"

Merge "Revert "Converting set_prev_mi() to get_prev_mi().""

Merge "Moving q_trans[] table to vp9_quantize.{c, h}."

Merge "Removing unused code from vp9_onyx_if.c."

Prevent the usage of invalid best_mode_index

This commit changed the initialization of best_mode_index to -1 to make
sure it is not mistakenly used for mode masking.

Change-Id: I75b05db51466070dd23c4ee57a4d4b40764dc019

Merge "Removing redundant assignments."

Merge "Remove unused tile arguments from vp_rdopt."

Merge "Cleanup vp9_rd_pick_inter_mode_sub8x8()."

Fix coding format in vp9_rc_regulate_q

Change-Id: I08aa0c213df34c084eb7a3c51b6b3306e49c7757

Revert "Converting set_prev_mi() to get_prev_mi()."

This reverts commit 22a3e30790d141033778e430a47ba7d558237362

Change-Id: I460d905edf5fb2006da58c18fbe02c04d0c631bb

Merge "Fix the setting of mode_skip_mask"

Removing unused code from vp9_onyx_if.c.

Change-Id: I0462bf1ca1b4e5a1c06259979b4daff949b8a2c6

Moving q_trans[] table to vp9_quantize.{c, h}.

Change-Id: I1324c339815a47004ddccdaf651d24c60382b92f

Merge "Fix avx builds on macosx with clang 5.0."

Remove duplicate code

Change-Id: Ie26b6ca8de733a527f820b16148e7a2231073f0f

Merge "Adding vp9_inc_frame_in_layer() function."

Minor code cleanup

Cleanup.

Change-Id: I54d989e24b35323cda7290654e425565d5c9ea2d

Remove unused tile arguments from vp_rdopt.

Change-Id: I721ff26e3d5dbef80b8cd2dd562adae3748f6687

Cleanup vp9_rd_pick_inter_mode_sub8x8().

Change-Id: I9be2e4e9aeda0fae6dc946deae2999be51daebe0

Merge "Fixing broken build."

Fix the setting of mode_skip_mask

In mode selection loop, once mode_index pass mode_skip_start, all
modes with a different reference frame from current best mode are
masked out using mode_skip_mask.

However, the setting of mode_skip_mask may use an invalid mode if
there is no mode tested yet. This commit fixes the issue by making
sure a mode has been tested and selected. Otherwise, no mode will be
masked out because of their reference frame.

Change-Id: Ib0009e8a96836a65cf5347440fff8a2e1a67f29f

Merge "Fix TODO typo"

Merge "Add more test files that change number of tile columns."

Merge "third_party/libwebm: Pull from upstream"

Fixing broken build.

Change-Id: I9b8f9a3f4fa9d48695149dd68ecb5e8d84accafe

Merge "Converting set_prev_mi() to get_prev_mi()."

Merge "Use source frame difference to make partition decision"

Adding vp9_inc_frame_in_layer() function.

Change-Id: Idf612c772440158cd1645623241c51ab0d57405c

Merge "Applying q_trans[] inside set_encoder_config()."

Fix encoder uninitialized read errors reported by drmemory

This patch fixed the uninitialized read errors in Issue 748:
"dr memory VP9 encode errors". In vp9_convolve_avg_sse2,
when width is 4, pavgb reads 8 bytes from dst buffer that is
out of range. An error is reported although the data is not
actually used later. This issue was resolved by preventing
uninitialized reads.

Change-Id: I109a54910aa47139cb13119de86f2062cff207df

Merge "Select prediction filter type in non-RD mode decision"

Fix TODO typo

Change-Id: I7a5230852cb24ce22bfe85ea2608cdb4619b5200

Add more test files that change number of tile columns.

Change-Id: I08fe184a04e5435aeac92f1d7cc9733ca52c2783

Merge "High-level hooks for Profile 2 (10/12 bit)"

Applying q_trans[] inside set_encoder_config().

Change-Id: Ib64edeb58b3e25488fb85bbe85c9decb15b4d0a1

Fix avx builds on macosx with clang 5.0.

The macosx release of clang v5.0 identifies itself as:
Apple LLVM version 5.0 (clang-500.2.79) (based on LLVM 3.3svn)

This version of clang uses the older _mm_broadcastsi128_si256, like
v3.3, as given away in the LLVM svn version above.

Change-Id: I4d6d59d5454efd57d2ae9e75f5eb7486af7cbd0c

Removing redundant assignments.

Change-Id: I3ced24f2c3b9cc483278c0f0d60512e7d2efa4f4

Merge "Cleaning up encode_frame_internal()."

Merge "Cleaning up vp9_firstpass.c"

Merge "Adding vp9_ssim.h file."

Merge "Fix decoder resolution change with tiles"

Use source frame difference to make partition decision

Calculate the difference variance between last source frame and
current source frame. The variance is calculated at 16x16 block
level. The variances are compared to several thresholds to decide
final partition sizes.

An adaptive strategy is implemented to decide using
SOURCE_VAR_BASED_PARTITION or FIXED_PARTITION based on motions
in the video. The switching test is done once every
search_type_check_frequency frames.

The selection of source_var_thresh needs to be investigated
further later.

RTC set Borg test showed 0.424% overall psnr gain, and 0.357%
ssim gain. For clips with large enough static area, the
encoding speedup is around 2% to 15%.

Change-Id: Id7d268f1d8cbca7fb8026aa4a53b3c77459dc156

Select prediction filter type in non-RD mode decision

This commit allows the non-RD mode decision flow to  select
prediction filter type in NEWMV mode. It provides 8.14% compression
performance gains in both settings of AQ=0 and 3. The current speed
impact is about 5% to 10% slower.

Change-Id: Id66ecebf77abd8f90fb3f6a066c0e8dfb4bf1c42

third_party/libwebm: Pull from upstream

Pulling latest libwebm from upstream.

Change-Id: I62edafb0b0283160c9b4060fd5907e3aad6c7820

High-level hooks for Profile 2 (10/12 bit)

Adds some high-level hooks for profile 2 before further
progress on the implementation.

According to the definitiion in this patch:
1. Profile 2 only supports 10 or 12 bit color but not 8
2. Profile 2 supports all color sampling modes: 444, 422 and 420,
and alpha plane.
3. Profile 3 is currently undefined.

Please consider the definition carefully and suggest modifications
to the definition as needed.

Change-Id: I5b284fc679e54ac5aee171af72fa7994cfd28995

Adding vp9_ssim.h file.

Change-Id: Ib3b3864a6018c62ac1ea18e30795af74464596cd

Cleaning up vp9_firstpass.c

Change-Id: Ie5723690f7c0bfa29a7ccef5da0c6c6326600ee6

Fix decoder resolution change with tiles

There was a bug with the decoder that if you started the decoder
with more threads than the first frame had tile columns. Afterwards
tried to decode a frame with more tile columns than the first frame,
the decoder would hang. E.g. run vpxdec --threads=4. The first frame
had two tile columns, then the next key frame had 4 tile columns, the
decoder would hang. If you started with 4 tiles and switched to 2
tiles the decoder would be fine. The issue is that the worker the thread
loop is using is stale.

I added a test vector "vp90-2-14-resize-848x480-1280x720.webm" that
exhibited the bug.

Change-Id: I7bdd47241a52ac0fe1c693a609bc779257e94229

Merge "Cleaning up vp9_ratectrl.c file."

Merge "Cleaning up vp9_diamond_search_sad_c() function."

Merge "Moving init_rate_control() to vp9_ratectrl.{c, h}."

Cleaning up vp9_ratectrl.c file.

Change-Id: If8044d9c71afe02ed1e6c94487344e143bdfcd74

Renaming VP9D_COMP & VP9Decompressor to VP9Decoder.

Change-Id: Ieb9b455b8aaef9884391021b7f640ef24c554687

Merge "vp9_ratectrl: change ARF overlays rate correction factor"

Merge "Replace imprecise 32 bits calculations by 64 bits calculations"

Merge "vp9_firstpass: Get rid of magic number in bits per MB calculation"

Merge "Moving compute_qdelta functions into vp9_ratectrl.{h, c}."

Merge "Add constrained-copy partition to speed features."

Moving compute_qdelta functions into vp9_ratectrl.{h, c}.

Change-Id: I512f2a287dd8765879a2d1144e2f028dc65f71ff

Cleaning up vp9_diamond_search_sad_c() function.

Change-Id: I0816ec12ec0a6f21d0f25f10c214b5fd327afc6c

Merge "Fixing memory leak introduced in previous commit."

Converting set_prev_mi() to get_prev_mi().

Change-Id: Iad4002d7aecaae0e25d88e286bacde7e6cd7264f

Cleaning up encode_frame_internal().

Change-Id: I9c5f7edc2d5d1ec5aee396b87bdfc99ee21c435a

Add constrained-copy partition to speed features.

Copy up to a certain bsize, otherwise set to a fixed bsize.
This helsp to reduce artifact near moving boundary caused by full partition
copy without checking motion of super-block.
This artifact can occur at speeds 3,4 in real-time mode.
Issue: https://code.google.com/p/webm/issues/detail?id=738.

Change-Id: I05812521fd38816a467f72eb6a951cae4c227931

Merge "Small fixes to script based off of cry-infra"

Merge "Rewriting calc_plane_error() function."

Small fixes to script based off of cry-infra

Change-Id: I5a65d6fdb27516aefda0473ac45b05186cf0913c

Merge "General vp9_encodeframe.c cleanup."

Moving init_rate_control() to vp9_ratectrl.{c, h}.

Change-Id: Iab3effc39064f265426c82b455ef38d37dcce5a8

Fixing memory leak introduced in previous commit.

Commit introduced the leak: "Removing XMA legacy from VP9 code."
I5e9dfc50b6312848df8c3b8276f6b4d0c7ff9cf9

Change-Id: Ia1f91bb8403bef340de9f089fa78b3fccc3e9917

Merge "Cleaning up vp9_speed_features.c."

Merge "Removing unused seg0_* vars."

Merge "Moving {restore, save}_coding_context to vp9_onyx_if.c"

Merge "Cleaning up vp9_{cx, dx}_iface.c files."

Cleaning up vp9_speed_features.c.

Change-Id: I7b2b690d2d51d55daa642be4131e5febd78cbe0a

Adding temp svc variable.

Change-Id: Ic68caec1bcb8a88f443c3e40ce9770eade5bd320

Cleaning up vp9_{cx, dx}_iface.c files.

Change-Id: Ib4e31ba74c4b882bd93942ef743f4a189892738d

Moving {restore, save}_coding_context to vp9_onyx_if.c

These functions do nothing about rate control.

Change-Id: I714e80b1c1f4f9aa157a56df705247fce6db138d

vp9_ratectrl: change ARF overlays rate correction factor

ARF overlays now use the same rate correction factor as regular inter
frames, further testing would be needed to see if it makes sense to use
a completely separate rate correction factor for ARF overlays.

$ vpxenc --cpu-used=5  --fps=50/1 --target-bitrate=2000
         parkjoy.y4m -o out.webm
=> Before: 3356 kb/s
=> After: 2271 kb/s

Change-Id: I73e4defa615ba7a8a2bdb845864f4b1721cbbffe

Replace imprecise 32 bits calculations by 64 bits calculations

Change-Id: If1b0a2d6603ce24f5dd99855e8dfe459e7a2835a

vp9_firstpass: Get rid of magic number in bits per MB calculation

Change-Id: Ib3886cb7cafc211581f4f9e7f76782d9d1984434

Merge "Cleaning up vp9_refining_search_sadx4() function."

Merge "Moving all RATE_CONTROL initialization to init_rate_control()."

Merge "Set up early RD cost check for NEWMV in non-RD mode decision flow"

Set up early RD cost check for NEWMV in non-RD mode decision flow

This commit estimates the motion vector rate cost right after full
pixel motion search. It combines this and the mode cost and compares
the corresponding rate-distortion cost. If it is already above the
current best one, skip the rest sub-pixel motion search and modeling
process. For pedestrian_area 1080p at 4000 kpbs, the speed -5 runtime
goes down from 39425 ms -> 38399 ms.

Change-Id: If4cd7119fd6c266798d5cf1d19d19ab425e52a26

Merge "Refactoring decode_one() function."

Moving all RATE_CONTROL initialization to init_rate_control().

Change-Id: I4685706b816dd1c45500e1387c9f63edb2fa1962

Merge "Code clean up."

Merge "Adding FAST_COEFF_UPDATE enum."

Merge "Re-enable datarate tests for speeds 5 and 6."

General vp9_encodeframe.c cleanup.

Change-Id: Ie364fe837002de96923da2c1c0ff8bb4b8d469a7

Refactoring decode_one() function.

Change-Id: Ic3ee3b1fb04691e8c7d16020b56e034ab8888525

Re-enable datarate tests for speeds 5 and 6.

Changed a parameter to make speed 5 pass, and
valgring issue for speed 6 fixed: https://code.google.com/p/webm/issues/detail?id=740

Change-Id: I5b804b08069e29df3f08b9ec37f5b80151b4c910

Adding FAST_COEFF_UPDATE enum.

Change-Id: I75ad328c6d719df81cc24f3ae21c152af4ebdacc

Remove an unused typedef

Change-Id: Ie0eb9ac4529db00a322511e5241a59b501c289b7

Merge "Removed space in ETA printout"