Merge "Directly split the block in partition search"

Directly split the block in partition search

This patch allows the encoder to directly split the block
in partition search, therefore skip searching NONE. It
computes a score which measures whether 16x16 motion vectors
from the first pass in the current block are consistent with
each others. If they are inconsistent and we have enough Q
to encode, split the block directly, and skip searching NONE.

This feature is under flag CONFIG_FP_MB_STATS. In speed 2,
it further gives a speedup of 3-8% on sample yt clips as
compared to the previous version under the same flag. Overall,
the features under the flag will give 7-15% on typical yt
clips at up to 6000kbps data rate. The speedup at very high
data rate is not significant.

For hard stdhd clips:
park_joy_1080p @ 15000kbps:       504541ms -> 506293ms (-0.35%)
pedestrian_area_1080p @ 2000kbps: 326610ms -> 290090ms (+11.2%)

The compression performance using the features under the flag:
derf: -0.068%
yt:   -0.189%
hd:   -0.318%
stdhd:-0.183%

To use the feature, set CONFIG_FP_MB_STATS and turn on
cpi->use_fp_mb_stats.

Change-Id: Iad58a2966515c8861aa9eb211565b1864048d47f

Merge "[spatial svc]Enabl golden frame for base layer and fix wrong ref_frame_flag for upper layers in first frame"

Merge changes I4e2aeaef,Ie3e478ef

* changes:
  vpxdec warning errors addressed
  cast enums to int to avoid gcc warning in pred_common

Merge "Store first pass motion vector directions"

Store first pass motion vector directions

Re-organize the one-byte structure for 16x16 first pass
block. Add bits to indicate motion vector directions.

Change-Id: Id10754ba343dfc712c7fed5bcc85c67fa0bbcb89

Merge "Cosmetic indent fix in vp9_rd_pick_inter_mode_sb"

[spatial svc]Enabl golden frame for base layer and fix wrong ref_frame_flag for upper layers in first frame

Change-Id: I1fec9c084b499b2f445b79726066d01b136b59fa

Cosmetic indent fix in vp9_rd_pick_inter_mode_sb

Change-Id: I303213fbb0ad5fbf28f0ca17271624b75e9d6319

vpxdec warning errors addressed

Change-Id: I4e2aeaef3e6efd5be3cb963d2eba5e08dc89b803

cast enums to int to avoid gcc warning in pred_common

Change-Id: Ie3e478ef4fa565225d9e19a14d2f40aad966c2b6

energy -> int to avoid unsigned / signed mismatch

Change-Id: Idd1327852f0df0eab0ea3b33959f2b8292b77301

vp9_firstpass.c: fix unused static function

Change-Id: Ia989a01d79f1f02defbeccb1b8eee23fdf5e764e

set but unused var in vp9_rdopt

Change-Id: Ie813af24d23c7d72b38749b3382b315daf516be5

break at the end of clauses with assert(0) to avoid gcc warning

Change-Id: I1b3c5337f018dde27dc819ab18bd081d169a91e8

uint8_t segment and skip to avoid signed / unsigned warnings

Change-Id: I2e2765b851fb0a1b15351c2aa0e079197cbee373

avoid signed mismatch warning in gcc

Change-Id: I9d995178fd764be252e571fa23901da0f991bbb8

Merge "frame_size_tests: cosmetics"

Merge "vp9_entropy: inline comes first to avoid warning."

Merge "signed unsigned mismatch - warning error"

vp9_entropy: inline comes first to avoid warning.

Change-Id: I5b050122e6ed183a5b33c1f38e4fbf63b6721062

Merge "removed sign mismatch warning"

Merge "Added vp9_sad8x8_neon()"

frame_size_tests: cosmetics

- output DecodeError() on failure
- remove unused includes

Change-Id: Ib5059137f7033089d4010cbdfd633861b9028718

Neon version of vp9_sub_pixel_variance8x8(),

vp9_variance8x8(), and vp9_get8x8var().

On a Nexus 7, vpxenc (in realtime mode, speed -12)
reported a performance improvement of ~1.2%.

Change-Id: I8a66ac2a0f550b407caa27816833bdc563395102

Merge "Neon version of vp9_sub_pixel_variance32x32(),"

Added vp9_sad8x8_neon()

Change-Id: I3be8911121ef9a5f39f6c1a2e28f9e00972e0624

signed unsigned mismatch - warning error

Change-Id: I991e36aa3cfa62aae6d27b253297dd9ca9e8bc12

removed sign mismatch warning

Change-Id: Iaa40b472f6c1c48bb3bb47332b6fcf36d7f3c10e

Merge "Skip calling vp9_block_energy when aq-mode is off"

Merge "Require armv6/media when building armv7"

Merge "Code cleanup in rdopt.c"

Merge "configure: remove multiple_arf experiment"

Merge "Changes interface to avoid uninitialized warnings in vp9_cx_iface.c."

Skip calling vp9_block_energy when aq-mode is off

The mb_energy value is used by aq-mode. Turn off computing its
value when aq-mode is off.

Change-Id: I26c239f124eca45a5ee58b90d19eae00d9a7cda5

Merge "Neon version of vp9_subtract_block()"

Code cleanup in rdopt.c

Moved encode_breakout code out of handle_inter_mode().

Change-Id: Icd661136b05fdf163768c406f91e0c98a8df89eb

Merge "Remove third_party/libmkv"

Merge "vp9_spatial_svc_encoder.sh: Disable existing tests, add a test that works."

Merge "vpxdec.sh: Refactor vpxdec()."

Merge "tools_common.sh: Move vpxdec() test support to vpxdec.sh"

Neon version of vp9_subtract_block()

On a Nexus 7, vpxenc (in realtime mode, speed -12)
reported a performance improvement of ~3.2%

Change-Id: I8862497264142171b7efc32df1a67714a23539f4

Merge "Refactor rd_pick_parition interface"

Remove third_party/libmkv

The dependency on the libmkv code has been removed from Chrome.
See:https://code.google.com/p/chromium/issues/detail?id=387738

Change-Id: I42887864f0c478bb065f7687b4c09f1b2f4c97c2

Neon version of vp9_sub_pixel_variance32x32(),

vp9_variance32x32(), and vp9_get32x32var().

Change-Id: I8137e2540e50984744da59ae3a41e94f8af4a548

Changes interface to avoid uninitialized warnings in vp9_cx_iface.c.

Change-Id: I1092239e21c1cde188ee2dcb765f4c6fc8c5cdec

vp9_spatial_svc_encoder.sh: Disable existing tests, add a test that works.

- vp9_spatial_svc_encoder.c no longer supports the -m parameter that
  has been used in the example test. Tests using -m have been disabled.
- Added a basic test that appears to work as of commit
  3249f26ff85e2bfe148167ce80df53643a89a2d2.
- Minor style clean up.

Change-Id: Ic1402fcbbe28e33982c5ea12d1e3349f4069a5bf

Merge "vp9_spatial_svc_encoder.sh: Prevent failures when ssvc is unavailable."

vpxdec.sh: Refactor vpxdec().

- Split vpxdec wrapper function into vpxdec() and vpxdec_pipe().
- Remove hard coded --noblit and --summary arguments from
  the wrappers in favor of shifting off the first argument (the
  input file) and passing all remaining parameters to vpxdec.
- Add --noblit and --summary args to existing tests, and update the
  pipe input test to use vpxdec_pipe().

Change-Id: Ia390a9990eace793058b3603ada733fb878eb78c

tools_common.sh: Move vpxdec() test support to vpxdec.sh

Change-Id: I7bb9b10fa8a949e9eaa1299b521f2b9785f36d50

Merge "configure.sh: avoid test -a/-o for compatibility"

vp9_spatial_svc_encoder.sh: Prevent failures when ssvc is unavailable.

Avoid running the tests when CONFIG_SPATIAL_SVC is 0.

Change-Id: I9b87ed206a9ba7de6827594fba275bd3f60faf2d

Merge "Chessboard pattern partition search"

Merge "Early termination after partition NONE is done in RD."

Merge "Remove copy frame neon"

Merge "Remove unused copy src frame function"

Merge "Add test for vp8 copy frame"

Merge "vp9_cx_iface: defer compressed data buffer alloc"

Early termination after partition NONE is done in RD.

This patch allows the encoder to skip the search for partition
SPLIT, HORZ, VERT after the search for partition NONE is done
in RD optimization. It uses the first pass block-wise statistics
to make the decision. If all 16x16 blocks in the current partition
have zero motions and small residues from the frist pass statistics,
and it has small difference variance, further partition search is
skipped.

For speed 2 setting, experiments on general youtube clips show that
the speedup varies from 1% - 10%, 5% on average. On the performance
side in PSNR, derf 0.004%, yt -0.059%, hd -0.106%, stdhd 0.032%.

For hard stdhd clips:
park_joy_1080p, 502952 ms -> 503307 ms (-0.07%)
pedestrian_area_1080p, 227049 ms -> 220531 ms (+3%)

This feature is under the compilation flag CONFIG_FP_MB_STATS and
it is off in current setting.

Change-Id: I554537e9242178263b65ebe14a04f9c221b58bae

Merge "Neon version of vp9_quantize_fp()"

Merge changes I3513ae17,Ia0b51165,I461d8b3d

* changes:
  make testdata: look for other variants of sha1sum
  make testdata: fail if a sha1 fails or is missing
  test-data.sha1: add missing checksums

Merge "decode_to_md5.sh: fix local md5 variable assignment"

Refactor rd_pick_parition interface

Remove the variable that indicates the relative block index. This
is explicitly covered by the use of pc_tree.

Change-Id: Ib13142582fff926c85e375bde656aa050add8350

decode_to_md5.sh: fix local md5 variable assignment

extract only the md5 + quote the result
fixes:
test/examples.sh: 47: local: img-176x144-0029.i420: bad variable name

Change-Id: I81c6a83c8a4e792a520fd7046c8eedcbd4af9a0c

Merge "Fix to Visual Studio build error."

Chessboard pattern partition search

This commit enables a chessboard pattern constrained partition
search for 720p and above resolutions. The scheme applies stricter
partition search to alternative blocks based on its above/left
neighboring blocks' partition range, as well as that of the
collocated blocks in the previous frame. It is currently turned
on at 16x16 block size level. The chessboard pattern is flipped
per coding frame.

The speed 3 runtime is reduced:
park_joy_1080p, 652832 ms -> 607738 ms (7% speed-up)
pedestrian_area_1080p, 215998 ms -> 200589 ms (8% speed-up)

The compression performance is changed:
hd     -0.223%
stdhd  -0.295%

Change-Id: I2d4d123ae89f7171562f618febb4d81789575b19

Merge "Clean up max/min allowed block size in rd_pick_partition"

Merge "Use frame index directly in get_chessboard_index"

Merge "clear up cfg unused warning in vp9_pick_inter_mode"

Neon version of vp9_quantize_fp()

On a Nexus 7, vpxenc (in realtime mode, speed -12)
reported a performance improvement of ~12.4%

Change-Id: Id29d215acf58bb108489e218a259adf74b4768d7

Fix to Visual Studio build error.

signed/unsigned mismatch from commit: 918011.

Change-Id: I6b9bb3618f8e72ea4cc0e6ba8fb9b13676985ed0

clear up cfg unused warning in vp9_pick_inter_mode

Change-Id: Iefcf0a25aaf5e44e8e791839aa82d876555025e0

Neon version of vp9_sub_pixel_variance16x16(),

vp9_variance16x16(), and vp9_get16x16var().

On a Nexus 7, vpxenc (in realtime mode, speed -12)
reported a performance improvement of ~16.7%.

Change-Id: Ib163aa99f56e680194aabe00dacdd7f0899a4ecb

configure.sh: avoid test -a/-o for compatibility

Change-Id: I0bea5cbccd6938fb967299c1d903b60dd2096ccc

make testdata: look for other variants of sha1sum

it's shasum / sha1 on osx, bsd variants

Change-Id: I3513ae1740adfb05e9b5777d27d445dafbd22413

make testdata: fail if a sha1 fails or is missing

Change-Id: Ia0b51165d260e283f5338f290a39718e462aed55

test-data.sha1: add missing checksums

Change-Id: I461d8b3d7cb8f5d787f189dac9032220b089f05f

Merge "Remove 'local' from configure and configure.sh"

Merge "vpx_once: implement once() for OS/2"

Merge "Makefile: add -mstackrealign to CFLAGS on OS/2\r \r This prevents SIGSEGV of test_libvpx.\r \r Change-Id: I788743841469f4141bc8d29b1d1a8683cb00655c\r"

Remove 'local' from configure and configure.sh

'local' is not posix.

Change-Id: I46d7acfa574cbef686cee1b35022f5781485c3fa

vpx_once: implement once() for OS/2

Change-Id: I9f736f299490464bbdbb6cd24ee6f5b46ad45ec6

vp9_cx_iface: defer compressed data buffer alloc

currently the only way to know if multiple alt-refs are enabled is to
inspect the encoder instance.
this reduces the size of the allocation by 75% when not using multiple
alt-refs

Change-Id: Ie4baa240c2897e64b766c6ad229674884b5a65b6

Merge "Remove the redundant index computation in the first pass"

Require armv6/media when building armv7

When building with runtime cpu detect assume that armv7 targets can be
relied upon to have at least armv6 support. This may allow dead code
detectors to remove some _c functions.

Change-Id: Iaec4414011fcbbdf6f4ed0d90ef4a8fe8af540b5

Merge "vp8: Add an aggressive denoising mode."

vp8: Add an aggressive denoising mode.

Change-Id: Ie4686e1b15af6bcc8d59d585bbeb996f38224522

Clean up max/min allowed block size in rd_pick_partition

This commit replace the repetitive retrieve of max and min allowed
partition from speed_feature with local variables max_size and
min_size.

Change-Id: Ib06f11f16615e4876e4dd5fb6a968c6bf5f7b216

Use frame index directly in get_chessboard_index

The get_chessboard_index() used to call the entire VP9_COMMON
struct pointer to retrieve the chessboard pattern index. This cl
makes it call the frame index directly.

Change-Id: I3cad9d209ea2e77a358085a04fe1ff0ddec5ba03

Added vp9_fdct8x8_neon(), vp9_fdct8x8_1_neon()

On a Nexus 7, vpxenc (in realtime mode, speed -12)
reported a performance improvement of ~3.7%.

Change-Id: I428c72c40df82c6d537955e320a8debf99343004

Makefile: add -mstackrealign to CFLAGS on OS/2

This prevents SIGSEGV of test_libvpx.

Change-Id: I788743841469f4141bc8d29b1d1a8683cb00655c

Remove the redundant index computation in the first pass

Remove the redundant index computation when store the first
pass block-wise statistics. Currently, a single byte is
allocated for a 16x16 blocks, and all the frame statistics
saved during the first pass will be kept in memory for use
in the second pass. For a 1920x1080 300-frame clip, it will
take about 2.3 MB memory. This feature is off in current
setting.

Change-Id: I135a95b348ec093d54c6a07e1e8237626909e3bd

Fix bug 805

Remove all the redundant dct functions (dct4x4, dct8x8)
in avx2 except dct32x32 those functions were copied originally from dct_sse2

Change-Id: I742576fbf5175f3ac09f2076976a9247b259323e

Merge "Store block-wise statistics obtained in the first pass"

Merge "Fix reference frame size restrictions."

Store block-wise statistics obtained in the first pass

Change-Id: I9956db2ba2f7d28f484daaf5022d8d1ef5db473c

Fix reference frame size restrictions.

The issue was introduced by commit g9f37d14 with adding explicit
restrictions on reference-frame scale factors. The restriction
is checked against aligned-by-8 frame dimensions, not against
original ones. So, for example, frame of 35×35 actually can refer
to frame of 70×70, but the new check won't allow this. It will
compare 35 vs 72 (not 70), so 2x downscale limit will be exceeded.

Change-Id: Ic663693034440f64ac8312cbff9e1e773a921060

Merge "This removes a test that fails on 32 bit"

Remove copy frame neon

No performance benefit

Change-Id: I7f0cfa98ac2bb5b823d0972827b45f32cd3f6b4c

Remove unused copy src frame function

Change-Id: I03798e387a656473b6ec004246e2b882c8c6bb84