vp8cx - psnr converted to call assemblerized sse

Change-Id: Ie388d4618c44b131f96b9fe526618b457f020dfa

vp8cx- alternate ssim function with optimizations

Change-Id: I91921b0a90dbaddc7010380b038955be347964b3

Merge "Add vp8_sub_pixel_variance16x8_ssse3 function"

Merge branch 'bali'

Change-Id: Icf18b4981afb12ef255fca431d4ba45860dd22c9

Add missing filter.h to build system

Missing file causes 'make dist' to not include a complete copy of the
source.

Change-Id: I3f55aeb5a86d0e81234e4e4588cb8086ba4cfc4a

Merge "fix obj_int_extract for MinGW"

Add vp8_sub_pixel_variance16x8_ssse3 function

Added SSSE3 function

Change-Id: I8c304c92458618d93fda3a2f62bd09ccb63e75ad

Remove unused functions

Removed some unused functions

Change-Id: Ifdfc27453e53cfc75997b38492901d193a16b245

Merge "Improve SSE2 half-pixel filter funtions"

Merge "Configuration updates:Making a clear distinction between Init and Change"

fix obj_int_extract for MinGW

failed to find headers in the source directory

output to stdout instead of a hardcoded file

MinGW doesn't support _sopen_s

_fstat catches non-existant files

Change-Id: I24e0aacc6f6f26e6bcfc25f9ee7821aa3c8cc7e7

Improve SSE2 half-pixel filter funtions

Rewrote these functions to process 16 pixels once instead of 8.

Change-Id: Ic67e80124467a446a3df4cfecfb76a4248602adb

Merge "64bit mach-o support"

Merge "Add zero offset checking in SSE2 sub-pixel filter function"

Add zero offset checking in SSE2 sub-pixel filter function

Skip filter at zero offset.

Change-Id: I95fc7e211869bc0ab5bcfb7ab2e3259d1c0ccf38

Merge "Write SSSE3 sub-pixel filter function"

Write SSSE3 sub-pixel filter function

1. Process 16 pixels at one time instead of 8.
2. Add check for both xoffset =0 and yoffset=0, which happens
   during motion search.
This change gave encoder 1%~3% performance gain.

Change-Id: Idaa39506b48f4f8b2fbbeb45aae8226fa32afb3e

64bit mach-o support

enable parsing 64bit mach-o files (OS X)

also fixes --enable-debug issue!

Change-Id: I250ee69745cd2365e3e63264f9365cd58fbb6678

64bit elf support

enable parsing 64bit elf files

Change-Id: I7981f4769cf1b822f288fe2e32166254e4394bab

Fix a multi-line format-string warning.

GCC 4.5 and 4.6 both issue a warning about the multi-line format
string introduced in bc9c30a0, which also changed the whitespace
in the associated stt file by line-wrapping the long format string.

Instead, use multiple string constants, which the compiler will
concatenate. This maintains the original formatting, but remains
legible within the standard line length.

Change-Id: I27c9f92d46be82d408105a3a4091f145f677e00e

Corrected minor typos.

Change-Id: Icc9f12bd1e1bdaf51256dc8a90d08aa9be89ef34

Merge changes I00c3e823,If8bca004

* changes:
  Improved key frame detection.
  Improved KF insertion after fades to still.

correct zbin boost for splitmv mode

Disable zbin boost in SPLITMV mode as intended. Was incorrectly looking
at vp8_ref_frame_order instead of vp8_mode_order when comparing against
SPLITMV. This condition should have always been false, as SPLITMV is
not in the range of valid reference frames.

Change-Id: I0408cc7595eff68f00efef6d008e79f5b60d14bf

Merge "Fix format-string warning"

Fix format-string warning

Cast size_t to (unsigned long) and print it with the %lu format
string, which is more portable than C99's explict %zu for size_t.

This truncates on Windows x64 but otherwise works on 32 and 64 bit
platforms. In practice the stats file is unlikely to be so large.

Change-Id: I0432b3acf85fc6ba4ad50640942e1ca4614b21cb

Improved key frame detection.

In some cases where clips have been encoded with
borders (eg. some wide-screen content where there is a
border top and bottom and slide shows containing portrait
format photographs (border left and right)) key frames were
not being correctly detected.

The new code looks to measure cases where a portion of
the image can be coded equally easily using intra or inter
modes and where the resulting error score is also very low.
These "neutral" areas are then discounted in the key frame
detection code.

Change-Id: I00c3e8230772b8213cdc08020e1990cf83b780d8

Improved KF insertion after fades to still.

This code extends what was previously done for GFs, to pick
cases where insertion of a key frame after a fade (or other
transition or complex motion)  followed by a still section, will
be beneficial and will reduce the number of forced key frames.

Change-Id: If8bca00457f0d5f83dc3318a587f61c17d90f135

Update CHANGELOG for v0.9.6 (Bali) release

Change-Id: I7d1e7db1866d829f6d4c6638d1c20e99959cc9a3

Update AUTHORS

Change-Id: I784ea2b9fabbec1e99d02e97209981ff1b18ac82

Update .mailmap

Add mappings for Tom Finegan, Tero Rintaluoma

Change-Id: I014ad5bb7c8eb8261808d98ec0d4f77a8e7c3f35

Merge "examples: use function to get iface pointers"

Merge "change CFLAGS for 64 bit icc builds"

cosmetic: clean up comments for new vp8dx controls

Rename the common control id enum vp8_{dec,com}_control_id,
move VP8_DECODER_CTRL_ID_START to common, wrap long lines.

Change-Id: I659abc62f10aa389d496f7f43950775db0ef2f9f

Merge "clean up msvs project generation"

Merge "Fixing divide by zero"

Merge "Fix drastic undershoot in long form content"

Merge "documentation: minor updates to vp8 (en|de)coder"

Merge "Fix counter of fixed keyframe distance"

Configuration updates:Making a clear distinction between Init and Change

Change-Id: I7b2fb326e1aabc08b032177a7b914a5b8bb7376f

Fixing divide by zero

Change-Id: I9d8a98a2f7ed1e3116d0bae35164618c41998bac

Fix drastic undershoot in long form content

When the modified_error_left accumulator exceeds INT_MAX, an incorrect
cast to int resulted in a negative value, causing the rate control to
allocate no bits to that keyframe group, leading to severe undershoot
and subsequent poor quality.

This error was exposed by the recent change to the rolling target and
actual spend accumulators in commit 305be4e4 which fixed them to
actually calculate the average value rather than be re-initialized
on every frame to the average per-frame bitrate. When this bug was
triggered, the target bitrate could be 0, so the rolling target
becomes small, which causes the undershoot. The code prior to 305be4e4
did not exhibit this behavior because the rolling target was always
set to a reasonable value and was independent of the actual target
bitrate. With this patch, the actual target bitrate is calculated
correctly, and the rate control tracks as expected.

This cast was likely added to silence a compiler warning on a comparison
between a double (modified_error_left) and an int (0). Instead, this
patch removes the cast and changes the comparison to be against 0.0,
which should prevent the warning from reoccuring.

This fixes issue #289. Special thanks to gnafu for his efforts in
reporting and debugging this fix.

Change-Id: Ie5cc1a7b516c578a76c3a50c892a6f04a11621fe

clean up msvs project generation

add visual studio 9 to --help

remove cpp, cxx, hpp, hxx files from filter

add the ability to target project names. this will be necessary to
enable obj_int_extract

Change-Id: I407583320d8b67a0df40c07221838c42678792f7

Merge "ARMv6 optimized half pixel variance calculations"

change CFLAGS for 64 bit icc builds

AMD64 only implies SSE2, not SSE3. There aren't any known cases where
icc was generating SSE3 instructions since all the vectorizable code
is already in handwritten asm, so this fix is included mostly for
correctness. Fixes issue #259.

Change-Id: I993335a4740b68b559035305fb52ca725a6beaff

examples: use function to get iface pointers

MSVC can't pass the address of global variables in a DLL correctly
across DLL boundaries. This patch allows linking the examples to
a libvpx dll build. Fixes issue #268.

Change-Id: I1c52d076cfc68efb3efdfba019f12d53c5019f58

Merge "Add prefetch before variance calculation"

Merge "Avoid double copying of key frames into alt and golden buffer"

Add prefetch before variance calculation

This improved encoding performance by 0.5% (good, speed 1) to
1.5% (good, speed 5).

Change-Id: I843d72a0d68a90b5f694adf770943e4a4618f50e

Merge "Remove examples.doxy dep w/--disable-examples"

Merge "Remove a second check for invalid ptr in vp8_get_compressed_data"

Fix crash on Sparc Solaris.

Sparc on Solaris requires memory copies in reconinter.c to be aligned.

Change-Id: I6c5b75fb80d6fd501ae4b41b533c3109c2f32be2

Merge "Remove temporal alt ref from realtime only build"

Merge "Handle mem allocation failure in vp8e_init"

Avoid double copying of key frames into alt and golden buffer

Change-Id: I726976a297a593a35ed6cba3c660e372562f7b27

Remove a second check for invalid ptr in vp8_get_compressed_data

Check is done first when function si entered.

Change-Id: Ief0d0cbd4860aaf492b78728f8d22f24029b1174

Remove examples.doxy dep w/--disable-examples

This allows the base documentation to be built without the need for php
which is required to produce the example documentation

Change-Id: Id1861723c672fa8da132a074a4657e2cb94c1e79

documentation: minor updates to vp8 (en|de)coder

Group algorithm interfaces to avoid undocumented warning from doxygen
and provide basic documentation for CQ level & cpuused.

Change-Id: I11095061be962cbc998741de9c8c3019d415e137

Removed vp8_block2type

and used defines instead.

Change-Id: Idb56e0295d004793f406dfd2d8d8c546aad62e03

Merge "Revisited rd_pick_intra4x4block"

Revisited rd_pick_intra4x4block

Removed unnecessary copies.  No noticeable speed gains.

Change-Id: I996c50c23fedd06d54ee7a3e762cbf559cc4a9d1

Overflow of frame error accumulators.

This fixes an overflow problem in the frame error accumulators.

The overflow condition is extreme but did trigger when Frank B.
coded some high motion interlaced HD content.

The observed effect was a catastrophic  breakdown of the rate
control leading to massive undershoot and poor bit allocation.

All the error values should really be unsigned but I will look at this
separately.

Change-Id: I9745f5c5ca2783620426b66b568b2088b579151f

Merge "documentation: minor cosmetics"

ARMv6 optimized half pixel variance calculations

Adds following ARMv6 optimized functions to the encoder:
 - vp8_variance_halfpixvar16x16_h_armv6
 - vp8_variance_halfpixvar16x16_v_armv6
 - vp8_variance_halfpixvar16x16_hv_armv6

Change-Id: I1e9c2af7acd2a51b72b3845beecd990db4bebd29

Handle mem allocation failure in vp8e_init

Change-Id: I0d0445c57eb0889082f83de1948852d57b38fefb

purge wince configuration

this has been broken since the initial release

Change-Id: If0d4deb2de9f7d0c4c05641e2bbf9cc1bf11e171

Remove temporal alt ref from realtime only build

It is not used in realtime mode. Reduces memory footprint.

Change-Id: I7f163225762368df5457cfd413050161d3704a3f

Revert "use unaligned load"

This reverts commit f50f2fd2a73f2c5ee3f10ad077e780398df17cd7.

Change Ib7506e3e aligns the buffer

Change-Id: Ie0f8bd3e57cfdfef81d39638a1451458ebbae2e0

Merge "clean up unused files"

remove unused vp8_predict_dc function

Change-Id: I64fa47889c54cfed094a674c49ef0996d49bdd42

clean up unused files

Removed a number of files that were unused or little-used.

Change-Id: If9ae5e5b11390077581a9a879e8a0defe709f5da

cosmetic: remove unnecessary scope

Clean up some unnecessary scoping around pick_filter_level.

Change-Id: Ic57fa33e3fcae37fe6beae977e5743783399d5af

Merge "Dont pick encoder filter level when loopfilter is disabled."

Reinitialize quantizer only when any delta is changing

No need to reinitialize for base Q changes.

Change-Id: Ie76ec21dd3c5582d5183dbed75ed73a1eed3e291

Dont pick encoder filter level when loopfilter is disabled.

Change-Id: I58154faf4f3ece24f9927a5c3ab7e830e0887fb6

Merge "Use endian-neutral bitstream packing/unpacking"

Use endian-neutral bitstream packing/unpacking

Eliminate unnecessary checks on target endianness and associated
macros.

Change-Id: I1d4e6a9dcee9bfc8940c8196838d31ed31b0e4aa

Merge "Removed unused vp8_recon_intra4x4mb function"

Removed unused vp8_recon_intra4x4mb function

Change-Id: I4a328ce152d9dbe6b0d1606d1b523e8e7bfb468e

Merge "Fix relative include paths"

documentation: minor cosmetics

- correct spelling
- remove explicit file name w/\file (unnecessary when contained in the
  same file and prone to desync)

Change-Id: I68a3960ac5ab84d0f2e5c9b2e29799f26dfccf23

Merge "Allocate source buffers to be multiples of 16"

Allocate source buffers to be multiples of 16

Currently, when the video frame width is not multiples of 16, the
source buffer has a stride of non-multiples of 16, which forces
an unaligned load in SAD function and hurts the performance. To
avoid that, this change allocates source buffers to be multiples
of 16.

Change-Id: Ib7506e3eb2cea06657d56be5a899f38dfe3eeb39

Merge "ARMv6 optimized sad16x16"

Remove redundant ptr checks in calls to vpx_free

vpx_free if used contains this check. If replaced, well behaved free
will behave similarly.

Change-Id: I25483aaa8b39255b9a8cf388d6e5eaa20a908ae1

Merge "Improve vp8_sad16x16_sse3 function"

Merge "Improved vp8_rd_pick_intra_mbuv_mode"

Improved vp8_rd_pick_intra_mbuv_mode

Eliminated unnecessary calculations. Very small change
to performance.

Change-Id: Ib7213d43c64e36955177c4d47950ff472266f822

Improve vp8_sad16x16_sse3 function

In real-time mode, vp8_sad16x16 function is called heavily in
motion search part. Improvement of this function gives 1.2%
encoding performance gain (real-time mode, tulip clip).

Change-Id: I23c401fc40c061f732a9767e8d383737a179bd58

Merge "mem leak fix for cpi->tplist"

mem leak fix for cpi->tplist

checks added to make sure that cpi->tplist
is freed correctly in vp8_dealloc_compressor_data
and vp8_alloc_compressor_data.

Change-Id: I66149dbbd25c958800ad94f4379d723191d9680d

Improved rd_pick_intra4x4block

Eliminated unnecessary calculations.  Improved performance
by 10% on keyframes and 1.6% overall for the test clip used.

Change-Id: I87671b26af5e2cc439e81d0fee3b15c7cd2a3309

Merge "remove assembly detokenizer"

remove assembly detokenizer

hasn't been kept up to date. remove it to avoid confusion.

Change-Id: I52ffde19b59fec5c7a381299ca2e85cb38330be7

Merge "Add improved_mv_pred flag in real-time mode"

Add improved_mv_pred flag in real-time mode

As mentioned in check-in "Improve motion search in real-time mode",
MV prediction calculation causes speed loss for speed 7 and above.
This change added a flag to turn off this calculation for speed>6
in real-time mode.

Change-Id: I9f4ae5a8bf449222d1784b54e7d315fc8347b2d1

ARMv6 optimized sad16x16

Adds a new ARMv6 optimized function vp8_sad16x16_armv6 to encoder.

Change-Id: Ibbd7edb8b25cb7a5b522d391b1e9a690fe150e57

Merge "Redefining good quality speed settings"

Merge "Improve motion search in real-time mode"

Fix relative include paths

Allow compiling without adding vp8/{common,encoder,decoder} to the
include paths.

Change-Id: Ifeb5dac351cdfadcd659736f5158b315a0030b6c

Improve motion search in real-time mode

Applied better MV prediction in real-time mode, which improves
the encoding quality.

Used quarter-pixel search instead of iterative sub-pixel search
for speed >=5 to improve encoding performance.

Tests on the test set showed:
1. For speed=-5, quality improvement: 1.7% on AvgPSNR and 2.1%
on SSIM, performance improvement: 3.6% (This counts in the
performance lose caused by MV prediction calculation in "Improve
MV prediction in vp8_pick_inter_mode() for speed>3").
2. For speed=-8, quality improvement: 2.1% on AvgPSNR and 2.5%
on SSIM. but, 6.9% performance decrease because of MV prediction
calculation. This should be improved later.

Change-Id: I349a96c452bd691081d8c8e3e54419e7f477bebd