lavc: do not leak the internal frame if opening the codec fails

lavf: remove a pointless check

AVStream.codec is always non-NULL

oggparseogm: check timing variables

Fixes a potential divide by zero.

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC:libav-stable@libav.org

lavc: add 422/444 YUV with alpha to align_dimensions()

Aligns frame dimensions to 16, which fixes potential invalid writes.

lagarith: do not call simd functions on unaligned lines

They end up overwriting past the line end.

Partially based on a patch by Michael Niedermayer <michaelni@gmx.at>

Bug-Id: vlc/9700
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

sgidec: fix buffer size check in expand_rle_row()

Right now it will spuriously fail if the linesize is exactly equal to
the data width.

CC:libav-stable@libav.org

kgv1dec: replace forcing EMU_EDGE by a copy

The decoder currently sets CODEC_FLAG_EMU_EDGE and relies on
get_buffer2() to always provide buffers with linesize == 2 * width.
This is wrong, since we place no such restriction on get_buffer2()
implementations.

Fix this by decoding into internal buffers and copying them to output
frames. Since this is a very obscure decoder, the performance hit should
not be an issue.

4xm: replace forcing EMU_EDGE by a copy

The decoder currently sets CODEC_FLAG_EMU_EDGE and relies on
get_buffer2() to always provide buffers with linesize == 2 * width.
This is wrong, since we place no such restriction on get_buffer2()
implementations.

Fix this by decoding into internal buffers and copying them to output
frames. Since this is a very obscure decoder, the performance hit should
not be an issue.

4xm: return a proper error code.

hevc: rename some HEVC conformance streams

Some HEVC conformance streams zip on
http://wftp3.itu.int/av-arch/jctvc-site/bitstream_exchange/draft_conformance/
were updated without changing the actual stream. Rename them in FATE
accordingly to make it easier to track future stream updates.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

hevc: add new conformance streams

Also remove superseded conformance streams. The conformance streams all
come from http://wftp3.itu.int/av-arch/jctvc-site/bitstream_exchange/draft_conformance/

Signed-off-by: Anton Khirnov <anton@khirnov.net>

cmdutils: update copyright year to 2014.

Signed-off-by: Martin Storsjö <martin@martin.st>

(e)ac3dec: set AV_FRAME_DATA_MATRIXENCODING side data.

(e)ac3: parse and store the Dolby Surround, Surround EX and Headphone mode flags.

mlpdec: set AV_FRAME_DATA_MATRIXENCODING side data.

mlp: Parse TrueHD decoder channel modifiers and set the AVMatrixEncoding for each substream.

dcadec: set AV_FRAME_DATA_MATRIXENCODING side data.

dcadec: set the output channel mode more accurately.

When downmixing 2.1 to 2-channel, if the 2.0 portion is Lt/Rt, sum-difference or dual mono, the actual output will be the same (with the LFE either mixed-in or discarded).

Also, when downmixing an arbitrary layout to 2-channel, if the bitstream contains custom downmix coefficients targeting Lt/Rt, then the output will be Lt/Rt rather than regular Stereo.

avframe: add AV_FRAME_DATA_MATRIXENCODING side data type.

Includes a libavcodec utility function to update a frame's side data.

lavu: Add values for various Dolby flags to the AVMatrixEncoding enum.

configure: Support preprocessor macros as header names

New versions of FreeType have moved the location of their API
header(s) and hide the location behind a macro.

Since the location changes between versions and no other way
to know the location exists, this workaround becomes necessary.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

sdp: Check that fmt->oformat is non-null before accessing it

This avoids crashes when avserver tries to create an SDP, since
d77f4af.

CC: libav-stable@libav.org
Signed-off-by: Martin Storsjö <martin@martin.st>

fate: Update AAC ELD 5.1 ref for recent bugfixes.

aac: Fix low delay windowing.

AAC LD uses a low overlap sine window instead of a KBD window.

fate: Add a test vector for AAC ELD with TNS.

aac: Fix TNS decoding for the 512 sample window family.

fate: Add a downsampled SBR testvector

arm: Use the matching endfunc macro instead of the assembler directive directly

Signed-off-by: Martin Storsjö <martin@martin.st>

arm: Add a missing endfunc macro call

Signed-off-by: Martin Storsjö <martin@martin.st>

mpegvideo: remove disabled bfin asm

It has been disabled as 'broken' over 3 years ago in b716a792

mpegvideo: move dct_unquantize functions up to avoid forward declarations

mpegvideo: split the encoding-only parts of frame_start() into a separate function

This introduces some code duplication. However, much of it should go
away once the decoders stop using MpegEncContext.

FATE: add a test for the lavr mixing case fixed in fc6a3ef40d34ce8443ae57c2452f3f273d7d4891

tests/Makefile: allow FILTER* to be called with lists of filter names

audio_mix: print (SKIP) instead of 0.0 for matrix columns removed along with output zeroing

audio_mix: fix zeroing output channels in certain cases

Specifically, when the corresponding input channel exists and its matrix
column is all-zero (which is necessary for zeroing the output), the
matrix column must be removed from the matrix.

This is not done currently, so the mixing code would end up using
uninitialized pointers from stack.

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind

audio_mix: initialize the data pointers to NULL

This should make it easier to catch problems where some of those
pointers are used uninitialized, since reading from NULL should always
crash, while random numbers from stack can turn out to be valid
pointers, so random memory may be silently overwritten.

h264: reset data_partitioning if decoding the slice header for NAL_DPA fails

If it was set before then we can end up trying to decode a slice without
a valid slice header, which can lead to invalid memory access.

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC:libav-stable@libav.org

lzw: switch to bytestream2

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC:libav-stable@libav.org

pmpdec: check that there is at least one audio packet.

The code cannot handle there being none, but that should not happen for
valid files.

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC:libav-stable@libav.org

mathematics: remove asserts from av_rescale_rnd()

It is a public function, it must not assert on its parameters.

eacmv: check the framerate before setting it.

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC:libav-stable@libav.org

adx: check that the offset is not negative

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC:libav-stable@libav.org

rv30: fix extradata size check.

It has been checking the number of bits in the offset instead of the
actual offset.

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC:libav-stable@libav.org

mpegvideo: set reference/pict_type on generated reference frames

Otherwise the generic code will unref them, which can then result in
last_picture_ptr == current_picture_ptr, which causes deadlocks at least
in rv40.

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC:libav-stable@libav.org

Makefile: add html template files to the doxygen deps

lavu: Move preprocessor macros in a separate file

And remove all the circular inclusions of avutil.h while at it.

h264: namespace the decode function

Make much easier debugging.

doxy: Update the css to have a flat style

Drop references to the doxy image gradients and style a the code blocks to
keep the whitespace and indent properly.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

doxy: Fix link in badge color

Green on blue was not exactly optimal.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

avutil: Move library version related macros to version.h

This is a more sensible place for these macros.

mms: Remove non-utf8 characters

Certain softwares get badly confused.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

configure: Explicitly disable w32threads if the test for it fails

This avoids false positive enabling of w32threads if explicitly
requested on the command line, but dependencies are missing.

error.h: Do not circularly depend on avutil.h

lavu: fix typo in documentation.

doc: fix link to the ISC license text in the developer documentation.

doc: fix a coding style error in the developer documentation.

vc1: Fix intensity compensation performance regression

Introduced by 28243b0d35b47bbf9abbd454fc444a6e0a9e7b71

Intensity compensation is always used once it was encountered, because
v->next_use_ic is never set back to zero.

Reset v->next_use_ic, when resetting v->next_luty/uv.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

hevc: move DSP declarations from hevc.h into hevcdsp.h

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

Add a libwebp encoder

arm: Don't clobber callee saved registers in scalarproduct

q4-q7/d8-d15 are supposed to not be clobbered by the callee.

CC: libav-stable@libav.org
Signed-off-by: Martin Storsjö <martin@martin.st>

hevc: support luma bit depth != chroma bit depth for PCM coding units

Signed-off-by: Anton Khirnov <anton@khirnov.net>

hevc: warn when an unknown profile is used

Bitstreams conforming to the spec should not use profiles not defined
in it.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

hevc_ps: fix indentation

Signed-off-by: Anton Khirnov <anton@khirnov.net>

hevc: refactor Profile Tier Level

Also store a few PTL flags which were skipped before

Signed-off-by: Anton Khirnov <anton@khirnov.net>

hevc: don't check for errors in PTL code

According to the spec, the value of XXX_reserved_zero_44bits should be
ignored, so don't report an error when it's not zero.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

hevc: store profile and level in AVCodecContext

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavc: add HEVC profiles names

Signed-off-by: Anton Khirnov <anton@khirnov.net>

flv: Use the correct type to hold the file offset

jvdec: Do not feed the decoder with known wrong data

Still assume the size value is right in non-explode mode.

jvdec: Fix memory leak of jv->frames

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

jvdec: Return EOF on end of file

x86: mpegvideo: move denoise_dct asm to mpegvideoenc

This function is encoding-only.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

vc1: arm: Add NEON no_rnd chroma MC

Apply David Conrad's old patch to the modern codebase.

http://ffmpeg.org/pipermail/ffmpeg-devel/2009-April/059877.html

Signed-off-by: Martin Storsjö <martin@martin.st>

vc1: arm: Add NEON assembly

For:

ff_vc1_inv_trans_{8,4}x{8,4}_{dc_,}neon
ff_put_pixels8x8_neon
ff_put_vc1_mspel_mc{0,1,2,3}{0,1,2,3}_neon (except for 00)

Based on ARM assembly code in libavcodec/arm by Rob Clark and Mans
Rullgard.

Signed-off-by: Martin Storsjö <martin@martin.st>

atomics: cosmetics: Restructure ifdefs for greater clarity

Also fix the #endif comment in a few places and #include config.h to
avoid assuming it is #included implicitly.

configure: Express atomics/thread deps through the dependency system

fate: Explicitly specify the pixel format for the pngparser test

The RGB32 pixel format is RGBA/BGRA depending on target
endianness - make sure to convert it to one specific format for
the framecrc tests.

This fixes the pngparser fate test on big endian.

Signed-off-by: Martin Storsjö <martin@martin.st>

Prepare release notes for Libav 10 "Eks"

Additional editing by Diego Biurrun

png_parser: Fix parsing on big endian

Since pc.state is populated by shifting in from the end of the
32 bit word, the content within pc.state is already in native endian
and should not be read with the AV_R{L,B} functions.

This was already done correctly for state64 above.

This fixes the fate-corepng test on big endian.

Signed-off-by: Martin Storsjö <martin@martin.st>

vc1: Fix mb_height for field pictures

Tables are always allocated now with sufficient space for either progressive
or interlaced content. The alternative would be to detect a change
and reallocate.

This fixes decoding of a sample.

Signed-off-by: Martin Storsjö <martin@martin.st>

apidoc: fix warning from stereo3d.h

h264: Refactor decode_frame_packing_arrangement

Directly set the fields when necessary.

hevc: Refactor decode_nal_sei_frame_packing_arrangement

Directly set the fields when necessary.

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

fate: add a pngparser test

fate: add utility function to test parser, demuxer, and decoder

png: add a standalone parser

Useful for reading png images from a pipe.

avutil: Remove deprecated intfloat_readwrite code

It was deprecated over two years ago.

build: Define __printf__ to __gnu_printf__ on MinGW*/gcc

This is necessary to avoid GCC assuming MS style printf arguments.

Bump major of libavfilter for reference counted buffer API changes.

Applications that have been linked against an older release of Libav and pick up
updated libraries experience segmentation faults because they pick up the new
libavfilter, which assumes AVFrames have been allocated by libavutil and thus
contain new reference-counting related fields. This will break for AVFrames that
have been allocated by old libavcodec.

All scheduled API changes are deferred to the next bump.

Bump libavutil major version to account for the LLS API/ABI changes.

Commit 41578f70cf8aec8e7565fba1ca7e07f3dc46c3d2 changed the LLS API, which was
called from libavcodec. Thus using an old libavcodec with a new libavutil will
break.

All scheduled API changes are deferred to the next bump.

rtpdec_h264: Check the return value of functions doing allocations

Signed-off-by: Martin Storsjö <martin@martin.st>

sdp: Check theora colorspace before producing the configuration string

This avoids a memory leak (or having to worry about freeing the
config string) if the colorspace isn't accepted.

Signed-off-by: Martin Storsjö <martin@martin.st>

hdsenc: Check the init_file() return code

Signed-off-by: Martin Storsjö <martin@martin.st>

hdsenc: Fix an off by one error in an array size check

Signed-off-by: Martin Storsjö <martin@martin.st>

hdsenc: Avoid integer overflow

Also remove a silly leftover pair of parentheses.

Signed-off-by: Martin Storsjö <martin@martin.st>

configure: Detect Solaris libc in an OpenIndiana/illumos compatible way

doxy: Define a group for libswscale documentation

Uniform the style and eliminate a warning on newer doxygen version..

configure: Reorder pthreads checks

Some pthreads symbols might be present in libc (as shown on various *BSD)
but not all of them, leading to false positives.

Check for the most common compiler flags before the plain symbol check
to avoid known pitfalls.

configure: Move the bz2 and zlib checks below phtreads

There are alternate implementations of those libraries that use pthreads.