hevc: refactor Profile Tier Level

Also store a few PTL flags which were skipped before

Signed-off-by: Anton Khirnov <anton@khirnov.net>

hevc: don't check for errors in PTL code

According to the spec, the value of XXX_reserved_zero_44bits should be
ignored, so don't report an error when it's not zero.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

hevc: store profile and level in AVCodecContext

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavc: add HEVC profiles names

Signed-off-by: Anton Khirnov <anton@khirnov.net>

flv: Use the correct type to hold the file offset

jvdec: Do not feed the decoder with known wrong data

Still assume the size value is right in non-explode mode.

jvdec: Fix memory leak of jv->frames

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

jvdec: Return EOF on end of file

x86: mpegvideo: move denoise_dct asm to mpegvideoenc

This function is encoding-only.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

vc1: arm: Add NEON no_rnd chroma MC

Apply David Conrad's old patch to the modern codebase.

http://ffmpeg.org/pipermail/ffmpeg-devel/2009-April/059877.html

Signed-off-by: Martin Storsjö <martin@martin.st>

vc1: arm: Add NEON assembly

For:

ff_vc1_inv_trans_{8,4}x{8,4}_{dc_,}neon
ff_put_pixels8x8_neon
ff_put_vc1_mspel_mc{0,1,2,3}{0,1,2,3}_neon (except for 00)

Based on ARM assembly code in libavcodec/arm by Rob Clark and Mans
Rullgard.

Signed-off-by: Martin Storsjö <martin@martin.st>

atomics: cosmetics: Restructure ifdefs for greater clarity

Also fix the #endif comment in a few places and #include config.h to
avoid assuming it is #included implicitly.

configure: Express atomics/thread deps through the dependency system

fate: Explicitly specify the pixel format for the pngparser test

The RGB32 pixel format is RGBA/BGRA depending on target
endianness - make sure to convert it to one specific format for
the framecrc tests.

This fixes the pngparser fate test on big endian.

Signed-off-by: Martin Storsjö <martin@martin.st>

Prepare release notes for Libav 10 "Eks"

Additional editing by Diego Biurrun

png_parser: Fix parsing on big endian

Since pc.state is populated by shifting in from the end of the
32 bit word, the content within pc.state is already in native endian
and should not be read with the AV_R{L,B} functions.

This was already done correctly for state64 above.

This fixes the fate-corepng test on big endian.

Signed-off-by: Martin Storsjö <martin@martin.st>

vc1: Fix mb_height for field pictures

Tables are always allocated now with sufficient space for either progressive
or interlaced content. The alternative would be to detect a change
and reallocate.

This fixes decoding of a sample.

Signed-off-by: Martin Storsjö <martin@martin.st>

apidoc: fix warning from stereo3d.h

h264: Refactor decode_frame_packing_arrangement

Directly set the fields when necessary.

hevc: Refactor decode_nal_sei_frame_packing_arrangement

Directly set the fields when necessary.

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

fate: add a pngparser test

fate: add utility function to test parser, demuxer, and decoder

png: add a standalone parser

Useful for reading png images from a pipe.

avutil: Remove deprecated intfloat_readwrite code

It was deprecated over two years ago.

build: Define __printf__ to __gnu_printf__ on MinGW*/gcc

This is necessary to avoid GCC assuming MS style printf arguments.

Bump major of libavfilter for reference counted buffer API changes.

Applications that have been linked against an older release of Libav and pick up
updated libraries experience segmentation faults because they pick up the new
libavfilter, which assumes AVFrames have been allocated by libavutil and thus
contain new reference-counting related fields. This will break for AVFrames that
have been allocated by old libavcodec.

All scheduled API changes are deferred to the next bump.

Bump libavutil major version to account for the LLS API/ABI changes.

Commit 41578f70cf8aec8e7565fba1ca7e07f3dc46c3d2 changed the LLS API, which was
called from libavcodec. Thus using an old libavcodec with a new libavutil will
break.

All scheduled API changes are deferred to the next bump.

rtpdec_h264: Check the return value of functions doing allocations

Signed-off-by: Martin Storsjö <martin@martin.st>

sdp: Check theora colorspace before producing the configuration string

This avoids a memory leak (or having to worry about freeing the
config string) if the colorspace isn't accepted.

Signed-off-by: Martin Storsjö <martin@martin.st>

hdsenc: Check the init_file() return code

Signed-off-by: Martin Storsjö <martin@martin.st>

hdsenc: Fix an off by one error in an array size check

Signed-off-by: Martin Storsjö <martin@martin.st>

hdsenc: Avoid integer overflow

Also remove a silly leftover pair of parentheses.

Signed-off-by: Martin Storsjö <martin@martin.st>

configure: Detect Solaris libc in an OpenIndiana/illumos compatible way

doxy: Define a group for libswscale documentation

Uniform the style and eliminate a warning on newer doxygen version..

configure: Reorder pthreads checks

Some pthreads symbols might be present in libc (as shown on various *BSD)
but not all of them, leading to false positives.

Check for the most common compiler flags before the plain symbol check
to avoid known pitfalls.

configure: Move the bz2 and zlib checks below phtreads

There are alternate implementations of those libraries that use pthreads.

avutil: Add deprecation ifdefs around obsolete intfloat code

This long-deprecated code should disappear at the next version bump.

build: Merge pthreads/w32threads OBJS declarations

configure: Add -D__USE_MINGW_ANSI_STDIO=1 to CPPFLAGS on MinGW32

This enables a more C99-compliant implementation of printf et al.

configure: Detect newer (>=4.1) versions of MinGW32

The MinGW32 project is deprecating its old version macros.

build: Do not add -g to HOSTCFLAGS

The flag is not unconditionally added to CFLAGS either and the
programs built on the host do not get habitually fed to a debugger.

mpegts: add HEVC registration descriptor

changelog: drop redundant new attribute

img2: add stereo 3d still picture file extensions

rtsp: suppress a incompatible pointer types warning

parseutils: fix discarding const attribute warning

mp3adu: Set the channel layout properly

This fixes decoding, broken since 7e35037.

This is similar to what was done for the normal mp3 decoder in
f4a86bc9.

Signed-off-by: Martin Storsjö <martin@martin.st>

rtspdec: Fix keep-alive request for ACTi cameras

Some ACTi cameras fail if "*" is passed as the URI.

Signed-off-by: Ismael Luceno <ismael.luceno@corp.bluecherry.net>
Signed-off-by: Martin Storsjö <martin@martin.st>

lavc: deprecate avcodec_get_frame_defaults().

Also bump libavcodec micro and add an APIchanges entry saying that
av_frame_* should now be used instead of the lavc AVFrame functions.

h264: call av_frame_unref() instead of avcodec_get_frame_defaults().

This is a temporary workaround to allow deprecating
avcodec_get_frame_defaults(). The proper solution will be using a
properly allocated AVFrame in Picture.

api-example: remove an unneeded call to avcodec_get_frame_defaults().

avcodec_decode_audio4() resets the frame itself.

lavf: remove an unneeded call to avcodec_get_frame_defaults().

avcodec_decode_*() resets the frame itself.

mpegvideo: call av_frame_unref() instead of avcodec_get_frame_defaults().

This is a temporary workaround to allow deprecating
avcodec_get_frame_defaults(). The proper solution will be using a
properly allocated AVFrame in Picture.

mpegvideo: remove an unneeded call to avcodec_get_frame_defaults().

ff_mpeg_unref_picture() already resets the frame.

avplay: do not call avcodec_get_frame_defaults().

avcodec_decode_audio4() will reset the frame itself.

lavc: call av_frame_unref() instead of avcodec_get_frame_defaults().

avcodec_get_frame_defaults() will be deprecated.

avconv: do not call avcodec_get_frame_defaults()

Strictly speaking it is not correct to call it on refcounted frames, in
any case it is unnecessary, since filtered_frame is always unreferenced
after poll_filter() returns.

lavc: deprecate avcodec_free_frame()

av_frame_free() should be used instead.

Replace all uses of avcodec_free_frame with av_frame_free().

hevc: set time_base when possible

Signed-off-by: Anton Khirnov <anton@khirnov.net>

hevc: store the VPS list as an AVBufferRef, just like the others *PS

Signed-off-by: Anton Khirnov <anton@khirnov.net>

hevc: do not dereference pointer before NULL check in verify_md5()

Signed-off-by: Anton Khirnov <anton@khirnov.net>

configure: Add -D__USE_MINGW_ANSI_STDIO=1 to CPPFLAGS on MinGW64

This enables a more POSIX-compliant printf implementation, that
allows using length modifiers like 'z'.

alsdec: check block length

Fix writing over the end

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
Addresses: CVE-2013-0845

configure: Move log2 dependency declaration to a place it takes effect

It was incorrectly moved in c869fcdeac3b7cd71a852b928902daadeca55685.

configure: Split host and target libc detection

configure: Move toolchain dependency declarations to a more appropriate place

hevc: parse frame packing arrangement SEI messages and save relevant stereo3d information

mpeg12enc: set frame packing information when relevant metadata is found

mpeg12dec: parse frame packing arrangement user_data and save relevant stereo3d information

libx264: set frame packing information when relevant information is found

h264: parse frame packing arrangement SEI messages and save relevant stereo3d information

avframe: add codec-independent stereoscopic metadata

configure: Prefix libc-related variables with "libc_"

Simplifies host/target libc detection splitting.

configure: detect Solaris libc

Add preprocessor flags for API availability as necessary.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

avcodec: Use av_reallocp where suitable

Signed-off-by: Martin Storsjö <martin@martin.st>

dv: use AVFrame API properly

ac3dec: make drc_scale exponentially

The a52 spec suggests that "partial compression" should scale the
drc value in this manner.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavc: rework handling of refcounted_frames=0

Use only proper AVFrame API (no assigning of whole frames, since that
hardcodes sizeof(AVFrame) into lavc).

Make a copy of the side data, so the caller can use av_frame_unref/free
on non-refcounted frames, eliminating the need for
avcodec_get_frame_defaults()/avcodec_free_frame().

frame: cosmetics, reindent

frame: copy flags in av_frame_copy_props()

Flags can be considered metadata (at least those that are defined now).

lavc/decode_video(): always unref the frame if there is no output in decode_video

Not just on failure. This is the same thing that is done in the audio
path and should prevent leaks in decoders that allocate a frame, but
then end up not writing into it.

lavc: remove a pointless check in decode_audio4()

av_frame_unref() works fine on unallocated frames.

lavc: use buf[0] instead of data[0] as the indicator of an allocated frame

data[0] may be NULL for valid frames with hwaccel pixel formats.

lavc: remove the extended_data workarounds.

All decoders should now handle it properly.

pthread_frame: use the AVFrame API properly.

Remove the extended_data workaround, all decoders should now handle this
properly.

mxpegdec: use the AVFrame API properly.

p*menc: use the AVFrame API properly.

mjpegdec: use the AVFrame API properly.

avformat: AviSynth demuxer rewrite

Directly loads AviSynth through LoadLibrary instead of relying on
Video for Windows, and supports using AvxSynth (via dlopen) to
open scripts on Linux and OS X.

Error messages from AviSynth/AvxSynth are now reported through
av_log and exit, rather than the traditional behavior of generating
an error video that the user would need to watch to diagnose.

The main rewrite was authored by d s <avxsynth.testing@gmail.com>
from the AvxSynth team, with additional contributions by

Oka Motofumi <chikuzen.mo@gmail.com>
Stephen Hutchinson <qyot27@gmail.com>
Diego Biurrun <diego@biurrun.de>
Anton Khirnov <anton@khirnov.net>

Signed-off-by: Anton Khirnov <anton@khirnov.net>

configure: Move adding of compat objects out of libc detection

dsputil: Move apply_window_int16 to ac3dsp

The (optimized) functions are used nowhere else.

configure: Separate MinGW32 and MinGW64 libc handling

libvpx: do not mark VP9 as experimental when using libvpx >= 1.3.0

Signed-off-by: Diego Biurrun <diego@biurrun.de>

dcadec: Decode LFE to avoid adding random data when downmixing with LFE

Signed-off-by: Tim Walker <tdskywalker@gmail.com>
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

webp: add a special case for a huffman table with only 1 symbol

The vlc reader cannot handle 0-bit huffman codes. For most
situations WebP uses the "simple" huffman coding for this case,
but that will only handle symbols up to 255. For the LZ77 distance
codes, larger symbol values are needed, so it can happen in rare
cases that a normal huffman table is used that only has a single
symbol.

webp: do not call av_frame_free() on the user-provided frame

Fixes double-free on error.

ljpegenc: split yuv encoding into a separate function

ljpegenc: split bgr encoding into a separate function

ljpegenc: accept bgr24 instead of bgra

The alpha plane is not encoded.