mpegvideo: set reference/pict_type on generated reference frames

Otherwise the generic code will unref them, which can then result in
last_picture_ptr == current_picture_ptr, which causes deadlocks at least
in rv40.

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC:libav-stable@libav.org

Makefile: add html template files to the doxygen deps

lavu: Move preprocessor macros in a separate file

And remove all the circular inclusions of avutil.h while at it.

h264: namespace the decode function

Make much easier debugging.

doxy: Update the css to have a flat style

Drop references to the doxy image gradients and style a the code blocks to
keep the whitespace and indent properly.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

doxy: Fix link in badge color

Green on blue was not exactly optimal.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

avutil: Move library version related macros to version.h

This is a more sensible place for these macros.

mms: Remove non-utf8 characters

Certain softwares get badly confused.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

configure: Explicitly disable w32threads if the test for it fails

This avoids false positive enabling of w32threads if explicitly
requested on the command line, but dependencies are missing.

error.h: Do not circularly depend on avutil.h

lavu: fix typo in documentation.

doc: fix link to the ISC license text in the developer documentation.

doc: fix a coding style error in the developer documentation.

vc1: Fix intensity compensation performance regression

Introduced by 28243b0d35b47bbf9abbd454fc444a6e0a9e7b71

Intensity compensation is always used once it was encountered, because
v->next_use_ic is never set back to zero.

Reset v->next_use_ic, when resetting v->next_luty/uv.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

hevc: move DSP declarations from hevc.h into hevcdsp.h

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

Add a libwebp encoder

arm: Don't clobber callee saved registers in scalarproduct

q4-q7/d8-d15 are supposed to not be clobbered by the callee.

CC: libav-stable@libav.org
Signed-off-by: Martin Storsjö <martin@martin.st>

hevc: support luma bit depth != chroma bit depth for PCM coding units

Signed-off-by: Anton Khirnov <anton@khirnov.net>

hevc: warn when an unknown profile is used

Bitstreams conforming to the spec should not use profiles not defined
in it.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

hevc_ps: fix indentation

Signed-off-by: Anton Khirnov <anton@khirnov.net>

hevc: refactor Profile Tier Level

Also store a few PTL flags which were skipped before

Signed-off-by: Anton Khirnov <anton@khirnov.net>

hevc: don't check for errors in PTL code

According to the spec, the value of XXX_reserved_zero_44bits should be
ignored, so don't report an error when it's not zero.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

hevc: store profile and level in AVCodecContext

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavc: add HEVC profiles names

Signed-off-by: Anton Khirnov <anton@khirnov.net>

flv: Use the correct type to hold the file offset

jvdec: Do not feed the decoder with known wrong data

Still assume the size value is right in non-explode mode.

jvdec: Fix memory leak of jv->frames

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

jvdec: Return EOF on end of file

x86: mpegvideo: move denoise_dct asm to mpegvideoenc

This function is encoding-only.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

vc1: arm: Add NEON no_rnd chroma MC

Apply David Conrad's old patch to the modern codebase.

http://ffmpeg.org/pipermail/ffmpeg-devel/2009-April/059877.html

Signed-off-by: Martin Storsjö <martin@martin.st>

vc1: arm: Add NEON assembly

For:

ff_vc1_inv_trans_{8,4}x{8,4}_{dc_,}neon
ff_put_pixels8x8_neon
ff_put_vc1_mspel_mc{0,1,2,3}{0,1,2,3}_neon (except for 00)

Based on ARM assembly code in libavcodec/arm by Rob Clark and Mans
Rullgard.

Signed-off-by: Martin Storsjö <martin@martin.st>

atomics: cosmetics: Restructure ifdefs for greater clarity

Also fix the #endif comment in a few places and #include config.h to
avoid assuming it is #included implicitly.

configure: Express atomics/thread deps through the dependency system

fate: Explicitly specify the pixel format for the pngparser test

The RGB32 pixel format is RGBA/BGRA depending on target
endianness - make sure to convert it to one specific format for
the framecrc tests.

This fixes the pngparser fate test on big endian.

Signed-off-by: Martin Storsjö <martin@martin.st>

Prepare release notes for Libav 10 "Eks"

Additional editing by Diego Biurrun

png_parser: Fix parsing on big endian

Since pc.state is populated by shifting in from the end of the
32 bit word, the content within pc.state is already in native endian
and should not be read with the AV_R{L,B} functions.

This was already done correctly for state64 above.

This fixes the fate-corepng test on big endian.

Signed-off-by: Martin Storsjö <martin@martin.st>

vc1: Fix mb_height for field pictures

Tables are always allocated now with sufficient space for either progressive
or interlaced content. The alternative would be to detect a change
and reallocate.

This fixes decoding of a sample.

Signed-off-by: Martin Storsjö <martin@martin.st>

apidoc: fix warning from stereo3d.h

h264: Refactor decode_frame_packing_arrangement

Directly set the fields when necessary.

hevc: Refactor decode_nal_sei_frame_packing_arrangement

Directly set the fields when necessary.

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

fate: add a pngparser test

fate: add utility function to test parser, demuxer, and decoder

png: add a standalone parser

Useful for reading png images from a pipe.

avutil: Remove deprecated intfloat_readwrite code

It was deprecated over two years ago.

build: Define __printf__ to __gnu_printf__ on MinGW*/gcc

This is necessary to avoid GCC assuming MS style printf arguments.

Bump major of libavfilter for reference counted buffer API changes.

Applications that have been linked against an older release of Libav and pick up
updated libraries experience segmentation faults because they pick up the new
libavfilter, which assumes AVFrames have been allocated by libavutil and thus
contain new reference-counting related fields. This will break for AVFrames that
have been allocated by old libavcodec.

All scheduled API changes are deferred to the next bump.

Bump libavutil major version to account for the LLS API/ABI changes.

Commit 41578f70cf8aec8e7565fba1ca7e07f3dc46c3d2 changed the LLS API, which was
called from libavcodec. Thus using an old libavcodec with a new libavutil will
break.

All scheduled API changes are deferred to the next bump.

rtpdec_h264: Check the return value of functions doing allocations

Signed-off-by: Martin Storsjö <martin@martin.st>

sdp: Check theora colorspace before producing the configuration string

This avoids a memory leak (or having to worry about freeing the
config string) if the colorspace isn't accepted.

Signed-off-by: Martin Storsjö <martin@martin.st>

hdsenc: Check the init_file() return code

Signed-off-by: Martin Storsjö <martin@martin.st>

hdsenc: Fix an off by one error in an array size check

Signed-off-by: Martin Storsjö <martin@martin.st>

hdsenc: Avoid integer overflow

Also remove a silly leftover pair of parentheses.

Signed-off-by: Martin Storsjö <martin@martin.st>

configure: Detect Solaris libc in an OpenIndiana/illumos compatible way

doxy: Define a group for libswscale documentation

Uniform the style and eliminate a warning on newer doxygen version..

configure: Reorder pthreads checks

Some pthreads symbols might be present in libc (as shown on various *BSD)
but not all of them, leading to false positives.

Check for the most common compiler flags before the plain symbol check
to avoid known pitfalls.

configure: Move the bz2 and zlib checks below phtreads

There are alternate implementations of those libraries that use pthreads.

avutil: Add deprecation ifdefs around obsolete intfloat code

This long-deprecated code should disappear at the next version bump.

build: Merge pthreads/w32threads OBJS declarations

configure: Add -D__USE_MINGW_ANSI_STDIO=1 to CPPFLAGS on MinGW32

This enables a more C99-compliant implementation of printf et al.

configure: Detect newer (>=4.1) versions of MinGW32

The MinGW32 project is deprecating its old version macros.

build: Do not add -g to HOSTCFLAGS

The flag is not unconditionally added to CFLAGS either and the
programs built on the host do not get habitually fed to a debugger.

mpegts: add HEVC registration descriptor

changelog: drop redundant new attribute

img2: add stereo 3d still picture file extensions

rtsp: suppress a incompatible pointer types warning

parseutils: fix discarding const attribute warning

mp3adu: Set the channel layout properly

This fixes decoding, broken since 7e35037.

This is similar to what was done for the normal mp3 decoder in
f4a86bc9.

Signed-off-by: Martin Storsjö <martin@martin.st>

rtspdec: Fix keep-alive request for ACTi cameras

Some ACTi cameras fail if "*" is passed as the URI.

Signed-off-by: Ismael Luceno <ismael.luceno@corp.bluecherry.net>
Signed-off-by: Martin Storsjö <martin@martin.st>

lavc: deprecate avcodec_get_frame_defaults().

Also bump libavcodec micro and add an APIchanges entry saying that
av_frame_* should now be used instead of the lavc AVFrame functions.

h264: call av_frame_unref() instead of avcodec_get_frame_defaults().

This is a temporary workaround to allow deprecating
avcodec_get_frame_defaults(). The proper solution will be using a
properly allocated AVFrame in Picture.

api-example: remove an unneeded call to avcodec_get_frame_defaults().

avcodec_decode_audio4() resets the frame itself.

lavf: remove an unneeded call to avcodec_get_frame_defaults().

avcodec_decode_*() resets the frame itself.

mpegvideo: call av_frame_unref() instead of avcodec_get_frame_defaults().

This is a temporary workaround to allow deprecating
avcodec_get_frame_defaults(). The proper solution will be using a
properly allocated AVFrame in Picture.

mpegvideo: remove an unneeded call to avcodec_get_frame_defaults().

ff_mpeg_unref_picture() already resets the frame.

avplay: do not call avcodec_get_frame_defaults().

avcodec_decode_audio4() will reset the frame itself.

lavc: call av_frame_unref() instead of avcodec_get_frame_defaults().

avcodec_get_frame_defaults() will be deprecated.

avconv: do not call avcodec_get_frame_defaults()

Strictly speaking it is not correct to call it on refcounted frames, in
any case it is unnecessary, since filtered_frame is always unreferenced
after poll_filter() returns.

lavc: deprecate avcodec_free_frame()

av_frame_free() should be used instead.

Replace all uses of avcodec_free_frame with av_frame_free().

hevc: set time_base when possible

Signed-off-by: Anton Khirnov <anton@khirnov.net>

hevc: store the VPS list as an AVBufferRef, just like the others *PS

Signed-off-by: Anton Khirnov <anton@khirnov.net>

hevc: do not dereference pointer before NULL check in verify_md5()

Signed-off-by: Anton Khirnov <anton@khirnov.net>

configure: Add -D__USE_MINGW_ANSI_STDIO=1 to CPPFLAGS on MinGW64

This enables a more POSIX-compliant printf implementation, that
allows using length modifiers like 'z'.

alsdec: check block length

Fix writing over the end

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
Addresses: CVE-2013-0845

configure: Move log2 dependency declaration to a place it takes effect

It was incorrectly moved in c869fcdeac3b7cd71a852b928902daadeca55685.

configure: Split host and target libc detection

configure: Move toolchain dependency declarations to a more appropriate place

hevc: parse frame packing arrangement SEI messages and save relevant stereo3d information

mpeg12enc: set frame packing information when relevant metadata is found

mpeg12dec: parse frame packing arrangement user_data and save relevant stereo3d information

libx264: set frame packing information when relevant information is found

h264: parse frame packing arrangement SEI messages and save relevant stereo3d information

avframe: add codec-independent stereoscopic metadata

configure: Prefix libc-related variables with "libc_"

Simplifies host/target libc detection splitting.

configure: detect Solaris libc

Add preprocessor flags for API availability as necessary.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

avcodec: Use av_reallocp where suitable

Signed-off-by: Martin Storsjö <martin@martin.st>

dv: use AVFrame API properly

ac3dec: make drc_scale exponentially

The a52 spec suggests that "partial compression" should scale the
drc value in this manner.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavc: rework handling of refcounted_frames=0

Use only proper AVFrame API (no assigning of whole frames, since that
hardcodes sizeof(AVFrame) into lavc).

Make a copy of the side data, so the caller can use av_frame_unref/free
on non-refcounted frames, eliminating the need for
avcodec_get_frame_defaults()/avcodec_free_frame().

frame: cosmetics, reindent