hevc: store the VPS list as an AVBufferRef, just like the others *PS

Signed-off-by: Anton Khirnov <anton@khirnov.net>

hevc: do not dereference pointer before NULL check in verify_md5()

Signed-off-by: Anton Khirnov <anton@khirnov.net>

configure: Add -D__USE_MINGW_ANSI_STDIO=1 to CPPFLAGS on MinGW64

This enables a more POSIX-compliant printf implementation, that
allows using length modifiers like 'z'.

alsdec: check block length

Fix writing over the end

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
Addresses: CVE-2013-0845

configure: Move log2 dependency declaration to a place it takes effect

It was incorrectly moved in c869fcdeac3b7cd71a852b928902daadeca55685.

configure: Split host and target libc detection

configure: Move toolchain dependency declarations to a more appropriate place

hevc: parse frame packing arrangement SEI messages and save relevant stereo3d information

mpeg12enc: set frame packing information when relevant metadata is found

mpeg12dec: parse frame packing arrangement user_data and save relevant stereo3d information

libx264: set frame packing information when relevant information is found

h264: parse frame packing arrangement SEI messages and save relevant stereo3d information

avframe: add codec-independent stereoscopic metadata

configure: Prefix libc-related variables with "libc_"

Simplifies host/target libc detection splitting.

configure: detect Solaris libc

Add preprocessor flags for API availability as necessary.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

avcodec: Use av_reallocp where suitable

Signed-off-by: Martin Storsjö <martin@martin.st>

dv: use AVFrame API properly

ac3dec: make drc_scale exponentially

The a52 spec suggests that "partial compression" should scale the
drc value in this manner.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavc: rework handling of refcounted_frames=0

Use only proper AVFrame API (no assigning of whole frames, since that
hardcodes sizeof(AVFrame) into lavc).

Make a copy of the side data, so the caller can use av_frame_unref/free
on non-refcounted frames, eliminating the need for
avcodec_get_frame_defaults()/avcodec_free_frame().

frame: cosmetics, reindent

frame: copy flags in av_frame_copy_props()

Flags can be considered metadata (at least those that are defined now).

lavc/decode_video(): always unref the frame if there is no output in decode_video

Not just on failure. This is the same thing that is done in the audio
path and should prevent leaks in decoders that allocate a frame, but
then end up not writing into it.

lavc: remove a pointless check in decode_audio4()

av_frame_unref() works fine on unallocated frames.

lavc: use buf[0] instead of data[0] as the indicator of an allocated frame

data[0] may be NULL for valid frames with hwaccel pixel formats.

lavc: remove the extended_data workarounds.

All decoders should now handle it properly.

pthread_frame: use the AVFrame API properly.

Remove the extended_data workaround, all decoders should now handle this
properly.

mxpegdec: use the AVFrame API properly.

p*menc: use the AVFrame API properly.

mjpegdec: use the AVFrame API properly.

avformat: AviSynth demuxer rewrite

Directly loads AviSynth through LoadLibrary instead of relying on
Video for Windows, and supports using AvxSynth (via dlopen) to
open scripts on Linux and OS X.

Error messages from AviSynth/AvxSynth are now reported through
av_log and exit, rather than the traditional behavior of generating
an error video that the user would need to watch to diagnose.

The main rewrite was authored by d s <avxsynth.testing@gmail.com>
from the AvxSynth team, with additional contributions by

Oka Motofumi <chikuzen.mo@gmail.com>
Stephen Hutchinson <qyot27@gmail.com>
Diego Biurrun <diego@biurrun.de>
Anton Khirnov <anton@khirnov.net>

Signed-off-by: Anton Khirnov <anton@khirnov.net>

configure: Move adding of compat objects out of libc detection

dsputil: Move apply_window_int16 to ac3dsp

The (optimized) functions are used nowhere else.

configure: Separate MinGW32 and MinGW64 libc handling

libvpx: do not mark VP9 as experimental when using libvpx >= 1.3.0

Signed-off-by: Diego Biurrun <diego@biurrun.de>

dcadec: Decode LFE to avoid adding random data when downmixing with LFE

Signed-off-by: Tim Walker <tdskywalker@gmail.com>
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

webp: add a special case for a huffman table with only 1 symbol

The vlc reader cannot handle 0-bit huffman codes. For most
situations WebP uses the "simple" huffman coding for this case,
but that will only handle symbols up to 255. For the LZ77 distance
codes, larger symbol values are needed, so it can happen in rare
cases that a normal huffman table is used that only has a single
symbol.

webp: do not call av_frame_free() on the user-provided frame

Fixes double-free on error.

ljpegenc: split yuv encoding into a separate function

ljpegenc: split bgr encoding into a separate function

ljpegenc: accept bgr24 instead of bgra

The alpha plane is not encoded.

ljpegenc: rename the encoding function.

The new name is more consistent with the rest of Libav.

ljpeg: remove a commented-out line

ljpegenc: deMpegEncContextize

The encoder uses almost none of the mpegvideo infrastructure, only some
fields from MpegEncContext.

The FATE results change because now an all-zero quant matrix is written
into the file. Since it is not used for anything for ljpeg, this should
not be a problem.

mjpegenc: do not pass MpegEncContext to ff_mjpeg_encode_dc()

This will allow deMpegEncContextizing the LJPEG encoder.

mjpegenc: do not pass MpegEncContext to ff_mjpeg_encode_picture_trailer()

This will allow deMpegEncContextizing the LJPEG encoder.

mjpegenc: do not pass MpegEncContext to ff_mjpeg_encode_picture_header()

This will allow deMpegEncContextizing the LJPEG encoder.

mjpegenc: do not pass MpegEncContext to jpeg_table_header()

Pass the three needed fields from it directly.
This will allow to deMpegEncContextize the LJPEG encoder.

mjpegenc: remove commented out never-to-be-finished WIP cruft

mjpegenc: do not pass MpegEncContext to put_huffman_table()

It only needs PutBitContext from it, so pass that directly.

mjpegenc: cosmetics, reformat jpeg_put_comments()

mjpegenc: write the JFIF header if the sample aspect ratio is set

MpegEncContext.aspect_ratio_info is never set for mjpeg, so this was
never written before.

mpegvideo: do not set current_picture_ptr in decoders

This code was originally added in
5f1948111a4920ff74e31b4284ab0200f7938539 to h263 to set decoded frame
pts to some random numbers (removed in
a1c5cc429d99216406170eac7e8352860076d3e8) and then cargo culted to other
decoders.

The code is left in h263dec for now, since some part of the decoder
(apparently OBMC) relies on the specific previous frame to be reused.

FATE: drop the last partial frame in the wmv8-drm test

This has already been done in eb066a4ce9e82cddb8f5af574804aa9889450b34,
but the number of frames produced from that file changed due to
timestamps changes since then.

vc1dec: move setting repeat_pict after frame_start() has been called.

This will allow removing the hacks where each decoder sets
current_picture_ptr on its own.

mpegvideo: make ff_release_unused_pictures() static

It is only called from one place in mpegvideo.c now. Also remove the
remove_current parameter, which is always 1.

mpegvideo: make frame_size_alloc() static.

It is not called from outside of mpegvideo.c anymore.

mpegvideo: move encode-only parts of common_end() to encode_end()

mpegvideo: remove commented out cruft from ff_MPV_frame_end()

mpegvideo: split the encoding-only parts of ff_MPV_frame_end() into a separate function

mpegvideo: do not update last_non_b_pict_type in update_thread_context()

It is used for encoding only.

mpegvideo: move encoding-only initialization from common_init() to encode_init()

mpegvideo: move setting encoding-only vars from common_defaults() to encode_defaults()

mpegvideo: don't copy input_picture_number in update_thread_context()

It is encoding-only, frame threading is not used for encoding.

mpeg4videodec: move showed_packed_warning from MpegEncContext to Mpeg4DecContext

mpeg4videodec: move intra_dc_threshold from MpegEncContext to Mpeg4DecContext

mpeg12dec: move first_slice from MpegEncContext to Mpeg1Context

mpegvideo: remove an unused variable

mpeg4videodec: move use_intra_dc_vlc from MpegEncContext to Mpeg4DecContext

x86: Initialize mmxext after amd3dnow optimizations

The mmxext optimizations should be at least equally fast if available and
amd3dnow optimizations are being deprecated. Thus the former should
override the latter, not the other way around.

configure: Detect msvcrt libc with a CPP check instead of a link check

Simplifies host/target libc detection splitting.

configure: Add detected C library and host compiler to informative output

avconv: initialize hwaccel_pix_fmt

Fixes an assertion failure in vdpau_get_buffer() when -hwaccel auto is
used, but hwaccel init fails.

alsa-audio-dec: explicitly cast the delay to a signed int64

Otherwise the expression will be evaluated as unsigned, which will break
when the result should be negative.
CC:libav-stable@libav.org

dv: Split off DV video encoder into its own file

dv: Move DV VLC data tables out of header file

build: Add rule for building host-specific object files

build: Add shorthand for HOSTCC compile macro

dsputil: x86: Move ff_inv_zigzag_direct16 table init to mpegvideo

The table is MMX-specific and used nowhere else.

doc: Try to find nonstandard Perl path from the environment

gitignore: Ignore multilibrary example programs

dcadec: Add some logging before returning on error

Based on a patch by Michael Niedermayer.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

configure: Do not use pthread_create to check for pthread

Certain instrumentation addons leads to a false positive in configure
and link failures at the end of the build phase.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

go2meeting: disallow tile dimensions that are not multiple of 16

Original decoder seems to always use 176x128 tiles anyway and this helps
avoiding lots of issues with odd tile sizes in fuzzed files.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

mpeg4videodec: move sprite_{shift,traj} from MpegEncContext to Mpeg4DecContext

mpeg4videodec: move num_sprite_warping_points from MpegEncContext to Mpeg4DecContext

mpeg4videodec: move sprite_brightness_change from MpegEncContext to Mpeg4DecContext

mpeg4videodec: move scalability from MpegEncContext to Mpeg4DecContext

mpeg4videodec: move enhancement_type from MpegEncContext to Mpeg4DecContext

mpeg4videodec: remove a write-only variable from MpegEncContext

mpeg4videodec: move new_pred from MpegEncContext to Mpeg4DecContext

mpeg4videodec: replace MpegEncContext.reduced_res_vop with a local variable

mpeg4videodec: remove a write-only variable from MpegEncContext

mpeg4videodec: move t_frame from MpegEncContext to Mpeg4DecContext

mpeg4videodec: move cplx_estimation_* fields from MpegEncContext to Mpeg4DecContext

mpeg4videodec: move mpeg4-specific bug workaround variables from MpegEncContext to Mpeg4DecContext

mpeg4videodec: move mpeg4-specific post-frame-decode code from h264dec to mpeg4videodec

mpeg4videodec: move mpeg4-specific bug detection from h263 generic code to mpeg4

mpeg4videodec: move MpegEncContext.resync_marker into Mpeg4DecContext.

vc1: move MpegEncContext.resync_marker into VC1Context.

The field still remains in MpegEncContext because it is used by the
mpeg4 decoder.

mpeg4videoenc: don't set MpegEncContext.resync_marker

It is only used in one place immediately after it is set.