buffersrc: fix a typo.

Vertical shift is log2_chroma_h, not log2_chroma_w.

lavc, lavfi: fix counting number of planes in AVBufferRef wrappers

Number of planes is not always equal to the number of components even
for formats marked with PIX_FMT_PLANAR -- e.g. NV12 has three components
in two planes.

pixdesc: add a function for counting planes in a pixel format.

avplay: remove the -debug option.

It just shadows the corresponding AVOption and prevents using named
constants.

Revert "asfenc: return error on negative timestamp"

This reverts commit d1bec33b46091546c5b2e6815210e73f87abf413, it breaks
FATE.

print_options: do not generate docs for options without enc or dec flags

Those are not usable from the avtools, so mentioning them in the
manpages just confuses the reader.

mpeg12: do not fail on zero dimensions in the sequence header.

The total frame size is a combination of the 12 bits in the sequence
header and 2 more bits in the the sequence extension. While the
specification explicitly forbids the dimensions from the sequence header
from being 0 (thus ruling out multiples of 4096), such videos
apparrently exist in the wild so we should attempt to decode them.

Based on a patch by Michael Niedermayer <michaelni@gmx.at>

Fixes Bug 416.

iff: validate CMAP palette size

Fixes CVE-2013-2495

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>
CC: libav-stable@libav.org

asfenc: return error on negative timestamp

According to the specification the timestamp is represented by a 32bit
unsigned.

CC: libav-stable@libav.org

lavc,lavfi: fix calculating the plane size in the AVBufferRef wrappers

It is supposed to be height * linesize, not width * linesize.
Thanks to Hendrik Leppkes for pointing out the bug.

document the release process

af_join: do not leak input frames.

asrc_anullsrc: return EOF, not -1

asrc_anullsrc: do not set samplerate and channel layout explicitly

They are auto-negotiated.

vf_showinfo: remove its useless init function

Filter private data is memset to 0 so there is no point in explicitly
initing anything to 0.

AVOptions: fix using named constants with child contexts.

The named constant needs to be searched for in the same object on which
the option is set, i.e. target_obj.

AVOption: remove an unused function parameter.

filters.texi: restore mistakenly removed section name for noformat

avfiltergraph: use sizeof(var) instead of sizeof(type)

avfiltergraph: replace AVFilterGraph.filter_count with nb_filters

This is more consistent with the naming in the rest of Libav.

lavfi: use designated initializers in avfilter_class

lavf: sanity check size in av_get/append_packet().

To avoid allocating ridiculous amounts of memory for corrupted files,
read the input in chunks limited to filesize or an arbitrary large
amount when that is not known (chosen to be 50M).

lzo: fix overflow checking in copy_backptr()

The check `src > dst' in the form `&c->out[-back] > c->out' invokes
pointer overflow, which is undefined behavior in C.

Remove the check.  Also replace `&c->out[-back] < c->out_start' with
a safe form `c->out - c->out_start < back' to avoid overflow.

CC: libav-stable@libav.org
Signed-off-by: Xi Wang <xi.wang@gmail.com>
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

flacdec: simplify bounds checking in flac_probe()

Simplify `p->buf > p->buf + p->buf_size - 4' as `p->buf_size < 4'.
Avoid a possible out-of-bounds pointer, which is undefined behavior
in C.

CC: libav-stable@libav.org
Signed-off-by: Xi Wang <xi.wang@gmail.com>
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

atrac3: avoid oversized shifting in decode_bytes()

When `off' is 0, `0x537F6103 << 32' in the following expression invokes
undefined behavior, the result of which is not necessarily 0.

    (0x537F6103 >> (off * 8)) | (0x537F6103 << (32 - (off * 8)))

Avoid oversized shifting.

CC: libav-stable@libav.org
Signed-off-by: Xi Wang <xi.wang@gmail.com>
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

add support for Monkey's Audio versions from 3.93

ape: provide two additional bytes in buffer for old MAC versions

Range coder in 3.90-3.95 overread two bytes in the final normalize.

ape: make version-dependent decoding functions called via pointers

This will help in supporting old versions, e.g. version 3.93 uses the same
range coder but different predictor and version 3.82 uses different range
coder and predictor. Also this should not make decoding newer versions slower
by introducing additional checks on versions.

mpegts: add support for stream_type 0x42, which is CAVS

This allows demuxing and muxing of CAVS TS streams.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

avconv: mark attachment streams as immediately finished

There are never any packets for those streams.
Fixes an infinite loop with -attach.

vaapi: fix argument for ff_vaapi_common_end_frame call

avcodec: av_log_missing_feature(1) ---> avpriv_request_sample()

avcodec: av_log_ask_for_sample() ---> avpriv_request_sample()

rsodec: Use avpriv_report_missing_feature() where appropriate

avformat: av_log_ask_for_sample() ---> avpriv_request_sample()

av_log_missing_feature() ---> avpriv_report_missing_feature()

Add av_log_{ask_for_sample|missing_feature} replacements to libavutil

This allows reporting missing features and requesting samples from
all libraries in a standard way; with a simplified API.

ismindex: Check the return value of allocations

Signed-off-by: Martin Storsjö <martin@martin.st>

ismindex: Factorize code for printing chunk duration lists

Signed-off-by: Martin Storsjö <martin@martin.st>

ismindex: Rename structs and fields from "file" to "track"

The tool nowadays supports more than one track per file,
this makes reading the code slightly less confusing.

Signed-off-by: Martin Storsjö <martin@martin.st>

avpacket: copy side data type and size in av_dup_packet

hqdn3d: Fix out of array read in LOWPASS

CC:libav-stable@libav.org
Signed-off-by: Anton Khirnov <anton@khirnov.net>

cabac: remove unused argument of ff_init_cabac_states()

Signed-off-by: Anton Khirnov <anton@khirnov.net>

rawdec: fix a typo -- || instead of |

Signed-off-by: Anton Khirnov <anton@khirnov.net>

matroskadec: request a read buffer for the wav header

Solve an infiniloop.

CC: libav-stable@libav.org

dsputil: convert remaining functions to use ptrdiff_t strides

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

Add informative messages to av_log_ask_for_sample calls lacking them

anm: Get rid of some very silly goto statements

vda: remove async decoder leftovers

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

avframe: call release_buffer only if it is set

AVCodecContext release_buffer() shall be NULL for audio codecs using
get_buffer. The backward compatibility code hence have to check before
calling it.

pthread: unref the decoded but not returned frames on close.

Fixes memleaks when frame mt is used and the decoder is not flushed at
the end.

h264: check that DPB is allocated before accessing it in flush_dpb()

vf_hqdn3d: fix uninitialized variable use

CC:libav-stable@libav.org

vf_gradfun: fix uninitialized variable use

CC:libav-stable@libav.org

h264_refs: cosmetics, reformat

h264: remove a useless svq3 condition

The svq3 decoder does not call ff_h264_frame_start() anymore.

mpegvideo: remove FMT_H264

mpegvideo: reindent

mpegvideo: remove useless references to h264 and svq3

The h264 decoder does not use mpegvideo anymore. The svq3 decoder only
uses ff_draw_horiz_band().

lavf: remove disabled FF_API_R_FRAME_RATE cruft

lavf: remove disabled FF_API_AV_GETTIME cruft

lavf: remove disabled FF_API_INTERLEAVE_PACKET cruft

lavf: remove disabled FF_API_READ_PACKET cruft

lavf: remove disabled FF_API_APPLEHTTP_PROTO cruft

lavf: remove disabled FF_API_CLOSE_INPUT_FILE cruft

lavc: remove disabled FF_API_IDCT cruft

lavc: remove disabled FF_API_SNOW cruft

lavc: remove disabled FF_API_MMI cruft

lavc: remove disabled FF_API_LIBMPEG2 cruft

lavc: remove disabled FF_API_AVCODEC_RESAMPLE cruft

atomic: prefer gcc builtins over win32 atomics, if available.

The mingw win32 atomics appear to be faulty, so they should not be used
if the gcc ones are available.

Signed-off-by: Martin Storsjö <martin@martin.st>

avframe: copy reordered_opaque in copy_props

Fixes video playback in applications still using reordered_opaque.

ra144: check buffer size before requesting a buffer

Return an error on incomplete frames.

wmapro: unref skipped frames

svq1: use av_frame_free to free refcounted frame

Fixes a memleak due to avcodec_free_frame not freeing the frame data.

lavc: fix get_buffer() compatibility layer for audio.

planes - FF_ARRAY_ELEMS would be evaluated as unsigned and underflow
instead of being negative as was intended.

ratecontrol: remove an unused variable

vorbisdec: do not leak the first frame.

vf_pad: fix a & instead of && typo

Avoid buffer overflow in buffer_needs_copy()

Signed-off-by: Xi Wang <xi.wang@gmail.com>
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

avplay: enable only when SDL 1.2 is found

SDL 2 is API incompatible.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

lavc: remove disabled FF_API_VDA_ASYNC cruft

lavc: remove disabled FF_API_CODEC_ID cruft

lavc: remove disabled FF_API_FIND_BEST_PIX_FMT cruft

lavc: remove disabled FF_API_DSP_MASK cruft

lavc: remove disabled FF_API_SUB_ID cruft

lavc: remove disabled FF_API_INTER_THRESHOLD cruft

lavc: remove disabled FF_API_COLOR_TABLE_ID cruft

lavc: remove disabled FF_API_MPV_GLOBAL_OPTS cruft

lavc: remove disabled FF_API_OLD_ENCODE_VIDEO cruft

lavc: remove disabled FF_API_OLD_ENCODE_AUDIO cruft

lavc: remove disabled FF_API_OLD_DECODE_AUDIO cruft

atomic: fix CAS with armcc.

On the current code, armcc will fail with:
"libavutil/atomic_gcc.h", line 52: Error:  #2771: first argument must be
a pointer to integer or enumeration type

png: use av_mallocz_array() for the zlib zalloc function

Fixes valgrind uninitialized memory errors when decoding png.

CC:libav-stable@libav.org

libmp3lame: use the correct remaining buffer size when flushing

CC:libav-stable@libav.org

atomic: Exclude the unsupported implementation headers from checkheaders

Signed-off-by: Martin Storsjö <martin@martin.st>

avconv: do not silently ignore unused codec AVOptions.

Print an error and abort when the option is of the wrong type (decoding
for output file or vice versa), since this could never be correct for
any input or output configuration.

Print a warning and continue when the option is of the correct type,
just unused, so same commandlines can be reused for different kinds of
input or output files.

avconv: fix a typo

FATE: replace -vb with -b:v

The -{vas}<option> syntax is now obsolete and deprecated, and has never
been documented or encouraged.

FATE: remove the -dct option from some decoding tests.

It is an encoding option, it has no effect when applied to decoding.

avconv: use a local variable for InputFile in open_input_file().

This is shorter and more readable.