vp56: Check for missing reference frame data

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

cinepak: Fix invalid read access on extra data

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

vmd: fix segfaults on corruped streams

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

cook: Fix js_vlc_bits value validation for joint stereo

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

segafilm: Check for memory allocation failures in segafilm demuxer.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

segafilm: Fix potential division by 0 on corrupted streams in the demuxer

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

Fixed segfault on corrupted sega streams in the demuxer.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

Fixed deference of NULL pointer in motionpixels decoder.

Some of the arguments given to init_vlc() come from the stream
and can be corrupted.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

libx264: support 9- and 10-bit output.

h264: correct implicit_weight for field-interlaced pictures.

mpegvideo: set correct offset for edge emulation buffer.

Using the old code, half of it was unused and the other half was too
small for e.g. >8bpp interlaced data, causing random buffer overruns.

mpegvideo: fix position of bottom edge.

It was wrong in colorspaces where horizontal and vertical chroma
subsampling are not the same, e.g. 422.

Fix 'heigth' vs. 'height' typos.

lavc/lavf: use unique private classes.

This is needed by the new AVOptions API.

lavc: use designated initializers for av_codec_context_class

qcelpdec: cosmetics: do not add line break before opening bracket in 'for',
'while', 'if/else', and 'switch' statements.

also fixes some spacing, but only if already changing a line

qcelp: check output buffer size before decoding

qcelpdec: fix the return value of qcelp_decode_frame().

Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

sipr: fix the output data size check and only calculate it once.

Synchronize various 4CCs and codec tags from FFmpeg.

qdm2: check output buffer size before decoding

Fix out of bound reads in the QDM2 decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

Check for out of bound writes in the QDM2 decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

ogg/celt: do not set sample_fmt in the demuxer

id3v2: remove pointless casts

id3v2: read TXXX frames with two calls to decode_str() instead of one.

Read the key in the first, value in the second.

This allows to avoid pointless strdups and simplify decode_str() by
dropping two of its parameters.

id3v2: don't discard the whole tag when encountering empty frames.

While they're technically invalid, it's better to skip them and try to
read the rest of the tag.

libvpx: fix build with older libvpx versions.

VPX_ERROR_RESILIENT_DEFAULT and VPX_ERROR_RESILIENT_PARTITIONS weren't
defined before 4cb0ebe5b27d35ccc2a78c1d16f2622ddef21f74 (CommitDate: Tue
Jun 28 11:10:17 2011)

ARM: check for inline asm 'y' operand modifier support

The inline asm added in bf5d46d uses the 'y' modifier which
is only supported from gcc 4.5.  This check allows building
with older compilers.

Signed-off-by: Mans Rullgard <mans@mansr.com>

mpc8: check output buffer size before decoding

mpc7: return error if packet is too small.

mpc7: check output buffer size before decoding

nellymoserdec: allocate float_buf only when decoding to int16

nellymoserdec: use NELLY_BUF_LEN instead of 128

nellymoserdec: use NELLY_BLOCK_LEN instead of 64 when appropriate.

nellymoserdec: allow user to request SAMPLE_FMT_FLT for output samples.

nellymoser: check output buffer size before decoding

win32: improve threading algorithm warning

If no threading is requested do not issue warning about unsupported
threading algorithm.

lavc: add video/audio/encoding flags to global_quality option

libvpxenc: use libvpx's own defaults for some parameters

Specifically, qmin/qmax, gop_size and keyint_min.

Fixes bug 47.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vpxenc: add private options

Make libvpx support close to the libx264 one. Thanks to
Jan Gerber <j@v2v.cc> for the support.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

dpcm: return error if packet is too small

dpcm: use smaller data types for static tables

dpcm: use sol_table_16 directly instead of through the DPCMContext.

dpcm: replace short with int16_t

dpcm: check to make sure channels is 1 or 2.

dpcm: misc pretty-printing

dpcm: remove unnecessary variable by using bytestream functions.

Uses 'buf' directly instead of a separate iterator variable 'in'.

dpcm: move codec-specific variable declarations to their corresponding decoding blocks.

dpcm: consistently use the variable name 'n' for the next input byte.

dpcm: output AV_SAMPLE_FMT_U8 for Sol DPCM subcodecs 1 and 2.

Uses the native sample format for the codec instead of left-shifting all
samples by 8.

dpcm: calculate and check actual output data size prior to decoding.

dpcm: factor out the stereo flag calculation

dpcm: cosmetics: rename channel_number to ch

Make the code easier to read.

avserver: Fix a bug where the socket is IPv4, but IPv6 is autoselected for the loopback address.

This fixes bind(8080): Address family not supported by protocol.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavf: Avoid using av_malloc(0) in av_dump_format

On OS X, av_malloc(0) returns pointers that cause crashes when
freed.

Signed-off-by: Martin Storsjö <martin@martin.st>

dxva2_h264: pass the correct 8x8 scaling lists

Copy the Inter 8x8 scaling list as second 8x8 matrix into DXVA2's
quantization matrix data structure instead of a potentially unset
Intra chroma scaling matrix.

Fix dxva2 decoding for some H264 samples.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

dca: NEON optimised high freq VQ decoding

Signed-off-by: Mans Rullgard <mans@mansr.com>

avcodec: reject audio packets with NULL data and non-zero size

There is no valid reason the user should ever send such packets in the
first place, but the documentation for CODEC_CAP_DELAY states that the
codec is guaranteed not to get a NULL packet unless that capability is
set. That isn't true without preventing this case.

dxva: Add ability to enable workaround for older ATI cards

The workaround needs to be enabled per PCI ID which cannot be detected inside
libavcodec. So add a flag to manually enable the alternate behavior.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

latmenc: Set latmBufferFullness to largest value to indicate it is not used

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

adpcm: move codec-specific variable declarations to the sections for the corresponding codecs.

adpcm: check buffer size in Funcom ISS decoder before reading header.

Also use the post-header data size to control termination of the main
decoding loop.

adpcm: simplify reading of Funcom ISS frame header.

adpcm: check buffer size in IMA DK4 decoder before reading header.

Also use the post-header data size to control termination of the main
decoding loop.

adpcm: simplify reading of IMA DK4 frame header.

adpcm_ms: clean up reading of predictor coefficients

adpcm_4xm: process planar packets sequentially rather than simultaneously.

Also properly clip the right channel step_index.

adpcm_ima_wav: process channel-interleaved blocks sequentially rather than simultaneously.

Speeds up the ADPCM IMA WAV decoder by 15-20% overall.

adpcm: update reference links

Add Multimedia Wiki link.
Mark dead links with [dead]. Some can still be accessed through archive.org.
Update URLs for pages which have moved.
Replace duplicated links in adpcmenc.c with a note to see the ADPCM decoder
reference documents.

adpcm: simplify packet size bounds checking in the ADPCM IMA QT decoder.

This is easier to understand. It also avoids returning existing samples mixed
with new samples when the packet is too small.

adpcm: simplify and speed up several ADPCM decoders.

adpcm: pretty-print tables

prores: Handle 0 or fewer bits left

show_bits() is undefined when the number of bits is less than or equal to
zero.

mpeg probe: check the 2/4-bit synchronization value found after a pack_start_code.

dca: clear inactive subbands only once in qmf_32_subbands()

Writing zeros to the high entries in the array need only be
done once as the cutoff position is constant throughout the
loop.

Signed-off-by: Mans Rullgard <mans@mansr.com>

vf_unsharp: set default chroma size value to 5x5

The previous default value 0x0 was not good, since it is not even
valid.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vf_unsharp: fix out-of-buffer read

In apply_unsharp(), when y is >= height, prevent out-of-buffer reading
from src, read from the last buffer line in src2 instead.

The check was implemented in the original unsharp libmpcodecs code and
lost in the port.

This also fixes output discrepancy between the two filters.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

avconv: Reformat s16 volume adjustment.

ARM: NEON optimised vector_fmac_scalar()

Signed-off-by: Mans Rullgard <mans@mansr.com>

dca: use vector_fmac_scalar from dsputil

Signed-off-by: Mans Rullgard <mans@mansr.com>

dsputil: add vector_fmac_scalar()

Signed-off-by: Mans Rullgard <mans@mansr.com>

latmenc: Fix private options

Signed-off-by: Martin Storsjö <martin@martin.st>

vf_unsharp: store hsub/vsub in the filter context

Also drop obfuscating CHROMA_WIDTH/HEIGHT macros.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vf_unsharp: adopt a more natural order of params in apply_unsharp()

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vf_unsharp: rename method "unsharpen" to "apply_unsharp"

More consistent with the original libmpcodecs code, and the name
"unsharpen" was confusing.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vf_scale: apply the same transform to the aspect during init that is applied per frame

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vf_pad: fix "vsub" variable value computation

It was shifting 2 rather than 1, +10l.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vf_scale: add a "sar" variable

Also create a "dar" alias for the "a" variable, for avoiding possible
confusion between dar/sar.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavfi: fix realloc size computation in avfilter_add_format()

Replace sizeof((*avff)->formats)
with    sizeof(*(*avff)->formats)

as the size of the array element is given by the pointed element
rather than by its pointer.

In particular fix computation with the pending patch when
sizeof(int64_t) != sizeof(int64_t *).

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vsrc_color: use internal timebase

Avoid timescale conversion, simplify.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavfi: fix signature for avfilter_graph_parse() and avfilter_graph_config()

Require "void *" rather than "AVClass *" for the log context type.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

graphparser: prefer void * over AVClass * for log contexts

Signed-off-by: Anton Khirnov <anton@khirnov.net>

avfiltergraph: use meaningful error codes

Signed-off-by: Anton Khirnov <anton@khirnov.net>

avconv: Initialize return value for codec copy path.

fate: use 'run' helper for seek-test

This is simpler, and the actual seek-test command is printed with V=1.

Signed-off-by: Mans Rullgard <mans@mansr.com>

fate: remove seek-mpeg2reuse test

The input file for this test is no longer generated.

Signed-off-by: Mans Rullgard <mans@mansr.com>

Fix memory (re)allocation in matroskadec.c, related to MSVR-11-0080.

Whitespace of the patch cleaned up by Aurel
Some of the issues have been reported by Steve Manzuik / Microsoft Vulnerability Research (MSVR)
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
(cherry picked from commit 956c901c68eff78288f40e3c8f41ee2fa081d4a8)

Further suggestions from Kostya <kostya.shishkov@gmail.com> have been
implemented by Reinhard Tartler <siretart@tauware.de>

Signed-off-by: Reinhard Tartler <siretart@tauware.de>

avconv: Fix volume adjustment for non-s16 sample formats

avconv: Make samples void*.

Different sample formats are different sizes.