lavf: Avoid using av_malloc(0) in av_dump_format

On OS X, av_malloc(0) returns pointers that cause crashes when
freed.

Signed-off-by: Martin Storsjö <martin@martin.st>

dxva2_h264: pass the correct 8x8 scaling lists

Copy the Inter 8x8 scaling list as second 8x8 matrix into DXVA2's
quantization matrix data structure instead of a potentially unset
Intra chroma scaling matrix.

Fix dxva2 decoding for some H264 samples.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

dca: NEON optimised high freq VQ decoding

Signed-off-by: Mans Rullgard <mans@mansr.com>

avcodec: reject audio packets with NULL data and non-zero size

There is no valid reason the user should ever send such packets in the
first place, but the documentation for CODEC_CAP_DELAY states that the
codec is guaranteed not to get a NULL packet unless that capability is
set. That isn't true without preventing this case.

dxva: Add ability to enable workaround for older ATI cards

The workaround needs to be enabled per PCI ID which cannot be detected inside
libavcodec. So add a flag to manually enable the alternate behavior.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

latmenc: Set latmBufferFullness to largest value to indicate it is not used

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

adpcm: move codec-specific variable declarations to the sections for the corresponding codecs.

adpcm: check buffer size in Funcom ISS decoder before reading header.

Also use the post-header data size to control termination of the main
decoding loop.

adpcm: simplify reading of Funcom ISS frame header.

adpcm: check buffer size in IMA DK4 decoder before reading header.

Also use the post-header data size to control termination of the main
decoding loop.

adpcm: simplify reading of IMA DK4 frame header.

adpcm_ms: clean up reading of predictor coefficients

adpcm_4xm: process planar packets sequentially rather than simultaneously.

Also properly clip the right channel step_index.

adpcm_ima_wav: process channel-interleaved blocks sequentially rather than simultaneously.

Speeds up the ADPCM IMA WAV decoder by 15-20% overall.

adpcm: update reference links

Add Multimedia Wiki link.
Mark dead links with [dead]. Some can still be accessed through archive.org.
Update URLs for pages which have moved.
Replace duplicated links in adpcmenc.c with a note to see the ADPCM decoder
reference documents.

adpcm: simplify packet size bounds checking in the ADPCM IMA QT decoder.

This is easier to understand. It also avoids returning existing samples mixed
with new samples when the packet is too small.

adpcm: simplify and speed up several ADPCM decoders.

adpcm: pretty-print tables

prores: Handle 0 or fewer bits left

show_bits() is undefined when the number of bits is less than or equal to
zero.

mpeg probe: check the 2/4-bit synchronization value found after a pack_start_code.

dca: clear inactive subbands only once in qmf_32_subbands()

Writing zeros to the high entries in the array need only be
done once as the cutoff position is constant throughout the
loop.

Signed-off-by: Mans Rullgard <mans@mansr.com>

vf_unsharp: set default chroma size value to 5x5

The previous default value 0x0 was not good, since it is not even
valid.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vf_unsharp: fix out-of-buffer read

In apply_unsharp(), when y is >= height, prevent out-of-buffer reading
from src, read from the last buffer line in src2 instead.

The check was implemented in the original unsharp libmpcodecs code and
lost in the port.

This also fixes output discrepancy between the two filters.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

avconv: Reformat s16 volume adjustment.

ARM: NEON optimised vector_fmac_scalar()

Signed-off-by: Mans Rullgard <mans@mansr.com>

dca: use vector_fmac_scalar from dsputil

Signed-off-by: Mans Rullgard <mans@mansr.com>

dsputil: add vector_fmac_scalar()

Signed-off-by: Mans Rullgard <mans@mansr.com>

latmenc: Fix private options

Signed-off-by: Martin Storsjö <martin@martin.st>

vf_unsharp: store hsub/vsub in the filter context

Also drop obfuscating CHROMA_WIDTH/HEIGHT macros.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vf_unsharp: adopt a more natural order of params in apply_unsharp()

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vf_unsharp: rename method "unsharpen" to "apply_unsharp"

More consistent with the original libmpcodecs code, and the name
"unsharpen" was confusing.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vf_scale: apply the same transform to the aspect during init that is applied per frame

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vf_pad: fix "vsub" variable value computation

It was shifting 2 rather than 1, +10l.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vf_scale: add a "sar" variable

Also create a "dar" alias for the "a" variable, for avoiding possible
confusion between dar/sar.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavfi: fix realloc size computation in avfilter_add_format()

Replace sizeof((*avff)->formats)
with    sizeof(*(*avff)->formats)

as the size of the array element is given by the pointed element
rather than by its pointer.

In particular fix computation with the pending patch when
sizeof(int64_t) != sizeof(int64_t *).

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vsrc_color: use internal timebase

Avoid timescale conversion, simplify.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavfi: fix signature for avfilter_graph_parse() and avfilter_graph_config()

Require "void *" rather than "AVClass *" for the log context type.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

graphparser: prefer void * over AVClass * for log contexts

Signed-off-by: Anton Khirnov <anton@khirnov.net>

avfiltergraph: use meaningful error codes

Signed-off-by: Anton Khirnov <anton@khirnov.net>

avconv: Initialize return value for codec copy path.

fate: use 'run' helper for seek-test

This is simpler, and the actual seek-test command is printed with V=1.

Signed-off-by: Mans Rullgard <mans@mansr.com>

fate: remove seek-mpeg2reuse test

The input file for this test is no longer generated.

Signed-off-by: Mans Rullgard <mans@mansr.com>

Fix memory (re)allocation in matroskadec.c, related to MSVR-11-0080.

Whitespace of the patch cleaned up by Aurel
Some of the issues have been reported by Steve Manzuik / Microsoft Vulnerability Research (MSVR)
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
(cherry picked from commit 956c901c68eff78288f40e3c8f41ee2fa081d4a8)

Further suggestions from Kostya <kostya.shishkov@gmail.com> have been
implemented by Reinhard Tartler <siretart@tauware.de>

Signed-off-by: Reinhard Tartler <siretart@tauware.de>

avconv: Fix volume adjustment for non-s16 sample formats

avconv: Make samples void*.

Different sample formats are different sizes.

avconv: Use the size of the decode sample format when allocating the audio samples buffer.

avconv: use different variables for decoded and filtered frame.

Makes the code less obfuscated and fixes encoding one video stream to
several outputs.

Also use avcodec_alloc_frame() instead of allocating AVFrame on stack.

Breaks me_threshold in avconv, as motion vectors aren't passed through
lavfi. They could be copied manually, but I don't think this misfeature
is useful enough to justify ugly hacks.

avconv: add support for copying attachments.

matroskaenc: write attachments.

matroskadec: export mimetype of attachments as metadata.

avconv: factorize common code from new_*_stream()

doc/avconv: expand documentation for some options.

doc/avconv: document -timelimit.

fate: allow testing with libavfilter disabled

This declares dependencies to skip tests using libavfilter
when it is disabled.

Signed-off-by: Mans Rullgard <mans@mansr.com>

x86: XOP/FMA4 CPU detection support

ws_snd: misc cosmetic clean-ups

ws_snd: remove the 2-bit ADPCM table and just subtract 2 instead.

ws_snd: use memcpy() and memset() instead of loops

ws_snd: use samples pointer for loop termination instead of a separate
iterator variable.

ws_snd: make sure number of channels is 1

ws_snd: add some checks to prevent buffer overread or overwrite.

ws_snd: decode to AV_SAMPLE_FMT_U8 instead of S16.

8-bit unsigned is the native sample format.

flacdec: fix buffer size checking in get_metadata_size()

Adds an additional check before reading the next block header and avoids a
potential integer overflow when checking the metadata size against the
remaining buffer size.

rtp: Simplify ff_rtp_get_payload_type

Signed-off-by: Martin Storsjö <martin@martin.st>

rtpenc: Add a payload type private option

Specifying the payload type is useful when the type number has
already been negotiated before creating the stream, for example
in SIP protocol.

Signed-off-by: Martin Storsjö <martin@martin.st>

rtp: Correct ff_rtp_get_payload_type documentation

Since 0c378ea1f, it can't fail anymore.

Signed-off-by: Martin Storsjö <martin@martin.st>

avconv: replace all fprintf() by av_log().

Deprecate -v option, now only -loglevel is enough.

avconv: change av_log verbosity from ERROR to FATAL for fatal errors.

cmdutils: replace fprintf() by av_log()

This way, all messages can be easily disabled with -loglevel.

Behavior change -- configuration is printed with AV_LOG_VERBOSE, so it's
not shown by default.

avtools: parse loglevel before all the other options.

This way it can be applied to cmdutils too -- e.g. showing the banner
and printing startup messages.

oggdec: add support for Xiph's CELT codec

This patch also introduces CODEC_ID_CELT.

Signed-off-by: Nicolas George <nicolas.george@normalesup.org>
Signed-off-by: Diego Biurrun <diego@biurrun.de>

sol: return error if av_get_packet() fails.

This prevents sending a packet with data=NULL size=AVERROR_EOF.

cosmetics: reindent and pretty-print

libgsm: split init and close fuctions for encoder and decoder.

The decoder shouldn't be allocating coded_frame. It's also cleaner to split
them than to check avctx->codec->encode and avctx->codec->decode.

ppc: fix some pointer to integer casts

Use uintptr_t instead of plain int.  Without this change, the
comparisons will come out wrong for pointers in certain ranges.
Fixes random failures on ppc64.  Also fixes some compiler warnings.

Signed-off-by: Mans Rullgard <mans@mansr.com>

ppc: fix 32-bit PIC build

On 32-bit ppc, the GOT pointer must be loaded manually.
This adds a "get_got" assembler macro to compute the
GOT address.  The "movrel" macro is updated to take an
additional parameter containing the GOT address since
no register is reserved for this purpose on ppc32.
These changes have no effect on ppc64 builds.

Signed-off-by: Mans Rullgard <mans@mansr.com>

vmdaudio: fix decoding of 16-bit audio format.

The initial sample of each block is raw 16-bit PCM, not DPCM.
Fixes decoding of all samples in:
http://streams.videolan.org/samples/game-formats/sierra-vmd/Lighthouse/

lavf: do not set codec_tag for rawvideo

If the demuxer did not set a codec_tag, there is none and
inventing one makes no sense.  This change stops the rawvideo
"decoder" over-writing user-supplied pixfmt with one derived
from the codec_tag.  The pixfmt-codec_tag-pixfmt round-trip
is lossy since several pixfmts map to the same codec_tag.

This fixes fate-lavf-pixfmt with avfilter disabled.

Signed-off-by: Mans Rullgard <mans@mansr.com>

h264: check for out of bounds reads in ff_h264_decode_extradata().

Signed-off-by: Anton Khirnov <anton@khirnov.net>

flvdec: Check for overflow before allocating arrays

On allocation, the array length is multiplied by sizeof(int64_t),
this prevents the multiplication from overflowing.

Signed-off-by: Martin Storsjö <martin@martin.st>

avconv: use correct output stream index when checking max_frames

avconv: remove fake coded_frame on streamcopy hack

Back in 2002 when it was added, some muxers used information from
coded_frame. It's not true anymore, so this hack is useless and can be
removed.

flvdec: Fix invalid pointer deferences when parsing index

Signed-off-by: Martin Storsjö <martin@martin.st>

configure: disable hardware capabilities ELF section with suncc on Solaris x86

When using suncc to build, the Solaris linker will mark
an executable with each instruction set encountered by
the Solaris assembler.  As our libraries contain their own
guards for processor-specific code, instead suppress
generation of the HWCAPS ELF section on Solaris x86 only.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

Use explicit struct initializers for AVCodec declarations.

Use explicit struct initializers for AVOutputFormat/AVInputFormat declarations.

adpcmenc: Set bits_per_coded_sample

adpcmenc: fix QT IMA ADPCM encoder

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

adpcmdec: Fix QT IMA ADPCM decoder

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

permit decoding of multichannel ADPCM_EA_XAS

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Fix input buffer size check in adpcm_ea decoder.

Unfortunately the output buffer size check assumes that the
input buffer is never over-consumed, thus this actually
also allowed to write outside the output buffer if "lucky".

Based on:
git.videolan.org/ffmpeg.git
commit 701d0eb185192542c4a17f296e39e37cedf7abc6

fft: avoid a signed overflow

As a signed integer, 1<<31 overflows, so force it to unsigned.

Signed-off-by: Alex Converse <alex.converse@gmail.com>

mpegps: Handle buffer exhaustion when reading packets.

rtp: factorize  dynamic payload type fallback

Move the identical code in rtp_write_header() and
ff_sdp_write_media() inside ff_rtp_get_payload_type()

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

flvdec: Ignore the index if it's from a creator known to be different

Signed-off-by: Martin Storsjö <martin@martin.st>

cmdutils: move grow_array out of #if CONFIG_AVFILTER

fixes programs linking with --disable-avfilter

avconv: actually set InputFile.rate_emu

ratecontrol: update last_qscale_for sooner

In order to make ratecontrol converge properly update the
last_qscale_for values when populating the qscale array.

It fixes the issue reported on
http://lists.libav.org/pipermail/libav-tools/2011-September/000050.html

Fix unnecessary shift with 9/10bit vertical scaling

Signed-off-by: Diego Biurrun <diego@biurrun.de>

prores: mark prores as intra-only in libavformat/utils.c:is_intra_only()