h264: check for out of bounds reads in ff_h264_decode_extradata().

Signed-off-by: Anton Khirnov <anton@khirnov.net>

flvdec: Check for overflow before allocating arrays

On allocation, the array length is multiplied by sizeof(int64_t),
this prevents the multiplication from overflowing.

Signed-off-by: Martin Storsjö <martin@martin.st>

avconv: use correct output stream index when checking max_frames

avconv: remove fake coded_frame on streamcopy hack

Back in 2002 when it was added, some muxers used information from
coded_frame. It's not true anymore, so this hack is useless and can be
removed.

flvdec: Fix invalid pointer deferences when parsing index

Signed-off-by: Martin Storsjö <martin@martin.st>

configure: disable hardware capabilities ELF section with suncc on Solaris x86

When using suncc to build, the Solaris linker will mark
an executable with each instruction set encountered by
the Solaris assembler.  As our libraries contain their own
guards for processor-specific code, instead suppress
generation of the HWCAPS ELF section on Solaris x86 only.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

Use explicit struct initializers for AVCodec declarations.

Use explicit struct initializers for AVOutputFormat/AVInputFormat declarations.

adpcmenc: Set bits_per_coded_sample

adpcmenc: fix QT IMA ADPCM encoder

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

adpcmdec: Fix QT IMA ADPCM decoder

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

permit decoding of multichannel ADPCM_EA_XAS

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Fix input buffer size check in adpcm_ea decoder.

Unfortunately the output buffer size check assumes that the
input buffer is never over-consumed, thus this actually
also allowed to write outside the output buffer if "lucky".

Based on:
git.videolan.org/ffmpeg.git
commit 701d0eb185192542c4a17f296e39e37cedf7abc6

fft: avoid a signed overflow

As a signed integer, 1<<31 overflows, so force it to unsigned.

Signed-off-by: Alex Converse <alex.converse@gmail.com>

mpegps: Handle buffer exhaustion when reading packets.

rtp: factorize  dynamic payload type fallback

Move the identical code in rtp_write_header() and
ff_sdp_write_media() inside ff_rtp_get_payload_type()

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

flvdec: Ignore the index if it's from a creator known to be different

Signed-off-by: Martin Storsjö <martin@martin.st>

cmdutils: move grow_array out of #if CONFIG_AVFILTER

fixes programs linking with --disable-avfilter

avconv: actually set InputFile.rate_emu

ratecontrol: update last_qscale_for sooner

In order to make ratecontrol converge properly update the
last_qscale_for values when populating the qscale array.

It fixes the issue reported on
http://lists.libav.org/pipermail/libav-tools/2011-September/000050.html

Fix unnecessary shift with 9/10bit vertical scaling

Signed-off-by: Diego Biurrun <diego@biurrun.de>

prores: mark prores as intra-only in libavformat/utils.c:is_intra_only()

prores: return more meaningful error values

prores: improve error message wording

prores: cosmetics: prettyprinting, drop useless parentheses

prores: lowercase AVCodec name entry

All other codecs use lowercase names in that field.

Add LATM demuxer

This is a raw demuxer for the AAC LATM decoder and thus limited to
single stream LOAS.

avplay: flush audio decoder with empty packets at EOF if the decoder has
CODEC_CAP_DELAY set.

8svx/iff: fix decoding of compressed stereo 8svx files.

Make the iff demuxer send the whole audio chunk to the decoder as a
single packet and move stereo interleaving from the iff demuxer to the
decoder.

Based on a patch by Stefano Sabatini.
git.videolan.org/ffmpeg.git
commit e280a4da2ae6fd44f0079358ecc5aa08e388a5ed

8svx: log an error message if output buffer is too small

Based on a patch by Stefano Sabatini.
git.videolan.org/ffmpeg.git
commit e280a4da2ae6fd44f0079358ecc5aa08e388a5ed

8svx: check packet size before reading the initial sample value.

8svx: output 8-bit samples instead of 16-bit.

Based on a patch by Stefano Sabatini.
git.videolan.org/ffmpeg.git
commit e280a4da2ae6fd44f0079358ecc5aa08e388a5ed

8svx: split delta decoding into a separate function.

Based on a patch by Stefano Sabatini.
git.videolan.org/ffmpeg.git
commit e280a4da2ae6fd44f0079358ecc5aa08e388a5ed

mp4: Don't read an empty Decoder Config Descriptor

fate.sh: Ignore errors from rm command during cleanup.

The install directory being deleted might not be present if the build failed.
This can lead to annoying error output if the FATE client is run as a cronjob.

fate.sh: Run git-pull in quiet mode to avoid console spam.

Since fate.sh can be run from cron, silent commands are preferrable.

Apple ProRes decoder

Signed-off-by: Martin Storsjö <martin@martin.st>

rtmp: Make the input FLV parser handle data cut at any point

This makes the RTMP writing code able to handle FLV data
fed in arbitrarily small or large chunks, with multiple
consecutive packets in one write call, or having the FLV
packet header split over numerous write calls.

When used in conjunction with the flv muxer, the AVIO buffer
size still needs to be large enough to fit the initial metadata
packet though, since the size of that packet is written with a
seekback.

Signed-off-by: Martin Storsjö <martin@martin.st>

rv34: Check for invalid slices offsets

Signed-off-by: Martin Storsjö <martin@martin.st>

eval: test isnan(sqrt(-1)) instead of just sqrt(-1)

sqrt(-1) returns "some NaN", it's not specified which exactly.

swfdec: Add support for sample_rate_code 0 (5512 Hz)

dct-test: factor out some common code and do whas was likely intended

This fixes some nonsensical code by moving some should-be-shared
code to separate functions and using these.

Signed-off-by: Mans Rullgard <mans@mansr.com>

doc: library versions need to be bumped in version.h

Revert "ffmpeg: get rid of useless AVInputStream.nb_streams."

This reverts commit 2cf8355f98681bdd726b739008acd5483f82f8d7.
AVInputStream.nb_streams tracks number of streams found at the
beginning, new streams may appear that ffmpeg doesn't know about. Fixes
crash in this case.

Remove some forgotten AVCodecContext.palctrl usage.

lavc/utils: move avcodec_init() higher in the file.

Fixes build on next major bump.

lavc: replace some deprecated FF_*_TYPE with AV_PICTURE_TYPE_*

ac3dec: actually use drc_scale private option

lavc: undeprecate AVPALETTE_SIZE and AVPALETTE_COUNT macros

They are still being used and shouldn't be removed.

alsa: add missing header

Fixes compile with next lavc major.

msmpeg4: remove leftover unused debug variable declaration

Fix assert() calls that need updates after FF_COMMON_FRAME macro elimination.

This fixes build failures with -DDEBUG in CPPFLAGS.

Fix av_dlog invocations with wrong or missing logging context.

This fixes build failures with -DDEBUG in CPPFLAGS.

vf_yadif: add support to yuva420p

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vf_yadif: correct documentation on the parity parameter

0 is top-field-first, 1 is bottom-field-first, not the other way
around.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vf_yadif: copy buffer properties like aspect for second frame as well

Signed-off-by: Anton Khirnov <anton@khirnov.net>

oma: support for encrypted files

Signed-off-by: David Goldwich <david.goldwich@gmail.com>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

id3v2: add support for non-text and GEOB type tag frames

This extends the ID3v2 parser to allow for reading of non-text (i.e.
other than T***) meta tag frames providing a ff_id3v2_read_all()
function. An additional data structure 'ID3v2ExtraMeta' is introduced
for these tags since AVDictionary is string oriented and unsuitable
for binary data.

A parser for tag frames of type GEOB is implemented, which is needed
to extract keyring information from encrypted OMA files. GEOB data
is parsed into 'ID3v2ExtraMetaGEOB' data structures.

The routine to decode characters from different encodings to UTF-8,
formerly part of the read_ttag() function, is moved to its own
function. Because some tag frames contain subparts of unknown length,
the function is now also able to read until a null character is found.
In addition, the function now takes care of allocating a buffer long
enough to hold the decoded characters.

Signed-off-by: David Goldwich <david.goldwich@gmail.com>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

des: add possibility to calculate DES-CBC-MAC with small buffer

This patch adds the possibility to calculate the DES-CBC-MAC of a
source buffer (i.e. the last block of the buffer encrypted in CBC
mode) without having to allocate a destination buffer that is as
long as the complete source buffer, but instead only 8 bytes
for the MAC.

Signed-off-by: David Goldwich <david.goldwich@gmail.com>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

rtmp: Don't blindly skip the 4 trailer bytes from the FLV packets

If not enough bytes are available, keep track of them and skip
them on next call.

In practice, if these trailer bytes are written in a separate
call, there is no other data written in this call, making it
fall into the "FLV packet too small" case currently - working,
but not as intended.

This patch makes the code more robust, handling all cases
except for having the FLV packet header split over multiple
write calls.

Signed-off-by: Martin Storsjö <martin@martin.st>

rtmp: Handle FLV packets written in more than one write call

If the FLV packet is larger than the AVIO buffer, a partial
FLV packet will be flushed to the RTMP protocol.

This commit handles the most common cases of FLV packets
being written in more than one call.

Signed-off-by: Martin Storsjö <martin@martin.st>

rv34: Check for invalid slice offsets

Signed-off-by: Martin Storsjö <martin@martin.st>

movenc: fix NULL reference in mov_write_tkhd_tag

st may be NULL when there are more mov streams than AVStreams, e.g. when
chapters are present.

rmdec: Reject invalid deinterleaving parameters

Signed-off-by: Martin Storsjö <martin@martin.st>

rv34: Fix potential overreads

Signed-off-by: Martin Storsjö <martin@martin.st>

rv34: Fix buffer size used for MC of B frames after a resolution change

Signed-off-by: Martin Storsjö <martin@martin.st>

rv34: Avoid NULL dereference on corrupted bitstream

rv34_decode_slice() can return without allocating any pictures.

Signed-off-by: Martin Storsjö <martin@martin.st>

rv10: Reject slices that does not have the same type as the first one

This prevents crashes with some corrupted bitstreams.

Signed-off-by: Martin Storsjö <martin@martin.st>

vf_yadif: add an option to enable/disable deinterlacing based on src frame "interlaced" flag

Signed-off-by: Joakim Plate <elupus@ecce.se>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

vsrc_color: set output pos values to -1

-1 is more correct than 0, as the position in the file is undefined.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vsrc_color: add @file doxy

Also remove outdated reference to color in vf_pad.c.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vsrc_buffer: remove duplicated file description

Signed-off-by: Anton Khirnov <anton@khirnov.net>

eval: implement not() expression

eval: add sqrt function for computing the square root

rmdec: use the deinterleaving mode and not the codec when creating audio packets.

It prevents crashes due to non initialized fields.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavf: Fix context pointer in av_open_input_stream when avformat_open_input fails

Signed-off-by: David Goldwich <david.goldwich@gmail.com>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

doc/APIChanges: fill in missing hashes and dates.

lavfi: add select filter

Signed-off-by: Anton Khirnov <anton@khirnov.net>

oggdec: fix out of bound write in the ogg demuxer

Between ogg_save() and ogg_restore() calls, the number of streams
could have been reduced.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

movenc: create an alternate group for each media type

Partially fixes bug 44.

lavd: add libcdio-paranoia input device for audio CD grabbing

rawdec: refactor private option for raw video demuxers

pixel_format/video_size only apply to 'rawvideo' (==uncompressed) demuxer
and make no sense for the other raw (== containerless) demuxers. Keep
only the framerate option for those.

Also use unique classes for all raw video demuxers

pcmdec: use unique classes for all pcm demuxers.

rawdec: g722 is always 1 channel/16kHz

libx264: introduce slice-max-size option

Yet another option useful for low latency streaming.

Fixed size given to init_get_bits().

init_get_bits() takes a number of bits and not a number of bytes as
its size argument.

Signed-off-by: Alex Converse <alex.converse@gmail.com>

swscale: fix byte overreads in SSE-optimized hscale().

SSE-optimized hScale() scales up to 4 pixels at once, so we need to
allocate up to 3 padding pixels to prevent overreads. This fixes
valgrind errors in various swscale-tests on fate.

matroskadec: fix typo.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

matroskadec: bail on parsing of incorrect seek index segments

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavf utils: Remove write-only variable

lavf utils: Rename shadowing variable

smacker: fix a few off by 1 errors

stereo & 16bit is untested due to lack of samples

Signed-off-by: Martin Storsjö <martin@martin.st>

Check for invalid VLC value in smacker decoder.

Signed-off-by: Martin Storsjö <martin@martin.st>

Check and propagate errors when VLC trees cannot be built in smacker decoder.

Signed-off-by: Martin Storsjö <martin@martin.st>

sws: implement MMX/SSE2/SSSE3/SSE4 versions for horizontal scaling.

Speed: from 3.9x to 9.6x speed improvement over C, and some small
(up to 15%) speed improvements over existing MMX code (particularly
for bigger filters).

include stdint.h in adpcm_data.h

fixes make checkheaders

mpeg12: reorder functions to avoid ugly forward declarations

Fixed off by one packet size allocation in the smacker demuxer.

Signed-off-by: Martin Storsjö <martin@martin.st>

Check for invalid packet size in the smacker demuxer.

Signed-off-by: Martin Storsjö <martin@martin.st>

ape demuxer: fix segfault on memory allocation failure.

Signed-off-by: Anton Khirnov <anton@khirnov.net>