ws_snd: make sure number of channels is 1

ws_snd: add some checks to prevent buffer overread or overwrite.

ws_snd: decode to AV_SAMPLE_FMT_U8 instead of S16.

8-bit unsigned is the native sample format.

flacdec: fix buffer size checking in get_metadata_size()

Adds an additional check before reading the next block header and avoids a
potential integer overflow when checking the metadata size against the
remaining buffer size.

rtp: Simplify ff_rtp_get_payload_type

Signed-off-by: Martin Storsjö <martin@martin.st>

rtpenc: Add a payload type private option

Specifying the payload type is useful when the type number has
already been negotiated before creating the stream, for example
in SIP protocol.

Signed-off-by: Martin Storsjö <martin@martin.st>

rtp: Correct ff_rtp_get_payload_type documentation

Since 0c378ea1f, it can't fail anymore.

Signed-off-by: Martin Storsjö <martin@martin.st>

avconv: replace all fprintf() by av_log().

Deprecate -v option, now only -loglevel is enough.

avconv: change av_log verbosity from ERROR to FATAL for fatal errors.

cmdutils: replace fprintf() by av_log()

This way, all messages can be easily disabled with -loglevel.

Behavior change -- configuration is printed with AV_LOG_VERBOSE, so it's
not shown by default.

avtools: parse loglevel before all the other options.

This way it can be applied to cmdutils too -- e.g. showing the banner
and printing startup messages.

oggdec: add support for Xiph's CELT codec

This patch also introduces CODEC_ID_CELT.

Signed-off-by: Nicolas George <nicolas.george@normalesup.org>
Signed-off-by: Diego Biurrun <diego@biurrun.de>

sol: return error if av_get_packet() fails.

This prevents sending a packet with data=NULL size=AVERROR_EOF.

cosmetics: reindent and pretty-print

libgsm: split init and close fuctions for encoder and decoder.

The decoder shouldn't be allocating coded_frame. It's also cleaner to split
them than to check avctx->codec->encode and avctx->codec->decode.

ppc: fix some pointer to integer casts

Use uintptr_t instead of plain int.  Without this change, the
comparisons will come out wrong for pointers in certain ranges.
Fixes random failures on ppc64.  Also fixes some compiler warnings.

Signed-off-by: Mans Rullgard <mans@mansr.com>

ppc: fix 32-bit PIC build

On 32-bit ppc, the GOT pointer must be loaded manually.
This adds a "get_got" assembler macro to compute the
GOT address.  The "movrel" macro is updated to take an
additional parameter containing the GOT address since
no register is reserved for this purpose on ppc32.
These changes have no effect on ppc64 builds.

Signed-off-by: Mans Rullgard <mans@mansr.com>

vmdaudio: fix decoding of 16-bit audio format.

The initial sample of each block is raw 16-bit PCM, not DPCM.
Fixes decoding of all samples in:
http://streams.videolan.org/samples/game-formats/sierra-vmd/Lighthouse/

lavf: do not set codec_tag for rawvideo

If the demuxer did not set a codec_tag, there is none and
inventing one makes no sense.  This change stops the rawvideo
"decoder" over-writing user-supplied pixfmt with one derived
from the codec_tag.  The pixfmt-codec_tag-pixfmt round-trip
is lossy since several pixfmts map to the same codec_tag.

This fixes fate-lavf-pixfmt with avfilter disabled.

Signed-off-by: Mans Rullgard <mans@mansr.com>

h264: check for out of bounds reads in ff_h264_decode_extradata().

Signed-off-by: Anton Khirnov <anton@khirnov.net>

flvdec: Check for overflow before allocating arrays

On allocation, the array length is multiplied by sizeof(int64_t),
this prevents the multiplication from overflowing.

Signed-off-by: Martin Storsjö <martin@martin.st>

avconv: use correct output stream index when checking max_frames

avconv: remove fake coded_frame on streamcopy hack

Back in 2002 when it was added, some muxers used information from
coded_frame. It's not true anymore, so this hack is useless and can be
removed.

flvdec: Fix invalid pointer deferences when parsing index

Signed-off-by: Martin Storsjö <martin@martin.st>

configure: disable hardware capabilities ELF section with suncc on Solaris x86

When using suncc to build, the Solaris linker will mark
an executable with each instruction set encountered by
the Solaris assembler.  As our libraries contain their own
guards for processor-specific code, instead suppress
generation of the HWCAPS ELF section on Solaris x86 only.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

Use explicit struct initializers for AVCodec declarations.

Use explicit struct initializers for AVOutputFormat/AVInputFormat declarations.

adpcmenc: Set bits_per_coded_sample

adpcmenc: fix QT IMA ADPCM encoder

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

adpcmdec: Fix QT IMA ADPCM decoder

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

permit decoding of multichannel ADPCM_EA_XAS

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Fix input buffer size check in adpcm_ea decoder.

Unfortunately the output buffer size check assumes that the
input buffer is never over-consumed, thus this actually
also allowed to write outside the output buffer if "lucky".

Based on:
git.videolan.org/ffmpeg.git
commit 701d0eb185192542c4a17f296e39e37cedf7abc6

fft: avoid a signed overflow

As a signed integer, 1<<31 overflows, so force it to unsigned.

Signed-off-by: Alex Converse <alex.converse@gmail.com>

mpegps: Handle buffer exhaustion when reading packets.

rtp: factorize  dynamic payload type fallback

Move the identical code in rtp_write_header() and
ff_sdp_write_media() inside ff_rtp_get_payload_type()

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

flvdec: Ignore the index if it's from a creator known to be different

Signed-off-by: Martin Storsjö <martin@martin.st>

cmdutils: move grow_array out of #if CONFIG_AVFILTER

fixes programs linking with --disable-avfilter

avconv: actually set InputFile.rate_emu

ratecontrol: update last_qscale_for sooner

In order to make ratecontrol converge properly update the
last_qscale_for values when populating the qscale array.

It fixes the issue reported on
http://lists.libav.org/pipermail/libav-tools/2011-September/000050.html

Fix unnecessary shift with 9/10bit vertical scaling

Signed-off-by: Diego Biurrun <diego@biurrun.de>

prores: mark prores as intra-only in libavformat/utils.c:is_intra_only()

prores: return more meaningful error values

prores: improve error message wording

prores: cosmetics: prettyprinting, drop useless parentheses

prores: lowercase AVCodec name entry

All other codecs use lowercase names in that field.

Add LATM demuxer

This is a raw demuxer for the AAC LATM decoder and thus limited to
single stream LOAS.

avplay: flush audio decoder with empty packets at EOF if the decoder has
CODEC_CAP_DELAY set.

8svx/iff: fix decoding of compressed stereo 8svx files.

Make the iff demuxer send the whole audio chunk to the decoder as a
single packet and move stereo interleaving from the iff demuxer to the
decoder.

Based on a patch by Stefano Sabatini.
git.videolan.org/ffmpeg.git
commit e280a4da2ae6fd44f0079358ecc5aa08e388a5ed

8svx: log an error message if output buffer is too small

Based on a patch by Stefano Sabatini.
git.videolan.org/ffmpeg.git
commit e280a4da2ae6fd44f0079358ecc5aa08e388a5ed

8svx: check packet size before reading the initial sample value.

8svx: output 8-bit samples instead of 16-bit.

Based on a patch by Stefano Sabatini.
git.videolan.org/ffmpeg.git
commit e280a4da2ae6fd44f0079358ecc5aa08e388a5ed

8svx: split delta decoding into a separate function.

Based on a patch by Stefano Sabatini.
git.videolan.org/ffmpeg.git
commit e280a4da2ae6fd44f0079358ecc5aa08e388a5ed

mp4: Don't read an empty Decoder Config Descriptor

fate.sh: Ignore errors from rm command during cleanup.

The install directory being deleted might not be present if the build failed.
This can lead to annoying error output if the FATE client is run as a cronjob.

fate.sh: Run git-pull in quiet mode to avoid console spam.

Since fate.sh can be run from cron, silent commands are preferrable.

Apple ProRes decoder

Signed-off-by: Martin Storsjö <martin@martin.st>

rtmp: Make the input FLV parser handle data cut at any point

This makes the RTMP writing code able to handle FLV data
fed in arbitrarily small or large chunks, with multiple
consecutive packets in one write call, or having the FLV
packet header split over numerous write calls.

When used in conjunction with the flv muxer, the AVIO buffer
size still needs to be large enough to fit the initial metadata
packet though, since the size of that packet is written with a
seekback.

Signed-off-by: Martin Storsjö <martin@martin.st>

rv34: Check for invalid slices offsets

Signed-off-by: Martin Storsjö <martin@martin.st>

eval: test isnan(sqrt(-1)) instead of just sqrt(-1)

sqrt(-1) returns "some NaN", it's not specified which exactly.

swfdec: Add support for sample_rate_code 0 (5512 Hz)

dct-test: factor out some common code and do whas was likely intended

This fixes some nonsensical code by moving some should-be-shared
code to separate functions and using these.

Signed-off-by: Mans Rullgard <mans@mansr.com>

doc: library versions need to be bumped in version.h

Revert "ffmpeg: get rid of useless AVInputStream.nb_streams."

This reverts commit 2cf8355f98681bdd726b739008acd5483f82f8d7.
AVInputStream.nb_streams tracks number of streams found at the
beginning, new streams may appear that ffmpeg doesn't know about. Fixes
crash in this case.

Remove some forgotten AVCodecContext.palctrl usage.

lavc/utils: move avcodec_init() higher in the file.

Fixes build on next major bump.

lavc: replace some deprecated FF_*_TYPE with AV_PICTURE_TYPE_*

ac3dec: actually use drc_scale private option

lavc: undeprecate AVPALETTE_SIZE and AVPALETTE_COUNT macros

They are still being used and shouldn't be removed.

alsa: add missing header

Fixes compile with next lavc major.

msmpeg4: remove leftover unused debug variable declaration

Fix assert() calls that need updates after FF_COMMON_FRAME macro elimination.

This fixes build failures with -DDEBUG in CPPFLAGS.

Fix av_dlog invocations with wrong or missing logging context.

This fixes build failures with -DDEBUG in CPPFLAGS.

vf_yadif: add support to yuva420p

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vf_yadif: correct documentation on the parity parameter

0 is top-field-first, 1 is bottom-field-first, not the other way
around.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vf_yadif: copy buffer properties like aspect for second frame as well

Signed-off-by: Anton Khirnov <anton@khirnov.net>

oma: support for encrypted files

Signed-off-by: David Goldwich <david.goldwich@gmail.com>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

id3v2: add support for non-text and GEOB type tag frames

This extends the ID3v2 parser to allow for reading of non-text (i.e.
other than T***) meta tag frames providing a ff_id3v2_read_all()
function. An additional data structure 'ID3v2ExtraMeta' is introduced
for these tags since AVDictionary is string oriented and unsuitable
for binary data.

A parser for tag frames of type GEOB is implemented, which is needed
to extract keyring information from encrypted OMA files. GEOB data
is parsed into 'ID3v2ExtraMetaGEOB' data structures.

The routine to decode characters from different encodings to UTF-8,
formerly part of the read_ttag() function, is moved to its own
function. Because some tag frames contain subparts of unknown length,
the function is now also able to read until a null character is found.
In addition, the function now takes care of allocating a buffer long
enough to hold the decoded characters.

Signed-off-by: David Goldwich <david.goldwich@gmail.com>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

des: add possibility to calculate DES-CBC-MAC with small buffer

This patch adds the possibility to calculate the DES-CBC-MAC of a
source buffer (i.e. the last block of the buffer encrypted in CBC
mode) without having to allocate a destination buffer that is as
long as the complete source buffer, but instead only 8 bytes
for the MAC.

Signed-off-by: David Goldwich <david.goldwich@gmail.com>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

rtmp: Don't blindly skip the 4 trailer bytes from the FLV packets

If not enough bytes are available, keep track of them and skip
them on next call.

In practice, if these trailer bytes are written in a separate
call, there is no other data written in this call, making it
fall into the "FLV packet too small" case currently - working,
but not as intended.

This patch makes the code more robust, handling all cases
except for having the FLV packet header split over multiple
write calls.

Signed-off-by: Martin Storsjö <martin@martin.st>

rtmp: Handle FLV packets written in more than one write call

If the FLV packet is larger than the AVIO buffer, a partial
FLV packet will be flushed to the RTMP protocol.

This commit handles the most common cases of FLV packets
being written in more than one call.

Signed-off-by: Martin Storsjö <martin@martin.st>

rv34: Check for invalid slice offsets

Signed-off-by: Martin Storsjö <martin@martin.st>

movenc: fix NULL reference in mov_write_tkhd_tag

st may be NULL when there are more mov streams than AVStreams, e.g. when
chapters are present.

rmdec: Reject invalid deinterleaving parameters

Signed-off-by: Martin Storsjö <martin@martin.st>

rv34: Fix potential overreads

Signed-off-by: Martin Storsjö <martin@martin.st>

rv34: Fix buffer size used for MC of B frames after a resolution change

Signed-off-by: Martin Storsjö <martin@martin.st>

rv34: Avoid NULL dereference on corrupted bitstream

rv34_decode_slice() can return without allocating any pictures.

Signed-off-by: Martin Storsjö <martin@martin.st>

rv10: Reject slices that does not have the same type as the first one

This prevents crashes with some corrupted bitstreams.

Signed-off-by: Martin Storsjö <martin@martin.st>

vf_yadif: add an option to enable/disable deinterlacing based on src frame "interlaced" flag

Signed-off-by: Joakim Plate <elupus@ecce.se>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

vsrc_color: set output pos values to -1

-1 is more correct than 0, as the position in the file is undefined.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vsrc_color: add @file doxy

Also remove outdated reference to color in vf_pad.c.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vsrc_buffer: remove duplicated file description

Signed-off-by: Anton Khirnov <anton@khirnov.net>

eval: implement not() expression

eval: add sqrt function for computing the square root

rmdec: use the deinterleaving mode and not the codec when creating audio packets.

It prevents crashes due to non initialized fields.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavf: Fix context pointer in av_open_input_stream when avformat_open_input fails

Signed-off-by: David Goldwich <david.goldwich@gmail.com>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

doc/APIChanges: fill in missing hashes and dates.

lavfi: add select filter

Signed-off-by: Anton Khirnov <anton@khirnov.net>

oggdec: fix out of bound write in the ogg demuxer

Between ogg_save() and ogg_restore() calls, the number of streams
could have been reduced.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

movenc: create an alternate group for each media type

Partially fixes bug 44.

lavd: add libcdio-paranoia input device for audio CD grabbing