mpegvideo_enc: fix a signed overflow

Signed-off-by: Mans Rullgard <mans@mansr.com>

crc: fix signed overflow

This fixes a signed overflow from i << 24 when i == 255 by
making i unsigned.  The result of the shift is already
assigned to an variable of unsigned type.

Signed-off-by: Mans Rullgard <mans@mansr.com>

fate: run avconv with -nostats flag

Signed-off-by: Mans Rullgard <mans@mansr.com>

avtools: add -v as alias for -loglevel

This saves a bit of typing.

Signed-off-by: Mans Rullgard <mans@mansr.com>

avconv: always print stats with AV_LOG_INFO

It's now possible to disable printing stats during encoding with
-nostats, so there's no reason to print them differently depending on
whether it's last report or not.

doc/avconv: add forgotten output/per-stream info to -filter

avconv: add -stats option to enable/disable printing encoding progress

avconv: in output_packet() don't set decoded_data_size for video.

It's only used for audio.

avconv: remove pointless always true condition

avconv: factorize common code in transcode_init()

zmbv: remove memcpy() of decoded frame

Signed-off-by: Mans Rullgard <mans@mansr.com>

mpeg12enc: use sign_extend() function

Signed-off-by: Mans Rullgard <mans@mansr.com>

h264pred: use unsigned types for pixel values, fix signed overflows

Signed-off-by: Mans Rullgard <mans@mansr.com>

h264: fix signed overflows in x*0x01010101 expressions

Signed-off-by: Mans Rullgard <mans@mansr.com>

h264pred: remove unused variables

Signed-off-by: Mans Rullgard <mans@mansr.com>

lavf: fix signed overflow in avformat_find_stream_info()

On the first iteration through this code, last_dts is always
INT64_MIN (AV_NOPTS_VALUE) and the subtraction overflows in
an invalid manner.  Although the result is only used if the
input values are valid, performing the subtraction is still
not allowed in a strict environment.

Signed-off-by: Mans Rullgard <mans@mansr.com>

vp8: fix signed overflows

In addition to avoiding undefined behaviour, an unsigned type
makes more sense for packing multiple 8-bit values.

Signed-off-by: Mans Rullgard <mans@mansr.com>

motion_est: fix some signed overflows

Signed-off-by: Mans Rullgard <mans@mansr.com>

dca: fix signed overflow in shift

Signed-off-by: Mans Rullgard <mans@mansr.com>

aacdec: fix undefined shifts

Since nnz can be zero, this is needed to avoid a shift by 32.

Signed-off-by: Mans Rullgard <mans@mansr.com>

bink: Check for various out of bound writes

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

bink: Check for out of bound writes when building tree

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

put_bits: fix invalid shift by 32 in flush_put_bits()

If flush_put_bits() is called when the 32-bit buffer is empty,
e.g. after writing a multiple of 32 bits, and invalid shift by
32 is performed.  Since flush_put_bits() is called infrequently,
this additional check should have negligible performance impact.

Signed-off-by: Mans Rullgard <mans@mansr.com>

mpegps: Use av_get_packet() instead of poorly emulating it.

motionpixels: decode only the 111 complete frames for fate

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

mpc8: Check out of bound bands limit

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

xan: Prevent NULL dereference with missing palette

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

xan: Check for out of bound reads in xan_huffman_decode()

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

xan: Fixed out of bound accesses in xan_unpack()

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

motionpixels: Prevent calling init_vlc() with invalid parameters

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

shorten: Fix out of bound writes in fix_bitshift()

The data pointers s->decoded[*] already take into account s->nwrap.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

dsicinav: Check for out of bounds writes

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

tiertexseqv: Check for out of bound reads

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

quickdraw: Check for out of bound reads

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

dsicinav: Check for out of bounds reads

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

motionpixels: Fix the size of workspace buffers

Some buffers must be mod 4 in width and/or height.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

motionpixels: Clear FF_INPUT_BUFFER_PADDING_SIZE bytes at the end of the temporary buffer

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

wmavoice: Check for corrupted extra data

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

wmavoice: Check for out of bound writes

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

xan: Prevent NULL dereferences with missing reference frame

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

bink: Prevent NULL dereferences with missing reference frame

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

wavpack: Reset internal state on corrupted blocks

wavpack_decode_block() supposes that it is called back with the exact
same buffer unless it has returned with an error. With multi-channels
files, wavpack_decode_frame() was breaking this assumption.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

wmapro: Validate the number of audio channels before using it

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

mpc8: Fix return value on EOF

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

shorten: Prevent block size from increasing

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

xan: Prevent out of bound accesses

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

H264: Only wait before triggering ff_thread_setup_complete() until the next slice that contains a start-of-field/frame macroblock

This allows concurrent decoding of the last field/frame, rather than
only the last slice, of data packets with multiple NAL units packed
together.

This will fix the slowdown reported in e.g. bug 52.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vp6: Reset the internal state when aborting key frames header parsing

It prevents leaving the state only half initialized.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

vp56: Release old pictures after a resolution changes

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

vp6: Check for huffman tree build errors

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

vp56: Check for missing reference frame data

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

cinepak: Fix invalid read access on extra data

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

vmd: fix segfaults on corruped streams

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

cook: Fix js_vlc_bits value validation for joint stereo

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

segafilm: Check for memory allocation failures in segafilm demuxer.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

segafilm: Fix potential division by 0 on corrupted streams in the demuxer

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

Fixed segfault on corrupted sega streams in the demuxer.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

Fixed deference of NULL pointer in motionpixels decoder.

Some of the arguments given to init_vlc() come from the stream
and can be corrupted.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

libx264: support 9- and 10-bit output.

h264: correct implicit_weight for field-interlaced pictures.

mpegvideo: set correct offset for edge emulation buffer.

Using the old code, half of it was unused and the other half was too
small for e.g. >8bpp interlaced data, causing random buffer overruns.

mpegvideo: fix position of bottom edge.

It was wrong in colorspaces where horizontal and vertical chroma
subsampling are not the same, e.g. 422.

Fix 'heigth' vs. 'height' typos.

lavc/lavf: use unique private classes.

This is needed by the new AVOptions API.

lavc: use designated initializers for av_codec_context_class

qcelpdec: cosmetics: do not add line break before opening bracket in 'for',
'while', 'if/else', and 'switch' statements.

also fixes some spacing, but only if already changing a line

qcelp: check output buffer size before decoding

qcelpdec: fix the return value of qcelp_decode_frame().

Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

sipr: fix the output data size check and only calculate it once.

Synchronize various 4CCs and codec tags from FFmpeg.

qdm2: check output buffer size before decoding

Fix out of bound reads in the QDM2 decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

Check for out of bound writes in the QDM2 decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

ogg/celt: do not set sample_fmt in the demuxer

id3v2: remove pointless casts

id3v2: read TXXX frames with two calls to decode_str() instead of one.

Read the key in the first, value in the second.

This allows to avoid pointless strdups and simplify decode_str() by
dropping two of its parameters.

id3v2: don't discard the whole tag when encountering empty frames.

While they're technically invalid, it's better to skip them and try to
read the rest of the tag.

libvpx: fix build with older libvpx versions.

VPX_ERROR_RESILIENT_DEFAULT and VPX_ERROR_RESILIENT_PARTITIONS weren't
defined before 4cb0ebe5b27d35ccc2a78c1d16f2622ddef21f74 (CommitDate: Tue
Jun 28 11:10:17 2011)

ARM: check for inline asm 'y' operand modifier support

The inline asm added in bf5d46d uses the 'y' modifier which
is only supported from gcc 4.5.  This check allows building
with older compilers.

Signed-off-by: Mans Rullgard <mans@mansr.com>

mpc8: check output buffer size before decoding

mpc7: return error if packet is too small.

mpc7: check output buffer size before decoding

nellymoserdec: allocate float_buf only when decoding to int16

nellymoserdec: use NELLY_BUF_LEN instead of 128

nellymoserdec: use NELLY_BLOCK_LEN instead of 64 when appropriate.

nellymoserdec: allow user to request SAMPLE_FMT_FLT for output samples.

nellymoser: check output buffer size before decoding

win32: improve threading algorithm warning

If no threading is requested do not issue warning about unsupported
threading algorithm.

lavc: add video/audio/encoding flags to global_quality option

libvpxenc: use libvpx's own defaults for some parameters

Specifically, qmin/qmax, gop_size and keyint_min.

Fixes bug 47.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vpxenc: add private options

Make libvpx support close to the libx264 one. Thanks to
Jan Gerber <j@v2v.cc> for the support.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

dpcm: return error if packet is too small

dpcm: use smaller data types for static tables

dpcm: use sol_table_16 directly instead of through the DPCMContext.

dpcm: replace short with int16_t

dpcm: check to make sure channels is 1 or 2.

dpcm: misc pretty-printing

dpcm: remove unnecessary variable by using bytestream functions.

Uses 'buf' directly instead of a separate iterator variable 'in'.

dpcm: move codec-specific variable declarations to their corresponding decoding blocks.

dpcm: consistently use the variable name 'n' for the next input byte.