mjpegdec: K&R formatting cosmetics

Signed-off-by: Diego Biurrun <diego@biurrun.de>

swscale: K&R formatting cosmetics for code examples

swscale: K&R reformatting cosmetics for header files

FATE test: cvid-grayscale; ensures that the grayscale Cinepak variant is exercised.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

bfi: Use bytestream2 functions to prevent buffer overreads.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

dpcm: Fix invalid writes

Fixes bug: #152

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

utvideo: frame multithreading.

>> time ./avconv -i file.avi -f null -
Before : real 0m7.784s
After  : real   0m3.662s

Tested on a Intel Core i3 Processor (2 cores, 4 threads).

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

vorbis: An additional defense in the Vorbis codec.

Fixes Bug: #190
Chromium Bug: #100543
Related to CVE-2011-3893

Signed-off-by: Reinhard Tartler <siretart@tauware.de>

vorbisdec: Fix decoding bug with channel handling

Fixes Bug: #191
Chromium Bug: #101458
CVE-2011-3895

Signed-off-by: Reinhard Tartler <siretart@tauware.de>

cabac: Move code only used within the CABAC test program into the test program.

vp56: Drop unnecessary cabac.h #include.

h264-test: Initialize AVCodecContext.av_class.

This fixes a segfault on startup.

Also remove a commented-out and completely unused variable.

build: Skip compiling network.h and rtsp.h if networking is not enabled.

rtsp.h relies on network.h and the latter conditionally defines fallback OS
structures that rely on configure tests, which are only run if networking
is enabled.

cosmetics: drop some pointless parentheses

Disable annoying warning without changing behavior

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

faq: Solutions for common problems with sample paths when running FATE.

avcodec: attempt to clarify the CODEC_CAP_DELAY documentation

avcodec: fix avcodec_encode_audio() documentation.

the previous documentation indicated how many bytes are read from the input,
not how many samples are read.

FATE: xmv-demux test; exercise the XMV demuxer without decoding the perceptual codecs inside.

Code coverage:
libavformat/xmv.c: 3% -> 91%

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

vqf: recognize more metadata chunks

Do not create tags for non-char chunks.
Create readable tag for DSIZ chunk.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

FATE test: BMV demuxer and associated video and audio decoders.

Code coverage:
libavcodec/bmv.c: 0% -> 75%
libavformat/bmv.c: 0% -> 85%

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

FATE: indeo4 video decoder test.

Code coverage:
libavcodec/indeo4.c: 0% -> 78%

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

FATE: update xxan-wc4 test to a sample with more code coverage.

The previous sample used for this test only contained type 0 frames.
Replace it with a sample that also features type 1 frames.
Code coverage:
libavcodec/xxan.c: 72% -> 89%

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

Change the recent h264_mp4toannexb bitstream filter test to output to an elementary stream rather than a program stream.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

g722enc: validate AVCodecContext.trellis

g722enc: set frame_size, and also handle an odd number of input samples

The fate reference is updated because the previous test skipped a sample in
each encode() call due each input frame having an odd number of samples.

g722enc: split encoding into separate functions for trellis vs. no trellis

mpegaudiodec: Use clearer pointer math

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

tta: Fix returned error code at EOF

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

tta: fix off be 1 error in the end detection.
Fixes use of uninitialized values.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

tta: fix 24-bit decoding.

Decode to the correct output buffer.

ipmovie: Add param change side data if the video dimensions have changed

Signed-off-by: Martin Storsjö <martin@martin.st>

interplayvideo: Handle changed video dimensions on the fly

Signed-off-by: Martin Storsjö <martin@martin.st>

libavcodec: Handle param change side data in avcodec_decode_video2, too

Also call avcodec_set_dimensions on dimension param change packets.

Signed-off-by: Martin Storsjö <martin@martin.st>

libavcodec: Move apply_param_change up above avcodec_decode_video2

This is in preparation to calling it from avcodec_decode_video2.

Signed-off-by: Martin Storsjö <martin@martin.st>

indeo3: check motion vectors for validity

Fixes null pointer dereferences in fuzzed files found by Oana Stratulat.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

indeo5: Fix null pointer dereference.

Bug found by: Oana Stratulat

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

electronicarts: check bytes per sample for validity

Prevents division by zero.

flicvideo: fix invalid reads

Prevent invalid reads using bytestream2 functions.
Fixes bug #126.

Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

vorbis: Avoid some out-of-bounds reads

Fixes Bug: #190
Chromium Bug: #100543
Related to CVE-2011-3893

Signed-off-by: Reinhard Tartler <siretart@tauware.de>

vqf: add more known extensions

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

cabac: remove unused function renorm_cabac_decoder

h264: Only use symbols from the SVQ3 decoder under proper conditionals.

Fixes --disable-everything --enable-decoder=h264 --disable-optimizations.

add bytestream2_tell() and bytestream2_seek() functions

parsers: initialize MpegEncContext.slice_context_count to 1

The mpeg4 video, H264 and VC-1 parser hold (directly or indirectly)
a MpegEncContext in their private context. Since they do not call the
common mpegvideo init function slice_context_count has explicitly set
to 1.
Prevents a null pointer dereference in the h264 parser and fixes
bug 193.

spdifenc: use special alignment for DTS-HD length_code

Align IEC 61937 length_code for DTS-HD so that
(length_code & 0xf) == 0x8. This is reportedly needed with some
receivers.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

ipmovie: do not read audio packets before the codec is known

Prevents a division by zero.

truemotion2: check size before GetBitContext initialisation

Prevents null ptr derefence for negative sizes.

avio: Only do implicit network initialization for network protocols

The implicit network initialization is set to be removed in the
future, but is kept for compatibility. By not doing the implicit
initialization for non-network protocols, we avoid the warning
about avformat_network_init() not being called for these, where
it really doesn't make much sense.

Signed-off-by: Martin Storsjö <martin@martin.st>

avio: Add an URLProtocol flag for indicating that a protocol uses network

This definition is in two files, since the definitions will move
to the private header at the next bump.

Signed-off-by: Martin Storsjö <martin@martin.st>

adpcm: ADPCM Electronic Arts has always two channels

matroskadec: Fix a bug where a pointer was cached to an array that might later move due to a realloc()

Fixes bug #190
Chromium bug #100492
related to CVE-2011-3893

Signed-off-by: Reinhard Tartler <siretart@tauware.de>

fate: Add missing reference file from 9b4767e4.

mov: Support MOV_CH_LAYOUT_USE_DESCRIPTIONS for labeled descriptions.

4xm: Prevent buffer overreads.

4xm decoder while decoding i2 frames can overread the buffer if proper checks
are not made.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

mjpegdec: parse RSTn to prevent skipping other data in mjpeg_decode_scan

Check explicitly if enough bits are left to prevent an infinite loop
when the bitstream buffer is not followed by zero-padding.

Based on patches by Michael Niedermayer <michaelni@gmx.at>.

vp3: add fate test for non-zero last coefficient

vp3: fix streams with non-zero last coefficient

Fixes a regression introduced in 8b94df0f2047e972.

swscale: remove unused U/V arguments from yuv2rgb_write().

Also document the function somewhat.

timer: K&R formatting cosmetics

lavf: cosmetics, reformat av_read_frame().

lavf: refactor av_read_frame() to make it easier to understand.

Report an error if pitch_lag is zero in AMR-NB decoder.

This fixes an infinite loop in the decoder on specially
crafted files, and fixes bug 151.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

Revert "4xm: Prevent buffer overreads."

This reverts commit 295a7c0238e84b0ffa8f21ed938d45f51f54a4cd. The
patch breaks decoding of regular files (e.g. fate-4xm-2).

4xm: Prevent buffer overreads.

4xm decoder while decoding i2 frames can overread the buffer if proper checks
are not made.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

4xm: pass the correct remaining buffer size to decode_i2_frame().

frame_size is the number of bytes left in the packet, so if we are passing
buf-4 we can safely read frame_size+4 bytes.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

4xm: fix calculation of the next output line position in decode_i2_frame().

The current code doesn't work unless width is an exact multiple of 16.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

mtv: Make sure audio_subsegments is not 0

audio_subsegments would be 0 and cause floating point exceptions
Fixes bugzilla #144

Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

v4l2: use V4L2_FMT_FLAG_EMULATED only if it is defined

V4L2_FMT_FLAG_EMULATED was added in 2.6.32.

avconv: add symbolic names for -vsync parameters

flvdec: Fix compiler warning for uninitialized variables

These can't be used uninitialized in practice, but the
compiler doesn't realize it.

Signed-off-by: Martin Storsjö <martin@martin.st>

rtsp: Fix compiler warning for uninitialized variable

This one won't ever be used uninitialized in practice, but
the compiler doesn't realize it.

Signed-off-by: Martin Storsjö <martin@martin.st>

ulti: convert to new bytestream API.

swscale: Use standard multiple inclusion guards in ppc/ header files.

Place some START_TIMER invocations in separate blocks.

This fixes compilation failures related to START_TIMER/STOP_TIMER macros and
-Werror=declaration-after-statement.  START_TIMER declares variables and thus
may not be placed after statements outside of a new block.

v4l2: list available formats

Make use of the experimental framesize enumeration ioctl if available.

v4l2: set the proper codec_tag

Unbreak direct streamcopy.

v4l2: refactor device_open

Check capabilities directly in the function, further simplify the code.

v4l2: simplify away io_method

Only mmap is supported.

v4l2: cosmetics

v4l2: uniform and format options

v4l2: do not force interlaced mode

Video4linux2 supports both interlaced and non-interlaced mode, do not
ask for interlaced if not necessary.

avio: exit early in fill_buffer without read_packet

Fixes an invalid free() with ass in avi. The sample in bug 98 passes
parts of AVPacket.data as buffer for the AVIOContext. Since the packet
is quite large fill_buffer tries to reallocate the buffer before doing
nothing. Fixes bug 98.

vc1dec: fix invalid memory access for small video dimensions

For small video dimensions, these calculations of the upper bound
for pixel access may have a negative result. Using an unsigned
comparison to bound a potentially negative value only works if
the greater operand is non-negative. Fixed by doing edge emulation
when the upper bound is probably negative, everywhere that this
pattern appears.

Signed-off-by: Kostya Shishkov <kostya.shishkov@gmail.com>

rv34: fix invalid memory access for small video dimensions

For small video dimensions calculations of the upper bound for pixel
access may result in negative value. Using an unsigned comparison
works only if the greater operand is non-negative. This is fixed by
doing edge emulation explicitly for such conditions.

Signed-off-by: Kostya Shishkov <kostya.shishkov@gmail.com>

rv34: joint coefficient decoding and dequantization

Perform dequantization while decoding coefficients instead of performing it
on the entire coefficients buffer.

Since quantized coefficients are very sparse, this usually causes a small
speedup. Speedup of around 1% on Panda board compared to the removed here
neon code. Global speedup is probably around 3%.

Signed-off-by: Kostya Shishkov <kostya.shishkov@gmail.com>

avplay: Don't call avio_set_interrupt_cb(NULL)

Since we don't use avio_set_interrupt_cb for interrupt callbacks,
we don't need to call it to reset the interrupt cb either.

This avoids a warning about use of deprecated functions.

Signed-off-by: Martin Storsjö <martin@martin.st>

swscale: remove obsolete comment.

swscale: split scale.asm.

scale.asm keeps horizontal scaling functions, whereas output.asm gets
the vertical scaling/output functions.

swscale: don't show full-chroma-int warning for non-RGB output.

Non-RGB output always uses full chroma interpolation.

swscale: add MMX files to MMX-OBJS instead of OBJS.

h264: return index in buffer on end-of-sequence.

Fixes hangs if the last packet contains an end-of-sequence NAL unit,
bug 158.

Merge some declarations and initializations.

This fixes compilation failures related to START_TIMER/STOP_TIMER macros and
-Werror=declaration-after-statement.  START_TIMER declares variables and thus
may not be placed after statements outside of a new block.

cabac: drop unused and disabled get_cabac_u() / get_cabac_ueg() functions

cabac: drop unused STRICT_LIMITS code branch

libspeexenc: fix pts calculations for more than 1 frame per packet

adxdec: clear eof flag and channel states when seeking

fate: add ADX encoding/decoding test

adx: add an adx muxer

adxenc: check output buffer size before writing