v4l2: use C99 struct initializer

Remove some unneeded memsets.

v4l2: poll the file descriptor

Instead of busy waiting use poll();

v4l2: support compressed formats

Let pass the codec name to -pixel_format and introduce -input_format.

kmvc: Use bytestream2 functions to prevent buffer overreads.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

fate: Add tests for more AAC features.

al15_44 uses independent coupling.
al18_44 uses PNS (perceptual noise substitution).
am05_44 uses main prediction and independent coupling.

Signed-off-by: Alex Converse <alex.converse@gmail.com>

aacps: Add missing newline in error message.

fate: Add tests for vc1/wmapro in ism.

aacdec: Add a fate test for 5.1 channel SBR.

aacdec: Turn off PS for multichannel files that use PCE based configs.

Fixes al_sbr_cm_48_5.1.mp4.

cabac: remove put_cabac_u/ueg from cabac-test.

The functions are not used in any part of Libav, therefore testing them in the
cabac-test is unnecessary. Since this makes them unused, remove the functions.

swscale: RGB4444 and BGR444 input

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

FATE: add test for xWMA demuxer.

(Does not attempt to decode percetual audio data inside.)
Code coverage: libavformat/xwma.c: 3% -> 75%

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

FATE: add test for SMJPEG demuxer and associated IMA ADPCM audio decoder.

(Don't attempt to decode JPEG data.)
Code coverage: libavformat/smjpeg.c: 0% -> 69%
libavcodec/adpcm.c: 0% -> 10% (fresh run); 92.4% -> 93% following a FATE run

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

mpegaudiodec: optimized iMDCT transform

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

mpegaudiodec: change imdct window arrangment for better pointer alignment

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

mpegaudiodec: move imdct and windowing function to mpegaudiodsp

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

mpegaudiodec: interleave iMDCT buffer to simplify future SIMD implementations

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

swscale: convert yuy2/uyvy/nv12/nv21ToY/UV from inline asm to yasm.

Also implement SSE2/AVX variants.

FATE: test to exercise WTV demuxer.

Does not attempt to decode perceptual codecs inside.
Code coverage: libavformat/wtv.c: 0% -> 71%

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

mjpegdec: K&R formatting cosmetics

Signed-off-by: Diego Biurrun <diego@biurrun.de>

swscale: K&R formatting cosmetics for code examples

swscale: K&R reformatting cosmetics for header files

FATE test: cvid-grayscale; ensures that the grayscale Cinepak variant is exercised.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

bfi: Use bytestream2 functions to prevent buffer overreads.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

dpcm: Fix invalid writes

Fixes bug: #152

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

utvideo: frame multithreading.

>> time ./avconv -i file.avi -f null -
Before : real 0m7.784s
After  : real   0m3.662s

Tested on a Intel Core i3 Processor (2 cores, 4 threads).

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

vorbis: An additional defense in the Vorbis codec.

Fixes Bug: #190
Chromium Bug: #100543
Related to CVE-2011-3893

Signed-off-by: Reinhard Tartler <siretart@tauware.de>

vorbisdec: Fix decoding bug with channel handling

Fixes Bug: #191
Chromium Bug: #101458
CVE-2011-3895

Signed-off-by: Reinhard Tartler <siretart@tauware.de>

cabac: Move code only used within the CABAC test program into the test program.

vp56: Drop unnecessary cabac.h #include.

h264-test: Initialize AVCodecContext.av_class.

This fixes a segfault on startup.

Also remove a commented-out and completely unused variable.

build: Skip compiling network.h and rtsp.h if networking is not enabled.

rtsp.h relies on network.h and the latter conditionally defines fallback OS
structures that rely on configure tests, which are only run if networking
is enabled.

cosmetics: drop some pointless parentheses

Disable annoying warning without changing behavior

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

faq: Solutions for common problems with sample paths when running FATE.

avcodec: attempt to clarify the CODEC_CAP_DELAY documentation

avcodec: fix avcodec_encode_audio() documentation.

the previous documentation indicated how many bytes are read from the input,
not how many samples are read.

FATE: xmv-demux test; exercise the XMV demuxer without decoding the perceptual codecs inside.

Code coverage:
libavformat/xmv.c: 3% -> 91%

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

vqf: recognize more metadata chunks

Do not create tags for non-char chunks.
Create readable tag for DSIZ chunk.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

FATE test: BMV demuxer and associated video and audio decoders.

Code coverage:
libavcodec/bmv.c: 0% -> 75%
libavformat/bmv.c: 0% -> 85%

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

FATE: indeo4 video decoder test.

Code coverage:
libavcodec/indeo4.c: 0% -> 78%

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

FATE: update xxan-wc4 test to a sample with more code coverage.

The previous sample used for this test only contained type 0 frames.
Replace it with a sample that also features type 1 frames.
Code coverage:
libavcodec/xxan.c: 72% -> 89%

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

Change the recent h264_mp4toannexb bitstream filter test to output to an elementary stream rather than a program stream.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

g722enc: validate AVCodecContext.trellis

g722enc: set frame_size, and also handle an odd number of input samples

The fate reference is updated because the previous test skipped a sample in
each encode() call due each input frame having an odd number of samples.

g722enc: split encoding into separate functions for trellis vs. no trellis

mpegaudiodec: Use clearer pointer math

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

tta: Fix returned error code at EOF

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

tta: fix off be 1 error in the end detection.
Fixes use of uninitialized values.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

tta: fix 24-bit decoding.

Decode to the correct output buffer.

ipmovie: Add param change side data if the video dimensions have changed

Signed-off-by: Martin Storsjö <martin@martin.st>

interplayvideo: Handle changed video dimensions on the fly

Signed-off-by: Martin Storsjö <martin@martin.st>

libavcodec: Handle param change side data in avcodec_decode_video2, too

Also call avcodec_set_dimensions on dimension param change packets.

Signed-off-by: Martin Storsjö <martin@martin.st>

libavcodec: Move apply_param_change up above avcodec_decode_video2

This is in preparation to calling it from avcodec_decode_video2.

Signed-off-by: Martin Storsjö <martin@martin.st>

indeo3: check motion vectors for validity

Fixes null pointer dereferences in fuzzed files found by Oana Stratulat.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

indeo5: Fix null pointer dereference.

Bug found by: Oana Stratulat

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

electronicarts: check bytes per sample for validity

Prevents division by zero.

flicvideo: fix invalid reads

Prevent invalid reads using bytestream2 functions.
Fixes bug #126.

Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

vorbis: Avoid some out-of-bounds reads

Fixes Bug: #190
Chromium Bug: #100543
Related to CVE-2011-3893

Signed-off-by: Reinhard Tartler <siretart@tauware.de>

vqf: add more known extensions

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

cabac: remove unused function renorm_cabac_decoder

h264: Only use symbols from the SVQ3 decoder under proper conditionals.

Fixes --disable-everything --enable-decoder=h264 --disable-optimizations.

add bytestream2_tell() and bytestream2_seek() functions

parsers: initialize MpegEncContext.slice_context_count to 1

The mpeg4 video, H264 and VC-1 parser hold (directly or indirectly)
a MpegEncContext in their private context. Since they do not call the
common mpegvideo init function slice_context_count has explicitly set
to 1.
Prevents a null pointer dereference in the h264 parser and fixes
bug 193.

spdifenc: use special alignment for DTS-HD length_code

Align IEC 61937 length_code for DTS-HD so that
(length_code & 0xf) == 0x8. This is reportedly needed with some
receivers.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

ipmovie: do not read audio packets before the codec is known

Prevents a division by zero.

truemotion2: check size before GetBitContext initialisation

Prevents null ptr derefence for negative sizes.

avio: Only do implicit network initialization for network protocols

The implicit network initialization is set to be removed in the
future, but is kept for compatibility. By not doing the implicit
initialization for non-network protocols, we avoid the warning
about avformat_network_init() not being called for these, where
it really doesn't make much sense.

Signed-off-by: Martin Storsjö <martin@martin.st>

avio: Add an URLProtocol flag for indicating that a protocol uses network

This definition is in two files, since the definitions will move
to the private header at the next bump.

Signed-off-by: Martin Storsjö <martin@martin.st>

adpcm: ADPCM Electronic Arts has always two channels

matroskadec: Fix a bug where a pointer was cached to an array that might later move due to a realloc()

Fixes bug #190
Chromium bug #100492
related to CVE-2011-3893

Signed-off-by: Reinhard Tartler <siretart@tauware.de>

fate: Add missing reference file from 9b4767e4.

mov: Support MOV_CH_LAYOUT_USE_DESCRIPTIONS for labeled descriptions.

4xm: Prevent buffer overreads.

4xm decoder while decoding i2 frames can overread the buffer if proper checks
are not made.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

mjpegdec: parse RSTn to prevent skipping other data in mjpeg_decode_scan

Check explicitly if enough bits are left to prevent an infinite loop
when the bitstream buffer is not followed by zero-padding.

Based on patches by Michael Niedermayer <michaelni@gmx.at>.

vp3: add fate test for non-zero last coefficient

vp3: fix streams with non-zero last coefficient

Fixes a regression introduced in 8b94df0f2047e972.

swscale: remove unused U/V arguments from yuv2rgb_write().

Also document the function somewhat.

timer: K&R formatting cosmetics

lavf: cosmetics, reformat av_read_frame().

lavf: refactor av_read_frame() to make it easier to understand.

Report an error if pitch_lag is zero in AMR-NB decoder.

This fixes an infinite loop in the decoder on specially
crafted files, and fixes bug 151.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

Revert "4xm: Prevent buffer overreads."

This reverts commit 295a7c0238e84b0ffa8f21ed938d45f51f54a4cd. The
patch breaks decoding of regular files (e.g. fate-4xm-2).

4xm: Prevent buffer overreads.

4xm decoder while decoding i2 frames can overread the buffer if proper checks
are not made.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

4xm: pass the correct remaining buffer size to decode_i2_frame().

frame_size is the number of bytes left in the packet, so if we are passing
buf-4 we can safely read frame_size+4 bytes.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

4xm: fix calculation of the next output line position in decode_i2_frame().

The current code doesn't work unless width is an exact multiple of 16.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

mtv: Make sure audio_subsegments is not 0

audio_subsegments would be 0 and cause floating point exceptions
Fixes bugzilla #144

Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

v4l2: use V4L2_FMT_FLAG_EMULATED only if it is defined

V4L2_FMT_FLAG_EMULATED was added in 2.6.32.

avconv: add symbolic names for -vsync parameters

flvdec: Fix compiler warning for uninitialized variables

These can't be used uninitialized in practice, but the
compiler doesn't realize it.

Signed-off-by: Martin Storsjö <martin@martin.st>

rtsp: Fix compiler warning for uninitialized variable

This one won't ever be used uninitialized in practice, but
the compiler doesn't realize it.

Signed-off-by: Martin Storsjö <martin@martin.st>

ulti: convert to new bytestream API.

swscale: Use standard multiple inclusion guards in ppc/ header files.

Place some START_TIMER invocations in separate blocks.

This fixes compilation failures related to START_TIMER/STOP_TIMER macros and
-Werror=declaration-after-statement.  START_TIMER declares variables and thus
may not be placed after statements outside of a new block.

v4l2: list available formats

Make use of the experimental framesize enumeration ioctl if available.

v4l2: set the proper codec_tag

Unbreak direct streamcopy.

v4l2: refactor device_open

Check capabilities directly in the function, further simplify the code.

v4l2: simplify away io_method

Only mmap is supported.

v4l2: cosmetics

v4l2: uniform and format options