rv10: return meaningful error codes.

Also improve some error messages.

rv10: cosmetics, reformat

qdm2: check that the FFT size is a power of 2

Reported-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC:libav-stable@libav.org

svq1dec: clip motion vectors to the frame size.

Fixes invalid reads for corrupted files.

Reported-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC:libav-stable@libav.org

svq1dec: check that the reference frame has the same dimensions as the current one

They can be different if the last keyframe failed to decode correctly.
Fixes possible invalid reads in such a case.

Reported-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC:libav-stable@libav.org

af_channelmap: cosmetics, use an extra local variable to shorten the code

af_channelmap: sanity check input channel indices in all cases.

Fixes invalid reads from non-existing channels.

CC:libav-stable@libav.org

cmdutils: Fix build with lavfi disabled

Signed-off-by: Diego Biurrun <diego@biurrun.de>

flvenc: do not mux more than one stream per type

FLV does not support multiple audio or video streams.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

fate: Set the bitexact flag for vp3/vp5/vp6 tests

This is required since there are bit-inexact implementations
of the vp3 idct (for bfin).

Signed-off-by: Martin Storsjö <martin@martin.st>

vp3: Use full transpose for all IDCTs

This way, the special IDCT permutations are no longer needed. This
is similar to how H264 does it, and removes the dsputil dependency
imposed by the scantable code.

Also remove the unused type == 0 cases from the plain C version
of the idct.

Signed-off-by: Martin Storsjö <martin@martin.st>

vp3: bfin: Transpose the IDCTs

While this change isn't bitexact, the IDCTs weren't bitexact to
start with either.

This simplifies decoupling vp3 from dsputil.

Signed-off-by: Martin Storsjö <martin@martin.st>

x86: Move constants to the only place where they are used

Signed-off-by: Martin Storsjö <martin@martin.st>

bfin: Match DEFUN_END macros to the right functions

Signed-off-by: Martin Storsjö <martin@martin.st>

x86: dsputil: Move some ifdefs to avoid unused variable warnings

x86: dsputil: cosmetics: Remove two pointless variable indirections

x86: dsputil: Refactor some ff_{avg|put}_pixels function declarations

x86: dsputil: ff_h263_*_loop_filter declarations to a more suitable place

x86: h264qpel: int --> ptrdiff_t for some line_size parameters

FATE: add a test for the interlace filter

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavfi: new interlace filter

Signed-off-by: Anton Khirnov <anton@khirnov.net>

cmdutils: allow -h filter=<name> to print information about a filter.

avtools: move media_type_string() from avprobe to cmdutils.

It will be useful outside of avprobe.

avconv: print filter options in -h full output.

avconv: update to the new options syntax.

The separators were changed from ',' to '|' in all the filters.

lavfi: do not segfault on NULL passed to avfilter_get_by_name()

lavfi: change the filter registering system to match the other libraries

Removes an arbitrary hardcoded limit on the number of filters.

lavfi: add a function for counting elements in AVFilterPad arrays.

The caller needs to know what valid indices can be passed to
avfilter_pad_get_name/type.

lavfi: mark filters with dynamic number of inputs or outputs with special flags

This will be useful in avtools in the following commits.
Any other caller might also want to know this information.

lavfi: add avfilter_init_dict() for initializing a filter with a dict.

lavfi: add avfilter_init_str() to replace avfilter_init_filter().

Drop the unused opaque parameter from its signature.

lavfi: make avfilter_free() remove the filter from its graph.

lavfi: add AVFilterContext.graph.

It will be useful in the following commits.

lavfi: deprecate avfilter_graph_add_filter().

Since this function adds a standalone filter to a filter graph and we do
not support creating such filters, there is no reason for this function
to exist.

lavfi: replace avfilter_open() with avfilter_graph_alloc_filter().

Since we do not support "standalone" filters not attached to an
AVFilterGraph, we should not have a public function to create such
filters. In addition that function is horribly named, the action it does
cannot be possibly described as "opening" a filter.

lavfi: merge avfiltergraph.h into avfilter.h

We do not support using filters without AVFilterGraph in practice
anyway, so there is no point in pretending we do.

lavfi: add const to the pads parameter of avfilter_pad_get_name/type

lavfi: add const to AVFilterContext.filter.

lavfi should never modify the filter through that pointer.

doc: document the prores encoder options

Adapted from the author's blag.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

Cosmetics, restore alphabetic order in atomics lists.

img2enc: add an option for overwriting one file with subsequent images

Based on a patch by Michael Niedermayer <michaelni@gmx.at>.

Move misplaced file author information where it belongs

lavc: don't overwrite display dimensions with coded dimensions.

lavc: extend / update the [coded_]{width,height} doxy

h261: Move encoder/decoder shared table init to common code

h261: Move shared data tables from a header to a proper C file

dsputil: Make dsputil selectable

Signed-off-by: Martin Storsjö <martin@martin.st>

h264: Only initialize dsputil if error resilience is enabled

It is only used for error resilience. This allows building the
h264 decoder without dsputil, if error resilience is disabled.

Signed-off-by: Martin Storsjö <martin@martin.st>

h264: Integrate clear_blocks calls with IDCT

The non-intra-pcm branch in hl_decode_mb (simple, 8bpp) goes from 700
to 672 cycles, and the complete loop of decode_mb_cabac and hl_decode_mb
(in the decode_slice loop) goes from 1759 to 1733 cycles on the clip
tested (cathedral), i.e. almost 30 cycles per mb faster.

Signed-off-by: Martin Storsjö <martin@martin.st>

h264: Clear the mb members via memset instead of using dsputil

Signed-off-by: Martin Storsjö <martin@martin.st>

dsputil: Make square put/avg_pixels functions local to h264qpel

Put a copy of the 8bit functions only in dsputil, where they are
used for some other things (e.g. mpeg4qpel, mspel, cavsqpel).

Signed-off-by: Martin Storsjö <martin@martin.st>

x86inc: Fix number of operands for cmp* instructions

cmp{p,s}{s,d} instructions do take an imm8 operand.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

af_channelmap: fix uninitialized variable use introduced in ba8efac977f4276f05274947b2b67d144cbc965a

lavfi: add a bump and docs entries for the AVOptions switch

lavfi: add avfilter_get_class().

Useful for examining options, the same as the corresponding functions
for the other libs.

lavfi: make AVFilterContext export filter options.

lavfi: error out when options are provided to a filter that does not take any

lavfi: remove now unused args parameter from AVFilter.init

vsrc_testsrc: switch to an AVOptions-based system.

vsrc_movie: switch to an AVOptions-based system.

vsrc_nullsrc: switch to an AVOptions-based system.

vsrc_color: switch to an AVOptions-based system.

split: switch to an AVOptions-based system.

af_volume: switch to an AVOptions-based system.

af_join: switch to an AVOptions-based system.

Change the mappings separator from comma to '|' to avoid excessive
escaping, since comma is already used for separating filters in the
filtergraph description.

af_channelsplit: switch to an AVOptions-based system.

af_channelmap: switch to an AVOptions-based system.

af_asyncts: switch to an AVOptions-based system.

af_amix: switch to an AVOptions-based system.

vf_yadif: switch to an AVOptions-based system.

vf_unsharp: switch to an AVOptions-based system.

vf_transpose: switch to an AVOptions-based system.

vf_settb: switch to an AVOptions-based system.

vf_setpts: switch to an AVOptions-based system.

vf_select: switch to an AVOptions-based system.

vf_pad: switch to an AVOptions-based system.

vf_overlay: switch to an AVOptions-based system.

vf_lut: switch to an AVOptions-based system.

vf_libopencv: switch to an AVOptions-based system.

vf_hqdn3d: switch to an AVOptions-based system.

vf_gradfun: switch to an AVOptions-based system.

vf_scale: switch to an AVOptions-based system.

vf_frei0r: switch to an AVOptions-based system.

vf_fps: switch to an AVOptions-based system.

vf_fieldorder: switch to an AVOptions-based system.

vf_fade: switch to an AVOptions-based system.

vf_drawtext: switch to an AVOptions-based system.

vf_drawbox: switch to an AVOptions-based system.

vf_delogo: switch to an AVOptions-based system.

vf_cropdetect: switch to an AVOptions-based system.

vf_crop: switch to an AVOptions-based system.

vf_boxblur: switch to an AVOptions-based system.

vf_blackframe: switch to an AVOptions-based system.

vf_aspect: switch to an AVOptions-based system.

vf_(no)format: switch to an AVOptions-based system.

af_aformat: switch to an AVOptions-based system.

buffersrc: switch to an AVOptions-based system.

af_resample: switch to an AVOptions-based system.

lavfi: switch to an AVOptions-based system.

dfa: implement missing TDLT coding method