fate: update 9/10bit refs.

h264: Properly set coded_{width, height} when parsing H.264.

Signed-off-by: Felipe Contreras <felipe.contreras@gmail.com>
Signed-off-by: Diego Biurrun <diego@biurrun.de>

x86 asm: Add SECTION_TEXT to dct32_sse.asm.

This fixes the following error on OS/2:
error: segment name `.text align=16' not recognized

Signed-off-by: Diego Biurrun <diego@biurrun.de>

Fix 9/10 bit in swscale.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

ffmpeg: Don't trigger url_interrupt_cb on the first signal

Currently, the url_interrupt_cb callback will abort all IO
after the first received signal. This makes the output files
from e.g. the mov muxer to be unreadable if the transcode is
aborted with ctrl+c.

After this patch, the first signal cleanly breaks out of
the transcoding loop, but won't forcibly abort all IO.
After the second signal is received, the url_interrupt_cb
callback will abort all IO.

Signed-off-by: Martin Storsjö <martin@martin.st>

avoptions: Check the return value from av_get_number

This avoids doing a division by zero if the option wasn't found,
or wasn't an option of an appropriate type.

Signed-off-by: Martin Storsjö <martin@martin.st>

dct32_sse: eliminate some spills

125->104 cycles on penryn (x86_64 only)

Fix dct32() compilation with --disable-yasm

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

ffmpeg: get rid of the -vglobal option.

It's badly documented and does the same thing as -flags global_header,
so it's redundant.

dct32: Add AVX implementation of 32-point DCT

dct32: Change pass 6 permutation to allow for AVX implementation

dct32: port SSE 32-point DCT to YASM

multiple inclusion guard cleanup

Add missing multiple inclusion guards; clean up #endif comments;
add missing library prefixes; keep guard names consistent.

avio: document buffer must created with av_malloc() and friends

Else a later buffer resize in ffio_set_buf_size() will ABORT.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

avio: check AVIOContext malloc failure

Signed-off-by: Anton Khirnov <anton@khirnov.net>

swscale: point out an alternative to sws_getContext

Signed-off-by: Anton Khirnov <anton@khirnov.net>

svq3: Do initialization after parsing the extradata

If done before, some parameters aren't known yet.

With svq3/rtp, initializing before some parameters are known
can lead to calling av_malloc(0), which on OS X currently returns
broken pointers.

add changelog entries for 0.7_beta2

mp3lame: add #include required for AV_RB32 macro.

Fixes compilation with mp3lame enabled.

configure: make executable again

Signed-off-by: Mans Rullgard <mans@mansr.com>

LATM/AAC: Free previously initialized context on reinit.

Fixes memory leaks which are the result of overwriting already-initialized
MDCT contexts during context reinitialization, e.g. in valgrind
fate-aac-latm_000000001180bc60.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

configure: Do not unconditionally add -Wall to host CFLAGS.

Some compilers choke on -Wall, so only add the flag after checking it works.

configure: Set OS/2 objformat to a.out.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

Add support for a.out object format to assembler macros.

This format is still used by e.g. OS/2.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

fate: disable threading for encoding

This explicitly disables threading for encoding as slices are otherwise
automatically activated.  This should be dropped once option resetting
between files is fully implemented.

Signed-off-by: Mans Rullgard <mans@mansr.com>

fate: add comment field

This adds a comment field to the report header, suitable for
extra information not covered by the automatic fields.

Signed-off-by: Mans Rullgard <mans@mansr.com>

fate: allow overriding default build and install dirs

This is useful e.g. for building in a different filesystem than
where the source is kept.

Signed-off-by: Mans Rullgard <mans@mansr.com>

mpegtsenc: Add an AVClass pointer to the private data

Since a private class is set for this muxer, the callers will
assume that the private data starts with an AVClass pointer.
If no such member exists, the first few bytes of the struct
will be overwritten, and the class pointer may be broken at
any later time.

Signed-off-by: Martin Storsjö <martin@martin.st>

mpegaudio: clean up #includes

Signed-off-by: Mans Rullgard <mans@mansr.com>

mpegaudio: move all header parsing to mpegaudiodecheader.[ch]

Signed-off-by: Mans Rullgard <mans@mansr.com>

qdm2: Use floating point synthesis filter.

This avoid needlessly convertion from floating point to fixed point and back.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

h264: correct border check.

When backing up the top-left border, check that the top-left
(rather than left) MB indeed does belong to our slice. If it
doesn't, backing up has no positive effect but may accidentally
interfere with other threads writing in the same space.

Fixes occasional one-off effects when enabling slice-MT.

h264: fix loopfilter with threading at slice boundaries.

Fix ff_mpa_synth_filter_fixed() prototype

The prototype should use the same typedefs as the definition, or it
will fail where int32_t is not int (DOS apparently).

Signed-off-by: Mans Rullgard <mans@mansr.com>

Rename costablegen.c ---> cos_tablegen.c.

This is consistent with how all other table generation programs are named.
Moreover this ensures that the cos table generation program is correctly
deleted when cleaning the tree.

Collapse tableprint.c into tableprint.h.

tableprint.c serves little purpose on its own and removing it allows building
the table generator programs with the normal HOSTPROGS Makefile rules.

Simplify trig table rules

This collapses the make rules for the trig tables into a pattern
rule.  Based on a patch by Diego, modified to avoid using fragile
make constructs and allow future addition of fixed-point sin tables.

Signed-off-by: Mans Rullgard <mans@mansr.com>

Remove potentially unstable filenames from comments in generated files.

Ignore generated tables and generated table generator programs.

Simplify CLEANFILES make variable by using wildcards.

Also ensures that generated file cos_fixed_tables.c is deleted on 'make clean'.

Remove silly insults from avformat_version() Doxygen documentation.

mpegaudiodsp: fix x86 and ppc makefiles

Signed-off-by: Mans Rullgard <mans@mansr.com>

configure: Adjust AVX assembler check.

Older nasm versions have trouble assembling certain AVX instructions, but the
current AVX check did not detect this. Update the check to use an instruction
that triggers the nasm problem.

mpegaudio: remove unused version of SAME_HEADER_MASK

Signed-off-by: Mans Rullgard <mans@mansr.com>

mpegaudio: remove useless #undef at end of file

Signed-off-by: Mans Rullgard <mans@mansr.com>

asfdec: add missing #include for av_bswap32()

Signed-off-by: Mans Rullgard <mans@mansr.com>

mpegaudio: merge two #if CONFIG_FLOAT blocks

Signed-off-by: Mans Rullgard <mans@mansr.com>

mpegaudio: move some struct definitions from mpegaudio.h

These structs are only used in mpegaudiodec.c, so move them there
and remove no longer needed #include lines from mpegaudio.h.

Signed-off-by: Mans Rullgard <mans@mansr.com>

Move some mpegaudio functions to new mpegaudiodsp subsystem

This separation allows these functions to be used in a cleaner
fashion from other codecs (e.g. qdm2) and simplifies creating
optimised versions of them.

Signed-off-by: Mans Rullgard <mans@mansr.com>

Clean up #includes in cmdutils.h.

inttypes.h is not necessary, just stdint.h is enough.
Unconditionally #include avfilter.h in cmdutils.h.  It is an installed
header with no non-standard external dependencies, so it is safe.

g729: Merge g729.h into g729dec.c.

The header contains just a single define that is only used in g729dec.c.

10l: wrap float_interleave functions in HAVE_YASM.

fixes compilation with --disable-yasm

APIchanges: fill in date and commit for request_sample_fmt

Add floating-point sample format support to the ac3, eac3, dca, aac, and vorbis
decoders.

Based on patches by clsid2 in ffdshow-tryout.

Add support for request_sample_format in ffmpeg and ffplay.

Add APIchanges entry for request_sample_fmt.

Add request_sample_fmt field to AVCodecContext.

This will allow audio decoders to support output of different sample formats
as a runtime option.

Add float_interleave() to FmtConvertContext with x86-optimized versions.

Partially based on patches by clsid2 in ffdshow-tryout.
ff_float_interleave6() x86 improvements by Loren Merrit.

Remove unused make variable SEEK_REFFILE

Signed-off-by: Mans Rullgard <mans@mansr.com>

fate: remove redundant aref and vref references

The ref targets are included in the FATE_[AV]CODEC lists created
by configure so they do not need to be listed separately in the
makefile.  Filter them out when setting dependencies to avoid make
warnings about circular deps.

Signed-off-by: Mans Rullgard <mans@mansr.com>

fate: remove do_ffmpeg_nocheck function

This function is essentially an alias for run_ffmpeg and is only
used in one place.  This patch removes the function and replaces
the call with the equivalent (simpler) run_ffmpeg call.

Signed-off-by: Mans Rullgard <mans@mansr.com>

fate: do not collect -benchmark output

The old regtest scripts pass -benchmark and collect the utime values.
As these values are never used, this machinery can be removed.

Signed-off-by: Mans Rullgard <mans@mansr.com>

mpegaudiodec: remove decode_end() function

This function is not needed since 721d6f2dc5 removed the DCT table
allocations for the configuration used here.

Signed-off-by: Mans Rullgard <mans@mansr.com>

fate: run aref and vref as regular tests

These tests create reference files used for psnr calculation in
the other codec tests.  Treating them as (mostly) regular tests
simplifies the makefile and makes them visible in the fate reports.
The latter makes errors in these runs easier to identify.

Signed-off-by: Mans Rullgard <mans@mansr.com>

mpegaudio: sanitise compute_antialias_* names

This makes the compute_antialias functions use the same naming
convention as everything else.

Signed-off-by: Mans Rullgard <mans@mansr.com>

mpeg12: add slice-threading checks to slice-threading initializers.

Fixes "make THREADS=2 THREAD_TYPE=1 fate-mpeg2-field-enc".

h264: copy pixel_shift between slice threading contexts.

Fixes "make THREADS=2 THREAD_TYPE=2
fate-h264-conformance-frext-pph10i3_panasonic_a".

mdec: enable frame-level multithreading.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

mdec.c: fix overread.

Fix compilation of iirfilter-test.

libx264: handle closed GOP codec flag

Also update libx264 presets to keep closed gop as default.

Signed-off-by: Jindrich Makovicka <makovick@gmail.com>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavf: remove duplicate assignment in avformat_alloc_context.

AVClass is already initialized in  avformat_get_context_defaults.

lavf: use designated initializers for AVClasses.

flvdec: clenup debug code

asfdec: fix possible overread on broken files.

asfdec: do not fall back to binary/generic search

asf_read_seek() inside the asf demuxer already does the
right thing, it tries the index and if that fails it uses
binary search. If binary search is called from outside of asfdec.c
it will fail because the asf code cannot clean up after itself.
Therefore introduce AVFMT_NOBINSEARCH that prevents the seek
code to fallback to binary search and AVFMT_NOGENSEARCH that
prevents the seek code to fallback to generic search.

asfdec: reindent after previous commit c7bd5ed

asfdec: fallback to binary search internally

lavf will do that anyway in case seek by index fails

mpegaudio: add _fixed suffix to some names

This adds a _fixed suffix to the fixed-point versions of things
with both float and fixed-point variants.  This makes it more
consistent with other dual-implementation things, e.g. fft.

Signed-off-by: Mans Rullgard <mans@mansr.com>

Modify x86util.asm to ease transitioning to 10-bit H.264 assembly.

Arguments for variable size instructions are added to many macros, along
with other various changes. The x86util.asm code was ported from x264.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

dct: build dct32 as separate object files

This builds the float and fixed-point versions of dct32 separately
instead of #including the file in dct.c and mpegaudiodec.c.

Signed-off-by: Mans Rullgard <mans@mansr.com>

qdm2: include correct header for rdft

Signed-off-by: Mans Rullgard <mans@mansr.com>

ffmpeg: fix -aspect cli option

Redesign the way -aspect option is handled. This is done by making
ffmpeg read the sample aspect ratio set in the corresponding input
stream by default, and overriding it using the value specified by
-aspect.

If the output display aspect ratio is specified with -aspect, it is
set at the end of the filterchain, thus overriding the value set by
filters in the filterchain.

This implementation is more robust, since does not modify the
filterchain description (which was creating potential syntax errors).

(Cherry-pick abf8342aa94bdf06bb324f6723a6743dd628d5c6)

Another aspect ratio fix try. This leaves the setdar addition at the end
(preferred by people).

(Cherry-pick e7c7b0d000e81d24327602e04d8fed400dbb7193)

Restructure video filter implementation in ffmpeg.c.

This fixes several bugs like multiple outputs and -aspect mixed with -vf

(cherry picked from commit 1762d9ced70ccc46c5d3e5d64e56a48d0fbbd4f7)
(cherry picked from commit 5c20c81bfa526b3a269db9c88b0c9007861f0917)
(cherry picked from commit a7844c580d83d8466c161a0e3979b3902d0d9100)

ffplay: remove audio_write_get_buf_size() forward declaration

Move up the definition of audio_write_get_buf_size(), so that it is
defined before it is used. Simplify.
(cherry picked from commit 8776f3d22e401e30d17856e341f6cabbbefa92f7)

lavfi: print key-frame and picture type information in ff_dlog_ref()

Signed-off-by: Stefano Sabatini <stefano.sabatini-lala@poste.it>
(cherry picked from commit f7bdffb09da597c5d6afff5359523370470ad072)

mathops: remove ancient confusing comment

Signed-off-by: Mans Rullgard <mans@mansr.com>

cws2fws: Improve error message wording.

tools: Check the return value of write().

This fixes several warnings of the type:
warning: ignoring return value of ‘write’, declared with attribute warn_unused_result

mpegaudio: move OUT_FMT macro to mpegaudiodec.c

Signed-off-by: Mans Rullgard <mans@mansr.com>

mpegaudio: remove OUT_MIN/MAX macros

These macros are no longer needed after the s32 output was removed.
Change the relevant code to use av_clip_int16() instead of using
explicit limits.

Signed-off-by: Mans Rullgard <mans@mansr.com>

Add missing #includes to mp3_header_(de)compress bsf

Signed-off-by: Mans Rullgard <mans@mansr.com>

dct: fix indentation

Signed-off-by: Mans Rullgard <mans@mansr.com>

dct: bypass table allocation for DCT_II of size 32

The size-32 DCT_II has a special implementation which doesn't use
the normal tables.  Skipping allocation of these in this case saves
some memory.

Signed-off-by: Mans Rullgard <mans@mansr.com>

h264dsp_mmx: Add #ifdefs around some mmxext functions on x86_64.

This fixes linking errors due to undefined symbols on x86_64 OS X.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

Remove unused header mpegaudio3.h.

The header is a part of an MP3 encoder that never saw the light of day.

aacdec: Use float instead of int16_t for ltp_state to avoid needless rounding.

acelp: Remove unused gray_decode table.

dfa: Remove unused variable.

This fixes the warning:
libavcodec/dfa.c:189: warning: unused variable ‘frame_end’

configure: Include AVX availability in summary output.