avopt: Store defaults for AV_OPT_TYPE_CONST in the i64 union member

Signed-off-by: Martin Storsjö <martin@martin.st>

svq1enc: Set picture_structure correctly

This fixes assert failures when running in debug mode.

Signed-off-by: Martin Storsjö <martin@martin.st>

mpegvideo: remove last_picture_ptr / h264 assert.

This assert is no longer true since h264 error concealment needs
last_picture_ptr to be set.

Signed-off-by: Martin Storsjö <martin@martin.st>

mpegvideo_enc: remove assert that has become obsolete with the new API

It now just checks uninitialized and unused data.

Signed-off-by: Martin Storsjö <martin@martin.st>

elbg: Fix an assert

It seems the condition was flipped from what was intended.

Signed-off-by: Martin Storsjö <martin@martin.st>

configure: add support for bdver1 and bdver2 CPU types.

Signed-off-by: Diego Elio Pettenò <flameeyes@flameeyes.eu>
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

avio: make avio_close NULL the freed buffer

pixdesc: cosmetics

proresenc: Don't free a buffer not owned by the codec

The data in coded_frame isn't allocated using get_buffer, but
is copied from the input frame to the encoder, so we should
not try to free it ourselves.

This fixes an assert failure when running in debug mode.

Signed-off-by: Martin Storsjö <martin@martin.st>

proresenc: Write the full value in one put_bits call

Previously, the put_bits call writing the value wrote a value
larger than the number of bits specified, failing asserts
in debug mode. There was no actual bitstream writer corruption,
since the overwritten bit already always was set to 1.

Signed-off-by: Martin Storsjö <martin@martin.st>

adpcmenc: Calculate the IMA_QT predictor without overflow

Previously, the value given to put_bits was 10 bits long for positive
predictors, even though 9 bits were to be written. The extra bit could
in some cases overwrite existing bits in the bitstream writer cache.

This fixes a failed assert in put_bits.h, when running a version
built with -DDEBUG.

The fate test result gets slightly improved, thanks to getting rid
of the overwritten bits in the bitstream writer cache.

Signed-off-by: Martin Storsjö <martin@martin.st>

x86: Add convenience macros to check for CPU extensions and flags

x86: h264dsp: drop some unnecessary ifdefs around prototype declarations

mss12: merge decode_pixel() and decode_top_left_pixel()

No meaningful generated code differences using gcc -O3.

Signed-off-by: Kostya Shishkov <kostya.shishkov@gmail.com>

mss12: reduce SliceContext size from 1067 to 164 KB

Signed-off-by: Kostya Shishkov <kostya.shishkov@gmail.com>

mss12: move SliceContexts out of the common context into the codec contexts

Signed-off-by: Kostya Shishkov <kostya.shishkov@gmail.com>

build: avcodec: order cosmetics

intrax8dsp: Add missing #include to make header standalone

Delete motion-test tool; it is of doubtful utility.

intrax8: move functions from dsputil to own context

Signed-off-by: Mans Rullgard <mans@mansr.com>

crypto: Remove a stray double space

Signed-off-by: Martin Storsjö <martin@martin.st>

Rename missed cases of FF_OPT_TYPE_* to AV_OPT_TYPE_*

Signed-off-by: Martin Storsjö <martin@martin.st>

MSS1 and MSS2: set final pixel format after common stuff has been initialised

This way it won't interfere with WMV9 initialisation inside MSS2 decoder and
avplay will play it fine.

Signed-off-by: Kostya Shishkov <kostya.shishkov@gmail.com>

MSS2 decoder

Signed-off-by: Kostya Shishkov <kostya.shishkov@gmail.com>

configure: handle --disable-asm before check_deps

This is necessary to avoid spuriously enabling _external or _inline
variants of arch extensions when they should be disabled.

Signed-off-by: Mans Rullgard <mans@mansr.com>

x86: Split inline and external assembly #ifdefs

configure: x86: Separate inline from standalone assembler capabilities

pktdumper: Use a custom define instead of PATH_MAX for buffers

PATH_MAX is not necessarily available on all systems, e.g. it's
normally not available on MSVC, and is not guaranteed to defined
on a POSIX system either.

Signed-off-by: Martin Storsjö <martin@martin.st>

pktdumper: Use av_strlcpy instead of strncpy

This takes care of null-terminating the buffer if it is too small,
which wasn't handled properly before.

Signed-off-by: Martin Storsjö <martin@martin.st>

pktdumper: Use sizeof(variable) instead of the direct buffer length

Also change the snprintf size to use the full buffer, since
snprintf always null-terminates the buffer.

Signed-off-by: Martin Storsjö <martin@martin.st>

x86: Fix linking with some or all of yasm, mmx, optimizations disabled

Some optimized template functions reference optimized symbols, so they
must be explicitly disabled when those symbols are unavailable.

configure: Add more fine-grained SSE CPU capabilities flags

avfilter: x86: Use more precise compile template names

x86: cosmetics: Comment some #endifs for better readability

g723_1: add comfort noise generation

utvideoenc: Switch to dsputils' median prediction

Also, align the mangled RGB planes, which is required for the
SIMD versions of dsputils' median predict.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

utvideoenc: Avoid writing into the input picture

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avtools: remove the distinction between func_arg and func2_arg.

func2_arg is the same as func_arg, except it has one additional
parameter. Change all func_arg callbacks to take that parameter (and
ignore it).

avconv: make the -passlogfile option per-stream.

avconv: make the -pass option per-stream.

cmdutils: make -codecs print lossy/lossless flags.

lavc: add lossy/lossless codec properties.

build: allow non-standard variations of linker -l/-L flags

This enables replacing the -l and -L flags used to specify the
just-built libraries when linking the tools and shared libs with
non-standard syntaxes.  System library flags are already handled
by the filtering mechanism in configure.

Signed-off-by: Mans Rullgard <mans@mansr.com>

Add reminders to update the codec descriptor list with new codec IDs.

build: export filtered -lz flag in config.mak

This is needed to link tools/cws2fws using a linker with non-standard
command line syntax.

Signed-off-by: Mans Rullgard <mans@mansr.com>

build: add separate setting for host linker

This adds new HOSTLD and related settings for host linker allowing
it to be different from HOSTCC.

Signed-off-by: Mans Rullgard <mans@mansr.com>

configure: probe_cc: use separate variable for linker output flag

Some tools use different command line syntax for specifying output
when compiling and linking.  To accomodate these, separate variables
must be used.  No currently supported compilers/linkers are affected
by the change.

Signed-off-by: Mans Rullgard <mans@mansr.com>

x86: Always compile files with functions that are called unconditionally

x86: mpegvideoenc: fix linking with --disable-mmx

The optimized dct_quantize template functions reference optimized
fdct symbols, so these functions must only be enabled if the relevant
optimizations have been enabled by configure.

x86: mpegvideoenc: Do not abuse HAVE_ variables for template instantiation

This avoids trouble if HAVE_ variables are used elsewhere in the file.

configure: support Bitrig OS

Signed-off-by: Diego Biurrun <diego@biurrun.de>

yuv2rgb: handle line widths that are not a multiple of 4.

This introduces support for width%4==2 in addition to width%4==0. For
odd widths, some more checks are needed, since the current code always
handles two luma items in a row, thus there is a possibility of an
overread by one.

graph2dot: Use the fallback getopt implementation if needed

Signed-off-by: Martin Storsjö <martin@martin.st>

tools: Include io.h for open/read/write/close if unistd.h doesn't exist

Signed-off-by: Martin Storsjö <martin@martin.st>

testprogs: Remove unused includes

Signed-off-by: Martin Storsjö <martin@martin.st>

qt-faststart: Use other seek/tell functions on MSVC than on mingw

Signed-off-by: Martin Storsjö <martin@martin.st>

ismindex: Include direct.h for _mkdir on windows

The Windows SDK in MSVC doesn't have mkdir, only _mkdir, and
MSDN says one should include direct.h to use it.

Signed-off-by: Martin Storsjö <martin@martin.st>

sdp: Use static const char arrays instead of pointers to strings

Signed-off-by: Martin Storsjö <martin@martin.st>

x86: avcodec: Drop silly "_mmx" suffixes from filenames

x86: avcodec: Drop silly "_sse" suffixes from filenames

sdp: Include profile-level-id for H264

This is required for playback with the Stagefright RTSP framework
on Android.

Signed-off-by: Martin Storsjö <martin@martin.st>

utvideoenc: use ff_huff_gen_len_table

Avoid code duplication and provide faster and better compression.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

huffman: add ff_huff_gen_len_table

The function will be used by utvideo as well.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

cllc: simplify/fix swapped data buffer allocation.

Using the malloc variant avoids pointless memcpy on size
increase and simplifies handling allocation failure.
Also change code to ensure that allocation, bswap and bitstream
reader all use the same size, even when the packet size is odd
for example.

Signed-off-by: Reimar Döffinger <Reimar.Doeffinger@gmx.de>
Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

rtpdec_h264: Don't set the pixel format

There is no need for this depacketizer to set the pixel format,
the decoder can do that just fine.

Signed-off-by: Martin Storsjö <martin@martin.st>

h264: Check that the codec isn't null before accessing it

This fixes crashes introduced by 2e8f3cbcda5, the codec can be null
when called from parsers.

Signed-off-by: Martin Storsjö <martin@martin.st>

audio_frame_queue: Define af_queue_log_state before using it

This fixes building with DEBUG defined after the function was made
static and the prototype removed in d7f9786cbc.

Signed-off-by: Martin Storsjö <martin@martin.st>

vc1: export some functions

This is a preparatory step for the MSS2 decoder which needs to use
the WMV9 decoder to decode some kinds of frames.

From the patch by Alberto Delmás <adelmas@gmail.com>

configure: use HOSTCC_C/O in check_host_cc

Signed-off-by: Mans Rullgard <mans@mansr.com>

configure: use AS_O setting in check_as

Signed-off-by: Mans Rullgard <mans@mansr.com>

configure: use LD_O setting in check_ld()

Signed-off-by: Mans Rullgard <mans@mansr.com>

Revert "dsputil: make {add/put/put_signed}_pixels_clamped() non-static."

This reverts commit 484a337cd7cd8bb180c4a1bd3321881f1c874a92.

These functions were used in f8bed30 "VC1: merge idct8x8, coeff
adjustments and put_pixels" which was reverted in 18b6a69.

Signed-off-by: Mans Rullgard <mans@mansr.com>

build: Restore dependency of acelp_filters.o on celp_math.o

celp_math: Replace duplicate ff_dot_productf() by ff_scalarproduct_c()

celp_math: Move ff_cos() to the only place it is used

build: Use portable abstraction for linker/hostcc output file syntax

configure: Fix shared library creation for OpenBSD

OpenBSD does not expect or require symlinked shared libraries with
just the major version in the name.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

vp56: Don't use DECLARE_ALIGN on a typedef name

Instead, use it on the first member, since by definition, if
any member is aligned, the whole struct must be, in order to
maintain that alignment.

Fixes compilation with some finicky compilers.

Idea for fix from Måns Rullgård.

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

mss1: move code that will be reused by MSS2 decoder into separate file

mss1: merge decode_intra() and decode_inter()

They have most of their code in common.

avprobe: Get rid of ugly casts in the options table

This also makes sure the function pointers are stored via the same
union member as they are accessed via.

Signed-off-by: Martin Storsjö <martin@martin.st>

vf_hqdn3d: Remove a duplicate inline declaration

Compilation seems to fail on GCC 3.4 due to this duplicate
declaration.

Signed-off-by: Martin Storsjö <martin@martin.st>

vf_hqdn3d: Don't declare the loop variable within the for loop

This C99 feature is generally not used in the libav codebase,
since it breaks building with some fringe compilers (GCC 2.95,
MSVC).

Signed-off-by: Martin Storsjö <martin@martin.st>

huffyuv: update to current coding style

huffman: update to current coding style

rtsp: Free the rtpdec context properly

The condition for calling the rtpdec cleanup was broken in
df8cf076c86.

This fixes a memory leak.

Signed-off-by: Martin Storsjö <martin@martin.st>

build: fft: x86: Drop unused YASM-OBJS-FFT- variable

audio_frame_queue: Clean up ff_af_queue_log_state debug function

The function is debug-only, so only compile it in debug mode.
Make it static as it has no uses outside of the file.
Change av_log() to av_dlog().

dwt: Remove unused code.

cavs: convert cavsdata.h to a .c file

Defining tables in header files is ugly and prone to duplication.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

cavs: Move inline functions only used in one file out of the header

cavs: Move data tables used in only one place to that file

fate: Add a single symbol Ut Video decoder test

Signed-off-by: Diego Biurrun <diego@biurrun.de>

vf_hqdn3d: x86 asm

13% faster on penryn, 16% on sandybridge, 15% on bulldozer
Not simd; a compiler should have generated this, but gcc didn't.

vf_hqdn3d: support 16bit colordepth

avconv: prefer user-forced input framerate when choosing output framerate

x86: fft: remove unused fft_dispatch* functions

These functions are not used since the yasm conversion.

Signed-off-by: Mans Rullgard <mans@mansr.com>

avconv: remove unused variable opt_shortest

This was replaced with a per-file value in 3c0df90.

Signed-off-by: Mans Rullgard <mans@mansr.com>

FATE: Add Canopus Lossless tests

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

cllc: Pad swapped buffer

The bitstream buffer must be padded, or the bitstream reader might
read over the end.

Fixes the following valgrind warning:
    Use of uninitialised value of size 8 at 0x591BAE: cllc_decode_frame (cllc.c:166)

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>