mss12: avoid unnecessary division in arith*_get_bit()

That division can be replaced with a comparison:
((c->value - c->low) << 1) + 1 >= range

By expanding 'range' definition and simplifying this inequation we obtain
the final expression.

Suggested by Michael Niedermayer <michaelni@gmx.at>

Signed-off-by: Kostya Shishkov <kostya.shishkov@gmail.com>

mss2: do not try to read too many palette entries

Reported by Michael Niedermayer <michaelni@gmx.at>

Signed-off-by: Kostya Shishkov <kostya.shishkov@gmail.com>

mpegvideo: set AVFrame fields to NULL after freeing the base memory

Prevents dangling pointers and makes access after free more obvious.
Setting AVFrame.qscale_table to NULL is required for successfully
allocating a previously freed Picture with ff_alloc_picture().

configure: Set the right cc_e flags for msvc

The default ones work, but outputs the preprocessed file on stdout
(into config.log).

Signed-off-by: Martin Storsjö <martin@martin.st>

fate: Allow setting the ld parameter from the config file

Signed-off-by: Martin Storsjö <martin@martin.st>

x86: dsputil: Do not redundantly check for CPU caps before calling init funcs

The init functions check for CPU capabilities on their own already.

configure: Disable some warnings in MSVC

This disables the following warnings:
C4100: unreferenced formal parameter
 (1035 occurrances)
C4214: nonstandard extension used : bit field types other than int
 (609 occurances)
C4996: 'avpriv_snprintf': This function or variable may be unsafe.
       Consider using _snprintf_s instead. To disable deprecation,
       use _CRT_SECURE_NO_WARNINGS. See online help for details.
 (351 occurrances)

Signed-off-by: Martin Storsjö <martin@martin.st>

x86: vp56: cmov version of vp56_rac_get_prob requires inline asm

Signed-off-by: Diego Biurrun <diego@biurrun.de>

avopt: fix examples to match the same style about default values as the actual code.

Signed-off-by: Martin Storsjö <martin@martin.st>

configure: Add support for MSVC cl.exe/link.exe

Signed-off-by: Martin Storsjö <martin@martin.st>

lavu: add snprintf(), vsnprint() and strtod() replacements for MS runtime.

Signed-off-by: Martin Storsjö <martin@martin.st>

dsputil: workaround __VA_ARGS__ missing tokenization for MSVC

A second expansion forces the preprocessor to tokenize properly.

Signed-off-by: Martin Storsjö <martin@martin.st>

configure: add section for libc-specific hacks

Signed-off-by: Martin Storsjö <martin@martin.st>

build: disable ranlib on mingw

Using ranlib is not required but prevents using the libraries with
msvc.

Signed-off-by: Mans Rullgard <mans@mansr.com>
Signed-off-by: Martin Storsjö <martin@martin.st>

parser: Don't use pc as context for av_dlog

The ParserContext class doesn't have an AVClass, required for
using it as a logging class.

Signed-off-by: Martin Storsjö <martin@martin.st>

h264: Remove an assert on current_picture_ptr being null

It is possible in various error paths as well as gap handling
that this has already been allocated. It is not clear why that
would be a problem with the current code, thus disable the
assert to avoid a common assert failure when asserts are enabled.

Signed-off-by: Martin Storsjö <martin@martin.st>

build: eamad: Add missing dependency on mpegvideo code

build: utvideoenc: Add missing dependency on Huffman code

avopt: Reorder the default_val struct, making i64 the first field

Also mention this change in APIchanges.

Signed-off-by: Martin Storsjö <martin@martin.st>

avopt: Explicitly store rational option defaults in .dbl

Signed-off-by: Martin Storsjö <martin@martin.st>

avopt: Explicitly store float/double option defaults in .dbl

Signed-off-by: Martin Storsjö <martin@martin.st>

avopt: Store defaults for AV_OPT_TYPE_INT in the i64 union member

Signed-off-by: Martin Storsjö <martin@martin.st>

avopt: Store defaults for AV_OPT_TYPE_FLAGS in the i64 union member

Signed-off-by: Martin Storsjö <martin@martin.st>

avopt: Store defaults for AV_OPT_TYPE_CONST in the i64 union member

Signed-off-by: Martin Storsjö <martin@martin.st>

svq1enc: Set picture_structure correctly

This fixes assert failures when running in debug mode.

Signed-off-by: Martin Storsjö <martin@martin.st>

mpegvideo: remove last_picture_ptr / h264 assert.

This assert is no longer true since h264 error concealment needs
last_picture_ptr to be set.

Signed-off-by: Martin Storsjö <martin@martin.st>

mpegvideo_enc: remove assert that has become obsolete with the new API

It now just checks uninitialized and unused data.

Signed-off-by: Martin Storsjö <martin@martin.st>

elbg: Fix an assert

It seems the condition was flipped from what was intended.

Signed-off-by: Martin Storsjö <martin@martin.st>

configure: add support for bdver1 and bdver2 CPU types.

Signed-off-by: Diego Elio Pettenò <flameeyes@flameeyes.eu>
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

avio: make avio_close NULL the freed buffer

pixdesc: cosmetics

proresenc: Don't free a buffer not owned by the codec

The data in coded_frame isn't allocated using get_buffer, but
is copied from the input frame to the encoder, so we should
not try to free it ourselves.

This fixes an assert failure when running in debug mode.

Signed-off-by: Martin Storsjö <martin@martin.st>

proresenc: Write the full value in one put_bits call

Previously, the put_bits call writing the value wrote a value
larger than the number of bits specified, failing asserts
in debug mode. There was no actual bitstream writer corruption,
since the overwritten bit already always was set to 1.

Signed-off-by: Martin Storsjö <martin@martin.st>

adpcmenc: Calculate the IMA_QT predictor without overflow

Previously, the value given to put_bits was 10 bits long for positive
predictors, even though 9 bits were to be written. The extra bit could
in some cases overwrite existing bits in the bitstream writer cache.

This fixes a failed assert in put_bits.h, when running a version
built with -DDEBUG.

The fate test result gets slightly improved, thanks to getting rid
of the overwritten bits in the bitstream writer cache.

Signed-off-by: Martin Storsjö <martin@martin.st>

x86: Add convenience macros to check for CPU extensions and flags

x86: h264dsp: drop some unnecessary ifdefs around prototype declarations

mss12: merge decode_pixel() and decode_top_left_pixel()

No meaningful generated code differences using gcc -O3.

Signed-off-by: Kostya Shishkov <kostya.shishkov@gmail.com>

mss12: reduce SliceContext size from 1067 to 164 KB

Signed-off-by: Kostya Shishkov <kostya.shishkov@gmail.com>

mss12: move SliceContexts out of the common context into the codec contexts

Signed-off-by: Kostya Shishkov <kostya.shishkov@gmail.com>

build: avcodec: order cosmetics

intrax8dsp: Add missing #include to make header standalone

Delete motion-test tool; it is of doubtful utility.

intrax8: move functions from dsputil to own context

Signed-off-by: Mans Rullgard <mans@mansr.com>

crypto: Remove a stray double space

Signed-off-by: Martin Storsjö <martin@martin.st>

Rename missed cases of FF_OPT_TYPE_* to AV_OPT_TYPE_*

Signed-off-by: Martin Storsjö <martin@martin.st>

MSS1 and MSS2: set final pixel format after common stuff has been initialised

This way it won't interfere with WMV9 initialisation inside MSS2 decoder and
avplay will play it fine.

Signed-off-by: Kostya Shishkov <kostya.shishkov@gmail.com>

MSS2 decoder

Signed-off-by: Kostya Shishkov <kostya.shishkov@gmail.com>

configure: handle --disable-asm before check_deps

This is necessary to avoid spuriously enabling _external or _inline
variants of arch extensions when they should be disabled.

Signed-off-by: Mans Rullgard <mans@mansr.com>

x86: Split inline and external assembly #ifdefs

configure: x86: Separate inline from standalone assembler capabilities

pktdumper: Use a custom define instead of PATH_MAX for buffers

PATH_MAX is not necessarily available on all systems, e.g. it's
normally not available on MSVC, and is not guaranteed to defined
on a POSIX system either.

Signed-off-by: Martin Storsjö <martin@martin.st>

pktdumper: Use av_strlcpy instead of strncpy

This takes care of null-terminating the buffer if it is too small,
which wasn't handled properly before.

Signed-off-by: Martin Storsjö <martin@martin.st>

pktdumper: Use sizeof(variable) instead of the direct buffer length

Also change the snprintf size to use the full buffer, since
snprintf always null-terminates the buffer.

Signed-off-by: Martin Storsjö <martin@martin.st>

x86: Fix linking with some or all of yasm, mmx, optimizations disabled

Some optimized template functions reference optimized symbols, so they
must be explicitly disabled when those symbols are unavailable.

configure: Add more fine-grained SSE CPU capabilities flags

avfilter: x86: Use more precise compile template names

x86: cosmetics: Comment some #endifs for better readability

g723_1: add comfort noise generation

utvideoenc: Switch to dsputils' median prediction

Also, align the mangled RGB planes, which is required for the
SIMD versions of dsputils' median predict.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

utvideoenc: Avoid writing into the input picture

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avtools: remove the distinction between func_arg and func2_arg.

func2_arg is the same as func_arg, except it has one additional
parameter. Change all func_arg callbacks to take that parameter (and
ignore it).

avconv: make the -passlogfile option per-stream.

avconv: make the -pass option per-stream.

cmdutils: make -codecs print lossy/lossless flags.

lavc: add lossy/lossless codec properties.

build: allow non-standard variations of linker -l/-L flags

This enables replacing the -l and -L flags used to specify the
just-built libraries when linking the tools and shared libs with
non-standard syntaxes.  System library flags are already handled
by the filtering mechanism in configure.

Signed-off-by: Mans Rullgard <mans@mansr.com>

Add reminders to update the codec descriptor list with new codec IDs.

build: export filtered -lz flag in config.mak

This is needed to link tools/cws2fws using a linker with non-standard
command line syntax.

Signed-off-by: Mans Rullgard <mans@mansr.com>

build: add separate setting for host linker

This adds new HOSTLD and related settings for host linker allowing
it to be different from HOSTCC.

Signed-off-by: Mans Rullgard <mans@mansr.com>

configure: probe_cc: use separate variable for linker output flag

Some tools use different command line syntax for specifying output
when compiling and linking.  To accomodate these, separate variables
must be used.  No currently supported compilers/linkers are affected
by the change.

Signed-off-by: Mans Rullgard <mans@mansr.com>

x86: Always compile files with functions that are called unconditionally

x86: mpegvideoenc: fix linking with --disable-mmx

The optimized dct_quantize template functions reference optimized
fdct symbols, so these functions must only be enabled if the relevant
optimizations have been enabled by configure.

x86: mpegvideoenc: Do not abuse HAVE_ variables for template instantiation

This avoids trouble if HAVE_ variables are used elsewhere in the file.

configure: support Bitrig OS

Signed-off-by: Diego Biurrun <diego@biurrun.de>

yuv2rgb: handle line widths that are not a multiple of 4.

This introduces support for width%4==2 in addition to width%4==0. For
odd widths, some more checks are needed, since the current code always
handles two luma items in a row, thus there is a possibility of an
overread by one.

graph2dot: Use the fallback getopt implementation if needed

Signed-off-by: Martin Storsjö <martin@martin.st>

tools: Include io.h for open/read/write/close if unistd.h doesn't exist

Signed-off-by: Martin Storsjö <martin@martin.st>

testprogs: Remove unused includes

Signed-off-by: Martin Storsjö <martin@martin.st>

qt-faststart: Use other seek/tell functions on MSVC than on mingw

Signed-off-by: Martin Storsjö <martin@martin.st>

ismindex: Include direct.h for _mkdir on windows

The Windows SDK in MSVC doesn't have mkdir, only _mkdir, and
MSDN says one should include direct.h to use it.

Signed-off-by: Martin Storsjö <martin@martin.st>

sdp: Use static const char arrays instead of pointers to strings

Signed-off-by: Martin Storsjö <martin@martin.st>

x86: avcodec: Drop silly "_mmx" suffixes from filenames

x86: avcodec: Drop silly "_sse" suffixes from filenames

sdp: Include profile-level-id for H264

This is required for playback with the Stagefright RTSP framework
on Android.

Signed-off-by: Martin Storsjö <martin@martin.st>

utvideoenc: use ff_huff_gen_len_table

Avoid code duplication and provide faster and better compression.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

huffman: add ff_huff_gen_len_table

The function will be used by utvideo as well.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

cllc: simplify/fix swapped data buffer allocation.

Using the malloc variant avoids pointless memcpy on size
increase and simplifies handling allocation failure.
Also change code to ensure that allocation, bswap and bitstream
reader all use the same size, even when the packet size is odd
for example.

Signed-off-by: Reimar Döffinger <Reimar.Doeffinger@gmx.de>
Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

rtpdec_h264: Don't set the pixel format

There is no need for this depacketizer to set the pixel format,
the decoder can do that just fine.

Signed-off-by: Martin Storsjö <martin@martin.st>

h264: Check that the codec isn't null before accessing it

This fixes crashes introduced by 2e8f3cbcda5, the codec can be null
when called from parsers.

Signed-off-by: Martin Storsjö <martin@martin.st>

audio_frame_queue: Define af_queue_log_state before using it

This fixes building with DEBUG defined after the function was made
static and the prototype removed in d7f9786cbc.

Signed-off-by: Martin Storsjö <martin@martin.st>

vc1: export some functions

This is a preparatory step for the MSS2 decoder which needs to use
the WMV9 decoder to decode some kinds of frames.

From the patch by Alberto Delmás <adelmas@gmail.com>

configure: use HOSTCC_C/O in check_host_cc

Signed-off-by: Mans Rullgard <mans@mansr.com>

configure: use AS_O setting in check_as

Signed-off-by: Mans Rullgard <mans@mansr.com>

configure: use LD_O setting in check_ld()

Signed-off-by: Mans Rullgard <mans@mansr.com>

Revert "dsputil: make {add/put/put_signed}_pixels_clamped() non-static."

This reverts commit 484a337cd7cd8bb180c4a1bd3321881f1c874a92.

These functions were used in f8bed30 "VC1: merge idct8x8, coeff
adjustments and put_pixels" which was reverted in 18b6a69.

Signed-off-by: Mans Rullgard <mans@mansr.com>

build: Restore dependency of acelp_filters.o on celp_math.o

celp_math: Replace duplicate ff_dot_productf() by ff_scalarproduct_c()

celp_math: Move ff_cos() to the only place it is used

build: Use portable abstraction for linker/hostcc output file syntax

configure: Fix shared library creation for OpenBSD

OpenBSD does not expect or require symlinked shared libraries with
just the major version in the name.

Signed-off-by: Diego Biurrun <diego@biurrun.de>