build: tms470: work around glibc math.h problems

The glibc definitions of INFINITY and NAN do not work with the
tms470 compiler, nor do our usual fallbacks.

Signed-off-by: Mans Rullgard <mans@mansr.com>

configure: improve tms470 compiler usage with glibc

Apply flags to work around glibc quirks only if glibc is detected,
and add a few more such flags.

Do not mess with as/ld settings in probe_cc.  This is not the
proper place.

Signed-off-by: Mans Rullgard <mans@mansr.com>

configure: tms470: add mapping for -mfpu=vfpv3-d16 flag

Signed-off-by: Mans Rullgard <mans@mansr.com>

configure: recognise Minix as OS

No special setup is required for Minix.

Signed-off-by: Mans Rullgard <mans@mansr.com>

configure: work around bug in ash shell

The ash 'test' builtin misbehaves if the first operand of a binary
operator looks like a unary operator.

Signed-off-by: Mans Rullgard <mans@mansr.com>

eval-test: make table static const

Signed-off-by: Mans Rullgard <mans@mansr.com>

lavr: handle clipping in the float to s32 conversion

We cannot clip to INT_MAX because that value cannot be exactly
represented by a float value and ends up overflowing during conversion
anyway. We need to use a slightly smaller float value, which ends up
with slightly inaccurate results for samples which clip or nearly clip,
but it is close enough. Using doubles as intermediates in the conversion
would be more accurate, but it takes about twice as much time.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

nut: support pcm codecs not mapped in avi

The native tags will be used when available.

nut: prioritize native tags

Use native tags instead of avi ones, simplifies a lot raw video codecs
handling.

vc1: Use codec ID from AVCodecContext while parsing frame header

This fixes a segfault with samples that I have (both of them MPEG-TS). Looks like
avctx->codec is not being set during parsing.

Signed-off-by: Kostya Shishkov <kostya.shishkov@gmail.com>

avplay: support mid-stream sample rate changes

Resample to the rate that was configured in SDL.

avplay: use audio parameters from the decoded frame instead of AVCodecContext

dca: allocate a secondary buffer for extra channels when downmixing

The output AVFrame buffer only has data for the downmix channels.
Fixes a segfault when decoding dca with request_channels == 2.

configure: use utilities from /usr/xpg4/bin if it exists

Solaris defaults to non-standard utilities (grep, sed, ...) with
proper ones being in /usr/xpg4/bin.  Prefixing PATH with this
directory when it exists ensures we get correct variants.

Signed-off-by: Mans Rullgard <mans@mansr.com>

avstring-test: fix memory leaks

Signed-off-by: Mans Rullgard <mans@mansr.com>

rtpdec_xiph: fix function return type

parse_packed_headers() returns either zero or a negative error code
so its return type must be signed.

Signed-off-by: Mans Rullgard <mans@mansr.com>

smjpeg: fix type of 'ret' variable in smjpeg_read_packet()

The 'ret' variable is used for negative error codes so it should
be a signed type.

Signed-off-by: Mans Rullgard <mans@mansr.com>

mpegvideo: remove write-only variable

Signed-off-by: Mans Rullgard <mans@mansr.com>

Use proper return values in case of missing features

fate: add avstring test

rangecoder-test: Set error message log level to error, instead of debug

rangecoder: K&R formatting cosmetics

avcodec: Remove broken MMI optimizations

The code fails to compile and is broken beyond repair.

Remove libmpeg2 #define remnants

De-doxygenize some top-level files

Move av_reverse table to libavcodec

It is only used in that library.

avutil: Duplicate ff_log2_tab instead of sharing it across libs

The table is so small that the space gain is not worth the
performance overhead of cross-library access.

avfilter: call x86 init functions under if (ARCH_X86), not if (HAVE_MMX)

rtspdec: Set the default port for listen mode, if none is specified

Signed-off-by: Martin Storsjö <martin@martin.st>

tscc2: Fix an out of array access

Signed-off-by: Martin Storsjö <martin@martin.st>

rtmpproto: Fix an out of array write

Signed-off-by: Martin Storsjö <martin@martin.st>

rtspdec: Fix use of uninitialized byte

ffurl_read_complete can return 0 as well as negative error codes.

Signed-off-by: Martin Storsjö <martin@martin.st>

vp8: reset loopfilter delta values at keyframes.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

avutil: add yuva422p and yuva444p formats

lavu,lavd: do not use av_pix_fmt_descriptors directly.

lavfi: do not use av_pix_fmt_descriptors directly.

lavc: do not use av_pix_fmt_descriptors directly.

mpegvideo: fix indentation

sws: do not use av_pix_fmt_descriptors directly.

tools: do not use av_pix_fmt_descriptors directly.

pixdesc: add functions for accessing pixel format descriptors.

Make av_pix_fmt_descriptors table static on next major bump.

Making the table public is dangerous, since the caller has no way to
know how large it actually is. It also prevents adding new fields to
AVPixFmtDescriptor without a major bump.

build: add support for Tru64 (OSF/1)

Signed-off-by: Mans Rullgard <mans@mansr.com>

md5: Allocate a normal private context for the opaque md5 context pointer

This avoids having to overestimate the md5 context size, which
isn't known beforehand, allowing us to use the new allocate functions
instead.

Signed-off-by: Martin Storsjö <martin@martin.st>

Use the new aes/md5/sha/tree allocation functions

Signed-off-by: Martin Storsjö <martin@martin.st>

avutil: Add functions for allocating opaque contexts for algorithms

The current API where the plain size is exposed is not of much
use - in most cases it is allocated dynamically anyway.

If allocated e.g. on the stack via an uint8_t array, there's no
guarantee that the struct's members are aligned properly (unless
the array is overallocated and the opaque pointer within it
manually aligned to some unspecified alignment).

Signed-off-by: Martin Storsjö <martin@martin.st>

svq3: fix pointer type warning

Fixes:
libavcodec/svq3.c:661:9: warning: passing argument 2 of 'svq3_decode_block' from incompatible pointer type
libavcodec/svq3.c:208:19: note: expected 'DCTELEM *' but argument is of type 'DCTELEM (*)[32]'

Signed-off-by: Mans Rullgard <mans@mansr.com>

svq3: replace unsafe pointer casting with intreadwrite macros

Signed-off-by: Mans Rullgard <mans@mansr.com>

parseutils-test: various cleanups

- make tables static const
- remove useless use of compound literal
- break long lines
- fix a comma/semicolon typo

Signed-off-by: Mans Rullgard <mans@mansr.com>

parseutils: fix const removal warning

The const qualifier is still removed although it happens inside
the strtol() function so no warning is generated.

Fixes:
libavutil/parseutils.c:110:11: warning: assignment discards qualifiers from pointer target type

Signed-off-by: Mans Rullgard <mans@mansr.com>

prepare 9_beta1 release

Move avutil tables only used in libavcodec to libavcodec.

options_table: refs option is not snow-only

random_seed: Support using CryptGenRandom on windows

Signed-off-by: Martin Storsjö <martin@martin.st>

doc: update the faq entry about custom I/O

URLProtocols are private and custom AVIOContexts are a simple and
easier solution for most of the situations.

mlpdsp: adding missing file

dsputil: split out mlp dsp function

sh4: add required #include, fix build

Signed-off-by: Mans Rullgard <mans@mansr.com>

averror: make error values proper negative values

Fixes stupid mistake in 25227c3a78fefd74bc6ea34032cd49ec8c8d9d85.

build: do not use LIB as variable name

The Microsoft linker uses the LIB environment variable which
clashes with a make variable of the same name.

Signed-off-by: Mans Rullgard <mans@mansr.com>

build: whitespace cosmetics

Signed-off-by: Mans Rullgard <mans@mansr.com>

build: remove single-use variable THIS_LIB

Replace the single use of THIS_LIB with its value.

Signed-off-by: Mans Rullgard <mans@mansr.com>

build: remove references to unused EXTRAOBJS variable

This was part of a ghastly hack that is long since gone.

Signed-off-by: Mans Rullgard <mans@mansr.com>

lavfi: convert input/ouput list compound literals to named objects

A number of compilers, for example those from TI and IBM, choke on
these initialisers.  The current style is also quite ugly.

Signed-off-by: Mans Rullgard <mans@mansr.com>

fate: add h263 obmc vsynth tests

avconv: remove bogus warning when using avconv -h without parameter

averror: explicitly define AVERROR_* values

flashsv: propagate inflateReset() errors

Fixes CID717493.

indeo4/5: remove constant parameter num_bands from wavelet recomposition

Fixes bogus uninitialized value compiler and coverity warnings.

mxfdec: return error if no segments are available in mxf_get_sorted_table_segments

Fixes CID732275.

Double motion vector range for HPEL interlaced picture in proper place

The existing code is not in the right place and it should cover both
interlaced frame and field pictures.

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

vc1dec: Set opposite to the correct value for 1REF field pictures

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

vc1dec: Invoke edge emulation regardless of MV precision for 1-MV chroma

This is required due to the way VC-1 handles chroma pull-back which may end
up causing negative chroma MV for zero luma MV. Edge emulation needs to be
invoked in such cases.

This only affects vertical component of chroma motion vector.

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

vc1dec: Set chroma reference field from REFFIELD for 1REF field pictures

Interlaced field pictures can have one or two reference pictures, signaled
by NUMREF syntax element. For single reference pictures, reference picture
is determined by REFFIELD syntax element.

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

segment: support applehttp style list

avio: introduce avio_closep

mpegtsenc: set muxing type notification to verbose

vc1dec: Use correct spelling of "opposite"

Signed-off-by: Diego Biurrun <diego@biurrun.de>

a64multienc: change mc_frame_counter to unsigned

GCC cannot proof that c->mc_frame_counter is always >- 0, changing the
type from int to unsigned fixes following warning:

libavcodec/a64multienc.c: In function ‘a64multi_encode_frame’:
libavcodec/a64multienc.c:342:17: warning: ‘buf’ may be used uninitialized in this function[-Wuninitialized]

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

arm: call arm-specific rv34dsp init functions under if (ARCH_ARM)

Assign NEON specific function pointers after runtime check via
av_get_cpu_flags().

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

svq1: Drop a bunch of useless parentheses

parseutils-test: do not print numerical error codes

The error codes differ between systems so printing the value makes
the fate test fail on some systems.

Signed-off-by: Mans Rullgard <mans@mansr.com>

svq1: K&R formatting cosmetics

build: sanitize linking of tools and test programs

This makes sure proper linker arguments are used for the tools and
test programs when shared libraries are enabled.  The tools are
linked using the usual -l flag while for test programs the full
name of the static library is used.

Signed-off-by: Mans Rullgard <mans@mansr.com>

fate: Refactor setting of environment variables for groups of tests

swscale: Do not make ff_ symbols globally visible.

rtspdec: use av_strlcpy for writing into fixed size buffer

Fixes CID231347.

g722enc: fix size argument in memset

Fixes CID700725.

http: use av_strlcpy instead of strcpy() without size checks

Fixes CID700730.

avfilter: correct memcpy size avfilter_copy_buf_props()

Does not make a difference in this case since sizeof(uint8_t*) ==
sizeof(uint8_t**). Fixes CID703814.

lavc: split asv12 encoder/decoder

avconv: remove -same_quant

It has not worked for anything other than fringe codecs (asv1/2, mdec,
mjpeg[b]) since about 2003 and nobody ever noticed or complained. This
sufficiently proves that there are no users of this option who have a
clue of what they are doing, so it is completely useless.

cmdutils_read_file: increment *size after writing the trailing \0

Fixes CID732166.

af_resample: unref out_buf when avresample_convert returns 0

Fixes CID732273.

af_amix: prevent memory leak on error path

Fixes CID732272.

vc1dec: prevent memory leak in error path

Fixes CID732271.

vc1dec: prevent memory leak on av_realloc error

af_channelmap: free old extended_data on reallocation

Prevents writes to freed memory and the leak of the old extended data.
Fixes CID732303.

avconv: simplify memory allocation in copy_chapters

Make just a single reallocation per call instead of one reallocation
per copied chapters. This fixes possible memory leaks on realloc
failures. Also correct the allocation since it needs multiples of
sizeof(AVChapter*) and not sizeof(AVChapter).

Fixes CID700633 and CID700719.

matroskaenc: check cue point validity before reallocation

Prevents memory leak and possible access to freed memory.
Fixes CID605744.

swfenc: error out for more than 1 audio or video stream

Prevents CID602000.