asf: K&R formatting cosmetics

vc1dec: use codec_id instead of codec_tag for VC1IMAGE

the rest of the code is using codec_id everywhere already

Signed-off-by: Vladimir Pantelic <vladoman@gmail.com>
Signed-off-by: Kostya Shishkov <kostya.shishkov@gmail.com>

sh4: drop unused functions

{avg,put}_pixels4_c are not used.

sh4: Fix silly type vs. variable name search and replace typo

configure: Group all hwaccels together in a separate variable

Add av_cold attributes to arch-specific init functions

Use ptrdiff_t instead of int for {avg, put}_pixels line_size parameter.

This avoids SIMD-optimized functions having to sign-extend their
line size argument manually to be able to do pointer arithmetic.

avfilter: x86: consistent filenames for filter optimizations

mpegvideo: simplify REBASE_PICTURE

Always evaluate to NULL when the source Picture is not located in the
MpegEncContext.picture array. That will only happen for
next/last_picture_ptr when updating the thread context during h264 frame
threaded decoding, where they will point to elements of ref_list. Since
ref_list is not copied during updating the context and is invalid until
it is constructed for the current slice, there is no point in doing
anything complicated with next/last_picture_ptr, as they will get
updated when the ref_list is filled.

vf_hqdn3d: x86: Add proper arch optimization initialization

Use proper "" quotes for local header #includes

ppc: fmtconvert: Drop two unused variables.

bink demuxer: set framerate.

bink demuxer: check malloc return value

bink: fix a check for the first frame.

Packet pts is a very unreliable indicator, use
AVCodecContext.frame_number instead.

doc/developer: Drop obsolete MPlayer reference

doc/developer: Add ISC license to list of acceptable licenses

doc/developer: Add web links for all suggested licenses

x86: hpel: Move {avg,put}_pixels16_sse2 to hpeldsp

configure: Add a comment indicating why uclibc is checked before glibc

configure: Move newlib libc check before mingw libc check

On Cygwin systems MinGW headers can be present if the corresponding
packages have been installed. Since the MinGW libc is checked for
first, this results in newlib getting misdetected as MinGW libc.

avisynth: Change demuxer name to avoid conflicts with AVS

mpegvideo: Do REBASE_PICTURE with byte pointers

REBASE_PICTURE (more specifically, this half of it) takes a Picture
pointer that points into one larger struct, finds the offset of
that Picture within the struct and finds the corresponding field
within another instance of a similar struct.

The pointer difference "pic - (Picture*)old_ctx" is a value given
in sizeof(Picture) units, and when applied back on
(Picture*)new_ctx gets multiplied back with sizeof(Picture). Many
compilers seem to optimize out this division/multiplication, but
not all do.

GCC 4.2 on OS X doesn't seem to remove the division/multiplication,
therefore the new pointer didn't turn out to point to exactly
the right place in the new struct since it only had sizeof(Picture)
granularity (and the Picture is not aligned on a sizeof(Picture)
boundary within the encompassing struct). This bug has been present
before 47318953d as well - with H264, pointers to h->ref_list[0][0]
pointed to 88 bytes before h->ref_list[0][0] after the rebase. After
shrinking Picture, the difference ended up even larger, making
writes via such a Picture pointer overwrite other fields at random
in H264Context, ending up in crashes later.

This fixes H264 multithreaded decoding on OS X with GCC 4.2.

Signed-off-by: Martin Storsjö <martin@martin.st>

dsputil: remove unused functions copy_block{2, 4, 8, 16}.

movenc: Simplify code by using avio_wb24

Signed-off-by: Martin Storsjö <martin@martin.st>

bfin: unbreak compilation

Added a missing header file.

vf_delogo: fix copying the input frame.

CC:libav-stable@libav.org

vf_delogo: fix an uninitialized read.

CC:libav-stable@libav.org

h264: remove obsolete comment.

mpegvideo: remove some unused variables from Picture.

utvideoenc/v410enc: do not set AVFrame.reference.

That field will be deprecated.

pthread: make ff_thread_release_buffer idempotent.

I.e. don't do anything on already released frames.

mvi: set framerate

This container does not store timestamps and thus supports CFR only.

rawdec: use AVPALETTE_SIZE instead of magic constants.

mimic: remove a pointless cast.

mdec: return meaningful error codes.

mdec: cosmetics, reformat

mdec: merge mdec_common_init() into decode_init().

There is no point in keeping those two functions separate.

eatgv: use fixed-width types where appropriate.

x86: Simplify some arch conditionals

bfin: Separate VP3 initialization code

bfin: update VP3 idct

The block must be set to 0.

x86: hpeldsp: Fix a typo, use the right register

This makes the code actually work.

Signed-off-by: Martin Storsjö <martin@martin.st>

shorten: fix array subscript is below array bounds warning

Incidentally fixes alpha builds.

dsputil: Fix error by not using redzone and register name

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

swscale: GBRP output support

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

arm: vp8: Fix the plain-armv6 version of vp8_luma_dc_wht

This makes the plain-armv6 version use the same registers as the
armv6t2 version above.

This fixes fate-vp8 on plain-armv6 devices.

Signed-off-by: Martin Storsjö <martin@martin.st>

dsputil: x86: Correct the number of registers used in put_no_rnd_pixels16_l2

put_no_rnd_pixels16_l2 allocated 5 instead of 6 registers.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

dsputil: add missing HAVE_YASM guard

Fix compile error under
"--disable-optimizations --disable-yasm --disable-inline-asm"

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

hwaccel: do not offer unsupported pixel formats

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

vdpau: add missing pixel format for H.264

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

dsputil: x86: Convert mpeg4 qpel and dsputil avg to yasm

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

Move H264/QPEL specific asm from dsputil.asm to h264_qpel_*.asm.

doc: update the reference for the title

The recent texi2html exports the title as 'fulltitle_no_texi'.

mpegvideo_enc: fix indentation in load_input_picture()

mpegvideo_enc: do not modify the input frame.

mjpegdec: fix indentation

rawdec: cosmetics, reformat

mimic: return meaningful error codes.

mimic: cosmetics, reformat

iff: drop ff_ prefix from a static function.

pngdec: cosmetics, reformat.

Also remove a commented out line.

dxa: return meaningful error codes.

eatgq: cosmetics, reformat.

eatgq: return meaningful error codes.

eatgv: cosmetics, reformat

eatgv: return meaningful error codes.

cyuv: return meaningful error codes.

txd: return meaningful error codes.

dnxhdenc: fix invalid reads in dnxhd_mb_var_thread().

Do not assume that frame dimensions are mod16 (or that height is mod32
for interlaced).

CC:libav-stable@libav.org

x86: h264qpel: Move stray comment to the right spot and clarify it

atrac3: use correct loop variable in add_tonal_components()

Signed-off-by: Michael Karcher <ffmpeg@mkarcher.dialup.fu-berlin.de>
Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>
CC:libav-stable@libav.org

doc: document libx264 options and mappings

libx264: introduce -x264-params private option

It is a shortcut to set all the params using x264_param_parse,
makes simpler importing settings from other software using x264.

dict: add av_dict_parse_string()

Can be used to set multiple key/value pairs from a string.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

doc: support multitable in texi2pod

avfilter: allow setpts filter to use wallclock time for calculations

Signed-off-by: Vladimir Pantelic <vladoman@gmail.com>
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

lavu: Add av_strnstr()

This is a length limited version of strstr()

Signed-off-by: Vladimir Pantelic <vladoman@gmail.com>
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

h264: Allow discarding the cropping information from SPS

Some 3D systems overload the meaning of the field for other purposes.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

arm: Add mathops.h to ARCH_HEADERS list

It is an arch-specific header not suitable for standalone compilation.

avstring: K&R formatting cosmetics

Signed-off-by: Diego Biurrun <diego@biurrun.de>

build: Make the H.264 parser select h264qpel

It is required for building the shared H.264 code.

x86: h264qpel: add cpu flag checks for init function

The code was copied from per cpu extension init function so the checks
for supported extensions was overlooked.

h264: copy h264qpel dsp context to slice thread copies

arm: h264qpel: use neon h264 qpel functions only if supported

dsputil: Separate h264 qpel

The sh4 optimizations are removed, because the code is
100% identical to the C code, so it is unlikely to
provide any real practical benefit.

Signed-off-by: Diego Biurrun <diego@biurrun.de>
Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

doc: fix dependencies in pod generation

The script can and will change.

openbsd: configure: Stop enabling PIC by default

Previously PIC was enabled as a magic workaround for binaries that
built fine, but failed to function at all.  This problem no longer
exists, possibly since the introduction of symbol versioning.

rtpenc_chain: Use the original AVFormatContext for getting payload type

In ff_rtp_get_payload_type, the AVFormatContext is used for checking
whether the payload_type or rtpflags options are set. In rtpenc_chain,
the rtpctx struct is a newly initialized struct where no options have
been set yet, so no options can be fetched from there.

All muxers that internally chain rtp muxers have the "rtpflags" field
that allows passing such options on (which is how this worked before
8034130e06), so this works just as intended.

This makes it possible to produce H263 in RFC2190 format with chained
RTP muxers.

CC: libav-stable@libav.org
Signed-off-by: Martin Storsjö <martin@martin.st>

rtp: Make sure the output format pointer is set

Not sure if this actually happens, but we do the same check when
checking payload_type further above in the function, so it might
be needed.

Signed-off-by: Martin Storsjö <martin@martin.st>

wmv2: Propagate the wmv2 idct permutation type to the dsputils context

This fixes encoding where the idct setting originally was set to
FF_IDCT_AUTO and dsputil chose a default idct with a non-null
permutation - even if the permutation tables were updated,
dct_quantize in x86/mpegvideoenc_template.c also checked the
value of this type variable.

Signed-off-by: Martin Storsjö <martin@martin.st>

rtp: Make sure priv_data is set before reading it

This fixes crashes with muxing H263 into RTSP.

CC: libav-stable@libav.org
Signed-off-by: Martin Storsjö <martin@martin.st>

rtpenc: fix overflow checking in avc_mp4_find_startcode()

The check `start + res < start' is broken since pointer overflow is
undefined behavior in C.  Many compilers such as gcc/clang optimize
away this check.

Use `res > end - start' instead.  Also change `res' to unsigned int
to avoid signed left-shift overflow.

Signed-off-by: Xi Wang <xi.wang@gmail.com>
Signed-off-by: Martin Storsjö <martin@martin.st>

rtmp: fix buffer overflows in ff_amf_tag_contents()

A negative `size' will bypass FFMIN().  In the subsequent memcpy() call,
`size' will be considered as a large positive value, leading to a buffer
overflow.

Change the type of `size' to unsigned int to avoid buffer overflow, and
simplify overflow checks accordingly. Also change a literal buffer
size to use sizeof, and limit the amount of data copied in another
memcpy call as well.

Signed-off-by: Xi Wang <xi.wang@gmail.com>
Signed-off-by: Martin Storsjö <martin@martin.st>

rtmp: fix multiple broken overflow checks

Sanity checks like `data + size >= data_end || data + size < data' are
broken, because `data + size < data' assumes pointer overflow, which is
undefined behavior in C.  Many compilers such as gcc/clang optimize such
checks away.

Use `size < 0 || size >= data_end - data' instead.

Signed-off-by: Xi Wang <xi.wang@gmail.com>
Signed-off-by: Martin Storsjö <martin@martin.st>

float_dsp: Include config.h for redefining restrict

This makes sure that the restrict keyword is mapped to whatever
keyword the compiler prefers/supports. This fixes building on MSVC
(and possibly on GCC 2.x as well).

Signed-off-by: Martin Storsjö <martin@martin.st>

dsputil: remove one array dimension from avg_no_rnd_pixels_tab.

dsputil: remove 9/10 bits hpel functions.

These are never used.

dsputil: remove some never-assigned function pointers from the struct.

dsputil: remove avg_no_rnd_pixels8.

This is never used.