vf_blackframe: use the name 's' for the pointer to the private context

This is shorter and consistent across filters.

vf_aspect: use the name 's' for the pointer to the private context

This is shorter and consistent across filters.

Remove commented-out debug #define cruft

jpegls: K&R formatting cosmetics

Signed-off-by: Diego Biurrun <diego@biurrun.de>

jpegls: cosmetics: Drop some unnecessary parentheses

mpegvideo: Remove commented-out PARANOID debug cruft

Remove commented-out #includes

h263dec: Remove broken and disabled debug cruft

vc1: Reindent INIT_LUT(), align backslashes

Signed-off-by: Martin Storsjö <martin@martin.st>

configure: Use linker hardening flags on mingw

This makes it consistent with the msvc builds which automatically set
the DEP and ASLR flags by default.  There really is no good reason why
they shouldn't be set.

The fact that binutils does not set them on by default boggles the mind.

Signed-off-by: Martin Storsjö <martin@martin.st>

vc1: Make INIT_LUT() self contained

Move the local variables it uses into the macro, enclosing them
in a do {} while (0) scope.

Signed-off-by: Martin Storsjö <martin@martin.st>

vc1: Simplify code by using INIT_LUT()

Signed-off-by: Martin Storsjö <martin@martin.st>

vc1: Move INIT_LUT() further up to allow using it in more places

Signed-off-by: Martin Storsjö <martin@martin.st>

vc1dec: Remove some now unused variables

Signed-off-by: Martin Storsjö <martin@martin.st>

vc1dec: Do not allow field_mode to change after the first header

This fixes out of array accesses.

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
Signed-off-by: Martin Storsjö <martin@martin.st>

vc1, mss2: Check for any negative return value from ff_vc1_parse_frame_header

This is required if we return other error codes than explicitly
-1, which so far has been the only other possible return value
besides 0.

Signed-off-by: Martin Storsjö <martin@martin.st>

vc1dec: Fix current ptr selection in vc1_mc_4mv_chroma()

No sample tried shows a difference.

Signed-off-by: Martin Storsjö <martin@martin.st>

vc1dec: Factorize picture pointer selection in vc1_mc_4mv_chroma()

Signed-off-by: Martin Storsjö <martin@martin.st>

vc1dec: Factorize picture pointer selection code

Signed-off-by: Martin Storsjö <martin@martin.st>

vc1dec: Factorize srcU/V offseting

Signed-off-by: Martin Storsjö <martin@martin.st>

vc1dec: Fix tff == 0 handling in init_block_index()

This fixes several files from VLC ticket 5887.

Signed-off-by: Martin Storsjö <martin@martin.st>

vc1dec: Update destination pointers in context for fields

This replaces a large number of checks for the second field by
fixing the pointers when they are setup.

This should also fix I/BI field pictures.

Changes checksums for vc1_sa10143, the file becomes slightly closer
to what the reference decoder outputs.

Based on "vc1dec: the second field is written wrong to the picture"
by Sebastian Sandberg <sebastiand.sandberg@gmail.com>.

Signed-off-by: Martin Storsjö <martin@martin.st>

pixdesc: rename PIX_FMT_* flags to AV_PIX_FMT_FLAG_*

jpeg2000dec: don't use deprecated PIX_FMT values

lavfi: fix compatibility code for old vf_scale options syntax

Currently it would incorrectly trigger on a string that contains a '='
but does not contain a ':', e.g. flags=<flags>.

avfiltergraph: simplify inserting conversion filters.

There is now no need to explicitly pass 0:0 as width/height to scale,
those are the defaults.

Clarify output of av_get_bits_per_pixel

Signed-off-by: Anton Khirnov <anton@khirnov.net>

fate: update the mmf reference

Using Optional Data chunk introduced changes the hash.

mmf: Write metadata into an Optional Data chunk

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

jpeg2000dec: Use correct printf length modifier for pointer differences

Also eliminate an unnecessary cast. Fixes the following warning:
jpeg2000dec.c:1200:20: warning: format ‘%lX’ expects argument of type ‘long unsigned int’, but argument 5 has type ‘long long unsigned int’

vc1dec: Don't apply the loop filter on fields

Fixes read of uninitialized memory.

Based on a patch by Michael Niedermayer.

Signed-off-by: Martin Storsjö <martin@martin.st>

vc1: implement frame interlaced b-frame header parsing

Signed-off-by: Martin Storsjö <martin@martin.st>

vc1dec: Don't attempt error concealment on field pictures

This is not implemented and doesn't work.

Signed-off-by: Martin Storsjö <martin@martin.st>

vc1dec: fieldtx is only valid for interlaced frame pictures

The fieldtx_plane is not cleared for interlaced fields.

Signed-off-by: Martin Storsjö <martin@martin.st>

aacenc: Fix erasure of surround channels

This was due to a miscomputation of s->cur_channel, which led to
psy-based encoders using the psy coefficients for the wrong channel.

Signed-off-by: Martin Storsjö <martin@martin.st>

aacenc: Fix target bitrate for twoloop quantiser search

This fixes a case where multichannel bitrate isn't accurately
targetted by psy model alone, never achieving the target bitrate.

Signed-off-by: Martin Storsjö <martin@martin.st>

aacenc: Fix a rounding bug in aacpsy channel bitrate computation

Signed-off-by: Martin Storsjö <martin@martin.st>

yadif: correct strides in filter_edges_16bit

The C code treats the data as arrays of uint16_t so strides must not
be in bytes but in pixels.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

yadif: restore speed of the C filtering code

Always use the special filter for the first and last 3 columns (only).

Changes made in 64ed397 slowed the filter to just under 3/4 of what it
was.  This commit restores the speed while maintaining identical output.

For reference, on my Athlon64:
1733222 decicycles in old
2358563 decicycles in new
1727558 decicycles in this

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavc: Fix msvc compilation of utils.c with -WX (warnings treated as errors)

This fixes https://bugzilla.libav.org/show_bug.cgi?id=514.

Signed-off-by: Martin Storsjö <martin@martin.st>

configure: Disable PIC for cygwin just as for win32/mingw

If this is explicitly disabled for win32/mingw, it should also
be disabled for cygwin, for consistency and for the same reasons
as for win32/mingw.

Signed-off-by: Martin Storsjö <martin@martin.st>

x86: dsputil: Rename dsputil_mmx.h --> dsputil_x86.h

The header is not (anymore) MMX-specific.

x86: dsputil: Split inline assembly from init code

Also remove some pointless comments.

x86: dsputil: Refactor pixels16 wrapper functions with a macro

configure: x86: Only enable cpunop on i686

The assembler may insert nopl instructions for cpunop, which are not
(universally) supported on i586 CPUs.

configure: Rename cmov processor capability to i686

The goal is to make the capapility slightly more general and have it
cover the availability of the nopl instruction in addition to cmov.

configure: Explicitly disable PIC when targeting win32/mingw

These platforms do not have any notion of PIC. On some compilers,
enabling pic produces a number of warnings.

This avoids trying to produce PIC loads in the ARM assembly - there
are no relocation types in PE/COFF that correspond to
BFD_RELOC_32_PCREL (R_ARM_REL32 in ELF).

As a side-effect, this avoids enabling PIC on mingw64, getting rid
of the warnings about PIC not having any effect on that platform.

Signed-off-by: Martin Storsjö <martin@martin.st>

configure: Use enable_weak when enabling pic

This allows it to be overridden, either by the user on the command
line, or by other sections of the configure script.

Signed-off-by: Martin Storsjö <martin@martin.st>

indeo3: avoid writes without necessary alignment in copy_cell()

Cells starting at a position aligned to 8 pixels but wider than
4 blocks are copied with 3 blocks per loop. This creates problems on the
next loop iterations since the routine copying 2 blocks requires the
same alignment on some architectures like ARM NEON.

x86: sbrdsp: implement SSE2 qmf_pre_shuffle

From 253 to 51 cycles on Arrandale and Win64.
44 cycles on SandyBridge.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

af_asyncts: fix offset calculation

delta is in samples, not bytes. Also the sample format is not guaranteed
to be planar.

CC:libav-stable@libav.org

avconv: use current syntax for the scale filter

mmf: K&R formatting cosmetics

Signed-off-by: Diego Biurrun <diego@biurrun.de>

x86: dsputil: Remove unused argument from QPEL_OP macro

x86: vf_yadif: Remove stray dsputil_mmx #include

x86: dsputil: Move TRANSPOSE4 macro to the only place it is used

x86: dsputil: Move constant declarations into separate header

x86: dsputil: Group all assembly constants together in constants.c

x86: dsputil: Move ff_pd assembly constants to the only place they are used

msvc: Move linker pragma from config.h to libavutil/internal.h

This makes linking succeed for tools that include config.h but
don't link to libavutil.

Signed-off-by: Martin Storsjö <martin@martin.st>

fate-run: Drop unnecessary regtest() indirection

The indirection was used to abstract from the different -regression.sh
scripts. Now that only one remains, this indirection is pointless.

x86: dsputil: Remove unused ff_pb_3F constant

x86: dsputil: Remove unused MOVQ_BONE macro

x86: dsputil: Move rv40-specific functions where they belong

x86: dsputil hpeldsp: Move shared template functions into separate object

x86: rnd_template: Eliminate pointless OP_AVG macro indirection

oma: properly forward errors in oma_read_packet

Prevent spurios EIO on EOF.

CC:libav-stable@libav.org

oma: return meaningful errors

lavc: do not leak frames in avcodec_decode_audio4

Notwithstanding the return value the frame should be freed if
is not going to be used.

Reported-by: Matthew Wolenetz <wolenetz@chromium.org>

nut: use meaningful error values

Fix the mispresented EINVAL for EOF on partial files, among the other.

FATE: use a less ambiguous end time for filter-trim-time test

0.1 seconds at 25 fps is exactly 2.5 frames, which may be rounded either
to 2 or 3 on different platforms.

configure: add dependencies to lavfi .pc file

The scale filter depends on sws, resample on lavr, and movie on lavf and
lavc.

Fixes Bug 502.

configure: make avconv select (a)trim filters

They are now used for -ss/-t

avconv: remove -deinterlace

It is incompatible with refcounted frames and since it's been deprecated
for a long time now, fixing it is not worth the effort.

indeo3: use unaligned reads on reference blocks.

They are not guaranteed to be aligned.
Fixes Bug 503.

CC:libav-stable@libav.org

jpeg2000dec: initialize static data just once

jpeg2000dec: cleanup properly after decoding errors

Fixes memory leak in fate-redcode-demux.

fate-jpeg2000-dcinema: force output to xyz12le

Fixes Fate tests on big-endian configs.

vf_scale: add endianness conversion pixel format in query_formats

swscale: support endianness conversion for AV_PIX_FMT_XYZ12

swscale: add support for endianness only conversion

Use bitfields in FormatEntry array to avoid wasting an int for each flag.

pixdesc: add function to return pixel format with swapped endiannes

swscale: Use alpha from the right row in yuva2rgba_c

Every other pixel had the alpha channel taken from the wrong
row.

This fixes bug 504.

CC: libav-stable@libav.org
Signed-off-by: Martin Storsjö <martin@martin.st>

swscale: Remove unnecessary backslashes

Signed-off-by: Martin Storsjö <martin@martin.st>

jpeg2000: Fix uninitialized data errors pointed out by valgrind/memcheck

Signed-off-by: Diego Biurrun <diego@biurrun.de>

x86: hpeldsp: Move avg_pixels8_x2_mmx() out of hpeldsp_rnd_template.c

The function is only instantiated once, so there is no point
in keeping it in a template file.

x86: hpeldsp: Only compile MMX hpeldsp code if MMX is enabled

x86: More specific ifdefs for dsputil/hpeldsp init functions

wav: Always seek to an even offset

RIFF chunks are aligned to 16bit according to the specification.

Bug-Id:500
CC:libav-stable@libav.org

nut: use a define for the nut version

Ease switching version in the future and make evident why that value.

bgmc: Do not mark ff_bgmc_decode_init() as av_cold

The function is possibly called once per block.

avcodec: Add av_cold attributes to end functions missing them

avformat: Add av_cold attributes to init functions missing them

configure: Check for getenv

When targeting the "windows store application" (metro) API subset
(or the windows phone API subset), the getenv function isn't
available. If it is unavailable, just define getenv to NULL.

The check uses check_func_headers, since the function actually
might exist in the libraries, but is hidden in the headers.

The fallback is in config.h since msvc can't do -D defines with
parameters on the command line, and it's used both within the
libraries and the frontend applications (so a libavutil internal
header wouldn't be enough).

Signed-off-by: Martin Storsjö <martin@martin.st>

swscale: Add av_cold attributes to init functions missing them

avutil: Add av_cold attributes to init functions missing them

lavfi: let gcc realign the stack on public graph driving functions

The functions which actually drive the filter graph by pushing
frames through it need to ensure an aligned stack for SIMD functions.

This fixes a crash in YADIF filter when using a mingw build in a MSVC
application.

Signed-off-by: Martin Storsjö <martin@martin.st>

sctp: Add a note on why sctp_recvmsg and sctp_sendmsg have ff_-prefixes

avs: Increase magic value score above file extension score

This should fix misdetection of AVS files as AviSynth scripts
when AviSynth support is enabled (Bugzilla #357).

avformat: Add AVPROBE_SCORE_EXTENSION define and use where appropriate