build: Drop AVX assembly ifdefs

An assembler able to cope with AVX instructions is now required.

x86: Require an assembler able to cope with AVX instructions

All modern assemblers have this capability.  Older NASM versions
that lack the capability produce code that crashes at runtime,
so it's better to error out during the build process instead.

CC: libav-stable@libav.org

doc: git-howto: Leave reviewers time to react before pushing patches

Include libavutil/channel_layout.h instead of libavutil/audioconvert.h

Also reorder some other #include when applicable.

lavu: rename audioconvert.* to channel_layout.* and deprecate audioconvert.h

mss2: prevent potential uninitialized reads

The alternative to zeroing on init is setting the corrupted flag in
all cases where pal_pic is not fully written, at the cost of added
complexity.

Signed-off-by: Kostya Shishkov <kostya.shishkov@gmail.com>

mss2: reindent after last commit

mss2: fix handling of unmasked implicit WMV9 rectangles

Signed-off-by: Kostya Shishkov <kostya.shishkov@gmail.com>

configure: add lavu dependency to lavr/lavfi .pc files

x86inc: Set program_name outside of x86inc.asm

This reduces the local difference to the x264 upstream version.

x86: h264_qpel_10bit: drop unused parameter from MC10/MC20/MC30 macros

x86: PALIGNR: port to cpuflags

x86: h264_qpel_10bit: port to cpuflags

flacenc: ensure the order is within the min/max range in LPC order search

This fixes use of uninitialized values when the FLAC encoder uses the
2-level, 4-level, and 8-level search methods. Fixes failure of the
fate-flac-24-comp-8 test when run using valgrind.

avconv: rescale packet duration to muxer time base when flushing encoders

Fixes Bug 385

add 24-bit FLAC encoding to Changelog

Also move a misplaced line from the 9_beta2 section to <next>

rtpenc_aac: Fix calculation of the header size

Previously the high end byte was always set to zero. Also get
rid of an unnecessary multiplication (which in practice couldn't
overflow) before shifting.

Signed-off-by: Martin Storsjö <martin@martin.st>

x86: h264_intrapred: port to cpuflags

libvpxenc: Allow enabling constrained quality (CQ) mode

The CQ mode was introduced in libvpx 0.9.6.

Signed-off-by: Martin Storsjö <martin@martin.st>

libopencore-amr: Check the return value of amr_decode_fix_avctx

This allows getting rid of redundant checks later in the codec
specific init functions.

Move the check to before actually initializing the decoder lib,
to simplify error handling.

This fixes a case of returning a value from a void function, present since
d40dab907.

Signed-off-by: Martin Storsjö <martin@martin.st>

fate: atrac: Place atrac1 and atrac3 tests in different groups

fate: aac: cosmetics: Group AAC LATM tests together

x86: avresample: Add missing colons to assembly labels

YASM accepts labels without colons, but NASM issues warnings.

FATE: add a 24-bit FLAC encoding test

FATE: rename FLAC tests from flac-* to flac-16-*

This will distinguish FLAC 16-bit tests from FLAC tests with other bit
depths.

flacenc: use RICE2 entropy coding mode for 24-bit

flacenc: add 24-bit encoding

flacdsp: move lpc encoding from FLAC encoder to FLACDSPContext

Also, templatize the functions for 16-bit and 32-bit sample range. This will
be used for 24-bit FLAC encoding.

flacenc: use uint64_t for bit counts

Needed to avoid integer overflows for 24-bit encoding.

flacenc: remove wasted trailing 0 bits

lavu: add av_ctz() for trailing zero bit count

flacenc: use a separate buffer for byte-swapping for MD5 checksum on big-endian

This is much faster than calculating the MD5 one sample at a time.

fate: aac: Place LATM tests and general AAC tests in different groups

build: The A64 muxer depends on rawenc.o for ff_raw_write_packet()

x86: h264qpel: Only define mmxext QPEL functions if H264QPEL is enabled

This fixes compilation with --disable-everything and components enabled.

x86: PABSW: port to cpuflags

x86: vc1dsp: port to cpuflags

rtmp: Use av_strlcat instead of strncat

Signed-off-by: Martin Storsjö <martin@martin.st>

doc: add apidoc target for doxygen API documentation

Documentation includes only the externally visible API of the installed
headers.

Based on a patch by Anton Khirnov <anton@khirnov.net>.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

matroskadec: do not use avpacket internals

lavf: fix av_interleaved_write_frame() doxy.

A sentence was mistakenly inserted in the middle of another sentence.

lavf: clarify the lifetime of demuxed packets.

avconv: do not free muxed packet on streamcopy.

The packet belongs to lavf, the caller must not free it or access it in
any other way.
No change in practice, since destruct is set to NULL anyway.

crc: move doxy to the header

vf_drawtext: do not use deprecated av_tree_node_size

x86: Refactor PSWAPD fallback implementations and port to cpuflags

parser: Move Doxygen documentation to the header files

PGS subtitles: Expose forced flag

Useful for detection of subtitles displayed during foreign language
scenes.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

x86: PMINUB: port to cpuflags

x86: ac3dsp: port to cpuflags

x86util: Add cpuflags_mmxext alias for cpuflags_mmx2

"mmxext" is a more sensible name and more common in outside projects.

x86inc: Only define program_name if the macro is unset

This allows overriding the value from outside of the file.

dv1394: Swap the min and max values of the 'standard' option

DV1394_NTSC has a lower value than DV1394_PAL.

Signed-off-by: Martin Storsjö <martin@martin.st>

rtpdec_vp8: Don't parse fields that aren't used

This avoids warnings about unused variables.

Signed-off-by: Martin Storsjö <martin@martin.st>

lavc: add some AVPacket doxy.

audiointerleave: deobfuscate a function call.

right above there is if (pkt) {<do stuff>; pkt = NULL}, so pkt is just a
fancy name for NULL at this point.

rtpdec: factorize identical code used in several handlers

a64: remove interleaved mode.

It has been disabled since it was added two years ago.

doc: Point to the new location of the c99-to-c89 tool

This location contains prebuilt binaries as well.

Signed-off-by: Martin Storsjö <martin@martin.st>

decode_audio3: initialize AVFrame

Same fix and issue as in a25d912dca9cd553440167e0476c47581359c0fc

Signed-off-by: Anton Khirnov <anton@khirnov.net>

ws-snd1: set channel layout

wmavoice: set channel layout

wmapro: use AVCodecContext.channels instead of keeping a private copy

wma: do not keep private copies of some AVCodecContext fields

channels, sample_rate, bit_rate, and block_align can be used directly from
the AVCodecContext

vmdaudio: set channel layout

twinvq: validate sample rate code

A large invalid value could cause undefined behavior when left-shifted
by 8 later in the function.

twinvq: set channel layout

twinvq: validate that channels is not <= 0

This could occur due to integer overflow when reading the channel count from
the extradata.

truespeech: set channel layout

sipr: set channel layout

shorten: validate that the channel count in the header is not <= 0

ra288dec: set channel layout

ra144dec: set channel layout

qdm2: remove unneeded checks for channel count

qdm2: make sure channels is not <= 0 and set channel layout

qcelpdec: set channel layout

nellymoserdec: set channels to 1

libopencore-amr: set channel layout for amr-nb or if not set by the user

libilbc: set channel layout

dpcm: use AVCodecContext.channels instead of keeping a private copy

imc: set channels to 1 instead of validating it

gsmdec: always set channel layout and sample rate at initialization

Only mono 8kHz is supported.

libgsmdec: always set channel layout and sample rate at initialization

Only mono 8kHz is supported.

g726dec: do not validate sample rate

For decoding it does not really matter what the sample rate is.

g726dec: set channel layout at initialization instead of validating it

flacdec: do not warn on sample rate change

flacdec: allow mid-stream channel layout change

Although the libFLAC decoder cannot handle such a change, it is allowed by the
spec and could potentially occur with live streams.

flacdec: use av_samples_* functions for sample buffer allocation

Also, return an error on allocation failure.

dcadec: allow the decoder to change the channel layout mid-stream

cook: use av_dlog() for debug logging instead of av_log() with AV_LOG_ERROR

cook: move samples_per_frame from COOKSubpacket to where it is used

cook: use av_get_channel_layout_nb_channels() instead of cook_count_channels()

cook: reverse a condition so that the code makes more sense

cook: remove unneeded COOKContext variable, sample_rate

cook: remove unneeded COOKContext variable, bit_rate

cook: use AVCodecContext.channels instead of keeping a private copy

bmvaudio: set channel layout at init() rather than validating it

atrac1: do not keep a copy of channel count in the private context

dsicinaudio: set channels and channel layout

g722dec: set channel layout at initialization instead of validating it