build: The libopencore-amrnb encoder depends on audio_frame_queue

CC: libav-stable@libav.org
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

libopencore-amrwb: Make AMR-WB ifdeffery more precise

The library might provide an encoder in the future, so it's better to
check for the presence of the decoder rather than just the library.

CC: libav-stable@libav.org
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

libopencore-amr: Conditionally compile decoder and encoder bits

CC: libav-stable@libav.org
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

libopencore-amrnb: cosmetics: Group all encoder-related code together

CC: libav-stable@libav.org
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

dsputil: convert remaining op_pixels_func

Convert to diffptr_t the line_size parameters still int.

Remove all the warnings in dsputil.c

roqvideodec: check dimensions validity

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
(cherry picked from commit 3ae610451170cd5a28b33950006ff0bd23036845)

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
(cherry picked from commit fee26d352a52eb9f7fcd8d9167fb4a5ba015b612)

CC: libav-stable@libav.org
Signed-off-by: Reinhard Tartler <siretart@tauware.de>

vqavideo: check chunk sizes before reading chunks

Fixes out of array writes

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
(cherry picked from commit ab6c9332bfa1e20127a16392a0b85a4aa4840889)

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
(cherry picked from commit 13093f9767b922661132a3c1f4b5ba2c7338b660)

CC: libav-stable@libav.org
Signed-off-by: Reinhard Tartler <siretart@tauware.de>

qdm2: check array index before use, fix out of array accesses

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
(cherry picked from commit a7ee6281f7ef1c29284e3a4cadfe0f227ffde1ed)

CC: libav-stable@libav.org
Signed-off-by: Reinhard Tartler <siretart@tauware.de>

error_resilience: add required headers.

h264: deMpegEncContextize

Most of the changes are just trivial are just trivial replacements of
fields from MpegEncContext with equivalent fields in H264Context.
Everything in h264* other than h264.c are those trivial changes.

The nontrivial parts are:
1) extracting a simplified version of the frame management code from
   mpegvideo.c. We don't need last/next_picture anymore, since h264 uses
   its own more complex system already and those were set only to appease
   the mpegvideo parts.
2) some tables that need to be allocated/freed in appropriate places.
3) hwaccels -- mostly trivial replacements.
   for dxva, the draw_horiz_band() call is moved from
   ff_dxva2_common_end_frame() to per-codec end_frame() callbacks,
   because it's now different for h264 and MpegEncContext-based
   decoders.
4) svq3 -- it does not use h264 complex reference system, so I just
   added some very simplistic frame management instead and dropped the
   use of ff_h264_frame_start(). Because of this I also had to move some
   initialization code to svq3.

Additional fixes for chroma format and bit depth changes by
Janne Grunau <janne-libav@jannau.net>

Signed-off-by: Anton Khirnov <anton@khirnov.net>

mpegvideo: split ff_draw_horiz_band().

Split out dependency on MpegEncContext.

error_resilience: decouple ER from MpegEncContext

svq3: remove a pointless if()

The H264 context is always uninitialized at this point.

h264: remove a pointless if()

!encoding is always true, we do not have a H.264 encoder

h264: simplify calls to ff_er_add_slice().

partitioned_frame is never set for h264 (as easily seen from git grep).

get_buffer(): do not initialize the data.

There may be more decoders that rely on this. Those should be found and
fixed.

vf_yadif: fix out-of line reads

Some changes in the border pixels, visually indistinguishable.

vf_yadif: factorize initializing the filtering callbacks

Do it all in config_props().

sparc: dsputil: Simplify high_bit_depth checks

h264idct: Replace duplicate scan8 table by appropriate #include

avutil: Ensure that emms_c is always defined, even on non-x86

configure: Move MinGW CPPFLAGS setting to libc section, where it belongs

avutil: Move emms code to x86-specific header

doc/platform: Fix 10l typo

This error was somehow missed for months.

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

dsputil: Move STRIDE_ALIGN macro to the only place it is used

lavr: fix mixing matrix reduction when normalization is disabled

In some cases when an input contributes fully to the corresponding
output, other inputs may also contribute to the same output. This is the
case, for example, for the default 5.1 to stereo downmix matrix without
normalization.

lavr: fix matrix reduction for upmixing in certain cases

Do not skip an output if the corresponding input contributes to other output
channels.

lavr: cosmetics: reindent

lavr: make sure that the mix function is reset even if no mixing will be done

If the matrix reduction ends up with no mixing matrix needed, we need to still
reset the mix function accordingly and log the info to the user.

lavr: print out the mix matrix in ff_audio_mix_set_matrix()

This will print the new matrix if it is set after initialization.

ws-snd1: decode directly to the user-provided AVFrame

wmavoice: decode directly to the user-provided AVFrame

wmaenc: alloc/free coded_frame instead of keeping it in the WMACodecContext

wma: decode directly to the user-provided AVFrame

wmapro: decode directly to the user-provided AVFrame

wavpack: decode directly to the user-provided AVFrame

vorbis: decode directly to the user-provided AVFrame

vmdaudio: decode directly to the user-provided AVFrame

twinvq: decode directly to the user-provided AVFrame

tta: decode directly to the user-provided AVFrame

truespeech: decode directly to the user-provided AVFrame

tak: decode directly to the user-provided AVFrame

smackaud: decode directly to the user-provided AVFrame

sipr: decode directly to the user-provided AVFrame

shorten: decode directly to the user-provided AVFrame

s302m: decode directly to the user-provided AVFrame

ra288: decode directly to the user-provided AVFrame

ra144: decode directly to the user-provided AVFrame

ralf: decode directly to the user-provided AVFrame

qdm2: decode directly to the user-provided AVFrame

qcelp: decode directly to the user-provided AVFrame

pcm-bluray: decode directly to the user-provided AVFrame

nellymoser: decode directly to the user-provided AVFrame

mpc7/8: decode directly to the user-provided AVFrame

mpegaudio: decode directly to the user-provided AVFrame

mlp/truehd: decode directly to the user-provided AVFrame

mace: decode directly to the user-provided AVFrame

libspeex: decode directly to the user-provided AVFrame

libopus: decode directly to the user-provided AVFrame

libopencore-amr: decode directly to the user-provided AVFrame

libgsm: decode directly to the user-provided AVFrame

libilbc: decode directly to the user-provided AVFrame

dpcm: decode directly to the user-provided AVFrame

imc/iac: decode directly to the user-provided AVFrame

gsm: decode directly to the user-provided AVFrame

g726: decode directly to the user-provided AVFrame

g723.1: decode directly to the user-provided AVFrame

g722: decode directly to the user-provided AVFrame

flac: decode directly to the user-provided AVFrame

cinaudio: decode directly to the user-provided AVFrame

dca: decode directly to the user-provided AVFrame

cook: decode directly to the user-provided AVFrame

comfortnoise: decode directly to the user-provided AVFrame

bmvaudio: decode directly to the user-provided AVFrame

pcm: decode directly to the user-provided AVFrame

binkaudio: decode directly to the user-provided AVFrame

atrac3: decode directly to the user-provided AVFrame

atrac1: decode directly to the user-provided AVFrame

ape: decode directly to the user-provided AVFrame

amrwb: decode directly to the user-provided AVFrame

amrnb: decode directly to the user-provided AVFrame

als: decode directly to the user-provided AVFrame

alac: decode directly to the user-provided AVFrame

adxenc: alloc/free coded_frame instead of keeping it in the ADXContext

adx: decode directly to the user-provided AVFrame

adpcm: decode directly to the user-provided AVFrame

ac3: decode directly to the user-provided AVFrame

aac: decode directly to the user-provided AVFrame

8svx: decode directly to the user-provided AVFrame

lavu: avoid clashing definition of E

E is usually defined as a shorthand for AV_OPT_FLAG_ENCODING_PARAM.
Rename the single expansion E(x) now used in libavutil to E1.

doc: developer: Add a note about reserved system name space

doc: developer: Fix wording in "naming conventions" section

openbsd: Add minor number to shared library install name

This is what the OpenBSD porter's manual describes as correct, cf.
http://www.openbsd.org/faq/ports/specialtopics.html#SharedLibs

build: Make library minor version visible in the Makefile

This allows employing that number in library install commands.

x86: mpeg4qpel: Make movsxifnidn do the right thing

Fixes an instruction that does nothing by changing the
source to dword.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

h264: Copy h264chroma dsp context to slice thread copies

This fixes slice threading which seems to have been broken since
79dad2a93.

Signed-off-by: Martin Storsjö <martin@martin.st>

swscale: Disallow conversion to GBRP16

This reverts parts of d6d5ef5534d582, that didn't work right. (The
tests that were added failed on big endian, and the output looked
garbled on little endian as well.)

This is due to the fact that the intermediate scaling values (from
e.g. hScale8To19_c or hScale16To19_c) are stored as int32_t and
thus requires a separate output function, while yuv2gbrp_full_X_c
only interprets it as int16_t.

Signed-off-by: Martin Storsjö <martin@martin.st>

crc: Move static data table from header to .c file

Having static data tables in header files is a potential source of trouble.

avcodec/rectangle: Remove nonsense assert

libfdk-aacenc: Actually check for upper bounds of cutoff

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>