Remove pointless av_cold attributes in header files

The init functions marked as av_cold have to be executed in any case,
so there is no gain from trying to mark paths leading to such functions
as unlikely.

pnm: add high-bitdepth PGMYUV support for both encoder and decoder

libx264: change i_qfactor to use x264cli's default

This also allows libx264 to modify its i_qfactor value
when using the "-tune" setting. Previously it had a static
value of 1.25

Signed-off-by: Anton Khirnov <anton@khirnov.net>

qtrle: use AV_LOG_ERROR in an error message.

qtrle: cosmetics, reformat CHECK_PIXEL_PTR() macro

qtrle: add more checks against pixel_ptr being negative.

CC:libav-stable@libav.org

cavs: initialize various context tables to 0

Avoids crashes with corrupted files.

CC:libav-stable@libav.org

mlpdec: do not try to allocate a zero-sized output buffer.

CC:libav-stable@libav.org

mov: use the format context for logging.

CC:libav-stable@libav.org

flicvideo: avoid an infinite loop in byte run compression

When byte_run is 0, pixel_countdown is not touched and the loop will run
forever.

CC:libav-stable@libav.org

loco: check that there is data left after decoding a plane.

CC:libav-stable@libav.org

lagarith: avoid infinite loop in lag_rac_refill()

range == 0 happens with corrupted files

CC:libav-stable@libav.org

av_memcpy_backptr: avoid an infinite loop for back = 0

CC:libav-stable@libav.org

4xm: check the return value of read_huffman_tables().

CC:libav-stable@libav.org

x86: h264: Don't use redzone in AVX h264_deblock on Win64

This fixes crashes in chromium on win64 on machines with AVX
(crashes that apparently aren't triggered by fate).

Signed-off-by: Martin Storsjö <martin@martin.st>

dxva2: Add missing #define to make header compile standalone

arm: vp8: Add missing #includes for header to compile standalone

doc: filters: Correct BNF FILTER description

Signed-off-by: Diego Biurrun <diego@biurrun.de>

intreadwrite: tomi: Add missing attributes.h #include for av_always_inline

build: Ensure that output directories for header objects are created

h264: Get rid of unnecessary casts

This gets rid of a number of warnings about casts discarding
qualifiers from the pointer target, present since 7ebfb466a.

Signed-off-by: Martin Storsjö <martin@martin.st>

h264/svq3: Stop using draw_edges

Instead, only extend edges on-demand when the motion vector actually
crosses the visible decoded area using ff_emulated_edge_mc(). This
changes decoding time for cathedral from 8.722sec to 8.706sec, i.e.
0.2% faster overall. More generally (VP8 uses this also), low-motion
content gets significant speed improvements, whereas high-motion content
tends to decode in approximately the same time.

Signed-off-by: Martin Storsjö <martin@martin.st>

h264: Don't store intra pcm samples in h->mb

Instead, keep them in the bitstream buffer until we read them verbatim,
this saves a memcpy() and a subsequent clearing of the target buffer.
decode_cabac+decode_mb for a sample file (CAPM3_Sony_D.jsv) goes from
6121.4 to 6095.5 cycles, i.e. 26 cycles faster.

Signed-off-by: Martin Storsjö <martin@martin.st>

get_bits: Return pointer to buffer that is the result of the alignment

This allows more transparent mixing of get_bits and whole-byte access
without having to touch get_bits internals.

Signed-off-by: Martin Storsjö <martin@martin.st>

h264: Add add_pixels4/8() to h264dsp, and remove add_pixels4 from dsputil

These functions are mostly H264-specific (the only other user I can
spot is bink), and this allows us to special-case some functionality
for H264. Also remove the 16-bit-coeff with >8bpp versions (unused)
and merge the duplicate 32-bit-coeff for >8bpp (identical).

Signed-off-by: Martin Storsjö <martin@martin.st>

h264chroma: Remove duplicate 9/10 bit functions

These functions do the same thing in 16 bit space and don't need
any depth specific clipping.

Signed-off-by: Martin Storsjö <martin@martin.st>

x86: Use simple nop codes for <= sse (rather than <= mmx)

The "CentaurHauls family 6 model 9 stepping 8" family of CPUs
(flags: fpu vme de pse tsc msr cx8 sep mtrr pge mov pat mmx fxsr sse
up rng rng_en ace ace_en) SIGILLs on long nop codes.

Signed-off-by: Martin Storsjö <martin@martin.st>

vp56: Remove clear_blocks call, and clear alpha plane U/V DC only

The non-alpha and alpha-Y planes are cleared in the idct_put/add()
calls. For the alpha U/V planes, we only care about the DC for entropy
context prediction purposes, the rest of the data is unused.

Signed-off-by: Martin Storsjö <martin@martin.st>

x86: dsputil: Fix h263 loop filter link error in some configurations

This was caused by unconditionally referencing a conditionally compiled
table. Now the code is also compiled conditionally.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

x86: dsputil: int --> ptrdiff_t for ff_put_pixels16_mmxext line_size param

This avoids SIMD-optimized functions having to sign-extend their
line size argument manually to be able to do pointer arithmetic.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

doc: Fix some obsolete references to av* tools as ff* tools

Signed-off-by: Diego Biurrun <diego@biurrun.de>
CC: libav-stable@libav.org

svq3: unbreak decoding

a7d2861d36756b913e85681b86ed3385274e8ced removed necessary braces.

build: make audio_frame_queue a stand-alone component

Encoders requiring it have the dependency expressed in the
configure.

build: The libopencore-amrnb encoder depends on audio_frame_queue

CC: libav-stable@libav.org
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

libopencore-amrwb: Make AMR-WB ifdeffery more precise

The library might provide an encoder in the future, so it's better to
check for the presence of the decoder rather than just the library.

CC: libav-stable@libav.org
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

libopencore-amr: Conditionally compile decoder and encoder bits

CC: libav-stable@libav.org
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

libopencore-amrnb: cosmetics: Group all encoder-related code together

CC: libav-stable@libav.org
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

dsputil: convert remaining op_pixels_func

Convert to diffptr_t the line_size parameters still int.

Remove all the warnings in dsputil.c

roqvideodec: check dimensions validity

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
(cherry picked from commit 3ae610451170cd5a28b33950006ff0bd23036845)

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
(cherry picked from commit fee26d352a52eb9f7fcd8d9167fb4a5ba015b612)

CC: libav-stable@libav.org
Signed-off-by: Reinhard Tartler <siretart@tauware.de>

vqavideo: check chunk sizes before reading chunks

Fixes out of array writes

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
(cherry picked from commit ab6c9332bfa1e20127a16392a0b85a4aa4840889)

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
(cherry picked from commit 13093f9767b922661132a3c1f4b5ba2c7338b660)

CC: libav-stable@libav.org
Signed-off-by: Reinhard Tartler <siretart@tauware.de>

qdm2: check array index before use, fix out of array accesses

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
(cherry picked from commit a7ee6281f7ef1c29284e3a4cadfe0f227ffde1ed)

CC: libav-stable@libav.org
Signed-off-by: Reinhard Tartler <siretart@tauware.de>

error_resilience: add required headers.

h264: deMpegEncContextize

Most of the changes are just trivial are just trivial replacements of
fields from MpegEncContext with equivalent fields in H264Context.
Everything in h264* other than h264.c are those trivial changes.

The nontrivial parts are:
1) extracting a simplified version of the frame management code from
   mpegvideo.c. We don't need last/next_picture anymore, since h264 uses
   its own more complex system already and those were set only to appease
   the mpegvideo parts.
2) some tables that need to be allocated/freed in appropriate places.
3) hwaccels -- mostly trivial replacements.
   for dxva, the draw_horiz_band() call is moved from
   ff_dxva2_common_end_frame() to per-codec end_frame() callbacks,
   because it's now different for h264 and MpegEncContext-based
   decoders.
4) svq3 -- it does not use h264 complex reference system, so I just
   added some very simplistic frame management instead and dropped the
   use of ff_h264_frame_start(). Because of this I also had to move some
   initialization code to svq3.

Additional fixes for chroma format and bit depth changes by
Janne Grunau <janne-libav@jannau.net>

Signed-off-by: Anton Khirnov <anton@khirnov.net>

mpegvideo: split ff_draw_horiz_band().

Split out dependency on MpegEncContext.

error_resilience: decouple ER from MpegEncContext

svq3: remove a pointless if()

The H264 context is always uninitialized at this point.

h264: remove a pointless if()

!encoding is always true, we do not have a H.264 encoder

h264: simplify calls to ff_er_add_slice().

partitioned_frame is never set for h264 (as easily seen from git grep).

get_buffer(): do not initialize the data.

There may be more decoders that rely on this. Those should be found and
fixed.

vf_yadif: fix out-of line reads

Some changes in the border pixels, visually indistinguishable.

vf_yadif: factorize initializing the filtering callbacks

Do it all in config_props().

sparc: dsputil: Simplify high_bit_depth checks

h264idct: Replace duplicate scan8 table by appropriate #include

avutil: Ensure that emms_c is always defined, even on non-x86

configure: Move MinGW CPPFLAGS setting to libc section, where it belongs

avutil: Move emms code to x86-specific header

doc/platform: Fix 10l typo

This error was somehow missed for months.

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

dsputil: Move STRIDE_ALIGN macro to the only place it is used

lavr: fix mixing matrix reduction when normalization is disabled

In some cases when an input contributes fully to the corresponding
output, other inputs may also contribute to the same output. This is the
case, for example, for the default 5.1 to stereo downmix matrix without
normalization.

lavr: fix matrix reduction for upmixing in certain cases

Do not skip an output if the corresponding input contributes to other output
channels.

lavr: cosmetics: reindent

lavr: make sure that the mix function is reset even if no mixing will be done

If the matrix reduction ends up with no mixing matrix needed, we need to still
reset the mix function accordingly and log the info to the user.

lavr: print out the mix matrix in ff_audio_mix_set_matrix()

This will print the new matrix if it is set after initialization.

ws-snd1: decode directly to the user-provided AVFrame

wmavoice: decode directly to the user-provided AVFrame

wmaenc: alloc/free coded_frame instead of keeping it in the WMACodecContext

wma: decode directly to the user-provided AVFrame

wmapro: decode directly to the user-provided AVFrame

wavpack: decode directly to the user-provided AVFrame

vorbis: decode directly to the user-provided AVFrame

vmdaudio: decode directly to the user-provided AVFrame

twinvq: decode directly to the user-provided AVFrame

tta: decode directly to the user-provided AVFrame

truespeech: decode directly to the user-provided AVFrame

tak: decode directly to the user-provided AVFrame

smackaud: decode directly to the user-provided AVFrame

sipr: decode directly to the user-provided AVFrame

shorten: decode directly to the user-provided AVFrame

s302m: decode directly to the user-provided AVFrame

ra288: decode directly to the user-provided AVFrame

ra144: decode directly to the user-provided AVFrame

ralf: decode directly to the user-provided AVFrame

qdm2: decode directly to the user-provided AVFrame

qcelp: decode directly to the user-provided AVFrame

pcm-bluray: decode directly to the user-provided AVFrame

nellymoser: decode directly to the user-provided AVFrame

mpc7/8: decode directly to the user-provided AVFrame

mpegaudio: decode directly to the user-provided AVFrame

mlp/truehd: decode directly to the user-provided AVFrame

mace: decode directly to the user-provided AVFrame

libspeex: decode directly to the user-provided AVFrame

libopus: decode directly to the user-provided AVFrame

libopencore-amr: decode directly to the user-provided AVFrame

libgsm: decode directly to the user-provided AVFrame

libilbc: decode directly to the user-provided AVFrame

dpcm: decode directly to the user-provided AVFrame

imc/iac: decode directly to the user-provided AVFrame

gsm: decode directly to the user-provided AVFrame

g726: decode directly to the user-provided AVFrame

g723.1: decode directly to the user-provided AVFrame