g726: use bits_per_coded_sample instead of bitrate to determine mode

This requires some workarounds in the WAV muxer and demuxer. We need to write
the correct bits_per_coded_sample and block_align in the muxer. In the
demuxer, we cannot rely on the bits_per_coded_sample value, so we use the bit
rate and sample rate to determine the value.

This avoids having the decoder rely on AVCodecContext.bit_rate, which is not
required to be set by the user for decoding according to our API.

g726: split the init function for the encoder and decoder

This also allows for not having a decoder close function.

g726: pre-calculate the number of output samples.

Allows for checking output buffer size and simplification of decoding loop.

g726: use int16_t instead of short

Enable w32threads automatically unless explicitly disabled

Signed-off-by: Martin Storsjö <martin@martin.st>

cmdutils: Rename read_file to cmdutils_read_file

This symbol name clashes with a symbol in gnutls, if linking
statically to that library.

Signed-off-by: Martin Storsjö <martin@martin.st>

libdirac/libschroedinger: Drop unnecessary symbol prefixes.

The names used in the libdirac/libschroedinger wrappers are long enough as-is.
Bloating them with unnecessary prefixes makes them even more unwieldy.

cmdutils: check fread() return value

cin audio: use sign_extend() instead of casting to int16_t

cin audio: restructure decoding loop to avoid a separate counter variable

Also check output buffer size instead of truncating output.

cin audio: use local variable for delta value

cin audio: remove unneeded cast from void*

cin audio: validate the channel count

cin audio: remove unneeded AVCodecContext pointer from CinAudioContext

dsicin: fix several audio-related fields in the CIN demuxer

bits_per_coded_sample should be 8.
block_align is calculated incorrectly, but it is not needed anyway.
packet pts should be calculated in samples.
packet duration can be set.

flacdec: use av_get_bytes_per_sample() to get sample size

dca: handle errors from dca_decode_block()

Return error if core block decoding fails.
Do not enable XCh if XCh extension block decoding fails.

dca: return error if the frame header is invalid

dca: return proper error codes instead of -1

utvideo: handle empty Huffman trees

If the frame is filled with the same colour, encoder may produce no data
and the fill value is indicated by zero code length (the rest of symbols
will have 0xFF for code length, meaning invalid).  So such Huffman trees
should be treated specially.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

binkaudio: change short to int16_t

binkaudio: only decode one block at a time.

This prevents truncating output due to an output buffer that is too small for
all blocks. There is no limit on the number of blocks in a packet.

binkaudio: store interleaved overlap samples in BinkAudioContext.

This fixes the requirement for the buffer size to be larger than the number of
samples actually decoded.

binkaudio: pre-calculate quantization factors

binkaudio: add some buffer overread checks.

This stops decoding before overreads instead of after.

atrac3: support float or int16 output using request_sample_fmt

atrac3: add CODEC_CAP_SUBFRAMES capability

the decoder can handle multiple frames in a packet

atrac3: return appropriate error codes instead of -1

atrac3: make sure all memory is freed on init failure

atrac3: add a couple macro constants

atrac3: return error if packet is too small

atrac3: check output buffer size before decoding

atrac3: use separate pointers for each channel in decodeFrame()

atrac3: use optimized float_interleave() function for stereo interleaving

atrac3: decode mono directly to the output buffer

atrac3: decode output to float samples instead of converting to s16

atrac1: return appropriate error codes instead of -1

atrac1: check for ff_mdct_init() failure

atrac1: use optimized float_interleave() function for stereo interleaving

atrac1: fix a typo

atrac1: validate number of channels

atrac1: decode mono audio directly to output buffer

For stereo we need to use intermediate planar buffers, but mono does not need
to be deinterleaved so the output buffer can be used directly.

atrac1: check output buffer size before decoding

cook: return AVERROR_PATCHWELCOME instead of ENOTSUP

ENOTSUP is not defined on some systems

cook: check output buffer size before decoding

cook: do not needlessly set *data_size to 0

cook: remove pointless return statements

cook: simplify decouple_info()

cook: return appropriate error codes instead of -1

cook: avoid hardcoded sizes in sizeof()

cook: remove unneeded #includes

cook: output float samples instead of converting to int16

mov: Avoid divide by zero in edit list dts handling

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

utvideo: account for coupled lines in YUV420 format

Luma slices in YUV420 colourspace should have height in multiple of two since
they have the same line of chrominance data corresponding to pair of them.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

vp3: fix oob read for negative tokens and memleaks on error.

vp8: fix overflow in segmentation map caching.

lavf: use number of output pictures for delay checks.

This fixes false positives of has_codec_delay_been_guessed() for
streams where not every input picture generates an output picture,
such as interlaced H264.

Fix decoding of lossless 4:2:2 H.264

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

Fix decoding of lossless 10-bit 4:4:4 H.264

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

probe: Restore identification of files with very large id3 tags and no extension.

Restore behavior of identifying files with huge id3 tags as
mp3 at AVPROBE_SCORE_MAX/4. This was broken in r25378 and subsequently
removed in r25929.

probe: Remove id3 tag presence as a criteria to do file extension checking.

This only encourages our users to put id3v2 tags on non-mp3 files to opt
into extension based probing.

mpegts: MP4 SL support

mpegts: MP4 OD support

mpegts: Add support for Sections in PMT

mpegts: Replace the MP4 descriptor parser with a recursive parser.

mpegts: Add support for multiple mp4 descriptors

mpegts: Parse mpeg2 SL descriptors.

isom: Add MPEG4SYSTEMS dummy object type indication.

aacdec: allow output reconfiguration on channel changes

Locking the decoder against channel config changes in
parse_adts_frame_header() seems to be unnecessary and
streams with channel config changes are reported.

The sample in http://roundup.libav.org/issue999 still works.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

nellymoserenc: take float input samples instead of int16

This avoids having to convert all input data from int16 to float, which is used
internally for encoding.

nellymoserdec: use dsp functions for overlap and windowing

nellymoserdec: do not fail if there is extra data in the packet

instead just print a warning

nellymoserdec: fail if output buffer is too small

avoids silently truncating the output

nellymoserdec: remove pointless buffer size check.

lavf: add init_put_byte() to the list of visible symbols.

seek-test: free options dictionary after use

snow: do not draw_edge if emu_edge is set

Fix segfault on emu edge, to reproduce

make fate-vsynth1-snow
avplay -flags emu_edge tests/data/vsynth1/snow.avi

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

tools/pktdumper: update to recent avformat api

seek-test: update to recent avformat api

wmavoice: move output buffer size check to synth_superframe().

this allows for checking against the actual output size instead of max size.

wmavoice: only set data_size to 0 when necessary

wmapro: fix strict-aliasing violations by using av_alias32

Also fix some undefined unsigned/signed conversions.

wmapro: use FmtConvertContext.float_interleave() to interleave output samples

wmadec: consolidate 2 output buffer size checks into 1 check

apedec: assert that s->samples is not negative before trying to decode

apedec: use FFALIGN macro for internal data buffer size

apedec: do not keep incrementing the input data pointer past the end of the
buffer during entropy decoding.

The pointer address could overflow, which would likely segfault. Instead set
the context error flag to indicate that the decoder tried to read past the
end of the packet data.

apedec: check for input buffer overflow while reading frame header

apedec: use unsigned int for offset

avoids implementation-defined unsigned-to-signed conversion and simplifies
the bounds checking.

apedec: remove pointless increment of 'buf'

The variable is not used anymore at that point.

apedec: set s->currentframeblocks after validating nblocks

apedec: use unsigned int for 'nblocks' and make sure that it's within int range

apedec: do not set s->samples until after validation.

This prevents errors and/or invalid writes in the next decode call due to
s->samples still being negative.

apedec: check for data buffer realloc failure

apedec: return meaningful error values in ape_decode_frame()

apedec: correct an error message

apedec: cosmetics

break some excessively long lines and remove space after '*'

apedec: return meaningful error codes from ape_decode_init()

apedec: check for filter buffer allocation failure

apedec: use memcpy for pseudo-stereo mode