libvorbis: cosmetics: renaming/pretty-printing/comments/unused code

(e)ac3enc: select a default bit rate based on the channel layout

ac3enc: choose the closest bit rate to the one requested instead of failing

rpza: error out on buffer overreads.

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC: libav-stable@libav.org

qtrle: return error on decode_init() failure.

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC: libav-stable@libav.org

swscale: fix another integer overflow.

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC: libav-stable@libav.org

dpxenc: Don't include the libavcodec ident if bitexact mode is enabled

This avoids breaking fate every time the lavc version is bumped.

Signed-off-by: Martin Storsjö <martin@martin.st>

rtpenc: Fix setting the max packet size

This fixes cases where the user had specified one desired MTU
via an option, and the protocol indicates another one.

Signed-off-by: Martin Storsjö <martin@martin.st>

Add a minor bump, changelog/APIchanges entry and some documentation for APIC support.

mp3enc: write attached pictures (APIC).

mp3enc: move mp3_write_xing() further up in the file.

It will be need by new functions called from mp3_write_trailer().

id3v2enc: add a function for writing attached pictures.

Unused so far.

id3v2enc: fix writing frame sizes for ID3v2.3

Frame sizes in ID3v2.3 are not synchsafe, they are simply 32be numbers.

In practice this bug is not noticeable unless the frame size takes more
than 7 bits (which is almost never for text frames).

id3v2enc: split ff_id3v2_write().

This will allow writing the tag in several steps, needed for writing
attached pictures.

id3v2enc: make id3v2_put_size take only an AVIOContext.

It has no need of full AVFormatContext.

id3v2: remove unused ff_id3v2_read().

Rename ff_id3v2_read_all to ff_id3v2_read().

lavf: export id3v2 attached pictures as streams.

lavf: generic code for exporting attached pictures.

id3v2: read attached pictures and export them in ID3v2ExtraMeta.

lavf: move CodecMime from matroska.h to internal.h

it will be useful for attached pictures in ID3v2

swfdec: do not set codec timebase.

It is not supposed to be set outside of lavc.

Fixes a divide by zero when the stored framerate is 0.

prores: store and retrieve extended colourspace information

Based on the patch by Phil Barrett.

proresenc: correct edge emulation

Signed-off-by: Kostya Shishkov <kostya.shishkov@gmail.com>

prores: handle 444 chroma in right order

ProRes codes chroma blocks in 444 mode in different order than luma blocks,
so make both decoder and encoder read/write chroma blocks in right order.

Reported by Phil Barrett

mpegvideo_enc: add quantizer_noise_shaping private option.

Deprecate corresponding AVCodecContext field.

lavc: deprecate AVCodecContext.inter_threshold.

It's unused.

lavc: deprecate AVCodecContext.color_table_id.

It's currently only used as temporary storage by the mov demuxer. Make
it use a local variable instead.

avplay: remove an unused variable.

mpegvideo_enc: add chroma/luma_elim_threshold private options.

Deprecate corresponding AVCodecContext fields.

mpegvideo_enc: add cbp_rd flag to mpv_flags.

Deprecate CODEC_FLAG_CBP_RD.

mpegvideo_enc: add qp_rd flag to mpv_flags.

Deprecate CODEC_FLAG_QP_RD.

mpegvideo_enc: add strict_gop flag to mpv_flags.

Deprecate CODEC_FLAG2_STRICT_GOP.

lavc: add -mpv_flags to mpegvideo_enc-based encoders.

Deprecate CODEC_FLAG2_SKIP_RD in favor of the corresponding mpv_flags
flag.

aacdec: Support stereo streams that erroneously signal predefined channel configuration 1 (mono).

[alex.converse@mgail.com]
Move code to get_che()
Update for AAC new channel configuration interface
Only set chan_config if output_configure succeeds.

Signed-off-by: Alex Converse <alex.converse@gmail.com>

aacdec: Reshuffle functions so get_che() can call set_default_channel_config() and output_configure().

vp56: error out on invalid stream dimensions.

Prevents crashes when playing corrupt vp5/6 streams.

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC: libav-stable@libav.org

asf: don't seek back on EOF.

Seeking back on EOF will reset the EOF flag, causing us to re-enter
the loop to find the next marker in the ASF file, thus potentially
causing an infinite loop.

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC: libav-stable@libav.org

asf: error out on ridiculously large minpktsize values.

They cause various issues further down in demuxing.

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC: libav-stable@libav.org

adpcm: Clip step_index values read from the bitstream at the beginning of each frame.

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind

oma: don't read beyond end of leaf_table.

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC: libav-stable@libav.org

doxygen: Remove documentation for non-existing parameters; misc small fixes.

Indeo3: fix crashes on corrupt bitstreams.

Splits at borders of cells are invalid, since it leaves one of the
cells with a width/height of zero. Also, propagate errors on buffer
allocation failures, so we don't continue decoding (which crashes).

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC: libav-stable@libav.org

msmpeg4: Replace forward declaration by proper #include.

segment: implement wrap around

Provide a way to wrap around the segment index so pseudostreaming
live through a web server and html5 browser is simpler.

Also ensure that 0 (disable) is a valid value across the options
providing wrap around.

avf: reorder AVStream and AVFormatContext

aacdec: Remove erroneous reference to global gain from the out of bounds scalefactor error message.

avcodec_default_reget_buffer(): fix compilation in DEBUG mode

fate: Overhaul WavPack coverage

WavPack has a comprehensive test suite, and a bunch
of corner cases.

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>
Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

h264: fix mmxext chroma deblock to use correct TC values.

flvdec: Remove the now redundant check for known broken metadata creator

The index validation identifies these indexes as broken.

Signed-off-by: Martin Storsjö <martin@martin.st>

flvdec: Validate index entries added from metadata while reading

By validating the index entries while reading, we don't need to
seek at startup to validate the entries. If the error in the
index entries is not pointing to (our definition of) the start
of packets, and there is an index entry pointing at some of the
first packets after the metadata, the invalid index can be discarded
almost immediately.

Signed-off-by: Martin Storsjö <martin@martin.st>

rtsp: Handle requests from server to client

This returns 200 OK for OPTIONS requests and 501 Not Implemented
for all other requests.

Even though this doesn't do much actual handling of the requests,
it makes the code properly identify server requests as such, instead
of interpreting it as a reply to the client's request as it did
before.

Signed-off-by: Martin Storsjö <martin@martin.st>

movenc: use timestamps instead of frame_size for samples-per-packet

For encoding, AVCodecContext.frame_size is the number of input samples to
send to the encoder and does not necessarily correspond directly to the
timestamps of the output packets.

movenc: use the first cluster duration as the tfhd default duration

movenc: factorize calculation of cluster duration into a separate function

doc/APIchanges: fill in missing dates and hashes.

lavc: reorder AVCodecContext fields.

Put related fields together, move the important ones closer to the
beginning, try to eliminate holes.

lavc: reorder AVFrame fields.

Put related fields together, move the important ones closer to the
beginning, try to eliminate holes.

lavf: don't guess r_frame_rate from either stream or codec timebase.

Neither of those is guaranteed to be connected to framerate in any way
(if it even exists).

Fixes bug 56.

avconv: set discard on input streams automatically.

Fix parser not to clobber has_b_frames when extradata is set.

Because in contrast to the decoder, the parser does not setup low_delay.
The code in parse_nal_units would always end up setting has_b_frames
to "1", except when stream is explicitly marked as low delay.
Since the parser itself would create 'extradata', simply reopening
the parser would cause this.

This happens for instance in estimate_timings_from_pts(), which causes the
parser to be reopened on the same stream.

This fixes Libav #22 and FFmpeg (trac) #360

CC: libav-stable@libav.org
Based on a patch by Reimar Döffinger <Reimar.Doeffinger@gmx.de>
(commit 31ac0ac29b6bba744493f7d1040757a3f51b9ad7)

Comments and description adapted by Reinhard Tartler.

Signed-off-by: Reinhard Tartler <siretart@tauware.de>

lavf: don't set codec timebase in avformat_find_stream_info().

It's not supposed to be set outside of lavc.

avconv: saner output video timebase.

r_frame_rate should in theory have something to do with input framerate,
but in practice it is often made up from thin air by lavf. So unless we
are targeting a constant output framerate, it's better to just use input
stream timebase.

Brings back dropped frames in nuv and cscd tests introduced in
cd1ad18a6539bd7fc2dc4c1740fbcbd498c0c0a2

rawdec: set timebase to 1/fps.

avconv: refactor vsync code.

No functional changes, just make it more readable.

FATE: remove a bunch of useless -vsync 0

No changes in the test results.

cdxl: bit line plane arrangement support

Signed-off-by: Paul B Mahol <onemda@gmail.com>
Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

cdxl: remove early check for bpp

Signed-off-by: Paul B Mahol <onemda@gmail.com>
Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

cdxl: set pix_fmt PAL8 only if palette is available

Signed-off-by: Paul B Mahol <onemda@gmail.com>
Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

mlp_parser: fix the channel mask value used for the top surround channel

Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

vorbisenc: check all allocations for failure

roqaudioenc: return AVERROR codes instead of -1

roqaudioenc: set correct bit rate

roqaudioenc: use AVCodecContext.frame_size correctly.

It is not allowed to change mid-stream like it does currently. Instead we need
to buffer the first 8 frames before returning them as a single packet, then
only return single frame packets after that.

roqaudioenc: remove unneeded sample_fmt check

ra144enc: use int16_t* for input samples rather than void*

ra144enc: set AVCodecContext.coded_frame

ra144enc: remove unneeded sample_fmt check

nellymoserenc: set AVCodecContext.coded_frame

nellymoserenc: improve error checking in encode_init()

nellymoserenc: return AVERROR codes instead of -1

libvorbis: improve error checking in oggvorbis_encode_init()

mpegaudioenc: return AVERROR codes instead of -1

libfaac: improve error checking and handling in Faac_encode_init()

avutil: add AVERROR_UNKNOWN

Useful to return instead of -1 when the cause of the error is unknown,
typically from an external library.

check for coded_frame allocation failure in several audio encoders

audio encoders: do not set coded_frame->key_frame.

it is already set in avcodec_alloc_frame()

g722enc: check for trellis data allocation error

libspeexenc: export encoder delay through AVCodecContext.delay

avcodec: document the use of AVCodecContext.delay for audio encoders

kgv1: release reference picture on size change.

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC: libav-stable@libav.org

matroska: don't overwrite string values until read/alloc was succesful.

This prevents certain tags with a default value assigned to them (as per
the EBML syntax elements) from ever being assigned a NULL value. Other
parts of the code rely on these being non-NULL (i.e. they don't check for
NULL before e.g. using the string in strcmp() or similar), and thus in
effect this prevents crashes when reading of such specific tags fails,
either because of low memory or because of targeted file corruption.

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC: libav-stable@libav.org

lavc: merge two if()s with the same condition.

lavc: factorize setting got_packet_ptr in avcodec_encode_video2()

lavc: signal no output when a NULL frame is passed to audio encoder without delay

xwdenc: fix monow encoding

Signed-off-by: Paul B Mahol <onemda@gmail.com>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

fate: add tests for cdxl video

Signed-off-by: Paul B Mahol <onemda@gmail.com>
Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

cdxl: fix ham6/8 on big endian

Signed-off-by: Paul B Mahol <onemda@gmail.com>
Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

swscale: fix another integer overflow at large dimensions/rescales.

vorbisdec: add a flush() function

clear MDCT overlap buffer and reset previous window mode when seeking