ljpegenc: split bgr encoding into a separate function

ljpegenc: accept bgr24 instead of bgra

The alpha plane is not encoded.

ljpegenc: rename the encoding function.

The new name is more consistent with the rest of Libav.

ljpeg: remove a commented-out line

ljpegenc: deMpegEncContextize

The encoder uses almost none of the mpegvideo infrastructure, only some
fields from MpegEncContext.

The FATE results change because now an all-zero quant matrix is written
into the file. Since it is not used for anything for ljpeg, this should
not be a problem.

mjpegenc: do not pass MpegEncContext to ff_mjpeg_encode_dc()

This will allow deMpegEncContextizing the LJPEG encoder.

mjpegenc: do not pass MpegEncContext to ff_mjpeg_encode_picture_trailer()

This will allow deMpegEncContextizing the LJPEG encoder.

mjpegenc: do not pass MpegEncContext to ff_mjpeg_encode_picture_header()

This will allow deMpegEncContextizing the LJPEG encoder.

mjpegenc: do not pass MpegEncContext to jpeg_table_header()

Pass the three needed fields from it directly.
This will allow to deMpegEncContextize the LJPEG encoder.

mjpegenc: remove commented out never-to-be-finished WIP cruft

mjpegenc: do not pass MpegEncContext to put_huffman_table()

It only needs PutBitContext from it, so pass that directly.

mjpegenc: cosmetics, reformat jpeg_put_comments()

mjpegenc: write the JFIF header if the sample aspect ratio is set

MpegEncContext.aspect_ratio_info is never set for mjpeg, so this was
never written before.

mpegvideo: do not set current_picture_ptr in decoders

This code was originally added in
5f1948111a4920ff74e31b4284ab0200f7938539 to h263 to set decoded frame
pts to some random numbers (removed in
a1c5cc429d99216406170eac7e8352860076d3e8) and then cargo culted to other
decoders.

The code is left in h263dec for now, since some part of the decoder
(apparently OBMC) relies on the specific previous frame to be reused.

FATE: drop the last partial frame in the wmv8-drm test

This has already been done in eb066a4ce9e82cddb8f5af574804aa9889450b34,
but the number of frames produced from that file changed due to
timestamps changes since then.

vc1dec: move setting repeat_pict after frame_start() has been called.

This will allow removing the hacks where each decoder sets
current_picture_ptr on its own.

mpegvideo: make ff_release_unused_pictures() static

It is only called from one place in mpegvideo.c now. Also remove the
remove_current parameter, which is always 1.

mpegvideo: make frame_size_alloc() static.

It is not called from outside of mpegvideo.c anymore.

mpegvideo: move encode-only parts of common_end() to encode_end()

mpegvideo: remove commented out cruft from ff_MPV_frame_end()

mpegvideo: split the encoding-only parts of ff_MPV_frame_end() into a separate function

mpegvideo: do not update last_non_b_pict_type in update_thread_context()

It is used for encoding only.

mpegvideo: move encoding-only initialization from common_init() to encode_init()

mpegvideo: move setting encoding-only vars from common_defaults() to encode_defaults()

mpegvideo: don't copy input_picture_number in update_thread_context()

It is encoding-only, frame threading is not used for encoding.

mpeg4videodec: move showed_packed_warning from MpegEncContext to Mpeg4DecContext

mpeg4videodec: move intra_dc_threshold from MpegEncContext to Mpeg4DecContext

mpeg12dec: move first_slice from MpegEncContext to Mpeg1Context

mpegvideo: remove an unused variable

mpeg4videodec: move use_intra_dc_vlc from MpegEncContext to Mpeg4DecContext

x86: Initialize mmxext after amd3dnow optimizations

The mmxext optimizations should be at least equally fast if available and
amd3dnow optimizations are being deprecated. Thus the former should
override the latter, not the other way around.

configure: Detect msvcrt libc with a CPP check instead of a link check

Simplifies host/target libc detection splitting.

configure: Add detected C library and host compiler to informative output

avconv: initialize hwaccel_pix_fmt

Fixes an assertion failure in vdpau_get_buffer() when -hwaccel auto is
used, but hwaccel init fails.

alsa-audio-dec: explicitly cast the delay to a signed int64

Otherwise the expression will be evaluated as unsigned, which will break
when the result should be negative.
CC:libav-stable@libav.org

dv: Split off DV video encoder into its own file

dv: Move DV VLC data tables out of header file

build: Add rule for building host-specific object files

build: Add shorthand for HOSTCC compile macro

dsputil: x86: Move ff_inv_zigzag_direct16 table init to mpegvideo

The table is MMX-specific and used nowhere else.

doc: Try to find nonstandard Perl path from the environment

gitignore: Ignore multilibrary example programs

dcadec: Add some logging before returning on error

Based on a patch by Michael Niedermayer.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

configure: Do not use pthread_create to check for pthread

Certain instrumentation addons leads to a false positive in configure
and link failures at the end of the build phase.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

go2meeting: disallow tile dimensions that are not multiple of 16

Original decoder seems to always use 176x128 tiles anyway and this helps
avoiding lots of issues with odd tile sizes in fuzzed files.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

mpeg4videodec: move sprite_{shift,traj} from MpegEncContext to Mpeg4DecContext

mpeg4videodec: move num_sprite_warping_points from MpegEncContext to Mpeg4DecContext

mpeg4videodec: move sprite_brightness_change from MpegEncContext to Mpeg4DecContext

mpeg4videodec: move scalability from MpegEncContext to Mpeg4DecContext

mpeg4videodec: move enhancement_type from MpegEncContext to Mpeg4DecContext

mpeg4videodec: remove a write-only variable from MpegEncContext

mpeg4videodec: move new_pred from MpegEncContext to Mpeg4DecContext

mpeg4videodec: replace MpegEncContext.reduced_res_vop with a local variable

mpeg4videodec: remove a write-only variable from MpegEncContext

mpeg4videodec: move t_frame from MpegEncContext to Mpeg4DecContext

mpeg4videodec: move cplx_estimation_* fields from MpegEncContext to Mpeg4DecContext

mpeg4videodec: move mpeg4-specific bug workaround variables from MpegEncContext to Mpeg4DecContext

mpeg4videodec: move mpeg4-specific post-frame-decode code from h264dec to mpeg4videodec

mpeg4videodec: move mpeg4-specific bug detection from h263 generic code to mpeg4

mpeg4videodec: move MpegEncContext.resync_marker into Mpeg4DecContext.

vc1: move MpegEncContext.resync_marker into VC1Context.

The field still remains in MpegEncContext because it is used by the
mpeg4 decoder.

mpeg4videoenc: don't set MpegEncContext.resync_marker

It is only used in one place immediately after it is set.

h263dec: remove commented out cruft

mpeg4videodec: move MpegEncContext.rvlc to Mpeg4DecContext

mpeg4videodec: remove write-only sprite variables from MpegEncContext

mpeg4videodec: move MpegEncContext.vol_sprite_usage to Mpeg4DecContext

mpeg4videoenc: write 0 instead of vol_sprite_usage

That field is never set for encoding.

mpeg4videodec: move MpegEncContext.time_increment_bits to Mpeg4DecContext

The field remains in MpegEncContext for use in the encoder.

mpeg4videodec: move MpegEncContext.shape to Mpeg4DecContext

mpeg4videodec: add a mpeg4-specific private context.

mxfdec: set extradata size

The line setting it was mistakenly removed in
ecf442a58b09bdb1dc1d2c3904b82ac5f79b2878

dcadec: add disable_xch private option.

This supplements the deprecated request_channels-based control of XCh decoding.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

dcadec: treat all 2-channel modes as Stereo in dca_downmix.

The check for (prim_channels > 2) before calling dca_downmix made these
cases unreachable, but now 2.1 layouts will go through the downmix code.
Having dual mono, Lt/Rt and sum-difference layouts print errors when
regular Stereo doesn't seems pointless.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

dca: support mixing LFE in dca_downmix.

Embedded downmix coefficients can use this.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

dca: improve default stereo downmix coefficients.

Previous coefficients were producing a non-normalized, incorrect Lt/Rt downmix.

The new coefficients produce a standard Lo/Ro downmix with 3dB attenuation.

This should match the typical default coefficients used by DTS encoders.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

dca: extract core substream's embedded downmix coeffcient codes, if present.

As per ETSI TS 102 114 V1.4.1 specification.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

dca: remove embedded downmix coefficient extraction.

It was based on an old, seemingly incorrect specification, so default
coefficients were always used anyway.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

dca: convert dca_default_coeffs to float.

Easier to read, modify, and avoids relying on an outdated table.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

dcadec: store the stereo downmix coefficients as float in the DCAContext.

The 7-bit codes previously used are absent from the ETSI 102 114 V1.4.1 spec.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

dcadec: implement request_channel_layout.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

x86: dsputil: Suppress deprecation warnings for XvMC bits

These parts are scheduled for removal on the next version bump.

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

dsputil/pngdsp: fix signed/unsigned type in end comparison

Fixes out of array accesses and integer overflows.

configure: add strip flags checks

This will check if -wN '..@*' is available and fall back on -x if not;
when none are available, do not run strip at all to prevent removing
functions that might be actually needed.

h263dec: sanitize a condition.

Call ff_mpeg4_decode_picture_header() only when the decoder has the
MPEG4 codec id, not based on a vaguely related value of h263_pred.

h264_refs: make sure not to write over the bounds of the default ref list

Fixes invalid writes.
Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC:libav-stable@libav.org

doc/platform: Update to reflect current MSVC build situation

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Add an audio transcoding example.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

build: Check for pod2man instead of perl for manual page generation

Some systems provide Perl without pod2man.

configure: Restore doc option to disable building the documentation

Also add appropriate dependency declarations for perl and texi2html.

Makefile: Fix building programs on systems with a nonempty executable suffix

This fixes leftover issues from 14abeaa4 which caused make
rules for programs to not match up properly when the executable
suffix was nonempty.

Signed-off-by: Martin Storsjö <martin@martin.st>

lavc: remove mp3_header_(de)compress bitstream filters

They mangle the mp3 header in a non-standard way to save a few bytes.
People who care about space so much should just use a more efficient
codec.

mpeg12dec: Extract CC user data into frame side data

Signed-off-by: Anton Khirnov <anton@khirnov.net>

MSN Audio support

This is essentially a MS GSM decoder extension that supports more
sampling rates and lower bitrates.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

metasound: add last missing modes (8kHz @ 6kbps per channel)

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vc1: Reset numref if fieldmode is not set

There are samples in the wild with B-frames and P-frames with different
interlace mode.

CC: libav-stable@libav.org
Reported-by: Jean-Baptiste Kempf <jb@videolan.org>
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

aacsbr: Add some const casts to silence warnings in ff_sbr_apply()

build: Integrate multilibrary examples into the build system

This includes moving libavformat/output-example to doc/examples/output.

build: Separate building programs linking against libav* from building av*

This will allow cleaner integration of building example programs.

doc: Add the host executable suffix for the print_options dependency

This fixes building on windows.

Signed-off-by: Martin Storsjö <martin@martin.st>

build: Import makedef script from c99-to-c89

This allows MSVC 2013 and ICL to build with no external
dependencies.

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>