encoder: simplify gst_vaapi_encoder buffer ref_count

Prepare for other buffer types support, make buffer check simple

encoder: split another thread to do encoded buffer wrapper

mmap driver buffer and scanning may cost long time,
these actions better to be done in another thread

encoder: reduce locks and extract rendering function

some locks in gstvaapiencoder is not quite necessary

vaapidownload: fix frame rate to avoid assert issue in set_caps

vaapidownload: fix src caps format error

mpeg2: fix set quant_table to driver error

support H264 monochroma stream decoding

one workaround to help YUV400 pass the chroma
type check, actually the render surface is still set to
YUV420 mandatorily and the UV components are ignored.

Signed-off-by: Li Xiaowei <xiaowei.a.li@intel.com>

h264: support process for gaps in frame_num

Follow 8.2.5.2 when frame_num is not equeal to
PreRefFrameNum and is not equal to
(PreRefFrameNum+1)%MaxFrameNum, there would be
"non-existing" picture "used for short-term reference".

h264: remove reference if picture frame_num is same

h264: fix reference list count less than num_ref

Sometimes RefPicListX_count may be less than num_ref_idx_lX.
There's not enough reference pictures in dpb.

h264: clear buffers on GST_EVENT_FLUSH_STOP

Change-Id: I4a9978a50bc6f6011f3ca037b9b9e8b295369b86

mpeg2: clear buffers and PTSGenerator on GST_EVENT_FLUSH_STOP

Change-Id: I7f7561805f9efd1513d5f1a04308c2b39ce986c8

vaapidecode: support seek actions

vaapidecode need clear all decoder's buffers when
GST_EVENT_FLUSH_STOP/GST_EVENT_NEWSEGMENT happened

Change-Id: I83606f6b619c4501b43bf868bc92787b670fab88

codecparsers: update to gst-vaapi-branch commit b8efe57.

b8efe57 mpeg2: add helpers to convert quantization matrices
f8c2672 mpeg2: store quantization matrices in zigzag-order

rate_control: compatible with old libva versions

vaapipostproc: warn when framerate failed to be parsed.

modify the DEBUG function name "vaapi_encoder_dump_bytes" to "gst_vaapi_encoder_dump_bytes",because only symbols with the gst-vaapi_* prefix will be exported

encoders: h263, mpeg4 change bitrate attributes to unit kbps

h264encoder: implement bitrate control for CBR and VBR

decoder context: rate_control unset to GST_VAAPI_RATECONTROL_NONE

h264encoder: add rate-control attribute

encoder create context with special rate-control config

vaapicontext: support rate-control attribute

encoder need rate-control on context creation

encoder: h264 support multiple slices

encoder: PVR only need seq paramerter set once

configure.ac: check old/new h264 encoder API

encoder: h264 compatible with old libva by macro HAVE_OLD_H264_ENCODER

encoder: align formats to gstreamer code style

encoder: reduce function parameters and change variable names

encoders: remove encoders image upload and simplify parts code

h264 encoder: worked in staging branch

h264 encoder: compiling passed with libva staging branch

encoder(h264,h263,mpeg4): changed styles, names

current h264 encoder works in branch of 'vaapiext' of libva/intel-driver in GEN platform.
other encoders(h263,mpeg4) only tested in pvr long ago.
encoder need be configured with '--enable-encoders' explicitly.

h264encoder: auto-detect stream-format: avc/byte-stream by next linked-pad's caps

fix compile issue after rebase

add Intel Copyright

compiling passed in for new vaapiencode

change encoder log output format, support GST log

support B frames

Support h264encoder on SandyBridge platform(lots libva h264 encoding parameters changed)

supports mpeg4 encoder

change h264encoder.x to gstvaapih264encoder.x

support h263 encoder(vah263encode) in mrst "gst-launch videotestsrc num-buffers=100 pattern=18 ! video/x-raw-yuv,format='(fourcc)'NV12,width=640,height=480,framerate=30/1 ! vaapiconvert ! vah263encode ! qtmux faststart=true ! filesink location=263.mp4"

extract vaapiencoder structure to make other encoders possible

support multiple h264 slices, auto calculate bitrate(=w*h*fps/4) add properties : min-qp, slice-num

add properties in gsth264encode; profile, level,bitrate, intra-period, init-qp

vah264encode co-work with vaapiconvert passed "gst-launch videotestsrc ! video/x-raw-yuv,format='(fourcc)'NV12,width=1280,height=720,framerate=30/1 ! vaapiconvert ! vah264encode ! fakesink"

change h264encoder

vaapiconvert: change direct-rendering=0 to vaPutImage and support YUY2 colorspace to vaImage

add Intel Copyright

compiling passed in 3.0 for vaapiencode

vaapiconvert support multiple YUV colorspace

Add FPS log print in vaapiencode

Use config.h to vaapiencode

add fps caculation macro

support YUY2 convert to surface

vaapiconvert: try directly copy buffer to derived surface first

change encoder log output format, support GST log

support multiple threads for vaapivideopool

support raw-buffer directly converted to surface in vaapiconvert

Add context API <gst_vaapi_context_get_surface_pool>

add h264encoder

caps: vaapi doesn't need framerate

fix typo do not create color-balance filter when not needed

remove _get_caps for postproc srcpad caps will retrieve from pad template, suppress a gst warning

add color balance support in vpp

  hue/brightness/contrast/saturation
  auto-brightness/auto-contrast/auto-saturation

share property operation code between GstVaapiPostproc and GstVaapiPostprocess

add vpp process in gstvaapipostproc

add vpp process in gstvaapipostprocess

  denoise, deinterlace, surface fromat conversion, scaling

check vpp support in configure.ac

Add new object GstVaapiPostProcess for post-processing

separate some enum from gstvaapipostproc to gstvaapipostprocess

add fourcc for GstVaapiSurface

surface creation with dedicate fourcc is supported after VA API 0.34
legacy interface still works on lower version VA API

h264: reset got_{sps,pps} when corrupted SPS/PPS headers are parsed.

Reset got_{sps,pps} when corrupted SPS/PPS headers are parsed. This means
that no frame will be decoded until valid SPS/PPS headers are parsed again.
This also prevents from parsing slice headers with invalid data, and avoids
potential crashes.

https://bugs.freedesktop.org/show_bug.cgi?id=57902

vc1: handle CLOSED_ENTRY.

When CLOSED_ENTRY == 0, and if the B pictures that follow an entry-point
lack a reference anchor picture, these B pictures shall be discarded.

https://bugs.freedesktop.org/show_bug.cgi?id=59505

vc1: fix decoding of WMV3 videos in AVI format.

The AVI demuxer (avidemux) does not set a proper "format" attribute
to the generated caps. So, try to recover the video codec format from
the "wmvversion" property instead.

Signed-off-by: Gwenole Beauchesne <gwenole.beauchesne@intel.com>

vc1: review and report errors accordingly.

Use GST_ERROR() to report real errors instead of hiding them into
GST_DEBUG().

vc1: cope with latest codecparser changes.

Fix build with newer VC-1 codecparser where dqsbedge was renamed to
dqbedge, and now represents either DQSBEDGE or DQDBEDGE depending on
the actual value of DQPROFILE.

codecparsers: update to gst-vaapi-branch commit 35053b8.

aeb898b vc1: fix bitplanes decoding (DIFF6 or NORM6 residual bytes)
63e3344 vc1: fix bitplanes decoding (DIFF6 or NORM6)
b0a9372 vc1: add API to parse slice headers
773f3d1 vc1: fix bitplanes decoding
870e083 vc1: simplify GstVC1VopDquant structure
bc0d65e vc1: fix VOPDQUANT parser for DQUANT == 2
dcd3abd vc1: fix calculation of ALTPQUANT
73ca0b7 vc1: fix parser for DQPROFILE in VOPDQUANT
8840c2d h264: zero-initialize SPS VUI parameters

codecparsers: update to gst-vaapi-rebased commit b47983a.

b47983a h264: add inferred value for slice_beta_offset_div2

Bump version for development.

0.4.2.

NEWS: updates.

image: fix GstVaapiImage map and unmap.

Fix gst_vaapi_image_map() to return TRUE and the GstVaapiImageRaw
structure correctly filled in if the image was already mapped.
Likewise, make gst_vaapi_image_unmap() return TRUE if the image
was already unmapped.

mpeg4: fix decoding at end-of-stream.

Signed-off-by: Gwenole Beauchesne <gwenole.beauchesne@intel.com>

mpeg4: fix size argument to gst_adapter_flush().

Flush only consumed_size bytes from the GstAdapter.

Signed-off-by: Gwenole Beauchesne <gwenole.beauchesne@intel.com>

tests: add test for MPEG-4:2 decoding.

h264: initialize VA context before allocating the first slice.

Fix decode_slice() to ensure a VA context exists prior to creating a
new GstVaapiSliceH264, which invokes vaCreateBuffer() with some VA
context ID. i.e. the latter was not initialized, thus causing failures
on Cedar Trail for example.

configure: install plugin elements in GST_PLUGIN_PATH, if set.

If GST_PLUGIN_PATH environment variable exists and points to a valid
directory, then use it as the system installation path for gst-vaapi
plugin elements.

Signed-off-by: Gwenole Beauchesne <gwenole.beauchesne@intel.com>

libs: only export gst_vaapi_*() symbols.

This fixes symbol clashes between the gst-vaapi built-in codecparsers/
library and the system-provided one, mainly used by videoparses/. Now,
only symbols with the gst_vaapi_* prefix will be exported, if they are
not marked as "hidden" to libgstvaapi.

libs: fix compatibility with glib 2.28.

Always prefer non deprecated APIs by default and provide compatibility
glue for older glib versions when necessary.

libs: use glib >= 2.32 semantics for mutexes.

Use glib >= 2.32 semantics for GMutex and GRecMutex wrt. initialization
and termination. Basically, the new mutex objects can be used as static
mutex objects from the deprecated APIs, e.g. GStaticMutex and GStaticRecMutex.

vaapidecode: adopt non-deprecrated glib locking primitive pattern.

The use of heap allocated GMutex/GCond is deprecated. Instead place them
inside the structure they are locking.

These changes switch to use g_mutex_init/g_cond_init rather than the heap
allocation functions.

Because we cannot test for a NULL pointer for the GMutex/GCond we must
initialise inside the GObject _init function and clear inside the _finalize
which is guaranteed to only be called once and after the object is no longer
in use.

videobuffer: fix memory leak for surface and image.

Fix reference leak of surface and image in GstVaapiVideoBuffer wrapper,
thus resulting on actual memory leak of GstVaapiImage when using them
for downloads/uploads from VA surfaces and more specifically surfaces
when the pipeline is shutdown. i.e. vaTerminate() was never called
because the resources were not unreferenced, and thus not deallocated
in the end.

Signed-off-by: Gwenole Beauchesne <gwenole.beauchesne@intel.com>

Bump version for development.

Mark release.

0.4.1.

NEWS: updates.

wayland: port to 1.0 version of the protocol.

This patch updates to relect the 1.0 version of the protocol. The main
changes are the switch to wl_registry for global object notifications
and the way that the event queue and file descriptor is processed.

Signed-off-by: Gwenole Beauchesne <gwenole.beauchesne@intel.com>

h264: fix picture size in macroblocks.

The picture size signalled by sps->{width,height} is the actual size with
cropping applied, not the original size derived from pic_width_in_mbs_minus1
and pic_height_in_map_units_minus1. VA driver expects that original size,
uncropped.

There is another issue pending: frame cropping information needs to be
taken care of.

h264: start decoding slices after first SPS/PPS activation.

Only start decoding slices when at least one SPS and PPS got activated.
This fixes cases when a source represents a substream of another stream
and no SPS and PPS was inserted before the first slice of the generated
substream.

h264: fix VAPictureParameterBufferH264.ReferenceFrames[] construction.

... for interlaced streams. The short_ref[] and long_ref[] arrays may
contain up to 32 fields but VA ReferenceFrames[] array expects up to
16 reference frames, thus including both fields.