v4l2object: stop V4L2 from zeroing extended colorimetry for non-mplane
authorPhilipp Zabel <p.zabel@pengutronix.de>
Thu, 9 Aug 2018 15:24:35 +0000 (17:24 +0200)
committerNicolas Dufresne <nicolas.dufresne@collabora.com>
Tue, 21 Aug 2018 16:01:41 +0000 (12:01 -0400)
Setting the priv field to a magic value stops V4L2 core from zeroing
the extended colorimetry fields quantization, ycbcr_enc, and xfer_func
for non-mplane queues.

https://bugzilla.gnome.org/show_bug.cgi?id=796940

sys/v4l2/gstv4l2object.c

index 39b696a..4b650a0 100644 (file)
@@ -3460,6 +3460,7 @@ gst_v4l2_object_set_format_full (GstV4l2Object * v4l2object, GstCaps * caps,
     format.fmt.pix_mp.ycbcr_enc = matrix;
     format.fmt.pix_mp.xfer_func = transfer;
   } else {
+    format.fmt.pix.priv = V4L2_PIX_FMT_PRIV_MAGIC;
     format.fmt.pix.colorspace = colorspace;
     format.fmt.pix.quantization = range;
     format.fmt.pix.ycbcr_enc = matrix;