v4l2videodec: Handle drivers that only round up height
authorPhilipp Zabel <p.zabel@pengutronix.de>
Tue, 5 Dec 2017 14:14:04 +0000 (15:14 +0100)
committerNicolas Dufresne <nicolas.dufresne@collabora.com>
Wed, 6 Dec 2017 19:01:02 +0000 (14:01 -0500)
commit5e05cadb17a6b31ff2fb9ad531f65481bde4c0e0
treeca11fbb087f41c6d3f85c0db34b9405a22c3dae8
parentea1b10e4cacfdb3f9205a4a849bdbf6653ece92e
v4l2videodec: Handle drivers that only round up height

Commit 1f31715c9861 ("v4l2videodec: use visible size, not coded size,
for downstream negotiation filter") added support for removing the
padding obtained as the difference between width/height from G_FMT and
visible width/height from G_SELECTION from the probed caps obtained
via TRY_FMT.
This patch fixes the padding removal for drivers that only round up
height, but not width, to the padded frame size. This might happen
because horizontal padding can be handled by line stride (bytesperline),
but there is no such thing as plane stride in the V4L2 API for
single-buffer planar formats.

https://bugzilla.gnome.org/show_bug.cgi?id=791271
sys/v4l2/gstv4l2videodec.c