media: vicodec: set state resolution from raw format
authorHans Verkuil <hverkuil@xs4all.nl>
Wed, 28 Nov 2018 20:52:42 +0000 (15:52 -0500)
committerMauro Carvalho Chehab <mchehab+samsung@kernel.org>
Mon, 3 Dec 2018 20:04:36 +0000 (15:04 -0500)
commitdaa3fc4454b21ac883152d07b4778bc4f83ec716
treef4a42ca8edfd2e34ed7efdf0922a5e8c03b44945
parente714c92f42aeed6052a287b8ccf5a519e42bab15
media: vicodec: set state resolution from raw format

The state structure contains the resolution expected by the decoder
and encoder. For an encoder that resolution should be taken from the
OUTPUT format, and for a decoder from the CAPTURE format.

If the wrong format is picked, a buffer overrun can occur if there is
a mismatch between the CAPTURE and OUTPUT formats.

The real fix would be to correctly implement the stateful codec
specification, but that will take more time. For now just prevent the
buffer overrun.

Signed-off-by: Hans Verkuil <hverkuil-cisco@xs4all.nl>
Signed-off-by: Mauro Carvalho Chehab <mchehab+samsung@kernel.org>
drivers/media/platform/vicodec/vicodec-core.c