va: Avoid the array index overflow when filling 8x8 scaling list.
authorHe Junyan <junyan.he@intel.com>
Thu, 19 Jan 2023 03:03:09 +0000 (11:03 +0800)
committerGStreamer Marge Bot <gitlab-merge-bot@gstreamer-foundation.org>
Thu, 2 Feb 2023 16:21:34 +0000 (16:21 +0000)
commit1e34b3504428c76419b5c824544fdd3b4e427d9c
tree62bfa97e9f5f5c91179a288e1ab828992619d5aa
parent30c2036acb92556fd8ba6549e4eb3ac8c7783936
va: Avoid the array index overflow when filling 8x8 scaling list.

The VA API has not defined the scaling list entries for U/V planes
for the 4:4:4 stream. In fact, we do not meet the 4:4:4 format output
for H264 so far, and scaling list is not used frequently, so we just
print out some warning and ignore these scaling list values.

Part-of: <https://gitlab.freedesktop.org/gstreamer/gstreamer/-/merge_requests/3877>
subprojects/gst-plugins-bad/sys/va/gstvah264dec.c