codecs: h264: Fix DPB size calculation
authorNicolas Dufresne <nicolas.dufresne@collabora.com>
Mon, 6 Apr 2020 19:06:01 +0000 (15:06 -0400)
committerGStreamer Merge Bot <gitlab-merge-bot@gstreamer-foundation.org>
Tue, 7 Apr 2020 07:53:27 +0000 (07:53 +0000)
commitb79c949789628f537f68e190a2a73817b737c34b
treea26b67417079434c9979b6df88a14c4b41cdaaea
parent00baed3ebe64478755397155b4200c73119c2730
codecs: h264: Fix DPB size calculation

As per specification in A.3.1 h) and A.3.2 f), the maximum size of the DPB is
16. Fix the maximum in the fine and fix the formula to use MIN instead of MAX
so that we no longer always use the maximum for the profile/level.
gst-libs/gst/codecs/gsth264decoder.c
gst-libs/gst/codecs/gsth264picture.h