legacyh264parse: check for out of range pps_id one layer up
authorAlessandro Decina <alessandro.d@gmail.com>
Sun, 29 May 2011 10:54:40 +0000 (12:54 +0200)
committerAlessandro Decina <alessandro.d@gmail.com>
Sun, 29 May 2011 10:57:35 +0000 (12:57 +0200)
Fixes compiler warning comparing guint8 and MAX_PPS_COUNT which is > G_MAXUINT8

gst/h264parse/gsth264parse.c

index a73522be3769e0b8c738c4aa778ae52bd614519e..9c751a101c10a854dffe5eb2204c05fe3d941e50 100644 (file)
@@ -358,10 +358,7 @@ gst_h264_parse_get_pps (GstH264Parse * h, guint8 pps_id)
 {
   GstH264Pps *pps;
   g_return_val_if_fail (h != NULL, NULL);
-  if (pps_id >= MAX_PPS_COUNT) {
-    GST_DEBUG_OBJECT (h, "requested pps_id=%04x out of range", pps_id);
-    return NULL;
-  }
+
   pps = h->pps_buffers[pps_id];
   if (pps == NULL) {
     GST_DEBUG_OBJECT (h, "Creating pps with pps_id=%04x", pps_id);
@@ -665,10 +662,15 @@ gst_nal_decode_sps (GstH264Parse * h, GstNalBs * bs)
 static gboolean
 gst_nal_decode_pps (GstH264Parse * h, GstNalBs * bs)
 {
-  guint8 pps_id;
+  gint pps_id;
   GstH264Pps *pps = NULL;
 
   pps_id = gst_nal_bs_read_ue (bs);
+  if (pps_id >= MAX_PPS_COUNT) {
+    GST_DEBUG_OBJECT (h, "requested pps_id=%04x out of range", pps_id);
+    return FALSE;
+  }
+
   pps = gst_h264_parse_get_pps (h, pps_id);
   if (pps == NULL) {
     return FALSE;