validate/gst/validate/gst-validate-pad-monitor.c

   1 /* GStreamer
   2  *
   3  * Copyright (C) 2013 Collabora Ltd.
   4  *  Author: Thiago Sousa Santos <thiago.sousa.santos@collabora.com>
   5  *
   6  * gst-validate-pad-monitor.c - Validate PadMonitor class
   7  *
   8  * This library is free software; you can redistribute it and/or
   9  * modify it under the terms of the GNU Library General Public
  10  * License as published by the Free Software Foundation; either
  11  * version 2.1 of the License, or (at your option) any later version.
  12  *
  13  * This library is distributed in the hope that it will be useful,
  14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  16  * Library General Public License for more details.
  17  *
  18  * You should have received a copy of the GNU Library General Public
  19  * License along with this library; if not, write to the
  20  * Free Software Foundation, Inc., 59 Temple Place - Suite 330,
  21  * Boston, MA 02111-1307, USA.
  22  */
  23
  24 #ifdef HAVE_CONFIG_H
  25 #  include "config.h"
  26 #endif
  27
  28 #include "gst-validate-internal.h"
  29 #include "gst-validate-pad-monitor.h"
  30 #include "gst-validate-element-monitor.h"
  31 #include "gst-validate-pipeline-monitor.h"
  32 #include "gst-validate-reporter.h"
  33 #include <string.h>
  34 #include <stdarg.h>
  35
  36 /**
  37  * SECTION:gst-validate-pad-monitor
  38  * @short_description: Class that wraps a #GstPad for Validate checks
  39  *
  40  * TODO
  41  */
  42
  43 static GstValidateInterceptionReturn
  44 gst_validate_pad_monitor_intercept_report (GstValidateReporter * reporter,
  45     GstValidateReport * report);
  46
  47 #define _do_init \
  48   G_IMPLEMENT_INTERFACE (GST_TYPE_VALIDATE_REPORTER, _reporter_iface_init)
  49
  50 static void
  51 _reporter_iface_init (GstValidateReporterInterface * iface)
  52 {
  53   iface->intercept_report = gst_validate_pad_monitor_intercept_report;
  54 }
  55
  56 #define gst_validate_pad_monitor_parent_class parent_class
  57 G_DEFINE_TYPE_WITH_CODE (GstValidatePadMonitor, gst_validate_pad_monitor,
  58     GST_TYPE_VALIDATE_MONITOR, _do_init);
  59
  60 #define PENDING_FIELDS "pending-fields"
  61 #define AUDIO_TIMESTAMP_TOLERANCE (GST_MSECOND * 100)
  62
  63 #define PAD_PARENT_IS_DEMUXER(m) \
  64     (GST_VALIDATE_MONITOR_GET_PARENT(m) ? \
  65         GST_VALIDATE_ELEMENT_MONITOR_ELEMENT_IS_DEMUXER ( \
  66             GST_VALIDATE_MONITOR_GET_PARENT(m)) : \
  67         FALSE)
  68
  69 #define PAD_PARENT_IS_DECODER(m) \
  70     (GST_VALIDATE_MONITOR_GET_PARENT(m) ? \
  71         GST_VALIDATE_ELEMENT_MONITOR_ELEMENT_IS_DECODER ( \
  72             GST_VALIDATE_MONITOR_GET_PARENT(m)) : \
  73         FALSE)
  74
  75 #define PAD_PARENT_IS_ENCODER(m) \
  76     (GST_VALIDATE_MONITOR_GET_PARENT(m) ? \
  77         GST_VALIDATE_ELEMENT_MONITOR_ELEMENT_IS_ENCODER ( \
  78             GST_VALIDATE_MONITOR_GET_PARENT(m)) : \
  79         FALSE)
  80
  81
  82 /*
  83  * Locking the parent should always be done before locking the
  84  * pad-monitor to prevent deadlocks in case another monitor from
  85  * another pad on the same element starts an operation that also
  86  * requires locking itself and some other monitors from internally
  87  * linked pads.
  88  *
  89  * An example:
  90  * An element has a sink and a src pad. Some test starts running at sinkpad
  91  * and it locks the parent, and then it locks itself. In case it needs to get
  92  * some information from the srcpad, it is able to lock the srcpad and get it
  93  * because the srcpad should never lock itself before locking the parent (which
  94  * it won't be able as sinkpad already locked it).
  95  *
  96  * As a side one, it is possible that srcpad locks itself without locking the
  97  * parent in case it wants to do a check that won't need to use other internally
  98  * linked pads (sinkpad). But in this case it might lock and unlock freely without
  99  * causing deadlocks.
 100  */
 101 #define GST_VALIDATE_PAD_MONITOR_PARENT_LOCK(m)                  \
 102 G_STMT_START {                                             \
 103   if (G_LIKELY (GST_VALIDATE_MONITOR_GET_PARENT (m))) {          \
 104     GST_VALIDATE_MONITOR_LOCK (GST_VALIDATE_MONITOR_GET_PARENT (m));   \
 105   } else {                                                 \
 106     GST_WARNING_OBJECT (m, "No parent found, can't lock"); \
 107   }                                                        \
 108 } G_STMT_END
 109
 110 #define GST_VALIDATE_PAD_MONITOR_PARENT_UNLOCK(m)                  \
 111 G_STMT_START {                                               \
 112   if (G_LIKELY (GST_VALIDATE_MONITOR_GET_PARENT (m))) {            \
 113     GST_VALIDATE_MONITOR_UNLOCK (GST_VALIDATE_MONITOR_GET_PARENT (m));   \
 114   } else {                                                   \
 115     GST_WARNING_OBJECT (m, "No parent found, can't unlock"); \
 116   }                                                          \
 117 } G_STMT_END
 118
 119 typedef struct
 120 {
 121   GstClockTime timestamp;
 122   GstEvent *event;
 123 } SerializedEventData;
 124
 125 static GstPad *
 126 _get_actual_pad (GstPad * pad)
 127 {
 128   GstPad *tmp_pad;
 129
 130   gst_object_ref (pad);
 131
 132   /* We don't monitor ghost pads */
 133   while (GST_IS_GHOST_PAD (pad)) {
 134     tmp_pad = pad;
 135     pad = gst_ghost_pad_get_target ((GstGhostPad *) pad);
 136     gst_object_unref (tmp_pad);
 137   }
 138
 139   while (GST_IS_PROXY_PAD (pad)) {
 140     tmp_pad = pad;
 141     pad = gst_pad_get_peer (pad);
 142     gst_object_unref (tmp_pad);
 143   }
 144
 145   return pad;
 146 }
 147
 148 static gboolean
 149 _find_master_report_on_pad (GstPad * pad, GstValidateReport * report)
 150 {
 151   GstValidatePadMonitor *pad_monitor;
 152   GstValidateReport *prev_report;
 153   gboolean result = FALSE;
 154   GstPad *tmppad = pad;
 155
 156   pad = _get_actual_pad (pad);
 157   if (pad == NULL) {
 158     GST_ERROR_OBJECT (tmppad, "Does not have a target yet");
 159
 160     return FALSE;
 161   }
 162
 163   pad_monitor = g_object_get_data ((GObject *) pad, "validate-monitor");
 164
 165   /* For some reason this pad isn't monitored */
 166   if (pad_monitor == NULL)
 167     goto done;
 168
 169   prev_report = gst_validate_reporter_get_report ((GstValidateReporter *)
 170       pad_monitor, report->issue->issue_id);
 171
 172   if (prev_report) {
 173     if (prev_report->master_report)
 174       result = gst_validate_report_set_master_report (report,
 175           prev_report->master_report);
 176     else
 177       result = gst_validate_report_set_master_report (report, prev_report);
 178   }
 179
 180 done:
 181   gst_object_unref (pad);
 182
 183   return result;
 184 }
 185
 186 static gboolean
 187 _find_master_report_for_sink_pad (GstValidatePadMonitor * pad_monitor,
 188     GstValidateReport * report)
 189 {
 190   GstPad *peerpad;
 191   gboolean result = FALSE;
 192
 193   peerpad = gst_pad_get_peer (pad_monitor->pad);
 194
 195   /* If the peer src pad already has a similar report no need to look
 196    * any further */
 197   if (peerpad && _find_master_report_on_pad (peerpad, report))
 198     result = TRUE;
 199
 200   if (peerpad)
 201     gst_object_unref (peerpad);
 202
 203   return result;
 204 }
 205
 206 static gboolean
 207 _find_master_report_for_src_pad (GstValidatePadMonitor * pad_monitor,
 208     GstValidateReport * report)
 209 {
 210   GstIterator *iter;
 211   gboolean done;
 212   GstPad *pad;
 213   gboolean result = FALSE;
 214
 215   iter =
 216       gst_pad_iterate_internal_links (GST_VALIDATE_PAD_MONITOR_GET_PAD
 217       (pad_monitor));
 218   done = FALSE;
 219   while (!done) {
 220     GValue value = { 0, };
 221     switch (gst_iterator_next (iter, &value)) {
 222       case GST_ITERATOR_OK:
 223         pad = g_value_get_object (&value);
 224
 225         if (_find_master_report_on_pad (pad, report)) {
 226           result = TRUE;
 227           done = TRUE;
 228         }
 229
 230         g_value_reset (&value);
 231         break;
 232       case GST_ITERATOR_RESYNC:
 233         gst_iterator_resync (iter);
 234         break;
 235       case GST_ITERATOR_ERROR:
 236         GST_WARNING_OBJECT (pad_monitor->pad,
 237             "Internal links pad iteration error");
 238         done = TRUE;
 239         break;
 240       case GST_ITERATOR_DONE:
 241         done = TRUE;
 242         break;
 243     }
 244   }
 245   gst_iterator_free (iter);
 246
 247   return result;
 248 }
 249
 250 static GstValidateInterceptionReturn
 251 _concatenate_issues (GstValidatePadMonitor * pad_monitor,
 252     GstValidateReport * report)
 253 {
 254   if (GST_PAD_IS_SINK (pad_monitor->pad)
 255       && _find_master_report_for_sink_pad (pad_monitor, report))
 256     return GST_VALIDATE_REPORTER_KEEP;
 257   else if (GST_PAD_IS_SRC (pad_monitor->pad)
 258       && _find_master_report_for_src_pad (pad_monitor, report))
 259     return GST_VALIDATE_REPORTER_KEEP;
 260
 261   return GST_VALIDATE_REPORTER_REPORT;
 262 }
 263
 264 static GstValidateInterceptionReturn
 265 gst_validate_pad_monitor_intercept_report (GstValidateReporter *
 266     reporter, GstValidateReport * report)
 267 {
 268   GstValidateReporterInterface *iface_class, *old_iface_class;
 269   GstValidatePadMonitor *pad_monitor = GST_VALIDATE_PAD_MONITOR (reporter);
 270   GstValidateReportingDetails monitor_reporting_level;
 271   GstValidateInterceptionReturn ret;
 272
 273   monitor_reporting_level =
 274       gst_validate_reporter_get_reporting_level (reporter);
 275
 276   iface_class =
 277       G_TYPE_INSTANCE_GET_INTERFACE (reporter, GST_TYPE_VALIDATE_REPORTER,
 278       GstValidateReporterInterface);
 279   old_iface_class = g_type_interface_peek_parent (iface_class);
 280
 281   old_iface_class->intercept_report (reporter, report);
 282
 283   switch (monitor_reporting_level) {
 284     case GST_VALIDATE_SHOW_NONE:
 285       ret = GST_VALIDATE_REPORTER_DROP;
 286       break;
 287     case GST_VALIDATE_SHOW_UNKNOWN:
 288       ret = _concatenate_issues (pad_monitor, report);
 289       break;
 290     default:
 291       ret = GST_VALIDATE_REPORTER_REPORT;
 292       break;
 293   }
 294
 295   gst_validate_report_set_reporting_level (report, monitor_reporting_level);
 296   return ret;
 297 }
 298
 299 static void
 300 debug_pending_event (GstPad * pad, GPtrArray * array)
 301 {
 302   guint i, len;
 303
 304   len = array->len;
 305   for (i = 0; i < len; i++) {
 306     SerializedEventData *data = g_ptr_array_index (array, i);
 307     GST_DEBUG_OBJECT (pad, "event #%d %" GST_TIME_FORMAT " %s %p",
 308         i, GST_TIME_ARGS (data->timestamp),
 309         GST_EVENT_TYPE_NAME (data->event), data->event);
 310   }
 311 }
 312
 313 static void
 314 _serialized_event_data_free (SerializedEventData * serialized_event)
 315 {
 316   gst_event_unref (serialized_event->event);
 317   g_slice_free (SerializedEventData, serialized_event);
 318 }
 319
 320 static gboolean gst_validate_pad_monitor_do_setup (GstValidateMonitor *
 321     monitor);
 322 static GstElement *gst_validate_pad_monitor_get_element (GstValidateMonitor *
 323     monitor);
 324 static void
 325 gst_validate_pad_monitor_setcaps_pre (GstValidatePadMonitor * pad_monitor,
 326     GstCaps * caps);
 327 static void gst_validate_pad_monitor_setcaps_post (GstValidatePadMonitor *
 328     pad_monitor, GstCaps * caps, gboolean ret);
 329
 330 #define PAD_IS_IN_PUSH_MODE(p) ((p)->mode == GST_PAD_MODE_PUSH)
 331
 332 static gboolean
 333 _structure_is_raw_video (GstStructure * structure)
 334 {
 335   return gst_structure_has_name (structure, "video/x-raw");
 336 }
 337
 338 static gboolean
 339 _structure_is_raw_audio (GstStructure * structure)
 340 {
 341   return gst_structure_has_name (structure, "audio/x-raw");
 342 }
 343
 344 static gchar *
 345 _get_event_string (GstEvent * event)
 346 {
 347   const GstStructure *st;
 348
 349   if ((st = gst_event_get_structure (event)))
 350     return gst_structure_to_string (st);
 351   else
 352     return g_strdup_printf ("%s", GST_EVENT_TYPE_NAME (event));
 353 }
 354
 355 static void
 356 _check_field_type (GstValidatePadMonitor * monitor,
 357     GstStructure * structure, gboolean mandatory, const gchar * field, ...)
 358 {
 359   va_list var_args;
 360   GType type;
 361   gchar *joined_types = NULL;
 362   const gchar *rejected_types[5];
 363   gint rejected_types_index = 0;
 364   gchar *struct_str;
 365
 366   if (!gst_structure_has_field (structure, field)) {
 367     if (mandatory) {
 368       gchar *str = gst_structure_to_string (structure);
 369
 370       GST_VALIDATE_REPORT (monitor, CAPS_IS_MISSING_FIELD,
 371           "Field '%s' is missing from structure: %s", field, str);
 372       g_free (str);
 373     } else {
 374       GST_DEBUG_OBJECT (monitor, "Field %s is missing but is not mandatory",
 375           field);
 376     }
 377     return;
 378   }
 379
 380   memset (rejected_types, 0, sizeof (rejected_types));
 381   va_start (var_args, field);
 382   while ((type = va_arg (var_args, GType)) != 0) {
 383     if (gst_structure_has_field_typed (structure, field, type)) {
 384       va_end (var_args);
 385       return;
 386     }
 387     rejected_types[rejected_types_index++] = g_type_name (type);
 388   }
 389   va_end (var_args);
 390
 391   joined_types = g_strjoinv (" / ", (gchar **) rejected_types);
 392   struct_str = gst_structure_to_string (structure);
 393   GST_VALIDATE_REPORT (monitor, CAPS_FIELD_HAS_BAD_TYPE,
 394       "Field '%s' has wrong type %s in structure '%s'. Expected: %s", field,
 395       g_type_name (gst_structure_get_field_type (structure, field)), struct_str,
 396       joined_types);
 397   g_free (joined_types);
 398   g_free (struct_str);
 399 }
 400
 401 static void
 402 gst_validate_pad_monitor_check_raw_video_caps_complete (GstValidatePadMonitor *
 403     monitor, GstStructure * structure)
 404 {
 405   _check_field_type (monitor, structure, TRUE, "width", G_TYPE_INT,
 406       GST_TYPE_INT_RANGE, 0);
 407   _check_field_type (monitor, structure, TRUE, "height", G_TYPE_INT,
 408       GST_TYPE_INT_RANGE, 0);
 409   _check_field_type (monitor, structure, TRUE, "framerate", GST_TYPE_FRACTION,
 410       GST_TYPE_FRACTION_RANGE, 0);
 411   _check_field_type (monitor, structure, FALSE, "pixel-aspect-ratio",
 412       GST_TYPE_FRACTION, GST_TYPE_FRACTION_RANGE, 0);
 413   _check_field_type (monitor, structure, TRUE, "format", G_TYPE_STRING,
 414       GST_TYPE_LIST);
 415 }
 416
 417 static void
 418 gst_validate_pad_monitor_check_raw_audio_caps_complete (GstValidatePadMonitor *
 419     monitor, GstStructure * structure)
 420 {
 421   gint channels;
 422   _check_field_type (monitor, structure, TRUE, "format", G_TYPE_STRING,
 423       GST_TYPE_LIST, 0);
 424   _check_field_type (monitor, structure, TRUE, "layout", G_TYPE_STRING,
 425       GST_TYPE_LIST, 0);
 426   _check_field_type (monitor, structure, TRUE, "rate", G_TYPE_INT,
 427       GST_TYPE_LIST, GST_TYPE_INT_RANGE, 0);
 428   _check_field_type (monitor, structure, TRUE, "channels", G_TYPE_INT,
 429       GST_TYPE_LIST, GST_TYPE_INT_RANGE, 0);
 430   if (gst_structure_get_int (structure, "channels", &channels)) {
 431     if (channels > 2)
 432       _check_field_type (monitor, structure, TRUE, "channel-mask",
 433           GST_TYPE_BITMASK, GST_TYPE_LIST, 0);
 434   }
 435 }
 436
 437 static void
 438 gst_validate_pad_monitor_check_caps_complete (GstValidatePadMonitor * monitor,
 439     GstCaps * caps)
 440 {
 441   GstStructure *structure;
 442   gint i;
 443
 444   GST_DEBUG_OBJECT (monitor->pad, "Checking caps %" GST_PTR_FORMAT, caps);
 445
 446   for (i = 0; i < gst_caps_get_size (caps); i++) {
 447     structure = gst_caps_get_structure (caps, i);
 448
 449     if (_structure_is_raw_video (structure)) {
 450       gst_validate_pad_monitor_check_raw_video_caps_complete (monitor,
 451           structure);
 452
 453     } else if (_structure_is_raw_audio (structure)) {
 454       gst_validate_pad_monitor_check_raw_audio_caps_complete (monitor,
 455           structure);
 456     }
 457   }
 458 }
 459
 460 static GstCaps *
 461 gst_validate_pad_monitor_get_othercaps (GstValidatePadMonitor * monitor,
 462     GstCaps * filter)
 463 {
 464   GstCaps *caps = gst_caps_new_empty ();
 465   GstIterator *iter;
 466   gboolean done;
 467   GstPad *otherpad;
 468   GstCaps *peercaps;
 469
 470   iter =
 471       gst_pad_iterate_internal_links (GST_VALIDATE_PAD_MONITOR_GET_PAD
 472       (monitor));
 473   done = FALSE;
 474   while (!done) {
 475     GValue value = { 0, };
 476     switch (gst_iterator_next (iter, &value)) {
 477       case GST_ITERATOR_OK:
 478         otherpad = g_value_get_object (&value);
 479
 480         /* TODO What would be the correct caps operation to merge the caps in
 481          * case one sink is internally linked to multiple srcs? */
 482         peercaps = gst_pad_peer_query_caps (otherpad, filter);
 483         if (peercaps)
 484           caps = gst_caps_merge (caps, peercaps);
 485
 486         g_value_reset (&value);
 487         break;
 488       case GST_ITERATOR_RESYNC:
 489         gst_iterator_resync (iter);
 490         gst_caps_unref (caps);
 491         caps = gst_caps_new_empty ();
 492         break;
 493       case GST_ITERATOR_ERROR:
 494         GST_WARNING_OBJECT (monitor->pad, "Internal links pad iteration error");
 495         done = TRUE;
 496         break;
 497       case GST_ITERATOR_DONE:
 498         done = TRUE;
 499         break;
 500     }
 501   }
 502   gst_iterator_free (iter);
 503
 504   GST_DEBUG_OBJECT (monitor->pad, "Otherpad caps: %" GST_PTR_FORMAT, caps);
 505
 506   return caps;
 507 }
 508
 509 static gboolean
 510 _structure_is_video (GstStructure * structure)
 511 {
 512   const gchar *name = gst_structure_get_name (structure);
 513
 514   return g_strstr_len (name, 6, "video/")
 515       && strcmp (name, "video/quicktime") != 0;
 516 }
 517
 518 static gboolean
 519 _structure_is_audio (GstStructure * structure)
 520 {
 521   const gchar *name = gst_structure_get_name (structure);
 522
 523   return g_strstr_len (name, 6, "audio/") != NULL;
 524 }
 525
 526 static gboolean
 527 gst_validate_pad_monitor_pad_should_proxy_othercaps (GstValidatePadMonitor *
 528     monitor)
 529 {
 530   GstValidateMonitor *parent = GST_VALIDATE_MONITOR_GET_PARENT (monitor);
 531
 532   if (!parent)
 533     return FALSE;
 534
 535   /* We only know how to handle othercaps checks for codecs so far */
 536   return (GST_VALIDATE_ELEMENT_MONITOR_ELEMENT_IS_DECODER (parent) ||
 537       GST_VALIDATE_ELEMENT_MONITOR_ELEMENT_IS_ENCODER (parent)) &&
 538       !GST_VALIDATE_ELEMENT_MONITOR_ELEMENT_IS_CONVERTER (parent);
 539 }
 540
 541
 542 /* Check if the field @f from @s2 (if present) is represented in @s1
 543  * Represented here means either equal or @s1's value is in a list/range
 544  * from @s2
 545  */
 546 static gboolean
 547 _structures_field_is_contained (GstStructure * s1, GstStructure * s2,
 548     gboolean mandatory, const gchar * f)
 549 {
 550   const GValue *v1;
 551   const GValue *v2;
 552
 553   v2 = gst_structure_get_value (s2, f);
 554   if (!v2)
 555     return TRUE;                /* nothing to compare to */
 556
 557   v1 = gst_structure_get_value (s1, f);
 558   if (!v1)
 559     return !mandatory;
 560
 561   if (!gst_value_is_fixed (v1))
 562     return TRUE;
 563
 564   if (gst_value_compare (v1, v2) == GST_VALUE_EQUAL)
 565     return TRUE;
 566
 567   if (GST_VALUE_HOLDS_LIST (v2)) {
 568     gint i;
 569     for (i = 0; i < gst_value_list_get_size (v2); i++) {
 570       const GValue *v2_subvalue = gst_value_list_get_value (v2, i);
 571       if (gst_value_compare (v1, v2_subvalue) == GST_VALUE_EQUAL)
 572         return TRUE;
 573     }
 574   }
 575
 576   if (GST_VALUE_HOLDS_ARRAY (v2)) {
 577     gint i;
 578     for (i = 0; i < gst_value_array_get_size (v2); i++) {
 579       const GValue *v2_subvalue = gst_value_array_get_value (v2, i);
 580       if (gst_value_compare (v1, v2_subvalue) == GST_VALUE_EQUAL)
 581         return TRUE;
 582     }
 583   }
 584
 585   if (GST_VALUE_HOLDS_INT_RANGE (v2)) {
 586     gint min, max;
 587
 588     min = gst_value_get_int_range_min (v2);
 589     max = gst_value_get_int_range_max (v2);
 590
 591     if (G_VALUE_HOLDS_INT (v1)) {
 592       gint v = g_value_get_int (v1);
 593
 594       return v >= min && v <= max;
 595     } else {
 596       /* TODO compare int ranges with int ranges
 597        * or with lists if useful */
 598     }
 599   }
 600
 601   if (GST_VALUE_HOLDS_FRACTION_RANGE (v2)) {
 602     const GValue *min, *max;
 603
 604     min = gst_value_get_fraction_range_min (v2);
 605     max = gst_value_get_fraction_range_max (v2);
 606
 607     if (GST_VALUE_HOLDS_FRACTION (v1)) {
 608       gint v_min = gst_value_compare (v1, min);
 609       gint v_max = gst_value_compare (v1, max);
 610
 611       return (v_min == GST_VALUE_EQUAL || v_min == GST_VALUE_GREATER_THAN) &&
 612           (v_max == GST_VALUE_EQUAL || v_max == GST_VALUE_LESS_THAN);
 613     } else {
 614       /* TODO compare fraction ranges with fraction ranges
 615        * or with lists if useful */
 616     }
 617   }
 618
 619   return FALSE;
 620 }
 621
 622 static void
 623 _check_and_copy_structure_field (GstStructure * from, GstStructure * to,
 624     const gchar * name)
 625 {
 626   if (gst_structure_has_field (from, name)) {
 627     gst_structure_set_value (to, name, gst_structure_get_value (from, name));
 628   }
 629 }
 630
 631 static GstCaps *
 632 gst_validate_pad_monitor_copy_caps_fields_into_caps (GstValidatePadMonitor *
 633     monitor, GstCaps * from_caps, GstCaps * into_caps)
 634 {
 635   gint i, j, into_size, from_size;
 636   GstStructure *structure;
 637   GstCaps *res = gst_caps_new_empty ();
 638
 639   into_size = gst_caps_get_size (into_caps);
 640   from_size = gst_caps_get_size (from_caps);
 641
 642   for (i = 0; i < into_size; i++) {
 643     GstStructure *s = gst_caps_get_structure (into_caps, i);
 644
 645     for (j = 0; j < from_size; j++) {
 646       GstStructure *new_structure = gst_structure_copy (s);
 647
 648       structure = gst_caps_get_structure (from_caps, j);
 649       if (_structure_is_video (structure)) {
 650         _check_and_copy_structure_field (structure, new_structure, "width");
 651         _check_and_copy_structure_field (structure, new_structure, "height");
 652         _check_and_copy_structure_field (structure, new_structure, "framerate");
 653         _check_and_copy_structure_field (structure, new_structure,
 654             "pixel-aspect-ratio");
 655       } else if (_structure_is_audio (s)) {
 656         _check_and_copy_structure_field (structure, new_structure, "rate");
 657         _check_and_copy_structure_field (structure, new_structure, "channels");
 658       }
 659
 660       gst_caps_append_structure (res, new_structure);
 661     }
 662   }
 663   return res;
 664 }
 665
 666 static GstCaps *
 667 gst_validate_pad_monitor_transform_caps (GstValidatePadMonitor * monitor,
 668     GstCaps * caps)
 669 {
 670   GstCaps *othercaps;
 671   GstCaps *new_caps;
 672   GstIterator *iter;
 673   gboolean done;
 674   GstPad *otherpad;
 675   GstCaps *template_caps;
 676
 677   GST_DEBUG_OBJECT (monitor->pad, "Transform caps %" GST_PTR_FORMAT, caps);
 678
 679   if (caps == NULL)
 680     return NULL;
 681
 682   othercaps = gst_caps_new_empty ();
 683
 684   iter =
 685       gst_pad_iterate_internal_links (GST_VALIDATE_PAD_MONITOR_GET_PAD
 686       (monitor));
 687   done = FALSE;
 688   while (!done) {
 689     GValue value = { 0, };
 690     switch (gst_iterator_next (iter, &value)) {
 691       case GST_ITERATOR_OK:
 692         otherpad = g_value_get_object (&value);
 693         template_caps = gst_pad_get_pad_template_caps (otherpad);
 694
 695         new_caps =
 696             gst_validate_pad_monitor_copy_caps_fields_into_caps (monitor, caps,
 697             template_caps);
 698         if (!gst_caps_is_empty (new_caps))
 699           gst_caps_append (othercaps, new_caps);
 700         else
 701           gst_caps_unref (new_caps);
 702
 703         gst_caps_unref (template_caps);
 704         g_value_reset (&value);
 705         break;
 706       case GST_ITERATOR_RESYNC:
 707         gst_iterator_resync (iter);
 708         gst_caps_unref (othercaps);
 709         othercaps = gst_caps_new_empty ();
 710         break;
 711       case GST_ITERATOR_ERROR:
 712         GST_WARNING_OBJECT (monitor->pad, "Internal links pad iteration error");
 713         done = TRUE;
 714         break;
 715       case GST_ITERATOR_DONE:
 716         done = TRUE;
 717         break;
 718     }
 719   }
 720   gst_iterator_free (iter);
 721
 722   GST_DEBUG_OBJECT (monitor->pad, "Transformed caps: %" GST_PTR_FORMAT,
 723       othercaps);
 724
 725   return othercaps;
 726 }
 727
 728 static void
 729 gst_validate_pad_monitor_check_caps_fields_proxied (GstValidatePadMonitor *
 730     monitor, GstCaps * caps, GstCaps * filter)
 731 {
 732   GstStructure *structure;
 733   GstStructure *otherstructure;
 734   GstCaps *othercaps;
 735   GstCaps *otherfilter;
 736   gint i, j;
 737
 738   if (!gst_validate_pad_monitor_pad_should_proxy_othercaps (monitor))
 739     return;
 740
 741   otherfilter = gst_validate_pad_monitor_transform_caps (monitor, filter);
 742   othercaps = gst_validate_pad_monitor_get_othercaps (monitor, otherfilter);
 743   if (otherfilter)
 744     gst_caps_unref (otherfilter);
 745
 746   for (i = 0; i < gst_caps_get_size (othercaps); i++) {
 747     gboolean found = FALSE;
 748     gboolean type_match = FALSE;
 749
 750     otherstructure = gst_caps_get_structure (othercaps, i);
 751
 752     /* look for a proxied version of 'otherstructure' */
 753     if (_structure_is_video (otherstructure)) {
 754       for (j = 0; j < gst_caps_get_size (caps); j++) {
 755         structure = gst_caps_get_structure (caps, j);
 756         if (_structure_is_video (structure)) {
 757           type_match = TRUE;
 758           if (_structures_field_is_contained (structure, otherstructure, TRUE,
 759                   "width")
 760               && _structures_field_is_contained (structure, otherstructure,
 761                   TRUE, "height")
 762               && _structures_field_is_contained (structure, otherstructure,
 763                   TRUE, "framerate")
 764               && _structures_field_is_contained (structure, otherstructure,
 765                   FALSE, "pixel-aspect-ratio")) {
 766             found = TRUE;
 767             break;
 768           }
 769         }
 770       }
 771     } else if (_structure_is_audio (otherstructure)) {
 772       for (j = 0; j < gst_caps_get_size (caps); j++) {
 773         structure = gst_caps_get_structure (caps, j);
 774         if (_structure_is_audio (structure)) {
 775           type_match = TRUE;
 776           if (_structures_field_is_contained (structure, otherstructure, TRUE,
 777                   "rate")
 778               && _structures_field_is_contained (structure, otherstructure,
 779                   TRUE, "channels")) {
 780             found = TRUE;
 781             break;
 782           }
 783         }
 784       }
 785     }
 786
 787     if (type_match && !found) {
 788       gchar *otherstruct_str = gst_structure_to_string (otherstructure),
 789           *caps_str = gst_caps_to_string (caps);
 790
 791       GST_VALIDATE_REPORT (monitor, GET_CAPS_NOT_PROXYING_FIELDS,
 792           "Peer pad structure '%s' has no similar version "
 793           "on pad's caps '%s'", otherstruct_str, caps_str);
 794
 795       g_free (otherstruct_str);
 796       g_free (caps_str);
 797     }
 798   }
 799
 800   gst_caps_unref (othercaps);
 801 }
 802
 803 static void
 804 gst_validate_pad_monitor_check_late_serialized_events (GstValidatePadMonitor *
 805     monitor, GstClockTime ts)
 806 {
 807   gint i;
 808
 809   if (!GST_CLOCK_TIME_IS_VALID (ts))
 810     return;
 811
 812   GST_DEBUG_OBJECT (monitor->pad, "Timestamp to check %" GST_TIME_FORMAT,
 813       GST_TIME_ARGS (ts));
 814
 815   for (i = 0; i < monitor->serialized_events->len; i++) {
 816     SerializedEventData *data =
 817         g_ptr_array_index (monitor->serialized_events, i);
 818
 819     GST_DEBUG_OBJECT (monitor->pad, "Event #%d (%s) ts: %" GST_TIME_FORMAT,
 820         i, GST_EVENT_TYPE_NAME (data->event), GST_TIME_ARGS (data->timestamp));
 821
 822     if (GST_CLOCK_TIME_IS_VALID (data->timestamp) && data->timestamp < ts) {
 823       gchar *event_str = _get_event_string (data->event);
 824
 825       GST_VALIDATE_REPORT (monitor, SERIALIZED_EVENT_WASNT_PUSHED_IN_TIME,
 826           "Serialized event %s wasn't pushed before expected " "timestamp %"
 827           GST_TIME_FORMAT " on pad %s:%s", event_str,
 828           GST_TIME_ARGS (data->timestamp),
 829           GST_DEBUG_PAD_NAME (GST_VALIDATE_PAD_MONITOR_GET_PAD (monitor)));
 830
 831       g_free (event_str);
 832     } else {
 833       /* events should be ordered by ts */
 834       break;
 835     }
 836   }
 837
 838   if (i) {
 839     debug_pending_event (monitor->pad, monitor->serialized_events);
 840     g_ptr_array_remove_range (monitor->serialized_events, 0, i);
 841   }
 842 }
 843
 844 static void
 845 gst_validate_pad_monitor_dispose (GObject * object)
 846 {
 847   GstValidatePadMonitor *monitor = GST_VALIDATE_PAD_MONITOR_CAST (object);
 848   GstPad *pad = GST_VALIDATE_PAD_MONITOR_GET_PAD (monitor);
 849
 850   if (pad) {
 851     if (monitor->pad_probe_id)
 852       gst_pad_remove_probe (pad, monitor->pad_probe_id);
 853   }
 854
 855   if (monitor->expected_segment)
 856     gst_event_unref (monitor->expected_segment);
 857
 858   gst_structure_free (monitor->pending_setcaps_fields);
 859   g_ptr_array_unref (monitor->serialized_events);
 860   g_list_free_full (monitor->expired_events, (GDestroyNotify) gst_event_unref);
 861   g_list_free_full (monitor->all_bufs, (GDestroyNotify) gst_buffer_unref);
 862   gst_caps_replace (&monitor->last_caps, NULL);
 863
 864   G_OBJECT_CLASS (parent_class)->dispose (object);
 865 }
 866
 867 static void
 868 gst_validate_pad_monitor_class_init (GstValidatePadMonitorClass * klass)
 869 {
 870   GObjectClass *gobject_class;
 871   GstValidateMonitorClass *monitor_klass;
 872
 873   gobject_class = G_OBJECT_CLASS (klass);
 874   monitor_klass = GST_VALIDATE_MONITOR_CLASS (klass);
 875
 876   gobject_class->dispose = gst_validate_pad_monitor_dispose;
 877
 878   monitor_klass->setup = gst_validate_pad_monitor_do_setup;
 879   monitor_klass->get_element = gst_validate_pad_monitor_get_element;
 880 }
 881
 882 static void
 883 gst_validate_pad_monitor_init (GstValidatePadMonitor * pad_monitor)
 884 {
 885   pad_monitor->pending_setcaps_fields =
 886       gst_structure_new_empty (PENDING_FIELDS);
 887   pad_monitor->serialized_events =
 888       g_ptr_array_new_with_free_func ((GDestroyNotify)
 889       _serialized_event_data_free);
 890   pad_monitor->expired_events = NULL;
 891   gst_segment_init (&pad_monitor->segment, GST_FORMAT_BYTES);
 892   pad_monitor->first_buffer = TRUE;
 893   pad_monitor->pending_buffer_discont = TRUE;
 894
 895   pad_monitor->timestamp_range_start = GST_CLOCK_TIME_NONE;
 896   pad_monitor->timestamp_range_end = GST_CLOCK_TIME_NONE;
 897   pad_monitor->pending_seek_accurate_time = GST_CLOCK_TIME_NONE;
 898 }
 899
 900 /**
 901  * gst_validate_pad_monitor_new:
 902  * @pad: (transfer none): a #GstPad to run Validate on
 903  */
 904 GstValidatePadMonitor *
 905 gst_validate_pad_monitor_new (GstPad * pad, GstValidateRunner * runner,
 906     GstValidateElementMonitor * parent)
 907 {
 908   GstValidatePadMonitor *monitor = g_object_new (GST_TYPE_VALIDATE_PAD_MONITOR,
 909       "object", pad, "validate-runner", runner, "validate-parent",
 910       parent, NULL);
 911
 912   if (GST_VALIDATE_PAD_MONITOR_GET_PAD (monitor) == NULL) {
 913     g_object_unref (monitor);
 914     return NULL;
 915   }
 916   return monitor;
 917 }
 918
 919 static GstElement *
 920 gst_validate_pad_monitor_get_element (GstValidateMonitor * monitor)
 921 {
 922   GstPad *pad = GST_VALIDATE_PAD_MONITOR_GET_PAD (monitor);
 923
 924   return GST_PAD_PARENT (pad);
 925 }
 926
 927 static void
 928 gst_validate_pad_monitor_event_overrides (GstValidatePadMonitor * pad_monitor,
 929     GstEvent * event)
 930 {
 931   GList *iter;
 932
 933   GST_VALIDATE_MONITOR_OVERRIDES_LOCK (pad_monitor);
 934   for (iter = GST_VALIDATE_MONITOR_OVERRIDES (pad_monitor).head; iter;
 935       iter = g_list_next (iter)) {
 936     GstValidateOverride *override = iter->data;
 937
 938     gst_validate_override_event_handler (override,
 939         GST_VALIDATE_MONITOR_CAST (pad_monitor), event);
 940   }
 941   GST_VALIDATE_MONITOR_OVERRIDES_UNLOCK (pad_monitor);
 942 }
 943
 944 static void
 945 gst_validate_pad_monitor_buffer_overrides (GstValidatePadMonitor * pad_monitor,
 946     GstBuffer * buffer)
 947 {
 948   GList *iter;
 949
 950   GST_VALIDATE_MONITOR_OVERRIDES_LOCK (pad_monitor);
 951   for (iter = GST_VALIDATE_MONITOR_OVERRIDES (pad_monitor).head; iter;
 952       iter = g_list_next (iter)) {
 953     GstValidateOverride *override = iter->data;
 954
 955     gst_validate_override_buffer_handler (override,
 956         GST_VALIDATE_MONITOR_CAST (pad_monitor), buffer);
 957   }
 958   GST_VALIDATE_MONITOR_OVERRIDES_UNLOCK (pad_monitor);
 959 }
 960
 961 static void
 962 gst_validate_pad_monitor_buffer_probe_overrides (GstValidatePadMonitor *
 963     pad_monitor, GstBuffer * buffer)
 964 {
 965   GList *iter;
 966
 967   GST_VALIDATE_MONITOR_OVERRIDES_LOCK (pad_monitor);
 968   for (iter = GST_VALIDATE_MONITOR_OVERRIDES (pad_monitor).head; iter;
 969       iter = g_list_next (iter)) {
 970     GstValidateOverride *override = iter->data;
 971
 972     gst_validate_override_buffer_probe_handler (override,
 973         GST_VALIDATE_MONITOR_CAST (pad_monitor), buffer);
 974   }
 975   GST_VALIDATE_MONITOR_OVERRIDES_UNLOCK (pad_monitor);
 976 }
 977
 978 static void
 979 gst_validate_pad_monitor_query_overrides (GstValidatePadMonitor * pad_monitor,
 980     GstQuery * query)
 981 {
 982   GList *iter;
 983
 984   GST_VALIDATE_MONITOR_OVERRIDES_LOCK (pad_monitor);
 985   for (iter = GST_VALIDATE_MONITOR_OVERRIDES (pad_monitor).head; iter;
 986       iter = g_list_next (iter)) {
 987     GstValidateOverride *override = iter->data;
 988
 989     gst_validate_override_query_handler (override,
 990         GST_VALIDATE_MONITOR_CAST (pad_monitor), query);
 991   }
 992   GST_VALIDATE_MONITOR_OVERRIDES_UNLOCK (pad_monitor);
 993 }
 994
 995 static void
 996 gst_validate_pad_monitor_setcaps_overrides (GstValidatePadMonitor * pad_monitor,
 997     GstCaps * caps)
 998 {
 999   GList *iter;
1000
1001   GST_VALIDATE_MONITOR_OVERRIDES_LOCK (pad_monitor);
1002   for (iter = GST_VALIDATE_MONITOR_OVERRIDES (pad_monitor).head; iter;
1003       iter = g_list_next (iter)) {
1004     GstValidateOverride *override = iter->data;
1005
1006     gst_validate_override_setcaps_handler (override,
1007         GST_VALIDATE_MONITOR_CAST (pad_monitor), caps);
1008   }
1009   GST_VALIDATE_MONITOR_OVERRIDES_UNLOCK (pad_monitor);
1010 }
1011
1012 /* FIXME : This is a bit dubious, what's the point of this check ? */
1013 static gboolean
1014 gst_validate_pad_monitor_timestamp_is_in_received_range (GstValidatePadMonitor *
1015     monitor, GstClockTime ts, GstClockTime tolerance)
1016 {
1017   GST_DEBUG_OBJECT (monitor->pad, "Checking if timestamp %" GST_TIME_FORMAT
1018       " is in range: %" GST_TIME_FORMAT " - %" GST_TIME_FORMAT " for pad "
1019       "%s:%s with tolerance: %" GST_TIME_FORMAT, GST_TIME_ARGS (ts),
1020       GST_TIME_ARGS (monitor->timestamp_range_start),
1021       GST_TIME_ARGS (monitor->timestamp_range_end),
1022       GST_DEBUG_PAD_NAME (GST_VALIDATE_PAD_MONITOR_GET_PAD (monitor)),
1023       GST_TIME_ARGS (tolerance));
1024   return !GST_CLOCK_TIME_IS_VALID (monitor->timestamp_range_start) ||
1025       !GST_CLOCK_TIME_IS_VALID (monitor->timestamp_range_end) ||
1026       ((monitor->timestamp_range_start >= tolerance ?
1027           monitor->timestamp_range_start - tolerance : 0) <= ts
1028       && (ts >= tolerance ? ts - tolerance : 0) <=
1029       monitor->timestamp_range_end);
1030 }
1031
1032 /* Iterates over internal links (sinkpads) to check that this buffer has
1033  * a timestamp that is in the range of the lastly received buffers */
1034 static void
1035     gst_validate_pad_monitor_check_buffer_timestamp_in_received_range
1036     (GstValidatePadMonitor * monitor, GstBuffer * buffer,
1037     GstClockTime tolerance)
1038 {
1039   GstClockTime ts;
1040   GstClockTime ts_end;
1041   GstIterator *iter;
1042   gboolean has_one = FALSE;
1043   gboolean found = FALSE;
1044   gboolean done;
1045   GstPad *otherpad;
1046   GstValidatePadMonitor *othermonitor;
1047
1048   if (!GST_CLOCK_TIME_IS_VALID (GST_BUFFER_TIMESTAMP (buffer))
1049       || !GST_CLOCK_TIME_IS_VALID (GST_BUFFER_DURATION (buffer))) {
1050     GST_DEBUG_OBJECT (monitor->pad,
1051         "Can't check buffer timestamps range as "
1052         "buffer has no valid timestamp/duration");
1053     return;
1054   }
1055   ts = GST_BUFFER_TIMESTAMP (buffer);
1056   ts_end = ts + GST_BUFFER_DURATION (buffer);
1057
1058   iter =
1059       gst_pad_iterate_internal_links (GST_VALIDATE_PAD_MONITOR_GET_PAD
1060       (monitor));
1061
1062   if (iter == NULL) {
1063     GST_WARNING_OBJECT (GST_VALIDATE_PAD_MONITOR_GET_PAD (monitor),
1064         "No iterator available");
1065     return;
1066   }
1067
1068   done = FALSE;
1069   while (!done) {
1070     GValue value = { 0, };
1071     switch (gst_iterator_next (iter, &value)) {
1072       case GST_ITERATOR_OK:
1073         otherpad = g_value_get_object (&value);
1074         GST_DEBUG_OBJECT (monitor->pad, "Checking pad %s:%s input timestamps",
1075             GST_DEBUG_PAD_NAME (otherpad));
1076         othermonitor =
1077             g_object_get_data ((GObject *) otherpad, "validate-monitor");
1078         GST_VALIDATE_MONITOR_LOCK (othermonitor);
1079         if (gst_validate_pad_monitor_timestamp_is_in_received_range
1080             (othermonitor, ts, tolerance)
1081             &&
1082             gst_validate_pad_monitor_timestamp_is_in_received_range
1083             (othermonitor, ts_end, tolerance)) {
1084           done = TRUE;
1085           found = TRUE;
1086         }
1087         GST_VALIDATE_MONITOR_UNLOCK (othermonitor);
1088         g_value_reset (&value);
1089         has_one = TRUE;
1090         break;
1091       case GST_ITERATOR_RESYNC:
1092         gst_iterator_resync (iter);
1093         has_one = FALSE;
1094         found = FALSE;
1095         break;
1096       case GST_ITERATOR_ERROR:
1097         GST_WARNING_OBJECT (monitor->pad, "Internal links pad iteration error");
1098         done = TRUE;
1099         break;
1100       case GST_ITERATOR_DONE:
1101         done = TRUE;
1102         break;
1103     }
1104   }
1105   gst_iterator_free (iter);
1106
1107   if (!has_one) {
1108     GST_DEBUG_OBJECT (monitor->pad, "Skipping timestamp in range check as no "
1109         "internal linked pad was found");
1110     return;
1111   }
1112   if (!found) {
1113     GST_VALIDATE_REPORT (monitor, BUFFER_TIMESTAMP_OUT_OF_RECEIVED_RANGE,
1114         "Timestamp %" GST_TIME_FORMAT " - %" GST_TIME_FORMAT
1115         " is out of range of received input", GST_TIME_ARGS (ts),
1116         GST_TIME_ARGS (ts_end));
1117   }
1118 }
1119
1120 static void
1121 gst_validate_pad_monitor_check_discont (GstValidatePadMonitor * pad_monitor,
1122     GstBuffer * buffer)
1123 {
1124   if (pad_monitor->pending_buffer_discont) {
1125     if (!GST_BUFFER_FLAG_IS_SET (buffer, GST_BUFFER_FLAG_DISCONT))
1126       GST_VALIDATE_REPORT (pad_monitor, BUFFER_MISSING_DISCONT,
1127           "Buffer is missing a DISCONT flag");
1128     pad_monitor->pending_buffer_discont = FALSE;
1129   }
1130 }
1131
1132 static void
1133 gst_validate_pad_monitor_check_first_buffer (GstValidatePadMonitor *
1134     pad_monitor, GstBuffer * buffer)
1135 {
1136   if (G_UNLIKELY (pad_monitor->first_buffer)) {
1137     pad_monitor->first_buffer = FALSE;
1138
1139     if (!pad_monitor->has_segment
1140         && PAD_IS_IN_PUSH_MODE (GST_VALIDATE_PAD_MONITOR_GET_PAD (pad_monitor)))
1141     {
1142       GST_VALIDATE_REPORT (pad_monitor, BUFFER_BEFORE_SEGMENT,
1143           "Received buffer before Segment event");
1144     }
1145
1146     GST_DEBUG_OBJECT (pad_monitor->pad,
1147         "Checking first buffer (pts:%" GST_TIME_FORMAT " dts:%" GST_TIME_FORMAT
1148         ")", GST_TIME_ARGS (GST_BUFFER_PTS (buffer)),
1149         GST_TIME_ARGS (GST_BUFFER_DTS (buffer)));
1150
1151   }
1152 }
1153
1154 static void
1155 gst_validate_pad_monitor_check_eos (GstValidatePadMonitor *
1156     pad_monitor, GstBuffer * buffer)
1157 {
1158   if (G_UNLIKELY (pad_monitor->is_eos)) {
1159     GST_VALIDATE_REPORT (pad_monitor, BUFFER_AFTER_EOS,
1160         "Received buffer %" GST_PTR_FORMAT " after EOS", buffer);
1161   }
1162 }
1163
1164 static void
1165 gst_validate_pad_monitor_update_buffer_data (GstValidatePadMonitor *
1166     pad_monitor, GstBuffer * buffer)
1167 {
1168   pad_monitor->current_timestamp = GST_BUFFER_TIMESTAMP (buffer);
1169   pad_monitor->current_duration = GST_BUFFER_DURATION (buffer);
1170   if (GST_CLOCK_TIME_IS_VALID (GST_BUFFER_TIMESTAMP (buffer))) {
1171     if (GST_CLOCK_TIME_IS_VALID (pad_monitor->timestamp_range_start)) {
1172       pad_monitor->timestamp_range_start =
1173           MIN (pad_monitor->timestamp_range_start,
1174           GST_BUFFER_TIMESTAMP (buffer));
1175     } else {
1176       pad_monitor->timestamp_range_start = GST_BUFFER_TIMESTAMP (buffer);
1177     }
1178
1179     if (GST_CLOCK_TIME_IS_VALID (GST_BUFFER_DURATION (buffer))) {
1180       GstClockTime endts =
1181           GST_BUFFER_TIMESTAMP (buffer) + GST_BUFFER_DURATION (buffer);
1182       if (GST_CLOCK_TIME_IS_VALID (pad_monitor->timestamp_range_end)) {
1183         pad_monitor->timestamp_range_end =
1184             MAX (pad_monitor->timestamp_range_end, endts);
1185       } else {
1186         pad_monitor->timestamp_range_end = endts;
1187       }
1188     }
1189   }
1190   GST_DEBUG_OBJECT (pad_monitor->pad, "Current stored range: %" GST_TIME_FORMAT
1191       " - %" GST_TIME_FORMAT,
1192       GST_TIME_ARGS (pad_monitor->timestamp_range_start),
1193       GST_TIME_ARGS (pad_monitor->timestamp_range_end));
1194 }
1195
1196 static GstFlowReturn
1197 _combine_flows (GstFlowReturn ret1, GstFlowReturn ret2)
1198 {
1199   if (ret1 == ret2)
1200     return ret1;
1201   if (ret1 <= GST_FLOW_NOT_NEGOTIATED)
1202     return ret1;
1203   if (ret2 <= GST_FLOW_NOT_NEGOTIATED)
1204     return ret2;
1205   if (ret1 == GST_FLOW_FLUSHING || ret2 == GST_FLOW_FLUSHING)
1206     return GST_FLOW_FLUSHING;
1207   if (ret1 == GST_FLOW_OK || ret2 == GST_FLOW_OK)
1208     return GST_FLOW_OK;
1209   return ret2;
1210 }
1211
1212 static void
1213 gst_validate_pad_monitor_check_aggregated_return (GstValidatePadMonitor *
1214     monitor, GstObject * parent, GstFlowReturn ret)
1215 {
1216   GstIterator *iter;
1217   gboolean done;
1218   GstPad *otherpad;
1219   GstPad *peerpad;
1220   GstValidatePadMonitor *othermonitor;
1221   GstFlowReturn aggregated = GST_FLOW_NOT_LINKED;
1222   gboolean found_a_pad = FALSE;
1223   GstPad *pad = GST_VALIDATE_PAD_MONITOR_GET_PAD (monitor);
1224
1225   iter = gst_pad_iterate_internal_links (pad);
1226   done = FALSE;
1227   while (!done) {
1228     GValue value = { 0, };
1229     switch (gst_iterator_next (iter, &value)) {
1230       case GST_ITERATOR_OK:
1231         otherpad = g_value_get_object (&value);
1232         peerpad = gst_pad_get_peer (otherpad);
1233         if (peerpad) {
1234           othermonitor =
1235               g_object_get_data ((GObject *) peerpad, "validate-monitor");
1236           if (othermonitor) {
1237             found_a_pad = TRUE;
1238             GST_VALIDATE_MONITOR_LOCK (othermonitor);
1239             aggregated =
1240                 _combine_flows (aggregated, othermonitor->last_flow_return);
1241             GST_VALIDATE_MONITOR_UNLOCK (othermonitor);
1242           }
1243
1244           gst_object_unref (peerpad);
1245         }
1246         g_value_reset (&value);
1247         break;
1248       case GST_ITERATOR_RESYNC:
1249         gst_iterator_resync (iter);
1250         break;
1251       case GST_ITERATOR_ERROR:
1252         GST_WARNING_OBJECT (monitor->pad, "Internal links pad iteration error");
1253         done = TRUE;
1254         break;
1255       case GST_ITERATOR_DONE:
1256         done = TRUE;
1257         break;
1258     }
1259   }
1260   gst_iterator_free (iter);
1261   if (!found_a_pad) {
1262     /* no peer pad found, nothing to do */
1263     return;
1264   }
1265   if (aggregated == GST_FLOW_OK || aggregated == GST_FLOW_EOS) {
1266     GstState state, pending;
1267
1268     /* those are acceptable situations */
1269     if (GST_PAD_IS_FLUSHING (pad) && ret == GST_FLOW_FLUSHING) {
1270       /* pad is flushing, always acceptable to return flushing */
1271       return;
1272     }
1273
1274     gst_element_get_state (GST_ELEMENT (parent), &state, &pending, 0);
1275     if (ret == GST_FLOW_FLUSHING && (state < GST_STATE_PAUSED
1276             || pending < GST_STATE_PAUSED)) {
1277       /* Element is being teared down, accept FLOW_FLUSHING */
1278
1279       return;
1280     }
1281
1282     if (monitor->is_eos && ret == GST_FLOW_EOS) {
1283       /* this element received eos and returned eos */
1284       return;
1285     }
1286
1287     if (PAD_PARENT_IS_DEMUXER (monitor) && ret == GST_FLOW_EOS) {
1288       /* a demuxer can return EOS when the samples end */
1289       return;
1290     }
1291   }
1292
1293   if (aggregated != ret) {
1294     GST_VALIDATE_REPORT (monitor, WRONG_FLOW_RETURN,
1295         "Wrong combined flow return %s(%d). Expected: %s(%d)",
1296         gst_flow_get_name (ret), ret, gst_flow_get_name (aggregated),
1297         aggregated);
1298   }
1299 }
1300
1301 static void
1302     gst_validate_pad_monitor_otherpad_add_pending_serialized_event
1303     (GstValidatePadMonitor * monitor, GstEvent * event, GstClockTime last_ts)
1304 {
1305   GstIterator *iter;
1306   gboolean done;
1307   GstPad *otherpad;
1308   GstValidatePadMonitor *othermonitor;
1309
1310   if (!GST_EVENT_IS_SERIALIZED (event))
1311     return;
1312
1313   iter =
1314       gst_pad_iterate_internal_links (GST_VALIDATE_PAD_MONITOR_GET_PAD
1315       (monitor));
1316   if (iter == NULL) {
1317     /* inputselector will return NULL if the sinkpad is not the active one .... */
1318     GST_FIXME_OBJECT (GST_VALIDATE_PAD_MONITOR_GET_PAD
1319         (monitor), "No iterator");
1320     return;
1321   }
1322   done = FALSE;
1323   while (!done) {
1324     GValue value = { 0, };
1325     switch (gst_iterator_next (iter, &value)) {
1326       case GST_ITERATOR_OK:
1327         otherpad = g_value_get_object (&value);
1328         othermonitor =
1329             g_object_get_data ((GObject *) otherpad, "validate-monitor");
1330         if (othermonitor) {
1331           SerializedEventData *data = g_slice_new0 (SerializedEventData);
1332           data->timestamp = last_ts;
1333           data->event = gst_event_ref (event);
1334           GST_VALIDATE_MONITOR_LOCK (othermonitor);
1335           GST_DEBUG_OBJECT (monitor->pad, "Storing for pad %s:%s event %p %s",
1336               GST_DEBUG_PAD_NAME (otherpad), event,
1337               GST_EVENT_TYPE_NAME (event));
1338           g_ptr_array_add (othermonitor->serialized_events, data);
1339           debug_pending_event (otherpad, othermonitor->serialized_events);
1340           GST_VALIDATE_MONITOR_UNLOCK (othermonitor);
1341         }
1342         g_value_reset (&value);
1343         break;
1344       case GST_ITERATOR_RESYNC:
1345         gst_iterator_resync (iter);
1346         break;
1347       case GST_ITERATOR_ERROR:
1348         GST_WARNING_OBJECT (monitor->pad, "Internal links pad iteration error");
1349         done = TRUE;
1350         break;
1351       case GST_ITERATOR_DONE:
1352         done = TRUE;
1353         break;
1354     }
1355   }
1356   gst_iterator_free (iter);
1357 }
1358
1359 static void
1360 gst_validate_pad_monitor_otherpad_add_pending_field (GstValidatePadMonitor *
1361     monitor, GstStructure * structure, const gchar * field)
1362 {
1363   GstIterator *iter;
1364   gboolean done;
1365   GstPad *otherpad;
1366   GstValidatePadMonitor *othermonitor;
1367   const GValue *v;
1368
1369   v = gst_structure_get_value (structure, field);
1370   if (v == NULL) {
1371     GST_DEBUG_OBJECT (monitor->pad, "Not adding pending field %s as it isn't "
1372         "present on structure %" GST_PTR_FORMAT, field, structure);
1373     return;
1374   }
1375
1376   iter =
1377       gst_pad_iterate_internal_links (GST_VALIDATE_PAD_MONITOR_GET_PAD
1378       (monitor));
1379   done = FALSE;
1380   while (!done) {
1381     GValue value = { 0, };
1382     switch (gst_iterator_next (iter, &value)) {
1383       case GST_ITERATOR_OK:
1384         otherpad = g_value_get_object (&value);
1385         othermonitor =
1386             g_object_get_data ((GObject *) otherpad, "validate-monitor");
1387         if (othermonitor) {
1388           GST_VALIDATE_MONITOR_LOCK (othermonitor);
1389           g_assert (othermonitor->pending_setcaps_fields != NULL);
1390           gst_structure_set_value (othermonitor->pending_setcaps_fields,
1391               field, v);
1392           GST_VALIDATE_MONITOR_UNLOCK (othermonitor);
1393         }
1394         g_value_reset (&value);
1395         break;
1396       case GST_ITERATOR_RESYNC:
1397         gst_iterator_resync (iter);
1398         break;
1399       case GST_ITERATOR_ERROR:
1400         GST_WARNING_OBJECT (monitor->pad, "Internal links pad iteration error");
1401         done = TRUE;
1402         break;
1403       case GST_ITERATOR_DONE:
1404         done = TRUE;
1405         break;
1406     }
1407   }
1408   gst_iterator_free (iter);
1409 }
1410
1411 static void
1412 gst_validate_pad_monitor_otherpad_clear_pending_fields (GstValidatePadMonitor *
1413     monitor)
1414 {
1415   GstIterator *iter;
1416   gboolean done;
1417   GstPad *otherpad;
1418   GstValidatePadMonitor *othermonitor;
1419
1420   iter =
1421       gst_pad_iterate_internal_links (GST_VALIDATE_PAD_MONITOR_GET_PAD
1422       (monitor));
1423
1424   if (iter == NULL) {
1425     GST_DEBUG_OBJECT (monitor, "No internally linked pad");
1426
1427     return;
1428   }
1429
1430   done = FALSE;
1431   while (!done) {
1432     GValue value = { 0, };
1433     switch (gst_iterator_next (iter, &value)) {
1434       case GST_ITERATOR_OK:
1435         otherpad = g_value_get_object (&value);
1436         othermonitor =
1437             g_object_get_data ((GObject *) otherpad, "validate-monitor");
1438         if (othermonitor) {
1439           GST_VALIDATE_MONITOR_LOCK (othermonitor);
1440           g_assert (othermonitor->pending_setcaps_fields != NULL);
1441           gst_structure_free (othermonitor->pending_setcaps_fields);
1442           othermonitor->pending_setcaps_fields =
1443               gst_structure_new_empty (PENDING_FIELDS);
1444           GST_VALIDATE_MONITOR_UNLOCK (othermonitor);
1445         }
1446         g_value_reset (&value);
1447         break;
1448       case GST_ITERATOR_RESYNC:
1449         gst_iterator_resync (iter);
1450         break;
1451       case GST_ITERATOR_ERROR:
1452         GST_WARNING_OBJECT (monitor->pad, "Internal links pad iteration error");
1453         done = TRUE;
1454         break;
1455       case GST_ITERATOR_DONE:
1456         done = TRUE;
1457         break;
1458     }
1459   }
1460   gst_iterator_free (iter);
1461 }
1462
1463 static void
1464 gst_validate_pad_monitor_add_expected_newsegment (GstValidatePadMonitor *
1465     monitor, GstEvent * event)
1466 {
1467   GstIterator *iter;
1468   gboolean done;
1469   GstPad *otherpad;
1470   GstValidatePadMonitor *othermonitor;
1471
1472   iter =
1473       gst_pad_iterate_internal_links (GST_VALIDATE_PAD_MONITOR_GET_PAD
1474       (monitor));
1475
1476   if (iter == NULL) {
1477     GST_DEBUG_OBJECT (monitor, "No internally linked pad");
1478     return;
1479   }
1480
1481   done = FALSE;
1482   while (!done) {
1483     GValue value = { 0, };
1484     switch (gst_iterator_next (iter, &value)) {
1485       case GST_ITERATOR_OK:
1486         otherpad = g_value_get_object (&value);
1487         if (!otherpad)
1488           continue;
1489         othermonitor =
1490             g_object_get_data ((GObject *) otherpad, "validate-monitor");
1491         GST_VALIDATE_MONITOR_LOCK (othermonitor);
1492         gst_event_replace (&othermonitor->expected_segment, event);
1493         GST_VALIDATE_MONITOR_UNLOCK (othermonitor);
1494         g_value_reset (&value);
1495         break;
1496       case GST_ITERATOR_RESYNC:
1497         gst_iterator_resync (iter);
1498         break;
1499       case GST_ITERATOR_ERROR:
1500         GST_WARNING_OBJECT (monitor->pad, "Internal links pad iteration error");
1501         done = TRUE;
1502         break;
1503       case GST_ITERATOR_DONE:
1504         done = TRUE;
1505         break;
1506     }
1507   }
1508   gst_iterator_free (iter);
1509 }
1510
1511 static void
1512 gst_validate_pad_monitor_flush (GstValidatePadMonitor * pad_monitor)
1513 {
1514   pad_monitor->current_timestamp = GST_CLOCK_TIME_NONE;
1515   pad_monitor->current_duration = GST_CLOCK_TIME_NONE;
1516   pad_monitor->timestamp_range_start = GST_CLOCK_TIME_NONE;
1517   pad_monitor->timestamp_range_end = GST_CLOCK_TIME_NONE;
1518   pad_monitor->has_segment = FALSE;
1519   pad_monitor->is_eos = FALSE;
1520   pad_monitor->last_flow_return = GST_FLOW_OK;
1521   gst_caps_replace (&pad_monitor->last_caps, NULL);
1522   pad_monitor->caps_is_audio = pad_monitor->caps_is_video =
1523       pad_monitor->caps_is_raw = FALSE;
1524
1525   g_list_free_full (pad_monitor->expired_events,
1526       (GDestroyNotify) gst_event_unref);
1527   pad_monitor->expired_events = NULL;
1528
1529   if (pad_monitor->serialized_events->len)
1530     g_ptr_array_remove_range (pad_monitor->serialized_events, 0,
1531         pad_monitor->serialized_events->len);
1532 }
1533
1534 /* common checks for both sink and src event functions */
1535 static void
1536 gst_validate_pad_monitor_common_event_check (GstValidatePadMonitor *
1537     pad_monitor, GstEvent * event)
1538 {
1539   guint32 seqnum = gst_event_get_seqnum (event);
1540
1541   switch (GST_EVENT_TYPE (event)) {
1542     case GST_EVENT_FLUSH_START:
1543     {
1544       if (pad_monitor->pending_flush_start_seqnum) {
1545         if (seqnum == pad_monitor->pending_flush_start_seqnum) {
1546           pad_monitor->pending_flush_start_seqnum = 0;
1547         } else {
1548           GST_VALIDATE_REPORT (pad_monitor, FLUSH_START_HAS_WRONG_SEQNUM,
1549               "Got: %u Expected: %u", seqnum,
1550               pad_monitor->pending_flush_start_seqnum);
1551         }
1552       }
1553
1554       if (pad_monitor->pending_flush_stop) {
1555         GST_VALIDATE_REPORT (pad_monitor, EVENT_FLUSH_START_UNEXPECTED,
1556             "Received flush-start from " " when flush-stop was expected");
1557       }
1558       pad_monitor->pending_flush_stop = TRUE;
1559     }
1560       break;
1561     case GST_EVENT_FLUSH_STOP:
1562     {
1563       if (pad_monitor->pending_flush_stop_seqnum) {
1564         if (seqnum == pad_monitor->pending_flush_stop_seqnum) {
1565           pad_monitor->pending_flush_stop_seqnum = 0;
1566         } else {
1567           GST_VALIDATE_REPORT (pad_monitor, FLUSH_STOP_HAS_WRONG_SEQNUM,
1568               "Got: %u Expected: %u", seqnum,
1569               pad_monitor->pending_flush_stop_seqnum);
1570         }
1571       }
1572
1573       pad_monitor->pending_newsegment_seqnum = seqnum;
1574       pad_monitor->pending_eos_seqnum = seqnum;
1575
1576       if (!pad_monitor->pending_flush_stop) {
1577         gchar *event_str = _get_event_string (event);
1578
1579         GST_VALIDATE_REPORT (pad_monitor, EVENT_FLUSH_STOP_UNEXPECTED,
1580             "Unexpected flush-stop %s", event_str);
1581         g_free (event_str);
1582       }
1583       pad_monitor->pending_flush_stop = FALSE;
1584
1585       /* Buffers following a FLUSH should have the DISCONT flag set */
1586       pad_monitor->pending_buffer_discont = TRUE;
1587
1588       /* cleanup our data */
1589       gst_validate_pad_monitor_flush (pad_monitor);
1590     }
1591       break;
1592     default:
1593       break;
1594   }
1595 }
1596
1597 static void
1598 mark_pads_eos (GstValidatePadMonitor * pad_monitor)
1599 {
1600   GstValidatePadMonitor *peer_monitor;
1601   GstPad *peer = gst_pad_get_peer (pad_monitor->pad);
1602   GstPad *real_peer;
1603
1604   pad_monitor->is_eos = TRUE;
1605   if (peer) {
1606     real_peer = _get_actual_pad (peer);
1607     peer_monitor =
1608         g_object_get_data ((GObject *) real_peer, "validate-monitor");
1609     if (peer_monitor)
1610       peer_monitor->is_eos = TRUE;
1611     gst_object_unref (peer);
1612     gst_object_unref (real_peer);
1613   }
1614 }
1615
1616 static inline gboolean
1617 _should_check_buffers (GstValidatePadMonitor * pad_monitor,
1618     gboolean force_checks)
1619 {
1620   GstPad *pad = GST_VALIDATE_PAD_MONITOR_GET_PAD (pad_monitor);
1621   GstValidateMonitor *monitor = GST_VALIDATE_MONITOR (pad_monitor);
1622
1623   if (pad_monitor->first_buffer || force_checks) {
1624     if (pad_monitor->segment.rate != 1.0) {
1625       GST_INFO_OBJECT (pad_monitor, "We do not support buffer checking"
1626           " for trick modes");
1627
1628       pad_monitor->check_buffers = FALSE;
1629     } else if (!PAD_PARENT_IS_DECODER (pad_monitor)) {
1630       GST_DEBUG_OBJECT (pad, "Not on a decoder => no buffer checking");
1631
1632       pad_monitor->check_buffers = FALSE;
1633     } else if (GST_PAD_DIRECTION (pad) != GST_PAD_SINK) {
1634       GST_DEBUG_OBJECT (pad, "Not a sinkpad => no buffer checking");
1635
1636       pad_monitor->check_buffers = FALSE;
1637     } else if (!pad_monitor->caps_is_video) {
1638       GST_DEBUG_OBJECT (pad, "Not working with video => no buffer checking");
1639
1640       pad_monitor->check_buffers = FALSE;
1641     } else if (monitor->media_descriptor == NULL) {
1642       GST_DEBUG_OBJECT (pad, "No media_descriptor set => no buffer checking");
1643
1644       pad_monitor->check_buffers = FALSE;
1645     } else
1646         if (!gst_validate_media_descriptor_detects_frames
1647         (monitor->media_descriptor)) {
1648       GST_DEBUG_OBJECT (pad,
1649           "No frame detection media descriptor " "=> not buffer checking");
1650       pad_monitor->check_buffers = FALSE;
1651     } else if (pad_monitor->all_bufs == NULL &&
1652         !gst_validate_media_descriptor_get_buffers (monitor->media_descriptor,
1653             pad, NULL, &pad_monitor->all_bufs)) {
1654
1655       GST_INFO_OBJECT (monitor,
1656           "The MediaInfo is marked as detecting frame, but getting frames"
1657           " from pad %" GST_PTR_FORMAT " did not work (some format conversion"
1658           " might be happening)", pad);
1659
1660       pad_monitor->check_buffers = FALSE;
1661     } else {
1662       if (!pad_monitor->current_buf)
1663         pad_monitor->current_buf = pad_monitor->all_bufs;
1664       pad_monitor->check_buffers = TRUE;
1665     }
1666   }
1667
1668   return pad_monitor->check_buffers;
1669 }
1670
1671 static void
1672 gst_validate_monitor_find_next_buffer (GstValidatePadMonitor * pad_monitor)
1673 {
1674   GList *tmp;
1675   gboolean passed_start = FALSE;
1676
1677   if (!_should_check_buffers (pad_monitor, TRUE))
1678     return;
1679
1680   for (tmp = g_list_last (pad_monitor->all_bufs); tmp; tmp = tmp->prev) {
1681     GstBuffer *cbuf = tmp->data;
1682     GstClockTime ts =
1683         GST_CLOCK_TIME_IS_VALID (GST_BUFFER_DTS (cbuf)) ? GST_BUFFER_DTS (cbuf)
1684         : GST_BUFFER_PTS (cbuf);
1685
1686     if (!GST_CLOCK_TIME_IS_VALID (ts))
1687       continue;
1688
1689     if (ts <= pad_monitor->segment.start)
1690       passed_start = TRUE;
1691
1692     if (!passed_start)
1693       continue;
1694
1695     if (!GST_BUFFER_FLAG_IS_SET (cbuf, GST_BUFFER_FLAG_DELTA_UNIT)) {
1696       break;
1697     }
1698   }
1699
1700   if (tmp == NULL)
1701     pad_monitor->current_buf = pad_monitor->all_bufs;
1702   else
1703     pad_monitor->current_buf = tmp;
1704 }
1705
1706 /* Checks whether a segment is just an update of another,
1707  * That is to say that only the base and offset field differ and all
1708  * other fields are identical */
1709 static gboolean
1710 is_segment_update (GstSegment * a, const GstSegment * b)
1711 {
1712   /* Note : We never care about the position field, it is only
1713    * used for internal usage by elements */
1714   if (a->rate == b->rate &&
1715       a->applied_rate == b->applied_rate &&
1716       a->format == b->format && a->time == b->time) {
1717     /* Changes in base/offset are considered updates */
1718     /* Updating the end position of a segment is an update */
1719     /* Updating the duration of a segment is an update */
1720     if (a->rate > 0.0) {
1721       if (a->start == b->start)
1722         return TRUE;
1723     } else {
1724       if (a->stop == b->stop)
1725         return TRUE;
1726     }
1727   }
1728   return FALSE;
1729 }
1730
1731 static GstFlowReturn
1732 gst_validate_pad_monitor_downstream_event_check (GstValidatePadMonitor *
1733     pad_monitor, GstObject * parent, GstEvent * event,
1734     GstPadEventFunction handler)
1735 {
1736   GstFlowReturn ret = GST_FLOW_OK;
1737   const GstSegment *segment;
1738   guint32 seqnum = gst_event_get_seqnum (event);
1739   GstPad *pad = GST_VALIDATE_PAD_MONITOR_GET_PAD (pad_monitor);
1740
1741   gst_validate_pad_monitor_common_event_check (pad_monitor, event);
1742
1743   /* pre checks */
1744   switch (GST_EVENT_TYPE (event)) {
1745     case GST_EVENT_STREAM_START:
1746       /* Buffers following a STREAM_START should have the DISCONT flag set */
1747       pad_monitor->pending_buffer_discont = TRUE;
1748       break;
1749     case GST_EVENT_SEGMENT:
1750       /* parse segment data to be used if event is handled */
1751       gst_event_parse_segment (event, &segment);
1752
1753       GST_DEBUG_OBJECT (pad_monitor->pad, "Got segment %" GST_SEGMENT_FORMAT,
1754           segment);
1755
1756       if (pad_monitor->pending_newsegment_seqnum) {
1757         if (pad_monitor->pending_newsegment_seqnum == seqnum) {
1758           pad_monitor->pending_newsegment_seqnum = 0;
1759           if (GST_CLOCK_TIME_IS_VALID (pad_monitor->pending_seek_accurate_time)) {
1760             if (segment->time == pad_monitor->pending_seek_accurate_time) {
1761               pad_monitor->pending_seek_accurate_time = GST_CLOCK_TIME_NONE;
1762             } else {
1763               GST_VALIDATE_REPORT (pad_monitor, SEGMENT_HAS_WRONG_START,
1764                   "After an accurate seek, got: %" GST_TIME_FORMAT
1765                   " Expected: %" GST_TIME_FORMAT, GST_TIME_ARGS (segment->time),
1766                   GST_TIME_ARGS (pad_monitor->pending_seek_accurate_time));
1767             }
1768           }
1769         } else {
1770           GST_VALIDATE_REPORT (pad_monitor, SEGMENT_HAS_WRONG_SEQNUM,
1771               "Got: %u Expected: %u", seqnum, pad_monitor->pending_eos_seqnum);
1772         }
1773       }
1774
1775       pad_monitor->pending_eos_seqnum = seqnum;
1776
1777       if (GST_PAD_DIRECTION (pad) == GST_PAD_SINK) {
1778         gst_validate_pad_monitor_add_expected_newsegment (pad_monitor, event);
1779       } else {
1780         /* check if this segment is the expected one */
1781         if (pad_monitor->expected_segment) {
1782           const GstSegment *exp_segment;
1783
1784           if (pad_monitor->expected_segment != event) {
1785             gst_event_parse_segment (pad_monitor->expected_segment,
1786                 &exp_segment);
1787             if (segment->format == exp_segment->format) {
1788               if ((exp_segment->rate * exp_segment->applied_rate !=
1789                       segment->rate * segment->applied_rate))
1790                 GST_VALIDATE_REPORT (pad_monitor, EVENT_NEW_SEGMENT_MISMATCH,
1791                     "Rate * applied_rate %f != expected %f",
1792                     segment->rate * segment->applied_rate,
1793                     exp_segment->rate * exp_segment->applied_rate);
1794               if (exp_segment->start != segment->start)
1795                 GST_VALIDATE_REPORT (pad_monitor, EVENT_NEW_SEGMENT_MISMATCH,
1796                     "Start %" GST_TIME_FORMAT " != expected %" GST_TIME_FORMAT,
1797                     GST_TIME_ARGS (segment->start),
1798                     GST_TIME_ARGS (exp_segment->start));
1799               if (exp_segment->stop != segment->stop)
1800                 GST_VALIDATE_REPORT (pad_monitor, EVENT_NEW_SEGMENT_MISMATCH,
1801                     "Stop %" GST_TIME_FORMAT " != expected %" GST_TIME_FORMAT,
1802                     GST_TIME_ARGS (segment->stop),
1803                     GST_TIME_ARGS (exp_segment->stop));
1804               if (exp_segment->position != segment->position)
1805                 GST_VALIDATE_REPORT (pad_monitor, EVENT_NEW_SEGMENT_MISMATCH,
1806                     "Position %" GST_TIME_FORMAT " != expected %"
1807                     GST_TIME_FORMAT, GST_TIME_ARGS (segment->position),
1808                     GST_TIME_ARGS (exp_segment->position));
1809             }
1810           }
1811           gst_event_replace (&pad_monitor->expected_segment, NULL);
1812         }
1813       }
1814       break;
1815     case GST_EVENT_CAPS:{
1816       GstCaps *caps;
1817
1818       gst_event_parse_caps (event, &caps);
1819       gst_validate_pad_monitor_setcaps_pre (pad_monitor, caps);
1820       break;
1821     }
1822     case GST_EVENT_EOS:
1823       pad_monitor->is_eos = TRUE;
1824       if (pad_monitor->pending_eos_seqnum == 0) {
1825         GST_VALIDATE_REPORT (pad_monitor, EVENT_EOS_WITHOUT_SEGMENT,
1826             "EOS %" GST_PTR_FORMAT " received before a segment was received",
1827             event);
1828       } else if (pad_monitor->pending_eos_seqnum != seqnum) {
1829         GST_VALIDATE_REPORT (pad_monitor, EOS_HAS_WRONG_SEQNUM,
1830             "Got: %u. Expected: %u", seqnum, pad_monitor->pending_eos_seqnum);
1831       }
1832
1833       /*
1834        * TODO add end of stream checks for
1835        *  - events not pushed
1836        *  - buffer data not pushed
1837        *  - pending events not received
1838        */
1839       break;
1840
1841       /* both flushes are handled by the common event function */
1842     case GST_EVENT_FLUSH_START:
1843     case GST_EVENT_FLUSH_STOP:
1844     case GST_EVENT_TAG:
1845     case GST_EVENT_SINK_MESSAGE:
1846     default:
1847       break;
1848   }
1849
1850   GST_VALIDATE_MONITOR_UNLOCK (pad_monitor);
1851   GST_VALIDATE_PAD_MONITOR_PARENT_UNLOCK (pad_monitor);
1852   gst_validate_pad_monitor_event_overrides (pad_monitor, event);
1853   if (handler) {
1854     gst_event_ref (event);
1855     if (pad_monitor->event_full_func)
1856       ret = pad_monitor->event_full_func (pad, parent, event);
1857     else if (pad_monitor->event_func (pad, parent, event))
1858       ret = GST_FLOW_OK;
1859     else
1860       ret = GST_FLOW_ERROR;
1861   }
1862   GST_VALIDATE_PAD_MONITOR_PARENT_LOCK (pad_monitor);
1863   GST_VALIDATE_MONITOR_LOCK (pad_monitor);
1864
1865   /* post checks */
1866   switch (GST_EVENT_TYPE (event)) {
1867     case GST_EVENT_SEGMENT:
1868       if (ret == GST_FLOW_OK) {
1869         /* If the new segment is not an update of the previous one, then
1870          * the following buffer should have the DISCONT flag set */
1871         if (!is_segment_update (&pad_monitor->segment, segment))
1872           pad_monitor->pending_buffer_discont = TRUE;
1873         if (!pad_monitor->has_segment
1874             && pad_monitor->segment.format != segment->format) {
1875           gst_segment_init (&pad_monitor->segment, segment->format);
1876         }
1877         gst_segment_copy_into (segment, &pad_monitor->segment);
1878         pad_monitor->has_segment = TRUE;
1879         gst_validate_monitor_find_next_buffer (pad_monitor);
1880       }
1881       break;
1882     case GST_EVENT_CAPS:{
1883       GstCaps *caps;
1884
1885       gst_event_parse_caps (event, &caps);
1886       gst_validate_pad_monitor_setcaps_post (pad_monitor, caps,
1887           ret == GST_FLOW_OK);
1888       break;
1889     }
1890     case GST_EVENT_FLUSH_START:
1891     case GST_EVENT_FLUSH_STOP:
1892     case GST_EVENT_EOS:
1893     case GST_EVENT_TAG:
1894     case GST_EVENT_SINK_MESSAGE:
1895     default:
1896       break;
1897   }
1898
1899   if (handler)
1900     gst_event_unref (event);
1901   return ret;
1902 }
1903
1904 static gboolean
1905 gst_validate_pad_monitor_src_event_check (GstValidatePadMonitor * pad_monitor,
1906     GstObject * parent, GstEvent * event, GstPadEventFunction handler)
1907 {
1908   gboolean ret = TRUE;
1909   gdouble rate;
1910   GstFormat format;
1911   gint64 start, stop;
1912   GstSeekFlags seek_flags;
1913   GstSeekType start_type, stop_type;
1914   guint32 seqnum = gst_event_get_seqnum (event);
1915   GstPad *pad = GST_VALIDATE_PAD_MONITOR_GET_PAD (pad_monitor);
1916
1917   gst_validate_pad_monitor_common_event_check (pad_monitor, event);
1918
1919   /* pre checks */
1920   switch (GST_EVENT_TYPE (event)) {
1921     case GST_EVENT_SEEK:
1922     {
1923       gst_event_parse_seek (event, &rate, &format, &seek_flags, &start_type,
1924           &start, &stop_type, &stop);
1925       /* upstream seek - store the seek event seqnum to check
1926        * flushes and newsegments share the same */
1927
1928       /* TODO we might need to use a list as multiple seeks can be sent
1929        * before the flushes arrive here */
1930       if (seek_flags & GST_SEEK_FLAG_FLUSH) {
1931         pad_monitor->pending_flush_start_seqnum = seqnum;
1932         pad_monitor->pending_flush_stop_seqnum = seqnum;
1933       }
1934       if (seek_flags & GST_SEEK_FLAG_ACCURATE) {
1935         pad_monitor->pending_seek_accurate_time = start;
1936       }
1937     }
1938       break;
1939       /* both flushes are handled by the common event handling function */
1940     case GST_EVENT_FLUSH_START:
1941     case GST_EVENT_FLUSH_STOP:
1942     case GST_EVENT_NAVIGATION:
1943     case GST_EVENT_LATENCY:
1944     case GST_EVENT_STEP:
1945     case GST_EVENT_QOS:
1946     default:
1947       break;
1948   }
1949
1950   if (handler) {
1951     GST_VALIDATE_MONITOR_UNLOCK (pad_monitor);
1952     gst_event_ref (event);
1953     ret = pad_monitor->event_func (pad, parent, event);
1954     GST_VALIDATE_MONITOR_LOCK (pad_monitor);
1955   }
1956
1957   /* post checks */
1958   switch (GST_EVENT_TYPE (event)) {
1959     case GST_EVENT_FLUSH_START:
1960     case GST_EVENT_FLUSH_STOP:
1961     case GST_EVENT_QOS:
1962     case GST_EVENT_SEEK:
1963     {
1964       if (ret == FALSE) {
1965         /* do not expect any of these events anymore */
1966         pad_monitor->pending_flush_start_seqnum = 0;
1967         pad_monitor->pending_flush_stop_seqnum = 0;
1968         pad_monitor->pending_newsegment_seqnum = 0;
1969         pad_monitor->pending_eos_seqnum = 0;
1970         pad_monitor->pending_seek_accurate_time = GST_CLOCK_TIME_NONE;
1971       }
1972     }
1973       break;
1974     case GST_EVENT_NAVIGATION:
1975     case GST_EVENT_LATENCY:
1976     case GST_EVENT_STEP:
1977     default:
1978       break;
1979   }
1980
1981   if (handler)
1982     gst_event_unref (event);
1983   return ret;
1984 }
1985
1986 static gboolean
1987 gst_validate_pad_monitor_check_right_buffer (GstValidatePadMonitor *
1988     pad_monitor, GstBuffer * buffer)
1989 {
1990   gchar *checksum;
1991   GstBuffer *wanted_buf;
1992   GstMapInfo map, wanted_map;
1993
1994   gboolean ret = TRUE;
1995   GstPad *pad = GST_VALIDATE_PAD_MONITOR_GET_PAD (pad_monitor);
1996
1997   if (_should_check_buffers (pad_monitor, FALSE) == FALSE)
1998     return FALSE;
1999
2000   if (pad_monitor->current_buf == NULL) {
2001     GST_INFO_OBJECT (pad, "No current buffer one pad, Why?");
2002     return FALSE;
2003   }
2004
2005   wanted_buf = pad_monitor->current_buf->data;
2006
2007   if (GST_CLOCK_TIME_IS_VALID (GST_BUFFER_PTS (wanted_buf)) &&
2008       GST_CLOCK_TIME_IS_VALID (GST_BUFFER_PTS (buffer)) &&
2009       GST_BUFFER_PTS (wanted_buf) != GST_BUFFER_PTS (buffer)) {
2010
2011     GST_VALIDATE_REPORT (pad_monitor, WRONG_BUFFER,
2012         "buffer %" GST_PTR_FORMAT " PTS %" GST_TIME_FORMAT
2013         " different than expected: %" GST_TIME_FORMAT, buffer,
2014         GST_TIME_ARGS (GST_BUFFER_PTS (buffer)),
2015         GST_TIME_ARGS (GST_BUFFER_PTS (wanted_buf)));
2016
2017     ret = FALSE;
2018   }
2019
2020   if (GST_BUFFER_DTS (wanted_buf) != GST_BUFFER_DTS (buffer)) {
2021     GST_VALIDATE_REPORT (pad_monitor, WRONG_BUFFER,
2022         "buffer %" GST_PTR_FORMAT " DTS %" GST_TIME_FORMAT
2023         " different than expected: %" GST_TIME_FORMAT, buffer,
2024         GST_TIME_ARGS (GST_BUFFER_DTS (buffer)),
2025         GST_TIME_ARGS (GST_BUFFER_DTS (wanted_buf)));
2026     ret = FALSE;
2027   }
2028
2029   if (GST_BUFFER_DURATION (wanted_buf) != GST_BUFFER_DURATION (buffer)) {
2030     GST_VALIDATE_REPORT (pad_monitor, WRONG_BUFFER,
2031         "buffer %" GST_PTR_FORMAT " DURATION %" GST_TIME_FORMAT
2032         " different than expected: %" GST_TIME_FORMAT, buffer,
2033         GST_TIME_ARGS (GST_BUFFER_DURATION (buffer)),
2034         GST_TIME_ARGS (GST_BUFFER_DURATION (wanted_buf)));
2035     ret = FALSE;
2036   }
2037
2038   if (GST_BUFFER_FLAG_IS_SET (wanted_buf, GST_BUFFER_FLAG_DELTA_UNIT) !=
2039       GST_BUFFER_FLAG_IS_SET (buffer, GST_BUFFER_FLAG_DELTA_UNIT)) {
2040     GST_VALIDATE_REPORT (pad_monitor, WRONG_BUFFER,
2041         "buffer %" GST_PTR_FORMAT "  Delta unit is set to %s but expected %s",
2042         buffer, GST_BUFFER_FLAG_IS_SET (buffer,
2043             GST_BUFFER_FLAG_DELTA_UNIT) ? "True" : "False",
2044         GST_BUFFER_FLAG_IS_SET (wanted_buf,
2045             GST_BUFFER_FLAG_DELTA_UNIT) ? "True" : "False");
2046     ret = FALSE;
2047   }
2048
2049   g_assert (gst_buffer_map (wanted_buf, &wanted_map, GST_MAP_READ));
2050   g_assert (gst_buffer_map (buffer, &map, GST_MAP_READ));
2051
2052   checksum = g_compute_checksum_for_data (G_CHECKSUM_MD5,
2053       (const guchar *) map.data, map.size);
2054
2055   if (g_strcmp0 ((gchar *) wanted_map.data, checksum)) {
2056     GST_VALIDATE_REPORT (pad_monitor, WRONG_BUFFER,
2057         "buffer %" GST_PTR_FORMAT " checksum %s different from expected: %s",
2058         buffer, checksum, wanted_map.data);
2059     ret = FALSE;
2060   }
2061
2062   gst_buffer_unmap (wanted_buf, &wanted_map);
2063   gst_buffer_unmap (buffer, &map);
2064   g_free (checksum);
2065
2066   pad_monitor->current_buf = pad_monitor->current_buf->next;
2067
2068   return ret;
2069 }
2070
2071 static void
2072 gst_validate_pad_monitor_check_return (GstValidatePadMonitor * pad_monitor,
2073     GstFlowReturn ret)
2074 {
2075   GstValidateMonitor *parent = GST_VALIDATE_MONITOR (pad_monitor);
2076
2077   if (ret != GST_FLOW_ERROR)
2078     return;
2079
2080   while (GST_VALIDATE_MONITOR_GET_PARENT (parent))
2081     parent = GST_VALIDATE_MONITOR_GET_PARENT (parent);
2082
2083   if (GST_IS_VALIDATE_PIPELINE_MONITOR (parent)) {
2084     GstValidatePipelineMonitor *m = GST_VALIDATE_PIPELINE_MONITOR (parent);
2085
2086     GST_VALIDATE_MONITOR_LOCK (m);
2087     if (m->got_error == FALSE) {
2088       GST_VALIDATE_REPORT (pad_monitor, FLOW_ERROR_WITHOUT_ERROR_MESSAGE,
2089           "Pad return GST_FLOW_ERROR but no GST_MESSAGE_ERROR was received on"
2090           " the bus");
2091
2092       /* Only report it the first time */
2093       m->got_error = TRUE;
2094     }
2095     GST_VALIDATE_MONITOR_UNLOCK (m);
2096   }
2097 }
2098
2099 static GstFlowReturn
2100 gst_validate_pad_monitor_chain_func (GstPad * pad, GstObject * parent,
2101     GstBuffer * buffer)
2102 {
2103   GstValidatePadMonitor *pad_monitor =
2104       g_object_get_data ((GObject *) pad, "validate-monitor");
2105   GstFlowReturn ret;
2106
2107   GST_VALIDATE_PAD_MONITOR_PARENT_LOCK (pad_monitor);
2108   GST_VALIDATE_MONITOR_LOCK (pad_monitor);
2109
2110   gst_validate_pad_monitor_check_discont (pad_monitor, buffer);
2111   gst_validate_pad_monitor_check_right_buffer (pad_monitor, buffer);
2112   gst_validate_pad_monitor_check_first_buffer (pad_monitor, buffer);
2113   gst_validate_pad_monitor_update_buffer_data (pad_monitor, buffer);
2114   gst_validate_pad_monitor_check_eos (pad_monitor, buffer);
2115
2116   GST_VALIDATE_MONITOR_UNLOCK (pad_monitor);
2117   GST_VALIDATE_PAD_MONITOR_PARENT_UNLOCK (pad_monitor);
2118
2119   gst_validate_pad_monitor_buffer_overrides (pad_monitor, buffer);
2120
2121   ret = pad_monitor->chain_func (pad, parent, buffer);
2122
2123   gst_validate_pad_monitor_check_return (pad_monitor, ret);
2124
2125   GST_VALIDATE_PAD_MONITOR_PARENT_LOCK (pad_monitor);
2126   GST_VALIDATE_MONITOR_LOCK (pad_monitor);
2127
2128   pad_monitor->last_flow_return = ret;
2129   if (ret == GST_FLOW_EOS) {
2130     mark_pads_eos (pad_monitor);
2131   }
2132   if (PAD_PARENT_IS_DEMUXER (pad_monitor))
2133     gst_validate_pad_monitor_check_aggregated_return (pad_monitor, parent, ret);
2134
2135   GST_VALIDATE_MONITOR_UNLOCK (pad_monitor);
2136   GST_VALIDATE_PAD_MONITOR_PARENT_UNLOCK (pad_monitor);
2137
2138   return ret;
2139 }
2140
2141 static gboolean
2142 gst_validate_pad_monitor_event_is_tracked (GstValidatePadMonitor * monitor,
2143     GstEvent * event)
2144 {
2145   if (!GST_EVENT_IS_SERIALIZED (event)) {
2146     return FALSE;
2147   }
2148
2149   /* we don't track Tag events because they mutate too much and it is hard
2150    * to match a tag event pushed on a source pad with the one that was received
2151    * on a sink pad.
2152    * One idea would be to use seqnum, but it seems that it is undefined whether
2153    * seqnums should be maintained in tag events that are created from others
2154    * up to today. (2013-08-29)
2155    */
2156   if (GST_EVENT_TYPE (event) == GST_EVENT_TAG)
2157     return FALSE;
2158
2159   return TRUE;
2160 }
2161
2162 static GstFlowReturn
2163 gst_validate_pad_monitor_sink_event_full_func (GstPad * pad, GstObject * parent,
2164     GstEvent * event)
2165 {
2166   GstValidatePadMonitor *pad_monitor =
2167       g_object_get_data ((GObject *) pad, "validate-monitor");
2168   GstFlowReturn ret;
2169
2170   GST_VALIDATE_PAD_MONITOR_PARENT_LOCK (pad_monitor);
2171   GST_VALIDATE_MONITOR_LOCK (pad_monitor);
2172
2173   if (gst_validate_pad_monitor_event_is_tracked (pad_monitor, event)) {
2174     GstClockTime last_ts = GST_CLOCK_TIME_NONE;
2175     if (GST_CLOCK_TIME_IS_VALID (pad_monitor->current_timestamp)) {
2176       last_ts = pad_monitor->current_timestamp;
2177       if (GST_CLOCK_TIME_IS_VALID (pad_monitor->current_duration)) {
2178         last_ts += pad_monitor->current_duration;
2179       }
2180     }
2181     gst_validate_pad_monitor_otherpad_add_pending_serialized_event (pad_monitor,
2182         event, last_ts);
2183   }
2184
2185   ret =
2186       gst_validate_pad_monitor_downstream_event_check (pad_monitor, parent,
2187       event, pad_monitor->event_func);
2188
2189   GST_VALIDATE_MONITOR_UNLOCK (pad_monitor);
2190   GST_VALIDATE_PAD_MONITOR_PARENT_UNLOCK (pad_monitor);
2191   return ret;
2192 }
2193
2194 static gboolean
2195 gst_validate_pad_monitor_sink_event_func (GstPad * pad, GstObject * parent,
2196     GstEvent * event)
2197 {
2198   if (gst_validate_pad_monitor_sink_event_full_func (pad, parent,
2199           event) == GST_FLOW_OK)
2200     return TRUE;
2201   return FALSE;
2202 }
2203
2204 static gboolean
2205 gst_validate_pad_monitor_src_event_func (GstPad * pad, GstObject * parent,
2206     GstEvent * event)
2207 {
2208   GstValidatePadMonitor *pad_monitor =
2209       g_object_get_data ((GObject *) pad, "validate-monitor");
2210   gboolean ret;
2211
2212   GST_VALIDATE_MONITOR_LOCK (pad_monitor);
2213   ret = gst_validate_pad_monitor_src_event_check (pad_monitor, parent, event,
2214       pad_monitor->event_func);
2215   GST_VALIDATE_MONITOR_UNLOCK (pad_monitor);
2216   return ret;
2217 }
2218
2219 static gboolean
2220 gst_validate_pad_monitor_query_func (GstPad * pad, GstObject * parent,
2221     GstQuery * query)
2222 {
2223   GstValidatePadMonitor *pad_monitor =
2224       g_object_get_data ((GObject *) pad, "validate-monitor");
2225   gboolean ret;
2226
2227   gst_validate_pad_monitor_query_overrides (pad_monitor, query);
2228
2229   ret = pad_monitor->query_func (pad, parent, query);
2230
2231   if (ret) {
2232     switch (GST_QUERY_TYPE (query)) {
2233       case GST_QUERY_CAPS:{
2234         GstCaps *res;
2235         GstCaps *filter;
2236
2237         /* We shouldn't need to lock the parent as this doesn't modify
2238          * other monitors, just does some peer_pad_caps */
2239         GST_VALIDATE_MONITOR_LOCK (pad_monitor);
2240
2241         gst_query_parse_caps (query, &filter);
2242         gst_query_parse_caps_result (query, &res);
2243         if (GST_PAD_DIRECTION (pad) == GST_PAD_SINK) {
2244           gst_validate_pad_monitor_check_caps_fields_proxied (pad_monitor, res,
2245               filter);
2246         }
2247         GST_VALIDATE_MONITOR_UNLOCK (pad_monitor);
2248         break;
2249       }
2250       default:
2251         break;
2252     }
2253   }
2254
2255   return ret;
2256 }
2257
2258 static gboolean
2259 gst_validate_pad_monitor_activatemode_func (GstPad * pad, GstObject * parent,
2260     GstPadMode mode, gboolean active)
2261 {
2262   GstValidatePadMonitor *pad_monitor =
2263       g_object_get_data ((GObject *) pad, "validate-monitor");
2264   gboolean ret = TRUE;
2265
2266   /* TODO add overrides for activate func */
2267
2268   if (pad_monitor->activatemode_func)
2269     ret = pad_monitor->activatemode_func (pad, parent, mode, active);
2270   if (ret && active == FALSE) {
2271     GST_VALIDATE_MONITOR_LOCK (pad_monitor);
2272     gst_validate_pad_monitor_flush (pad_monitor);
2273     GST_VALIDATE_MONITOR_UNLOCK (pad_monitor);
2274   }
2275
2276   return ret;
2277 }
2278
2279 static gboolean
2280 gst_validate_pad_get_range_func (GstPad * pad, GstObject * parent,
2281     guint64 offset, guint size, GstBuffer ** buffer)
2282 {
2283   GstValidatePadMonitor *pad_monitor =
2284       g_object_get_data ((GObject *) pad, "validate-monitor");
2285   gboolean ret;
2286   ret = pad_monitor->getrange_func (pad, parent, offset, size, buffer);
2287   return ret;
2288 }
2289
2290 static gboolean
2291 gst_validate_pad_monitor_buffer_probe (GstPad * pad, GstBuffer * buffer,
2292     gpointer udata, gboolean pull_mode)
2293 {
2294   GstValidatePadMonitor *monitor = udata;
2295
2296   GST_VALIDATE_PAD_MONITOR_PARENT_LOCK (monitor);
2297   GST_VALIDATE_MONITOR_LOCK (monitor);
2298
2299   if (!pull_mode)
2300     gst_validate_pad_monitor_check_discont (monitor, buffer);
2301   gst_validate_pad_monitor_check_first_buffer (monitor, buffer);
2302   gst_validate_pad_monitor_update_buffer_data (monitor, buffer);
2303   gst_validate_pad_monitor_check_eos (monitor, buffer);
2304
2305   if (PAD_PARENT_IS_DECODER (monitor) || PAD_PARENT_IS_ENCODER (monitor)) {
2306     GstClockTime tolerance = 0;
2307
2308     if (monitor->caps_is_audio)
2309       tolerance = AUDIO_TIMESTAMP_TOLERANCE;
2310
2311     gst_validate_pad_monitor_check_buffer_timestamp_in_received_range (monitor,
2312         buffer, tolerance);
2313   }
2314
2315   gst_validate_pad_monitor_check_late_serialized_events (monitor,
2316       GST_BUFFER_TIMESTAMP (buffer));
2317
2318   /* a GstValidatePadMonitor parent must be a GstValidateElementMonitor */
2319   if (PAD_PARENT_IS_DECODER (monitor)) {
2320
2321     /* should not push out of segment data */
2322     if (GST_CLOCK_TIME_IS_VALID (GST_BUFFER_TIMESTAMP (buffer)) &&
2323         GST_CLOCK_TIME_IS_VALID (GST_BUFFER_DURATION (buffer)) &&
2324         ((!gst_segment_clip (&monitor->segment, monitor->segment.format,
2325                     GST_BUFFER_TIMESTAMP (buffer),
2326                     GST_BUFFER_TIMESTAMP (buffer) +
2327                     GST_BUFFER_DURATION (buffer), NULL, NULL)) ||
2328             /* In the case of raw data, buffers should be strictly contained inside the
2329              * segment */
2330             (monitor->caps_is_raw &&
2331                 GST_BUFFER_PTS (buffer) + GST_BUFFER_DURATION (buffer) <
2332                 monitor->segment.start))
2333         ) {
2334       /* TODO is this a timestamp issue? */
2335       GST_VALIDATE_REPORT (monitor, BUFFER_IS_OUT_OF_SEGMENT,
2336           "buffer is out of segment and shouldn't be pushed. Timestamp: %"
2337           GST_TIME_FORMAT " - duration: %" GST_TIME_FORMAT ". Range: %"
2338           GST_TIME_FORMAT " - %" GST_TIME_FORMAT,
2339           GST_TIME_ARGS (GST_BUFFER_TIMESTAMP (buffer)),
2340           GST_TIME_ARGS (GST_BUFFER_DURATION (buffer)),
2341           GST_TIME_ARGS (monitor->segment.start),
2342           GST_TIME_ARGS (monitor->segment.stop));
2343     }
2344   }
2345
2346   GST_VALIDATE_MONITOR_UNLOCK (monitor);
2347   GST_VALIDATE_PAD_MONITOR_PARENT_UNLOCK (monitor);
2348   gst_validate_pad_monitor_buffer_probe_overrides (monitor, buffer);
2349   return TRUE;
2350 }
2351
2352 static void
2353 gst_validate_pad_monitor_event_probe (GstPad * pad, GstEvent * event,
2354     gpointer udata)
2355 {
2356   GstValidatePadMonitor *monitor = GST_VALIDATE_PAD_MONITOR_CAST (udata);
2357
2358   GST_VALIDATE_PAD_MONITOR_PARENT_LOCK (monitor);
2359   GST_VALIDATE_MONITOR_LOCK (monitor);
2360
2361   GST_DEBUG_OBJECT (pad, "event %p %s", event, GST_EVENT_TYPE_NAME (event));
2362
2363   if (GST_EVENT_IS_SERIALIZED (event)) {
2364     gint i;
2365
2366     /* Detect if events the element received are being forwarded in the same order
2367      *
2368      * Several scenarios:
2369      * 1) The element pushes the event as-is
2370      * 2) The element consumes the event and does not forward it
2371      * 3) The element consumes the event and creates another one instead
2372      * 4) The element pushes other serialized event before pushing out the
2373      *    one it received
2374      *
2375      * For each pad we have two lists to track serialized events:
2376      *  1) We received on input and expect to see (serialized_events)
2377      *  2) We received on input but don't expect to see (expired_events)
2378      *
2379      * To detect events that are pushed in a different order from the one they were
2380      * received in we check that:
2381      *
2382      * For each event being outputted:
2383      *   If it is in the expired_events list:
2384      *     RAISE WARNING
2385      *   If it is in the serialized_events list:
2386      *     If there are other events that were received before:
2387      *        Put those events on the expired_events list
2388      *     Remove that event and any previous ones from the serialized_events list
2389      *
2390      * Clear expired events list when flushing or on pad deactivation
2391      *
2392      */
2393
2394     if (g_list_find (monitor->expired_events, event)) {
2395       gchar *event_str = _get_event_string (event);
2396       /* If it's the expired events, we've failed */
2397       GST_WARNING_OBJECT (pad, "Did not expect event %p %s", event,
2398           GST_EVENT_TYPE_NAME (event));
2399       GST_VALIDATE_REPORT (monitor, EVENT_SERIALIZED_OUT_OF_ORDER,
2400           "Serialized event was pushed out of order: %s", event_str);
2401
2402       g_free (event_str);
2403       monitor->expired_events = g_list_remove (monitor->expired_events, event);
2404       gst_event_unref (event);  /* remove the ref that was on the list */
2405     } else if (monitor->serialized_events->len) {
2406       for (i = 0; i < monitor->serialized_events->len; i++) {
2407         SerializedEventData *next_event =
2408             g_ptr_array_index (monitor->serialized_events, i);
2409         GST_DEBUG_OBJECT (pad, "Checking against stored event #%d: %p %s", i,
2410             next_event->event, GST_EVENT_TYPE_NAME (next_event->event));
2411
2412         if (event == next_event->event
2413             || GST_EVENT_TYPE (event) == GST_EVENT_TYPE (next_event->event)) {
2414           /* We have found our event */
2415           GST_DEBUG_OBJECT (pad, "Found matching event");
2416
2417           while (monitor->serialized_events->len > i
2418               && GST_EVENT_TYPE (event) == GST_EVENT_TYPE (next_event->event)) {
2419             /* Swallow all expected events of the same type */
2420             g_ptr_array_remove_index (monitor->serialized_events, i);
2421             next_event = g_ptr_array_index (monitor->serialized_events, i);
2422           }
2423
2424           /* Move all previous events to expired events */
2425           if (G_UNLIKELY (i > 0)) {
2426             GST_DEBUG_OBJECT (pad,
2427                 "Moving previous expected events to expired list");
2428             while (i--) {
2429               next_event = g_ptr_array_index (monitor->serialized_events, 0);
2430               monitor->expired_events =
2431                   g_list_append (monitor->expired_events,
2432                   gst_event_ref (next_event->event));
2433               g_ptr_array_remove_index (monitor->serialized_events, 0);
2434             }
2435           }
2436           debug_pending_event (pad, monitor->serialized_events);
2437           break;
2438         }
2439       }
2440     }
2441   }
2442
2443   /* This so far is just like an event that is flowing downstream,
2444    * so we do the same checks as a sinkpad event handler */
2445   gst_validate_pad_monitor_downstream_event_check (monitor, NULL, event, NULL);
2446   GST_VALIDATE_MONITOR_UNLOCK (monitor);
2447   GST_VALIDATE_PAD_MONITOR_PARENT_UNLOCK (monitor);
2448 }
2449
2450 static GstPadProbeReturn
2451 gst_validate_pad_monitor_pad_probe (GstPad * pad, GstPadProbeInfo * info,
2452     gpointer udata)
2453 {
2454   if (info->type & GST_PAD_PROBE_TYPE_BUFFER)
2455     gst_validate_pad_monitor_buffer_probe (pad, info->data, udata,
2456         GST_PAD_PROBE_INFO_TYPE (info) & GST_PAD_PROBE_TYPE_PULL);
2457   else if (info->type & GST_PAD_PROBE_TYPE_EVENT_DOWNSTREAM)
2458     gst_validate_pad_monitor_event_probe (pad, info->data, udata);
2459
2460   return GST_PAD_PROBE_OK;
2461 }
2462
2463 static void
2464 gst_validate_pad_monitor_update_caps_info (GstValidatePadMonitor * pad_monitor,
2465     GstCaps * caps)
2466 {
2467   GstStructure *structure;
2468
2469   g_return_if_fail (gst_caps_is_fixed (caps));
2470
2471   pad_monitor->caps_is_audio = FALSE;
2472   pad_monitor->caps_is_video = FALSE;
2473
2474   structure = gst_caps_get_structure (caps, 0);
2475   if (g_str_has_prefix (gst_structure_get_name (structure), "audio/")) {
2476     pad_monitor->caps_is_audio = TRUE;
2477   } else if (g_str_has_prefix (gst_structure_get_name (structure), "video/")) {
2478     pad_monitor->caps_is_video = TRUE;
2479   }
2480
2481   if (g_str_has_prefix (gst_structure_get_name (structure), "audio/x-raw") ||
2482       g_str_has_prefix (gst_structure_get_name (structure), "video/x-raw")) {
2483     pad_monitor->caps_is_raw = TRUE;
2484   } else {
2485     pad_monitor->caps_is_raw = FALSE;
2486   }
2487 }
2488
2489 static void
2490 gst_validate_pad_monitor_setcaps_pre (GstValidatePadMonitor * pad_monitor,
2491     GstCaps * caps)
2492 {
2493   GstStructure *structure;
2494
2495   /* Check if caps are identical to last caps and complain if so
2496    * Only checked for sink pads as src pads might push the same caps
2497    * multiple times during unlinked/autoplugging scenarios */
2498   if (GST_PAD_IS_SINK (GST_VALIDATE_PAD_MONITOR_GET_PAD (pad_monitor)) &&
2499       pad_monitor->last_caps
2500       && gst_caps_is_equal (caps, pad_monitor->last_caps)) {
2501     gchar *caps_str = gst_caps_to_string (caps);
2502
2503     GST_VALIDATE_REPORT (pad_monitor, EVENT_CAPS_DUPLICATE, "%s", caps_str);
2504     g_free (caps_str);
2505
2506   }
2507
2508   gst_validate_pad_monitor_check_caps_complete (pad_monitor, caps);
2509
2510   if (caps) {
2511     structure = gst_caps_get_structure (caps, 0);
2512     if (gst_structure_n_fields (pad_monitor->pending_setcaps_fields)) {
2513       gint i;
2514       for (i = 0;
2515           i < gst_structure_n_fields (pad_monitor->pending_setcaps_fields);
2516           i++) {
2517         const gchar *name =
2518             gst_structure_nth_field_name (pad_monitor->pending_setcaps_fields,
2519             i);
2520         const GValue *v = gst_structure_get_value (structure, name);
2521         const GValue *otherv =
2522             gst_structure_get_value (pad_monitor->pending_setcaps_fields, name);
2523
2524         if (v == NULL) {
2525           gchar *caps_str = gst_caps_to_string (caps);
2526
2527           GST_VALIDATE_REPORT (pad_monitor, CAPS_EXPECTED_FIELD_NOT_FOUND,
2528               "Field %s is missing from setcaps caps '%s'", name, caps_str);
2529           g_free (caps_str);
2530         } else if (gst_value_compare (v, otherv) != GST_VALUE_EQUAL) {
2531           gchar *caps_str = gst_caps_to_string (caps),
2532               *pending_setcaps_fields_str =
2533               gst_structure_to_string (pad_monitor->pending_setcaps_fields);
2534
2535
2536           GST_VALIDATE_REPORT (pad_monitor, CAPS_FIELD_UNEXPECTED_VALUE,
2537               "Field %s from setcaps caps '%s' is different "
2538               "from expected value in caps '%s'", name, caps_str,
2539               pending_setcaps_fields_str);
2540
2541           g_free (pending_setcaps_fields_str);
2542           g_free (caps_str);
2543         }
2544       }
2545     }
2546
2547     if (GST_PAD_IS_SINK (GST_VALIDATE_PAD_MONITOR_GET_PAD (pad_monitor)) &&
2548         gst_validate_pad_monitor_pad_should_proxy_othercaps (pad_monitor)) {
2549       if (_structure_is_video (structure)) {
2550         GST_DEBUG_OBJECT (GST_VALIDATE_PAD_MONITOR_GET_PAD (pad_monitor),
2551             "Adding video common pending fields to other pad: %" GST_PTR_FORMAT,
2552             structure);
2553         gst_validate_pad_monitor_otherpad_add_pending_field (pad_monitor,
2554             structure, "width");
2555         gst_validate_pad_monitor_otherpad_add_pending_field (pad_monitor,
2556             structure, "height");
2557         gst_validate_pad_monitor_otherpad_add_pending_field (pad_monitor,
2558             structure, "framerate");
2559         gst_validate_pad_monitor_otherpad_add_pending_field (pad_monitor,
2560             structure, "pixel-aspect-ratio");
2561       } else if (_structure_is_audio (structure)) {
2562         GST_DEBUG_OBJECT (GST_VALIDATE_PAD_MONITOR_GET_PAD (pad_monitor),
2563             "Adding audio common pending fields to other pad: %" GST_PTR_FORMAT,
2564             structure);
2565         gst_validate_pad_monitor_otherpad_add_pending_field (pad_monitor,
2566             structure, "rate");
2567         gst_validate_pad_monitor_otherpad_add_pending_field (pad_monitor,
2568             structure, "channels");
2569       }
2570     }
2571   }
2572
2573   gst_structure_free (pad_monitor->pending_setcaps_fields);
2574   pad_monitor->pending_setcaps_fields =
2575       gst_structure_new_empty (PENDING_FIELDS);
2576
2577   gst_validate_pad_monitor_setcaps_overrides (pad_monitor, caps);
2578 }
2579
2580 static void
2581 gst_validate_pad_monitor_setcaps_post (GstValidatePadMonitor * pad_monitor,
2582     GstCaps * caps, gboolean ret)
2583 {
2584   if (!ret)
2585     gst_validate_pad_monitor_otherpad_clear_pending_fields (pad_monitor);
2586   else {
2587     if (pad_monitor->last_caps) {
2588       gst_caps_unref (pad_monitor->last_caps);
2589     }
2590     pad_monitor->last_caps = gst_caps_ref (caps);
2591     gst_validate_pad_monitor_update_caps_info (pad_monitor, caps);
2592   }
2593 }
2594
2595 static gboolean
2596 gst_validate_pad_monitor_do_setup (GstValidateMonitor * monitor)
2597 {
2598   GstValidatePadMonitor *pad_monitor = GST_VALIDATE_PAD_MONITOR_CAST (monitor);
2599   GstPad *pad;
2600   if (!GST_IS_PAD (GST_VALIDATE_MONITOR_GET_OBJECT (monitor))) {
2601     GST_WARNING_OBJECT (monitor, "Trying to create pad monitor with other "
2602         "type of object");
2603     return FALSE;
2604   }
2605
2606   pad = GST_VALIDATE_PAD_MONITOR_GET_PAD (pad_monitor);
2607
2608   if (g_object_get_data ((GObject *) pad, "validate-monitor")) {
2609     GST_WARNING_OBJECT (pad_monitor,
2610         "Pad already has a validate-monitor associated");
2611     return FALSE;
2612   }
2613
2614   g_object_set_data ((GObject *) pad, "validate-monitor", pad_monitor);
2615
2616   pad_monitor->pad = pad;
2617
2618   pad_monitor->event_func = GST_PAD_EVENTFUNC (pad);
2619   pad_monitor->event_full_func = GST_PAD_EVENTFULLFUNC (pad);
2620   pad_monitor->query_func = GST_PAD_QUERYFUNC (pad);
2621   pad_monitor->activatemode_func = GST_PAD_ACTIVATEMODEFUNC (pad);
2622   if (GST_PAD_DIRECTION (pad) == GST_PAD_SINK) {
2623
2624     pad_monitor->chain_func = GST_PAD_CHAINFUNC (pad);
2625     if (pad_monitor->chain_func)
2626       gst_pad_set_chain_function (pad, gst_validate_pad_monitor_chain_func);
2627
2628     if (pad_monitor->event_full_func)
2629       gst_pad_set_event_full_function (pad,
2630           gst_validate_pad_monitor_sink_event_full_func);
2631     else
2632       gst_pad_set_event_function (pad,
2633           gst_validate_pad_monitor_sink_event_func);
2634   } else {
2635     pad_monitor->getrange_func = GST_PAD_GETRANGEFUNC (pad);
2636     if (pad_monitor->getrange_func)
2637       gst_pad_set_getrange_function (pad, gst_validate_pad_get_range_func);
2638
2639     gst_pad_set_event_function (pad, gst_validate_pad_monitor_src_event_func);
2640
2641     /* add buffer/event probes */
2642     pad_monitor->pad_probe_id =
2643         gst_pad_add_probe (pad,
2644         GST_PAD_PROBE_TYPE_BUFFER | GST_PAD_PROBE_TYPE_EVENT_DOWNSTREAM |
2645         GST_PAD_PROBE_TYPE_EVENT_FLUSH,
2646         (GstPadProbeCallback) gst_validate_pad_monitor_pad_probe, pad_monitor,
2647         NULL);
2648   }
2649   gst_pad_set_query_function (pad, gst_validate_pad_monitor_query_func);
2650   gst_pad_set_activatemode_function (pad,
2651       gst_validate_pad_monitor_activatemode_func);
2652
2653   gst_validate_reporter_set_name (GST_VALIDATE_REPORTER (monitor),
2654       g_strdup_printf ("%s:%s", GST_DEBUG_PAD_NAME (pad)));
2655
2656   if (G_UNLIKELY (GST_PAD_PARENT (pad) == NULL))
2657     GST_FIXME ("Saw a pad not belonging to any object");
2658
2659   return TRUE;
2660 }