Merge branch 'master' into 0.11
[platform/upstream/gstreamer.git] / gst / gstcaps.c
1 /* GStreamer
2  * Copyright (C) <2003> David A. Schleef <ds@schleef.org>
3  *
4  * This library is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Library General Public
6  * License as published by the Free Software Foundation; either
7  * version 2 of the License, or (at your option) any later version.
8  *
9  * This library is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Library General Public License for more details.
13  *
14  * You should have received a copy of the GNU Library General Public
15  * License along with this library; if not, write to the
16  * Free Software Foundation, Inc., 59 Temple Place - Suite 330,
17  * Boston, MA 02111-1307, USA.
18  */
19
20 /**
21  * SECTION:gstcaps
22  * @short_description: Structure describing sets of media formats
23  * @see_also: #GstStructure
24  *
25  * Caps (capabilities) are lighweight refcounted objects describing media types.
26  * They are composed of an array of #GstStructure.
27  *
28  * Caps are exposed on #GstPadTemplate to describe all possible types a
29  * given pad can handle. They are also stored in the #GstRegistry along with
30  * a description of the #GstElement.
31  *
32  * Caps are exposed on the element pads using the gst_pad_get_caps() pad
33  * function. This function describes the possible types that the pad can
34  * handle or produce at runtime.
35  *
36  * Caps are also attached to buffers to describe to content of the data
37  * pointed to by the buffer with gst_buffer_set_caps(). Caps attached to
38  * a #GstBuffer allow for format negotiation upstream and downstream.
39  *
40  * A #GstCaps can be constructed with the following code fragment:
41  *
42  * <example>
43  *  <title>Creating caps</title>
44  *  <programlisting>
45  *  GstCaps *caps;
46  *  caps = gst_caps_new_simple ("video/x-raw",
47  *       "format", G_TYPE_STRING, "I420",
48  *       "framerate", GST_TYPE_FRACTION, 25, 1,
49  *       "pixel-aspect-ratio", GST_TYPE_FRACTION, 1, 1,
50  *       "width", G_TYPE_INT, 320,
51  *       "height", G_TYPE_INT, 240,
52  *       NULL);
53  *  </programlisting>
54  * </example>
55  *
56  * A #GstCaps is fixed when it has no properties with ranges or lists. Use
57  * gst_caps_is_fixed() to test for fixed caps. Only fixed caps can be
58  * set on a #GstPad or #GstBuffer.
59  *
60  * Various methods exist to work with the media types such as subtracting
61  * or intersecting.
62  *
63  * Last reviewed on 2007-02-13 (0.10.10)
64  */
65
66 #ifdef HAVE_CONFIG_H
67 #include "config.h"
68 #endif
69 #include <string.h>
70 #include <signal.h>
71
72 #include "gst_private.h"
73 #include <gst/gst.h>
74 #include <gobject/gvaluecollector.h>
75
76 #define DEBUG_REFCOUNT
77
78 typedef struct _GstCapsImpl
79 {
80   GstCaps caps;
81
82   GPtrArray *array;
83 } GstCapsImpl;
84
85 #define GST_CAPS_ARRAY(c) (((GstCapsImpl *)(c))->array)
86
87 #define GST_CAPS_LEN(c)   (GST_CAPS_ARRAY(c)->len)
88
89 #define IS_WRITABLE(caps) \
90   (GST_CAPS_REFCOUNT_VALUE (caps) == 1)
91
92 /* same as gst_caps_is_any () */
93 #define CAPS_IS_ANY(caps)                               \
94   (GST_CAPS_FLAGS(caps) & GST_CAPS_FLAG_ANY)
95
96 /* same as gst_caps_is_empty () */
97 #define CAPS_IS_EMPTY(caps)                             \
98   (!CAPS_IS_ANY(caps) && CAPS_IS_EMPTY_SIMPLE(caps))
99
100 #define CAPS_IS_EMPTY_SIMPLE(caps)                                      \
101   ((GST_CAPS_ARRAY (caps) == NULL) || (GST_CAPS_LEN (caps) == 0))
102
103 /* quick way to get a caps structure at an index without doing a type or array
104  * length check */
105 #define gst_caps_get_structure_unchecked(caps, index) \
106      ((GstStructure *)g_ptr_array_index (GST_CAPS_ARRAY (caps), (index)))
107 /* quick way to append a structure without checking the args */
108 #define gst_caps_append_structure_unchecked(caps, structure) G_STMT_START{\
109   GstStructure *__s=structure;                                      \
110   if (gst_structure_set_parent_refcount (__s, &GST_MINI_OBJECT_REFCOUNT(caps)))         \
111     g_ptr_array_add (GST_CAPS_ARRAY (caps), __s);                             \
112 }G_STMT_END
113
114 /* lock to protect multiple invocations of static caps to caps conversion */
115 G_LOCK_DEFINE_STATIC (static_caps_lock);
116
117 static void gst_caps_transform_to_string (const GValue * src_value,
118     GValue * dest_value);
119 static gboolean gst_caps_from_string_inplace (GstCaps * caps,
120     const gchar * string);
121
122 GType _gst_caps_type = 0;
123 GstCaps *_gst_caps_any;
124 GstCaps *_gst_caps_none;
125
126 GST_DEFINE_MINI_OBJECT_TYPE (GstCaps, gst_caps);
127
128 void
129 _priv_gst_caps_initialize (void)
130 {
131   _gst_caps_type = gst_caps_get_type ();
132
133   _gst_caps_any = gst_caps_new_any ();
134   _gst_caps_none = gst_caps_new_empty ();
135
136   g_value_register_transform_func (_gst_caps_type,
137       G_TYPE_STRING, gst_caps_transform_to_string);
138 }
139
140 static GstCaps *
141 _gst_caps_copy (const GstCaps * caps)
142 {
143   GstCaps *newcaps;
144   GstStructure *structure;
145   guint i, n;
146
147   g_return_val_if_fail (GST_IS_CAPS (caps), NULL);
148
149   newcaps = gst_caps_new_empty ();
150   GST_CAPS_FLAGS (newcaps) = GST_CAPS_FLAGS (caps);
151   n = GST_CAPS_LEN (caps);
152
153   for (i = 0; i < n; i++) {
154     structure = gst_caps_get_structure_unchecked (caps, i);
155     gst_caps_append_structure (newcaps, gst_structure_copy (structure));
156   }
157
158   return newcaps;
159 }
160
161 /* creation/deletion */
162 static void
163 _gst_caps_free (GstCaps * caps)
164 {
165   GstStructure *structure;
166   guint i, len;
167
168   /* The refcount must be 0, but since we're only called by gst_caps_unref,
169    * don't bother testing. */
170   len = GST_CAPS_LEN (caps);
171   /* This can be used to get statistics about caps sizes */
172   /*GST_CAT_INFO (GST_CAT_CAPS, "caps size: %d", len); */
173   for (i = 0; i < len; i++) {
174     structure = (GstStructure *) gst_caps_get_structure_unchecked (caps, i);
175     gst_structure_set_parent_refcount (structure, NULL);
176     gst_structure_free (structure);
177   }
178   g_ptr_array_free (GST_CAPS_ARRAY (caps), TRUE);
179
180 #ifdef DEBUG_REFCOUNT
181   GST_CAT_LOG (GST_CAT_CAPS, "freeing caps %p", caps);
182 #endif
183   g_slice_free1 (GST_MINI_OBJECT_SIZE (caps), caps);
184 }
185
186 static void
187 gst_caps_init (GstCaps * caps, gsize size)
188 {
189   gst_mini_object_init (GST_MINI_OBJECT_CAST (caps), _gst_caps_type, size);
190
191   caps->mini_object.copy = (GstMiniObjectCopyFunction) _gst_caps_copy;
192   caps->mini_object.dispose = NULL;
193   caps->mini_object.free = (GstMiniObjectFreeFunction) _gst_caps_free;
194
195   /* the 32 has been determined by logging caps sizes in _gst_caps_free
196    * but g_ptr_array uses 16 anyway if it expands once, so this does not help
197    * in practise
198    * GST_CAPS_ARRAY (caps) = g_ptr_array_sized_new (32);
199    */
200   GST_CAPS_ARRAY (caps) = g_ptr_array_new ();
201 }
202
203 /**
204  * gst_caps_new_empty:
205  *
206  * Creates a new #GstCaps that is empty.  That is, the returned
207  * #GstCaps contains no media formats.
208  * Caller is responsible for unreffing the returned caps.
209  *
210  * Returns: (transfer full): the new #GstCaps
211  */
212 GstCaps *
213 gst_caps_new_empty (void)
214 {
215   GstCaps *caps;
216
217   caps = (GstCaps *) g_slice_new (GstCapsImpl);
218
219   gst_caps_init (caps, sizeof (GstCapsImpl));
220
221 #ifdef DEBUG_REFCOUNT
222   GST_CAT_TRACE (GST_CAT_CAPS, "created caps %p", caps);
223 #endif
224
225   return caps;
226 }
227
228 /**
229  * gst_caps_new_any:
230  *
231  * Creates a new #GstCaps that indicates that it is compatible with
232  * any media format.
233  *
234  * Returns: (transfer full): the new #GstCaps
235  */
236 GstCaps *
237 gst_caps_new_any (void)
238 {
239   GstCaps *caps = gst_caps_new_empty ();
240
241   GST_CAPS_FLAG_SET (caps, GST_CAPS_FLAG_ANY);
242
243   return caps;
244 }
245
246 /**
247  * gst_caps_new_empty_simple:
248  * @media_type: the media type of the structure
249  *
250  * Creates a new #GstCaps that contains one #GstStructure with name
251  * @media_type.
252  * Caller is responsible for unreffing the returned caps.
253  *
254  * Returns: (transfer full): the new #GstCaps
255  */
256 GstCaps *
257 gst_caps_new_empty_simple (const char *media_type)
258 {
259   GstCaps *caps;
260   GstStructure *structure;
261
262   caps = gst_caps_new_empty ();
263   structure = gst_structure_new_empty (media_type);
264   if (structure)
265     gst_caps_append_structure_unchecked (caps, structure);
266
267   return caps;
268 }
269
270 /**
271  * gst_caps_new_simple:
272  * @media_type: the media type of the structure
273  * @fieldname: first field to set
274  * @...: additional arguments
275  *
276  * Creates a new #GstCaps that contains one #GstStructure.  The
277  * structure is defined by the arguments, which have the same format
278  * as gst_structure_new().
279  * Caller is responsible for unreffing the returned caps.
280  *
281  * Returns: (transfer full): the new #GstCaps
282  */
283 GstCaps *
284 gst_caps_new_simple (const char *media_type, const char *fieldname, ...)
285 {
286   GstCaps *caps;
287   GstStructure *structure;
288   va_list var_args;
289
290   caps = gst_caps_new_empty ();
291
292   va_start (var_args, fieldname);
293   structure = gst_structure_new_valist (media_type, fieldname, var_args);
294   va_end (var_args);
295
296   if (structure)
297     gst_caps_append_structure_unchecked (caps, structure);
298   else
299     gst_caps_replace (&caps, NULL);
300
301   return caps;
302 }
303
304 /**
305  * gst_caps_new_full:
306  * @struct1: the first structure to add
307  * @...: additional structures to add
308  *
309  * Creates a new #GstCaps and adds all the structures listed as
310  * arguments.  The list must be NULL-terminated.  The structures
311  * are not copied; the returned #GstCaps owns the structures.
312  *
313  * Returns: (transfer full): the new #GstCaps
314  */
315 GstCaps *
316 gst_caps_new_full (GstStructure * struct1, ...)
317 {
318   GstCaps *caps;
319   va_list var_args;
320
321   va_start (var_args, struct1);
322   caps = gst_caps_new_full_valist (struct1, var_args);
323   va_end (var_args);
324
325   return caps;
326 }
327
328 /**
329  * gst_caps_new_full_valist:
330  * @structure: the first structure to add
331  * @var_args: additional structures to add
332  *
333  * Creates a new #GstCaps and adds all the structures listed as
334  * arguments.  The list must be NULL-terminated.  The structures
335  * are not copied; the returned #GstCaps owns the structures.
336  *
337  * Returns: (transfer full): the new #GstCaps
338  */
339 GstCaps *
340 gst_caps_new_full_valist (GstStructure * structure, va_list var_args)
341 {
342   GstCaps *caps;
343
344   caps = gst_caps_new_empty ();
345
346   while (structure) {
347     gst_caps_append_structure_unchecked (caps, structure);
348     structure = va_arg (var_args, GstStructure *);
349   }
350
351   return caps;
352 }
353
354 G_DEFINE_POINTER_TYPE (GstStaticCaps, gst_static_caps);
355
356 /**
357  * gst_static_caps_get:
358  * @static_caps: the #GstStaticCaps to convert
359  *
360  * Converts a #GstStaticCaps to a #GstCaps.
361  *
362  * Returns: (transfer full): a pointer to the #GstCaps. Unref after usage.
363  *     Since the core holds an additional ref to the returned caps,
364  *     use gst_caps_make_writable() on the returned caps to modify it.
365  */
366 GstCaps *
367 gst_static_caps_get (GstStaticCaps * static_caps)
368 {
369   GstCaps **caps;
370
371   g_return_val_if_fail (static_caps != NULL, NULL);
372
373   caps = &static_caps->caps;
374
375   /* refcount is 0 when we need to convert */
376   if (G_UNLIKELY (*caps == NULL)) {
377     const char *string;
378
379     G_LOCK (static_caps_lock);
380     /* check if other thread already updated */
381     if (G_UNLIKELY (*caps != NULL))
382       goto done;
383
384     string = static_caps->string;
385
386     if (G_UNLIKELY (string == NULL))
387       goto no_string;
388
389     *caps = gst_caps_from_string (string);
390
391     /* convert to string */
392     if (G_UNLIKELY (*caps == NULL))
393       g_critical ("Could not convert static caps \"%s\"", string);
394
395     GST_CAT_TRACE (GST_CAT_CAPS, "created %p from string %s", static_caps,
396         string);
397   done:
398     G_UNLOCK (static_caps_lock);
399   }
400   /* ref the caps, makes it not writable */
401   if (G_LIKELY (*caps != NULL))
402     gst_caps_ref (*caps);
403
404   return *caps;
405
406   /* ERRORS */
407 no_string:
408   {
409     G_UNLOCK (static_caps_lock);
410     g_warning ("static caps %p string is NULL", static_caps);
411     return NULL;
412   }
413 }
414
415 /**
416  * gst_static_caps_cleanup:
417  * @static_caps: the #GstStaticCaps to clean
418  *
419  * Clean up the cached caps contained in @static_caps.
420  */
421 void
422 gst_static_caps_cleanup (GstStaticCaps * static_caps)
423 {
424   G_LOCK (static_caps_lock);
425   gst_caps_replace (&static_caps->caps, NULL);
426   G_UNLOCK (static_caps_lock);
427 }
428
429 /* manipulation */
430
431 static GstStructure *
432 gst_caps_remove_and_get_structure (GstCaps * caps, guint idx)
433 {
434   /* don't use index_fast, gst_caps_do_simplify relies on the order */
435   GstStructure *s = g_ptr_array_remove_index (GST_CAPS_ARRAY (caps), idx);
436
437   gst_structure_set_parent_refcount (s, NULL);
438   return s;
439 }
440
441 /**
442  * gst_caps_steal_structure:
443  * @caps: the #GstCaps to retrieve from
444  * @index: Index of the structure to retrieve
445  *
446  * Retrieves the stucture with the given index from the list of structures
447  * contained in @caps. The caller becomes the owner of the returned structure.
448  *
449  * Returns: (transfer full): a pointer to the #GstStructure corresponding
450  *     to @index.
451  *
452  * Since: 0.10.30
453  */
454 GstStructure *
455 gst_caps_steal_structure (GstCaps * caps, guint index)
456 {
457   g_return_val_if_fail (caps != NULL, NULL);
458   g_return_val_if_fail (IS_WRITABLE (caps), NULL);
459
460   if (G_UNLIKELY (index >= GST_CAPS_LEN (caps)))
461     return NULL;
462
463   return gst_caps_remove_and_get_structure (caps, index);
464 }
465
466 /**
467  * gst_caps_append:
468  * @caps1: the #GstCaps that will be appended to
469  * @caps2: (transfer full): the #GstCaps to append
470  *
471  * Appends the structures contained in @caps2 to @caps1. The structures in
472  * @caps2 are not copied -- they are transferred to @caps1, and then @caps2 is
473  * freed. If either caps is ANY, the resulting caps will be ANY.
474  */
475 void
476 gst_caps_append (GstCaps * caps1, GstCaps * caps2)
477 {
478   GstStructure *structure;
479   int i;
480
481   g_return_if_fail (GST_IS_CAPS (caps1));
482   g_return_if_fail (GST_IS_CAPS (caps2));
483   g_return_if_fail (IS_WRITABLE (caps1));
484
485   caps2 = gst_caps_make_writable (caps2);
486
487   if (G_UNLIKELY (CAPS_IS_ANY (caps1) || CAPS_IS_ANY (caps2))) {
488     /* FIXME: this leaks */
489     GST_CAPS_FLAGS (caps1) |= GST_CAPS_FLAG_ANY;
490     for (i = GST_CAPS_LEN (caps2) - 1; i >= 0; i--) {
491       structure = gst_caps_remove_and_get_structure (caps2, i);
492       gst_structure_free (structure);
493     }
494   } else {
495     for (i = GST_CAPS_LEN (caps2); i; i--) {
496       structure = gst_caps_remove_and_get_structure (caps2, 0);
497       gst_caps_append_structure_unchecked (caps1, structure);
498     }
499   }
500   gst_caps_unref (caps2);       /* guaranteed to free it */
501 }
502
503 /**
504  * gst_caps_merge:
505  * @caps1: the #GstCaps that will take the new entries
506  * @caps2: (transfer full): the #GstCaps to merge in
507  *
508  * Appends the structures contained in @caps2 to @caps1 if they are not yet
509  * expressed by @caps1. The structures in @caps2 are not copied -- they are
510  * transferred to @caps1, and then @caps2 is freed.
511  * If either caps is ANY, the resulting caps will be ANY.
512  *
513  * Since: 0.10.10
514  */
515 void
516 gst_caps_merge (GstCaps * caps1, GstCaps * caps2)
517 {
518   GstStructure *structure;
519   int i;
520
521   g_return_if_fail (GST_IS_CAPS (caps1));
522   g_return_if_fail (GST_IS_CAPS (caps2));
523   g_return_if_fail (IS_WRITABLE (caps1));
524
525   caps2 = gst_caps_make_writable (caps2);
526
527   if (G_UNLIKELY (CAPS_IS_ANY (caps1))) {
528     for (i = GST_CAPS_LEN (caps2) - 1; i >= 0; i--) {
529       structure = gst_caps_remove_and_get_structure (caps2, i);
530       gst_structure_free (structure);
531     }
532   } else if (G_UNLIKELY (CAPS_IS_ANY (caps2))) {
533     GST_CAPS_FLAGS (caps1) |= GST_CAPS_FLAG_ANY;
534     for (i = GST_CAPS_LEN (caps1) - 1; i >= 0; i--) {
535       structure = gst_caps_remove_and_get_structure (caps1, i);
536       gst_structure_free (structure);
537     }
538   } else {
539     for (i = GST_CAPS_LEN (caps2); i; i--) {
540       structure = gst_caps_remove_and_get_structure (caps2, 0);
541       gst_caps_merge_structure (caps1, structure);
542     }
543     /* this is too naive
544        GstCaps *com = gst_caps_intersect (caps1, caps2);
545        GstCaps *add = gst_caps_subtract (caps2, com);
546
547        GST_DEBUG ("common : %d", gst_caps_get_size (com));
548        GST_DEBUG ("adding : %d", gst_caps_get_size (add));
549        gst_caps_append (caps1, add);
550        gst_caps_unref (com);
551      */
552   }
553   gst_caps_unref (caps2);       /* guaranteed to free it */
554 }
555
556 /**
557  * gst_caps_append_structure:
558  * @caps: the #GstCaps that will be appended to
559  * @structure: (transfer full): the #GstStructure to append
560  *
561  * Appends @structure to @caps.  The structure is not copied; @caps
562  * becomes the owner of @structure.
563  */
564 void
565 gst_caps_append_structure (GstCaps * caps, GstStructure * structure)
566 {
567   g_return_if_fail (GST_IS_CAPS (caps));
568   g_return_if_fail (IS_WRITABLE (caps));
569
570   if (G_LIKELY (structure)) {
571     gst_caps_append_structure_unchecked (caps, structure);
572   }
573 }
574
575 /**
576  * gst_caps_remove_structure:
577  * @caps: the #GstCaps to remove from
578  * @idx: Index of the structure to remove
579  *
580  * removes the stucture with the given index from the list of structures
581  * contained in @caps.
582  */
583 void
584 gst_caps_remove_structure (GstCaps * caps, guint idx)
585 {
586   GstStructure *structure;
587
588   g_return_if_fail (caps != NULL);
589   g_return_if_fail (idx <= gst_caps_get_size (caps));
590   g_return_if_fail (IS_WRITABLE (caps));
591
592   structure = gst_caps_remove_and_get_structure (caps, idx);
593   gst_structure_free (structure);
594 }
595
596 /**
597  * gst_caps_merge_structure:
598  * @caps: the #GstCaps that will the new structure
599  * @structure: (transfer full): the #GstStructure to merge
600  *
601  * Appends @structure to @caps if its not already expressed by @caps.  The
602  * structure is not copied; @caps becomes the owner of @structure.
603  */
604 void
605 gst_caps_merge_structure (GstCaps * caps, GstStructure * structure)
606 {
607   g_return_if_fail (GST_IS_CAPS (caps));
608   g_return_if_fail (IS_WRITABLE (caps));
609
610   if (G_LIKELY (structure)) {
611     GstStructure *structure1;
612     int i;
613     gboolean unique = TRUE;
614
615     /* check each structure */
616     for (i = GST_CAPS_LEN (caps) - 1; i >= 0; i--) {
617       structure1 = gst_caps_get_structure_unchecked (caps, i);
618       /* if structure is a subset of structure1, then skip it */
619       if (gst_structure_is_subset (structure, structure1)) {
620         unique = FALSE;
621         break;
622       }
623     }
624     if (unique) {
625       gst_caps_append_structure_unchecked (caps, structure);
626     } else {
627       gst_structure_free (structure);
628     }
629   }
630 }
631
632 /**
633  * gst_caps_get_size:
634  * @caps: a #GstCaps
635  *
636  * Gets the number of structures contained in @caps.
637  *
638  * Returns: the number of structures that @caps contains
639  */
640 guint
641 gst_caps_get_size (const GstCaps * caps)
642 {
643   g_return_val_if_fail (GST_IS_CAPS (caps), 0);
644
645   return GST_CAPS_LEN (caps);
646 }
647
648 /**
649  * gst_caps_get_structure:
650  * @caps: a #GstCaps
651  * @index: the index of the structure
652  *
653  * Finds the structure in @caps that has the index @index, and
654  * returns it.
655  *
656  * WARNING: This function takes a const GstCaps *, but returns a
657  * non-const GstStructure *.  This is for programming convenience --
658  * the caller should be aware that structures inside a constant
659  * #GstCaps should not be modified. However, if you know the caps
660  * are writable, either because you have just copied them or made
661  * them writable with gst_caps_make_writable(), you may modify the
662  * structure returned in the usual way, e.g. with functions like
663  * gst_structure_set().
664  *
665  * You do not need to free or unref the structure returned, it
666  * belongs to the #GstCaps.
667  *
668  * Returns: (transfer none): a pointer to the #GstStructure corresponding
669  *     to @index
670  */
671 GstStructure *
672 gst_caps_get_structure (const GstCaps * caps, guint index)
673 {
674   g_return_val_if_fail (GST_IS_CAPS (caps), NULL);
675   g_return_val_if_fail (index < GST_CAPS_LEN (caps), NULL);
676
677   return gst_caps_get_structure_unchecked (caps, index);
678 }
679
680 /**
681  * gst_caps_copy_nth:
682  * @caps: the #GstCaps to copy
683  * @nth: the nth structure to copy
684  *
685  * Creates a new #GstCaps and appends a copy of the nth structure
686  * contained in @caps.
687  *
688  * Returns: (transfer full): the new #GstCaps
689  */
690 GstCaps *
691 gst_caps_copy_nth (const GstCaps * caps, guint nth)
692 {
693   GstCaps *newcaps;
694   GstStructure *structure;
695
696   g_return_val_if_fail (GST_IS_CAPS (caps), NULL);
697
698   newcaps = gst_caps_new_empty ();
699   GST_CAPS_FLAGS (newcaps) = GST_CAPS_FLAGS (caps);
700
701   if (G_LIKELY (GST_CAPS_LEN (caps) > nth)) {
702     structure = gst_caps_get_structure_unchecked (caps, nth);
703     gst_caps_append_structure_unchecked (newcaps,
704         gst_structure_copy (structure));
705   }
706
707   return newcaps;
708 }
709
710 /**
711  * gst_caps_truncate:
712  * @caps: the #GstCaps to truncate
713  *
714  * Destructively discard all but the first structure from @caps. Useful when
715  * fixating. @caps must be writable.
716  */
717 void
718 gst_caps_truncate (GstCaps * caps)
719 {
720   gint i;
721
722   g_return_if_fail (GST_IS_CAPS (caps));
723   g_return_if_fail (IS_WRITABLE (caps));
724
725   i = GST_CAPS_LEN (caps) - 1;
726
727   while (i > 0)
728     gst_caps_remove_structure (caps, i--);
729 }
730
731 /**
732  * gst_caps_set_value:
733  * @caps: a writable caps
734  * @field: name of the field to set
735  * @value: value to set the field to
736  *
737  * Sets the given @field on all structures of @caps to the given @value.
738  * This is a convenience function for calling gst_structure_set_value() on
739  * all structures of @caps.
740  *
741  * Since: 0.10.26
742  **/
743 void
744 gst_caps_set_value (GstCaps * caps, const char *field, const GValue * value)
745 {
746   guint i, len;
747
748   g_return_if_fail (GST_IS_CAPS (caps));
749   g_return_if_fail (IS_WRITABLE (caps));
750   g_return_if_fail (field != NULL);
751   g_return_if_fail (G_IS_VALUE (value));
752
753   len = GST_CAPS_LEN (caps);
754   for (i = 0; i < len; i++) {
755     GstStructure *structure = gst_caps_get_structure_unchecked (caps, i);
756     gst_structure_set_value (structure, field, value);
757   }
758 }
759
760 /**
761  * gst_caps_set_simple_valist:
762  * @caps: the #GstCaps to set
763  * @field: first field to set
764  * @varargs: additional parameters
765  *
766  * Sets fields in a #GstCaps.  The arguments must be passed in the same
767  * manner as gst_structure_set(), and be NULL-terminated.
768  * <note>Prior to GStreamer version 0.10.26, this function failed when
769  * @caps was not simple. If your code needs to work with those versions
770  * of GStreamer, you may only call this function when GST_CAPS_IS_SIMPLE()
771  * is %TRUE for @caps.</note>
772  */
773 void
774 gst_caps_set_simple_valist (GstCaps * caps, const char *field, va_list varargs)
775 {
776   GValue value = { 0, };
777
778   g_return_if_fail (GST_IS_CAPS (caps));
779   g_return_if_fail (IS_WRITABLE (caps));
780
781   while (field) {
782     GType type;
783     char *err;
784
785     type = va_arg (varargs, GType);
786
787     G_VALUE_COLLECT_INIT (&value, type, varargs, 0, &err);
788     if (G_UNLIKELY (err)) {
789       g_critical ("%s", err);
790       return;
791     }
792
793     gst_caps_set_value (caps, field, &value);
794
795     g_value_unset (&value);
796
797     field = va_arg (varargs, const gchar *);
798   }
799 }
800
801 /**
802  * gst_caps_set_simple:
803  * @caps: the #GstCaps to set
804  * @field: first field to set
805  * @...: additional parameters
806  *
807  * Sets fields in a #GstCaps.  The arguments must be passed in the same
808  * manner as gst_structure_set(), and be NULL-terminated.
809  * <note>Prior to GStreamer version 0.10.26, this function failed when
810  * @caps was not simple. If your code needs to work with those versions
811  * of GStreamer, you may only call this function when GST_CAPS_IS_SIMPLE()
812  * is %TRUE for @caps.</note>
813  */
814 void
815 gst_caps_set_simple (GstCaps * caps, const char *field, ...)
816 {
817   va_list var_args;
818
819   g_return_if_fail (GST_IS_CAPS (caps));
820   g_return_if_fail (IS_WRITABLE (caps));
821
822   va_start (var_args, field);
823   gst_caps_set_simple_valist (caps, field, var_args);
824   va_end (var_args);
825 }
826
827 /* tests */
828
829 /**
830  * gst_caps_is_any:
831  * @caps: the #GstCaps to test
832  *
833  * Determines if @caps represents any media format.
834  *
835  * Returns: TRUE if @caps represents any format.
836  */
837 gboolean
838 gst_caps_is_any (const GstCaps * caps)
839 {
840   g_return_val_if_fail (GST_IS_CAPS (caps), FALSE);
841
842   return (CAPS_IS_ANY (caps));
843 }
844
845 /**
846  * gst_caps_is_empty:
847  * @caps: the #GstCaps to test
848  *
849  * Determines if @caps represents no media formats.
850  *
851  * Returns: TRUE if @caps represents no formats.
852  */
853 gboolean
854 gst_caps_is_empty (const GstCaps * caps)
855 {
856   g_return_val_if_fail (GST_IS_CAPS (caps), FALSE);
857
858   if (CAPS_IS_ANY (caps))
859     return FALSE;
860
861   return CAPS_IS_EMPTY_SIMPLE (caps);
862 }
863
864 static gboolean
865 gst_caps_is_fixed_foreach (GQuark field_id, const GValue * value,
866     gpointer unused)
867 {
868   return gst_value_is_fixed (value);
869 }
870
871 /**
872  * gst_caps_is_fixed:
873  * @caps: the #GstCaps to test
874  *
875  * Fixed #GstCaps describe exactly one format, that is, they have exactly
876  * one structure, and each field in the structure describes a fixed type.
877  * Examples of non-fixed types are GST_TYPE_INT_RANGE and GST_TYPE_LIST.
878  *
879  * Returns: TRUE if @caps is fixed
880  */
881 gboolean
882 gst_caps_is_fixed (const GstCaps * caps)
883 {
884   GstStructure *structure;
885
886   g_return_val_if_fail (GST_IS_CAPS (caps), FALSE);
887
888   if (GST_CAPS_LEN (caps) != 1)
889     return FALSE;
890
891   structure = gst_caps_get_structure_unchecked (caps, 0);
892
893   return gst_structure_foreach (structure, gst_caps_is_fixed_foreach, NULL);
894 }
895
896 /**
897  * gst_caps_is_equal_fixed:
898  * @caps1: the #GstCaps to test
899  * @caps2: the #GstCaps to test
900  *
901  * Tests if two #GstCaps are equal.  This function only works on fixed
902  * #GstCaps.
903  *
904  * Returns: TRUE if the arguments represent the same format
905  */
906 gboolean
907 gst_caps_is_equal_fixed (const GstCaps * caps1, const GstCaps * caps2)
908 {
909   GstStructure *struct1, *struct2;
910
911   g_return_val_if_fail (gst_caps_is_fixed (caps1), FALSE);
912   g_return_val_if_fail (gst_caps_is_fixed (caps2), FALSE);
913
914   struct1 = gst_caps_get_structure_unchecked (caps1, 0);
915   struct2 = gst_caps_get_structure_unchecked (caps2, 0);
916
917   return gst_structure_is_equal (struct1, struct2);
918 }
919
920 /**
921  * gst_caps_is_always_compatible:
922  * @caps1: the #GstCaps to test
923  * @caps2: the #GstCaps to test
924  *
925  * A given #GstCaps structure is always compatible with another if
926  * every media format that is in the first is also contained in the
927  * second.  That is, @caps1 is a subset of @caps2.
928  *
929  * Returns: TRUE if @caps1 is a subset of @caps2.
930  */
931 gboolean
932 gst_caps_is_always_compatible (const GstCaps * caps1, const GstCaps * caps2)
933 {
934   g_return_val_if_fail (GST_IS_CAPS (caps1), FALSE);
935   g_return_val_if_fail (GST_IS_CAPS (caps2), FALSE);
936
937   return gst_caps_is_subset (caps1, caps2);
938 }
939
940 /**
941  * gst_caps_is_subset:
942  * @subset: a #GstCaps
943  * @superset: a potentially greater #GstCaps
944  *
945  * Checks if all caps represented by @subset are also represented by @superset.
946  * <note>This function does not work reliably if optional properties for caps
947  * are included on one caps and omitted on the other.</note>
948  *
949  * Returns: %TRUE if @subset is a subset of @superset
950  */
951 gboolean
952 gst_caps_is_subset (const GstCaps * subset, const GstCaps * superset)
953 {
954   GstStructure *s1, *s2;
955   gboolean ret = TRUE;
956   gint i, j;
957
958   g_return_val_if_fail (subset != NULL, FALSE);
959   g_return_val_if_fail (superset != NULL, FALSE);
960
961   if (CAPS_IS_EMPTY (subset) || CAPS_IS_ANY (superset))
962     return TRUE;
963   if (CAPS_IS_ANY (subset) || CAPS_IS_EMPTY (superset))
964     return FALSE;
965
966   for (i = GST_CAPS_LEN (subset) - 1; i >= 0; i--) {
967     for (j = GST_CAPS_LEN (superset) - 1; j >= 0; j--) {
968       s1 = gst_caps_get_structure_unchecked (subset, i);
969       s2 = gst_caps_get_structure_unchecked (superset, j);
970       if (gst_structure_is_subset (s1, s2)) {
971         /* If we found a superset, continue with the next
972          * subset structure */
973         break;
974       }
975     }
976     /* If we found no superset for this subset structure
977      * we return FALSE immediately */
978     if (j == -1) {
979       ret = FALSE;
980       break;
981     }
982   }
983
984   return ret;
985 }
986
987 /**
988  * gst_caps_is_subset_structure:
989  * @caps: a #GstCaps
990  * @structure: a potential #GstStructure subset of @caps
991  *
992  * Checks if @structure is a subset of @caps. See gst_caps_is_subset()
993  * for more information.
994  *
995  * Returns: %TRUE if @structure is a subset of @caps
996  *
997  * Since: 0.10.36
998  */
999 gboolean
1000 gst_caps_is_subset_structure (const GstCaps * caps,
1001     const GstStructure * structure)
1002 {
1003   GstStructure *s;
1004   gint i;
1005
1006   g_return_val_if_fail (caps != NULL, FALSE);
1007   g_return_val_if_fail (structure != NULL, FALSE);
1008
1009   if (CAPS_IS_ANY (caps))
1010     return TRUE;
1011   if (CAPS_IS_EMPTY (caps))
1012     return FALSE;
1013
1014   for (i = GST_CAPS_LEN (caps) - 1; i >= 0; i--) {
1015     s = gst_caps_get_structure_unchecked (caps, i);
1016     if (gst_structure_is_subset (structure, s)) {
1017       /* If we found a superset return TRUE */
1018       return TRUE;
1019     }
1020   }
1021
1022   return FALSE;
1023 }
1024
1025 /**
1026  * gst_caps_is_equal:
1027  * @caps1: a #GstCaps
1028  * @caps2: another #GstCaps
1029  *
1030  * Checks if the given caps represent the same set of caps.
1031  * <note>This function does not work reliably if optional properties for caps
1032  * are included on one caps and omitted on the other.</note>
1033  *
1034  * This function deals correctly with passing NULL for any of the caps.
1035  *
1036  * Returns: TRUE if both caps are equal.
1037  */
1038 gboolean
1039 gst_caps_is_equal (const GstCaps * caps1, const GstCaps * caps2)
1040 {
1041   /* FIXME 0.11: NULL pointers are no valid Caps but indicate an error
1042    * So there should be an assertion that caps1 and caps2 != NULL */
1043
1044   /* NULL <-> NULL is allowed here */
1045   if (G_UNLIKELY (caps1 == caps2))
1046     return TRUE;
1047
1048   /* one of them NULL => they are different (can't be both NULL because
1049    * we checked that above) */
1050   if (G_UNLIKELY (caps1 == NULL || caps2 == NULL))
1051     return FALSE;
1052
1053   if (G_UNLIKELY (gst_caps_is_fixed (caps1) && gst_caps_is_fixed (caps2)))
1054     return gst_caps_is_equal_fixed (caps1, caps2);
1055
1056   return gst_caps_is_subset (caps1, caps2) && gst_caps_is_subset (caps2, caps1);
1057 }
1058
1059 /**
1060  * gst_caps_is_strictly_equal:
1061  * @caps1: a #GstCaps
1062  * @caps2: another #GstCaps
1063  *
1064  * Checks if the given caps are exactly the same set of caps.
1065  *
1066  * This function deals correctly with passing NULL for any of the caps.
1067  *
1068  * Returns: TRUE if both caps are strictly equal.
1069  *
1070  * Since: 0.10.36
1071  */
1072 gboolean
1073 gst_caps_is_strictly_equal (const GstCaps * caps1, const GstCaps * caps2)
1074 {
1075   int i;
1076   /* FIXME 0.11: NULL pointers are no valid Caps but indicate an error
1077    * So there should be an assertion that caps1 and caps2 != NULL */
1078
1079   /* NULL <-> NULL is allowed here */
1080   if (G_UNLIKELY (caps1 == caps2))
1081     return TRUE;
1082
1083   /* one of them NULL => they are different (can't be both NULL because
1084    * we checked that above) */
1085   if (G_UNLIKELY (caps1 == NULL || caps2 == NULL))
1086     return FALSE;
1087
1088   if (GST_CAPS_LEN (caps1) != GST_CAPS_LEN (caps2))
1089     return FALSE;
1090
1091   for (i = 0; i < GST_CAPS_LEN (caps1); i++) {
1092     if (!gst_structure_is_equal (gst_caps_get_structure_unchecked (caps1, i),
1093             gst_caps_get_structure_unchecked (caps2, i)))
1094       return FALSE;
1095   }
1096
1097   return TRUE;
1098 }
1099
1100 /* intersect operation */
1101
1102 /**
1103  * gst_caps_can_intersect:
1104  * @caps1: a #GstCaps to intersect
1105  * @caps2: a #GstCaps to intersect
1106  *
1107  * Tries intersecting @caps1 and @caps2 and reports whether the result would not
1108  * be empty
1109  *
1110  * Returns: %TRUE if intersection would be not empty
1111  *
1112  * Since: 0.10.25
1113  */
1114 gboolean
1115 gst_caps_can_intersect (const GstCaps * caps1, const GstCaps * caps2)
1116 {
1117   guint64 i;                    /* index can be up to 2 * G_MAX_UINT */
1118   guint j, k, len1, len2;
1119   GstStructure *struct1;
1120   GstStructure *struct2;
1121
1122   g_return_val_if_fail (GST_IS_CAPS (caps1), FALSE);
1123   g_return_val_if_fail (GST_IS_CAPS (caps2), FALSE);
1124
1125   /* caps are exactly the same pointers */
1126   if (G_UNLIKELY (caps1 == caps2))
1127     return TRUE;
1128
1129   /* empty caps on either side, return empty */
1130   if (G_UNLIKELY (CAPS_IS_EMPTY (caps1) || CAPS_IS_EMPTY (caps2)))
1131     return FALSE;
1132
1133   /* one of the caps is any */
1134   if (G_UNLIKELY (CAPS_IS_ANY (caps1) || CAPS_IS_ANY (caps2)))
1135     return TRUE;
1136
1137   /* run zigzag on top line then right line, this preserves the caps order
1138    * much better than a simple loop.
1139    *
1140    * This algorithm zigzags over the caps structures as demonstrated in
1141    * the folowing matrix:
1142    *
1143    *          caps1                              0  1  2  3
1144    *       +-------------     total distance:  +-------------
1145    *       | 1  2  4  7                      0 | 0  1  2  3
1146    * caps2 | 3  5  8 10                      1 | 1  2  3  4
1147    *       | 6  9 11 12                      2 | 2  3  4  5
1148    *
1149    * First we iterate over the caps1 structures (top line) intersecting
1150    * the structures diagonally down, then we iterate over the caps2
1151    * structures. The result is that the intersections are ordered based on the
1152    * sum of the indexes in the list.
1153    */
1154   len1 = GST_CAPS_LEN (caps1);
1155   len2 = GST_CAPS_LEN (caps2);
1156   for (i = 0; i < len1 + len2 - 1; i++) {
1157     /* superset index goes from 0 to sgst_caps_structure_intersectuperset->structs->len-1 */
1158     j = MIN (i, len1 - 1);
1159     /* subset index stays 0 until i reaches superset->structs->len, then it
1160      * counts up from 1 to subset->structs->len - 1 */
1161     k = (i > j) ? (i - j) : 0;  /* MAX (0, i - j) */
1162
1163     /* now run the diagonal line, end condition is the left or bottom
1164      * border */
1165     while (k < len2) {
1166       struct1 = gst_caps_get_structure_unchecked (caps1, j);
1167       struct2 = gst_caps_get_structure_unchecked (caps2, k);
1168
1169       if (gst_structure_can_intersect (struct1, struct2)) {
1170         return TRUE;
1171       }
1172       /* move down left */
1173       k++;
1174       if (G_UNLIKELY (j == 0))
1175         break;                  /* so we don't roll back to G_MAXUINT */
1176       j--;
1177     }
1178   }
1179   return FALSE;
1180 }
1181
1182 static GstCaps *
1183 gst_caps_intersect_zig_zag (const GstCaps * caps1, const GstCaps * caps2)
1184 {
1185   guint64 i;                    /* index can be up to 2 * G_MAX_UINT */
1186   guint j, k, len1, len2;
1187
1188   GstStructure *struct1;
1189   GstStructure *struct2;
1190   GstCaps *dest;
1191   GstStructure *istruct;
1192
1193   /* caps are exactly the same pointers, just copy one caps */
1194   if (G_UNLIKELY (caps1 == caps2))
1195     return _gst_caps_copy (caps1);
1196
1197   /* empty caps on either side, return empty */
1198   if (G_UNLIKELY (CAPS_IS_EMPTY (caps1) || CAPS_IS_EMPTY (caps2)))
1199     return gst_caps_new_empty ();
1200
1201   /* one of the caps is any, just copy the other caps */
1202   if (G_UNLIKELY (CAPS_IS_ANY (caps1)))
1203     return _gst_caps_copy (caps2);
1204   if (G_UNLIKELY (CAPS_IS_ANY (caps2)))
1205     return _gst_caps_copy (caps1);
1206
1207   dest = gst_caps_new_empty ();
1208
1209   /* run zigzag on top line then right line, this preserves the caps order
1210    * much better than a simple loop.
1211    *
1212    * This algorithm zigzags over the caps structures as demonstrated in
1213    * the folowing matrix:
1214    *
1215    *          caps1
1216    *       +-------------
1217    *       | 1  2  4  7
1218    * caps2 | 3  5  8 10
1219    *       | 6  9 11 12
1220    *
1221    * First we iterate over the caps1 structures (top line) intersecting
1222    * the structures diagonally down, then we iterate over the caps2
1223    * structures.
1224    */
1225   len1 = GST_CAPS_LEN (caps1);
1226   len2 = GST_CAPS_LEN (caps2);
1227   for (i = 0; i < len1 + len2 - 1; i++) {
1228     /* caps1 index goes from 0 to GST_CAPS_LEN (caps1)-1 */
1229     j = MIN (i, len1 - 1);
1230     /* caps2 index stays 0 until i reaches GST_CAPS_LEN (caps1), then it counts
1231      * up from 1 to GST_CAPS_LEN (caps2) - 1 */
1232     k = (i > j) ? (i - j) : 0;  /* MAX (0, i - j) */
1233
1234     /* now run the diagonal line, end condition is the left or bottom
1235      * border */
1236     while (k < len2) {
1237       struct1 = gst_caps_get_structure_unchecked (caps1, j);
1238       struct2 = gst_caps_get_structure_unchecked (caps2, k);
1239
1240       istruct = gst_structure_intersect (struct1, struct2);
1241
1242       gst_caps_merge_structure (dest, istruct);
1243       /* move down left */
1244       k++;
1245       if (G_UNLIKELY (j == 0))
1246         break;                  /* so we don't roll back to G_MAXUINT */
1247       j--;
1248     }
1249   }
1250   return dest;
1251 }
1252
1253 /**
1254  * gst_caps_intersect_first:
1255  * @caps1: a #GstCaps to intersect
1256  * @caps2: a #GstCaps to intersect
1257  *
1258  * Creates a new #GstCaps that contains all the formats that are common
1259  * to both @caps1 and @caps2.
1260  *
1261  * Unlike @gst_caps_intersect, the returned caps will be ordered in a similar
1262  * fashion as @caps1.
1263  *
1264  * Returns: the new #GstCaps
1265  */
1266 static GstCaps *
1267 gst_caps_intersect_first (const GstCaps * caps1, const GstCaps * caps2)
1268 {
1269   guint i;
1270   guint j, len1, len2;
1271
1272   GstStructure *struct1;
1273   GstStructure *struct2;
1274   GstCaps *dest;
1275   GstStructure *istruct;
1276
1277   /* caps are exactly the same pointers, just copy one caps */
1278   if (G_UNLIKELY (caps1 == caps2))
1279     return gst_caps_copy (caps1);
1280
1281   /* empty caps on either side, return empty */
1282   if (G_UNLIKELY (CAPS_IS_EMPTY (caps1) || CAPS_IS_EMPTY (caps2)))
1283     return gst_caps_new_empty ();
1284
1285   /* one of the caps is any, just copy the other caps */
1286   if (G_UNLIKELY (CAPS_IS_ANY (caps1)))
1287     return gst_caps_copy (caps2);
1288   if (G_UNLIKELY (CAPS_IS_ANY (caps2)))
1289     return gst_caps_copy (caps1);
1290
1291   dest = gst_caps_new_empty ();
1292
1293   len1 = GST_CAPS_LEN (caps1);
1294   len2 = GST_CAPS_LEN (caps2);
1295   for (i = 0; i < len1; i++) {
1296     struct1 = gst_caps_get_structure_unchecked (caps1, i);
1297     for (j = 0; j < len2; j++) {
1298       struct2 = gst_caps_get_structure_unchecked (caps2, j);
1299       istruct = gst_structure_intersect (struct1, struct2);
1300       if (istruct)
1301         gst_caps_merge_structure (dest, istruct);
1302     }
1303   }
1304
1305   return dest;
1306 }
1307
1308 /**
1309  * gst_caps_intersect_full:
1310  * @caps1: a #GstCaps to intersect
1311  * @caps2: a #GstCaps to intersect
1312  * @mode: The intersection algorithm/mode to use
1313  *
1314  * Creates a new #GstCaps that contains all the formats that are common
1315  * to both @caps1 and @caps2, the order is defined by the #GstCapsIntersectMode
1316  * used.
1317  *
1318  * Returns: the new #GstCaps
1319  * Since: 0.10.33
1320  */
1321 GstCaps *
1322 gst_caps_intersect_full (const GstCaps * caps1, const GstCaps * caps2,
1323     GstCapsIntersectMode mode)
1324 {
1325   g_return_val_if_fail (GST_IS_CAPS (caps1), NULL);
1326   g_return_val_if_fail (GST_IS_CAPS (caps2), NULL);
1327
1328   switch (mode) {
1329     case GST_CAPS_INTERSECT_FIRST:
1330       return gst_caps_intersect_first (caps1, caps2);
1331     default:
1332       g_warning ("Unknown caps intersect mode: %d", mode);
1333       /* fallthrough */
1334     case GST_CAPS_INTERSECT_ZIG_ZAG:
1335       return gst_caps_intersect_zig_zag (caps1, caps2);
1336   }
1337 }
1338
1339 /**
1340  * gst_caps_intersect:
1341  * @caps1: a #GstCaps to intersect
1342  * @caps2: a #GstCaps to intersect
1343  *
1344  * Creates a new #GstCaps that contains all the formats that are common
1345  * to both @caps1 and @caps2. Defaults to %GST_CAPS_INTERSECT_ZIG_ZAG mode.
1346  *
1347  * Returns: the new #GstCaps
1348  */
1349 GstCaps *
1350 gst_caps_intersect (const GstCaps * caps1, const GstCaps * caps2)
1351 {
1352   return gst_caps_intersect_full (caps1, caps2, GST_CAPS_INTERSECT_ZIG_ZAG);
1353 }
1354
1355
1356 /* subtract operation */
1357
1358 typedef struct
1359 {
1360   const GstStructure *subtract_from;
1361   GSList *put_into;
1362 }
1363 SubtractionEntry;
1364
1365 static gboolean
1366 gst_caps_structure_subtract_field (GQuark field_id, const GValue * value,
1367     gpointer user_data)
1368 {
1369   SubtractionEntry *e = user_data;
1370   GValue subtraction = { 0, };
1371   const GValue *other;
1372   GstStructure *structure;
1373
1374   other = gst_structure_id_get_value (e->subtract_from, field_id);
1375   if (!other) {
1376     return FALSE;
1377   }
1378   if (!gst_value_subtract (&subtraction, other, value))
1379     return TRUE;
1380   if (gst_value_compare (&subtraction, other) == GST_VALUE_EQUAL) {
1381     g_value_unset (&subtraction);
1382     return FALSE;
1383   } else {
1384     structure = gst_structure_copy (e->subtract_from);
1385     gst_structure_id_set_value (structure, field_id, &subtraction);
1386     g_value_unset (&subtraction);
1387     e->put_into = g_slist_prepend (e->put_into, structure);
1388     return TRUE;
1389   }
1390 }
1391
1392 static gboolean
1393 gst_caps_structure_subtract (GSList ** into, const GstStructure * minuend,
1394     const GstStructure * subtrahend)
1395 {
1396   SubtractionEntry e;
1397   gboolean ret;
1398
1399   e.subtract_from = minuend;
1400   e.put_into = NULL;
1401
1402   ret = gst_structure_foreach ((GstStructure *) subtrahend,
1403       gst_caps_structure_subtract_field, &e);
1404   if (ret) {
1405     *into = e.put_into;
1406   } else {
1407     GSList *walk;
1408
1409     for (walk = e.put_into; walk; walk = g_slist_next (walk)) {
1410       gst_structure_free (walk->data);
1411     }
1412     g_slist_free (e.put_into);
1413   }
1414   return ret;
1415 }
1416
1417 /**
1418  * gst_caps_subtract:
1419  * @minuend: #GstCaps to subtract from
1420  * @subtrahend: #GstCaps to subtract
1421  *
1422  * Subtracts the @subtrahend from the @minuend.
1423  * <note>This function does not work reliably if optional properties for caps
1424  * are included on one caps and omitted on the other.</note>
1425  *
1426  * Returns: the resulting caps
1427  */
1428 GstCaps *
1429 gst_caps_subtract (const GstCaps * minuend, const GstCaps * subtrahend)
1430 {
1431   guint i, j, sublen;
1432   GstStructure *min;
1433   GstStructure *sub;
1434   GstCaps *dest = NULL, *src;
1435
1436   g_return_val_if_fail (minuend != NULL, NULL);
1437   g_return_val_if_fail (subtrahend != NULL, NULL);
1438
1439   if (CAPS_IS_EMPTY (minuend) || CAPS_IS_ANY (subtrahend)) {
1440     return gst_caps_new_empty ();
1441   }
1442   if (CAPS_IS_EMPTY_SIMPLE (subtrahend))
1443     return _gst_caps_copy (minuend);
1444
1445   /* FIXME: Do we want this here or above?
1446      The reason we need this is that there is no definition about what
1447      ANY means for specific types, so it's not possible to reduce ANY partially
1448      You can only remove everything or nothing and that is done above.
1449      Note: there's a test that checks this behaviour. */
1450   g_return_val_if_fail (!CAPS_IS_ANY (minuend), NULL);
1451   sublen = GST_CAPS_LEN (subtrahend);
1452   g_assert (sublen > 0);
1453
1454   src = _gst_caps_copy (minuend);
1455   for (i = 0; i < sublen; i++) {
1456     guint srclen;
1457
1458     sub = gst_caps_get_structure_unchecked (subtrahend, i);
1459     if (dest) {
1460       gst_caps_unref (src);
1461       src = dest;
1462     }
1463     dest = gst_caps_new_empty ();
1464     srclen = GST_CAPS_LEN (src);
1465     for (j = 0; j < srclen; j++) {
1466       min = gst_caps_get_structure_unchecked (src, j);
1467       if (gst_structure_get_name_id (min) == gst_structure_get_name_id (sub)) {
1468         GSList *list;
1469
1470         if (gst_caps_structure_subtract (&list, min, sub)) {
1471           GSList *walk;
1472
1473           for (walk = list; walk; walk = g_slist_next (walk)) {
1474             gst_caps_append_structure_unchecked (dest,
1475                 (GstStructure *) walk->data);
1476           }
1477           g_slist_free (list);
1478         } else {
1479           gst_caps_append_structure_unchecked (dest, gst_structure_copy (min));
1480         }
1481       } else {
1482         gst_caps_append_structure_unchecked (dest, gst_structure_copy (min));
1483       }
1484     }
1485     if (CAPS_IS_EMPTY_SIMPLE (dest)) {
1486       gst_caps_unref (src);
1487       return dest;
1488     }
1489   }
1490
1491   gst_caps_unref (src);
1492   gst_caps_do_simplify (dest);
1493   return dest;
1494 }
1495
1496 /* union operation */
1497
1498 #if 0
1499 static GstStructure *
1500 gst_caps_structure_union (const GstStructure * struct1,
1501     const GstStructure * struct2)
1502 {
1503   int i;
1504   GstStructure *dest;
1505   const GstStructureField *field1;
1506   const GstStructureField *field2;
1507   int ret;
1508
1509   /* FIXME this doesn't actually work */
1510
1511   if (struct1->name != struct2->name)
1512     return NULL;
1513
1514   dest = gst_structure_new_id_empty (struct1->name);
1515
1516   for (i = 0; i < struct1->fields->len; i++) {
1517     GValue dest_value = { 0 };
1518
1519     field1 = GST_STRUCTURE_FIELD (struct1, i);
1520     field2 = gst_structure_id_get_field (struct2, field1->name);
1521
1522     if (field2 == NULL) {
1523       continue;
1524     } else {
1525       if (gst_value_union (&dest_value, &field1->value, &field2->value)) {
1526         gst_structure_set_value (dest, g_quark_to_string (field1->name),
1527             &dest_value);
1528       } else {
1529         ret = gst_value_compare (&field1->value, &field2->value);
1530       }
1531     }
1532   }
1533
1534   return dest;
1535 }
1536 #endif
1537
1538 /**
1539  * gst_caps_union:
1540  * @caps1: a #GstCaps to union
1541  * @caps2: a #GstCaps to union
1542  *
1543  * Creates a new #GstCaps that contains all the formats that are in
1544  * either @caps1 and @caps2.
1545  *
1546  * Returns: the new #GstCaps
1547  */
1548 GstCaps *
1549 gst_caps_union (const GstCaps * caps1, const GstCaps * caps2)
1550 {
1551   GstCaps *dest1;
1552   GstCaps *dest2;
1553
1554   /* NULL pointers are no correct GstCaps */
1555   g_return_val_if_fail (caps1 != NULL, NULL);
1556   g_return_val_if_fail (caps2 != NULL, NULL);
1557
1558   if (CAPS_IS_EMPTY (caps1))
1559     return _gst_caps_copy (caps2);
1560
1561   if (CAPS_IS_EMPTY (caps2))
1562     return _gst_caps_copy (caps1);
1563
1564   if (CAPS_IS_ANY (caps1) || CAPS_IS_ANY (caps2))
1565     return gst_caps_new_any ();
1566
1567   dest1 = _gst_caps_copy (caps1);
1568   dest2 = _gst_caps_copy (caps2);
1569   gst_caps_append (dest1, dest2);
1570
1571   gst_caps_do_simplify (dest1);
1572   return dest1;
1573 }
1574
1575 /* normalize/simplify operations */
1576
1577 typedef struct _NormalizeForeach
1578 {
1579   GstCaps *caps;
1580   GstStructure *structure;
1581 }
1582 NormalizeForeach;
1583
1584 static gboolean
1585 gst_caps_normalize_foreach (GQuark field_id, const GValue * value, gpointer ptr)
1586 {
1587   NormalizeForeach *nf = (NormalizeForeach *) ptr;
1588   GValue val = { 0 };
1589   guint i;
1590
1591   if (G_VALUE_TYPE (value) == GST_TYPE_LIST) {
1592     guint len = gst_value_list_get_size (value);
1593     for (i = 1; i < len; i++) {
1594       const GValue *v = gst_value_list_get_value (value, i);
1595       GstStructure *structure = gst_structure_copy (nf->structure);
1596
1597       gst_structure_id_set_value (structure, field_id, v);
1598       gst_caps_append_structure_unchecked (nf->caps, structure);
1599     }
1600
1601     gst_value_init_and_copy (&val, gst_value_list_get_value (value, 0));
1602     gst_structure_id_set_value (nf->structure, field_id, &val);
1603     g_value_unset (&val);
1604
1605     return FALSE;
1606   }
1607   return TRUE;
1608 }
1609
1610 /**
1611  * gst_caps_normalize:
1612  * @caps: a #GstCaps to normalize
1613  *
1614  * Creates a new #GstCaps that represents the same set of formats as
1615  * @caps, but contains no lists.  Each list is expanded into separate
1616  * @GstStructures.
1617  *
1618  * Returns: the new #GstCaps
1619  */
1620 GstCaps *
1621 gst_caps_normalize (const GstCaps * caps)
1622 {
1623   NormalizeForeach nf;
1624   GstCaps *newcaps;
1625   guint i;
1626
1627   g_return_val_if_fail (GST_IS_CAPS (caps), NULL);
1628
1629   newcaps = _gst_caps_copy (caps);
1630   nf.caps = newcaps;
1631
1632   for (i = 0; i < gst_caps_get_size (newcaps); i++) {
1633     nf.structure = gst_caps_get_structure_unchecked (newcaps, i);
1634
1635     while (!gst_structure_foreach (nf.structure,
1636             gst_caps_normalize_foreach, &nf));
1637   }
1638
1639   return newcaps;
1640 }
1641
1642 static gint
1643 gst_caps_compare_structures (gconstpointer one, gconstpointer two)
1644 {
1645   gint ret;
1646   const GstStructure *struct1 = *((const GstStructure **) one);
1647   const GstStructure *struct2 = *((const GstStructure **) two);
1648
1649   /* FIXME: this orders alphabetically, but ordering the quarks might be faster
1650      So what's the best way? */
1651   ret = strcmp (gst_structure_get_name (struct1),
1652       gst_structure_get_name (struct2));
1653   if (ret)
1654     return ret;
1655
1656   return gst_structure_n_fields (struct2) - gst_structure_n_fields (struct1);
1657 }
1658
1659 typedef struct
1660 {
1661   GQuark name;
1662   GValue value;
1663   GstStructure *compare;
1664 }
1665 UnionField;
1666
1667 static gboolean
1668 gst_caps_structure_figure_out_union (GQuark field_id, const GValue * value,
1669     gpointer user_data)
1670 {
1671   UnionField *u = user_data;
1672   const GValue *val = gst_structure_id_get_value (u->compare, field_id);
1673
1674   if (!val) {
1675     if (u->name)
1676       g_value_unset (&u->value);
1677     return FALSE;
1678   }
1679   if (gst_value_compare (val, value) == GST_VALUE_EQUAL)
1680     return TRUE;
1681   if (u->name) {
1682     g_value_unset (&u->value);
1683     return FALSE;
1684   }
1685   u->name = field_id;
1686   gst_value_union (&u->value, val, value);
1687   return TRUE;
1688 }
1689
1690 static gboolean
1691 gst_caps_structure_simplify (GstStructure ** result,
1692     const GstStructure * simplify, GstStructure * compare)
1693 {
1694   GSList *list;
1695   UnionField field = { 0, {0,}, NULL };
1696
1697   /* try to subtract to get a real subset */
1698   if (gst_caps_structure_subtract (&list, simplify, compare)) {
1699     if (list == NULL) {         /* no result */
1700       *result = NULL;
1701       return TRUE;
1702     } else if (list->next == NULL) {    /* one result */
1703       *result = list->data;
1704       g_slist_free (list);
1705       return TRUE;
1706     } else {                    /* multiple results */
1707       g_slist_foreach (list, (GFunc) gst_structure_free, NULL);
1708       g_slist_free (list);
1709       list = NULL;
1710     }
1711   }
1712
1713   /* try to union both structs */
1714   field.compare = compare;
1715   if (gst_structure_foreach ((GstStructure *) simplify,
1716           gst_caps_structure_figure_out_union, &field)) {
1717     gboolean ret = FALSE;
1718
1719     /* now we know all of simplify's fields are the same in compare
1720      * but at most one field: field.name */
1721     if (G_IS_VALUE (&field.value)) {
1722       if (gst_structure_n_fields (simplify) == gst_structure_n_fields (compare)) {
1723         gst_structure_id_set_value (compare, field.name, &field.value);
1724         *result = NULL;
1725         ret = TRUE;
1726       }
1727       g_value_unset (&field.value);
1728     } else if (gst_structure_n_fields (simplify) <=
1729         gst_structure_n_fields (compare)) {
1730       /* compare is just more specific, will be optimized away later */
1731       /* FIXME: do this here? */
1732       GST_LOG ("found a case that will be optimized later.");
1733     } else {
1734       gchar *one = gst_structure_to_string (simplify);
1735       gchar *two = gst_structure_to_string (compare);
1736
1737       GST_ERROR
1738           ("caps mismatch: structures %s and %s claim to be possible to unify, but aren't",
1739           one, two);
1740       g_free (one);
1741       g_free (two);
1742     }
1743     return ret;
1744   }
1745
1746   return FALSE;
1747 }
1748
1749 static void
1750 gst_caps_switch_structures (GstCaps * caps, GstStructure * old,
1751     GstStructure * new, gint i)
1752 {
1753   gst_structure_set_parent_refcount (old, NULL);
1754   gst_structure_free (old);
1755   gst_structure_set_parent_refcount (new, &GST_CAPS_REFCOUNT (caps));
1756   g_ptr_array_index (GST_CAPS_ARRAY (caps), i) = new;
1757 }
1758
1759 /**
1760  * gst_caps_do_simplify:
1761  * @caps: a #GstCaps to simplify
1762  *
1763  * Modifies the given @caps inplace into a representation that represents the
1764  * same set of formats, but in a simpler form.  Component structures that are
1765  * identical are merged.  Component structures that have values that can be
1766  * merged are also merged.
1767  *
1768  * Returns: TRUE, if the caps could be simplified
1769  */
1770 gboolean
1771 gst_caps_do_simplify (GstCaps * caps)
1772 {
1773   GstStructure *simplify, *compare, *result = NULL;
1774   gint i, j, start;
1775   gboolean changed = FALSE;
1776
1777   g_return_val_if_fail (caps != NULL, FALSE);
1778   g_return_val_if_fail (IS_WRITABLE (caps), FALSE);
1779
1780   if (gst_caps_get_size (caps) < 2)
1781     return FALSE;
1782
1783   g_ptr_array_sort (GST_CAPS_ARRAY (caps), gst_caps_compare_structures);
1784
1785   start = GST_CAPS_LEN (caps) - 1;
1786   for (i = GST_CAPS_LEN (caps) - 1; i >= 0; i--) {
1787     simplify = gst_caps_get_structure_unchecked (caps, i);
1788     if (gst_structure_get_name_id (simplify) !=
1789         gst_structure_get_name_id (gst_caps_get_structure_unchecked (caps,
1790                 start)))
1791       start = i;
1792     for (j = start; j >= 0; j--) {
1793       if (j == i)
1794         continue;
1795       compare = gst_caps_get_structure_unchecked (caps, j);
1796       if (gst_structure_get_name_id (simplify) !=
1797           gst_structure_get_name_id (compare)) {
1798         break;
1799       }
1800       if (gst_caps_structure_simplify (&result, simplify, compare)) {
1801         if (result) {
1802           gst_caps_switch_structures (caps, simplify, result, i);
1803           simplify = result;
1804         } else {
1805           gst_caps_remove_structure (caps, i);
1806           start--;
1807           break;
1808         }
1809         changed = TRUE;
1810       }
1811     }
1812   }
1813
1814   if (!changed)
1815     return FALSE;
1816
1817   /* gst_caps_do_simplify (caps); */
1818   return TRUE;
1819 }
1820
1821 /**
1822  * gst_caps_fixate:
1823  * @caps: a #GstCaps to fixate
1824  *
1825  * Modifies the given @caps inplace into a representation with only fixed
1826  * values. First the caps will be truncated and then the first structure will be
1827  * fixated with gst_structure_fixate(). @caps should be writable.
1828  */
1829 void
1830 gst_caps_fixate (GstCaps * caps)
1831 {
1832   GstStructure *s;
1833
1834   g_return_if_fail (GST_IS_CAPS (caps));
1835   g_return_if_fail (IS_WRITABLE (caps));
1836
1837   /* default fixation */
1838   gst_caps_truncate (caps);
1839   s = gst_caps_get_structure (caps, 0);
1840   gst_structure_fixate (s);
1841 }
1842
1843 /* utility */
1844
1845 /**
1846  * gst_caps_to_string:
1847  * @caps: a #GstCaps
1848  *
1849  * Converts @caps to a string representation.  This string representation
1850  * can be converted back to a #GstCaps by gst_caps_from_string().
1851  *
1852  * For debugging purposes its easier to do something like this:
1853  * |[
1854  * GST_LOG ("caps are %" GST_PTR_FORMAT, caps);
1855  * ]|
1856  * This prints the caps in human readble form.
1857  *
1858  * Returns: (transfer full): a newly allocated string representing @caps.
1859  */
1860 gchar *
1861 gst_caps_to_string (const GstCaps * caps)
1862 {
1863   guint i, slen, clen;
1864   GString *s;
1865
1866   /* NOTE:  This function is potentially called by the debug system,
1867    * so any calls to gst_log() (and GST_DEBUG(), GST_LOG(), etc.)
1868    * should be careful to avoid recursion.  This includes any functions
1869    * called by gst_caps_to_string.  In particular, calls should
1870    * not use the GST_PTR_FORMAT extension.  */
1871
1872   if (caps == NULL) {
1873     return g_strdup ("NULL");
1874   }
1875   if (CAPS_IS_ANY (caps)) {
1876     return g_strdup ("ANY");
1877   }
1878   if (CAPS_IS_EMPTY_SIMPLE (caps)) {
1879     return g_strdup ("EMPTY");
1880   }
1881
1882   /* estimate a rough string length to avoid unnecessary reallocs in GString */
1883   slen = 0;
1884   clen = GST_CAPS_LEN (caps);
1885   for (i = 0; i < clen; i++) {
1886     slen +=
1887         STRUCTURE_ESTIMATED_STRING_LEN (gst_caps_get_structure_unchecked (caps,
1888             i));
1889   }
1890
1891   s = g_string_sized_new (slen);
1892   for (i = 0; i < clen; i++) {
1893     GstStructure *structure;
1894
1895     if (i > 0) {
1896       /* ';' is now added by gst_structure_to_string */
1897       g_string_append_c (s, ' ');
1898     }
1899
1900     structure = gst_caps_get_structure_unchecked (caps, i);
1901     priv_gst_structure_append_to_gstring (structure, s);
1902   }
1903   if (s->len && s->str[s->len - 1] == ';') {
1904     /* remove latest ';' */
1905     s->str[--s->len] = '\0';
1906   }
1907   return g_string_free (s, FALSE);
1908 }
1909
1910 static gboolean
1911 gst_caps_from_string_inplace (GstCaps * caps, const gchar * string)
1912 {
1913   GstStructure *structure;
1914   gchar *s;
1915
1916   if (strcmp ("ANY", string) == 0) {
1917     GST_CAPS_FLAGS (caps) = GST_CAPS_FLAG_ANY;
1918     return TRUE;
1919   }
1920   if (strcmp ("EMPTY", string) == 0) {
1921     return TRUE;
1922   }
1923
1924   structure = gst_structure_from_string (string, &s);
1925   if (structure == NULL) {
1926     return FALSE;
1927   }
1928   gst_caps_append_structure_unchecked (caps, structure);
1929
1930   do {
1931
1932     while (g_ascii_isspace (*s))
1933       s++;
1934     if (*s == '\0') {
1935       break;
1936     }
1937     structure = gst_structure_from_string (s, &s);
1938     if (structure == NULL) {
1939       return FALSE;
1940     }
1941     gst_caps_append_structure_unchecked (caps, structure);
1942
1943   } while (TRUE);
1944
1945   return TRUE;
1946 }
1947
1948 /**
1949  * gst_caps_from_string:
1950  * @string: a string to convert to #GstCaps
1951  *
1952  * Converts @caps from a string representation.
1953  *
1954  * Returns: (transfer full): a newly allocated #GstCaps
1955  */
1956 GstCaps *
1957 gst_caps_from_string (const gchar * string)
1958 {
1959   GstCaps *caps;
1960
1961   g_return_val_if_fail (string, FALSE);
1962
1963   caps = gst_caps_new_empty ();
1964   if (gst_caps_from_string_inplace (caps, string)) {
1965     return caps;
1966   } else {
1967     gst_caps_unref (caps);
1968     return NULL;
1969   }
1970 }
1971
1972 static void
1973 gst_caps_transform_to_string (const GValue * src_value, GValue * dest_value)
1974 {
1975   g_return_if_fail (G_IS_VALUE (src_value));
1976   g_return_if_fail (G_IS_VALUE (dest_value));
1977   g_return_if_fail (G_VALUE_HOLDS (src_value, GST_TYPE_CAPS));
1978   g_return_if_fail (G_VALUE_HOLDS (dest_value, G_TYPE_STRING)
1979       || G_VALUE_HOLDS (dest_value, G_TYPE_POINTER));
1980
1981   g_value_take_string (dest_value,
1982       gst_caps_to_string (gst_value_get_caps (src_value)));
1983 }