gst/playback/gstplaybin.c

   1 /* GStreamer
   2  * Copyright (C) <1999> Erik Walthinsen <omega@cse.ogi.edu>
   3  *
   4  * This library is free software; you can redistribute it and/or
   5  * modify it under the terms of the GNU Library General Public
   6  * License as published by the Free Software Foundation; either
   7  * version 2 of the License, or (at your option) any later version.
   8  *
   9  * This library is distributed in the hope that it will be useful,
  10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  12  * Library General Public License for more details.
  13  *
  14  * You should have received a copy of the GNU Library General Public
  15  * License along with this library; if not, write to the
  16  * Free Software Foundation, Inc., 59 Temple Place - Suite 330,
  17  * Boston, MA 02111-1307, USA.
  18  */
  19
  20 #ifdef HAVE_CONFIG_H
  21 #include "config.h"
  22 #endif
  23
  24 #include <string.h>
  25 #include <gst/gst.h>
  26
  27 #include <gst/gst-i18n-plugin.h>
  28
  29 #include "gstplaybasebin.h"
  30
  31 GST_DEBUG_CATEGORY_STATIC (gst_play_bin_debug);
  32 #define GST_CAT_DEFAULT gst_play_bin_debug
  33
  34 #define GST_TYPE_PLAY_BIN               (gst_play_bin_get_type())
  35 #define GST_PLAY_BIN(obj)               (G_TYPE_CHECK_INSTANCE_CAST((obj),GST_TYPE_PLAY_BIN,GstPlayBin))
  36 #define GST_PLAY_BIN_CLASS(klass)       (G_TYPE_CHECK_CLASS_CAST((klass),GST_TYPE_PLAY_BIN,GstPlayBinClass))
  37 #define GST_IS_PLAY_BIN(obj)            (G_TYPE_CHECK_INSTANCE_TYPE((obj),GST_TYPE_PLAY_BIN))
  38 #define GST_IS_PLAY_BIN_CLASS(klass)    (G_TYPE_CHECK_CLASS_TYPE((klass),GST_TYPE_PLAY_BIN))
  39
  40 #define VOLUME_MAX_DOUBLE 4.0
  41
  42 typedef struct _GstPlayBin GstPlayBin;
  43 typedef struct _GstPlayBinClass GstPlayBinClass;
  44
  45 struct _GstPlayBin
  46 {
  47   GstPlayBaseBin parent;
  48
  49   /* the configurable elements */
  50   GstElement *fakesink;
  51   GstElement *audio_sink;
  52   GstElement *video_sink;
  53   GstElement *visualisation;
  54   GstElement *volume_element;
  55   GstElement *textoverlay_element;
  56   gfloat volume;
  57
  58   /* these are the currently active sinks */
  59   GList *sinks;
  60
  61   /* the last captured frame for snapshots */
  62   GstBuffer *frame;
  63
  64   /* our cache for the sinks */
  65   GHashTable *cache;
  66
  67   /* font description */
  68   gchar *font_desc;
  69 };
  70
  71 struct _GstPlayBinClass
  72 {
  73   GstPlayBaseBinClass parent_class;
  74 };
  75
  76 /* props */
  77 enum
  78 {
  79   ARG_0,
  80   ARG_AUDIO_SINK,
  81   ARG_VIDEO_SINK,
  82   ARG_VIS_PLUGIN,
  83   ARG_VOLUME,
  84   ARG_FRAME,
  85   ARG_FONT_DESC
  86 };
  87
  88 /* signals */
  89 enum
  90 {
  91   LAST_SIGNAL
  92 };
  93
  94 static void gst_play_bin_class_init (GstPlayBinClass * klass);
  95 static void gst_play_bin_init (GstPlayBin * play_bin);
  96 static void gst_play_bin_dispose (GObject * object);
  97
  98 static void setup_sinks (GstPlayBaseBin * play_base_bin,
  99     GstPlayBaseGroup * group);
 100 static void remove_sinks (GstPlayBin * play_bin);
 101
 102 static void gst_play_bin_set_property (GObject * object, guint prop_id,
 103     const GValue * value, GParamSpec * spec);
 104 static void gst_play_bin_get_property (GObject * object, guint prop_id,
 105     GValue * value, GParamSpec * spec);
 106
 107 static gboolean gst_play_bin_send_event (GstElement * element,
 108     GstEvent * event);
 109 static GstStateChangeReturn gst_play_bin_change_state (GstElement * element,
 110     GstStateChange transition);
 111
 112 static GstElementClass *parent_class;
 113
 114 //static guint gst_play_bin_signals[LAST_SIGNAL] = { 0 };
 115
 116 static GstElementDetails gst_play_bin_details = {
 117   "Player Bin",
 118   "Generic/Bin/Player",
 119   "Autoplug and play media from an uri",
 120   "Wim Taymans <wim@fluendo.com>"
 121 };
 122
 123 static GType
 124 gst_play_bin_get_type (void)
 125 {
 126   static GType gst_play_bin_type = 0;
 127
 128   if (!gst_play_bin_type) {
 129     static const GTypeInfo gst_play_bin_info = {
 130       sizeof (GstPlayBinClass),
 131       NULL,
 132       NULL,
 133       (GClassInitFunc) gst_play_bin_class_init,
 134       NULL,
 135       NULL,
 136       sizeof (GstPlayBin),
 137       0,
 138       (GInstanceInitFunc) gst_play_bin_init,
 139       NULL
 140     };
 141
 142     gst_play_bin_type = g_type_register_static (GST_TYPE_PLAY_BASE_BIN,
 143         "GstPlayBin", &gst_play_bin_info, 0);
 144   }
 145
 146   return gst_play_bin_type;
 147 }
 148
 149 static void
 150 gst_play_bin_class_init (GstPlayBinClass * klass)
 151 {
 152   GObjectClass *gobject_klass;
 153   GstElementClass *gstelement_klass;
 154   GstBinClass *gstbin_klass;
 155   GstPlayBaseBinClass *playbasebin_klass;
 156
 157   gobject_klass = (GObjectClass *) klass;
 158   gstelement_klass = (GstElementClass *) klass;
 159   gstbin_klass = (GstBinClass *) klass;
 160   playbasebin_klass = (GstPlayBaseBinClass *) klass;
 161
 162   parent_class = g_type_class_ref (gst_play_base_bin_get_type ());
 163
 164   gobject_klass->set_property = gst_play_bin_set_property;
 165   gobject_klass->get_property = gst_play_bin_get_property;
 166
 167   g_object_class_install_property (gobject_klass, ARG_VIDEO_SINK,
 168       g_param_spec_object ("video-sink", "Video Sink",
 169           "the video output element to use (NULL = default sink)",
 170           GST_TYPE_ELEMENT, G_PARAM_READWRITE));
 171   g_object_class_install_property (gobject_klass, ARG_AUDIO_SINK,
 172       g_param_spec_object ("audio-sink", "Audio Sink",
 173           "the audio output element to use (NULL = default sink)",
 174           GST_TYPE_ELEMENT, G_PARAM_READWRITE));
 175   g_object_class_install_property (gobject_klass, ARG_VIS_PLUGIN,
 176       g_param_spec_object ("vis-plugin", "Vis plugin",
 177           "the visualization element to use (NULL = none)",
 178           GST_TYPE_ELEMENT, G_PARAM_READWRITE));
 179   g_object_class_install_property (gobject_klass, ARG_VOLUME,
 180       g_param_spec_double ("volume", "volume", "volume",
 181           0.0, VOLUME_MAX_DOUBLE, 1.0, G_PARAM_READWRITE));
 182   g_object_class_install_property (gobject_klass, ARG_FRAME,
 183       gst_param_spec_mini_object ("frame", "Frame",
 184           "The last frame (NULL = no video available)",
 185           GST_TYPE_BUFFER, G_PARAM_READABLE));
 186   g_object_class_install_property (gobject_klass, ARG_FONT_DESC,
 187       g_param_spec_string ("subtitle-font-desc",
 188           "Subtitle font description",
 189           "Pango font description of font "
 190           "to be used for subtitle rendering", NULL, G_PARAM_WRITABLE));
 191
 192   gobject_klass->dispose = GST_DEBUG_FUNCPTR (gst_play_bin_dispose);
 193
 194   gst_element_class_set_details (gstelement_klass, &gst_play_bin_details);
 195
 196   gstelement_klass->change_state =
 197       GST_DEBUG_FUNCPTR (gst_play_bin_change_state);
 198   gstelement_klass->send_event = GST_DEBUG_FUNCPTR (gst_play_bin_send_event);
 199
 200   playbasebin_klass->setup_output_pads = setup_sinks;
 201 }
 202
 203 static void
 204 gst_play_bin_init (GstPlayBin * play_bin)
 205 {
 206   play_bin->video_sink = NULL;
 207   play_bin->audio_sink = NULL;
 208   play_bin->visualisation = NULL;
 209   play_bin->volume_element = NULL;
 210   play_bin->textoverlay_element = NULL;
 211   play_bin->volume = 1.0;
 212   play_bin->sinks = NULL;
 213   play_bin->frame = NULL;
 214   play_bin->font_desc = NULL;
 215   play_bin->cache = g_hash_table_new_full (g_str_hash, g_str_equal,
 216       NULL, (GDestroyNotify) gst_object_unref);
 217 }
 218
 219 static void
 220 gst_play_bin_dispose (GObject * object)
 221 {
 222   GstPlayBin *play_bin;
 223
 224   play_bin = GST_PLAY_BIN (object);
 225
 226   if (play_bin->cache != NULL) {
 227     remove_sinks (play_bin);
 228     g_hash_table_destroy (play_bin->cache);
 229     play_bin->cache = NULL;
 230   }
 231
 232   if (play_bin->audio_sink != NULL) {
 233     gst_element_set_state (play_bin->audio_sink, GST_STATE_NULL);
 234     gst_object_unref (play_bin->audio_sink);
 235     play_bin->audio_sink = NULL;
 236   }
 237   if (play_bin->video_sink != NULL) {
 238     gst_element_set_state (play_bin->video_sink, GST_STATE_NULL);
 239     gst_object_unref (play_bin->video_sink);
 240     play_bin->video_sink = NULL;
 241   }
 242   if (play_bin->visualisation != NULL) {
 243     gst_element_set_state (play_bin->visualisation, GST_STATE_NULL);
 244     gst_object_unref (play_bin->visualisation);
 245     play_bin->visualisation = NULL;
 246   }
 247   g_free (play_bin->font_desc);
 248   play_bin->font_desc = NULL;
 249
 250   G_OBJECT_CLASS (parent_class)->dispose (object);
 251 }
 252
 253
 254 static void
 255 gst_play_bin_set_property (GObject * object, guint prop_id,
 256     const GValue * value, GParamSpec * pspec)
 257 {
 258   GstPlayBin *play_bin;
 259
 260   g_return_if_fail (GST_IS_PLAY_BIN (object));
 261
 262   play_bin = GST_PLAY_BIN (object);
 263
 264   switch (prop_id) {
 265     case ARG_VIDEO_SINK:
 266       if (play_bin->video_sink != NULL) {
 267         gst_object_unref (play_bin->video_sink);
 268       }
 269       play_bin->video_sink = g_value_get_object (value);
 270       if (play_bin->video_sink != NULL) {
 271         gst_object_ref (play_bin->video_sink);
 272         gst_object_sink (GST_OBJECT (play_bin->video_sink));
 273       }
 274       /* when changing the videosink, we just remove the
 275        * video pipeline from the cache so that it will be
 276        * regenerated with the new sink element */
 277       g_hash_table_remove (play_bin->cache, "vbin");
 278       break;
 279     case ARG_AUDIO_SINK:
 280       if (play_bin->audio_sink != NULL) {
 281         gst_object_unref (play_bin->audio_sink);
 282       }
 283       play_bin->audio_sink = g_value_get_object (value);
 284       if (play_bin->audio_sink != NULL) {
 285         gst_object_ref (play_bin->audio_sink);
 286         gst_object_sink (GST_OBJECT (play_bin->audio_sink));
 287       }
 288       g_hash_table_remove (play_bin->cache, "abin");
 289       break;
 290     case ARG_VIS_PLUGIN:
 291       if (play_bin->visualisation != NULL) {
 292         gst_object_unref (play_bin->visualisation);
 293       }
 294       play_bin->visualisation = g_value_get_object (value);
 295       if (play_bin->visualisation != NULL) {
 296         gst_object_ref (play_bin->visualisation);
 297         gst_object_sink (GST_OBJECT (play_bin->visualisation));
 298       }
 299       break;
 300     case ARG_VOLUME:
 301       play_bin->volume = g_value_get_double (value);
 302       if (play_bin->volume_element) {
 303         g_object_set (G_OBJECT (play_bin->volume_element), "volume",
 304             play_bin->volume, NULL);
 305       }
 306       break;
 307     case ARG_FONT_DESC:
 308       g_free (play_bin->font_desc);
 309       play_bin->font_desc = g_strdup (g_value_get_string (value));
 310       if (play_bin->textoverlay_element) {
 311         g_object_set (G_OBJECT (play_bin->textoverlay_element),
 312             "font-desc", g_value_get_string (value), NULL);
 313       }
 314       break;
 315     default:
 316       G_OBJECT_WARN_INVALID_PROPERTY_ID (object, prop_id, pspec);
 317       break;
 318   }
 319 }
 320
 321 static void
 322 gst_play_bin_get_property (GObject * object, guint prop_id, GValue * value,
 323     GParamSpec * pspec)
 324 {
 325   GstPlayBin *play_bin;
 326
 327   g_return_if_fail (GST_IS_PLAY_BIN (object));
 328
 329   play_bin = GST_PLAY_BIN (object);
 330
 331   switch (prop_id) {
 332     case ARG_VIDEO_SINK:
 333       g_value_set_object (value, play_bin->video_sink);
 334       break;
 335     case ARG_AUDIO_SINK:
 336       g_value_set_object (value, play_bin->audio_sink);
 337       break;
 338     case ARG_VIS_PLUGIN:
 339       g_value_set_object (value, play_bin->visualisation);
 340       break;
 341     case ARG_VOLUME:
 342       g_value_set_double (value, play_bin->volume);
 343       break;
 344     case ARG_FRAME:
 345       gst_value_set_mini_object (value, GST_MINI_OBJECT (play_bin->frame));
 346       break;
 347     default:
 348       G_OBJECT_WARN_INVALID_PROPERTY_ID (object, prop_id, pspec);
 349       break;
 350   }
 351 }
 352
 353 /* signal fired when the identity has received a new buffer. This is used for
 354  * making screenshots.
 355  */
 356 static void
 357 handoff (GstElement * identity, GstBuffer * frame, gpointer data)
 358 {
 359   GstPlayBin *play_bin = GST_PLAY_BIN (data);
 360
 361   if (play_bin->frame) {
 362     gst_buffer_unref (play_bin->frame);
 363   }
 364   play_bin->frame = gst_buffer_ref (frame);
 365 }
 366
 367 /* make the element (bin) that contains the elements needed to perform
 368  * video display. We connect a handoff signal to identity so that we
 369  * can grab snapshots. Identity's sinkpad is ghosted to vbin.
 370  *
 371  *  +-------------------------------------------------------------+
 372  *  | vbin                                                        |
 373  *  |      +--------+   +----------+   +----------+   +---------+ |
 374  *  |      |identity|   |colorspace|   |videoscale|   |videosink| |
 375  *  |   +-sink     src-sink       src-sink       src-sink       | |
 376  *  |   |  +---+----+   +----------+   +----------+   +---------+ |
 377  * sink-+      |                                                  |
 378  *  +----------|--------------------------------------------------+
 379  *           handoff
 380  */
 381 /* FIXME: this might return NULL if no videosink was found, handle
 382  * this in callers */
 383 static GstElement *
 384 gen_video_element (GstPlayBin * play_bin)
 385 {
 386   GstElement *element;
 387   GstElement *conv;
 388
 389   GstElement *scale;
 390   GstElement *sink;
 391   GstElement *identity;
 392   GstPad *pad;
 393
 394   /* first see if we have it in the cache */
 395   element = g_hash_table_lookup (play_bin->cache, "vbin");
 396   if (element != NULL) {
 397     return element;
 398   }
 399
 400   if (play_bin->video_sink) {
 401     sink = play_bin->video_sink;
 402   } else {
 403     sink = gst_element_factory_make ("autovideosink", "videosink");
 404     if (sink == NULL) {
 405       sink = gst_element_factory_make ("xvimagesink", "videosink");
 406     }
 407     /* FIXME: this warrants adding a CORE error category for missing
 408      * elements/plugins */
 409     if (sink == NULL) {
 410       GST_ELEMENT_ERROR (play_bin, CORE, FAILED,
 411           (_("Both autovideosink and xvimagesink elements are missing.")),
 412           (NULL));
 413       return NULL;
 414     }
 415   }
 416   gst_object_ref (sink);
 417   g_hash_table_insert (play_bin->cache, "video_sink", sink);
 418
 419
 420   element = gst_bin_new ("vbin");
 421   identity = gst_element_factory_make ("identity", "id");
 422   g_object_set (identity, "silent", TRUE, NULL);
 423   g_signal_connect (identity, "handoff", G_CALLBACK (handoff), play_bin);
 424   conv = gst_element_factory_make ("ffmpegcolorspace", "vconv");
 425   scale = gst_element_factory_make ("videoscale", "vscale");
 426   gst_bin_add (GST_BIN (element), identity);
 427   gst_bin_add (GST_BIN (element), conv);
 428   gst_bin_add (GST_BIN (element), scale);
 429   gst_bin_add (GST_BIN (element), sink);
 430   gst_element_link_pads (identity, "src", conv, "sink");
 431   gst_element_link_pads (conv, "src", scale, "sink");
 432   gst_element_link_pads (scale, "src", sink, "sink");
 433
 434   pad = gst_element_get_pad (identity, "sink");
 435   gst_element_add_pad (element, gst_ghost_pad_new ("sink", pad));
 436   gst_object_unref (pad);
 437
 438   gst_element_set_state (element, GST_STATE_READY);
 439
 440   /* since we're gonna add it to a bin but don't want to lose it,
 441    * we keep a reference. */
 442   gst_object_ref (element);
 443   g_hash_table_insert (play_bin->cache, "vbin", element);
 444
 445   return element;
 446 }
 447
 448 /* make an element for playback of video with subtitles embedded.
 449  *
 450  *  +--------------------------------------------------+
 451  *  | tbin                  +-------------+            |
 452  *  |          +-----+      | textoverlay |   +------+ |
 453  *  |          | csp | +--video_sink      |   | vbin | |
 454  * video_sink-sink  src+ +-text_sink     src-sink    | |
 455  *  |          +-----+   |  +-------------+   +------+ |
 456  * text_sink-------------+                             |
 457  *  +--------------------------------------------------+
 458  */
 459
 460 static GstElement *
 461 gen_text_element (GstPlayBin * play_bin)
 462 {
 463   GstElement *element, *csp, *overlay, *vbin;
 464   GstPad *pad;
 465
 466   overlay = gst_element_factory_make ("textoverlay", "overlay");
 467   g_object_set (G_OBJECT (overlay),
 468       "halign", "center", "valign", "bottom", NULL);
 469   play_bin->textoverlay_element = overlay;
 470   if (play_bin->font_desc) {
 471     g_object_set (G_OBJECT (play_bin->textoverlay_element),
 472         "font-desc", play_bin->font_desc, NULL);
 473   }
 474   vbin = gen_video_element (play_bin);
 475   if (!overlay) {
 476     g_warning ("No overlay (pango) element, subtitles disabled");
 477     return vbin;
 478   }
 479   csp = gst_element_factory_make ("ffmpegcolorspace", "subtitlecsp");
 480   element = gst_bin_new ("textbin");
 481   gst_element_link_many (csp, overlay, vbin, NULL);
 482   gst_bin_add_many (GST_BIN (element), csp, overlay, vbin, NULL);
 483
 484   pad = gst_element_get_pad (overlay, "text_sink");
 485 #define gst_element_add_ghost_pad(element, pad, name) \
 486     gst_element_add_pad (element, gst_ghost_pad_new (name, pad))
 487   gst_element_add_ghost_pad (element, pad, "text_sink");
 488   gst_object_unref (pad);
 489
 490   pad = gst_element_get_pad (csp, "sink");
 491   gst_element_add_ghost_pad (element, pad, "sink");
 492   gst_object_unref (pad);
 493
 494   return element;
 495 }
 496
 497 /* make the element (bin) that contains the elements needed to perform
 498  * audio playback.
 499  *
 500  *  +-------------------------------------------------------------+
 501  *  | abin                                                        |
 502  *  |      +---------+   +----------+   +---------+   +---------+ |
 503  *  |      |audioconv|   |audioscale|   | volume  |   |audiosink| |
 504  *  |   +-sink      src-sink       src-sink      src-sink       | |
 505  *  |   |  +---------+   +----------+   +---------+   +---------+ |
 506  * sink-+                                                         |
 507  *  +-------------------------------------------------------------+
 508  *
 509  */
 510 static GstElement *
 511 gen_audio_element (GstPlayBin * play_bin)
 512 {
 513   GstElement *element;
 514   GstElement *conv;
 515   GstElement *sink;
 516   GstElement *volume;
 517   GstElement *scale;
 518   GstPad *pad;
 519
 520   element = g_hash_table_lookup (play_bin->cache, "abin");
 521   if (element != NULL) {
 522     return element;
 523   }
 524   element = gst_bin_new ("abin");
 525   conv = gst_element_factory_make ("audioconvert", "aconv");
 526   scale = gst_element_factory_make ("audioscale", "ascale");
 527
 528   volume = gst_element_factory_make ("volume", "volume");
 529   g_object_set (G_OBJECT (volume), "volume", play_bin->volume, NULL);
 530   play_bin->volume_element = volume;
 531
 532   if (play_bin->audio_sink) {
 533     sink = play_bin->audio_sink;
 534   } else {
 535     sink = gst_element_factory_make ("alsasink", "audiosink");
 536     if (sink == NULL) {
 537       g_warning ("could not create autoaudiosink element");
 538     }
 539     play_bin->audio_sink = GST_ELEMENT (gst_object_ref (sink));
 540   }
 541
 542   gst_object_ref (sink);
 543   g_hash_table_insert (play_bin->cache, "audio_sink", sink);
 544
 545   gst_bin_add (GST_BIN (element), conv);
 546   //gst_bin_add (GST_BIN (element), scale);
 547   gst_bin_add (GST_BIN (element), volume);
 548   gst_bin_add (GST_BIN (element), sink);
 549
 550   gst_element_link_pads (conv, "src",   /*scale, "sink");
 551                                            gst_element_link_pads (scale, "src", */ volume, "sink");
 552   gst_element_link_pads (volume, "src", sink, "sink");
 553
 554   pad = gst_element_get_pad (conv, "sink");
 555   gst_element_add_ghost_pad (element, pad, "sink");
 556   gst_object_unref (pad);
 557
 558   gst_element_set_state (element, GST_STATE_READY);
 559
 560   /* since we're gonna add it to a bin but don't want to lose it,
 561    * we keep a reference. */
 562   gst_object_ref (element);
 563   g_hash_table_insert (play_bin->cache, "abin", element);
 564
 565   return element;
 566 }
 567
 568 /* make the element (bin) that contains the elements needed to perform
 569  * visualisation ouput.  The idea is to split the audio using tee, then
 570  * sending the output to the regular audio bin and the other output to
 571  * the vis plugin that transforms it into a video that is rendered with the
 572  * normal video bin. The video bin is run in a thread to make sure it does
 573  * not block the audio playback pipeline.
 574  *
 575  *  +--------------------------------------------------------------------------+
 576  *  | visbin                                                                   |
 577  *  |      +------+   +----------------+                                       |
 578  *  |      | tee  |   |   abin ...     |                                       |
 579  *  |   +-sink   src-sink              |                                       |
 580  *  |   |  |      |   +----------------+                 +-------------------+ |
 581  *  |   |  |      |                                      | vthread           | |
 582  *  |   |  |      |   +---------+   +------+   +------+  | +--------------+  | |
 583  *  |   |  |      |   |audioconv|   | vis  |   |vqueue|  | | vbin ...     |  | |
 584  *  |   |  |     src-sink      src-sink   src-sink   src-sink             |  | |
 585  *  |   |  |      |   +---------+   +------+   +------+  | +--------------+  | |
 586  *  |   |  |      |                                      +-------------------+ |
 587  *  |   |  +------+                                                            |
 588  * sink-+                                                                      |
 589    +--------------------------------------------------------------------------+
 590  */
 591 static GstElement *
 592 gen_vis_element (GstPlayBin * play_bin)
 593 {
 594   GstElement *element;
 595   GstElement *tee;
 596   GstElement *asink;
 597   GstElement *vsink;
 598   GstElement *conv;
 599   GstElement *vis;
 600   GstElement *vqueue, *aqueue;
 601   GstPad *pad, *rpad;
 602
 603   element = gst_bin_new ("visbin");
 604   tee = gst_element_factory_make ("tee", "tee");
 605
 606   vqueue = gst_element_factory_make ("queue", "vqueue");
 607   aqueue = gst_element_factory_make ("queue", "aqueue");
 608
 609   asink = gen_audio_element (play_bin);
 610   vsink = gen_video_element (play_bin);
 611
 612   gst_bin_add (GST_BIN (element), asink);
 613   gst_bin_add (GST_BIN (element), vqueue);
 614   gst_bin_add (GST_BIN (element), aqueue);
 615   gst_bin_add (GST_BIN (element), vsink);
 616   gst_bin_add (GST_BIN (element), tee);
 617
 618   conv = gst_element_factory_make ("audioconvert", "aconv");
 619   if (play_bin->visualisation) {
 620     gst_object_ref (play_bin->visualisation);
 621     vis = play_bin->visualisation;
 622   } else {
 623     vis = gst_element_factory_make ("goom", "vis");
 624   }
 625
 626   gst_bin_add (GST_BIN (element), conv);
 627   gst_bin_add (GST_BIN (element), vis);
 628
 629   gst_element_link_pads (conv, "src", vis, "sink");
 630   gst_element_link_pads (vis, "src", vqueue, "sink");
 631
 632   gst_element_link_pads (vqueue, "src", vsink, "sink");
 633
 634   pad = gst_element_get_pad (aqueue, "sink");
 635   rpad = gst_element_get_request_pad (tee, "src%d");
 636   gst_pad_link (rpad, pad);
 637   gst_object_unref (rpad);
 638   gst_object_unref (pad);
 639   gst_element_link_pads (aqueue, "src", asink, "sink");
 640
 641   pad = gst_element_get_pad (conv, "sink");
 642   rpad = gst_element_get_request_pad (tee, "src%d");
 643   gst_pad_link (rpad, pad);
 644   gst_object_unref (rpad);
 645   gst_object_unref (pad);
 646
 647   pad = gst_element_get_pad (tee, "sink");
 648   gst_element_add_ghost_pad (element, pad, "sink");
 649   gst_object_unref (pad);
 650
 651   return element;
 652 }
 653
 654 /* get rid of all installed sinks */
 655 static void
 656 remove_sinks (GstPlayBin * play_bin)
 657 {
 658   GList *sinks;
 659   GstObject *parent;
 660   GstElement *element;
 661   GstPad *pad, *peer;
 662
 663   GST_DEBUG ("removesinks");
 664   element = g_hash_table_lookup (play_bin->cache, "abin");
 665   if (element != NULL) {
 666     parent = gst_element_get_parent (element);
 667     if (parent != NULL) {
 668       /* we remove the element from the parent so that
 669        * there is no unwanted state change when the parent
 670        * is disposed */
 671       play_bin->sinks = g_list_remove (play_bin->sinks, element);
 672       gst_element_set_state (element, GST_STATE_NULL);
 673       gst_bin_remove (GST_BIN (parent), element);
 674       gst_object_unref (parent);
 675     }
 676     pad = gst_element_get_pad (element, "sink");
 677     if (pad != NULL) {
 678       peer = gst_pad_get_peer (pad);
 679       if (peer != NULL) {
 680         gst_pad_unlink (peer, pad);
 681         gst_object_unref (peer);
 682       }
 683       gst_object_unref (pad);
 684     }
 685   }
 686   element = g_hash_table_lookup (play_bin->cache, "vbin");
 687   if (element != NULL) {
 688     parent = gst_element_get_parent (element);
 689     if (parent != NULL) {
 690       play_bin->sinks = g_list_remove (play_bin->sinks, element);
 691       gst_element_set_state (element, GST_STATE_NULL);
 692       gst_bin_remove (GST_BIN (parent), element);
 693       gst_object_unref (parent);
 694     }
 695     pad = gst_element_get_pad (element, "sink");
 696     if (pad != NULL) {
 697       peer = gst_pad_get_peer (pad);
 698       if (peer != NULL) {
 699         gst_pad_unlink (peer, pad);
 700         gst_object_unref (peer);
 701       }
 702       gst_object_unref (pad);
 703     }
 704   }
 705
 706   for (sinks = play_bin->sinks; sinks; sinks = g_list_next (sinks)) {
 707     GstElement *element = GST_ELEMENT (sinks->data);
 708     GstPad *pad;
 709     GstPad *peer;
 710
 711     pad = gst_element_get_pad (element, "sink");
 712
 713     GST_LOG ("removing sink %p", element);
 714
 715     peer = gst_pad_get_peer (pad);
 716     if (peer) {
 717       gst_pad_unlink (peer, pad);
 718       gst_object_unref (peer);
 719     }
 720     gst_object_unref (pad);
 721
 722     gst_element_set_state (element, GST_STATE_NULL);
 723     gst_bin_remove (GST_BIN (play_bin), element);
 724   }
 725   g_list_free (play_bin->sinks);
 726   play_bin->sinks = NULL;
 727
 728   /* FIXME: this is probably some refcounting problem */
 729   if (play_bin->visualisation && GST_OBJECT_PARENT (play_bin->visualisation)) {
 730     gst_element_set_state (play_bin->visualisation, GST_STATE_NULL);
 731     gst_bin_remove (GST_BIN (GST_OBJECT_PARENT (play_bin->visualisation)),
 732         play_bin->visualisation);
 733   }
 734
 735   if (play_bin->frame) {
 736     gst_buffer_unref (play_bin->frame);
 737     play_bin->frame = NULL;
 738   }
 739
 740   play_bin->textoverlay_element = NULL;
 741 }
 742
 743 /* loop over the streams and set up the pipeline to play this
 744  * media file. First we count the number of audio and video streams.
 745  * If there is no video stream but there exists an audio stream,
 746  * we install a visualisation pipeline.
 747  *
 748  * Also make sure to only connect the first audio and video pad. FIXME
 749  * this should eventually be handled with a tuner interface so that
 750  * one can switch the streams.
 751  */
 752 static gboolean
 753 add_sink (GstPlayBin * play_bin, GstElement * sink, GstPad * srcpad)
 754 {
 755   GstPad *sinkpad;
 756   GstPadLinkReturn res;
 757   GstElement *parent;
 758
 759   gst_bin_add (GST_BIN (play_bin), sink);
 760
 761   /* we found a sink for this stream, now try to install it */
 762   sinkpad = gst_element_get_pad (sink, "sink");
 763   res = gst_pad_link (srcpad, sinkpad);
 764   gst_object_unref (sinkpad);
 765
 766   /* this is only for debugging */
 767   parent = gst_pad_get_parent_element (srcpad);
 768   if (parent) {
 769     GST_DEBUG ("Adding sink with state %d (parent: %d, peer: %d)",
 770         GST_STATE (sink), GST_STATE (play_bin), GST_STATE (parent));
 771     gst_object_unref (parent);
 772   }
 773
 774   /* try to link the pad of the sink to the stream */
 775   if (res < 0) {
 776     gchar *capsstr;
 777
 778     /* could not link this stream */
 779     capsstr = gst_caps_to_string (gst_pad_get_caps (srcpad));
 780     g_warning ("could not link %s: %d", capsstr, res);
 781     g_free (capsstr);
 782
 783     gst_element_set_state (sink, GST_STATE_NULL);
 784     gst_bin_remove (GST_BIN (play_bin), sink);
 785   } else {
 786     /* we got the sink succesfully linked, now keep the sink
 787      * in out internal list */
 788     play_bin->sinks = g_list_prepend (play_bin->sinks, sink);
 789     gst_element_set_state (sink,
 790         (GST_STATE (play_bin) == GST_STATE_PLAYING) ?
 791         GST_STATE_PLAYING : GST_STATE_PAUSED);
 792   }
 793
 794   return res;
 795 }
 796
 797 static void
 798 setup_sinks (GstPlayBaseBin * play_base_bin, GstPlayBaseGroup * group)
 799 {
 800   GstPlayBin *play_bin = GST_PLAY_BIN (play_base_bin);
 801   GList *streaminfo = NULL, *s;
 802   gboolean need_vis = FALSE;
 803   gboolean need_text = FALSE;
 804   GstPad *textsrcpad = NULL, *textsinkpad = NULL, *pad;
 805   GstElement *sink;
 806
 807   /* get rid of existing sinks */
 808   if (play_bin->sinks) {
 809     remove_sinks (play_bin);
 810   }
 811   GST_DEBUG ("setupsinks");
 812
 813   /* find out what to do */
 814   if (group->type[GST_STREAM_TYPE_VIDEO - 1].npads > 0 &&
 815       group->type[GST_STREAM_TYPE_TEXT - 1].npads > 0) {
 816     need_text = TRUE;
 817   } else if (group->type[GST_STREAM_TYPE_VIDEO - 1].npads == 0 &&
 818       group->type[GST_STREAM_TYPE_AUDIO - 1].npads > 0 &&
 819       play_bin->visualisation != NULL) {
 820     need_vis = TRUE;
 821   }
 822
 823   /* now actually connect everything */
 824   g_object_get (G_OBJECT (play_base_bin), "stream-info", &streaminfo, NULL);
 825   for (s = streaminfo; s; s = g_list_next (s)) {
 826     GObject *obj = G_OBJECT (s->data);
 827     gint type;
 828     GstObject *object;
 829
 830     g_object_get (obj, "type", &type, NULL);
 831     g_object_get (obj, "object", &object, NULL);
 832   }
 833
 834   /* link audio */
 835   if (group->type[GST_STREAM_TYPE_AUDIO - 1].npads > 0) {
 836     if (need_vis) {
 837       sink = gen_vis_element (play_bin);
 838     } else {
 839       sink = gen_audio_element (play_bin);
 840     }
 841     pad = gst_element_get_pad (group->type[GST_STREAM_TYPE_AUDIO - 1].preroll,
 842         "src");
 843     add_sink (play_bin, sink, pad);
 844     gst_object_unref (pad);
 845   }
 846
 847   /* link video */
 848   if (group->type[GST_STREAM_TYPE_VIDEO - 1].npads > 0) {
 849     if (need_text) {
 850       sink = gen_text_element (play_bin);
 851
 852       textsinkpad = gst_element_get_pad (sink, "text_sink");
 853       textsrcpad =
 854           gst_element_get_pad (group->type[GST_STREAM_TYPE_TEXT - 1].preroll,
 855           "src");
 856       gst_pad_link (textsrcpad, textsinkpad);
 857       gst_object_unref (textsinkpad);
 858       gst_object_unref (textsrcpad);
 859     } else {
 860       sink = gen_video_element (play_bin);
 861     }
 862     pad = gst_element_get_pad (group->type[GST_STREAM_TYPE_VIDEO - 1].preroll,
 863         "src");
 864     add_sink (play_bin, sink, pad);
 865     gst_object_unref (pad);
 866   }
 867
 868   /* remove the sinks now, pipeline get_state will now wait for the
 869    * sinks to preroll */
 870   if (play_bin->fakesink) {
 871     gst_element_set_state (play_bin->fakesink, GST_STATE_NULL);
 872     gst_bin_remove (GST_BIN (play_bin), play_bin->fakesink);
 873     play_bin->fakesink = NULL;
 874   }
 875 }
 876
 877 /* Send an event to our sinks until one of them works; don't then send to the
 878  * remaining sinks (unlike GstBin)
 879  */
 880 static gboolean
 881 gst_play_bin_send_event_to_sink (GstPlayBin * play_bin, GstEvent * event)
 882 {
 883   GList *sinks = play_bin->sinks;
 884   gboolean res = TRUE;
 885
 886   while (sinks) {
 887     GstElement *sink = GST_ELEMENT_CAST (sinks->data);
 888
 889     gst_event_ref (event);
 890     if ((res = gst_element_send_event (sink, event)))
 891       break;
 892
 893     sinks = g_list_next (sinks);
 894   }
 895
 896   gst_event_unref (event);
 897
 898   return res;
 899 }
 900
 901 static gboolean
 902 do_playbin_seek (GstElement * element, GstEvent * event)
 903 {
 904   gdouble rate;
 905   GstSeekFlags flags;
 906   gboolean flush;
 907   gboolean was_playing = FALSE;
 908   gboolean res;
 909
 910   gst_event_parse_seek (event, &rate, NULL, &flags, NULL, NULL, NULL, NULL);
 911
 912   flush = flags & GST_SEEK_FLAG_FLUSH;
 913
 914   if (flush) {
 915     GstState state;
 916
 917     /* need to call _get_state() since a bin state is only updated
 918      * with this call. */
 919     gst_element_get_state (element, &state, NULL, 0);
 920     was_playing = state == GST_STATE_PLAYING;
 921
 922     if (was_playing) {
 923       gst_element_set_state (element, GST_STATE_PAUSED);
 924     }
 925   }
 926
 927   res = gst_play_bin_send_event_to_sink (GST_PLAY_BIN (element), event);
 928
 929   if (flush && res) {
 930     /* need to reset the stream time to 0 after a flushing seek */
 931     gst_pipeline_set_new_stream_time (GST_PIPELINE (element), 0);
 932     if (was_playing)
 933       /* and continue playing */
 934       gst_element_set_state (element, GST_STATE_PLAYING);
 935   }
 936   return res;
 937 }
 938
 939 /* We only want to send the event to a single sink (overriding GstBin's
 940  * behaviour), but we want to keep GstPipeline's behaviour - wrapping seek
 941  * events appropriately. So, this is a messy duplication of code. */
 942 static gboolean
 943 gst_play_bin_send_event (GstElement * element, GstEvent * event)
 944 {
 945   gboolean res = FALSE;
 946   GstEventType event_type = GST_EVENT_TYPE (event);
 947
 948
 949   switch (event_type) {
 950     case GST_EVENT_SEEK:
 951       res = do_playbin_seek (element, event);
 952       break;
 953     default:
 954       res = gst_play_bin_send_event_to_sink (GST_PLAY_BIN (element), event);
 955       break;
 956   }
 957
 958   return res;
 959 }
 960
 961 static GstStateChangeReturn
 962 gst_play_bin_change_state (GstElement * element, GstStateChange transition)
 963 {
 964   GstStateChangeReturn ret;
 965   GstPlayBin *play_bin;
 966
 967   play_bin = GST_PLAY_BIN (element);
 968
 969
 970   switch (transition) {
 971     case GST_STATE_CHANGE_READY_TO_PAUSED:
 972       /* this really is the easiest way to make the state change return
 973        * ASYNC until we added the sinks */
 974       if (!play_bin->fakesink) {
 975         play_bin->fakesink = gst_element_factory_make ("fakesink", "test");
 976         gst_bin_add (GST_BIN (play_bin), play_bin->fakesink);
 977       }
 978       break;
 979     default:
 980       break;
 981   }
 982
 983   ret = GST_ELEMENT_CLASS (parent_class)->change_state (element, transition);
 984   if (ret == GST_STATE_CHANGE_FAILURE)
 985     return ret;
 986
 987   switch (transition) {
 988     case GST_STATE_CHANGE_PLAYING_TO_PAUSED:
 989       /* Set audio sink state to NULL to release the sound device,
 990        * but only if we own it (else we might be in chain-transition). */
 991       //if (play_bin->audio_sink != NULL &&
 992       //    GST_STATE (play_bin->audio_sink) == GST_STATE_PAUSED) {
 993       //  gst_element_set_state (play_bin->audio_sink, GST_STATE_NULL);
 994       //}
 995       break;
 996     case GST_STATE_CHANGE_PAUSED_TO_READY:
 997       /* Check for NULL because the state transition may be done by
 998        * gst_bin_dispose which is called by gst_play_bin_dispose, and in that
 999        * case, we don't want to run remove_sinks.
1000        * FIXME: should the NULL test be done in remove_sinks? Should we just
1001        * set the state to NULL in gst_play_bin_dispose?
1002        */
1003       if (play_bin->cache != NULL) {
1004         remove_sinks (play_bin);
1005       }
1006       if (play_bin->fakesink) {
1007         gst_element_set_state (play_bin->fakesink, GST_STATE_NULL);
1008         gst_bin_remove (GST_BIN (play_bin), play_bin->fakesink);
1009         play_bin->fakesink = NULL;
1010       }
1011       break;
1012     default:
1013       break;
1014   }
1015
1016   return ret;
1017 }
1018
1019 static gboolean
1020 plugin_init (GstPlugin * plugin)
1021 {
1022   GST_DEBUG_CATEGORY_INIT (gst_play_bin_debug, "playbin", 0, "play bin");
1023
1024   return gst_element_register (plugin, "playbin", GST_RANK_NONE,
1025       GST_TYPE_PLAY_BIN);
1026 }
1027
1028 GST_PLUGIN_DEFINE (GST_VERSION_MAJOR,
1029     GST_VERSION_MINOR,
1030     "playbin",
1031     "player bin", plugin_init, VERSION, GST_LICENSE, GST_PACKAGE_NAME,
1032     GST_PACKAGE_ORIGIN)