gst/playback/gstplaysinkvideoconvert.c

   1 /* GStreamer
   2  * Copyright (C) <2011> Sebastian Dröge <sebastian.droege@collabora.co.uk>
   3  *
   4  * This library is free software; you can redistribute it and/or
   5  * modify it under the terms of the GNU Library General Public
   6  * License as published by the Free Software Foundation; either
   7  * version 2 of the License, or (at your option) any later version.
   8  *
   9  * This library is distributed in the hope that it will be useful,
  10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  12  * Library General Public License for more details.
  13  *
  14  * You should have received a copy of the GNU Library General Public
  15  * License along with this library; if not, write to the
  16  * Free Software Foundation, Inc., 59 Temple Place - Suite 330,
  17  * Boston, MA 02111-1307, USA.
  18  */
  19
  20 #ifdef HAVE_CONFIG_H
  21 #include "config.h"
  22 #endif
  23
  24 #include "gstplaysinkvideoconvert.h"
  25
  26 #include <gst/pbutils/pbutils.h>
  27 #include <gst/gst-i18n-plugin.h>
  28
  29 GST_DEBUG_CATEGORY_STATIC (gst_play_sink_video_convert_debug);
  30 #define GST_CAT_DEFAULT gst_play_sink_video_convert_debug
  31
  32 #define parent_class gst_play_sink_video_convert_parent_class
  33
  34 G_DEFINE_TYPE (GstPlaySinkVideoConvert, gst_play_sink_video_convert,
  35     GST_TYPE_BIN);
  36
  37 static GstStaticPadTemplate srctemplate = GST_STATIC_PAD_TEMPLATE ("src",
  38     GST_PAD_SRC,
  39     GST_PAD_ALWAYS,
  40     GST_STATIC_CAPS_ANY);
  41
  42 static GstStaticPadTemplate sinktemplate = GST_STATIC_PAD_TEMPLATE ("sink",
  43     GST_PAD_SINK,
  44     GST_PAD_ALWAYS,
  45     GST_STATIC_CAPS_ANY);
  46
  47 static gboolean
  48 is_raw_caps (GstCaps * caps)
  49 {
  50   gint i, n;
  51   GstStructure *s;
  52   const gchar *name;
  53
  54   n = gst_caps_get_size (caps);
  55   for (i = 0; i < n; i++) {
  56     s = gst_caps_get_structure (caps, i);
  57     name = gst_structure_get_name (s);
  58     if (!g_str_has_prefix (name, "video/x-raw"))
  59       return FALSE;
  60   }
  61
  62   return TRUE;
  63 }
  64
  65 static void
  66 post_missing_element_message (GstPlaySinkVideoConvert * self,
  67     const gchar * name)
  68 {
  69   GstMessage *msg;
  70
  71   msg = gst_missing_element_message_new (GST_ELEMENT_CAST (self), name);
  72   gst_element_post_message (GST_ELEMENT_CAST (self), msg);
  73 }
  74
  75 static void
  76 distribute_running_time (GstElement * element, const GstSegment * segment)
  77 {
  78   GstEvent *event;
  79   GstPad *pad;
  80
  81   pad = gst_element_get_static_pad (element, "sink");
  82
  83   if (segment->accum) {
  84     event = gst_event_new_new_segment_full (FALSE, segment->rate,
  85         segment->applied_rate, segment->format, 0, segment->accum, 0);
  86     gst_pad_push_event (pad, event);
  87   }
  88
  89   event = gst_event_new_new_segment_full (FALSE, segment->rate,
  90       segment->applied_rate, segment->format,
  91       segment->start, segment->stop, segment->time);
  92   gst_pad_push_event (pad, event);
  93
  94   gst_object_unref (pad);
  95 }
  96
  97 static void
  98 pad_blocked_cb (GstPad * pad, gboolean blocked, GstPlaySinkVideoConvert * self)
  99 {
 100   GstPad *peer;
 101   GstCaps *caps;
 102   gboolean raw;
 103
 104   GST_PLAY_SINK_VIDEO_CONVERT_LOCK (self);
 105   self->sink_proxypad_blocked = blocked;
 106   GST_DEBUG_OBJECT (self, "Pad blocked: %d", blocked);
 107   if (!blocked)
 108     goto done;
 109
 110   /* There must be a peer at this point */
 111   peer = gst_pad_get_peer (self->sinkpad);
 112   caps = gst_pad_get_negotiated_caps (peer);
 113   if (!caps)
 114     caps = gst_pad_get_caps_reffed (peer);
 115   gst_object_unref (peer);
 116
 117   raw = is_raw_caps (caps);
 118   GST_DEBUG_OBJECT (self, "Caps %" GST_PTR_FORMAT " are raw: %d", caps, raw);
 119   gst_caps_unref (caps);
 120
 121   if (raw == self->raw)
 122     goto unblock;
 123   self->raw = raw;
 124
 125   if (raw) {
 126     GstBin *bin = GST_BIN_CAST (self);
 127     GstElement *head = NULL, *prev = NULL;
 128     GstPad *pad;
 129
 130     GST_DEBUG_OBJECT (self, "Creating raw conversion pipeline");
 131
 132     gst_ghost_pad_set_target (GST_GHOST_PAD_CAST (self->sinkpad), NULL);
 133     gst_ghost_pad_set_target (GST_GHOST_PAD_CAST (self->srcpad), NULL);
 134
 135     self->conv = gst_element_factory_make ("ffmpegcolorspace", "conv");
 136     if (self->conv == NULL) {
 137       post_missing_element_message (self, "ffmpegcolorspace");
 138       GST_ELEMENT_WARNING (self, CORE, MISSING_PLUGIN,
 139           (_("Missing element '%s' - check your GStreamer installation."),
 140               "ffmpegcolorspace"), ("video rendering might fail"));
 141     } else {
 142       gst_bin_add (bin, self->conv);
 143       gst_element_sync_state_with_parent (self->conv);
 144       distribute_running_time (self->conv, &self->segment);
 145       prev = head = self->conv;
 146     }
 147
 148     self->scale = gst_element_factory_make ("videoscale", "scale");
 149     if (self->scale == NULL) {
 150       post_missing_element_message (self, "videoscale");
 151       GST_ELEMENT_WARNING (self, CORE, MISSING_PLUGIN,
 152           (_("Missing element '%s' - check your GStreamer installation."),
 153               "videoscale"), ("possibly a liboil version mismatch?"));
 154     } else {
 155       /* Add black borders if necessary to keep the DAR */
 156       g_object_set (self->scale, "add-borders", TRUE, NULL);
 157       gst_bin_add (bin, self->scale);
 158       gst_element_sync_state_with_parent (self->scale);
 159       distribute_running_time (self->scale, &self->segment);
 160       if (prev) {
 161         if (!gst_element_link_pads_full (prev, "src", self->scale, "sink",
 162                 GST_PAD_LINK_CHECK_TEMPLATE_CAPS))
 163           goto link_failed;
 164       } else {
 165         head = self->scale;
 166       }
 167       prev = self->scale;
 168     }
 169
 170     if (head) {
 171       pad = gst_element_get_static_pad (head, "sink");
 172       gst_ghost_pad_set_target (GST_GHOST_PAD_CAST (self->sinkpad), pad);
 173       gst_object_unref (pad);
 174     }
 175
 176     if (prev) {
 177       pad = gst_element_get_static_pad (prev, "src");
 178       gst_ghost_pad_set_target (GST_GHOST_PAD_CAST (self->srcpad), pad);
 179       gst_object_unref (pad);
 180     }
 181
 182     if (!head && !prev) {
 183       gst_ghost_pad_set_target (GST_GHOST_PAD_CAST (self->srcpad),
 184           self->sink_proxypad);
 185     }
 186
 187     GST_DEBUG_OBJECT (self, "Raw conversion pipeline created");
 188   } else {
 189     GstBin *bin = GST_BIN_CAST (self);
 190
 191     GST_DEBUG_OBJECT (self, "Removing raw conversion pipeline");
 192
 193     gst_ghost_pad_set_target (GST_GHOST_PAD_CAST (self->sinkpad), NULL);
 194     gst_ghost_pad_set_target (GST_GHOST_PAD_CAST (self->srcpad), NULL);
 195
 196     if (self->conv) {
 197       gst_element_set_state (self->conv, GST_STATE_NULL);
 198       gst_bin_remove (bin, self->conv);
 199       self->conv = NULL;
 200     }
 201     if (self->scale) {
 202       gst_element_set_state (self->scale, GST_STATE_NULL);
 203       gst_bin_remove (bin, self->scale);
 204       self->scale = NULL;
 205     }
 206
 207     gst_ghost_pad_set_target (GST_GHOST_PAD_CAST (self->srcpad),
 208         self->sink_proxypad);
 209
 210     GST_DEBUG_OBJECT (self, "Raw conversion pipeline removed");
 211   }
 212
 213 unblock:
 214   gst_pad_set_blocked_async_full (self->sink_proxypad, FALSE,
 215       (GstPadBlockCallback) pad_blocked_cb, gst_object_ref (self),
 216       (GDestroyNotify) gst_object_unref);
 217
 218 done:
 219   GST_PLAY_SINK_VIDEO_CONVERT_UNLOCK (self);
 220   return;
 221
 222 link_failed:
 223   {
 224     GST_ELEMENT_ERROR (self, CORE, PAD,
 225         (NULL), ("Failed to configure the video converter."));
 226     gst_ghost_pad_set_target (GST_GHOST_PAD_CAST (self->srcpad),
 227         self->sink_proxypad);
 228     gst_pad_set_blocked_async_full (self->sink_proxypad, FALSE,
 229         (GstPadBlockCallback) pad_blocked_cb, gst_object_ref (self),
 230         (GDestroyNotify) gst_object_unref);
 231     return;
 232   }
 233 }
 234
 235 static gboolean
 236 gst_play_sink_video_convert_sink_event (GstPad * pad, GstEvent * event)
 237 {
 238   GstPlaySinkVideoConvert *self =
 239       GST_PLAY_SINK_VIDEO_CONVERT (gst_pad_get_parent (pad));
 240   gboolean ret;
 241
 242   ret = gst_proxy_pad_event_default (pad, gst_event_ref (event));
 243
 244   if (GST_EVENT_TYPE (event) == GST_EVENT_NEWSEGMENT) {
 245     gboolean update;
 246     gdouble rate, applied_rate;
 247     GstFormat format;
 248     gint64 start, stop, position;
 249
 250     GST_PLAY_SINK_VIDEO_CONVERT_LOCK (self);
 251     gst_event_parse_new_segment_full (event, &update, &rate, &applied_rate,
 252         &format, &start, &stop, &position);
 253
 254     GST_DEBUG_OBJECT (self, "Segment before %" GST_SEGMENT_FORMAT,
 255         &self->segment);
 256     gst_segment_set_newsegment_full (&self->segment, update, rate, applied_rate,
 257         format, start, stop, position);
 258     GST_DEBUG_OBJECT (self, "Segment after %" GST_SEGMENT_FORMAT,
 259         &self->segment);
 260     GST_PLAY_SINK_VIDEO_CONVERT_UNLOCK (self);
 261   } else if (GST_EVENT_TYPE (event) == GST_EVENT_FLUSH_STOP) {
 262     GST_PLAY_SINK_VIDEO_CONVERT_LOCK (self);
 263     GST_DEBUG_OBJECT (self, "Resetting segment");
 264     gst_segment_init (&self->segment, GST_FORMAT_UNDEFINED);
 265     GST_PLAY_SINK_VIDEO_CONVERT_UNLOCK (self);
 266   }
 267
 268   gst_event_unref (event);
 269   gst_object_unref (self);
 270
 271   return ret;
 272 }
 273
 274 static gboolean
 275 gst_play_sink_video_convert_sink_setcaps (GstPad * pad, GstCaps * caps)
 276 {
 277   GstPlaySinkVideoConvert *self =
 278       GST_PLAY_SINK_VIDEO_CONVERT (gst_pad_get_parent (pad));
 279   gboolean ret;
 280   GstStructure *s;
 281   const gchar *name;
 282   gboolean reconfigure = FALSE;
 283
 284   GST_PLAY_SINK_VIDEO_CONVERT_LOCK (self);
 285   s = gst_caps_get_structure (caps, 0);
 286   name = gst_structure_get_name (s);
 287
 288   if (g_str_has_prefix (name, "video/x-raw-")) {
 289     if (!self->raw && !gst_pad_is_blocked (self->sink_proxypad)) {
 290       GST_DEBUG_OBJECT (self, "Changing caps from non-raw to raw");
 291       reconfigure = TRUE;
 292       gst_pad_set_blocked_async_full (self->sink_proxypad, TRUE,
 293           (GstPadBlockCallback) pad_blocked_cb, gst_object_ref (self),
 294           (GDestroyNotify) gst_object_unref);
 295     }
 296   } else {
 297     if (self->raw && !gst_pad_is_blocked (self->sink_proxypad)) {
 298       GST_DEBUG_OBJECT (self, "Changing caps from raw to non-raw");
 299       reconfigure = TRUE;
 300       gst_pad_set_blocked_async_full (self->sink_proxypad, TRUE,
 301           (GstPadBlockCallback) pad_blocked_cb, gst_object_ref (self),
 302           (GDestroyNotify) gst_object_unref);
 303     }
 304   }
 305
 306   /* Otherwise the setcaps below fails */
 307   if (reconfigure) {
 308     gst_ghost_pad_set_target (GST_GHOST_PAD_CAST (self->sinkpad), NULL);
 309     gst_ghost_pad_set_target (GST_GHOST_PAD_CAST (self->srcpad), NULL);
 310   }
 311   GST_PLAY_SINK_VIDEO_CONVERT_UNLOCK (self);
 312
 313   ret = gst_ghost_pad_setcaps_default (pad, caps);
 314
 315   GST_DEBUG_OBJECT (self, "Setting sink caps %" GST_PTR_FORMAT ": %d", caps,
 316       ret);
 317
 318   gst_object_unref (self);
 319
 320   return ret;
 321 }
 322
 323 static GstCaps *
 324 gst_play_sink_video_convert_getcaps (GstPad * pad)
 325 {
 326   GstPlaySinkVideoConvert *self =
 327       GST_PLAY_SINK_VIDEO_CONVERT (gst_pad_get_parent (pad));
 328   GstCaps *ret;
 329   GstPad *otherpad, *peer;
 330
 331   GST_PLAY_SINK_VIDEO_CONVERT_LOCK (self);
 332   if (pad == self->srcpad)
 333     otherpad = gst_object_ref (self->sinkpad);
 334   else
 335     otherpad = gst_object_ref (self->srcpad);
 336   GST_PLAY_SINK_VIDEO_CONVERT_UNLOCK (self);
 337
 338   peer = gst_pad_get_peer (otherpad);
 339   if (peer) {
 340     ret = gst_pad_get_caps_reffed (peer);
 341     gst_object_unref (peer);
 342   } else {
 343     ret = gst_caps_new_any ();
 344   }
 345
 346   gst_object_unref (otherpad);
 347   gst_object_unref (self);
 348
 349   return ret;
 350 }
 351
 352 static void
 353 gst_play_sink_video_convert_finalize (GObject * object)
 354 {
 355   GstPlaySinkVideoConvert *self = GST_PLAY_SINK_VIDEO_CONVERT_CAST (object);
 356
 357   gst_object_unref (self->sink_proxypad);
 358   g_mutex_free (self->lock);
 359
 360   G_OBJECT_CLASS (parent_class)->finalize (object);
 361 }
 362
 363 static GstStateChangeReturn
 364 gst_play_sink_video_convert_change_state (GstElement * element,
 365     GstStateChange transition)
 366 {
 367   GstStateChangeReturn ret;
 368   GstPlaySinkVideoConvert *self = GST_PLAY_SINK_VIDEO_CONVERT_CAST (element);
 369
 370   switch (transition) {
 371     case GST_STATE_CHANGE_PAUSED_TO_READY:
 372       GST_PLAY_SINK_VIDEO_CONVERT_LOCK (self);
 373       if (gst_pad_is_blocked (self->sink_proxypad))
 374         gst_pad_set_blocked_async_full (self->sink_proxypad, FALSE,
 375             (GstPadBlockCallback) pad_blocked_cb, gst_object_ref (self),
 376             (GDestroyNotify) gst_object_unref);
 377       GST_PLAY_SINK_VIDEO_CONVERT_UNLOCK (self);
 378       break;
 379     default:
 380       break;
 381   }
 382
 383   ret = GST_ELEMENT_CLASS (parent_class)->change_state (element, transition);
 384   if (ret == GST_STATE_CHANGE_FAILURE)
 385     return ret;
 386
 387   switch (transition) {
 388     case GST_STATE_CHANGE_PAUSED_TO_READY:
 389       GST_PLAY_SINK_VIDEO_CONVERT_LOCK (self);
 390       gst_segment_init (&self->segment, GST_FORMAT_UNDEFINED);
 391       if (self->conv) {
 392         gst_element_set_state (self->conv, GST_STATE_NULL);
 393         gst_bin_remove (GST_BIN_CAST (self), self->conv);
 394         self->conv = NULL;
 395       }
 396       if (self->scale) {
 397         gst_element_set_state (self->scale, GST_STATE_NULL);
 398         gst_bin_remove (GST_BIN_CAST (self), self->scale);
 399         self->scale = NULL;
 400       }
 401       gst_ghost_pad_set_target (GST_GHOST_PAD_CAST (self->srcpad),
 402           self->sink_proxypad);
 403       self->raw = FALSE;
 404       GST_PLAY_SINK_VIDEO_CONVERT_UNLOCK (self);
 405       break;
 406     case GST_STATE_CHANGE_READY_TO_PAUSED:
 407       GST_PLAY_SINK_VIDEO_CONVERT_LOCK (self);
 408       if (!gst_pad_is_blocked (self->sink_proxypad))
 409         gst_pad_set_blocked_async_full (self->sink_proxypad, TRUE,
 410             (GstPadBlockCallback) pad_blocked_cb, gst_object_ref (self),
 411             (GDestroyNotify) gst_object_unref);
 412       GST_PLAY_SINK_VIDEO_CONVERT_UNLOCK (self);
 413     default:
 414       break;
 415   }
 416
 417   return ret;
 418 }
 419
 420 static void
 421 gst_play_sink_video_convert_class_init (GstPlaySinkVideoConvertClass * klass)
 422 {
 423   GObjectClass *gobject_class;
 424   GstElementClass *gstelement_class;
 425
 426   GST_DEBUG_CATEGORY_INIT (gst_play_sink_video_convert_debug,
 427       "playsinkvideoconvert", 0, "play bin");
 428
 429   gobject_class = (GObjectClass *) klass;
 430   gstelement_class = (GstElementClass *) klass;
 431
 432   gobject_class->finalize = gst_play_sink_video_convert_finalize;
 433
 434   gst_element_class_add_pad_template (gstelement_class,
 435       gst_static_pad_template_get (&srctemplate));
 436   gst_element_class_add_pad_template (gstelement_class,
 437       gst_static_pad_template_get (&sinktemplate));
 438   gst_element_class_set_details_simple (gstelement_class,
 439       "Player Sink Video Converter", "Video/Bin/Converter",
 440       "Convenience bin for video conversion",
 441       "Sebastian Dröge <sebastian.droege@collabora.co.uk>");
 442
 443   gstelement_class->change_state =
 444       GST_DEBUG_FUNCPTR (gst_play_sink_video_convert_change_state);
 445 }
 446
 447 static void
 448 gst_play_sink_video_convert_init (GstPlaySinkVideoConvert * self)
 449 {
 450   GstPadTemplate *templ;
 451
 452   self->lock = g_mutex_new ();
 453   gst_segment_init (&self->segment, GST_FORMAT_UNDEFINED);
 454
 455   templ = gst_static_pad_template_get (&sinktemplate);
 456   self->sinkpad = gst_ghost_pad_new_no_target_from_template ("sink", templ);
 457   gst_pad_set_event_function (self->sinkpad,
 458       GST_DEBUG_FUNCPTR (gst_play_sink_video_convert_sink_event));
 459   gst_pad_set_setcaps_function (self->sinkpad,
 460       GST_DEBUG_FUNCPTR (gst_play_sink_video_convert_sink_setcaps));
 461   gst_pad_set_getcaps_function (self->sinkpad,
 462       GST_DEBUG_FUNCPTR (gst_play_sink_video_convert_getcaps));
 463
 464   self->sink_proxypad =
 465       GST_PAD_CAST (gst_proxy_pad_get_internal (GST_PROXY_PAD (self->sinkpad)));
 466
 467   gst_element_add_pad (GST_ELEMENT_CAST (self), self->sinkpad);
 468   gst_object_unref (templ);
 469
 470   templ = gst_static_pad_template_get (&srctemplate);
 471   self->srcpad = gst_ghost_pad_new_no_target_from_template ("src", templ);
 472   gst_pad_set_getcaps_function (self->srcpad,
 473       GST_DEBUG_FUNCPTR (gst_play_sink_video_convert_getcaps));
 474   gst_element_add_pad (GST_ELEMENT_CAST (self), self->srcpad);
 475   gst_object_unref (templ);
 476
 477   gst_ghost_pad_set_target (GST_GHOST_PAD_CAST (self->srcpad),
 478       self->sink_proxypad);
 479 }