gst/rtpmanager/gstrtpbin.c

   1 /* GStreamer
   2  * Copyright (C) <2007> Wim Taymans <wim.taymans@gmail.com>
   3  *
   4  * This library is free software; you can redistribute it and/or
   5  * modify it under the terms of the GNU Library General Public
   6  * License as published by the Free Software Foundation; either
   7  * version 2 of the License, or (at your option) any later version.
   8  *
   9  * This library is distributed in the hope that it will be useful,
  10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  12  * Library General Public License for more details.
  13  *
  14  * You should have received a copy of the GNU Library General Public
  15  * License along with this library; if not, write to the
  16  * Free Software Foundation, Inc., 51 Franklin St, Fifth Floor,
  17  * Boston, MA 02110-1301, USA.
  18  */
  19
  20 /**
  21  * SECTION:element-gstrtpbin
  22  * @see_also: gstrtpjitterbuffer, gstrtpsession, gstrtpptdemux, gstrtpssrcdemux
  23  *
  24  * RTP bin combines the functions of #GstRtpSession, #GstRtpSsrcDemux,
  25  * #GstRtpJitterBuffer and #GstRtpPtDemux in one element. It allows for multiple
  26  * RTP sessions that will be synchronized together using RTCP SR packets.
  27  *
  28  * #GstRtpBin is configured with a number of request pads that define the
  29  * functionality that is activated, similar to the #GstRtpSession element.
  30  *
  31  * To use #GstRtpBin as an RTP receiver, request a recv_rtp_sink_\%u pad. The session
  32  * number must be specified in the pad name.
  33  * Data received on the recv_rtp_sink_\%u pad will be processed in the #GstRtpSession
  34  * manager and after being validated forwarded on #GstRtpSsrcDemux element. Each
  35  * RTP stream is demuxed based on the SSRC and send to a #GstRtpJitterBuffer. After
  36  * the packets are released from the jitterbuffer, they will be forwarded to a
  37  * #GstRtpPtDemux element. The #GstRtpPtDemux element will demux the packets based
  38  * on the payload type and will create a unique pad recv_rtp_src_\%u_\%u_\%u on
  39  * gstrtpbin with the session number, SSRC and payload type respectively as the pad
  40  * name.
  41  *
  42  * To also use #GstRtpBin as an RTCP receiver, request a recv_rtcp_sink_\%u pad. The
  43  * session number must be specified in the pad name.
  44  *
  45  * If you want the session manager to generate and send RTCP packets, request
  46  * the send_rtcp_src_\%u pad with the session number in the pad name. Packet pushed
  47  * on this pad contain SR/RR RTCP reports that should be sent to all participants
  48  * in the session.
  49  *
  50  * To use #GstRtpBin as a sender, request a send_rtp_sink_\%u pad, which will
  51  * automatically create a send_rtp_src_\%u pad. If the session number is not provided,
  52  * the pad from the lowest available session will be returned. The session manager will modify the
  53  * SSRC in the RTP packets to its own SSRC and wil forward the packets on the
  54  * send_rtp_src_\%u pad after updating its internal state.
  55  *
  56  * The session manager needs the clock-rate of the payload types it is handling
  57  * and will signal the #GstRtpSession::request-pt-map signal when it needs such a
  58  * mapping. One can clear the cached values with the #GstRtpSession::clear-pt-map
  59  * signal.
  60  *
  61  * Access to the internal statistics of gstrtpbin is provided with the
  62  * get-internal-session property. This action signal gives access to the
  63  * RTPSession object which further provides action signals to retrieve the
  64  * internal source and other sources.
  65  *
  66  * <refsect2>
  67  * <title>Example pipelines</title>
  68  * |[
  69  * gst-launch-1.0 udpsrc port=5000 caps="application/x-rtp, ..." ! .recv_rtp_sink_0 \
  70  *     gstrtpbin ! rtptheoradepay ! theoradec ! xvimagesink
  71  * ]| Receive RTP data from port 5000 and send to the session 0 in gstrtpbin.
  72  * |[
  73  * gst-launch-1.0 gstrtpbin name=rtpbin \
  74  *         v4l2src ! videoconvert ! ffenc_h263 ! rtph263ppay ! rtpbin.send_rtp_sink_0 \
  75  *                   rtpbin.send_rtp_src_0 ! udpsink port=5000                            \
  76  *                   rtpbin.send_rtcp_src_0 ! udpsink port=5001 sync=false async=false    \
  77  *                   udpsrc port=5005 ! rtpbin.recv_rtcp_sink_0                           \
  78  *         audiotestsrc ! amrnbenc ! rtpamrpay ! rtpbin.send_rtp_sink_1                   \
  79  *                   rtpbin.send_rtp_src_1 ! udpsink port=5002                            \
  80  *                   rtpbin.send_rtcp_src_1 ! udpsink port=5003 sync=false async=false    \
  81  *                   udpsrc port=5007 ! rtpbin.recv_rtcp_sink_1
  82  * ]| Encode and payload H263 video captured from a v4l2src. Encode and payload AMR
  83  * audio generated from audiotestsrc. The video is sent to session 0 in rtpbin
  84  * and the audio is sent to session 1. Video packets are sent on UDP port 5000
  85  * and audio packets on port 5002. The video RTCP packets for session 0 are sent
  86  * on port 5001 and the audio RTCP packets for session 0 are sent on port 5003.
  87  * RTCP packets for session 0 are received on port 5005 and RTCP for session 1
  88  * is received on port 5007. Since RTCP packets from the sender should be sent
  89  * as soon as possible and do not participate in preroll, sync=false and
  90  * async=false is configured on udpsink
  91  * |[
  92  * gst-launch-1.0 -v gstrtpbin name=rtpbin                                          \
  93  *     udpsrc caps="application/x-rtp,media=(string)video,clock-rate=(int)90000,encoding-name=(string)H263-1998" \
  94  *             port=5000 ! rtpbin.recv_rtp_sink_0                                \
  95  *         rtpbin. ! rtph263pdepay ! ffdec_h263 ! xvimagesink                    \
  96  *      udpsrc port=5001 ! rtpbin.recv_rtcp_sink_0                               \
  97  *      rtpbin.send_rtcp_src_0 ! udpsink port=5005 sync=false async=false        \
  98  *     udpsrc caps="application/x-rtp,media=(string)audio,clock-rate=(int)8000,encoding-name=(string)AMR,encoding-params=(string)1,octet-align=(string)1" \
  99  *             port=5002 ! rtpbin.recv_rtp_sink_1                                \
 100  *         rtpbin. ! rtpamrdepay ! amrnbdec ! alsasink                           \
 101  *      udpsrc port=5003 ! rtpbin.recv_rtcp_sink_1                               \
 102  *      rtpbin.send_rtcp_src_1 ! udpsink port=5007 sync=false async=false
 103  * ]| Receive H263 on port 5000, send it through rtpbin in session 0, depayload,
 104  * decode and display the video.
 105  * Receive AMR on port 5002, send it through rtpbin in session 1, depayload,
 106  * decode and play the audio.
 107  * Receive server RTCP packets for session 0 on port 5001 and RTCP packets for
 108  * session 1 on port 5003. These packets will be used for session management and
 109  * synchronisation.
 110  * Send RTCP reports for session 0 on port 5005 and RTCP reports for session 1
 111  * on port 5007.
 112  * </refsect2>
 113  *
 114  * Last reviewed on 2007-08-30 (0.10.6)
 115  */
 116
 117 #ifdef HAVE_CONFIG_H
 118 #include "config.h"
 119 #endif
 120 #include <stdio.h>
 121 #include <string.h>
 122
 123 #include <gst/rtp/gstrtpbuffer.h>
 124 #include <gst/rtp/gstrtcpbuffer.h>
 125
 126 #include "gstrtpbin-marshal.h"
 127 #include "gstrtpbin.h"
 128 #include "rtpsession.h"
 129 #include "gstrtpsession.h"
 130 #include "gstrtpjitterbuffer.h"
 131
 132 #include <gst/glib-compat-private.h>
 133
 134 GST_DEBUG_CATEGORY_STATIC (gst_rtp_bin_debug);
 135 #define GST_CAT_DEFAULT gst_rtp_bin_debug
 136
 137 /* sink pads */
 138 static GstStaticPadTemplate rtpbin_recv_rtp_sink_template =
 139 GST_STATIC_PAD_TEMPLATE ("recv_rtp_sink_%u",
 140     GST_PAD_SINK,
 141     GST_PAD_REQUEST,
 142     GST_STATIC_CAPS ("application/x-rtp")
 143     );
 144
 145 static GstStaticPadTemplate rtpbin_recv_rtcp_sink_template =
 146 GST_STATIC_PAD_TEMPLATE ("recv_rtcp_sink_%u",
 147     GST_PAD_SINK,
 148     GST_PAD_REQUEST,
 149     GST_STATIC_CAPS ("application/x-rtcp")
 150     );
 151
 152 static GstStaticPadTemplate rtpbin_send_rtp_sink_template =
 153 GST_STATIC_PAD_TEMPLATE ("send_rtp_sink_%u",
 154     GST_PAD_SINK,
 155     GST_PAD_REQUEST,
 156     GST_STATIC_CAPS ("application/x-rtp")
 157     );
 158
 159 /* src pads */
 160 static GstStaticPadTemplate rtpbin_recv_rtp_src_template =
 161 GST_STATIC_PAD_TEMPLATE ("recv_rtp_src_%u_%u_%u",
 162     GST_PAD_SRC,
 163     GST_PAD_SOMETIMES,
 164     GST_STATIC_CAPS ("application/x-rtp")
 165     );
 166
 167 static GstStaticPadTemplate rtpbin_send_rtcp_src_template =
 168 GST_STATIC_PAD_TEMPLATE ("send_rtcp_src_%u",
 169     GST_PAD_SRC,
 170     GST_PAD_REQUEST,
 171     GST_STATIC_CAPS ("application/x-rtcp")
 172     );
 173
 174 static GstStaticPadTemplate rtpbin_send_rtp_src_template =
 175 GST_STATIC_PAD_TEMPLATE ("send_rtp_src_%u",
 176     GST_PAD_SRC,
 177     GST_PAD_SOMETIMES,
 178     GST_STATIC_CAPS ("application/x-rtp")
 179     );
 180
 181 #define GST_RTP_BIN_GET_PRIVATE(obj)  \
 182    (G_TYPE_INSTANCE_GET_PRIVATE ((obj), GST_TYPE_RTP_BIN, GstRtpBinPrivate))
 183
 184 #define GST_RTP_BIN_LOCK(bin)   g_mutex_lock (&(bin)->priv->bin_lock)
 185 #define GST_RTP_BIN_UNLOCK(bin) g_mutex_unlock (&(bin)->priv->bin_lock)
 186
 187 /* lock to protect dynamic callbacks, like pad-added and new ssrc. */
 188 #define GST_RTP_BIN_DYN_LOCK(bin)    g_mutex_lock (&(bin)->priv->dyn_lock)
 189 #define GST_RTP_BIN_DYN_UNLOCK(bin)  g_mutex_unlock (&(bin)->priv->dyn_lock)
 190
 191 /* lock for shutdown */
 192 #define GST_RTP_BIN_SHUTDOWN_LOCK(bin,label)     \
 193 G_STMT_START {                                   \
 194   if (g_atomic_int_get (&bin->priv->shutdown))   \
 195     goto label;                                  \
 196   GST_RTP_BIN_DYN_LOCK (bin);                    \
 197   if (g_atomic_int_get (&bin->priv->shutdown)) { \
 198     GST_RTP_BIN_DYN_UNLOCK (bin);                \
 199     goto label;                                  \
 200   }                                              \
 201 } G_STMT_END
 202
 203 /* unlock for shutdown */
 204 #define GST_RTP_BIN_SHUTDOWN_UNLOCK(bin)         \
 205   GST_RTP_BIN_DYN_UNLOCK (bin);                  \
 206
 207 struct _GstRtpBinPrivate
 208 {
 209   GMutex bin_lock;
 210
 211   /* lock protecting dynamic adding/removing */
 212   GMutex dyn_lock;
 213
 214   /* if we are shutting down or not */
 215   gint shutdown;
 216
 217   gboolean autoremove;
 218
 219   /* UNIX (ntp) time of last SR sync used */
 220   guint64 last_unix;
 221 };
 222
 223 /* signals and args */
 224 enum
 225 {
 226   SIGNAL_REQUEST_PT_MAP,
 227   SIGNAL_PAYLOAD_TYPE_CHANGE,
 228   SIGNAL_CLEAR_PT_MAP,
 229   SIGNAL_RESET_SYNC,
 230   SIGNAL_GET_INTERNAL_SESSION,
 231
 232   SIGNAL_ON_NEW_SSRC,
 233   SIGNAL_ON_SSRC_COLLISION,
 234   SIGNAL_ON_SSRC_VALIDATED,
 235   SIGNAL_ON_SSRC_ACTIVE,
 236   SIGNAL_ON_SSRC_SDES,
 237   SIGNAL_ON_BYE_SSRC,
 238   SIGNAL_ON_BYE_TIMEOUT,
 239   SIGNAL_ON_TIMEOUT,
 240   SIGNAL_ON_SENDER_TIMEOUT,
 241   SIGNAL_ON_NPT_STOP,
 242   LAST_SIGNAL
 243 };
 244
 245 #define DEFAULT_LATENCY_MS           200
 246 #define DEFAULT_DROP_ON_LATENCY      FALSE
 247 #define DEFAULT_SDES                 NULL
 248 #define DEFAULT_DO_LOST              FALSE
 249 #define DEFAULT_IGNORE_PT            FALSE
 250 #define DEFAULT_NTP_SYNC             FALSE
 251 #define DEFAULT_AUTOREMOVE           FALSE
 252 #define DEFAULT_BUFFER_MODE          RTP_JITTER_BUFFER_MODE_SLAVE
 253 #define DEFAULT_USE_PIPELINE_CLOCK   FALSE
 254 #define DEFAULT_RTCP_SYNC            GST_RTP_BIN_RTCP_SYNC_ALWAYS
 255 #define DEFAULT_RTCP_SYNC_INTERVAL   0
 256
 257 enum
 258 {
 259   PROP_0,
 260   PROP_LATENCY,
 261   PROP_DROP_ON_LATENCY,
 262   PROP_SDES,
 263   PROP_DO_LOST,
 264   PROP_IGNORE_PT,
 265   PROP_NTP_SYNC,
 266   PROP_RTCP_SYNC,
 267   PROP_RTCP_SYNC_INTERVAL,
 268   PROP_AUTOREMOVE,
 269   PROP_BUFFER_MODE,
 270   PROP_USE_PIPELINE_CLOCK,
 271   PROP_LAST
 272 };
 273
 274 enum
 275 {
 276   GST_RTP_BIN_RTCP_SYNC_ALWAYS,
 277   GST_RTP_BIN_RTCP_SYNC_INITIAL,
 278   GST_RTP_BIN_RTCP_SYNC_RTP
 279 };
 280
 281 #define GST_RTP_BIN_RTCP_SYNC_TYPE (gst_rtp_bin_rtcp_sync_get_type())
 282 static GType
 283 gst_rtp_bin_rtcp_sync_get_type (void)
 284 {
 285   static GType rtcp_sync_type = 0;
 286   static const GEnumValue rtcp_sync_types[] = {
 287     {GST_RTP_BIN_RTCP_SYNC_ALWAYS, "always", "always"},
 288     {GST_RTP_BIN_RTCP_SYNC_INITIAL, "initial", "initial"},
 289     {GST_RTP_BIN_RTCP_SYNC_RTP, "rtp-info", "rtp-info"},
 290     {0, NULL, NULL},
 291   };
 292
 293   if (!rtcp_sync_type) {
 294     rtcp_sync_type = g_enum_register_static ("GstRTCPSync", rtcp_sync_types);
 295   }
 296   return rtcp_sync_type;
 297 }
 298
 299 /* helper objects */
 300 typedef struct _GstRtpBinSession GstRtpBinSession;
 301 typedef struct _GstRtpBinStream GstRtpBinStream;
 302 typedef struct _GstRtpBinClient GstRtpBinClient;
 303
 304 static guint gst_rtp_bin_signals[LAST_SIGNAL] = { 0 };
 305
 306 static GstCaps *pt_map_requested (GstElement * element, guint pt,
 307     GstRtpBinSession * session);
 308 static void payload_type_change (GstElement * element, guint pt,
 309     GstRtpBinSession * session);
 310 static void remove_recv_rtp (GstRtpBin * rtpbin, GstRtpBinSession * session);
 311 static void remove_recv_rtcp (GstRtpBin * rtpbin, GstRtpBinSession * session);
 312 static void remove_send_rtp (GstRtpBin * rtpbin, GstRtpBinSession * session);
 313 static void remove_rtcp (GstRtpBin * rtpbin, GstRtpBinSession * session);
 314 static void free_client (GstRtpBinClient * client, GstRtpBin * bin);
 315 static void free_stream (GstRtpBinStream * stream);
 316
 317 /* Manages the RTP stream for one SSRC.
 318  *
 319  * We pipe the stream (comming from the SSRC demuxer) into a jitterbuffer.
 320  * If we see an SDES RTCP packet that links multiple SSRCs together based on a
 321  * common CNAME, we create a GstRtpBinClient structure to group the SSRCs
 322  * together (see below).
 323  */
 324 struct _GstRtpBinStream
 325 {
 326   /* the SSRC of this stream */
 327   guint32 ssrc;
 328
 329   /* parent bin */
 330   GstRtpBin *bin;
 331
 332   /* the session this SSRC belongs to */
 333   GstRtpBinSession *session;
 334
 335   /* the jitterbuffer of the SSRC */
 336   GstElement *buffer;
 337   gulong buffer_handlesync_sig;
 338   gulong buffer_ptreq_sig;
 339   gulong buffer_ntpstop_sig;
 340   gint percent;
 341
 342   /* the PT demuxer of the SSRC */
 343   GstElement *demux;
 344   gulong demux_newpad_sig;
 345   gulong demux_padremoved_sig;
 346   gulong demux_ptreq_sig;
 347   gulong demux_ptchange_sig;
 348
 349   /* if we have calculated a valid rt_delta for this stream */
 350   gboolean have_sync;
 351   /* mapping to local RTP and NTP time */
 352   gint64 rt_delta;
 353   gint64 rtp_delta;
 354   /* base rtptime in gst time */
 355   gint64 clock_base;
 356 };
 357
 358 #define GST_RTP_SESSION_LOCK(sess)   g_mutex_lock (&(sess)->lock)
 359 #define GST_RTP_SESSION_UNLOCK(sess) g_mutex_unlock (&(sess)->lock)
 360
 361 /* Manages the receiving end of the packets.
 362  *
 363  * There is one such structure for each RTP session (audio/video/...).
 364  * We get the RTP/RTCP packets and stuff them into the session manager. From
 365  * there they are pushed into an SSRC demuxer that splits the stream based on
 366  * SSRC. Each of the SSRC streams go into their own jitterbuffer (managed with
 367  * the GstRtpBinStream above).
 368  */
 369 struct _GstRtpBinSession
 370 {
 371   /* session id */
 372   gint id;
 373   /* the parent bin */
 374   GstRtpBin *bin;
 375   /* the session element */
 376   GstElement *session;
 377   /* the SSRC demuxer */
 378   GstElement *demux;
 379   gulong demux_newpad_sig;
 380   gulong demux_padremoved_sig;
 381
 382   GMutex lock;
 383
 384   /* list of GstRtpBinStream */
 385   GSList *streams;
 386
 387   /* mapping of payload type to caps */
 388   GHashTable *ptmap;
 389
 390   /* the pads of the session */
 391   GstPad *recv_rtp_sink;
 392   GstPad *recv_rtp_sink_ghost;
 393   GstPad *recv_rtp_src;
 394   GstPad *recv_rtcp_sink;
 395   GstPad *recv_rtcp_sink_ghost;
 396   GstPad *sync_src;
 397   GstPad *send_rtp_sink;
 398   GstPad *send_rtp_sink_ghost;
 399   GstPad *send_rtp_src;
 400   GstPad *send_rtp_src_ghost;
 401   GstPad *send_rtcp_src;
 402   GstPad *send_rtcp_src_ghost;
 403 };
 404
 405 /* Manages the RTP streams that come from one client and should therefore be
 406  * synchronized.
 407  */
 408 struct _GstRtpBinClient
 409 {
 410   /* the common CNAME for the streams */
 411   gchar *cname;
 412   guint cname_len;
 413
 414   /* the streams */
 415   guint nstreams;
 416   GSList *streams;
 417 };
 418
 419 /* find a session with the given id. Must be called with RTP_BIN_LOCK */
 420 static GstRtpBinSession *
 421 find_session_by_id (GstRtpBin * rtpbin, gint id)
 422 {
 423   GSList *walk;
 424
 425   for (walk = rtpbin->sessions; walk; walk = g_slist_next (walk)) {
 426     GstRtpBinSession *sess = (GstRtpBinSession *) walk->data;
 427
 428     if (sess->id == id)
 429       return sess;
 430   }
 431   return NULL;
 432 }
 433
 434 /* find a session with the given request pad. Must be called with RTP_BIN_LOCK */
 435 static GstRtpBinSession *
 436 find_session_by_pad (GstRtpBin * rtpbin, GstPad * pad)
 437 {
 438   GSList *walk;
 439
 440   for (walk = rtpbin->sessions; walk; walk = g_slist_next (walk)) {
 441     GstRtpBinSession *sess = (GstRtpBinSession *) walk->data;
 442
 443     if ((sess->recv_rtp_sink_ghost == pad) ||
 444         (sess->recv_rtcp_sink_ghost == pad) ||
 445         (sess->send_rtp_sink_ghost == pad)
 446         || (sess->send_rtcp_src_ghost == pad))
 447       return sess;
 448   }
 449   return NULL;
 450 }
 451
 452 static void
 453 on_new_ssrc (GstElement * session, guint32 ssrc, GstRtpBinSession * sess)
 454 {
 455   g_signal_emit (sess->bin, gst_rtp_bin_signals[SIGNAL_ON_NEW_SSRC], 0,
 456       sess->id, ssrc);
 457 }
 458
 459 static void
 460 on_ssrc_collision (GstElement * session, guint32 ssrc, GstRtpBinSession * sess)
 461 {
 462   g_signal_emit (sess->bin, gst_rtp_bin_signals[SIGNAL_ON_SSRC_COLLISION], 0,
 463       sess->id, ssrc);
 464 }
 465
 466 static void
 467 on_ssrc_validated (GstElement * session, guint32 ssrc, GstRtpBinSession * sess)
 468 {
 469   g_signal_emit (sess->bin, gst_rtp_bin_signals[SIGNAL_ON_SSRC_VALIDATED], 0,
 470       sess->id, ssrc);
 471 }
 472
 473 static void
 474 on_ssrc_active (GstElement * session, guint32 ssrc, GstRtpBinSession * sess)
 475 {
 476   g_signal_emit (sess->bin, gst_rtp_bin_signals[SIGNAL_ON_SSRC_ACTIVE], 0,
 477       sess->id, ssrc);
 478 }
 479
 480 static void
 481 on_ssrc_sdes (GstElement * session, guint32 ssrc, GstRtpBinSession * sess)
 482 {
 483   g_signal_emit (sess->bin, gst_rtp_bin_signals[SIGNAL_ON_SSRC_SDES], 0,
 484       sess->id, ssrc);
 485 }
 486
 487 static void
 488 on_bye_ssrc (GstElement * session, guint32 ssrc, GstRtpBinSession * sess)
 489 {
 490   g_signal_emit (sess->bin, gst_rtp_bin_signals[SIGNAL_ON_BYE_SSRC], 0,
 491       sess->id, ssrc);
 492 }
 493
 494 static void
 495 on_bye_timeout (GstElement * session, guint32 ssrc, GstRtpBinSession * sess)
 496 {
 497   g_signal_emit (sess->bin, gst_rtp_bin_signals[SIGNAL_ON_BYE_TIMEOUT], 0,
 498       sess->id, ssrc);
 499
 500   if (sess->bin->priv->autoremove)
 501     g_signal_emit_by_name (sess->demux, "clear-ssrc", ssrc, NULL);
 502 }
 503
 504 static void
 505 on_timeout (GstElement * session, guint32 ssrc, GstRtpBinSession * sess)
 506 {
 507   g_signal_emit (sess->bin, gst_rtp_bin_signals[SIGNAL_ON_TIMEOUT], 0,
 508       sess->id, ssrc);
 509
 510   if (sess->bin->priv->autoremove)
 511     g_signal_emit_by_name (sess->demux, "clear-ssrc", ssrc, NULL);
 512 }
 513
 514 static void
 515 on_sender_timeout (GstElement * session, guint32 ssrc, GstRtpBinSession * sess)
 516 {
 517   g_signal_emit (sess->bin, gst_rtp_bin_signals[SIGNAL_ON_SENDER_TIMEOUT], 0,
 518       sess->id, ssrc);
 519 }
 520
 521 static void
 522 on_npt_stop (GstElement * jbuf, GstRtpBinStream * stream)
 523 {
 524   g_signal_emit (stream->bin, gst_rtp_bin_signals[SIGNAL_ON_NPT_STOP], 0,
 525       stream->session->id, stream->ssrc);
 526 }
 527
 528 /* must be called with the SESSION lock */
 529 static GstRtpBinStream *
 530 find_stream_by_ssrc (GstRtpBinSession * session, guint32 ssrc)
 531 {
 532   GSList *walk;
 533
 534   for (walk = session->streams; walk; walk = g_slist_next (walk)) {
 535     GstRtpBinStream *stream = (GstRtpBinStream *) walk->data;
 536
 537     if (stream->ssrc == ssrc)
 538       return stream;
 539   }
 540   return NULL;
 541 }
 542
 543 static void
 544 ssrc_demux_pad_removed (GstElement * element, guint ssrc, GstPad * pad,
 545     GstRtpBinSession * session)
 546 {
 547   GstRtpBinStream *stream = NULL;
 548
 549   GST_RTP_SESSION_LOCK (session);
 550   if ((stream = find_stream_by_ssrc (session, ssrc)))
 551     session->streams = g_slist_remove (session->streams, stream);
 552   GST_RTP_SESSION_UNLOCK (session);
 553
 554   if (stream)
 555     free_stream (stream);
 556 }
 557
 558 /* create a session with the given id.  Must be called with RTP_BIN_LOCK */
 559 static GstRtpBinSession *
 560 create_session (GstRtpBin * rtpbin, gint id)
 561 {
 562   GstRtpBinSession *sess;
 563   GstElement *session, *demux;
 564   GstState target;
 565
 566   if (!(session = gst_element_factory_make ("rtpsession", NULL)))
 567     goto no_session;
 568
 569   if (!(demux = gst_element_factory_make ("rtpssrcdemux", NULL)))
 570     goto no_demux;
 571
 572   sess = g_new0 (GstRtpBinSession, 1);
 573   g_mutex_init (&sess->lock);
 574   sess->id = id;
 575   sess->bin = rtpbin;
 576   sess->session = session;
 577   sess->demux = demux;
 578   sess->ptmap = g_hash_table_new_full (NULL, NULL, NULL,
 579       (GDestroyNotify) gst_caps_unref);
 580   rtpbin->sessions = g_slist_prepend (rtpbin->sessions, sess);
 581
 582   /* configure SDES items */
 583   GST_OBJECT_LOCK (rtpbin);
 584   g_object_set (session, "sdes", rtpbin->sdes, "use-pipeline-clock",
 585       rtpbin->use_pipeline_clock, NULL);
 586   GST_OBJECT_UNLOCK (rtpbin);
 587
 588   /* provide clock_rate to the session manager when needed */
 589   g_signal_connect (session, "request-pt-map",
 590       (GCallback) pt_map_requested, sess);
 591
 592   g_signal_connect (sess->session, "on-new-ssrc",
 593       (GCallback) on_new_ssrc, sess);
 594   g_signal_connect (sess->session, "on-ssrc-collision",
 595       (GCallback) on_ssrc_collision, sess);
 596   g_signal_connect (sess->session, "on-ssrc-validated",
 597       (GCallback) on_ssrc_validated, sess);
 598   g_signal_connect (sess->session, "on-ssrc-active",
 599       (GCallback) on_ssrc_active, sess);
 600   g_signal_connect (sess->session, "on-ssrc-sdes",
 601       (GCallback) on_ssrc_sdes, sess);
 602   g_signal_connect (sess->session, "on-bye-ssrc",
 603       (GCallback) on_bye_ssrc, sess);
 604   g_signal_connect (sess->session, "on-bye-timeout",
 605       (GCallback) on_bye_timeout, sess);
 606   g_signal_connect (sess->session, "on-timeout", (GCallback) on_timeout, sess);
 607   g_signal_connect (sess->session, "on-sender-timeout",
 608       (GCallback) on_sender_timeout, sess);
 609
 610   gst_bin_add (GST_BIN_CAST (rtpbin), session);
 611   gst_bin_add (GST_BIN_CAST (rtpbin), demux);
 612
 613   GST_OBJECT_LOCK (rtpbin);
 614   target = GST_STATE_TARGET (rtpbin);
 615   GST_OBJECT_UNLOCK (rtpbin);
 616
 617   /* change state only to what's needed */
 618   gst_element_set_state (demux, target);
 619   gst_element_set_state (session, target);
 620
 621   return sess;
 622
 623   /* ERRORS */
 624 no_session:
 625   {
 626     g_warning ("rtpbin: could not create gstrtpsession element");
 627     return NULL;
 628   }
 629 no_demux:
 630   {
 631     gst_object_unref (session);
 632     g_warning ("rtpbin: could not create gstrtpssrcdemux element");
 633     return NULL;
 634   }
 635 }
 636
 637 /* called with RTP_BIN_LOCK */
 638 static void
 639 free_session (GstRtpBinSession * sess, GstRtpBin * bin)
 640 {
 641   GSList *client_walk;
 642
 643   GST_DEBUG_OBJECT (bin, "freeing session %p", sess);
 644
 645   gst_element_set_locked_state (sess->demux, TRUE);
 646   gst_element_set_locked_state (sess->session, TRUE);
 647
 648   gst_element_set_state (sess->demux, GST_STATE_NULL);
 649   gst_element_set_state (sess->session, GST_STATE_NULL);
 650
 651   remove_recv_rtp (bin, sess);
 652   remove_recv_rtcp (bin, sess);
 653   remove_send_rtp (bin, sess);
 654   remove_rtcp (bin, sess);
 655
 656   gst_bin_remove (GST_BIN_CAST (bin), sess->session);
 657   gst_bin_remove (GST_BIN_CAST (bin), sess->demux);
 658
 659   /* remove any references in bin->clients to the streams in sess->streams */
 660   client_walk = bin->clients;
 661   while (client_walk) {
 662     GSList *client_node = client_walk;
 663     GstRtpBinClient *client = (GstRtpBinClient *) client_node->data;
 664     GSList *stream_walk = client->streams;
 665
 666     while (stream_walk) {
 667       GSList *stream_node = stream_walk;
 668       GstRtpBinStream *stream = (GstRtpBinStream *) stream_node->data;
 669       GSList *inner_walk;
 670
 671       stream_walk = g_slist_next (stream_walk);
 672
 673       for (inner_walk = sess->streams; inner_walk;
 674           inner_walk = g_slist_next (inner_walk)) {
 675         if ((GstRtpBinStream *) inner_walk->data == stream) {
 676           client->streams = g_slist_delete_link (client->streams, stream_node);
 677           --client->nstreams;
 678           break;
 679         }
 680       }
 681     }
 682     client_walk = g_slist_next (client_walk);
 683
 684     g_assert ((client->streams && client->nstreams > 0) || (!client->streams
 685             && client->streams == 0));
 686     if (client->nstreams == 0) {
 687       free_client (client, bin);
 688       bin->clients = g_slist_delete_link (bin->clients, client_node);
 689     }
 690   }
 691
 692   g_slist_foreach (sess->streams, (GFunc) free_stream, NULL);
 693   g_slist_free (sess->streams);
 694
 695   g_mutex_clear (&sess->lock);
 696   g_hash_table_destroy (sess->ptmap);
 697
 698   g_free (sess);
 699 }
 700
 701 /* get the payload type caps for the specific payload @pt in @session */
 702 static GstCaps *
 703 get_pt_map (GstRtpBinSession * session, guint pt)
 704 {
 705   GstCaps *caps = NULL;
 706   GstRtpBin *bin;
 707   GValue ret = { 0 };
 708   GValue args[3] = { {0}, {0}, {0} };
 709
 710   GST_DEBUG ("searching pt %d in cache", pt);
 711
 712   GST_RTP_SESSION_LOCK (session);
 713
 714   /* first look in the cache */
 715   caps = g_hash_table_lookup (session->ptmap, GINT_TO_POINTER (pt));
 716   if (caps) {
 717     gst_caps_ref (caps);
 718     goto done;
 719   }
 720
 721   bin = session->bin;
 722
 723   GST_DEBUG ("emiting signal for pt %d in session %d", pt, session->id);
 724
 725   /* not in cache, send signal to request caps */
 726   g_value_init (&args[0], GST_TYPE_ELEMENT);
 727   g_value_set_object (&args[0], bin);
 728   g_value_init (&args[1], G_TYPE_UINT);
 729   g_value_set_uint (&args[1], session->id);
 730   g_value_init (&args[2], G_TYPE_UINT);
 731   g_value_set_uint (&args[2], pt);
 732
 733   g_value_init (&ret, GST_TYPE_CAPS);
 734   g_value_set_boxed (&ret, NULL);
 735
 736   GST_RTP_SESSION_UNLOCK (session);
 737
 738   g_signal_emitv (args, gst_rtp_bin_signals[SIGNAL_REQUEST_PT_MAP], 0, &ret);
 739
 740   GST_RTP_SESSION_LOCK (session);
 741
 742   g_value_unset (&args[0]);
 743   g_value_unset (&args[1]);
 744   g_value_unset (&args[2]);
 745
 746   /* look in the cache again because we let the lock go */
 747   caps = g_hash_table_lookup (session->ptmap, GINT_TO_POINTER (pt));
 748   if (caps) {
 749     gst_caps_ref (caps);
 750     g_value_unset (&ret);
 751     goto done;
 752   }
 753
 754   caps = (GstCaps *) g_value_dup_boxed (&ret);
 755   g_value_unset (&ret);
 756   if (!caps)
 757     goto no_caps;
 758
 759   GST_DEBUG ("caching pt %d as %" GST_PTR_FORMAT, pt, caps);
 760
 761   /* store in cache, take additional ref */
 762   g_hash_table_insert (session->ptmap, GINT_TO_POINTER (pt),
 763       gst_caps_ref (caps));
 764
 765 done:
 766   GST_RTP_SESSION_UNLOCK (session);
 767
 768   return caps;
 769
 770   /* ERRORS */
 771 no_caps:
 772   {
 773     GST_RTP_SESSION_UNLOCK (session);
 774     GST_DEBUG ("no pt map could be obtained");
 775     return NULL;
 776   }
 777 }
 778
 779 static gboolean
 780 return_true (gpointer key, gpointer value, gpointer user_data)
 781 {
 782   return TRUE;
 783 }
 784
 785 static void
 786 gst_rtp_bin_reset_sync (GstRtpBin * rtpbin)
 787 {
 788   GSList *clients, *streams;
 789
 790   GST_DEBUG_OBJECT (rtpbin, "Reset sync on all clients");
 791
 792   GST_RTP_BIN_LOCK (rtpbin);
 793   for (clients = rtpbin->clients; clients; clients = g_slist_next (clients)) {
 794     GstRtpBinClient *client = (GstRtpBinClient *) clients->data;
 795
 796     /* reset sync on all streams for this client */
 797     for (streams = client->streams; streams; streams = g_slist_next (streams)) {
 798       GstRtpBinStream *stream = (GstRtpBinStream *) streams->data;
 799
 800       /* make use require a new SR packet for this stream before we attempt new
 801        * lip-sync */
 802       stream->have_sync = FALSE;
 803       stream->rt_delta = 0;
 804       stream->rtp_delta = 0;
 805       stream->clock_base = -100 * GST_SECOND;
 806     }
 807   }
 808   GST_RTP_BIN_UNLOCK (rtpbin);
 809 }
 810
 811 static void
 812 gst_rtp_bin_clear_pt_map (GstRtpBin * bin)
 813 {
 814   GSList *sessions, *streams;
 815
 816   GST_RTP_BIN_LOCK (bin);
 817   GST_DEBUG_OBJECT (bin, "clearing pt map");
 818   for (sessions = bin->sessions; sessions; sessions = g_slist_next (sessions)) {
 819     GstRtpBinSession *session = (GstRtpBinSession *) sessions->data;
 820
 821     GST_DEBUG_OBJECT (bin, "clearing session %p", session);
 822     g_signal_emit_by_name (session->session, "clear-pt-map", NULL);
 823
 824     GST_RTP_SESSION_LOCK (session);
 825     g_hash_table_foreach_remove (session->ptmap, return_true, NULL);
 826
 827     for (streams = session->streams; streams; streams = g_slist_next (streams)) {
 828       GstRtpBinStream *stream = (GstRtpBinStream *) streams->data;
 829
 830       GST_DEBUG_OBJECT (bin, "clearing stream %p", stream);
 831       g_signal_emit_by_name (stream->buffer, "clear-pt-map", NULL);
 832       if (stream->demux)
 833         g_signal_emit_by_name (stream->demux, "clear-pt-map", NULL);
 834     }
 835     GST_RTP_SESSION_UNLOCK (session);
 836   }
 837   GST_RTP_BIN_UNLOCK (bin);
 838
 839   /* reset sync too */
 840   gst_rtp_bin_reset_sync (bin);
 841 }
 842
 843 static RTPSession *
 844 gst_rtp_bin_get_internal_session (GstRtpBin * bin, guint session_id)
 845 {
 846   RTPSession *internal_session = NULL;
 847   GstRtpBinSession *session;
 848
 849   GST_RTP_BIN_LOCK (bin);
 850   GST_DEBUG_OBJECT (bin, "retrieving internal RTPSession object, index: %d",
 851       session_id);
 852   session = find_session_by_id (bin, (gint) session_id);
 853   if (session) {
 854     g_object_get (session->session, "internal-session", &internal_session,
 855         NULL);
 856   }
 857   GST_RTP_BIN_UNLOCK (bin);
 858
 859   return internal_session;
 860 }
 861
 862 static void
 863 gst_rtp_bin_propagate_property_to_jitterbuffer (GstRtpBin * bin,
 864     const gchar * name, const GValue * value)
 865 {
 866   GSList *sessions, *streams;
 867
 868   GST_RTP_BIN_LOCK (bin);
 869   for (sessions = bin->sessions; sessions; sessions = g_slist_next (sessions)) {
 870     GstRtpBinSession *session = (GstRtpBinSession *) sessions->data;
 871
 872     GST_RTP_SESSION_LOCK (session);
 873     for (streams = session->streams; streams; streams = g_slist_next (streams)) {
 874       GstRtpBinStream *stream = (GstRtpBinStream *) streams->data;
 875
 876       g_object_set_property (G_OBJECT (stream->buffer), name, value);
 877     }
 878     GST_RTP_SESSION_UNLOCK (session);
 879   }
 880   GST_RTP_BIN_UNLOCK (bin);
 881 }
 882
 883 /* get a client with the given SDES name. Must be called with RTP_BIN_LOCK */
 884 static GstRtpBinClient *
 885 get_client (GstRtpBin * bin, guint8 len, guint8 * data, gboolean * created)
 886 {
 887   GstRtpBinClient *result = NULL;
 888   GSList *walk;
 889
 890   for (walk = bin->clients; walk; walk = g_slist_next (walk)) {
 891     GstRtpBinClient *client = (GstRtpBinClient *) walk->data;
 892
 893     if (len != client->cname_len)
 894       continue;
 895
 896     if (!strncmp ((gchar *) data, client->cname, client->cname_len)) {
 897       GST_DEBUG_OBJECT (bin, "found existing client %p with CNAME %s", client,
 898           client->cname);
 899       result = client;
 900       break;
 901     }
 902   }
 903
 904   /* nothing found, create one */
 905   if (result == NULL) {
 906     result = g_new0 (GstRtpBinClient, 1);
 907     result->cname = g_strndup ((gchar *) data, len);
 908     result->cname_len = len;
 909     bin->clients = g_slist_prepend (bin->clients, result);
 910     GST_DEBUG_OBJECT (bin, "created new client %p with CNAME %s", result,
 911         result->cname);
 912   }
 913   return result;
 914 }
 915
 916 static void
 917 free_client (GstRtpBinClient * client, GstRtpBin * bin)
 918 {
 919   GST_DEBUG_OBJECT (bin, "freeing client %p", client);
 920   g_slist_free (client->streams);
 921   g_free (client->cname);
 922   g_free (client);
 923 }
 924
 925 static void
 926 get_current_times (GstRtpBin * bin, GstClockTime * running_time,
 927     guint64 * ntpnstime)
 928 {
 929   guint64 ntpns;
 930   GstClock *clock;
 931   GstClockTime base_time, rt, clock_time;
 932
 933   GST_OBJECT_LOCK (bin);
 934   if ((clock = GST_ELEMENT_CLOCK (bin))) {
 935     base_time = GST_ELEMENT_CAST (bin)->base_time;
 936     gst_object_ref (clock);
 937     GST_OBJECT_UNLOCK (bin);
 938
 939     clock_time = gst_clock_get_time (clock);
 940
 941     if (bin->use_pipeline_clock) {
 942       ntpns = clock_time - base_time;
 943     } else {
 944       GTimeVal current;
 945
 946       /* get current NTP time */
 947       g_get_current_time (&current);
 948       ntpns = GST_TIMEVAL_TO_TIME (current);
 949     }
 950
 951     /* add constant to convert from 1970 based time to 1900 based time */
 952     ntpns += (2208988800LL * GST_SECOND);
 953
 954     /* get current clock time and convert to running time */
 955     rt = clock_time - base_time;
 956
 957     gst_object_unref (clock);
 958   } else {
 959     GST_OBJECT_UNLOCK (bin);
 960     rt = -1;
 961     ntpns = -1;
 962   }
 963   if (running_time)
 964     *running_time = rt;
 965   if (ntpnstime)
 966     *ntpnstime = ntpns;
 967 }
 968
 969 static void
 970 stream_set_ts_offset (GstRtpBin * bin, GstRtpBinStream * stream,
 971     gint64 ts_offset, gboolean check)
 972 {
 973   gint64 prev_ts_offset;
 974
 975   g_object_get (stream->buffer, "ts-offset", &prev_ts_offset, NULL);
 976
 977   /* delta changed, see how much */
 978   if (prev_ts_offset != ts_offset) {
 979     gint64 diff;
 980
 981     diff = prev_ts_offset - ts_offset;
 982
 983     GST_DEBUG_OBJECT (bin,
 984         "ts-offset %" G_GINT64_FORMAT ", prev %" G_GINT64_FORMAT
 985         ", diff: %" G_GINT64_FORMAT, ts_offset, prev_ts_offset, diff);
 986
 987     if (check) {
 988       /* only change diff when it changed more than 4 milliseconds. This
 989        * compensates for rounding errors in NTP to RTP timestamp
 990        * conversions */
 991       if (ABS (diff) < 4 * GST_MSECOND) {
 992         GST_DEBUG_OBJECT (bin, "offset too small, ignoring");
 993         return;
 994       }
 995       if (ABS (diff) > (3 * GST_SECOND)) {
 996         GST_WARNING_OBJECT (bin, "offset unusually large, ignoring");
 997         return;
 998       }
 999     }
1000     g_object_set (stream->buffer, "ts-offset", ts_offset, NULL);
1001   }
1002   GST_DEBUG_OBJECT (bin, "stream SSRC %08x, delta %" G_GINT64_FORMAT,
1003       stream->ssrc, ts_offset);
1004 }
1005
1006 /* associate a stream to the given CNAME. This will make sure all streams for
1007  * that CNAME are synchronized together.
1008  * Must be called with GST_RTP_BIN_LOCK */
1009 static void
1010 gst_rtp_bin_associate (GstRtpBin * bin, GstRtpBinStream * stream, guint8 len,
1011     guint8 * data, guint64 ntptime, guint64 last_extrtptime,
1012     guint64 base_rtptime, guint64 base_time, guint clock_rate,
1013     gint64 rtp_clock_base)
1014 {
1015   GstRtpBinClient *client;
1016   gboolean created;
1017   GSList *walk;
1018   guint64 local_rt;
1019   guint64 local_rtp;
1020   GstClockTime running_time;
1021   guint64 ntpnstime;
1022   gint64 ntpdiff, rtdiff;
1023   guint64 last_unix;
1024
1025   /* first find or create the CNAME */
1026   client = get_client (bin, len, data, &created);
1027
1028   /* find stream in the client */
1029   for (walk = client->streams; walk; walk = g_slist_next (walk)) {
1030     GstRtpBinStream *ostream = (GstRtpBinStream *) walk->data;
1031
1032     if (ostream == stream)
1033       break;
1034   }
1035   /* not found, add it to the list */
1036   if (walk == NULL) {
1037     GST_DEBUG_OBJECT (bin,
1038         "new association of SSRC %08x with client %p with CNAME %s",
1039         stream->ssrc, client, client->cname);
1040     client->streams = g_slist_prepend (client->streams, stream);
1041     client->nstreams++;
1042   } else {
1043     GST_DEBUG_OBJECT (bin,
1044         "found association of SSRC %08x with client %p with CNAME %s",
1045         stream->ssrc, client, client->cname);
1046   }
1047
1048   if (!GST_CLOCK_TIME_IS_VALID (last_extrtptime)) {
1049     GST_DEBUG_OBJECT (bin, "invalidated sync data");
1050     if (bin->rtcp_sync == GST_RTP_BIN_RTCP_SYNC_RTP) {
1051       /* we don't need that data, so carry on,
1052        * but make some values look saner */
1053       last_extrtptime = base_rtptime;
1054     } else {
1055       /* nothing we can do with this data in this case */
1056       GST_DEBUG_OBJECT (bin, "bailing out");
1057       return;
1058     }
1059   }
1060
1061   /* Take the extended rtptime we found in the SR packet and map it to the
1062    * local rtptime. The local rtp time is used to construct timestamps on the
1063    * buffers so we will calculate what running_time corresponds to the RTP
1064    * timestamp in the SR packet. */
1065   local_rtp = last_extrtptime - base_rtptime;
1066
1067   GST_DEBUG_OBJECT (bin,
1068       "base %" G_GUINT64_FORMAT ", extrtptime %" G_GUINT64_FORMAT
1069       ", local RTP %" G_GUINT64_FORMAT ", clock-rate %d, "
1070       "clock-base %" G_GINT64_FORMAT, base_rtptime,
1071       last_extrtptime, local_rtp, clock_rate, rtp_clock_base);
1072
1073   /* calculate local RTP time in gstreamer timestamp, we essentially perform the
1074    * same conversion that a jitterbuffer would use to convert an rtp timestamp
1075    * into a corresponding gstreamer timestamp. Note that the base_time also
1076    * contains the drift between sender and receiver. */
1077   local_rt = gst_util_uint64_scale_int (local_rtp, GST_SECOND, clock_rate);
1078   local_rt += base_time;
1079
1080   /* convert ntptime to unix time since 1900 */
1081   last_unix = gst_util_uint64_scale (ntptime, GST_SECOND,
1082       (G_GINT64_CONSTANT (1) << 32));
1083
1084   stream->have_sync = TRUE;
1085
1086   GST_DEBUG_OBJECT (bin,
1087       "local UNIX %" G_GUINT64_FORMAT ", remote UNIX %" G_GUINT64_FORMAT,
1088       local_rt, last_unix);
1089
1090   /* recalc inter stream playout offset, but only if there is more than one
1091    * stream or we're doing NTP sync. */
1092   if (bin->ntp_sync) {
1093     /* For NTP sync we need to first get a snapshot of running_time and NTP
1094      * time. We know at what running_time we play a certain RTP time, we also
1095      * calculated when we would play the RTP time in the SR packet. Now we need
1096      * to know how the running_time and the NTP time relate to eachother. */
1097     get_current_times (bin, &running_time, &ntpnstime);
1098
1099     /* see how far away the NTP time is. This is the difference between the
1100      * current NTP time and the NTP time in the last SR packet. */
1101     ntpdiff = ntpnstime - last_unix;
1102     /* see how far away the running_time is. This is the difference between the
1103      * current running_time and the running_time of the RTP timestamp in the
1104      * last SR packet. */
1105     rtdiff = running_time - local_rt;
1106
1107     GST_DEBUG_OBJECT (bin,
1108         "NTP time %" G_GUINT64_FORMAT ", last unix %" G_GUINT64_FORMAT,
1109         ntpnstime, last_unix);
1110     GST_DEBUG_OBJECT (bin,
1111         "NTP diff %" G_GINT64_FORMAT ", RT diff %" G_GINT64_FORMAT, ntpdiff,
1112         rtdiff);
1113
1114     /* combine to get the final diff to apply to the running_time */
1115     stream->rt_delta = rtdiff - ntpdiff;
1116
1117     stream_set_ts_offset (bin, stream, stream->rt_delta, FALSE);
1118   } else {
1119     gint64 min, rtp_min, clock_base = stream->clock_base;
1120     gboolean all_sync, use_rtp;
1121     gboolean rtcp_sync = g_atomic_int_get (&bin->rtcp_sync);
1122
1123     /* calculate delta between server and receiver. last_unix is created by
1124      * converting the ntptime in the last SR packet to a gstreamer timestamp. This
1125      * delta expresses the difference to our timeline and the server timeline. The
1126      * difference in itself doesn't mean much but we can combine the delta of
1127      * multiple streams to create a stream specific offset. */
1128     stream->rt_delta = last_unix - local_rt;
1129
1130     /* calculate the min of all deltas, ignoring streams that did not yet have a
1131      * valid rt_delta because we did not yet receive an SR packet for those
1132      * streams.
1133      * We calculate the mininum because we would like to only apply positive
1134      * offsets to streams, delaying their playback instead of trying to speed up
1135      * other streams (which might be imposible when we have to create negative
1136      * latencies).
1137      * The stream that has the smallest diff is selected as the reference stream,
1138      * all other streams will have a positive offset to this difference. */
1139
1140     /* some alternative setting allow ignoring RTCP as much as possible,
1141      * for servers generating bogus ntp timeline */
1142     min = rtp_min = G_MAXINT64;
1143     use_rtp = FALSE;
1144     if (rtcp_sync == GST_RTP_BIN_RTCP_SYNC_RTP) {
1145       guint64 ext_base;
1146
1147       use_rtp = TRUE;
1148       /* signed version for convienience */
1149       clock_base = base_rtptime;
1150       /* deal with possible wrap-around */
1151       ext_base = base_rtptime;
1152       rtp_clock_base = gst_rtp_buffer_ext_timestamp (&ext_base, rtp_clock_base);
1153       /* sanity check; base rtp and provided clock_base should be close */
1154       if (rtp_clock_base >= clock_base) {
1155         if (rtp_clock_base - clock_base < 10 * clock_rate) {
1156           rtp_clock_base = base_time +
1157               gst_util_uint64_scale_int (rtp_clock_base - clock_base,
1158               GST_SECOND, clock_rate);
1159         } else {
1160           use_rtp = FALSE;
1161         }
1162       } else {
1163         if (clock_base - rtp_clock_base < 10 * clock_rate) {
1164           rtp_clock_base = base_time -
1165               gst_util_uint64_scale_int (clock_base - rtp_clock_base,
1166               GST_SECOND, clock_rate);
1167         } else {
1168           use_rtp = FALSE;
1169         }
1170       }
1171       /* warn and bail for clarity out if no sane values */
1172       if (!use_rtp) {
1173         GST_WARNING_OBJECT (bin, "unable to sync to provided rtptime");
1174         return;
1175       }
1176       /* store to track changes */
1177       clock_base = rtp_clock_base;
1178       /* generate a fake as before,
1179        * now equating rtptime obtained from RTP-Info,
1180        * where the large time represent the otherwise irrelevant npt/ntp time */
1181       stream->rtp_delta = (GST_SECOND << 28) - rtp_clock_base;
1182     } else {
1183       clock_base = rtp_clock_base;
1184     }
1185
1186     all_sync = TRUE;
1187     for (walk = client->streams; walk; walk = g_slist_next (walk)) {
1188       GstRtpBinStream *ostream = (GstRtpBinStream *) walk->data;
1189
1190       if (!ostream->have_sync) {
1191         all_sync = FALSE;
1192         continue;
1193       }
1194
1195       /* change in current stream's base from previously init'ed value
1196        * leads to reset of all stream's base */
1197       if (stream != ostream && stream->clock_base >= 0 &&
1198           (stream->clock_base != clock_base)) {
1199         GST_DEBUG_OBJECT (bin, "reset upon clock base change");
1200         ostream->clock_base = -100 * GST_SECOND;
1201         ostream->rtp_delta = 0;
1202       }
1203
1204       if (ostream->rt_delta < min)
1205         min = ostream->rt_delta;
1206       if (ostream->rtp_delta < rtp_min)
1207         rtp_min = ostream->rtp_delta;
1208     }
1209
1210     /* arrange to re-sync for each stream upon significant change,
1211      * e.g. post-seek */
1212     all_sync = all_sync && (stream->clock_base == clock_base);
1213     stream->clock_base = clock_base;
1214
1215     /* may need init performed above later on, but nothing more to do now */
1216     if (client->nstreams <= 1)
1217       return;
1218
1219     GST_DEBUG_OBJECT (bin, "client %p min delta %" G_GINT64_FORMAT
1220         " all sync %d", client, min, all_sync);
1221     GST_DEBUG_OBJECT (bin, "rtcp sync mode %d, use_rtp %d", rtcp_sync, use_rtp);
1222
1223     switch (rtcp_sync) {
1224       case GST_RTP_BIN_RTCP_SYNC_RTP:
1225         if (!use_rtp)
1226           break;
1227         GST_DEBUG_OBJECT (bin, "using rtp generated reports; "
1228             "client %p min rtp delta %" G_GINT64_FORMAT, client, rtp_min);
1229         /* fall-through */
1230       case GST_RTP_BIN_RTCP_SYNC_INITIAL:
1231         /* if all have been synced already, do not bother further */
1232         if (all_sync) {
1233           GST_DEBUG_OBJECT (bin, "all streams already synced; done");
1234           return;
1235         }
1236         break;
1237       default:
1238         break;
1239     }
1240
1241     /* bail out if we adjusted recently enough */
1242     if (all_sync && (last_unix - bin->priv->last_unix) <
1243         bin->rtcp_sync_interval * GST_MSECOND) {
1244       GST_DEBUG_OBJECT (bin, "discarding RTCP sender packet for sync; "
1245           "previous sender info too recent "
1246           "(previous UNIX %" G_GUINT64_FORMAT ")", bin->priv->last_unix);
1247       return;
1248     }
1249     bin->priv->last_unix = last_unix;
1250
1251     /* calculate offsets for each stream */
1252     for (walk = client->streams; walk; walk = g_slist_next (walk)) {
1253       GstRtpBinStream *ostream = (GstRtpBinStream *) walk->data;
1254       gint64 ts_offset;
1255
1256       /* ignore streams for which we didn't receive an SR packet yet, we
1257        * can't synchronize them yet. We can however sync other streams just
1258        * fine. */
1259       if (!ostream->have_sync)
1260         continue;
1261
1262       /* calculate offset to our reference stream, this should always give a
1263        * positive number. */
1264       if (use_rtp)
1265         ts_offset = ostream->rtp_delta - rtp_min;
1266       else
1267         ts_offset = ostream->rt_delta - min;
1268
1269       stream_set_ts_offset (bin, ostream, ts_offset, TRUE);
1270     }
1271   }
1272   return;
1273 }
1274
1275 #define GST_RTCP_BUFFER_FOR_PACKETS(b,buffer,packet) \
1276   for ((b) = gst_rtcp_buffer_get_first_packet ((buffer), (packet)); (b); \
1277           (b) = gst_rtcp_packet_move_to_next ((packet)))
1278
1279 #define GST_RTCP_SDES_FOR_ITEMS(b,packet) \
1280   for ((b) = gst_rtcp_packet_sdes_first_item ((packet)); (b); \
1281           (b) = gst_rtcp_packet_sdes_next_item ((packet)))
1282
1283 #define GST_RTCP_SDES_FOR_ENTRIES(b,packet) \
1284   for ((b) = gst_rtcp_packet_sdes_first_entry ((packet)); (b); \
1285           (b) = gst_rtcp_packet_sdes_next_entry ((packet)))
1286
1287 static void
1288 gst_rtp_bin_handle_sync (GstElement * jitterbuffer, GstStructure * s,
1289     GstRtpBinStream * stream)
1290 {
1291   GstRtpBin *bin;
1292   GstRTCPPacket packet;
1293   guint32 ssrc;
1294   guint64 ntptime;
1295   gboolean have_sr, have_sdes;
1296   gboolean more;
1297   guint64 base_rtptime;
1298   guint64 base_time;
1299   guint clock_rate;
1300   guint64 clock_base;
1301   guint64 extrtptime;
1302   GstBuffer *buffer;
1303   GstRTCPBuffer rtcp = { NULL, };
1304
1305   bin = stream->bin;
1306
1307   GST_DEBUG_OBJECT (bin, "sync handler called");
1308
1309   /* get the last relation between the rtp timestamps and the gstreamer
1310    * timestamps. We get this info directly from the jitterbuffer which
1311    * constructs gstreamer timestamps from rtp timestamps and so it know exactly
1312    * what the current situation is. */
1313   base_rtptime =
1314       g_value_get_uint64 (gst_structure_get_value (s, "base-rtptime"));
1315   base_time = g_value_get_uint64 (gst_structure_get_value (s, "base-time"));
1316   clock_rate = g_value_get_uint (gst_structure_get_value (s, "clock-rate"));
1317   clock_base = g_value_get_uint64 (gst_structure_get_value (s, "clock-base"));
1318   extrtptime =
1319       g_value_get_uint64 (gst_structure_get_value (s, "sr-ext-rtptime"));
1320   buffer = gst_value_get_buffer (gst_structure_get_value (s, "sr-buffer"));
1321
1322   have_sr = FALSE;
1323   have_sdes = FALSE;
1324
1325   gst_rtcp_buffer_map (buffer, GST_MAP_READ, &rtcp);
1326
1327   GST_RTCP_BUFFER_FOR_PACKETS (more, &rtcp, &packet) {
1328     /* first packet must be SR or RR or else the validate would have failed */
1329     switch (gst_rtcp_packet_get_type (&packet)) {
1330       case GST_RTCP_TYPE_SR:
1331         /* only parse first. There is only supposed to be one SR in the packet
1332          * but we will deal with malformed packets gracefully */
1333         if (have_sr)
1334           break;
1335         /* get NTP and RTP times */
1336         gst_rtcp_packet_sr_get_sender_info (&packet, &ssrc, &ntptime, NULL,
1337             NULL, NULL);
1338
1339         GST_DEBUG_OBJECT (bin, "received sync packet from SSRC %08x", ssrc);
1340         /* ignore SR that is not ours */
1341         if (ssrc != stream->ssrc)
1342           continue;
1343
1344         have_sr = TRUE;
1345         break;
1346       case GST_RTCP_TYPE_SDES:
1347       {
1348         gboolean more_items, more_entries;
1349
1350         /* only deal with first SDES, there is only supposed to be one SDES in
1351          * the RTCP packet but we deal with bad packets gracefully. Also bail
1352          * out if we have not seen an SR item yet. */
1353         if (have_sdes || !have_sr)
1354           break;
1355
1356         GST_RTCP_SDES_FOR_ITEMS (more_items, &packet) {
1357           /* skip items that are not about the SSRC of the sender */
1358           if (gst_rtcp_packet_sdes_get_ssrc (&packet) != ssrc)
1359             continue;
1360
1361           /* find the CNAME entry */
1362           GST_RTCP_SDES_FOR_ENTRIES (more_entries, &packet) {
1363             GstRTCPSDESType type;
1364             guint8 len;
1365             guint8 *data;
1366
1367             gst_rtcp_packet_sdes_get_entry (&packet, &type, &len, &data);
1368
1369             if (type == GST_RTCP_SDES_CNAME) {
1370               GST_RTP_BIN_LOCK (bin);
1371               /* associate the stream to CNAME */
1372               gst_rtp_bin_associate (bin, stream, len, data,
1373                   ntptime, extrtptime, base_rtptime, base_time, clock_rate,
1374                   clock_base);
1375               GST_RTP_BIN_UNLOCK (bin);
1376             }
1377           }
1378         }
1379         have_sdes = TRUE;
1380         break;
1381       }
1382       default:
1383         /* we can ignore these packets */
1384         break;
1385     }
1386   }
1387   gst_rtcp_buffer_unmap (&rtcp);
1388 }
1389
1390 /* create a new stream with @ssrc in @session. Must be called with
1391  * RTP_SESSION_LOCK. */
1392 static GstRtpBinStream *
1393 create_stream (GstRtpBinSession * session, guint32 ssrc)
1394 {
1395   GstElement *buffer, *demux = NULL;
1396   GstRtpBinStream *stream;
1397   GstRtpBin *rtpbin;
1398   GstState target;
1399
1400   rtpbin = session->bin;
1401
1402   if (!(buffer = gst_element_factory_make ("rtpjitterbuffer", NULL)))
1403     goto no_jitterbuffer;
1404
1405   if (!rtpbin->ignore_pt)
1406     if (!(demux = gst_element_factory_make ("rtpptdemux", NULL)))
1407       goto no_demux;
1408
1409
1410   stream = g_new0 (GstRtpBinStream, 1);
1411   stream->ssrc = ssrc;
1412   stream->bin = rtpbin;
1413   stream->session = session;
1414   stream->buffer = buffer;
1415   stream->demux = demux;
1416
1417   stream->have_sync = FALSE;
1418   stream->rt_delta = 0;
1419   stream->rtp_delta = 0;
1420   stream->percent = 100;
1421   stream->clock_base = -100 * GST_SECOND;
1422   session->streams = g_slist_prepend (session->streams, stream);
1423
1424   /* provide clock_rate to the jitterbuffer when needed */
1425   stream->buffer_ptreq_sig = g_signal_connect (buffer, "request-pt-map",
1426       (GCallback) pt_map_requested, session);
1427   stream->buffer_ntpstop_sig = g_signal_connect (buffer, "on-npt-stop",
1428       (GCallback) on_npt_stop, stream);
1429
1430   g_object_set_data (G_OBJECT (buffer), "GstRTPBin.session", session);
1431   g_object_set_data (G_OBJECT (buffer), "GstRTPBin.stream", stream);
1432
1433   /* configure latency and packet lost */
1434   g_object_set (buffer, "latency", rtpbin->latency_ms, NULL);
1435   g_object_set (buffer, "drop-on-latency", rtpbin->drop_on_latency, NULL);
1436   g_object_set (buffer, "do-lost", rtpbin->do_lost, NULL);
1437   g_object_set (buffer, "mode", rtpbin->buffer_mode, NULL);
1438
1439   if (!rtpbin->ignore_pt)
1440     gst_bin_add (GST_BIN_CAST (rtpbin), demux);
1441   gst_bin_add (GST_BIN_CAST (rtpbin), buffer);
1442
1443   /* link stuff */
1444   if (demux)
1445     gst_element_link (buffer, demux);
1446
1447   if (rtpbin->buffering) {
1448     guint64 last_out;
1449
1450     GST_INFO_OBJECT (rtpbin,
1451         "bin is buffering, set jitterbuffer as not active");
1452     g_signal_emit_by_name (buffer, "set-active", FALSE, (gint64) 0, &last_out);
1453   }
1454
1455
1456   GST_OBJECT_LOCK (rtpbin);
1457   target = GST_STATE_TARGET (rtpbin);
1458   GST_OBJECT_UNLOCK (rtpbin);
1459
1460   /* from sink to source */
1461   if (demux)
1462     gst_element_set_state (demux, target);
1463
1464   gst_element_set_state (buffer, target);
1465
1466   return stream;
1467
1468   /* ERRORS */
1469 no_jitterbuffer:
1470   {
1471     g_warning ("rtpbin: could not create gstrtpjitterbuffer element");
1472     return NULL;
1473   }
1474 no_demux:
1475   {
1476     gst_object_unref (buffer);
1477     g_warning ("rtpbin: could not create gstrtpptdemux element");
1478     return NULL;
1479   }
1480 }
1481
1482 static void
1483 free_stream (GstRtpBinStream * stream)
1484 {
1485   GstRtpBinSession *session;
1486
1487   session = stream->session;
1488
1489   if (stream->demux) {
1490     g_signal_handler_disconnect (stream->demux, stream->demux_newpad_sig);
1491     g_signal_handler_disconnect (stream->demux, stream->demux_ptreq_sig);
1492     g_signal_handler_disconnect (stream->demux, stream->demux_ptchange_sig);
1493   }
1494   g_signal_handler_disconnect (stream->buffer, stream->buffer_handlesync_sig);
1495   g_signal_handler_disconnect (stream->buffer, stream->buffer_ptreq_sig);
1496   g_signal_handler_disconnect (stream->buffer, stream->buffer_ntpstop_sig);
1497
1498   if (stream->demux)
1499     gst_element_set_locked_state (stream->demux, TRUE);
1500   gst_element_set_locked_state (stream->buffer, TRUE);
1501
1502   if (stream->demux)
1503     gst_element_set_state (stream->demux, GST_STATE_NULL);
1504   gst_element_set_state (stream->buffer, GST_STATE_NULL);
1505
1506   /* now remove this signal, we need this while going to NULL because it to
1507    * do some cleanups */
1508   if (stream->demux)
1509     g_signal_handler_disconnect (stream->demux, stream->demux_padremoved_sig);
1510
1511   gst_bin_remove (GST_BIN_CAST (session->bin), stream->buffer);
1512   if (stream->demux)
1513     gst_bin_remove (GST_BIN_CAST (session->bin), stream->demux);
1514
1515   g_free (stream);
1516 }
1517
1518 /* GObject vmethods */
1519 static void gst_rtp_bin_dispose (GObject * object);
1520 static void gst_rtp_bin_finalize (GObject * object);
1521 static void gst_rtp_bin_set_property (GObject * object, guint prop_id,
1522     const GValue * value, GParamSpec * pspec);
1523 static void gst_rtp_bin_get_property (GObject * object, guint prop_id,
1524     GValue * value, GParamSpec * pspec);
1525
1526 /* GstElement vmethods */
1527 static GstStateChangeReturn gst_rtp_bin_change_state (GstElement * element,
1528     GstStateChange transition);
1529 static GstPad *gst_rtp_bin_request_new_pad (GstElement * element,
1530     GstPadTemplate * templ, const gchar * name, const GstCaps * caps);
1531 static void gst_rtp_bin_release_pad (GstElement * element, GstPad * pad);
1532 static void gst_rtp_bin_handle_message (GstBin * bin, GstMessage * message);
1533
1534 #define gst_rtp_bin_parent_class parent_class
1535 G_DEFINE_TYPE (GstRtpBin, gst_rtp_bin, GST_TYPE_BIN);
1536
1537 static void
1538 gst_rtp_bin_class_init (GstRtpBinClass * klass)
1539 {
1540   GObjectClass *gobject_class;
1541   GstElementClass *gstelement_class;
1542   GstBinClass *gstbin_class;
1543
1544   gobject_class = (GObjectClass *) klass;
1545   gstelement_class = (GstElementClass *) klass;
1546   gstbin_class = (GstBinClass *) klass;
1547
1548   g_type_class_add_private (klass, sizeof (GstRtpBinPrivate));
1549
1550   gobject_class->dispose = gst_rtp_bin_dispose;
1551   gobject_class->finalize = gst_rtp_bin_finalize;
1552   gobject_class->set_property = gst_rtp_bin_set_property;
1553   gobject_class->get_property = gst_rtp_bin_get_property;
1554
1555   g_object_class_install_property (gobject_class, PROP_LATENCY,
1556       g_param_spec_uint ("latency", "Buffer latency in ms",
1557           "Default amount of ms to buffer in the jitterbuffers", 0,
1558           G_MAXUINT, DEFAULT_LATENCY_MS,
1559           G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
1560
1561   g_object_class_install_property (gobject_class, PROP_DROP_ON_LATENCY,
1562       g_param_spec_boolean ("drop-on-latency",
1563           "Drop buffers when maximum latency is reached",
1564           "Tells the jitterbuffer to never exceed the given latency in size",
1565           DEFAULT_DROP_ON_LATENCY, G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
1566
1567   /**
1568    * GstRtpBin::request-pt-map:
1569    * @rtpbin: the object which received the signal
1570    * @session: the session
1571    * @pt: the pt
1572    *
1573    * Request the payload type as #GstCaps for @pt in @session.
1574    */
1575   gst_rtp_bin_signals[SIGNAL_REQUEST_PT_MAP] =
1576       g_signal_new ("request-pt-map", G_TYPE_FROM_CLASS (klass),
1577       G_SIGNAL_RUN_LAST, G_STRUCT_OFFSET (GstRtpBinClass, request_pt_map),
1578       NULL, NULL, gst_rtp_bin_marshal_BOXED__UINT_UINT, GST_TYPE_CAPS, 2,
1579       G_TYPE_UINT, G_TYPE_UINT);
1580
1581     /**
1582    * GstRtpBin::payload-type-change:
1583    * @rtpbin: the object which received the signal
1584    * @session: the session
1585    * @pt: the pt
1586    *
1587    * Signal that the current payload type changed to @pt in @session.
1588    *
1589    * Since: 0.10.17
1590    */
1591   gst_rtp_bin_signals[SIGNAL_PAYLOAD_TYPE_CHANGE] =
1592       g_signal_new ("payload-type-change", G_TYPE_FROM_CLASS (klass),
1593       G_SIGNAL_RUN_LAST, G_STRUCT_OFFSET (GstRtpBinClass, payload_type_change),
1594       NULL, NULL, gst_rtp_bin_marshal_VOID__UINT_UINT, G_TYPE_NONE, 2,
1595       G_TYPE_UINT, G_TYPE_UINT);
1596
1597   /**
1598    * GstRtpBin::clear-pt-map:
1599    * @rtpbin: the object which received the signal
1600    *
1601    * Clear all previously cached pt-mapping obtained with
1602    * #GstRtpBin::request-pt-map.
1603    */
1604   gst_rtp_bin_signals[SIGNAL_CLEAR_PT_MAP] =
1605       g_signal_new ("clear-pt-map", G_TYPE_FROM_CLASS (klass),
1606       G_SIGNAL_RUN_LAST | G_SIGNAL_ACTION, G_STRUCT_OFFSET (GstRtpBinClass,
1607           clear_pt_map), NULL, NULL, g_cclosure_marshal_VOID__VOID, G_TYPE_NONE,
1608       0, G_TYPE_NONE);
1609
1610   /**
1611    * GstRtpBin::reset-sync:
1612    * @rtpbin: the object which received the signal
1613    *
1614    * Reset all currently configured lip-sync parameters and require new SR
1615    * packets for all streams before lip-sync is attempted again.
1616    */
1617   gst_rtp_bin_signals[SIGNAL_RESET_SYNC] =
1618       g_signal_new ("reset-sync", G_TYPE_FROM_CLASS (klass),
1619       G_SIGNAL_RUN_LAST | G_SIGNAL_ACTION, G_STRUCT_OFFSET (GstRtpBinClass,
1620           reset_sync), NULL, NULL, g_cclosure_marshal_VOID__VOID, G_TYPE_NONE,
1621       0, G_TYPE_NONE);
1622
1623   /**
1624    * GstRtpBin::get-internal-session:
1625    * @rtpbin: the object which received the signal
1626    * @id: the session id
1627    *
1628    * Request the internal RTPSession object as #GObject in session @id.
1629    */
1630   gst_rtp_bin_signals[SIGNAL_GET_INTERNAL_SESSION] =
1631       g_signal_new ("get-internal-session", G_TYPE_FROM_CLASS (klass),
1632       G_SIGNAL_RUN_LAST | G_SIGNAL_ACTION, G_STRUCT_OFFSET (GstRtpBinClass,
1633           get_internal_session), NULL, NULL, gst_rtp_bin_marshal_OBJECT__UINT,
1634       RTP_TYPE_SESSION, 1, G_TYPE_UINT);
1635
1636   /**
1637    * GstRtpBin::on-new-ssrc:
1638    * @rtpbin: the object which received the signal
1639    * @session: the session
1640    * @ssrc: the SSRC
1641    *
1642    * Notify of a new SSRC that entered @session.
1643    */
1644   gst_rtp_bin_signals[SIGNAL_ON_NEW_SSRC] =
1645       g_signal_new ("on-new-ssrc", G_TYPE_FROM_CLASS (klass),
1646       G_SIGNAL_RUN_LAST, G_STRUCT_OFFSET (GstRtpBinClass, on_new_ssrc),
1647       NULL, NULL, gst_rtp_bin_marshal_VOID__UINT_UINT, G_TYPE_NONE, 2,
1648       G_TYPE_UINT, G_TYPE_UINT);
1649   /**
1650    * GstRtpBin::on-ssrc-collision:
1651    * @rtpbin: the object which received the signal
1652    * @session: the session
1653    * @ssrc: the SSRC
1654    *
1655    * Notify when we have an SSRC collision
1656    */
1657   gst_rtp_bin_signals[SIGNAL_ON_SSRC_COLLISION] =
1658       g_signal_new ("on-ssrc-collision", G_TYPE_FROM_CLASS (klass),
1659       G_SIGNAL_RUN_LAST, G_STRUCT_OFFSET (GstRtpBinClass, on_ssrc_collision),
1660       NULL, NULL, gst_rtp_bin_marshal_VOID__UINT_UINT, G_TYPE_NONE, 2,
1661       G_TYPE_UINT, G_TYPE_UINT);
1662   /**
1663    * GstRtpBin::on-ssrc-validated:
1664    * @rtpbin: the object which received the signal
1665    * @session: the session
1666    * @ssrc: the SSRC
1667    *
1668    * Notify of a new SSRC that became validated.
1669    */
1670   gst_rtp_bin_signals[SIGNAL_ON_SSRC_VALIDATED] =
1671       g_signal_new ("on-ssrc-validated", G_TYPE_FROM_CLASS (klass),
1672       G_SIGNAL_RUN_LAST, G_STRUCT_OFFSET (GstRtpBinClass, on_ssrc_validated),
1673       NULL, NULL, gst_rtp_bin_marshal_VOID__UINT_UINT, G_TYPE_NONE, 2,
1674       G_TYPE_UINT, G_TYPE_UINT);
1675   /**
1676    * GstRtpBin::on-ssrc-active:
1677    * @rtpbin: the object which received the signal
1678    * @session: the session
1679    * @ssrc: the SSRC
1680    *
1681    * Notify of a SSRC that is active, i.e., sending RTCP.
1682    */
1683   gst_rtp_bin_signals[SIGNAL_ON_SSRC_ACTIVE] =
1684       g_signal_new ("on-ssrc-active", G_TYPE_FROM_CLASS (klass),
1685       G_SIGNAL_RUN_LAST, G_STRUCT_OFFSET (GstRtpBinClass, on_ssrc_active),
1686       NULL, NULL, gst_rtp_bin_marshal_VOID__UINT_UINT, G_TYPE_NONE, 2,
1687       G_TYPE_UINT, G_TYPE_UINT);
1688   /**
1689    * GstRtpBin::on-ssrc-sdes:
1690    * @rtpbin: the object which received the signal
1691    * @session: the session
1692    * @ssrc: the SSRC
1693    *
1694    * Notify of a SSRC that is active, i.e., sending RTCP.
1695    */
1696   gst_rtp_bin_signals[SIGNAL_ON_SSRC_SDES] =
1697       g_signal_new ("on-ssrc-sdes", G_TYPE_FROM_CLASS (klass),
1698       G_SIGNAL_RUN_LAST, G_STRUCT_OFFSET (GstRtpBinClass, on_ssrc_sdes),
1699       NULL, NULL, gst_rtp_bin_marshal_VOID__UINT_UINT, G_TYPE_NONE, 2,
1700       G_TYPE_UINT, G_TYPE_UINT);
1701
1702   /**
1703    * GstRtpBin::on-bye-ssrc:
1704    * @rtpbin: the object which received the signal
1705    * @session: the session
1706    * @ssrc: the SSRC
1707    *
1708    * Notify of an SSRC that became inactive because of a BYE packet.
1709    */
1710   gst_rtp_bin_signals[SIGNAL_ON_BYE_SSRC] =
1711       g_signal_new ("on-bye-ssrc", G_TYPE_FROM_CLASS (klass),
1712       G_SIGNAL_RUN_LAST, G_STRUCT_OFFSET (GstRtpBinClass, on_bye_ssrc),
1713       NULL, NULL, gst_rtp_bin_marshal_VOID__UINT_UINT, G_TYPE_NONE, 2,
1714       G_TYPE_UINT, G_TYPE_UINT);
1715   /**
1716    * GstRtpBin::on-bye-timeout:
1717    * @rtpbin: the object which received the signal
1718    * @session: the session
1719    * @ssrc: the SSRC
1720    *
1721    * Notify of an SSRC that has timed out because of BYE
1722    */
1723   gst_rtp_bin_signals[SIGNAL_ON_BYE_TIMEOUT] =
1724       g_signal_new ("on-bye-timeout", G_TYPE_FROM_CLASS (klass),
1725       G_SIGNAL_RUN_LAST, G_STRUCT_OFFSET (GstRtpBinClass, on_bye_timeout),
1726       NULL, NULL, gst_rtp_bin_marshal_VOID__UINT_UINT, G_TYPE_NONE, 2,
1727       G_TYPE_UINT, G_TYPE_UINT);
1728   /**
1729    * GstRtpBin::on-timeout:
1730    * @rtpbin: the object which received the signal
1731    * @session: the session
1732    * @ssrc: the SSRC
1733    *
1734    * Notify of an SSRC that has timed out
1735    */
1736   gst_rtp_bin_signals[SIGNAL_ON_TIMEOUT] =
1737       g_signal_new ("on-timeout", G_TYPE_FROM_CLASS (klass),
1738       G_SIGNAL_RUN_LAST, G_STRUCT_OFFSET (GstRtpBinClass, on_timeout),
1739       NULL, NULL, gst_rtp_bin_marshal_VOID__UINT_UINT, G_TYPE_NONE, 2,
1740       G_TYPE_UINT, G_TYPE_UINT);
1741   /**
1742    * GstRtpBin::on-sender-timeout:
1743    * @rtpbin: the object which received the signal
1744    * @session: the session
1745    * @ssrc: the SSRC
1746    *
1747    * Notify of a sender SSRC that has timed out and became a receiver
1748    */
1749   gst_rtp_bin_signals[SIGNAL_ON_SENDER_TIMEOUT] =
1750       g_signal_new ("on-sender-timeout", G_TYPE_FROM_CLASS (klass),
1751       G_SIGNAL_RUN_LAST, G_STRUCT_OFFSET (GstRtpBinClass, on_sender_timeout),
1752       NULL, NULL, gst_rtp_bin_marshal_VOID__UINT_UINT, G_TYPE_NONE, 2,
1753       G_TYPE_UINT, G_TYPE_UINT);
1754
1755   /**
1756    * GstRtpBin::on-npt-stop:
1757    * @rtpbin: the object which received the signal
1758    * @session: the session
1759    * @ssrc: the SSRC
1760    *
1761    * Notify that SSRC sender has sent data up to the configured NPT stop time.
1762    */
1763   gst_rtp_bin_signals[SIGNAL_ON_NPT_STOP] =
1764       g_signal_new ("on-npt-stop", G_TYPE_FROM_CLASS (klass),
1765       G_SIGNAL_RUN_LAST, G_STRUCT_OFFSET (GstRtpBinClass, on_npt_stop),
1766       NULL, NULL, gst_rtp_bin_marshal_VOID__UINT_UINT, G_TYPE_NONE, 2,
1767       G_TYPE_UINT, G_TYPE_UINT);
1768
1769   g_object_class_install_property (gobject_class, PROP_SDES,
1770       g_param_spec_boxed ("sdes", "SDES",
1771           "The SDES items of this session",
1772           GST_TYPE_STRUCTURE, G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
1773
1774   g_object_class_install_property (gobject_class, PROP_DO_LOST,
1775       g_param_spec_boolean ("do-lost", "Do Lost",
1776           "Send an event downstream when a packet is lost", DEFAULT_DO_LOST,
1777           G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
1778
1779   g_object_class_install_property (gobject_class, PROP_AUTOREMOVE,
1780       g_param_spec_boolean ("autoremove", "Auto Remove",
1781           "Automatically remove timed out sources", DEFAULT_AUTOREMOVE,
1782           G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
1783
1784   g_object_class_install_property (gobject_class, PROP_IGNORE_PT,
1785       g_param_spec_boolean ("ignore-pt", "Ignore PT",
1786           "Do not demultiplex based on PT values", DEFAULT_IGNORE_PT,
1787           G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
1788
1789   g_object_class_install_property (gobject_class, PROP_USE_PIPELINE_CLOCK,
1790       g_param_spec_boolean ("use-pipeline-clock", "Use pipeline clock",
1791           "Use the pipeline running-time to set the NTP time in the RTCP SR messages",
1792           DEFAULT_USE_PIPELINE_CLOCK,
1793           G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
1794   /**
1795    * GstRtpBin::buffer-mode:
1796    *
1797    * Control the buffering and timestamping mode used by the jitterbuffer.
1798    *
1799    * Since: 0.10.17
1800    */
1801   g_object_class_install_property (gobject_class, PROP_BUFFER_MODE,
1802       g_param_spec_enum ("buffer-mode", "Buffer Mode",
1803           "Control the buffering algorithm in use", RTP_TYPE_JITTER_BUFFER_MODE,
1804           DEFAULT_BUFFER_MODE, G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
1805   /**
1806    * GstRtpBin::ntp-sync:
1807    *
1808    * Set the NTP time from the sender reports as the running-time on the
1809    * buffers. When both the sender and receiver have sychronized
1810    * running-time, i.e. when the clock and base-time is shared
1811    * between the receivers and the and the senders, this option can be
1812    * used to synchronize receivers on multiple machines.
1813    *
1814    * Since: 0.10.21
1815    */
1816   g_object_class_install_property (gobject_class, PROP_NTP_SYNC,
1817       g_param_spec_boolean ("ntp-sync", "Sync on NTP clock",
1818           "Synchronize received streams to the NTP clock", DEFAULT_NTP_SYNC,
1819           G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
1820
1821   /**
1822    * GstRtpBin::rtcp-sync:
1823    *
1824    * If not synchronizing (directly) to the NTP clock, determines how to sync
1825    * the various streams.
1826    *
1827    * Since: 0.10.31
1828    */
1829   g_object_class_install_property (gobject_class, PROP_RTCP_SYNC,
1830       g_param_spec_enum ("rtcp-sync", "RTCP Sync",
1831           "Use of RTCP SR in synchronization", GST_RTP_BIN_RTCP_SYNC_TYPE,
1832           DEFAULT_RTCP_SYNC, G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
1833
1834   /**
1835    * GstRtpBin::rtcp-sync-interval:
1836    *
1837    * Determines how often to sync streams using RTCP data.
1838    *
1839    * Since: 0.10.31
1840    */
1841   g_object_class_install_property (gobject_class, PROP_RTCP_SYNC_INTERVAL,
1842       g_param_spec_uint ("rtcp-sync-interval", "RTCP Sync Interval",
1843           "RTCP SR interval synchronization (ms) (0 = always)",
1844           0, G_MAXUINT, DEFAULT_RTCP_SYNC_INTERVAL,
1845           G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
1846
1847   gstelement_class->change_state = GST_DEBUG_FUNCPTR (gst_rtp_bin_change_state);
1848   gstelement_class->request_new_pad =
1849       GST_DEBUG_FUNCPTR (gst_rtp_bin_request_new_pad);
1850   gstelement_class->release_pad = GST_DEBUG_FUNCPTR (gst_rtp_bin_release_pad);
1851
1852   /* sink pads */
1853   gst_element_class_add_pad_template (gstelement_class,
1854       gst_static_pad_template_get (&rtpbin_recv_rtp_sink_template));
1855   gst_element_class_add_pad_template (gstelement_class,
1856       gst_static_pad_template_get (&rtpbin_recv_rtcp_sink_template));
1857   gst_element_class_add_pad_template (gstelement_class,
1858       gst_static_pad_template_get (&rtpbin_send_rtp_sink_template));
1859
1860   /* src pads */
1861   gst_element_class_add_pad_template (gstelement_class,
1862       gst_static_pad_template_get (&rtpbin_recv_rtp_src_template));
1863   gst_element_class_add_pad_template (gstelement_class,
1864       gst_static_pad_template_get (&rtpbin_send_rtcp_src_template));
1865   gst_element_class_add_pad_template (gstelement_class,
1866       gst_static_pad_template_get (&rtpbin_send_rtp_src_template));
1867
1868   gst_element_class_set_static_metadata (gstelement_class, "RTP Bin",
1869       "Filter/Network/RTP",
1870       "Real-Time Transport Protocol bin",
1871       "Wim Taymans <wim.taymans@gmail.com>");
1872
1873   gstbin_class->handle_message = GST_DEBUG_FUNCPTR (gst_rtp_bin_handle_message);
1874
1875   klass->clear_pt_map = GST_DEBUG_FUNCPTR (gst_rtp_bin_clear_pt_map);
1876   klass->reset_sync = GST_DEBUG_FUNCPTR (gst_rtp_bin_reset_sync);
1877   klass->get_internal_session =
1878       GST_DEBUG_FUNCPTR (gst_rtp_bin_get_internal_session);
1879
1880   GST_DEBUG_CATEGORY_INIT (gst_rtp_bin_debug, "rtpbin", 0, "RTP bin");
1881 }
1882
1883 static void
1884 gst_rtp_bin_init (GstRtpBin * rtpbin)
1885 {
1886   gchar *cname;
1887
1888   rtpbin->priv = GST_RTP_BIN_GET_PRIVATE (rtpbin);
1889   g_mutex_init (&rtpbin->priv->bin_lock);
1890   g_mutex_init (&rtpbin->priv->dyn_lock);
1891
1892   rtpbin->latency_ms = DEFAULT_LATENCY_MS;
1893   rtpbin->latency_ns = DEFAULT_LATENCY_MS * GST_MSECOND;
1894   rtpbin->drop_on_latency = DEFAULT_DROP_ON_LATENCY;
1895   rtpbin->do_lost = DEFAULT_DO_LOST;
1896   rtpbin->ignore_pt = DEFAULT_IGNORE_PT;
1897   rtpbin->ntp_sync = DEFAULT_NTP_SYNC;
1898   rtpbin->rtcp_sync = DEFAULT_RTCP_SYNC;
1899   rtpbin->rtcp_sync_interval = DEFAULT_RTCP_SYNC_INTERVAL;
1900   rtpbin->priv->autoremove = DEFAULT_AUTOREMOVE;
1901   rtpbin->buffer_mode = DEFAULT_BUFFER_MODE;
1902   rtpbin->use_pipeline_clock = DEFAULT_USE_PIPELINE_CLOCK;
1903
1904   /* some default SDES entries */
1905   cname = g_strdup_printf ("user%u@host-%x", g_random_int (), g_random_int ());
1906   rtpbin->sdes = gst_structure_new ("application/x-rtp-source-sdes",
1907       "cname", G_TYPE_STRING, cname, "tool", G_TYPE_STRING, "GStreamer", NULL);
1908   g_free (cname);
1909 }
1910
1911 static void
1912 gst_rtp_bin_dispose (GObject * object)
1913 {
1914   GstRtpBin *rtpbin;
1915
1916   rtpbin = GST_RTP_BIN (object);
1917
1918   GST_RTP_BIN_LOCK (rtpbin);
1919   GST_DEBUG_OBJECT (object, "freeing sessions");
1920   g_slist_foreach (rtpbin->sessions, (GFunc) free_session, rtpbin);
1921   g_slist_free (rtpbin->sessions);
1922   rtpbin->sessions = NULL;
1923   GST_DEBUG_OBJECT (object, "freeing clients");
1924   g_slist_foreach (rtpbin->clients, (GFunc) free_client, rtpbin);
1925   g_slist_free (rtpbin->clients);
1926   rtpbin->clients = NULL;
1927   GST_RTP_BIN_UNLOCK (rtpbin);
1928
1929   G_OBJECT_CLASS (parent_class)->dispose (object);
1930 }
1931
1932 static void
1933 gst_rtp_bin_finalize (GObject * object)
1934 {
1935   GstRtpBin *rtpbin;
1936
1937   rtpbin = GST_RTP_BIN (object);
1938
1939   if (rtpbin->sdes)
1940     gst_structure_free (rtpbin->sdes);
1941
1942   g_mutex_clear (&rtpbin->priv->bin_lock);
1943   g_mutex_clear (&rtpbin->priv->dyn_lock);
1944
1945   G_OBJECT_CLASS (parent_class)->finalize (object);
1946 }
1947
1948
1949 static void
1950 gst_rtp_bin_set_sdes_struct (GstRtpBin * bin, const GstStructure * sdes)
1951 {
1952   GSList *item;
1953
1954   if (sdes == NULL)
1955     return;
1956
1957   GST_RTP_BIN_LOCK (bin);
1958
1959   GST_OBJECT_LOCK (bin);
1960   if (bin->sdes)
1961     gst_structure_free (bin->sdes);
1962   bin->sdes = gst_structure_copy (sdes);
1963   GST_OBJECT_UNLOCK (bin);
1964
1965   /* store in all sessions */
1966   for (item = bin->sessions; item; item = g_slist_next (item)) {
1967     GstRtpBinSession *session = item->data;
1968     g_object_set (session->session, "sdes", sdes, NULL);
1969   }
1970
1971   GST_RTP_BIN_UNLOCK (bin);
1972 }
1973
1974 static GstStructure *
1975 gst_rtp_bin_get_sdes_struct (GstRtpBin * bin)
1976 {
1977   GstStructure *result;
1978
1979   GST_OBJECT_LOCK (bin);
1980   result = gst_structure_copy (bin->sdes);
1981   GST_OBJECT_UNLOCK (bin);
1982
1983   return result;
1984 }
1985
1986 static void
1987 gst_rtp_bin_set_property (GObject * object, guint prop_id,
1988     const GValue * value, GParamSpec * pspec)
1989 {
1990   GstRtpBin *rtpbin;
1991
1992   rtpbin = GST_RTP_BIN (object);
1993
1994   switch (prop_id) {
1995     case PROP_LATENCY:
1996       GST_RTP_BIN_LOCK (rtpbin);
1997       rtpbin->latency_ms = g_value_get_uint (value);
1998       rtpbin->latency_ns = rtpbin->latency_ms * GST_MSECOND;
1999       GST_RTP_BIN_UNLOCK (rtpbin);
2000       /* propagate the property down to the jitterbuffer */
2001       gst_rtp_bin_propagate_property_to_jitterbuffer (rtpbin, "latency", value);
2002       break;
2003     case PROP_DROP_ON_LATENCY:
2004       GST_RTP_BIN_LOCK (rtpbin);
2005       rtpbin->drop_on_latency = g_value_get_boolean (value);
2006       GST_RTP_BIN_UNLOCK (rtpbin);
2007       /* propagate the property down to the jitterbuffer */
2008       gst_rtp_bin_propagate_property_to_jitterbuffer (rtpbin,
2009           "drop-on-latency", value);
2010       break;
2011     case PROP_SDES:
2012       gst_rtp_bin_set_sdes_struct (rtpbin, g_value_get_boxed (value));
2013       break;
2014     case PROP_DO_LOST:
2015       GST_RTP_BIN_LOCK (rtpbin);
2016       rtpbin->do_lost = g_value_get_boolean (value);
2017       GST_RTP_BIN_UNLOCK (rtpbin);
2018       gst_rtp_bin_propagate_property_to_jitterbuffer (rtpbin, "do-lost", value);
2019       break;
2020     case PROP_NTP_SYNC:
2021       rtpbin->ntp_sync = g_value_get_boolean (value);
2022       break;
2023     case PROP_RTCP_SYNC:
2024       g_atomic_int_set (&rtpbin->rtcp_sync, g_value_get_enum (value));
2025       break;
2026     case PROP_RTCP_SYNC_INTERVAL:
2027       rtpbin->rtcp_sync_interval = g_value_get_uint (value);
2028       break;
2029     case PROP_IGNORE_PT:
2030       rtpbin->ignore_pt = g_value_get_boolean (value);
2031       break;
2032     case PROP_AUTOREMOVE:
2033       rtpbin->priv->autoremove = g_value_get_boolean (value);
2034       break;
2035     case PROP_USE_PIPELINE_CLOCK:
2036     {
2037       GSList *sessions;
2038       GST_RTP_BIN_LOCK (rtpbin);
2039       rtpbin->use_pipeline_clock = g_value_get_boolean (value);
2040       for (sessions = rtpbin->sessions; sessions;
2041           sessions = g_slist_next (sessions)) {
2042         GstRtpBinSession *session = (GstRtpBinSession *) sessions->data;
2043
2044         g_object_set (G_OBJECT (session->session),
2045             "use-pipeline-clock", rtpbin->use_pipeline_clock, NULL);
2046       }
2047       GST_RTP_BIN_UNLOCK (rtpbin);
2048     }
2049       break;
2050     case PROP_BUFFER_MODE:
2051       GST_RTP_BIN_LOCK (rtpbin);
2052       rtpbin->buffer_mode = g_value_get_enum (value);
2053       GST_RTP_BIN_UNLOCK (rtpbin);
2054       /* propagate the property down to the jitterbuffer */
2055       gst_rtp_bin_propagate_property_to_jitterbuffer (rtpbin, "mode", value);
2056       break;
2057     default:
2058       G_OBJECT_WARN_INVALID_PROPERTY_ID (object, prop_id, pspec);
2059       break;
2060   }
2061 }
2062
2063 static void
2064 gst_rtp_bin_get_property (GObject * object, guint prop_id,
2065     GValue * value, GParamSpec * pspec)
2066 {
2067   GstRtpBin *rtpbin;
2068
2069   rtpbin = GST_RTP_BIN (object);
2070
2071   switch (prop_id) {
2072     case PROP_LATENCY:
2073       GST_RTP_BIN_LOCK (rtpbin);
2074       g_value_set_uint (value, rtpbin->latency_ms);
2075       GST_RTP_BIN_UNLOCK (rtpbin);
2076       break;
2077     case PROP_DROP_ON_LATENCY:
2078       GST_RTP_BIN_LOCK (rtpbin);
2079       g_value_set_boolean (value, rtpbin->drop_on_latency);
2080       GST_RTP_BIN_UNLOCK (rtpbin);
2081       break;
2082     case PROP_SDES:
2083       g_value_take_boxed (value, gst_rtp_bin_get_sdes_struct (rtpbin));
2084       break;
2085     case PROP_DO_LOST:
2086       GST_RTP_BIN_LOCK (rtpbin);
2087       g_value_set_boolean (value, rtpbin->do_lost);
2088       GST_RTP_BIN_UNLOCK (rtpbin);
2089       break;
2090     case PROP_IGNORE_PT:
2091       g_value_set_boolean (value, rtpbin->ignore_pt);
2092       break;
2093     case PROP_NTP_SYNC:
2094       g_value_set_boolean (value, rtpbin->ntp_sync);
2095       break;
2096     case PROP_RTCP_SYNC:
2097       g_value_set_enum (value, g_atomic_int_get (&rtpbin->rtcp_sync));
2098       break;
2099     case PROP_RTCP_SYNC_INTERVAL:
2100       g_value_set_uint (value, rtpbin->rtcp_sync_interval);
2101       break;
2102     case PROP_AUTOREMOVE:
2103       g_value_set_boolean (value, rtpbin->priv->autoremove);
2104       break;
2105     case PROP_BUFFER_MODE:
2106       g_value_set_enum (value, rtpbin->buffer_mode);
2107       break;
2108     case PROP_USE_PIPELINE_CLOCK:
2109       g_value_set_boolean (value, rtpbin->use_pipeline_clock);
2110       break;
2111     default:
2112       G_OBJECT_WARN_INVALID_PROPERTY_ID (object, prop_id, pspec);
2113       break;
2114   }
2115 }
2116
2117 static void
2118 gst_rtp_bin_handle_message (GstBin * bin, GstMessage * message)
2119 {
2120   GstRtpBin *rtpbin;
2121
2122   rtpbin = GST_RTP_BIN (bin);
2123
2124   switch (GST_MESSAGE_TYPE (message)) {
2125     case GST_MESSAGE_ELEMENT:
2126     {
2127       const GstStructure *s = gst_message_get_structure (message);
2128
2129       /* we change the structure name and add the session ID to it */
2130       if (gst_structure_has_name (s, "application/x-rtp-source-sdes")) {
2131         GstRtpBinSession *sess;
2132
2133         /* find the session we set it as object data */
2134         sess = g_object_get_data (G_OBJECT (GST_MESSAGE_SRC (message)),
2135             "GstRTPBin.session");
2136
2137         if (G_LIKELY (sess)) {
2138           message = gst_message_make_writable (message);
2139           s = gst_message_get_structure (message);
2140           gst_structure_set ((GstStructure *) s, "session", G_TYPE_UINT,
2141               sess->id, NULL);
2142         }
2143       }
2144       GST_BIN_CLASS (parent_class)->handle_message (bin, message);
2145       break;
2146     }
2147     case GST_MESSAGE_BUFFERING:
2148     {
2149       gint percent;
2150       gint min_percent = 100;
2151       GSList *sessions, *streams;
2152       GstRtpBinStream *stream;
2153       gboolean change = FALSE, active = FALSE;
2154       GstClockTime min_out_time;
2155       GstBufferingMode mode;
2156       gint avg_in, avg_out;
2157       gint64 buffering_left;
2158
2159       gst_message_parse_buffering (message, &percent);
2160       gst_message_parse_buffering_stats (message, &mode, &avg_in, &avg_out,
2161           &buffering_left);
2162
2163       stream =
2164           g_object_get_data (G_OBJECT (GST_MESSAGE_SRC (message)),
2165           "GstRTPBin.stream");
2166
2167       GST_DEBUG_OBJECT (bin, "got percent %d from stream %p", percent, stream);
2168
2169       /* get the stream */
2170       if (G_LIKELY (stream)) {
2171         GST_RTP_BIN_LOCK (rtpbin);
2172         /* fill in the percent */
2173         stream->percent = percent;
2174
2175         /* calculate the min value for all streams */
2176         for (sessions = rtpbin->sessions; sessions;
2177             sessions = g_slist_next (sessions)) {
2178           GstRtpBinSession *session = (GstRtpBinSession *) sessions->data;
2179
2180           GST_RTP_SESSION_LOCK (session);
2181           if (session->streams) {
2182             for (streams = session->streams; streams;
2183                 streams = g_slist_next (streams)) {
2184               GstRtpBinStream *stream = (GstRtpBinStream *) streams->data;
2185
2186               GST_DEBUG_OBJECT (bin, "stream %p percent %d", stream,
2187                   stream->percent);
2188
2189               /* find min percent */
2190               if (min_percent > stream->percent)
2191                 min_percent = stream->percent;
2192             }
2193           } else {
2194             GST_INFO_OBJECT (bin,
2195                 "session has no streams, setting min_percent to 0");
2196             min_percent = 0;
2197           }
2198           GST_RTP_SESSION_UNLOCK (session);
2199         }
2200         GST_DEBUG_OBJECT (bin, "min percent %d", min_percent);
2201
2202         if (rtpbin->buffering) {
2203           if (min_percent == 100) {
2204             rtpbin->buffering = FALSE;
2205             active = TRUE;
2206             change = TRUE;
2207           }
2208         } else {
2209           if (min_percent < 100) {
2210             /* pause the streams */
2211             rtpbin->buffering = TRUE;
2212             active = FALSE;
2213             change = TRUE;
2214           }
2215         }
2216         GST_RTP_BIN_UNLOCK (rtpbin);
2217
2218         gst_message_unref (message);
2219
2220         /* make a new buffering message with the min value */
2221         message =
2222             gst_message_new_buffering (GST_OBJECT_CAST (bin), min_percent);
2223         gst_message_set_buffering_stats (message, mode, avg_in, avg_out,
2224             buffering_left);
2225
2226         if (G_UNLIKELY (change)) {
2227           GstClock *clock;
2228           guint64 running_time = 0;
2229           guint64 offset = 0;
2230
2231           /* figure out the running time when we have a clock */
2232           if (G_LIKELY ((clock =
2233                       gst_element_get_clock (GST_ELEMENT_CAST (bin))))) {
2234             guint64 now, base_time;
2235
2236             now = gst_clock_get_time (clock);
2237             base_time = gst_element_get_base_time (GST_ELEMENT_CAST (bin));
2238             running_time = now - base_time;
2239             gst_object_unref (clock);
2240           }
2241           GST_DEBUG_OBJECT (bin,
2242               "running time now %" GST_TIME_FORMAT,
2243               GST_TIME_ARGS (running_time));
2244
2245           GST_RTP_BIN_LOCK (rtpbin);
2246
2247           /* when we reactivate, calculate the offsets so that all streams have
2248            * an output time that is at least as big as the running_time */
2249           offset = 0;
2250           if (active) {
2251             if (running_time > rtpbin->buffer_start) {
2252               offset = running_time - rtpbin->buffer_start;
2253               if (offset >= rtpbin->latency_ns)
2254                 offset -= rtpbin->latency_ns;
2255               else
2256                 offset = 0;
2257             }
2258           }
2259
2260           /* pause all streams */
2261           min_out_time = -1;
2262           for (sessions = rtpbin->sessions; sessions;
2263               sessions = g_slist_next (sessions)) {
2264             GstRtpBinSession *session = (GstRtpBinSession *) sessions->data;
2265
2266             GST_RTP_SESSION_LOCK (session);
2267             for (streams = session->streams; streams;
2268                 streams = g_slist_next (streams)) {
2269               GstRtpBinStream *stream = (GstRtpBinStream *) streams->data;
2270               GstElement *element = stream->buffer;
2271               guint64 last_out;
2272
2273               g_signal_emit_by_name (element, "set-active", active, offset,
2274                   &last_out);
2275
2276               if (!active) {
2277                 g_object_get (element, "percent", &stream->percent, NULL);
2278
2279                 if (last_out == -1)
2280                   last_out = 0;
2281                 if (min_out_time == -1 || last_out < min_out_time)
2282                   min_out_time = last_out;
2283               }
2284
2285               GST_DEBUG_OBJECT (bin,
2286                   "setting %p to %d, offset %" GST_TIME_FORMAT ", last %"
2287                   GST_TIME_FORMAT ", percent %d", element, active,
2288                   GST_TIME_ARGS (offset), GST_TIME_ARGS (last_out),
2289                   stream->percent);
2290             }
2291             GST_RTP_SESSION_UNLOCK (session);
2292           }
2293           GST_DEBUG_OBJECT (bin,
2294               "min out time %" GST_TIME_FORMAT, GST_TIME_ARGS (min_out_time));
2295
2296           /* the buffer_start is the min out time of all paused jitterbuffers */
2297           if (!active)
2298             rtpbin->buffer_start = min_out_time;
2299
2300           GST_RTP_BIN_UNLOCK (rtpbin);
2301         }
2302       }
2303       GST_BIN_CLASS (parent_class)->handle_message (bin, message);
2304       break;
2305     }
2306     default:
2307     {
2308       GST_BIN_CLASS (parent_class)->handle_message (bin, message);
2309       break;
2310     }
2311   }
2312 }
2313
2314 static GstStateChangeReturn
2315 gst_rtp_bin_change_state (GstElement * element, GstStateChange transition)
2316 {
2317   GstStateChangeReturn res;
2318   GstRtpBin *rtpbin;
2319   GstRtpBinPrivate *priv;
2320
2321   rtpbin = GST_RTP_BIN (element);
2322   priv = rtpbin->priv;
2323
2324   switch (transition) {
2325     case GST_STATE_CHANGE_NULL_TO_READY:
2326       break;
2327     case GST_STATE_CHANGE_READY_TO_PAUSED:
2328       priv->last_unix = 0;
2329       GST_LOG_OBJECT (rtpbin, "clearing shutdown flag");
2330       g_atomic_int_set (&priv->shutdown, 0);
2331       break;
2332     case GST_STATE_CHANGE_PAUSED_TO_READY:
2333       GST_LOG_OBJECT (rtpbin, "setting shutdown flag");
2334       g_atomic_int_set (&priv->shutdown, 1);
2335       /* wait for all callbacks to end by taking the lock. No new callbacks will
2336        * be able to happen as we set the shutdown flag. */
2337       GST_RTP_BIN_DYN_LOCK (rtpbin);
2338       GST_LOG_OBJECT (rtpbin, "dynamic lock taken, we can continue shutdown");
2339       GST_RTP_BIN_DYN_UNLOCK (rtpbin);
2340       break;
2341     default:
2342       break;
2343   }
2344
2345   res = GST_ELEMENT_CLASS (parent_class)->change_state (element, transition);
2346
2347   switch (transition) {
2348     case GST_STATE_CHANGE_PLAYING_TO_PAUSED:
2349       break;
2350     case GST_STATE_CHANGE_PAUSED_TO_READY:
2351       break;
2352     case GST_STATE_CHANGE_READY_TO_NULL:
2353       break;
2354     default:
2355       break;
2356   }
2357   return res;
2358 }
2359
2360 /* a new pad (SSRC) was created in @session. This signal is emited from the
2361  * payload demuxer. */
2362 static void
2363 new_payload_found (GstElement * element, guint pt, GstPad * pad,
2364     GstRtpBinStream * stream)
2365 {
2366   GstRtpBin *rtpbin;
2367   GstElementClass *klass;
2368   GstPadTemplate *templ;
2369   gchar *padname;
2370   GstPad *gpad;
2371
2372   rtpbin = stream->bin;
2373
2374   GST_DEBUG ("new payload pad %d", pt);
2375
2376   GST_RTP_BIN_SHUTDOWN_LOCK (rtpbin, shutdown);
2377
2378   /* ghost the pad to the parent */
2379   klass = GST_ELEMENT_GET_CLASS (rtpbin);
2380   templ = gst_element_class_get_pad_template (klass, "recv_rtp_src_%u_%u_%u");
2381   padname = g_strdup_printf ("recv_rtp_src_%u_%u_%u",
2382       stream->session->id, stream->ssrc, pt);
2383   gpad = gst_ghost_pad_new_from_template (padname, pad, templ);
2384   g_free (padname);
2385   g_object_set_data (G_OBJECT (pad), "GstRTPBin.ghostpad", gpad);
2386
2387   gst_pad_set_active (gpad, TRUE);
2388   GST_RTP_BIN_SHUTDOWN_UNLOCK (rtpbin);
2389
2390   gst_element_add_pad (GST_ELEMENT_CAST (rtpbin), gpad);
2391
2392   return;
2393
2394 shutdown:
2395   {
2396     GST_DEBUG ("ignoring, we are shutting down");
2397     return;
2398   }
2399 }
2400
2401 static void
2402 payload_pad_removed (GstElement * element, GstPad * pad,
2403     GstRtpBinStream * stream)
2404 {
2405   GstRtpBin *rtpbin;
2406   GstPad *gpad;
2407
2408   rtpbin = stream->bin;
2409
2410   GST_DEBUG ("payload pad removed");
2411
2412   GST_RTP_BIN_DYN_LOCK (rtpbin);
2413   if ((gpad = g_object_get_data (G_OBJECT (pad), "GstRTPBin.ghostpad"))) {
2414     g_object_set_data (G_OBJECT (pad), "GstRTPBin.ghostpad", NULL);
2415
2416     gst_pad_set_active (gpad, FALSE);
2417     gst_element_remove_pad (GST_ELEMENT_CAST (rtpbin), gpad);
2418   }
2419   GST_RTP_BIN_DYN_UNLOCK (rtpbin);
2420 }
2421
2422 static GstCaps *
2423 pt_map_requested (GstElement * element, guint pt, GstRtpBinSession * session)
2424 {
2425   GstRtpBin *rtpbin;
2426   GstCaps *caps;
2427
2428   rtpbin = session->bin;
2429
2430   GST_DEBUG_OBJECT (rtpbin, "payload map requested for pt %d in session %d", pt,
2431       session->id);
2432
2433   caps = get_pt_map (session, pt);
2434   if (!caps)
2435     goto no_caps;
2436
2437   return caps;
2438
2439   /* ERRORS */
2440 no_caps:
2441   {
2442     GST_DEBUG_OBJECT (rtpbin, "could not get caps");
2443     return NULL;
2444   }
2445 }
2446
2447 static void
2448 payload_type_change (GstElement * element, guint pt, GstRtpBinSession * session)
2449 {
2450   GST_DEBUG_OBJECT (session->bin,
2451       "emiting signal for pt type changed to %d in session %d", pt,
2452       session->id);
2453
2454   g_signal_emit (session->bin, gst_rtp_bin_signals[SIGNAL_PAYLOAD_TYPE_CHANGE],
2455       0, session->id, pt);
2456 }
2457
2458 /* emited when caps changed for the session */
2459 static void
2460 caps_changed (GstPad * pad, GParamSpec * pspec, GstRtpBinSession * session)
2461 {
2462   GstRtpBin *bin;
2463   GstCaps *caps;
2464   gint payload;
2465   const GstStructure *s;
2466
2467   bin = session->bin;
2468
2469   g_object_get (pad, "caps", &caps, NULL);
2470
2471   if (caps == NULL)
2472     return;
2473
2474   GST_DEBUG_OBJECT (bin, "got caps %" GST_PTR_FORMAT, caps);
2475
2476   s = gst_caps_get_structure (caps, 0);
2477
2478   /* get payload, finish when it's not there */
2479   if (!gst_structure_get_int (s, "payload", &payload))
2480     return;
2481
2482   GST_RTP_SESSION_LOCK (session);
2483   GST_DEBUG_OBJECT (bin, "insert caps for payload %d", payload);
2484   g_hash_table_insert (session->ptmap, GINT_TO_POINTER (payload), caps);
2485   GST_RTP_SESSION_UNLOCK (session);
2486 }
2487
2488 /* a new pad (SSRC) was created in @session */
2489 static void
2490 new_ssrc_pad_found (GstElement * element, guint ssrc, GstPad * pad,
2491     GstRtpBinSession * session)
2492 {
2493   GstRtpBin *rtpbin;
2494   GstRtpBinStream *stream;
2495   GstPad *sinkpad, *srcpad;
2496   gchar *padname;
2497
2498   rtpbin = session->bin;
2499
2500   GST_DEBUG_OBJECT (rtpbin, "new SSRC pad %08x, %s:%s", ssrc,
2501       GST_DEBUG_PAD_NAME (pad));
2502
2503   GST_RTP_BIN_SHUTDOWN_LOCK (rtpbin, shutdown);
2504
2505   GST_RTP_SESSION_LOCK (session);
2506
2507   /* create new stream */
2508   stream = create_stream (session, ssrc);
2509   if (!stream)
2510     goto no_stream;
2511
2512   /* get pad and link */
2513   GST_DEBUG_OBJECT (rtpbin, "linking jitterbuffer RTP");
2514   padname = g_strdup_printf ("src_%u", ssrc);
2515   srcpad = gst_element_get_static_pad (element, padname);
2516   g_free (padname);
2517   sinkpad = gst_element_get_static_pad (stream->buffer, "sink");
2518   gst_pad_link (srcpad, sinkpad);
2519   gst_object_unref (sinkpad);
2520   gst_object_unref (srcpad);
2521
2522   GST_DEBUG_OBJECT (rtpbin, "linking jitterbuffer RTCP");
2523   padname = g_strdup_printf ("rtcp_src_%u", ssrc);
2524   srcpad = gst_element_get_static_pad (element, padname);
2525   g_free (padname);
2526   sinkpad = gst_element_get_request_pad (stream->buffer, "sink_rtcp");
2527   gst_pad_link (srcpad, sinkpad);
2528   gst_object_unref (sinkpad);
2529   gst_object_unref (srcpad);
2530
2531   /* connect to the RTCP sync signal from the jitterbuffer */
2532   GST_DEBUG_OBJECT (rtpbin, "connecting sync signal");
2533   stream->buffer_handlesync_sig = g_signal_connect (stream->buffer,
2534       "handle-sync", (GCallback) gst_rtp_bin_handle_sync, stream);
2535
2536   if (stream->demux) {
2537     /* connect to the new-pad signal of the payload demuxer, this will expose the
2538      * new pad by ghosting it. */
2539     stream->demux_newpad_sig = g_signal_connect (stream->demux,
2540         "new-payload-type", (GCallback) new_payload_found, stream);
2541     stream->demux_padremoved_sig = g_signal_connect (stream->demux,
2542         "pad-removed", (GCallback) payload_pad_removed, stream);
2543
2544     /* connect to the request-pt-map signal. This signal will be emited by the
2545      * demuxer so that it can apply a proper caps on the buffers for the
2546      * depayloaders. */
2547     stream->demux_ptreq_sig = g_signal_connect (stream->demux,
2548         "request-pt-map", (GCallback) pt_map_requested, session);
2549     /* connect to the  signal so it can be forwarded. */
2550     stream->demux_ptchange_sig = g_signal_connect (stream->demux,
2551         "payload-type-change", (GCallback) payload_type_change, session);
2552   } else {
2553     /* add gstrtpjitterbuffer src pad to pads */
2554     GstElementClass *klass;
2555     GstPadTemplate *templ;
2556     gchar *padname;
2557     GstPad *gpad, *pad;
2558
2559     pad = gst_element_get_static_pad (stream->buffer, "src");
2560
2561     /* ghost the pad to the parent */
2562     klass = GST_ELEMENT_GET_CLASS (rtpbin);
2563     templ = gst_element_class_get_pad_template (klass, "recv_rtp_src_%u_%u_%u");
2564     padname = g_strdup_printf ("recv_rtp_src_%u_%u_%u",
2565         stream->session->id, stream->ssrc, 255);
2566     gpad = gst_ghost_pad_new_from_template (padname, pad, templ);
2567     g_free (padname);
2568
2569     gst_pad_set_active (gpad, TRUE);
2570     gst_element_add_pad (GST_ELEMENT_CAST (rtpbin), gpad);
2571
2572     gst_object_unref (pad);
2573   }
2574
2575   GST_RTP_SESSION_UNLOCK (session);
2576   GST_RTP_BIN_SHUTDOWN_UNLOCK (rtpbin);
2577
2578   return;
2579
2580   /* ERRORS */
2581 shutdown:
2582   {
2583     GST_DEBUG_OBJECT (rtpbin, "we are shutting down");
2584     return;
2585   }
2586 no_stream:
2587   {
2588     GST_RTP_SESSION_UNLOCK (session);
2589     GST_RTP_BIN_SHUTDOWN_UNLOCK (rtpbin);
2590     GST_DEBUG_OBJECT (rtpbin, "could not create stream");
2591     return;
2592   }
2593 }
2594
2595 /* Create a pad for receiving RTP for the session in @name. Must be called with
2596  * RTP_BIN_LOCK.
2597  */
2598 static GstPad *
2599 create_recv_rtp (GstRtpBin * rtpbin, GstPadTemplate * templ, const gchar * name)
2600 {
2601   GstPad *sinkdpad;
2602   guint sessid;
2603   GstRtpBinSession *session;
2604   GstPadLinkReturn lres;
2605
2606   /* first get the session number */
2607   if (name == NULL || sscanf (name, "recv_rtp_sink_%u", &sessid) != 1)
2608     goto no_name;
2609
2610   GST_DEBUG_OBJECT (rtpbin, "finding session %d", sessid);
2611
2612   /* get or create session */
2613   session = find_session_by_id (rtpbin, sessid);
2614   if (!session) {
2615     GST_DEBUG_OBJECT (rtpbin, "creating session %d", sessid);
2616     /* create session now */
2617     session = create_session (rtpbin, sessid);
2618     if (session == NULL)
2619       goto create_error;
2620   }
2621
2622   /* check if pad was requested */
2623   if (session->recv_rtp_sink_ghost != NULL)
2624     return session->recv_rtp_sink_ghost;
2625
2626   GST_DEBUG_OBJECT (rtpbin, "getting RTP sink pad");
2627   /* get recv_rtp pad and store */
2628   session->recv_rtp_sink =
2629       gst_element_get_request_pad (session->session, "recv_rtp_sink");
2630   if (session->recv_rtp_sink == NULL)
2631     goto pad_failed;
2632
2633   g_signal_connect (session->recv_rtp_sink, "notify::caps",
2634       (GCallback) caps_changed, session);
2635
2636   GST_DEBUG_OBJECT (rtpbin, "getting RTP src pad");
2637   /* get srcpad, link to SSRCDemux */
2638   session->recv_rtp_src =
2639       gst_element_get_static_pad (session->session, "recv_rtp_src");
2640   if (session->recv_rtp_src == NULL)
2641     goto pad_failed;
2642
2643   GST_DEBUG_OBJECT (rtpbin, "getting demuxer RTP sink pad");
2644   sinkdpad = gst_element_get_static_pad (session->demux, "sink");
2645   GST_DEBUG_OBJECT (rtpbin, "linking demuxer RTP sink pad");
2646   lres = gst_pad_link (session->recv_rtp_src, sinkdpad);
2647   gst_object_unref (sinkdpad);
2648   if (lres != GST_PAD_LINK_OK)
2649     goto link_failed;
2650
2651   /* connect to the new-ssrc-pad signal of the SSRC demuxer */
2652   session->demux_newpad_sig = g_signal_connect (session->demux,
2653       "new-ssrc-pad", (GCallback) new_ssrc_pad_found, session);
2654   session->demux_padremoved_sig = g_signal_connect (session->demux,
2655       "removed-ssrc-pad", (GCallback) ssrc_demux_pad_removed, session);
2656
2657   GST_DEBUG_OBJECT (rtpbin, "ghosting session sink pad");
2658   session->recv_rtp_sink_ghost =
2659       gst_ghost_pad_new_from_template (name, session->recv_rtp_sink, templ);
2660   gst_pad_set_active (session->recv_rtp_sink_ghost, TRUE);
2661   gst_element_add_pad (GST_ELEMENT_CAST (rtpbin), session->recv_rtp_sink_ghost);
2662
2663   return session->recv_rtp_sink_ghost;
2664
2665   /* ERRORS */
2666 no_name:
2667   {
2668     g_warning ("rtpbin: invalid name given");
2669     return NULL;
2670   }
2671 create_error:
2672   {
2673     /* create_session already warned */
2674     return NULL;
2675   }
2676 pad_failed:
2677   {
2678     g_warning ("rtpbin: failed to get session pad");
2679     return NULL;
2680   }
2681 link_failed:
2682   {
2683     g_warning ("rtpbin: failed to link pads");
2684     return NULL;
2685   }
2686 }
2687
2688 static void
2689 remove_recv_rtp (GstRtpBin * rtpbin, GstRtpBinSession * session)
2690 {
2691   if (session->demux_newpad_sig) {
2692     g_signal_handler_disconnect (session->demux, session->demux_newpad_sig);
2693     session->demux_newpad_sig = 0;
2694   }
2695   if (session->demux_padremoved_sig) {
2696     g_signal_handler_disconnect (session->demux, session->demux_padremoved_sig);
2697     session->demux_padremoved_sig = 0;
2698   }
2699   if (session->recv_rtp_src) {
2700     gst_object_unref (session->recv_rtp_src);
2701     session->recv_rtp_src = NULL;
2702   }
2703   if (session->recv_rtp_sink) {
2704     gst_element_release_request_pad (session->session, session->recv_rtp_sink);
2705     gst_object_unref (session->recv_rtp_sink);
2706     session->recv_rtp_sink = NULL;
2707   }
2708   if (session->recv_rtp_sink_ghost) {
2709     gst_pad_set_active (session->recv_rtp_sink_ghost, FALSE);
2710     gst_element_remove_pad (GST_ELEMENT_CAST (rtpbin),
2711         session->recv_rtp_sink_ghost);
2712     session->recv_rtp_sink_ghost = NULL;
2713   }
2714 }
2715
2716 /* Create a pad for receiving RTCP for the session in @name. Must be called with
2717  * RTP_BIN_LOCK.
2718  */
2719 static GstPad *
2720 create_recv_rtcp (GstRtpBin * rtpbin, GstPadTemplate * templ,
2721     const gchar * name)
2722 {
2723   guint sessid;
2724   GstRtpBinSession *session;
2725   GstPad *sinkdpad;
2726   GstPadLinkReturn lres;
2727
2728   /* first get the session number */
2729   if (name == NULL || sscanf (name, "recv_rtcp_sink_%u", &sessid) != 1)
2730     goto no_name;
2731
2732   GST_DEBUG_OBJECT (rtpbin, "finding session %d", sessid);
2733
2734   /* get or create the session */
2735   session = find_session_by_id (rtpbin, sessid);
2736   if (!session) {
2737     GST_DEBUG_OBJECT (rtpbin, "creating session %d", sessid);
2738     /* create session now */
2739     session = create_session (rtpbin, sessid);
2740     if (session == NULL)
2741       goto create_error;
2742   }
2743
2744   /* check if pad was requested */
2745   if (session->recv_rtcp_sink_ghost != NULL)
2746     return session->recv_rtcp_sink_ghost;
2747
2748   /* get recv_rtp pad and store */
2749   GST_DEBUG_OBJECT (rtpbin, "getting RTCP sink pad");
2750   session->recv_rtcp_sink =
2751       gst_element_get_request_pad (session->session, "recv_rtcp_sink");
2752   if (session->recv_rtcp_sink == NULL)
2753     goto pad_failed;
2754
2755   /* get srcpad, link to SSRCDemux */
2756   GST_DEBUG_OBJECT (rtpbin, "getting sync src pad");
2757   session->sync_src = gst_element_get_static_pad (session->session, "sync_src");
2758   if (session->sync_src == NULL)
2759     goto pad_failed;
2760
2761   GST_DEBUG_OBJECT (rtpbin, "getting demuxer RTCP sink pad");
2762   sinkdpad = gst_element_get_static_pad (session->demux, "rtcp_sink");
2763   lres = gst_pad_link (session->sync_src, sinkdpad);
2764   gst_object_unref (sinkdpad);
2765   if (lres != GST_PAD_LINK_OK)
2766     goto link_failed;
2767
2768   session->recv_rtcp_sink_ghost =
2769       gst_ghost_pad_new_from_template (name, session->recv_rtcp_sink, templ);
2770   gst_pad_set_active (session->recv_rtcp_sink_ghost, TRUE);
2771   gst_element_add_pad (GST_ELEMENT_CAST (rtpbin),
2772       session->recv_rtcp_sink_ghost);
2773
2774   return session->recv_rtcp_sink_ghost;
2775
2776   /* ERRORS */
2777 no_name:
2778   {
2779     g_warning ("rtpbin: invalid name given");
2780     return NULL;
2781   }
2782 create_error:
2783   {
2784     /* create_session already warned */
2785     return NULL;
2786   }
2787 pad_failed:
2788   {
2789     g_warning ("rtpbin: failed to get session pad");
2790     return NULL;
2791   }
2792 link_failed:
2793   {
2794     g_warning ("rtpbin: failed to link pads");
2795     return NULL;
2796   }
2797 }
2798
2799 static void
2800 remove_recv_rtcp (GstRtpBin * rtpbin, GstRtpBinSession * session)
2801 {
2802   if (session->recv_rtcp_sink_ghost) {
2803     gst_pad_set_active (session->recv_rtcp_sink_ghost, FALSE);
2804     gst_element_remove_pad (GST_ELEMENT_CAST (rtpbin),
2805         session->recv_rtcp_sink_ghost);
2806     session->recv_rtcp_sink_ghost = NULL;
2807   }
2808   if (session->sync_src) {
2809     /* releasing the request pad should also unref the sync pad */
2810     gst_object_unref (session->sync_src);
2811     session->sync_src = NULL;
2812   }
2813   if (session->recv_rtcp_sink) {
2814     gst_element_release_request_pad (session->session, session->recv_rtcp_sink);
2815     gst_object_unref (session->recv_rtcp_sink);
2816     session->recv_rtcp_sink = NULL;
2817   }
2818 }
2819
2820 /* Create a pad for sending RTP for the session in @name. Must be called with
2821  * RTP_BIN_LOCK.
2822  */
2823 static GstPad *
2824 create_send_rtp (GstRtpBin * rtpbin, GstPadTemplate * templ, const gchar * name)
2825 {
2826   gchar *gname;
2827   guint sessid;
2828   GstRtpBinSession *session;
2829   GstElementClass *klass;
2830
2831   /* first get the session number */
2832   if (name == NULL || sscanf (name, "send_rtp_sink_%u", &sessid) != 1)
2833     goto no_name;
2834
2835   /* get or create session */
2836   session = find_session_by_id (rtpbin, sessid);
2837   if (!session) {
2838     /* create session now */
2839     session = create_session (rtpbin, sessid);
2840     if (session == NULL)
2841       goto create_error;
2842   }
2843
2844   /* check if pad was requested */
2845   if (session->send_rtp_sink_ghost != NULL)
2846     return session->send_rtp_sink_ghost;
2847
2848   /* get send_rtp pad and store */
2849   session->send_rtp_sink =
2850       gst_element_get_request_pad (session->session, "send_rtp_sink");
2851   if (session->send_rtp_sink == NULL)
2852     goto pad_failed;
2853
2854   session->send_rtp_sink_ghost =
2855       gst_ghost_pad_new_from_template (name, session->send_rtp_sink, templ);
2856   gst_pad_set_active (session->send_rtp_sink_ghost, TRUE);
2857   gst_element_add_pad (GST_ELEMENT_CAST (rtpbin), session->send_rtp_sink_ghost);
2858
2859   /* get srcpad */
2860   session->send_rtp_src =
2861       gst_element_get_static_pad (session->session, "send_rtp_src");
2862   if (session->send_rtp_src == NULL)
2863     goto no_srcpad;
2864
2865   /* ghost the new source pad */
2866   klass = GST_ELEMENT_GET_CLASS (rtpbin);
2867   gname = g_strdup_printf ("send_rtp_src_%u", sessid);
2868   templ = gst_element_class_get_pad_template (klass, "send_rtp_src_%u");
2869   session->send_rtp_src_ghost =
2870       gst_ghost_pad_new_from_template (gname, session->send_rtp_src, templ);
2871   gst_pad_set_active (session->send_rtp_src_ghost, TRUE);
2872   gst_element_add_pad (GST_ELEMENT_CAST (rtpbin), session->send_rtp_src_ghost);
2873   g_free (gname);
2874
2875   return session->send_rtp_sink_ghost;
2876
2877   /* ERRORS */
2878 no_name:
2879   {
2880     g_warning ("rtpbin: invalid name given");
2881     return NULL;
2882   }
2883 create_error:
2884   {
2885     /* create_session already warned */
2886     return NULL;
2887   }
2888 pad_failed:
2889   {
2890     g_warning ("rtpbin: failed to get session pad for session %d", sessid);
2891     return NULL;
2892   }
2893 no_srcpad:
2894   {
2895     g_warning ("rtpbin: failed to get rtp source pad for session %d", sessid);
2896     return NULL;
2897   }
2898 }
2899
2900 static void
2901 remove_send_rtp (GstRtpBin * rtpbin, GstRtpBinSession * session)
2902 {
2903   if (session->send_rtp_src_ghost) {
2904     gst_pad_set_active (session->send_rtp_src_ghost, FALSE);
2905     gst_element_remove_pad (GST_ELEMENT_CAST (rtpbin),
2906         session->send_rtp_src_ghost);
2907     session->send_rtp_src_ghost = NULL;
2908   }
2909   if (session->send_rtp_src) {
2910     gst_object_unref (session->send_rtp_src);
2911     session->send_rtp_src = NULL;
2912   }
2913   if (session->send_rtp_sink) {
2914     gst_element_release_request_pad (GST_ELEMENT_CAST (session->session),
2915         session->send_rtp_sink);
2916     gst_object_unref (session->send_rtp_sink);
2917     session->send_rtp_sink = NULL;
2918   }
2919   if (session->send_rtp_sink_ghost) {
2920     gst_pad_set_active (session->send_rtp_sink_ghost, FALSE);
2921     gst_element_remove_pad (GST_ELEMENT_CAST (rtpbin),
2922         session->send_rtp_sink_ghost);
2923     session->send_rtp_sink_ghost = NULL;
2924   }
2925 }
2926
2927 /* Create a pad for sending RTCP for the session in @name. Must be called with
2928  * RTP_BIN_LOCK.
2929  */
2930 static GstPad *
2931 create_rtcp (GstRtpBin * rtpbin, GstPadTemplate * templ, const gchar * name)
2932 {
2933   guint sessid;
2934   GstRtpBinSession *session;
2935
2936   /* first get the session number */
2937   if (name == NULL || sscanf (name, "send_rtcp_src_%u", &sessid) != 1)
2938     goto no_name;
2939
2940   /* get or create session */
2941   session = find_session_by_id (rtpbin, sessid);
2942   if (!session)
2943     goto no_session;
2944
2945   /* check if pad was requested */
2946   if (session->send_rtcp_src_ghost != NULL)
2947     return session->send_rtcp_src_ghost;
2948
2949   /* get rtcp_src pad and store */
2950   session->send_rtcp_src =
2951       gst_element_get_request_pad (session->session, "send_rtcp_src");
2952   if (session->send_rtcp_src == NULL)
2953     goto pad_failed;
2954
2955   session->send_rtcp_src_ghost =
2956       gst_ghost_pad_new_from_template (name, session->send_rtcp_src, templ);
2957   gst_pad_set_active (session->send_rtcp_src_ghost, TRUE);
2958   gst_element_add_pad (GST_ELEMENT_CAST (rtpbin), session->send_rtcp_src_ghost);
2959
2960   return session->send_rtcp_src_ghost;
2961
2962   /* ERRORS */
2963 no_name:
2964   {
2965     g_warning ("rtpbin: invalid name given");
2966     return NULL;
2967   }
2968 no_session:
2969   {
2970     g_warning ("rtpbin: session with id %d does not exist", sessid);
2971     return NULL;
2972   }
2973 pad_failed:
2974   {
2975     g_warning ("rtpbin: failed to get rtcp pad for session %d", sessid);
2976     return NULL;
2977   }
2978 }
2979
2980 static void
2981 remove_rtcp (GstRtpBin * rtpbin, GstRtpBinSession * session)
2982 {
2983   if (session->send_rtcp_src_ghost) {
2984     gst_pad_set_active (session->send_rtcp_src_ghost, FALSE);
2985     gst_element_remove_pad (GST_ELEMENT_CAST (rtpbin),
2986         session->send_rtcp_src_ghost);
2987     session->send_rtcp_src_ghost = NULL;
2988   }
2989   if (session->send_rtcp_src) {
2990     gst_element_release_request_pad (session->session, session->send_rtcp_src);
2991     gst_object_unref (session->send_rtcp_src);
2992     session->send_rtcp_src = NULL;
2993   }
2994 }
2995
2996 /* If the requested name is NULL we should create a name with
2997  * the session number assuming we want the lowest posible session
2998  * with a free pad like the template */
2999 static gchar *
3000 gst_rtp_bin_get_free_pad_name (GstElement * element, GstPadTemplate * templ)
3001 {
3002   gboolean name_found = FALSE;
3003   gint session = 0;
3004   GstIterator *pad_it = NULL;
3005   gchar *pad_name = NULL;
3006   GValue data = { 0, };
3007
3008   GST_DEBUG_OBJECT (element, "find a free pad name for template");
3009   while (!name_found) {
3010     gboolean done = FALSE;
3011
3012     g_free (pad_name);
3013     pad_name = g_strdup_printf (templ->name_template, session++);
3014     pad_it = gst_element_iterate_pads (GST_ELEMENT (element));
3015     name_found = TRUE;
3016     while (!done) {
3017       switch (gst_iterator_next (pad_it, &data)) {
3018         case GST_ITERATOR_OK:
3019         {
3020           GstPad *pad;
3021           gchar *name;
3022
3023           pad = g_value_get_object (&data);
3024           name = gst_pad_get_name (pad);
3025
3026           if (strcmp (name, pad_name) == 0) {
3027             done = TRUE;
3028             name_found = FALSE;
3029           }
3030           g_free (name);
3031           g_value_reset (&data);
3032           break;
3033         }
3034         case GST_ITERATOR_ERROR:
3035         case GST_ITERATOR_RESYNC:
3036           /* restart iteration */
3037           done = TRUE;
3038           name_found = FALSE;
3039           session = 0;
3040           break;
3041         case GST_ITERATOR_DONE:
3042           done = TRUE;
3043           break;
3044       }
3045     }
3046     g_value_unset (&data);
3047     gst_iterator_free (pad_it);
3048   }
3049
3050   GST_DEBUG_OBJECT (element, "free pad name found: '%s'", pad_name);
3051   return pad_name;
3052 }
3053
3054 /*
3055  */
3056 static GstPad *
3057 gst_rtp_bin_request_new_pad (GstElement * element,
3058     GstPadTemplate * templ, const gchar * name, const GstCaps * caps)
3059 {
3060   GstRtpBin *rtpbin;
3061   GstElementClass *klass;
3062   GstPad *result;
3063
3064   gchar *pad_name = NULL;
3065
3066   g_return_val_if_fail (templ != NULL, NULL);
3067   g_return_val_if_fail (GST_IS_RTP_BIN (element), NULL);
3068
3069   rtpbin = GST_RTP_BIN (element);
3070   klass = GST_ELEMENT_GET_CLASS (element);
3071
3072   GST_RTP_BIN_LOCK (rtpbin);
3073
3074   if (name == NULL) {
3075     /* use a free pad name */
3076     pad_name = gst_rtp_bin_get_free_pad_name (element, templ);
3077   } else {
3078     /* use the provided name */
3079     pad_name = g_strdup (name);
3080   }
3081
3082   GST_DEBUG_OBJECT (rtpbin, "Trying to request a pad with name %s", pad_name);
3083
3084   /* figure out the template */
3085   if (templ == gst_element_class_get_pad_template (klass, "recv_rtp_sink_%u")) {
3086     result = create_recv_rtp (rtpbin, templ, pad_name);
3087   } else if (templ == gst_element_class_get_pad_template (klass,
3088           "recv_rtcp_sink_%u")) {
3089     result = create_recv_rtcp (rtpbin, templ, pad_name);
3090   } else if (templ == gst_element_class_get_pad_template (klass,
3091           "send_rtp_sink_%u")) {
3092     result = create_send_rtp (rtpbin, templ, pad_name);
3093   } else if (templ == gst_element_class_get_pad_template (klass,
3094           "send_rtcp_src_%u")) {
3095     result = create_rtcp (rtpbin, templ, pad_name);
3096   } else
3097     goto wrong_template;
3098
3099   g_free (pad_name);
3100   GST_RTP_BIN_UNLOCK (rtpbin);
3101
3102   return result;
3103
3104   /* ERRORS */
3105 wrong_template:
3106   {
3107     g_free (pad_name);
3108     GST_RTP_BIN_UNLOCK (rtpbin);
3109     g_warning ("rtpbin: this is not our template");
3110     return NULL;
3111   }
3112 }
3113
3114 static void
3115 gst_rtp_bin_release_pad (GstElement * element, GstPad * pad)
3116 {
3117   GstRtpBinSession *session;
3118   GstRtpBin *rtpbin;
3119
3120   g_return_if_fail (GST_IS_GHOST_PAD (pad));
3121   g_return_if_fail (GST_IS_RTP_BIN (element));
3122
3123   rtpbin = GST_RTP_BIN (element);
3124
3125   GST_RTP_BIN_LOCK (rtpbin);
3126   GST_DEBUG_OBJECT (rtpbin, "Trying to release pad %s:%s",
3127       GST_DEBUG_PAD_NAME (pad));
3128
3129   if (!(session = find_session_by_pad (rtpbin, pad)))
3130     goto unknown_pad;
3131
3132   if (session->recv_rtp_sink_ghost == pad) {
3133     remove_recv_rtp (rtpbin, session);
3134   } else if (session->recv_rtcp_sink_ghost == pad) {
3135     remove_recv_rtcp (rtpbin, session);
3136   } else if (session->send_rtp_sink_ghost == pad) {
3137     remove_send_rtp (rtpbin, session);
3138   } else if (session->send_rtcp_src_ghost == pad) {
3139     remove_rtcp (rtpbin, session);
3140   }
3141
3142   /* no more request pads, free the complete session */
3143   if (session->recv_rtp_sink_ghost == NULL
3144       && session->recv_rtcp_sink_ghost == NULL
3145       && session->send_rtp_sink_ghost == NULL
3146       && session->send_rtcp_src_ghost == NULL) {
3147     GST_DEBUG_OBJECT (rtpbin, "no more pads for session %p", session);
3148     rtpbin->sessions = g_slist_remove (rtpbin->sessions, session);
3149     free_session (session, rtpbin);
3150   }
3151   GST_RTP_BIN_UNLOCK (rtpbin);
3152
3153   return;
3154
3155   /* ERROR */
3156 unknown_pad:
3157   {
3158     GST_RTP_BIN_UNLOCK (rtpbin);
3159     g_warning ("rtpbin: %s:%s is not one of our request pads",
3160         GST_DEBUG_PAD_NAME (pad));
3161     return;
3162   }
3163 }