ext/soup/gstsouphttpsrc.c

   1 /* GStreamer
   2  * Copyright (C) 2007-2008 Wouter Cloetens <wouter@mind.be>
   3  *
   4  * This library is free software; you can redistribute it and/or
   5  * modify it under the terms of the GNU Library General Public
   6  * License as published by the Free Software Foundation; either
   7  * version 2 of the License, or (at your option) any later version.
   8  *
   9  * This library is distributed in the hope that it will be useful,
  10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  12  * Library General Public License for more
  13  */
  14
  15 /**
  16  * SECTION:element-souphttpsrc
  17  *
  18  * This plugin reads data from a remote location specified by a URI.
  19  * Supported protocols are 'http', 'https'.
  20  *
  21  * An HTTP proxy must be specified by its URL.
  22  * If the "http_proxy" environment variable is set, its value is used.
  23  * If built with libsoup's GNOME integration features, the GNOME proxy
  24  * configuration will be used, or failing that, proxy autodetection.
  25  * The #GstSoupHTTPSrc:proxy property can be used to override the default.
  26  *
  27  * In case the #GstSoupHTTPSrc:iradio-mode property is set and the location is
  28  * an HTTP resource, souphttpsrc will send special Icecast HTTP headers to the
  29  * server to request additional Icecast meta-information.
  30  * If the server is not an Icecast server, it will behave as if the
  31  * #GstSoupHTTPSrc:iradio-mode property were not set. If it is, souphttpsrc will
  32  * output data with a media type of application/x-icy, in which case you will
  33  * need to use the #ICYDemux element as follow-up element to extract the Icecast
  34  * metadata and to determine the underlying media type.
  35  *
  36  * <refsect2>
  37  * <title>Example launch line</title>
  38  * |[
  39  * gst-launch-1.0 -v souphttpsrc location=https://some.server.org/index.html
  40  *     ! filesink location=/home/joe/server.html
  41  * ]| The above pipeline reads a web page from a server using the HTTPS protocol
  42  * and writes it to a local file.
  43  * |[
  44  * gst-launch-1.0 -v souphttpsrc user-agent="FooPlayer 0.99 beta"
  45  *     automatic-redirect=false proxy=http://proxy.intranet.local:8080
  46  *     location=http://music.foobar.com/demo.mp3 ! mpgaudioparse
  47  *     ! mpg123audiodec ! audioconvert ! audioresample ! autoaudiosink
  48  * ]| The above pipeline will read and decode and play an mp3 file from a
  49  * web server using the HTTP protocol. If the server sends redirects,
  50  * the request fails instead of following the redirect. The specified
  51  * HTTP proxy server is used. The User-Agent HTTP request header
  52  * is set to a custom string instead of "GStreamer souphttpsrc."
  53  * |[
  54  * gst-launch-1.0 -v souphttpsrc location=http://10.11.12.13/mjpeg
  55  *     do-timestamp=true ! multipartdemux
  56  *     ! image/jpeg,width=640,height=480 ! matroskamux
  57  *     ! filesink location=mjpeg.mkv
  58  * ]| The above pipeline reads a motion JPEG stream from an IP camera
  59  * using the HTTP protocol, encoded as mime/multipart image/jpeg
  60  * parts, and writes a Matroska motion JPEG file. The width and
  61  * height properties are set in the caps to provide the Matroska
  62  * multiplexer with the information to set this in the header.
  63  * Timestamps are set on the buffers as they arrive from the camera.
  64  * These are used by the mime/multipart demultiplexer to emit timestamps
  65  * on the JPEG-encoded video frame buffers. This allows the Matroska
  66  * multiplexer to timestamp the frames in the resulting file.
  67  * </refsect2>
  68  */
  69
  70 #ifdef HAVE_CONFIG_H
  71 #include "config.h"
  72 #endif
  73
  74 #include <string.h>
  75 #ifdef HAVE_STDLIB_H
  76 #include <stdlib.h>             /* atoi() */
  77 #endif
  78 #include <gst/gstelement.h>
  79 #include <gst/gst-i18n-plugin.h>
  80 #include <libsoup/soup.h>
  81 #include "gstsouphttpsrc.h"
  82 #include "gstsouputils.h"
  83
  84 #include <gst/tag/tag.h>
  85
  86 GST_DEBUG_CATEGORY_STATIC (souphttpsrc_debug);
  87 #define GST_CAT_DEFAULT souphttpsrc_debug
  88
  89 #define GST_SOUP_SESSION_CONTEXT "gst.soup.session"
  90
  91 static GstStaticPadTemplate srctemplate = GST_STATIC_PAD_TEMPLATE ("src",
  92     GST_PAD_SRC,
  93     GST_PAD_ALWAYS,
  94     GST_STATIC_CAPS_ANY);
  95
  96 enum
  97 {
  98   PROP_0,
  99   PROP_LOCATION,
 100   PROP_IS_LIVE,
 101   PROP_USER_AGENT,
 102   PROP_AUTOMATIC_REDIRECT,
 103   PROP_PROXY,
 104   PROP_USER_ID,
 105   PROP_USER_PW,
 106   PROP_PROXY_ID,
 107   PROP_PROXY_PW,
 108   PROP_COOKIES,
 109   PROP_IRADIO_MODE,
 110   PROP_TIMEOUT,
 111   PROP_EXTRA_HEADERS,
 112   PROP_SOUP_LOG_LEVEL,
 113   PROP_COMPRESS,
 114   PROP_KEEP_ALIVE,
 115   PROP_SSL_STRICT,
 116   PROP_SSL_CA_FILE,
 117   PROP_SSL_USE_SYSTEM_CA_FILE,
 118   PROP_TLS_DATABASE,
 119   PROP_RETRIES,
 120   PROP_METHOD,
 121   PROP_TLS_INTERACTION,
 122 };
 123
 124 #define DEFAULT_USER_AGENT           "GStreamer souphttpsrc " PACKAGE_VERSION " "
 125 #define DEFAULT_IRADIO_MODE          TRUE
 126 #define DEFAULT_SOUP_LOG_LEVEL       SOUP_LOGGER_LOG_HEADERS
 127 #define DEFAULT_COMPRESS             FALSE
 128 #define DEFAULT_KEEP_ALIVE           TRUE
 129 #define DEFAULT_SSL_STRICT           TRUE
 130 #define DEFAULT_SSL_CA_FILE          NULL
 131 #define DEFAULT_SSL_USE_SYSTEM_CA_FILE TRUE
 132 #define DEFAULT_TLS_DATABASE         NULL
 133 #define DEFAULT_TLS_INTERACTION      NULL
 134 #define DEFAULT_TIMEOUT              15
 135 #define DEFAULT_RETRIES              3
 136 #define DEFAULT_SOUP_METHOD          NULL
 137
 138 #define GROW_BLOCKSIZE_LIMIT 1
 139 #define GROW_BLOCKSIZE_COUNT 1
 140 #define GROW_BLOCKSIZE_FACTOR 2
 141 #define REDUCE_BLOCKSIZE_LIMIT 0.20
 142 #define REDUCE_BLOCKSIZE_COUNT 2
 143 #define REDUCE_BLOCKSIZE_FACTOR 0.5
 144
 145 static void gst_soup_http_src_uri_handler_init (gpointer g_iface,
 146     gpointer iface_data);
 147 static void gst_soup_http_src_finalize (GObject * gobject);
 148 static void gst_soup_http_src_dispose (GObject * gobject);
 149
 150 static void gst_soup_http_src_set_property (GObject * object, guint prop_id,
 151     const GValue * value, GParamSpec * pspec);
 152 static void gst_soup_http_src_get_property (GObject * object, guint prop_id,
 153     GValue * value, GParamSpec * pspec);
 154
 155 static GstStateChangeReturn gst_soup_http_src_change_state (GstElement *
 156     element, GstStateChange transition);
 157 static void gst_soup_http_src_set_context (GstElement * element,
 158     GstContext * context);
 159 static GstFlowReturn gst_soup_http_src_create (GstPushSrc * psrc,
 160     GstBuffer ** outbuf);
 161 static gboolean gst_soup_http_src_start (GstBaseSrc * bsrc);
 162 static gboolean gst_soup_http_src_stop (GstBaseSrc * bsrc);
 163 static gboolean gst_soup_http_src_get_size (GstBaseSrc * bsrc, guint64 * size);
 164 static gboolean gst_soup_http_src_is_seekable (GstBaseSrc * bsrc);
 165 static gboolean gst_soup_http_src_do_seek (GstBaseSrc * bsrc,
 166     GstSegment * segment);
 167 static gboolean gst_soup_http_src_query (GstBaseSrc * bsrc, GstQuery * query);
 168 static gboolean gst_soup_http_src_unlock (GstBaseSrc * bsrc);
 169 static gboolean gst_soup_http_src_unlock_stop (GstBaseSrc * bsrc);
 170 static gboolean gst_soup_http_src_set_location (GstSoupHTTPSrc * src,
 171     const gchar * uri, GError ** error);
 172 static gboolean gst_soup_http_src_set_proxy (GstSoupHTTPSrc * src,
 173     const gchar * uri);
 174 static char *gst_soup_http_src_unicodify (const char *str);
 175 static gboolean gst_soup_http_src_build_message (GstSoupHTTPSrc * src,
 176     const gchar * method);
 177 static void gst_soup_http_src_cancel_message (GstSoupHTTPSrc * src);
 178 static gboolean gst_soup_http_src_add_range_header (GstSoupHTTPSrc * src,
 179     guint64 offset, guint64 stop_offset);
 180 static gboolean gst_soup_http_src_session_open (GstSoupHTTPSrc * src);
 181 static void gst_soup_http_src_session_close (GstSoupHTTPSrc * src);
 182 static GstFlowReturn gst_soup_http_src_parse_status (SoupMessage * msg,
 183     GstSoupHTTPSrc * src);
 184 static GstFlowReturn gst_soup_http_src_got_headers (GstSoupHTTPSrc * src,
 185     SoupMessage * msg);
 186 static void gst_soup_http_src_authenticate_cb (SoupSession * session,
 187     SoupMessage * msg, SoupAuth * auth, gboolean retrying,
 188     GstSoupHTTPSrc * src);
 189
 190 #define gst_soup_http_src_parent_class parent_class
 191 G_DEFINE_TYPE_WITH_CODE (GstSoupHTTPSrc, gst_soup_http_src, GST_TYPE_PUSH_SRC,
 192     G_IMPLEMENT_INTERFACE (GST_TYPE_URI_HANDLER,
 193         gst_soup_http_src_uri_handler_init));
 194
 195 static void
 196 gst_soup_http_src_class_init (GstSoupHTTPSrcClass * klass)
 197 {
 198   GObjectClass *gobject_class;
 199   GstElementClass *gstelement_class;
 200   GstBaseSrcClass *gstbasesrc_class;
 201   GstPushSrcClass *gstpushsrc_class;
 202
 203   gobject_class = (GObjectClass *) klass;
 204   gstelement_class = (GstElementClass *) klass;
 205   gstbasesrc_class = (GstBaseSrcClass *) klass;
 206   gstpushsrc_class = (GstPushSrcClass *) klass;
 207
 208   gobject_class->set_property = gst_soup_http_src_set_property;
 209   gobject_class->get_property = gst_soup_http_src_get_property;
 210   gobject_class->finalize = gst_soup_http_src_finalize;
 211   gobject_class->dispose = gst_soup_http_src_dispose;
 212
 213   g_object_class_install_property (gobject_class,
 214       PROP_LOCATION,
 215       g_param_spec_string ("location", "Location",
 216           "Location to read from", "",
 217           G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
 218   g_object_class_install_property (gobject_class,
 219       PROP_USER_AGENT,
 220       g_param_spec_string ("user-agent", "User-Agent",
 221           "Value of the User-Agent HTTP request header field",
 222           DEFAULT_USER_AGENT, G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
 223   g_object_class_install_property (gobject_class,
 224       PROP_AUTOMATIC_REDIRECT,
 225       g_param_spec_boolean ("automatic-redirect", "automatic-redirect",
 226           "Automatically follow HTTP redirects (HTTP Status Code 3xx)",
 227           TRUE, G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
 228   g_object_class_install_property (gobject_class,
 229       PROP_PROXY,
 230       g_param_spec_string ("proxy", "Proxy",
 231           "HTTP proxy server URI", "",
 232           G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
 233   g_object_class_install_property (gobject_class,
 234       PROP_USER_ID,
 235       g_param_spec_string ("user-id", "user-id",
 236           "HTTP location URI user id for authentication", "",
 237           G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
 238   g_object_class_install_property (gobject_class, PROP_USER_PW,
 239       g_param_spec_string ("user-pw", "user-pw",
 240           "HTTP location URI user password for authentication", "",
 241           G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
 242   g_object_class_install_property (gobject_class, PROP_PROXY_ID,
 243       g_param_spec_string ("proxy-id", "proxy-id",
 244           "HTTP proxy URI user id for authentication", "",
 245           G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
 246   g_object_class_install_property (gobject_class, PROP_PROXY_PW,
 247       g_param_spec_string ("proxy-pw", "proxy-pw",
 248           "HTTP proxy URI user password for authentication", "",
 249           G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
 250   g_object_class_install_property (gobject_class, PROP_COOKIES,
 251       g_param_spec_boxed ("cookies", "Cookies", "HTTP request cookies",
 252           G_TYPE_STRV, G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
 253   g_object_class_install_property (gobject_class, PROP_IS_LIVE,
 254       g_param_spec_boolean ("is-live", "is-live", "Act like a live source",
 255           FALSE, G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
 256   g_object_class_install_property (gobject_class, PROP_TIMEOUT,
 257       g_param_spec_uint ("timeout", "timeout",
 258           "Value in seconds to timeout a blocking I/O (0 = No timeout).", 0,
 259           3600, DEFAULT_TIMEOUT, G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
 260   g_object_class_install_property (gobject_class, PROP_EXTRA_HEADERS,
 261       g_param_spec_boxed ("extra-headers", "Extra Headers",
 262           "Extra headers to append to the HTTP request",
 263           GST_TYPE_STRUCTURE, G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
 264   g_object_class_install_property (gobject_class, PROP_IRADIO_MODE,
 265       g_param_spec_boolean ("iradio-mode", "iradio-mode",
 266           "Enable internet radio mode (ask server to send shoutcast/icecast "
 267           "metadata interleaved with the actual stream data)",
 268           DEFAULT_IRADIO_MODE, G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
 269
 270  /**
 271    * GstSoupHTTPSrc::http-log-level:
 272    *
 273    * If set and > 0, captures and dumps HTTP session data as
 274    * log messages if log level >= GST_LEVEL_TRACE
 275    *
 276    * Since: 1.4
 277    */
 278   g_object_class_install_property (gobject_class, PROP_SOUP_LOG_LEVEL,
 279       g_param_spec_enum ("http-log-level", "HTTP log level",
 280           "Set log level for soup's HTTP session log",
 281           SOUP_TYPE_LOGGER_LOG_LEVEL, DEFAULT_SOUP_LOG_LEVEL,
 282           G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
 283
 284  /**
 285    * GstSoupHTTPSrc::compress:
 286    *
 287    * If set to %TRUE, souphttpsrc will automatically handle gzip
 288    * and deflate Content-Encodings. This does not make much difference
 289    * and causes more load for normal media files, but makes a real
 290    * difference in size for plaintext files.
 291    *
 292    * Since: 1.4
 293    */
 294   g_object_class_install_property (gobject_class, PROP_COMPRESS,
 295       g_param_spec_boolean ("compress", "Compress",
 296           "Allow compressed content encodings",
 297           DEFAULT_COMPRESS, G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
 298
 299  /**
 300    * GstSoupHTTPSrc::keep-alive:
 301    *
 302    * If set to %TRUE, souphttpsrc will keep alive connections when being
 303    * set to READY state and only will close connections when connecting
 304    * to a different server or when going to NULL state..
 305    *
 306    * Since: 1.4
 307    */
 308   g_object_class_install_property (gobject_class, PROP_KEEP_ALIVE,
 309       g_param_spec_boolean ("keep-alive", "keep-alive",
 310           "Use HTTP persistent connections", DEFAULT_KEEP_ALIVE,
 311           G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
 312
 313  /**
 314    * GstSoupHTTPSrc::ssl-strict:
 315    *
 316    * If set to %TRUE, souphttpsrc will reject all SSL certificates that
 317    * are considered invalid.
 318    *
 319    * Since: 1.4
 320    */
 321   g_object_class_install_property (gobject_class, PROP_SSL_STRICT,
 322       g_param_spec_boolean ("ssl-strict", "SSL Strict",
 323           "Strict SSL certificate checking", DEFAULT_SSL_STRICT,
 324           G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
 325
 326  /**
 327    * GstSoupHTTPSrc::ssl-ca-file:
 328    *
 329    * A SSL anchor CA file that should be used for checking certificates
 330    * instead of the system CA file.
 331    *
 332    * If this property is non-%NULL, #GstSoupHTTPSrc::ssl-use-system-ca-file
 333    * value will be ignored.
 334    *
 335    * Deprecated: Use #GstSoupHTTPSrc::tls-database property instead.
 336    * Since: 1.4
 337    */
 338   g_object_class_install_property (gobject_class, PROP_SSL_CA_FILE,
 339       g_param_spec_string ("ssl-ca-file", "SSL CA File",
 340           "Location of a SSL anchor CA file to use", DEFAULT_SSL_CA_FILE,
 341           G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
 342
 343  /**
 344    * GstSoupHTTPSrc::ssl-use-system-ca-file:
 345    *
 346    * If set to %TRUE, souphttpsrc will use the system's CA file for
 347    * checking certificates, unless #GstSoupHTTPSrc::ssl-ca-file or
 348    * #GstSoupHTTPSrc::tls-database are non-%NULL.
 349    *
 350    * Since: 1.4
 351    */
 352   g_object_class_install_property (gobject_class, PROP_SSL_USE_SYSTEM_CA_FILE,
 353       g_param_spec_boolean ("ssl-use-system-ca-file", "Use System CA File",
 354           "Use system CA file", DEFAULT_SSL_USE_SYSTEM_CA_FILE,
 355           G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
 356
 357   /**
 358    * GstSoupHTTPSrc::tls-database:
 359    *
 360    * TLS database with anchor certificate authorities used to validate
 361    * the server certificate.
 362    *
 363    * If this property is non-%NULL, #GstSoupHTTPSrc::ssl-use-system-ca-file
 364    * and #GstSoupHTTPSrc::ssl-ca-file values will be ignored.
 365    *
 366    * Since: 1.6
 367    */
 368   g_object_class_install_property (gobject_class, PROP_TLS_DATABASE,
 369       g_param_spec_object ("tls-database", "TLS database",
 370           "TLS database with anchor certificate authorities used to validate the server certificate",
 371           G_TYPE_TLS_DATABASE, G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
 372
 373   /**
 374    * GstSoupHTTPSrc::tls-interaction:
 375    *
 376    * A #GTlsInteraction object to be used when the connection or certificate
 377    * database need to interact with the user. This will be used to prompt the
 378    * user for passwords or certificate where necessary.
 379    *
 380    * Since: 1.8
 381    */
 382   g_object_class_install_property (gobject_class, PROP_TLS_INTERACTION,
 383       g_param_spec_object ("tls-interaction", "TLS interaction",
 384           "A GTlsInteraction object to be used when the connection or certificate database need to interact with the user.",
 385           G_TYPE_TLS_INTERACTION, G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
 386
 387  /**
 388    * GstSoupHTTPSrc::retries:
 389    *
 390    * Maximum number of retries until giving up.
 391    *
 392    * Since: 1.4
 393    */
 394   g_object_class_install_property (gobject_class, PROP_RETRIES,
 395       g_param_spec_int ("retries", "Retries",
 396           "Maximum number of retries until giving up (-1=infinite)", -1,
 397           G_MAXINT, DEFAULT_RETRIES,
 398           G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
 399
 400  /**
 401    * GstSoupHTTPSrc::method
 402    *
 403    * The HTTP method to use when making a request
 404    *
 405    * Since: 1.6
 406    */
 407   g_object_class_install_property (gobject_class, PROP_METHOD,
 408       g_param_spec_string ("method", "HTTP method",
 409           "The HTTP method to use (GET, HEAD, OPTIONS, etc)",
 410           DEFAULT_SOUP_METHOD, G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
 411
 412   gst_element_class_add_static_pad_template (gstelement_class, &srctemplate);
 413
 414   gst_element_class_set_static_metadata (gstelement_class, "HTTP client source",
 415       "Source/Network",
 416       "Receive data as a client over the network via HTTP using SOUP",
 417       "Wouter Cloetens <wouter@mind.be>");
 418   gstelement_class->change_state =
 419       GST_DEBUG_FUNCPTR (gst_soup_http_src_change_state);
 420   gstelement_class->set_context =
 421       GST_DEBUG_FUNCPTR (gst_soup_http_src_set_context);
 422
 423   gstbasesrc_class->start = GST_DEBUG_FUNCPTR (gst_soup_http_src_start);
 424   gstbasesrc_class->stop = GST_DEBUG_FUNCPTR (gst_soup_http_src_stop);
 425   gstbasesrc_class->unlock = GST_DEBUG_FUNCPTR (gst_soup_http_src_unlock);
 426   gstbasesrc_class->unlock_stop =
 427       GST_DEBUG_FUNCPTR (gst_soup_http_src_unlock_stop);
 428   gstbasesrc_class->get_size = GST_DEBUG_FUNCPTR (gst_soup_http_src_get_size);
 429   gstbasesrc_class->is_seekable =
 430       GST_DEBUG_FUNCPTR (gst_soup_http_src_is_seekable);
 431   gstbasesrc_class->do_seek = GST_DEBUG_FUNCPTR (gst_soup_http_src_do_seek);
 432   gstbasesrc_class->query = GST_DEBUG_FUNCPTR (gst_soup_http_src_query);
 433
 434   gstpushsrc_class->create = GST_DEBUG_FUNCPTR (gst_soup_http_src_create);
 435
 436   GST_DEBUG_CATEGORY_INIT (souphttpsrc_debug, "souphttpsrc", 0,
 437       "SOUP HTTP src");
 438 }
 439
 440 static void
 441 gst_soup_http_src_reset (GstSoupHTTPSrc * src)
 442 {
 443   src->retry_count = 0;
 444   src->have_size = FALSE;
 445   src->got_headers = FALSE;
 446   src->seekable = FALSE;
 447   src->read_position = 0;
 448   src->request_position = 0;
 449   src->stop_position = -1;
 450   src->content_size = 0;
 451   src->have_body = FALSE;
 452
 453   src->reduce_blocksize_count = 0;
 454   src->increase_blocksize_count = 0;
 455
 456   g_cancellable_reset (src->cancellable);
 457   if (src->input_stream) {
 458     g_object_unref (src->input_stream);
 459     src->input_stream = NULL;
 460   }
 461
 462   gst_caps_replace (&src->src_caps, NULL);
 463   g_free (src->iradio_name);
 464   src->iradio_name = NULL;
 465   g_free (src->iradio_genre);
 466   src->iradio_genre = NULL;
 467   g_free (src->iradio_url);
 468   src->iradio_url = NULL;
 469 }
 470
 471 static void
 472 gst_soup_http_src_init (GstSoupHTTPSrc * src)
 473 {
 474   const gchar *proxy;
 475
 476   g_mutex_init (&src->mutex);
 477   g_cond_init (&src->have_headers_cond);
 478   src->cancellable = g_cancellable_new ();
 479   src->location = NULL;
 480   src->redirection_uri = NULL;
 481   src->automatic_redirect = TRUE;
 482   src->user_agent = g_strdup (DEFAULT_USER_AGENT);
 483   src->user_id = NULL;
 484   src->user_pw = NULL;
 485   src->proxy_id = NULL;
 486   src->proxy_pw = NULL;
 487   src->cookies = NULL;
 488   src->iradio_mode = DEFAULT_IRADIO_MODE;
 489   src->session = NULL;
 490   src->external_session = NULL;
 491   src->forced_external_session = FALSE;
 492   src->msg = NULL;
 493   src->timeout = DEFAULT_TIMEOUT;
 494   src->log_level = DEFAULT_SOUP_LOG_LEVEL;
 495   src->compress = DEFAULT_COMPRESS;
 496   src->keep_alive = DEFAULT_KEEP_ALIVE;
 497   src->ssl_strict = DEFAULT_SSL_STRICT;
 498   src->ssl_use_system_ca_file = DEFAULT_SSL_USE_SYSTEM_CA_FILE;
 499   src->tls_database = DEFAULT_TLS_DATABASE;
 500   src->tls_interaction = DEFAULT_TLS_INTERACTION;
 501   src->max_retries = DEFAULT_RETRIES;
 502   src->method = DEFAULT_SOUP_METHOD;
 503   src->minimum_blocksize = gst_base_src_get_blocksize (GST_BASE_SRC_CAST (src));
 504   proxy = g_getenv ("http_proxy");
 505   if (!gst_soup_http_src_set_proxy (src, proxy)) {
 506     GST_WARNING_OBJECT (src,
 507         "The proxy in the http_proxy env var (\"%s\") cannot be parsed.",
 508         proxy);
 509   }
 510
 511   gst_base_src_set_automatic_eos (GST_BASE_SRC (src), FALSE);
 512
 513   gst_soup_http_src_reset (src);
 514 }
 515
 516 static void
 517 gst_soup_http_src_dispose (GObject * gobject)
 518 {
 519   GstSoupHTTPSrc *src = GST_SOUP_HTTP_SRC (gobject);
 520
 521   GST_DEBUG_OBJECT (src, "dispose");
 522
 523   gst_soup_http_src_session_close (src);
 524
 525   if (src->external_session) {
 526     g_object_unref (src->external_session);
 527     src->external_session = NULL;
 528   }
 529
 530   G_OBJECT_CLASS (parent_class)->dispose (gobject);
 531 }
 532
 533 static void
 534 gst_soup_http_src_finalize (GObject * gobject)
 535 {
 536   GstSoupHTTPSrc *src = GST_SOUP_HTTP_SRC (gobject);
 537
 538   GST_DEBUG_OBJECT (src, "finalize");
 539
 540   g_mutex_clear (&src->mutex);
 541   g_cond_clear (&src->have_headers_cond);
 542   g_object_unref (src->cancellable);
 543   g_free (src->location);
 544   g_free (src->redirection_uri);
 545   g_free (src->user_agent);
 546   if (src->proxy != NULL) {
 547     soup_uri_free (src->proxy);
 548   }
 549   g_free (src->user_id);
 550   g_free (src->user_pw);
 551   g_free (src->proxy_id);
 552   g_free (src->proxy_pw);
 553   g_strfreev (src->cookies);
 554
 555   if (src->extra_headers) {
 556     gst_structure_free (src->extra_headers);
 557     src->extra_headers = NULL;
 558   }
 559
 560   g_free (src->ssl_ca_file);
 561
 562   if (src->tls_database)
 563     g_object_unref (src->tls_database);
 564   g_free (src->method);
 565
 566   if (src->tls_interaction)
 567     g_object_unref (src->tls_interaction);
 568
 569   G_OBJECT_CLASS (parent_class)->finalize (gobject);
 570 }
 571
 572 static void
 573 gst_soup_http_src_set_property (GObject * object, guint prop_id,
 574     const GValue * value, GParamSpec * pspec)
 575 {
 576   GstSoupHTTPSrc *src = GST_SOUP_HTTP_SRC (object);
 577
 578   switch (prop_id) {
 579     case PROP_LOCATION:
 580     {
 581       const gchar *location;
 582
 583       location = g_value_get_string (value);
 584
 585       if (location == NULL) {
 586         GST_WARNING ("location property cannot be NULL");
 587         goto done;
 588       }
 589       if (!gst_soup_http_src_set_location (src, location, NULL)) {
 590         GST_WARNING ("badly formatted location");
 591         goto done;
 592       }
 593       break;
 594     }
 595     case PROP_USER_AGENT:
 596       g_free (src->user_agent);
 597       src->user_agent = g_value_dup_string (value);
 598       break;
 599     case PROP_IRADIO_MODE:
 600       src->iradio_mode = g_value_get_boolean (value);
 601       break;
 602     case PROP_AUTOMATIC_REDIRECT:
 603       src->automatic_redirect = g_value_get_boolean (value);
 604       break;
 605     case PROP_PROXY:
 606     {
 607       const gchar *proxy;
 608
 609       proxy = g_value_get_string (value);
 610       if (!gst_soup_http_src_set_proxy (src, proxy)) {
 611         GST_WARNING ("badly formatted proxy URI");
 612         goto done;
 613       }
 614       break;
 615     }
 616     case PROP_COOKIES:
 617       g_strfreev (src->cookies);
 618       src->cookies = g_strdupv (g_value_get_boxed (value));
 619       break;
 620     case PROP_IS_LIVE:
 621       gst_base_src_set_live (GST_BASE_SRC (src), g_value_get_boolean (value));
 622       break;
 623     case PROP_USER_ID:
 624       g_free (src->user_id);
 625       src->user_id = g_value_dup_string (value);
 626       break;
 627     case PROP_USER_PW:
 628       g_free (src->user_pw);
 629       src->user_pw = g_value_dup_string (value);
 630       break;
 631     case PROP_PROXY_ID:
 632       g_free (src->proxy_id);
 633       src->proxy_id = g_value_dup_string (value);
 634       break;
 635     case PROP_PROXY_PW:
 636       g_free (src->proxy_pw);
 637       src->proxy_pw = g_value_dup_string (value);
 638       break;
 639     case PROP_TIMEOUT:
 640       src->timeout = g_value_get_uint (value);
 641       break;
 642     case PROP_EXTRA_HEADERS:{
 643       const GstStructure *s = gst_value_get_structure (value);
 644
 645       if (src->extra_headers)
 646         gst_structure_free (src->extra_headers);
 647
 648       src->extra_headers = s ? gst_structure_copy (s) : NULL;
 649       break;
 650     }
 651     case PROP_SOUP_LOG_LEVEL:
 652       src->log_level = g_value_get_enum (value);
 653       break;
 654     case PROP_COMPRESS:
 655       src->compress = g_value_get_boolean (value);
 656       break;
 657     case PROP_KEEP_ALIVE:
 658       src->keep_alive = g_value_get_boolean (value);
 659       break;
 660     case PROP_SSL_STRICT:
 661       src->ssl_strict = g_value_get_boolean (value);
 662       break;
 663     case PROP_SSL_CA_FILE:
 664       g_free (src->ssl_ca_file);
 665       src->ssl_ca_file = g_value_dup_string (value);
 666       break;
 667     case PROP_SSL_USE_SYSTEM_CA_FILE:
 668       src->ssl_use_system_ca_file = g_value_get_boolean (value);
 669       break;
 670     case PROP_TLS_DATABASE:
 671       g_clear_object (&src->tls_database);
 672       src->tls_database = g_value_dup_object (value);
 673       break;
 674     case PROP_TLS_INTERACTION:
 675       g_clear_object (&src->tls_interaction);
 676       src->tls_interaction = g_value_dup_object (value);
 677       break;
 678     case PROP_RETRIES:
 679       src->max_retries = g_value_get_int (value);
 680       break;
 681     case PROP_METHOD:
 682       g_free (src->method);
 683       src->method = g_value_dup_string (value);
 684       break;
 685     default:
 686       G_OBJECT_WARN_INVALID_PROPERTY_ID (object, prop_id, pspec);
 687       break;
 688   }
 689 done:
 690   return;
 691 }
 692
 693 static void
 694 gst_soup_http_src_get_property (GObject * object, guint prop_id,
 695     GValue * value, GParamSpec * pspec)
 696 {
 697   GstSoupHTTPSrc *src = GST_SOUP_HTTP_SRC (object);
 698
 699   switch (prop_id) {
 700     case PROP_LOCATION:
 701       g_value_set_string (value, src->location);
 702       break;
 703     case PROP_USER_AGENT:
 704       g_value_set_string (value, src->user_agent);
 705       break;
 706     case PROP_AUTOMATIC_REDIRECT:
 707       g_value_set_boolean (value, src->automatic_redirect);
 708       break;
 709     case PROP_PROXY:
 710       if (src->proxy == NULL)
 711         g_value_set_static_string (value, "");
 712       else {
 713         char *proxy = soup_uri_to_string (src->proxy, FALSE);
 714
 715         g_value_set_string (value, proxy);
 716         g_free (proxy);
 717       }
 718       break;
 719     case PROP_COOKIES:
 720       g_value_set_boxed (value, g_strdupv (src->cookies));
 721       break;
 722     case PROP_IS_LIVE:
 723       g_value_set_boolean (value, gst_base_src_is_live (GST_BASE_SRC (src)));
 724       break;
 725     case PROP_IRADIO_MODE:
 726       g_value_set_boolean (value, src->iradio_mode);
 727       break;
 728     case PROP_USER_ID:
 729       g_value_set_string (value, src->user_id);
 730       break;
 731     case PROP_USER_PW:
 732       g_value_set_string (value, src->user_pw);
 733       break;
 734     case PROP_PROXY_ID:
 735       g_value_set_string (value, src->proxy_id);
 736       break;
 737     case PROP_PROXY_PW:
 738       g_value_set_string (value, src->proxy_pw);
 739       break;
 740     case PROP_TIMEOUT:
 741       g_value_set_uint (value, src->timeout);
 742       break;
 743     case PROP_EXTRA_HEADERS:
 744       gst_value_set_structure (value, src->extra_headers);
 745       break;
 746     case PROP_SOUP_LOG_LEVEL:
 747       g_value_set_enum (value, src->log_level);
 748       break;
 749     case PROP_COMPRESS:
 750       g_value_set_boolean (value, src->compress);
 751       break;
 752     case PROP_KEEP_ALIVE:
 753       g_value_set_boolean (value, src->keep_alive);
 754       break;
 755     case PROP_SSL_STRICT:
 756       g_value_set_boolean (value, src->ssl_strict);
 757       break;
 758     case PROP_SSL_CA_FILE:
 759       g_value_set_string (value, src->ssl_ca_file);
 760       break;
 761     case PROP_SSL_USE_SYSTEM_CA_FILE:
 762       g_value_set_boolean (value, src->ssl_use_system_ca_file);
 763       break;
 764     case PROP_TLS_DATABASE:
 765       g_value_set_object (value, src->tls_database);
 766       break;
 767     case PROP_TLS_INTERACTION:
 768       g_value_set_object (value, src->tls_interaction);
 769       break;
 770     case PROP_RETRIES:
 771       g_value_set_int (value, src->max_retries);
 772       break;
 773     case PROP_METHOD:
 774       g_value_set_string (value, src->method);
 775       break;
 776     default:
 777       G_OBJECT_WARN_INVALID_PROPERTY_ID (object, prop_id, pspec);
 778       break;
 779   }
 780 }
 781
 782 static gchar *
 783 gst_soup_http_src_unicodify (const gchar * str)
 784 {
 785   const gchar *env_vars[] = { "GST_ICY_TAG_ENCODING",
 786     "GST_TAG_ENCODING", NULL
 787   };
 788
 789   return gst_tag_freeform_string_to_utf8 (str, -1, env_vars);
 790 }
 791
 792 static void
 793 gst_soup_http_src_cancel_message (GstSoupHTTPSrc * src)
 794 {
 795   g_cancellable_cancel (src->cancellable);
 796   g_cond_signal (&src->have_headers_cond);
 797 }
 798
 799 static gboolean
 800 gst_soup_http_src_add_range_header (GstSoupHTTPSrc * src, guint64 offset,
 801     guint64 stop_offset)
 802 {
 803   gchar buf[64];
 804   gint rc;
 805
 806   soup_message_headers_remove (src->msg->request_headers, "Range");
 807   if (offset || stop_offset != -1) {
 808     if (stop_offset != -1) {
 809       g_assert (offset != stop_offset);
 810
 811       rc = g_snprintf (buf, sizeof (buf), "bytes=%" G_GUINT64_FORMAT "-%"
 812           G_GUINT64_FORMAT, offset, (stop_offset > 0) ? stop_offset - 1 :
 813           stop_offset);
 814     } else {
 815       rc = g_snprintf (buf, sizeof (buf), "bytes=%" G_GUINT64_FORMAT "-",
 816           offset);
 817     }
 818     if (rc > sizeof (buf) || rc < 0)
 819       return FALSE;
 820     soup_message_headers_append (src->msg->request_headers, "Range", buf);
 821   }
 822   src->read_position = offset;
 823   return TRUE;
 824 }
 825
 826 static gboolean
 827 _append_extra_header (GQuark field_id, const GValue * value, gpointer user_data)
 828 {
 829   GstSoupHTTPSrc *src = GST_SOUP_HTTP_SRC (user_data);
 830   const gchar *field_name = g_quark_to_string (field_id);
 831   gchar *field_content = NULL;
 832
 833   if (G_VALUE_TYPE (value) == G_TYPE_STRING) {
 834     field_content = g_value_dup_string (value);
 835   } else {
 836     GValue dest = { 0, };
 837
 838     g_value_init (&dest, G_TYPE_STRING);
 839     if (g_value_transform (value, &dest)) {
 840       field_content = g_value_dup_string (&dest);
 841     }
 842   }
 843
 844   if (field_content == NULL) {
 845     GST_ERROR_OBJECT (src, "extra-headers field '%s' contains no value "
 846         "or can't be converted to a string", field_name);
 847     return FALSE;
 848   }
 849
 850   GST_DEBUG_OBJECT (src, "Appending extra header: \"%s: %s\"", field_name,
 851       field_content);
 852   soup_message_headers_append (src->msg->request_headers, field_name,
 853       field_content);
 854
 855   g_free (field_content);
 856
 857   return TRUE;
 858 }
 859
 860 static gboolean
 861 _append_extra_headers (GQuark field_id, const GValue * value,
 862     gpointer user_data)
 863 {
 864   if (G_VALUE_TYPE (value) == GST_TYPE_ARRAY) {
 865     guint n = gst_value_array_get_size (value);
 866     guint i;
 867
 868     for (i = 0; i < n; i++) {
 869       const GValue *v = gst_value_array_get_value (value, i);
 870
 871       if (!_append_extra_header (field_id, v, user_data))
 872         return FALSE;
 873     }
 874   } else if (G_VALUE_TYPE (value) == GST_TYPE_LIST) {
 875     guint n = gst_value_list_get_size (value);
 876     guint i;
 877
 878     for (i = 0; i < n; i++) {
 879       const GValue *v = gst_value_list_get_value (value, i);
 880
 881       if (!_append_extra_header (field_id, v, user_data))
 882         return FALSE;
 883     }
 884   } else {
 885     return _append_extra_header (field_id, value, user_data);
 886   }
 887
 888   return TRUE;
 889 }
 890
 891
 892 static gboolean
 893 gst_soup_http_src_add_extra_headers (GstSoupHTTPSrc * src)
 894 {
 895   if (!src->extra_headers)
 896     return TRUE;
 897
 898   return gst_structure_foreach (src->extra_headers, _append_extra_headers, src);
 899 }
 900
 901 static gboolean
 902 gst_soup_http_src_session_open (GstSoupHTTPSrc * src)
 903 {
 904   if (src->session) {
 905     GST_DEBUG_OBJECT (src, "Session is already open");
 906     return TRUE;
 907   }
 908
 909   if (!src->location) {
 910     GST_ELEMENT_ERROR (src, RESOURCE, OPEN_READ, (_("No URL set.")),
 911         ("Missing location property"));
 912     return FALSE;
 913   }
 914
 915   if (!src->session) {
 916     GstQuery *query;
 917     gboolean can_share = (src->timeout == DEFAULT_TIMEOUT)
 918         && (src->ssl_strict == DEFAULT_SSL_STRICT)
 919         && (src->tls_interaction == NULL) && (src->proxy == NULL)
 920         && (src->tls_database == DEFAULT_TLS_DATABASE)
 921         && (src->ssl_ca_file == DEFAULT_SSL_CA_FILE)
 922         && (src->ssl_use_system_ca_file == DEFAULT_SSL_USE_SYSTEM_CA_FILE);
 923
 924     query = gst_query_new_context (GST_SOUP_SESSION_CONTEXT);
 925     if (gst_pad_peer_query (GST_BASE_SRC_PAD (src), query)) {
 926       GstContext *context;
 927
 928       gst_query_parse_context (query, &context);
 929       gst_element_set_context (GST_ELEMENT_CAST (src), context);
 930     } else {
 931       GstMessage *message;
 932
 933       message =
 934           gst_message_new_need_context (GST_OBJECT_CAST (src),
 935           GST_SOUP_SESSION_CONTEXT);
 936       gst_element_post_message (GST_ELEMENT_CAST (src), message);
 937     }
 938     gst_query_unref (query);
 939
 940     GST_OBJECT_LOCK (src);
 941     if (src->external_session && (can_share || src->forced_external_session)) {
 942       GST_DEBUG_OBJECT (src, "Using external session %p",
 943           src->external_session);
 944       src->session = g_object_ref (src->external_session);
 945       src->session_is_shared = TRUE;
 946     } else {
 947       GST_DEBUG_OBJECT (src, "Creating session (can share %d)", can_share);
 948
 949       /* We explicitly set User-Agent to NULL here and overwrite it per message
 950        * to be able to have the same session with different User-Agents per
 951        * source */
 952       if (src->proxy == NULL) {
 953         src->session =
 954             soup_session_new_with_options (SOUP_SESSION_USER_AGENT,
 955             NULL, SOUP_SESSION_TIMEOUT, src->timeout,
 956             SOUP_SESSION_SSL_STRICT, src->ssl_strict,
 957             SOUP_SESSION_TLS_INTERACTION, src->tls_interaction, NULL);
 958       } else {
 959         src->session =
 960             soup_session_new_with_options (SOUP_SESSION_PROXY_URI, src->proxy,
 961             SOUP_SESSION_TIMEOUT, src->timeout,
 962             SOUP_SESSION_SSL_STRICT, src->ssl_strict,
 963             SOUP_SESSION_USER_AGENT, NULL,
 964             SOUP_SESSION_TLS_INTERACTION, src->tls_interaction, NULL);
 965       }
 966
 967       if (src->session) {
 968         gst_soup_util_log_setup (src->session, src->log_level,
 969             GST_ELEMENT (src));
 970         soup_session_add_feature_by_type (src->session,
 971             SOUP_TYPE_CONTENT_DECODER);
 972         soup_session_add_feature_by_type (src->session, SOUP_TYPE_COOKIE_JAR);
 973
 974         if (can_share) {
 975           GstContext *context;
 976           GstMessage *message;
 977           GstStructure *s;
 978
 979           GST_DEBUG_OBJECT (src, "Sharing session %p", src->session);
 980           src->session_is_shared = TRUE;
 981
 982           context = gst_context_new (GST_SOUP_SESSION_CONTEXT, TRUE);
 983           s = gst_context_writable_structure (context);
 984           gst_structure_set (s, "session", SOUP_TYPE_SESSION, src->session,
 985               "force", G_TYPE_BOOLEAN, FALSE, NULL);
 986
 987           gst_object_ref (src->session);
 988           GST_OBJECT_UNLOCK (src);
 989           gst_element_set_context (GST_ELEMENT_CAST (src), context);
 990           message =
 991               gst_message_new_have_context (GST_OBJECT_CAST (src), context);
 992           gst_element_post_message (GST_ELEMENT_CAST (src), message);
 993           GST_OBJECT_LOCK (src);
 994           gst_object_unref (src->session);
 995         } else {
 996           src->session_is_shared = FALSE;
 997         }
 998       }
 999     }
1000
1001     if (!src->session) {
1002       GST_ELEMENT_ERROR (src, LIBRARY, INIT,
1003           (NULL), ("Failed to create session"));
1004       GST_OBJECT_UNLOCK (src);
1005       return FALSE;
1006     }
1007
1008     g_signal_connect (src->session, "authenticate",
1009         G_CALLBACK (gst_soup_http_src_authenticate_cb), src);
1010
1011     if (!src->session_is_shared) {
1012       if (src->tls_database)
1013         g_object_set (src->session, "tls-database", src->tls_database, NULL);
1014       else if (src->ssl_ca_file)
1015         g_object_set (src->session, "ssl-ca-file", src->ssl_ca_file, NULL);
1016       else
1017         g_object_set (src->session, "ssl-use-system-ca-file",
1018             src->ssl_use_system_ca_file, NULL);
1019     }
1020     GST_OBJECT_UNLOCK (src);
1021   } else {
1022     GST_DEBUG_OBJECT (src, "Re-using session");
1023   }
1024
1025   return TRUE;
1026 }
1027
1028 static void
1029 gst_soup_http_src_session_close (GstSoupHTTPSrc * src)
1030 {
1031   GST_DEBUG_OBJECT (src, "Closing session");
1032
1033   g_mutex_lock (&src->mutex);
1034   if (src->msg) {
1035     soup_session_cancel_message (src->session, src->msg, SOUP_STATUS_CANCELLED);
1036     g_object_unref (src->msg);
1037     src->msg = NULL;
1038   }
1039
1040   if (src->session) {
1041     if (!src->session_is_shared)
1042       soup_session_abort (src->session);
1043     g_signal_handlers_disconnect_by_func (src->session,
1044         G_CALLBACK (gst_soup_http_src_authenticate_cb), src);
1045     g_object_unref (src->session);
1046     src->session = NULL;
1047   }
1048
1049   g_mutex_unlock (&src->mutex);
1050 }
1051
1052 static void
1053 gst_soup_http_src_authenticate_cb (SoupSession * session, SoupMessage * msg,
1054     SoupAuth * auth, gboolean retrying, GstSoupHTTPSrc * src)
1055 {
1056   /* Might be from another user of the shared session */
1057   if (!GST_IS_SOUP_HTTP_SRC (src) || msg != src->msg)
1058     return;
1059
1060   if (!retrying) {
1061     /* First time authentication only, if we fail and are called again with retry true fall through */
1062     if (msg->status_code == SOUP_STATUS_UNAUTHORIZED) {
1063       if (src->user_id && src->user_pw)
1064         soup_auth_authenticate (auth, src->user_id, src->user_pw);
1065     } else if (msg->status_code == SOUP_STATUS_PROXY_AUTHENTICATION_REQUIRED) {
1066       if (src->proxy_id && src->proxy_pw)
1067         soup_auth_authenticate (auth, src->proxy_id, src->proxy_pw);
1068     }
1069   }
1070 }
1071
1072 static void
1073 insert_http_header (const gchar * name, const gchar * value, gpointer user_data)
1074 {
1075   GstStructure *headers = user_data;
1076   const GValue *gv;
1077
1078   if (!g_utf8_validate (name, -1, NULL) || !g_utf8_validate (value, -1, NULL))
1079     return;
1080
1081   gv = gst_structure_get_value (headers, name);
1082   if (gv && GST_VALUE_HOLDS_ARRAY (gv)) {
1083     GValue v = G_VALUE_INIT;
1084
1085     g_value_init (&v, G_TYPE_STRING);
1086     g_value_set_string (&v, value);
1087     gst_value_array_append_value ((GValue *) gv, &v);
1088     g_value_unset (&v);
1089   } else if (gv && G_VALUE_HOLDS_STRING (gv)) {
1090     GValue arr = G_VALUE_INIT;
1091     GValue v = G_VALUE_INIT;
1092     const gchar *old_value = g_value_get_string (gv);
1093
1094     g_value_init (&arr, GST_TYPE_ARRAY);
1095     g_value_init (&v, G_TYPE_STRING);
1096     g_value_set_string (&v, old_value);
1097     gst_value_array_append_value (&arr, &v);
1098     g_value_set_string (&v, value);
1099     gst_value_array_append_value (&arr, &v);
1100
1101     gst_structure_set_value (headers, name, &arr);
1102     g_value_unset (&v);
1103     g_value_unset (&arr);
1104   } else {
1105     gst_structure_set (headers, name, G_TYPE_STRING, value, NULL);
1106   }
1107 }
1108
1109 static GstFlowReturn
1110 gst_soup_http_src_got_headers (GstSoupHTTPSrc * src, SoupMessage * msg)
1111 {
1112   const char *value;
1113   GstTagList *tag_list;
1114   GstBaseSrc *basesrc;
1115   guint64 newsize;
1116   GHashTable *params = NULL;
1117   GstEvent *http_headers_event;
1118   GstStructure *http_headers, *headers;
1119   const gchar *accept_ranges;
1120
1121   GST_INFO_OBJECT (src, "got headers");
1122
1123   if (msg->status_code == SOUP_STATUS_PROXY_AUTHENTICATION_REQUIRED &&
1124       src->proxy_id && src->proxy_pw) {
1125     /* wait for authenticate callback */
1126     return GST_FLOW_OK;
1127   }
1128
1129   if (msg->status_code == SOUP_STATUS_UNAUTHORIZED) {
1130     /* force an error */
1131     return gst_soup_http_src_parse_status (msg, src);
1132   }
1133
1134   src->got_headers = TRUE;
1135   g_cond_broadcast (&src->have_headers_cond);
1136
1137   http_headers = gst_structure_new_empty ("http-headers");
1138   gst_structure_set (http_headers, "uri", G_TYPE_STRING, src->location, NULL);
1139   if (src->redirection_uri)
1140     gst_structure_set (http_headers, "redirection-uri", G_TYPE_STRING,
1141         src->redirection_uri, NULL);
1142   headers = gst_structure_new_empty ("request-headers");
1143   soup_message_headers_foreach (msg->request_headers, insert_http_header,
1144       headers);
1145   gst_structure_set (http_headers, "request-headers", GST_TYPE_STRUCTURE,
1146       headers, NULL);
1147   gst_structure_free (headers);
1148   headers = gst_structure_new_empty ("response-headers");
1149   soup_message_headers_foreach (msg->response_headers, insert_http_header,
1150       headers);
1151   gst_structure_set (http_headers, "response-headers", GST_TYPE_STRUCTURE,
1152       headers, NULL);
1153   gst_structure_free (headers);
1154
1155   http_headers_event =
1156       gst_event_new_custom (GST_EVENT_CUSTOM_DOWNSTREAM_STICKY, http_headers);
1157   gst_event_replace (&src->http_headers_event, http_headers_event);
1158   gst_event_unref (http_headers_event);
1159
1160   /* Parse Content-Length. */
1161   if (soup_message_headers_get_encoding (msg->response_headers) ==
1162       SOUP_ENCODING_CONTENT_LENGTH) {
1163     newsize = src->request_position +
1164         soup_message_headers_get_content_length (msg->response_headers);
1165     if (!src->have_size || (src->content_size != newsize)) {
1166       src->content_size = newsize;
1167       src->have_size = TRUE;
1168       src->seekable = TRUE;
1169       GST_DEBUG_OBJECT (src, "size = %" G_GUINT64_FORMAT, src->content_size);
1170
1171       basesrc = GST_BASE_SRC_CAST (src);
1172       basesrc->segment.duration = src->content_size;
1173       gst_element_post_message (GST_ELEMENT (src),
1174           gst_message_new_duration_changed (GST_OBJECT (src)));
1175     }
1176   }
1177
1178   /* If the server reports Accept-Ranges: none we don't have to try
1179    * doing range requests at all
1180    */
1181   if ((accept_ranges =
1182           soup_message_headers_get_one (msg->response_headers,
1183               "Accept-Ranges"))) {
1184     if (g_ascii_strcasecmp (accept_ranges, "none") == 0)
1185       src->seekable = FALSE;
1186   }
1187
1188   /* Icecast stuff */
1189   tag_list = gst_tag_list_new_empty ();
1190
1191   if ((value =
1192           soup_message_headers_get_one (msg->response_headers,
1193               "icy-metaint")) != NULL) {
1194     gint icy_metaint;
1195
1196     if (g_utf8_validate (value, -1, NULL)) {
1197       icy_metaint = atoi (value);
1198
1199       GST_DEBUG_OBJECT (src, "icy-metaint: %s (parsed: %d)", value,
1200           icy_metaint);
1201       if (icy_metaint > 0) {
1202         if (src->src_caps)
1203           gst_caps_unref (src->src_caps);
1204
1205         src->src_caps = gst_caps_new_simple ("application/x-icy",
1206             "metadata-interval", G_TYPE_INT, icy_metaint, NULL);
1207
1208         gst_base_src_set_caps (GST_BASE_SRC (src), src->src_caps);
1209       }
1210     }
1211   }
1212   if ((value =
1213           soup_message_headers_get_content_type (msg->response_headers,
1214               &params)) != NULL) {
1215     if (!g_utf8_validate (value, -1, NULL)) {
1216       GST_WARNING_OBJECT (src, "Content-Type is invalid UTF-8");
1217     } else if (g_ascii_strcasecmp (value, "audio/L16") == 0) {
1218       gint channels = 2;
1219       gint rate = 44100;
1220       char *param;
1221
1222       GST_DEBUG_OBJECT (src, "Content-Type: %s", value);
1223
1224       if (src->src_caps) {
1225         gst_caps_unref (src->src_caps);
1226         src->src_caps = NULL;
1227       }
1228
1229       param = g_hash_table_lookup (params, "channels");
1230       if (param != NULL) {
1231         guint64 val = g_ascii_strtoull (param, NULL, 10);
1232         if (val < 64)
1233           channels = val;
1234         else
1235           channels = 0;
1236       }
1237
1238       param = g_hash_table_lookup (params, "rate");
1239       if (param != NULL) {
1240         guint64 val = g_ascii_strtoull (param, NULL, 10);
1241         if (val < G_MAXINT)
1242           rate = val;
1243         else
1244           rate = 0;
1245       }
1246
1247       if (rate > 0 && channels > 0) {
1248         src->src_caps = gst_caps_new_simple ("audio/x-unaligned-raw",
1249             "format", G_TYPE_STRING, "S16BE",
1250             "layout", G_TYPE_STRING, "interleaved",
1251             "channels", G_TYPE_INT, channels, "rate", G_TYPE_INT, rate, NULL);
1252
1253         gst_base_src_set_caps (GST_BASE_SRC (src), src->src_caps);
1254       }
1255     } else {
1256       GST_DEBUG_OBJECT (src, "Content-Type: %s", value);
1257
1258       /* Set the Content-Type field on the caps */
1259       if (src->src_caps) {
1260         src->src_caps = gst_caps_make_writable (src->src_caps);
1261         gst_caps_set_simple (src->src_caps, "content-type", G_TYPE_STRING,
1262             value, NULL);
1263         gst_base_src_set_caps (GST_BASE_SRC (src), src->src_caps);
1264       }
1265     }
1266   }
1267
1268   if (params != NULL)
1269     g_hash_table_destroy (params);
1270
1271   if ((value =
1272           soup_message_headers_get_one (msg->response_headers,
1273               "icy-name")) != NULL) {
1274     if (g_utf8_validate (value, -1, NULL)) {
1275       g_free (src->iradio_name);
1276       src->iradio_name = gst_soup_http_src_unicodify (value);
1277       if (src->iradio_name) {
1278         gst_tag_list_add (tag_list, GST_TAG_MERGE_REPLACE, GST_TAG_ORGANIZATION,
1279             src->iradio_name, NULL);
1280       }
1281     }
1282   }
1283   if ((value =
1284           soup_message_headers_get_one (msg->response_headers,
1285               "icy-genre")) != NULL) {
1286     if (g_utf8_validate (value, -1, NULL)) {
1287       g_free (src->iradio_genre);
1288       src->iradio_genre = gst_soup_http_src_unicodify (value);
1289       if (src->iradio_genre) {
1290         gst_tag_list_add (tag_list, GST_TAG_MERGE_REPLACE, GST_TAG_GENRE,
1291             src->iradio_genre, NULL);
1292       }
1293     }
1294   }
1295   if ((value = soup_message_headers_get_one (msg->response_headers, "icy-url"))
1296       != NULL) {
1297     if (g_utf8_validate (value, -1, NULL)) {
1298       g_free (src->iradio_url);
1299       src->iradio_url = gst_soup_http_src_unicodify (value);
1300       if (src->iradio_url) {
1301         gst_tag_list_add (tag_list, GST_TAG_MERGE_REPLACE, GST_TAG_LOCATION,
1302             src->iradio_url, NULL);
1303       }
1304     }
1305   }
1306   if (!gst_tag_list_is_empty (tag_list)) {
1307     GST_DEBUG_OBJECT (src,
1308         "calling gst_element_found_tags with %" GST_PTR_FORMAT, tag_list);
1309     gst_pad_push_event (GST_BASE_SRC_PAD (src), gst_event_new_tag (tag_list));
1310   } else {
1311     gst_tag_list_unref (tag_list);
1312   }
1313
1314   /* Handle HTTP errors. */
1315   return gst_soup_http_src_parse_status (msg, src);
1316 }
1317
1318 static GstBuffer *
1319 gst_soup_http_src_alloc_buffer (GstSoupHTTPSrc * src)
1320 {
1321   GstBaseSrc *basesrc = GST_BASE_SRC_CAST (src);
1322   GstFlowReturn rc;
1323   GstBuffer *gstbuf;
1324
1325   rc = GST_BASE_SRC_CLASS (parent_class)->alloc (basesrc, -1,
1326       basesrc->blocksize, &gstbuf);
1327   if (G_UNLIKELY (rc != GST_FLOW_OK)) {
1328     return NULL;
1329   }
1330
1331   return gstbuf;
1332 }
1333
1334 #define SOUP_HTTP_SRC_ERROR(src,soup_msg,cat,code,error_message)     \
1335   do { \
1336     GST_ELEMENT_ERROR_WITH_DETAILS ((src), cat, code, ("%s", error_message), \
1337         ("%s (%d), URL: %s, Redirect to: %s", (soup_msg)->reason_phrase, \
1338             (soup_msg)->status_code, (src)->location, GST_STR_NULL ((src)->redirection_uri)), \
1339             ("http-status-code", G_TYPE_UINT, (soup_msg)->status_code, \
1340              "http-redirect-uri", G_TYPE_STRING, GST_STR_NULL ((src)->redirection_uri), NULL)); \
1341   } while(0)
1342
1343 static GstFlowReturn
1344 gst_soup_http_src_parse_status (SoupMessage * msg, GstSoupHTTPSrc * src)
1345 {
1346   if (msg->method == SOUP_METHOD_HEAD) {
1347     if (!SOUP_STATUS_IS_SUCCESSFUL (msg->status_code))
1348       GST_DEBUG_OBJECT (src, "Ignoring error %d during HEAD request",
1349           msg->status_code);
1350     return GST_FLOW_OK;
1351   }
1352
1353   if (SOUP_STATUS_IS_TRANSPORT_ERROR (msg->status_code)) {
1354     switch (msg->status_code) {
1355       case SOUP_STATUS_CANT_RESOLVE:
1356       case SOUP_STATUS_CANT_RESOLVE_PROXY:
1357         SOUP_HTTP_SRC_ERROR (src, msg, RESOURCE, NOT_FOUND,
1358             _("Could not resolve server name."));
1359         return GST_FLOW_ERROR;
1360       case SOUP_STATUS_CANT_CONNECT:
1361       case SOUP_STATUS_CANT_CONNECT_PROXY:
1362         SOUP_HTTP_SRC_ERROR (src, msg, RESOURCE, OPEN_READ,
1363             _("Could not establish connection to server."));
1364         return GST_FLOW_ERROR;
1365       case SOUP_STATUS_SSL_FAILED:
1366         SOUP_HTTP_SRC_ERROR (src, msg, RESOURCE, OPEN_READ,
1367             _("Secure connection setup failed."));
1368         return GST_FLOW_ERROR;
1369       case SOUP_STATUS_IO_ERROR:
1370         if (src->max_retries == -1 || src->retry_count < src->max_retries)
1371           return GST_FLOW_CUSTOM_ERROR;
1372         SOUP_HTTP_SRC_ERROR (src, msg, RESOURCE, READ,
1373             _("A network error occurred, or the server closed the connection "
1374                 "unexpectedly."));
1375         return GST_FLOW_ERROR;
1376       case SOUP_STATUS_MALFORMED:
1377         SOUP_HTTP_SRC_ERROR (src, msg, RESOURCE, READ,
1378             _("Server sent bad data."));
1379         return GST_FLOW_ERROR;
1380       case SOUP_STATUS_CANCELLED:
1381         /* No error message when interrupted by program. */
1382         break;
1383     }
1384     return GST_FLOW_OK;
1385   }
1386
1387   if (SOUP_STATUS_IS_CLIENT_ERROR (msg->status_code) ||
1388       SOUP_STATUS_IS_REDIRECTION (msg->status_code) ||
1389       SOUP_STATUS_IS_SERVER_ERROR (msg->status_code)) {
1390     const gchar *reason_phrase;
1391
1392     reason_phrase = msg->reason_phrase;
1393     if (reason_phrase && !g_utf8_validate (reason_phrase, -1, NULL)) {
1394       GST_ERROR_OBJECT (src, "Invalid UTF-8 in reason");
1395       reason_phrase = "(invalid)";
1396     }
1397
1398     /* Report HTTP error. */
1399
1400     /* when content_size is unknown and we have just finished receiving
1401      * a body message, requests that go beyond the content limits will result
1402      * in an error. Here we convert those to EOS */
1403     if (msg->status_code == SOUP_STATUS_REQUESTED_RANGE_NOT_SATISFIABLE &&
1404         src->have_body && !src->have_size) {
1405       GST_DEBUG_OBJECT (src, "Requested range out of limits and received full "
1406           "body, returning EOS");
1407       return GST_FLOW_EOS;
1408     }
1409
1410     /* FIXME: reason_phrase is not translated and not suitable for user
1411      * error dialog according to libsoup documentation.
1412      */
1413     if (msg->status_code == SOUP_STATUS_NOT_FOUND) {
1414       SOUP_HTTP_SRC_ERROR (src, msg, RESOURCE, NOT_FOUND, (reason_phrase));
1415     } else if (msg->status_code == SOUP_STATUS_UNAUTHORIZED
1416         || msg->status_code == SOUP_STATUS_PAYMENT_REQUIRED
1417         || msg->status_code == SOUP_STATUS_FORBIDDEN
1418         || msg->status_code == SOUP_STATUS_PROXY_AUTHENTICATION_REQUIRED) {
1419       SOUP_HTTP_SRC_ERROR (src, msg, RESOURCE, NOT_AUTHORIZED, (reason_phrase));
1420     } else {
1421       SOUP_HTTP_SRC_ERROR (src, msg, RESOURCE, OPEN_READ, (reason_phrase));
1422     }
1423     return GST_FLOW_ERROR;
1424   }
1425
1426   return GST_FLOW_OK;
1427 }
1428
1429 static void
1430 gst_soup_http_src_restarted_cb (SoupMessage * msg, GstSoupHTTPSrc * src)
1431 {
1432   if (soup_session_would_redirect (src->session, msg)) {
1433     src->redirection_uri =
1434         soup_uri_to_string (soup_message_get_uri (msg), FALSE);
1435     src->redirection_permanent =
1436         (msg->status_code == SOUP_STATUS_MOVED_PERMANENTLY);
1437     GST_DEBUG_OBJECT (src, "%u redirect to \"%s\" (permanent %d)",
1438         msg->status_code, src->redirection_uri, src->redirection_permanent);
1439   }
1440 }
1441
1442 static gboolean
1443 gst_soup_http_src_build_message (GstSoupHTTPSrc * src, const gchar * method)
1444 {
1445   g_return_val_if_fail (src->msg == NULL, FALSE);
1446
1447   src->msg = soup_message_new (method, src->location);
1448   if (!src->msg) {
1449     GST_ELEMENT_ERROR (src, RESOURCE, OPEN_READ,
1450         ("Error parsing URL."), ("URL: %s", src->location));
1451     return FALSE;
1452   }
1453
1454   /* Duplicating the defaults of libsoup here. We don't want to set a
1455    * User-Agent in the session as each source might have its own User-Agent
1456    * set */
1457   if (!src->user_agent || !*src->user_agent) {
1458     gchar *user_agent =
1459         g_strdup_printf ("libsoup/%u.%u.%u", soup_get_major_version (),
1460         soup_get_minor_version (), soup_get_micro_version ());
1461     soup_message_headers_append (src->msg->request_headers, "User-Agent",
1462         user_agent);
1463     g_free (user_agent);
1464   } else if (g_str_has_suffix (src->user_agent, " ")) {
1465     gchar *user_agent = g_strdup_printf ("%slibsoup/%u.%u.%u", src->user_agent,
1466         soup_get_major_version (),
1467         soup_get_minor_version (), soup_get_micro_version ());
1468     soup_message_headers_append (src->msg->request_headers, "User-Agent",
1469         user_agent);
1470     g_free (user_agent);
1471   } else {
1472     soup_message_headers_append (src->msg->request_headers, "User-Agent",
1473         src->user_agent);
1474   }
1475
1476   if (!src->keep_alive) {
1477     soup_message_headers_append (src->msg->request_headers, "Connection",
1478         "close");
1479   }
1480   if (src->iradio_mode) {
1481     soup_message_headers_append (src->msg->request_headers, "icy-metadata",
1482         "1");
1483   }
1484   if (src->cookies) {
1485     gchar **cookie;
1486
1487     for (cookie = src->cookies; *cookie != NULL; cookie++) {
1488       soup_message_headers_append (src->msg->request_headers, "Cookie",
1489           *cookie);
1490     }
1491   }
1492
1493   if (!src->compress)
1494     soup_message_disable_feature (src->msg, SOUP_TYPE_CONTENT_DECODER);
1495
1496   soup_message_set_flags (src->msg, SOUP_MESSAGE_OVERWRITE_CHUNKS |
1497       (src->automatic_redirect ? 0 : SOUP_MESSAGE_NO_REDIRECT));
1498
1499   if (src->automatic_redirect) {
1500     g_signal_connect (src->msg, "restarted",
1501         G_CALLBACK (gst_soup_http_src_restarted_cb), src);
1502   }
1503
1504   gst_soup_http_src_add_range_header (src, src->request_position,
1505       src->stop_position);
1506
1507   gst_soup_http_src_add_extra_headers (src);
1508
1509   return TRUE;
1510 }
1511
1512 static GstFlowReturn
1513 gst_soup_http_src_send_message (GstSoupHTTPSrc * src)
1514 {
1515   GstFlowReturn ret;
1516   GError *error = NULL;
1517
1518   g_return_val_if_fail (src->msg != NULL, GST_FLOW_ERROR);
1519
1520   src->input_stream =
1521       soup_session_send (src->session, src->msg, src->cancellable, &error);
1522
1523   if (g_cancellable_is_cancelled (src->cancellable)) {
1524     ret = GST_FLOW_FLUSHING;
1525     goto done;
1526   }
1527
1528   ret = gst_soup_http_src_got_headers (src, src->msg);
1529   if (ret != GST_FLOW_OK) {
1530     goto done;
1531   }
1532
1533   if (!src->input_stream) {
1534     GST_DEBUG_OBJECT (src, "Didn't get an input stream: %s", error->message);
1535     ret = GST_FLOW_ERROR;
1536     goto done;
1537   }
1538
1539   if (SOUP_STATUS_IS_SUCCESSFUL (src->msg->status_code)) {
1540     GST_DEBUG_OBJECT (src, "Successfully got a reply");
1541   } else {
1542     /* FIXME - be more helpful to people debugging */
1543     ret = GST_FLOW_ERROR;
1544   }
1545
1546 done:
1547   if (error)
1548     g_error_free (error);
1549   return ret;
1550 }
1551
1552 static GstFlowReturn
1553 gst_soup_http_src_do_request (GstSoupHTTPSrc * src, const gchar * method)
1554 {
1555   GstFlowReturn ret;
1556
1557   if (src->max_retries != -1 && src->retry_count > src->max_retries) {
1558     GST_DEBUG_OBJECT (src, "Max retries reached");
1559     return GST_FLOW_ERROR;
1560   }
1561
1562   src->retry_count++;
1563   /* EOS immediately if we have an empty segment */
1564   if (src->request_position == src->stop_position)
1565     return GST_FLOW_EOS;
1566
1567   GST_LOG_OBJECT (src, "Running request for method: %s", method);
1568
1569   /* Update the position if we are retrying */
1570   if (src->msg && src->request_position > 0) {
1571     gst_soup_http_src_add_range_header (src, src->request_position,
1572         src->stop_position);
1573   }
1574
1575   if (!src->msg) {
1576     if (!gst_soup_http_src_build_message (src, method)) {
1577       return GST_FLOW_ERROR;
1578     }
1579   }
1580
1581   if (g_cancellable_is_cancelled (src->cancellable)) {
1582     GST_INFO_OBJECT (src, "interrupted");
1583     return GST_FLOW_FLUSHING;
1584   }
1585
1586   ret = gst_soup_http_src_send_message (src);
1587
1588   /* Check if Range header was respected. */
1589   if (ret == GST_FLOW_OK && src->request_position > 0 &&
1590       src->msg->status_code != SOUP_STATUS_PARTIAL_CONTENT) {
1591     src->seekable = FALSE;
1592     GST_ELEMENT_ERROR_WITH_DETAILS (src, RESOURCE, SEEK,
1593         (_("Server does not support seeking.")),
1594         ("Server does not accept Range HTTP header, URL: %s, Redirect to: %s",
1595             src->location, GST_STR_NULL (src->redirection_uri)),
1596         ("http-status-code", G_TYPE_UINT, src->msg->status_code,
1597             "http-redirection-uri", G_TYPE_STRING,
1598             GST_STR_NULL (src->redirection_uri), NULL));
1599     ret = GST_FLOW_ERROR;
1600   }
1601
1602   return ret;
1603 }
1604
1605 /*
1606  * Check if the bytes_read is above a certain threshold of the blocksize, if
1607  * that happens a few times in a row, increase the blocksize; Do the same in
1608  * the opposite direction to reduce the blocksize.
1609  */
1610 static void
1611 gst_soup_http_src_check_update_blocksize (GstSoupHTTPSrc * src,
1612     gint64 bytes_read)
1613 {
1614   guint blocksize = gst_base_src_get_blocksize (GST_BASE_SRC_CAST (src));
1615
1616   GST_LOG_OBJECT (src, "Checking to update blocksize. Read:%" G_GINT64_FORMAT
1617       " blocksize:%u", bytes_read, blocksize);
1618
1619   if (bytes_read >= blocksize * GROW_BLOCKSIZE_LIMIT) {
1620     src->reduce_blocksize_count = 0;
1621     src->increase_blocksize_count++;
1622
1623     if (src->increase_blocksize_count >= GROW_BLOCKSIZE_COUNT) {
1624       blocksize *= GROW_BLOCKSIZE_FACTOR;
1625       GST_DEBUG_OBJECT (src, "Increased blocksize to %u", blocksize);
1626       gst_base_src_set_blocksize (GST_BASE_SRC_CAST (src), blocksize);
1627       src->increase_blocksize_count = 0;
1628     }
1629   } else if (bytes_read < blocksize * REDUCE_BLOCKSIZE_LIMIT) {
1630     src->reduce_blocksize_count++;
1631     src->increase_blocksize_count = 0;
1632
1633     if (src->reduce_blocksize_count >= REDUCE_BLOCKSIZE_COUNT) {
1634       blocksize *= REDUCE_BLOCKSIZE_FACTOR;
1635       blocksize = MAX (blocksize, src->minimum_blocksize);
1636       GST_DEBUG_OBJECT (src, "Decreased blocksize to %u", blocksize);
1637       gst_base_src_set_blocksize (GST_BASE_SRC_CAST (src), blocksize);
1638       src->reduce_blocksize_count = 0;
1639     }
1640   } else {
1641     src->reduce_blocksize_count = src->increase_blocksize_count = 0;
1642   }
1643 }
1644
1645 static void
1646 gst_soup_http_src_update_position (GstSoupHTTPSrc * src, gint64 bytes_read)
1647 {
1648   GstBaseSrc *basesrc = GST_BASE_SRC_CAST (src);
1649   guint64 new_position;
1650
1651   new_position = src->read_position + bytes_read;
1652   if (G_LIKELY (src->request_position == src->read_position))
1653     src->request_position = new_position;
1654   src->read_position = new_position;
1655
1656   if (src->have_size) {
1657     if (new_position > src->content_size) {
1658       GST_DEBUG_OBJECT (src, "Got position previous estimated content size "
1659           "(%" G_GINT64_FORMAT " > %" G_GINT64_FORMAT ")", new_position,
1660           src->content_size);
1661       src->content_size = new_position;
1662       basesrc->segment.duration = src->content_size;
1663       gst_element_post_message (GST_ELEMENT (src),
1664           gst_message_new_duration_changed (GST_OBJECT (src)));
1665     } else if (new_position == src->content_size) {
1666       GST_DEBUG_OBJECT (src, "We're EOS now");
1667     }
1668   }
1669 }
1670
1671 static GstFlowReturn
1672 gst_soup_http_src_read_buffer (GstSoupHTTPSrc * src, GstBuffer ** outbuf)
1673 {
1674   gssize read_bytes;
1675   GstMapInfo mapinfo;
1676   GstBaseSrc *bsrc;
1677   GstFlowReturn ret;
1678
1679   bsrc = GST_BASE_SRC_CAST (src);
1680
1681   *outbuf = gst_soup_http_src_alloc_buffer (src);
1682   if (!*outbuf) {
1683     GST_WARNING_OBJECT (src, "Failed to allocate buffer");
1684     return GST_FLOW_ERROR;
1685   }
1686
1687   if (!gst_buffer_map (*outbuf, &mapinfo, GST_MAP_WRITE)) {
1688     GST_WARNING_OBJECT (src, "Failed to map buffer");
1689     return GST_FLOW_ERROR;
1690   }
1691
1692   read_bytes =
1693       g_input_stream_read (src->input_stream, mapinfo.data, mapinfo.size,
1694       src->cancellable, NULL);
1695   GST_DEBUG_OBJECT (src, "Read %" G_GSSIZE_FORMAT " bytes from http input",
1696       read_bytes);
1697
1698   g_mutex_lock (&src->mutex);
1699   if (g_cancellable_is_cancelled (src->cancellable)) {
1700     gst_buffer_unmap (*outbuf, &mapinfo);
1701     gst_buffer_unref (*outbuf);
1702     g_mutex_unlock (&src->mutex);
1703     return GST_FLOW_FLUSHING;
1704   }
1705
1706   gst_buffer_unmap (*outbuf, &mapinfo);
1707   if (read_bytes > 0) {
1708     gst_buffer_set_size (*outbuf, read_bytes);
1709     GST_BUFFER_OFFSET (*outbuf) = bsrc->segment.position;
1710     ret = GST_FLOW_OK;
1711     gst_soup_http_src_update_position (src, read_bytes);
1712
1713     /* Got some data, reset retry counter */
1714     src->retry_count = 0;
1715
1716     gst_soup_http_src_check_update_blocksize (src, read_bytes);
1717
1718     /* If we're at the end of a range request, read again to let libsoup
1719      * finalize the request. This allows to reuse the connection again later,
1720      * otherwise we would have to cancel the message and close the connection
1721      */
1722     if (bsrc->segment.stop != -1
1723         && bsrc->segment.position + read_bytes >= bsrc->segment.stop) {
1724       guint8 tmp[128];
1725
1726       g_object_unref (src->msg);
1727       src->msg = NULL;
1728       src->have_body = TRUE;
1729
1730       /* This should return immediately as we're at the end of the range */
1731       read_bytes =
1732           g_input_stream_read (src->input_stream, tmp, sizeof (tmp),
1733           src->cancellable, NULL);
1734       if (read_bytes > 0)
1735         GST_ERROR_OBJECT (src,
1736             "Read %" G_GSIZE_FORMAT " bytes after end of range", read_bytes);
1737     }
1738   } else {
1739     gst_buffer_unref (*outbuf);
1740     if (read_bytes < 0 ||
1741         (src->have_size && src->read_position < src->content_size)) {
1742       /* Maybe the server disconnected, retry */
1743       ret = GST_FLOW_CUSTOM_ERROR;
1744     } else {
1745       g_object_unref (src->msg);
1746       src->msg = NULL;
1747       ret = GST_FLOW_EOS;
1748       src->have_body = TRUE;
1749     }
1750   }
1751   g_mutex_unlock (&src->mutex);
1752
1753   return ret;
1754 }
1755
1756 static GstFlowReturn
1757 gst_soup_http_src_create (GstPushSrc * psrc, GstBuffer ** outbuf)
1758 {
1759   GstSoupHTTPSrc *src;
1760   GstFlowReturn ret = GST_FLOW_OK;
1761   GstEvent *http_headers_event = NULL;
1762
1763   src = GST_SOUP_HTTP_SRC (psrc);
1764
1765 retry:
1766   g_mutex_lock (&src->mutex);
1767
1768   /* Check for pending position change */
1769   if (src->request_position != src->read_position) {
1770     if (src->input_stream) {
1771       g_input_stream_close (src->input_stream, src->cancellable, NULL);
1772       g_object_unref (src->input_stream);
1773       src->input_stream = NULL;
1774     }
1775   }
1776
1777   if (g_cancellable_is_cancelled (src->cancellable)) {
1778     ret = GST_FLOW_FLUSHING;
1779     g_mutex_unlock (&src->mutex);
1780     goto done;
1781   }
1782
1783   /* If we have no open connection to the server, start one */
1784   if (!src->input_stream) {
1785     *outbuf = NULL;
1786     ret =
1787         gst_soup_http_src_do_request (src,
1788         src->method ? src->method : SOUP_METHOD_GET);
1789     http_headers_event = src->http_headers_event;
1790     src->http_headers_event = NULL;
1791   }
1792   g_mutex_unlock (&src->mutex);
1793
1794   if (ret == GST_FLOW_OK || ret == GST_FLOW_CUSTOM_ERROR) {
1795     if (http_headers_event) {
1796       gst_pad_push_event (GST_BASE_SRC_PAD (src), http_headers_event);
1797       http_headers_event = NULL;
1798     }
1799   }
1800
1801   if (ret == GST_FLOW_OK)
1802     ret = gst_soup_http_src_read_buffer (src, outbuf);
1803
1804 done:
1805   GST_DEBUG_OBJECT (src, "Returning %d %s", ret, gst_flow_get_name (ret));
1806   if (ret != GST_FLOW_OK) {
1807     if (http_headers_event)
1808       gst_event_unref (http_headers_event);
1809
1810     g_mutex_lock (&src->mutex);
1811     if (src->input_stream) {
1812       g_object_unref (src->input_stream);
1813       src->input_stream = NULL;
1814     }
1815     g_mutex_unlock (&src->mutex);
1816     if (ret == GST_FLOW_CUSTOM_ERROR) {
1817       ret = GST_FLOW_OK;
1818       goto retry;
1819     }
1820   }
1821   return ret;
1822 }
1823
1824 static gboolean
1825 gst_soup_http_src_start (GstBaseSrc * bsrc)
1826 {
1827   GstSoupHTTPSrc *src = GST_SOUP_HTTP_SRC (bsrc);
1828
1829   GST_DEBUG_OBJECT (src, "start(\"%s\")", src->location);
1830
1831   return gst_soup_http_src_session_open (src);
1832 }
1833
1834 static gboolean
1835 gst_soup_http_src_stop (GstBaseSrc * bsrc)
1836 {
1837   GstSoupHTTPSrc *src;
1838
1839   src = GST_SOUP_HTTP_SRC (bsrc);
1840   GST_DEBUG_OBJECT (src, "stop()");
1841   if (src->keep_alive && !src->msg && !src->session_is_shared)
1842     gst_soup_http_src_cancel_message (src);
1843   else
1844     gst_soup_http_src_session_close (src);
1845
1846   gst_soup_http_src_reset (src);
1847   return TRUE;
1848 }
1849
1850 static GstStateChangeReturn
1851 gst_soup_http_src_change_state (GstElement * element, GstStateChange transition)
1852 {
1853   GstStateChangeReturn ret;
1854   GstSoupHTTPSrc *src;
1855
1856   src = GST_SOUP_HTTP_SRC (element);
1857
1858   switch (transition) {
1859     case GST_STATE_CHANGE_READY_TO_NULL:
1860       gst_soup_http_src_session_close (src);
1861       break;
1862     default:
1863       break;
1864   }
1865
1866   ret = GST_ELEMENT_CLASS (parent_class)->change_state (element, transition);
1867
1868   return ret;
1869 }
1870
1871 static void
1872 gst_soup_http_src_set_context (GstElement * element, GstContext * context)
1873 {
1874   GstSoupHTTPSrc *src = GST_SOUP_HTTP_SRC (element);
1875
1876   if (g_strcmp0 (gst_context_get_context_type (context),
1877           GST_SOUP_SESSION_CONTEXT) == 0) {
1878     const GstStructure *s = gst_context_get_structure (context);
1879
1880     GST_OBJECT_LOCK (src);
1881     if (src->external_session)
1882       g_object_unref (src->external_session);
1883     src->external_session = NULL;
1884     gst_structure_get (s, "session", SOUP_TYPE_SESSION, &src->external_session,
1885         NULL);
1886     src->forced_external_session = FALSE;
1887     gst_structure_get (s, "force", G_TYPE_BOOLEAN,
1888         &src->forced_external_session, NULL);
1889
1890     GST_DEBUG_OBJECT (src, "Setting external session %p (force: %d)",
1891         src->external_session, src->forced_external_session);
1892     GST_OBJECT_UNLOCK (src);
1893   }
1894
1895   GST_ELEMENT_CLASS (parent_class)->set_context (element, context);
1896 }
1897
1898 /* Interrupt a blocking request. */
1899 static gboolean
1900 gst_soup_http_src_unlock (GstBaseSrc * bsrc)
1901 {
1902   GstSoupHTTPSrc *src;
1903
1904   src = GST_SOUP_HTTP_SRC (bsrc);
1905   GST_DEBUG_OBJECT (src, "unlock()");
1906
1907   gst_soup_http_src_cancel_message (src);
1908   return TRUE;
1909 }
1910
1911 /* Interrupt interrupt. */
1912 static gboolean
1913 gst_soup_http_src_unlock_stop (GstBaseSrc * bsrc)
1914 {
1915   GstSoupHTTPSrc *src;
1916
1917   src = GST_SOUP_HTTP_SRC (bsrc);
1918   GST_DEBUG_OBJECT (src, "unlock_stop()");
1919
1920   g_cancellable_reset (src->cancellable);
1921   return TRUE;
1922 }
1923
1924 static gboolean
1925 gst_soup_http_src_get_size (GstBaseSrc * bsrc, guint64 * size)
1926 {
1927   GstSoupHTTPSrc *src;
1928
1929   src = GST_SOUP_HTTP_SRC (bsrc);
1930
1931   if (src->have_size) {
1932     GST_DEBUG_OBJECT (src, "get_size() = %" G_GUINT64_FORMAT,
1933         src->content_size);
1934     *size = src->content_size;
1935     return TRUE;
1936   }
1937   GST_DEBUG_OBJECT (src, "get_size() = FALSE");
1938   return FALSE;
1939 }
1940
1941 static void
1942 gst_soup_http_src_check_seekable (GstSoupHTTPSrc * src)
1943 {
1944   GstFlowReturn ret = GST_FLOW_OK;
1945
1946   /* Special case to check if the server allows range requests
1947    * before really starting to get data in the buffer creation
1948    * loops.
1949    */
1950   if (!src->got_headers && GST_STATE (src) >= GST_STATE_PAUSED) {
1951     g_mutex_lock (&src->mutex);
1952     while (!src->got_headers && !g_cancellable_is_cancelled (src->cancellable)
1953         && ret == GST_FLOW_OK) {
1954       if ((src->msg && src->msg->method != SOUP_METHOD_HEAD)) {
1955         /* wait for the current request to finish */
1956         g_cond_wait (&src->have_headers_cond, &src->mutex);
1957       } else {
1958         if (gst_soup_http_src_session_open (src)) {
1959           ret = gst_soup_http_src_do_request (src, SOUP_METHOD_HEAD);
1960         }
1961       }
1962     }
1963     g_mutex_unlock (&src->mutex);
1964   }
1965 }
1966
1967 static gboolean
1968 gst_soup_http_src_is_seekable (GstBaseSrc * bsrc)
1969 {
1970   GstSoupHTTPSrc *src = GST_SOUP_HTTP_SRC (bsrc);
1971
1972   gst_soup_http_src_check_seekable (src);
1973
1974   return src->seekable;
1975 }
1976
1977 static gboolean
1978 gst_soup_http_src_do_seek (GstBaseSrc * bsrc, GstSegment * segment)
1979 {
1980   GstSoupHTTPSrc *src = GST_SOUP_HTTP_SRC (bsrc);
1981
1982   GST_DEBUG_OBJECT (src, "do_seek(%" G_GUINT64_FORMAT "-%" G_GUINT64_FORMAT
1983       ")", segment->start, segment->stop);
1984   if (src->read_position == segment->start &&
1985       src->request_position == src->read_position &&
1986       src->stop_position == segment->stop) {
1987     GST_DEBUG_OBJECT (src,
1988         "Seek to current read/end position and no seek pending");
1989     return TRUE;
1990   }
1991
1992   gst_soup_http_src_check_seekable (src);
1993
1994   /* If we have no headers we don't know yet if it is seekable or not.
1995    * Store the start position and error out later if it isn't */
1996   if (src->got_headers && !src->seekable) {
1997     GST_WARNING_OBJECT (src, "Not seekable");
1998     return FALSE;
1999   }
2000
2001   if (segment->rate < 0.0 || segment->format != GST_FORMAT_BYTES) {
2002     GST_WARNING_OBJECT (src, "Invalid seek segment");
2003     return FALSE;
2004   }
2005
2006   if (src->have_size && segment->start >= src->content_size) {
2007     GST_WARNING_OBJECT (src,
2008         "Potentially seeking behind end of file, might EOS immediately");
2009   }
2010
2011   /* Wait for create() to handle the jump in offset. */
2012   src->request_position = segment->start;
2013   src->stop_position = segment->stop;
2014
2015   return TRUE;
2016 }
2017
2018 static gboolean
2019 gst_soup_http_src_query (GstBaseSrc * bsrc, GstQuery * query)
2020 {
2021   GstSoupHTTPSrc *src = GST_SOUP_HTTP_SRC (bsrc);
2022   gboolean ret;
2023   GstSchedulingFlags flags;
2024   gint minsize, maxsize, align;
2025
2026   switch (GST_QUERY_TYPE (query)) {
2027     case GST_QUERY_URI:
2028       gst_query_set_uri (query, src->location);
2029       if (src->redirection_uri != NULL) {
2030         gst_query_set_uri_redirection (query, src->redirection_uri);
2031         gst_query_set_uri_redirection_permanent (query,
2032             src->redirection_permanent);
2033       }
2034       ret = TRUE;
2035       break;
2036     default:
2037       ret = FALSE;
2038       break;
2039   }
2040
2041   if (!ret)
2042     ret = GST_BASE_SRC_CLASS (parent_class)->query (bsrc, query);
2043
2044   switch (GST_QUERY_TYPE (query)) {
2045     case GST_QUERY_SCHEDULING:
2046       gst_query_parse_scheduling (query, &flags, &minsize, &maxsize, &align);
2047       flags |= GST_SCHEDULING_FLAG_BANDWIDTH_LIMITED;
2048       gst_query_set_scheduling (query, flags, minsize, maxsize, align);
2049       break;
2050     default:
2051       break;
2052   }
2053
2054   return ret;
2055 }
2056
2057 static gboolean
2058 gst_soup_http_src_set_location (GstSoupHTTPSrc * src, const gchar * uri,
2059     GError ** error)
2060 {
2061   const char *alt_schemes[] = { "icy://", "icyx://" };
2062   guint i;
2063
2064   if (src->location) {
2065     g_free (src->location);
2066     src->location = NULL;
2067   }
2068
2069   if (uri == NULL)
2070     return FALSE;
2071
2072   for (i = 0; i < G_N_ELEMENTS (alt_schemes); i++) {
2073     if (g_str_has_prefix (uri, alt_schemes[i])) {
2074       src->location =
2075           g_strdup_printf ("http://%s", uri + strlen (alt_schemes[i]));
2076       return TRUE;
2077     }
2078   }
2079
2080   if (src->redirection_uri) {
2081     g_free (src->redirection_uri);
2082     src->redirection_uri = NULL;
2083   }
2084
2085   src->location = g_strdup (uri);
2086
2087   return TRUE;
2088 }
2089
2090 static gboolean
2091 gst_soup_http_src_set_proxy (GstSoupHTTPSrc * src, const gchar * uri)
2092 {
2093   if (src->proxy) {
2094     soup_uri_free (src->proxy);
2095     src->proxy = NULL;
2096   }
2097
2098   if (uri == NULL || *uri == '\0')
2099     return TRUE;
2100
2101   if (g_strstr_len (uri, -1, "://")) {
2102     src->proxy = soup_uri_new (uri);
2103   } else {
2104     gchar *new_uri = g_strconcat ("http://", uri, NULL);
2105
2106     src->proxy = soup_uri_new (new_uri);
2107     g_free (new_uri);
2108   }
2109
2110   return (src->proxy != NULL);
2111 }
2112
2113 static guint
2114 gst_soup_http_src_uri_get_type (GType type)
2115 {
2116   return GST_URI_SRC;
2117 }
2118
2119 static const gchar *const *
2120 gst_soup_http_src_uri_get_protocols (GType type)
2121 {
2122   static const gchar *protocols[] = { "http", "https", "icy", "icyx", NULL };
2123
2124   return protocols;
2125 }
2126
2127 static gchar *
2128 gst_soup_http_src_uri_get_uri (GstURIHandler * handler)
2129 {
2130   GstSoupHTTPSrc *src = GST_SOUP_HTTP_SRC (handler);
2131
2132   /* FIXME: make thread-safe */
2133   return g_strdup (src->location);
2134 }
2135
2136 static gboolean
2137 gst_soup_http_src_uri_set_uri (GstURIHandler * handler, const gchar * uri,
2138     GError ** error)
2139 {
2140   GstSoupHTTPSrc *src = GST_SOUP_HTTP_SRC (handler);
2141
2142   return gst_soup_http_src_set_location (src, uri, error);
2143 }
2144
2145 static void
2146 gst_soup_http_src_uri_handler_init (gpointer g_iface, gpointer iface_data)
2147 {
2148   GstURIHandlerInterface *iface = (GstURIHandlerInterface *) g_iface;
2149
2150   iface->get_type = gst_soup_http_src_uri_get_type;
2151   iface->get_protocols = gst_soup_http_src_uri_get_protocols;
2152   iface->get_uri = gst_soup_http_src_uri_get_uri;
2153   iface->set_uri = gst_soup_http_src_uri_set_uri;
2154 }