ext/theora/gsttheoraparse.c

   1 /* GStreamer
   2  * Copyright (C) <2004> Thomas Vander Stichele <thomas at apestaart dot org>
   3  * Copyright (C) 2006 Andy Wingo <wingo@pobox.com>
   4  *
   5  * This library is free software; you can redistribute it and/or
   6  * modify it under the terms of the GNU Library General Public
   7  * License as published by the Free Software Foundation; either
   8  * version 2 of the License, or (at your option) any later version.
   9  *
  10  * This library is distributed in the hope that it will be useful,
  11  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  13  * Library General Public License for more details.
  14  *
  15  * You should have received a copy of the GNU Library General Public
  16  * License along with this library; if not, write to the
  17  * Free Software Foundation, Inc., 51 Franklin St, Fifth Floor,
  18  * Boston, MA 02110-1301, USA.
  19  */
  20
  21 /**
  22  * SECTION:element-theoraparse
  23  * @see_also: theoradec, oggdemux, vorbisparse
  24  *
  25  * The theoraparse element will parse the header packets of the Theora
  26  * stream and put them as the streamheader in the caps. This is used in the
  27  * multifdsink case where you want to stream live theora streams to multiple
  28  * clients, each client has to receive the streamheaders first before they can
  29  * consume the theora packets.
  30  *
  31  * This element also makes sure that the buffers that it pushes out are properly
  32  * timestamped and that their offset and offset_end are set. The buffers that
  33  * theoraparse outputs have all of the metadata that oggmux expects to receive,
  34  * which allows you to (for example) remux an ogg/theora file.
  35  *
  36  * In addition, this element allows you to fix badly synchronized streams. You
  37  * pass in an array of (granule time, buffer time) synchronization points via
  38  * the synchronization-points GValueArray property, and this element will adjust
  39  * the granulepos values that it outputs. The adjustment will be made by
  40  * offsetting all buffers that it outputs by a specified amount, and updating
  41  * that offset from the value array whenever a keyframe is processed.
  42  *
  43  * <refsect2>
  44  * <title>Example pipelines</title>
  45  * |[
  46  * gst-launch -v filesrc location=video.ogg ! oggdemux ! theoraparse ! fakesink
  47  * ]| This pipeline shows that the streamheader is set in the caps, and that each
  48  * buffer has the timestamp, duration, offset, and offset_end set.
  49  * |[
  50  * gst-launch filesrc location=video.ogg ! oggdemux ! theoraparse \
  51  *            ! oggmux ! filesink location=video-remuxed.ogg
  52  * ]| This pipeline shows remuxing. video-remuxed.ogg might not be exactly the same
  53  * as video.ogg, but they should produce exactly the same decoded data.
  54  * </refsect2>
  55  *
  56  * Last reviewed on 2008-05-28 (0.10.20)
  57  */
  58
  59 /* FIXME 0.11: suppress warnings for deprecated API such as GValueArray
  60  * with newer GLib versions (>= 2.31.0) */
  61 #define GLIB_DISABLE_DEPRECATION_WARNINGS
  62
  63 #ifdef HAVE_CONFIG_H
  64 #  include "config.h"
  65 #endif
  66
  67 #include "gsttheoraparse.h"
  68
  69 #define GST_CAT_DEFAULT theoraparse_debug
  70 GST_DEBUG_CATEGORY_STATIC (GST_CAT_DEFAULT);
  71
  72 static GstStaticPadTemplate theora_parse_sink_factory =
  73 GST_STATIC_PAD_TEMPLATE ("sink",
  74     GST_PAD_SINK,
  75     GST_PAD_ALWAYS,
  76     GST_STATIC_CAPS ("video/x-theora")
  77     );
  78
  79 static GstStaticPadTemplate theora_parse_src_factory =
  80 GST_STATIC_PAD_TEMPLATE ("src",
  81     GST_PAD_SRC,
  82     GST_PAD_ALWAYS,
  83     GST_STATIC_CAPS ("video/x-theora")
  84     );
  85
  86 enum
  87 {
  88   PROP_0,
  89   PROP_SYNCHRONIZATION_POINTS
  90 };
  91
  92 #define gst_theora_parse_parent_class parent_class
  93 G_DEFINE_TYPE (GstTheoraParse, gst_theora_parse, GST_TYPE_ELEMENT);
  94
  95 static void theora_parse_dispose (GObject * object);
  96
  97 #if 0
  98 static void theora_parse_get_property (GObject * object, guint prop_id,
  99     GValue * value, GParamSpec * pspec);
 100 static void theora_parse_set_property (GObject * object, guint prop_id,
 101     const GValue * value, GParamSpec * pspec);
 102 #endif
 103
 104 static GstFlowReturn theora_parse_chain (GstPad * pad, GstObject * parent,
 105     GstBuffer * buffer);
 106 static GstStateChangeReturn theora_parse_change_state (GstElement * element,
 107     GstStateChange transition);
 108 static gboolean theora_parse_sink_event (GstPad * pad, GstObject * parent,
 109     GstEvent * event);
 110 static gboolean theora_parse_src_query (GstPad * pad, GstObject * parent,
 111     GstQuery * query);
 112
 113 static void
 114 gst_theora_parse_class_init (GstTheoraParseClass * klass)
 115 {
 116   GObjectClass *gobject_class = G_OBJECT_CLASS (klass);
 117   GstElementClass *gstelement_class = GST_ELEMENT_CLASS (klass);
 118
 119   gobject_class->dispose = theora_parse_dispose;
 120
 121 #if 0
 122   gobject_class->get_property = theora_parse_get_property;
 123   gobject_class->set_property = theora_parse_set_property;
 124
 125   /**
 126    * GstTheoraParse:sychronization-points
 127    *
 128    * An array of (granuletime, buffertime) pairs
 129    *
 130    * Since: 0.10.10
 131    */
 132   g_object_class_install_property (gobject_class, PROP_SYNCHRONIZATION_POINTS,
 133       g_param_spec_value_array ("synchronization-points",
 134           "Synchronization points",
 135           "An array of (granuletime, buffertime) pairs",
 136           g_param_spec_uint64 ("time", "Time",
 137               "Time (either granuletime or buffertime)", 0, G_MAXUINT64, 0,
 138               G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS),
 139           G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
 140 #endif
 141
 142   gst_element_class_add_pad_template (gstelement_class,
 143       gst_static_pad_template_get (&theora_parse_src_factory));
 144   gst_element_class_add_pad_template (gstelement_class,
 145       gst_static_pad_template_get (&theora_parse_sink_factory));
 146   gst_element_class_set_static_metadata (gstelement_class,
 147       "Theora video parser", "Codec/Parser/Video",
 148       "parse raw theora streams", "Andy Wingo <wingo@pobox.com>");
 149
 150   gstelement_class->change_state = theora_parse_change_state;
 151
 152   GST_DEBUG_CATEGORY_INIT (theoraparse_debug, "theoraparse", 0,
 153       "Theora parser");
 154 }
 155
 156 static void
 157 gst_theora_parse_init (GstTheoraParse * parse)
 158 {
 159   parse->sinkpad =
 160       gst_pad_new_from_static_template (&theora_parse_sink_factory, "sink");
 161   gst_pad_set_chain_function (parse->sinkpad, theora_parse_chain);
 162   gst_pad_set_event_function (parse->sinkpad, theora_parse_sink_event);
 163   gst_element_add_pad (GST_ELEMENT (parse), parse->sinkpad);
 164
 165   parse->srcpad =
 166       gst_pad_new_from_static_template (&theora_parse_src_factory, "src");
 167   gst_pad_set_query_function (parse->srcpad, theora_parse_src_query);
 168   gst_element_add_pad (GST_ELEMENT (parse), parse->srcpad);
 169 }
 170
 171 static void
 172 theora_parse_dispose (GObject * object)
 173 {
 174   GstTheoraParse *parse = GST_THEORA_PARSE (object);
 175
 176   g_free (parse->times);
 177   parse->times = NULL;
 178
 179   G_OBJECT_CLASS (parent_class)->dispose (object);
 180 }
 181
 182 #if 0
 183 static void
 184 theora_parse_set_property (GObject * object, guint prop_id,
 185     const GValue * value, GParamSpec * pspec)
 186 {
 187   GstTheoraParse *parse = GST_THEORA_PARSE (object);
 188
 189   switch (prop_id) {
 190     case PROP_SYNCHRONIZATION_POINTS:
 191     {
 192       GValueArray *array;
 193       guint i;
 194
 195       array = g_value_get_boxed (value);
 196
 197       if (array) {
 198         if (array->n_values % 2)
 199           goto odd_values;
 200
 201         g_free (parse->times);
 202         parse->times = g_new (GstClockTime, array->n_values);
 203         parse->npairs = array->n_values / 2;
 204         for (i = 0; i < array->n_values; i++)
 205           parse->times[i] = g_value_get_uint64 (&array->values[i]);
 206       } else {
 207         g_free (parse->times);
 208         parse->npairs = 0;
 209       }
 210     }
 211       break;
 212     default:
 213       G_OBJECT_WARN_INVALID_PROPERTY_ID (object, prop_id, pspec);
 214       break;
 215   }
 216
 217   return;
 218
 219 odd_values:
 220   {
 221     g_critical ("expected an even number of time values for "
 222         "synchronization-points");
 223     return;
 224   }
 225 }
 226
 227 static void
 228 theora_parse_get_property (GObject * object, guint prop_id,
 229     GValue * value, GParamSpec * pspec)
 230 {
 231   GstTheoraParse *parse = GST_THEORA_PARSE (object);
 232
 233   switch (prop_id) {
 234     case PROP_SYNCHRONIZATION_POINTS:
 235     {
 236       GValueArray *array = NULL;
 237       guint i;
 238
 239       array = g_value_array_new (parse->npairs * 2);
 240
 241       for (i = 0; i < parse->npairs; i++) {
 242         GValue v = { 0, };
 243
 244         g_value_init (&v, G_TYPE_UINT64);
 245         g_value_set_uint64 (&v, parse->times[i * 2]);
 246         g_value_array_append (array, &v);
 247         g_value_set_uint64 (&v, parse->times[i * 2 + 1]);
 248         g_value_array_append (array, &v);
 249         g_value_unset (&v);
 250       }
 251
 252       g_value_take_boxed (value, array);
 253     }
 254       break;
 255     default:
 256       G_OBJECT_WARN_INVALID_PROPERTY_ID (object, prop_id, pspec);
 257       break;
 258   }
 259 }
 260 #endif
 261
 262 static void
 263 theora_parse_set_header_on_caps (GstTheoraParse * parse, GstCaps * caps)
 264 {
 265   GstBuffer **bufs;
 266   GstStructure *structure;
 267   gint i;
 268   GValue array = { 0 };
 269   GValue value = { 0 };
 270
 271   bufs = parse->streamheader;
 272   structure = gst_caps_get_structure (caps, 0);
 273   g_value_init (&array, GST_TYPE_ARRAY);
 274
 275   for (i = 0; i < 3; i++) {
 276     if (bufs[i] == NULL)
 277       continue;
 278
 279     bufs[i] = gst_buffer_make_writable (bufs[i]);
 280     GST_BUFFER_FLAG_SET (bufs[i], GST_BUFFER_FLAG_HEADER);
 281
 282     g_value_init (&value, GST_TYPE_BUFFER);
 283     gst_value_set_buffer (&value, bufs[i]);
 284     gst_value_array_append_value (&array, &value);
 285     g_value_unset (&value);
 286   }
 287
 288   gst_structure_take_value (structure, "streamheader", &array);
 289 }
 290
 291 /* two tasks to do here: set the streamheader on the caps, and use libtheora to
 292    parse the headers */
 293 static void
 294 theora_parse_set_streamheader (GstTheoraParse * parse)
 295 {
 296   GstCaps *caps;
 297   gint i;
 298   guint32 bitstream_version;
 299   th_setup_info *setup = NULL;
 300
 301   g_assert (!parse->streamheader_received);
 302
 303   caps = gst_caps_make_writable (gst_pad_query_caps (parse->srcpad, NULL));
 304   theora_parse_set_header_on_caps (parse, caps);
 305   GST_DEBUG_OBJECT (parse, "here are the caps: %" GST_PTR_FORMAT, caps);
 306   gst_pad_set_caps (parse->srcpad, caps);
 307   gst_caps_unref (caps);
 308
 309   for (i = 0; i < 3; i++) {
 310     ogg_packet packet;
 311     GstBuffer *buf;
 312     int ret;
 313     GstMapInfo map;
 314
 315     buf = parse->streamheader[i];
 316     if (buf == NULL)
 317       continue;
 318
 319     gst_buffer_map (buf, &map, GST_MAP_READ);
 320     packet.packet = map.data;
 321     packet.bytes = map.size;
 322     packet.granulepos = GST_BUFFER_OFFSET_END (buf);
 323     packet.packetno = i + 1;
 324     packet.e_o_s = 0;
 325     packet.b_o_s = (i == 0);
 326     ret = th_decode_headerin (&parse->info, &parse->comment, &setup, &packet);
 327     gst_buffer_unmap (buf, &map);
 328     if (ret < 0) {
 329       GST_WARNING_OBJECT (parse, "Failed to decode Theora header %d: %d\n",
 330           i + 1, ret);
 331     }
 332   }
 333   if (setup) {
 334     th_setup_free (setup);
 335   }
 336
 337   parse->fps_n = parse->info.fps_numerator;
 338   parse->fps_d = parse->info.fps_denominator;
 339   parse->shift = parse->info.keyframe_granule_shift;
 340
 341   /* With libtheora-1.0beta1 the granulepos scheme was changed:
 342    * where earlier the granulepos referred to the index/beginning
 343    * of a frame, it now refers to the end, which matches the use
 344    * in vorbis/speex. We check the bitstream version from the header so
 345    * we know which way to interpret the incoming granuepos
 346    */
 347   bitstream_version = (parse->info.version_major << 16) |
 348       (parse->info.version_minor << 8) | parse->info.version_subminor;
 349   parse->is_old_bitstream = (bitstream_version <= 0x00030200);
 350
 351   parse->streamheader_received = TRUE;
 352 }
 353
 354 static void
 355 theora_parse_drain_event_queue (GstTheoraParse * parse)
 356 {
 357   while (parse->event_queue->length) {
 358     GstEvent *event;
 359
 360     event = GST_EVENT_CAST (g_queue_pop_head (parse->event_queue));
 361     gst_pad_event_default (parse->sinkpad, GST_OBJECT_CAST (parse), event);
 362   }
 363 }
 364
 365 static void
 366 theora_parse_push_headers (GstTheoraParse * parse)
 367 {
 368   gint i;
 369
 370   theora_parse_drain_event_queue (parse);
 371
 372   if (!parse->streamheader_received)
 373     theora_parse_set_streamheader (parse);
 374
 375   /* ignore return values, we pass along the result of pushing data packets only
 376    */
 377   for (i = 0; i < 3; i++) {
 378     GstBuffer *buf;
 379
 380     if ((buf = parse->streamheader[i])) {
 381       gst_pad_push (parse->srcpad, buf);
 382       parse->streamheader[i] = NULL;
 383     }
 384   }
 385 }
 386
 387 static void
 388 theora_parse_clear_queue (GstTheoraParse * parse)
 389 {
 390   while (parse->buffer_queue->length) {
 391     GstBuffer *buf;
 392
 393     buf = GST_BUFFER_CAST (g_queue_pop_head (parse->buffer_queue));
 394     gst_buffer_unref (buf);
 395   }
 396   while (parse->event_queue->length) {
 397     GstEvent *event;
 398
 399     event = GST_EVENT_CAST (g_queue_pop_head (parse->event_queue));
 400     gst_event_unref (event);
 401   }
 402 }
 403
 404 static gint64
 405 make_granulepos (GstTheoraParse * parse, gint64 keyframe, gint64 frame)
 406 {
 407   gint64 iframe;
 408
 409   if (keyframe == -1)
 410     keyframe = 0;
 411   /* If using newer theora, offset the granulepos by +1, see comment in
 412    * theora_parse_set_streamheader.
 413    *
 414    * We don't increment keyframe directly, as internally we always index frames
 415    * starting from 0 and we do some sanity checking below. */
 416   if (!parse->is_old_bitstream)
 417     iframe = keyframe + 1;
 418   else
 419     iframe = keyframe;
 420
 421   g_return_val_if_fail (frame >= keyframe, -1);
 422   g_return_val_if_fail (frame - keyframe < 1 << parse->shift, -1);
 423
 424   return (iframe << parse->shift) + (frame - keyframe);
 425 }
 426
 427 static void
 428 parse_granulepos (GstTheoraParse * parse, gint64 granulepos,
 429     gint64 * keyframe, gint64 * frame)
 430 {
 431   gint64 kf;
 432
 433   kf = granulepos >> parse->shift;
 434   /* If using newer theora, offset the granulepos by -1, see comment
 435    * in theora_parse_set_streamheader */
 436   if (!parse->is_old_bitstream)
 437     kf -= 1;
 438   if (keyframe)
 439     *keyframe = kf;
 440   if (frame)
 441     *frame = kf + (granulepos & ((1 << parse->shift) - 1));
 442 }
 443
 444 static gboolean
 445 is_keyframe (GstBuffer * buf)
 446 {
 447   gsize size;
 448   guint8 data[1];
 449
 450   size = gst_buffer_get_size (buf);
 451   if (size == 0)
 452     return FALSE;
 453
 454   gst_buffer_extract (buf, 0, data, 1);
 455
 456   return ((data[0] & 0x40) == 0);
 457 }
 458
 459 static void
 460 theora_parse_munge_granulepos (GstTheoraParse * parse, GstBuffer * buf,
 461     gint64 keyframe, gint64 frame)
 462 {
 463   gint64 frames_diff;
 464   GstClockTimeDiff time_diff;
 465
 466   if (keyframe == frame) {
 467     gint i;
 468
 469     /* update granule_offset */
 470     for (i = 0; i < parse->npairs; i++) {
 471       if (parse->times[i * 2] >= GST_BUFFER_OFFSET (buf))
 472         break;
 473     }
 474     if (i > 0) {
 475       /* time_diff gets reset below */
 476       time_diff = parse->times[i * 2 - 1] - parse->times[i * 2 - 2];
 477       parse->granule_offset = gst_util_uint64_scale (time_diff,
 478           parse->fps_n, parse->fps_d * GST_SECOND);
 479       parse->granule_offset <<= parse->shift;
 480     }
 481   }
 482
 483   frames_diff = parse->granule_offset >> parse->shift;
 484   time_diff = gst_util_uint64_scale_int (GST_SECOND * frames_diff,
 485       parse->fps_d, parse->fps_n);
 486
 487   GST_DEBUG_OBJECT (parse, "offsetting theora stream by %" G_GINT64_FORMAT
 488       " frames (%" GST_TIME_FORMAT ")", frames_diff, GST_TIME_ARGS (time_diff));
 489
 490   GST_BUFFER_OFFSET_END (buf) += parse->granule_offset;
 491   GST_BUFFER_OFFSET (buf) += time_diff;
 492   GST_BUFFER_TIMESTAMP (buf) += time_diff;
 493 }
 494
 495 static GstFlowReturn
 496 theora_parse_push_buffer (GstTheoraParse * parse, GstBuffer * buf,
 497     gint64 keyframe, gint64 frame)
 498 {
 499
 500   GstClockTime this_time, next_time;
 501
 502   this_time = gst_util_uint64_scale_int (GST_SECOND * frame,
 503       parse->fps_d, parse->fps_n);
 504
 505   next_time = gst_util_uint64_scale_int (GST_SECOND * (frame + 1),
 506       parse->fps_d, parse->fps_n);
 507
 508   GST_BUFFER_OFFSET_END (buf) = make_granulepos (parse, keyframe, frame);
 509   GST_BUFFER_OFFSET (buf) = this_time;
 510   GST_BUFFER_TIMESTAMP (buf) = this_time;
 511   GST_BUFFER_DURATION (buf) = next_time - this_time;
 512
 513   if (parse->times)
 514     theora_parse_munge_granulepos (parse, buf, keyframe, frame);
 515
 516   GST_DEBUG_OBJECT (parse, "pushing buffer with granulepos %" G_GINT64_FORMAT
 517       "|%" G_GINT64_FORMAT, keyframe, frame - keyframe);
 518
 519   return gst_pad_push (parse->srcpad, buf);
 520 }
 521
 522 static GstFlowReturn
 523 theora_parse_drain_queue_prematurely (GstTheoraParse * parse)
 524 {
 525   GstFlowReturn ret = GST_FLOW_OK;
 526
 527   /* got an EOS event, make sure to push out any buffers that were in the queue
 528    * -- won't normally be the case, but this catches the
 529    * didn't-get-a-granulepos-on-the-last-packet case. Assuming a continuous
 530    * stream. */
 531
 532   GST_DEBUG_OBJECT (parse, "got EOS, draining queue");
 533
 534   /* if we get an eos before pushing the streamheaders, drain our events before
 535    * eos */
 536   theora_parse_drain_event_queue (parse);
 537
 538   while (!g_queue_is_empty (parse->buffer_queue)) {
 539     GstBuffer *buf;
 540
 541     buf = GST_BUFFER_CAST (g_queue_pop_head (parse->buffer_queue));
 542
 543     parse->prev_frame++;
 544
 545     if (is_keyframe (buf))
 546       /* we have a keyframe */
 547       parse->prev_keyframe = parse->prev_frame;
 548     else
 549       GST_BUFFER_FLAGS (buf) |= GST_BUFFER_FLAG_DELTA_UNIT;
 550
 551     if (parse->prev_keyframe < 0) {
 552       if (GST_BUFFER_OFFSET_END_IS_VALID (buf)) {
 553         parse_granulepos (parse, GST_BUFFER_OFFSET_END (buf),
 554             &parse->prev_keyframe, NULL);
 555       } else {
 556         /* No previous keyframe known; can't extract one from this frame. That
 557          * means we can't do any valid output for this frame, just continue to
 558          * the next frame.
 559          */
 560         gst_buffer_unref (buf);
 561         continue;
 562       }
 563     }
 564
 565     ret = theora_parse_push_buffer (parse, buf, parse->prev_keyframe,
 566         parse->prev_frame);
 567
 568     if (ret != GST_FLOW_OK)
 569       goto done;
 570   }
 571
 572 done:
 573   return ret;
 574 }
 575
 576 static GstFlowReturn
 577 theora_parse_drain_queue (GstTheoraParse * parse, gint64 granulepos)
 578 {
 579   GstFlowReturn ret = GST_FLOW_OK;
 580   gint64 keyframe, prev_frame, frame;
 581
 582   parse_granulepos (parse, granulepos, &keyframe, &frame);
 583
 584   GST_DEBUG ("draining queue of length %d",
 585       g_queue_get_length (parse->buffer_queue));
 586
 587   GST_LOG_OBJECT (parse, "gp %" G_GINT64_FORMAT ", kf %" G_GINT64_FORMAT
 588       ", frame %" G_GINT64_FORMAT, granulepos, keyframe, frame);
 589
 590   prev_frame = frame - g_queue_get_length (parse->buffer_queue);
 591
 592   GST_LOG_OBJECT (parse,
 593       "new prev %" G_GINT64_FORMAT ", prev %" G_GINT64_FORMAT, prev_frame,
 594       parse->prev_frame);
 595
 596   if (prev_frame < parse->prev_frame) {
 597     GST_WARNING ("jumped %" G_GINT64_FORMAT
 598         " frames backwards! not sure what to do here",
 599         parse->prev_frame - prev_frame);
 600     parse->prev_frame = prev_frame;
 601   } else if (prev_frame > parse->prev_frame) {
 602     GST_INFO ("discontinuity detected (%" G_GINT64_FORMAT
 603         " frames)", prev_frame - parse->prev_frame);
 604     if (keyframe <= prev_frame && keyframe > parse->prev_keyframe)
 605       parse->prev_keyframe = keyframe;
 606     parse->prev_frame = prev_frame;
 607   }
 608
 609   while (!g_queue_is_empty (parse->buffer_queue)) {
 610     GstBuffer *buf;
 611
 612     parse->prev_frame++;
 613     g_assert (parse->prev_frame >= 0);
 614
 615     buf = GST_BUFFER_CAST (g_queue_pop_head (parse->buffer_queue));
 616
 617     if (is_keyframe (buf))
 618       /* we have a keyframe */
 619       parse->prev_keyframe = parse->prev_frame;
 620     else
 621       GST_BUFFER_FLAGS (buf) |= GST_BUFFER_FLAG_DELTA_UNIT;
 622
 623     ret = theora_parse_push_buffer (parse, buf, parse->prev_keyframe,
 624         parse->prev_frame);
 625
 626     if (ret != GST_FLOW_OK)
 627       goto done;
 628   }
 629
 630 done:
 631   return ret;
 632 }
 633
 634 static GstFlowReturn
 635 theora_parse_queue_buffer (GstTheoraParse * parse, GstBuffer * buf)
 636 {
 637   GstFlowReturn ret = GST_FLOW_OK;
 638
 639   buf = gst_buffer_make_writable (buf);
 640
 641   g_queue_push_tail (parse->buffer_queue, buf);
 642
 643   if (GST_BUFFER_OFFSET_END_IS_VALID (buf)) {
 644     if (parse->prev_keyframe < 0) {
 645       parse_granulepos (parse, GST_BUFFER_OFFSET_END (buf),
 646           &parse->prev_keyframe, NULL);
 647     }
 648     ret = theora_parse_drain_queue (parse, GST_BUFFER_OFFSET_END (buf));
 649   }
 650
 651   return ret;
 652 }
 653
 654 static GstFlowReturn
 655 theora_parse_chain (GstPad * pad, GstObject * parent, GstBuffer * buffer)
 656 {
 657   GstFlowReturn ret;
 658   GstTheoraParse *parse;
 659   GstMapInfo map;
 660   guint8 header;
 661   gboolean have_header;
 662
 663   parse = GST_THEORA_PARSE (parent);
 664
 665   have_header = FALSE;
 666
 667   gst_buffer_map (buffer, &map, GST_MAP_READ);
 668   header = map.data[0];
 669   gst_buffer_unmap (buffer, &map);
 670
 671   if (map.size >= 1) {
 672     if (header & 0x80)
 673       have_header = TRUE;
 674   }
 675
 676   if (have_header) {
 677     if (parse->send_streamheader) {
 678       /* we need to collect the headers still */
 679       /* so put it on the streamheader list and return */
 680       if (header >= 0x80 && header <= 0x82)
 681         parse->streamheader[header - 0x80] = buffer;
 682     }
 683     ret = GST_FLOW_OK;
 684   } else {
 685     /* data packet, push the headers we collected before */
 686     if (parse->send_streamheader) {
 687       theora_parse_push_headers (parse);
 688       parse->send_streamheader = FALSE;
 689     }
 690
 691     ret = theora_parse_queue_buffer (parse, buffer);
 692   }
 693
 694   return ret;
 695 }
 696
 697 static gboolean
 698 theora_parse_queue_event (GstTheoraParse * parse, GstEvent * event)
 699 {
 700   g_queue_push_tail (parse->event_queue, event);
 701   return TRUE;
 702 }
 703
 704 static gboolean
 705 theora_parse_sink_event (GstPad * pad, GstObject * parent, GstEvent * event)
 706 {
 707   gboolean ret;
 708   GstTheoraParse *parse;
 709
 710   parse = GST_THEORA_PARSE (parent);
 711
 712   switch (GST_EVENT_TYPE (event)) {
 713     case GST_EVENT_FLUSH_STOP:
 714       theora_parse_clear_queue (parse);
 715       parse->prev_keyframe = -1;
 716       parse->prev_frame = -1;
 717       ret = gst_pad_event_default (pad, parent, event);
 718       break;
 719     case GST_EVENT_EOS:
 720       theora_parse_drain_queue_prematurely (parse);
 721       ret = gst_pad_event_default (pad, parent, event);
 722       break;
 723     default:
 724       if (parse->send_streamheader && GST_EVENT_IS_SERIALIZED (event))
 725         ret = theora_parse_queue_event (parse, event);
 726       else
 727         ret = gst_pad_event_default (pad, parent, event);
 728       break;
 729   }
 730
 731   return ret;
 732 }
 733
 734 static gboolean
 735 theora_parse_src_convert (GstPad * pad,
 736     GstFormat src_format, gint64 src_value,
 737     GstFormat * dest_format, gint64 * dest_value)
 738 {
 739   gboolean res = TRUE;
 740   GstTheoraParse *parse;
 741   guint64 scale = 1;
 742
 743   if (src_format == *dest_format) {
 744     *dest_value = src_value;
 745     return TRUE;
 746   }
 747
 748   parse = GST_THEORA_PARSE (gst_pad_get_parent (pad));
 749
 750   /* we need the info part before we can done something */
 751   if (!parse->streamheader_received)
 752     goto no_header;
 753
 754   switch (src_format) {
 755     case GST_FORMAT_BYTES:
 756       switch (*dest_format) {
 757         case GST_FORMAT_DEFAULT:
 758           *dest_value = gst_util_uint64_scale_int (src_value, 2,
 759               parse->info.pic_height * parse->info.pic_width * 3);
 760           break;
 761         case GST_FORMAT_TIME:
 762           /* seems like a rather silly conversion, implement me if you like */
 763         default:
 764           res = FALSE;
 765       }
 766       break;
 767     case GST_FORMAT_TIME:
 768       switch (*dest_format) {
 769         case GST_FORMAT_BYTES:
 770           scale = 3 * (parse->info.pic_width * parse->info.pic_height) / 2;
 771         case GST_FORMAT_DEFAULT:
 772           *dest_value = scale * gst_util_uint64_scale (src_value,
 773               parse->info.fps_numerator,
 774               parse->info.fps_denominator * GST_SECOND);
 775           break;
 776         default:
 777           GST_DEBUG_OBJECT (parse, "cannot convert to format %s",
 778               gst_format_get_name (*dest_format));
 779           res = FALSE;
 780       }
 781       break;
 782     case GST_FORMAT_DEFAULT:
 783       switch (*dest_format) {
 784         case GST_FORMAT_TIME:
 785           *dest_value = gst_util_uint64_scale (src_value,
 786               GST_SECOND * parse->info.fps_denominator,
 787               parse->info.fps_numerator);
 788           break;
 789         case GST_FORMAT_BYTES:
 790           *dest_value = gst_util_uint64_scale_int (src_value,
 791               3 * parse->info.pic_width * parse->info.pic_height, 2);
 792           break;
 793         default:
 794           res = FALSE;
 795       }
 796       break;
 797     default:
 798       res = FALSE;
 799   }
 800 done:
 801   gst_object_unref (parse);
 802   return res;
 803
 804   /* ERRORS */
 805 no_header:
 806   {
 807     GST_DEBUG_OBJECT (parse, "no header yet, cannot convert");
 808     res = FALSE;
 809     goto done;
 810   }
 811 }
 812
 813 static gboolean
 814 theora_parse_src_query (GstPad * pad, GstObject * parent, GstQuery * query)
 815 {
 816   GstTheoraParse *parse;
 817   gboolean res = FALSE;
 818
 819   parse = GST_THEORA_PARSE (parent);
 820
 821   switch (GST_QUERY_TYPE (query)) {
 822     case GST_QUERY_POSITION:
 823     {
 824       gint64 frame, value;
 825       GstFormat my_format, format;
 826       gint64 time;
 827
 828       frame = parse->prev_frame;
 829
 830       GST_LOG_OBJECT (parse,
 831           "query %p: we have current frame: %" G_GINT64_FORMAT, query, frame);
 832
 833       /* parse format */
 834       gst_query_parse_position (query, &format, NULL);
 835
 836       /* and convert to the final format in two steps with time as the
 837        * intermediate step */
 838       my_format = GST_FORMAT_TIME;
 839       if (!(res =
 840               theora_parse_src_convert (parse->sinkpad, GST_FORMAT_DEFAULT,
 841                   frame, &my_format, &time)))
 842         goto error;
 843
 844       /* fixme: handle segments
 845          time = (time - parse->segment.start) + parse->segment.time;
 846        */
 847
 848       GST_LOG_OBJECT (parse,
 849           "query %p: our time: %" GST_TIME_FORMAT " (conv to %s)",
 850           query, GST_TIME_ARGS (time), gst_format_get_name (format));
 851
 852       if (!(res =
 853               theora_parse_src_convert (pad, my_format, time, &format, &value)))
 854         goto error;
 855
 856       gst_query_set_position (query, format, value);
 857
 858       GST_LOG_OBJECT (parse,
 859           "query %p: we return %" G_GINT64_FORMAT " (format %u)", query, value,
 860           format);
 861
 862       break;
 863     }
 864     case GST_QUERY_DURATION:
 865       /* forward to peer for total */
 866       if (!(res = gst_pad_query (GST_PAD_PEER (parse->sinkpad), query)))
 867         goto error;
 868       break;
 869     case GST_QUERY_CONVERT:
 870     {
 871       GstFormat src_fmt, dest_fmt;
 872       gint64 src_val, dest_val;
 873
 874       gst_query_parse_convert (query, &src_fmt, &src_val, &dest_fmt, &dest_val);
 875       if (!(res =
 876               theora_parse_src_convert (pad, src_fmt, src_val, &dest_fmt,
 877                   &dest_val)))
 878         goto error;
 879
 880       gst_query_set_convert (query, src_fmt, src_val, dest_fmt, dest_val);
 881       break;
 882     }
 883     default:
 884       res = gst_pad_query_default (pad, parent, query);
 885       break;
 886   }
 887 done:
 888
 889   return res;
 890
 891   /* ERRORS */
 892 error:
 893   {
 894     GST_DEBUG_OBJECT (parse, "query failed");
 895     goto done;
 896   }
 897 }
 898
 899 static GstStateChangeReturn
 900 theora_parse_change_state (GstElement * element, GstStateChange transition)
 901 {
 902   GstTheoraParse *parse = GST_THEORA_PARSE (element);
 903   GstStateChangeReturn ret;
 904   gint i;
 905
 906   switch (transition) {
 907     case GST_STATE_CHANGE_READY_TO_PAUSED:
 908       th_info_init (&parse->info);
 909       th_comment_init (&parse->comment);
 910       parse->send_streamheader = TRUE;
 911       parse->buffer_queue = g_queue_new ();
 912       parse->event_queue = g_queue_new ();
 913       parse->prev_keyframe = -1;
 914       parse->prev_frame = -1;
 915       parse->granule_offset = 0;
 916       break;
 917     default:
 918       break;
 919   }
 920
 921   ret = GST_ELEMENT_CLASS (parent_class)->change_state (element, transition);
 922
 923   switch (transition) {
 924     case GST_STATE_CHANGE_PAUSED_TO_READY:
 925       th_info_clear (&parse->info);
 926       th_comment_clear (&parse->comment);
 927       theora_parse_clear_queue (parse);
 928       g_queue_free (parse->buffer_queue);
 929       g_queue_free (parse->event_queue);
 930       parse->buffer_queue = NULL;
 931       for (i = 0; i < 3; i++) {
 932         if (parse->streamheader[i]) {
 933           gst_buffer_unref (parse->streamheader[i]);
 934           parse->streamheader[i] = NULL;
 935         }
 936       }
 937       parse->streamheader_received = FALSE;
 938       break;
 939     default:
 940       break;
 941   }
 942
 943   return ret;
 944 }