gst/monoscope/gstmonoscope.c

   1 /* gstmonoscope.c: implementation of monoscope drawing element
   2  * Copyright (C) <2002> Richard Boulton <richard@tartarus.org>
   3  * Copyright (C) <2006> Tim-Philipp Müller <tim centricular net>
   4  * Copyright (C) <2006> Wim Taymans <wim at fluendo dot com>
   5  *
   6  * This library is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU Library General Public
   8  * License as published by the Free Software Foundation; either
   9  * version 2 of the License, or (at your option) any later version.
  10  *
  11  * This library is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14  * Library General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU Library General Public
  17  * License along with this library; if not, write to the
  18  * Free Software Foundation, Inc., 59 Temple Place - Suite 330,
  19  * Boston, MA 02111-1307, USA.
  20  */
  21
  22 /**
  23  * SECTION:element-monoscope
  24  * @see_also: goom
  25  *
  26  * Monoscope is an audio visualisation element. It creates a coloured
  27  * curve of the audio signal like on an oscilloscope.
  28  *
  29  * <refsect2>
  30  * <title>Example launch line</title>
  31  * |[
  32  * gst-launch -v audiotestsrc ! audioconvert ! monoscope ! ffmpegcolorspace ! ximagesink
  33  * ]|
  34  * </refsect2>
  35  */
  36
  37 #ifdef HAVE_CONFIG_H
  38 #include "config.h"
  39 #endif
  40
  41 #include <gst/video/video.h>
  42 #include <gst/audio/audio.h>
  43 #include <string.h>
  44 #include "gstmonoscope.h"
  45 #include "monoscope.h"
  46
  47 GST_DEBUG_CATEGORY_STATIC (monoscope_debug);
  48 #define GST_CAT_DEFAULT monoscope_debug
  49
  50 static GstStaticPadTemplate src_template = GST_STATIC_PAD_TEMPLATE ("src",
  51     GST_PAD_SRC,
  52     GST_PAD_ALWAYS,
  53 #if G_BYTE_ORDER == G_BIG_ENDIAN
  54     GST_STATIC_CAPS ("video/x-raw, "
  55         "format = (string) xRGB, "
  56         "width = 256, " "height = 128, " "framerate = " GST_VIDEO_FPS_RANGE)
  57 #else
  58     GST_STATIC_CAPS ("video/x-raw, "
  59         "format = (string) BGRx, "
  60         "width = 256, " "height = 128, " "framerate = " GST_VIDEO_FPS_RANGE)
  61 #endif
  62     );
  63
  64 static GstStaticPadTemplate sink_template = GST_STATIC_PAD_TEMPLATE ("sink",
  65     GST_PAD_SINK,
  66     GST_PAD_ALWAYS,
  67     GST_STATIC_CAPS ("audio/x-raw, "
  68         "format = (string) " GST_AUDIO_NE (S16) ", "
  69         "rate = (int) [ 8000, 96000 ], "
  70         "channels = (int) 1, " "layout = (string) interleaved")
  71     );
  72
  73
  74 #define gst_monoscope_parent_class parent_class
  75 G_DEFINE_TYPE (GstMonoscope, gst_monoscope, GST_TYPE_ELEMENT);
  76
  77 static void gst_monoscope_finalize (GObject * object);
  78 static GstFlowReturn gst_monoscope_chain (GstPad * pad, GstObject * parent,
  79     GstBuffer * buf);
  80 static gboolean gst_monoscope_src_setcaps (GstMonoscope * mono, GstCaps * caps);
  81 static gboolean gst_monoscope_sink_setcaps (GstMonoscope * mono,
  82     GstCaps * caps);
  83 static void gst_monoscope_reset (GstMonoscope * monoscope);
  84 static gboolean gst_monoscope_sink_event (GstPad * pad, GstObject * parent,
  85     GstEvent * event);
  86 static gboolean gst_monoscope_src_event (GstPad * pad, GstObject * parent,
  87     GstEvent * event);
  88 static GstStateChangeReturn gst_monoscope_change_state (GstElement * element,
  89     GstStateChange transition);
  90
  91 static void
  92 gst_monoscope_class_init (GstMonoscopeClass * klass)
  93 {
  94   GObjectClass *gobject_class;
  95   GstElementClass *gstelement_class;
  96
  97   gobject_class = (GObjectClass *) klass;
  98   gstelement_class = (GstElementClass *) klass;
  99
 100   gobject_class->finalize = gst_monoscope_finalize;
 101
 102   gstelement_class->change_state =
 103       GST_DEBUG_FUNCPTR (gst_monoscope_change_state);
 104
 105   gst_element_class_add_pad_template (gstelement_class,
 106       gst_static_pad_template_get (&src_template));
 107   gst_element_class_add_pad_template (gstelement_class,
 108       gst_static_pad_template_get (&sink_template));
 109   gst_element_class_set_details_simple (gstelement_class, "Monoscope",
 110       "Visualization",
 111       "Displays a highly stabilised waveform of audio input",
 112       "Richard Boulton <richard@tartarus.org>");
 113 }
 114
 115 static void
 116 gst_monoscope_init (GstMonoscope * monoscope)
 117 {
 118   monoscope->sinkpad =
 119       gst_pad_new_from_static_template (&sink_template, "sink");
 120   gst_pad_set_chain_function (monoscope->sinkpad,
 121       GST_DEBUG_FUNCPTR (gst_monoscope_chain));
 122   gst_pad_set_event_function (monoscope->sinkpad,
 123       GST_DEBUG_FUNCPTR (gst_monoscope_sink_event));
 124   gst_element_add_pad (GST_ELEMENT (monoscope), monoscope->sinkpad);
 125
 126   monoscope->srcpad = gst_pad_new_from_static_template (&src_template, "src");
 127   gst_pad_set_event_function (monoscope->srcpad,
 128       GST_DEBUG_FUNCPTR (gst_monoscope_src_event));
 129   gst_element_add_pad (GST_ELEMENT (monoscope), monoscope->srcpad);
 130
 131   monoscope->adapter = gst_adapter_new ();
 132   monoscope->next_ts = GST_CLOCK_TIME_NONE;
 133   monoscope->bps = sizeof (gint16);
 134
 135   /* reset the initial video state */
 136   monoscope->width = 256;
 137   monoscope->height = 128;
 138   monoscope->fps_num = 25;      /* desired frame rate */
 139   monoscope->fps_denom = 1;
 140   monoscope->visstate = NULL;
 141
 142   /* reset the initial audio state */
 143   monoscope->rate = GST_AUDIO_DEF_RATE;
 144 }
 145
 146 static void
 147 gst_monoscope_finalize (GObject * object)
 148 {
 149   GstMonoscope *monoscope = GST_MONOSCOPE (object);
 150
 151   if (monoscope->visstate)
 152     monoscope_close (monoscope->visstate);
 153
 154   g_object_unref (monoscope->adapter);
 155
 156   G_OBJECT_CLASS (parent_class)->finalize (object);
 157 }
 158
 159 static void
 160 gst_monoscope_reset (GstMonoscope * monoscope)
 161 {
 162   monoscope->next_ts = GST_CLOCK_TIME_NONE;
 163
 164   gst_adapter_clear (monoscope->adapter);
 165   gst_segment_init (&monoscope->segment, GST_FORMAT_UNDEFINED);
 166
 167   GST_OBJECT_LOCK (monoscope);
 168   monoscope->proportion = 1.0;
 169   monoscope->earliest_time = -1;
 170   GST_OBJECT_UNLOCK (monoscope);
 171 }
 172
 173 static gboolean
 174 gst_monoscope_sink_setcaps (GstMonoscope * monoscope, GstCaps * caps)
 175 {
 176   GstStructure *structure;
 177
 178   structure = gst_caps_get_structure (caps, 0);
 179
 180   gst_structure_get_int (structure, "rate", &monoscope->rate);
 181
 182   GST_DEBUG_OBJECT (monoscope, "sample rate = %d", monoscope->rate);
 183   return TRUE;
 184 }
 185
 186 static gboolean
 187 gst_monoscope_src_setcaps (GstMonoscope * monoscope, GstCaps * caps)
 188 {
 189   GstStructure *structure;
 190   gboolean res;
 191
 192   structure = gst_caps_get_structure (caps, 0);
 193
 194   gst_structure_get_int (structure, "width", &monoscope->width);
 195   gst_structure_get_int (structure, "height", &monoscope->height);
 196   gst_structure_get_fraction (structure, "framerate", &monoscope->fps_num,
 197       &monoscope->fps_denom);
 198
 199   monoscope->outsize = monoscope->width * monoscope->height * 4;
 200   monoscope->frame_duration = gst_util_uint64_scale_int (GST_SECOND,
 201       monoscope->fps_denom, monoscope->fps_num);
 202   monoscope->spf =
 203       gst_util_uint64_scale_int (monoscope->rate, monoscope->fps_denom,
 204       monoscope->fps_num);
 205
 206   GST_DEBUG_OBJECT (monoscope, "dimension %dx%d, framerate %d/%d, spf %d",
 207       monoscope->width, monoscope->height, monoscope->fps_num,
 208       monoscope->fps_denom, monoscope->spf);
 209
 210   if (monoscope->visstate) {
 211     monoscope_close (monoscope->visstate);
 212     monoscope->visstate = NULL;
 213   }
 214
 215   monoscope->visstate = monoscope_init (monoscope->width, monoscope->height);
 216
 217   res = gst_pad_push_event (monoscope->srcpad, gst_event_new_caps (caps));
 218
 219   return res && (monoscope->visstate != NULL);
 220 }
 221
 222 static gboolean
 223 gst_monoscope_src_negotiate (GstMonoscope * monoscope)
 224 {
 225   GstCaps *othercaps, *target;
 226   GstStructure *structure;
 227   GstCaps *templ;
 228   GstQuery *query;
 229   GstBufferPool *pool;
 230   GstStructure *config;
 231   guint size, min, max;
 232
 233   templ = gst_pad_get_pad_template_caps (monoscope->srcpad);
 234
 235   GST_DEBUG_OBJECT (monoscope, "performing negotiation");
 236
 237   /* see what the peer can do */
 238   othercaps = gst_pad_peer_query_caps (monoscope->srcpad, NULL);
 239   if (othercaps) {
 240     target = gst_caps_intersect (othercaps, templ);
 241     gst_caps_unref (othercaps);
 242     gst_caps_unref (templ);
 243
 244     if (gst_caps_is_empty (target))
 245       goto no_format;
 246
 247     target = gst_caps_truncate (target);
 248   } else {
 249     target = templ;
 250   }
 251
 252   target = gst_caps_make_writable (target);
 253   structure = gst_caps_get_structure (target, 0);
 254   gst_structure_fixate_field_nearest_int (structure, "width", 320);
 255   gst_structure_fixate_field_nearest_int (structure, "height", 240);
 256   gst_structure_fixate_field_nearest_fraction (structure, "framerate", 25, 1);
 257
 258   gst_monoscope_src_setcaps (monoscope, target);
 259
 260   /* try to get a bufferpool now */
 261   /* find a pool for the negotiated caps now */
 262   query = gst_query_new_allocation (target, TRUE);
 263
 264   if (!gst_pad_peer_query (monoscope->srcpad, query)) {
 265   }
 266
 267   if (gst_query_get_n_allocation_pools (query) > 0) {
 268     /* we got configuration from our peer, parse them */
 269     gst_query_parse_nth_allocation_pool (query, 0, &pool, &size, &min, &max);
 270   } else {
 271     pool = NULL;
 272     size = monoscope->outsize;
 273     min = max = 0;
 274   }
 275
 276   if (pool == NULL) {
 277     /* we did not get a pool, make one ourselves then */
 278     pool = gst_buffer_pool_new ();
 279   }
 280
 281   config = gst_buffer_pool_get_config (pool);
 282   gst_buffer_pool_config_set (config, target, size, min, max, 0, 0, 0);
 283   gst_buffer_pool_set_config (pool, config);
 284
 285   if (monoscope->pool) {
 286     gst_buffer_pool_set_active (monoscope->pool, TRUE);
 287     gst_object_unref (monoscope->pool);
 288   }
 289   monoscope->pool = pool;
 290
 291   /* and activate */
 292   gst_buffer_pool_set_active (pool, TRUE);
 293
 294   gst_caps_unref (target);
 295
 296   return TRUE;
 297
 298 no_format:
 299   {
 300     gst_caps_unref (target);
 301     return FALSE;
 302   }
 303 }
 304
 305 /* make sure we are negotiated */
 306 static GstFlowReturn
 307 ensure_negotiated (GstMonoscope * monoscope)
 308 {
 309   gboolean reconfigure;
 310
 311   reconfigure = gst_pad_check_reconfigure (monoscope->srcpad);
 312
 313   /* we don't know an output format yet, pick one */
 314   if (reconfigure || !gst_pad_has_current_caps (monoscope->srcpad)) {
 315     if (!gst_monoscope_src_negotiate (monoscope))
 316       return GST_FLOW_NOT_NEGOTIATED;
 317   }
 318   return GST_FLOW_OK;
 319 }
 320
 321 static GstFlowReturn
 322 gst_monoscope_chain (GstPad * pad, GstObject * parent, GstBuffer * inbuf)
 323 {
 324   GstFlowReturn flow_ret = GST_FLOW_OK;
 325   GstMonoscope *monoscope;
 326
 327   monoscope = GST_MONOSCOPE (parent);
 328
 329   if (monoscope->rate == 0) {
 330     gst_buffer_unref (inbuf);
 331     flow_ret = GST_FLOW_NOT_NEGOTIATED;
 332     goto out;
 333   }
 334
 335   /* Make sure have an output format */
 336   flow_ret = ensure_negotiated (monoscope);
 337   if (flow_ret != GST_FLOW_OK) {
 338     gst_buffer_unref (inbuf);
 339     goto out;
 340   }
 341
 342   /* don't try to combine samples from discont buffer */
 343   if (GST_BUFFER_FLAG_IS_SET (inbuf, GST_BUFFER_FLAG_DISCONT)) {
 344     gst_adapter_clear (monoscope->adapter);
 345     monoscope->next_ts = GST_CLOCK_TIME_NONE;
 346   }
 347
 348   /* Match timestamps from the incoming audio */
 349   if (GST_BUFFER_TIMESTAMP (inbuf) != GST_CLOCK_TIME_NONE)
 350     monoscope->next_ts = GST_BUFFER_TIMESTAMP (inbuf);
 351
 352   GST_LOG_OBJECT (monoscope, "in buffer has %d samples, ts=%" GST_TIME_FORMAT,
 353       gst_buffer_get_size (inbuf) / monoscope->bps,
 354       GST_TIME_ARGS (GST_BUFFER_TIMESTAMP (inbuf)));
 355
 356   gst_adapter_push (monoscope->adapter, inbuf);
 357   inbuf = NULL;
 358
 359   /* Collect samples until we have enough for an output frame */
 360   while (flow_ret == GST_FLOW_OK) {
 361     gint16 *samples;
 362     GstBuffer *outbuf = NULL;
 363     guint32 *pixels, avail, bytesperframe;
 364
 365     avail = gst_adapter_available (monoscope->adapter);
 366     GST_LOG_OBJECT (monoscope, "bytes avail now %u", avail);
 367
 368     bytesperframe = monoscope->spf * monoscope->bps;
 369     if (avail < bytesperframe)
 370       break;
 371
 372     /* FIXME: something is wrong with QoS, we are skipping way too much
 373      * stuff even with very low CPU loads */
 374 #if 0
 375     if (monoscope->next_ts != -1) {
 376       gboolean need_skip;
 377       gint64 qostime;
 378
 379       qostime = gst_segment_to_running_time (&monoscope->segment,
 380           GST_FORMAT_TIME, monoscope->next_ts);
 381
 382       GST_OBJECT_LOCK (monoscope);
 383       /* check for QoS, don't compute buffers that are known to be late */
 384       need_skip =
 385           GST_CLOCK_TIME_IS_VALID (monoscope->earliest_time) &&
 386           qostime <= monoscope->earliest_time;
 387       GST_OBJECT_UNLOCK (monoscope);
 388
 389       if (need_skip) {
 390         GST_WARNING_OBJECT (monoscope,
 391             "QoS: skip ts: %" GST_TIME_FORMAT ", earliest: %" GST_TIME_FORMAT,
 392             GST_TIME_ARGS (qostime), GST_TIME_ARGS (monoscope->earliest_time));
 393         goto skip;
 394       }
 395     }
 396 #endif
 397
 398     samples = (gint16 *) gst_adapter_map (monoscope->adapter, bytesperframe);
 399
 400     if (monoscope->spf < 512) {
 401       gint16 in_data[512], i;
 402
 403       for (i = 0; i < 512; ++i) {
 404         gdouble off;
 405
 406         off = ((gdouble) i * (gdouble) monoscope->spf) / 512.0;
 407         in_data[i] = samples[MIN ((guint) off, monoscope->spf)];
 408       }
 409       pixels = monoscope_update (monoscope->visstate, in_data);
 410     } else {
 411       /* not really correct, but looks much prettier */
 412       pixels = monoscope_update (monoscope->visstate, samples);
 413     }
 414
 415     GST_LOG_OBJECT (monoscope, "allocating output buffer");
 416     flow_ret = gst_buffer_pool_acquire_buffer (monoscope->pool, &outbuf, NULL);
 417     if (flow_ret != GST_FLOW_OK) {
 418       gst_adapter_unmap (monoscope->adapter);
 419       goto out;
 420     }
 421
 422     gst_buffer_fill (outbuf, 0, pixels, monoscope->outsize);
 423
 424     GST_BUFFER_TIMESTAMP (outbuf) = monoscope->next_ts;
 425     GST_BUFFER_DURATION (outbuf) = monoscope->frame_duration;
 426
 427     flow_ret = gst_pad_push (monoscope->srcpad, outbuf);
 428
 429 #if 0
 430   skip:
 431 #endif
 432
 433     if (GST_CLOCK_TIME_IS_VALID (monoscope->next_ts))
 434       monoscope->next_ts += monoscope->frame_duration;
 435
 436     gst_adapter_flush (monoscope->adapter, bytesperframe);
 437   }
 438
 439 out:
 440
 441   return flow_ret;
 442 }
 443
 444 static gboolean
 445 gst_monoscope_sink_event (GstPad * pad, GstObject * parent, GstEvent * event)
 446 {
 447   GstMonoscope *monoscope;
 448   gboolean res;
 449
 450   monoscope = GST_MONOSCOPE (parent);
 451
 452   switch (GST_EVENT_TYPE (event)) {
 453     case GST_EVENT_FLUSH_START:
 454       res = gst_pad_push_event (monoscope->srcpad, event);
 455       break;
 456     case GST_EVENT_FLUSH_STOP:
 457       gst_monoscope_reset (monoscope);
 458       res = gst_pad_push_event (monoscope->srcpad, event);
 459       break;
 460     case GST_EVENT_SEGMENT:
 461     {
 462       /* the newsegment values are used to clip the input samples
 463        * and to convert the incomming timestamps to running time so
 464        * we can do QoS */
 465       gst_event_copy_segment (event, &monoscope->segment);
 466
 467       res = gst_pad_push_event (monoscope->srcpad, event);
 468       break;
 469     }
 470     case GST_EVENT_CAPS:
 471     {
 472       GstCaps *caps;
 473
 474       gst_event_parse_caps (event, &caps);
 475       gst_monoscope_sink_setcaps (monoscope, caps);
 476       gst_event_unref (event);
 477       res = TRUE;
 478       break;
 479     }
 480     default:
 481       res = gst_pad_push_event (monoscope->srcpad, event);
 482       break;
 483   }
 484
 485   return res;
 486 }
 487
 488 static gboolean
 489 gst_monoscope_src_event (GstPad * pad, GstObject * parent, GstEvent * event)
 490 {
 491   GstMonoscope *monoscope;
 492   gboolean res;
 493
 494   monoscope = GST_MONOSCOPE (parent);
 495
 496   switch (GST_EVENT_TYPE (event)) {
 497     case GST_EVENT_QOS:{
 498       gdouble proportion;
 499       GstClockTimeDiff diff;
 500       GstClockTime timestamp;
 501
 502       gst_event_parse_qos (event, NULL, &proportion, &diff, &timestamp);
 503
 504       /* save stuff for the _chain() function */
 505       GST_OBJECT_LOCK (monoscope);
 506       monoscope->proportion = proportion;
 507       if (diff >= 0)
 508         /* we're late, this is a good estimate for next displayable
 509          * frame (see part-qos.txt) */
 510         monoscope->earliest_time =
 511             timestamp + 2 * diff + monoscope->frame_duration;
 512       else
 513         monoscope->earliest_time = timestamp + diff;
 514       GST_OBJECT_UNLOCK (monoscope);
 515
 516       res = gst_pad_push_event (monoscope->sinkpad, event);
 517       break;
 518     }
 519     default:
 520       res = gst_pad_push_event (monoscope->sinkpad, event);
 521       break;
 522   }
 523
 524   return res;
 525 }
 526
 527 static GstStateChangeReturn
 528 gst_monoscope_change_state (GstElement * element, GstStateChange transition)
 529 {
 530   GstMonoscope *monoscope = GST_MONOSCOPE (element);
 531   GstStateChangeReturn ret;
 532
 533   switch (transition) {
 534     case GST_STATE_CHANGE_NULL_TO_READY:
 535       break;
 536     case GST_STATE_CHANGE_READY_TO_PAUSED:
 537       gst_monoscope_reset (monoscope);
 538       break;
 539     default:
 540       break;
 541   }
 542
 543   ret = GST_ELEMENT_CLASS (parent_class)->change_state (element, transition);
 544
 545   switch (transition) {
 546     case GST_STATE_CHANGE_PAUSED_TO_READY:
 547       if (monoscope->pool) {
 548         gst_buffer_pool_set_active (monoscope->pool, FALSE);
 549         gst_object_replace ((GstObject **) & monoscope->pool, NULL);
 550       }
 551       break;
 552     case GST_STATE_CHANGE_READY_TO_NULL:
 553       break;
 554     default:
 555       break;
 556   }
 557
 558   return ret;
 559 }
 560
 561 static gboolean
 562 plugin_init (GstPlugin * plugin)
 563 {
 564   GST_DEBUG_CATEGORY_INIT (monoscope_debug, "monoscope", 0,
 565       "monoscope element");
 566
 567   return gst_element_register (plugin, "monoscope",
 568       GST_RANK_NONE, GST_TYPE_MONOSCOPE);
 569 }
 570
 571 GST_PLUGIN_DEFINE (GST_VERSION_MAJOR,
 572     GST_VERSION_MINOR,
 573     "monoscope",
 574     "Monoscope visualization",
 575     plugin_init, VERSION, "LGPL", GST_PACKAGE_NAME, GST_PACKAGE_ORIGIN);