gst/effectv/gstedge.c

   1 /* GStreamer
   2  * Copyright (C) <1999> Erik Walthinsen <omega@cse.ogi.edu>
   3  * Copyright (C) <2009> Sebastian Dröge <sebastian.droege@collabora.co.uk>
   4  *
   5  * EffecTV:
   6  * Copyright (C) 2001-2002 FUKUCHI Kentarou
   7  *
   8  * EdgeTV - detects edge and display it in good old computer way
   9  *
  10  * EffecTV is free software. This library is free software;
  11  * you can redistribute it and/or
  12  * modify it under the terms of the GNU Library General Public
  13  * License as published by the Free Software Foundation; either
  14  * version 2 of the License, or (at your option) any later version.
  15  *
  16  * This library is distributed in the hope that it will be useful,
  17  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  18  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  19  * Library General Public License for more details.
  20  *
  21  * You should have received a copy of the GNU Library General Public
  22  * License along with this library; if not, write to the
  23  * Free Software Foundation, Inc., 59 Temple Place - Suite 330,
  24  * Boston, MA 02111-1307, USA.
  25  */
  26
  27 /**
  28  * SECTION:element-edgetv
  29  *
  30  * EdgeTV detects edges and display it in good old low resolution
  31  * computer way.
  32  *
  33  * <refsect2>
  34  * <title>Example launch line</title>
  35  * |[
  36  * gst-launch -v videotestsrc ! edgetv ! videoconvert ! autovideosink
  37  * ]| This pipeline shows the effect of edgetv on a test stream.
  38  * </refsect2>
  39  */
  40
  41 #ifdef HAVE_CONFIG_H
  42 #include "config.h"
  43 #endif
  44
  45 #include <string.h>
  46
  47 #include "gstedge.h"
  48
  49 #define gst_edgetv_parent_class parent_class
  50 G_DEFINE_TYPE (GstEdgeTV, gst_edgetv, GST_TYPE_VIDEO_FILTER);
  51
  52 #if G_BYTE_ORDER == G_LITTLE_ENDIAN
  53 #define CAPS_STR GST_VIDEO_CAPS_MAKE ("{  BGRx, RGBx }")
  54 #else
  55 #define CAPS_STR GST_VIDEO_CAPS_MAKE ("{  xBGR, xRGB }")
  56 #endif
  57
  58 static GstStaticPadTemplate gst_edgetv_src_template =
  59 GST_STATIC_PAD_TEMPLATE ("src",
  60     GST_PAD_SRC,
  61     GST_PAD_ALWAYS,
  62     GST_STATIC_CAPS (CAPS_STR)
  63     );
  64
  65 static GstStaticPadTemplate gst_edgetv_sink_template =
  66 GST_STATIC_PAD_TEMPLATE ("sink",
  67     GST_PAD_SINK,
  68     GST_PAD_ALWAYS,
  69     GST_STATIC_CAPS (CAPS_STR)
  70     );
  71
  72 static gboolean
  73 gst_edgetv_set_caps (GstBaseTransform * btrans, GstCaps * incaps,
  74     GstCaps * outcaps)
  75 {
  76   GstEdgeTV *edgetv = GST_EDGETV (btrans);
  77   GstVideoInfo info;
  78   guint map_size;
  79   gint width, height;
  80
  81   if (!gst_video_info_from_caps (&info, incaps))
  82     goto invalid_caps;
  83
  84   edgetv->info = info;
  85
  86   width = GST_VIDEO_INFO_WIDTH (&info);
  87   height = GST_VIDEO_INFO_HEIGHT (&info);
  88
  89   edgetv->map_width = width / 4;
  90   edgetv->map_height = height / 4;
  91   edgetv->video_width_margin = width % 4;
  92
  93   map_size = edgetv->map_width * edgetv->map_height * sizeof (guint32) * 2;
  94
  95   g_free (edgetv->map);
  96   edgetv->map = (guint32 *) g_malloc0 (map_size);
  97
  98   return TRUE;
  99
 100   /* ERRORS */
 101 invalid_caps:
 102   {
 103     GST_DEBUG_OBJECT (btrans, "could not parse caps");
 104     return FALSE;
 105   }
 106 }
 107
 108 static GstFlowReturn
 109 gst_edgetv_transform (GstBaseTransform * trans, GstBuffer * in, GstBuffer * out)
 110 {
 111   GstEdgeTV *filter = GST_EDGETV (trans);
 112   gint x, y, r, g, b;
 113   guint32 *src, *dest;
 114   guint32 p, q;
 115   guint32 v0, v1, v2, v3;
 116   gint width, map_height, map_width;
 117   gint video_width_margin;
 118   guint32 *map;
 119   GstFlowReturn ret = GST_FLOW_OK;
 120   GstVideoFrame in_frame, out_frame;
 121
 122   map = filter->map;
 123   map_height = filter->map_height;
 124   map_width = filter->map_width;
 125   video_width_margin = filter->video_width_margin;
 126
 127   gst_video_frame_map (&in_frame, &filter->info, in, GST_MAP_READ);
 128   gst_video_frame_map (&out_frame, &filter->info, out, GST_MAP_WRITE);
 129
 130   src = GST_VIDEO_FRAME_PLANE_DATA (&in_frame, 0);
 131   dest = GST_VIDEO_FRAME_PLANE_DATA (&out_frame, 0);
 132
 133   width = GST_VIDEO_FRAME_WIDTH (&in_frame);
 134
 135   src += width * 4 + 4;
 136   dest += width * 4 + 4;
 137
 138   for (y = 1; y < map_height - 1; y++) {
 139     for (x = 1; x < map_width - 1; x++) {
 140       p = *src;
 141       q = *(src - 4);
 142
 143       /* difference between the current pixel and left neighbor. */
 144       r = ((p & 0xff0000) - (q & 0xff0000)) >> 16;
 145       g = ((p & 0xff00) - (q & 0xff00)) >> 8;
 146       b = (p & 0xff) - (q & 0xff);
 147       r *= r;
 148       g *= g;
 149       b *= b;
 150       r = r >> 5;               /* To lack the lower bit for saturated addition,  */
 151       g = g >> 5;               /* devide the value with 32, instead of 16. It is */
 152       b = b >> 4;               /* same as `v2 &= 0xfefeff' */
 153       if (r > 127)
 154         r = 127;
 155       if (g > 127)
 156         g = 127;
 157       if (b > 255)
 158         b = 255;
 159       v2 = (r << 17) | (g << 9) | b;
 160
 161       /* difference between the current pixel and upper neighbor. */
 162       q = *(src - width * 4);
 163       r = ((p & 0xff0000) - (q & 0xff0000)) >> 16;
 164       g = ((p & 0xff00) - (q & 0xff00)) >> 8;
 165       b = (p & 0xff) - (q & 0xff);
 166       r *= r;
 167       g *= g;
 168       b *= b;
 169       r = r >> 5;
 170       g = g >> 5;
 171       b = b >> 4;
 172       if (r > 127)
 173         r = 127;
 174       if (g > 127)
 175         g = 127;
 176       if (b > 255)
 177         b = 255;
 178       v3 = (r << 17) | (g << 9) | b;
 179
 180       v0 = map[(y - 1) * map_width * 2 + x * 2];
 181       v1 = map[y * map_width * 2 + (x - 1) * 2 + 1];
 182       map[y * map_width * 2 + x * 2] = v2;
 183       map[y * map_width * 2 + x * 2 + 1] = v3;
 184       r = v0 + v1;
 185       g = r & 0x01010100;
 186       dest[0] = r | (g - (g >> 8));
 187       r = v0 + v3;
 188       g = r & 0x01010100;
 189       dest[1] = r | (g - (g >> 8));
 190       dest[2] = v3;
 191       dest[3] = v3;
 192       r = v2 + v1;
 193       g = r & 0x01010100;
 194       dest[width] = r | (g - (g >> 8));
 195       r = v2 + v3;
 196       g = r & 0x01010100;
 197       dest[width + 1] = r | (g - (g >> 8));
 198       dest[width + 2] = v3;
 199       dest[width + 3] = v3;
 200       dest[width * 2] = v2;
 201       dest[width * 2 + 1] = v2;
 202       dest[width * 2 + 2] = 0;
 203       dest[width * 2 + 3] = 0;
 204       dest[width * 3] = v2;
 205       dest[width * 3 + 1] = v2;
 206       dest[width * 3 + 2] = 0;
 207       dest[width * 3 + 3] = 0;
 208
 209       src += 4;
 210       dest += 4;
 211     }
 212     src += width * 3 + 8 + video_width_margin;
 213     dest += width * 3 + 8 + video_width_margin;
 214   }
 215
 216   return ret;
 217 }
 218
 219 static gboolean
 220 gst_edgetv_start (GstBaseTransform * trans)
 221 {
 222   GstEdgeTV *edgetv = GST_EDGETV (trans);
 223
 224   if (edgetv->map)
 225     memset (edgetv->map, 0,
 226         edgetv->map_width * edgetv->map_height * sizeof (guint32) * 2);
 227   return TRUE;
 228 }
 229
 230 static void
 231 gst_edgetv_finalize (GObject * object)
 232 {
 233   GstEdgeTV *edgetv = GST_EDGETV (object);
 234
 235   g_free (edgetv->map);
 236   edgetv->map = NULL;
 237
 238   G_OBJECT_CLASS (parent_class)->finalize (object);
 239 }
 240
 241 static void
 242 gst_edgetv_class_init (GstEdgeTVClass * klass)
 243 {
 244   GObjectClass *gobject_class = (GObjectClass *) klass;
 245   GstElementClass *gstelement_class = (GstElementClass *) klass;
 246   GstBaseTransformClass *trans_class = (GstBaseTransformClass *) klass;
 247
 248   gobject_class->finalize = gst_edgetv_finalize;
 249
 250   gst_element_class_set_details_simple (gstelement_class, "EdgeTV effect",
 251       "Filter/Effect/Video",
 252       "Apply edge detect on video", "Wim Taymans <wim.taymans@chello.be>");
 253
 254   gst_element_class_add_pad_template (gstelement_class,
 255       gst_static_pad_template_get (&gst_edgetv_sink_template));
 256   gst_element_class_add_pad_template (gstelement_class,
 257       gst_static_pad_template_get (&gst_edgetv_src_template));
 258
 259   trans_class->set_caps = GST_DEBUG_FUNCPTR (gst_edgetv_set_caps);
 260   trans_class->transform = GST_DEBUG_FUNCPTR (gst_edgetv_transform);
 261   trans_class->start = GST_DEBUG_FUNCPTR (gst_edgetv_start);
 262 }
 263
 264 static void
 265 gst_edgetv_init (GstEdgeTV * edgetv)
 266 {
 267 }