Way, way, way too many files: Remove crack comment from the 2000 era.
[platform/upstream/gst-plugins-good.git] / gst / alpha / gstalpha.c
index a976df4..4b4ed1c 100644 (file)
@@ -24,6 +24,7 @@
 #include <gst/video/video.h>
 
 #include <string.h>
+#include <math.h>
 
 #define GST_TYPE_ALPHA \
   (gst_alpha_get_type())
@@ -41,17 +42,16 @@ typedef struct _GstAlphaClass GstAlphaClass;
 
 typedef enum
 {
-  ALPHA_METHOD_ADD,
+  ALPHA_METHOD_SET,
   ALPHA_METHOD_GREEN,
   ALPHA_METHOD_BLUE,
-  ALPHA_METHOD_BLACK,
+  ALPHA_METHOD_CUSTOM,
 }
 GstAlphaMethod;
 
-#define DEFAULT_METHOD ALPHA_METHOD_ADD
-#define DEFAULT_ALPHA 1.0
-#define DEFAULT_TARGET_CR 116
-#define DEFAULT_TARGET_CB 116
+#define ROUND_UP_2(x) (((x) + 1) & ~1)
+#define ROUND_UP_4(x) (((x) + 3) & ~3)
+#define ROUND_UP_8(x) (((x) + 7) & ~7)
 
 struct _GstAlpha
 {
@@ -64,12 +64,28 @@ struct _GstAlpha
   /* caps */
   gint in_width, in_height;
   gint out_width, out_height;
+  gboolean ayuv;
 
   gdouble alpha;
 
-  guint target_cr, target_cb;
+  guint target_r;
+  guint target_g;
+  guint target_b;
 
   GstAlphaMethod method;
+
+  gfloat angle;
+  gfloat noise_level;
+
+  gfloat y;                     /* chroma color */
+  gint8 cb, cr;
+  gint8 kg;
+  gfloat accept_angle_cos;
+  gfloat accept_angle_sin;
+  guint8 accept_angle_tg;
+  guint8 accept_angle_ctg;
+  guint8 one_over_kc;
+  guint8 kfgy_scale;
 };
 
 struct _GstAlphaClass
@@ -92,13 +108,24 @@ enum
   LAST_SIGNAL
 };
 
+#define DEFAULT_METHOD ALPHA_METHOD_SET
+#define DEFAULT_ALPHA 1.0
+#define DEFAULT_TARGET_R 0
+#define DEFAULT_TARGET_G 255
+#define DEFAULT_TARGET_B 0
+#define DEFAULT_ANGLE 20.0
+#define DEFAULT_NOISE_LEVEL 2.0
+
 enum
 {
   ARG_0,
   ARG_METHOD,
   ARG_ALPHA,
-  ARG_TARGET_CR,
-  ARG_TARGET_CB,
+  ARG_TARGET_R,
+  ARG_TARGET_G,
+  ARG_TARGET_B,
+  ARG_ANGLE,
+  ARG_NOISE_LEVEL,
   /* FILL ME */
 };
 
@@ -110,25 +137,27 @@ GST_STATIC_PAD_TEMPLATE ("src",
     );
 
 static GstStaticPadTemplate gst_alpha_sink_template =
-GST_STATIC_PAD_TEMPLATE ("sink",
+    GST_STATIC_PAD_TEMPLATE ("sink",
     GST_PAD_SINK,
     GST_PAD_ALWAYS,
-    GST_STATIC_CAPS (GST_VIDEO_CAPS_YUV ("I420"))
+    GST_STATIC_CAPS (GST_VIDEO_CAPS_YUV ("AYUV")
+        ";" GST_VIDEO_CAPS_YUV ("I420")
+    )
     );
 
 
 static void gst_alpha_base_init (gpointer g_class);
 static void gst_alpha_class_init (GstAlphaClass * klass);
 static void gst_alpha_init (GstAlpha * alpha);
+static void gst_alpha_init_params (GstAlpha * alpha);
 
 static void gst_alpha_set_property (GObject * object, guint prop_id,
     const GValue * value, GParamSpec * pspec);
 static void gst_alpha_get_property (GObject * object, guint prop_id,
     GValue * value, GParamSpec * pspec);
 
-static GstPadLinkReturn
-gst_alpha_sink_link (GstPad * pad, const GstCaps * caps);
-static void gst_alpha_chain (GstPad * pad, GstData * _data);
+static gboolean gst_alpha_sink_setcaps (GstPad * pad, GstCaps * caps);
+static GstFlowReturn gst_alpha_chain (GstPad * pad, GstBuffer * buffer);
 
 static GstElementStateReturn gst_alpha_change_state (GstElement * element);
 
@@ -141,10 +170,10 @@ gst_alpha_method_get_type (void)
 {
   static GType alpha_method_type = 0;
   static GEnumValue alpha_method[] = {
-    {ALPHA_METHOD_ADD, "0", "Add alpha channel"},
+    {ALPHA_METHOD_SET, "0", "Set/adjust alpha channel"},
     {ALPHA_METHOD_GREEN, "1", "Chroma Key green"},
     {ALPHA_METHOD_BLUE, "2", "Chroma Key blue"},
-    {ALPHA_METHOD_BLACK, "3", "Chroma Key black"},
+    {ALPHA_METHOD_CUSTOM, "3", "Chroma Key on target_r/g/b"},
     {0, NULL, NULL},
   };
 
@@ -203,6 +232,9 @@ gst_alpha_class_init (GstAlphaClass * klass)
 
   parent_class = g_type_class_ref (GST_TYPE_ELEMENT);
 
+  gobject_class->set_property = gst_alpha_set_property;
+  gobject_class->get_property = gst_alpha_get_property;
+
   g_object_class_install_property (G_OBJECT_CLASS (klass), ARG_METHOD,
       g_param_spec_enum ("method", "Method",
           "How the alpha channels should be created", GST_TYPE_ALPHA_METHOD,
@@ -210,15 +242,21 @@ gst_alpha_class_init (GstAlphaClass * klass)
   g_object_class_install_property (G_OBJECT_CLASS (klass), ARG_ALPHA,
       g_param_spec_double ("alpha", "Alpha", "The value for the alpha channel",
           0.0, 1.0, DEFAULT_ALPHA, (GParamFlags) G_PARAM_READWRITE));
-  g_object_class_install_property (G_OBJECT_CLASS (klass), ARG_TARGET_CR,
-      g_param_spec_uint ("target_cr", "Target Red", "The Red Chroma target", 0,
-          255, 116, (GParamFlags) G_PARAM_READWRITE));
-  g_object_class_install_property (G_OBJECT_CLASS (klass), ARG_TARGET_CB,
-      g_param_spec_uint ("target_cb", "Target Blue", "The Blue Chroma target",
-          0, 255, 116, (GParamFlags) G_PARAM_READWRITE));
-
-  gobject_class->set_property = gst_alpha_set_property;
-  gobject_class->get_property = gst_alpha_get_property;
+  g_object_class_install_property (G_OBJECT_CLASS (klass), ARG_TARGET_R,
+      g_param_spec_uint ("target_r", "Target Red", "The Red target", 0,
+          255, DEFAULT_TARGET_R, (GParamFlags) G_PARAM_READWRITE));
+  g_object_class_install_property (G_OBJECT_CLASS (klass), ARG_TARGET_G,
+      g_param_spec_uint ("target_g", "Target Green", "The Green target", 0,
+          255, DEFAULT_TARGET_G, (GParamFlags) G_PARAM_READWRITE));
+  g_object_class_install_property (G_OBJECT_CLASS (klass), ARG_TARGET_B,
+      g_param_spec_uint ("target_b", "Target Blue", "The Blue target",
+          0, 255, DEFAULT_TARGET_B, (GParamFlags) G_PARAM_READWRITE));
+  g_object_class_install_property (G_OBJECT_CLASS (klass), ARG_ANGLE,
+      g_param_spec_float ("angle", "Angle", "Size of the colorcube to change",
+          0.0, 90.0, DEFAULT_ANGLE, (GParamFlags) G_PARAM_READWRITE));
+  g_object_class_install_property (G_OBJECT_CLASS (klass), ARG_NOISE_LEVEL,
+      g_param_spec_float ("noise_level", "Noise Level", "Size of noise radius",
+          0.0, 64.0, DEFAULT_NOISE_LEVEL, (GParamFlags) G_PARAM_READWRITE));
 
   gstelement_class->change_state = gst_alpha_change_state;
 }
@@ -232,7 +270,7 @@ gst_alpha_init (GstAlpha * alpha)
       (&gst_alpha_sink_template), "sink");
   gst_element_add_pad (GST_ELEMENT (alpha), alpha->sinkpad);
   gst_pad_set_chain_function (alpha->sinkpad, gst_alpha_chain);
-  gst_pad_set_link_function (alpha->sinkpad, gst_alpha_sink_link);
+  gst_pad_set_setcaps_function (alpha->sinkpad, gst_alpha_sink_setcaps);
 
   alpha->srcpad =
       gst_pad_new_from_template (gst_static_pad_template_get
@@ -241,10 +279,11 @@ gst_alpha_init (GstAlpha * alpha)
 
   alpha->alpha = DEFAULT_ALPHA;
   alpha->method = DEFAULT_METHOD;
-  alpha->target_cr = DEFAULT_TARGET_CR;
-  alpha->target_cb = DEFAULT_TARGET_CB;
-
-  GST_FLAG_SET (alpha, GST_ELEMENT_EVENT_AWARE);
+  alpha->target_r = DEFAULT_TARGET_R;
+  alpha->target_g = DEFAULT_TARGET_G;
+  alpha->target_b = DEFAULT_TARGET_B;
+  alpha->angle = DEFAULT_ANGLE;
+  alpha->noise_level = DEFAULT_NOISE_LEVEL;
 }
 
 /* do we need this function? */
@@ -254,7 +293,6 @@ gst_alpha_set_property (GObject * object, guint prop_id,
 {
   GstAlpha *alpha;
 
-  /* it's not null if we got it, but it might not be ours */
   g_return_if_fail (GST_IS_ALPHA (object));
 
   alpha = GST_ALPHA (object);
@@ -262,15 +300,44 @@ gst_alpha_set_property (GObject * object, guint prop_id,
   switch (prop_id) {
     case ARG_METHOD:
       alpha->method = g_value_get_enum (value);
+      switch (alpha->method) {
+        case ALPHA_METHOD_GREEN:
+          alpha->target_r = 0;
+          alpha->target_g = 255;
+          alpha->target_b = 0;
+          break;
+        case ALPHA_METHOD_BLUE:
+          alpha->target_r = 0;
+          alpha->target_g = 0;
+          alpha->target_b = 255;
+          break;
+        default:
+          break;
+      }
+      gst_alpha_init_params (alpha);
       break;
     case ARG_ALPHA:
       alpha->alpha = g_value_get_double (value);
       break;
-    case ARG_TARGET_CB:
-      alpha->target_cb = g_value_get_uint (value);
+    case ARG_TARGET_R:
+      alpha->target_r = g_value_get_uint (value);
+      gst_alpha_init_params (alpha);
+      break;
+    case ARG_TARGET_G:
+      alpha->target_g = g_value_get_uint (value);
+      gst_alpha_init_params (alpha);
       break;
-    case ARG_TARGET_CR:
-      alpha->target_cr = g_value_get_uint (value);
+    case ARG_TARGET_B:
+      alpha->target_b = g_value_get_uint (value);
+      gst_alpha_init_params (alpha);
+      break;
+    case ARG_ANGLE:
+      alpha->angle = g_value_get_float (value);
+      gst_alpha_init_params (alpha);
+      break;
+    case ARG_NOISE_LEVEL:
+      alpha->noise_level = g_value_get_float (value);
+      gst_alpha_init_params (alpha);
       break;
     default:
       G_OBJECT_WARN_INVALID_PROPERTY_ID (object, prop_id, pspec);
@@ -283,7 +350,6 @@ gst_alpha_get_property (GObject * object, guint prop_id, GValue * value,
 {
   GstAlpha *alpha;
 
-  /* it's not null if we got it, but it might not be ours */
   g_return_if_fail (GST_IS_ALPHA (object));
 
   alpha = GST_ALPHA (object);
@@ -295,11 +361,20 @@ gst_alpha_get_property (GObject * object, guint prop_id, GValue * value,
     case ARG_ALPHA:
       g_value_set_double (value, alpha->alpha);
       break;
-    case ARG_TARGET_CR:
-      g_value_set_uint (value, alpha->target_cr);
+    case ARG_TARGET_R:
+      g_value_set_uint (value, alpha->target_r);
+      break;
+    case ARG_TARGET_G:
+      g_value_set_uint (value, alpha->target_g);
       break;
-    case ARG_TARGET_CB:
-      g_value_set_uint (value, alpha->target_cb);
+    case ARG_TARGET_B:
+      g_value_set_uint (value, alpha->target_b);
+      break;
+    case ARG_ANGLE:
+      g_value_set_float (value, alpha->angle);
+      break;
+    case ARG_NOISE_LEVEL:
+      g_value_set_float (value, alpha->noise_level);
       break;
     default:
       G_OBJECT_WARN_INVALID_PROPERTY_ID (object, prop_id, pspec);
@@ -307,32 +382,70 @@ gst_alpha_get_property (GObject * object, guint prop_id, GValue * value,
   }
 }
 
-static GstPadLinkReturn
-gst_alpha_sink_link (GstPad * pad, const GstCaps * caps)
+static gboolean
+gst_alpha_sink_setcaps (GstPad * pad, GstCaps * caps)
 {
   GstAlpha *alpha;
   GstStructure *structure;
   gboolean ret;
+  guint32 fourcc;
 
-  alpha = GST_ALPHA (gst_pad_get_parent (pad));
+  alpha = GST_ALPHA (GST_PAD_PARENT (pad));
   structure = gst_caps_get_structure (caps, 0);
 
+  if (gst_structure_get_fourcc (structure, "format", &fourcc)) {
+    switch (fourcc) {
+      case GST_MAKE_FOURCC ('I', '4', '2', '0'):
+        alpha->ayuv = FALSE;
+        break;
+      case GST_MAKE_FOURCC ('A', 'Y', 'U', 'V'):
+        alpha->ayuv = TRUE;
+        break;
+      default:
+        return FALSE;
+    }
+  } else {
+    return FALSE;
+  }
+
   ret = gst_structure_get_int (structure, "width", &alpha->in_width);
   ret &= gst_structure_get_int (structure, "height", &alpha->in_height);
 
-  return GST_PAD_LINK_OK;
+  return TRUE;
 }
 
-/*
-static int yuv_colors_Y[] = {  16, 150,  29 };
-static int yuv_colors_U[] = { 128,  46, 255 };
-static int yuv_colors_V[] = { 128,  21, 107 };
-*/
+static void
+gst_alpha_set_ayuv (guint8 * src, guint8 * dest, gint width, gint height,
+    gdouble alpha)
+{
+  gint b_alpha = (gint) (alpha * 255);
+  gint i, j;
+  gint size;
+  gint stride;
+  gint wrap;
+
+  width = ROUND_UP_2 (width);
+  height = ROUND_UP_2 (height);
 
-#define ROUND_UP_4(x) (((x) + 3) & ~3)
+  stride = ROUND_UP_4 (width);
+  size = stride * height;
+
+  wrap = stride - width;
+
+  for (i = 0; i < height; i++) {
+    for (j = 0; j < width; j++) {
+      *dest++ = (*src++ * b_alpha) >> 8;
+      *dest++ = *src++;
+      *dest++ = *src++;
+      *dest++ = *src++;
+    }
+    src += wrap;
+    dest += wrap;
+  }
+}
 
 static void
-gst_alpha_add (guint8 * src, guint8 * dest, gint width, gint height,
+gst_alpha_set_i420 (guint8 * src, guint8 * dest, gint width, gint height,
     gdouble alpha)
 {
   gint b_alpha = (gint) (alpha * 255);
@@ -340,17 +453,17 @@ gst_alpha_add (guint8 * src, guint8 * dest, gint width, gint height,
   guint8 *srcU;
   guint8 *srcV;
   gint i, j;
-  gint w2, h2;
   gint size, size2;
   gint stride, stride2;
   gint wrap, wrap2;
 
+  width = ROUND_UP_2 (width);
+  height = ROUND_UP_2 (height);
+
   stride = ROUND_UP_4 (width);
   size = stride * height;
-  w2 = (width + 1) >> 1;
-  stride2 = ROUND_UP_4 (w2);
-  h2 = (height + 1) >> 1;
-  size2 = stride2 * h2;
+  stride2 = ROUND_UP_8 (width) / 2;
+  size2 = stride2 * height / 2;
 
   wrap = stride - 2 * (width / 2);
   wrap2 = stride2 - width / 2;
@@ -381,31 +494,139 @@ gst_alpha_add (guint8 * src, guint8 * dest, gint width, gint height,
   }
 }
 
-#define ROUND_UP_4(x) (((x) + 3) & ~3)
-#define ROUND_UP_2(x) (((x) + 1) & ~1)
+static void
+gst_alpha_chroma_key_ayuv (guint8 * src, guint8 * dest, gint width, gint height,
+    GstAlpha * alpha)
+{
+  gint b_alpha;
+  guint8 *src1;
+  guint8 *dest1;
+  gint i, j;
+  gint x, z, u, v, y, a;
+  gint size;
+  gint stride;
+  gint wrap;
+  gint tmp, tmp1;
+  gint x1, y1;
+
+  width = ROUND_UP_2 (width);
+  height = ROUND_UP_2 (height);
+
+  stride = ROUND_UP_4 (width);
+  size = stride * height;
+
+  src1 = src;
+  dest1 = dest;
+
+  wrap = stride - width;
+
+  for (i = 0; i < height; i++) {
+    for (j = 0; j < width; j++) {
+      a = *src1++ * (alpha->alpha);
+      y = *src1++;
+      u = *src1++ - 128;
+      v = *src1++ - 128;
+
+      /* Convert foreground to XZ coords where X direction is defined by
+         the key color */
+      tmp = ((short) u * alpha->cb + (short) v * alpha->cr) >> 7;
+      x = CLAMP (tmp, -128, 127);
+      tmp = ((short) v * alpha->cb - (short) u * alpha->cr) >> 7;
+      z = CLAMP (tmp, -128, 127);
+
+      /* WARNING: accept angle should never be set greater than "somewhat less
+         than 90 degrees" to avoid dealing with negative/infinite tg. In reality,
+         80 degrees should be enough if foreground is reasonable. If this seems
+         to be a problem, go to alternative ways of checking point position
+         (scalar product or line equations). This angle should not be too small
+         either to avoid infinite ctg (used to suppress foreground without use of
+         division) */
+
+      tmp = ((short) (x) * alpha->accept_angle_tg) >> 4;
+      tmp = MIN (tmp, 127);
+
+      if (abs (z) > tmp) {
+        /* keep foreground Kfg = 0 */
+        b_alpha = a;
+      } else {
+        /* Compute Kfg (implicitly) and Kbg, suppress foreground in XZ coord
+           according to Kfg */
+        tmp = ((short) (z) * alpha->accept_angle_ctg) >> 4;
+        tmp = CLAMP (tmp, -128, 127);
+        x1 = abs (tmp);
+        y1 = z;
+
+        tmp1 = x - x1;
+        tmp1 = MAX (tmp1, 0);
+        b_alpha = (((unsigned char) (tmp1) *
+                (unsigned short) (alpha->one_over_kc)) / 2);
+        b_alpha = 255 - CLAMP (b_alpha, 0, 255);
+        b_alpha = (a * b_alpha) >> 8;
+
+        tmp = ((unsigned short) (tmp1) * alpha->kfgy_scale) >> 4;
+        tmp1 = MIN (tmp, 255);
+
+        tmp = y - tmp1;
+        y = MAX (tmp, 0);
+
+        /* Convert suppressed foreground back to CbCr */
+        tmp = ((char) (x1) * (short) (alpha->cb) -
+            (char) (y1) * (short) (alpha->cr)) >> 7;
+        u = CLAMP (tmp, -128, 127);
+
+        tmp = ((char) (x1) * (short) (alpha->cr) +
+            (char) (y1) * (short) (alpha->cb)) >> 7;
+        v = CLAMP (tmp, -128, 127);
+
+        /* Deal with noise. For now, a circle around the key color with
+           radius of noise_level treated as exact key color. Introduces
+           sharp transitions.
+         */
+        tmp = z * (short) (z) + (x - alpha->kg) * (short) (x - alpha->kg);
+        tmp = MIN (tmp, 0xffff);
+
+        if (tmp < alpha->noise_level * alpha->noise_level) {
+          b_alpha = 0;
+        }
+      }
+
+      u += 128;
+      v += 128;
+
+      *dest1++ = b_alpha;
+      *dest1++ = y;
+      *dest1++ = u;
+      *dest1++ = v;
+    }
+    dest1 += wrap;
+    src1 += wrap;
+  }
+}
 
+/* based on http://www.cs.utah.edu/~michael/chroma/
+ */
 static void
-gst_alpha_chroma_key (gchar * src, gchar * dest, gint width, gint height,
-    gboolean soft, gint target_u, gint target_v, gfloat edge_factor,
-    gdouble alpha)
+gst_alpha_chroma_key_i420 (guint8 * src, guint8 * dest, gint width, gint height,
+    GstAlpha * alpha)
 {
   gint b_alpha;
-  gint f_alpha = (gint) (alpha * 255);
   guint8 *srcY1, *srcY2, *srcU, *srcV;
   guint8 *dest1, *dest2;
   gint i, j;
-  gint x, z, u, v;
-  gint w2, h2;
+  gint x, z, u, v, y11, y12, y21, y22, a;
   gint size, size2;
   gint stride, stride2;
   gint wrap, wrap2, wrap3;
+  gint tmp, tmp1;
+  gint x1, y1;
+
+  width = ROUND_UP_2 (width);
+  height = ROUND_UP_2 (height);
 
   stride = ROUND_UP_4 (width);
   size = stride * height;
-  w2 = (width + 1) >> 1;
-  stride2 = ROUND_UP_4 (w2);
-  h2 = (height + 1) >> 1;
-  size2 = stride2 * h2;
+  stride2 = ROUND_UP_8 (width) / 2;
+  size2 = stride2 * height / 2;
 
   srcY1 = src;
   srcY2 = src + stride;
@@ -417,59 +638,106 @@ gst_alpha_chroma_key (gchar * src, gchar * dest, gint width, gint height,
 
   wrap = 2 * stride - 2 * (width / 2);
   wrap2 = stride2 - width / 2;
-  wrap3 = 8 * width - 8 * (ROUND_UP_2 (width) / 2);
+  wrap3 = 8 * width - 8 * (width / 2);
+
+  a = 255 * alpha->alpha;
 
   for (i = 0; i < height / 2; i++) {
     for (j = 0; j < width / 2; j++) {
-      u = *srcU++;
-      v = *srcV++;
-
-      x = target_u - u;
-      z = target_v - v;
-
-      // only filter if in top left square
-      if ((x > 0) && (z > 0)) {
-        // only calculate lot of stuff if we'll use soft edges
-        if (soft) {
-          gint ds = (x > z) ? z : x;
-
-          gfloat df = (gfloat) (ds) / edge_factor;
-
-          if (df > 1.0)
-            df = 1.0;
-
-          // suppress foreground
-          if (x > z) {
-            u += z;
-            v += z;
-          } else {
-            u += x;
-            v += x;
-          }
-          b_alpha = (int) (f_alpha * (1.0 - df));
-        } else {
-          // kill color and alpha
+      y11 = *srcY1++;
+      y12 = *srcY1++;
+      y21 = *srcY2++;
+      y22 = *srcY2++;
+      u = *srcU++ - 128;
+      v = *srcV++ - 128;
+
+      /* Convert foreground to XZ coords where X direction is defined by
+         the key color */
+      tmp = ((short) u * alpha->cb + (short) v * alpha->cr) >> 7;
+      x = CLAMP (tmp, -128, 127);
+      tmp = ((short) v * alpha->cb - (short) u * alpha->cr) >> 7;
+      z = CLAMP (tmp, -128, 127);
+
+      /* WARNING: accept angle should never be set greater than "somewhat less
+         than 90 degrees" to avoid dealing with negative/infinite tg. In reality,
+         80 degrees should be enough if foreground is reasonable. If this seems
+         to be a problem, go to alternative ways of checking point position
+         (scalar product or line equations). This angle should not be too small
+         either to avoid infinite ctg (used to suppress foreground without use of
+         division) */
+
+      tmp = ((short) (x) * alpha->accept_angle_tg) >> 4;
+      tmp = MIN (tmp, 127);
+
+      if (abs (z) > tmp) {
+        /* keep foreground Kfg = 0 */
+        b_alpha = 255;
+      } else {
+        /* Compute Kfg (implicitly) and Kbg, suppress foreground in XZ coord
+           according to Kfg */
+        tmp = ((short) (z) * alpha->accept_angle_ctg) >> 4;
+        tmp = CLAMP (tmp, -128, 127);
+        x1 = abs (tmp);
+        y1 = z;
+
+        tmp1 = x - x1;
+        tmp1 = MAX (tmp1, 0);
+        b_alpha = (((unsigned char) (tmp1) *
+                (unsigned short) (alpha->one_over_kc)) / 2);
+        b_alpha = 255 - CLAMP (b_alpha, 0, 255);
+        b_alpha = (a * b_alpha) >> 8;
+
+        tmp = ((unsigned short) (tmp1) * alpha->kfgy_scale) >> 4;
+        tmp1 = MIN (tmp, 255);
+
+        tmp = y11 - tmp1;
+        y11 = MAX (tmp, 0);
+        tmp = y12 - tmp1;
+        y12 = MAX (tmp, 0);
+        tmp = y21 - tmp1;
+        y21 = MAX (tmp, 0);
+        tmp = y22 - tmp1;
+        y22 = MAX (tmp, 0);
+
+        /* Convert suppressed foreground back to CbCr */
+        tmp = ((char) (x1) * (short) (alpha->cb) -
+            (char) (y1) * (short) (alpha->cr)) >> 7;
+        u = CLAMP (tmp, -128, 127);
+
+        tmp = ((char) (x1) * (short) (alpha->cr) +
+            (char) (y1) * (short) (alpha->cb)) >> 7;
+        v = CLAMP (tmp, -128, 127);
+
+        /* Deal with noise. For now, a circle around the key color with
+           radius of noise_level treated as exact key color. Introduces
+           sharp transitions.
+         */
+        tmp = z * (short) (z) + (x - alpha->kg) * (short) (x - alpha->kg);
+        tmp = MIN (tmp, 0xffff);
+
+        if (tmp < alpha->noise_level * alpha->noise_level) {
+          /* Uncomment this if you want total suppression within the noise circle */
           b_alpha = 0;
         }
-      } else {
-        // do nothing;
-        b_alpha = f_alpha;
       }
 
+      u += 128;
+      v += 128;
+
       *dest1++ = b_alpha;
-      *dest1++ = *srcY1++;
+      *dest1++ = y11;
       *dest1++ = u;
       *dest1++ = v;
       *dest1++ = b_alpha;
-      *dest1++ = *srcY1++;
+      *dest1++ = y12;
       *dest1++ = u;
       *dest1++ = v;
       *dest2++ = b_alpha;
-      *dest2++ = *srcY2++;
+      *dest2++ = y21;
       *dest2++ = u;
       *dest2++ = v;
       *dest2++ = b_alpha;
-      *dest2++ = *srcY2++;
+      *dest2++ = y22;
       *dest2++ = u;
       *dest2++ = v;
     }
@@ -483,27 +751,50 @@ gst_alpha_chroma_key (gchar * src, gchar * dest, gint width, gint height,
 }
 
 static void
-gst_alpha_chain (GstPad * pad, GstData * _data)
+gst_alpha_init_params (GstAlpha * alpha)
+{
+  float kgl;
+  float tmp;
+  float tmp1, tmp2;
+
+  alpha->y =
+      0.257 * alpha->target_r + 0.504 * alpha->target_g +
+      0.098 * alpha->target_b;
+  tmp1 =
+      -0.148 * alpha->target_r - 0.291 * alpha->target_g +
+      0.439 * alpha->target_b;
+  tmp2 =
+      0.439 * alpha->target_r - 0.368 * alpha->target_g -
+      0.071 * alpha->target_b;
+  kgl = sqrt (tmp1 * tmp1 + tmp2 * tmp2);
+  alpha->cb = 127 * (tmp1 / kgl);
+  alpha->cr = 127 * (tmp2 / kgl);
+
+  alpha->accept_angle_cos = cos (M_PI * alpha->angle / 180);
+  alpha->accept_angle_sin = sin (M_PI * alpha->angle / 180);
+  tmp = 15 * tan (M_PI * alpha->angle / 180);
+  tmp = MIN (tmp, 255);
+  alpha->accept_angle_tg = tmp;
+  tmp = 15 / tan (M_PI * alpha->angle / 180);
+  tmp = MIN (tmp, 255);
+  alpha->accept_angle_ctg = tmp;
+  tmp = 1 / (kgl);
+  alpha->one_over_kc = 255 * 2 * tmp - 255;
+  tmp = 15 * (float) (alpha->y) / kgl;
+  tmp = MIN (tmp, 255);
+  alpha->kfgy_scale = tmp;
+  alpha->kg = MIN (kgl, 127);
+}
+
+static GstFlowReturn
+gst_alpha_chain (GstPad * pad, GstBuffer * buffer)
 {
-  GstBuffer *buffer;
   GstAlpha *alpha;
   GstBuffer *outbuf;
   gint new_width, new_height;
+  GstFlowReturn ret;
 
-  alpha = GST_ALPHA (gst_pad_get_parent (pad));
-
-  if (GST_IS_EVENT (_data)) {
-    GstEvent *event = GST_EVENT (_data);
-
-    switch (GST_EVENT_TYPE (event)) {
-      default:
-        gst_pad_event_default (pad, event);
-        break;
-    }
-    return;
-  }
-
-  buffer = GST_BUFFER (_data);
+  alpha = GST_ALPHA (GST_PAD_PARENT (pad));
 
   new_width = alpha->in_width;
   new_height = alpha->in_height;
@@ -517,39 +808,39 @@ gst_alpha_chain (GstPad * pad, GstData * _data)
         "format", GST_TYPE_FOURCC, GST_STR_FOURCC ("AYUV"),
         "width", G_TYPE_INT, new_width, "height", G_TYPE_INT, new_height, NULL);
 
-    if (!gst_pad_try_set_caps (alpha->srcpad, newcaps)) {
-      GST_ELEMENT_ERROR (alpha, CORE, NEGOTIATION, (NULL), (NULL));
-      return;
-    }
+    gst_pad_set_caps (alpha->srcpad, newcaps);
 
     alpha->out_width = new_width;
     alpha->out_height = new_height;
   }
 
-  outbuf = gst_buffer_new_and_alloc (new_width * new_height * 4);
+  outbuf =
+      gst_buffer_new_and_alloc (ROUND_UP_2 (new_width) *
+      ROUND_UP_2 (new_height) * 4);
+  gst_buffer_set_caps (outbuf, GST_PAD_CAPS (alpha->srcpad));
   GST_BUFFER_TIMESTAMP (outbuf) = GST_BUFFER_TIMESTAMP (buffer);
   GST_BUFFER_DURATION (outbuf) = GST_BUFFER_DURATION (buffer);
 
   switch (alpha->method) {
-    case ALPHA_METHOD_ADD:
-      gst_alpha_add (GST_BUFFER_DATA (buffer),
-          GST_BUFFER_DATA (outbuf), new_width, new_height, alpha->alpha);
+    case ALPHA_METHOD_SET:
+      if (alpha->ayuv) {
+        gst_alpha_set_ayuv (GST_BUFFER_DATA (buffer),
+            GST_BUFFER_DATA (outbuf), new_width, new_height, alpha->alpha);
+      } else {
+        gst_alpha_set_i420 (GST_BUFFER_DATA (buffer),
+            GST_BUFFER_DATA (outbuf), new_width, new_height, alpha->alpha);
+      }
       break;
     case ALPHA_METHOD_GREEN:
-      gst_alpha_chroma_key (GST_BUFFER_DATA (buffer),
-          GST_BUFFER_DATA (outbuf),
-          new_width, new_height,
-          FALSE, alpha->target_cr, alpha->target_cb, 1.0, alpha->alpha);
-      break;
     case ALPHA_METHOD_BLUE:
-      gst_alpha_chroma_key (GST_BUFFER_DATA (buffer),
-          GST_BUFFER_DATA (outbuf),
-          new_width, new_height, TRUE, 100, 100, 1.0, alpha->alpha);
-      break;
-    case ALPHA_METHOD_BLACK:
-      gst_alpha_chroma_key (GST_BUFFER_DATA (buffer),
-          GST_BUFFER_DATA (outbuf),
-          new_width, new_height, TRUE, 129, 129, 1.0, alpha->alpha);
+    case ALPHA_METHOD_CUSTOM:
+      if (alpha->ayuv) {
+        gst_alpha_chroma_key_ayuv (GST_BUFFER_DATA (buffer),
+            GST_BUFFER_DATA (outbuf), new_width, new_height, alpha);
+      } else {
+        gst_alpha_chroma_key_i420 (GST_BUFFER_DATA (buffer),
+            GST_BUFFER_DATA (outbuf), new_width, new_height, alpha);
+      }
       break;
     default:
       break;
@@ -557,7 +848,9 @@ gst_alpha_chain (GstPad * pad, GstData * _data)
 
   gst_buffer_unref (buffer);
 
-  gst_pad_push (alpha->srcpad, GST_DATA (outbuf));
+  ret = gst_pad_push (alpha->srcpad, outbuf);
+
+  return ret;
 }
 
 static GstElementStateReturn
@@ -571,6 +864,7 @@ gst_alpha_change_state (GstElement * element)
     case GST_STATE_NULL_TO_READY:
       break;
     case GST_STATE_READY_TO_PAUSED:
+      gst_alpha_init_params (alpha);
       break;
     case GST_STATE_PAUSED_TO_PLAYING:
       break;