Merge branch 'master' into 0.11
[platform/upstream/gst-plugins-good.git] / gst / alpha / gstalphacolor.c
index 26086ef..c519566 100644 (file)
  * SECTION:element-alphacolor
  *
  * The alphacolor element does memory-efficient (in-place) colourspace
- * conversion from RGBA to AYUV, preserving the alpha channel.
+ * conversion from RGBA to AYUV or AYUV to RGBA while preserving the
+ * alpha channel.
+ *
+ * Sample pipeline:
+ * |[
+ * gst-launch videotestsrc ! "video/x-raw,format=(fourcc)AYUV" ! \
+ *   alphacolor ! videoconvert ! autovideosink
+ * ]|
  */
 
 #ifdef HAVE_CONFIG_H
@@ -39,57 +46,46 @@ GST_DEBUG_CATEGORY_STATIC (alpha_color_debug);
 #define GST_CAT_DEFAULT alpha_color_debug
 
 /* elementfactory information */
-static const GstElementDetails gst_alpha_color_details =
-GST_ELEMENT_DETAILS ("Alpha color filter",
-    "Filter/Effect/Video",
-    "RGBA to AYUV colorspace conversion preserving the alpha channel",
-    "Wim Taymans <wim@fluendo.com>");
-
 static GstStaticPadTemplate sink_template = GST_STATIC_PAD_TEMPLATE ("sink",
     GST_PAD_SINK,
     GST_PAD_ALWAYS,
-    GST_STATIC_CAPS (GST_VIDEO_CAPS_RGBA ";" GST_VIDEO_CAPS_BGRA)
+    GST_STATIC_CAPS (GST_VIDEO_CAPS_MAKE ("{ RGBA, BGRA, ARGB, ABGR, AYUV }"))
     );
 
 static GstStaticPadTemplate src_template = GST_STATIC_PAD_TEMPLATE ("src",
     GST_PAD_SRC,
     GST_PAD_ALWAYS,
-    GST_STATIC_CAPS (GST_VIDEO_CAPS_YUV ("AYUV"))
+    GST_STATIC_CAPS (GST_VIDEO_CAPS_MAKE ("{ RGBA, BGRA, ARGB, ABGR, AYUV }"))
     );
 
-GST_BOILERPLATE (GstAlphaColor, gst_alpha_color, GstBaseTransform,
-    GST_TYPE_BASE_TRANSFORM);
+G_DEFINE_TYPE (GstAlphaColor, gst_alpha_color, GST_TYPE_VIDEO_FILTER);
 
 static GstCaps *gst_alpha_color_transform_caps (GstBaseTransform * btrans,
-    GstPadDirection direction, GstCaps * caps);
+    GstPadDirection direction, GstCaps * caps, GstCaps * filter);
 static gboolean gst_alpha_color_set_caps (GstBaseTransform * btrans,
     GstCaps * incaps, GstCaps * outcaps);
 static GstFlowReturn gst_alpha_color_transform_ip (GstBaseTransform * btrans,
     GstBuffer * inbuf);
 
 static void
-gst_alpha_color_base_init (gpointer g_class)
+gst_alpha_color_class_init (GstAlphaColorClass * klass)
 {
-  GstElementClass *element_class = GST_ELEMENT_CLASS (g_class);
+  GstElementClass *gstelement_class = (GstElementClass *) klass;
+  GstBaseTransformClass *gstbasetransform_class =
+      (GstBaseTransformClass *) klass;
+
+  GST_DEBUG_CATEGORY_INIT (alpha_color_debug, "alphacolor", 0,
+      "ARGB<->AYUV colorspace conversion preserving the alpha channels");
 
-  gst_element_class_set_details (element_class, &gst_alpha_color_details);
+  gst_element_class_set_details_simple (gstelement_class, "Alpha color filter",
+      "Filter/Converter/Video",
+      "ARGB from/to AYUV colorspace conversion preserving the alpha channel",
+      "Wim Taymans <wim.taymans@gmail.com>");
 
-  gst_element_class_add_pad_template (element_class,
+  gst_element_class_add_pad_template (gstelement_class,
       gst_static_pad_template_get (&sink_template));
-  gst_element_class_add_pad_template (element_class,
+  gst_element_class_add_pad_template (gstelement_class,
       gst_static_pad_template_get (&src_template));
-}
-
-static void
-gst_alpha_color_class_init (GstAlphaColorClass * klass)
-{
-  GObjectClass *gobject_class;
-  GstElementClass *gstelement_class;
-  GstBaseTransformClass *gstbasetransform_class;
-
-  gobject_class = (GObjectClass *) klass;
-  gstelement_class = (GstElementClass *) klass;
-  gstbasetransform_class = (GstBaseTransformClass *) klass;
 
   gstbasetransform_class->transform_caps =
       GST_DEBUG_FUNCPTR (gst_alpha_color_transform_caps);
@@ -97,43 +93,30 @@ gst_alpha_color_class_init (GstAlphaColorClass * klass)
       GST_DEBUG_FUNCPTR (gst_alpha_color_set_caps);
   gstbasetransform_class->transform_ip =
       GST_DEBUG_FUNCPTR (gst_alpha_color_transform_ip);
-
-  GST_DEBUG_CATEGORY_INIT (alpha_color_debug, "alphacolor", 0,
-      "RGB->YUV colorspace conversion preserving the alpha channels");
 }
 
 static void
-gst_alpha_color_init (GstAlphaColor * alpha, GstAlphaColorClass * g_class)
+gst_alpha_color_init (GstAlphaColor * alpha)
 {
-  GstBaseTransform *btrans = NULL;
-
-  btrans = GST_BASE_TRANSFORM (alpha);
+  GstBaseTransform *btrans = GST_BASE_TRANSFORM (alpha);
 
   btrans->always_in_place = TRUE;
 }
 
 static GstCaps *
 gst_alpha_color_transform_caps (GstBaseTransform * btrans,
-    GstPadDirection direction, GstCaps * caps)
+    GstPadDirection direction, GstCaps * caps, GstCaps * filter)
 {
-  GstAlphaColor *alpha = NULL;
   const GstCaps *tmpl_caps = NULL;
   GstCaps *result = NULL, *local_caps = NULL;
   guint i;
 
-  alpha = GST_ALPHA_COLOR (btrans);
+  local_caps = gst_caps_new_empty ();
 
-  local_caps = gst_caps_copy (caps);
+  for (i = 0; i < gst_caps_get_size (caps); i++) {
+    GstStructure *structure =
+        gst_structure_copy (gst_caps_get_structure (caps, i));
 
-  for (i = 0; i < gst_caps_get_size (local_caps); i++) {
-    GstStructure *structure = gst_caps_get_structure (local_caps, i);
-
-    /* Throw away the structure name and set it to transformed format */
-    if (direction == GST_PAD_SINK) {
-      gst_structure_set_name (structure, "video/x-raw-yuv");
-    } else if (direction == GST_PAD_SRC) {
-      gst_structure_set_name (structure, "video/x-raw-rgb");
-    }
     /* Remove any specific parameter from the structure */
     gst_structure_remove_field (structure, "format");
     gst_structure_remove_field (structure, "endianness");
@@ -143,6 +126,13 @@ gst_alpha_color_transform_caps (GstBaseTransform * btrans,
     gst_structure_remove_field (structure, "green_mask");
     gst_structure_remove_field (structure, "blue_mask");
     gst_structure_remove_field (structure, "alpha_mask");
+    gst_structure_remove_field (structure, "color-matrix");
+    gst_structure_remove_field (structure, "chroma-site");
+
+    gst_structure_set_name (structure, "video/x-raw-rgb");
+    gst_caps_append_structure (local_caps, gst_structure_copy (structure));
+    gst_structure_set_name (structure, "video/x-raw-yuv");
+    gst_caps_append_structure (local_caps, structure);
   }
 
   /* Get the appropriate template */
@@ -158,109 +148,579 @@ gst_alpha_color_transform_caps (GstBaseTransform * btrans,
   gst_caps_unref (local_caps);
   gst_caps_do_simplify (result);
 
-  GST_LOG ("transformed %" GST_PTR_FORMAT " to %" GST_PTR_FORMAT, caps, result);
+  GST_LOG_OBJECT (btrans, "transformed %" GST_PTR_FORMAT " to %" GST_PTR_FORMAT,
+      caps, result);
+
+  if (filter) {
+    GstCaps *intersection;
+
+    GST_DEBUG_OBJECT (btrans, "Using filter caps %" GST_PTR_FORMAT, filter);
+    intersection =
+        gst_caps_intersect_full (filter, result, GST_CAPS_INTERSECT_FIRST);
+    gst_caps_unref (result);
+    result = intersection;
+    GST_DEBUG_OBJECT (btrans, "Intersection %" GST_PTR_FORMAT, result);
+  }
+
 
   return result;
 }
 
-static gboolean
-gst_alpha_color_set_caps (GstBaseTransform * btrans, GstCaps * incaps,
-    GstCaps * outcaps)
+/* Generated by -bad/ext/cog/generate_tables */
+static const int cog_ycbcr_to_rgb_matrix_8bit_hdtv[] = {
+  298, 0, 459, -63514,
+  298, -55, -136, 19681,
+  298, 541, 0, -73988,
+};
+
+static const int cog_ycbcr_to_rgb_matrix_8bit_sdtv[] = {
+  298, 0, 409, -57068,
+  298, -100, -208, 34707,
+  298, 516, 0, -70870,
+};
+
+static const gint cog_rgb_to_ycbcr_matrix_8bit_hdtv[] = {
+  47, 157, 16, 4096,
+  -26, -87, 112, 32768,
+  112, -102, -10, 32768,
+};
+
+static const gint cog_rgb_to_ycbcr_matrix_8bit_sdtv[] = {
+  66, 129, 25, 4096,
+  -38, -74, 112, 32768,
+  112, -94, -18, 32768,
+};
+
+static const gint cog_ycbcr_sdtv_to_ycbcr_hdtv_matrix_8bit[] = {
+  256, -30, -53, 10600,
+  0, 261, 29, -4367,
+  0, 19, 262, -3289,
+};
+
+static const gint cog_ycbcr_hdtv_to_ycbcr_sdtv_matrix_8bit[] = {
+  256, 25, 49, -9536,
+  0, 253, -28, 3958,
+  0, -19, 252, 2918,
+};
+
+#define DEFINE_ARGB_AYUV_FUNCTIONS(name, A, R, G, B) \
+static void \
+transform_##name##_ayuv (GstVideoFrame * frame, const gint *matrix) \
+{ \
+  guint8 *data; \
+  gsize size; \
+  gint y, u, v; \
+  gint yc[4]; \
+  gint uc[4]; \
+  gint vc[4]; \
+  \
+  data = GST_VIDEO_FRAME_PLANE_DATA (frame, 0);\
+  size = GST_VIDEO_FRAME_SIZE (frame);\
+  \
+  memcpy (yc, matrix, 4 * sizeof (gint)); \
+  memcpy (uc, matrix + 4, 4 * sizeof (gint)); \
+  memcpy (vc, matrix + 8, 4 * sizeof (gint)); \
+  \
+  while (size > 0) { \
+    y = (data[R] * yc[0] + data[G] * yc[1] + data[B] * yc[2] + yc[3]) >> 8; \
+    u = (data[R] * uc[0] + data[G] * uc[1] + data[B] * uc[2] + uc[3]) >> 8; \
+    v = (data[R] * vc[0] + data[G] * vc[1] + data[B] * vc[2] + vc[3]) >> 8; \
+    \
+    data[0] = data[A]; \
+    data[1] = y; \
+    data[2] = u; \
+    data[3] = v; \
+    \
+    data += 4; \
+    size -= 4; \
+  } \
+} \
+\
+static void \
+transform_ayuv_##name (GstVideoFrame * frame, const gint *matrix) \
+{ \
+  guint8 *data; \
+  gsize size; \
+  gint r, g, b; \
+  gint rc[4]; \
+  gint gc[4]; \
+  gint bc[4]; \
+  \
+  data = GST_VIDEO_FRAME_PLANE_DATA (frame, 0);\
+  size = GST_VIDEO_FRAME_SIZE (frame);\
+  \
+  memcpy (rc, matrix, 4 * sizeof (gint)); \
+  memcpy (gc, matrix + 4, 4 * sizeof (gint)); \
+  memcpy (bc, matrix + 8, 4 * sizeof (gint)); \
+  \
+  while (size > 0) { \
+    r = (data[1] * rc[0] + data[2] * rc[1] + data[3] * rc[2] + rc[3]) >> 8; \
+    g = (data[1] * gc[0] + data[2] * gc[1] + data[3] * gc[2] + gc[3]) >> 8; \
+    b = (data[1] * bc[0] + data[2] * bc[1] + data[3] * bc[2] + bc[3]) >> 8; \
+    \
+    data[A] = data[0]; \
+    data[R] = CLAMP (r, 0, 255); \
+    data[G] = CLAMP (g, 0, 255); \
+    data[B] = CLAMP (b, 0, 255); \
+    \
+    data += 4; \
+    size -= 4; \
+  } \
+}
+
+DEFINE_ARGB_AYUV_FUNCTIONS (rgba, 3, 0, 1, 2);
+DEFINE_ARGB_AYUV_FUNCTIONS (bgra, 3, 2, 1, 0);
+DEFINE_ARGB_AYUV_FUNCTIONS (argb, 0, 1, 2, 3);
+DEFINE_ARGB_AYUV_FUNCTIONS (abgr, 0, 3, 2, 1);
+
+static void
+transform_ayuv_ayuv (GstVideoFrame * frame, const gint * matrix)
 {
-  GstAlphaColor *alpha;
-  GstStructure *structure;
-  gboolean ret;
-  const GValue *fps;
-  gint red_mask, alpha_mask;
-  gint w, h, depth, bpp;
-
-  alpha = GST_ALPHA_COLOR (btrans);
-  structure = gst_caps_get_structure (incaps, 0);
-
-  ret = gst_structure_get_int (structure, "width", &w);
-  ret &= gst_structure_get_int (structure, "height", &h);
-  fps = gst_structure_get_value (structure, "framerate");
-  ret &= (fps != NULL && GST_VALUE_HOLDS_FRACTION (fps));
-  ret &= gst_structure_get_int (structure, "red_mask", &red_mask);
-
-  /* make sure these are really full RGBA caps */
-  ret &= gst_structure_get_int (structure, "alpha_mask", &alpha_mask);
-  ret &= gst_structure_get_int (structure, "depth", &depth);
-  ret &= gst_structure_get_int (structure, "bpp", &bpp);
-
-  if (!ret || alpha_mask == 0 || red_mask == 0 || depth != 32 || bpp != 32) {
-    GST_DEBUG_OBJECT (alpha, "incomplete or non-RGBA input caps!");
-    return FALSE;
+  guint8 *data;
+  gsize size;
+  gint y, u, v;
+  gint yc[4];
+  gint uc[4];
+  gint vc[4];
+
+  if (matrix == NULL)
+    return;
+
+  data = GST_VIDEO_FRAME_PLANE_DATA (frame, 0);
+  size = GST_VIDEO_FRAME_SIZE (frame);
+
+  memcpy (yc, matrix, 4 * sizeof (gint));
+  memcpy (uc, matrix + 4, 4 * sizeof (gint));
+  memcpy (vc, matrix + 8, 4 * sizeof (gint));
+
+  while (size > 0) {
+    y = (data[1] * yc[0] + data[2] * yc[1] + data[3] * yc[2] + yc[3]) >> 8;
+    u = (data[1] * uc[0] + data[2] * uc[1] + data[3] * uc[2] + uc[3]) >> 8;
+    v = (data[1] * vc[0] + data[2] * vc[1] + data[3] * vc[2] + vc[3]) >> 8;
+
+    data[0] = data[0];
+    data[1] = y;
+    data[2] = u;
+    data[3] = v;
+
+    data += 4;
+    size -= 4;
   }
+}
 
-  alpha->in_width = w;
-  alpha->in_height = h;
-  alpha->in_rgba = TRUE;
-#if (G_BYTE_ORDER == G_BIG_ENDIAN)
-  if (red_mask != 0x000000ff)
-#else
-  if (red_mask != 0xff000000)
-#endif
-    alpha->in_rgba = FALSE;
+static void
+transform_argb_bgra (GstVideoFrame * frame, const gint * matrix)
+{
+  guint8 *data;
+  gsize size;
+  gint r, g, b;
 
-  return TRUE;
+  data = GST_VIDEO_FRAME_PLANE_DATA (frame, 0);
+  size = GST_VIDEO_FRAME_SIZE (frame);
+
+  while (size > 0) {
+    r = data[1];
+    g = data[2];
+    b = data[3];
+
+    data[3] = data[0];
+    data[0] = b;
+    data[1] = g;
+    data[2] = r;
+
+    data += 4;
+    size -= 4;
+  }
 }
 
+#define transform_abgr_rgba transform_argb_bgra
+
 static void
-transform_rgb (guint8 * data, gint size)
+transform_argb_abgr (GstVideoFrame * frame, const gint * matrix)
 {
-  guint8 y, u, v;
+  guint8 *data;
+  gsize size;
+  gint r, g, b;
+
+  data = GST_VIDEO_FRAME_PLANE_DATA (frame, 0);
+  size = GST_VIDEO_FRAME_SIZE (frame);
 
   while (size > 0) {
-    y = data[0] * 0.299 + data[1] * 0.587 + data[2] * 0.114 + 0;
-    u = data[0] * -0.169 + data[1] * -0.332 + data[2] * 0.500 + 128;
-    v = data[0] * 0.500 + data[1] * -0.419 + data[2] * -0.0813 + 128;
+    r = data[1];
+    g = data[2];
+    b = data[3];
+
+    /* data[0] = data[0]; */
+    data[1] = b;
+    data[2] = g;
+    data[3] = r;
+
+    data += 4;
+    size -= 4;
+  }
+}
+
+#define transform_abgr_argb transform_argb_abgr
+
+static void
+transform_rgba_bgra (GstVideoFrame * frame, const gint * matrix)
+{
+  guint8 *data;
+  gsize size;
+  gint r, g, b;
+
+  data = GST_VIDEO_FRAME_PLANE_DATA (frame, 0);
+  size = GST_VIDEO_FRAME_SIZE (frame);
+
+  while (size > 0) {
+    r = data[0];
+    g = data[1];
+    b = data[2];
+
+    /* data[3] = data[3] */ ;
+    data[0] = b;
+    data[1] = g;
+    data[2] = r;
+
+    data += 4;
+    size -= 4;
+  }
+}
+
+#define transform_bgra_rgba transform_rgba_bgra
+
+static void
+transform_argb_rgba (GstVideoFrame * frame, const gint * matrix)
+{
+  guint8 *data;
+  gsize size;
+  gint r, g, b;
+
+  data = GST_VIDEO_FRAME_PLANE_DATA (frame, 0);
+  size = GST_VIDEO_FRAME_SIZE (frame);
+
+  while (size > 0) {
+    r = data[1];
+    g = data[2];
+    b = data[3];
+
+    data[3] = data[0];
+    data[0] = r;
+    data[1] = g;
+    data[2] = b;
+
+    data += 4;
+    size -= 4;
+  }
+}
+
+#define transform_abgr_bgra transform_argb_rgba
+
+static void
+transform_bgra_argb (GstVideoFrame * frame, const gint * matrix)
+{
+  guint8 *data;
+  gsize size;
+  gint r, g, b;
+
+  data = GST_VIDEO_FRAME_PLANE_DATA (frame, 0);
+  size = GST_VIDEO_FRAME_SIZE (frame);
+
+  while (size > 0) {
+    r = data[2];
+    g = data[1];
+    b = data[0];
 
     data[0] = data[3];
-    data[1] = y;
-    data[2] = u;
-    data[3] = v;
+    data[1] = r;
+    data[2] = g;
+    data[3] = b;
 
     data += 4;
     size -= 4;
   }
 }
 
+#define transform_rgba_abgr transform_bgra_argb
+
 static void
-transform_bgr (guint8 * data, gint size)
+transform_rgba_argb (GstVideoFrame * frame, const gint * matrix)
 {
-  guint8 y, u, v;
+  guint8 *data;
+  gsize size;
+  gint r, g, b;
+
+  data = GST_VIDEO_FRAME_PLANE_DATA (frame, 0);
+  size = GST_VIDEO_FRAME_SIZE (frame);
 
   while (size > 0) {
-    y = data[2] * 0.299 + data[1] * 0.587 + data[0] * 0.114 + 0;
-    u = data[2] * -0.169 + data[1] * -0.332 + data[0] * 0.500 + 128;
-    v = data[2] * 0.500 + data[1] * -0.419 + data[0] * -0.0813 + 128;
+    r = data[0];
+    g = data[1];
+    b = data[2];
 
     data[0] = data[3];
-    data[1] = y;
-    data[2] = u;
-    data[3] = v;
+    data[1] = r;
+    data[2] = g;
+    data[3] = b;
 
     data += 4;
     size -= 4;
   }
 }
 
+#define transform_bgra_abgr transform_rgba_argb
+
+static gboolean
+gst_alpha_color_set_caps (GstBaseTransform * btrans, GstCaps * incaps,
+    GstCaps * outcaps)
+{
+  GstAlphaColor *alpha = GST_ALPHA_COLOR (btrans);
+  gboolean ret;
+  GstVideoInfo in_info, out_info;
+  gboolean in_sdtv, out_sdtv;
+
+  alpha->process = NULL;
+  alpha->matrix = NULL;
+
+  ret = gst_video_info_from_caps (&in_info, incaps);
+  ret &= gst_video_info_from_caps (&out_info, outcaps);
+  if (!ret)
+    goto invalid_caps;
+
+  if (GST_VIDEO_INFO_WIDTH (&in_info) != GST_VIDEO_INFO_WIDTH (&out_info) ||
+      GST_VIDEO_INFO_HEIGHT (&in_info) != GST_VIDEO_INFO_HEIGHT (&out_info))
+    goto invalid_caps;
+
+  in_sdtv =
+      in_info.color_matrix ? g_str_equal (in_info.color_matrix, "sdtv") : TRUE;
+  out_sdtv =
+      out_info.color_matrix ? g_str_equal (out_info.color_matrix,
+      "sdtv") : TRUE;
+
+  switch (GST_VIDEO_INFO_FORMAT (&in_info)) {
+    case GST_VIDEO_FORMAT_ARGB:
+      switch (GST_VIDEO_INFO_FORMAT (&out_info)) {
+        case GST_VIDEO_FORMAT_ARGB:
+          alpha->process = NULL;
+          alpha->matrix = NULL;
+          break;
+        case GST_VIDEO_FORMAT_BGRA:
+          alpha->process = transform_argb_bgra;
+          alpha->matrix = NULL;
+          break;
+        case GST_VIDEO_FORMAT_ABGR:
+          alpha->process = transform_argb_abgr;
+          alpha->matrix = NULL;
+          break;
+        case GST_VIDEO_FORMAT_RGBA:
+          alpha->process = transform_argb_rgba;
+          alpha->matrix = NULL;
+          break;
+        case GST_VIDEO_FORMAT_AYUV:
+          alpha->process = transform_argb_ayuv;
+          alpha->matrix =
+              out_sdtv ? cog_rgb_to_ycbcr_matrix_8bit_sdtv :
+              cog_rgb_to_ycbcr_matrix_8bit_hdtv;
+          break;
+        default:
+          alpha->process = NULL;
+          alpha->matrix = NULL;
+          break;
+      }
+      break;
+    case GST_VIDEO_FORMAT_BGRA:
+      switch (GST_VIDEO_INFO_FORMAT (&out_info)) {
+        case GST_VIDEO_FORMAT_BGRA:
+          alpha->process = NULL;
+          alpha->matrix = NULL;
+          break;
+        case GST_VIDEO_FORMAT_ARGB:
+          alpha->process = transform_bgra_argb;
+          alpha->matrix = NULL;
+          break;
+        case GST_VIDEO_FORMAT_ABGR:
+          alpha->process = transform_bgra_abgr;
+          alpha->matrix = NULL;
+          break;
+        case GST_VIDEO_FORMAT_RGBA:
+          alpha->process = transform_bgra_rgba;
+          alpha->matrix = NULL;
+          break;
+        case GST_VIDEO_FORMAT_AYUV:
+          alpha->process = transform_bgra_ayuv;
+          alpha->matrix =
+              out_sdtv ? cog_rgb_to_ycbcr_matrix_8bit_sdtv :
+              cog_rgb_to_ycbcr_matrix_8bit_hdtv;
+          break;
+        default:
+          alpha->process = NULL;
+          alpha->matrix = NULL;
+          break;
+      }
+      break;
+    case GST_VIDEO_FORMAT_ABGR:
+      switch (GST_VIDEO_INFO_FORMAT (&out_info)) {
+        case GST_VIDEO_FORMAT_ABGR:
+          alpha->process = NULL;
+          alpha->matrix = NULL;
+          break;
+        case GST_VIDEO_FORMAT_RGBA:
+          alpha->process = transform_abgr_rgba;
+          alpha->matrix = NULL;
+          break;
+        case GST_VIDEO_FORMAT_ARGB:
+          alpha->process = transform_abgr_argb;
+          alpha->matrix = NULL;
+          break;
+        case GST_VIDEO_FORMAT_BGRA:
+          alpha->process = transform_abgr_bgra;
+          alpha->matrix = NULL;
+          break;
+        case GST_VIDEO_FORMAT_AYUV:
+          alpha->process = transform_abgr_ayuv;
+          alpha->matrix =
+              out_sdtv ? cog_rgb_to_ycbcr_matrix_8bit_sdtv :
+              cog_rgb_to_ycbcr_matrix_8bit_hdtv;
+          break;
+        default:
+          alpha->process = NULL;
+          alpha->matrix = NULL;
+          break;
+      }
+      break;
+    case GST_VIDEO_FORMAT_RGBA:
+      switch (GST_VIDEO_INFO_FORMAT (&out_info)) {
+        case GST_VIDEO_FORMAT_RGBA:
+          alpha->process = NULL;
+          alpha->matrix = NULL;
+          break;
+        case GST_VIDEO_FORMAT_ARGB:
+          alpha->process = transform_rgba_argb;
+          alpha->matrix = NULL;
+          break;
+        case GST_VIDEO_FORMAT_ABGR:
+          alpha->process = transform_rgba_abgr;
+          alpha->matrix = NULL;
+          break;
+        case GST_VIDEO_FORMAT_BGRA:
+          alpha->process = transform_rgba_bgra;
+          alpha->matrix = NULL;
+          break;
+        case GST_VIDEO_FORMAT_AYUV:
+          alpha->process = transform_rgba_ayuv;
+          alpha->matrix =
+              out_sdtv ? cog_rgb_to_ycbcr_matrix_8bit_sdtv :
+              cog_rgb_to_ycbcr_matrix_8bit_hdtv;
+          break;
+        default:
+          alpha->process = NULL;
+          alpha->matrix = NULL;
+          break;
+      }
+      break;
+    case GST_VIDEO_FORMAT_AYUV:
+      switch (GST_VIDEO_INFO_FORMAT (&out_info)) {
+        case GST_VIDEO_FORMAT_AYUV:
+          if (in_sdtv == out_sdtv) {
+            alpha->process = transform_ayuv_ayuv;
+            alpha->matrix = NULL;
+          } else {
+            alpha->process = transform_ayuv_ayuv;
+            alpha->matrix =
+                out_sdtv ? cog_ycbcr_hdtv_to_ycbcr_sdtv_matrix_8bit :
+                cog_ycbcr_sdtv_to_ycbcr_hdtv_matrix_8bit;
+          }
+          break;
+        case GST_VIDEO_FORMAT_ARGB:
+          alpha->process = transform_ayuv_argb;
+          alpha->matrix =
+              in_sdtv ? cog_ycbcr_to_rgb_matrix_8bit_sdtv :
+              cog_ycbcr_to_rgb_matrix_8bit_hdtv;
+          break;
+        case GST_VIDEO_FORMAT_BGRA:
+          alpha->process = transform_ayuv_bgra;
+          alpha->matrix =
+              in_sdtv ? cog_ycbcr_to_rgb_matrix_8bit_sdtv :
+              cog_ycbcr_to_rgb_matrix_8bit_hdtv;
+          break;
+        case GST_VIDEO_FORMAT_ABGR:
+          alpha->process = transform_ayuv_abgr;
+          alpha->matrix =
+              in_sdtv ? cog_ycbcr_to_rgb_matrix_8bit_sdtv :
+              cog_ycbcr_to_rgb_matrix_8bit_hdtv;
+          break;
+        case GST_VIDEO_FORMAT_RGBA:
+          alpha->process = transform_ayuv_rgba;
+          alpha->matrix =
+              in_sdtv ? cog_ycbcr_to_rgb_matrix_8bit_sdtv :
+              cog_ycbcr_to_rgb_matrix_8bit_hdtv;
+          break;
+        default:
+          alpha->process = NULL;
+          alpha->matrix = NULL;
+          break;
+      }
+      break;
+    default:
+      alpha->process = NULL;
+      alpha->matrix = NULL;
+      break;
+  }
+
+  if (GST_VIDEO_INFO_FORMAT (&in_info) == GST_VIDEO_INFO_FORMAT (&out_info)
+      && in_sdtv == out_sdtv)
+    gst_base_transform_set_passthrough (btrans, TRUE);
+  else if (!alpha->process)
+    goto no_process;
+
+  return TRUE;
+
+  /* ERRORS */
+invalid_caps:
+  {
+    GST_DEBUG_OBJECT (alpha, "incomplete or invalid caps");
+    return FALSE;
+  }
+no_process:
+  {
+    GST_DEBUG_OBJECT (alpha, "could not find process function");
+    return FALSE;
+  }
+}
+
 static GstFlowReturn
 gst_alpha_color_transform_ip (GstBaseTransform * btrans, GstBuffer * inbuf)
 {
-  GstFlowReturn ret = GST_FLOW_OK;
-  GstAlphaColor *alpha;
+  GstAlphaColor *alpha = GST_ALPHA_COLOR (btrans);
+  GstVideoFrame frame;
+
+  if (gst_base_transform_is_passthrough (btrans))
+    return GST_FLOW_OK;
 
-  alpha = GST_ALPHA_COLOR (btrans);
+  if (G_UNLIKELY (!alpha->process))
+    goto not_negotiated;
+
+  if (!gst_video_frame_map (&frame, &alpha->in_info, inbuf, GST_MAP_READWRITE))
+    goto invalid_buffer;
 
   /* Transform in place */
-  if (alpha->in_rgba)
-    transform_rgb (GST_BUFFER_DATA (inbuf), GST_BUFFER_SIZE (inbuf));
-  else
-    transform_bgr (GST_BUFFER_DATA (inbuf), GST_BUFFER_SIZE (inbuf));
+  alpha->process (&frame, alpha->matrix);
+
+  gst_video_frame_unmap (&frame);
 
-  return ret;
+  return GST_FLOW_OK;
+
+  /* ERRORS */
+not_negotiated:
+  {
+    GST_ERROR_OBJECT (alpha, "Not negotiated yet");
+    return GST_FLOW_NOT_NEGOTIATED;
+  }
+invalid_buffer:
+  {
+    GST_ERROR_OBJECT (alpha, "Invalid buffer received");
+    return GST_FLOW_ERROR;
+  }
 }
 
 static gboolean
@@ -273,5 +733,5 @@ plugin_init (GstPlugin * plugin)
 GST_PLUGIN_DEFINE (GST_VERSION_MAJOR,
     GST_VERSION_MINOR,
     "alphacolor",
-    "RGBA to AYUV colorspace conversion preserving the alpha channel",
+    "RGBA from/to AYUV colorspace conversion preserving the alpha channel",
     plugin_init, VERSION, GST_LICENSE, GST_PACKAGE_NAME, GST_PACKAGE_ORIGIN)