ext/libav/gstavcodecmap.c

   1 /* GStreamer
   2  * Copyright (C) <1999> Erik Walthinsen <omega@cse.ogi.edu>
   3  * This file:
   4  * Copyright (c) 2002-2004 Ronald Bultje <rbultje@ronald.bitfreak.net>
   5  *
   6  * This library is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU Library General Public
   8  * License as published by the Free Software Foundation; either
   9  * version 2 of the License, or (at your option) any later version.
  10  *
  11  * This library is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14  * Library General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU Library General Public
  17  * License along with this library; if not, write to the
  18  * Free Software Foundation, Inc., 51 Franklin St, Fifth Floor,
  19  * Boston, MA 02110-1301, USA.
  20  */
  21
  22 #ifdef HAVE_CONFIG_H
  23 #include "config.h"
  24 #endif
  25
  26 #include <string.h>
  27
  28 #include <gst/gst.h>
  29 #include <libavcodec/avcodec.h>
  30 #include <libavutil/channel_layout.h>
  31
  32 #include "gstav.h"
  33 #include "gstavcodecmap.h"
  34
  35 #include <gst/video/video.h>
  36 #include <gst/audio/audio.h>
  37 #include <gst/pbutils/codec-utils.h>
  38
  39 /* IMPORTANT: Keep this sorted by the ffmpeg channel masks */
  40 static const struct
  41 {
  42   guint64 ff;
  43   GstAudioChannelPosition gst;
  44 } _ff_to_gst_layout[] = {
  45   {
  46   AV_CH_FRONT_LEFT, GST_AUDIO_CHANNEL_POSITION_FRONT_LEFT}, {
  47   AV_CH_FRONT_RIGHT, GST_AUDIO_CHANNEL_POSITION_FRONT_RIGHT}, {
  48   AV_CH_FRONT_CENTER, GST_AUDIO_CHANNEL_POSITION_FRONT_CENTER}, {
  49   AV_CH_LOW_FREQUENCY, GST_AUDIO_CHANNEL_POSITION_LFE1}, {
  50   AV_CH_BACK_LEFT, GST_AUDIO_CHANNEL_POSITION_REAR_LEFT}, {
  51   AV_CH_BACK_RIGHT, GST_AUDIO_CHANNEL_POSITION_REAR_RIGHT}, {
  52   AV_CH_FRONT_LEFT_OF_CENTER, GST_AUDIO_CHANNEL_POSITION_FRONT_LEFT_OF_CENTER}, {
  53   AV_CH_FRONT_RIGHT_OF_CENTER,
  54         GST_AUDIO_CHANNEL_POSITION_FRONT_RIGHT_OF_CENTER}, {
  55   AV_CH_BACK_CENTER, GST_AUDIO_CHANNEL_POSITION_REAR_CENTER}, {
  56   AV_CH_SIDE_LEFT, GST_AUDIO_CHANNEL_POSITION_SIDE_LEFT}, {
  57   AV_CH_SIDE_RIGHT, GST_AUDIO_CHANNEL_POSITION_SIDE_RIGHT}, {
  58   AV_CH_TOP_CENTER, GST_AUDIO_CHANNEL_POSITION_TOP_CENTER}, {
  59   AV_CH_TOP_FRONT_LEFT, GST_AUDIO_CHANNEL_POSITION_TOP_FRONT_LEFT}, {
  60   AV_CH_TOP_FRONT_CENTER, GST_AUDIO_CHANNEL_POSITION_TOP_FRONT_CENTER}, {
  61   AV_CH_TOP_FRONT_RIGHT, GST_AUDIO_CHANNEL_POSITION_TOP_FRONT_RIGHT}, {
  62   AV_CH_TOP_BACK_LEFT, GST_AUDIO_CHANNEL_POSITION_TOP_REAR_LEFT}, {
  63   AV_CH_TOP_BACK_CENTER, GST_AUDIO_CHANNEL_POSITION_TOP_REAR_CENTER}, {
  64   AV_CH_TOP_BACK_RIGHT, GST_AUDIO_CHANNEL_POSITION_TOP_REAR_RIGHT}, {
  65   AV_CH_STEREO_LEFT, GST_AUDIO_CHANNEL_POSITION_FRONT_LEFT}, {
  66   AV_CH_STEREO_RIGHT, GST_AUDIO_CHANNEL_POSITION_FRONT_RIGHT}
  67 };
  68
  69 GType
  70 gst_ffmpeg_compliance_get_type (void)
  71 {
  72   static GType ffmpeg_compliance_type = 0;
  73   static const GEnumValue compliance_types[] = {
  74     {GST_FFMPEG_VERY_STRICT, "Strictly conform to older spec",
  75         "verystrict"},
  76     {GST_FFMPEG_STRICT, "Strictly conform to current spec", "strict"},
  77     {GST_FFMPEG_NORMAL, "Normal behavior", "normal"},
  78     {GST_FFMPEG_UNOFFICIAL, "Allow unofficial extensions", "unofficial"},
  79     {GST_FFMPEG_EXPERIMENTAL, "Allow nonstandardized experimental things",
  80         "experimental"},
  81     {0, NULL, NULL}
  82   };
  83
  84   if (!ffmpeg_compliance_type) {
  85     ffmpeg_compliance_type =
  86         g_enum_register_static ("GstFFMpegCompliance", compliance_types);
  87   }
  88   return ffmpeg_compliance_type;
  89 }
  90
  91 static guint64
  92 gst_ffmpeg_channel_positions_to_layout (GstAudioChannelPosition * pos,
  93     gint channels)
  94 {
  95   gint i, j;
  96   guint64 ret = 0;
  97   gint channels_found = 0;
  98
  99   if (!pos)
 100     return 0;
 101
 102   if (channels == 1 && pos[0] == GST_AUDIO_CHANNEL_POSITION_MONO)
 103     return AV_CH_LAYOUT_MONO;
 104
 105   for (i = 0; i < channels; i++) {
 106     for (j = 0; j < G_N_ELEMENTS (_ff_to_gst_layout); j++) {
 107       if (_ff_to_gst_layout[j].gst == pos[i]) {
 108         ret |= _ff_to_gst_layout[j].ff;
 109         channels_found++;
 110         break;
 111       }
 112     }
 113   }
 114
 115   if (channels_found != channels)
 116     return 0;
 117   return ret;
 118 }
 119
 120 gboolean
 121 gst_ffmpeg_channel_layout_to_gst (guint64 channel_layout, gint channels,
 122     GstAudioChannelPosition * pos)
 123 {
 124   guint nchannels = 0;
 125   gboolean none_layout = FALSE;
 126
 127   if (channel_layout == 0) {
 128     nchannels = channels;
 129     none_layout = TRUE;
 130   } else {
 131     guint i, j;
 132
 133     /* Special path for mono, as AV_CH_LAYOUT_MONO is the same
 134      * as FRONT_CENTER but we distinguish between the two in
 135      * GStreamer
 136      */
 137     if (channels == 1 && channel_layout == AV_CH_LAYOUT_MONO) {
 138       pos[0] = GST_AUDIO_CHANNEL_POSITION_MONO;
 139       return TRUE;
 140     }
 141
 142     for (i = 0; i < 64; i++) {
 143       if ((channel_layout & (G_GUINT64_CONSTANT (1) << i)) != 0) {
 144         nchannels++;
 145       }
 146     }
 147
 148     if (nchannels != channels) {
 149       GST_ERROR ("Number of channels is different (%u != %u)", channels,
 150           nchannels);
 151       nchannels = channels;
 152       none_layout = TRUE;
 153     } else {
 154
 155       for (i = 0, j = 0; i < G_N_ELEMENTS (_ff_to_gst_layout); i++) {
 156         if ((channel_layout & _ff_to_gst_layout[i].ff) != 0) {
 157           pos[j++] = _ff_to_gst_layout[i].gst;
 158
 159           if (_ff_to_gst_layout[i].gst == GST_AUDIO_CHANNEL_POSITION_NONE)
 160             none_layout = TRUE;
 161         }
 162       }
 163
 164       if (j != nchannels) {
 165         GST_WARNING
 166             ("Unknown channels in channel layout - assuming NONE layout");
 167         none_layout = TRUE;
 168       }
 169     }
 170   }
 171
 172   if (!none_layout
 173       && !gst_audio_check_valid_channel_positions (pos, nchannels, FALSE)) {
 174     GST_ERROR ("Invalid channel layout %" G_GUINT64_FORMAT
 175         " - assuming NONE layout", channel_layout);
 176     none_layout = TRUE;
 177   }
 178
 179   if (none_layout) {
 180     if (nchannels == 1) {
 181       pos[0] = GST_AUDIO_CHANNEL_POSITION_MONO;
 182     } else if (nchannels == 2) {
 183       pos[0] = GST_AUDIO_CHANNEL_POSITION_FRONT_LEFT;
 184       pos[1] = GST_AUDIO_CHANNEL_POSITION_FRONT_RIGHT;
 185     } else {
 186       guint i;
 187
 188       for (i = 0; i < nchannels; i++)
 189         pos[i] = GST_AUDIO_CHANNEL_POSITION_NONE;
 190     }
 191   }
 192
 193   return TRUE;
 194 }
 195
 196 static gboolean
 197 _gst_value_list_contains (const GValue * list, const GValue * value)
 198 {
 199   guint i, n;
 200   const GValue *tmp;
 201
 202   n = gst_value_list_get_size (list);
 203   for (i = 0; i < n; i++) {
 204     tmp = gst_value_list_get_value (list, i);
 205     if (gst_value_compare (value, tmp) == GST_VALUE_EQUAL)
 206       return TRUE;
 207   }
 208
 209   return FALSE;
 210 }
 211
 212 static void
 213 gst_ffmpeg_video_set_pix_fmts (GstCaps * caps, const enum AVPixelFormat *fmts)
 214 {
 215   GValue va = { 0, };
 216   GValue v = { 0, };
 217   GstVideoFormat format;
 218
 219   if (!fmts || fmts[0] == -1) {
 220     gint i;
 221
 222     g_value_init (&va, GST_TYPE_LIST);
 223     g_value_init (&v, G_TYPE_STRING);
 224     for (i = 0; i <= AV_PIX_FMT_NB; i++) {
 225       format = gst_ffmpeg_pixfmt_to_videoformat (i);
 226       if (format == GST_VIDEO_FORMAT_UNKNOWN)
 227         continue;
 228       g_value_set_string (&v, gst_video_format_to_string (format));
 229       gst_value_list_append_value (&va, &v);
 230     }
 231     gst_caps_set_value (caps, "format", &va);
 232     g_value_unset (&v);
 233     g_value_unset (&va);
 234     return;
 235   }
 236
 237   /* Only a single format */
 238   g_value_init (&va, GST_TYPE_LIST);
 239   g_value_init (&v, G_TYPE_STRING);
 240   while (*fmts != -1) {
 241     format = gst_ffmpeg_pixfmt_to_videoformat (*fmts);
 242     if (format != GST_VIDEO_FORMAT_UNKNOWN) {
 243       g_value_set_string (&v, gst_video_format_to_string (format));
 244       /* Only append values we don't have yet */
 245       if (!_gst_value_list_contains (&va, &v))
 246         gst_value_list_append_value (&va, &v);
 247     }
 248     fmts++;
 249   }
 250   if (gst_value_list_get_size (&va) == 1) {
 251     /* The single value is still in v */
 252     gst_caps_set_value (caps, "format", &v);
 253   } else if (gst_value_list_get_size (&va) > 1) {
 254     gst_caps_set_value (caps, "format", &va);
 255   }
 256   g_value_unset (&v);
 257   g_value_unset (&va);
 258 }
 259
 260 /* this macro makes a caps width fixed or unfixed width/height
 261  * properties depending on whether we've got a context.
 262  *
 263  * See below for why we use this.
 264  *
 265  * We should actually do this stuff at the end, like in riff-media.c,
 266  * but I'm too lazy today. Maybe later.
 267  */
 268 static GstCaps *
 269 gst_ff_vid_caps_new (AVCodecContext * context, AVCodec * codec,
 270     enum AVCodecID codec_id, gboolean encode, const char *mimetype,
 271     const char *fieldname, ...)
 272 {
 273   GstCaps *caps = NULL;
 274   va_list var_args;
 275   gint i;
 276
 277   GST_LOG ("context:%p, codec_id:%d, mimetype:%s", context, codec_id, mimetype);
 278
 279   /* fixed, non probing context */
 280   if (context != NULL && context->width != -1) {
 281     gint num, denom;
 282
 283     caps = gst_caps_new_simple (mimetype,
 284         "width", G_TYPE_INT, context->width,
 285         "height", G_TYPE_INT, context->height, NULL);
 286
 287     num = context->time_base.den / context->ticks_per_frame;
 288     denom = context->time_base.num;
 289
 290     if (!denom) {
 291       GST_LOG ("invalid framerate: %d/0, -> %d/1", num, num);
 292       denom = 1;
 293     }
 294     if (gst_util_fraction_compare (num, denom, 1000, 1) > 0) {
 295       GST_LOG ("excessive framerate: %d/%d, -> 0/1", num, denom);
 296       num = 0;
 297       denom = 1;
 298     }
 299     GST_LOG ("setting framerate: %d/%d", num, denom);
 300     gst_caps_set_simple (caps,
 301         "framerate", GST_TYPE_FRACTION, num, denom, NULL);
 302   } else if (encode) {
 303     /* so we are after restricted caps in this case */
 304     switch (codec_id) {
 305       case AV_CODEC_ID_H261:
 306       {
 307         caps = gst_caps_new_simple (mimetype,
 308             "width", G_TYPE_INT, 352,
 309             "height", G_TYPE_INT, 288,
 310             "framerate", GST_TYPE_FRACTION_RANGE, 0, 1, G_MAXINT, 1, NULL);
 311         gst_caps_append (caps, gst_caps_new_simple (mimetype,
 312                 "width", G_TYPE_INT, 176,
 313                 "height", G_TYPE_INT, 144,
 314                 "framerate", GST_TYPE_FRACTION_RANGE, 0, 1, G_MAXINT, 1, NULL));
 315         break;
 316       }
 317       case AV_CODEC_ID_H263:
 318       {
 319         /* 128x96, 176x144, 352x288, 704x576, and 1408x1152. slightly reordered
 320          * because we want automatic negotiation to go as close to 320x240 as
 321          * possible. */
 322         const static gint widths[] = { 352, 704, 176, 1408, 128 };
 323         const static gint heights[] = { 288, 576, 144, 1152, 96 };
 324         GstCaps *temp;
 325         gint n_sizes = G_N_ELEMENTS (widths);
 326
 327         caps = gst_caps_new_empty ();
 328         for (i = 0; i < n_sizes; i++) {
 329           temp = gst_caps_new_simple (mimetype,
 330               "width", G_TYPE_INT, widths[i],
 331               "height", G_TYPE_INT, heights[i],
 332               "framerate", GST_TYPE_FRACTION_RANGE, 0, 1, G_MAXINT, 1, NULL);
 333
 334           gst_caps_append (caps, temp);
 335         }
 336         break;
 337       }
 338       case AV_CODEC_ID_DVVIDEO:
 339       {
 340         static struct
 341         {
 342           const gchar *csp;
 343           gint width, height;
 344           gint par_n, par_d;
 345           gint framerate_n, framerate_d;
 346         } profiles[] = {
 347           {
 348           "Y41B", 720, 480, 8, 9, 30000, 1001}, {
 349           "Y41B", 720, 480, 32, 27, 30000, 1001}, {
 350           "Y42B", 720, 480, 8, 9, 30000, 1001}, {
 351           "Y42B", 720, 480, 32, 27, 30000, 1001}, {
 352           "I420", 720, 576, 16, 15, 25, 1}, {
 353           "I420", 720, 576, 64, 45, 25, 1}, {
 354           "Y41B", 720, 576, 16, 15, 25, 1}, {
 355           "Y41B", 720, 576, 64, 45, 25, 1}, {
 356           "Y42B", 720, 576, 16, 15, 25, 1}, {
 357           "Y42B", 720, 576, 64, 45, 25, 1}, {
 358           "Y42B", 1280, 1080, 1, 1, 30000, 1001}, {
 359           "Y42B", 1280, 1080, 3, 2, 30000, 1001}, {
 360           "Y42B", 1440, 1080, 1, 1, 25, 1}, {
 361           "Y42B", 1440, 1080, 4, 3, 25, 1}, {
 362           "Y42B", 960, 720, 1, 1, 60000, 1001}, {
 363           "Y42B", 960, 720, 4, 3, 60000, 1001}, {
 364           "Y42B", 960, 720, 1, 1, 50, 1}, {
 365         "Y42B", 960, 720, 4, 3, 50, 1},};
 366         GstCaps *temp;
 367         gint n_sizes = G_N_ELEMENTS (profiles);
 368
 369         if (strcmp (mimetype, "video/x-raw") == 0) {
 370           caps = gst_caps_new_empty ();
 371           for (i = 0; i < n_sizes; i++) {
 372             temp = gst_caps_new_simple (mimetype,
 373                 "format", G_TYPE_STRING, profiles[i].csp,
 374                 "width", G_TYPE_INT, profiles[i].width,
 375                 "height", G_TYPE_INT, profiles[i].height,
 376                 "framerate", GST_TYPE_FRACTION, profiles[i].framerate_n,
 377                 profiles[i].framerate_d, "pixel-aspect-ratio",
 378                 GST_TYPE_FRACTION, profiles[i].par_n, profiles[i].par_d, NULL);
 379
 380             gst_caps_append (caps, temp);
 381           }
 382         } else {
 383           caps = gst_caps_new_empty ();
 384           for (i = 0; i < n_sizes; i++) {
 385             temp = gst_caps_new_simple (mimetype,
 386                 "width", G_TYPE_INT, profiles[i].width,
 387                 "height", G_TYPE_INT, profiles[i].height,
 388                 "framerate", GST_TYPE_FRACTION, profiles[i].framerate_n,
 389                 profiles[i].framerate_d, "pixel-aspect-ratio",
 390                 GST_TYPE_FRACTION, profiles[i].par_n, profiles[i].par_d, NULL);
 391
 392             gst_caps_append (caps, temp);
 393           }
 394         }
 395         break;
 396       }
 397       case AV_CODEC_ID_DNXHD:
 398       {
 399         caps = gst_caps_new_simple (mimetype,
 400             "width", G_TYPE_INT, 1920,
 401             "height", G_TYPE_INT, 1080,
 402             "framerate", GST_TYPE_FRACTION_RANGE, 0, 1, G_MAXINT, 1, NULL);
 403         gst_caps_append (caps, gst_caps_new_simple (mimetype,
 404                 "width", G_TYPE_INT, 1280,
 405                 "height", G_TYPE_INT, 720,
 406                 "framerate", GST_TYPE_FRACTION_RANGE, 0, 1, G_MAXINT, 1, NULL));
 407         break;
 408       }
 409       default:
 410       {
 411         if (codec && codec->supported_framerates
 412             && codec->supported_framerates[0].num != 0
 413             && codec->supported_framerates[0].den != 0) {
 414           GValue va = { 0, };
 415           GValue v = { 0, };
 416           const AVRational *rates = codec->supported_framerates;
 417
 418           if (rates[1].num == 0 && rates[1].den == 0) {
 419             caps =
 420                 gst_caps_new_simple (mimetype, "framerate", GST_TYPE_FRACTION,
 421                 rates[0].num, rates[0].den, NULL);
 422           } else {
 423             g_value_init (&va, GST_TYPE_LIST);
 424             g_value_init (&v, GST_TYPE_FRACTION);
 425
 426             while (rates->num != 0 && rates->den != 0) {
 427               gst_value_set_fraction (&v, rates->num, rates->den);
 428               gst_value_list_append_value (&va, &v);
 429               rates++;
 430             }
 431
 432             caps = gst_caps_new_simple (mimetype, NULL, NULL, NULL);
 433             gst_caps_set_value (caps, "framerate", &va);
 434             g_value_unset (&va);
 435             g_value_unset (&v);
 436           }
 437
 438         } else {
 439           caps = gst_caps_new_empty_simple (mimetype);
 440         }
 441
 442         break;
 443       }
 444     }
 445   }
 446
 447   /* no fixed caps or special restrictions applied;
 448    * default unfixed setting */
 449   if (!caps) {
 450     GST_DEBUG ("Creating default caps");
 451     caps = gst_caps_new_empty_simple (mimetype);
 452   }
 453
 454   va_start (var_args, fieldname);
 455   gst_caps_set_simple_valist (caps, fieldname, var_args);
 456   va_end (var_args);
 457
 458   return caps;
 459 }
 460
 461 static gint
 462 get_nbits_set (guint64 n)
 463 {
 464   gint i, x;
 465
 466   x = 0;
 467   for (i = 0; i < 64; i++) {
 468     if ((n & (G_GUINT64_CONSTANT (1) << i)))
 469       x++;
 470   }
 471
 472   return x;
 473 }
 474
 475 static void
 476 gst_ffmpeg_audio_set_sample_fmts (GstCaps * caps,
 477     const enum AVSampleFormat *fmts, gboolean always_interleaved)
 478 {
 479   GValue va = { 0, };
 480   GValue vap = { 0, };
 481   GValue v = { 0, };
 482   GstAudioFormat format;
 483   GstAudioLayout layout;
 484   GstCaps *caps_copy = NULL;
 485
 486   if (!fmts || fmts[0] == -1) {
 487     gint i;
 488
 489     g_value_init (&va, GST_TYPE_LIST);
 490     g_value_init (&v, G_TYPE_STRING);
 491     for (i = 0; i <= AV_SAMPLE_FMT_DBL; i++) {
 492       format = gst_ffmpeg_smpfmt_to_audioformat (i, NULL);
 493       if (format == GST_AUDIO_FORMAT_UNKNOWN)
 494         continue;
 495       g_value_set_string (&v, gst_audio_format_to_string (format));
 496       gst_value_list_append_value (&va, &v);
 497     }
 498     gst_caps_set_value (caps, "format", &va);
 499     if (!always_interleaved) {
 500       g_value_init (&vap, GST_TYPE_LIST);
 501       g_value_set_string (&v, "interleaved");
 502       gst_value_list_append_value (&vap, &v);
 503       g_value_set_string (&v, "non-interleaved");
 504       gst_value_list_append_value (&vap, &v);
 505       gst_caps_set_value (caps, "layout", &vap);
 506       g_value_unset (&vap);
 507     } else {
 508       gst_caps_set_simple (caps, "layout", G_TYPE_STRING, "interleaved", NULL);
 509     }
 510     g_value_unset (&v);
 511     g_value_unset (&va);
 512     return;
 513   }
 514
 515   g_value_init (&va, GST_TYPE_LIST);
 516   g_value_init (&vap, GST_TYPE_LIST);
 517   g_value_init (&v, G_TYPE_STRING);
 518   while (*fmts != -1) {
 519     format = gst_ffmpeg_smpfmt_to_audioformat (*fmts, &layout);
 520     if (format != GST_AUDIO_FORMAT_UNKNOWN) {
 521       g_value_set_string (&v, gst_audio_format_to_string (format));
 522       /* Only append values we don't have yet */
 523       if (layout == GST_AUDIO_LAYOUT_INTERLEAVED || always_interleaved) {
 524         if (!_gst_value_list_contains (&va, &v))
 525           gst_value_list_append_value (&va, &v);
 526       } else {
 527         if (!_gst_value_list_contains (&vap, &v))
 528           gst_value_list_append_value (&vap, &v);
 529       }
 530     }
 531     fmts++;
 532   }
 533   if (gst_value_list_get_size (&va) >= 1 && gst_value_list_get_size (&vap) >= 1) {
 534     caps_copy = gst_caps_copy (caps);
 535   }
 536   if (gst_value_list_get_size (&va) == 1) {
 537     gst_caps_set_value (caps, "format", gst_value_list_get_value (&va, 0));
 538     gst_caps_set_simple (caps, "layout", G_TYPE_STRING, "interleaved", NULL);
 539   } else if (gst_value_list_get_size (&va) > 1) {
 540     gst_caps_set_value (caps, "format", &va);
 541     gst_caps_set_simple (caps, "layout", G_TYPE_STRING, "interleaved", NULL);
 542   }
 543   if (gst_value_list_get_size (&vap) == 1) {
 544     gst_caps_set_value (caps_copy ? caps_copy : caps, "format",
 545         gst_value_list_get_value (&vap, 0));
 546     gst_caps_set_simple (caps_copy ? caps_copy : caps, "layout", G_TYPE_STRING,
 547         "non-interleaved", NULL);
 548   } else if (gst_value_list_get_size (&vap) > 1) {
 549     gst_caps_set_value (caps_copy ? caps_copy : caps, "format", &vap);
 550     gst_caps_set_simple (caps_copy ? caps_copy : caps, "layout", G_TYPE_STRING,
 551         "non-interleaved", NULL);
 552   }
 553   if (caps_copy) {
 554     gst_caps_append (caps, caps_copy);
 555   }
 556   g_value_unset (&v);
 557   g_value_unset (&va);
 558   g_value_unset (&vap);
 559 }
 560
 561 /* same for audio - now with channels/sample rate
 562  */
 563 static GstCaps *
 564 gst_ff_aud_caps_new (AVCodecContext * context, AVCodec * codec,
 565     enum AVCodecID codec_id, gboolean encode, const char *mimetype,
 566     const char *fieldname, ...)
 567 {
 568   GstCaps *caps = NULL;
 569   gint i;
 570   va_list var_args;
 571
 572   /* fixed, non-probing context */
 573   if (context != NULL && context->channels != -1) {
 574     GstAudioChannelPosition pos[64];
 575     guint64 mask;
 576
 577     caps = gst_caps_new_simple (mimetype,
 578         "rate", G_TYPE_INT, context->sample_rate,
 579         "channels", G_TYPE_INT, context->channels, NULL);
 580
 581     if (context->channels > 1 &&
 582         gst_ffmpeg_channel_layout_to_gst (context->channel_layout,
 583             context->channels, pos) &&
 584         gst_audio_channel_positions_to_mask (pos, context->channels, FALSE,
 585             &mask)) {
 586       gst_caps_set_simple (caps, "channel-mask", GST_TYPE_BITMASK, mask, NULL);
 587     }
 588   } else if (encode) {
 589     gint maxchannels = 2;
 590     const gint *rates = NULL;
 591     gint n_rates = 0;
 592
 593     /* so we must be after restricted caps in this case */
 594     switch (codec_id) {
 595       case AV_CODEC_ID_AAC:
 596       case AV_CODEC_ID_AAC_LATM:
 597       case AV_CODEC_ID_DTS:
 598         maxchannels = 6;
 599         break;
 600       case AV_CODEC_ID_MP2:
 601       {
 602         const static gint l_rates[] =
 603             { 48000, 44100, 32000, 24000, 22050, 16000 };
 604         n_rates = G_N_ELEMENTS (l_rates);
 605         rates = l_rates;
 606         break;
 607       }
 608       case AV_CODEC_ID_EAC3:
 609       case AV_CODEC_ID_AC3:
 610       {
 611         const static gint l_rates[] = { 48000, 44100, 32000 };
 612         maxchannels = 6;
 613         n_rates = G_N_ELEMENTS (l_rates);
 614         rates = l_rates;
 615         break;
 616       }
 617       case AV_CODEC_ID_ADPCM_G722:
 618       {
 619         const static gint l_rates[] = { 16000 };
 620         n_rates = G_N_ELEMENTS (l_rates);
 621         rates = l_rates;
 622         maxchannels = 1;
 623         break;
 624       }
 625       case AV_CODEC_ID_ADPCM_G726:
 626       {
 627         const static gint l_rates[] = { 8000 };
 628         n_rates = G_N_ELEMENTS (l_rates);
 629         rates = l_rates;
 630         maxchannels = 1;
 631         break;
 632       }
 633       case AV_CODEC_ID_ADPCM_SWF:
 634       {
 635         const static gint l_rates[] = { 11025, 22050, 44100 };
 636         n_rates = G_N_ELEMENTS (l_rates);
 637         rates = l_rates;
 638         break;
 639       }
 640       case AV_CODEC_ID_ROQ_DPCM:
 641       {
 642         const static gint l_rates[] = { 22050 };
 643         n_rates = G_N_ELEMENTS (l_rates);
 644         rates = l_rates;
 645         break;
 646       }
 647       case AV_CODEC_ID_AMR_NB:
 648       {
 649         const static gint l_rates[] = { 8000 };
 650         maxchannels = 1;
 651         n_rates = G_N_ELEMENTS (l_rates);
 652         rates = l_rates;
 653         break;
 654       }
 655       case AV_CODEC_ID_AMR_WB:
 656       {
 657         const static gint l_rates[] = { 16000 };
 658         maxchannels = 1;
 659         n_rates = G_N_ELEMENTS (l_rates);
 660         rates = l_rates;
 661         break;
 662       }
 663       default:
 664         break;
 665     }
 666
 667     /* regardless of encode/decode, open up channels if applicable */
 668     /* Until decoders/encoders expose the maximum number of channels
 669      * they support, we whitelist them here. */
 670     switch (codec_id) {
 671       case AV_CODEC_ID_WMAPRO:
 672       case AV_CODEC_ID_TRUEHD:
 673         maxchannels = 8;
 674         break;
 675       default:
 676         break;
 677     }
 678
 679     if (codec && codec->channel_layouts) {
 680       const uint64_t *layouts = codec->channel_layouts;
 681       GstAudioChannelPosition pos[64];
 682
 683       caps = gst_caps_new_empty ();
 684       while (*layouts) {
 685         gint nbits_set = get_nbits_set (*layouts);
 686
 687         if (gst_ffmpeg_channel_layout_to_gst (*layouts, nbits_set, pos)) {
 688           guint64 mask;
 689
 690           if (gst_audio_channel_positions_to_mask (pos, nbits_set, FALSE,
 691                   &mask)) {
 692             GstStructure *s =
 693                 gst_structure_new (mimetype, "channels", G_TYPE_INT, nbits_set,
 694                 NULL);
 695
 696             /* No need to require a channel mask for mono or stereo */
 697             if (!(nbits_set == 1 && pos[0] == GST_AUDIO_CHANNEL_POSITION_MONO)
 698                 && !(nbits_set == 2
 699                     && pos[0] == GST_AUDIO_CHANNEL_POSITION_FRONT_LEFT
 700                     && pos[1] == GST_AUDIO_CHANNEL_POSITION_FRONT_RIGHT))
 701               gst_structure_set (s, "channel-mask", GST_TYPE_BITMASK, mask,
 702                   NULL);
 703
 704             gst_caps_append_structure (caps, s);
 705           }
 706         }
 707         layouts++;
 708       }
 709     } else {
 710       if (maxchannels == 1)
 711         caps = gst_caps_new_simple (mimetype,
 712             "channels", G_TYPE_INT, maxchannels, NULL);
 713       else
 714         caps = gst_caps_new_simple (mimetype,
 715             "channels", GST_TYPE_INT_RANGE, 1, maxchannels, NULL);
 716     }
 717
 718     if (n_rates) {
 719       GValue list = { 0, };
 720
 721       g_value_init (&list, GST_TYPE_LIST);
 722       for (i = 0; i < n_rates; i++) {
 723         GValue v = { 0, };
 724
 725         g_value_init (&v, G_TYPE_INT);
 726         g_value_set_int (&v, rates[i]);
 727         gst_value_list_append_value (&list, &v);
 728         g_value_unset (&v);
 729       }
 730       gst_caps_set_value (caps, "rate", &list);
 731       g_value_unset (&list);
 732     } else if (codec && codec->supported_samplerates
 733         && codec->supported_samplerates[0]) {
 734       GValue va = { 0, };
 735       GValue v = { 0, };
 736
 737       if (!codec->supported_samplerates[1]) {
 738         gst_caps_set_simple (caps, "rate", G_TYPE_INT,
 739             codec->supported_samplerates[0], NULL);
 740       } else {
 741         const int *rates = codec->supported_samplerates;
 742
 743         g_value_init (&va, GST_TYPE_LIST);
 744         g_value_init (&v, G_TYPE_INT);
 745
 746         while (*rates) {
 747           g_value_set_int (&v, *rates);
 748           gst_value_list_append_value (&va, &v);
 749           rates++;
 750         }
 751         gst_caps_set_value (caps, "rate", &va);
 752         g_value_unset (&va);
 753         g_value_unset (&v);
 754       }
 755     } else {
 756       gst_caps_set_simple (caps, "rate", GST_TYPE_INT_RANGE, 4000, 96000, NULL);
 757     }
 758   } else {
 759     caps = gst_caps_new_empty_simple (mimetype);
 760   }
 761
 762   va_start (var_args, fieldname);
 763   gst_caps_set_simple_valist (caps, fieldname, var_args);
 764   va_end (var_args);
 765
 766   return caps;
 767 }
 768
 769 /* Check if the given codec ID is an image format -- for now this is just
 770  * anything whose caps is image/... */
 771 gboolean
 772 gst_ffmpeg_codecid_is_image (enum AVCodecID codec_id)
 773 {
 774   switch (codec_id) {
 775     case AV_CODEC_ID_MJPEG:
 776     case AV_CODEC_ID_LJPEG:
 777     case AV_CODEC_ID_GIF:
 778     case AV_CODEC_ID_PPM:
 779     case AV_CODEC_ID_PBM:
 780     case AV_CODEC_ID_PCX:
 781     case AV_CODEC_ID_SGI:
 782     case AV_CODEC_ID_TARGA:
 783     case AV_CODEC_ID_TIFF:
 784     case AV_CODEC_ID_SUNRAST:
 785     case AV_CODEC_ID_BMP:
 786       return TRUE;
 787
 788     default:
 789       return FALSE;
 790   }
 791 }
 792
 793 /* Convert a FFMPEG codec ID and optional AVCodecContext
 794  * to a GstCaps. If the context is ommitted, no fixed values
 795  * for video/audio size will be included in the GstCaps
 796  *
 797  * CodecID is primarily meant for compressed data GstCaps!
 798  *
 799  * encode is a special parameter. gstffmpegdec will say
 800  * FALSE, gstffmpegenc will say TRUE. The output caps
 801  * depends on this, in such a way that it will be very
 802  * specific, defined, fixed and correct caps for encoders,
 803  * yet very wide, "forgiving" caps for decoders. Example
 804  * for mp3: decode: audio/mpeg,mpegversion=1,layer=[1-3]
 805  * but encode: audio/mpeg,mpegversion=1,layer=3,bitrate=x,
 806  * rate=x,channels=x.
 807  */
 808
 809 GstCaps *
 810 gst_ffmpeg_codecid_to_caps (enum AVCodecID codec_id,
 811     AVCodecContext * context, gboolean encode)
 812 {
 813   GstCaps *caps = NULL;
 814   gboolean buildcaps = FALSE;
 815
 816   GST_LOG ("codec_id:%d, context:%p, encode:%d", codec_id, context, encode);
 817
 818   switch (codec_id) {
 819     case AV_CODEC_ID_MPEG1VIDEO:
 820       /* FIXME: bitrate */
 821       caps = gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/mpeg",
 822           "mpegversion", G_TYPE_INT, 1,
 823           "systemstream", G_TYPE_BOOLEAN, FALSE, NULL);
 824       break;
 825
 826     case AV_CODEC_ID_MPEG2VIDEO:
 827       if (encode) {
 828         /* FIXME: bitrate */
 829         caps =
 830             gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/mpeg",
 831             "mpegversion", G_TYPE_INT, 2, "systemstream", G_TYPE_BOOLEAN, FALSE,
 832             NULL);
 833       } else {
 834         /* decode both MPEG-1 and MPEG-2; width/height/fps are all in
 835          * the MPEG video stream headers, so may be omitted from caps. */
 836         caps = gst_caps_new_simple ("video/mpeg",
 837             "mpegversion", GST_TYPE_INT_RANGE, 1, 2,
 838             "systemstream", G_TYPE_BOOLEAN, FALSE, NULL);
 839       }
 840       break;
 841
 842     case AV_CODEC_ID_H263:
 843       if (encode) {
 844         caps =
 845             gst_ff_vid_caps_new (context, NULL, codec_id, encode,
 846             "video/x-h263", "variant", G_TYPE_STRING, "itu", "h263version",
 847             G_TYPE_STRING, "h263", NULL);
 848       } else {
 849         /* don't pass codec_id, we can decode other variants with the H263
 850          * decoder that don't have specific size requirements
 851          */
 852         caps =
 853             gst_ff_vid_caps_new (context, NULL, AV_CODEC_ID_NONE, encode,
 854             "video/x-h263", "variant", G_TYPE_STRING, "itu", NULL);
 855       }
 856       break;
 857
 858     case AV_CODEC_ID_H263P:
 859       caps =
 860           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-h263",
 861           "variant", G_TYPE_STRING, "itu", "h263version", G_TYPE_STRING,
 862           "h263p", NULL);
 863       if (encode && context) {
 864
 865         gst_caps_set_simple (caps,
 866             "annex-f", G_TYPE_BOOLEAN, context->flags & AV_CODEC_FLAG_4MV,
 867             "annex-j", G_TYPE_BOOLEAN,
 868             context->flags & AV_CODEC_FLAG_LOOP_FILTER,
 869             "annex-i", G_TYPE_BOOLEAN, context->flags & AV_CODEC_FLAG_AC_PRED,
 870             "annex-t", G_TYPE_BOOLEAN, context->flags & AV_CODEC_FLAG_AC_PRED,
 871             NULL);
 872       }
 873       break;
 874
 875     case AV_CODEC_ID_H263I:
 876       caps =
 877           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
 878           "video/x-intel-h263", "variant", G_TYPE_STRING, "intel", NULL);
 879       break;
 880
 881     case AV_CODEC_ID_H261:
 882       caps =
 883           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-h261",
 884           NULL);
 885       break;
 886
 887     case AV_CODEC_ID_RV10:
 888     case AV_CODEC_ID_RV20:
 889     case AV_CODEC_ID_RV30:
 890     case AV_CODEC_ID_RV40:
 891     {
 892       gint version;
 893
 894       switch (codec_id) {
 895         case AV_CODEC_ID_RV40:
 896           version = 4;
 897           break;
 898         case AV_CODEC_ID_RV30:
 899           version = 3;
 900           break;
 901         case AV_CODEC_ID_RV20:
 902           version = 2;
 903           break;
 904         default:
 905           version = 1;
 906           break;
 907       }
 908
 909       caps =
 910           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
 911           "video/x-pn-realvideo", "rmversion", G_TYPE_INT, version, NULL);
 912       if (context) {
 913         if (context->extradata_size >= 8) {
 914           gst_caps_set_simple (caps,
 915               "subformat", G_TYPE_INT, GST_READ_UINT32_BE (context->extradata),
 916               NULL);
 917         }
 918       }
 919     }
 920       break;
 921
 922     case AV_CODEC_ID_MP1:
 923       /* FIXME: bitrate */
 924       caps = gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/mpeg",
 925           "mpegversion", G_TYPE_INT, 1, "layer", G_TYPE_INT, 1, NULL);
 926       break;
 927
 928     case AV_CODEC_ID_MP2:
 929       /* FIXME: bitrate */
 930       caps = gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/mpeg",
 931           "mpegversion", G_TYPE_INT, 1, "layer", G_TYPE_INT, 2, NULL);
 932       break;
 933
 934     case AV_CODEC_ID_MP3:
 935       if (encode) {
 936         /* FIXME: bitrate */
 937         caps =
 938             gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/mpeg",
 939             "mpegversion", G_TYPE_INT, 1, "layer", G_TYPE_INT, 3, NULL);
 940       } else {
 941         /* Decodes MPEG-1 layer 1/2/3. Samplerate, channels et al are
 942          * in the MPEG audio header, so may be omitted from caps. */
 943         caps = gst_caps_new_simple ("audio/mpeg",
 944             "mpegversion", G_TYPE_INT, 1,
 945             "layer", GST_TYPE_INT_RANGE, 1, 3, NULL);
 946       }
 947       break;
 948
 949     case AV_CODEC_ID_MUSEPACK7:
 950       caps =
 951           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
 952           "audio/x-ffmpeg-parsed-musepack", "streamversion", G_TYPE_INT, 7,
 953           NULL);
 954       break;
 955
 956     case AV_CODEC_ID_MUSEPACK8:
 957       caps =
 958           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
 959           "audio/x-ffmpeg-parsed-musepack", "streamversion", G_TYPE_INT, 8,
 960           NULL);
 961       break;
 962
 963     case AV_CODEC_ID_AC3:
 964       /* FIXME: bitrate */
 965       caps =
 966           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-ac3",
 967           NULL);
 968       break;
 969
 970     case AV_CODEC_ID_EAC3:
 971       /* FIXME: bitrate */
 972       caps =
 973           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-eac3",
 974           NULL);
 975       break;
 976
 977     case AV_CODEC_ID_TRUEHD:
 978       caps =
 979           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
 980           "audio/x-true-hd", NULL);
 981       break;
 982
 983     case AV_CODEC_ID_ATRAC1:
 984       caps =
 985           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
 986           "audio/x-vnd.sony.atrac1", NULL);
 987       break;
 988
 989     case AV_CODEC_ID_ATRAC3:
 990       caps =
 991           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
 992           "audio/x-vnd.sony.atrac3", NULL);
 993       break;
 994
 995     case AV_CODEC_ID_DTS:
 996       caps =
 997           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-dts",
 998           NULL);
 999       break;
1000
1001     case AV_CODEC_ID_APE:
1002       caps =
1003           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
1004           "audio/x-ffmpeg-parsed-ape", NULL);
1005       if (context) {
1006         gst_caps_set_simple (caps,
1007             "depth", G_TYPE_INT, context->bits_per_coded_sample, NULL);
1008       }
1009       break;
1010
1011     case AV_CODEC_ID_MLP:
1012       caps =
1013           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-mlp",
1014           NULL);
1015       break;
1016
1017     case AV_CODEC_ID_METASOUND:
1018       caps =
1019           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
1020           "audio/x-voxware", NULL);
1021       break;
1022
1023     case AV_CODEC_ID_IMC:
1024       caps =
1025           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-imc",
1026           NULL);
1027       break;
1028
1029       /* MJPEG is normal JPEG, Motion-JPEG and Quicktime MJPEG-A. MJPEGB
1030        * is Quicktime's MJPEG-B. LJPEG is lossless JPEG. I don't know what
1031        * sp5x is, but it's apparently something JPEG... We don't separate
1032        * between those in GStreamer. Should we (at least between MJPEG,
1033        * MJPEG-B and sp5x decoding...)? */
1034     case AV_CODEC_ID_MJPEG:
1035     case AV_CODEC_ID_LJPEG:
1036       caps =
1037           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "image/jpeg",
1038           "parsed", G_TYPE_BOOLEAN, TRUE, NULL);
1039       break;
1040
1041     case AV_CODEC_ID_JPEG2000:
1042       caps =
1043           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "image/x-j2c",
1044           NULL);
1045       if (!encode) {
1046         gst_caps_append (caps, gst_ff_vid_caps_new (context, NULL, codec_id,
1047                 encode, "image/x-jpc", NULL));
1048         gst_caps_append (caps, gst_ff_vid_caps_new (context, NULL, codec_id,
1049                 encode, "image/jp2", NULL));
1050       }
1051       break;
1052
1053     case AV_CODEC_ID_SP5X:
1054       caps =
1055           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/sp5x",
1056           NULL);
1057       break;
1058
1059     case AV_CODEC_ID_MJPEGB:
1060       caps =
1061           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1062           "video/x-mjpeg-b", NULL);
1063       break;
1064
1065     case AV_CODEC_ID_MPEG4:
1066       if (encode && context != NULL) {
1067         /* I'm not exactly sure what ffmpeg outputs... ffmpeg itself uses
1068          * the AVI fourcc 'DIVX', but 'mp4v' for Quicktime... */
1069         switch (context->codec_tag) {
1070           case GST_MAKE_FOURCC ('D', 'I', 'V', 'X'):
1071             caps =
1072                 gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1073                 "video/x-divx", "divxversion", G_TYPE_INT, 5, NULL);
1074             break;
1075           case GST_MAKE_FOURCC ('m', 'p', '4', 'v'):
1076           default:
1077             /* FIXME: bitrate. libav doesn't expose the used profile and level */
1078             caps =
1079                 gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1080                 "video/mpeg", "systemstream", G_TYPE_BOOLEAN, FALSE,
1081                 "mpegversion", G_TYPE_INT, 4, NULL);
1082             break;
1083         }
1084       } else {
1085         /* The trick here is to separate xvid, divx, mpeg4, 3ivx et al */
1086         caps =
1087             gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/mpeg",
1088             "mpegversion", G_TYPE_INT, 4, "systemstream", G_TYPE_BOOLEAN, FALSE,
1089             NULL);
1090
1091         if (encode) {
1092           GValue arr = { 0, };
1093           GValue item = { 0, };
1094
1095           g_value_init (&arr, GST_TYPE_LIST);
1096           g_value_init (&item, G_TYPE_STRING);
1097           g_value_set_string (&item, "simple");
1098           gst_value_list_append_value (&arr, &item);
1099           g_value_set_string (&item, "advanced-simple");
1100           gst_value_list_append_value (&arr, &item);
1101           g_value_unset (&item);
1102
1103           gst_caps_set_value (caps, "profile", &arr);
1104           g_value_unset (&arr);
1105
1106           gst_caps_append (caps, gst_ff_vid_caps_new (context, NULL, codec_id,
1107                   encode, "video/x-divx", "divxversion", G_TYPE_INT, 5, NULL));
1108         }
1109 #ifndef TIZEN_FEATURE_LIBAV
1110         else {
1111           gst_caps_append (caps, gst_ff_vid_caps_new (context, NULL, codec_id,
1112                   encode, "video/x-divx", "divxversion", GST_TYPE_INT_RANGE, 4,
1113                   5, NULL));
1114         }
1115 #endif
1116       }
1117       break;
1118
1119     case AV_CODEC_ID_RAWVIDEO:
1120       caps =
1121           gst_ffmpeg_codectype_to_video_caps (context, codec_id, encode, NULL);
1122       break;
1123
1124     case AV_CODEC_ID_MSMPEG4V1:
1125     case AV_CODEC_ID_MSMPEG4V2:
1126     case AV_CODEC_ID_MSMPEG4V3:
1127     {
1128       gint version = 41 + codec_id - AV_CODEC_ID_MSMPEG4V1;
1129
1130       /* encode-FIXME: bitrate */
1131       caps =
1132           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1133           "video/x-msmpeg", "msmpegversion", G_TYPE_INT, version, NULL);
1134       if (!encode && codec_id == AV_CODEC_ID_MSMPEG4V3) {
1135         gst_caps_append (caps, gst_ff_vid_caps_new (context, NULL, codec_id,
1136                 encode, "video/x-divx", "divxversion", G_TYPE_INT, 3, NULL));
1137       }
1138     }
1139       break;
1140
1141     case AV_CODEC_ID_WMV1:
1142     case AV_CODEC_ID_WMV2:
1143     {
1144       gint version = (codec_id == AV_CODEC_ID_WMV1) ? 1 : 2;
1145
1146       caps =
1147           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-wmv",
1148           "wmvversion", G_TYPE_INT, version, NULL);
1149     }
1150       break;
1151
1152     case AV_CODEC_ID_FLV1:
1153       caps =
1154           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1155           "video/x-flash-video", "flvversion", G_TYPE_INT, 1, NULL);
1156       break;
1157
1158     case AV_CODEC_ID_SVQ1:
1159       caps =
1160           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-svq",
1161           "svqversion", G_TYPE_INT, 1, NULL);
1162       break;
1163
1164     case AV_CODEC_ID_SVQ3:
1165       caps =
1166           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-svq",
1167           "svqversion", G_TYPE_INT, 3, NULL);
1168       break;
1169
1170     case AV_CODEC_ID_DVAUDIO:
1171       caps =
1172           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-dv",
1173           NULL);
1174       break;
1175
1176     case AV_CODEC_ID_DVVIDEO:
1177     {
1178       if (encode && context) {
1179         const gchar *format;
1180
1181         switch (context->pix_fmt) {
1182           case AV_PIX_FMT_YUYV422:
1183             format = "YUY2";
1184             break;
1185           case AV_PIX_FMT_YUV420P:
1186             format = "I420";
1187             break;
1188           case AV_PIX_FMT_YUVA420P:
1189             format = "A420";
1190             break;
1191           case AV_PIX_FMT_YUV411P:
1192             format = "Y41B";
1193             break;
1194           case AV_PIX_FMT_YUV422P:
1195             format = "Y42B";
1196             break;
1197           case AV_PIX_FMT_YUV410P:
1198             format = "YUV9";
1199             break;
1200           default:
1201             GST_WARNING
1202                 ("Couldnt' find format for pixfmt %d, defaulting to I420",
1203                 context->pix_fmt);
1204             format = "I420";
1205             break;
1206         }
1207         caps =
1208             gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-dv",
1209             "systemstream", G_TYPE_BOOLEAN, FALSE, "format", G_TYPE_STRING,
1210             format, NULL);
1211       } else {
1212         caps =
1213             gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-dv",
1214             "systemstream", G_TYPE_BOOLEAN, FALSE, NULL);
1215       }
1216     }
1217       break;
1218
1219     case AV_CODEC_ID_WMAV1:
1220     case AV_CODEC_ID_WMAV2:
1221     {
1222       gint version = (codec_id == AV_CODEC_ID_WMAV1) ? 1 : 2;
1223
1224       if (context) {
1225         caps =
1226             gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-wma",
1227             "wmaversion", G_TYPE_INT, version, "block_align", G_TYPE_INT,
1228             context->block_align, "bitrate", G_TYPE_INT,
1229             (guint) context->bit_rate, NULL);
1230       } else {
1231         caps =
1232             gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-wma",
1233             "wmaversion", G_TYPE_INT, version, "block_align",
1234             GST_TYPE_INT_RANGE, 0, G_MAXINT, "bitrate", GST_TYPE_INT_RANGE, 0,
1235             G_MAXINT, NULL);
1236       }
1237     }
1238       break;
1239     case AV_CODEC_ID_WMAPRO:
1240     {
1241       caps =
1242           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-wma",
1243           "wmaversion", G_TYPE_INT, 3, NULL);
1244       break;
1245     }
1246     case AV_CODEC_ID_WMALOSSLESS:
1247     {
1248       /* libav only supports a depth of 16 at the moment */
1249       caps =
1250           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-wma",
1251           "wmaversion", G_TYPE_INT, 4, "depth", G_TYPE_INT, 16, NULL);
1252       break;
1253     }
1254     case AV_CODEC_ID_WMAVOICE:
1255     {
1256       caps =
1257           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-wms",
1258           NULL);
1259       break;
1260     }
1261
1262     case AV_CODEC_ID_MACE3:
1263     case AV_CODEC_ID_MACE6:
1264     {
1265       gint version = (codec_id == AV_CODEC_ID_MACE3) ? 3 : 6;
1266
1267       caps =
1268           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-mace",
1269           "maceversion", G_TYPE_INT, version, NULL);
1270     }
1271       break;
1272
1273     case AV_CODEC_ID_HUFFYUV:
1274       caps =
1275           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1276           "video/x-huffyuv", NULL);
1277       if (context) {
1278         gst_caps_set_simple (caps,
1279             "bpp", G_TYPE_INT, context->bits_per_coded_sample, NULL);
1280       }
1281       break;
1282
1283     case AV_CODEC_ID_CYUV:
1284       caps =
1285           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1286           "video/x-compressed-yuv", NULL);
1287       break;
1288
1289     case AV_CODEC_ID_H264:
1290       caps =
1291           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-h264",
1292           "alignment", G_TYPE_STRING, "au", NULL);
1293       if (!encode) {
1294         GValue arr = { 0, };
1295         GValue item = { 0, };
1296         g_value_init (&arr, GST_TYPE_LIST);
1297         g_value_init (&item, G_TYPE_STRING);
1298         g_value_set_string (&item, "avc");
1299         gst_value_list_append_value (&arr, &item);
1300         g_value_set_string (&item, "byte-stream");
1301         gst_value_list_append_value (&arr, &item);
1302         g_value_unset (&item);
1303         gst_caps_set_value (caps, "stream-format", &arr);
1304         g_value_unset (&arr);
1305       }
1306       break;
1307
1308     case AV_CODEC_ID_HEVC:
1309       caps =
1310           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-h265",
1311           "alignment", G_TYPE_STRING, "au", NULL);
1312       if (!encode) {
1313         GValue arr = { 0, };
1314         GValue item = { 0, };
1315         g_value_init (&arr, GST_TYPE_LIST);
1316         g_value_init (&item, G_TYPE_STRING);
1317         g_value_set_string (&item, "hvc1");
1318         gst_value_list_append_value (&arr, &item);
1319         g_value_set_string (&item, "hev1");
1320         gst_value_list_append_value (&arr, &item);
1321         g_value_set_string (&item, "byte-stream");
1322         gst_value_list_append_value (&arr, &item);
1323         g_value_unset (&item);
1324         gst_caps_set_value (caps, "stream-format", &arr);
1325         g_value_unset (&arr);
1326       }
1327       break;
1328
1329     case AV_CODEC_ID_INDEO5:
1330       caps =
1331           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-indeo",
1332           "indeoversion", G_TYPE_INT, 5, NULL);
1333       break;
1334
1335     case AV_CODEC_ID_INDEO4:
1336       caps =
1337           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-indeo",
1338           "indeoversion", G_TYPE_INT, 4, NULL);
1339       break;
1340
1341     case AV_CODEC_ID_INDEO3:
1342       caps =
1343           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-indeo",
1344           "indeoversion", G_TYPE_INT, 3, NULL);
1345       break;
1346
1347     case AV_CODEC_ID_INDEO2:
1348       caps =
1349           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-indeo",
1350           "indeoversion", G_TYPE_INT, 2, NULL);
1351       break;
1352
1353     case AV_CODEC_ID_FLASHSV:
1354       caps =
1355           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1356           "video/x-flash-screen", NULL);
1357       break;
1358
1359     case AV_CODEC_ID_FLASHSV2:
1360       caps =
1361           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1362           "video/x-flash-screen2", NULL);
1363       break;
1364
1365     case AV_CODEC_ID_VP3:
1366       caps =
1367           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-vp3",
1368           NULL);
1369       break;
1370
1371     case AV_CODEC_ID_VP5:
1372       caps =
1373           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-vp5",
1374           NULL);
1375       break;
1376
1377     case AV_CODEC_ID_VP6:
1378       caps =
1379           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-vp6",
1380           NULL);
1381       break;
1382
1383     case AV_CODEC_ID_VP6F:
1384       caps =
1385           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1386           "video/x-vp6-flash", NULL);
1387       break;
1388
1389     case AV_CODEC_ID_VP6A:
1390       caps =
1391           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1392           "video/x-vp6-alpha", NULL);
1393       break;
1394
1395     case AV_CODEC_ID_VP8:
1396       caps =
1397           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-vp8",
1398           NULL);
1399       break;
1400
1401     case AV_CODEC_ID_VP9:
1402       caps =
1403           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-vp9",
1404           NULL);
1405       break;
1406
1407     case AV_CODEC_ID_THEORA:
1408       caps =
1409           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1410           "video/x-theora", NULL);
1411       break;
1412
1413     case AV_CODEC_ID_CFHD:
1414       caps =
1415           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1416           "video/x-cineform", NULL);
1417       break;
1418
1419     case AV_CODEC_ID_AAC:
1420     {
1421       caps =
1422           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/mpeg",
1423           NULL);
1424
1425       if (!encode) {
1426         GValue arr = { 0, };
1427         GValue item = { 0, };
1428
1429         g_value_init (&arr, GST_TYPE_LIST);
1430         g_value_init (&item, G_TYPE_INT);
1431         g_value_set_int (&item, 2);
1432         gst_value_list_append_value (&arr, &item);
1433         g_value_set_int (&item, 4);
1434         gst_value_list_append_value (&arr, &item);
1435         g_value_unset (&item);
1436
1437         gst_caps_set_value (caps, "mpegversion", &arr);
1438         g_value_unset (&arr);
1439
1440         g_value_init (&arr, GST_TYPE_LIST);
1441         g_value_init (&item, G_TYPE_STRING);
1442         g_value_set_string (&item, "raw");
1443         gst_value_list_append_value (&arr, &item);
1444         g_value_set_string (&item, "adts");
1445         gst_value_list_append_value (&arr, &item);
1446         g_value_set_string (&item, "adif");
1447         gst_value_list_append_value (&arr, &item);
1448         g_value_unset (&item);
1449
1450         gst_caps_set_value (caps, "stream-format", &arr);
1451         g_value_unset (&arr);
1452       } else {
1453         gst_caps_set_simple (caps, "mpegversion", G_TYPE_INT, 4,
1454             "stream-format", G_TYPE_STRING, "raw",
1455             "base-profile", G_TYPE_STRING, "lc", NULL);
1456
1457         if (context && context->extradata_size > 0)
1458           gst_codec_utils_aac_caps_set_level_and_profile (caps,
1459               context->extradata, context->extradata_size);
1460       }
1461
1462       break;
1463     }
1464     case AV_CODEC_ID_AAC_LATM: /* LATM/LOAS AAC syntax */
1465       caps = gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/mpeg",
1466           "mpegversion", G_TYPE_INT, 4, "stream-format", G_TYPE_STRING, "loas",
1467           NULL);
1468       break;
1469
1470     case AV_CODEC_ID_ASV1:
1471       caps =
1472           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-asus",
1473           "asusversion", G_TYPE_INT, 1, NULL);
1474       break;
1475     case AV_CODEC_ID_ASV2:
1476       caps =
1477           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-asus",
1478           "asusversion", G_TYPE_INT, 2, NULL);
1479       break;
1480
1481     case AV_CODEC_ID_FFV1:
1482       caps =
1483           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-ffv",
1484           "ffvversion", G_TYPE_INT, 1, NULL);
1485       break;
1486
1487     case AV_CODEC_ID_4XM:
1488       caps =
1489           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-4xm",
1490           NULL);
1491       break;
1492
1493     case AV_CODEC_ID_XAN_WC3:
1494     case AV_CODEC_ID_XAN_WC4:
1495       caps =
1496           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-xan",
1497           "wcversion", G_TYPE_INT, 3 - AV_CODEC_ID_XAN_WC3 + codec_id, NULL);
1498       break;
1499
1500     case AV_CODEC_ID_CLJR:
1501       caps =
1502           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1503           "video/x-cirrus-logic-accupak", NULL);
1504       break;
1505
1506     case AV_CODEC_ID_FRAPS:
1507       caps =
1508           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-fraps",
1509           NULL);
1510       break;
1511
1512     case AV_CODEC_ID_MDEC:
1513     case AV_CODEC_ID_ROQ:
1514     case AV_CODEC_ID_INTERPLAY_VIDEO:
1515       buildcaps = TRUE;
1516       break;
1517
1518     case AV_CODEC_ID_VCR1:
1519       caps =
1520           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1521           "video/x-ati-vcr", "vcrversion", G_TYPE_INT, 1, NULL);
1522       break;
1523
1524     case AV_CODEC_ID_RPZA:
1525       caps =
1526           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1527           "video/x-apple-video", NULL);
1528       break;
1529
1530     case AV_CODEC_ID_CINEPAK:
1531       caps =
1532           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1533           "video/x-cinepak", NULL);
1534       break;
1535
1536       /* WS_VQA belogns here (order) */
1537
1538     case AV_CODEC_ID_MSRLE:
1539       caps =
1540           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-rle",
1541           "layout", G_TYPE_STRING, "microsoft", NULL);
1542       if (context) {
1543         gst_caps_set_simple (caps,
1544             "depth", G_TYPE_INT, (gint) context->bits_per_coded_sample, NULL);
1545       } else {
1546         gst_caps_set_simple (caps, "depth", GST_TYPE_INT_RANGE, 1, 64, NULL);
1547       }
1548       break;
1549
1550     case AV_CODEC_ID_QTRLE:
1551       caps =
1552           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-rle",
1553           "layout", G_TYPE_STRING, "quicktime", NULL);
1554       if (context) {
1555         gst_caps_set_simple (caps,
1556             "depth", G_TYPE_INT, (gint) context->bits_per_coded_sample, NULL);
1557       } else {
1558         gst_caps_set_simple (caps, "depth", GST_TYPE_INT_RANGE, 1, 64, NULL);
1559       }
1560       break;
1561
1562     case AV_CODEC_ID_MSVIDEO1:
1563       caps =
1564           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1565           "video/x-msvideocodec", "msvideoversion", G_TYPE_INT, 1, NULL);
1566       break;
1567
1568     case AV_CODEC_ID_MSS1:
1569       caps =
1570           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-wmv",
1571           "wmvversion", G_TYPE_INT, 1, "format", G_TYPE_STRING, "MSS1", NULL);
1572       break;
1573
1574     case AV_CODEC_ID_MSS2:
1575       caps =
1576           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-wmv",
1577           "wmvversion", G_TYPE_INT, 3, "format", G_TYPE_STRING, "MSS2", NULL);
1578       break;
1579
1580     case AV_CODEC_ID_WMV3:
1581       caps =
1582           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-wmv",
1583           "wmvversion", G_TYPE_INT, 3, "format", G_TYPE_STRING, "WMV3", NULL);
1584       break;
1585     case AV_CODEC_ID_VC1:
1586       caps =
1587           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-wmv",
1588           "wmvversion", G_TYPE_INT, 3, NULL);
1589       if (!context && !encode) {
1590         GValue arr = { 0, };
1591         GValue item = { 0, };
1592
1593         g_value_init (&arr, GST_TYPE_LIST);
1594         g_value_init (&item, G_TYPE_STRING);
1595         g_value_set_string (&item, "WVC1");
1596         gst_value_list_append_value (&arr, &item);
1597         g_value_set_string (&item, "WMVA");
1598         gst_value_list_append_and_take_value (&arr, &item);
1599         gst_caps_set_value (caps, "format", &arr);
1600         g_value_unset (&arr);
1601       } else {
1602         gst_caps_set_simple (caps, "format", G_TYPE_STRING, "WVC1", NULL);
1603       }
1604       break;
1605     case AV_CODEC_ID_QDM2:
1606       caps =
1607           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-qdm2",
1608           NULL);
1609       break;
1610
1611     case AV_CODEC_ID_MSZH:
1612       caps =
1613           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-mszh",
1614           NULL);
1615       break;
1616
1617     case AV_CODEC_ID_ZLIB:
1618       caps =
1619           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-zlib",
1620           NULL);
1621       break;
1622
1623     case AV_CODEC_ID_TRUEMOTION1:
1624       caps =
1625           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1626           "video/x-truemotion", "trueversion", G_TYPE_INT, 1, NULL);
1627       break;
1628     case AV_CODEC_ID_TRUEMOTION2:
1629       caps =
1630           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1631           "video/x-truemotion", "trueversion", G_TYPE_INT, 2, NULL);
1632       break;
1633
1634     case AV_CODEC_ID_ULTI:
1635       caps =
1636           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1637           "video/x-ultimotion", NULL);
1638       break;
1639
1640     case AV_CODEC_ID_TSCC:
1641       caps =
1642           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1643           "video/x-camtasia", NULL);
1644       if (context) {
1645         gst_caps_set_simple (caps,
1646             "depth", G_TYPE_INT, (gint) context->bits_per_coded_sample, NULL);
1647       } else {
1648         gst_caps_set_simple (caps, "depth", GST_TYPE_INT_RANGE, 8, 32, NULL);
1649       }
1650       break;
1651
1652     case AV_CODEC_ID_TSCC2:
1653       caps =
1654           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1655           "video/x-tscc", "tsccversion", G_TYPE_INT, 2, NULL);
1656       break;
1657
1658     case AV_CODEC_ID_KMVC:
1659       caps =
1660           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-kmvc",
1661           NULL);
1662       break;
1663
1664     case AV_CODEC_ID_NUV:
1665       caps =
1666           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-nuv",
1667           NULL);
1668       break;
1669
1670     case AV_CODEC_ID_GIF:
1671       caps =
1672           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1673           "image/gst-libav-gif", "parsed", G_TYPE_BOOLEAN, TRUE, NULL);
1674       break;
1675
1676     case AV_CODEC_ID_PNG:
1677       caps =
1678           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "image/png",
1679           NULL);
1680       break;
1681
1682     case AV_CODEC_ID_PPM:
1683       caps =
1684           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "image/ppm",
1685           NULL);
1686       break;
1687
1688     case AV_CODEC_ID_PBM:
1689       caps =
1690           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "image/pbm",
1691           NULL);
1692       break;
1693
1694     case AV_CODEC_ID_PAM:
1695       caps =
1696           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1697           "image/x-portable-anymap", NULL);
1698       break;
1699
1700     case AV_CODEC_ID_PGM:
1701       caps =
1702           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1703           "image/x-portable-graymap", NULL);
1704       break;
1705
1706     case AV_CODEC_ID_PCX:
1707       caps =
1708           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "image/x-pcx",
1709           NULL);
1710       break;
1711
1712     case AV_CODEC_ID_SGI:
1713       caps =
1714           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "image/x-sgi",
1715           NULL);
1716       break;
1717
1718     case AV_CODEC_ID_TARGA:
1719       caps =
1720           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "image/x-tga",
1721           NULL);
1722       break;
1723
1724     case AV_CODEC_ID_TIFF:
1725       caps =
1726           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "image/tiff",
1727           NULL);
1728       break;
1729
1730     case AV_CODEC_ID_SUNRAST:
1731       caps =
1732           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1733           "image/x-sun-raster", NULL);
1734       break;
1735
1736     case AV_CODEC_ID_SMC:
1737       caps =
1738           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-smc",
1739           NULL);
1740       break;
1741
1742     case AV_CODEC_ID_QDRAW:
1743       caps =
1744           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-qdrw",
1745           NULL);
1746       break;
1747
1748     case AV_CODEC_ID_DNXHD:
1749       caps =
1750           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-dnxhd",
1751           NULL);
1752       break;
1753
1754     case AV_CODEC_ID_PRORES:
1755       caps =
1756           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1757           "video/x-prores", NULL);
1758       if (context) {
1759         switch (context->codec_tag) {
1760           case GST_MAKE_FOURCC ('a', 'p', 'c', 'o'):
1761             gst_caps_set_simple (caps, "variant", G_TYPE_STRING, "proxy", NULL);
1762             break;
1763           case GST_MAKE_FOURCC ('a', 'p', 'c', 's'):
1764             gst_caps_set_simple (caps, "variant", G_TYPE_STRING, "lt", NULL);
1765             break;
1766           default:
1767           case GST_MAKE_FOURCC ('a', 'p', 'c', 'n'):
1768             gst_caps_set_simple (caps, "variant", G_TYPE_STRING, "standard",
1769                 NULL);
1770             break;
1771           case GST_MAKE_FOURCC ('a', 'p', 'c', 'h'):
1772             gst_caps_set_simple (caps, "variant", G_TYPE_STRING, "hq", NULL);
1773             break;
1774           case GST_MAKE_FOURCC ('a', 'p', '4', 'h'):
1775             gst_caps_set_simple (caps, "variant", G_TYPE_STRING, "4444", NULL);
1776             break;
1777           case GST_MAKE_FOURCC ('a', 'p', '4', 'x'):
1778             gst_caps_set_simple (caps, "variant", G_TYPE_STRING, "4444xq",
1779                 NULL);
1780             break;
1781         }
1782       }
1783       break;
1784
1785     case AV_CODEC_ID_MIMIC:
1786       caps =
1787           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-mimic",
1788           NULL);
1789       break;
1790
1791     case AV_CODEC_ID_VMNC:
1792       caps =
1793           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-vmnc",
1794           NULL);
1795       break;
1796
1797     case AV_CODEC_ID_TRUESPEECH:
1798       caps =
1799           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
1800           "audio/x-truespeech", NULL);
1801       break;
1802
1803     case AV_CODEC_ID_QCELP:
1804       caps =
1805           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/qcelp",
1806           NULL);
1807       break;
1808
1809     case AV_CODEC_ID_AMV:
1810       caps =
1811           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-amv",
1812           NULL);
1813       break;
1814
1815     case AV_CODEC_ID_AASC:
1816       caps =
1817           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-aasc",
1818           NULL);
1819       break;
1820
1821     case AV_CODEC_ID_LOCO:
1822       caps =
1823           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-loco",
1824           NULL);
1825       break;
1826
1827     case AV_CODEC_ID_ZMBV:
1828       caps =
1829           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-zmbv",
1830           NULL);
1831       break;
1832
1833     case AV_CODEC_ID_LAGARITH:
1834       caps =
1835           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1836           "video/x-lagarith", NULL);
1837       break;
1838
1839     case AV_CODEC_ID_CSCD:
1840       caps =
1841           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1842           "video/x-camstudio", NULL);
1843       if (context) {
1844         gst_caps_set_simple (caps,
1845             "depth", G_TYPE_INT, (gint) context->bits_per_coded_sample, NULL);
1846       } else {
1847         gst_caps_set_simple (caps, "depth", GST_TYPE_INT_RANGE, 8, 32, NULL);
1848       }
1849       break;
1850
1851     case AV_CODEC_ID_AIC:
1852       caps =
1853           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1854           "video/x-apple-intermediate-codec", NULL);
1855       break;
1856
1857     case AV_CODEC_ID_CAVS:
1858       caps =
1859           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1860           "video/x-cavs", NULL);
1861       break;
1862
1863     case AV_CODEC_ID_WS_VQA:
1864     case AV_CODEC_ID_IDCIN:
1865     case AV_CODEC_ID_8BPS:
1866     case AV_CODEC_ID_FLIC:
1867     case AV_CODEC_ID_VMDVIDEO:
1868     case AV_CODEC_ID_VMDAUDIO:
1869     case AV_CODEC_ID_VIXL:
1870     case AV_CODEC_ID_QPEG:
1871     case AV_CODEC_ID_PGMYUV:
1872     case AV_CODEC_ID_FFVHUFF:
1873     case AV_CODEC_ID_WNV1:
1874     case AV_CODEC_ID_MP3ADU:
1875     case AV_CODEC_ID_MP3ON4:
1876     case AV_CODEC_ID_WESTWOOD_SND1:
1877     case AV_CODEC_ID_MMVIDEO:
1878     case AV_CODEC_ID_AVS:
1879       buildcaps = TRUE;
1880       break;
1881
1882       /* weird quasi-codecs for the demuxers only */
1883     case AV_CODEC_ID_PCM_S16LE:
1884     case AV_CODEC_ID_PCM_S16BE:
1885     case AV_CODEC_ID_PCM_U16LE:
1886     case AV_CODEC_ID_PCM_U16BE:
1887     case AV_CODEC_ID_PCM_S8:
1888     case AV_CODEC_ID_PCM_U8:
1889     {
1890       GstAudioFormat format;
1891
1892       switch (codec_id) {
1893         case AV_CODEC_ID_PCM_S16LE:
1894           format = GST_AUDIO_FORMAT_S16LE;
1895           break;
1896         case AV_CODEC_ID_PCM_S16BE:
1897           format = GST_AUDIO_FORMAT_S16BE;
1898           break;
1899         case AV_CODEC_ID_PCM_U16LE:
1900           format = GST_AUDIO_FORMAT_U16LE;
1901           break;
1902         case AV_CODEC_ID_PCM_U16BE:
1903           format = GST_AUDIO_FORMAT_U16BE;
1904           break;
1905         case AV_CODEC_ID_PCM_S8:
1906           format = GST_AUDIO_FORMAT_S8;
1907           break;
1908         case AV_CODEC_ID_PCM_U8:
1909           format = GST_AUDIO_FORMAT_U8;
1910           break;
1911         default:
1912           format = 0;
1913           g_assert (0);         /* don't worry, we never get here */
1914           break;
1915       }
1916
1917       caps =
1918           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-raw",
1919           "format", G_TYPE_STRING, gst_audio_format_to_string (format),
1920           "layout", G_TYPE_STRING, "interleaved", NULL);
1921     }
1922       break;
1923
1924     case AV_CODEC_ID_PCM_MULAW:
1925       caps =
1926           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-mulaw",
1927           NULL);
1928       break;
1929
1930     case AV_CODEC_ID_PCM_ALAW:
1931       caps =
1932           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-alaw",
1933           NULL);
1934       break;
1935
1936     case AV_CODEC_ID_ADPCM_G722:
1937       caps =
1938           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/G722",
1939           NULL);
1940       if (context)
1941         gst_caps_set_simple (caps,
1942             "block_align", G_TYPE_INT, context->block_align,
1943             "bitrate", G_TYPE_INT, (guint) context->bit_rate, NULL);
1944       break;
1945
1946     case AV_CODEC_ID_ADPCM_G726:
1947     {
1948       /* the G726 decoder can also handle G721 */
1949       caps =
1950           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-adpcm",
1951           "layout", G_TYPE_STRING, "g726", NULL);
1952       if (context)
1953         gst_caps_set_simple (caps,
1954             "block_align", G_TYPE_INT, context->block_align,
1955             "bitrate", G_TYPE_INT, (guint) context->bit_rate, NULL);
1956
1957       if (!encode) {
1958         gst_caps_append (caps, gst_caps_new_simple ("audio/x-adpcm",
1959                 "layout", G_TYPE_STRING, "g721",
1960                 "channels", G_TYPE_INT, 1, "rate", G_TYPE_INT, 8000, NULL));
1961       }
1962       break;
1963     }
1964     case AV_CODEC_ID_ADPCM_IMA_QT:
1965     case AV_CODEC_ID_ADPCM_IMA_WAV:
1966     case AV_CODEC_ID_ADPCM_IMA_DK3:
1967     case AV_CODEC_ID_ADPCM_IMA_DK4:
1968     case AV_CODEC_ID_ADPCM_IMA_WS:
1969     case AV_CODEC_ID_ADPCM_IMA_SMJPEG:
1970     case AV_CODEC_ID_ADPCM_IMA_AMV:
1971     case AV_CODEC_ID_ADPCM_IMA_ISS:
1972     case AV_CODEC_ID_ADPCM_IMA_EA_EACS:
1973     case AV_CODEC_ID_ADPCM_IMA_EA_SEAD:
1974     case AV_CODEC_ID_ADPCM_MS:
1975     case AV_CODEC_ID_ADPCM_4XM:
1976     case AV_CODEC_ID_ADPCM_XA:
1977     case AV_CODEC_ID_ADPCM_ADX:
1978     case AV_CODEC_ID_ADPCM_EA:
1979     case AV_CODEC_ID_ADPCM_CT:
1980     case AV_CODEC_ID_ADPCM_SWF:
1981     case AV_CODEC_ID_ADPCM_YAMAHA:
1982     case AV_CODEC_ID_ADPCM_SBPRO_2:
1983     case AV_CODEC_ID_ADPCM_SBPRO_3:
1984     case AV_CODEC_ID_ADPCM_SBPRO_4:
1985     case AV_CODEC_ID_ADPCM_EA_R1:
1986     case AV_CODEC_ID_ADPCM_EA_R2:
1987     case AV_CODEC_ID_ADPCM_EA_R3:
1988     case AV_CODEC_ID_ADPCM_EA_MAXIS_XA:
1989     case AV_CODEC_ID_ADPCM_EA_XAS:
1990     case AV_CODEC_ID_ADPCM_THP:
1991     {
1992       const gchar *layout = NULL;
1993
1994       switch (codec_id) {
1995         case AV_CODEC_ID_ADPCM_IMA_QT:
1996           layout = "quicktime";
1997           break;
1998         case AV_CODEC_ID_ADPCM_IMA_WAV:
1999           layout = "dvi";
2000           break;
2001         case AV_CODEC_ID_ADPCM_IMA_DK3:
2002           layout = "dk3";
2003           break;
2004         case AV_CODEC_ID_ADPCM_IMA_DK4:
2005           layout = "dk4";
2006           break;
2007         case AV_CODEC_ID_ADPCM_IMA_WS:
2008           layout = "westwood";
2009           break;
2010         case AV_CODEC_ID_ADPCM_IMA_SMJPEG:
2011           layout = "smjpeg";
2012           break;
2013         case AV_CODEC_ID_ADPCM_IMA_AMV:
2014           layout = "amv";
2015           break;
2016         case AV_CODEC_ID_ADPCM_IMA_ISS:
2017           layout = "iss";
2018           break;
2019         case AV_CODEC_ID_ADPCM_IMA_EA_EACS:
2020           layout = "ea-eacs";
2021           break;
2022         case AV_CODEC_ID_ADPCM_IMA_EA_SEAD:
2023           layout = "ea-sead";
2024           break;
2025         case AV_CODEC_ID_ADPCM_MS:
2026           layout = "microsoft";
2027           break;
2028         case AV_CODEC_ID_ADPCM_4XM:
2029           layout = "4xm";
2030           break;
2031         case AV_CODEC_ID_ADPCM_XA:
2032           layout = "xa";
2033           break;
2034         case AV_CODEC_ID_ADPCM_ADX:
2035           layout = "adx";
2036           break;
2037         case AV_CODEC_ID_ADPCM_EA:
2038           layout = "ea";
2039           break;
2040         case AV_CODEC_ID_ADPCM_CT:
2041           layout = "ct";
2042           break;
2043         case AV_CODEC_ID_ADPCM_SWF:
2044           layout = "swf";
2045           break;
2046         case AV_CODEC_ID_ADPCM_YAMAHA:
2047           layout = "yamaha";
2048           break;
2049         case AV_CODEC_ID_ADPCM_SBPRO_2:
2050           layout = "sbpro2";
2051           break;
2052         case AV_CODEC_ID_ADPCM_SBPRO_3:
2053           layout = "sbpro3";
2054           break;
2055         case AV_CODEC_ID_ADPCM_SBPRO_4:
2056           layout = "sbpro4";
2057           break;
2058         case AV_CODEC_ID_ADPCM_EA_R1:
2059           layout = "ea-r1";
2060           break;
2061         case AV_CODEC_ID_ADPCM_EA_R2:
2062           layout = "ea-r3";
2063           break;
2064         case AV_CODEC_ID_ADPCM_EA_R3:
2065           layout = "ea-r3";
2066           break;
2067         case AV_CODEC_ID_ADPCM_EA_MAXIS_XA:
2068           layout = "ea-maxis-xa";
2069           break;
2070         case AV_CODEC_ID_ADPCM_EA_XAS:
2071           layout = "ea-xas";
2072           break;
2073         case AV_CODEC_ID_ADPCM_THP:
2074           layout = "thp";
2075           break;
2076         default:
2077           g_assert (0);         /* don't worry, we never get here */
2078           break;
2079       }
2080
2081       /* FIXME: someone please check whether we need additional properties
2082        * in this caps definition. */
2083       caps =
2084           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-adpcm",
2085           "layout", G_TYPE_STRING, layout, NULL);
2086       if (context)
2087         gst_caps_set_simple (caps,
2088             "block_align", G_TYPE_INT, context->block_align,
2089             "bitrate", G_TYPE_INT, (guint) context->bit_rate, NULL);
2090     }
2091       break;
2092
2093     case AV_CODEC_ID_AMR_NB:
2094       caps =
2095           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/AMR",
2096           NULL);
2097       break;
2098
2099     case AV_CODEC_ID_AMR_WB:
2100       caps =
2101           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/AMR-WB",
2102           NULL);
2103       break;
2104
2105     case AV_CODEC_ID_GSM:
2106       caps =
2107           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-gsm",
2108           NULL);
2109       break;
2110
2111     case AV_CODEC_ID_GSM_MS:
2112       caps =
2113           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/ms-gsm",
2114           NULL);
2115       break;
2116
2117     case AV_CODEC_ID_NELLYMOSER:
2118       caps =
2119           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
2120           "audio/x-nellymoser", NULL);
2121       break;
2122
2123     case AV_CODEC_ID_SIPR:
2124     {
2125       caps =
2126           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-sipro",
2127           NULL);
2128       if (context) {
2129         gst_caps_set_simple (caps,
2130             "leaf_size", G_TYPE_INT, context->block_align,
2131             "bitrate", G_TYPE_INT, (guint) context->bit_rate, NULL);
2132       }
2133     }
2134       break;
2135
2136     case AV_CODEC_ID_RA_144:
2137     case AV_CODEC_ID_RA_288:
2138     case AV_CODEC_ID_COOK:
2139     {
2140       gint version = 0;
2141
2142       switch (codec_id) {
2143         case AV_CODEC_ID_RA_144:
2144           version = 1;
2145           break;
2146         case AV_CODEC_ID_RA_288:
2147           version = 2;
2148           break;
2149         case AV_CODEC_ID_COOK:
2150           version = 8;
2151           break;
2152         default:
2153           break;
2154       }
2155
2156       /* FIXME: properties? */
2157       caps =
2158           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
2159           "audio/x-pn-realaudio", "raversion", G_TYPE_INT, version, NULL);
2160       if (context) {
2161         gst_caps_set_simple (caps,
2162             "leaf_size", G_TYPE_INT, context->block_align,
2163             "bitrate", G_TYPE_INT, (guint) context->bit_rate, NULL);
2164       }
2165     }
2166       break;
2167
2168     case AV_CODEC_ID_ROQ_DPCM:
2169     case AV_CODEC_ID_INTERPLAY_DPCM:
2170     case AV_CODEC_ID_XAN_DPCM:
2171     case AV_CODEC_ID_SOL_DPCM:
2172     {
2173       const gchar *layout = NULL;
2174
2175       switch (codec_id) {
2176         case AV_CODEC_ID_ROQ_DPCM:
2177           layout = "roq";
2178           break;
2179         case AV_CODEC_ID_INTERPLAY_DPCM:
2180           layout = "interplay";
2181           break;
2182         case AV_CODEC_ID_XAN_DPCM:
2183           layout = "xan";
2184           break;
2185         case AV_CODEC_ID_SOL_DPCM:
2186           layout = "sol";
2187           break;
2188         default:
2189           g_assert (0);         /* don't worry, we never get here */
2190           break;
2191       }
2192
2193       /* FIXME: someone please check whether we need additional properties
2194        * in this caps definition. */
2195       caps =
2196           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-dpcm",
2197           "layout", G_TYPE_STRING, layout, NULL);
2198       if (context)
2199         gst_caps_set_simple (caps,
2200             "block_align", G_TYPE_INT, context->block_align,
2201             "bitrate", G_TYPE_INT, (guint) context->bit_rate, NULL);
2202     }
2203       break;
2204
2205     case AV_CODEC_ID_SHORTEN:
2206       caps = gst_caps_new_empty_simple ("audio/x-shorten");
2207       break;
2208
2209     case AV_CODEC_ID_ALAC:
2210       caps =
2211           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-alac",
2212           NULL);
2213       if (context) {
2214         gst_caps_set_simple (caps,
2215             "samplesize", G_TYPE_INT, context->bits_per_coded_sample, NULL);
2216       }
2217       break;
2218
2219     case AV_CODEC_ID_FLAC:
2220       /* Note that ffmpeg has no encoder yet, but just for safety. In the
2221        * encoder case, we want to add things like samplerate, channels... */
2222       if (!encode) {
2223         caps = gst_caps_new_empty_simple ("audio/x-flac");
2224       }
2225       break;
2226
2227     case AV_CODEC_ID_OPUS:
2228       /* Note that ffmpeg has no encoder yet, but just for safety. In the
2229        * encoder case, we want to add things like samplerate, channels... */
2230       if (!encode) {
2231         /* FIXME: can ffmpeg handle multichannel Opus? */
2232         caps = gst_caps_new_simple ("audio/x-opus",
2233             "channel-mapping-family", G_TYPE_INT, 0, NULL);
2234       }
2235       break;
2236
2237     case AV_CODEC_ID_S302M:
2238       caps = gst_caps_new_empty_simple ("audio/x-smpte-302m");
2239       break;
2240
2241     case AV_CODEC_ID_DVD_SUBTITLE:
2242     case AV_CODEC_ID_DVB_SUBTITLE:
2243       caps = NULL;
2244       break;
2245     case AV_CODEC_ID_BMP:
2246       caps = gst_caps_new_empty_simple ("image/bmp");
2247       break;
2248     case AV_CODEC_ID_TTA:
2249       caps =
2250           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-tta",
2251           NULL);
2252       if (context) {
2253         gst_caps_set_simple (caps,
2254             "samplesize", G_TYPE_INT, context->bits_per_coded_sample, NULL);
2255       }
2256       break;
2257     case AV_CODEC_ID_TWINVQ:
2258       caps =
2259           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
2260           "audio/x-twin-vq", NULL);
2261       break;
2262     case AV_CODEC_ID_G729:
2263       caps =
2264           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/G729",
2265           NULL);
2266       break;
2267     case AV_CODEC_ID_DSD_LSBF:
2268       caps =
2269           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-dsd",
2270           NULL);
2271       gst_caps_set_simple (caps, "lsbf", G_TYPE_BOOLEAN,
2272           TRUE, "planar", G_TYPE_BOOLEAN, FALSE, NULL);
2273       break;
2274     case AV_CODEC_ID_DSD_MSBF:
2275       caps =
2276           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-dsd",
2277           NULL);
2278       gst_caps_set_simple (caps, "lsbf", G_TYPE_BOOLEAN,
2279           FALSE, "planar", G_TYPE_BOOLEAN, FALSE, NULL);
2280       break;
2281     case AV_CODEC_ID_DSD_LSBF_PLANAR:
2282       caps =
2283           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-dsd",
2284           NULL);
2285       gst_caps_set_simple (caps, "lsbf", G_TYPE_BOOLEAN,
2286           TRUE, "planar", G_TYPE_BOOLEAN, TRUE, NULL);
2287       break;
2288     case AV_CODEC_ID_DSD_MSBF_PLANAR:
2289       caps =
2290           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-dsd",
2291           NULL);
2292       gst_caps_set_simple (caps, "lsbf", G_TYPE_BOOLEAN,
2293           FALSE, "planar", G_TYPE_BOOLEAN, TRUE, NULL);
2294       break;
2295     default:
2296       GST_DEBUG ("Unknown codec ID %d, please add mapping here", codec_id);
2297       break;
2298   }
2299
2300   if (buildcaps) {
2301     AVCodec *codec;
2302
2303     if ((codec = avcodec_find_decoder (codec_id)) ||
2304         (codec = avcodec_find_encoder (codec_id))) {
2305       gchar *mime = NULL;
2306
2307       GST_LOG ("Could not create stream format caps for %s", codec->name);
2308
2309       switch (codec->type) {
2310         case AVMEDIA_TYPE_VIDEO:
2311           mime = g_strdup_printf ("video/x-gst-av-%s", codec->name);
2312           caps =
2313               gst_ff_vid_caps_new (context, NULL, codec_id, encode, mime, NULL);
2314           g_free (mime);
2315           break;
2316         case AVMEDIA_TYPE_AUDIO:
2317           mime = g_strdup_printf ("audio/x-gst-av-%s", codec->name);
2318           caps =
2319               gst_ff_aud_caps_new (context, NULL, codec_id, encode, mime, NULL);
2320           if (context)
2321             gst_caps_set_simple (caps,
2322                 "block_align", G_TYPE_INT, context->block_align,
2323                 "bitrate", G_TYPE_INT, (guint) context->bit_rate, NULL);
2324           g_free (mime);
2325           break;
2326         default:
2327           break;
2328       }
2329     }
2330   }
2331
2332   if (caps != NULL) {
2333
2334     /* set private data */
2335     if (context && context->extradata_size > 0) {
2336       GstBuffer *data = gst_buffer_new_and_alloc (context->extradata_size);
2337
2338       gst_buffer_fill (data, 0, context->extradata, context->extradata_size);
2339       gst_caps_set_simple (caps, "codec_data", GST_TYPE_BUFFER, data, NULL);
2340       gst_buffer_unref (data);
2341     }
2342
2343     GST_LOG ("caps for codec_id=%d: %" GST_PTR_FORMAT, codec_id, caps);
2344
2345   } else {
2346     GST_LOG ("No caps found for codec_id=%d", codec_id);
2347   }
2348
2349   return caps;
2350 }
2351
2352 /* Convert a FFMPEG Pixel Format and optional AVCodecContext
2353  * to a GstCaps. If the context is ommitted, no fixed values
2354  * for video/audio size will be included in the GstCaps
2355  *
2356  * See below for usefullness
2357  */
2358
2359 static GstCaps *
2360 gst_ffmpeg_pixfmt_to_caps (enum AVPixelFormat pix_fmt, AVCodecContext * context,
2361     enum AVCodecID codec_id)
2362 {
2363   GstCaps *caps = NULL;
2364   GstVideoFormat format;
2365
2366   format = gst_ffmpeg_pixfmt_to_videoformat (pix_fmt);
2367
2368   if (format != GST_VIDEO_FORMAT_UNKNOWN) {
2369     caps = gst_ff_vid_caps_new (context, NULL, codec_id, TRUE, "video/x-raw",
2370         "format", G_TYPE_STRING, gst_video_format_to_string (format), NULL);
2371   }
2372
2373   if (caps != NULL) {
2374     GST_DEBUG ("caps for pix_fmt=%d: %" GST_PTR_FORMAT, pix_fmt, caps);
2375   } else {
2376     GST_LOG ("No caps found for pix_fmt=%d", pix_fmt);
2377   }
2378
2379   return caps;
2380 }
2381
2382 GstAudioFormat
2383 gst_ffmpeg_smpfmt_to_audioformat (enum AVSampleFormat sample_fmt,
2384     GstAudioLayout * layout)
2385 {
2386   if (layout)
2387     *layout = GST_AUDIO_LAYOUT_NON_INTERLEAVED;
2388
2389   switch (sample_fmt) {
2390     case AV_SAMPLE_FMT_U8:
2391       if (layout)
2392         *layout = GST_AUDIO_LAYOUT_INTERLEAVED;
2393     case AV_SAMPLE_FMT_U8P:
2394       return GST_AUDIO_FORMAT_U8;
2395       break;
2396
2397     case AV_SAMPLE_FMT_S16:
2398       if (layout)
2399         *layout = GST_AUDIO_LAYOUT_INTERLEAVED;
2400     case AV_SAMPLE_FMT_S16P:
2401       return GST_AUDIO_FORMAT_S16;
2402       break;
2403
2404     case AV_SAMPLE_FMT_S32:
2405       if (layout)
2406         *layout = GST_AUDIO_LAYOUT_INTERLEAVED;
2407     case AV_SAMPLE_FMT_S32P:
2408       return GST_AUDIO_FORMAT_S32;
2409       break;
2410     case AV_SAMPLE_FMT_FLT:
2411       if (layout)
2412         *layout = GST_AUDIO_LAYOUT_INTERLEAVED;
2413     case AV_SAMPLE_FMT_FLTP:
2414       return GST_AUDIO_FORMAT_F32;
2415       break;
2416
2417     case AV_SAMPLE_FMT_DBL:
2418       if (layout)
2419         *layout = GST_AUDIO_LAYOUT_INTERLEAVED;
2420     case AV_SAMPLE_FMT_DBLP:
2421       return GST_AUDIO_FORMAT_F64;
2422       break;
2423
2424     default:
2425       /* .. */
2426       return GST_AUDIO_FORMAT_UNKNOWN;
2427       break;
2428   }
2429 }
2430
2431 /* Convert a FFMPEG Sample Format and optional AVCodecContext
2432  * to a GstCaps. If the context is ommitted, no fixed values
2433  * for video/audio size will be included in the GstCaps
2434  *
2435  * See below for usefullness
2436  */
2437
2438 static GstCaps *
2439 gst_ffmpeg_smpfmt_to_caps (enum AVSampleFormat sample_fmt,
2440     AVCodecContext * context, AVCodec * codec, enum AVCodecID codec_id)
2441 {
2442   GstCaps *caps = NULL;
2443   GstAudioFormat format;
2444   GstAudioLayout layout;
2445
2446   format = gst_ffmpeg_smpfmt_to_audioformat (sample_fmt, &layout);
2447
2448   if (format != GST_AUDIO_FORMAT_UNKNOWN) {
2449     caps = gst_ff_aud_caps_new (context, codec, codec_id, TRUE, "audio/x-raw",
2450         "format", G_TYPE_STRING, gst_audio_format_to_string (format),
2451         "layout", G_TYPE_STRING,
2452         (layout == GST_AUDIO_LAYOUT_INTERLEAVED) ?
2453         "interleaved" : "non-interleaved", NULL);
2454     GST_LOG ("caps for sample_fmt=%d: %" GST_PTR_FORMAT, sample_fmt, caps);
2455   } else {
2456     GST_LOG ("No caps found for sample_fmt=%d", sample_fmt);
2457   }
2458
2459   return caps;
2460 }
2461
2462 static gboolean
2463 caps_has_field (GstCaps * caps, const gchar * field)
2464 {
2465   guint i, n;
2466
2467   n = gst_caps_get_size (caps);
2468   for (i = 0; i < n; i++) {
2469     GstStructure *s = gst_caps_get_structure (caps, i);
2470
2471     if (gst_structure_has_field (s, field))
2472       return TRUE;
2473   }
2474
2475   return FALSE;
2476 }
2477
2478 GstCaps *
2479 gst_ffmpeg_codectype_to_audio_caps (AVCodecContext * context,
2480     enum AVCodecID codec_id, gboolean encode, AVCodec * codec)
2481 {
2482   GstCaps *caps = NULL;
2483
2484   GST_DEBUG ("context:%p, codec_id:%d, encode:%d, codec:%p",
2485       context, codec_id, encode, codec);
2486   if (codec)
2487     GST_DEBUG ("sample_fmts:%p, samplerates:%p",
2488         codec->sample_fmts, codec->supported_samplerates);
2489
2490   if (context) {
2491     /* Specific codec context */
2492     caps =
2493         gst_ffmpeg_smpfmt_to_caps (context->sample_fmt, context, codec,
2494         codec_id);
2495   } else {
2496     caps = gst_ff_aud_caps_new (context, codec, codec_id, encode, "audio/x-raw",
2497         NULL);
2498     if (!caps_has_field (caps, "format"))
2499       gst_ffmpeg_audio_set_sample_fmts (caps,
2500           codec ? codec->sample_fmts : NULL, encode);
2501   }
2502
2503   return caps;
2504 }
2505
2506 GstCaps *
2507 gst_ffmpeg_codectype_to_video_caps (AVCodecContext * context,
2508     enum AVCodecID codec_id, gboolean encode, AVCodec * codec)
2509 {
2510   GstCaps *caps;
2511
2512   GST_LOG ("context:%p, codec_id:%d, encode:%d, codec:%p",
2513       context, codec_id, encode, codec);
2514
2515   if (context) {
2516     caps = gst_ffmpeg_pixfmt_to_caps (context->pix_fmt, context, codec_id);
2517   } else {
2518     caps =
2519         gst_ff_vid_caps_new (context, codec, codec_id, encode, "video/x-raw",
2520         NULL);
2521     if (!caps_has_field (caps, "format"))
2522       gst_ffmpeg_video_set_pix_fmts (caps, codec ? codec->pix_fmts : NULL);
2523   }
2524   return caps;
2525 }
2526
2527 /* Convert a GstCaps (audio/raw) to a FFMPEG SampleFmt
2528  * and other audio properties in a AVCodecContext.
2529  *
2530  * For usefullness, see below
2531  */
2532
2533 static void
2534 gst_ffmpeg_caps_to_smpfmt (const GstCaps * caps,
2535     AVCodecContext * context, gboolean raw)
2536 {
2537   GstStructure *structure;
2538   const gchar *fmt;
2539   GstAudioFormat format = GST_AUDIO_FORMAT_UNKNOWN;
2540   gint bitrate;
2541   const gchar *layout;
2542   gboolean interleaved;
2543
2544   g_return_if_fail (gst_caps_get_size (caps) == 1);
2545
2546   structure = gst_caps_get_structure (caps, 0);
2547
2548   gst_structure_get_int (structure, "channels", &context->channels);
2549   gst_structure_get_int (structure, "rate", &context->sample_rate);
2550   gst_structure_get_int (structure, "block_align", &context->block_align);
2551   if (gst_structure_get_int (structure, "bitrate", &bitrate))
2552     context->bit_rate = bitrate;
2553
2554   if (!raw)
2555     return;
2556
2557   if (gst_structure_has_name (structure, "audio/x-raw")) {
2558     if ((fmt = gst_structure_get_string (structure, "format"))) {
2559       format = gst_audio_format_from_string (fmt);
2560     }
2561   }
2562
2563   layout = gst_structure_get_string (structure, "layout");
2564   interleaved = ! !g_strcmp0 (layout, "non-interleaved");
2565
2566   switch (format) {
2567     case GST_AUDIO_FORMAT_F32:
2568       context->sample_fmt =
2569           interleaved ? AV_SAMPLE_FMT_FLT : AV_SAMPLE_FMT_FLTP;
2570       break;
2571     case GST_AUDIO_FORMAT_F64:
2572       context->sample_fmt =
2573           interleaved ? AV_SAMPLE_FMT_DBL : AV_SAMPLE_FMT_DBLP;
2574       break;
2575     case GST_AUDIO_FORMAT_S32:
2576       context->sample_fmt =
2577           interleaved ? AV_SAMPLE_FMT_S32 : AV_SAMPLE_FMT_S32P;
2578       break;
2579     case GST_AUDIO_FORMAT_S16:
2580       context->sample_fmt =
2581           interleaved ? AV_SAMPLE_FMT_S16 : AV_SAMPLE_FMT_S16P;
2582       break;
2583     default:
2584       break;
2585   }
2586 }
2587
2588 /* Convert a GstCaps (video/raw) to a FFMPEG PixFmt
2589  * and other video properties in a AVCodecContext.
2590  *
2591  * For usefullness, see below
2592  */
2593
2594 static void
2595 gst_ffmpeg_caps_to_pixfmt (const GstCaps * caps,
2596     AVCodecContext * context, gboolean raw)
2597 {
2598   GstStructure *structure;
2599   const GValue *fps;
2600   const GValue *par = NULL;
2601   const gchar *fmt;
2602   GstVideoFormat format = GST_VIDEO_FORMAT_UNKNOWN;
2603   const gchar *s;
2604
2605   GST_DEBUG ("converting caps %" GST_PTR_FORMAT, caps);
2606   g_return_if_fail (gst_caps_get_size (caps) == 1);
2607   structure = gst_caps_get_structure (caps, 0);
2608
2609   gst_structure_get_int (structure, "width", &context->width);
2610   gst_structure_get_int (structure, "height", &context->height);
2611   gst_structure_get_int (structure, "bpp", &context->bits_per_coded_sample);
2612
2613   fps = gst_structure_get_value (structure, "framerate");
2614   if (fps != NULL && GST_VALUE_HOLDS_FRACTION (fps)) {
2615
2616     int num = gst_value_get_fraction_numerator (fps);
2617     int den = gst_value_get_fraction_denominator (fps);
2618
2619     if (num > 0 && den > 0) {
2620       /* somehow these seem mixed up.. */
2621       /* they're fine, this is because it does period=1/frequency */
2622       context->time_base.den = gst_value_get_fraction_numerator (fps);
2623       context->time_base.num = gst_value_get_fraction_denominator (fps);
2624       context->ticks_per_frame = 1;
2625
2626       GST_DEBUG ("setting framerate %d/%d = %lf",
2627           context->time_base.den, context->time_base.num,
2628           1. * context->time_base.den / context->time_base.num);
2629     } else {
2630       GST_INFO ("ignoring framerate %d/%d (probably variable framerate)",
2631           context->time_base.num, context->time_base.den);
2632     }
2633   }
2634
2635   par = gst_structure_get_value (structure, "pixel-aspect-ratio");
2636   if (par && GST_VALUE_HOLDS_FRACTION (par)) {
2637
2638     int num = gst_value_get_fraction_numerator (par);
2639     int den = gst_value_get_fraction_denominator (par);
2640
2641     if (num > 0 && den > 0) {
2642       context->sample_aspect_ratio.num = num;
2643       context->sample_aspect_ratio.den = den;
2644
2645       GST_DEBUG ("setting pixel-aspect-ratio %d/%d = %lf",
2646           context->sample_aspect_ratio.num, context->sample_aspect_ratio.den,
2647           1. * context->sample_aspect_ratio.num /
2648           context->sample_aspect_ratio.den);
2649     } else {
2650       GST_WARNING ("ignoring insane pixel-aspect-ratio %d/%d",
2651           context->sample_aspect_ratio.num, context->sample_aspect_ratio.den);
2652     }
2653   }
2654
2655   if (!raw)
2656     return;
2657
2658   g_return_if_fail (fps != NULL && GST_VALUE_HOLDS_FRACTION (fps));
2659
2660   if (gst_structure_has_name (structure, "video/x-raw")) {
2661     if ((fmt = gst_structure_get_string (structure, "format"))) {
2662       format = gst_video_format_from_string (fmt);
2663     }
2664   }
2665
2666   switch (format) {
2667     case GST_VIDEO_FORMAT_YUY2:
2668       context->pix_fmt = AV_PIX_FMT_YUYV422;
2669       break;
2670     case GST_VIDEO_FORMAT_I420:
2671       context->pix_fmt = AV_PIX_FMT_YUV420P;
2672       break;
2673     case GST_VIDEO_FORMAT_A420:
2674       context->pix_fmt = AV_PIX_FMT_YUVA420P;
2675       break;
2676     case GST_VIDEO_FORMAT_Y41B:
2677       context->pix_fmt = AV_PIX_FMT_YUV411P;
2678       break;
2679     case GST_VIDEO_FORMAT_Y42B:
2680       context->pix_fmt = AV_PIX_FMT_YUV422P;
2681       break;
2682     case GST_VIDEO_FORMAT_YUV9:
2683       context->pix_fmt = AV_PIX_FMT_YUV410P;
2684       break;
2685     case GST_VIDEO_FORMAT_Y444:
2686       context->pix_fmt = AV_PIX_FMT_YUV444P;
2687       break;
2688     case GST_VIDEO_FORMAT_GRAY8:
2689       context->pix_fmt = AV_PIX_FMT_GRAY8;
2690       break;
2691     case GST_VIDEO_FORMAT_xRGB:
2692 #if (G_BYTE_ORDER == G_BIG_ENDIAN)
2693       context->pix_fmt = AV_PIX_FMT_RGB32;
2694 #endif
2695       break;
2696     case GST_VIDEO_FORMAT_BGRx:
2697 #if (G_BYTE_ORDER == G_LITTLE_ENDIAN)
2698       context->pix_fmt = AV_PIX_FMT_RGB32;
2699 #endif
2700       break;
2701     case GST_VIDEO_FORMAT_RGB:
2702       context->pix_fmt = AV_PIX_FMT_RGB24;
2703       break;
2704     case GST_VIDEO_FORMAT_BGR:
2705       context->pix_fmt = AV_PIX_FMT_BGR24;
2706       break;
2707     case GST_VIDEO_FORMAT_RGB16:
2708       context->pix_fmt = AV_PIX_FMT_RGB565;
2709       break;
2710     case GST_VIDEO_FORMAT_RGB15:
2711       context->pix_fmt = AV_PIX_FMT_RGB555;
2712       break;
2713     case GST_VIDEO_FORMAT_RGB8P:
2714       context->pix_fmt = AV_PIX_FMT_PAL8;
2715       break;
2716     default:
2717       break;
2718   }
2719
2720   s = gst_structure_get_string (structure, "interlace-mode");
2721   if (s) {
2722     if (strcmp (s, "progressive") == 0) {
2723       context->field_order = AV_FIELD_PROGRESSIVE;
2724     } else if (strcmp (s, "interleaved") == 0) {
2725       s = gst_structure_get_string (structure, "field-order");
2726       if (s) {
2727         if (strcmp (s, "top-field-first") == 0) {
2728           context->field_order = AV_FIELD_TT;
2729         } else if (strcmp (s, "bottom-field-first") == 0) {
2730           context->field_order = AV_FIELD_TB;
2731         }
2732       }
2733     }
2734   }
2735 }
2736
2737 typedef struct
2738 {
2739   GstVideoFormat format;
2740   enum AVPixelFormat pixfmt;
2741 } PixToFmt;
2742
2743 /* FIXME : FILLME */
2744 static const PixToFmt pixtofmttable[] = {
2745   /* GST_VIDEO_FORMAT_I420, */
2746   {GST_VIDEO_FORMAT_I420, AV_PIX_FMT_YUV420P},
2747   /* Note : this should use a different chroma placement */
2748   {GST_VIDEO_FORMAT_I420, AV_PIX_FMT_YUVJ420P},
2749
2750   /* GST_VIDEO_FORMAT_YV12, */
2751   /* GST_VIDEO_FORMAT_YUY2, */
2752   {GST_VIDEO_FORMAT_YUY2, AV_PIX_FMT_YUYV422},
2753   /* GST_VIDEO_FORMAT_UYVY, */
2754   {GST_VIDEO_FORMAT_UYVY, AV_PIX_FMT_UYVY422},
2755   /* GST_VIDEO_FORMAT_AYUV, */
2756   /* GST_VIDEO_FORMAT_RGBx, */
2757   {GST_VIDEO_FORMAT_RGBx, AV_PIX_FMT_RGB0},
2758   /* GST_VIDEO_FORMAT_BGRx, */
2759   {GST_VIDEO_FORMAT_BGRx, AV_PIX_FMT_BGR0},
2760   /* GST_VIDEO_FORMAT_xRGB, */
2761   {GST_VIDEO_FORMAT_xRGB, AV_PIX_FMT_0RGB},
2762   /* GST_VIDEO_FORMAT_xBGR, */
2763   {GST_VIDEO_FORMAT_xBGR, AV_PIX_FMT_0BGR},
2764   /* GST_VIDEO_FORMAT_RGBA, */
2765   {GST_VIDEO_FORMAT_RGBA, AV_PIX_FMT_RGBA},
2766   /* GST_VIDEO_FORMAT_BGRA, */
2767   {GST_VIDEO_FORMAT_BGRA, AV_PIX_FMT_BGRA},
2768   /* GST_VIDEO_FORMAT_ARGB, */
2769   {GST_VIDEO_FORMAT_ARGB, AV_PIX_FMT_ARGB},
2770   /* GST_VIDEO_FORMAT_ABGR, */
2771   {GST_VIDEO_FORMAT_ABGR, AV_PIX_FMT_ABGR},
2772   /* GST_VIDEO_FORMAT_RGB, */
2773   {GST_VIDEO_FORMAT_RGB, AV_PIX_FMT_RGB24},
2774   /* GST_VIDEO_FORMAT_BGR, */
2775   {GST_VIDEO_FORMAT_BGR, AV_PIX_FMT_BGR24},
2776   /* GST_VIDEO_FORMAT_Y41B, */
2777   {GST_VIDEO_FORMAT_Y41B, AV_PIX_FMT_YUV411P},
2778   /* GST_VIDEO_FORMAT_Y42B, */
2779   {GST_VIDEO_FORMAT_Y42B, AV_PIX_FMT_YUV422P},
2780   {GST_VIDEO_FORMAT_Y42B, AV_PIX_FMT_YUVJ422P},
2781   /* GST_VIDEO_FORMAT_YVYU, */
2782   /* GST_VIDEO_FORMAT_Y444, */
2783   {GST_VIDEO_FORMAT_Y444, AV_PIX_FMT_YUV444P},
2784   {GST_VIDEO_FORMAT_Y444, AV_PIX_FMT_YUVJ444P},
2785   /* GST_VIDEO_FORMAT_v210, */
2786   /* GST_VIDEO_FORMAT_v216, */
2787   /* GST_VIDEO_FORMAT_NV12, */
2788   {GST_VIDEO_FORMAT_NV12, AV_PIX_FMT_NV12},
2789   /* GST_VIDEO_FORMAT_NV21, */
2790   {GST_VIDEO_FORMAT_NV21, AV_PIX_FMT_NV21},
2791   /* GST_VIDEO_FORMAT_GRAY8, */
2792   {GST_VIDEO_FORMAT_GRAY8, AV_PIX_FMT_GRAY8},
2793   /* GST_VIDEO_FORMAT_GRAY16_BE, */
2794   {GST_VIDEO_FORMAT_GRAY16_BE, AV_PIX_FMT_GRAY16BE},
2795   /* GST_VIDEO_FORMAT_GRAY16_LE, */
2796   {GST_VIDEO_FORMAT_GRAY16_LE, AV_PIX_FMT_GRAY16LE},
2797   /* GST_VIDEO_FORMAT_v308, */
2798   /* GST_VIDEO_FORMAT_Y800, */
2799   /* GST_VIDEO_FORMAT_Y16, */
2800   /* GST_VIDEO_FORMAT_RGB16, */
2801   {GST_VIDEO_FORMAT_RGB16, AV_PIX_FMT_RGB565},
2802   /* GST_VIDEO_FORMAT_BGR16, */
2803   /* GST_VIDEO_FORMAT_RGB15, */
2804   {GST_VIDEO_FORMAT_RGB15, AV_PIX_FMT_RGB555},
2805   /* GST_VIDEO_FORMAT_BGR15, */
2806   /* GST_VIDEO_FORMAT_UYVP, */
2807   /* GST_VIDEO_FORMAT_A420, */
2808   {GST_VIDEO_FORMAT_A420, AV_PIX_FMT_YUVA420P},
2809   /* GST_VIDEO_FORMAT_RGB8_PALETTED, */
2810   {GST_VIDEO_FORMAT_RGB8P, AV_PIX_FMT_PAL8},
2811   /* GST_VIDEO_FORMAT_YUV9, */
2812   {GST_VIDEO_FORMAT_YUV9, AV_PIX_FMT_YUV410P},
2813   /* GST_VIDEO_FORMAT_YVU9, */
2814   /* GST_VIDEO_FORMAT_IYU1, */
2815   /* GST_VIDEO_FORMAT_ARGB64, */
2816   /* GST_VIDEO_FORMAT_AYUV64, */
2817   /* GST_VIDEO_FORMAT_r210, */
2818   {GST_VIDEO_FORMAT_I420_10LE, AV_PIX_FMT_YUV420P10LE},
2819   {GST_VIDEO_FORMAT_I420_10BE, AV_PIX_FMT_YUV420P10BE},
2820   {GST_VIDEO_FORMAT_I422_10LE, AV_PIX_FMT_YUV422P10LE},
2821   {GST_VIDEO_FORMAT_I422_10BE, AV_PIX_FMT_YUV422P10BE},
2822   {GST_VIDEO_FORMAT_Y444_10LE, AV_PIX_FMT_YUV444P10LE},
2823   {GST_VIDEO_FORMAT_Y444_10BE, AV_PIX_FMT_YUV444P10BE},
2824   {GST_VIDEO_FORMAT_GBR, AV_PIX_FMT_GBRP},
2825   {GST_VIDEO_FORMAT_GBRA, AV_PIX_FMT_GBRAP},
2826   {GST_VIDEO_FORMAT_GBR_10LE, AV_PIX_FMT_GBRP10LE},
2827   {GST_VIDEO_FORMAT_GBR_10BE, AV_PIX_FMT_GBRP10BE},
2828   {GST_VIDEO_FORMAT_GBR_12LE, AV_PIX_FMT_GBRP12LE},
2829   {GST_VIDEO_FORMAT_GBR_12BE, AV_PIX_FMT_GBRP12BE},
2830   {GST_VIDEO_FORMAT_GBRA_12LE, AV_PIX_FMT_GBRAP12LE},
2831   {GST_VIDEO_FORMAT_GBRA_12BE, AV_PIX_FMT_GBRAP12BE},
2832   {GST_VIDEO_FORMAT_A420_10LE, AV_PIX_FMT_YUVA420P10LE},
2833   {GST_VIDEO_FORMAT_A420_10BE, AV_PIX_FMT_YUVA420P10BE},
2834   {GST_VIDEO_FORMAT_A422_10LE, AV_PIX_FMT_YUVA422P10LE},
2835   {GST_VIDEO_FORMAT_A422_10BE, AV_PIX_FMT_YUVA422P10BE},
2836   {GST_VIDEO_FORMAT_A444_10LE, AV_PIX_FMT_YUVA444P10LE},
2837   {GST_VIDEO_FORMAT_A444_10BE, AV_PIX_FMT_YUVA444P10BE},
2838   {GST_VIDEO_FORMAT_I420_12LE, AV_PIX_FMT_YUV420P12LE},
2839   {GST_VIDEO_FORMAT_I420_12BE, AV_PIX_FMT_YUV420P12BE},
2840   {GST_VIDEO_FORMAT_I422_12LE, AV_PIX_FMT_YUV422P12LE},
2841   {GST_VIDEO_FORMAT_I422_12BE, AV_PIX_FMT_YUV422P12BE},
2842   {GST_VIDEO_FORMAT_Y444_12LE, AV_PIX_FMT_YUV444P12LE},
2843   {GST_VIDEO_FORMAT_Y444_12BE, AV_PIX_FMT_YUV444P12BE},
2844 };
2845
2846 GstVideoFormat
2847 gst_ffmpeg_pixfmt_to_videoformat (enum AVPixelFormat pixfmt)
2848 {
2849   guint i;
2850
2851   for (i = 0; i < G_N_ELEMENTS (pixtofmttable); i++)
2852     if (pixtofmttable[i].pixfmt == pixfmt)
2853       return pixtofmttable[i].format;
2854
2855   GST_DEBUG ("Unknown pixel format %d", pixfmt);
2856   return GST_VIDEO_FORMAT_UNKNOWN;
2857 }
2858
2859 static enum AVPixelFormat
2860 gst_ffmpeg_videoformat_to_pixfmt_for_codec (GstVideoFormat format,
2861     const AVCodec * codec)
2862 {
2863   guint i;
2864
2865   for (i = 0; i < G_N_ELEMENTS (pixtofmttable); i++) {
2866     if (pixtofmttable[i].format == format) {
2867       gint j;
2868
2869       if (codec && codec->pix_fmts) {
2870         for (j = 0; codec->pix_fmts[j] != -1; j++) {
2871           if (pixtofmttable[i].pixfmt == codec->pix_fmts[j])
2872             return pixtofmttable[i].pixfmt;
2873         }
2874       } else {
2875         return pixtofmttable[i].pixfmt;
2876       }
2877     }
2878   }
2879
2880   return AV_PIX_FMT_NONE;
2881 }
2882
2883 enum AVPixelFormat
2884 gst_ffmpeg_videoformat_to_pixfmt (GstVideoFormat format)
2885 {
2886   return gst_ffmpeg_videoformat_to_pixfmt_for_codec (format, NULL);
2887 }
2888
2889 void
2890 gst_ffmpeg_videoinfo_to_context (GstVideoInfo * info, AVCodecContext * context)
2891 {
2892   gint i, bpp = 0;
2893
2894   context->width = GST_VIDEO_INFO_WIDTH (info);
2895   context->height = GST_VIDEO_INFO_HEIGHT (info);
2896   for (i = 0; i < GST_VIDEO_INFO_N_COMPONENTS (info); i++)
2897     bpp += GST_VIDEO_INFO_COMP_DEPTH (info, i);
2898   context->bits_per_coded_sample = bpp;
2899
2900   context->ticks_per_frame = 1;
2901   if (GST_VIDEO_INFO_FPS_N (info) == 0) {
2902     GST_DEBUG ("Using 25/1 framerate");
2903     context->time_base.den = 25;
2904     context->time_base.num = 1;
2905   } else {
2906     context->time_base.den = GST_VIDEO_INFO_FPS_N (info);
2907     context->time_base.num = GST_VIDEO_INFO_FPS_D (info);
2908   }
2909
2910   context->sample_aspect_ratio.num = GST_VIDEO_INFO_PAR_N (info);
2911   context->sample_aspect_ratio.den = GST_VIDEO_INFO_PAR_D (info);
2912
2913   context->pix_fmt =
2914       gst_ffmpeg_videoformat_to_pixfmt_for_codec (GST_VIDEO_INFO_FORMAT (info),
2915       context->codec);
2916
2917   switch (info->chroma_site) {
2918     case GST_VIDEO_CHROMA_SITE_MPEG2:
2919       context->chroma_sample_location = AVCHROMA_LOC_LEFT;
2920       break;
2921     case GST_VIDEO_CHROMA_SITE_JPEG:
2922       context->chroma_sample_location = AVCHROMA_LOC_CENTER;
2923       break;
2924     case GST_VIDEO_CHROMA_SITE_DV:
2925       context->chroma_sample_location = AVCHROMA_LOC_TOPLEFT;
2926       break;
2927     case GST_VIDEO_CHROMA_SITE_V_COSITED:
2928       context->chroma_sample_location = AVCHROMA_LOC_TOP;
2929       break;
2930     default:
2931       break;
2932   }
2933
2934   switch (info->colorimetry.primaries) {
2935     case GST_VIDEO_COLOR_PRIMARIES_BT709:
2936       context->color_primaries = AVCOL_PRI_BT709;
2937       break;
2938     case GST_VIDEO_COLOR_PRIMARIES_BT470M:
2939       context->color_primaries = AVCOL_PRI_BT470M;
2940       break;
2941     case GST_VIDEO_COLOR_PRIMARIES_BT470BG:
2942       context->color_primaries = AVCOL_PRI_BT470BG;
2943       break;
2944     case GST_VIDEO_COLOR_PRIMARIES_SMPTE170M:
2945       context->color_primaries = AVCOL_PRI_SMPTE170M;
2946       break;
2947     case GST_VIDEO_COLOR_PRIMARIES_SMPTE240M:
2948       context->color_primaries = AVCOL_PRI_SMPTE240M;
2949       break;
2950     case GST_VIDEO_COLOR_PRIMARIES_FILM:
2951       context->color_primaries = AVCOL_PRI_FILM;
2952       break;
2953     case GST_VIDEO_COLOR_PRIMARIES_BT2020:
2954       context->color_primaries = AVCOL_PRI_BT2020;
2955       break;
2956     default:
2957       break;
2958   }
2959
2960   switch (info->colorimetry.transfer) {
2961     case GST_VIDEO_TRANSFER_BT709:
2962       context->color_trc = AVCOL_TRC_BT709;
2963       break;
2964     case GST_VIDEO_TRANSFER_GAMMA22:
2965       context->color_trc = AVCOL_TRC_GAMMA22;
2966       break;
2967     case GST_VIDEO_TRANSFER_GAMMA28:
2968       context->color_trc = AVCOL_TRC_GAMMA28;
2969       break;
2970     case GST_VIDEO_TRANSFER_SMPTE240M:
2971       context->color_trc = AVCOL_TRC_SMPTE240M;
2972       break;
2973     case GST_VIDEO_TRANSFER_GAMMA10:
2974       context->color_trc = AVCOL_TRC_LINEAR;
2975       break;
2976     case GST_VIDEO_TRANSFER_LOG100:
2977       context->color_trc = AVCOL_TRC_LOG;
2978       break;
2979     case GST_VIDEO_TRANSFER_LOG316:
2980       context->color_trc = AVCOL_TRC_LOG_SQRT;
2981       break;
2982     case GST_VIDEO_TRANSFER_BT2020_12:
2983       context->color_trc = AVCOL_TRC_BT2020_12;
2984       break;
2985     default:
2986       break;
2987   }
2988
2989   switch (info->colorimetry.matrix) {
2990     case GST_VIDEO_COLOR_MATRIX_RGB:
2991       context->colorspace = AVCOL_SPC_RGB;
2992       break;
2993     case GST_VIDEO_COLOR_MATRIX_BT709:
2994       context->colorspace = AVCOL_SPC_BT709;
2995       break;
2996     case GST_VIDEO_COLOR_MATRIX_FCC:
2997       context->colorspace = AVCOL_SPC_FCC;
2998       break;
2999     case GST_VIDEO_COLOR_MATRIX_BT601:
3000       context->colorspace = AVCOL_SPC_BT470BG;
3001       break;
3002     case GST_VIDEO_COLOR_MATRIX_SMPTE240M:
3003       context->colorspace = AVCOL_SPC_SMPTE240M;
3004       break;
3005     case GST_VIDEO_COLOR_MATRIX_BT2020:
3006       context->colorspace = AVCOL_SPC_BT2020_NCL;
3007       break;
3008     default:
3009       break;
3010   }
3011
3012   if (info->colorimetry.range == GST_VIDEO_COLOR_RANGE_0_255) {
3013     context->color_range = AVCOL_RANGE_JPEG;
3014   } else {
3015     context->color_range = AVCOL_RANGE_MPEG;
3016   }
3017 }
3018
3019 void
3020 gst_ffmpeg_audioinfo_to_context (GstAudioInfo * info, AVCodecContext * context)
3021 {
3022   const AVCodec *codec;
3023   const enum AVSampleFormat *smpl_fmts;
3024   enum AVSampleFormat smpl_fmt = -1;
3025
3026   context->channels = info->channels;
3027   context->sample_rate = info->rate;
3028   context->channel_layout =
3029       gst_ffmpeg_channel_positions_to_layout (info->position, info->channels);
3030
3031   codec = context->codec;
3032
3033   smpl_fmts = codec->sample_fmts;
3034
3035   switch (info->finfo->format) {
3036     case GST_AUDIO_FORMAT_F32:
3037       if (smpl_fmts) {
3038         while (*smpl_fmts != -1) {
3039           if (*smpl_fmts == AV_SAMPLE_FMT_FLT) {
3040             smpl_fmt = *smpl_fmts;
3041             break;
3042           } else if (*smpl_fmts == AV_SAMPLE_FMT_FLTP) {
3043             smpl_fmt = *smpl_fmts;
3044           }
3045
3046           smpl_fmts++;
3047         }
3048       } else {
3049         smpl_fmt = AV_SAMPLE_FMT_FLT;
3050       }
3051       break;
3052     case GST_AUDIO_FORMAT_F64:
3053       if (smpl_fmts) {
3054         while (*smpl_fmts != -1) {
3055           if (*smpl_fmts == AV_SAMPLE_FMT_DBL) {
3056             smpl_fmt = *smpl_fmts;
3057             break;
3058           } else if (*smpl_fmts == AV_SAMPLE_FMT_DBLP) {
3059             smpl_fmt = *smpl_fmts;
3060           }
3061
3062           smpl_fmts++;
3063         }
3064       } else {
3065         smpl_fmt = AV_SAMPLE_FMT_DBL;
3066       }
3067       break;
3068     case GST_AUDIO_FORMAT_S32:
3069       if (smpl_fmts) {
3070         while (*smpl_fmts != -1) {
3071           if (*smpl_fmts == AV_SAMPLE_FMT_S32) {
3072             smpl_fmt = *smpl_fmts;
3073             break;
3074           } else if (*smpl_fmts == AV_SAMPLE_FMT_S32P) {
3075             smpl_fmt = *smpl_fmts;
3076           }
3077
3078           smpl_fmts++;
3079         }
3080       } else {
3081         smpl_fmt = AV_SAMPLE_FMT_S32;
3082       }
3083       break;
3084     case GST_AUDIO_FORMAT_S16:
3085       if (smpl_fmts) {
3086         while (*smpl_fmts != -1) {
3087           if (*smpl_fmts == AV_SAMPLE_FMT_S16) {
3088             smpl_fmt = *smpl_fmts;
3089             break;
3090           } else if (*smpl_fmts == AV_SAMPLE_FMT_S16P) {
3091             smpl_fmt = *smpl_fmts;
3092           }
3093
3094           smpl_fmts++;
3095         }
3096       } else {
3097         smpl_fmt = AV_SAMPLE_FMT_S16;
3098       }
3099       break;
3100     case GST_AUDIO_FORMAT_U8:
3101       if (smpl_fmts) {
3102         while (*smpl_fmts != -1) {
3103           if (*smpl_fmts == AV_SAMPLE_FMT_U8) {
3104             smpl_fmt = *smpl_fmts;
3105             break;
3106           } else if (*smpl_fmts == AV_SAMPLE_FMT_U8P) {
3107             smpl_fmt = *smpl_fmts;
3108           }
3109
3110           smpl_fmts++;
3111         }
3112       } else {
3113         smpl_fmt = AV_SAMPLE_FMT_U8;
3114       }
3115       break;
3116     default:
3117       break;
3118   }
3119
3120   g_assert (smpl_fmt != -1);
3121
3122   context->sample_fmt = smpl_fmt;
3123 }
3124
3125 /* Convert a GstCaps and a FFMPEG codec Type to a
3126  * AVCodecContext. If the context is ommitted, no fixed values
3127  * for video/audio size will be included in the context
3128  *
3129  * AVMediaType is primarily meant for uncompressed data GstCaps!
3130  */
3131
3132 void
3133 gst_ffmpeg_caps_with_codectype (enum AVMediaType type,
3134     const GstCaps * caps, AVCodecContext * context)
3135 {
3136   if (context == NULL)
3137     return;
3138
3139   switch (type) {
3140     case AVMEDIA_TYPE_VIDEO:
3141       gst_ffmpeg_caps_to_pixfmt (caps, context, TRUE);
3142       break;
3143
3144     case AVMEDIA_TYPE_AUDIO:
3145       gst_ffmpeg_caps_to_smpfmt (caps, context, TRUE);
3146       break;
3147
3148     default:
3149       /* unknown */
3150       break;
3151   }
3152 }
3153
3154 #if 0
3155 static void
3156 nal_escape (guint8 * dst, guint8 * src, guint size, guint * destsize)
3157 {
3158   guint8 *dstp = dst;
3159   guint8 *srcp = src;
3160   guint8 *end = src + size;
3161   gint count = 0;
3162
3163   while (srcp < end) {
3164     if (count == 2 && *srcp <= 0x03) {
3165       GST_DEBUG ("added escape code");
3166       *dstp++ = 0x03;
3167       count = 0;
3168     }
3169     if (*srcp == 0)
3170       count++;
3171     else
3172       count = 0;
3173
3174     GST_DEBUG ("copy %02x, count %d", *srcp, count);
3175     *dstp++ = *srcp++;
3176   }
3177   *destsize = dstp - dst;
3178 }
3179
3180 /* copy the config, escaping NAL units as we iterate them, if something fails we
3181  * copy everything and hope for the best. */
3182 static void
3183 copy_config (guint8 * dst, guint8 * src, guint size, guint * destsize)
3184 {
3185   guint8 *dstp = dst;
3186   guint8 *srcp = src;
3187   gint cnt, i;
3188   guint nalsize, esize;
3189
3190   /* check size */
3191   if (size < 7)
3192     goto full_copy;
3193
3194   /* check version */
3195   if (*srcp != 1)
3196     goto full_copy;
3197
3198   cnt = *(srcp + 5) & 0x1f;     /* Number of sps */
3199
3200   GST_DEBUG ("num SPS %d", cnt);
3201
3202   memcpy (dstp, srcp, 6);
3203   srcp += 6;
3204   dstp += 6;
3205
3206   for (i = 0; i < cnt; i++) {
3207     GST_DEBUG ("copy SPS %d", i);
3208     nalsize = (srcp[0] << 8) | srcp[1];
3209     nal_escape (dstp + 2, srcp + 2, nalsize, &esize);
3210     dstp[0] = esize >> 8;
3211     dstp[1] = esize & 0xff;
3212     dstp += esize + 2;
3213     srcp += nalsize + 2;
3214   }
3215
3216   cnt = *(dstp++) = *(srcp++);  /* Number of pps */
3217
3218   GST_DEBUG ("num PPS %d", cnt);
3219
3220   for (i = 0; i < cnt; i++) {
3221     GST_DEBUG ("copy PPS %d", i);
3222     nalsize = (srcp[0] << 8) | srcp[1];
3223     nal_escape (dstp + 2, srcp + 2, nalsize, &esize);
3224     dstp[0] = esize >> 8;
3225     dstp[1] = esize & 0xff;
3226     dstp += esize + 2;
3227     srcp += nalsize + 2;
3228   }
3229   *destsize = dstp - dst;
3230
3231   return;
3232
3233 full_copy:
3234   {
3235     GST_DEBUG ("something unexpected, doing full copy");
3236     memcpy (dst, src, size);
3237     *destsize = size;
3238     return;
3239   }
3240 }
3241 #endif
3242
3243 /*
3244  * caps_with_codecid () transforms a GstCaps for a known codec
3245  * ID into a filled-in context.
3246  * codec_data from caps will override possible extradata already in the context
3247  */
3248
3249 void
3250 gst_ffmpeg_caps_with_codecid (enum AVCodecID codec_id,
3251     enum AVMediaType codec_type, const GstCaps * caps, AVCodecContext * context)
3252 {
3253   GstStructure *str;
3254   const GValue *value;
3255   GstBuffer *buf;
3256
3257   GST_LOG ("codec_id:%d, codec_type:%d, caps:%" GST_PTR_FORMAT " context:%p",
3258       codec_id, codec_type, caps, context);
3259
3260   if (!context || !gst_caps_get_size (caps))
3261     return;
3262
3263   str = gst_caps_get_structure (caps, 0);
3264
3265   /* extradata parsing (esds [mpeg4], wma/wmv, msmpeg4v1/2/3, etc.) */
3266   if ((value = gst_structure_get_value (str, "codec_data"))) {
3267     GstMapInfo map;
3268
3269     buf = gst_value_get_buffer (value);
3270     gst_buffer_map (buf, &map, GST_MAP_READ);
3271
3272     /* free the old one if it is there */
3273     if (context->extradata)
3274       av_free (context->extradata);
3275
3276 #if 0
3277     if (codec_id == AV_CODEC_ID_H264) {
3278       guint extrasize;
3279
3280       GST_DEBUG ("copy, escaping codec_data %d", size);
3281       /* ffmpeg h264 expects the codec_data to be escaped, there is no real
3282        * reason for this but let's just escape it for now. Start by allocating
3283        * enough space, x2 is more than enough.
3284        *
3285        * FIXME, we disabled escaping because some file already contain escaped
3286        * codec_data and then we escape twice and fail. It's better to leave it
3287        * as is, as that is what most players do. */
3288       context->extradata =
3289           av_mallocz (GST_ROUND_UP_16 (size * 2 +
3290               AV_INPUT_BUFFER_PADDING_SIZE));
3291       copy_config (context->extradata, data, size, &extrasize);
3292       GST_DEBUG ("escaped size: %d", extrasize);
3293       context->extradata_size = extrasize;
3294     } else
3295 #endif
3296     {
3297       /* allocate with enough padding */
3298       GST_DEBUG ("copy codec_data");
3299       context->extradata =
3300           av_mallocz (GST_ROUND_UP_16 (map.size +
3301               AV_INPUT_BUFFER_PADDING_SIZE));
3302       memcpy (context->extradata, map.data, map.size);
3303       context->extradata_size = map.size;
3304     }
3305
3306     /* Hack for VC1. Sometimes the first (length) byte is 0 for some files */
3307     if (codec_id == AV_CODEC_ID_VC1 && map.size > 0 && map.data[0] == 0) {
3308       context->extradata[0] = (guint8) map.size;
3309     }
3310
3311     GST_DEBUG ("have codec data of size %" G_GSIZE_FORMAT, map.size);
3312
3313     gst_buffer_unmap (buf, &map);
3314 #ifdef GST_TIZEN_MODIFICATION
3315   } else if (!context->extradata) {
3316 #else
3317   } else {
3318     context->extradata = NULL;
3319 #endif
3320     context->extradata_size = 0;
3321     GST_DEBUG ("no codec data");
3322   }
3323
3324   switch (codec_id) {
3325     case AV_CODEC_ID_MPEG4:
3326     {
3327       const gchar *mime = gst_structure_get_name (str);
3328
3329       context->flags |= AV_CODEC_FLAG_4MV;
3330
3331       if (!strcmp (mime, "video/x-divx"))
3332         context->codec_tag = GST_MAKE_FOURCC ('D', 'I', 'V', 'X');
3333       else if (!strcmp (mime, "video/mpeg")) {
3334         const gchar *profile;
3335
3336         context->codec_tag = GST_MAKE_FOURCC ('m', 'p', '4', 'v');
3337
3338         profile = gst_structure_get_string (str, "profile");
3339         if (profile) {
3340           if (g_strcmp0 (profile, "advanced-simple") == 0)
3341             context->flags |= AV_CODEC_FLAG_QPEL;
3342         }
3343       }
3344       break;
3345     }
3346
3347     case AV_CODEC_ID_SVQ3:
3348       /* FIXME: this is a workaround for older gst-plugins releases
3349        * (<= 0.8.9). This should be removed at some point, because
3350        * it causes wrong decoded frame order. */
3351       if (!context->extradata) {
3352         gint halfpel_flag, thirdpel_flag, low_delay, unknown_svq3_flag;
3353         guint16 flags;
3354
3355         if (gst_structure_get_int (str, "halfpel_flag", &halfpel_flag) &&
3356             gst_structure_get_int (str, "thirdpel_flag", &thirdpel_flag) &&
3357             gst_structure_get_int (str, "low_delay", &low_delay) &&
3358             gst_structure_get_int (str, "unknown_svq3_flag",
3359                 &unknown_svq3_flag)) {
3360           context->extradata = (guint8 *) av_mallocz (0x64);
3361           g_stpcpy ((gchar *) context->extradata, "SVQ3");
3362           flags = 1 << 3;
3363           flags |= low_delay;
3364           flags = flags << 2;
3365           flags |= unknown_svq3_flag;
3366           flags = flags << 6;
3367           flags |= halfpel_flag;
3368           flags = flags << 1;
3369           flags |= thirdpel_flag;
3370           flags = flags << 3;
3371
3372           flags = GUINT16_FROM_LE (flags);
3373
3374           memcpy ((gchar *) context->extradata + 0x62, &flags, 2);
3375           context->extradata_size = 0x64;
3376         }
3377       }
3378       break;
3379
3380     case AV_CODEC_ID_MSRLE:
3381     case AV_CODEC_ID_QTRLE:
3382     case AV_CODEC_ID_TSCC:
3383     case AV_CODEC_ID_CSCD:
3384     case AV_CODEC_ID_APE:
3385     {
3386       gint depth;
3387
3388       if (gst_structure_get_int (str, "depth", &depth)) {
3389         context->bits_per_coded_sample = depth;
3390       } else {
3391         GST_WARNING ("No depth field in caps %" GST_PTR_FORMAT, caps);
3392       }
3393
3394     }
3395       break;
3396
3397     case AV_CODEC_ID_COOK:
3398     case AV_CODEC_ID_RA_288:
3399     case AV_CODEC_ID_RA_144:
3400     case AV_CODEC_ID_SIPR:
3401     {
3402       gint leaf_size;
3403       gint bitrate;
3404
3405       if (gst_structure_get_int (str, "leaf_size", &leaf_size))
3406         context->block_align = leaf_size;
3407       if (gst_structure_get_int (str, "bitrate", &bitrate))
3408         context->bit_rate = bitrate;
3409     }
3410       break;
3411     case AV_CODEC_ID_ALAC:
3412       gst_structure_get_int (str, "samplesize",
3413           &context->bits_per_coded_sample);
3414       break;
3415
3416     case AV_CODEC_ID_DVVIDEO:
3417     {
3418       const gchar *format;
3419
3420       if ((format = gst_structure_get_string (str, "format"))) {
3421
3422         if (g_str_equal (format, "YUY2"))
3423           context->pix_fmt = AV_PIX_FMT_YUYV422;
3424         else if (g_str_equal (format, "I420"))
3425           context->pix_fmt = AV_PIX_FMT_YUV420P;
3426         else if (g_str_equal (format, "A420"))
3427           context->pix_fmt = AV_PIX_FMT_YUVA420P;
3428         else if (g_str_equal (format, "Y41B"))
3429           context->pix_fmt = AV_PIX_FMT_YUV411P;
3430         else if (g_str_equal (format, "Y42B"))
3431           context->pix_fmt = AV_PIX_FMT_YUV422P;
3432         else if (g_str_equal (format, "YUV9"))
3433           context->pix_fmt = AV_PIX_FMT_YUV410P;
3434         else {
3435           GST_WARNING ("couldn't convert format %s" " to a pixel format",
3436               format);
3437         }
3438       } else
3439         GST_WARNING ("No specified format");
3440       break;
3441     }
3442     case AV_CODEC_ID_H263P:
3443     {
3444       gboolean val;
3445
3446       if (!gst_structure_get_boolean (str, "annex-f", &val) || val)
3447         context->flags |= AV_CODEC_FLAG_4MV;
3448       else
3449         context->flags &= ~AV_CODEC_FLAG_4MV;
3450       if ((!gst_structure_get_boolean (str, "annex-i", &val) || val) &&
3451           (!gst_structure_get_boolean (str, "annex-t", &val) || val))
3452         context->flags |= AV_CODEC_FLAG_AC_PRED;
3453       else
3454         context->flags &= ~AV_CODEC_FLAG_AC_PRED;
3455       if (!gst_structure_get_boolean (str, "annex-j", &val) || val)
3456         context->flags |= AV_CODEC_FLAG_LOOP_FILTER;
3457       else
3458         context->flags &= ~AV_CODEC_FLAG_LOOP_FILTER;
3459       break;
3460     }
3461     case AV_CODEC_ID_ADPCM_G726:
3462     {
3463       const gchar *layout;
3464
3465       if ((layout = gst_structure_get_string (str, "layout"))) {
3466         if (!strcmp (layout, "g721")) {
3467           context->sample_rate = 8000;
3468           context->channels = 1;
3469           context->bit_rate = 32000;
3470         }
3471       }
3472       break;
3473     }
3474     default:
3475       break;
3476   }
3477
3478   if (!gst_caps_is_fixed (caps))
3479     return;
3480
3481   /* common properties (width, height, fps) */
3482   switch (codec_type) {
3483     case AVMEDIA_TYPE_VIDEO:
3484       gst_ffmpeg_caps_to_pixfmt (caps, context,
3485           codec_id == AV_CODEC_ID_RAWVIDEO);
3486       break;
3487     case AVMEDIA_TYPE_AUDIO:
3488       gst_ffmpeg_caps_to_smpfmt (caps, context, FALSE);
3489       break;
3490     default:
3491       break;
3492   }
3493
3494   /* fixup of default settings */
3495   switch (codec_id) {
3496     case AV_CODEC_ID_QCELP:
3497       /* QCELP is always mono, no matter what the caps say */
3498       context->channels = 1;
3499       break;
3500     case AV_CODEC_ID_ADPCM_G726:
3501       if (context->sample_rate && context->bit_rate)
3502         context->bits_per_coded_sample =
3503             context->bit_rate / context->sample_rate;
3504       break;
3505     default:
3506       break;
3507   }
3508 }
3509
3510 /* _formatid_to_caps () is meant for muxers/demuxers, it
3511  * transforms a name (ffmpeg way of ID'ing these, why don't
3512  * they have unique numerical IDs?) to the corresponding
3513  * caps belonging to that mux-format
3514  *
3515  * Note: we don't need any additional info because the caps
3516  * isn't supposed to contain any useful info besides the
3517  * media type anyway
3518  */
3519
3520 GstCaps *
3521 gst_ffmpeg_formatid_to_caps (const gchar * format_name)
3522 {
3523   GstCaps *caps = NULL;
3524
3525   if (!strcmp (format_name, "mpeg")) {
3526     caps = gst_caps_new_simple ("video/mpeg",
3527         "systemstream", G_TYPE_BOOLEAN, TRUE, NULL);
3528   } else if (!strcmp (format_name, "mpegts")) {
3529     caps = gst_caps_new_simple ("video/mpegts",
3530         "systemstream", G_TYPE_BOOLEAN, TRUE, NULL);
3531   } else if (!strcmp (format_name, "rm")) {
3532     caps = gst_caps_new_simple ("application/x-pn-realmedia",
3533         "systemstream", G_TYPE_BOOLEAN, TRUE, NULL);
3534   } else if (!strcmp (format_name, "asf")) {
3535     caps = gst_caps_new_empty_simple ("video/x-ms-asf");
3536   } else if (!strcmp (format_name, "avi")) {
3537     caps = gst_caps_new_empty_simple ("video/x-msvideo");
3538   } else if (!strcmp (format_name, "wav")) {
3539     caps = gst_caps_new_empty_simple ("audio/x-wav");
3540   } else if (!strcmp (format_name, "ape")) {
3541     caps = gst_caps_new_empty_simple ("application/x-ape");
3542   } else if (!strcmp (format_name, "swf")) {
3543     caps = gst_caps_new_empty_simple ("application/x-shockwave-flash");
3544   } else if (!strcmp (format_name, "au")) {
3545     caps = gst_caps_new_empty_simple ("audio/x-au");
3546   } else if (!strcmp (format_name, "dv")) {
3547     caps = gst_caps_new_simple ("video/x-dv",
3548         "systemstream", G_TYPE_BOOLEAN, TRUE, NULL);
3549   } else if (!strcmp (format_name, "4xm")) {
3550     caps = gst_caps_new_empty_simple ("video/x-4xm");
3551   } else if (!strcmp (format_name, "matroska")) {
3552     caps = gst_caps_new_empty_simple ("video/x-matroska");
3553   } else if (!strcmp (format_name, "ivf")) {
3554     caps = gst_caps_new_empty_simple ("video/x-ivf");
3555   } else if (!strcmp (format_name, "mp3")) {
3556     caps = gst_caps_new_empty_simple ("application/x-id3");
3557   } else if (!strcmp (format_name, "flic")) {
3558     caps = gst_caps_new_empty_simple ("video/x-fli");
3559   } else if (!strcmp (format_name, "flv")) {
3560     caps = gst_caps_new_empty_simple ("video/x-flv");
3561   } else if (!strcmp (format_name, "tta")) {
3562     caps = gst_caps_new_empty_simple ("audio/x-ttafile");
3563   } else if (!strcmp (format_name, "aiff")) {
3564     caps = gst_caps_new_empty_simple ("audio/x-aiff");
3565   } else if (!strcmp (format_name, "mov_mp4_m4a_3gp_3g2")) {
3566     caps =
3567         gst_caps_from_string
3568         ("application/x-3gp; video/quicktime; audio/x-m4a");
3569   } else if (!strcmp (format_name, "mov")) {
3570     caps = gst_caps_from_string ("video/quicktime,variant=(string)apple");
3571   } else if (!strcmp (format_name, "mp4")) {
3572     caps = gst_caps_from_string ("video/quicktime,variant=(string)iso");
3573   } else if (!strcmp (format_name, "3gp")) {
3574     caps = gst_caps_from_string ("video/quicktime,variant=(string)3gpp");
3575   } else if (!strcmp (format_name, "3g2")) {
3576     caps = gst_caps_from_string ("video/quicktime,variant=(string)3g2");
3577   } else if (!strcmp (format_name, "psp")) {
3578     caps = gst_caps_from_string ("video/quicktime,variant=(string)psp");
3579   } else if (!strcmp (format_name, "ipod")) {
3580     caps = gst_caps_from_string ("video/quicktime,variant=(string)ipod");
3581   } else if (!strcmp (format_name, "aac")) {
3582     caps = gst_caps_new_simple ("audio/mpeg",
3583         "mpegversion", G_TYPE_INT, 4, NULL);
3584   } else if (!strcmp (format_name, "gif")) {
3585     caps = gst_caps_from_string ("image/gif");
3586   } else if (!strcmp (format_name, "ogg")) {
3587     caps = gst_caps_from_string ("application/ogg");
3588   } else if (!strcmp (format_name, "mxf") || !strcmp (format_name, "mxf_d10")) {
3589     caps = gst_caps_from_string ("application/mxf");
3590   } else if (!strcmp (format_name, "gxf")) {
3591     caps = gst_caps_from_string ("application/gxf");
3592   } else if (!strcmp (format_name, "yuv4mpegpipe")) {
3593     caps = gst_caps_new_simple ("application/x-yuv4mpeg",
3594         "y4mversion", G_TYPE_INT, 2, NULL);
3595   } else if (!strcmp (format_name, "mpc")) {
3596     caps = gst_caps_from_string ("audio/x-musepack, streamversion = (int) 7");
3597   } else if (!strcmp (format_name, "mpc8")) {
3598     caps = gst_caps_from_string ("audio/x-musepack, streamversion = (int) 8");
3599   } else if (!strcmp (format_name, "vqf")) {
3600     caps = gst_caps_from_string ("audio/x-vqf");
3601   } else if (!strcmp (format_name, "nsv")) {
3602     caps = gst_caps_from_string ("video/x-nsv");
3603   } else if (!strcmp (format_name, "amr")) {
3604     caps = gst_caps_from_string ("audio/x-amr-nb-sh");
3605   } else if (!strcmp (format_name, "webm")) {
3606     caps = gst_caps_from_string ("video/webm");
3607   } else if (!strcmp (format_name, "voc")) {
3608     caps = gst_caps_from_string ("audio/x-voc");
3609   } else if (!strcmp (format_name, "pva")) {
3610     caps = gst_caps_from_string ("video/x-pva");
3611   } else if (!strcmp (format_name, "brstm")) {
3612     caps = gst_caps_from_string ("audio/x-brstm");
3613   } else if (!strcmp (format_name, "bfstm")) {
3614     caps = gst_caps_from_string ("audio/x-bfstm");
3615   } else {
3616     gchar *name;
3617
3618     GST_LOG ("Could not create stream format caps for %s", format_name);
3619     name = g_strdup_printf ("application/x-gst-av-%s", format_name);
3620     caps = gst_caps_new_empty_simple (name);
3621     g_free (name);
3622   }
3623
3624   return caps;
3625 }
3626
3627 gboolean
3628 gst_ffmpeg_formatid_get_codecids (const gchar * format_name,
3629     enum AVCodecID ** video_codec_list, enum AVCodecID ** audio_codec_list,
3630     AVOutputFormat * plugin)
3631 {
3632   static enum AVCodecID tmp_vlist[] = {
3633     AV_CODEC_ID_NONE,
3634     AV_CODEC_ID_NONE
3635   };
3636   static enum AVCodecID tmp_alist[] = {
3637     AV_CODEC_ID_NONE,
3638     AV_CODEC_ID_NONE
3639   };
3640
3641   GST_LOG ("format_name : %s", format_name);
3642
3643   if (!strcmp (format_name, "mp4")) {
3644     static enum AVCodecID mp4_video_list[] = {
3645       AV_CODEC_ID_MPEG4, AV_CODEC_ID_H264,
3646       AV_CODEC_ID_MJPEG,
3647       AV_CODEC_ID_NONE
3648     };
3649     static enum AVCodecID mp4_audio_list[] = {
3650       AV_CODEC_ID_AAC, AV_CODEC_ID_MP3,
3651       AV_CODEC_ID_NONE
3652     };
3653
3654     *video_codec_list = mp4_video_list;
3655     *audio_codec_list = mp4_audio_list;
3656   } else if (!strcmp (format_name, "mpeg")) {
3657     static enum AVCodecID mpeg_video_list[] = { AV_CODEC_ID_MPEG1VIDEO,
3658       AV_CODEC_ID_MPEG2VIDEO,
3659       AV_CODEC_ID_H264,
3660       AV_CODEC_ID_NONE
3661     };
3662     static enum AVCodecID mpeg_audio_list[] = { AV_CODEC_ID_MP1,
3663       AV_CODEC_ID_MP2,
3664       AV_CODEC_ID_MP3,
3665       AV_CODEC_ID_NONE
3666     };
3667
3668     *video_codec_list = mpeg_video_list;
3669     *audio_codec_list = mpeg_audio_list;
3670   } else if (!strcmp (format_name, "dvd")) {
3671     static enum AVCodecID mpeg_video_list[] = { AV_CODEC_ID_MPEG2VIDEO,
3672       AV_CODEC_ID_NONE
3673     };
3674     static enum AVCodecID mpeg_audio_list[] = { AV_CODEC_ID_MP2,
3675       AV_CODEC_ID_AC3,
3676       AV_CODEC_ID_DTS,
3677       AV_CODEC_ID_PCM_S16BE,
3678       AV_CODEC_ID_NONE
3679     };
3680
3681     *video_codec_list = mpeg_video_list;
3682     *audio_codec_list = mpeg_audio_list;
3683   } else if (!strcmp (format_name, "mpegts")) {
3684     static enum AVCodecID mpegts_video_list[] = { AV_CODEC_ID_MPEG1VIDEO,
3685       AV_CODEC_ID_MPEG2VIDEO,
3686       AV_CODEC_ID_H264,
3687       AV_CODEC_ID_NONE
3688     };
3689     static enum AVCodecID mpegts_audio_list[] = { AV_CODEC_ID_MP2,
3690       AV_CODEC_ID_MP3,
3691       AV_CODEC_ID_AC3,
3692       AV_CODEC_ID_DTS,
3693       AV_CODEC_ID_AAC,
3694       AV_CODEC_ID_NONE
3695     };
3696
3697     *video_codec_list = mpegts_video_list;
3698     *audio_codec_list = mpegts_audio_list;
3699   } else if (!strcmp (format_name, "vob")) {
3700     static enum AVCodecID vob_video_list[] =
3701         { AV_CODEC_ID_MPEG2VIDEO, AV_CODEC_ID_NONE };
3702     static enum AVCodecID vob_audio_list[] = { AV_CODEC_ID_MP2, AV_CODEC_ID_AC3,
3703       AV_CODEC_ID_DTS, AV_CODEC_ID_NONE
3704     };
3705
3706     *video_codec_list = vob_video_list;
3707     *audio_codec_list = vob_audio_list;
3708   } else if (!strcmp (format_name, "flv")) {
3709     static enum AVCodecID flv_video_list[] =
3710         { AV_CODEC_ID_FLV1, AV_CODEC_ID_NONE };
3711     static enum AVCodecID flv_audio_list[] =
3712         { AV_CODEC_ID_MP3, AV_CODEC_ID_NONE };
3713
3714     *video_codec_list = flv_video_list;
3715     *audio_codec_list = flv_audio_list;
3716   } else if (!strcmp (format_name, "asf")) {
3717     static enum AVCodecID asf_video_list[] =
3718         { AV_CODEC_ID_WMV1, AV_CODEC_ID_WMV2, AV_CODEC_ID_MSMPEG4V3,
3719       AV_CODEC_ID_NONE
3720     };
3721     static enum AVCodecID asf_audio_list[] =
3722         { AV_CODEC_ID_WMAV1, AV_CODEC_ID_WMAV2, AV_CODEC_ID_MP3,
3723       AV_CODEC_ID_NONE
3724     };
3725
3726     *video_codec_list = asf_video_list;
3727     *audio_codec_list = asf_audio_list;
3728   } else if (!strcmp (format_name, "dv")) {
3729     static enum AVCodecID dv_video_list[] =
3730         { AV_CODEC_ID_DVVIDEO, AV_CODEC_ID_NONE };
3731     static enum AVCodecID dv_audio_list[] =
3732         { AV_CODEC_ID_PCM_S16LE, AV_CODEC_ID_NONE };
3733
3734     *video_codec_list = dv_video_list;
3735     *audio_codec_list = dv_audio_list;
3736   } else if (!strcmp (format_name, "mov")) {
3737     static enum AVCodecID mov_video_list[] = {
3738       AV_CODEC_ID_SVQ1, AV_CODEC_ID_SVQ3, AV_CODEC_ID_MPEG4,
3739       AV_CODEC_ID_H263, AV_CODEC_ID_H263P,
3740       AV_CODEC_ID_H264, AV_CODEC_ID_DVVIDEO,
3741       AV_CODEC_ID_MJPEG,
3742       AV_CODEC_ID_NONE
3743     };
3744     static enum AVCodecID mov_audio_list[] = {
3745       AV_CODEC_ID_PCM_MULAW, AV_CODEC_ID_PCM_ALAW, AV_CODEC_ID_ADPCM_IMA_QT,
3746       AV_CODEC_ID_MACE3, AV_CODEC_ID_MACE6, AV_CODEC_ID_AAC,
3747       AV_CODEC_ID_AMR_NB, AV_CODEC_ID_AMR_WB,
3748       AV_CODEC_ID_PCM_S16BE, AV_CODEC_ID_PCM_S16LE,
3749       AV_CODEC_ID_MP3, AV_CODEC_ID_NONE
3750     };
3751
3752     *video_codec_list = mov_video_list;
3753     *audio_codec_list = mov_audio_list;
3754   } else if ((!strcmp (format_name, "3gp") || !strcmp (format_name, "3g2"))) {
3755     static enum AVCodecID tgp_video_list[] = {
3756       AV_CODEC_ID_MPEG4, AV_CODEC_ID_H263, AV_CODEC_ID_H263P, AV_CODEC_ID_H264,
3757       AV_CODEC_ID_NONE
3758     };
3759     static enum AVCodecID tgp_audio_list[] = {
3760       AV_CODEC_ID_AMR_NB, AV_CODEC_ID_AMR_WB,
3761       AV_CODEC_ID_AAC,
3762       AV_CODEC_ID_NONE
3763     };
3764
3765     *video_codec_list = tgp_video_list;
3766     *audio_codec_list = tgp_audio_list;
3767   } else if (!strcmp (format_name, "mmf")) {
3768     static enum AVCodecID mmf_audio_list[] = {
3769       AV_CODEC_ID_ADPCM_YAMAHA, AV_CODEC_ID_NONE
3770     };
3771     *video_codec_list = NULL;
3772     *audio_codec_list = mmf_audio_list;
3773   } else if (!strcmp (format_name, "amr")) {
3774     static enum AVCodecID amr_audio_list[] = {
3775       AV_CODEC_ID_AMR_NB, AV_CODEC_ID_AMR_WB,
3776       AV_CODEC_ID_NONE
3777     };
3778     *video_codec_list = NULL;
3779     *audio_codec_list = amr_audio_list;
3780   } else if (!strcmp (format_name, "gif")) {
3781     static enum AVCodecID gif_image_list[] = {
3782       AV_CODEC_ID_RAWVIDEO, AV_CODEC_ID_NONE
3783     };
3784     *video_codec_list = gif_image_list;
3785     *audio_codec_list = NULL;
3786   } else if ((!strcmp (format_name, "pva"))) {
3787     static enum AVCodecID pga_video_list[] = {
3788       AV_CODEC_ID_MPEG2VIDEO,
3789       AV_CODEC_ID_NONE
3790     };
3791     static enum AVCodecID pga_audio_list[] = {
3792       AV_CODEC_ID_MP2,
3793       AV_CODEC_ID_NONE
3794     };
3795
3796     *video_codec_list = pga_video_list;
3797     *audio_codec_list = pga_audio_list;
3798   } else if ((plugin->audio_codec != AV_CODEC_ID_NONE) ||
3799       (plugin->video_codec != AV_CODEC_ID_NONE)) {
3800     tmp_vlist[0] = plugin->video_codec;
3801     tmp_alist[0] = plugin->audio_codec;
3802
3803     *video_codec_list = tmp_vlist;
3804     *audio_codec_list = tmp_alist;
3805   } else {
3806     GST_LOG ("Format %s not found", format_name);
3807     return FALSE;
3808   }
3809
3810   return TRUE;
3811 }
3812
3813 /* Convert a GstCaps to a FFMPEG codec ID. Size et all
3814  * are omitted, that can be queried by the user itself,
3815  * we're not eating the GstCaps or anything
3816  * A pointer to an allocated context is also needed for
3817  * optional extra info
3818  */
3819
3820 enum AVCodecID
3821 gst_ffmpeg_caps_to_codecid (const GstCaps * caps, AVCodecContext * context)
3822 {
3823   enum AVCodecID id = AV_CODEC_ID_NONE;
3824   const gchar *mimetype;
3825   const GstStructure *structure;
3826   gboolean video = FALSE, audio = FALSE;        /* we want to be sure! */
3827
3828   g_return_val_if_fail (caps != NULL, AV_CODEC_ID_NONE);
3829   g_return_val_if_fail (gst_caps_get_size (caps) == 1, AV_CODEC_ID_NONE);
3830   structure = gst_caps_get_structure (caps, 0);
3831
3832   mimetype = gst_structure_get_name (structure);
3833
3834   if (!strcmp (mimetype, "video/x-raw")) {
3835     id = AV_CODEC_ID_RAWVIDEO;
3836     video = TRUE;
3837   } else if (!strcmp (mimetype, "audio/x-raw")) {
3838     GstAudioInfo info;
3839
3840     if (gst_audio_info_from_caps (&info, caps)) {
3841       switch (GST_AUDIO_INFO_FORMAT (&info)) {
3842         case GST_AUDIO_FORMAT_S8:
3843           id = AV_CODEC_ID_PCM_S8;
3844           break;
3845         case GST_AUDIO_FORMAT_U8:
3846           id = AV_CODEC_ID_PCM_U8;
3847           break;
3848         case GST_AUDIO_FORMAT_S16LE:
3849           id = AV_CODEC_ID_PCM_S16LE;
3850           break;
3851         case GST_AUDIO_FORMAT_S16BE:
3852           id = AV_CODEC_ID_PCM_S16BE;
3853           break;
3854         case GST_AUDIO_FORMAT_U16LE:
3855           id = AV_CODEC_ID_PCM_U16LE;
3856           break;
3857         case GST_AUDIO_FORMAT_U16BE:
3858           id = AV_CODEC_ID_PCM_U16BE;
3859           break;
3860         default:
3861           break;
3862       }
3863       if (id != AV_CODEC_ID_NONE)
3864         audio = TRUE;
3865     }
3866   } else if (!strcmp (mimetype, "audio/x-mulaw")) {
3867     id = AV_CODEC_ID_PCM_MULAW;
3868     audio = TRUE;
3869   } else if (!strcmp (mimetype, "audio/x-alaw")) {
3870     id = AV_CODEC_ID_PCM_ALAW;
3871     audio = TRUE;
3872   } else if (!strcmp (mimetype, "video/x-dv")) {
3873     gboolean sys_strm;
3874
3875     if (gst_structure_get_boolean (structure, "systemstream", &sys_strm) &&
3876         !sys_strm) {
3877       id = AV_CODEC_ID_DVVIDEO;
3878       video = TRUE;
3879     }
3880   } else if (!strcmp (mimetype, "audio/x-dv")) {        /* ??? */
3881     id = AV_CODEC_ID_DVAUDIO;
3882     audio = TRUE;
3883   } else if (!strcmp (mimetype, "video/x-h263")) {
3884     const gchar *h263version =
3885         gst_structure_get_string (structure, "h263version");
3886     if (h263version && !strcmp (h263version, "h263p"))
3887       id = AV_CODEC_ID_H263P;
3888     else
3889       id = AV_CODEC_ID_H263;
3890     video = TRUE;
3891   } else if (!strcmp (mimetype, "video/x-intel-h263")) {
3892     id = AV_CODEC_ID_H263I;
3893     video = TRUE;
3894   } else if (!strcmp (mimetype, "video/x-h261")) {
3895     id = AV_CODEC_ID_H261;
3896     video = TRUE;
3897   } else if (!strcmp (mimetype, "video/mpeg")) {
3898     gboolean sys_strm;
3899     gint mpegversion;
3900
3901     if (gst_structure_get_boolean (structure, "systemstream", &sys_strm) &&
3902         gst_structure_get_int (structure, "mpegversion", &mpegversion) &&
3903         !sys_strm) {
3904       switch (mpegversion) {
3905         case 1:
3906           id = AV_CODEC_ID_MPEG1VIDEO;
3907           break;
3908         case 2:
3909           id = AV_CODEC_ID_MPEG2VIDEO;
3910           break;
3911         case 4:
3912           id = AV_CODEC_ID_MPEG4;
3913           break;
3914       }
3915     }
3916     if (id != AV_CODEC_ID_NONE)
3917       video = TRUE;
3918   } else if (!strcmp (mimetype, "image/jpeg")) {
3919     id = AV_CODEC_ID_MJPEG;     /* A... B... */
3920     video = TRUE;
3921   } else if (!strcmp (mimetype, "video/x-jpeg-b")) {
3922     id = AV_CODEC_ID_MJPEGB;
3923     video = TRUE;
3924   } else if (!strcmp (mimetype, "video/x-wmv")) {
3925     gint wmvversion = 0;
3926
3927     if (gst_structure_get_int (structure, "wmvversion", &wmvversion)) {
3928       switch (wmvversion) {
3929         case 1:
3930           id = AV_CODEC_ID_WMV1;
3931           break;
3932         case 2:
3933           id = AV_CODEC_ID_WMV2;
3934           break;
3935         case 3:
3936         {
3937           const gchar *format;
3938
3939           /* WMV3 unless the fourcc exists and says otherwise */
3940           id = AV_CODEC_ID_WMV3;
3941
3942           if ((format = gst_structure_get_string (structure, "format")) &&
3943               (g_str_equal (format, "WVC1") || g_str_equal (format, "WMVA")))
3944             id = AV_CODEC_ID_VC1;
3945
3946           break;
3947         }
3948       }
3949     }
3950     if (id != AV_CODEC_ID_NONE)
3951       video = TRUE;
3952   } else if (!strcmp (mimetype, "audio/x-vorbis")) {
3953     id = AV_CODEC_ID_VORBIS;
3954     audio = TRUE;
3955   } else if (!strcmp (mimetype, "audio/x-qdm2")) {
3956     id = AV_CODEC_ID_QDM2;
3957     audio = TRUE;
3958   } else if (!strcmp (mimetype, "audio/mpeg")) {
3959     gint layer = 0;
3960     gint mpegversion = 0;
3961
3962     if (gst_structure_get_int (structure, "mpegversion", &mpegversion)) {
3963       switch (mpegversion) {
3964         case 2:                /* ffmpeg uses faad for both... */
3965         case 4:
3966           id = AV_CODEC_ID_AAC;
3967           break;
3968         case 1:
3969           if (gst_structure_get_int (structure, "layer", &layer)) {
3970             switch (layer) {
3971               case 1:
3972                 id = AV_CODEC_ID_MP1;
3973                 break;
3974               case 2:
3975                 id = AV_CODEC_ID_MP2;
3976                 break;
3977               case 3:
3978                 id = AV_CODEC_ID_MP3;
3979                 break;
3980             }
3981           }
3982       }
3983     }
3984     if (id != AV_CODEC_ID_NONE)
3985       audio = TRUE;
3986   } else if (!strcmp (mimetype, "audio/x-musepack")) {
3987     gint streamversion = -1;
3988
3989     if (gst_structure_get_int (structure, "streamversion", &streamversion)) {
3990       if (streamversion == 7)
3991         id = AV_CODEC_ID_MUSEPACK7;
3992     } else {
3993       id = AV_CODEC_ID_MUSEPACK7;
3994     }
3995   } else if (!strcmp (mimetype, "audio/x-wma")) {
3996     gint wmaversion = 0;
3997
3998     if (gst_structure_get_int (structure, "wmaversion", &wmaversion)) {
3999       switch (wmaversion) {
4000         case 1:
4001           id = AV_CODEC_ID_WMAV1;
4002           break;
4003         case 2:
4004           id = AV_CODEC_ID_WMAV2;
4005           break;
4006         case 3:
4007           id = AV_CODEC_ID_WMAPRO;
4008           break;
4009       }
4010     }
4011     if (id != AV_CODEC_ID_NONE)
4012       audio = TRUE;
4013   } else if (!strcmp (mimetype, "audio/x-wms")) {
4014     id = AV_CODEC_ID_WMAVOICE;
4015     audio = TRUE;
4016   } else if (!strcmp (mimetype, "audio/x-ac3")) {
4017     id = AV_CODEC_ID_AC3;
4018     audio = TRUE;
4019   } else if (!strcmp (mimetype, "audio/x-eac3")) {
4020     id = AV_CODEC_ID_EAC3;
4021     audio = TRUE;
4022   } else if (!strcmp (mimetype, "audio/x-vnd.sony.atrac3") ||
4023       !strcmp (mimetype, "audio/atrac3")) {
4024     id = AV_CODEC_ID_ATRAC3;
4025     audio = TRUE;
4026   } else if (!strcmp (mimetype, "audio/x-dts")) {
4027     id = AV_CODEC_ID_DTS;
4028     audio = TRUE;
4029   } else if (!strcmp (mimetype, "application/x-ape")) {
4030     id = AV_CODEC_ID_APE;
4031     audio = TRUE;
4032   } else if (!strcmp (mimetype, "video/x-msmpeg")) {
4033     gint msmpegversion = 0;
4034
4035     if (gst_structure_get_int (structure, "msmpegversion", &msmpegversion)) {
4036       switch (msmpegversion) {
4037         case 41:
4038           id = AV_CODEC_ID_MSMPEG4V1;
4039           break;
4040         case 42:
4041           id = AV_CODEC_ID_MSMPEG4V2;
4042           break;
4043         case 43:
4044           id = AV_CODEC_ID_MSMPEG4V3;
4045           break;
4046       }
4047     }
4048     if (id != AV_CODEC_ID_NONE)
4049       video = TRUE;
4050   } else if (!strcmp (mimetype, "video/x-svq")) {
4051     gint svqversion = 0;
4052
4053     if (gst_structure_get_int (structure, "svqversion", &svqversion)) {
4054       switch (svqversion) {
4055         case 1:
4056           id = AV_CODEC_ID_SVQ1;
4057           break;
4058         case 3:
4059           id = AV_CODEC_ID_SVQ3;
4060           break;
4061       }
4062     }
4063     if (id != AV_CODEC_ID_NONE)
4064       video = TRUE;
4065   } else if (!strcmp (mimetype, "video/x-huffyuv")) {
4066     id = AV_CODEC_ID_HUFFYUV;
4067     video = TRUE;
4068   } else if (!strcmp (mimetype, "audio/x-mace")) {
4069     gint maceversion = 0;
4070
4071     if (gst_structure_get_int (structure, "maceversion", &maceversion)) {
4072       switch (maceversion) {
4073         case 3:
4074           id = AV_CODEC_ID_MACE3;
4075           break;
4076         case 6:
4077           id = AV_CODEC_ID_MACE6;
4078           break;
4079       }
4080     }
4081     if (id != AV_CODEC_ID_NONE)
4082       audio = TRUE;
4083   } else if (!strcmp (mimetype, "video/x-theora")) {
4084     id = AV_CODEC_ID_THEORA;
4085     video = TRUE;
4086   } else if (!strcmp (mimetype, "video/x-vp3")) {
4087     id = AV_CODEC_ID_VP3;
4088     video = TRUE;
4089   } else if (!strcmp (mimetype, "video/x-vp5")) {
4090     id = AV_CODEC_ID_VP5;
4091     video = TRUE;
4092   } else if (!strcmp (mimetype, "video/x-vp6")) {
4093     id = AV_CODEC_ID_VP6;
4094     video = TRUE;
4095   } else if (!strcmp (mimetype, "video/x-vp6-flash")) {
4096     id = AV_CODEC_ID_VP6F;
4097     video = TRUE;
4098   } else if (!strcmp (mimetype, "video/x-vp6-alpha")) {
4099     id = AV_CODEC_ID_VP6A;
4100     video = TRUE;
4101   } else if (!strcmp (mimetype, "video/x-vp8")) {
4102     id = AV_CODEC_ID_VP8;
4103     video = TRUE;
4104   } else if (!strcmp (mimetype, "video/x-vp9")) {
4105     id = AV_CODEC_ID_VP9;
4106     video = TRUE;
4107   } else if (!strcmp (mimetype, "video/x-flash-screen")) {
4108     id = AV_CODEC_ID_FLASHSV;
4109     video = TRUE;
4110   } else if (!strcmp (mimetype, "video/x-flash-screen2")) {
4111     id = AV_CODEC_ID_FLASHSV2;
4112     video = TRUE;
4113   } else if (!strcmp (mimetype, "video/x-cineform")) {
4114     id = AV_CODEC_ID_CFHD;
4115     video = TRUE;
4116   } else if (!strcmp (mimetype, "video/x-indeo")) {
4117     gint indeoversion = 0;
4118
4119     if (gst_structure_get_int (structure, "indeoversion", &indeoversion)) {
4120       switch (indeoversion) {
4121         case 5:
4122           id = AV_CODEC_ID_INDEO5;
4123           break;
4124         case 4:
4125           id = AV_CODEC_ID_INDEO4;
4126           break;
4127         case 3:
4128           id = AV_CODEC_ID_INDEO3;
4129           break;
4130         case 2:
4131           id = AV_CODEC_ID_INDEO2;
4132           break;
4133       }
4134       if (id != AV_CODEC_ID_NONE)
4135         video = TRUE;
4136     }
4137   } else if (!strcmp (mimetype, "video/x-divx")) {
4138     gint divxversion = 0;
4139
4140     if (gst_structure_get_int (structure, "divxversion", &divxversion)) {
4141       switch (divxversion) {
4142         case 3:
4143           id = AV_CODEC_ID_MSMPEG4V3;
4144           break;
4145         case 4:
4146         case 5:
4147           id = AV_CODEC_ID_MPEG4;
4148           break;
4149       }
4150     }
4151     if (id != AV_CODEC_ID_NONE)
4152       video = TRUE;
4153   } else if (!strcmp (mimetype, "video/x-ffv")) {
4154     gint ffvversion = 0;
4155
4156     if (gst_structure_get_int (structure, "ffvversion", &ffvversion) &&
4157         ffvversion == 1) {
4158       id = AV_CODEC_ID_FFV1;
4159       video = TRUE;
4160     }
4161   } else if (!strcmp (mimetype, "video/x-apple-intermediate-codec")) {
4162     id = AV_CODEC_ID_AIC;
4163     video = TRUE;
4164   } else if (!strcmp (mimetype, "audio/x-adpcm")) {
4165     const gchar *layout;
4166
4167     layout = gst_structure_get_string (structure, "layout");
4168     if (layout == NULL) {
4169       /* break */
4170     } else if (!strcmp (layout, "quicktime")) {
4171       id = AV_CODEC_ID_ADPCM_IMA_QT;
4172     } else if (!strcmp (layout, "microsoft")) {
4173       id = AV_CODEC_ID_ADPCM_MS;
4174     } else if (!strcmp (layout, "dvi")) {
4175       id = AV_CODEC_ID_ADPCM_IMA_WAV;
4176     } else if (!strcmp (layout, "4xm")) {
4177       id = AV_CODEC_ID_ADPCM_4XM;
4178     } else if (!strcmp (layout, "smjpeg")) {
4179       id = AV_CODEC_ID_ADPCM_IMA_SMJPEG;
4180     } else if (!strcmp (layout, "dk3")) {
4181       id = AV_CODEC_ID_ADPCM_IMA_DK3;
4182     } else if (!strcmp (layout, "dk4")) {
4183       id = AV_CODEC_ID_ADPCM_IMA_DK4;
4184     } else if (!strcmp (layout, "westwood")) {
4185       id = AV_CODEC_ID_ADPCM_IMA_WS;
4186     } else if (!strcmp (layout, "iss")) {
4187       id = AV_CODEC_ID_ADPCM_IMA_ISS;
4188     } else if (!strcmp (layout, "xa")) {
4189       id = AV_CODEC_ID_ADPCM_XA;
4190     } else if (!strcmp (layout, "adx")) {
4191       id = AV_CODEC_ID_ADPCM_ADX;
4192     } else if (!strcmp (layout, "ea")) {
4193       id = AV_CODEC_ID_ADPCM_EA;
4194     } else if (!strcmp (layout, "g726")) {
4195       id = AV_CODEC_ID_ADPCM_G726;
4196     } else if (!strcmp (layout, "g721")) {
4197       id = AV_CODEC_ID_ADPCM_G726;
4198     } else if (!strcmp (layout, "ct")) {
4199       id = AV_CODEC_ID_ADPCM_CT;
4200     } else if (!strcmp (layout, "swf")) {
4201       id = AV_CODEC_ID_ADPCM_SWF;
4202     } else if (!strcmp (layout, "yamaha")) {
4203       id = AV_CODEC_ID_ADPCM_YAMAHA;
4204     } else if (!strcmp (layout, "sbpro2")) {
4205       id = AV_CODEC_ID_ADPCM_SBPRO_2;
4206     } else if (!strcmp (layout, "sbpro3")) {
4207       id = AV_CODEC_ID_ADPCM_SBPRO_3;
4208     } else if (!strcmp (layout, "sbpro4")) {
4209       id = AV_CODEC_ID_ADPCM_SBPRO_4;
4210     }
4211     if (id != AV_CODEC_ID_NONE)
4212       audio = TRUE;
4213   } else if (!strcmp (mimetype, "video/x-4xm")) {
4214     id = AV_CODEC_ID_4XM;
4215     video = TRUE;
4216   } else if (!strcmp (mimetype, "audio/x-dpcm")) {
4217     const gchar *layout;
4218
4219     layout = gst_structure_get_string (structure, "layout");
4220     if (!layout) {
4221       /* .. */
4222     } else if (!strcmp (layout, "roq")) {
4223       id = AV_CODEC_ID_ROQ_DPCM;
4224     } else if (!strcmp (layout, "interplay")) {
4225       id = AV_CODEC_ID_INTERPLAY_DPCM;
4226     } else if (!strcmp (layout, "xan")) {
4227       id = AV_CODEC_ID_XAN_DPCM;
4228     } else if (!strcmp (layout, "sol")) {
4229       id = AV_CODEC_ID_SOL_DPCM;
4230     }
4231     if (id != AV_CODEC_ID_NONE)
4232       audio = TRUE;
4233   } else if (!strcmp (mimetype, "audio/x-flac")) {
4234     id = AV_CODEC_ID_FLAC;
4235     audio = TRUE;
4236   } else if (!strcmp (mimetype, "audio/x-shorten")) {
4237     id = AV_CODEC_ID_SHORTEN;
4238     audio = TRUE;
4239   } else if (!strcmp (mimetype, "audio/x-alac")) {
4240     id = AV_CODEC_ID_ALAC;
4241     audio = TRUE;
4242   } else if (!strcmp (mimetype, "video/x-cinepak")) {
4243     id = AV_CODEC_ID_CINEPAK;
4244     video = TRUE;
4245   } else if (!strcmp (mimetype, "video/x-pn-realvideo")) {
4246     gint rmversion;
4247
4248     if (gst_structure_get_int (structure, "rmversion", &rmversion)) {
4249       switch (rmversion) {
4250         case 1:
4251           id = AV_CODEC_ID_RV10;
4252           break;
4253         case 2:
4254           id = AV_CODEC_ID_RV20;
4255           break;
4256         case 3:
4257           id = AV_CODEC_ID_RV30;
4258           break;
4259         case 4:
4260           id = AV_CODEC_ID_RV40;
4261           break;
4262       }
4263     }
4264     if (id != AV_CODEC_ID_NONE)
4265       video = TRUE;
4266   } else if (!strcmp (mimetype, "audio/x-sipro")) {
4267     id = AV_CODEC_ID_SIPR;
4268     audio = TRUE;
4269   } else if (!strcmp (mimetype, "audio/x-pn-realaudio")) {
4270     gint raversion;
4271
4272     if (gst_structure_get_int (structure, "raversion", &raversion)) {
4273       switch (raversion) {
4274         case 1:
4275           id = AV_CODEC_ID_RA_144;
4276           break;
4277         case 2:
4278           id = AV_CODEC_ID_RA_288;
4279           break;
4280         case 8:
4281           id = AV_CODEC_ID_COOK;
4282           break;
4283       }
4284     }
4285     if (id != AV_CODEC_ID_NONE)
4286       audio = TRUE;
4287   } else if (!strcmp (mimetype, "video/x-rle")) {
4288     const gchar *layout;
4289
4290     if ((layout = gst_structure_get_string (structure, "layout"))) {
4291       if (!strcmp (layout, "microsoft")) {
4292         id = AV_CODEC_ID_MSRLE;
4293         video = TRUE;
4294       }
4295     }
4296   } else if (!strcmp (mimetype, "video/x-xan")) {
4297     gint wcversion = 0;
4298
4299     if ((gst_structure_get_int (structure, "wcversion", &wcversion))) {
4300       switch (wcversion) {
4301         case 3:
4302           id = AV_CODEC_ID_XAN_WC3;
4303           video = TRUE;
4304           break;
4305         case 4:
4306           id = AV_CODEC_ID_XAN_WC4;
4307           video = TRUE;
4308           break;
4309         default:
4310           break;
4311       }
4312     }
4313   } else if (!strcmp (mimetype, "audio/AMR")) {
4314     audio = TRUE;
4315     id = AV_CODEC_ID_AMR_NB;
4316   } else if (!strcmp (mimetype, "audio/AMR-WB")) {
4317     id = AV_CODEC_ID_AMR_WB;
4318     audio = TRUE;
4319   } else if (!strcmp (mimetype, "audio/qcelp")) {
4320     id = AV_CODEC_ID_QCELP;
4321     audio = TRUE;
4322   } else if (!strcmp (mimetype, "video/x-h264")) {
4323     id = AV_CODEC_ID_H264;
4324     video = TRUE;
4325   } else if (!strcmp (mimetype, "video/x-h265")) {
4326     id = AV_CODEC_ID_HEVC;
4327     video = TRUE;
4328   } else if (!strcmp (mimetype, "video/x-flash-video")) {
4329     gint flvversion = 0;
4330
4331     if ((gst_structure_get_int (structure, "flvversion", &flvversion))) {
4332       switch (flvversion) {
4333         case 1:
4334           id = AV_CODEC_ID_FLV1;
4335           video = TRUE;
4336           break;
4337         default:
4338           break;
4339       }
4340     }
4341
4342   } else if (!strcmp (mimetype, "audio/x-nellymoser")) {
4343     id = AV_CODEC_ID_NELLYMOSER;
4344     audio = TRUE;
4345   } else if (!strncmp (mimetype, "audio/x-gst-av-", 15)) {
4346     gchar ext[16];
4347     AVCodec *codec;
4348
4349     if (strlen (mimetype) <= 30 &&
4350         sscanf (mimetype, "audio/x-gst-av-%s", ext) == 1) {
4351       if ((codec = avcodec_find_decoder_by_name (ext)) ||
4352           (codec = avcodec_find_encoder_by_name (ext))) {
4353         id = codec->id;
4354         audio = TRUE;
4355       }
4356     }
4357   } else if (!strncmp (mimetype, "video/x-gst-av-", 15)) {
4358     gchar ext[16];
4359     AVCodec *codec;
4360
4361     if (strlen (mimetype) <= 30 &&
4362         sscanf (mimetype, "video/x-gst-av-%s", ext) == 1) {
4363       if ((codec = avcodec_find_decoder_by_name (ext)) ||
4364           (codec = avcodec_find_encoder_by_name (ext))) {
4365         id = codec->id;
4366         video = TRUE;
4367       }
4368     }
4369   }
4370
4371   if (context != NULL) {
4372     if (video == TRUE) {
4373       context->codec_type = AVMEDIA_TYPE_VIDEO;
4374     } else if (audio == TRUE) {
4375       context->codec_type = AVMEDIA_TYPE_AUDIO;
4376     } else {
4377       context->codec_type = AVMEDIA_TYPE_UNKNOWN;
4378     }
4379     context->codec_id = id;
4380     gst_ffmpeg_caps_with_codecid (id, context->codec_type, caps, context);
4381   }
4382
4383   if (id != AV_CODEC_ID_NONE) {
4384     GST_DEBUG ("The id=%d belongs to the caps %" GST_PTR_FORMAT, id, caps);
4385   } else {
4386     GST_WARNING ("Couldn't figure out the id for caps %" GST_PTR_FORMAT, caps);
4387   }
4388
4389   return id;
4390 }