ext/libav/gstavcodecmap.c

   1 /* GStreamer
   2  * Copyright (C) <1999> Erik Walthinsen <omega@cse.ogi.edu>
   3  * This file:
   4  * Copyright (c) 2002-2004 Ronald Bultje <rbultje@ronald.bitfreak.net>
   5  *
   6  * This library is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU Library General Public
   8  * License as published by the Free Software Foundation; either
   9  * version 2 of the License, or (at your option) any later version.
  10  *
  11  * This library is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14  * Library General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU Library General Public
  17  * License along with this library; if not, write to the
  18  * Free Software Foundation, Inc., 51 Franklin St, Fifth Floor,
  19  * Boston, MA 02110-1301, USA.
  20  */
  21
  22 #ifdef HAVE_CONFIG_H
  23 #include "config.h"
  24 #endif
  25
  26 #include <string.h>
  27
  28 #include <gst/gst.h>
  29 #include <libavcodec/avcodec.h>
  30 #include <libavutil/channel_layout.h>
  31
  32 #include "gstav.h"
  33 #include "gstavcodecmap.h"
  34
  35 #include <gst/video/video.h>
  36 #include <gst/audio/audio.h>
  37 #include <gst/pbutils/codec-utils.h>
  38
  39 /* IMPORTANT: Keep this sorted by the ffmpeg channel masks */
  40 static const struct
  41 {
  42   guint64 ff;
  43   GstAudioChannelPosition gst;
  44 } _ff_to_gst_layout[] = {
  45   {
  46   AV_CH_FRONT_LEFT, GST_AUDIO_CHANNEL_POSITION_FRONT_LEFT}, {
  47   AV_CH_FRONT_RIGHT, GST_AUDIO_CHANNEL_POSITION_FRONT_RIGHT}, {
  48   AV_CH_FRONT_CENTER, GST_AUDIO_CHANNEL_POSITION_FRONT_CENTER}, {
  49   AV_CH_LOW_FREQUENCY, GST_AUDIO_CHANNEL_POSITION_LFE1}, {
  50   AV_CH_BACK_LEFT, GST_AUDIO_CHANNEL_POSITION_REAR_LEFT}, {
  51   AV_CH_BACK_RIGHT, GST_AUDIO_CHANNEL_POSITION_REAR_RIGHT}, {
  52   AV_CH_FRONT_LEFT_OF_CENTER, GST_AUDIO_CHANNEL_POSITION_FRONT_LEFT_OF_CENTER}, {
  53   AV_CH_FRONT_RIGHT_OF_CENTER,
  54         GST_AUDIO_CHANNEL_POSITION_FRONT_RIGHT_OF_CENTER}, {
  55   AV_CH_BACK_CENTER, GST_AUDIO_CHANNEL_POSITION_REAR_CENTER}, {
  56   AV_CH_SIDE_LEFT, GST_AUDIO_CHANNEL_POSITION_SIDE_LEFT}, {
  57   AV_CH_SIDE_RIGHT, GST_AUDIO_CHANNEL_POSITION_SIDE_RIGHT}, {
  58   AV_CH_TOP_CENTER, GST_AUDIO_CHANNEL_POSITION_TOP_CENTER}, {
  59   AV_CH_TOP_FRONT_LEFT, GST_AUDIO_CHANNEL_POSITION_TOP_FRONT_LEFT}, {
  60   AV_CH_TOP_FRONT_CENTER, GST_AUDIO_CHANNEL_POSITION_TOP_FRONT_CENTER}, {
  61   AV_CH_TOP_FRONT_RIGHT, GST_AUDIO_CHANNEL_POSITION_TOP_FRONT_RIGHT}, {
  62   AV_CH_TOP_BACK_LEFT, GST_AUDIO_CHANNEL_POSITION_TOP_REAR_LEFT}, {
  63   AV_CH_TOP_BACK_CENTER, GST_AUDIO_CHANNEL_POSITION_TOP_REAR_CENTER}, {
  64   AV_CH_TOP_BACK_RIGHT, GST_AUDIO_CHANNEL_POSITION_TOP_REAR_RIGHT}, {
  65   AV_CH_STEREO_LEFT, GST_AUDIO_CHANNEL_POSITION_FRONT_LEFT}, {
  66   AV_CH_STEREO_RIGHT, GST_AUDIO_CHANNEL_POSITION_FRONT_RIGHT}
  67 };
  68
  69 GType
  70 gst_ffmpeg_compliance_get_type (void)
  71 {
  72   static GType ffmpeg_compliance_type = 0;
  73   static const GEnumValue compliance_types[] = {
  74     {GST_FFMPEG_VERY_STRICT, "Strictly conform to older spec",
  75         "verystrict"},
  76     {GST_FFMPEG_STRICT, "Strictly conform to current spec", "strict"},
  77     {GST_FFMPEG_NORMAL, "Normal behavior", "normal"},
  78     {GST_FFMPEG_UNOFFICIAL, "Allow unofficial extensions", "unofficial"},
  79     {GST_FFMPEG_EXPERIMENTAL, "Allow nonstandardized experimental things",
  80         "experimental"},
  81     {0, NULL, NULL}
  82   };
  83
  84   if (!ffmpeg_compliance_type) {
  85     ffmpeg_compliance_type =
  86         g_enum_register_static ("GstFFMpegCompliance", compliance_types);
  87   }
  88   return ffmpeg_compliance_type;
  89 }
  90
  91 static guint64
  92 gst_ffmpeg_channel_positions_to_layout (GstAudioChannelPosition * pos,
  93     gint channels)
  94 {
  95   gint i, j;
  96   guint64 ret = 0;
  97   gint channels_found = 0;
  98
  99   if (!pos)
 100     return 0;
 101
 102   for (i = 0; i < channels; i++) {
 103     for (j = 0; j < G_N_ELEMENTS (_ff_to_gst_layout); j++) {
 104       if (_ff_to_gst_layout[j].gst == pos[i]) {
 105         ret |= _ff_to_gst_layout[j].ff;
 106         channels_found++;
 107         break;
 108       }
 109     }
 110   }
 111
 112   if (channels_found != channels)
 113     return 0;
 114   return ret;
 115 }
 116
 117 gboolean
 118 gst_ffmpeg_channel_layout_to_gst (guint64 channel_layout, gint channels,
 119     GstAudioChannelPosition * pos)
 120 {
 121   guint nchannels = 0;
 122   gboolean none_layout = FALSE;
 123
 124   if (channel_layout == 0) {
 125     nchannels = channels;
 126     none_layout = TRUE;
 127   } else {
 128     guint i, j;
 129
 130     for (i = 0; i < 64; i++) {
 131       if ((channel_layout & (G_GUINT64_CONSTANT (1) << i)) != 0) {
 132         nchannels++;
 133       }
 134     }
 135
 136     if (nchannels != channels) {
 137       GST_ERROR ("Number of channels is different (%u != %u)", channels,
 138           nchannels);
 139       nchannels = channels;
 140       none_layout = TRUE;
 141     } else {
 142
 143       for (i = 0, j = 0; i < G_N_ELEMENTS (_ff_to_gst_layout); i++) {
 144         if ((channel_layout & _ff_to_gst_layout[i].ff) != 0) {
 145           pos[j++] = _ff_to_gst_layout[i].gst;
 146
 147           if (_ff_to_gst_layout[i].gst == GST_AUDIO_CHANNEL_POSITION_NONE)
 148             none_layout = TRUE;
 149         }
 150       }
 151
 152       if (j != nchannels) {
 153         GST_WARNING
 154             ("Unknown channels in channel layout - assuming NONE layout");
 155         none_layout = TRUE;
 156       }
 157     }
 158   }
 159
 160   if (!none_layout
 161       && !gst_audio_check_valid_channel_positions (pos, nchannels, FALSE)) {
 162     GST_ERROR ("Invalid channel layout %" G_GUINT64_FORMAT
 163         " - assuming NONE layout", channel_layout);
 164     none_layout = TRUE;
 165   }
 166
 167   if (none_layout) {
 168     if (nchannels == 1) {
 169       pos[0] = GST_AUDIO_CHANNEL_POSITION_MONO;
 170     } else if (nchannels == 2) {
 171       pos[0] = GST_AUDIO_CHANNEL_POSITION_FRONT_LEFT;
 172       pos[1] = GST_AUDIO_CHANNEL_POSITION_FRONT_RIGHT;
 173     } else {
 174       guint i;
 175
 176       for (i = 0; i < nchannels; i++)
 177         pos[i] = GST_AUDIO_CHANNEL_POSITION_NONE;
 178     }
 179   }
 180
 181   return TRUE;
 182 }
 183
 184 static gboolean
 185 _gst_value_list_contains (const GValue * list, const GValue * value)
 186 {
 187   guint i, n;
 188   const GValue *tmp;
 189
 190   n = gst_value_list_get_size (list);
 191   for (i = 0; i < n; i++) {
 192     tmp = gst_value_list_get_value (list, i);
 193     if (gst_value_compare (value, tmp) == GST_VALUE_EQUAL)
 194       return TRUE;
 195   }
 196
 197   return FALSE;
 198 }
 199
 200 static void
 201 gst_ffmpeg_video_set_pix_fmts (GstCaps * caps, const enum AVPixelFormat *fmts)
 202 {
 203   GValue va = { 0, };
 204   GValue v = { 0, };
 205   GstVideoFormat format;
 206
 207   if (!fmts || fmts[0] == -1) {
 208     gint i;
 209
 210     g_value_init (&va, GST_TYPE_LIST);
 211     g_value_init (&v, G_TYPE_STRING);
 212     for (i = 0; i <= PIX_FMT_NB; i++) {
 213       format = gst_ffmpeg_pixfmt_to_videoformat (i);
 214       if (format == GST_VIDEO_FORMAT_UNKNOWN)
 215         continue;
 216       g_value_set_string (&v, gst_video_format_to_string (format));
 217       gst_value_list_append_value (&va, &v);
 218     }
 219     gst_caps_set_value (caps, "format", &va);
 220     g_value_unset (&v);
 221     g_value_unset (&va);
 222     return;
 223   }
 224
 225   /* Only a single format */
 226   g_value_init (&va, GST_TYPE_LIST);
 227   g_value_init (&v, G_TYPE_STRING);
 228   while (*fmts != -1) {
 229     format = gst_ffmpeg_pixfmt_to_videoformat (*fmts);
 230     if (format != GST_VIDEO_FORMAT_UNKNOWN) {
 231       g_value_set_string (&v, gst_video_format_to_string (format));
 232       /* Only append values we don't have yet */
 233       if (!_gst_value_list_contains (&va, &v))
 234         gst_value_list_append_value (&va, &v);
 235     }
 236     fmts++;
 237   }
 238   if (gst_value_list_get_size (&va) == 1) {
 239     /* The single value is still in v */
 240     gst_caps_set_value (caps, "format", &v);
 241   } else if (gst_value_list_get_size (&va) > 1) {
 242     gst_caps_set_value (caps, "format", &va);
 243   }
 244   g_value_unset (&v);
 245   g_value_unset (&va);
 246 }
 247
 248 /* this macro makes a caps width fixed or unfixed width/height
 249  * properties depending on whether we've got a context.
 250  *
 251  * See below for why we use this.
 252  *
 253  * We should actually do this stuff at the end, like in riff-media.c,
 254  * but I'm too lazy today. Maybe later.
 255  */
 256 static GstCaps *
 257 gst_ff_vid_caps_new (AVCodecContext * context, AVCodec * codec,
 258     enum AVCodecID codec_id, gboolean encode, const char *mimetype,
 259     const char *fieldname, ...)
 260 {
 261   GstCaps *caps = NULL;
 262   va_list var_args;
 263   gint i;
 264
 265   GST_LOG ("context:%p, codec_id:%d, mimetype:%s", context, codec_id, mimetype);
 266
 267   /* fixed, non probing context */
 268   if (context != NULL && context->width != -1) {
 269     gint num, denom;
 270
 271     caps = gst_caps_new_simple (mimetype,
 272         "width", G_TYPE_INT, context->width,
 273         "height", G_TYPE_INT, context->height, NULL);
 274
 275     num = context->time_base.den / context->ticks_per_frame;
 276     denom = context->time_base.num;
 277
 278     if (!denom) {
 279       GST_LOG ("invalid framerate: %d/0, -> %d/1", num, num);
 280       denom = 1;
 281     }
 282     if (gst_util_fraction_compare (num, denom, 1000, 1) > 0) {
 283       GST_LOG ("excessive framerate: %d/%d, -> 0/1", num, denom);
 284       num = 0;
 285       denom = 1;
 286     }
 287     GST_LOG ("setting framerate: %d/%d", num, denom);
 288     gst_caps_set_simple (caps,
 289         "framerate", GST_TYPE_FRACTION, num, denom, NULL);
 290   } else if (encode) {
 291     /* so we are after restricted caps in this case */
 292     switch (codec_id) {
 293       case AV_CODEC_ID_H261:
 294       {
 295         caps = gst_caps_new_simple (mimetype,
 296             "width", G_TYPE_INT, 352,
 297             "height", G_TYPE_INT, 288,
 298             "framerate", GST_TYPE_FRACTION_RANGE, 0, 1, G_MAXINT, 1, NULL);
 299         gst_caps_append (caps, gst_caps_new_simple (mimetype,
 300                 "width", G_TYPE_INT, 176,
 301                 "height", G_TYPE_INT, 144,
 302                 "framerate", GST_TYPE_FRACTION_RANGE, 0, 1, G_MAXINT, 1, NULL));
 303         break;
 304       }
 305       case AV_CODEC_ID_H263:
 306       {
 307         /* 128x96, 176x144, 352x288, 704x576, and 1408x1152. slightly reordered
 308          * because we want automatic negotiation to go as close to 320x240 as
 309          * possible. */
 310         const static gint widths[] = { 352, 704, 176, 1408, 128 };
 311         const static gint heights[] = { 288, 576, 144, 1152, 96 };
 312         GstCaps *temp;
 313         gint n_sizes = G_N_ELEMENTS (widths);
 314
 315         caps = gst_caps_new_empty ();
 316         for (i = 0; i < n_sizes; i++) {
 317           temp = gst_caps_new_simple (mimetype,
 318               "width", G_TYPE_INT, widths[i],
 319               "height", G_TYPE_INT, heights[i],
 320               "framerate", GST_TYPE_FRACTION_RANGE, 0, 1, G_MAXINT, 1, NULL);
 321
 322           gst_caps_append (caps, temp);
 323         }
 324         break;
 325       }
 326       case AV_CODEC_ID_DVVIDEO:
 327       {
 328         static struct
 329         {
 330           const gchar *csp;
 331           gint width, height;
 332           gint par_n, par_d;
 333           gint framerate_n, framerate_d;
 334         } profiles[] = {
 335           {
 336           "Y41B", 720, 480, 8, 9, 30000, 1001}, {
 337           "Y41B", 720, 480, 32, 27, 30000, 1001}, {
 338           "Y42B", 720, 480, 8, 9, 30000, 1001}, {
 339           "Y42B", 720, 480, 32, 27, 30000, 1001}, {
 340           "I420", 720, 576, 16, 15, 25, 1}, {
 341           "I420", 720, 576, 64, 45, 25, 1}, {
 342           "Y41B", 720, 576, 16, 15, 25, 1}, {
 343           "Y41B", 720, 576, 64, 45, 25, 1}, {
 344           "Y42B", 720, 576, 16, 15, 25, 1}, {
 345           "Y42B", 720, 576, 64, 45, 25, 1}, {
 346           "Y42B", 1280, 1080, 1, 1, 30000, 1001}, {
 347           "Y42B", 1280, 1080, 3, 2, 30000, 1001}, {
 348           "Y42B", 1440, 1080, 1, 1, 25, 1}, {
 349           "Y42B", 1440, 1080, 4, 3, 25, 1}, {
 350           "Y42B", 960, 720, 1, 1, 60000, 1001}, {
 351           "Y42B", 960, 720, 4, 3, 60000, 1001}, {
 352           "Y42B", 960, 720, 1, 1, 50, 1}, {
 353         "Y42B", 960, 720, 4, 3, 50, 1},};
 354         GstCaps *temp;
 355         gint n_sizes = G_N_ELEMENTS (profiles);
 356
 357         if (strcmp (mimetype, "video/x-raw") == 0) {
 358           caps = gst_caps_new_empty ();
 359           for (i = 0; i < n_sizes; i++) {
 360             temp = gst_caps_new_simple (mimetype,
 361                 "format", G_TYPE_STRING, profiles[i].csp,
 362                 "width", G_TYPE_INT, profiles[i].width,
 363                 "height", G_TYPE_INT, profiles[i].height,
 364                 "framerate", GST_TYPE_FRACTION, profiles[i].framerate_n,
 365                 profiles[i].framerate_d, "pixel-aspect-ratio",
 366                 GST_TYPE_FRACTION, profiles[i].par_n, profiles[i].par_d, NULL);
 367
 368             gst_caps_append (caps, temp);
 369           }
 370         } else {
 371           caps = gst_caps_new_empty ();
 372           for (i = 0; i < n_sizes; i++) {
 373             temp = gst_caps_new_simple (mimetype,
 374                 "width", G_TYPE_INT, profiles[i].width,
 375                 "height", G_TYPE_INT, profiles[i].height,
 376                 "framerate", GST_TYPE_FRACTION, profiles[i].framerate_n,
 377                 profiles[i].framerate_d, "pixel-aspect-ratio",
 378                 GST_TYPE_FRACTION, profiles[i].par_n, profiles[i].par_d, NULL);
 379
 380             gst_caps_append (caps, temp);
 381           }
 382         }
 383         break;
 384       }
 385       case AV_CODEC_ID_DNXHD:
 386       {
 387         caps = gst_caps_new_simple (mimetype,
 388             "width", G_TYPE_INT, 1920,
 389             "height", G_TYPE_INT, 1080,
 390             "framerate", GST_TYPE_FRACTION_RANGE, 0, 1, G_MAXINT, 1, NULL);
 391         gst_caps_append (caps, gst_caps_new_simple (mimetype,
 392                 "width", G_TYPE_INT, 1280,
 393                 "height", G_TYPE_INT, 720,
 394                 "framerate", GST_TYPE_FRACTION_RANGE, 0, 1, G_MAXINT, 1, NULL));
 395         break;
 396       }
 397       default:
 398       {
 399         if (codec && codec->supported_framerates
 400             && codec->supported_framerates[0].num != 0
 401             && codec->supported_framerates[0].den != 0) {
 402           GValue va = { 0, };
 403           GValue v = { 0, };
 404           const AVRational *rates = codec->supported_framerates;
 405
 406           if (rates[1].num == 0 && rates[1].den == 0) {
 407             caps =
 408                 gst_caps_new_simple (mimetype, "framerate", GST_TYPE_FRACTION,
 409                 rates[0].num, rates[0].den, NULL);
 410           } else {
 411             g_value_init (&va, GST_TYPE_LIST);
 412             g_value_init (&v, GST_TYPE_FRACTION);
 413
 414             while (rates->num != 0 && rates->den != 0) {
 415               gst_value_set_fraction (&v, rates->num, rates->den);
 416               gst_value_list_append_value (&va, &v);
 417               rates++;
 418             }
 419
 420             caps = gst_caps_new_simple (mimetype, NULL, NULL, NULL);
 421             gst_caps_set_value (caps, "framerate", &va);
 422             g_value_unset (&va);
 423             g_value_unset (&v);
 424           }
 425
 426         } else {
 427           caps = gst_caps_new_empty_simple (mimetype);
 428         }
 429
 430         break;
 431       }
 432     }
 433   }
 434
 435   /* no fixed caps or special restrictions applied;
 436    * default unfixed setting */
 437   if (!caps) {
 438     GST_DEBUG ("Creating default caps");
 439     caps = gst_caps_new_empty_simple (mimetype);
 440   }
 441
 442   va_start (var_args, fieldname);
 443   gst_caps_set_simple_valist (caps, fieldname, var_args);
 444   va_end (var_args);
 445
 446   return caps;
 447 }
 448
 449 static gint
 450 get_nbits_set (guint64 n)
 451 {
 452   gint i, x;
 453
 454   x = 0;
 455   for (i = 0; i < 64; i++) {
 456     if ((n & (G_GUINT64_CONSTANT (1) << i)))
 457       x++;
 458   }
 459
 460   return x;
 461 }
 462
 463 static void
 464 gst_ffmpeg_audio_set_sample_fmts (GstCaps * caps,
 465     const enum AVSampleFormat *fmts)
 466 {
 467   GValue va = { 0, };
 468   GValue v = { 0, };
 469   GstAudioFormat format;
 470
 471   if (!fmts || fmts[0] == -1) {
 472     gint i;
 473
 474     g_value_init (&va, GST_TYPE_LIST);
 475     g_value_init (&v, G_TYPE_STRING);
 476     for (i = 0; i <= AV_SAMPLE_FMT_DBL; i++) {
 477       format = gst_ffmpeg_smpfmt_to_audioformat (i);
 478       if (format == GST_AUDIO_FORMAT_UNKNOWN)
 479         continue;
 480       g_value_set_string (&v, gst_audio_format_to_string (format));
 481       gst_value_list_append_value (&va, &v);
 482     }
 483     gst_caps_set_value (caps, "format", &va);
 484     g_value_unset (&v);
 485     g_value_unset (&va);
 486     return;
 487   }
 488
 489   g_value_init (&va, GST_TYPE_LIST);
 490   g_value_init (&v, G_TYPE_STRING);
 491   while (*fmts != -1) {
 492     format = gst_ffmpeg_smpfmt_to_audioformat (*fmts);
 493     if (format != GST_AUDIO_FORMAT_UNKNOWN) {
 494       g_value_set_string (&v, gst_audio_format_to_string (format));
 495       /* Only append values we don't have yet */
 496       if (!_gst_value_list_contains (&va, &v))
 497         gst_value_list_append_value (&va, &v);
 498     }
 499     fmts++;
 500   }
 501   if (gst_value_list_get_size (&va) == 1) {
 502     /* The single value is still in v */
 503     gst_caps_set_value (caps, "format", &v);
 504   } else if (gst_value_list_get_size (&va) > 1) {
 505     gst_caps_set_value (caps, "format", &va);
 506   }
 507   g_value_unset (&v);
 508   g_value_unset (&va);
 509 }
 510
 511 /* same for audio - now with channels/sample rate
 512  */
 513 static GstCaps *
 514 gst_ff_aud_caps_new (AVCodecContext * context, AVCodec * codec,
 515     enum AVCodecID codec_id, gboolean encode, const char *mimetype,
 516     const char *fieldname, ...)
 517 {
 518   GstCaps *caps = NULL;
 519   gint i;
 520   va_list var_args;
 521
 522   /* fixed, non-probing context */
 523   if (context != NULL && context->channels != -1) {
 524     GstAudioChannelPosition pos[64];
 525     guint64 mask;
 526
 527     caps = gst_caps_new_simple (mimetype,
 528         "rate", G_TYPE_INT, context->sample_rate,
 529         "channels", G_TYPE_INT, context->channels, NULL);
 530
 531     if (context->channels > 1 &&
 532         gst_ffmpeg_channel_layout_to_gst (context->channel_layout,
 533             context->channels, pos) &&
 534         gst_audio_channel_positions_to_mask (pos, context->channels, FALSE,
 535             &mask)) {
 536       gst_caps_set_simple (caps, "channel-mask", GST_TYPE_BITMASK, mask, NULL);
 537     }
 538   } else if (encode) {
 539     gint maxchannels = 2;
 540     const gint *rates = NULL;
 541     gint n_rates = 0;
 542
 543     /* so we must be after restricted caps in this case */
 544     switch (codec_id) {
 545       case AV_CODEC_ID_AAC:
 546       case AV_CODEC_ID_AAC_LATM:
 547       case AV_CODEC_ID_DTS:
 548         maxchannels = 6;
 549         break;
 550       case AV_CODEC_ID_MP2:
 551       {
 552         const static gint l_rates[] =
 553             { 48000, 44100, 32000, 24000, 22050, 16000 };
 554         n_rates = G_N_ELEMENTS (l_rates);
 555         rates = l_rates;
 556         break;
 557       }
 558       case AV_CODEC_ID_EAC3:
 559       case AV_CODEC_ID_AC3:
 560       {
 561         const static gint l_rates[] = { 48000, 44100, 32000 };
 562         maxchannels = 6;
 563         n_rates = G_N_ELEMENTS (l_rates);
 564         rates = l_rates;
 565         break;
 566       }
 567       case AV_CODEC_ID_ADPCM_G722:
 568       {
 569         const static gint l_rates[] = { 16000 };
 570         n_rates = G_N_ELEMENTS (l_rates);
 571         rates = l_rates;
 572         maxchannels = 1;
 573         break;
 574       }
 575       case AV_CODEC_ID_ADPCM_G726:
 576       {
 577         const static gint l_rates[] = { 8000 };
 578         n_rates = G_N_ELEMENTS (l_rates);
 579         rates = l_rates;
 580         maxchannels = 1;
 581         break;
 582       }
 583       case AV_CODEC_ID_ADPCM_SWF:
 584       {
 585         const static gint l_rates[] = { 11025, 22050, 44100 };
 586         n_rates = G_N_ELEMENTS (l_rates);
 587         rates = l_rates;
 588         break;
 589       }
 590       case AV_CODEC_ID_ROQ_DPCM:
 591       {
 592         const static gint l_rates[] = { 22050 };
 593         n_rates = G_N_ELEMENTS (l_rates);
 594         rates = l_rates;
 595         break;
 596       }
 597       case AV_CODEC_ID_AMR_NB:
 598       {
 599         const static gint l_rates[] = { 8000 };
 600         maxchannels = 1;
 601         n_rates = G_N_ELEMENTS (l_rates);
 602         rates = l_rates;
 603         break;
 604       }
 605       case AV_CODEC_ID_AMR_WB:
 606       {
 607         const static gint l_rates[] = { 16000 };
 608         maxchannels = 1;
 609         n_rates = G_N_ELEMENTS (l_rates);
 610         rates = l_rates;
 611         break;
 612       }
 613       default:
 614         break;
 615     }
 616
 617     /* regardless of encode/decode, open up channels if applicable */
 618     /* Until decoders/encoders expose the maximum number of channels
 619      * they support, we whitelist them here. */
 620     switch (codec_id) {
 621       case AV_CODEC_ID_WMAPRO:
 622       case AV_CODEC_ID_TRUEHD:
 623         maxchannels = 8;
 624         break;
 625       default:
 626         break;
 627     }
 628
 629     if (codec && codec->channel_layouts) {
 630       const uint64_t *layouts = codec->channel_layouts;
 631       GstAudioChannelPosition pos[64];
 632
 633       caps = gst_caps_new_empty ();
 634       while (*layouts) {
 635         gint nbits_set = get_nbits_set (*layouts);
 636
 637         if (gst_ffmpeg_channel_layout_to_gst (*layouts, nbits_set, pos)) {
 638           guint64 mask;
 639
 640           if (gst_audio_channel_positions_to_mask (pos, nbits_set, FALSE,
 641                   &mask)) {
 642             GstCaps *tmp =
 643                 gst_caps_new_simple (mimetype, "channel-mask", GST_TYPE_BITMASK,
 644                 mask,
 645                 "channels", G_TYPE_INT, nbits_set, NULL);
 646
 647             gst_caps_append (caps, tmp);
 648           }
 649         }
 650         layouts++;
 651       }
 652     } else {
 653       if (maxchannels == 1)
 654         caps = gst_caps_new_simple (mimetype,
 655             "channels", G_TYPE_INT, maxchannels, NULL);
 656       else
 657         caps = gst_caps_new_simple (mimetype,
 658             "channels", GST_TYPE_INT_RANGE, 1, maxchannels, NULL);
 659     }
 660
 661     if (n_rates) {
 662       GValue list = { 0, };
 663
 664       g_value_init (&list, GST_TYPE_LIST);
 665       for (i = 0; i < n_rates; i++) {
 666         GValue v = { 0, };
 667
 668         g_value_init (&v, G_TYPE_INT);
 669         g_value_set_int (&v, rates[i]);
 670         gst_value_list_append_value (&list, &v);
 671         g_value_unset (&v);
 672       }
 673       gst_caps_set_value (caps, "rate", &list);
 674       g_value_unset (&list);
 675     } else if (codec && codec->supported_samplerates
 676         && codec->supported_samplerates[0]) {
 677       GValue va = { 0, };
 678       GValue v = { 0, };
 679
 680       if (!codec->supported_samplerates[1]) {
 681         gst_caps_set_simple (caps, "rate", G_TYPE_INT,
 682             codec->supported_samplerates[0], NULL);
 683       } else {
 684         const int *rates = codec->supported_samplerates;
 685
 686         g_value_init (&va, GST_TYPE_LIST);
 687         g_value_init (&v, G_TYPE_INT);
 688
 689         while (*rates) {
 690           g_value_set_int (&v, *rates);
 691           gst_value_list_append_value (&va, &v);
 692           rates++;
 693         }
 694         gst_caps_set_value (caps, "rate", &va);
 695         g_value_unset (&va);
 696         g_value_unset (&v);
 697       }
 698     } else {
 699       gst_caps_set_simple (caps, "rate", GST_TYPE_INT_RANGE, 4000, 96000, NULL);
 700     }
 701   } else {
 702     caps = gst_caps_new_empty_simple (mimetype);
 703   }
 704
 705   va_start (var_args, fieldname);
 706   gst_caps_set_simple_valist (caps, fieldname, var_args);
 707   va_end (var_args);
 708
 709   return caps;
 710 }
 711
 712 /* Convert a FFMPEG codec ID and optional AVCodecContext
 713  * to a GstCaps. If the context is ommitted, no fixed values
 714  * for video/audio size will be included in the GstCaps
 715  *
 716  * CodecID is primarily meant for compressed data GstCaps!
 717  *
 718  * encode is a special parameter. gstffmpegdec will say
 719  * FALSE, gstffmpegenc will say TRUE. The output caps
 720  * depends on this, in such a way that it will be very
 721  * specific, defined, fixed and correct caps for encoders,
 722  * yet very wide, "forgiving" caps for decoders. Example
 723  * for mp3: decode: audio/mpeg,mpegversion=1,layer=[1-3]
 724  * but encode: audio/mpeg,mpegversion=1,layer=3,bitrate=x,
 725  * rate=x,channels=x.
 726  */
 727
 728 GstCaps *
 729 gst_ffmpeg_codecid_to_caps (enum AVCodecID codec_id,
 730     AVCodecContext * context, gboolean encode)
 731 {
 732   GstCaps *caps = NULL;
 733   gboolean buildcaps = FALSE;
 734
 735   GST_LOG ("codec_id:%d, context:%p, encode:%d", codec_id, context, encode);
 736
 737   switch (codec_id) {
 738     case AV_CODEC_ID_MPEG1VIDEO:
 739       /* FIXME: bitrate */
 740       caps = gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/mpeg",
 741           "mpegversion", G_TYPE_INT, 1,
 742           "systemstream", G_TYPE_BOOLEAN, FALSE, NULL);
 743       break;
 744
 745     case AV_CODEC_ID_MPEG2VIDEO:
 746       if (encode) {
 747         /* FIXME: bitrate */
 748         caps =
 749             gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/mpeg",
 750             "mpegversion", G_TYPE_INT, 2, "systemstream", G_TYPE_BOOLEAN, FALSE,
 751             NULL);
 752       } else {
 753         /* decode both MPEG-1 and MPEG-2; width/height/fps are all in
 754          * the MPEG video stream headers, so may be omitted from caps. */
 755         caps = gst_caps_new_simple ("video/mpeg",
 756             "mpegversion", GST_TYPE_INT_RANGE, 1, 2,
 757             "systemstream", G_TYPE_BOOLEAN, FALSE, NULL);
 758       }
 759       break;
 760
 761     case AV_CODEC_ID_MPEG2VIDEO_XVMC:
 762       /* this is a special ID - don't need it in GStreamer, I think */
 763       break;
 764
 765     case AV_CODEC_ID_H263:
 766       if (encode) {
 767         caps =
 768             gst_ff_vid_caps_new (context, NULL, codec_id, encode,
 769             "video/x-h263", "variant", G_TYPE_STRING, "itu", "h263version",
 770             G_TYPE_STRING, "h263", NULL);
 771       } else {
 772         /* don't pass codec_id, we can decode other variants with the H263
 773          * decoder that don't have specific size requirements
 774          */
 775         caps =
 776             gst_ff_vid_caps_new (context, NULL, AV_CODEC_ID_NONE, encode,
 777             "video/x-h263", "variant", G_TYPE_STRING, "itu", NULL);
 778       }
 779       break;
 780
 781     case AV_CODEC_ID_H263P:
 782       caps =
 783           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-h263",
 784           "variant", G_TYPE_STRING, "itu", "h263version", G_TYPE_STRING,
 785           "h263p", NULL);
 786       if (encode && context) {
 787
 788         gst_caps_set_simple (caps,
 789             "annex-f", G_TYPE_BOOLEAN, context->flags & CODEC_FLAG_4MV,
 790             "annex-j", G_TYPE_BOOLEAN, context->flags & CODEC_FLAG_LOOP_FILTER,
 791             "annex-i", G_TYPE_BOOLEAN, context->flags & CODEC_FLAG_AC_PRED,
 792             "annex-t", G_TYPE_BOOLEAN, context->flags & CODEC_FLAG_AC_PRED,
 793             NULL);
 794       }
 795       break;
 796
 797     case AV_CODEC_ID_H263I:
 798       caps =
 799           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
 800           "video/x-intel-h263", "variant", G_TYPE_STRING, "intel", NULL);
 801       break;
 802
 803     case AV_CODEC_ID_H261:
 804       caps =
 805           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-h261",
 806           NULL);
 807       break;
 808
 809     case AV_CODEC_ID_RV10:
 810     case AV_CODEC_ID_RV20:
 811     case AV_CODEC_ID_RV30:
 812     case AV_CODEC_ID_RV40:
 813     {
 814       gint version;
 815
 816       switch (codec_id) {
 817         case AV_CODEC_ID_RV40:
 818           version = 4;
 819           break;
 820         case AV_CODEC_ID_RV30:
 821           version = 3;
 822           break;
 823         case AV_CODEC_ID_RV20:
 824           version = 2;
 825           break;
 826         default:
 827           version = 1;
 828           break;
 829       }
 830
 831       caps =
 832           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
 833           "video/x-pn-realvideo", "rmversion", G_TYPE_INT, version, NULL);
 834       if (context) {
 835         if (context->extradata_size >= 8) {
 836           gst_caps_set_simple (caps,
 837               "subformat", G_TYPE_INT, GST_READ_UINT32_BE (context->extradata),
 838               NULL);
 839         }
 840       }
 841     }
 842       break;
 843
 844     case AV_CODEC_ID_MP1:
 845       /* FIXME: bitrate */
 846       caps = gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/mpeg",
 847           "mpegversion", G_TYPE_INT, 1, "layer", G_TYPE_INT, 1, NULL);
 848       break;
 849
 850     case AV_CODEC_ID_MP2:
 851       /* FIXME: bitrate */
 852       caps = gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/mpeg",
 853           "mpegversion", G_TYPE_INT, 1, "layer", G_TYPE_INT, 2, NULL);
 854       break;
 855
 856     case AV_CODEC_ID_MP3:
 857       if (encode) {
 858         /* FIXME: bitrate */
 859         caps =
 860             gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/mpeg",
 861             "mpegversion", G_TYPE_INT, 1, "layer", G_TYPE_INT, 3, NULL);
 862       } else {
 863         /* Decodes MPEG-1 layer 1/2/3. Samplerate, channels et al are
 864          * in the MPEG audio header, so may be omitted from caps. */
 865         caps = gst_caps_new_simple ("audio/mpeg",
 866             "mpegversion", G_TYPE_INT, 1,
 867             "layer", GST_TYPE_INT_RANGE, 1, 3, NULL);
 868       }
 869       break;
 870
 871     case AV_CODEC_ID_MUSEPACK7:
 872       caps =
 873           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
 874           "audio/x-ffmpeg-parsed-musepack", "streamversion", G_TYPE_INT, 7,
 875           NULL);
 876       break;
 877
 878     case AV_CODEC_ID_MUSEPACK8:
 879       caps =
 880           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
 881           "audio/x-ffmpeg-parsed-musepack", "streamversion", G_TYPE_INT, 8,
 882           NULL);
 883       break;
 884
 885     case AV_CODEC_ID_AC3:
 886       /* FIXME: bitrate */
 887       caps =
 888           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-ac3",
 889           NULL);
 890       break;
 891
 892     case AV_CODEC_ID_EAC3:
 893       /* FIXME: bitrate */
 894       caps =
 895           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-eac3",
 896           NULL);
 897       break;
 898
 899     case AV_CODEC_ID_TRUEHD:
 900       caps =
 901           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
 902           "audio/x-true-hd", NULL);
 903       break;
 904
 905     case AV_CODEC_ID_ATRAC1:
 906       caps =
 907           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
 908           "audio/x-vnd.sony.atrac1", NULL);
 909       break;
 910
 911     case AV_CODEC_ID_ATRAC3:
 912       caps =
 913           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
 914           "audio/x-vnd.sony.atrac3", NULL);
 915       break;
 916
 917     case AV_CODEC_ID_DTS:
 918       caps =
 919           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-dts",
 920           NULL);
 921       break;
 922
 923     case AV_CODEC_ID_APE:
 924       caps =
 925           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
 926           "audio/x-ffmpeg-parsed-ape", NULL);
 927       if (context) {
 928         gst_caps_set_simple (caps,
 929             "depth", G_TYPE_INT, context->bits_per_coded_sample, NULL);
 930       }
 931       break;
 932
 933     case AV_CODEC_ID_MLP:
 934       caps =
 935           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-mlp",
 936           NULL);
 937       break;
 938
 939     case AV_CODEC_ID_IMC:
 940       caps =
 941           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-imc",
 942           NULL);
 943       break;
 944
 945       /* MJPEG is normal JPEG, Motion-JPEG and Quicktime MJPEG-A. MJPEGB
 946        * is Quicktime's MJPEG-B. LJPEG is lossless JPEG. I don't know what
 947        * sp5x is, but it's apparently something JPEG... We don't separate
 948        * between those in GStreamer. Should we (at least between MJPEG,
 949        * MJPEG-B and sp5x decoding...)? */
 950     case AV_CODEC_ID_MJPEG:
 951     case AV_CODEC_ID_LJPEG:
 952       caps =
 953           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "image/jpeg",
 954           "parsed", G_TYPE_BOOLEAN, TRUE, NULL);
 955       break;
 956
 957     case AV_CODEC_ID_SP5X:
 958       caps =
 959           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/sp5x",
 960           NULL);
 961       break;
 962
 963     case AV_CODEC_ID_MJPEGB:
 964       caps =
 965           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
 966           "video/x-mjpeg-b", NULL);
 967       break;
 968
 969     case AV_CODEC_ID_MPEG4:
 970       if (encode && context != NULL) {
 971         /* I'm not exactly sure what ffmpeg outputs... ffmpeg itself uses
 972          * the AVI fourcc 'DIVX', but 'mp4v' for Quicktime... */
 973         switch (context->codec_tag) {
 974           case GST_MAKE_FOURCC ('D', 'I', 'V', 'X'):
 975             caps =
 976                 gst_ff_vid_caps_new (context, NULL, codec_id, encode,
 977                 "video/x-divx", "divxversion", G_TYPE_INT, 5, NULL);
 978             break;
 979           case GST_MAKE_FOURCC ('m', 'p', '4', 'v'):
 980           default:
 981             /* FIXME: bitrate */
 982             caps =
 983                 gst_ff_vid_caps_new (context, NULL, codec_id, encode,
 984                 "video/mpeg", "systemstream", G_TYPE_BOOLEAN, FALSE,
 985                 "mpegversion", G_TYPE_INT, 4, NULL);
 986             break;
 987         }
 988       } else {
 989         /* The trick here is to separate xvid, divx, mpeg4, 3ivx et al */
 990         caps =
 991             gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/mpeg",
 992             "mpegversion", G_TYPE_INT, 4, "systemstream", G_TYPE_BOOLEAN, FALSE,
 993             NULL);
 994         if (encode) {
 995           gst_caps_append (caps, gst_ff_vid_caps_new (context, NULL, codec_id,
 996                   encode, "video/x-divx", "divxversion", G_TYPE_INT, 5, NULL));
 997         } else {
 998           gst_caps_append (caps, gst_ff_vid_caps_new (context, NULL, codec_id,
 999                   encode, "video/x-divx", "divxversion", GST_TYPE_INT_RANGE, 4,
1000                   5, NULL));
1001           gst_caps_append (caps, gst_ff_vid_caps_new (context, NULL, codec_id,
1002                   encode, "video/x-xvid", NULL));
1003           gst_caps_append (caps, gst_ff_vid_caps_new (context, NULL, codec_id,
1004                   encode, "video/x-3ivx", NULL));
1005         }
1006       }
1007       break;
1008
1009     case AV_CODEC_ID_RAWVIDEO:
1010       caps =
1011           gst_ffmpeg_codectype_to_video_caps (context, codec_id, encode, NULL);
1012       break;
1013
1014     case AV_CODEC_ID_MSMPEG4V1:
1015     case AV_CODEC_ID_MSMPEG4V2:
1016     case AV_CODEC_ID_MSMPEG4V3:
1017     {
1018       gint version = 41 + codec_id - AV_CODEC_ID_MSMPEG4V1;
1019
1020       /* encode-FIXME: bitrate */
1021       caps =
1022           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1023           "video/x-msmpeg", "msmpegversion", G_TYPE_INT, version, NULL);
1024       if (!encode && codec_id == AV_CODEC_ID_MSMPEG4V3) {
1025         gst_caps_append (caps, gst_ff_vid_caps_new (context, NULL, codec_id,
1026                 encode, "video/x-divx", "divxversion", G_TYPE_INT, 3, NULL));
1027       }
1028     }
1029       break;
1030
1031     case AV_CODEC_ID_WMV1:
1032     case AV_CODEC_ID_WMV2:
1033     {
1034       gint version = (codec_id == AV_CODEC_ID_WMV1) ? 1 : 2;
1035
1036       caps =
1037           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-wmv",
1038           "wmvversion", G_TYPE_INT, version, NULL);
1039     }
1040       break;
1041
1042     case AV_CODEC_ID_FLV1:
1043       caps =
1044           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1045           "video/x-flash-video", "flvversion", G_TYPE_INT, 1, NULL);
1046       break;
1047
1048     case AV_CODEC_ID_SVQ1:
1049       caps =
1050           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-svq",
1051           "svqversion", G_TYPE_INT, 1, NULL);
1052       break;
1053
1054     case AV_CODEC_ID_SVQ3:
1055       caps =
1056           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-svq",
1057           "svqversion", G_TYPE_INT, 3, NULL);
1058       break;
1059
1060     case AV_CODEC_ID_DVAUDIO:
1061       caps =
1062           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-dv",
1063           NULL);
1064       break;
1065
1066     case AV_CODEC_ID_DVVIDEO:
1067     {
1068       if (encode && context) {
1069         const gchar *format;
1070
1071         switch (context->pix_fmt) {
1072           case PIX_FMT_YUYV422:
1073             format = "YUY2";
1074             break;
1075           case PIX_FMT_YUV420P:
1076             format = "I420";
1077             break;
1078           case PIX_FMT_YUVA420P:
1079             format = "A420";
1080             break;
1081           case PIX_FMT_YUV411P:
1082             format = "Y41B";
1083             break;
1084           case PIX_FMT_YUV422P:
1085             format = "Y42B";
1086             break;
1087           case PIX_FMT_YUV410P:
1088             format = "YUV9";
1089             break;
1090           default:
1091             GST_WARNING
1092                 ("Couldnt' find format for pixfmt %d, defaulting to I420",
1093                 context->pix_fmt);
1094             format = "I420";
1095             break;
1096         }
1097         caps =
1098             gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-dv",
1099             "systemstream", G_TYPE_BOOLEAN, FALSE, "format", G_TYPE_STRING,
1100             format, NULL);
1101       } else {
1102         caps =
1103             gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-dv",
1104             "systemstream", G_TYPE_BOOLEAN, FALSE, NULL);
1105       }
1106     }
1107       break;
1108
1109     case AV_CODEC_ID_WMAV1:
1110     case AV_CODEC_ID_WMAV2:
1111     {
1112       gint version = (codec_id == AV_CODEC_ID_WMAV1) ? 1 : 2;
1113
1114       if (context) {
1115         caps =
1116             gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-wma",
1117             "wmaversion", G_TYPE_INT, version, "block_align", G_TYPE_INT,
1118             context->block_align, "bitrate", G_TYPE_INT, context->bit_rate,
1119             NULL);
1120       } else {
1121         caps =
1122             gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-wma",
1123             "wmaversion", G_TYPE_INT, version, "block_align",
1124             GST_TYPE_INT_RANGE, 0, G_MAXINT, "bitrate", GST_TYPE_INT_RANGE, 0,
1125             G_MAXINT, NULL);
1126       }
1127     }
1128       break;
1129     case AV_CODEC_ID_WMAPRO:
1130     {
1131       caps =
1132           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-wma",
1133           "wmaversion", G_TYPE_INT, 3, NULL);
1134       break;
1135     }
1136     case AV_CODEC_ID_WMALOSSLESS:
1137     {
1138       /* libav only supports a depth of 16 at the moment */
1139       caps =
1140           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-wma",
1141           "wmaversion", G_TYPE_INT, 4, "depth", G_TYPE_INT, 16, NULL);
1142       break;
1143     }
1144     case AV_CODEC_ID_WMAVOICE:
1145     {
1146       caps =
1147           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-wms",
1148           NULL);
1149       break;
1150     }
1151
1152     case AV_CODEC_ID_MACE3:
1153     case AV_CODEC_ID_MACE6:
1154     {
1155       gint version = (codec_id == AV_CODEC_ID_MACE3) ? 3 : 6;
1156
1157       caps =
1158           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-mace",
1159           "maceversion", G_TYPE_INT, version, NULL);
1160     }
1161       break;
1162
1163     case AV_CODEC_ID_HUFFYUV:
1164       caps =
1165           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1166           "video/x-huffyuv", NULL);
1167       if (context) {
1168         gst_caps_set_simple (caps,
1169             "bpp", G_TYPE_INT, context->bits_per_coded_sample, NULL);
1170       }
1171       break;
1172
1173     case AV_CODEC_ID_CYUV:
1174       caps =
1175           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1176           "video/x-compressed-yuv", NULL);
1177       break;
1178
1179     case AV_CODEC_ID_H264:
1180       caps =
1181           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-h264",
1182           "alignment", G_TYPE_STRING, "au", NULL);
1183       if (!encode) {
1184         GValue arr = { 0, };
1185         GValue item = { 0, };
1186         g_value_init (&arr, GST_TYPE_LIST);
1187         g_value_init (&item, G_TYPE_STRING);
1188         g_value_set_string (&item, "avc");
1189         gst_value_list_append_value (&arr, &item);
1190         g_value_set_string (&item, "byte-stream");
1191         gst_value_list_append_value (&arr, &item);
1192         g_value_unset (&item);
1193         gst_caps_set_value (caps, "stream-format", &arr);
1194         g_value_unset (&arr);
1195       }
1196       break;
1197
1198     case AV_CODEC_ID_HEVC:
1199       caps =
1200           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-h265",
1201           "alignment", G_TYPE_STRING, "au", NULL);
1202       if (!encode) {
1203         GValue arr = { 0, };
1204         GValue item = { 0, };
1205         g_value_init (&arr, GST_TYPE_LIST);
1206         g_value_init (&item, G_TYPE_STRING);
1207         g_value_set_string (&item, "hvc1");
1208         gst_value_list_append_value (&arr, &item);
1209         g_value_set_string (&item, "hev1");
1210         gst_value_list_append_value (&arr, &item);
1211         g_value_set_string (&item, "byte-stream");
1212         gst_value_list_append_value (&arr, &item);
1213         g_value_unset (&item);
1214         gst_caps_set_value (caps, "stream-format", &arr);
1215         g_value_unset (&arr);
1216       }
1217       break;
1218
1219     case AV_CODEC_ID_INDEO5:
1220       caps =
1221           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-indeo",
1222           "indeoversion", G_TYPE_INT, 5, NULL);
1223       break;
1224
1225     case AV_CODEC_ID_INDEO4:
1226       caps =
1227           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-indeo",
1228           "indeoversion", G_TYPE_INT, 4, NULL);
1229       break;
1230
1231     case AV_CODEC_ID_INDEO3:
1232       caps =
1233           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-indeo",
1234           "indeoversion", G_TYPE_INT, 3, NULL);
1235       break;
1236
1237     case AV_CODEC_ID_INDEO2:
1238       caps =
1239           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-indeo",
1240           "indeoversion", G_TYPE_INT, 2, NULL);
1241       break;
1242
1243     case AV_CODEC_ID_FLASHSV:
1244       caps =
1245           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1246           "video/x-flash-screen", NULL);
1247       break;
1248
1249     case AV_CODEC_ID_VP3:
1250       caps =
1251           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-vp3",
1252           NULL);
1253       break;
1254
1255     case AV_CODEC_ID_VP5:
1256       caps =
1257           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-vp5",
1258           NULL);
1259       break;
1260
1261     case AV_CODEC_ID_VP6:
1262       caps =
1263           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-vp6",
1264           NULL);
1265       break;
1266
1267     case AV_CODEC_ID_VP6F:
1268       caps =
1269           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1270           "video/x-vp6-flash", NULL);
1271       break;
1272
1273     case AV_CODEC_ID_VP6A:
1274       caps =
1275           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1276           "video/x-vp6-alpha", NULL);
1277       break;
1278
1279     case AV_CODEC_ID_VP8:
1280       caps =
1281           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-vp8",
1282           NULL);
1283       break;
1284
1285     case AV_CODEC_ID_THEORA:
1286       caps =
1287           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1288           "video/x-theora", NULL);
1289       break;
1290
1291     case AV_CODEC_ID_AAC:
1292     {
1293       caps =
1294           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/mpeg",
1295           NULL);
1296
1297       if (!encode) {
1298         GValue arr = { 0, };
1299         GValue item = { 0, };
1300
1301         g_value_init (&arr, GST_TYPE_LIST);
1302         g_value_init (&item, G_TYPE_INT);
1303         g_value_set_int (&item, 2);
1304         gst_value_list_append_value (&arr, &item);
1305         g_value_set_int (&item, 4);
1306         gst_value_list_append_value (&arr, &item);
1307         g_value_unset (&item);
1308
1309         gst_caps_set_value (caps, "mpegversion", &arr);
1310         g_value_unset (&arr);
1311
1312         g_value_init (&arr, GST_TYPE_LIST);
1313         g_value_init (&item, G_TYPE_STRING);
1314         g_value_set_string (&item, "raw");
1315         gst_value_list_append_value (&arr, &item);
1316         g_value_set_string (&item, "adts");
1317         gst_value_list_append_value (&arr, &item);
1318         g_value_set_string (&item, "adif");
1319         gst_value_list_append_value (&arr, &item);
1320         g_value_unset (&item);
1321
1322         gst_caps_set_value (caps, "stream-format", &arr);
1323         g_value_unset (&arr);
1324       } else {
1325         gst_caps_set_simple (caps, "mpegversion", G_TYPE_INT, 4,
1326             "stream-format", G_TYPE_STRING, "raw",
1327             "base-profile", G_TYPE_STRING, "lc", NULL);
1328
1329         if (context && context->extradata_size > 0)
1330           gst_codec_utils_aac_caps_set_level_and_profile (caps,
1331               context->extradata, context->extradata_size);
1332       }
1333
1334       break;
1335     }
1336     case AV_CODEC_ID_AAC_LATM: /* LATM/LOAS AAC syntax */
1337       caps = gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/mpeg",
1338           "mpegversion", G_TYPE_INT, 4, "stream-format", G_TYPE_STRING, "loas",
1339           NULL);
1340       break;
1341
1342     case AV_CODEC_ID_ASV1:
1343       caps =
1344           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-asus",
1345           "asusversion", G_TYPE_INT, 1, NULL);
1346       break;
1347     case AV_CODEC_ID_ASV2:
1348       caps =
1349           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-asus",
1350           "asusversion", G_TYPE_INT, 2, NULL);
1351       break;
1352
1353     case AV_CODEC_ID_FFV1:
1354       caps =
1355           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-ffv",
1356           "ffvversion", G_TYPE_INT, 1, NULL);
1357       break;
1358
1359     case AV_CODEC_ID_4XM:
1360       caps =
1361           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-4xm",
1362           NULL);
1363       break;
1364
1365     case AV_CODEC_ID_XAN_WC3:
1366     case AV_CODEC_ID_XAN_WC4:
1367       caps =
1368           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-xan",
1369           "wcversion", G_TYPE_INT, 3 - AV_CODEC_ID_XAN_WC3 + codec_id, NULL);
1370       break;
1371
1372     case AV_CODEC_ID_CLJR:
1373       caps =
1374           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1375           "video/x-cirrus-logic-accupak", NULL);
1376       break;
1377
1378     case AV_CODEC_ID_FRAPS:
1379       caps =
1380           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-fraps",
1381           NULL);
1382       break;
1383
1384     case AV_CODEC_ID_MDEC:
1385     case AV_CODEC_ID_ROQ:
1386     case AV_CODEC_ID_INTERPLAY_VIDEO:
1387       buildcaps = TRUE;
1388       break;
1389
1390     case AV_CODEC_ID_VCR1:
1391       caps =
1392           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1393           "video/x-ati-vcr", "vcrversion", G_TYPE_INT, 1, NULL);
1394       break;
1395
1396     case AV_CODEC_ID_RPZA:
1397       caps =
1398           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1399           "video/x-apple-video", NULL);
1400       break;
1401
1402     case AV_CODEC_ID_CINEPAK:
1403       caps =
1404           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1405           "video/x-cinepak", NULL);
1406       break;
1407
1408       /* WS_VQA belogns here (order) */
1409
1410     case AV_CODEC_ID_MSRLE:
1411       caps =
1412           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-rle",
1413           "layout", G_TYPE_STRING, "microsoft", NULL);
1414       if (context) {
1415         gst_caps_set_simple (caps,
1416             "depth", G_TYPE_INT, (gint) context->bits_per_coded_sample, NULL);
1417       } else {
1418         gst_caps_set_simple (caps, "depth", GST_TYPE_INT_RANGE, 1, 64, NULL);
1419       }
1420       break;
1421
1422     case AV_CODEC_ID_QTRLE:
1423       caps =
1424           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-rle",
1425           "layout", G_TYPE_STRING, "quicktime", NULL);
1426       if (context) {
1427         gst_caps_set_simple (caps,
1428             "depth", G_TYPE_INT, (gint) context->bits_per_coded_sample, NULL);
1429       } else {
1430         gst_caps_set_simple (caps, "depth", GST_TYPE_INT_RANGE, 1, 64, NULL);
1431       }
1432       break;
1433
1434     case AV_CODEC_ID_MSVIDEO1:
1435       caps =
1436           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1437           "video/x-msvideocodec", "msvideoversion", G_TYPE_INT, 1, NULL);
1438       break;
1439
1440     case AV_CODEC_ID_MSS1:
1441       caps =
1442           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-wmv",
1443           "wmvversion", G_TYPE_INT, 1, "format", G_TYPE_STRING, "MSS1", NULL);
1444       break;
1445
1446     case AV_CODEC_ID_MSS2:
1447       caps =
1448           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-wmv",
1449           "wmvversion", G_TYPE_INT, 3, "format", G_TYPE_STRING, "MSS2", NULL);
1450       break;
1451
1452     case AV_CODEC_ID_WMV3:
1453       caps =
1454           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-wmv",
1455           "wmvversion", G_TYPE_INT, 3, "format", G_TYPE_STRING, "WMV3", NULL);
1456       break;
1457     case AV_CODEC_ID_VC1:
1458       caps =
1459           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-wmv",
1460           "wmvversion", G_TYPE_INT, 3, NULL);
1461       if (!context && !encode) {
1462         GValue arr = { 0, };
1463         GValue item = { 0, };
1464
1465         g_value_init (&arr, GST_TYPE_LIST);
1466         g_value_init (&item, G_TYPE_STRING);
1467         g_value_set_string (&item, "WVC1");
1468         gst_value_list_append_value (&arr, &item);
1469         g_value_set_string (&item, "WMVA");
1470         gst_value_list_append_and_take_value (&arr, &item);
1471         gst_caps_set_value (caps, "format", &arr);
1472         g_value_unset (&arr);
1473       } else {
1474         gst_caps_set_simple (caps, "format", G_TYPE_STRING, "WVC1", NULL);
1475       }
1476       break;
1477     case AV_CODEC_ID_QDM2:
1478       caps =
1479           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-qdm2",
1480           NULL);
1481       break;
1482
1483     case AV_CODEC_ID_MSZH:
1484       caps =
1485           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-mszh",
1486           NULL);
1487       break;
1488
1489     case AV_CODEC_ID_ZLIB:
1490       caps =
1491           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-zlib",
1492           NULL);
1493       break;
1494
1495     case AV_CODEC_ID_TRUEMOTION1:
1496       caps =
1497           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1498           "video/x-truemotion", "trueversion", G_TYPE_INT, 1, NULL);
1499       break;
1500     case AV_CODEC_ID_TRUEMOTION2:
1501       caps =
1502           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1503           "video/x-truemotion", "trueversion", G_TYPE_INT, 2, NULL);
1504       break;
1505
1506     case AV_CODEC_ID_ULTI:
1507       caps =
1508           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1509           "video/x-ultimotion", NULL);
1510       break;
1511
1512     case AV_CODEC_ID_TSCC:
1513       caps =
1514           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1515           "video/x-camtasia", NULL);
1516       if (context) {
1517         gst_caps_set_simple (caps,
1518             "depth", G_TYPE_INT, (gint) context->bits_per_coded_sample, NULL);
1519       } else {
1520         gst_caps_set_simple (caps, "depth", GST_TYPE_INT_RANGE, 8, 32, NULL);
1521       }
1522       break;
1523
1524     case AV_CODEC_ID_TSCC2:
1525       caps =
1526           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1527           "video/x-tscc", "tsccversion", G_TYPE_INT, 2, NULL);
1528       break;
1529
1530     case AV_CODEC_ID_KMVC:
1531       caps =
1532           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-kmvc",
1533           NULL);
1534       break;
1535
1536     case AV_CODEC_ID_NUV:
1537       caps =
1538           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-nuv",
1539           NULL);
1540       break;
1541
1542     case AV_CODEC_ID_GIF:
1543       caps =
1544           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "image/gif",
1545           NULL);
1546       break;
1547
1548     case AV_CODEC_ID_PNG:
1549       caps =
1550           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "image/png",
1551           NULL);
1552       break;
1553
1554     case AV_CODEC_ID_PPM:
1555       caps =
1556           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "image/ppm",
1557           NULL);
1558       break;
1559
1560     case AV_CODEC_ID_PBM:
1561       caps =
1562           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "image/pbm",
1563           NULL);
1564       break;
1565
1566     case AV_CODEC_ID_PAM:
1567       caps =
1568           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1569           "image/x-portable-anymap", NULL);
1570       break;
1571
1572     case AV_CODEC_ID_PGM:
1573       caps =
1574           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1575           "image/x-portable-graymap", NULL);
1576       break;
1577
1578     case AV_CODEC_ID_PCX:
1579       caps =
1580           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "image/x-pcx",
1581           NULL);
1582       break;
1583
1584     case AV_CODEC_ID_SGI:
1585       caps =
1586           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "image/x-sgi",
1587           NULL);
1588       break;
1589
1590     case AV_CODEC_ID_TARGA:
1591       caps =
1592           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "image/x-tga",
1593           NULL);
1594       break;
1595
1596     case AV_CODEC_ID_TIFF:
1597       caps =
1598           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "image/tiff",
1599           NULL);
1600       break;
1601
1602     case AV_CODEC_ID_SUNRAST:
1603       caps =
1604           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1605           "image/x-sun-raster", NULL);
1606       break;
1607
1608     case AV_CODEC_ID_SMC:
1609       caps =
1610           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-smc",
1611           NULL);
1612       break;
1613
1614     case AV_CODEC_ID_QDRAW:
1615       caps =
1616           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-qdrw",
1617           NULL);
1618       break;
1619
1620     case AV_CODEC_ID_DNXHD:
1621       caps =
1622           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-dnxhd",
1623           NULL);
1624       break;
1625
1626     case AV_CODEC_ID_PRORES:
1627       caps =
1628           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1629           "video/x-prores", NULL);
1630       break;
1631
1632     case AV_CODEC_ID_MIMIC:
1633       caps =
1634           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-mimic",
1635           NULL);
1636       break;
1637
1638     case AV_CODEC_ID_VMNC:
1639       caps =
1640           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-vmnc",
1641           NULL);
1642       break;
1643
1644     case AV_CODEC_ID_TRUESPEECH:
1645       caps =
1646           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
1647           "audio/x-truespeech", NULL);
1648       break;
1649
1650     case AV_CODEC_ID_QCELP:
1651       caps =
1652           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/qcelp",
1653           NULL);
1654       break;
1655
1656     case AV_CODEC_ID_AMV:
1657       caps =
1658           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-amv",
1659           NULL);
1660       break;
1661
1662     case AV_CODEC_ID_AASC:
1663       caps =
1664           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-aasc",
1665           NULL);
1666       break;
1667
1668     case AV_CODEC_ID_LOCO:
1669       caps =
1670           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-loco",
1671           NULL);
1672       break;
1673
1674     case AV_CODEC_ID_ZMBV:
1675       caps =
1676           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-zmbv",
1677           NULL);
1678       break;
1679
1680     case AV_CODEC_ID_LAGARITH:
1681       caps =
1682           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1683           "video/x-lagarith", NULL);
1684       break;
1685
1686     case AV_CODEC_ID_CSCD:
1687       caps =
1688           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1689           "video/x-camstudio", NULL);
1690       if (context) {
1691         gst_caps_set_simple (caps,
1692             "depth", G_TYPE_INT, (gint) context->bits_per_coded_sample, NULL);
1693       } else {
1694         gst_caps_set_simple (caps, "depth", GST_TYPE_INT_RANGE, 8, 32, NULL);
1695       }
1696       break;
1697
1698     case AV_CODEC_ID_AIC:
1699       caps =
1700           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1701           "video/x-apple-intermediate-codec", NULL);
1702       break;
1703
1704     case AV_CODEC_ID_WS_VQA:
1705     case AV_CODEC_ID_IDCIN:
1706     case AV_CODEC_ID_8BPS:
1707     case AV_CODEC_ID_FLIC:
1708     case AV_CODEC_ID_VMDVIDEO:
1709     case AV_CODEC_ID_VMDAUDIO:
1710     case AV_CODEC_ID_VIXL:
1711     case AV_CODEC_ID_QPEG:
1712     case AV_CODEC_ID_PGMYUV:
1713     case AV_CODEC_ID_FFVHUFF:
1714     case AV_CODEC_ID_WNV1:
1715     case AV_CODEC_ID_MP3ADU:
1716     case AV_CODEC_ID_MP3ON4:
1717     case AV_CODEC_ID_WESTWOOD_SND1:
1718     case AV_CODEC_ID_MMVIDEO:
1719     case AV_CODEC_ID_AVS:
1720     case AV_CODEC_ID_CAVS:
1721       buildcaps = TRUE;
1722       break;
1723
1724       /* weird quasi-codecs for the demuxers only */
1725     case AV_CODEC_ID_PCM_S16LE:
1726     case AV_CODEC_ID_PCM_S16BE:
1727     case AV_CODEC_ID_PCM_U16LE:
1728     case AV_CODEC_ID_PCM_U16BE:
1729     case AV_CODEC_ID_PCM_S8:
1730     case AV_CODEC_ID_PCM_U8:
1731     {
1732       GstAudioFormat format;
1733
1734       switch (codec_id) {
1735         case AV_CODEC_ID_PCM_S16LE:
1736           format = GST_AUDIO_FORMAT_S16LE;
1737           break;
1738         case AV_CODEC_ID_PCM_S16BE:
1739           format = GST_AUDIO_FORMAT_S16BE;
1740           break;
1741         case AV_CODEC_ID_PCM_U16LE:
1742           format = GST_AUDIO_FORMAT_U16LE;
1743           break;
1744         case AV_CODEC_ID_PCM_U16BE:
1745           format = GST_AUDIO_FORMAT_U16BE;
1746           break;
1747         case AV_CODEC_ID_PCM_S8:
1748           format = GST_AUDIO_FORMAT_S8;
1749           break;
1750         case AV_CODEC_ID_PCM_U8:
1751           format = GST_AUDIO_FORMAT_U8;
1752           break;
1753         default:
1754           format = 0;
1755           g_assert (0);         /* don't worry, we never get here */
1756           break;
1757       }
1758
1759       caps =
1760           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-raw",
1761           "format", G_TYPE_STRING, gst_audio_format_to_string (format),
1762           "layout", G_TYPE_STRING, "interleaved", NULL);
1763     }
1764       break;
1765
1766     case AV_CODEC_ID_PCM_MULAW:
1767       caps =
1768           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-mulaw",
1769           NULL);
1770       break;
1771
1772     case AV_CODEC_ID_PCM_ALAW:
1773       caps =
1774           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-alaw",
1775           NULL);
1776       break;
1777
1778     case AV_CODEC_ID_ADPCM_G722:
1779       caps =
1780           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/G722",
1781           NULL);
1782       if (context)
1783         gst_caps_set_simple (caps,
1784             "block_align", G_TYPE_INT, context->block_align,
1785             "bitrate", G_TYPE_INT, context->bit_rate, NULL);
1786       break;
1787
1788     case AV_CODEC_ID_ADPCM_G726:
1789     {
1790       /* the G726 decoder can also handle G721 */
1791       caps =
1792           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-adpcm",
1793           "layout", G_TYPE_STRING, "g726", NULL);
1794       if (context)
1795         gst_caps_set_simple (caps,
1796             "block_align", G_TYPE_INT, context->block_align,
1797             "bitrate", G_TYPE_INT, context->bit_rate, NULL);
1798
1799       if (!encode) {
1800         gst_caps_append (caps, gst_caps_new_simple ("audio/x-adpcm",
1801                 "layout", G_TYPE_STRING, "g721",
1802                 "channels", G_TYPE_INT, 1, "rate", G_TYPE_INT, 8000, NULL));
1803       }
1804       break;
1805     }
1806     case AV_CODEC_ID_ADPCM_IMA_QT:
1807     case AV_CODEC_ID_ADPCM_IMA_WAV:
1808     case AV_CODEC_ID_ADPCM_IMA_DK3:
1809     case AV_CODEC_ID_ADPCM_IMA_DK4:
1810     case AV_CODEC_ID_ADPCM_IMA_WS:
1811     case AV_CODEC_ID_ADPCM_IMA_SMJPEG:
1812     case AV_CODEC_ID_ADPCM_IMA_AMV:
1813     case AV_CODEC_ID_ADPCM_IMA_ISS:
1814     case AV_CODEC_ID_ADPCM_IMA_EA_EACS:
1815     case AV_CODEC_ID_ADPCM_IMA_EA_SEAD:
1816     case AV_CODEC_ID_ADPCM_MS:
1817     case AV_CODEC_ID_ADPCM_4XM:
1818     case AV_CODEC_ID_ADPCM_XA:
1819     case AV_CODEC_ID_ADPCM_ADX:
1820     case AV_CODEC_ID_ADPCM_EA:
1821     case AV_CODEC_ID_ADPCM_CT:
1822     case AV_CODEC_ID_ADPCM_SWF:
1823     case AV_CODEC_ID_ADPCM_YAMAHA:
1824     case AV_CODEC_ID_ADPCM_SBPRO_2:
1825     case AV_CODEC_ID_ADPCM_SBPRO_3:
1826     case AV_CODEC_ID_ADPCM_SBPRO_4:
1827     case AV_CODEC_ID_ADPCM_EA_R1:
1828     case AV_CODEC_ID_ADPCM_EA_R2:
1829     case AV_CODEC_ID_ADPCM_EA_R3:
1830     case AV_CODEC_ID_ADPCM_EA_MAXIS_XA:
1831     case AV_CODEC_ID_ADPCM_EA_XAS:
1832     case AV_CODEC_ID_ADPCM_THP:
1833     {
1834       const gchar *layout = NULL;
1835
1836       switch (codec_id) {
1837         case AV_CODEC_ID_ADPCM_IMA_QT:
1838           layout = "quicktime";
1839           break;
1840         case AV_CODEC_ID_ADPCM_IMA_WAV:
1841           layout = "dvi";
1842           break;
1843         case AV_CODEC_ID_ADPCM_IMA_DK3:
1844           layout = "dk3";
1845           break;
1846         case AV_CODEC_ID_ADPCM_IMA_DK4:
1847           layout = "dk4";
1848           break;
1849         case AV_CODEC_ID_ADPCM_IMA_WS:
1850           layout = "westwood";
1851           break;
1852         case AV_CODEC_ID_ADPCM_IMA_SMJPEG:
1853           layout = "smjpeg";
1854           break;
1855         case AV_CODEC_ID_ADPCM_IMA_AMV:
1856           layout = "amv";
1857           break;
1858         case AV_CODEC_ID_ADPCM_IMA_ISS:
1859           layout = "iss";
1860           break;
1861         case AV_CODEC_ID_ADPCM_IMA_EA_EACS:
1862           layout = "ea-eacs";
1863           break;
1864         case AV_CODEC_ID_ADPCM_IMA_EA_SEAD:
1865           layout = "ea-sead";
1866           break;
1867         case AV_CODEC_ID_ADPCM_MS:
1868           layout = "microsoft";
1869           break;
1870         case AV_CODEC_ID_ADPCM_4XM:
1871           layout = "4xm";
1872           break;
1873         case AV_CODEC_ID_ADPCM_XA:
1874           layout = "xa";
1875           break;
1876         case AV_CODEC_ID_ADPCM_ADX:
1877           layout = "adx";
1878           break;
1879         case AV_CODEC_ID_ADPCM_EA:
1880           layout = "ea";
1881           break;
1882         case AV_CODEC_ID_ADPCM_CT:
1883           layout = "ct";
1884           break;
1885         case AV_CODEC_ID_ADPCM_SWF:
1886           layout = "swf";
1887           break;
1888         case AV_CODEC_ID_ADPCM_YAMAHA:
1889           layout = "yamaha";
1890           break;
1891         case AV_CODEC_ID_ADPCM_SBPRO_2:
1892           layout = "sbpro2";
1893           break;
1894         case AV_CODEC_ID_ADPCM_SBPRO_3:
1895           layout = "sbpro3";
1896           break;
1897         case AV_CODEC_ID_ADPCM_SBPRO_4:
1898           layout = "sbpro4";
1899           break;
1900         case AV_CODEC_ID_ADPCM_EA_R1:
1901           layout = "ea-r1";
1902           break;
1903         case AV_CODEC_ID_ADPCM_EA_R2:
1904           layout = "ea-r3";
1905           break;
1906         case AV_CODEC_ID_ADPCM_EA_R3:
1907           layout = "ea-r3";
1908           break;
1909         case AV_CODEC_ID_ADPCM_EA_MAXIS_XA:
1910           layout = "ea-maxis-xa";
1911           break;
1912         case AV_CODEC_ID_ADPCM_EA_XAS:
1913           layout = "ea-xas";
1914           break;
1915         case AV_CODEC_ID_ADPCM_THP:
1916           layout = "thp";
1917           break;
1918         default:
1919           g_assert (0);         /* don't worry, we never get here */
1920           break;
1921       }
1922
1923       /* FIXME: someone please check whether we need additional properties
1924        * in this caps definition. */
1925       caps =
1926           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-adpcm",
1927           "layout", G_TYPE_STRING, layout, NULL);
1928       if (context)
1929         gst_caps_set_simple (caps,
1930             "block_align", G_TYPE_INT, context->block_align,
1931             "bitrate", G_TYPE_INT, context->bit_rate, NULL);
1932     }
1933       break;
1934
1935     case AV_CODEC_ID_AMR_NB:
1936       caps =
1937           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/AMR",
1938           NULL);
1939       break;
1940
1941     case AV_CODEC_ID_AMR_WB:
1942       caps =
1943           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/AMR-WB",
1944           NULL);
1945       break;
1946
1947     case AV_CODEC_ID_GSM:
1948       caps =
1949           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-gsm",
1950           NULL);
1951       break;
1952
1953     case AV_CODEC_ID_GSM_MS:
1954       caps =
1955           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/ms-gsm",
1956           NULL);
1957       break;
1958
1959     case AV_CODEC_ID_NELLYMOSER:
1960       caps =
1961           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
1962           "audio/x-nellymoser", NULL);
1963       break;
1964
1965     case AV_CODEC_ID_SIPR:
1966     {
1967       caps =
1968           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-sipro",
1969           NULL);
1970       if (context) {
1971         gst_caps_set_simple (caps,
1972             "leaf_size", G_TYPE_INT, context->block_align,
1973             "bitrate", G_TYPE_INT, context->bit_rate, NULL);
1974       }
1975     }
1976       break;
1977
1978     case AV_CODEC_ID_RA_144:
1979     case AV_CODEC_ID_RA_288:
1980     case AV_CODEC_ID_COOK:
1981     {
1982       gint version = 0;
1983
1984       switch (codec_id) {
1985         case AV_CODEC_ID_RA_144:
1986           version = 1;
1987           break;
1988         case AV_CODEC_ID_RA_288:
1989           version = 2;
1990           break;
1991         case AV_CODEC_ID_COOK:
1992           version = 8;
1993           break;
1994         default:
1995           break;
1996       }
1997
1998       /* FIXME: properties? */
1999       caps =
2000           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
2001           "audio/x-pn-realaudio", "raversion", G_TYPE_INT, version, NULL);
2002       if (context) {
2003         gst_caps_set_simple (caps,
2004             "leaf_size", G_TYPE_INT, context->block_align,
2005             "bitrate", G_TYPE_INT, context->bit_rate, NULL);
2006       }
2007     }
2008       break;
2009
2010     case AV_CODEC_ID_ROQ_DPCM:
2011     case AV_CODEC_ID_INTERPLAY_DPCM:
2012     case AV_CODEC_ID_XAN_DPCM:
2013     case AV_CODEC_ID_SOL_DPCM:
2014     {
2015       const gchar *layout = NULL;
2016
2017       switch (codec_id) {
2018         case AV_CODEC_ID_ROQ_DPCM:
2019           layout = "roq";
2020           break;
2021         case AV_CODEC_ID_INTERPLAY_DPCM:
2022           layout = "interplay";
2023           break;
2024         case AV_CODEC_ID_XAN_DPCM:
2025           layout = "xan";
2026           break;
2027         case AV_CODEC_ID_SOL_DPCM:
2028           layout = "sol";
2029           break;
2030         default:
2031           g_assert (0);         /* don't worry, we never get here */
2032           break;
2033       }
2034
2035       /* FIXME: someone please check whether we need additional properties
2036        * in this caps definition. */
2037       caps =
2038           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-dpcm",
2039           "layout", G_TYPE_STRING, layout, NULL);
2040       if (context)
2041         gst_caps_set_simple (caps,
2042             "block_align", G_TYPE_INT, context->block_align,
2043             "bitrate", G_TYPE_INT, context->bit_rate, NULL);
2044     }
2045       break;
2046
2047     case AV_CODEC_ID_SHORTEN:
2048       caps = gst_caps_new_empty_simple ("audio/x-shorten");
2049       break;
2050
2051     case AV_CODEC_ID_ALAC:
2052       caps =
2053           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-alac",
2054           NULL);
2055       if (context) {
2056         gst_caps_set_simple (caps,
2057             "samplesize", G_TYPE_INT, context->bits_per_coded_sample, NULL);
2058       }
2059       break;
2060
2061     case AV_CODEC_ID_FLAC:
2062       /* Note that ffmpeg has no encoder yet, but just for safety. In the
2063        * encoder case, we want to add things like samplerate, channels... */
2064       if (!encode) {
2065         caps = gst_caps_new_empty_simple ("audio/x-flac");
2066       }
2067       break;
2068
2069     case AV_CODEC_ID_S302M:
2070       caps = gst_caps_new_empty_simple ("audio/x-smpte-302m");
2071       break;
2072
2073     case AV_CODEC_ID_DVD_SUBTITLE:
2074     case AV_CODEC_ID_DVB_SUBTITLE:
2075       caps = NULL;
2076       break;
2077     case AV_CODEC_ID_BMP:
2078       caps = gst_caps_new_empty_simple ("image/bmp");
2079       break;
2080     case AV_CODEC_ID_TTA:
2081       caps =
2082           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-tta",
2083           NULL);
2084       if (context) {
2085         gst_caps_set_simple (caps,
2086             "samplesize", G_TYPE_INT, context->bits_per_coded_sample, NULL);
2087       }
2088       break;
2089     case AV_CODEC_ID_TWINVQ:
2090       caps =
2091           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
2092           "audio/x-twin-vq", NULL);
2093       break;
2094     default:
2095       GST_DEBUG ("Unknown codec ID %d, please add mapping here", codec_id);
2096       break;
2097   }
2098
2099   if (buildcaps) {
2100     AVCodec *codec;
2101
2102     if ((codec = avcodec_find_decoder (codec_id)) ||
2103         (codec = avcodec_find_encoder (codec_id))) {
2104       gchar *mime = NULL;
2105
2106       GST_LOG ("Could not create stream format caps for %s", codec->name);
2107
2108       switch (codec->type) {
2109         case AVMEDIA_TYPE_VIDEO:
2110           mime = g_strdup_printf ("video/x-gst-av-%s", codec->name);
2111           caps =
2112               gst_ff_vid_caps_new (context, NULL, codec_id, encode, mime, NULL);
2113           g_free (mime);
2114           break;
2115         case AVMEDIA_TYPE_AUDIO:
2116           mime = g_strdup_printf ("audio/x-gst-av-%s", codec->name);
2117           caps =
2118               gst_ff_aud_caps_new (context, NULL, codec_id, encode, mime, NULL);
2119           if (context)
2120             gst_caps_set_simple (caps,
2121                 "block_align", G_TYPE_INT, context->block_align,
2122                 "bitrate", G_TYPE_INT, context->bit_rate, NULL);
2123           g_free (mime);
2124           break;
2125         default:
2126           break;
2127       }
2128     }
2129   }
2130
2131   if (caps != NULL) {
2132
2133     /* set private data */
2134     if (context && context->extradata_size > 0) {
2135       GstBuffer *data = gst_buffer_new_and_alloc (context->extradata_size);
2136
2137       gst_buffer_fill (data, 0, context->extradata, context->extradata_size);
2138       gst_caps_set_simple (caps, "codec_data", GST_TYPE_BUFFER, data, NULL);
2139       gst_buffer_unref (data);
2140     }
2141
2142     GST_LOG ("caps for codec_id=%d: %" GST_PTR_FORMAT, codec_id, caps);
2143
2144   } else {
2145     GST_LOG ("No caps found for codec_id=%d", codec_id);
2146   }
2147
2148   return caps;
2149 }
2150
2151 /* Convert a FFMPEG Pixel Format and optional AVCodecContext
2152  * to a GstCaps. If the context is ommitted, no fixed values
2153  * for video/audio size will be included in the GstCaps
2154  *
2155  * See below for usefullness
2156  */
2157
2158 static GstCaps *
2159 gst_ffmpeg_pixfmt_to_caps (enum PixelFormat pix_fmt, AVCodecContext * context,
2160     enum AVCodecID codec_id)
2161 {
2162   GstCaps *caps = NULL;
2163   GstVideoFormat format;
2164
2165   format = gst_ffmpeg_pixfmt_to_videoformat (pix_fmt);
2166
2167   if (format != GST_VIDEO_FORMAT_UNKNOWN) {
2168     caps = gst_ff_vid_caps_new (context, NULL, codec_id, TRUE, "video/x-raw",
2169         "format", G_TYPE_STRING, gst_video_format_to_string (format), NULL);
2170   }
2171
2172   if (caps != NULL) {
2173     GST_DEBUG ("caps for pix_fmt=%d: %" GST_PTR_FORMAT, pix_fmt, caps);
2174   } else {
2175     GST_LOG ("No caps found for pix_fmt=%d", pix_fmt);
2176   }
2177
2178   return caps;
2179 }
2180
2181 GstAudioFormat
2182 gst_ffmpeg_smpfmt_to_audioformat (enum AVSampleFormat sample_fmt)
2183 {
2184   switch (sample_fmt) {
2185     case AV_SAMPLE_FMT_U8:
2186     case AV_SAMPLE_FMT_U8P:
2187       return GST_AUDIO_FORMAT_U8;
2188       break;
2189     case AV_SAMPLE_FMT_S16:
2190     case AV_SAMPLE_FMT_S16P:
2191       return GST_AUDIO_FORMAT_S16;
2192       break;
2193     case AV_SAMPLE_FMT_S32:
2194     case AV_SAMPLE_FMT_S32P:
2195       return GST_AUDIO_FORMAT_S32;
2196       break;
2197     case AV_SAMPLE_FMT_FLT:
2198     case AV_SAMPLE_FMT_FLTP:
2199       return GST_AUDIO_FORMAT_F32;
2200       break;
2201     case AV_SAMPLE_FMT_DBL:
2202     case AV_SAMPLE_FMT_DBLP:
2203       return GST_AUDIO_FORMAT_F64;
2204       break;
2205     default:
2206       /* .. */
2207       return GST_AUDIO_FORMAT_UNKNOWN;
2208       break;
2209   }
2210 }
2211
2212 /* Convert a FFMPEG Sample Format and optional AVCodecContext
2213  * to a GstCaps. If the context is ommitted, no fixed values
2214  * for video/audio size will be included in the GstCaps
2215  *
2216  * See below for usefullness
2217  */
2218
2219 static GstCaps *
2220 gst_ffmpeg_smpfmt_to_caps (enum AVSampleFormat sample_fmt,
2221     AVCodecContext * context, AVCodec * codec, enum AVCodecID codec_id)
2222 {
2223   GstCaps *caps = NULL;
2224   GstAudioFormat format;
2225
2226   format = gst_ffmpeg_smpfmt_to_audioformat (sample_fmt);
2227
2228   if (format != GST_AUDIO_FORMAT_UNKNOWN) {
2229     caps = gst_ff_aud_caps_new (context, codec, codec_id, TRUE, "audio/x-raw",
2230         "format", G_TYPE_STRING, gst_audio_format_to_string (format),
2231         "layout", G_TYPE_STRING, "interleaved", NULL);
2232     GST_LOG ("caps for sample_fmt=%d: %" GST_PTR_FORMAT, sample_fmt, caps);
2233   } else {
2234     GST_LOG ("No caps found for sample_fmt=%d", sample_fmt);
2235   }
2236
2237   return caps;
2238 }
2239
2240 static gboolean
2241 caps_has_field (GstCaps * caps, const gchar * field)
2242 {
2243   guint i, n;
2244
2245   n = gst_caps_get_size (caps);
2246   for (i = 0; i < n; i++) {
2247     GstStructure *s = gst_caps_get_structure (caps, i);
2248
2249     if (gst_structure_has_field (s, field))
2250       return TRUE;
2251   }
2252
2253   return FALSE;
2254 }
2255
2256 GstCaps *
2257 gst_ffmpeg_codectype_to_audio_caps (AVCodecContext * context,
2258     enum AVCodecID codec_id, gboolean encode, AVCodec * codec)
2259 {
2260   GstCaps *caps = NULL;
2261
2262   GST_DEBUG ("context:%p, codec_id:%d, encode:%d, codec:%p",
2263       context, codec_id, encode, codec);
2264   if (codec)
2265     GST_DEBUG ("sample_fmts:%p, samplerates:%p",
2266         codec->sample_fmts, codec->supported_samplerates);
2267
2268   if (context) {
2269     /* Specific codec context */
2270     caps =
2271         gst_ffmpeg_smpfmt_to_caps (context->sample_fmt, context, codec,
2272         codec_id);
2273   } else {
2274     caps = gst_ff_aud_caps_new (context, codec, codec_id, encode, "audio/x-raw",
2275         "layout", G_TYPE_STRING, "interleaved", NULL);
2276     if (!caps_has_field (caps, "format"))
2277       gst_ffmpeg_audio_set_sample_fmts (caps,
2278           codec ? codec->sample_fmts : NULL);
2279   }
2280
2281   return caps;
2282 }
2283
2284 GstCaps *
2285 gst_ffmpeg_codectype_to_video_caps (AVCodecContext * context,
2286     enum AVCodecID codec_id, gboolean encode, AVCodec * codec)
2287 {
2288   GstCaps *caps;
2289
2290   GST_LOG ("context:%p, codec_id:%d, encode:%d, codec:%p",
2291       context, codec_id, encode, codec);
2292
2293   if (context) {
2294     caps = gst_ffmpeg_pixfmt_to_caps (context->pix_fmt, context, codec_id);
2295   } else {
2296     caps =
2297         gst_ff_vid_caps_new (context, codec, codec_id, encode, "video/x-raw",
2298         NULL);
2299     if (!caps_has_field (caps, "format"))
2300       gst_ffmpeg_video_set_pix_fmts (caps, codec ? codec->pix_fmts : NULL);
2301   }
2302   return caps;
2303 }
2304
2305 /* Convert a GstCaps (audio/raw) to a FFMPEG SampleFmt
2306  * and other audio properties in a AVCodecContext.
2307  *
2308  * For usefullness, see below
2309  */
2310
2311 static void
2312 gst_ffmpeg_caps_to_smpfmt (const GstCaps * caps,
2313     AVCodecContext * context, gboolean raw)
2314 {
2315   GstStructure *structure;
2316   const gchar *fmt;
2317   GstAudioFormat format = GST_AUDIO_FORMAT_UNKNOWN;
2318
2319   g_return_if_fail (gst_caps_get_size (caps) == 1);
2320
2321   structure = gst_caps_get_structure (caps, 0);
2322
2323   gst_structure_get_int (structure, "channels", &context->channels);
2324   gst_structure_get_int (structure, "rate", &context->sample_rate);
2325   gst_structure_get_int (structure, "block_align", &context->block_align);
2326   gst_structure_get_int (structure, "bitrate", &context->bit_rate);
2327
2328   if (!raw)
2329     return;
2330
2331   if (gst_structure_has_name (structure, "audio/x-raw")) {
2332     if ((fmt = gst_structure_get_string (structure, "format"))) {
2333       format = gst_audio_format_from_string (fmt);
2334     }
2335   }
2336
2337   switch (format) {
2338     case GST_AUDIO_FORMAT_F32:
2339       context->sample_fmt = AV_SAMPLE_FMT_FLT;
2340       break;
2341     case GST_AUDIO_FORMAT_F64:
2342       context->sample_fmt = AV_SAMPLE_FMT_DBL;
2343       break;
2344     case GST_AUDIO_FORMAT_S32:
2345       context->sample_fmt = AV_SAMPLE_FMT_S32;
2346       break;
2347     case GST_AUDIO_FORMAT_S16:
2348       context->sample_fmt = AV_SAMPLE_FMT_S16;
2349       break;
2350     default:
2351       break;
2352   }
2353 }
2354
2355 /* Convert a GstCaps (video/raw) to a FFMPEG PixFmt
2356  * and other video properties in a AVCodecContext.
2357  *
2358  * For usefullness, see below
2359  */
2360
2361 static void
2362 gst_ffmpeg_caps_to_pixfmt (const GstCaps * caps,
2363     AVCodecContext * context, gboolean raw)
2364 {
2365   GstStructure *structure;
2366   const GValue *fps;
2367   const GValue *par = NULL;
2368   const gchar *fmt;
2369   GstVideoFormat format = GST_VIDEO_FORMAT_UNKNOWN;
2370
2371   GST_DEBUG ("converting caps %" GST_PTR_FORMAT, caps);
2372   g_return_if_fail (gst_caps_get_size (caps) == 1);
2373   structure = gst_caps_get_structure (caps, 0);
2374
2375   gst_structure_get_int (structure, "width", &context->width);
2376   gst_structure_get_int (structure, "height", &context->height);
2377   gst_structure_get_int (structure, "bpp", &context->bits_per_coded_sample);
2378
2379   fps = gst_structure_get_value (structure, "framerate");
2380   if (fps != NULL && GST_VALUE_HOLDS_FRACTION (fps)) {
2381
2382     /* somehow these seem mixed up.. */
2383     context->time_base.den = gst_value_get_fraction_numerator (fps);
2384     context->time_base.num = gst_value_get_fraction_denominator (fps);
2385     context->ticks_per_frame = 1;
2386
2387     GST_DEBUG ("setting framerate %d/%d = %lf",
2388         context->time_base.den, context->time_base.num,
2389         1. * context->time_base.den / context->time_base.num);
2390   }
2391
2392   par = gst_structure_get_value (structure, "pixel-aspect-ratio");
2393   if (par && GST_VALUE_HOLDS_FRACTION (par)) {
2394
2395     context->sample_aspect_ratio.num = gst_value_get_fraction_numerator (par);
2396     context->sample_aspect_ratio.den = gst_value_get_fraction_denominator (par);
2397
2398     GST_DEBUG ("setting pixel-aspect-ratio %d/%d = %lf",
2399         context->sample_aspect_ratio.den, context->sample_aspect_ratio.num,
2400         1. * context->sample_aspect_ratio.den /
2401         context->sample_aspect_ratio.num);
2402   }
2403
2404   if (!raw)
2405     return;
2406
2407   g_return_if_fail (fps != NULL && GST_VALUE_HOLDS_FRACTION (fps));
2408
2409   if (gst_structure_has_name (structure, "video/x-raw")) {
2410     if ((fmt = gst_structure_get_string (structure, "format"))) {
2411       format = gst_video_format_from_string (fmt);
2412     }
2413   }
2414
2415   switch (format) {
2416     case GST_VIDEO_FORMAT_YUY2:
2417       context->pix_fmt = PIX_FMT_YUYV422;
2418       break;
2419     case GST_VIDEO_FORMAT_I420:
2420       context->pix_fmt = PIX_FMT_YUV420P;
2421       break;
2422     case GST_VIDEO_FORMAT_A420:
2423       context->pix_fmt = PIX_FMT_YUVA420P;
2424       break;
2425     case GST_VIDEO_FORMAT_Y41B:
2426       context->pix_fmt = PIX_FMT_YUV411P;
2427       break;
2428     case GST_VIDEO_FORMAT_Y42B:
2429       context->pix_fmt = PIX_FMT_YUV422P;
2430       break;
2431     case GST_VIDEO_FORMAT_YUV9:
2432       context->pix_fmt = PIX_FMT_YUV410P;
2433       break;
2434     case GST_VIDEO_FORMAT_Y444:
2435       context->pix_fmt = PIX_FMT_YUV444P;
2436       break;
2437     case GST_VIDEO_FORMAT_GRAY8:
2438       context->pix_fmt = PIX_FMT_GRAY8;
2439       break;
2440     case GST_VIDEO_FORMAT_xRGB:
2441 #if (G_BYTE_ORDER == G_BIG_ENDIAN)
2442       context->pix_fmt = PIX_FMT_RGB32;
2443 #endif
2444       break;
2445     case GST_VIDEO_FORMAT_BGRx:
2446 #if (G_BYTE_ORDER == G_LITTLE_ENDIAN)
2447       context->pix_fmt = PIX_FMT_RGB32;
2448 #endif
2449       break;
2450     case GST_VIDEO_FORMAT_RGB:
2451       context->pix_fmt = PIX_FMT_RGB24;
2452       break;
2453     case GST_VIDEO_FORMAT_BGR:
2454       context->pix_fmt = PIX_FMT_BGR24;
2455       break;
2456     case GST_VIDEO_FORMAT_RGB16:
2457       context->pix_fmt = PIX_FMT_RGB565;
2458       break;
2459     case GST_VIDEO_FORMAT_RGB15:
2460       context->pix_fmt = PIX_FMT_RGB555;
2461       break;
2462     case GST_VIDEO_FORMAT_RGB8P:
2463       context->pix_fmt = PIX_FMT_PAL8;
2464       break;
2465     default:
2466       break;
2467   }
2468 }
2469
2470 typedef struct
2471 {
2472   GstVideoFormat format;
2473   enum PixelFormat pixfmt;
2474 } PixToFmt;
2475
2476 /* FIXME : FILLME */
2477 static const PixToFmt pixtofmttable[] = {
2478   /* GST_VIDEO_FORMAT_I420, */
2479   {GST_VIDEO_FORMAT_I420, PIX_FMT_YUV420P},
2480   /* Note : this should use a different chroma placement */
2481   {GST_VIDEO_FORMAT_I420, PIX_FMT_YUVJ420P},
2482
2483   /* GST_VIDEO_FORMAT_YV12, */
2484   /* GST_VIDEO_FORMAT_YUY2, */
2485   {GST_VIDEO_FORMAT_YUY2, PIX_FMT_YUYV422},
2486   /* GST_VIDEO_FORMAT_UYVY, */
2487   {GST_VIDEO_FORMAT_UYVY, PIX_FMT_UYVY422},
2488   /* GST_VIDEO_FORMAT_AYUV, */
2489   /* GST_VIDEO_FORMAT_RGBx, */
2490   /* GST_VIDEO_FORMAT_BGRx, */
2491   /* GST_VIDEO_FORMAT_xRGB, */
2492   /* GST_VIDEO_FORMAT_xBGR, */
2493   /* GST_VIDEO_FORMAT_RGBA, */
2494   {GST_VIDEO_FORMAT_RGBA, PIX_FMT_RGBA},
2495   /* GST_VIDEO_FORMAT_BGRA, */
2496   {GST_VIDEO_FORMAT_BGRA, PIX_FMT_BGRA},
2497   /* GST_VIDEO_FORMAT_ARGB, */
2498   {GST_VIDEO_FORMAT_ARGB, PIX_FMT_ARGB},
2499   /* GST_VIDEO_FORMAT_ABGR, */
2500   {GST_VIDEO_FORMAT_ABGR, PIX_FMT_ABGR},
2501   /* GST_VIDEO_FORMAT_RGB, */
2502   {GST_VIDEO_FORMAT_RGB, PIX_FMT_RGB24},
2503   /* GST_VIDEO_FORMAT_BGR, */
2504   {GST_VIDEO_FORMAT_BGR, PIX_FMT_BGR24},
2505   /* GST_VIDEO_FORMAT_Y41B, */
2506   {GST_VIDEO_FORMAT_Y41B, PIX_FMT_YUV411P},
2507   /* GST_VIDEO_FORMAT_Y42B, */
2508   {GST_VIDEO_FORMAT_Y42B, PIX_FMT_YUV422P},
2509   {GST_VIDEO_FORMAT_Y42B, PIX_FMT_YUVJ422P},
2510   /* GST_VIDEO_FORMAT_YVYU, */
2511   /* GST_VIDEO_FORMAT_Y444, */
2512   {GST_VIDEO_FORMAT_Y444, PIX_FMT_YUV444P},
2513   {GST_VIDEO_FORMAT_Y444, PIX_FMT_YUVJ444P},
2514   /* GST_VIDEO_FORMAT_v210, */
2515   /* GST_VIDEO_FORMAT_v216, */
2516   /* GST_VIDEO_FORMAT_NV12, */
2517   {GST_VIDEO_FORMAT_NV12, PIX_FMT_NV12},
2518   /* GST_VIDEO_FORMAT_NV21, */
2519   {GST_VIDEO_FORMAT_NV21, PIX_FMT_NV21},
2520   /* GST_VIDEO_FORMAT_GRAY8, */
2521   {GST_VIDEO_FORMAT_GRAY8, PIX_FMT_GRAY8},
2522   /* GST_VIDEO_FORMAT_GRAY16_BE, */
2523   {GST_VIDEO_FORMAT_GRAY16_BE, PIX_FMT_GRAY16BE},
2524   /* GST_VIDEO_FORMAT_GRAY16_LE, */
2525   {GST_VIDEO_FORMAT_GRAY16_LE, PIX_FMT_GRAY16LE},
2526   /* GST_VIDEO_FORMAT_v308, */
2527   /* GST_VIDEO_FORMAT_Y800, */
2528   /* GST_VIDEO_FORMAT_Y16, */
2529   /* GST_VIDEO_FORMAT_RGB16, */
2530   {GST_VIDEO_FORMAT_RGB16, PIX_FMT_RGB565},
2531   /* GST_VIDEO_FORMAT_BGR16, */
2532   /* GST_VIDEO_FORMAT_RGB15, */
2533   {GST_VIDEO_FORMAT_RGB15, PIX_FMT_RGB555},
2534   /* GST_VIDEO_FORMAT_BGR15, */
2535   /* GST_VIDEO_FORMAT_UYVP, */
2536   /* GST_VIDEO_FORMAT_A420, */
2537   {GST_VIDEO_FORMAT_A420, PIX_FMT_YUVA420P},
2538   /* GST_VIDEO_FORMAT_RGB8_PALETTED, */
2539   {GST_VIDEO_FORMAT_RGB8P, PIX_FMT_PAL8},
2540   /* GST_VIDEO_FORMAT_YUV9, */
2541   {GST_VIDEO_FORMAT_YUV9, PIX_FMT_YUV410P},
2542   /* GST_VIDEO_FORMAT_YVU9, */
2543   /* GST_VIDEO_FORMAT_IYU1, */
2544   /* GST_VIDEO_FORMAT_ARGB64, */
2545   /* GST_VIDEO_FORMAT_AYUV64, */
2546   /* GST_VIDEO_FORMAT_r210, */
2547   {GST_VIDEO_FORMAT_I420_10LE, PIX_FMT_YUV420P10LE},
2548   {GST_VIDEO_FORMAT_I420_10BE, PIX_FMT_YUV420P10BE},
2549   {GST_VIDEO_FORMAT_I422_10LE, PIX_FMT_YUV422P10LE},
2550   {GST_VIDEO_FORMAT_I422_10BE, PIX_FMT_YUV422P10BE},
2551   {GST_VIDEO_FORMAT_Y444_10LE, PIX_FMT_YUV444P10LE},
2552   {GST_VIDEO_FORMAT_Y444_10BE, PIX_FMT_YUV444P10BE},
2553   {GST_VIDEO_FORMAT_GBR, PIX_FMT_GBRP},
2554   {GST_VIDEO_FORMAT_GBR_10LE, PIX_FMT_GBRP10LE},
2555   {GST_VIDEO_FORMAT_GBR_10BE, PIX_FMT_GBRP10BE},
2556 };
2557
2558 GstVideoFormat
2559 gst_ffmpeg_pixfmt_to_videoformat (enum PixelFormat pixfmt)
2560 {
2561   guint i;
2562
2563   for (i = 0; i < G_N_ELEMENTS (pixtofmttable); i++)
2564     if (pixtofmttable[i].pixfmt == pixfmt)
2565       return pixtofmttable[i].format;
2566
2567   GST_DEBUG ("Unknown pixel format %d", pixfmt);
2568   return GST_VIDEO_FORMAT_UNKNOWN;
2569 }
2570
2571 enum PixelFormat
2572 gst_ffmpeg_videoformat_to_pixfmt (GstVideoFormat format)
2573 {
2574   guint i;
2575
2576   for (i = 0; i < G_N_ELEMENTS (pixtofmttable); i++)
2577     if (pixtofmttable[i].format == format)
2578       return pixtofmttable[i].pixfmt;
2579   return PIX_FMT_NONE;
2580 }
2581
2582 void
2583 gst_ffmpeg_videoinfo_to_context (GstVideoInfo * info, AVCodecContext * context)
2584 {
2585   gint i, bpp = 0;
2586
2587   context->width = GST_VIDEO_INFO_WIDTH (info);
2588   context->height = GST_VIDEO_INFO_HEIGHT (info);
2589   for (i = 0; i < GST_VIDEO_INFO_N_COMPONENTS (info); i++)
2590     bpp += GST_VIDEO_INFO_COMP_DEPTH (info, i);
2591   context->bits_per_coded_sample = bpp;
2592
2593   context->ticks_per_frame = 1;
2594   if (GST_VIDEO_INFO_FPS_N (info) == 0) {
2595     GST_DEBUG ("Using 25/1 framerate");
2596     context->time_base.den = 25;
2597     context->time_base.num = 1;
2598   } else {
2599     context->time_base.den = GST_VIDEO_INFO_FPS_N (info);
2600     context->time_base.num = GST_VIDEO_INFO_FPS_D (info);
2601   }
2602
2603   context->sample_aspect_ratio.num = GST_VIDEO_INFO_PAR_N (info);
2604   context->sample_aspect_ratio.den = GST_VIDEO_INFO_PAR_D (info);
2605
2606   context->pix_fmt =
2607       gst_ffmpeg_videoformat_to_pixfmt (GST_VIDEO_INFO_FORMAT (info));
2608 }
2609
2610 void
2611 gst_ffmpeg_audioinfo_to_context (GstAudioInfo * info, AVCodecContext * context)
2612 {
2613   const AVCodec *codec;
2614   const enum AVSampleFormat *smpl_fmts;
2615   enum AVSampleFormat smpl_fmt = -1;
2616
2617   context->channels = info->channels;
2618   context->sample_rate = info->rate;
2619   context->channel_layout =
2620       gst_ffmpeg_channel_positions_to_layout (info->position, info->channels);
2621
2622   codec = context->codec;
2623
2624   smpl_fmts = codec->sample_fmts;
2625
2626   switch (info->finfo->format) {
2627     case GST_AUDIO_FORMAT_F32:
2628       if (smpl_fmts) {
2629         while (*smpl_fmts != -1) {
2630           if (*smpl_fmts == AV_SAMPLE_FMT_FLT) {
2631             smpl_fmt = *smpl_fmts;
2632             break;
2633           } else if (*smpl_fmts == AV_SAMPLE_FMT_FLTP) {
2634             smpl_fmt = *smpl_fmts;
2635           }
2636
2637           smpl_fmts++;
2638         }
2639       } else {
2640         smpl_fmt = AV_SAMPLE_FMT_FLT;
2641       }
2642       break;
2643     case GST_AUDIO_FORMAT_F64:
2644       if (smpl_fmts) {
2645         while (*smpl_fmts != -1) {
2646           if (*smpl_fmts == AV_SAMPLE_FMT_DBL) {
2647             smpl_fmt = *smpl_fmts;
2648             break;
2649           } else if (*smpl_fmts == AV_SAMPLE_FMT_DBLP) {
2650             smpl_fmt = *smpl_fmts;
2651           }
2652
2653           smpl_fmts++;
2654         }
2655       } else {
2656         smpl_fmt = AV_SAMPLE_FMT_DBL;
2657       }
2658       break;
2659     case GST_AUDIO_FORMAT_S32:
2660       if (smpl_fmts) {
2661         while (*smpl_fmts != -1) {
2662           if (*smpl_fmts == AV_SAMPLE_FMT_S32) {
2663             smpl_fmt = *smpl_fmts;
2664             break;
2665           } else if (*smpl_fmts == AV_SAMPLE_FMT_S32P) {
2666             smpl_fmt = *smpl_fmts;
2667           }
2668
2669           smpl_fmts++;
2670         }
2671       } else {
2672         smpl_fmt = AV_SAMPLE_FMT_S32;
2673       }
2674       break;
2675     case GST_AUDIO_FORMAT_S16:
2676       if (smpl_fmts) {
2677         while (*smpl_fmts != -1) {
2678           if (*smpl_fmts == AV_SAMPLE_FMT_S16) {
2679             smpl_fmt = *smpl_fmts;
2680             break;
2681           } else if (*smpl_fmts == AV_SAMPLE_FMT_S16P) {
2682             smpl_fmt = *smpl_fmts;
2683           }
2684
2685           smpl_fmts++;
2686         }
2687       } else {
2688         smpl_fmt = AV_SAMPLE_FMT_S16;
2689       }
2690       break;
2691     case GST_AUDIO_FORMAT_U8:
2692       if (smpl_fmts) {
2693         while (*smpl_fmts != -1) {
2694           if (*smpl_fmts == AV_SAMPLE_FMT_U8) {
2695             smpl_fmt = *smpl_fmts;
2696             break;
2697           } else if (*smpl_fmts == AV_SAMPLE_FMT_U8P) {
2698             smpl_fmt = *smpl_fmts;
2699           }
2700
2701           smpl_fmts++;
2702         }
2703       } else {
2704         smpl_fmt = AV_SAMPLE_FMT_U8;
2705       }
2706       break;
2707     default:
2708       break;
2709   }
2710
2711   g_assert (smpl_fmt != -1);
2712
2713   context->sample_fmt = smpl_fmt;
2714 }
2715
2716 /* Convert a GstCaps and a FFMPEG codec Type to a
2717  * AVCodecContext. If the context is ommitted, no fixed values
2718  * for video/audio size will be included in the context
2719  *
2720  * AVMediaType is primarily meant for uncompressed data GstCaps!
2721  */
2722
2723 void
2724 gst_ffmpeg_caps_with_codectype (enum AVMediaType type,
2725     const GstCaps * caps, AVCodecContext * context)
2726 {
2727   if (context == NULL)
2728     return;
2729
2730   switch (type) {
2731     case AVMEDIA_TYPE_VIDEO:
2732       gst_ffmpeg_caps_to_pixfmt (caps, context, TRUE);
2733       break;
2734
2735     case AVMEDIA_TYPE_AUDIO:
2736       gst_ffmpeg_caps_to_smpfmt (caps, context, TRUE);
2737       break;
2738
2739     default:
2740       /* unknown */
2741       break;
2742   }
2743 }
2744
2745 #if 0
2746 static void
2747 nal_escape (guint8 * dst, guint8 * src, guint size, guint * destsize)
2748 {
2749   guint8 *dstp = dst;
2750   guint8 *srcp = src;
2751   guint8 *end = src + size;
2752   gint count = 0;
2753
2754   while (srcp < end) {
2755     if (count == 2 && *srcp <= 0x03) {
2756       GST_DEBUG ("added escape code");
2757       *dstp++ = 0x03;
2758       count = 0;
2759     }
2760     if (*srcp == 0)
2761       count++;
2762     else
2763       count = 0;
2764
2765     GST_DEBUG ("copy %02x, count %d", *srcp, count);
2766     *dstp++ = *srcp++;
2767   }
2768   *destsize = dstp - dst;
2769 }
2770
2771 /* copy the config, escaping NAL units as we iterate them, if something fails we
2772  * copy everything and hope for the best. */
2773 static void
2774 copy_config (guint8 * dst, guint8 * src, guint size, guint * destsize)
2775 {
2776   guint8 *dstp = dst;
2777   guint8 *srcp = src;
2778   gint cnt, i;
2779   guint nalsize, esize;
2780
2781   /* check size */
2782   if (size < 7)
2783     goto full_copy;
2784
2785   /* check version */
2786   if (*srcp != 1)
2787     goto full_copy;
2788
2789   cnt = *(srcp + 5) & 0x1f;     /* Number of sps */
2790
2791   GST_DEBUG ("num SPS %d", cnt);
2792
2793   memcpy (dstp, srcp, 6);
2794   srcp += 6;
2795   dstp += 6;
2796
2797   for (i = 0; i < cnt; i++) {
2798     GST_DEBUG ("copy SPS %d", i);
2799     nalsize = (srcp[0] << 8) | srcp[1];
2800     nal_escape (dstp + 2, srcp + 2, nalsize, &esize);
2801     dstp[0] = esize >> 8;
2802     dstp[1] = esize & 0xff;
2803     dstp += esize + 2;
2804     srcp += nalsize + 2;
2805   }
2806
2807   cnt = *(dstp++) = *(srcp++);  /* Number of pps */
2808
2809   GST_DEBUG ("num PPS %d", cnt);
2810
2811   for (i = 0; i < cnt; i++) {
2812     GST_DEBUG ("copy PPS %d", i);
2813     nalsize = (srcp[0] << 8) | srcp[1];
2814     nal_escape (dstp + 2, srcp + 2, nalsize, &esize);
2815     dstp[0] = esize >> 8;
2816     dstp[1] = esize & 0xff;
2817     dstp += esize + 2;
2818     srcp += nalsize + 2;
2819   }
2820   *destsize = dstp - dst;
2821
2822   return;
2823
2824 full_copy:
2825   {
2826     GST_DEBUG ("something unexpected, doing full copy");
2827     memcpy (dst, src, size);
2828     *destsize = size;
2829     return;
2830   }
2831 }
2832 #endif
2833
2834 /*
2835  * caps_with_codecid () transforms a GstCaps for a known codec
2836  * ID into a filled-in context.
2837  * codec_data from caps will override possible extradata already in the context
2838  */
2839
2840 void
2841 gst_ffmpeg_caps_with_codecid (enum AVCodecID codec_id,
2842     enum AVMediaType codec_type, const GstCaps * caps, AVCodecContext * context)
2843 {
2844   GstStructure *str;
2845   const GValue *value;
2846   GstBuffer *buf;
2847
2848   GST_LOG ("codec_id:%d, codec_type:%d, caps:%" GST_PTR_FORMAT " context:%p",
2849       codec_id, codec_type, caps, context);
2850
2851   if (!context || !gst_caps_get_size (caps))
2852     return;
2853
2854   str = gst_caps_get_structure (caps, 0);
2855
2856   /* extradata parsing (esds [mpeg4], wma/wmv, msmpeg4v1/2/3, etc.) */
2857   if ((value = gst_structure_get_value (str, "codec_data"))) {
2858     GstMapInfo map;
2859
2860     buf = gst_value_get_buffer (value);
2861     gst_buffer_map (buf, &map, GST_MAP_READ);
2862
2863     /* free the old one if it is there */
2864     if (context->extradata)
2865       av_free (context->extradata);
2866
2867 #if 0
2868     if (codec_id == AV_CODEC_ID_H264) {
2869       guint extrasize;
2870
2871       GST_DEBUG ("copy, escaping codec_data %d", size);
2872       /* ffmpeg h264 expects the codec_data to be escaped, there is no real
2873        * reason for this but let's just escape it for now. Start by allocating
2874        * enough space, x2 is more than enough.
2875        *
2876        * FIXME, we disabled escaping because some file already contain escaped
2877        * codec_data and then we escape twice and fail. It's better to leave it
2878        * as is, as that is what most players do. */
2879       context->extradata =
2880           av_mallocz (GST_ROUND_UP_16 (size * 2 +
2881               FF_INPUT_BUFFER_PADDING_SIZE));
2882       copy_config (context->extradata, data, size, &extrasize);
2883       GST_DEBUG ("escaped size: %d", extrasize);
2884       context->extradata_size = extrasize;
2885     } else
2886 #endif
2887     {
2888       /* allocate with enough padding */
2889       GST_DEBUG ("copy codec_data");
2890       context->extradata =
2891           av_mallocz (GST_ROUND_UP_16 (map.size +
2892               FF_INPUT_BUFFER_PADDING_SIZE));
2893       memcpy (context->extradata, map.data, map.size);
2894       context->extradata_size = map.size;
2895     }
2896
2897     /* Hack for VC1. Sometimes the first (length) byte is 0 for some files */
2898     if (codec_id == AV_CODEC_ID_VC1 && map.size > 0 && map.data[0] == 0) {
2899       context->extradata[0] = (guint8) map.size;
2900     }
2901
2902     GST_DEBUG ("have codec data of size %" G_GSIZE_FORMAT, map.size);
2903
2904     gst_buffer_unmap (buf, &map);
2905   } else if (context->extradata == NULL && codec_id != AV_CODEC_ID_AAC_LATM &&
2906       codec_id != AV_CODEC_ID_FLAC) {
2907     /* no extradata, alloc dummy with 0 sized, some codecs insist on reading
2908      * extradata anyway which makes then segfault. */
2909     context->extradata =
2910         av_mallocz (GST_ROUND_UP_16 (FF_INPUT_BUFFER_PADDING_SIZE));
2911     context->extradata_size = 0;
2912     GST_DEBUG ("no codec data");
2913   }
2914
2915   switch (codec_id) {
2916     case AV_CODEC_ID_MPEG4:
2917     {
2918       const gchar *mime = gst_structure_get_name (str);
2919
2920       if (!strcmp (mime, "video/x-divx"))
2921         context->codec_tag = GST_MAKE_FOURCC ('D', 'I', 'V', 'X');
2922       else if (!strcmp (mime, "video/x-xvid"))
2923         context->codec_tag = GST_MAKE_FOURCC ('X', 'V', 'I', 'D');
2924       else if (!strcmp (mime, "video/x-3ivx"))
2925         context->codec_tag = GST_MAKE_FOURCC ('3', 'I', 'V', '1');
2926       else if (!strcmp (mime, "video/mpeg"))
2927         context->codec_tag = GST_MAKE_FOURCC ('m', 'p', '4', 'v');
2928     }
2929       break;
2930
2931     case AV_CODEC_ID_SVQ3:
2932       /* FIXME: this is a workaround for older gst-plugins releases
2933        * (<= 0.8.9). This should be removed at some point, because
2934        * it causes wrong decoded frame order. */
2935       if (!context->extradata) {
2936         gint halfpel_flag, thirdpel_flag, low_delay, unknown_svq3_flag;
2937         guint16 flags;
2938
2939         if (gst_structure_get_int (str, "halfpel_flag", &halfpel_flag) &&
2940             gst_structure_get_int (str, "thirdpel_flag", &thirdpel_flag) &&
2941             gst_structure_get_int (str, "low_delay", &low_delay) &&
2942             gst_structure_get_int (str, "unknown_svq3_flag",
2943                 &unknown_svq3_flag)) {
2944           context->extradata = (guint8 *) av_mallocz (0x64);
2945           g_stpcpy ((gchar *) context->extradata, "SVQ3");
2946           flags = 1 << 3;
2947           flags |= low_delay;
2948           flags = flags << 2;
2949           flags |= unknown_svq3_flag;
2950           flags = flags << 6;
2951           flags |= halfpel_flag;
2952           flags = flags << 1;
2953           flags |= thirdpel_flag;
2954           flags = flags << 3;
2955
2956           flags = GUINT16_FROM_LE (flags);
2957
2958           memcpy ((gchar *) context->extradata + 0x62, &flags, 2);
2959           context->extradata_size = 0x64;
2960         }
2961       }
2962       break;
2963
2964     case AV_CODEC_ID_MSRLE:
2965     case AV_CODEC_ID_QTRLE:
2966     case AV_CODEC_ID_TSCC:
2967     case AV_CODEC_ID_CSCD:
2968     case AV_CODEC_ID_APE:
2969     {
2970       gint depth;
2971
2972       if (gst_structure_get_int (str, "depth", &depth)) {
2973         context->bits_per_coded_sample = depth;
2974       } else {
2975         GST_WARNING ("No depth field in caps %" GST_PTR_FORMAT, caps);
2976       }
2977
2978     }
2979       break;
2980
2981     case AV_CODEC_ID_COOK:
2982     case AV_CODEC_ID_RA_288:
2983     case AV_CODEC_ID_RA_144:
2984     case AV_CODEC_ID_SIPR:
2985     {
2986       gint leaf_size;
2987       gint bitrate;
2988
2989       if (gst_structure_get_int (str, "leaf_size", &leaf_size))
2990         context->block_align = leaf_size;
2991       if (gst_structure_get_int (str, "bitrate", &bitrate))
2992         context->bit_rate = bitrate;
2993     }
2994       break;
2995     case AV_CODEC_ID_ALAC:
2996       gst_structure_get_int (str, "samplesize",
2997           &context->bits_per_coded_sample);
2998       break;
2999
3000     case AV_CODEC_ID_DVVIDEO:
3001     {
3002       const gchar *format;
3003
3004       if ((format = gst_structure_get_string (str, "format"))) {
3005
3006         if (g_str_equal (format, "YUY2"))
3007           context->pix_fmt = PIX_FMT_YUYV422;
3008         else if (g_str_equal (format, "I420"))
3009           context->pix_fmt = PIX_FMT_YUV420P;
3010         else if (g_str_equal (format, "A420"))
3011           context->pix_fmt = PIX_FMT_YUVA420P;
3012         else if (g_str_equal (format, "Y41B"))
3013           context->pix_fmt = PIX_FMT_YUV411P;
3014         else if (g_str_equal (format, "Y42B"))
3015           context->pix_fmt = PIX_FMT_YUV422P;
3016         else if (g_str_equal (format, "YUV9"))
3017           context->pix_fmt = PIX_FMT_YUV410P;
3018         else {
3019           GST_WARNING ("couldn't convert format %s" " to a pixel format",
3020               format);
3021         }
3022       } else
3023         GST_WARNING ("No specified format");
3024       break;
3025     }
3026     case AV_CODEC_ID_H263P:
3027     {
3028       gboolean val;
3029
3030       if (!gst_structure_get_boolean (str, "annex-f", &val) || val)
3031         context->flags |= CODEC_FLAG_4MV;
3032       else
3033         context->flags &= ~CODEC_FLAG_4MV;
3034       if ((!gst_structure_get_boolean (str, "annex-i", &val) || val) &&
3035           (!gst_structure_get_boolean (str, "annex-t", &val) || val))
3036         context->flags |= CODEC_FLAG_AC_PRED;
3037       else
3038         context->flags &= ~CODEC_FLAG_AC_PRED;
3039       if (!gst_structure_get_boolean (str, "annex-j", &val) || val)
3040         context->flags |= CODEC_FLAG_LOOP_FILTER;
3041       else
3042         context->flags &= ~CODEC_FLAG_LOOP_FILTER;
3043       break;
3044     }
3045     case AV_CODEC_ID_ADPCM_G726:
3046     {
3047       const gchar *layout;
3048
3049       if ((layout = gst_structure_get_string (str, "layout"))) {
3050         if (!strcmp (layout, "g721")) {
3051           context->sample_rate = 8000;
3052           context->channels = 1;
3053           context->bit_rate = 32000;
3054         }
3055       }
3056       break;
3057     }
3058     default:
3059       break;
3060   }
3061
3062   if (!gst_caps_is_fixed (caps))
3063     return;
3064
3065   /* common properties (width, height, fps) */
3066   switch (codec_type) {
3067     case AVMEDIA_TYPE_VIDEO:
3068       gst_ffmpeg_caps_to_pixfmt (caps, context,
3069           codec_id == AV_CODEC_ID_RAWVIDEO);
3070       break;
3071     case AVMEDIA_TYPE_AUDIO:
3072       gst_ffmpeg_caps_to_smpfmt (caps, context, FALSE);
3073       break;
3074     default:
3075       break;
3076   }
3077
3078   /* fixup of default settings */
3079   switch (codec_id) {
3080     case AV_CODEC_ID_QCELP:
3081       /* QCELP is always mono, no matter what the caps say */
3082       context->channels = 1;
3083       break;
3084     case AV_CODEC_ID_ADPCM_G726:
3085       if (context->sample_rate && context->bit_rate)
3086         context->bits_per_coded_sample =
3087             context->bit_rate / context->sample_rate;
3088       break;
3089     default:
3090       break;
3091   }
3092 }
3093
3094 /* _formatid_to_caps () is meant for muxers/demuxers, it
3095  * transforms a name (ffmpeg way of ID'ing these, why don't
3096  * they have unique numerical IDs?) to the corresponding
3097  * caps belonging to that mux-format
3098  *
3099  * Note: we don't need any additional info because the caps
3100  * isn't supposed to contain any useful info besides the
3101  * media type anyway
3102  */
3103
3104 GstCaps *
3105 gst_ffmpeg_formatid_to_caps (const gchar * format_name)
3106 {
3107   GstCaps *caps = NULL;
3108
3109   if (!strcmp (format_name, "mpeg")) {
3110     caps = gst_caps_new_simple ("video/mpeg",
3111         "systemstream", G_TYPE_BOOLEAN, TRUE, NULL);
3112   } else if (!strcmp (format_name, "mpegts")) {
3113     caps = gst_caps_new_simple ("video/mpegts",
3114         "systemstream", G_TYPE_BOOLEAN, TRUE, NULL);
3115   } else if (!strcmp (format_name, "rm")) {
3116     caps = gst_caps_new_simple ("application/x-pn-realmedia",
3117         "systemstream", G_TYPE_BOOLEAN, TRUE, NULL);
3118   } else if (!strcmp (format_name, "asf")) {
3119     caps = gst_caps_new_empty_simple ("video/x-ms-asf");
3120   } else if (!strcmp (format_name, "avi")) {
3121     caps = gst_caps_new_empty_simple ("video/x-msvideo");
3122   } else if (!strcmp (format_name, "wav")) {
3123     caps = gst_caps_new_empty_simple ("audio/x-wav");
3124   } else if (!strcmp (format_name, "ape")) {
3125     caps = gst_caps_new_empty_simple ("application/x-ape");
3126   } else if (!strcmp (format_name, "swf")) {
3127     caps = gst_caps_new_empty_simple ("application/x-shockwave-flash");
3128   } else if (!strcmp (format_name, "au")) {
3129     caps = gst_caps_new_empty_simple ("audio/x-au");
3130   } else if (!strcmp (format_name, "dv")) {
3131     caps = gst_caps_new_simple ("video/x-dv",
3132         "systemstream", G_TYPE_BOOLEAN, TRUE, NULL);
3133   } else if (!strcmp (format_name, "4xm")) {
3134     caps = gst_caps_new_empty_simple ("video/x-4xm");
3135   } else if (!strcmp (format_name, "matroska")) {
3136     caps = gst_caps_new_empty_simple ("video/x-matroska");
3137   } else if (!strcmp (format_name, "mp3")) {
3138     caps = gst_caps_new_empty_simple ("application/x-id3");
3139   } else if (!strcmp (format_name, "flic")) {
3140     caps = gst_caps_new_empty_simple ("video/x-fli");
3141   } else if (!strcmp (format_name, "flv")) {
3142     caps = gst_caps_new_empty_simple ("video/x-flv");
3143   } else if (!strcmp (format_name, "tta")) {
3144     caps = gst_caps_new_empty_simple ("audio/x-ttafile");
3145   } else if (!strcmp (format_name, "aiff")) {
3146     caps = gst_caps_new_empty_simple ("audio/x-aiff");
3147   } else if (!strcmp (format_name, "mov_mp4_m4a_3gp_3g2")) {
3148     caps =
3149         gst_caps_from_string
3150         ("application/x-3gp; video/quicktime; audio/x-m4a");
3151   } else if (!strcmp (format_name, "mov")) {
3152     caps = gst_caps_from_string ("video/quicktime,variant=(string)apple");
3153   } else if (!strcmp (format_name, "mp4")) {
3154     caps = gst_caps_from_string ("video/quicktime,variant=(string)iso");
3155   } else if (!strcmp (format_name, "3gp")) {
3156     caps = gst_caps_from_string ("video/quicktime,variant=(string)3gpp");
3157   } else if (!strcmp (format_name, "3g2")) {
3158     caps = gst_caps_from_string ("video/quicktime,variant=(string)3g2");
3159   } else if (!strcmp (format_name, "psp")) {
3160     caps = gst_caps_from_string ("video/quicktime,variant=(string)psp");
3161   } else if (!strcmp (format_name, "ipod")) {
3162     caps = gst_caps_from_string ("video/quicktime,variant=(string)ipod");
3163   } else if (!strcmp (format_name, "aac")) {
3164     caps = gst_caps_new_simple ("audio/mpeg",
3165         "mpegversion", G_TYPE_INT, 4, NULL);
3166   } else if (!strcmp (format_name, "gif")) {
3167     caps = gst_caps_from_string ("image/gif");
3168   } else if (!strcmp (format_name, "ogg")) {
3169     caps = gst_caps_from_string ("application/ogg");
3170   } else if (!strcmp (format_name, "mxf") || !strcmp (format_name, "mxf_d10")) {
3171     caps = gst_caps_from_string ("application/mxf");
3172   } else if (!strcmp (format_name, "gxf")) {
3173     caps = gst_caps_from_string ("application/gxf");
3174   } else if (!strcmp (format_name, "yuv4mpegpipe")) {
3175     caps = gst_caps_new_simple ("application/x-yuv4mpeg",
3176         "y4mversion", G_TYPE_INT, 2, NULL);
3177   } else if (!strcmp (format_name, "mpc")) {
3178     caps = gst_caps_from_string ("audio/x-musepack, streamversion = (int) 7");
3179   } else if (!strcmp (format_name, "vqf")) {
3180     caps = gst_caps_from_string ("audio/x-vqf");
3181   } else if (!strcmp (format_name, "nsv")) {
3182     caps = gst_caps_from_string ("video/x-nsv");
3183   } else if (!strcmp (format_name, "amr")) {
3184     caps = gst_caps_from_string ("audio/x-amr-nb-sh");
3185   } else if (!strcmp (format_name, "webm")) {
3186     caps = gst_caps_from_string ("video/webm");
3187   } else if (!strcmp (format_name, "voc")) {
3188     caps = gst_caps_from_string ("audio/x-voc");
3189   } else if (!strcmp (format_name, "pva")) {
3190     caps = gst_caps_from_string ("video/x-pva");
3191   } else {
3192     gchar *name;
3193
3194     GST_LOG ("Could not create stream format caps for %s", format_name);
3195     name = g_strdup_printf ("application/x-gst-av-%s", format_name);
3196     caps = gst_caps_new_empty_simple (name);
3197     g_free (name);
3198   }
3199
3200   return caps;
3201 }
3202
3203 gboolean
3204 gst_ffmpeg_formatid_get_codecids (const gchar * format_name,
3205     enum AVCodecID ** video_codec_list, enum AVCodecID ** audio_codec_list,
3206     AVOutputFormat * plugin)
3207 {
3208   static enum AVCodecID tmp_vlist[] = {
3209     AV_CODEC_ID_NONE,
3210     AV_CODEC_ID_NONE
3211   };
3212   static enum AVCodecID tmp_alist[] = {
3213     AV_CODEC_ID_NONE,
3214     AV_CODEC_ID_NONE
3215   };
3216
3217   GST_LOG ("format_name : %s", format_name);
3218
3219   if (!strcmp (format_name, "mp4")) {
3220     static enum AVCodecID mp4_video_list[] = {
3221       AV_CODEC_ID_MPEG4, AV_CODEC_ID_H264,
3222       AV_CODEC_ID_MJPEG,
3223       AV_CODEC_ID_NONE
3224     };
3225     static enum AVCodecID mp4_audio_list[] = {
3226       AV_CODEC_ID_AAC, AV_CODEC_ID_MP3,
3227       AV_CODEC_ID_NONE
3228     };
3229
3230     *video_codec_list = mp4_video_list;
3231     *audio_codec_list = mp4_audio_list;
3232   } else if (!strcmp (format_name, "mpeg")) {
3233     static enum AVCodecID mpeg_video_list[] = { AV_CODEC_ID_MPEG1VIDEO,
3234       AV_CODEC_ID_MPEG2VIDEO,
3235       AV_CODEC_ID_H264,
3236       AV_CODEC_ID_NONE
3237     };
3238     static enum AVCodecID mpeg_audio_list[] = { AV_CODEC_ID_MP1,
3239       AV_CODEC_ID_MP2,
3240       AV_CODEC_ID_MP3,
3241       AV_CODEC_ID_NONE
3242     };
3243
3244     *video_codec_list = mpeg_video_list;
3245     *audio_codec_list = mpeg_audio_list;
3246   } else if (!strcmp (format_name, "dvd")) {
3247     static enum AVCodecID mpeg_video_list[] = { AV_CODEC_ID_MPEG2VIDEO,
3248       AV_CODEC_ID_NONE
3249     };
3250     static enum AVCodecID mpeg_audio_list[] = { AV_CODEC_ID_MP2,
3251       AV_CODEC_ID_AC3,
3252       AV_CODEC_ID_DTS,
3253       AV_CODEC_ID_PCM_S16BE,
3254       AV_CODEC_ID_NONE
3255     };
3256
3257     *video_codec_list = mpeg_video_list;
3258     *audio_codec_list = mpeg_audio_list;
3259   } else if (!strcmp (format_name, "mpegts")) {
3260     static enum AVCodecID mpegts_video_list[] = { AV_CODEC_ID_MPEG1VIDEO,
3261       AV_CODEC_ID_MPEG2VIDEO,
3262       AV_CODEC_ID_H264,
3263       AV_CODEC_ID_NONE
3264     };
3265     static enum AVCodecID mpegts_audio_list[] = { AV_CODEC_ID_MP2,
3266       AV_CODEC_ID_MP3,
3267       AV_CODEC_ID_AC3,
3268       AV_CODEC_ID_DTS,
3269       AV_CODEC_ID_AAC,
3270       AV_CODEC_ID_NONE
3271     };
3272
3273     *video_codec_list = mpegts_video_list;
3274     *audio_codec_list = mpegts_audio_list;
3275   } else if (!strcmp (format_name, "vob")) {
3276     static enum AVCodecID vob_video_list[] =
3277         { AV_CODEC_ID_MPEG2VIDEO, AV_CODEC_ID_NONE };
3278     static enum AVCodecID vob_audio_list[] = { AV_CODEC_ID_MP2, AV_CODEC_ID_AC3,
3279       AV_CODEC_ID_DTS, AV_CODEC_ID_NONE
3280     };
3281
3282     *video_codec_list = vob_video_list;
3283     *audio_codec_list = vob_audio_list;
3284   } else if (!strcmp (format_name, "flv")) {
3285     static enum AVCodecID flv_video_list[] =
3286         { AV_CODEC_ID_FLV1, AV_CODEC_ID_NONE };
3287     static enum AVCodecID flv_audio_list[] =
3288         { AV_CODEC_ID_MP3, AV_CODEC_ID_NONE };
3289
3290     *video_codec_list = flv_video_list;
3291     *audio_codec_list = flv_audio_list;
3292   } else if (!strcmp (format_name, "asf")) {
3293     static enum AVCodecID asf_video_list[] =
3294         { AV_CODEC_ID_WMV1, AV_CODEC_ID_WMV2, AV_CODEC_ID_MSMPEG4V3,
3295       AV_CODEC_ID_NONE
3296     };
3297     static enum AVCodecID asf_audio_list[] =
3298         { AV_CODEC_ID_WMAV1, AV_CODEC_ID_WMAV2, AV_CODEC_ID_MP3,
3299       AV_CODEC_ID_NONE
3300     };
3301
3302     *video_codec_list = asf_video_list;
3303     *audio_codec_list = asf_audio_list;
3304   } else if (!strcmp (format_name, "dv")) {
3305     static enum AVCodecID dv_video_list[] =
3306         { AV_CODEC_ID_DVVIDEO, AV_CODEC_ID_NONE };
3307     static enum AVCodecID dv_audio_list[] =
3308         { AV_CODEC_ID_PCM_S16LE, AV_CODEC_ID_NONE };
3309
3310     *video_codec_list = dv_video_list;
3311     *audio_codec_list = dv_audio_list;
3312   } else if (!strcmp (format_name, "mov")) {
3313     static enum AVCodecID mov_video_list[] = {
3314       AV_CODEC_ID_SVQ1, AV_CODEC_ID_SVQ3, AV_CODEC_ID_MPEG4,
3315       AV_CODEC_ID_H263, AV_CODEC_ID_H263P,
3316       AV_CODEC_ID_H264, AV_CODEC_ID_DVVIDEO,
3317       AV_CODEC_ID_MJPEG,
3318       AV_CODEC_ID_NONE
3319     };
3320     static enum AVCodecID mov_audio_list[] = {
3321       AV_CODEC_ID_PCM_MULAW, AV_CODEC_ID_PCM_ALAW, AV_CODEC_ID_ADPCM_IMA_QT,
3322       AV_CODEC_ID_MACE3, AV_CODEC_ID_MACE6, AV_CODEC_ID_AAC,
3323       AV_CODEC_ID_AMR_NB, AV_CODEC_ID_AMR_WB,
3324       AV_CODEC_ID_PCM_S16BE, AV_CODEC_ID_PCM_S16LE,
3325       AV_CODEC_ID_MP3, AV_CODEC_ID_NONE
3326     };
3327
3328     *video_codec_list = mov_video_list;
3329     *audio_codec_list = mov_audio_list;
3330   } else if ((!strcmp (format_name, "3gp") || !strcmp (format_name, "3g2"))) {
3331     static enum AVCodecID tgp_video_list[] = {
3332       AV_CODEC_ID_MPEG4, AV_CODEC_ID_H263, AV_CODEC_ID_H263P, AV_CODEC_ID_H264,
3333       AV_CODEC_ID_NONE
3334     };
3335     static enum AVCodecID tgp_audio_list[] = {
3336       AV_CODEC_ID_AMR_NB, AV_CODEC_ID_AMR_WB,
3337       AV_CODEC_ID_AAC,
3338       AV_CODEC_ID_NONE
3339     };
3340
3341     *video_codec_list = tgp_video_list;
3342     *audio_codec_list = tgp_audio_list;
3343   } else if (!strcmp (format_name, "mmf")) {
3344     static enum AVCodecID mmf_audio_list[] = {
3345       AV_CODEC_ID_ADPCM_YAMAHA, AV_CODEC_ID_NONE
3346     };
3347     *video_codec_list = NULL;
3348     *audio_codec_list = mmf_audio_list;
3349   } else if (!strcmp (format_name, "amr")) {
3350     static enum AVCodecID amr_audio_list[] = {
3351       AV_CODEC_ID_AMR_NB, AV_CODEC_ID_AMR_WB,
3352       AV_CODEC_ID_NONE
3353     };
3354     *video_codec_list = NULL;
3355     *audio_codec_list = amr_audio_list;
3356   } else if (!strcmp (format_name, "gif")) {
3357     static enum AVCodecID gif_image_list[] = {
3358       AV_CODEC_ID_RAWVIDEO, AV_CODEC_ID_NONE
3359     };
3360     *video_codec_list = gif_image_list;
3361     *audio_codec_list = NULL;
3362   } else if ((plugin->audio_codec != AV_CODEC_ID_NONE) ||
3363       (plugin->video_codec != AV_CODEC_ID_NONE)) {
3364     tmp_vlist[0] = plugin->video_codec;
3365     tmp_alist[0] = plugin->audio_codec;
3366
3367     *video_codec_list = tmp_vlist;
3368     *audio_codec_list = tmp_alist;
3369   } else if ((!strcmp (format_name, "pva"))) {
3370     static enum AVCodecID tgp_video_list[] = {
3371       AV_CODEC_ID_MPEG2VIDEO,
3372       AV_CODEC_ID_NONE
3373     };
3374     static enum AVCodecID tgp_audio_list[] = {
3375       AV_CODEC_ID_MP2,
3376       AV_CODEC_ID_NONE
3377     };
3378
3379     *video_codec_list = tgp_video_list;
3380     *audio_codec_list = tgp_audio_list;
3381   } else {
3382     GST_LOG ("Format %s not found", format_name);
3383     return FALSE;
3384   }
3385
3386   return TRUE;
3387 }
3388
3389 /* Convert a GstCaps to a FFMPEG codec ID. Size et all
3390  * are omitted, that can be queried by the user itself,
3391  * we're not eating the GstCaps or anything
3392  * A pointer to an allocated context is also needed for
3393  * optional extra info
3394  */
3395
3396 enum AVCodecID
3397 gst_ffmpeg_caps_to_codecid (const GstCaps * caps, AVCodecContext * context)
3398 {
3399   enum AVCodecID id = AV_CODEC_ID_NONE;
3400   const gchar *mimetype;
3401   const GstStructure *structure;
3402   gboolean video = FALSE, audio = FALSE;        /* we want to be sure! */
3403
3404   g_return_val_if_fail (caps != NULL, AV_CODEC_ID_NONE);
3405   g_return_val_if_fail (gst_caps_get_size (caps) == 1, AV_CODEC_ID_NONE);
3406   structure = gst_caps_get_structure (caps, 0);
3407
3408   mimetype = gst_structure_get_name (structure);
3409
3410   if (!strcmp (mimetype, "video/x-raw")) {
3411     id = AV_CODEC_ID_RAWVIDEO;
3412     video = TRUE;
3413   } else if (!strcmp (mimetype, "audio/x-raw")) {
3414     GstAudioInfo info;
3415
3416     if (gst_audio_info_from_caps (&info, caps)) {
3417       switch (GST_AUDIO_INFO_FORMAT (&info)) {
3418         case GST_AUDIO_FORMAT_S8:
3419           id = AV_CODEC_ID_PCM_S8;
3420           break;
3421         case GST_AUDIO_FORMAT_U8:
3422           id = AV_CODEC_ID_PCM_U8;
3423           break;
3424         case GST_AUDIO_FORMAT_S16LE:
3425           id = AV_CODEC_ID_PCM_S16LE;
3426           break;
3427         case GST_AUDIO_FORMAT_S16BE:
3428           id = AV_CODEC_ID_PCM_S16BE;
3429           break;
3430         case GST_AUDIO_FORMAT_U16LE:
3431           id = AV_CODEC_ID_PCM_U16LE;
3432           break;
3433         case GST_AUDIO_FORMAT_U16BE:
3434           id = AV_CODEC_ID_PCM_U16BE;
3435           break;
3436         default:
3437           break;
3438       }
3439       if (id != AV_CODEC_ID_NONE)
3440         audio = TRUE;
3441     }
3442   } else if (!strcmp (mimetype, "audio/x-mulaw")) {
3443     id = AV_CODEC_ID_PCM_MULAW;
3444     audio = TRUE;
3445   } else if (!strcmp (mimetype, "audio/x-alaw")) {
3446     id = AV_CODEC_ID_PCM_ALAW;
3447     audio = TRUE;
3448   } else if (!strcmp (mimetype, "video/x-dv")) {
3449     gboolean sys_strm;
3450
3451     if (gst_structure_get_boolean (structure, "systemstream", &sys_strm) &&
3452         !sys_strm) {
3453       id = AV_CODEC_ID_DVVIDEO;
3454       video = TRUE;
3455     }
3456   } else if (!strcmp (mimetype, "audio/x-dv")) {        /* ??? */
3457     id = AV_CODEC_ID_DVAUDIO;
3458     audio = TRUE;
3459   } else if (!strcmp (mimetype, "video/x-h263")) {
3460     const gchar *h263version =
3461         gst_structure_get_string (structure, "h263version");
3462     if (h263version && !strcmp (h263version, "h263p"))
3463       id = AV_CODEC_ID_H263P;
3464     else
3465       id = AV_CODEC_ID_H263;
3466     video = TRUE;
3467   } else if (!strcmp (mimetype, "video/x-intel-h263")) {
3468     id = AV_CODEC_ID_H263I;
3469     video = TRUE;
3470   } else if (!strcmp (mimetype, "video/x-h261")) {
3471     id = AV_CODEC_ID_H261;
3472     video = TRUE;
3473   } else if (!strcmp (mimetype, "video/mpeg")) {
3474     gboolean sys_strm;
3475     gint mpegversion;
3476
3477     if (gst_structure_get_boolean (structure, "systemstream", &sys_strm) &&
3478         gst_structure_get_int (structure, "mpegversion", &mpegversion) &&
3479         !sys_strm) {
3480       switch (mpegversion) {
3481         case 1:
3482           id = AV_CODEC_ID_MPEG1VIDEO;
3483           break;
3484         case 2:
3485           id = AV_CODEC_ID_MPEG2VIDEO;
3486           break;
3487         case 4:
3488           id = AV_CODEC_ID_MPEG4;
3489           break;
3490       }
3491     }
3492     if (id != AV_CODEC_ID_NONE)
3493       video = TRUE;
3494   } else if (!strcmp (mimetype, "image/jpeg")) {
3495     id = AV_CODEC_ID_MJPEG;     /* A... B... */
3496     video = TRUE;
3497   } else if (!strcmp (mimetype, "video/x-jpeg-b")) {
3498     id = AV_CODEC_ID_MJPEGB;
3499     video = TRUE;
3500   } else if (!strcmp (mimetype, "video/x-wmv")) {
3501     gint wmvversion = 0;
3502
3503     if (gst_structure_get_int (structure, "wmvversion", &wmvversion)) {
3504       switch (wmvversion) {
3505         case 1:
3506           id = AV_CODEC_ID_WMV1;
3507           break;
3508         case 2:
3509           id = AV_CODEC_ID_WMV2;
3510           break;
3511         case 3:
3512         {
3513           const gchar *format;
3514
3515           /* WMV3 unless the fourcc exists and says otherwise */
3516           id = AV_CODEC_ID_WMV3;
3517
3518           if ((format = gst_structure_get_string (structure, "format")) &&
3519               (g_str_equal (format, "WVC1") || g_str_equal (format, "WMVA")))
3520             id = AV_CODEC_ID_VC1;
3521
3522           break;
3523         }
3524       }
3525     }
3526     if (id != AV_CODEC_ID_NONE)
3527       video = TRUE;
3528   } else if (!strcmp (mimetype, "audio/x-vorbis")) {
3529     id = AV_CODEC_ID_VORBIS;
3530     audio = TRUE;
3531   } else if (!strcmp (mimetype, "audio/x-qdm2")) {
3532     id = AV_CODEC_ID_QDM2;
3533     audio = TRUE;
3534   } else if (!strcmp (mimetype, "audio/mpeg")) {
3535     gint layer = 0;
3536     gint mpegversion = 0;
3537
3538     if (gst_structure_get_int (structure, "mpegversion", &mpegversion)) {
3539       switch (mpegversion) {
3540         case 2:                /* ffmpeg uses faad for both... */
3541         case 4:
3542           id = AV_CODEC_ID_AAC;
3543           break;
3544         case 1:
3545           if (gst_structure_get_int (structure, "layer", &layer)) {
3546             switch (layer) {
3547               case 1:
3548                 id = AV_CODEC_ID_MP1;
3549                 break;
3550               case 2:
3551                 id = AV_CODEC_ID_MP2;
3552                 break;
3553               case 3:
3554                 id = AV_CODEC_ID_MP3;
3555                 break;
3556             }
3557           }
3558       }
3559     }
3560     if (id != AV_CODEC_ID_NONE)
3561       audio = TRUE;
3562   } else if (!strcmp (mimetype, "audio/x-musepack")) {
3563     gint streamversion = -1;
3564
3565     if (gst_structure_get_int (structure, "streamversion", &streamversion)) {
3566       if (streamversion == 7)
3567         id = AV_CODEC_ID_MUSEPACK7;
3568     } else {
3569       id = AV_CODEC_ID_MUSEPACK7;
3570     }
3571   } else if (!strcmp (mimetype, "audio/x-wma")) {
3572     gint wmaversion = 0;
3573
3574     if (gst_structure_get_int (structure, "wmaversion", &wmaversion)) {
3575       switch (wmaversion) {
3576         case 1:
3577           id = AV_CODEC_ID_WMAV1;
3578           break;
3579         case 2:
3580           id = AV_CODEC_ID_WMAV2;
3581           break;
3582         case 3:
3583           id = AV_CODEC_ID_WMAPRO;
3584           break;
3585       }
3586     }
3587     if (id != AV_CODEC_ID_NONE)
3588       audio = TRUE;
3589   } else if (!strcmp (mimetype, "audio/x-wms")) {
3590     id = AV_CODEC_ID_WMAVOICE;
3591     audio = TRUE;
3592   } else if (!strcmp (mimetype, "audio/x-ac3")) {
3593     id = AV_CODEC_ID_AC3;
3594     audio = TRUE;
3595   } else if (!strcmp (mimetype, "audio/x-eac3")) {
3596     id = AV_CODEC_ID_EAC3;
3597     audio = TRUE;
3598   } else if (!strcmp (mimetype, "audio/x-vnd.sony.atrac3") ||
3599       !strcmp (mimetype, "audio/atrac3")) {
3600     id = AV_CODEC_ID_ATRAC3;
3601     audio = TRUE;
3602   } else if (!strcmp (mimetype, "audio/x-dts")) {
3603     id = AV_CODEC_ID_DTS;
3604     audio = TRUE;
3605   } else if (!strcmp (mimetype, "application/x-ape")) {
3606     id = AV_CODEC_ID_APE;
3607     audio = TRUE;
3608   } else if (!strcmp (mimetype, "video/x-msmpeg")) {
3609     gint msmpegversion = 0;
3610
3611     if (gst_structure_get_int (structure, "msmpegversion", &msmpegversion)) {
3612       switch (msmpegversion) {
3613         case 41:
3614           id = AV_CODEC_ID_MSMPEG4V1;
3615           break;
3616         case 42:
3617           id = AV_CODEC_ID_MSMPEG4V2;
3618           break;
3619         case 43:
3620           id = AV_CODEC_ID_MSMPEG4V3;
3621           break;
3622       }
3623     }
3624     if (id != AV_CODEC_ID_NONE)
3625       video = TRUE;
3626   } else if (!strcmp (mimetype, "video/x-svq")) {
3627     gint svqversion = 0;
3628
3629     if (gst_structure_get_int (structure, "svqversion", &svqversion)) {
3630       switch (svqversion) {
3631         case 1:
3632           id = AV_CODEC_ID_SVQ1;
3633           break;
3634         case 3:
3635           id = AV_CODEC_ID_SVQ3;
3636           break;
3637       }
3638     }
3639     if (id != AV_CODEC_ID_NONE)
3640       video = TRUE;
3641   } else if (!strcmp (mimetype, "video/x-huffyuv")) {
3642     id = AV_CODEC_ID_HUFFYUV;
3643     video = TRUE;
3644   } else if (!strcmp (mimetype, "audio/x-mace")) {
3645     gint maceversion = 0;
3646
3647     if (gst_structure_get_int (structure, "maceversion", &maceversion)) {
3648       switch (maceversion) {
3649         case 3:
3650           id = AV_CODEC_ID_MACE3;
3651           break;
3652         case 6:
3653           id = AV_CODEC_ID_MACE6;
3654           break;
3655       }
3656     }
3657     if (id != AV_CODEC_ID_NONE)
3658       audio = TRUE;
3659   } else if (!strcmp (mimetype, "video/x-theora")) {
3660     id = AV_CODEC_ID_THEORA;
3661     video = TRUE;
3662   } else if (!strcmp (mimetype, "video/x-vp3")) {
3663     id = AV_CODEC_ID_VP3;
3664     video = TRUE;
3665   } else if (!strcmp (mimetype, "video/x-vp5")) {
3666     id = AV_CODEC_ID_VP5;
3667     video = TRUE;
3668   } else if (!strcmp (mimetype, "video/x-vp6")) {
3669     id = AV_CODEC_ID_VP6;
3670     video = TRUE;
3671   } else if (!strcmp (mimetype, "video/x-vp6-flash")) {
3672     id = AV_CODEC_ID_VP6F;
3673     video = TRUE;
3674   } else if (!strcmp (mimetype, "video/x-vp6-alpha")) {
3675     id = AV_CODEC_ID_VP6A;
3676     video = TRUE;
3677   } else if (!strcmp (mimetype, "video/x-vp8")) {
3678     id = AV_CODEC_ID_VP8;
3679     video = TRUE;
3680   } else if (!strcmp (mimetype, "video/x-flash-screen")) {
3681     id = AV_CODEC_ID_FLASHSV;
3682     video = TRUE;
3683   } else if (!strcmp (mimetype, "video/x-indeo")) {
3684     gint indeoversion = 0;
3685
3686     if (gst_structure_get_int (structure, "indeoversion", &indeoversion)) {
3687       switch (indeoversion) {
3688         case 5:
3689           id = AV_CODEC_ID_INDEO5;
3690           break;
3691         case 4:
3692           id = AV_CODEC_ID_INDEO4;
3693           break;
3694         case 3:
3695           id = AV_CODEC_ID_INDEO3;
3696           break;
3697         case 2:
3698           id = AV_CODEC_ID_INDEO2;
3699           break;
3700       }
3701       if (id != AV_CODEC_ID_NONE)
3702         video = TRUE;
3703     }
3704   } else if (!strcmp (mimetype, "video/x-divx")) {
3705     gint divxversion = 0;
3706
3707     if (gst_structure_get_int (structure, "divxversion", &divxversion)) {
3708       switch (divxversion) {
3709         case 3:
3710           id = AV_CODEC_ID_MSMPEG4V3;
3711           break;
3712         case 4:
3713         case 5:
3714           id = AV_CODEC_ID_MPEG4;
3715           break;
3716       }
3717     }
3718     if (id != AV_CODEC_ID_NONE)
3719       video = TRUE;
3720   } else if (!strcmp (mimetype, "video/x-3ivx")) {
3721     id = AV_CODEC_ID_MPEG4;
3722     video = TRUE;
3723   } else if (!strcmp (mimetype, "video/x-xvid")) {
3724     id = AV_CODEC_ID_MPEG4;
3725     video = TRUE;
3726   } else if (!strcmp (mimetype, "video/x-ffv")) {
3727     gint ffvversion = 0;
3728
3729     if (gst_structure_get_int (structure, "ffvversion", &ffvversion) &&
3730         ffvversion == 1) {
3731       id = AV_CODEC_ID_FFV1;
3732       video = TRUE;
3733     }
3734   } else if (!strcmp (mimetype, "video/x-apple-intermediate-codec")) {
3735     id = AV_CODEC_ID_AIC;
3736     video = TRUE;
3737   } else if (!strcmp (mimetype, "audio/x-adpcm")) {
3738     const gchar *layout;
3739
3740     layout = gst_structure_get_string (structure, "layout");
3741     if (layout == NULL) {
3742       /* break */
3743     } else if (!strcmp (layout, "quicktime")) {
3744       id = AV_CODEC_ID_ADPCM_IMA_QT;
3745     } else if (!strcmp (layout, "microsoft")) {
3746       id = AV_CODEC_ID_ADPCM_MS;
3747     } else if (!strcmp (layout, "dvi")) {
3748       id = AV_CODEC_ID_ADPCM_IMA_WAV;
3749     } else if (!strcmp (layout, "4xm")) {
3750       id = AV_CODEC_ID_ADPCM_4XM;
3751     } else if (!strcmp (layout, "smjpeg")) {
3752       id = AV_CODEC_ID_ADPCM_IMA_SMJPEG;
3753     } else if (!strcmp (layout, "dk3")) {
3754       id = AV_CODEC_ID_ADPCM_IMA_DK3;
3755     } else if (!strcmp (layout, "dk4")) {
3756       id = AV_CODEC_ID_ADPCM_IMA_DK4;
3757     } else if (!strcmp (layout, "westwood")) {
3758       id = AV_CODEC_ID_ADPCM_IMA_WS;
3759     } else if (!strcmp (layout, "iss")) {
3760       id = AV_CODEC_ID_ADPCM_IMA_ISS;
3761     } else if (!strcmp (layout, "xa")) {
3762       id = AV_CODEC_ID_ADPCM_XA;
3763     } else if (!strcmp (layout, "adx")) {
3764       id = AV_CODEC_ID_ADPCM_ADX;
3765     } else if (!strcmp (layout, "ea")) {
3766       id = AV_CODEC_ID_ADPCM_EA;
3767     } else if (!strcmp (layout, "g726")) {
3768       id = AV_CODEC_ID_ADPCM_G726;
3769     } else if (!strcmp (layout, "g721")) {
3770       id = AV_CODEC_ID_ADPCM_G726;
3771     } else if (!strcmp (layout, "ct")) {
3772       id = AV_CODEC_ID_ADPCM_CT;
3773     } else if (!strcmp (layout, "swf")) {
3774       id = AV_CODEC_ID_ADPCM_SWF;
3775     } else if (!strcmp (layout, "yamaha")) {
3776       id = AV_CODEC_ID_ADPCM_YAMAHA;
3777     } else if (!strcmp (layout, "sbpro2")) {
3778       id = AV_CODEC_ID_ADPCM_SBPRO_2;
3779     } else if (!strcmp (layout, "sbpro3")) {
3780       id = AV_CODEC_ID_ADPCM_SBPRO_3;
3781     } else if (!strcmp (layout, "sbpro4")) {
3782       id = AV_CODEC_ID_ADPCM_SBPRO_4;
3783     }
3784     if (id != AV_CODEC_ID_NONE)
3785       audio = TRUE;
3786   } else if (!strcmp (mimetype, "video/x-4xm")) {
3787     id = AV_CODEC_ID_4XM;
3788     video = TRUE;
3789   } else if (!strcmp (mimetype, "audio/x-dpcm")) {
3790     const gchar *layout;
3791
3792     layout = gst_structure_get_string (structure, "layout");
3793     if (!layout) {
3794       /* .. */
3795     } else if (!strcmp (layout, "roq")) {
3796       id = AV_CODEC_ID_ROQ_DPCM;
3797     } else if (!strcmp (layout, "interplay")) {
3798       id = AV_CODEC_ID_INTERPLAY_DPCM;
3799     } else if (!strcmp (layout, "xan")) {
3800       id = AV_CODEC_ID_XAN_DPCM;
3801     } else if (!strcmp (layout, "sol")) {
3802       id = AV_CODEC_ID_SOL_DPCM;
3803     }
3804     if (id != AV_CODEC_ID_NONE)
3805       audio = TRUE;
3806   } else if (!strcmp (mimetype, "audio/x-flac")) {
3807     id = AV_CODEC_ID_FLAC;
3808     audio = TRUE;
3809   } else if (!strcmp (mimetype, "audio/x-shorten")) {
3810     id = AV_CODEC_ID_SHORTEN;
3811     audio = TRUE;
3812   } else if (!strcmp (mimetype, "audio/x-alac")) {
3813     id = AV_CODEC_ID_ALAC;
3814     audio = TRUE;
3815   } else if (!strcmp (mimetype, "video/x-cinepak")) {
3816     id = AV_CODEC_ID_CINEPAK;
3817     video = TRUE;
3818   } else if (!strcmp (mimetype, "video/x-pn-realvideo")) {
3819     gint rmversion;
3820
3821     if (gst_structure_get_int (structure, "rmversion", &rmversion)) {
3822       switch (rmversion) {
3823         case 1:
3824           id = AV_CODEC_ID_RV10;
3825           break;
3826         case 2:
3827           id = AV_CODEC_ID_RV20;
3828           break;
3829         case 3:
3830           id = AV_CODEC_ID_RV30;
3831           break;
3832         case 4:
3833           id = AV_CODEC_ID_RV40;
3834           break;
3835       }
3836     }
3837     if (id != AV_CODEC_ID_NONE)
3838       video = TRUE;
3839   } else if (!strcmp (mimetype, "audio/x-sipro")) {
3840     id = AV_CODEC_ID_SIPR;
3841     audio = TRUE;
3842   } else if (!strcmp (mimetype, "audio/x-pn-realaudio")) {
3843     gint raversion;
3844
3845     if (gst_structure_get_int (structure, "raversion", &raversion)) {
3846       switch (raversion) {
3847         case 1:
3848           id = AV_CODEC_ID_RA_144;
3849           break;
3850         case 2:
3851           id = AV_CODEC_ID_RA_288;
3852           break;
3853         case 8:
3854           id = AV_CODEC_ID_COOK;
3855           break;
3856       }
3857     }
3858     if (id != AV_CODEC_ID_NONE)
3859       audio = TRUE;
3860   } else if (!strcmp (mimetype, "video/x-rle")) {
3861     const gchar *layout;
3862
3863     if ((layout = gst_structure_get_string (structure, "layout"))) {
3864       if (!strcmp (layout, "microsoft")) {
3865         id = AV_CODEC_ID_MSRLE;
3866         video = TRUE;
3867       }
3868     }
3869   } else if (!strcmp (mimetype, "video/x-xan")) {
3870     gint wcversion = 0;
3871
3872     if ((gst_structure_get_int (structure, "wcversion", &wcversion))) {
3873       switch (wcversion) {
3874         case 3:
3875           id = AV_CODEC_ID_XAN_WC3;
3876           video = TRUE;
3877           break;
3878         case 4:
3879           id = AV_CODEC_ID_XAN_WC4;
3880           video = TRUE;
3881           break;
3882         default:
3883           break;
3884       }
3885     }
3886   } else if (!strcmp (mimetype, "audio/AMR")) {
3887     audio = TRUE;
3888     id = AV_CODEC_ID_AMR_NB;
3889   } else if (!strcmp (mimetype, "audio/AMR-WB")) {
3890     id = AV_CODEC_ID_AMR_WB;
3891     audio = TRUE;
3892   } else if (!strcmp (mimetype, "audio/qcelp")) {
3893     id = AV_CODEC_ID_QCELP;
3894     audio = TRUE;
3895   } else if (!strcmp (mimetype, "video/x-h264")) {
3896     id = AV_CODEC_ID_H264;
3897     video = TRUE;
3898   } else if (!strcmp (mimetype, "video/x-h265")) {
3899     id = AV_CODEC_ID_HEVC;
3900     video = TRUE;
3901   } else if (!strcmp (mimetype, "video/x-flash-video")) {
3902     gint flvversion = 0;
3903
3904     if ((gst_structure_get_int (structure, "flvversion", &flvversion))) {
3905       switch (flvversion) {
3906         case 1:
3907           id = AV_CODEC_ID_FLV1;
3908           video = TRUE;
3909           break;
3910         default:
3911           break;
3912       }
3913     }
3914
3915   } else if (!strcmp (mimetype, "audio/x-nellymoser")) {
3916     id = AV_CODEC_ID_NELLYMOSER;
3917     audio = TRUE;
3918   } else if (!strncmp (mimetype, "audio/x-gst-av-", 15)) {
3919     gchar ext[16];
3920     AVCodec *codec;
3921
3922     if (strlen (mimetype) <= 30 &&
3923         sscanf (mimetype, "audio/x-gst-av-%s", ext) == 1) {
3924       if ((codec = avcodec_find_decoder_by_name (ext)) ||
3925           (codec = avcodec_find_encoder_by_name (ext))) {
3926         id = codec->id;
3927         audio = TRUE;
3928       }
3929     }
3930   } else if (!strncmp (mimetype, "video/x-gst-av-", 15)) {
3931     gchar ext[16];
3932     AVCodec *codec;
3933
3934     if (strlen (mimetype) <= 30 &&
3935         sscanf (mimetype, "video/x-gst-av-%s", ext) == 1) {
3936       if ((codec = avcodec_find_decoder_by_name (ext)) ||
3937           (codec = avcodec_find_encoder_by_name (ext))) {
3938         id = codec->id;
3939         video = TRUE;
3940       }
3941     }
3942   }
3943
3944   if (context != NULL) {
3945     if (video == TRUE) {
3946       context->codec_type = AVMEDIA_TYPE_VIDEO;
3947     } else if (audio == TRUE) {
3948       context->codec_type = AVMEDIA_TYPE_AUDIO;
3949     } else {
3950       context->codec_type = AVMEDIA_TYPE_UNKNOWN;
3951     }
3952     context->codec_id = id;
3953     gst_ffmpeg_caps_with_codecid (id, context->codec_type, caps, context);
3954   }
3955
3956   if (id != AV_CODEC_ID_NONE) {
3957     GST_DEBUG ("The id=%d belongs to the caps %" GST_PTR_FORMAT, id, caps);
3958   } else {
3959     GST_WARNING ("Couldn't figure out the id for caps %" GST_PTR_FORMAT, caps);
3960   }
3961
3962   return id;
3963 }