ext/libav/gstavcodecmap.c

   1 /* GStreamer
   2  * Copyright (C) <1999> Erik Walthinsen <omega@cse.ogi.edu>
   3  * This file:
   4  * Copyright (c) 2002-2004 Ronald Bultje <rbultje@ronald.bitfreak.net>
   5  *
   6  * This library is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU Library General Public
   8  * License as published by the Free Software Foundation; either
   9  * version 2 of the License, or (at your option) any later version.
  10  *
  11  * This library is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14  * Library General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU Library General Public
  17  * License along with this library; if not, write to the
  18  * Free Software Foundation, Inc., 51 Franklin St, Fifth Floor,
  19  * Boston, MA 02110-1301, USA.
  20  */
  21
  22 #ifdef HAVE_CONFIG_H
  23 #include "config.h"
  24 #endif
  25
  26 #include <string.h>
  27
  28 #include <gst/gst.h>
  29 #include <libavcodec/avcodec.h>
  30 #include <libavutil/channel_layout.h>
  31
  32 #include "gstav.h"
  33 #include "gstavcodecmap.h"
  34
  35 #include <gst/video/video.h>
  36 #include <gst/audio/audio.h>
  37 #include <gst/pbutils/codec-utils.h>
  38
  39 /* IMPORTANT: Keep this sorted by the ffmpeg channel masks */
  40 static const struct
  41 {
  42   guint64 ff;
  43   GstAudioChannelPosition gst;
  44 } _ff_to_gst_layout[] = {
  45   {
  46   AV_CH_FRONT_LEFT, GST_AUDIO_CHANNEL_POSITION_FRONT_LEFT}, {
  47   AV_CH_FRONT_RIGHT, GST_AUDIO_CHANNEL_POSITION_FRONT_RIGHT}, {
  48   AV_CH_FRONT_CENTER, GST_AUDIO_CHANNEL_POSITION_FRONT_CENTER}, {
  49   AV_CH_LOW_FREQUENCY, GST_AUDIO_CHANNEL_POSITION_LFE1}, {
  50   AV_CH_BACK_LEFT, GST_AUDIO_CHANNEL_POSITION_REAR_LEFT}, {
  51   AV_CH_BACK_RIGHT, GST_AUDIO_CHANNEL_POSITION_REAR_RIGHT}, {
  52   AV_CH_FRONT_LEFT_OF_CENTER, GST_AUDIO_CHANNEL_POSITION_FRONT_LEFT_OF_CENTER}, {
  53   AV_CH_FRONT_RIGHT_OF_CENTER,
  54         GST_AUDIO_CHANNEL_POSITION_FRONT_RIGHT_OF_CENTER}, {
  55   AV_CH_BACK_CENTER, GST_AUDIO_CHANNEL_POSITION_REAR_CENTER}, {
  56   AV_CH_SIDE_LEFT, GST_AUDIO_CHANNEL_POSITION_SIDE_LEFT}, {
  57   AV_CH_SIDE_RIGHT, GST_AUDIO_CHANNEL_POSITION_SIDE_RIGHT}, {
  58   AV_CH_TOP_CENTER, GST_AUDIO_CHANNEL_POSITION_TOP_CENTER}, {
  59   AV_CH_TOP_FRONT_LEFT, GST_AUDIO_CHANNEL_POSITION_TOP_FRONT_LEFT}, {
  60   AV_CH_TOP_FRONT_CENTER, GST_AUDIO_CHANNEL_POSITION_TOP_FRONT_CENTER}, {
  61   AV_CH_TOP_FRONT_RIGHT, GST_AUDIO_CHANNEL_POSITION_TOP_FRONT_RIGHT}, {
  62   AV_CH_TOP_BACK_LEFT, GST_AUDIO_CHANNEL_POSITION_TOP_REAR_LEFT}, {
  63   AV_CH_TOP_BACK_CENTER, GST_AUDIO_CHANNEL_POSITION_TOP_REAR_CENTER}, {
  64   AV_CH_TOP_BACK_RIGHT, GST_AUDIO_CHANNEL_POSITION_TOP_REAR_RIGHT}, {
  65   AV_CH_STEREO_LEFT, GST_AUDIO_CHANNEL_POSITION_FRONT_LEFT}, {
  66   AV_CH_STEREO_RIGHT, GST_AUDIO_CHANNEL_POSITION_FRONT_RIGHT}
  67 };
  68
  69 GType
  70 gst_ffmpeg_compliance_get_type (void)
  71 {
  72   static GType ffmpeg_compliance_type = 0;
  73   static const GEnumValue compliance_types[] = {
  74     {GST_FFMPEG_VERY_STRICT, "Strictly conform to older spec",
  75         "verystrict"},
  76     {GST_FFMPEG_STRICT, "Strictly conform to current spec", "strict"},
  77     {GST_FFMPEG_NORMAL, "Normal behavior", "normal"},
  78     {GST_FFMPEG_UNOFFICIAL, "Allow unofficial extensions", "unofficial"},
  79     {GST_FFMPEG_EXPERIMENTAL, "Allow nonstandardized experimental things",
  80         "experimental"},
  81     {0, NULL, NULL}
  82   };
  83
  84   if (!ffmpeg_compliance_type) {
  85     ffmpeg_compliance_type =
  86         g_enum_register_static ("GstFFMpegCompliance", compliance_types);
  87   }
  88   return ffmpeg_compliance_type;
  89 }
  90
  91 static guint64
  92 gst_ffmpeg_channel_positions_to_layout (GstAudioChannelPosition * pos,
  93     gint channels)
  94 {
  95   gint i, j;
  96   guint64 ret = 0;
  97   gint channels_found = 0;
  98
  99   if (!pos)
 100     return 0;
 101
 102   for (i = 0; i < channels; i++) {
 103     for (j = 0; j < G_N_ELEMENTS (_ff_to_gst_layout); j++) {
 104       if (_ff_to_gst_layout[j].gst == pos[i]) {
 105         ret |= _ff_to_gst_layout[j].ff;
 106         channels_found++;
 107         break;
 108       }
 109     }
 110   }
 111
 112   if (channels_found != channels)
 113     return 0;
 114   return ret;
 115 }
 116
 117 gboolean
 118 gst_ffmpeg_channel_layout_to_gst (guint64 channel_layout, gint channels,
 119     GstAudioChannelPosition * pos)
 120 {
 121   guint nchannels = 0;
 122   gboolean none_layout = FALSE;
 123
 124   if (channel_layout == 0) {
 125     nchannels = channels;
 126     none_layout = TRUE;
 127   } else {
 128     guint i, j;
 129
 130     for (i = 0; i < 64; i++) {
 131       if ((channel_layout & (G_GUINT64_CONSTANT (1) << i)) != 0) {
 132         nchannels++;
 133       }
 134     }
 135
 136     if (nchannels != channels) {
 137       GST_ERROR ("Number of channels is different (%u != %u)", channels,
 138           nchannels);
 139       nchannels = channels;
 140       none_layout = TRUE;
 141     } else {
 142
 143       for (i = 0, j = 0; i < G_N_ELEMENTS (_ff_to_gst_layout); i++) {
 144         if ((channel_layout & _ff_to_gst_layout[i].ff) != 0) {
 145           pos[j++] = _ff_to_gst_layout[i].gst;
 146
 147           if (_ff_to_gst_layout[i].gst == GST_AUDIO_CHANNEL_POSITION_NONE)
 148             none_layout = TRUE;
 149         }
 150       }
 151
 152       if (j != nchannels) {
 153         GST_WARNING
 154             ("Unknown channels in channel layout - assuming NONE layout");
 155         none_layout = TRUE;
 156       }
 157     }
 158   }
 159
 160   if (!none_layout
 161       && !gst_audio_check_valid_channel_positions (pos, nchannels, FALSE)) {
 162     GST_ERROR ("Invalid channel layout %" G_GUINT64_FORMAT
 163         " - assuming NONE layout", channel_layout);
 164     none_layout = TRUE;
 165   }
 166
 167   if (none_layout) {
 168     if (nchannels == 1) {
 169       pos[0] = GST_AUDIO_CHANNEL_POSITION_MONO;
 170     } else if (nchannels == 2) {
 171       pos[0] = GST_AUDIO_CHANNEL_POSITION_FRONT_LEFT;
 172       pos[1] = GST_AUDIO_CHANNEL_POSITION_FRONT_RIGHT;
 173     } else {
 174       guint i;
 175
 176       for (i = 0; i < nchannels; i++)
 177         pos[i] = GST_AUDIO_CHANNEL_POSITION_NONE;
 178     }
 179   }
 180
 181   return TRUE;
 182 }
 183
 184 static gboolean
 185 _gst_value_list_contains (const GValue * list, const GValue * value)
 186 {
 187   guint i, n;
 188   const GValue *tmp;
 189
 190   n = gst_value_list_get_size (list);
 191   for (i = 0; i < n; i++) {
 192     tmp = gst_value_list_get_value (list, i);
 193     if (gst_value_compare (value, tmp) == GST_VALUE_EQUAL)
 194       return TRUE;
 195   }
 196
 197   return FALSE;
 198 }
 199
 200 static void
 201 gst_ffmpeg_video_set_pix_fmts (GstCaps * caps, const enum AVPixelFormat *fmts)
 202 {
 203   GValue va = { 0, };
 204   GValue v = { 0, };
 205   GstVideoFormat format;
 206
 207   if (!fmts || fmts[0] == -1) {
 208     gint i;
 209
 210     g_value_init (&va, GST_TYPE_LIST);
 211     g_value_init (&v, G_TYPE_STRING);
 212     for (i = 0; i <= PIX_FMT_NB; i++) {
 213       format = gst_ffmpeg_pixfmt_to_videoformat (i);
 214       if (format == GST_VIDEO_FORMAT_UNKNOWN)
 215         continue;
 216       g_value_set_string (&v, gst_video_format_to_string (format));
 217       gst_value_list_append_value (&va, &v);
 218     }
 219     gst_caps_set_value (caps, "format", &va);
 220     g_value_unset (&v);
 221     g_value_unset (&va);
 222     return;
 223   }
 224
 225   /* Only a single format */
 226   g_value_init (&va, GST_TYPE_LIST);
 227   g_value_init (&v, G_TYPE_STRING);
 228   while (*fmts != -1) {
 229     format = gst_ffmpeg_pixfmt_to_videoformat (*fmts);
 230     if (format != GST_VIDEO_FORMAT_UNKNOWN) {
 231       g_value_set_string (&v, gst_video_format_to_string (format));
 232       /* Only append values we don't have yet */
 233       if (!_gst_value_list_contains (&va, &v))
 234         gst_value_list_append_value (&va, &v);
 235     }
 236     fmts++;
 237   }
 238   if (gst_value_list_get_size (&va) == 1) {
 239     /* The single value is still in v */
 240     gst_caps_set_value (caps, "format", &v);
 241   } else if (gst_value_list_get_size (&va) > 1) {
 242     gst_caps_set_value (caps, "format", &va);
 243   }
 244   g_value_unset (&v);
 245   g_value_unset (&va);
 246 }
 247
 248 /* this macro makes a caps width fixed or unfixed width/height
 249  * properties depending on whether we've got a context.
 250  *
 251  * See below for why we use this.
 252  *
 253  * We should actually do this stuff at the end, like in riff-media.c,
 254  * but I'm too lazy today. Maybe later.
 255  */
 256 static GstCaps *
 257 gst_ff_vid_caps_new (AVCodecContext * context, AVCodec * codec,
 258     enum AVCodecID codec_id, gboolean encode, const char *mimetype,
 259     const char *fieldname, ...)
 260 {
 261   GstCaps *caps = NULL;
 262   va_list var_args;
 263   gint i;
 264
 265   GST_LOG ("context:%p, codec_id:%d, mimetype:%s", context, codec_id, mimetype);
 266
 267   /* fixed, non probing context */
 268   if (context != NULL && context->width != -1) {
 269     gint num, denom;
 270
 271     caps = gst_caps_new_simple (mimetype,
 272         "width", G_TYPE_INT, context->width,
 273         "height", G_TYPE_INT, context->height, NULL);
 274
 275     num = context->time_base.den / context->ticks_per_frame;
 276     denom = context->time_base.num;
 277
 278     if (!denom) {
 279       GST_LOG ("invalid framerate: %d/0, -> %d/1", num, num);
 280       denom = 1;
 281     }
 282     if (gst_util_fraction_compare (num, denom, 1000, 1) > 0) {
 283       GST_LOG ("excessive framerate: %d/%d, -> 0/1", num, denom);
 284       num = 0;
 285       denom = 1;
 286     }
 287     GST_LOG ("setting framerate: %d/%d", num, denom);
 288     gst_caps_set_simple (caps,
 289         "framerate", GST_TYPE_FRACTION, num, denom, NULL);
 290   } else if (encode) {
 291     /* so we are after restricted caps in this case */
 292     switch (codec_id) {
 293       case AV_CODEC_ID_H261:
 294       {
 295         caps = gst_caps_new_simple (mimetype,
 296             "width", G_TYPE_INT, 352,
 297             "height", G_TYPE_INT, 288,
 298             "framerate", GST_TYPE_FRACTION_RANGE, 0, 1, G_MAXINT, 1, NULL);
 299         gst_caps_append (caps, gst_caps_new_simple (mimetype,
 300                 "width", G_TYPE_INT, 176,
 301                 "height", G_TYPE_INT, 144,
 302                 "framerate", GST_TYPE_FRACTION_RANGE, 0, 1, G_MAXINT, 1, NULL));
 303         break;
 304       }
 305       case AV_CODEC_ID_H263:
 306       {
 307         /* 128x96, 176x144, 352x288, 704x576, and 1408x1152. slightly reordered
 308          * because we want automatic negotiation to go as close to 320x240 as
 309          * possible. */
 310         const static gint widths[] = { 352, 704, 176, 1408, 128 };
 311         const static gint heights[] = { 288, 576, 144, 1152, 96 };
 312         GstCaps *temp;
 313         gint n_sizes = G_N_ELEMENTS (widths);
 314
 315         caps = gst_caps_new_empty ();
 316         for (i = 0; i < n_sizes; i++) {
 317           temp = gst_caps_new_simple (mimetype,
 318               "width", G_TYPE_INT, widths[i],
 319               "height", G_TYPE_INT, heights[i],
 320               "framerate", GST_TYPE_FRACTION_RANGE, 0, 1, G_MAXINT, 1, NULL);
 321
 322           gst_caps_append (caps, temp);
 323         }
 324         break;
 325       }
 326       case AV_CODEC_ID_DVVIDEO:
 327       {
 328         static struct
 329         {
 330           const gchar *csp;
 331           gint width, height;
 332           gint par_n, par_d;
 333           gint framerate_n, framerate_d;
 334         } profiles[] = {
 335           {
 336           "Y41B", 720, 480, 8, 9, 30000, 1001}, {
 337           "Y41B", 720, 480, 32, 27, 30000, 1001}, {
 338           "Y42B", 720, 480, 8, 9, 30000, 1001}, {
 339           "Y42B", 720, 480, 32, 27, 30000, 1001}, {
 340           "I420", 720, 576, 16, 15, 25, 1}, {
 341           "I420", 720, 576, 64, 45, 25, 1}, {
 342           "Y41B", 720, 576, 16, 15, 25, 1}, {
 343           "Y41B", 720, 576, 64, 45, 25, 1}, {
 344           "Y42B", 720, 576, 16, 15, 25, 1}, {
 345           "Y42B", 720, 576, 64, 45, 25, 1}, {
 346           "Y42B", 1280, 1080, 1, 1, 30000, 1001}, {
 347           "Y42B", 1280, 1080, 3, 2, 30000, 1001}, {
 348           "Y42B", 1440, 1080, 1, 1, 25, 1}, {
 349           "Y42B", 1440, 1080, 4, 3, 25, 1}, {
 350           "Y42B", 960, 720, 1, 1, 60000, 1001}, {
 351           "Y42B", 960, 720, 4, 3, 60000, 1001}, {
 352           "Y42B", 960, 720, 1, 1, 50, 1}, {
 353         "Y42B", 960, 720, 4, 3, 50, 1},};
 354         GstCaps *temp;
 355         gint n_sizes = G_N_ELEMENTS (profiles);
 356
 357         if (strcmp (mimetype, "video/x-raw") == 0) {
 358           caps = gst_caps_new_empty ();
 359           for (i = 0; i < n_sizes; i++) {
 360             temp = gst_caps_new_simple (mimetype,
 361                 "format", G_TYPE_STRING, profiles[i].csp,
 362                 "width", G_TYPE_INT, profiles[i].width,
 363                 "height", G_TYPE_INT, profiles[i].height,
 364                 "framerate", GST_TYPE_FRACTION, profiles[i].framerate_n,
 365                 profiles[i].framerate_d, "pixel-aspect-ratio",
 366                 GST_TYPE_FRACTION, profiles[i].par_n, profiles[i].par_d, NULL);
 367
 368             gst_caps_append (caps, temp);
 369           }
 370         } else {
 371           caps = gst_caps_new_empty ();
 372           for (i = 0; i < n_sizes; i++) {
 373             temp = gst_caps_new_simple (mimetype,
 374                 "width", G_TYPE_INT, profiles[i].width,
 375                 "height", G_TYPE_INT, profiles[i].height,
 376                 "framerate", GST_TYPE_FRACTION, profiles[i].framerate_n,
 377                 profiles[i].framerate_d, "pixel-aspect-ratio",
 378                 GST_TYPE_FRACTION, profiles[i].par_n, profiles[i].par_d, NULL);
 379
 380             gst_caps_append (caps, temp);
 381           }
 382         }
 383         break;
 384       }
 385       case AV_CODEC_ID_DNXHD:
 386       {
 387         caps = gst_caps_new_simple (mimetype,
 388             "width", G_TYPE_INT, 1920,
 389             "height", G_TYPE_INT, 1080,
 390             "framerate", GST_TYPE_FRACTION_RANGE, 0, 1, G_MAXINT, 1, NULL);
 391         gst_caps_append (caps, gst_caps_new_simple (mimetype,
 392                 "width", G_TYPE_INT, 1280,
 393                 "height", G_TYPE_INT, 720,
 394                 "framerate", GST_TYPE_FRACTION_RANGE, 0, 1, G_MAXINT, 1, NULL));
 395         break;
 396       }
 397       default:
 398       {
 399         if (codec && codec->supported_framerates
 400             && codec->supported_framerates[0].num != 0
 401             && codec->supported_framerates[0].den != 0) {
 402           GValue va = { 0, };
 403           GValue v = { 0, };
 404           const AVRational *rates = codec->supported_framerates;
 405
 406           if (rates[1].num == 0 && rates[1].den == 0) {
 407             caps =
 408                 gst_caps_new_simple (mimetype, "framerate", GST_TYPE_FRACTION,
 409                 rates[0].num, rates[0].den, NULL);
 410           } else {
 411             g_value_init (&va, GST_TYPE_LIST);
 412             g_value_init (&v, GST_TYPE_FRACTION);
 413
 414             while (rates->num != 0 && rates->den != 0) {
 415               gst_value_set_fraction (&v, rates->num, rates->den);
 416               gst_value_list_append_value (&va, &v);
 417               rates++;
 418             }
 419
 420             caps = gst_caps_new_simple (mimetype, NULL, NULL, NULL);
 421             gst_caps_set_value (caps, "framerate", &va);
 422             g_value_unset (&va);
 423             g_value_unset (&v);
 424           }
 425
 426         } else {
 427           caps = gst_caps_new_empty_simple (mimetype);
 428         }
 429
 430         break;
 431       }
 432     }
 433   }
 434
 435   /* no fixed caps or special restrictions applied;
 436    * default unfixed setting */
 437   if (!caps) {
 438     GST_DEBUG ("Creating default caps");
 439     caps = gst_caps_new_empty_simple (mimetype);
 440   }
 441
 442   va_start (var_args, fieldname);
 443   gst_caps_set_simple_valist (caps, fieldname, var_args);
 444   va_end (var_args);
 445
 446   return caps;
 447 }
 448
 449 static gint
 450 get_nbits_set (guint64 n)
 451 {
 452   gint i, x;
 453
 454   x = 0;
 455   for (i = 0; i < 64; i++) {
 456     if ((n & (G_GUINT64_CONSTANT (1) << i)))
 457       x++;
 458   }
 459
 460   return x;
 461 }
 462
 463 static void
 464 gst_ffmpeg_audio_set_sample_fmts (GstCaps * caps,
 465     const enum AVSampleFormat *fmts)
 466 {
 467   GValue va = { 0, };
 468   GValue v = { 0, };
 469   GstAudioFormat format;
 470
 471   if (!fmts || fmts[0] == -1) {
 472     gint i;
 473
 474     g_value_init (&va, GST_TYPE_LIST);
 475     g_value_init (&v, G_TYPE_STRING);
 476     for (i = 0; i <= AV_SAMPLE_FMT_DBL; i++) {
 477       format = gst_ffmpeg_smpfmt_to_audioformat (i);
 478       if (format == GST_AUDIO_FORMAT_UNKNOWN)
 479         continue;
 480       g_value_set_string (&v, gst_audio_format_to_string (format));
 481       gst_value_list_append_value (&va, &v);
 482     }
 483     gst_caps_set_value (caps, "format", &va);
 484     g_value_unset (&v);
 485     g_value_unset (&va);
 486     return;
 487   }
 488
 489   g_value_init (&va, GST_TYPE_LIST);
 490   g_value_init (&v, G_TYPE_STRING);
 491   while (*fmts != -1) {
 492     format = gst_ffmpeg_smpfmt_to_audioformat (*fmts);
 493     if (format != GST_AUDIO_FORMAT_UNKNOWN) {
 494       g_value_set_string (&v, gst_audio_format_to_string (format));
 495       /* Only append values we don't have yet */
 496       if (!_gst_value_list_contains (&va, &v))
 497         gst_value_list_append_value (&va, &v);
 498     }
 499     fmts++;
 500   }
 501   if (gst_value_list_get_size (&va) == 1) {
 502     /* The single value is still in v */
 503     gst_caps_set_value (caps, "format", &v);
 504   } else if (gst_value_list_get_size (&va) > 1) {
 505     gst_caps_set_value (caps, "format", &va);
 506   }
 507   g_value_unset (&v);
 508   g_value_unset (&va);
 509 }
 510
 511 /* same for audio - now with channels/sample rate
 512  */
 513 static GstCaps *
 514 gst_ff_aud_caps_new (AVCodecContext * context, AVCodec * codec,
 515     enum AVCodecID codec_id, gboolean encode, const char *mimetype,
 516     const char *fieldname, ...)
 517 {
 518   GstCaps *caps = NULL;
 519   gint i;
 520   va_list var_args;
 521
 522   /* fixed, non-probing context */
 523   if (context != NULL && context->channels != -1) {
 524     GstAudioChannelPosition pos[64];
 525     guint64 mask;
 526
 527     caps = gst_caps_new_simple (mimetype,
 528         "rate", G_TYPE_INT, context->sample_rate,
 529         "channels", G_TYPE_INT, context->channels, NULL);
 530
 531     if (context->channels > 1 &&
 532         gst_ffmpeg_channel_layout_to_gst (context->channel_layout,
 533             context->channels, pos) &&
 534         gst_audio_channel_positions_to_mask (pos, context->channels, FALSE,
 535             &mask)) {
 536       gst_caps_set_simple (caps, "channel-mask", GST_TYPE_BITMASK, mask, NULL);
 537     }
 538   } else if (encode) {
 539     gint maxchannels = 2;
 540     const gint *rates = NULL;
 541     gint n_rates = 0;
 542
 543     /* so we must be after restricted caps in this case */
 544     switch (codec_id) {
 545       case AV_CODEC_ID_AAC:
 546       case AV_CODEC_ID_AAC_LATM:
 547       case AV_CODEC_ID_DTS:
 548         maxchannels = 6;
 549         break;
 550       case AV_CODEC_ID_MP2:
 551       {
 552         const static gint l_rates[] =
 553             { 48000, 44100, 32000, 24000, 22050, 16000 };
 554         n_rates = G_N_ELEMENTS (l_rates);
 555         rates = l_rates;
 556         break;
 557       }
 558       case AV_CODEC_ID_EAC3:
 559       case AV_CODEC_ID_AC3:
 560       {
 561         const static gint l_rates[] = { 48000, 44100, 32000 };
 562         maxchannels = 6;
 563         n_rates = G_N_ELEMENTS (l_rates);
 564         rates = l_rates;
 565         break;
 566       }
 567       case AV_CODEC_ID_ADPCM_G722:
 568       {
 569         const static gint l_rates[] = { 16000 };
 570         n_rates = G_N_ELEMENTS (l_rates);
 571         rates = l_rates;
 572         maxchannels = 1;
 573         break;
 574       }
 575       case AV_CODEC_ID_ADPCM_G726:
 576       {
 577         const static gint l_rates[] = { 8000 };
 578         n_rates = G_N_ELEMENTS (l_rates);
 579         rates = l_rates;
 580         maxchannels = 1;
 581         break;
 582       }
 583       case AV_CODEC_ID_ADPCM_SWF:
 584       {
 585         const static gint l_rates[] = { 11025, 22050, 44100 };
 586         n_rates = G_N_ELEMENTS (l_rates);
 587         rates = l_rates;
 588         break;
 589       }
 590       case AV_CODEC_ID_ROQ_DPCM:
 591       {
 592         const static gint l_rates[] = { 22050 };
 593         n_rates = G_N_ELEMENTS (l_rates);
 594         rates = l_rates;
 595         break;
 596       }
 597       case AV_CODEC_ID_AMR_NB:
 598       {
 599         const static gint l_rates[] = { 8000 };
 600         maxchannels = 1;
 601         n_rates = G_N_ELEMENTS (l_rates);
 602         rates = l_rates;
 603         break;
 604       }
 605       case AV_CODEC_ID_AMR_WB:
 606       {
 607         const static gint l_rates[] = { 16000 };
 608         maxchannels = 1;
 609         n_rates = G_N_ELEMENTS (l_rates);
 610         rates = l_rates;
 611         break;
 612       }
 613       default:
 614         break;
 615     }
 616
 617     /* regardless of encode/decode, open up channels if applicable */
 618     /* Until decoders/encoders expose the maximum number of channels
 619      * they support, we whitelist them here. */
 620     switch (codec_id) {
 621       case AV_CODEC_ID_WMAPRO:
 622       case AV_CODEC_ID_TRUEHD:
 623         maxchannels = 8;
 624         break;
 625       default:
 626         break;
 627     }
 628
 629     if (codec && codec->channel_layouts) {
 630       const uint64_t *layouts = codec->channel_layouts;
 631       GstAudioChannelPosition pos[64];
 632
 633       caps = gst_caps_new_empty ();
 634       while (*layouts) {
 635         gint nbits_set = get_nbits_set (*layouts);
 636
 637         if (gst_ffmpeg_channel_layout_to_gst (*layouts, nbits_set, pos)) {
 638           guint64 mask;
 639
 640           if (gst_audio_channel_positions_to_mask (pos, nbits_set, FALSE,
 641                   &mask)) {
 642             GstCaps *tmp =
 643                 gst_caps_new_simple (mimetype, "channel-mask", GST_TYPE_BITMASK,
 644                 mask,
 645                 "channels", G_TYPE_INT, nbits_set, NULL);
 646
 647             gst_caps_append (caps, tmp);
 648           }
 649         }
 650         layouts++;
 651       }
 652     } else {
 653       if (maxchannels == 1)
 654         caps = gst_caps_new_simple (mimetype,
 655             "channels", G_TYPE_INT, maxchannels, NULL);
 656       else
 657         caps = gst_caps_new_simple (mimetype,
 658             "channels", GST_TYPE_INT_RANGE, 1, maxchannels, NULL);
 659     }
 660
 661     if (n_rates) {
 662       GValue list = { 0, };
 663
 664       g_value_init (&list, GST_TYPE_LIST);
 665       for (i = 0; i < n_rates; i++) {
 666         GValue v = { 0, };
 667
 668         g_value_init (&v, G_TYPE_INT);
 669         g_value_set_int (&v, rates[i]);
 670         gst_value_list_append_value (&list, &v);
 671         g_value_unset (&v);
 672       }
 673       gst_caps_set_value (caps, "rate", &list);
 674       g_value_unset (&list);
 675     } else if (codec && codec->supported_samplerates
 676         && codec->supported_samplerates[0]) {
 677       GValue va = { 0, };
 678       GValue v = { 0, };
 679
 680       if (!codec->supported_samplerates[1]) {
 681         gst_caps_set_simple (caps, "rate", G_TYPE_INT,
 682             codec->supported_samplerates[0], NULL);
 683       } else {
 684         const int *rates = codec->supported_samplerates;
 685
 686         g_value_init (&va, GST_TYPE_LIST);
 687         g_value_init (&v, G_TYPE_INT);
 688
 689         while (*rates) {
 690           g_value_set_int (&v, *rates);
 691           gst_value_list_append_value (&va, &v);
 692           rates++;
 693         }
 694         gst_caps_set_value (caps, "rate", &va);
 695         g_value_unset (&va);
 696         g_value_unset (&v);
 697       }
 698     } else {
 699       gst_caps_set_simple (caps, "rate", GST_TYPE_INT_RANGE, 4000, 96000, NULL);
 700     }
 701   } else {
 702     caps = gst_caps_new_empty_simple (mimetype);
 703   }
 704
 705   va_start (var_args, fieldname);
 706   gst_caps_set_simple_valist (caps, fieldname, var_args);
 707   va_end (var_args);
 708
 709   return caps;
 710 }
 711
 712 /* Convert a FFMPEG codec ID and optional AVCodecContext
 713  * to a GstCaps. If the context is ommitted, no fixed values
 714  * for video/audio size will be included in the GstCaps
 715  *
 716  * CodecID is primarily meant for compressed data GstCaps!
 717  *
 718  * encode is a special parameter. gstffmpegdec will say
 719  * FALSE, gstffmpegenc will say TRUE. The output caps
 720  * depends on this, in such a way that it will be very
 721  * specific, defined, fixed and correct caps for encoders,
 722  * yet very wide, "forgiving" caps for decoders. Example
 723  * for mp3: decode: audio/mpeg,mpegversion=1,layer=[1-3]
 724  * but encode: audio/mpeg,mpegversion=1,layer=3,bitrate=x,
 725  * rate=x,channels=x.
 726  */
 727
 728 GstCaps *
 729 gst_ffmpeg_codecid_to_caps (enum AVCodecID codec_id,
 730     AVCodecContext * context, gboolean encode)
 731 {
 732   GstCaps *caps = NULL;
 733   gboolean buildcaps = FALSE;
 734
 735   GST_LOG ("codec_id:%d, context:%p, encode:%d", codec_id, context, encode);
 736
 737   switch (codec_id) {
 738     case AV_CODEC_ID_MPEG1VIDEO:
 739       /* FIXME: bitrate */
 740       caps = gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/mpeg",
 741           "mpegversion", G_TYPE_INT, 1,
 742           "systemstream", G_TYPE_BOOLEAN, FALSE, NULL);
 743       break;
 744
 745     case AV_CODEC_ID_MPEG2VIDEO:
 746       if (encode) {
 747         /* FIXME: bitrate */
 748         caps =
 749             gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/mpeg",
 750             "mpegversion", G_TYPE_INT, 2, "systemstream", G_TYPE_BOOLEAN, FALSE,
 751             NULL);
 752       } else {
 753         /* decode both MPEG-1 and MPEG-2; width/height/fps are all in
 754          * the MPEG video stream headers, so may be omitted from caps. */
 755         caps = gst_caps_new_simple ("video/mpeg",
 756             "mpegversion", GST_TYPE_INT_RANGE, 1, 2,
 757             "systemstream", G_TYPE_BOOLEAN, FALSE, NULL);
 758       }
 759       break;
 760
 761     case AV_CODEC_ID_MPEG2VIDEO_XVMC:
 762       /* this is a special ID - don't need it in GStreamer, I think */
 763       break;
 764
 765     case AV_CODEC_ID_H263:
 766       if (encode) {
 767         caps =
 768             gst_ff_vid_caps_new (context, NULL, codec_id, encode,
 769             "video/x-h263", "variant", G_TYPE_STRING, "itu", "h263version",
 770             G_TYPE_STRING, "h263", NULL);
 771       } else {
 772         /* don't pass codec_id, we can decode other variants with the H263
 773          * decoder that don't have specific size requirements
 774          */
 775         caps =
 776             gst_ff_vid_caps_new (context, NULL, AV_CODEC_ID_NONE, encode,
 777             "video/x-h263", "variant", G_TYPE_STRING, "itu", NULL);
 778       }
 779       break;
 780
 781     case AV_CODEC_ID_H263P:
 782       caps =
 783           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-h263",
 784           "variant", G_TYPE_STRING, "itu", "h263version", G_TYPE_STRING,
 785           "h263p", NULL);
 786       if (encode && context) {
 787
 788         gst_caps_set_simple (caps,
 789             "annex-f", G_TYPE_BOOLEAN, context->flags & CODEC_FLAG_4MV,
 790             "annex-j", G_TYPE_BOOLEAN, context->flags & CODEC_FLAG_LOOP_FILTER,
 791             "annex-i", G_TYPE_BOOLEAN, context->flags & CODEC_FLAG_AC_PRED,
 792             "annex-t", G_TYPE_BOOLEAN, context->flags & CODEC_FLAG_AC_PRED,
 793             NULL);
 794       }
 795       break;
 796
 797     case AV_CODEC_ID_H263I:
 798       caps =
 799           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
 800           "video/x-intel-h263", "variant", G_TYPE_STRING, "intel", NULL);
 801       break;
 802
 803     case AV_CODEC_ID_H261:
 804       caps =
 805           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-h261",
 806           NULL);
 807       break;
 808
 809     case AV_CODEC_ID_RV10:
 810     case AV_CODEC_ID_RV20:
 811     case AV_CODEC_ID_RV30:
 812     case AV_CODEC_ID_RV40:
 813     {
 814       gint version;
 815
 816       switch (codec_id) {
 817         case AV_CODEC_ID_RV40:
 818           version = 4;
 819           break;
 820         case AV_CODEC_ID_RV30:
 821           version = 3;
 822           break;
 823         case AV_CODEC_ID_RV20:
 824           version = 2;
 825           break;
 826         default:
 827           version = 1;
 828           break;
 829       }
 830
 831       caps =
 832           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
 833           "video/x-pn-realvideo", "rmversion", G_TYPE_INT, version, NULL);
 834       if (context) {
 835         if (context->extradata_size >= 8) {
 836           gst_caps_set_simple (caps,
 837               "subformat", G_TYPE_INT, GST_READ_UINT32_BE (context->extradata),
 838               NULL);
 839         }
 840       }
 841     }
 842       break;
 843
 844     case AV_CODEC_ID_MP1:
 845       /* FIXME: bitrate */
 846       caps = gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/mpeg",
 847           "mpegversion", G_TYPE_INT, 1, "layer", G_TYPE_INT, 1, NULL);
 848       break;
 849
 850     case AV_CODEC_ID_MP2:
 851       /* FIXME: bitrate */
 852       caps = gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/mpeg",
 853           "mpegversion", G_TYPE_INT, 1, "layer", G_TYPE_INT, 2, NULL);
 854       break;
 855
 856     case AV_CODEC_ID_MP3:
 857       if (encode) {
 858         /* FIXME: bitrate */
 859         caps =
 860             gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/mpeg",
 861             "mpegversion", G_TYPE_INT, 1, "layer", G_TYPE_INT, 3, NULL);
 862       } else {
 863         /* Decodes MPEG-1 layer 1/2/3. Samplerate, channels et al are
 864          * in the MPEG audio header, so may be omitted from caps. */
 865         caps = gst_caps_new_simple ("audio/mpeg",
 866             "mpegversion", G_TYPE_INT, 1,
 867             "layer", GST_TYPE_INT_RANGE, 1, 3, NULL);
 868       }
 869       break;
 870
 871     case AV_CODEC_ID_MUSEPACK7:
 872       caps =
 873           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
 874           "audio/x-ffmpeg-parsed-musepack", "streamversion", G_TYPE_INT, 7,
 875           NULL);
 876       break;
 877
 878     case AV_CODEC_ID_MUSEPACK8:
 879       caps =
 880           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
 881           "audio/x-ffmpeg-parsed-musepack", "streamversion", G_TYPE_INT, 8,
 882           NULL);
 883       break;
 884
 885     case AV_CODEC_ID_AC3:
 886       /* FIXME: bitrate */
 887       caps =
 888           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-ac3",
 889           NULL);
 890       break;
 891
 892     case AV_CODEC_ID_EAC3:
 893       /* FIXME: bitrate */
 894       caps =
 895           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-eac3",
 896           NULL);
 897       break;
 898
 899     case AV_CODEC_ID_TRUEHD:
 900       caps =
 901           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
 902           "audio/x-true-hd", NULL);
 903       break;
 904
 905     case AV_CODEC_ID_ATRAC1:
 906       caps =
 907           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
 908           "audio/x-vnd.sony.atrac1", NULL);
 909       break;
 910
 911     case AV_CODEC_ID_ATRAC3:
 912       caps =
 913           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
 914           "audio/x-vnd.sony.atrac3", NULL);
 915       break;
 916
 917     case AV_CODEC_ID_DTS:
 918       caps =
 919           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-dts",
 920           NULL);
 921       break;
 922
 923     case AV_CODEC_ID_APE:
 924       caps =
 925           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
 926           "audio/x-ffmpeg-parsed-ape", NULL);
 927       if (context) {
 928         gst_caps_set_simple (caps,
 929             "depth", G_TYPE_INT, context->bits_per_coded_sample, NULL);
 930       }
 931       break;
 932
 933     case AV_CODEC_ID_MLP:
 934       caps =
 935           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-mlp",
 936           NULL);
 937       break;
 938
 939     case AV_CODEC_ID_IMC:
 940       caps =
 941           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-imc",
 942           NULL);
 943       break;
 944
 945       /* MJPEG is normal JPEG, Motion-JPEG and Quicktime MJPEG-A. MJPEGB
 946        * is Quicktime's MJPEG-B. LJPEG is lossless JPEG. I don't know what
 947        * sp5x is, but it's apparently something JPEG... We don't separate
 948        * between those in GStreamer. Should we (at least between MJPEG,
 949        * MJPEG-B and sp5x decoding...)? */
 950     case AV_CODEC_ID_MJPEG:
 951     case AV_CODEC_ID_LJPEG:
 952       caps =
 953           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "image/jpeg",
 954           "parsed", G_TYPE_BOOLEAN, TRUE, NULL);
 955       break;
 956
 957     case AV_CODEC_ID_SP5X:
 958       caps =
 959           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/sp5x",
 960           NULL);
 961       break;
 962
 963     case AV_CODEC_ID_MJPEGB:
 964       caps =
 965           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
 966           "video/x-mjpeg-b", NULL);
 967       break;
 968
 969     case AV_CODEC_ID_MPEG4:
 970       if (encode && context != NULL) {
 971         /* I'm not exactly sure what ffmpeg outputs... ffmpeg itself uses
 972          * the AVI fourcc 'DIVX', but 'mp4v' for Quicktime... */
 973         switch (context->codec_tag) {
 974           case GST_MAKE_FOURCC ('D', 'I', 'V', 'X'):
 975             caps =
 976                 gst_ff_vid_caps_new (context, NULL, codec_id, encode,
 977                 "video/x-divx", "divxversion", G_TYPE_INT, 5, NULL);
 978             break;
 979           case GST_MAKE_FOURCC ('X', 'V', 'I', 'D'):
 980             caps =
 981                 gst_ff_vid_caps_new (context, NULL, codec_id, encode,
 982                 "video/x-xvid", NULL);
 983             break;
 984           case GST_MAKE_FOURCC ('3', 'I', 'V', '1'):
 985             caps =
 986                 gst_ff_vid_caps_new (context, NULL, codec_id, encode,
 987                 "video/x-3ivx", NULL);
 988             break;
 989           case GST_MAKE_FOURCC ('m', 'p', '4', 'v'):
 990           default:
 991             /* FIXME: bitrate */
 992             caps =
 993                 gst_ff_vid_caps_new (context, NULL, codec_id, encode,
 994                 "video/mpeg", "systemstream", G_TYPE_BOOLEAN, FALSE,
 995                 "mpegversion", G_TYPE_INT, 4, NULL);
 996             break;
 997         }
 998       } else {
 999         /* The trick here is to separate xvid, divx, mpeg4, 3ivx et al */
1000         caps =
1001             gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/mpeg",
1002             "mpegversion", G_TYPE_INT, 4, "systemstream", G_TYPE_BOOLEAN, FALSE,
1003             NULL);
1004         if (encode) {
1005           gst_caps_append (caps, gst_ff_vid_caps_new (context, NULL, codec_id,
1006                   encode, "video/x-divx", "divxversion", G_TYPE_INT, 5, NULL));
1007         } else {
1008           gst_caps_append (caps, gst_ff_vid_caps_new (context, NULL, codec_id,
1009                   encode, "video/x-divx", "divxversion", GST_TYPE_INT_RANGE, 4,
1010                   5, NULL));
1011           gst_caps_append (caps, gst_ff_vid_caps_new (context, NULL, codec_id,
1012                   encode, "video/x-xvid", NULL));
1013           gst_caps_append (caps, gst_ff_vid_caps_new (context, NULL, codec_id,
1014                   encode, "video/x-3ivx", NULL));
1015         }
1016       }
1017       break;
1018
1019     case AV_CODEC_ID_RAWVIDEO:
1020       caps =
1021           gst_ffmpeg_codectype_to_video_caps (context, codec_id, encode, NULL);
1022       break;
1023
1024     case AV_CODEC_ID_MSMPEG4V1:
1025     case AV_CODEC_ID_MSMPEG4V2:
1026     case AV_CODEC_ID_MSMPEG4V3:
1027     {
1028       gint version = 41 + codec_id - AV_CODEC_ID_MSMPEG4V1;
1029
1030       /* encode-FIXME: bitrate */
1031       caps =
1032           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1033           "video/x-msmpeg", "msmpegversion", G_TYPE_INT, version, NULL);
1034       if (!encode && codec_id == AV_CODEC_ID_MSMPEG4V3) {
1035         gst_caps_append (caps, gst_ff_vid_caps_new (context, NULL, codec_id,
1036                 encode, "video/x-divx", "divxversion", G_TYPE_INT, 3, NULL));
1037       }
1038     }
1039       break;
1040
1041     case AV_CODEC_ID_WMV1:
1042     case AV_CODEC_ID_WMV2:
1043     {
1044       gint version = (codec_id == AV_CODEC_ID_WMV1) ? 1 : 2;
1045
1046       caps =
1047           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-wmv",
1048           "wmvversion", G_TYPE_INT, version, NULL);
1049     }
1050       break;
1051
1052     case AV_CODEC_ID_FLV1:
1053       caps =
1054           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1055           "video/x-flash-video", "flvversion", G_TYPE_INT, 1, NULL);
1056       break;
1057
1058     case AV_CODEC_ID_SVQ1:
1059       caps =
1060           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-svq",
1061           "svqversion", G_TYPE_INT, 1, NULL);
1062       break;
1063
1064     case AV_CODEC_ID_SVQ3:
1065       caps =
1066           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-svq",
1067           "svqversion", G_TYPE_INT, 3, NULL);
1068       break;
1069
1070     case AV_CODEC_ID_DVAUDIO:
1071       caps =
1072           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-dv",
1073           NULL);
1074       break;
1075
1076     case AV_CODEC_ID_DVVIDEO:
1077     {
1078       if (encode && context) {
1079         const gchar *format;
1080
1081         switch (context->pix_fmt) {
1082           case PIX_FMT_YUYV422:
1083             format = "YUY2";
1084             break;
1085           case PIX_FMT_YUV420P:
1086             format = "I420";
1087             break;
1088           case PIX_FMT_YUVA420P:
1089             format = "A420";
1090             break;
1091           case PIX_FMT_YUV411P:
1092             format = "Y41B";
1093             break;
1094           case PIX_FMT_YUV422P:
1095             format = "Y42B";
1096             break;
1097           case PIX_FMT_YUV410P:
1098             format = "YUV9";
1099             break;
1100           default:
1101             GST_WARNING
1102                 ("Couldnt' find format for pixfmt %d, defaulting to I420",
1103                 context->pix_fmt);
1104             format = "I420";
1105             break;
1106         }
1107         caps =
1108             gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-dv",
1109             "systemstream", G_TYPE_BOOLEAN, FALSE, "format", G_TYPE_STRING,
1110             format, NULL);
1111       } else {
1112         caps =
1113             gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-dv",
1114             "systemstream", G_TYPE_BOOLEAN, FALSE, NULL);
1115       }
1116     }
1117       break;
1118
1119     case AV_CODEC_ID_WMAV1:
1120     case AV_CODEC_ID_WMAV2:
1121     {
1122       gint version = (codec_id == AV_CODEC_ID_WMAV1) ? 1 : 2;
1123
1124       if (context) {
1125         caps =
1126             gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-wma",
1127             "wmaversion", G_TYPE_INT, version, "block_align", G_TYPE_INT,
1128             context->block_align, "bitrate", G_TYPE_INT, context->bit_rate,
1129             NULL);
1130       } else {
1131         caps =
1132             gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-wma",
1133             "wmaversion", G_TYPE_INT, version, "block_align",
1134             GST_TYPE_INT_RANGE, 0, G_MAXINT, "bitrate", GST_TYPE_INT_RANGE, 0,
1135             G_MAXINT, NULL);
1136       }
1137     }
1138       break;
1139     case AV_CODEC_ID_WMAPRO:
1140     {
1141       caps =
1142           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-wma",
1143           "wmaversion", G_TYPE_INT, 3, NULL);
1144       break;
1145     }
1146     case AV_CODEC_ID_WMALOSSLESS:
1147     {
1148       /* libav only supports a depth of 16 at the moment */
1149       caps =
1150           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-wma",
1151           "wmaversion", G_TYPE_INT, 4, "depth", G_TYPE_INT, 16, NULL);
1152       break;
1153     }
1154     case AV_CODEC_ID_WMAVOICE:
1155     {
1156       caps =
1157           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-wms",
1158           NULL);
1159       break;
1160     }
1161
1162     case AV_CODEC_ID_MACE3:
1163     case AV_CODEC_ID_MACE6:
1164     {
1165       gint version = (codec_id == AV_CODEC_ID_MACE3) ? 3 : 6;
1166
1167       caps =
1168           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-mace",
1169           "maceversion", G_TYPE_INT, version, NULL);
1170     }
1171       break;
1172
1173     case AV_CODEC_ID_HUFFYUV:
1174       caps =
1175           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1176           "video/x-huffyuv", NULL);
1177       if (context) {
1178         gst_caps_set_simple (caps,
1179             "bpp", G_TYPE_INT, context->bits_per_coded_sample, NULL);
1180       }
1181       break;
1182
1183     case AV_CODEC_ID_CYUV:
1184       caps =
1185           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1186           "video/x-compressed-yuv", NULL);
1187       break;
1188
1189     case AV_CODEC_ID_H264:
1190       caps =
1191           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-h264",
1192           "alignment", G_TYPE_STRING, "au", NULL);
1193       if (!encode) {
1194         GValue arr = { 0, };
1195         GValue item = { 0, };
1196         g_value_init (&arr, GST_TYPE_LIST);
1197         g_value_init (&item, G_TYPE_STRING);
1198         g_value_set_string (&item, "avc");
1199         gst_value_list_append_value (&arr, &item);
1200         g_value_set_string (&item, "byte-stream");
1201         gst_value_list_append_value (&arr, &item);
1202         g_value_unset (&item);
1203         gst_caps_set_value (caps, "stream-format", &arr);
1204         g_value_unset (&arr);
1205       }
1206       break;
1207
1208     case AV_CODEC_ID_HEVC:
1209       caps =
1210           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-h265",
1211           "alignment", G_TYPE_STRING, "au", NULL);
1212       if (!encode) {
1213         GValue arr = { 0, };
1214         GValue item = { 0, };
1215         g_value_init (&arr, GST_TYPE_LIST);
1216         g_value_init (&item, G_TYPE_STRING);
1217         g_value_set_string (&item, "hvc1");
1218         gst_value_list_append_value (&arr, &item);
1219         g_value_set_string (&item, "hev1");
1220         gst_value_list_append_value (&arr, &item);
1221         g_value_set_string (&item, "byte-stream");
1222         gst_value_list_append_value (&arr, &item);
1223         g_value_unset (&item);
1224         gst_caps_set_value (caps, "stream-format", &arr);
1225         g_value_unset (&arr);
1226       }
1227       break;
1228
1229     case AV_CODEC_ID_INDEO5:
1230       caps =
1231           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-indeo",
1232           "indeoversion", G_TYPE_INT, 5, NULL);
1233       break;
1234
1235     case AV_CODEC_ID_INDEO4:
1236       caps =
1237           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-indeo",
1238           "indeoversion", G_TYPE_INT, 4, NULL);
1239       break;
1240
1241     case AV_CODEC_ID_INDEO3:
1242       caps =
1243           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-indeo",
1244           "indeoversion", G_TYPE_INT, 3, NULL);
1245       break;
1246
1247     case AV_CODEC_ID_INDEO2:
1248       caps =
1249           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-indeo",
1250           "indeoversion", G_TYPE_INT, 2, NULL);
1251       break;
1252
1253     case AV_CODEC_ID_FLASHSV:
1254       caps =
1255           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1256           "video/x-flash-screen", NULL);
1257       break;
1258
1259     case AV_CODEC_ID_VP3:
1260       caps =
1261           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-vp3",
1262           NULL);
1263       break;
1264
1265     case AV_CODEC_ID_VP5:
1266       caps =
1267           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-vp5",
1268           NULL);
1269       break;
1270
1271     case AV_CODEC_ID_VP6:
1272       caps =
1273           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-vp6",
1274           NULL);
1275       break;
1276
1277     case AV_CODEC_ID_VP6F:
1278       caps =
1279           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1280           "video/x-vp6-flash", NULL);
1281       break;
1282
1283     case AV_CODEC_ID_VP6A:
1284       caps =
1285           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1286           "video/x-vp6-alpha", NULL);
1287       break;
1288
1289     case AV_CODEC_ID_VP8:
1290       caps =
1291           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-vp8",
1292           NULL);
1293       break;
1294
1295     case AV_CODEC_ID_THEORA:
1296       caps =
1297           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1298           "video/x-theora", NULL);
1299       break;
1300
1301     case AV_CODEC_ID_AAC:
1302     {
1303       caps =
1304           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/mpeg",
1305           NULL);
1306
1307       if (!encode) {
1308         GValue arr = { 0, };
1309         GValue item = { 0, };
1310
1311         g_value_init (&arr, GST_TYPE_LIST);
1312         g_value_init (&item, G_TYPE_INT);
1313         g_value_set_int (&item, 2);
1314         gst_value_list_append_value (&arr, &item);
1315         g_value_set_int (&item, 4);
1316         gst_value_list_append_value (&arr, &item);
1317         g_value_unset (&item);
1318
1319         gst_caps_set_value (caps, "mpegversion", &arr);
1320         g_value_unset (&arr);
1321
1322         g_value_init (&arr, GST_TYPE_LIST);
1323         g_value_init (&item, G_TYPE_STRING);
1324         g_value_set_string (&item, "raw");
1325         gst_value_list_append_value (&arr, &item);
1326         g_value_set_string (&item, "adts");
1327         gst_value_list_append_value (&arr, &item);
1328         g_value_set_string (&item, "adif");
1329         gst_value_list_append_value (&arr, &item);
1330         g_value_unset (&item);
1331
1332         gst_caps_set_value (caps, "stream-format", &arr);
1333         g_value_unset (&arr);
1334       } else {
1335         gst_caps_set_simple (caps, "mpegversion", G_TYPE_INT, 4,
1336             "stream-format", G_TYPE_STRING, "raw",
1337             "base-profile", G_TYPE_STRING, "lc", NULL);
1338
1339         if (context && context->extradata_size > 0)
1340           gst_codec_utils_aac_caps_set_level_and_profile (caps,
1341               context->extradata, context->extradata_size);
1342       }
1343
1344       break;
1345     }
1346     case AV_CODEC_ID_AAC_LATM: /* LATM/LOAS AAC syntax */
1347       caps = gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/mpeg",
1348           "mpegversion", G_TYPE_INT, 4, "stream-format", G_TYPE_STRING, "loas",
1349           NULL);
1350       break;
1351
1352     case AV_CODEC_ID_ASV1:
1353       caps =
1354           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-asus",
1355           "asusversion", G_TYPE_INT, 1, NULL);
1356       break;
1357     case AV_CODEC_ID_ASV2:
1358       caps =
1359           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-asus",
1360           "asusversion", G_TYPE_INT, 2, NULL);
1361       break;
1362
1363     case AV_CODEC_ID_FFV1:
1364       caps =
1365           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-ffv",
1366           "ffvversion", G_TYPE_INT, 1, NULL);
1367       break;
1368
1369     case AV_CODEC_ID_4XM:
1370       caps =
1371           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-4xm",
1372           NULL);
1373       break;
1374
1375     case AV_CODEC_ID_XAN_WC3:
1376     case AV_CODEC_ID_XAN_WC4:
1377       caps =
1378           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-xan",
1379           "wcversion", G_TYPE_INT, 3 - AV_CODEC_ID_XAN_WC3 + codec_id, NULL);
1380       break;
1381
1382     case AV_CODEC_ID_CLJR:
1383       caps =
1384           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1385           "video/x-cirrus-logic-accupak", NULL);
1386       break;
1387
1388     case AV_CODEC_ID_FRAPS:
1389       caps =
1390           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-fraps",
1391           NULL);
1392       break;
1393
1394     case AV_CODEC_ID_MDEC:
1395     case AV_CODEC_ID_ROQ:
1396     case AV_CODEC_ID_INTERPLAY_VIDEO:
1397       buildcaps = TRUE;
1398       break;
1399
1400     case AV_CODEC_ID_VCR1:
1401       caps =
1402           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1403           "video/x-ati-vcr", "vcrversion", G_TYPE_INT, 1, NULL);
1404       break;
1405
1406     case AV_CODEC_ID_RPZA:
1407       caps =
1408           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1409           "video/x-apple-video", NULL);
1410       break;
1411
1412     case AV_CODEC_ID_CINEPAK:
1413       caps =
1414           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1415           "video/x-cinepak", NULL);
1416       break;
1417
1418       /* WS_VQA belogns here (order) */
1419
1420     case AV_CODEC_ID_MSRLE:
1421       caps =
1422           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-rle",
1423           "layout", G_TYPE_STRING, "microsoft", NULL);
1424       if (context) {
1425         gst_caps_set_simple (caps,
1426             "depth", G_TYPE_INT, (gint) context->bits_per_coded_sample, NULL);
1427       } else {
1428         gst_caps_set_simple (caps, "depth", GST_TYPE_INT_RANGE, 1, 64, NULL);
1429       }
1430       break;
1431
1432     case AV_CODEC_ID_QTRLE:
1433       caps =
1434           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-rle",
1435           "layout", G_TYPE_STRING, "quicktime", NULL);
1436       if (context) {
1437         gst_caps_set_simple (caps,
1438             "depth", G_TYPE_INT, (gint) context->bits_per_coded_sample, NULL);
1439       } else {
1440         gst_caps_set_simple (caps, "depth", GST_TYPE_INT_RANGE, 1, 64, NULL);
1441       }
1442       break;
1443
1444     case AV_CODEC_ID_MSVIDEO1:
1445       caps =
1446           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1447           "video/x-msvideocodec", "msvideoversion", G_TYPE_INT, 1, NULL);
1448       break;
1449
1450     case AV_CODEC_ID_MSS1:
1451       caps =
1452           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-wmv",
1453           "wmvversion", G_TYPE_INT, 1, "format", G_TYPE_STRING, "MSS1", NULL);
1454       break;
1455
1456     case AV_CODEC_ID_MSS2:
1457       caps =
1458           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-wmv",
1459           "wmvversion", G_TYPE_INT, 3, "format", G_TYPE_STRING, "MSS2", NULL);
1460       break;
1461
1462     case AV_CODEC_ID_WMV3:
1463       caps =
1464           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-wmv",
1465           "wmvversion", G_TYPE_INT, 3, "format", G_TYPE_STRING, "WMV3", NULL);
1466       break;
1467     case AV_CODEC_ID_VC1:
1468       caps =
1469           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-wmv",
1470           "wmvversion", G_TYPE_INT, 3, NULL);
1471       if (!context && !encode) {
1472         GValue arr = { 0, };
1473         GValue item = { 0, };
1474
1475         g_value_init (&arr, GST_TYPE_LIST);
1476         g_value_init (&item, G_TYPE_STRING);
1477         g_value_set_string (&item, "WVC1");
1478         gst_value_list_append_value (&arr, &item);
1479         g_value_set_string (&item, "WMVA");
1480         gst_value_list_append_and_take_value (&arr, &item);
1481         gst_caps_set_value (caps, "format", &arr);
1482         g_value_unset (&arr);
1483       } else {
1484         gst_caps_set_simple (caps, "format", G_TYPE_STRING, "WVC1", NULL);
1485       }
1486       break;
1487     case AV_CODEC_ID_QDM2:
1488       caps =
1489           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-qdm2",
1490           NULL);
1491       break;
1492
1493     case AV_CODEC_ID_MSZH:
1494       caps =
1495           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-mszh",
1496           NULL);
1497       break;
1498
1499     case AV_CODEC_ID_ZLIB:
1500       caps =
1501           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-zlib",
1502           NULL);
1503       break;
1504
1505     case AV_CODEC_ID_TRUEMOTION1:
1506       caps =
1507           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1508           "video/x-truemotion", "trueversion", G_TYPE_INT, 1, NULL);
1509       break;
1510     case AV_CODEC_ID_TRUEMOTION2:
1511       caps =
1512           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1513           "video/x-truemotion", "trueversion", G_TYPE_INT, 2, NULL);
1514       break;
1515
1516     case AV_CODEC_ID_ULTI:
1517       caps =
1518           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1519           "video/x-ultimotion", NULL);
1520       break;
1521
1522     case AV_CODEC_ID_TSCC:
1523       caps =
1524           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1525           "video/x-camtasia", NULL);
1526       if (context) {
1527         gst_caps_set_simple (caps,
1528             "depth", G_TYPE_INT, (gint) context->bits_per_coded_sample, NULL);
1529       } else {
1530         gst_caps_set_simple (caps, "depth", GST_TYPE_INT_RANGE, 8, 32, NULL);
1531       }
1532       break;
1533
1534     case AV_CODEC_ID_TSCC2:
1535       caps =
1536           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1537           "video/x-tscc", "tsccversion", G_TYPE_INT, 2, NULL);
1538       break;
1539
1540     case AV_CODEC_ID_KMVC:
1541       caps =
1542           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-kmvc",
1543           NULL);
1544       break;
1545
1546     case AV_CODEC_ID_NUV:
1547       caps =
1548           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-nuv",
1549           NULL);
1550       break;
1551
1552     case AV_CODEC_ID_GIF:
1553       caps =
1554           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "image/gif",
1555           NULL);
1556       break;
1557
1558     case AV_CODEC_ID_PNG:
1559       caps =
1560           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "image/png",
1561           NULL);
1562       break;
1563
1564     case AV_CODEC_ID_PPM:
1565       caps =
1566           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "image/ppm",
1567           NULL);
1568       break;
1569
1570     case AV_CODEC_ID_PBM:
1571       caps =
1572           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "image/pbm",
1573           NULL);
1574       break;
1575
1576     case AV_CODEC_ID_PAM:
1577       caps =
1578           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1579           "image/x-portable-anymap", NULL);
1580       break;
1581
1582     case AV_CODEC_ID_PGM:
1583       caps =
1584           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1585           "image/x-portable-graymap", NULL);
1586       break;
1587
1588     case AV_CODEC_ID_PCX:
1589       caps =
1590           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "image/x-pcx",
1591           NULL);
1592       break;
1593
1594     case AV_CODEC_ID_SGI:
1595       caps =
1596           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "image/x-sgi",
1597           NULL);
1598       break;
1599
1600     case AV_CODEC_ID_TARGA:
1601       caps =
1602           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "image/x-tga",
1603           NULL);
1604       break;
1605
1606     case AV_CODEC_ID_TIFF:
1607       caps =
1608           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "image/tiff",
1609           NULL);
1610       break;
1611
1612     case AV_CODEC_ID_SUNRAST:
1613       caps =
1614           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1615           "image/x-sun-raster", NULL);
1616       break;
1617
1618     case AV_CODEC_ID_SMC:
1619       caps =
1620           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-smc",
1621           NULL);
1622       break;
1623
1624     case AV_CODEC_ID_QDRAW:
1625       caps =
1626           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-qdrw",
1627           NULL);
1628       break;
1629
1630     case AV_CODEC_ID_DNXHD:
1631       caps =
1632           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-dnxhd",
1633           NULL);
1634       break;
1635
1636     case AV_CODEC_ID_PRORES:
1637       caps =
1638           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1639           "video/x-prores", NULL);
1640       break;
1641
1642     case AV_CODEC_ID_MIMIC:
1643       caps =
1644           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-mimic",
1645           NULL);
1646       break;
1647
1648     case AV_CODEC_ID_VMNC:
1649       caps =
1650           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-vmnc",
1651           NULL);
1652       break;
1653
1654     case AV_CODEC_ID_TRUESPEECH:
1655       caps =
1656           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
1657           "audio/x-truespeech", NULL);
1658       break;
1659
1660     case AV_CODEC_ID_QCELP:
1661       caps =
1662           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/qcelp",
1663           NULL);
1664       break;
1665
1666     case AV_CODEC_ID_AMV:
1667       caps =
1668           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-amv",
1669           NULL);
1670       break;
1671
1672     case AV_CODEC_ID_AASC:
1673       caps =
1674           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-aasc",
1675           NULL);
1676       break;
1677
1678     case AV_CODEC_ID_LOCO:
1679       caps =
1680           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-loco",
1681           NULL);
1682       break;
1683
1684     case AV_CODEC_ID_ZMBV:
1685       caps =
1686           gst_ff_vid_caps_new (context, NULL, codec_id, encode, "video/x-zmbv",
1687           NULL);
1688       break;
1689
1690     case AV_CODEC_ID_LAGARITH:
1691       caps =
1692           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1693           "video/x-lagarith", NULL);
1694       break;
1695
1696     case AV_CODEC_ID_CSCD:
1697       caps =
1698           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1699           "video/x-camstudio", NULL);
1700       if (context) {
1701         gst_caps_set_simple (caps,
1702             "depth", G_TYPE_INT, (gint) context->bits_per_coded_sample, NULL);
1703       } else {
1704         gst_caps_set_simple (caps, "depth", GST_TYPE_INT_RANGE, 8, 32, NULL);
1705       }
1706       break;
1707
1708     case AV_CODEC_ID_AIC:
1709       caps =
1710           gst_ff_vid_caps_new (context, NULL, codec_id, encode,
1711           "video/x-apple-intermediate-codec", NULL);
1712       break;
1713
1714     case AV_CODEC_ID_WS_VQA:
1715     case AV_CODEC_ID_IDCIN:
1716     case AV_CODEC_ID_8BPS:
1717     case AV_CODEC_ID_FLIC:
1718     case AV_CODEC_ID_VMDVIDEO:
1719     case AV_CODEC_ID_VMDAUDIO:
1720     case AV_CODEC_ID_VIXL:
1721     case AV_CODEC_ID_QPEG:
1722     case AV_CODEC_ID_PGMYUV:
1723     case AV_CODEC_ID_FFVHUFF:
1724     case AV_CODEC_ID_WNV1:
1725     case AV_CODEC_ID_MP3ADU:
1726     case AV_CODEC_ID_MP3ON4:
1727     case AV_CODEC_ID_WESTWOOD_SND1:
1728     case AV_CODEC_ID_MMVIDEO:
1729     case AV_CODEC_ID_AVS:
1730     case AV_CODEC_ID_CAVS:
1731       buildcaps = TRUE;
1732       break;
1733
1734       /* weird quasi-codecs for the demuxers only */
1735     case AV_CODEC_ID_PCM_S16LE:
1736     case AV_CODEC_ID_PCM_S16BE:
1737     case AV_CODEC_ID_PCM_U16LE:
1738     case AV_CODEC_ID_PCM_U16BE:
1739     case AV_CODEC_ID_PCM_S8:
1740     case AV_CODEC_ID_PCM_U8:
1741     {
1742       GstAudioFormat format;
1743
1744       switch (codec_id) {
1745         case AV_CODEC_ID_PCM_S16LE:
1746           format = GST_AUDIO_FORMAT_S16LE;
1747           break;
1748         case AV_CODEC_ID_PCM_S16BE:
1749           format = GST_AUDIO_FORMAT_S16BE;
1750           break;
1751         case AV_CODEC_ID_PCM_U16LE:
1752           format = GST_AUDIO_FORMAT_U16LE;
1753           break;
1754         case AV_CODEC_ID_PCM_U16BE:
1755           format = GST_AUDIO_FORMAT_U16BE;
1756           break;
1757         case AV_CODEC_ID_PCM_S8:
1758           format = GST_AUDIO_FORMAT_S8;
1759           break;
1760         case AV_CODEC_ID_PCM_U8:
1761           format = GST_AUDIO_FORMAT_U8;
1762           break;
1763         default:
1764           format = 0;
1765           g_assert (0);         /* don't worry, we never get here */
1766           break;
1767       }
1768
1769       caps =
1770           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-raw",
1771           "format", G_TYPE_STRING, gst_audio_format_to_string (format),
1772           "layout", G_TYPE_STRING, "interleaved", NULL);
1773     }
1774       break;
1775
1776     case AV_CODEC_ID_PCM_MULAW:
1777       caps =
1778           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-mulaw",
1779           NULL);
1780       break;
1781
1782     case AV_CODEC_ID_PCM_ALAW:
1783       caps =
1784           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-alaw",
1785           NULL);
1786       break;
1787
1788     case AV_CODEC_ID_ADPCM_G722:
1789       caps =
1790           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/G722",
1791           NULL);
1792       if (context)
1793         gst_caps_set_simple (caps,
1794             "block_align", G_TYPE_INT, context->block_align,
1795             "bitrate", G_TYPE_INT, context->bit_rate, NULL);
1796       break;
1797
1798     case AV_CODEC_ID_ADPCM_G726:
1799     {
1800       /* the G726 decoder can also handle G721 */
1801       caps =
1802           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-adpcm",
1803           "layout", G_TYPE_STRING, "g726", NULL);
1804       if (context)
1805         gst_caps_set_simple (caps,
1806             "block_align", G_TYPE_INT, context->block_align,
1807             "bitrate", G_TYPE_INT, context->bit_rate, NULL);
1808
1809       if (!encode) {
1810         gst_caps_append (caps, gst_caps_new_simple ("audio/x-adpcm",
1811                 "layout", G_TYPE_STRING, "g721",
1812                 "channels", G_TYPE_INT, 1, "rate", G_TYPE_INT, 8000, NULL));
1813       }
1814       break;
1815     }
1816     case AV_CODEC_ID_ADPCM_IMA_QT:
1817     case AV_CODEC_ID_ADPCM_IMA_WAV:
1818     case AV_CODEC_ID_ADPCM_IMA_DK3:
1819     case AV_CODEC_ID_ADPCM_IMA_DK4:
1820     case AV_CODEC_ID_ADPCM_IMA_WS:
1821     case AV_CODEC_ID_ADPCM_IMA_SMJPEG:
1822     case AV_CODEC_ID_ADPCM_IMA_AMV:
1823     case AV_CODEC_ID_ADPCM_IMA_ISS:
1824     case AV_CODEC_ID_ADPCM_IMA_EA_EACS:
1825     case AV_CODEC_ID_ADPCM_IMA_EA_SEAD:
1826     case AV_CODEC_ID_ADPCM_MS:
1827     case AV_CODEC_ID_ADPCM_4XM:
1828     case AV_CODEC_ID_ADPCM_XA:
1829     case AV_CODEC_ID_ADPCM_ADX:
1830     case AV_CODEC_ID_ADPCM_EA:
1831     case AV_CODEC_ID_ADPCM_CT:
1832     case AV_CODEC_ID_ADPCM_SWF:
1833     case AV_CODEC_ID_ADPCM_YAMAHA:
1834     case AV_CODEC_ID_ADPCM_SBPRO_2:
1835     case AV_CODEC_ID_ADPCM_SBPRO_3:
1836     case AV_CODEC_ID_ADPCM_SBPRO_4:
1837     case AV_CODEC_ID_ADPCM_EA_R1:
1838     case AV_CODEC_ID_ADPCM_EA_R2:
1839     case AV_CODEC_ID_ADPCM_EA_R3:
1840     case AV_CODEC_ID_ADPCM_EA_MAXIS_XA:
1841     case AV_CODEC_ID_ADPCM_EA_XAS:
1842     case AV_CODEC_ID_ADPCM_THP:
1843     {
1844       const gchar *layout = NULL;
1845
1846       switch (codec_id) {
1847         case AV_CODEC_ID_ADPCM_IMA_QT:
1848           layout = "quicktime";
1849           break;
1850         case AV_CODEC_ID_ADPCM_IMA_WAV:
1851           layout = "dvi";
1852           break;
1853         case AV_CODEC_ID_ADPCM_IMA_DK3:
1854           layout = "dk3";
1855           break;
1856         case AV_CODEC_ID_ADPCM_IMA_DK4:
1857           layout = "dk4";
1858           break;
1859         case AV_CODEC_ID_ADPCM_IMA_WS:
1860           layout = "westwood";
1861           break;
1862         case AV_CODEC_ID_ADPCM_IMA_SMJPEG:
1863           layout = "smjpeg";
1864           break;
1865         case AV_CODEC_ID_ADPCM_IMA_AMV:
1866           layout = "amv";
1867           break;
1868         case AV_CODEC_ID_ADPCM_IMA_ISS:
1869           layout = "iss";
1870           break;
1871         case AV_CODEC_ID_ADPCM_IMA_EA_EACS:
1872           layout = "ea-eacs";
1873           break;
1874         case AV_CODEC_ID_ADPCM_IMA_EA_SEAD:
1875           layout = "ea-sead";
1876           break;
1877         case AV_CODEC_ID_ADPCM_MS:
1878           layout = "microsoft";
1879           break;
1880         case AV_CODEC_ID_ADPCM_4XM:
1881           layout = "4xm";
1882           break;
1883         case AV_CODEC_ID_ADPCM_XA:
1884           layout = "xa";
1885           break;
1886         case AV_CODEC_ID_ADPCM_ADX:
1887           layout = "adx";
1888           break;
1889         case AV_CODEC_ID_ADPCM_EA:
1890           layout = "ea";
1891           break;
1892         case AV_CODEC_ID_ADPCM_CT:
1893           layout = "ct";
1894           break;
1895         case AV_CODEC_ID_ADPCM_SWF:
1896           layout = "swf";
1897           break;
1898         case AV_CODEC_ID_ADPCM_YAMAHA:
1899           layout = "yamaha";
1900           break;
1901         case AV_CODEC_ID_ADPCM_SBPRO_2:
1902           layout = "sbpro2";
1903           break;
1904         case AV_CODEC_ID_ADPCM_SBPRO_3:
1905           layout = "sbpro3";
1906           break;
1907         case AV_CODEC_ID_ADPCM_SBPRO_4:
1908           layout = "sbpro4";
1909           break;
1910         case AV_CODEC_ID_ADPCM_EA_R1:
1911           layout = "ea-r1";
1912           break;
1913         case AV_CODEC_ID_ADPCM_EA_R2:
1914           layout = "ea-r3";
1915           break;
1916         case AV_CODEC_ID_ADPCM_EA_R3:
1917           layout = "ea-r3";
1918           break;
1919         case AV_CODEC_ID_ADPCM_EA_MAXIS_XA:
1920           layout = "ea-maxis-xa";
1921           break;
1922         case AV_CODEC_ID_ADPCM_EA_XAS:
1923           layout = "ea-xas";
1924           break;
1925         case AV_CODEC_ID_ADPCM_THP:
1926           layout = "thp";
1927           break;
1928         default:
1929           g_assert (0);         /* don't worry, we never get here */
1930           break;
1931       }
1932
1933       /* FIXME: someone please check whether we need additional properties
1934        * in this caps definition. */
1935       caps =
1936           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-adpcm",
1937           "layout", G_TYPE_STRING, layout, NULL);
1938       if (context)
1939         gst_caps_set_simple (caps,
1940             "block_align", G_TYPE_INT, context->block_align,
1941             "bitrate", G_TYPE_INT, context->bit_rate, NULL);
1942     }
1943       break;
1944
1945     case AV_CODEC_ID_AMR_NB:
1946       caps =
1947           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/AMR",
1948           NULL);
1949       break;
1950
1951     case AV_CODEC_ID_AMR_WB:
1952       caps =
1953           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/AMR-WB",
1954           NULL);
1955       break;
1956
1957     case AV_CODEC_ID_GSM:
1958       caps =
1959           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-gsm",
1960           NULL);
1961       break;
1962
1963     case AV_CODEC_ID_GSM_MS:
1964       caps =
1965           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/ms-gsm",
1966           NULL);
1967       break;
1968
1969     case AV_CODEC_ID_NELLYMOSER:
1970       caps =
1971           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
1972           "audio/x-nellymoser", NULL);
1973       break;
1974
1975     case AV_CODEC_ID_SIPR:
1976     {
1977       caps =
1978           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-sipro",
1979           NULL);
1980       if (context) {
1981         gst_caps_set_simple (caps,
1982             "leaf_size", G_TYPE_INT, context->block_align,
1983             "bitrate", G_TYPE_INT, context->bit_rate, NULL);
1984       }
1985     }
1986       break;
1987
1988     case AV_CODEC_ID_RA_144:
1989     case AV_CODEC_ID_RA_288:
1990     case AV_CODEC_ID_COOK:
1991     {
1992       gint version = 0;
1993
1994       switch (codec_id) {
1995         case AV_CODEC_ID_RA_144:
1996           version = 1;
1997           break;
1998         case AV_CODEC_ID_RA_288:
1999           version = 2;
2000           break;
2001         case AV_CODEC_ID_COOK:
2002           version = 8;
2003           break;
2004         default:
2005           break;
2006       }
2007
2008       /* FIXME: properties? */
2009       caps =
2010           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
2011           "audio/x-pn-realaudio", "raversion", G_TYPE_INT, version, NULL);
2012       if (context) {
2013         gst_caps_set_simple (caps,
2014             "leaf_size", G_TYPE_INT, context->block_align,
2015             "bitrate", G_TYPE_INT, context->bit_rate, NULL);
2016       }
2017     }
2018       break;
2019
2020     case AV_CODEC_ID_ROQ_DPCM:
2021     case AV_CODEC_ID_INTERPLAY_DPCM:
2022     case AV_CODEC_ID_XAN_DPCM:
2023     case AV_CODEC_ID_SOL_DPCM:
2024     {
2025       const gchar *layout = NULL;
2026
2027       switch (codec_id) {
2028         case AV_CODEC_ID_ROQ_DPCM:
2029           layout = "roq";
2030           break;
2031         case AV_CODEC_ID_INTERPLAY_DPCM:
2032           layout = "interplay";
2033           break;
2034         case AV_CODEC_ID_XAN_DPCM:
2035           layout = "xan";
2036           break;
2037         case AV_CODEC_ID_SOL_DPCM:
2038           layout = "sol";
2039           break;
2040         default:
2041           g_assert (0);         /* don't worry, we never get here */
2042           break;
2043       }
2044
2045       /* FIXME: someone please check whether we need additional properties
2046        * in this caps definition. */
2047       caps =
2048           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-dpcm",
2049           "layout", G_TYPE_STRING, layout, NULL);
2050       if (context)
2051         gst_caps_set_simple (caps,
2052             "block_align", G_TYPE_INT, context->block_align,
2053             "bitrate", G_TYPE_INT, context->bit_rate, NULL);
2054     }
2055       break;
2056
2057     case AV_CODEC_ID_SHORTEN:
2058       caps = gst_caps_new_empty_simple ("audio/x-shorten");
2059       break;
2060
2061     case AV_CODEC_ID_ALAC:
2062       caps =
2063           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-alac",
2064           NULL);
2065       if (context) {
2066         gst_caps_set_simple (caps,
2067             "samplesize", G_TYPE_INT, context->bits_per_coded_sample, NULL);
2068       }
2069       break;
2070
2071     case AV_CODEC_ID_FLAC:
2072       /* Note that ffmpeg has no encoder yet, but just for safety. In the
2073        * encoder case, we want to add things like samplerate, channels... */
2074       if (!encode) {
2075         caps = gst_caps_new_empty_simple ("audio/x-flac");
2076       }
2077       break;
2078
2079     case AV_CODEC_ID_S302M:
2080       caps = gst_caps_new_empty_simple ("audio/x-smpte-302m");
2081       break;
2082
2083     case AV_CODEC_ID_DVD_SUBTITLE:
2084     case AV_CODEC_ID_DVB_SUBTITLE:
2085       caps = NULL;
2086       break;
2087     case AV_CODEC_ID_BMP:
2088       caps = gst_caps_new_empty_simple ("image/bmp");
2089       break;
2090     case AV_CODEC_ID_TTA:
2091       caps =
2092           gst_ff_aud_caps_new (context, NULL, codec_id, encode, "audio/x-tta",
2093           NULL);
2094       if (context) {
2095         gst_caps_set_simple (caps,
2096             "samplesize", G_TYPE_INT, context->bits_per_coded_sample, NULL);
2097       }
2098       break;
2099     case AV_CODEC_ID_TWINVQ:
2100       caps =
2101           gst_ff_aud_caps_new (context, NULL, codec_id, encode,
2102           "audio/x-twin-vq", NULL);
2103       break;
2104     default:
2105       GST_DEBUG ("Unknown codec ID %d, please add mapping here", codec_id);
2106       break;
2107   }
2108
2109   if (buildcaps) {
2110     AVCodec *codec;
2111
2112     if ((codec = avcodec_find_decoder (codec_id)) ||
2113         (codec = avcodec_find_encoder (codec_id))) {
2114       gchar *mime = NULL;
2115
2116       GST_LOG ("Could not create stream format caps for %s", codec->name);
2117
2118       switch (codec->type) {
2119         case AVMEDIA_TYPE_VIDEO:
2120           mime = g_strdup_printf ("video/x-gst-av-%s", codec->name);
2121           caps =
2122               gst_ff_vid_caps_new (context, NULL, codec_id, encode, mime, NULL);
2123           g_free (mime);
2124           break;
2125         case AVMEDIA_TYPE_AUDIO:
2126           mime = g_strdup_printf ("audio/x-gst-av-%s", codec->name);
2127           caps =
2128               gst_ff_aud_caps_new (context, NULL, codec_id, encode, mime, NULL);
2129           if (context)
2130             gst_caps_set_simple (caps,
2131                 "block_align", G_TYPE_INT, context->block_align,
2132                 "bitrate", G_TYPE_INT, context->bit_rate, NULL);
2133           g_free (mime);
2134           break;
2135         default:
2136           break;
2137       }
2138     }
2139   }
2140
2141   if (caps != NULL) {
2142
2143     /* set private data */
2144     if (context && context->extradata_size > 0) {
2145       GstBuffer *data = gst_buffer_new_and_alloc (context->extradata_size);
2146
2147       gst_buffer_fill (data, 0, context->extradata, context->extradata_size);
2148       gst_caps_set_simple (caps, "codec_data", GST_TYPE_BUFFER, data, NULL);
2149       gst_buffer_unref (data);
2150     }
2151
2152     GST_LOG ("caps for codec_id=%d: %" GST_PTR_FORMAT, codec_id, caps);
2153
2154   } else {
2155     GST_LOG ("No caps found for codec_id=%d", codec_id);
2156   }
2157
2158   return caps;
2159 }
2160
2161 /* Convert a FFMPEG Pixel Format and optional AVCodecContext
2162  * to a GstCaps. If the context is ommitted, no fixed values
2163  * for video/audio size will be included in the GstCaps
2164  *
2165  * See below for usefullness
2166  */
2167
2168 static GstCaps *
2169 gst_ffmpeg_pixfmt_to_caps (enum PixelFormat pix_fmt, AVCodecContext * context,
2170     enum AVCodecID codec_id)
2171 {
2172   GstCaps *caps = NULL;
2173   GstVideoFormat format;
2174
2175   format = gst_ffmpeg_pixfmt_to_videoformat (pix_fmt);
2176
2177   if (format != GST_VIDEO_FORMAT_UNKNOWN) {
2178     caps = gst_ff_vid_caps_new (context, NULL, codec_id, TRUE, "video/x-raw",
2179         "format", G_TYPE_STRING, gst_video_format_to_string (format), NULL);
2180   }
2181
2182   if (caps != NULL) {
2183     GST_DEBUG ("caps for pix_fmt=%d: %" GST_PTR_FORMAT, pix_fmt, caps);
2184   } else {
2185     GST_LOG ("No caps found for pix_fmt=%d", pix_fmt);
2186   }
2187
2188   return caps;
2189 }
2190
2191 GstAudioFormat
2192 gst_ffmpeg_smpfmt_to_audioformat (enum AVSampleFormat sample_fmt)
2193 {
2194   switch (sample_fmt) {
2195     case AV_SAMPLE_FMT_U8:
2196     case AV_SAMPLE_FMT_U8P:
2197       return GST_AUDIO_FORMAT_U8;
2198       break;
2199     case AV_SAMPLE_FMT_S16:
2200     case AV_SAMPLE_FMT_S16P:
2201       return GST_AUDIO_FORMAT_S16;
2202       break;
2203     case AV_SAMPLE_FMT_S32:
2204     case AV_SAMPLE_FMT_S32P:
2205       return GST_AUDIO_FORMAT_S32;
2206       break;
2207     case AV_SAMPLE_FMT_FLT:
2208     case AV_SAMPLE_FMT_FLTP:
2209       return GST_AUDIO_FORMAT_F32;
2210       break;
2211     case AV_SAMPLE_FMT_DBL:
2212     case AV_SAMPLE_FMT_DBLP:
2213       return GST_AUDIO_FORMAT_F64;
2214       break;
2215     default:
2216       /* .. */
2217       return GST_AUDIO_FORMAT_UNKNOWN;
2218       break;
2219   }
2220 }
2221
2222 /* Convert a FFMPEG Sample Format and optional AVCodecContext
2223  * to a GstCaps. If the context is ommitted, no fixed values
2224  * for video/audio size will be included in the GstCaps
2225  *
2226  * See below for usefullness
2227  */
2228
2229 static GstCaps *
2230 gst_ffmpeg_smpfmt_to_caps (enum AVSampleFormat sample_fmt,
2231     AVCodecContext * context, AVCodec * codec, enum AVCodecID codec_id)
2232 {
2233   GstCaps *caps = NULL;
2234   GstAudioFormat format;
2235
2236   format = gst_ffmpeg_smpfmt_to_audioformat (sample_fmt);
2237
2238   if (format != GST_AUDIO_FORMAT_UNKNOWN) {
2239     caps = gst_ff_aud_caps_new (context, codec, codec_id, TRUE, "audio/x-raw",
2240         "format", G_TYPE_STRING, gst_audio_format_to_string (format),
2241         "layout", G_TYPE_STRING, "interleaved", NULL);
2242     GST_LOG ("caps for sample_fmt=%d: %" GST_PTR_FORMAT, sample_fmt, caps);
2243   } else {
2244     GST_LOG ("No caps found for sample_fmt=%d", sample_fmt);
2245   }
2246
2247   return caps;
2248 }
2249
2250 static gboolean
2251 caps_has_field (GstCaps * caps, const gchar * field)
2252 {
2253   guint i, n;
2254
2255   n = gst_caps_get_size (caps);
2256   for (i = 0; i < n; i++) {
2257     GstStructure *s = gst_caps_get_structure (caps, i);
2258
2259     if (gst_structure_has_field (s, field))
2260       return TRUE;
2261   }
2262
2263   return FALSE;
2264 }
2265
2266 GstCaps *
2267 gst_ffmpeg_codectype_to_audio_caps (AVCodecContext * context,
2268     enum AVCodecID codec_id, gboolean encode, AVCodec * codec)
2269 {
2270   GstCaps *caps = NULL;
2271
2272   GST_DEBUG ("context:%p, codec_id:%d, encode:%d, codec:%p",
2273       context, codec_id, encode, codec);
2274   if (codec)
2275     GST_DEBUG ("sample_fmts:%p, samplerates:%p",
2276         codec->sample_fmts, codec->supported_samplerates);
2277
2278   if (context) {
2279     /* Specific codec context */
2280     caps =
2281         gst_ffmpeg_smpfmt_to_caps (context->sample_fmt, context, codec,
2282         codec_id);
2283   } else {
2284     caps = gst_ff_aud_caps_new (context, codec, codec_id, encode, "audio/x-raw",
2285         "layout", G_TYPE_STRING, "interleaved", NULL);
2286     if (!caps_has_field (caps, "format"))
2287       gst_ffmpeg_audio_set_sample_fmts (caps,
2288           codec ? codec->sample_fmts : NULL);
2289   }
2290
2291   return caps;
2292 }
2293
2294 GstCaps *
2295 gst_ffmpeg_codectype_to_video_caps (AVCodecContext * context,
2296     enum AVCodecID codec_id, gboolean encode, AVCodec * codec)
2297 {
2298   GstCaps *caps;
2299
2300   GST_LOG ("context:%p, codec_id:%d, encode:%d, codec:%p",
2301       context, codec_id, encode, codec);
2302
2303   if (context) {
2304     caps = gst_ffmpeg_pixfmt_to_caps (context->pix_fmt, context, codec_id);
2305   } else {
2306     caps =
2307         gst_ff_vid_caps_new (context, codec, codec_id, encode, "video/x-raw",
2308         NULL);
2309     if (!caps_has_field (caps, "format"))
2310       gst_ffmpeg_video_set_pix_fmts (caps, codec ? codec->pix_fmts : NULL);
2311   }
2312   return caps;
2313 }
2314
2315 /* Convert a GstCaps (audio/raw) to a FFMPEG SampleFmt
2316  * and other audio properties in a AVCodecContext.
2317  *
2318  * For usefullness, see below
2319  */
2320
2321 static void
2322 gst_ffmpeg_caps_to_smpfmt (const GstCaps * caps,
2323     AVCodecContext * context, gboolean raw)
2324 {
2325   GstStructure *structure;
2326   const gchar *fmt;
2327   GstAudioFormat format = GST_AUDIO_FORMAT_UNKNOWN;
2328
2329   g_return_if_fail (gst_caps_get_size (caps) == 1);
2330
2331   structure = gst_caps_get_structure (caps, 0);
2332
2333   gst_structure_get_int (structure, "channels", &context->channels);
2334   gst_structure_get_int (structure, "rate", &context->sample_rate);
2335   gst_structure_get_int (structure, "block_align", &context->block_align);
2336   gst_structure_get_int (structure, "bitrate", &context->bit_rate);
2337
2338   if (!raw)
2339     return;
2340
2341   if (gst_structure_has_name (structure, "audio/x-raw")) {
2342     if ((fmt = gst_structure_get_string (structure, "format"))) {
2343       format = gst_audio_format_from_string (fmt);
2344     }
2345   }
2346
2347   switch (format) {
2348     case GST_AUDIO_FORMAT_F32:
2349       context->sample_fmt = AV_SAMPLE_FMT_FLT;
2350       break;
2351     case GST_AUDIO_FORMAT_F64:
2352       context->sample_fmt = AV_SAMPLE_FMT_DBL;
2353       break;
2354     case GST_AUDIO_FORMAT_S32:
2355       context->sample_fmt = AV_SAMPLE_FMT_S32;
2356       break;
2357     case GST_AUDIO_FORMAT_S16:
2358       context->sample_fmt = AV_SAMPLE_FMT_S16;
2359       break;
2360     default:
2361       break;
2362   }
2363 }
2364
2365 /* Convert a GstCaps (video/raw) to a FFMPEG PixFmt
2366  * and other video properties in a AVCodecContext.
2367  *
2368  * For usefullness, see below
2369  */
2370
2371 static void
2372 gst_ffmpeg_caps_to_pixfmt (const GstCaps * caps,
2373     AVCodecContext * context, gboolean raw)
2374 {
2375   GstStructure *structure;
2376   const GValue *fps;
2377   const GValue *par = NULL;
2378   const gchar *fmt;
2379   GstVideoFormat format = GST_VIDEO_FORMAT_UNKNOWN;
2380
2381   GST_DEBUG ("converting caps %" GST_PTR_FORMAT, caps);
2382   g_return_if_fail (gst_caps_get_size (caps) == 1);
2383   structure = gst_caps_get_structure (caps, 0);
2384
2385   gst_structure_get_int (structure, "width", &context->width);
2386   gst_structure_get_int (structure, "height", &context->height);
2387   gst_structure_get_int (structure, "bpp", &context->bits_per_coded_sample);
2388
2389   fps = gst_structure_get_value (structure, "framerate");
2390   if (fps != NULL && GST_VALUE_HOLDS_FRACTION (fps)) {
2391
2392     int num = gst_value_get_fraction_numerator (fps);
2393     int den = gst_value_get_fraction_denominator (fps);
2394
2395     if (num > 0 && den > 0) {
2396       /* somehow these seem mixed up.. */
2397       /* they're fine, this is because it does period=1/frequency */
2398       context->time_base.den = gst_value_get_fraction_numerator (fps);
2399       context->time_base.num = gst_value_get_fraction_denominator (fps);
2400       context->ticks_per_frame = 1;
2401
2402       GST_DEBUG ("setting framerate %d/%d = %lf",
2403           context->time_base.den, context->time_base.num,
2404           1. * context->time_base.den / context->time_base.num);
2405     } else {
2406       GST_WARNING ("ignoring insane framerate %d/%d",
2407           context->time_base.den, context->time_base.num);
2408     }
2409   }
2410
2411   par = gst_structure_get_value (structure, "pixel-aspect-ratio");
2412   if (par && GST_VALUE_HOLDS_FRACTION (par)) {
2413
2414     int num = gst_value_get_fraction_numerator (par);
2415     int den = gst_value_get_fraction_denominator (par);
2416
2417     if (num > 0 && den > 0) {
2418       context->sample_aspect_ratio.num = num;
2419       context->sample_aspect_ratio.den = den;
2420
2421       GST_DEBUG ("setting pixel-aspect-ratio %d/%d = %lf",
2422           context->sample_aspect_ratio.num, context->sample_aspect_ratio.den,
2423           1. * context->sample_aspect_ratio.num /
2424           context->sample_aspect_ratio.den);
2425     } else {
2426       GST_WARNING ("ignoring insane pixel-aspect-ratio %d/%d",
2427           context->sample_aspect_ratio.num, context->sample_aspect_ratio.den);
2428     }
2429   }
2430
2431   if (!raw)
2432     return;
2433
2434   g_return_if_fail (fps != NULL && GST_VALUE_HOLDS_FRACTION (fps));
2435
2436   if (gst_structure_has_name (structure, "video/x-raw")) {
2437     if ((fmt = gst_structure_get_string (structure, "format"))) {
2438       format = gst_video_format_from_string (fmt);
2439     }
2440   }
2441
2442   switch (format) {
2443     case GST_VIDEO_FORMAT_YUY2:
2444       context->pix_fmt = PIX_FMT_YUYV422;
2445       break;
2446     case GST_VIDEO_FORMAT_I420:
2447       context->pix_fmt = PIX_FMT_YUV420P;
2448       break;
2449     case GST_VIDEO_FORMAT_A420:
2450       context->pix_fmt = PIX_FMT_YUVA420P;
2451       break;
2452     case GST_VIDEO_FORMAT_Y41B:
2453       context->pix_fmt = PIX_FMT_YUV411P;
2454       break;
2455     case GST_VIDEO_FORMAT_Y42B:
2456       context->pix_fmt = PIX_FMT_YUV422P;
2457       break;
2458     case GST_VIDEO_FORMAT_YUV9:
2459       context->pix_fmt = PIX_FMT_YUV410P;
2460       break;
2461     case GST_VIDEO_FORMAT_Y444:
2462       context->pix_fmt = PIX_FMT_YUV444P;
2463       break;
2464     case GST_VIDEO_FORMAT_GRAY8:
2465       context->pix_fmt = PIX_FMT_GRAY8;
2466       break;
2467     case GST_VIDEO_FORMAT_xRGB:
2468 #if (G_BYTE_ORDER == G_BIG_ENDIAN)
2469       context->pix_fmt = PIX_FMT_RGB32;
2470 #endif
2471       break;
2472     case GST_VIDEO_FORMAT_BGRx:
2473 #if (G_BYTE_ORDER == G_LITTLE_ENDIAN)
2474       context->pix_fmt = PIX_FMT_RGB32;
2475 #endif
2476       break;
2477     case GST_VIDEO_FORMAT_RGB:
2478       context->pix_fmt = PIX_FMT_RGB24;
2479       break;
2480     case GST_VIDEO_FORMAT_BGR:
2481       context->pix_fmt = PIX_FMT_BGR24;
2482       break;
2483     case GST_VIDEO_FORMAT_RGB16:
2484       context->pix_fmt = PIX_FMT_RGB565;
2485       break;
2486     case GST_VIDEO_FORMAT_RGB15:
2487       context->pix_fmt = PIX_FMT_RGB555;
2488       break;
2489     case GST_VIDEO_FORMAT_RGB8P:
2490       context->pix_fmt = PIX_FMT_PAL8;
2491       break;
2492     default:
2493       break;
2494   }
2495 }
2496
2497 typedef struct
2498 {
2499   GstVideoFormat format;
2500   enum PixelFormat pixfmt;
2501 } PixToFmt;
2502
2503 /* FIXME : FILLME */
2504 static const PixToFmt pixtofmttable[] = {
2505   /* GST_VIDEO_FORMAT_I420, */
2506   {GST_VIDEO_FORMAT_I420, PIX_FMT_YUV420P},
2507   /* Note : this should use a different chroma placement */
2508   {GST_VIDEO_FORMAT_I420, PIX_FMT_YUVJ420P},
2509
2510   /* GST_VIDEO_FORMAT_YV12, */
2511   /* GST_VIDEO_FORMAT_YUY2, */
2512   {GST_VIDEO_FORMAT_YUY2, PIX_FMT_YUYV422},
2513   /* GST_VIDEO_FORMAT_UYVY, */
2514   {GST_VIDEO_FORMAT_UYVY, PIX_FMT_UYVY422},
2515   /* GST_VIDEO_FORMAT_AYUV, */
2516   /* GST_VIDEO_FORMAT_RGBx, */
2517   /* GST_VIDEO_FORMAT_BGRx, */
2518   /* GST_VIDEO_FORMAT_xRGB, */
2519   /* GST_VIDEO_FORMAT_xBGR, */
2520   /* GST_VIDEO_FORMAT_RGBA, */
2521   {GST_VIDEO_FORMAT_RGBA, PIX_FMT_RGBA},
2522   /* GST_VIDEO_FORMAT_BGRA, */
2523   {GST_VIDEO_FORMAT_BGRA, PIX_FMT_BGRA},
2524   /* GST_VIDEO_FORMAT_ARGB, */
2525   {GST_VIDEO_FORMAT_ARGB, PIX_FMT_ARGB},
2526   /* GST_VIDEO_FORMAT_ABGR, */
2527   {GST_VIDEO_FORMAT_ABGR, PIX_FMT_ABGR},
2528   /* GST_VIDEO_FORMAT_RGB, */
2529   {GST_VIDEO_FORMAT_RGB, PIX_FMT_RGB24},
2530   /* GST_VIDEO_FORMAT_BGR, */
2531   {GST_VIDEO_FORMAT_BGR, PIX_FMT_BGR24},
2532   /* GST_VIDEO_FORMAT_Y41B, */
2533   {GST_VIDEO_FORMAT_Y41B, PIX_FMT_YUV411P},
2534   /* GST_VIDEO_FORMAT_Y42B, */
2535   {GST_VIDEO_FORMAT_Y42B, PIX_FMT_YUV422P},
2536   {GST_VIDEO_FORMAT_Y42B, PIX_FMT_YUVJ422P},
2537   /* GST_VIDEO_FORMAT_YVYU, */
2538   /* GST_VIDEO_FORMAT_Y444, */
2539   {GST_VIDEO_FORMAT_Y444, PIX_FMT_YUV444P},
2540   {GST_VIDEO_FORMAT_Y444, PIX_FMT_YUVJ444P},
2541   /* GST_VIDEO_FORMAT_v210, */
2542   /* GST_VIDEO_FORMAT_v216, */
2543   /* GST_VIDEO_FORMAT_NV12, */
2544   {GST_VIDEO_FORMAT_NV12, PIX_FMT_NV12},
2545   /* GST_VIDEO_FORMAT_NV21, */
2546   {GST_VIDEO_FORMAT_NV21, PIX_FMT_NV21},
2547   /* GST_VIDEO_FORMAT_GRAY8, */
2548   {GST_VIDEO_FORMAT_GRAY8, PIX_FMT_GRAY8},
2549   /* GST_VIDEO_FORMAT_GRAY16_BE, */
2550   {GST_VIDEO_FORMAT_GRAY16_BE, PIX_FMT_GRAY16BE},
2551   /* GST_VIDEO_FORMAT_GRAY16_LE, */
2552   {GST_VIDEO_FORMAT_GRAY16_LE, PIX_FMT_GRAY16LE},
2553   /* GST_VIDEO_FORMAT_v308, */
2554   /* GST_VIDEO_FORMAT_Y800, */
2555   /* GST_VIDEO_FORMAT_Y16, */
2556   /* GST_VIDEO_FORMAT_RGB16, */
2557   {GST_VIDEO_FORMAT_RGB16, PIX_FMT_RGB565},
2558   /* GST_VIDEO_FORMAT_BGR16, */
2559   /* GST_VIDEO_FORMAT_RGB15, */
2560   {GST_VIDEO_FORMAT_RGB15, PIX_FMT_RGB555},
2561   /* GST_VIDEO_FORMAT_BGR15, */
2562   /* GST_VIDEO_FORMAT_UYVP, */
2563   /* GST_VIDEO_FORMAT_A420, */
2564   {GST_VIDEO_FORMAT_A420, PIX_FMT_YUVA420P},
2565   /* GST_VIDEO_FORMAT_RGB8_PALETTED, */
2566   {GST_VIDEO_FORMAT_RGB8P, PIX_FMT_PAL8},
2567   /* GST_VIDEO_FORMAT_YUV9, */
2568   {GST_VIDEO_FORMAT_YUV9, PIX_FMT_YUV410P},
2569   /* GST_VIDEO_FORMAT_YVU9, */
2570   /* GST_VIDEO_FORMAT_IYU1, */
2571   /* GST_VIDEO_FORMAT_ARGB64, */
2572   /* GST_VIDEO_FORMAT_AYUV64, */
2573   /* GST_VIDEO_FORMAT_r210, */
2574   {GST_VIDEO_FORMAT_I420_10LE, PIX_FMT_YUV420P10LE},
2575   {GST_VIDEO_FORMAT_I420_10BE, PIX_FMT_YUV420P10BE},
2576   {GST_VIDEO_FORMAT_I422_10LE, PIX_FMT_YUV422P10LE},
2577   {GST_VIDEO_FORMAT_I422_10BE, PIX_FMT_YUV422P10BE},
2578   {GST_VIDEO_FORMAT_Y444_10LE, PIX_FMT_YUV444P10LE},
2579   {GST_VIDEO_FORMAT_Y444_10BE, PIX_FMT_YUV444P10BE},
2580   {GST_VIDEO_FORMAT_GBR, PIX_FMT_GBRP},
2581   {GST_VIDEO_FORMAT_GBR_10LE, PIX_FMT_GBRP10LE},
2582   {GST_VIDEO_FORMAT_GBR_10BE, PIX_FMT_GBRP10BE},
2583 };
2584
2585 GstVideoFormat
2586 gst_ffmpeg_pixfmt_to_videoformat (enum PixelFormat pixfmt)
2587 {
2588   guint i;
2589
2590   for (i = 0; i < G_N_ELEMENTS (pixtofmttable); i++)
2591     if (pixtofmttable[i].pixfmt == pixfmt)
2592       return pixtofmttable[i].format;
2593
2594   GST_DEBUG ("Unknown pixel format %d", pixfmt);
2595   return GST_VIDEO_FORMAT_UNKNOWN;
2596 }
2597
2598 enum PixelFormat
2599 gst_ffmpeg_videoformat_to_pixfmt (GstVideoFormat format)
2600 {
2601   guint i;
2602
2603   for (i = 0; i < G_N_ELEMENTS (pixtofmttable); i++)
2604     if (pixtofmttable[i].format == format)
2605       return pixtofmttable[i].pixfmt;
2606   return PIX_FMT_NONE;
2607 }
2608
2609 void
2610 gst_ffmpeg_videoinfo_to_context (GstVideoInfo * info, AVCodecContext * context)
2611 {
2612   gint i, bpp = 0;
2613
2614   context->width = GST_VIDEO_INFO_WIDTH (info);
2615   context->height = GST_VIDEO_INFO_HEIGHT (info);
2616   for (i = 0; i < GST_VIDEO_INFO_N_COMPONENTS (info); i++)
2617     bpp += GST_VIDEO_INFO_COMP_DEPTH (info, i);
2618   context->bits_per_coded_sample = bpp;
2619
2620   context->ticks_per_frame = 1;
2621   if (GST_VIDEO_INFO_FPS_N (info) == 0) {
2622     GST_DEBUG ("Using 25/1 framerate");
2623     context->time_base.den = 25;
2624     context->time_base.num = 1;
2625   } else {
2626     context->time_base.den = GST_VIDEO_INFO_FPS_N (info);
2627     context->time_base.num = GST_VIDEO_INFO_FPS_D (info);
2628   }
2629
2630   context->sample_aspect_ratio.num = GST_VIDEO_INFO_PAR_N (info);
2631   context->sample_aspect_ratio.den = GST_VIDEO_INFO_PAR_D (info);
2632
2633   context->pix_fmt =
2634       gst_ffmpeg_videoformat_to_pixfmt (GST_VIDEO_INFO_FORMAT (info));
2635 }
2636
2637 void
2638 gst_ffmpeg_audioinfo_to_context (GstAudioInfo * info, AVCodecContext * context)
2639 {
2640   const AVCodec *codec;
2641   const enum AVSampleFormat *smpl_fmts;
2642   enum AVSampleFormat smpl_fmt = -1;
2643
2644   context->channels = info->channels;
2645   context->sample_rate = info->rate;
2646   context->channel_layout =
2647       gst_ffmpeg_channel_positions_to_layout (info->position, info->channels);
2648
2649   codec = context->codec;
2650
2651   smpl_fmts = codec->sample_fmts;
2652
2653   switch (info->finfo->format) {
2654     case GST_AUDIO_FORMAT_F32:
2655       if (smpl_fmts) {
2656         while (*smpl_fmts != -1) {
2657           if (*smpl_fmts == AV_SAMPLE_FMT_FLT) {
2658             smpl_fmt = *smpl_fmts;
2659             break;
2660           } else if (*smpl_fmts == AV_SAMPLE_FMT_FLTP) {
2661             smpl_fmt = *smpl_fmts;
2662           }
2663
2664           smpl_fmts++;
2665         }
2666       } else {
2667         smpl_fmt = AV_SAMPLE_FMT_FLT;
2668       }
2669       break;
2670     case GST_AUDIO_FORMAT_F64:
2671       if (smpl_fmts) {
2672         while (*smpl_fmts != -1) {
2673           if (*smpl_fmts == AV_SAMPLE_FMT_DBL) {
2674             smpl_fmt = *smpl_fmts;
2675             break;
2676           } else if (*smpl_fmts == AV_SAMPLE_FMT_DBLP) {
2677             smpl_fmt = *smpl_fmts;
2678           }
2679
2680           smpl_fmts++;
2681         }
2682       } else {
2683         smpl_fmt = AV_SAMPLE_FMT_DBL;
2684       }
2685       break;
2686     case GST_AUDIO_FORMAT_S32:
2687       if (smpl_fmts) {
2688         while (*smpl_fmts != -1) {
2689           if (*smpl_fmts == AV_SAMPLE_FMT_S32) {
2690             smpl_fmt = *smpl_fmts;
2691             break;
2692           } else if (*smpl_fmts == AV_SAMPLE_FMT_S32P) {
2693             smpl_fmt = *smpl_fmts;
2694           }
2695
2696           smpl_fmts++;
2697         }
2698       } else {
2699         smpl_fmt = AV_SAMPLE_FMT_S32;
2700       }
2701       break;
2702     case GST_AUDIO_FORMAT_S16:
2703       if (smpl_fmts) {
2704         while (*smpl_fmts != -1) {
2705           if (*smpl_fmts == AV_SAMPLE_FMT_S16) {
2706             smpl_fmt = *smpl_fmts;
2707             break;
2708           } else if (*smpl_fmts == AV_SAMPLE_FMT_S16P) {
2709             smpl_fmt = *smpl_fmts;
2710           }
2711
2712           smpl_fmts++;
2713         }
2714       } else {
2715         smpl_fmt = AV_SAMPLE_FMT_S16;
2716       }
2717       break;
2718     case GST_AUDIO_FORMAT_U8:
2719       if (smpl_fmts) {
2720         while (*smpl_fmts != -1) {
2721           if (*smpl_fmts == AV_SAMPLE_FMT_U8) {
2722             smpl_fmt = *smpl_fmts;
2723             break;
2724           } else if (*smpl_fmts == AV_SAMPLE_FMT_U8P) {
2725             smpl_fmt = *smpl_fmts;
2726           }
2727
2728           smpl_fmts++;
2729         }
2730       } else {
2731         smpl_fmt = AV_SAMPLE_FMT_U8;
2732       }
2733       break;
2734     default:
2735       break;
2736   }
2737
2738   g_assert (smpl_fmt != -1);
2739
2740   context->sample_fmt = smpl_fmt;
2741 }
2742
2743 /* Convert a GstCaps and a FFMPEG codec Type to a
2744  * AVCodecContext. If the context is ommitted, no fixed values
2745  * for video/audio size will be included in the context
2746  *
2747  * AVMediaType is primarily meant for uncompressed data GstCaps!
2748  */
2749
2750 void
2751 gst_ffmpeg_caps_with_codectype (enum AVMediaType type,
2752     const GstCaps * caps, AVCodecContext * context)
2753 {
2754   if (context == NULL)
2755     return;
2756
2757   switch (type) {
2758     case AVMEDIA_TYPE_VIDEO:
2759       gst_ffmpeg_caps_to_pixfmt (caps, context, TRUE);
2760       break;
2761
2762     case AVMEDIA_TYPE_AUDIO:
2763       gst_ffmpeg_caps_to_smpfmt (caps, context, TRUE);
2764       break;
2765
2766     default:
2767       /* unknown */
2768       break;
2769   }
2770 }
2771
2772 #if 0
2773 static void
2774 nal_escape (guint8 * dst, guint8 * src, guint size, guint * destsize)
2775 {
2776   guint8 *dstp = dst;
2777   guint8 *srcp = src;
2778   guint8 *end = src + size;
2779   gint count = 0;
2780
2781   while (srcp < end) {
2782     if (count == 2 && *srcp <= 0x03) {
2783       GST_DEBUG ("added escape code");
2784       *dstp++ = 0x03;
2785       count = 0;
2786     }
2787     if (*srcp == 0)
2788       count++;
2789     else
2790       count = 0;
2791
2792     GST_DEBUG ("copy %02x, count %d", *srcp, count);
2793     *dstp++ = *srcp++;
2794   }
2795   *destsize = dstp - dst;
2796 }
2797
2798 /* copy the config, escaping NAL units as we iterate them, if something fails we
2799  * copy everything and hope for the best. */
2800 static void
2801 copy_config (guint8 * dst, guint8 * src, guint size, guint * destsize)
2802 {
2803   guint8 *dstp = dst;
2804   guint8 *srcp = src;
2805   gint cnt, i;
2806   guint nalsize, esize;
2807
2808   /* check size */
2809   if (size < 7)
2810     goto full_copy;
2811
2812   /* check version */
2813   if (*srcp != 1)
2814     goto full_copy;
2815
2816   cnt = *(srcp + 5) & 0x1f;     /* Number of sps */
2817
2818   GST_DEBUG ("num SPS %d", cnt);
2819
2820   memcpy (dstp, srcp, 6);
2821   srcp += 6;
2822   dstp += 6;
2823
2824   for (i = 0; i < cnt; i++) {
2825     GST_DEBUG ("copy SPS %d", i);
2826     nalsize = (srcp[0] << 8) | srcp[1];
2827     nal_escape (dstp + 2, srcp + 2, nalsize, &esize);
2828     dstp[0] = esize >> 8;
2829     dstp[1] = esize & 0xff;
2830     dstp += esize + 2;
2831     srcp += nalsize + 2;
2832   }
2833
2834   cnt = *(dstp++) = *(srcp++);  /* Number of pps */
2835
2836   GST_DEBUG ("num PPS %d", cnt);
2837
2838   for (i = 0; i < cnt; i++) {
2839     GST_DEBUG ("copy PPS %d", i);
2840     nalsize = (srcp[0] << 8) | srcp[1];
2841     nal_escape (dstp + 2, srcp + 2, nalsize, &esize);
2842     dstp[0] = esize >> 8;
2843     dstp[1] = esize & 0xff;
2844     dstp += esize + 2;
2845     srcp += nalsize + 2;
2846   }
2847   *destsize = dstp - dst;
2848
2849   return;
2850
2851 full_copy:
2852   {
2853     GST_DEBUG ("something unexpected, doing full copy");
2854     memcpy (dst, src, size);
2855     *destsize = size;
2856     return;
2857   }
2858 }
2859 #endif
2860
2861 /*
2862  * caps_with_codecid () transforms a GstCaps for a known codec
2863  * ID into a filled-in context.
2864  * codec_data from caps will override possible extradata already in the context
2865  */
2866
2867 void
2868 gst_ffmpeg_caps_with_codecid (enum AVCodecID codec_id,
2869     enum AVMediaType codec_type, const GstCaps * caps, AVCodecContext * context)
2870 {
2871   GstStructure *str;
2872   const GValue *value;
2873   GstBuffer *buf;
2874
2875   GST_LOG ("codec_id:%d, codec_type:%d, caps:%" GST_PTR_FORMAT " context:%p",
2876       codec_id, codec_type, caps, context);
2877
2878   if (!context || !gst_caps_get_size (caps))
2879     return;
2880
2881   str = gst_caps_get_structure (caps, 0);
2882
2883   /* extradata parsing (esds [mpeg4], wma/wmv, msmpeg4v1/2/3, etc.) */
2884   if ((value = gst_structure_get_value (str, "codec_data"))) {
2885     GstMapInfo map;
2886
2887     buf = gst_value_get_buffer (value);
2888     gst_buffer_map (buf, &map, GST_MAP_READ);
2889
2890     /* free the old one if it is there */
2891     if (context->extradata)
2892       av_free (context->extradata);
2893
2894 #if 0
2895     if (codec_id == AV_CODEC_ID_H264) {
2896       guint extrasize;
2897
2898       GST_DEBUG ("copy, escaping codec_data %d", size);
2899       /* ffmpeg h264 expects the codec_data to be escaped, there is no real
2900        * reason for this but let's just escape it for now. Start by allocating
2901        * enough space, x2 is more than enough.
2902        *
2903        * FIXME, we disabled escaping because some file already contain escaped
2904        * codec_data and then we escape twice and fail. It's better to leave it
2905        * as is, as that is what most players do. */
2906       context->extradata =
2907           av_mallocz (GST_ROUND_UP_16 (size * 2 +
2908               FF_INPUT_BUFFER_PADDING_SIZE));
2909       copy_config (context->extradata, data, size, &extrasize);
2910       GST_DEBUG ("escaped size: %d", extrasize);
2911       context->extradata_size = extrasize;
2912     } else
2913 #endif
2914     {
2915       /* allocate with enough padding */
2916       GST_DEBUG ("copy codec_data");
2917       context->extradata =
2918           av_mallocz (GST_ROUND_UP_16 (map.size +
2919               FF_INPUT_BUFFER_PADDING_SIZE));
2920       memcpy (context->extradata, map.data, map.size);
2921       context->extradata_size = map.size;
2922     }
2923
2924     /* Hack for VC1. Sometimes the first (length) byte is 0 for some files */
2925     if (codec_id == AV_CODEC_ID_VC1 && map.size > 0 && map.data[0] == 0) {
2926       context->extradata[0] = (guint8) map.size;
2927     }
2928
2929     GST_DEBUG ("have codec data of size %" G_GSIZE_FORMAT, map.size);
2930
2931     gst_buffer_unmap (buf, &map);
2932   } else if (context->extradata == NULL && codec_id != AV_CODEC_ID_AAC_LATM &&
2933       codec_id != AV_CODEC_ID_FLAC) {
2934     /* no extradata, alloc dummy with 0 sized, some codecs insist on reading
2935      * extradata anyway which makes then segfault. */
2936     context->extradata =
2937         av_mallocz (GST_ROUND_UP_16 (FF_INPUT_BUFFER_PADDING_SIZE));
2938     context->extradata_size = 0;
2939     GST_DEBUG ("no codec data");
2940   }
2941
2942   switch (codec_id) {
2943     case AV_CODEC_ID_MPEG4:
2944     {
2945       const gchar *mime = gst_structure_get_name (str);
2946
2947       if (!strcmp (mime, "video/x-divx"))
2948         context->codec_tag = GST_MAKE_FOURCC ('D', 'I', 'V', 'X');
2949       else if (!strcmp (mime, "video/x-xvid"))
2950         context->codec_tag = GST_MAKE_FOURCC ('X', 'V', 'I', 'D');
2951       else if (!strcmp (mime, "video/x-3ivx"))
2952         context->codec_tag = GST_MAKE_FOURCC ('3', 'I', 'V', '1');
2953       else if (!strcmp (mime, "video/mpeg"))
2954         context->codec_tag = GST_MAKE_FOURCC ('m', 'p', '4', 'v');
2955     }
2956       break;
2957
2958     case AV_CODEC_ID_SVQ3:
2959       /* FIXME: this is a workaround for older gst-plugins releases
2960        * (<= 0.8.9). This should be removed at some point, because
2961        * it causes wrong decoded frame order. */
2962       if (!context->extradata) {
2963         gint halfpel_flag, thirdpel_flag, low_delay, unknown_svq3_flag;
2964         guint16 flags;
2965
2966         if (gst_structure_get_int (str, "halfpel_flag", &halfpel_flag) &&
2967             gst_structure_get_int (str, "thirdpel_flag", &thirdpel_flag) &&
2968             gst_structure_get_int (str, "low_delay", &low_delay) &&
2969             gst_structure_get_int (str, "unknown_svq3_flag",
2970                 &unknown_svq3_flag)) {
2971           context->extradata = (guint8 *) av_mallocz (0x64);
2972           g_stpcpy ((gchar *) context->extradata, "SVQ3");
2973           flags = 1 << 3;
2974           flags |= low_delay;
2975           flags = flags << 2;
2976           flags |= unknown_svq3_flag;
2977           flags = flags << 6;
2978           flags |= halfpel_flag;
2979           flags = flags << 1;
2980           flags |= thirdpel_flag;
2981           flags = flags << 3;
2982
2983           flags = GUINT16_FROM_LE (flags);
2984
2985           memcpy ((gchar *) context->extradata + 0x62, &flags, 2);
2986           context->extradata_size = 0x64;
2987         }
2988       }
2989       break;
2990
2991     case AV_CODEC_ID_MSRLE:
2992     case AV_CODEC_ID_QTRLE:
2993     case AV_CODEC_ID_TSCC:
2994     case AV_CODEC_ID_CSCD:
2995     case AV_CODEC_ID_APE:
2996     {
2997       gint depth;
2998
2999       if (gst_structure_get_int (str, "depth", &depth)) {
3000         context->bits_per_coded_sample = depth;
3001       } else {
3002         GST_WARNING ("No depth field in caps %" GST_PTR_FORMAT, caps);
3003       }
3004
3005     }
3006       break;
3007
3008     case AV_CODEC_ID_COOK:
3009     case AV_CODEC_ID_RA_288:
3010     case AV_CODEC_ID_RA_144:
3011     case AV_CODEC_ID_SIPR:
3012     {
3013       gint leaf_size;
3014       gint bitrate;
3015
3016       if (gst_structure_get_int (str, "leaf_size", &leaf_size))
3017         context->block_align = leaf_size;
3018       if (gst_structure_get_int (str, "bitrate", &bitrate))
3019         context->bit_rate = bitrate;
3020     }
3021       break;
3022     case AV_CODEC_ID_ALAC:
3023       gst_structure_get_int (str, "samplesize",
3024           &context->bits_per_coded_sample);
3025       break;
3026
3027     case AV_CODEC_ID_DVVIDEO:
3028     {
3029       const gchar *format;
3030
3031       if ((format = gst_structure_get_string (str, "format"))) {
3032
3033         if (g_str_equal (format, "YUY2"))
3034           context->pix_fmt = PIX_FMT_YUYV422;
3035         else if (g_str_equal (format, "I420"))
3036           context->pix_fmt = PIX_FMT_YUV420P;
3037         else if (g_str_equal (format, "A420"))
3038           context->pix_fmt = PIX_FMT_YUVA420P;
3039         else if (g_str_equal (format, "Y41B"))
3040           context->pix_fmt = PIX_FMT_YUV411P;
3041         else if (g_str_equal (format, "Y42B"))
3042           context->pix_fmt = PIX_FMT_YUV422P;
3043         else if (g_str_equal (format, "YUV9"))
3044           context->pix_fmt = PIX_FMT_YUV410P;
3045         else {
3046           GST_WARNING ("couldn't convert format %s" " to a pixel format",
3047               format);
3048         }
3049       } else
3050         GST_WARNING ("No specified format");
3051       break;
3052     }
3053     case AV_CODEC_ID_H263P:
3054     {
3055       gboolean val;
3056
3057       if (!gst_structure_get_boolean (str, "annex-f", &val) || val)
3058         context->flags |= CODEC_FLAG_4MV;
3059       else
3060         context->flags &= ~CODEC_FLAG_4MV;
3061       if ((!gst_structure_get_boolean (str, "annex-i", &val) || val) &&
3062           (!gst_structure_get_boolean (str, "annex-t", &val) || val))
3063         context->flags |= CODEC_FLAG_AC_PRED;
3064       else
3065         context->flags &= ~CODEC_FLAG_AC_PRED;
3066       if (!gst_structure_get_boolean (str, "annex-j", &val) || val)
3067         context->flags |= CODEC_FLAG_LOOP_FILTER;
3068       else
3069         context->flags &= ~CODEC_FLAG_LOOP_FILTER;
3070       break;
3071     }
3072     case AV_CODEC_ID_ADPCM_G726:
3073     {
3074       const gchar *layout;
3075
3076       if ((layout = gst_structure_get_string (str, "layout"))) {
3077         if (!strcmp (layout, "g721")) {
3078           context->sample_rate = 8000;
3079           context->channels = 1;
3080           context->bit_rate = 32000;
3081         }
3082       }
3083       break;
3084     }
3085     default:
3086       break;
3087   }
3088
3089   if (!gst_caps_is_fixed (caps))
3090     return;
3091
3092   /* common properties (width, height, fps) */
3093   switch (codec_type) {
3094     case AVMEDIA_TYPE_VIDEO:
3095       gst_ffmpeg_caps_to_pixfmt (caps, context,
3096           codec_id == AV_CODEC_ID_RAWVIDEO);
3097       break;
3098     case AVMEDIA_TYPE_AUDIO:
3099       gst_ffmpeg_caps_to_smpfmt (caps, context, FALSE);
3100       break;
3101     default:
3102       break;
3103   }
3104
3105   /* fixup of default settings */
3106   switch (codec_id) {
3107     case AV_CODEC_ID_QCELP:
3108       /* QCELP is always mono, no matter what the caps say */
3109       context->channels = 1;
3110       break;
3111     case AV_CODEC_ID_ADPCM_G726:
3112       if (context->sample_rate && context->bit_rate)
3113         context->bits_per_coded_sample =
3114             context->bit_rate / context->sample_rate;
3115       break;
3116     default:
3117       break;
3118   }
3119 }
3120
3121 /* _formatid_to_caps () is meant for muxers/demuxers, it
3122  * transforms a name (ffmpeg way of ID'ing these, why don't
3123  * they have unique numerical IDs?) to the corresponding
3124  * caps belonging to that mux-format
3125  *
3126  * Note: we don't need any additional info because the caps
3127  * isn't supposed to contain any useful info besides the
3128  * media type anyway
3129  */
3130
3131 GstCaps *
3132 gst_ffmpeg_formatid_to_caps (const gchar * format_name)
3133 {
3134   GstCaps *caps = NULL;
3135
3136   if (!strcmp (format_name, "mpeg")) {
3137     caps = gst_caps_new_simple ("video/mpeg",
3138         "systemstream", G_TYPE_BOOLEAN, TRUE, NULL);
3139   } else if (!strcmp (format_name, "mpegts")) {
3140     caps = gst_caps_new_simple ("video/mpegts",
3141         "systemstream", G_TYPE_BOOLEAN, TRUE, NULL);
3142   } else if (!strcmp (format_name, "rm")) {
3143     caps = gst_caps_new_simple ("application/x-pn-realmedia",
3144         "systemstream", G_TYPE_BOOLEAN, TRUE, NULL);
3145   } else if (!strcmp (format_name, "asf")) {
3146     caps = gst_caps_new_empty_simple ("video/x-ms-asf");
3147   } else if (!strcmp (format_name, "avi")) {
3148     caps = gst_caps_new_empty_simple ("video/x-msvideo");
3149   } else if (!strcmp (format_name, "wav")) {
3150     caps = gst_caps_new_empty_simple ("audio/x-wav");
3151   } else if (!strcmp (format_name, "ape")) {
3152     caps = gst_caps_new_empty_simple ("application/x-ape");
3153   } else if (!strcmp (format_name, "swf")) {
3154     caps = gst_caps_new_empty_simple ("application/x-shockwave-flash");
3155   } else if (!strcmp (format_name, "au")) {
3156     caps = gst_caps_new_empty_simple ("audio/x-au");
3157   } else if (!strcmp (format_name, "dv")) {
3158     caps = gst_caps_new_simple ("video/x-dv",
3159         "systemstream", G_TYPE_BOOLEAN, TRUE, NULL);
3160   } else if (!strcmp (format_name, "4xm")) {
3161     caps = gst_caps_new_empty_simple ("video/x-4xm");
3162   } else if (!strcmp (format_name, "matroska")) {
3163     caps = gst_caps_new_empty_simple ("video/x-matroska");
3164   } else if (!strcmp (format_name, "mp3")) {
3165     caps = gst_caps_new_empty_simple ("application/x-id3");
3166   } else if (!strcmp (format_name, "flic")) {
3167     caps = gst_caps_new_empty_simple ("video/x-fli");
3168   } else if (!strcmp (format_name, "flv")) {
3169     caps = gst_caps_new_empty_simple ("video/x-flv");
3170   } else if (!strcmp (format_name, "tta")) {
3171     caps = gst_caps_new_empty_simple ("audio/x-ttafile");
3172   } else if (!strcmp (format_name, "aiff")) {
3173     caps = gst_caps_new_empty_simple ("audio/x-aiff");
3174   } else if (!strcmp (format_name, "mov_mp4_m4a_3gp_3g2")) {
3175     caps =
3176         gst_caps_from_string
3177         ("application/x-3gp; video/quicktime; audio/x-m4a");
3178   } else if (!strcmp (format_name, "mov")) {
3179     caps = gst_caps_from_string ("video/quicktime,variant=(string)apple");
3180   } else if (!strcmp (format_name, "mp4")) {
3181     caps = gst_caps_from_string ("video/quicktime,variant=(string)iso");
3182   } else if (!strcmp (format_name, "3gp")) {
3183     caps = gst_caps_from_string ("video/quicktime,variant=(string)3gpp");
3184   } else if (!strcmp (format_name, "3g2")) {
3185     caps = gst_caps_from_string ("video/quicktime,variant=(string)3g2");
3186   } else if (!strcmp (format_name, "psp")) {
3187     caps = gst_caps_from_string ("video/quicktime,variant=(string)psp");
3188   } else if (!strcmp (format_name, "ipod")) {
3189     caps = gst_caps_from_string ("video/quicktime,variant=(string)ipod");
3190   } else if (!strcmp (format_name, "aac")) {
3191     caps = gst_caps_new_simple ("audio/mpeg",
3192         "mpegversion", G_TYPE_INT, 4, NULL);
3193   } else if (!strcmp (format_name, "gif")) {
3194     caps = gst_caps_from_string ("image/gif");
3195   } else if (!strcmp (format_name, "ogg")) {
3196     caps = gst_caps_from_string ("application/ogg");
3197   } else if (!strcmp (format_name, "mxf") || !strcmp (format_name, "mxf_d10")) {
3198     caps = gst_caps_from_string ("application/mxf");
3199   } else if (!strcmp (format_name, "gxf")) {
3200     caps = gst_caps_from_string ("application/gxf");
3201   } else if (!strcmp (format_name, "yuv4mpegpipe")) {
3202     caps = gst_caps_new_simple ("application/x-yuv4mpeg",
3203         "y4mversion", G_TYPE_INT, 2, NULL);
3204   } else if (!strcmp (format_name, "mpc")) {
3205     caps = gst_caps_from_string ("audio/x-musepack, streamversion = (int) 7");
3206   } else if (!strcmp (format_name, "vqf")) {
3207     caps = gst_caps_from_string ("audio/x-vqf");
3208   } else if (!strcmp (format_name, "nsv")) {
3209     caps = gst_caps_from_string ("video/x-nsv");
3210   } else if (!strcmp (format_name, "amr")) {
3211     caps = gst_caps_from_string ("audio/x-amr-nb-sh");
3212   } else if (!strcmp (format_name, "webm")) {
3213     caps = gst_caps_from_string ("video/webm");
3214   } else if (!strcmp (format_name, "voc")) {
3215     caps = gst_caps_from_string ("audio/x-voc");
3216   } else if (!strcmp (format_name, "pva")) {
3217     caps = gst_caps_from_string ("video/x-pva");
3218   } else {
3219     gchar *name;
3220
3221     GST_LOG ("Could not create stream format caps for %s", format_name);
3222     name = g_strdup_printf ("application/x-gst-av-%s", format_name);
3223     caps = gst_caps_new_empty_simple (name);
3224     g_free (name);
3225   }
3226
3227   return caps;
3228 }
3229
3230 gboolean
3231 gst_ffmpeg_formatid_get_codecids (const gchar * format_name,
3232     enum AVCodecID ** video_codec_list, enum AVCodecID ** audio_codec_list,
3233     AVOutputFormat * plugin)
3234 {
3235   static enum AVCodecID tmp_vlist[] = {
3236     AV_CODEC_ID_NONE,
3237     AV_CODEC_ID_NONE
3238   };
3239   static enum AVCodecID tmp_alist[] = {
3240     AV_CODEC_ID_NONE,
3241     AV_CODEC_ID_NONE
3242   };
3243
3244   GST_LOG ("format_name : %s", format_name);
3245
3246   if (!strcmp (format_name, "mp4")) {
3247     static enum AVCodecID mp4_video_list[] = {
3248       AV_CODEC_ID_MPEG4, AV_CODEC_ID_H264,
3249       AV_CODEC_ID_MJPEG,
3250       AV_CODEC_ID_NONE
3251     };
3252     static enum AVCodecID mp4_audio_list[] = {
3253       AV_CODEC_ID_AAC, AV_CODEC_ID_MP3,
3254       AV_CODEC_ID_NONE
3255     };
3256
3257     *video_codec_list = mp4_video_list;
3258     *audio_codec_list = mp4_audio_list;
3259   } else if (!strcmp (format_name, "mpeg")) {
3260     static enum AVCodecID mpeg_video_list[] = { AV_CODEC_ID_MPEG1VIDEO,
3261       AV_CODEC_ID_MPEG2VIDEO,
3262       AV_CODEC_ID_H264,
3263       AV_CODEC_ID_NONE
3264     };
3265     static enum AVCodecID mpeg_audio_list[] = { AV_CODEC_ID_MP1,
3266       AV_CODEC_ID_MP2,
3267       AV_CODEC_ID_MP3,
3268       AV_CODEC_ID_NONE
3269     };
3270
3271     *video_codec_list = mpeg_video_list;
3272     *audio_codec_list = mpeg_audio_list;
3273   } else if (!strcmp (format_name, "dvd")) {
3274     static enum AVCodecID mpeg_video_list[] = { AV_CODEC_ID_MPEG2VIDEO,
3275       AV_CODEC_ID_NONE
3276     };
3277     static enum AVCodecID mpeg_audio_list[] = { AV_CODEC_ID_MP2,
3278       AV_CODEC_ID_AC3,
3279       AV_CODEC_ID_DTS,
3280       AV_CODEC_ID_PCM_S16BE,
3281       AV_CODEC_ID_NONE
3282     };
3283
3284     *video_codec_list = mpeg_video_list;
3285     *audio_codec_list = mpeg_audio_list;
3286   } else if (!strcmp (format_name, "mpegts")) {
3287     static enum AVCodecID mpegts_video_list[] = { AV_CODEC_ID_MPEG1VIDEO,
3288       AV_CODEC_ID_MPEG2VIDEO,
3289       AV_CODEC_ID_H264,
3290       AV_CODEC_ID_NONE
3291     };
3292     static enum AVCodecID mpegts_audio_list[] = { AV_CODEC_ID_MP2,
3293       AV_CODEC_ID_MP3,
3294       AV_CODEC_ID_AC3,
3295       AV_CODEC_ID_DTS,
3296       AV_CODEC_ID_AAC,
3297       AV_CODEC_ID_NONE
3298     };
3299
3300     *video_codec_list = mpegts_video_list;
3301     *audio_codec_list = mpegts_audio_list;
3302   } else if (!strcmp (format_name, "vob")) {
3303     static enum AVCodecID vob_video_list[] =
3304         { AV_CODEC_ID_MPEG2VIDEO, AV_CODEC_ID_NONE };
3305     static enum AVCodecID vob_audio_list[] = { AV_CODEC_ID_MP2, AV_CODEC_ID_AC3,
3306       AV_CODEC_ID_DTS, AV_CODEC_ID_NONE
3307     };
3308
3309     *video_codec_list = vob_video_list;
3310     *audio_codec_list = vob_audio_list;
3311   } else if (!strcmp (format_name, "flv")) {
3312     static enum AVCodecID flv_video_list[] =
3313         { AV_CODEC_ID_FLV1, AV_CODEC_ID_NONE };
3314     static enum AVCodecID flv_audio_list[] =
3315         { AV_CODEC_ID_MP3, AV_CODEC_ID_NONE };
3316
3317     *video_codec_list = flv_video_list;
3318     *audio_codec_list = flv_audio_list;
3319   } else if (!strcmp (format_name, "asf")) {
3320     static enum AVCodecID asf_video_list[] =
3321         { AV_CODEC_ID_WMV1, AV_CODEC_ID_WMV2, AV_CODEC_ID_MSMPEG4V3,
3322       AV_CODEC_ID_NONE
3323     };
3324     static enum AVCodecID asf_audio_list[] =
3325         { AV_CODEC_ID_WMAV1, AV_CODEC_ID_WMAV2, AV_CODEC_ID_MP3,
3326       AV_CODEC_ID_NONE
3327     };
3328
3329     *video_codec_list = asf_video_list;
3330     *audio_codec_list = asf_audio_list;
3331   } else if (!strcmp (format_name, "dv")) {
3332     static enum AVCodecID dv_video_list[] =
3333         { AV_CODEC_ID_DVVIDEO, AV_CODEC_ID_NONE };
3334     static enum AVCodecID dv_audio_list[] =
3335         { AV_CODEC_ID_PCM_S16LE, AV_CODEC_ID_NONE };
3336
3337     *video_codec_list = dv_video_list;
3338     *audio_codec_list = dv_audio_list;
3339   } else if (!strcmp (format_name, "mov")) {
3340     static enum AVCodecID mov_video_list[] = {
3341       AV_CODEC_ID_SVQ1, AV_CODEC_ID_SVQ3, AV_CODEC_ID_MPEG4,
3342       AV_CODEC_ID_H263, AV_CODEC_ID_H263P,
3343       AV_CODEC_ID_H264, AV_CODEC_ID_DVVIDEO,
3344       AV_CODEC_ID_MJPEG,
3345       AV_CODEC_ID_NONE
3346     };
3347     static enum AVCodecID mov_audio_list[] = {
3348       AV_CODEC_ID_PCM_MULAW, AV_CODEC_ID_PCM_ALAW, AV_CODEC_ID_ADPCM_IMA_QT,
3349       AV_CODEC_ID_MACE3, AV_CODEC_ID_MACE6, AV_CODEC_ID_AAC,
3350       AV_CODEC_ID_AMR_NB, AV_CODEC_ID_AMR_WB,
3351       AV_CODEC_ID_PCM_S16BE, AV_CODEC_ID_PCM_S16LE,
3352       AV_CODEC_ID_MP3, AV_CODEC_ID_NONE
3353     };
3354
3355     *video_codec_list = mov_video_list;
3356     *audio_codec_list = mov_audio_list;
3357   } else if ((!strcmp (format_name, "3gp") || !strcmp (format_name, "3g2"))) {
3358     static enum AVCodecID tgp_video_list[] = {
3359       AV_CODEC_ID_MPEG4, AV_CODEC_ID_H263, AV_CODEC_ID_H263P, AV_CODEC_ID_H264,
3360       AV_CODEC_ID_NONE
3361     };
3362     static enum AVCodecID tgp_audio_list[] = {
3363       AV_CODEC_ID_AMR_NB, AV_CODEC_ID_AMR_WB,
3364       AV_CODEC_ID_AAC,
3365       AV_CODEC_ID_NONE
3366     };
3367
3368     *video_codec_list = tgp_video_list;
3369     *audio_codec_list = tgp_audio_list;
3370   } else if (!strcmp (format_name, "mmf")) {
3371     static enum AVCodecID mmf_audio_list[] = {
3372       AV_CODEC_ID_ADPCM_YAMAHA, AV_CODEC_ID_NONE
3373     };
3374     *video_codec_list = NULL;
3375     *audio_codec_list = mmf_audio_list;
3376   } else if (!strcmp (format_name, "amr")) {
3377     static enum AVCodecID amr_audio_list[] = {
3378       AV_CODEC_ID_AMR_NB, AV_CODEC_ID_AMR_WB,
3379       AV_CODEC_ID_NONE
3380     };
3381     *video_codec_list = NULL;
3382     *audio_codec_list = amr_audio_list;
3383   } else if (!strcmp (format_name, "gif")) {
3384     static enum AVCodecID gif_image_list[] = {
3385       AV_CODEC_ID_RAWVIDEO, AV_CODEC_ID_NONE
3386     };
3387     *video_codec_list = gif_image_list;
3388     *audio_codec_list = NULL;
3389   } else if ((plugin->audio_codec != AV_CODEC_ID_NONE) ||
3390       (plugin->video_codec != AV_CODEC_ID_NONE)) {
3391     tmp_vlist[0] = plugin->video_codec;
3392     tmp_alist[0] = plugin->audio_codec;
3393
3394     *video_codec_list = tmp_vlist;
3395     *audio_codec_list = tmp_alist;
3396   } else if ((!strcmp (format_name, "pva"))) {
3397     static enum AVCodecID tgp_video_list[] = {
3398       AV_CODEC_ID_MPEG2VIDEO,
3399       AV_CODEC_ID_NONE
3400     };
3401     static enum AVCodecID tgp_audio_list[] = {
3402       AV_CODEC_ID_MP2,
3403       AV_CODEC_ID_NONE
3404     };
3405
3406     *video_codec_list = tgp_video_list;
3407     *audio_codec_list = tgp_audio_list;
3408   } else {
3409     GST_LOG ("Format %s not found", format_name);
3410     return FALSE;
3411   }
3412
3413   return TRUE;
3414 }
3415
3416 /* Convert a GstCaps to a FFMPEG codec ID. Size et all
3417  * are omitted, that can be queried by the user itself,
3418  * we're not eating the GstCaps or anything
3419  * A pointer to an allocated context is also needed for
3420  * optional extra info
3421  */
3422
3423 enum AVCodecID
3424 gst_ffmpeg_caps_to_codecid (const GstCaps * caps, AVCodecContext * context)
3425 {
3426   enum AVCodecID id = AV_CODEC_ID_NONE;
3427   const gchar *mimetype;
3428   const GstStructure *structure;
3429   gboolean video = FALSE, audio = FALSE;        /* we want to be sure! */
3430
3431   g_return_val_if_fail (caps != NULL, AV_CODEC_ID_NONE);
3432   g_return_val_if_fail (gst_caps_get_size (caps) == 1, AV_CODEC_ID_NONE);
3433   structure = gst_caps_get_structure (caps, 0);
3434
3435   mimetype = gst_structure_get_name (structure);
3436
3437   if (!strcmp (mimetype, "video/x-raw")) {
3438     id = AV_CODEC_ID_RAWVIDEO;
3439     video = TRUE;
3440   } else if (!strcmp (mimetype, "audio/x-raw")) {
3441     GstAudioInfo info;
3442
3443     if (gst_audio_info_from_caps (&info, caps)) {
3444       switch (GST_AUDIO_INFO_FORMAT (&info)) {
3445         case GST_AUDIO_FORMAT_S8:
3446           id = AV_CODEC_ID_PCM_S8;
3447           break;
3448         case GST_AUDIO_FORMAT_U8:
3449           id = AV_CODEC_ID_PCM_U8;
3450           break;
3451         case GST_AUDIO_FORMAT_S16LE:
3452           id = AV_CODEC_ID_PCM_S16LE;
3453           break;
3454         case GST_AUDIO_FORMAT_S16BE:
3455           id = AV_CODEC_ID_PCM_S16BE;
3456           break;
3457         case GST_AUDIO_FORMAT_U16LE:
3458           id = AV_CODEC_ID_PCM_U16LE;
3459           break;
3460         case GST_AUDIO_FORMAT_U16BE:
3461           id = AV_CODEC_ID_PCM_U16BE;
3462           break;
3463         default:
3464           break;
3465       }
3466       if (id != AV_CODEC_ID_NONE)
3467         audio = TRUE;
3468     }
3469   } else if (!strcmp (mimetype, "audio/x-mulaw")) {
3470     id = AV_CODEC_ID_PCM_MULAW;
3471     audio = TRUE;
3472   } else if (!strcmp (mimetype, "audio/x-alaw")) {
3473     id = AV_CODEC_ID_PCM_ALAW;
3474     audio = TRUE;
3475   } else if (!strcmp (mimetype, "video/x-dv")) {
3476     gboolean sys_strm;
3477
3478     if (gst_structure_get_boolean (structure, "systemstream", &sys_strm) &&
3479         !sys_strm) {
3480       id = AV_CODEC_ID_DVVIDEO;
3481       video = TRUE;
3482     }
3483   } else if (!strcmp (mimetype, "audio/x-dv")) {        /* ??? */
3484     id = AV_CODEC_ID_DVAUDIO;
3485     audio = TRUE;
3486   } else if (!strcmp (mimetype, "video/x-h263")) {
3487     const gchar *h263version =
3488         gst_structure_get_string (structure, "h263version");
3489     if (h263version && !strcmp (h263version, "h263p"))
3490       id = AV_CODEC_ID_H263P;
3491     else
3492       id = AV_CODEC_ID_H263;
3493     video = TRUE;
3494   } else if (!strcmp (mimetype, "video/x-intel-h263")) {
3495     id = AV_CODEC_ID_H263I;
3496     video = TRUE;
3497   } else if (!strcmp (mimetype, "video/x-h261")) {
3498     id = AV_CODEC_ID_H261;
3499     video = TRUE;
3500   } else if (!strcmp (mimetype, "video/mpeg")) {
3501     gboolean sys_strm;
3502     gint mpegversion;
3503
3504     if (gst_structure_get_boolean (structure, "systemstream", &sys_strm) &&
3505         gst_structure_get_int (structure, "mpegversion", &mpegversion) &&
3506         !sys_strm) {
3507       switch (mpegversion) {
3508         case 1:
3509           id = AV_CODEC_ID_MPEG1VIDEO;
3510           break;
3511         case 2:
3512           id = AV_CODEC_ID_MPEG2VIDEO;
3513           break;
3514         case 4:
3515           id = AV_CODEC_ID_MPEG4;
3516           break;
3517       }
3518     }
3519     if (id != AV_CODEC_ID_NONE)
3520       video = TRUE;
3521   } else if (!strcmp (mimetype, "image/jpeg")) {
3522     id = AV_CODEC_ID_MJPEG;     /* A... B... */
3523     video = TRUE;
3524   } else if (!strcmp (mimetype, "video/x-jpeg-b")) {
3525     id = AV_CODEC_ID_MJPEGB;
3526     video = TRUE;
3527   } else if (!strcmp (mimetype, "video/x-wmv")) {
3528     gint wmvversion = 0;
3529
3530     if (gst_structure_get_int (structure, "wmvversion", &wmvversion)) {
3531       switch (wmvversion) {
3532         case 1:
3533           id = AV_CODEC_ID_WMV1;
3534           break;
3535         case 2:
3536           id = AV_CODEC_ID_WMV2;
3537           break;
3538         case 3:
3539         {
3540           const gchar *format;
3541
3542           /* WMV3 unless the fourcc exists and says otherwise */
3543           id = AV_CODEC_ID_WMV3;
3544
3545           if ((format = gst_structure_get_string (structure, "format")) &&
3546               (g_str_equal (format, "WVC1") || g_str_equal (format, "WMVA")))
3547             id = AV_CODEC_ID_VC1;
3548
3549           break;
3550         }
3551       }
3552     }
3553     if (id != AV_CODEC_ID_NONE)
3554       video = TRUE;
3555   } else if (!strcmp (mimetype, "audio/x-vorbis")) {
3556     id = AV_CODEC_ID_VORBIS;
3557     audio = TRUE;
3558   } else if (!strcmp (mimetype, "audio/x-qdm2")) {
3559     id = AV_CODEC_ID_QDM2;
3560     audio = TRUE;
3561   } else if (!strcmp (mimetype, "audio/mpeg")) {
3562     gint layer = 0;
3563     gint mpegversion = 0;
3564
3565     if (gst_structure_get_int (structure, "mpegversion", &mpegversion)) {
3566       switch (mpegversion) {
3567         case 2:                /* ffmpeg uses faad for both... */
3568         case 4:
3569           id = AV_CODEC_ID_AAC;
3570           break;
3571         case 1:
3572           if (gst_structure_get_int (structure, "layer", &layer)) {
3573             switch (layer) {
3574               case 1:
3575                 id = AV_CODEC_ID_MP1;
3576                 break;
3577               case 2:
3578                 id = AV_CODEC_ID_MP2;
3579                 break;
3580               case 3:
3581                 id = AV_CODEC_ID_MP3;
3582                 break;
3583             }
3584           }
3585       }
3586     }
3587     if (id != AV_CODEC_ID_NONE)
3588       audio = TRUE;
3589   } else if (!strcmp (mimetype, "audio/x-musepack")) {
3590     gint streamversion = -1;
3591
3592     if (gst_structure_get_int (structure, "streamversion", &streamversion)) {
3593       if (streamversion == 7)
3594         id = AV_CODEC_ID_MUSEPACK7;
3595     } else {
3596       id = AV_CODEC_ID_MUSEPACK7;
3597     }
3598   } else if (!strcmp (mimetype, "audio/x-wma")) {
3599     gint wmaversion = 0;
3600
3601     if (gst_structure_get_int (structure, "wmaversion", &wmaversion)) {
3602       switch (wmaversion) {
3603         case 1:
3604           id = AV_CODEC_ID_WMAV1;
3605           break;
3606         case 2:
3607           id = AV_CODEC_ID_WMAV2;
3608           break;
3609         case 3:
3610           id = AV_CODEC_ID_WMAPRO;
3611           break;
3612       }
3613     }
3614     if (id != AV_CODEC_ID_NONE)
3615       audio = TRUE;
3616   } else if (!strcmp (mimetype, "audio/x-wms")) {
3617     id = AV_CODEC_ID_WMAVOICE;
3618     audio = TRUE;
3619   } else if (!strcmp (mimetype, "audio/x-ac3")) {
3620     id = AV_CODEC_ID_AC3;
3621     audio = TRUE;
3622   } else if (!strcmp (mimetype, "audio/x-eac3")) {
3623     id = AV_CODEC_ID_EAC3;
3624     audio = TRUE;
3625   } else if (!strcmp (mimetype, "audio/x-vnd.sony.atrac3") ||
3626       !strcmp (mimetype, "audio/atrac3")) {
3627     id = AV_CODEC_ID_ATRAC3;
3628     audio = TRUE;
3629   } else if (!strcmp (mimetype, "audio/x-dts")) {
3630     id = AV_CODEC_ID_DTS;
3631     audio = TRUE;
3632   } else if (!strcmp (mimetype, "application/x-ape")) {
3633     id = AV_CODEC_ID_APE;
3634     audio = TRUE;
3635   } else if (!strcmp (mimetype, "video/x-msmpeg")) {
3636     gint msmpegversion = 0;
3637
3638     if (gst_structure_get_int (structure, "msmpegversion", &msmpegversion)) {
3639       switch (msmpegversion) {
3640         case 41:
3641           id = AV_CODEC_ID_MSMPEG4V1;
3642           break;
3643         case 42:
3644           id = AV_CODEC_ID_MSMPEG4V2;
3645           break;
3646         case 43:
3647           id = AV_CODEC_ID_MSMPEG4V3;
3648           break;
3649       }
3650     }
3651     if (id != AV_CODEC_ID_NONE)
3652       video = TRUE;
3653   } else if (!strcmp (mimetype, "video/x-svq")) {
3654     gint svqversion = 0;
3655
3656     if (gst_structure_get_int (structure, "svqversion", &svqversion)) {
3657       switch (svqversion) {
3658         case 1:
3659           id = AV_CODEC_ID_SVQ1;
3660           break;
3661         case 3:
3662           id = AV_CODEC_ID_SVQ3;
3663           break;
3664       }
3665     }
3666     if (id != AV_CODEC_ID_NONE)
3667       video = TRUE;
3668   } else if (!strcmp (mimetype, "video/x-huffyuv")) {
3669     id = AV_CODEC_ID_HUFFYUV;
3670     video = TRUE;
3671   } else if (!strcmp (mimetype, "audio/x-mace")) {
3672     gint maceversion = 0;
3673
3674     if (gst_structure_get_int (structure, "maceversion", &maceversion)) {
3675       switch (maceversion) {
3676         case 3:
3677           id = AV_CODEC_ID_MACE3;
3678           break;
3679         case 6:
3680           id = AV_CODEC_ID_MACE6;
3681           break;
3682       }
3683     }
3684     if (id != AV_CODEC_ID_NONE)
3685       audio = TRUE;
3686   } else if (!strcmp (mimetype, "video/x-theora")) {
3687     id = AV_CODEC_ID_THEORA;
3688     video = TRUE;
3689   } else if (!strcmp (mimetype, "video/x-vp3")) {
3690     id = AV_CODEC_ID_VP3;
3691     video = TRUE;
3692   } else if (!strcmp (mimetype, "video/x-vp5")) {
3693     id = AV_CODEC_ID_VP5;
3694     video = TRUE;
3695   } else if (!strcmp (mimetype, "video/x-vp6")) {
3696     id = AV_CODEC_ID_VP6;
3697     video = TRUE;
3698   } else if (!strcmp (mimetype, "video/x-vp6-flash")) {
3699     id = AV_CODEC_ID_VP6F;
3700     video = TRUE;
3701   } else if (!strcmp (mimetype, "video/x-vp6-alpha")) {
3702     id = AV_CODEC_ID_VP6A;
3703     video = TRUE;
3704   } else if (!strcmp (mimetype, "video/x-vp8")) {
3705     id = AV_CODEC_ID_VP8;
3706     video = TRUE;
3707   } else if (!strcmp (mimetype, "video/x-flash-screen")) {
3708     id = AV_CODEC_ID_FLASHSV;
3709     video = TRUE;
3710   } else if (!strcmp (mimetype, "video/x-indeo")) {
3711     gint indeoversion = 0;
3712
3713     if (gst_structure_get_int (structure, "indeoversion", &indeoversion)) {
3714       switch (indeoversion) {
3715         case 5:
3716           id = AV_CODEC_ID_INDEO5;
3717           break;
3718         case 4:
3719           id = AV_CODEC_ID_INDEO4;
3720           break;
3721         case 3:
3722           id = AV_CODEC_ID_INDEO3;
3723           break;
3724         case 2:
3725           id = AV_CODEC_ID_INDEO2;
3726           break;
3727       }
3728       if (id != AV_CODEC_ID_NONE)
3729         video = TRUE;
3730     }
3731   } else if (!strcmp (mimetype, "video/x-divx")) {
3732     gint divxversion = 0;
3733
3734     if (gst_structure_get_int (structure, "divxversion", &divxversion)) {
3735       switch (divxversion) {
3736         case 3:
3737           id = AV_CODEC_ID_MSMPEG4V3;
3738           break;
3739         case 4:
3740         case 5:
3741           id = AV_CODEC_ID_MPEG4;
3742           break;
3743       }
3744     }
3745     if (id != AV_CODEC_ID_NONE)
3746       video = TRUE;
3747   } else if (!strcmp (mimetype, "video/x-3ivx")) {
3748     id = AV_CODEC_ID_MPEG4;
3749     video = TRUE;
3750   } else if (!strcmp (mimetype, "video/x-xvid")) {
3751     id = AV_CODEC_ID_MPEG4;
3752     video = TRUE;
3753   } else if (!strcmp (mimetype, "video/x-ffv")) {
3754     gint ffvversion = 0;
3755
3756     if (gst_structure_get_int (structure, "ffvversion", &ffvversion) &&
3757         ffvversion == 1) {
3758       id = AV_CODEC_ID_FFV1;
3759       video = TRUE;
3760     }
3761   } else if (!strcmp (mimetype, "video/x-apple-intermediate-codec")) {
3762     id = AV_CODEC_ID_AIC;
3763     video = TRUE;
3764   } else if (!strcmp (mimetype, "audio/x-adpcm")) {
3765     const gchar *layout;
3766
3767     layout = gst_structure_get_string (structure, "layout");
3768     if (layout == NULL) {
3769       /* break */
3770     } else if (!strcmp (layout, "quicktime")) {
3771       id = AV_CODEC_ID_ADPCM_IMA_QT;
3772     } else if (!strcmp (layout, "microsoft")) {
3773       id = AV_CODEC_ID_ADPCM_MS;
3774     } else if (!strcmp (layout, "dvi")) {
3775       id = AV_CODEC_ID_ADPCM_IMA_WAV;
3776     } else if (!strcmp (layout, "4xm")) {
3777       id = AV_CODEC_ID_ADPCM_4XM;
3778     } else if (!strcmp (layout, "smjpeg")) {
3779       id = AV_CODEC_ID_ADPCM_IMA_SMJPEG;
3780     } else if (!strcmp (layout, "dk3")) {
3781       id = AV_CODEC_ID_ADPCM_IMA_DK3;
3782     } else if (!strcmp (layout, "dk4")) {
3783       id = AV_CODEC_ID_ADPCM_IMA_DK4;
3784     } else if (!strcmp (layout, "westwood")) {
3785       id = AV_CODEC_ID_ADPCM_IMA_WS;
3786     } else if (!strcmp (layout, "iss")) {
3787       id = AV_CODEC_ID_ADPCM_IMA_ISS;
3788     } else if (!strcmp (layout, "xa")) {
3789       id = AV_CODEC_ID_ADPCM_XA;
3790     } else if (!strcmp (layout, "adx")) {
3791       id = AV_CODEC_ID_ADPCM_ADX;
3792     } else if (!strcmp (layout, "ea")) {
3793       id = AV_CODEC_ID_ADPCM_EA;
3794     } else if (!strcmp (layout, "g726")) {
3795       id = AV_CODEC_ID_ADPCM_G726;
3796     } else if (!strcmp (layout, "g721")) {
3797       id = AV_CODEC_ID_ADPCM_G726;
3798     } else if (!strcmp (layout, "ct")) {
3799       id = AV_CODEC_ID_ADPCM_CT;
3800     } else if (!strcmp (layout, "swf")) {
3801       id = AV_CODEC_ID_ADPCM_SWF;
3802     } else if (!strcmp (layout, "yamaha")) {
3803       id = AV_CODEC_ID_ADPCM_YAMAHA;
3804     } else if (!strcmp (layout, "sbpro2")) {
3805       id = AV_CODEC_ID_ADPCM_SBPRO_2;
3806     } else if (!strcmp (layout, "sbpro3")) {
3807       id = AV_CODEC_ID_ADPCM_SBPRO_3;
3808     } else if (!strcmp (layout, "sbpro4")) {
3809       id = AV_CODEC_ID_ADPCM_SBPRO_4;
3810     }
3811     if (id != AV_CODEC_ID_NONE)
3812       audio = TRUE;
3813   } else if (!strcmp (mimetype, "video/x-4xm")) {
3814     id = AV_CODEC_ID_4XM;
3815     video = TRUE;
3816   } else if (!strcmp (mimetype, "audio/x-dpcm")) {
3817     const gchar *layout;
3818
3819     layout = gst_structure_get_string (structure, "layout");
3820     if (!layout) {
3821       /* .. */
3822     } else if (!strcmp (layout, "roq")) {
3823       id = AV_CODEC_ID_ROQ_DPCM;
3824     } else if (!strcmp (layout, "interplay")) {
3825       id = AV_CODEC_ID_INTERPLAY_DPCM;
3826     } else if (!strcmp (layout, "xan")) {
3827       id = AV_CODEC_ID_XAN_DPCM;
3828     } else if (!strcmp (layout, "sol")) {
3829       id = AV_CODEC_ID_SOL_DPCM;
3830     }
3831     if (id != AV_CODEC_ID_NONE)
3832       audio = TRUE;
3833   } else if (!strcmp (mimetype, "audio/x-flac")) {
3834     id = AV_CODEC_ID_FLAC;
3835     audio = TRUE;
3836   } else if (!strcmp (mimetype, "audio/x-shorten")) {
3837     id = AV_CODEC_ID_SHORTEN;
3838     audio = TRUE;
3839   } else if (!strcmp (mimetype, "audio/x-alac")) {
3840     id = AV_CODEC_ID_ALAC;
3841     audio = TRUE;
3842   } else if (!strcmp (mimetype, "video/x-cinepak")) {
3843     id = AV_CODEC_ID_CINEPAK;
3844     video = TRUE;
3845   } else if (!strcmp (mimetype, "video/x-pn-realvideo")) {
3846     gint rmversion;
3847
3848     if (gst_structure_get_int (structure, "rmversion", &rmversion)) {
3849       switch (rmversion) {
3850         case 1:
3851           id = AV_CODEC_ID_RV10;
3852           break;
3853         case 2:
3854           id = AV_CODEC_ID_RV20;
3855           break;
3856         case 3:
3857           id = AV_CODEC_ID_RV30;
3858           break;
3859         case 4:
3860           id = AV_CODEC_ID_RV40;
3861           break;
3862       }
3863     }
3864     if (id != AV_CODEC_ID_NONE)
3865       video = TRUE;
3866   } else if (!strcmp (mimetype, "audio/x-sipro")) {
3867     id = AV_CODEC_ID_SIPR;
3868     audio = TRUE;
3869   } else if (!strcmp (mimetype, "audio/x-pn-realaudio")) {
3870     gint raversion;
3871
3872     if (gst_structure_get_int (structure, "raversion", &raversion)) {
3873       switch (raversion) {
3874         case 1:
3875           id = AV_CODEC_ID_RA_144;
3876           break;
3877         case 2:
3878           id = AV_CODEC_ID_RA_288;
3879           break;
3880         case 8:
3881           id = AV_CODEC_ID_COOK;
3882           break;
3883       }
3884     }
3885     if (id != AV_CODEC_ID_NONE)
3886       audio = TRUE;
3887   } else if (!strcmp (mimetype, "video/x-rle")) {
3888     const gchar *layout;
3889
3890     if ((layout = gst_structure_get_string (structure, "layout"))) {
3891       if (!strcmp (layout, "microsoft")) {
3892         id = AV_CODEC_ID_MSRLE;
3893         video = TRUE;
3894       }
3895     }
3896   } else if (!strcmp (mimetype, "video/x-xan")) {
3897     gint wcversion = 0;
3898
3899     if ((gst_structure_get_int (structure, "wcversion", &wcversion))) {
3900       switch (wcversion) {
3901         case 3:
3902           id = AV_CODEC_ID_XAN_WC3;
3903           video = TRUE;
3904           break;
3905         case 4:
3906           id = AV_CODEC_ID_XAN_WC4;
3907           video = TRUE;
3908           break;
3909         default:
3910           break;
3911       }
3912     }
3913   } else if (!strcmp (mimetype, "audio/AMR")) {
3914     audio = TRUE;
3915     id = AV_CODEC_ID_AMR_NB;
3916   } else if (!strcmp (mimetype, "audio/AMR-WB")) {
3917     id = AV_CODEC_ID_AMR_WB;
3918     audio = TRUE;
3919   } else if (!strcmp (mimetype, "audio/qcelp")) {
3920     id = AV_CODEC_ID_QCELP;
3921     audio = TRUE;
3922   } else if (!strcmp (mimetype, "video/x-h264")) {
3923     id = AV_CODEC_ID_H264;
3924     video = TRUE;
3925   } else if (!strcmp (mimetype, "video/x-h265")) {
3926     id = AV_CODEC_ID_HEVC;
3927     video = TRUE;
3928   } else if (!strcmp (mimetype, "video/x-flash-video")) {
3929     gint flvversion = 0;
3930
3931     if ((gst_structure_get_int (structure, "flvversion", &flvversion))) {
3932       switch (flvversion) {
3933         case 1:
3934           id = AV_CODEC_ID_FLV1;
3935           video = TRUE;
3936           break;
3937         default:
3938           break;
3939       }
3940     }
3941
3942   } else if (!strcmp (mimetype, "audio/x-nellymoser")) {
3943     id = AV_CODEC_ID_NELLYMOSER;
3944     audio = TRUE;
3945   } else if (!strncmp (mimetype, "audio/x-gst-av-", 15)) {
3946     gchar ext[16];
3947     AVCodec *codec;
3948
3949     if (strlen (mimetype) <= 30 &&
3950         sscanf (mimetype, "audio/x-gst-av-%s", ext) == 1) {
3951       if ((codec = avcodec_find_decoder_by_name (ext)) ||
3952           (codec = avcodec_find_encoder_by_name (ext))) {
3953         id = codec->id;
3954         audio = TRUE;
3955       }
3956     }
3957   } else if (!strncmp (mimetype, "video/x-gst-av-", 15)) {
3958     gchar ext[16];
3959     AVCodec *codec;
3960
3961     if (strlen (mimetype) <= 30 &&
3962         sscanf (mimetype, "video/x-gst-av-%s", ext) == 1) {
3963       if ((codec = avcodec_find_decoder_by_name (ext)) ||
3964           (codec = avcodec_find_encoder_by_name (ext))) {
3965         id = codec->id;
3966         video = TRUE;
3967       }
3968     }
3969   }
3970
3971   if (context != NULL) {
3972     if (video == TRUE) {
3973       context->codec_type = AVMEDIA_TYPE_VIDEO;
3974     } else if (audio == TRUE) {
3975       context->codec_type = AVMEDIA_TYPE_AUDIO;
3976     } else {
3977       context->codec_type = AVMEDIA_TYPE_UNKNOWN;
3978     }
3979     context->codec_id = id;
3980     gst_ffmpeg_caps_with_codecid (id, context->codec_type, caps, context);
3981   }
3982
3983   if (id != AV_CODEC_ID_NONE) {
3984     GST_DEBUG ("The id=%d belongs to the caps %" GST_PTR_FORMAT, id, caps);
3985   } else {
3986     GST_WARNING ("Couldn't figure out the id for caps %" GST_PTR_FORMAT, caps);
3987   }
3988
3989   return id;
3990 }