gst/rtp/gstrtph263pay.c

   1 /* GStreamer
   2  * Copyright (C) <2005> Wim Taymans <wim.taymans@gmail.com>
   3  * Copyright (C) <2008> Dejan Sakelsak <dejan.sakelsak@marand.si>
   4  * Copyright (C) <2009> Janin Kolenc  <janin.kolenc@marand.si>
   5  *
   6  * This library is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU Library General Public
   8  * License as published by the Free Software Foundation; either
   9  * version 2 of the License, or (at your option) any later version.
  10  *
  11  * This library is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14  * Library General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU Library General Public
  17  * License along with this library; if not, write to the
  18  * Free Software Foundation, Inc., 51 Franklin St, Fifth Floor,
  19  * Boston, MA 02110-1301, USA.
  20  *
  21  */
  22
  23 #ifdef HAVE_CONFIG_H
  24 #  include "config.h"
  25 #endif
  26
  27 #include <string.h>
  28 #include <math.h>
  29 #include <gst/rtp/gstrtpbuffer.h>
  30 #include <gst/video/video.h>
  31
  32 #include "gstrtph263pay.h"
  33 #include "gstrtputils.h"
  34
  35 typedef enum
  36 {
  37   GST_H263_FRAME_TYPE_I = 0,
  38   GST_H263_FRAME_TYPE_P = 1,
  39   GST_H263_FRAME_TYPE_PB = 2
  40 } GstRtpH263PayFrameType;
  41
  42 typedef enum
  43 {
  44   GST_RTP_H263_PAYLOAD_PICTURE_FORMAT_RES1 = 0,
  45   GST_RTP_H263_PAYLOAD_PICTURE_FORMAT_SQCIF = 1,
  46   GST_RTP_H263_PAYLOAD_PICTURE_FORMAT_QCIF = 2,
  47   GST_RTP_H263_PAYLOAD_PICTURE_FORMAT_CIF = 3,
  48   GST_RTP_H263_PAYLOAD_PICTURE_FORMAT_4CIF = 4,
  49   GST_RTP_H263_PAYLOAD_PICTURE_FORMAT_16CIF = 5,
  50   GST_RTP_H263_PAYLOAD_PICTURE_FORMAT_RES2 = 6,
  51   GST_H263_PAYLOAD_PICTURE_FORMAT_PLUS = 7
  52 } GstRtpH263PayPictureFormat;
  53
  54 static const guint format_props[8][2] = { {254, 254},
  55 {6, 8},
  56 {9, 11},
  57 {18, 22},
  58 {18, 88},
  59 {18, 352},
  60 {254, 254},
  61 {255, 255}
  62 };
  63
  64 /*
  65  * I-frame MCBPC table: code, mask, nbits, cb, cr, mb type -> 10 = undefined (because we have guint)
  66  */
  67 #define MCBPC_I_LEN 9
  68 #define MCBPC_I_WID 6
  69 static const guint32 mcbpc_I[9][6] = {
  70   {0x8000, 0x8000, 1, 0, 0, 3},
  71   {0x2000, 0xe000, 3, 0, 1, 3},
  72   {0x4000, 0xe000, 3, 1, 0, 3},
  73   {0x6000, 0xe000, 3, 1, 1, 3},
  74   {0x1000, 0xf000, 4, 0, 0, 4},
  75   {0x0400, 0xfc00, 6, 0, 1, 4},
  76   {0x0800, 0xfc00, 6, 1, 0, 4},
  77   {0x0c00, 0xfc00, 6, 1, 1, 4},
  78   {0x0080, 0xff80, 9, 10, 10, 10}
  79 };
  80
  81 /*
  82  * P-frame MCBPC table: code, mask, nbits, cb, cr, mb type -> 10 = undefined (because we have guint)
  83  */
  84 #define MCBPC_P_LEN 21
  85 #define MCBPC_P_WID 6
  86 static const guint16 mcbpc_P[21][6] = {
  87   {0x8000, 0x8000, 1, 0, 0, 0},
  88   {0x3000, 0xf000, 4, 0, 1, 0},
  89   {0x2000, 0xf000, 4, 1, 0, 0},
  90   {0x1400, 0xfc00, 6, 1, 1, 0},
  91   {0x6000, 0xe000, 3, 0, 0, 1},
  92   {0x0e00, 0xfe00, 7, 0, 1, 1},
  93   {0x0c00, 0xfe00, 7, 1, 0, 1},
  94   {0x0280, 0xff80, 9, 1, 1, 1},
  95   {0x4000, 0xe000, 3, 0, 0, 2},
  96   {0x0a00, 0xfe00, 7, 0, 1, 2},
  97   {0x0800, 0xfe00, 7, 1, 0, 2},
  98   {0x0500, 0xff00, 8, 1, 1, 2},
  99   {0x1800, 0xf800, 5, 0, 0, 3},
 100   {0x0400, 0xff00, 8, 0, 1, 3},
 101   {0x0300, 0xff00, 8, 1, 0, 3},
 102   {0x0600, 0xfe00, 7, 1, 1, 3},
 103   {0x1000, 0xfc00, 6, 0, 0, 4},
 104   {0x0200, 0xff80, 9, 0, 1, 4},
 105   {0x0180, 0xff80, 9, 1, 0, 4},
 106   {0x0100, 0xff80, 9, 1, 1, 4},
 107   {0x0080, 0xff80, 9, 10, 10, 10}
 108 };
 109
 110 /*
 111  * I-frame CBPY (code, mask, nbits, Y0, Y1, Y2, Y3)
 112  */
 113 #define CBPY_LEN 16
 114 #define CBPY_WID 7
 115 static const guint8 cbpy_I[16][7] = {
 116   {0x30, 0xf0, 4, 0, 0, 0, 0},
 117   {0x28, 0xf8, 5, 0, 0, 0, 1},
 118   {0x20, 0xf8, 5, 0, 0, 1, 0},
 119   {0x90, 0xf0, 4, 0, 0, 1, 1},
 120   {0x18, 0xf8, 5, 0, 1, 0, 0},
 121   {0x70, 0xf0, 4, 0, 1, 0, 1},
 122   {0x08, 0xfc, 6, 0, 1, 1, 0},
 123   {0xb0, 0xf0, 4, 0, 1, 1, 1},
 124   {0x10, 0xf8, 5, 1, 0, 0, 0},
 125   {0x0c, 0xfc, 6, 1, 0, 0, 1},
 126   {0x50, 0xf0, 4, 1, 0, 1, 0},
 127   {0xa0, 0xf0, 4, 1, 0, 1, 1},
 128   {0x40, 0xf0, 4, 1, 1, 0, 0},
 129   {0x80, 0xf0, 4, 1, 1, 0, 1},
 130   {0x60, 0xf0, 4, 1, 1, 1, 0},
 131   {0xc0, 0xc0, 2, 1, 1, 1, 1}
 132 };
 133
 134 /*
 135  * P-frame CBPY (code, mask, nbits, Y0, Y1, Y2, Y3)
 136  */
 137 static const guint8 cbpy_P[16][7] = {
 138   {0x30, 0xf0, 4, 1, 1, 1, 1},
 139   {0x28, 0xf8, 5, 1, 1, 1, 0},
 140   {0x20, 0xf8, 5, 1, 1, 0, 1},
 141   {0x90, 0xf0, 4, 1, 1, 0, 0},
 142   {0x18, 0xf8, 5, 1, 0, 1, 1},
 143   {0x70, 0xf0, 4, 1, 0, 1, 0},
 144   {0x08, 0xfc, 6, 1, 0, 0, 1},
 145   {0xb0, 0xf0, 4, 1, 0, 0, 0},
 146   {0x10, 0xf8, 5, 0, 1, 1, 1},
 147   {0x0c, 0xfc, 6, 0, 1, 1, 0},
 148   {0x50, 0xf0, 4, 0, 1, 0, 1},
 149   {0xa0, 0xf0, 4, 0, 1, 0, 0},
 150   {0x40, 0xf0, 4, 0, 0, 1, 1},
 151   {0x80, 0xf0, 4, 0, 0, 1, 0},
 152   {0x60, 0xf0, 4, 0, 0, 0, 1},
 153   {0xc0, 0xc0, 2, 0, 0, 0, 0}
 154 };
 155
 156 /*
 157  * Block TCOEF table (code, mask, nbits, LAST, RUN, LEVEL)
 158  */
 159 #define TCOEF_LEN 103
 160 #define TCOEF_WID 6
 161 static const guint16 tcoef[103][6] = {
 162   {0x8000, 0xc000, 3, 0, 0, 1},
 163   {0xf000, 0xf000, 5, 0, 0, 2},
 164   {0x5400, 0xfc00, 7, 0, 0, 3},
 165   {0x2e00, 0xfe00, 8, 0, 0, 4},
 166   {0x1f00, 0xff00, 9, 0, 0, 5},
 167   {0x1280, 0xff80, 10, 0, 0, 6},
 168   {0x1200, 0xff80, 10, 0, 0, 7},
 169   {0x0840, 0xffc0, 11, 0, 0, 8},
 170   {0x0800, 0xffc0, 11, 0, 0, 9},
 171   {0x00e0, 0xffe0, 12, 0, 0, 10},       //10
 172   {0x00c0, 0xffe0, 12, 0, 0, 11},
 173   {0x0400, 0xffe0, 12, 0, 0, 12},
 174   {0xc000, 0xe000, 4, 0, 1, 1},
 175   {0x5000, 0xfc00, 7, 0, 1, 2},
 176   {0x1e00, 0xff00, 9, 0, 1, 3},
 177   {0x03c0, 0xffc0, 11, 0, 1, 4},
 178   {0x0420, 0xffe0, 12, 0, 1, 5},
 179   {0x0500, 0xfff0, 13, 0, 1, 6},
 180   {0xe000, 0xf000, 5, 0, 2, 1},
 181   {0x1d00, 0xff00, 9, 0, 2, 2}, //20
 182   {0x0380, 0xffc0, 11, 0, 2, 3},
 183   {0x0510, 0xfff0, 13, 0, 2, 4},
 184   {0x6800, 0xf800, 6, 0, 3, 1},
 185   {0x1180, 0xff80, 10, 0, 3, 2},
 186   {0x0340, 0xffc0, 11, 0, 3, 3},
 187   {0x6000, 0xf800, 6, 0, 4, 1},
 188   {0x1100, 0xff80, 10, 0, 4, 2},
 189   {0x0520, 0xfff0, 13, 0, 4, 3},
 190   {0x5800, 0xf800, 6, 0, 5, 1},
 191   {0x0300, 0xffc0, 11, 0, 5, 2},        // 30
 192   {0x0530, 0xfff0, 13, 0, 5, 3},
 193   {0x4c00, 0xfc00, 7, 0, 6, 1},
 194   {0x02c0, 0xffc0, 11, 0, 6, 2},
 195   {0x0540, 0xfff0, 13, 0, 6, 3},
 196   {0x4800, 0xfc00, 7, 0, 7, 1},
 197   {0x0280, 0xffc0, 11, 0, 7, 2},
 198   {0x4400, 0xfc00, 7, 0, 8, 1},
 199   {0x0240, 0xffc0, 11, 0, 8, 2},
 200   {0x4000, 0xfc00, 7, 0, 9, 1},
 201   {0x0200, 0xffc0, 11, 0, 9, 2},        // 40
 202   {0x2c00, 0xfe00, 8, 0, 10, 1},
 203   {0x0550, 0xfff0, 13, 0, 10, 2},
 204   {0x2a00, 0xfe00, 8, 0, 11, 1},
 205   {0x2800, 0xfe00, 8, 0, 12, 1},
 206   {0x1c00, 0xff00, 9, 0, 13, 1},
 207   {0x1b00, 0xff00, 9, 0, 14, 1},
 208   {0x1080, 0xff80, 10, 0, 15, 1},
 209   {0x1000, 0xff80, 10, 0, 16, 1},
 210   {0x0f80, 0xff80, 10, 0, 17, 1},
 211   {0x0f00, 0xff80, 10, 0, 18, 1},       // 50
 212   {0x0e80, 0xff80, 10, 0, 19, 1},
 213   {0x0e00, 0xff80, 10, 0, 20, 1},
 214   {0x0d80, 0xff80, 10, 0, 21, 1},
 215   {0x0d00, 0xff80, 10, 0, 22, 1},
 216   {0x0440, 0xffe0, 12, 0, 23, 1},
 217   {0x0460, 0xffe0, 12, 0, 24, 1},
 218   {0x0560, 0xfff0, 13, 0, 25, 1},
 219   {0x0570, 0xfff0, 13, 0, 26, 1},
 220   {0x7000, 0xf000, 5, 1, 0, 1},
 221   {0x0c80, 0xff80, 10, 1, 0, 2},        // 60
 222   {0x00a0, 0xffe0, 12, 1, 0, 3},
 223   {0x3c00, 0xfc00, 7, 1, 1, 1},
 224   {0x0080, 0xffe0, 12, 1, 1, 2},
 225   {0x3800, 0xfc00, 7, 1, 2, 1},
 226   {0x3400, 0xfc00, 7, 1, 3, 1},
 227   {0x3000, 0xfc00, 7, 1, 4, 1},
 228   {0x2600, 0xfe00, 8, 1, 5, 1},
 229   {0x2400, 0xfe00, 8, 1, 6, 1},
 230   {0x2200, 0xfe00, 8, 1, 7, 1},
 231   {0x2000, 0xfe00, 8, 1, 8, 1}, // 70
 232   {0x1a00, 0xff00, 9, 1, 9, 1},
 233   {0x1900, 0xff00, 9, 1, 10, 1},
 234   {0x1800, 0xff00, 9, 1, 11, 1},
 235   {0x1700, 0xff00, 9, 1, 12, 1},
 236   {0x1600, 0xff00, 9, 1, 13, 1},
 237   {0x1500, 0xff00, 9, 1, 14, 1},
 238   {0x1400, 0xff00, 9, 1, 15, 1},
 239   {0x1300, 0xff00, 9, 1, 16, 1},
 240   {0x0c00, 0xff80, 10, 1, 17, 1},
 241   {0x0b80, 0xff80, 10, 1, 18, 1},       // 80
 242   {0x0b00, 0xff80, 10, 1, 19, 1},
 243   {0x0a80, 0xff80, 10, 1, 20, 1},
 244   {0x0a00, 0xff80, 10, 1, 21, 1},
 245   {0x0980, 0xff80, 10, 1, 22, 1},
 246   {0x0900, 0xff80, 10, 1, 23, 1},
 247   {0x0880, 0xff80, 10, 1, 24, 1},
 248   {0x01c0, 0xffc0, 11, 1, 25, 1},
 249   {0x0180, 0xffc0, 11, 1, 26, 1},
 250   {0x0140, 0xffc0, 11, 1, 27, 1},
 251   {0x0100, 0xffc0, 11, 1, 28, 1},       // 90
 252   {0x0480, 0xffe0, 12, 1, 29, 1},
 253   {0x04a0, 0xffe0, 12, 1, 30, 1},
 254   {0x04c0, 0xffe0, 12, 1, 31, 1},
 255   {0x04e0, 0xffe0, 12, 1, 32, 1},
 256   {0x0580, 0xfff0, 13, 1, 33, 1},
 257   {0x0590, 0xfff0, 13, 1, 34, 1},
 258   {0x05a0, 0xfff0, 13, 1, 35, 1},
 259   {0x05b0, 0xfff0, 13, 1, 36, 1},
 260   {0x05c0, 0xfff0, 13, 1, 37, 1},
 261   {0x05d0, 0xfff0, 13, 1, 38, 1},       // 100
 262   {0x05e0, 0xfff0, 13, 1, 39, 1},
 263   {0x05f0, 0xfff0, 13, 1, 40, 1},
 264   {0x0600, 0xfe00, 7, 0, 0xffff, 0xffff}
 265 };
 266
 267 /*
 268  * Motion vector code table (Code, mask, nbits, vector (halfpixel, two's complement), diff (halfpixel, two's complement))
 269  */
 270 #define MVD_LEN 64
 271 #define MVD_WID 5
 272 static const guint16 mvd[64][5] = {
 273   {0x0028, 0xfff8, 13, 0x0060, 0x0020},
 274   {0x0038, 0xfff8, 13, 0x0061, 0x0021},
 275   {0x0050, 0xfff0, 12, 0x0062, 0x0022},
 276   {0x0070, 0xfff0, 12, 0x0063, 0x0023},
 277   {0x0090, 0xfff0, 12, 0x0064, 0x0024},
 278   {0x00b0, 0xfff0, 12, 0x0065, 0x0025},
 279   {0x00d0, 0xfff0, 12, 0x0066, 0x0026},
 280   {0x00f0, 0xfff0, 12, 0x0067, 0x0027},
 281   {0x0120, 0xffe0, 11, 0x0068, 0x0028},
 282   {0x0160, 0xffe0, 11, 0x0069, 0x0029},
 283   {0x01a0, 0xffe0, 11, 0x006a, 0x002a},
 284   {0x01e0, 0xffe0, 11, 0x006b, 0x002b},
 285   {0x0220, 0xffe0, 11, 0x006c, 0x002c},
 286   {0x0260, 0xffe0, 11, 0x006d, 0x002d},
 287   {0x02a0, 0xffe0, 11, 0x006e, 0x002e},
 288   {0x02e0, 0xffe0, 11, 0x006f, 0x002f},
 289   {0x0320, 0xffe0, 11, 0x0070, 0x0030},
 290   {0x0360, 0xffe0, 11, 0x0071, 0x0031},
 291   {0x03a0, 0xffe0, 11, 0x0072, 0x0032},
 292   {0x03e0, 0xffe0, 11, 0x0073, 0x0033},
 293   {0x0420, 0xffe0, 11, 0x0074, 0x0034},
 294   {0x0460, 0xffe0, 11, 0x0075, 0x0035},
 295   {0x04c0, 0xffc0, 10, 0x0076, 0x0036},
 296   {0x0540, 0xffc0, 10, 0x0077, 0x0037},
 297   {0x05c0, 0xffc0, 10, 0x0078, 0x0038},
 298   {0x0700, 0xff00, 8, 0x0079, 0x0039},
 299   {0x0900, 0xff00, 8, 0x007a, 0x003a},
 300   {0x0b00, 0xff00, 8, 0x007b, 0x003b},
 301   {0x0e00, 0xfe00, 7, 0x007c, 0x003c},
 302   {0x1800, 0xf800, 5, 0x007d, 0x003d},
 303   {0x3000, 0xf000, 4, 0x007e, 0x003e},
 304   {0x6000, 0xe000, 3, 0x007f, 0x003f},
 305   {0x8000, 0x8000, 1, 0x0000, 0x0000},
 306   {0x4000, 0xe000, 3, 0x0001, 0x0041},
 307   {0x2000, 0xf000, 4, 0x0002, 0x0042},
 308   {0x1000, 0xf800, 5, 0x0003, 0x0043},
 309   {0x0c00, 0xfe00, 7, 0x0004, 0x0044},
 310   {0x0a00, 0xff00, 8, 0x0005, 0x0045},
 311   {0x0800, 0xff00, 8, 0x0006, 0x0046},
 312   {0x0600, 0xff00, 8, 0x0007, 0x0047},
 313   {0x0580, 0xffc0, 10, 0x0008, 0x0048},
 314   {0x0500, 0xffc0, 10, 0x0009, 0x0049},
 315   {0x0480, 0xffc0, 10, 0x000a, 0x004a},
 316   {0x0440, 0xffe0, 11, 0x000b, 0x004b},
 317   {0x0400, 0xffe0, 11, 0x000c, 0x004c},
 318   {0x03c0, 0xffe0, 11, 0x000d, 0x004d},
 319   {0x0380, 0xffe0, 11, 0x000e, 0x004e},
 320   {0x0340, 0xffe0, 11, 0x000f, 0x004f},
 321   {0x0300, 0xffe0, 11, 0x0010, 0x0050},
 322   {0x02c0, 0xffe0, 11, 0x0011, 0x0051},
 323   {0x0280, 0xffe0, 11, 0x0012, 0x0052},
 324   {0x0240, 0xffe0, 11, 0x0013, 0x0053},
 325   {0x0200, 0xffe0, 11, 0x0014, 0x0054},
 326   {0x01c0, 0xffe0, 11, 0x0015, 0x0055},
 327   {0x0180, 0xffe0, 11, 0x0016, 0x0056},
 328   {0x0140, 0xffe0, 11, 0x0017, 0x0057},
 329   {0x0100, 0xffe0, 11, 0x0018, 0x0058},
 330   {0x00e0, 0xfff0, 12, 0x0019, 0x0059},
 331   {0x00c0, 0xfff0, 12, 0x001a, 0x005a},
 332   {0x00a0, 0xfff0, 12, 0x001b, 0x005b},
 333   {0x0080, 0xfff0, 12, 0x001c, 0x005c},
 334   {0x0060, 0xfff0, 12, 0x001d, 0x005d},
 335   {0x0040, 0xfff0, 12, 0x001e, 0x005e},
 336   {0x0030, 0xfff8, 13, 0x001f, 0x005f}
 337 };
 338
 339 GST_DEBUG_CATEGORY_STATIC (rtph263pay_debug);
 340 #define GST_CAT_DEFAULT (rtph263pay_debug)
 341
 342 #define GST_RTP_HEADER_LEN 12
 343
 344 enum
 345 {
 346   PROP_0,
 347   PROP_MODE_A_ONLY
 348 };
 349
 350 static GstStaticPadTemplate gst_rtp_h263_pay_sink_template =
 351 GST_STATIC_PAD_TEMPLATE ("sink",
 352     GST_PAD_SINK,
 353     GST_PAD_ALWAYS,
 354     GST_STATIC_CAPS ("video/x-h263, "
 355         "variant = (string) \"itu\", " "h263version = (string) \"h263\"")
 356     );
 357
 358 static GstStaticPadTemplate gst_rtp_h263_pay_src_template =
 359     GST_STATIC_PAD_TEMPLATE ("src",
 360     GST_PAD_SRC,
 361     GST_PAD_ALWAYS,
 362     GST_STATIC_CAPS ("application/x-rtp, "
 363         "media = (string) \"video\", "
 364         "payload = (int) " GST_RTP_PAYLOAD_H263_STRING ", "
 365         "clock-rate = (int) 90000, " "encoding-name = (string) \"H263\"; "
 366         "application/x-rtp, "
 367         "media = (string) \"video\", "
 368         "payload = (int) " GST_RTP_PAYLOAD_DYNAMIC_STRING ", "
 369         "clock-rate = (int) 90000, " "encoding-name = (string) \"H263\"")
 370     );
 371
 372 static void gst_rtp_h263_pay_finalize (GObject * object);
 373
 374 static gboolean gst_rtp_h263_pay_setcaps (GstRTPBasePayload * payload,
 375     GstCaps * caps);
 376 static void gst_rtp_h263_pay_set_property (GObject * object, guint prop_id,
 377     const GValue * value, GParamSpec * pspec);
 378 static void gst_rtp_h263_pay_get_property (GObject * object, guint prop_id,
 379     GValue * value, GParamSpec * pspec);
 380 static GstFlowReturn gst_rtp_h263_pay_handle_buffer (GstRTPBasePayload *
 381     payload, GstBuffer * buffer);
 382
 383 static void gst_rtp_h263_pay_boundry_init (GstRtpH263PayBoundry * boundry,
 384     guint8 * start, guint8 * end, guint8 sbit, guint8 ebit);
 385 static GstRtpH263PayGob *gst_rtp_h263_pay_gob_new (GstRtpH263PayBoundry *
 386     boundry, guint gobn);
 387 static GstRtpH263PayMB *gst_rtp_h263_pay_mb_new (GstRtpH263PayBoundry * boundry,
 388     guint mba);
 389 static GstRtpH263PayPackage *gst_rtp_h263_pay_package_new_empty ();
 390 static GstRtpH263PayPackage *gst_rtp_h263_pay_package_new (guint8 * start,
 391     guint8 * end, guint length, guint8 sbit, guint8 ebit, GstBuffer * outbuf,
 392     gboolean marker);
 393
 394 static void gst_rtp_h263_pay_mb_destroy (GstRtpH263PayMB * mb);
 395 static void gst_rtp_h263_pay_gob_destroy (GstRtpH263PayGob * gob, guint ind);
 396 static void gst_rtp_h263_pay_context_destroy (GstRtpH263PayContext * context,
 397     guint ind);
 398 static void gst_rtp_h263_pay_package_destroy (GstRtpH263PayPackage * pack);
 399
 400 #define gst_rtp_h263_pay_parent_class parent_class
 401 G_DEFINE_TYPE (GstRtpH263Pay, gst_rtp_h263_pay, GST_TYPE_RTP_BASE_PAYLOAD);
 402
 403 static void
 404 gst_rtp_h263_pay_class_init (GstRtpH263PayClass * klass)
 405 {
 406   GObjectClass *gobject_class;
 407   GstElementClass *gstelement_class;
 408   GstRTPBasePayloadClass *gstrtpbasepayload_class;
 409
 410   gobject_class = (GObjectClass *) klass;
 411   gstelement_class = (GstElementClass *) klass;
 412   gstrtpbasepayload_class = (GstRTPBasePayloadClass *) klass;
 413
 414   gobject_class->finalize = gst_rtp_h263_pay_finalize;
 415
 416   gstrtpbasepayload_class->set_caps = gst_rtp_h263_pay_setcaps;
 417   gstrtpbasepayload_class->handle_buffer = gst_rtp_h263_pay_handle_buffer;
 418   gobject_class->set_property = gst_rtp_h263_pay_set_property;
 419   gobject_class->get_property = gst_rtp_h263_pay_get_property;
 420
 421   g_object_class_install_property (G_OBJECT_CLASS (klass),
 422       PROP_MODE_A_ONLY, g_param_spec_boolean ("modea-only",
 423           "Fragment packets in mode A Only",
 424           "Disable packetization modes B and C", DEFAULT_MODE_A,
 425           G_PARAM_READWRITE | G_PARAM_STATIC_STRINGS));
 426
 427   gst_element_class_add_static_pad_template (gstelement_class,
 428       &gst_rtp_h263_pay_src_template);
 429   gst_element_class_add_static_pad_template (gstelement_class,
 430       &gst_rtp_h263_pay_sink_template);
 431
 432   gst_element_class_set_static_metadata (gstelement_class,
 433       "RTP H263 packet payloader", "Codec/Payloader/Network/RTP",
 434       "Payload-encodes H263 video in RTP packets (RFC 2190)",
 435       "Neil Stratford <neils@vipadia.com>"
 436       "Dejan Sakelsak <dejan.sakelsak@marand.si>");
 437
 438   GST_DEBUG_CATEGORY_INIT (rtph263pay_debug, "rtph263pay", 0,
 439       "H263 RTP Payloader");
 440 }
 441
 442 static void
 443 gst_rtp_h263_pay_init (GstRtpH263Pay * rtph263pay)
 444 {
 445   GST_RTP_BASE_PAYLOAD_PT (rtph263pay) = GST_RTP_PAYLOAD_H263;
 446   rtph263pay->prop_payload_mode = DEFAULT_MODE_A;
 447 }
 448
 449 static void
 450 gst_rtp_h263_pay_finalize (GObject * object)
 451 {
 452   GstRtpH263Pay *rtph263pay;
 453
 454   rtph263pay = GST_RTP_H263_PAY (object);
 455
 456   gst_buffer_replace (&rtph263pay->current_buffer, NULL);
 457
 458   G_OBJECT_CLASS (parent_class)->finalize (object);
 459 }
 460
 461 static gboolean
 462 gst_rtp_h263_pay_setcaps (GstRTPBasePayload * payload, GstCaps * caps)
 463 {
 464   GstStructure *s = gst_caps_get_structure (caps, 0);
 465   gint width, height;
 466   gchar *framesize = NULL;
 467   gboolean res;
 468
 469   if (gst_structure_has_field (s, "width") &&
 470       gst_structure_has_field (s, "height")) {
 471     if (!gst_structure_get_int (s, "width", &width) || width <= 0) {
 472       goto invalid_dimension;
 473     }
 474
 475     if (!gst_structure_get_int (s, "height", &height) || height <= 0) {
 476       goto invalid_dimension;
 477     }
 478
 479     framesize = g_strdup_printf ("%d-%d", width, height);
 480   }
 481
 482   gst_rtp_base_payload_set_options (payload, "video",
 483       payload->pt != GST_RTP_PAYLOAD_H263, "H263", 90000);
 484
 485   if (framesize != NULL) {
 486     res = gst_rtp_base_payload_set_outcaps (payload,
 487         "a-framesize", G_TYPE_STRING, framesize, NULL);
 488   } else {
 489     res = gst_rtp_base_payload_set_outcaps (payload, NULL);
 490   }
 491   g_free (framesize);
 492
 493   return res;
 494
 495   /* ERRORS */
 496 invalid_dimension:
 497   {
 498     GST_ERROR_OBJECT (payload, "Invalid width/height from caps");
 499     return FALSE;
 500   }
 501 }
 502
 503 static void
 504 gst_rtp_h263_pay_context_destroy (GstRtpH263PayContext * context, guint ind)
 505 {
 506   if (!context)
 507     return;
 508
 509   if (context->gobs) {
 510     guint i;
 511
 512     for (i = 0; i < format_props[ind][0]; i++) {
 513       if (context->gobs[i]) {
 514         gst_rtp_h263_pay_gob_destroy (context->gobs[i], ind);
 515       }
 516     }
 517
 518     g_free (context->gobs);
 519   }
 520
 521   g_free (context);
 522 }
 523
 524 static void
 525 gst_rtp_h263_pay_set_property (GObject * object, guint prop_id,
 526     const GValue * value, GParamSpec * pspec)
 527 {
 528   GstRtpH263Pay *rtph263pay;
 529
 530   rtph263pay = GST_RTP_H263_PAY (object);
 531
 532   switch (prop_id) {
 533     case PROP_MODE_A_ONLY:
 534       rtph263pay->prop_payload_mode = g_value_get_boolean (value);
 535       break;
 536     default:
 537       G_OBJECT_WARN_INVALID_PROPERTY_ID (object, prop_id, pspec);
 538       break;
 539   }
 540 }
 541
 542 static void
 543 gst_rtp_h263_pay_get_property (GObject * object, guint prop_id,
 544     GValue * value, GParamSpec * pspec)
 545 {
 546   GstRtpH263Pay *rtph263pay;
 547
 548   rtph263pay = GST_RTP_H263_PAY (object);
 549
 550   switch (prop_id) {
 551     case PROP_MODE_A_ONLY:
 552       g_value_set_boolean (value, rtph263pay->prop_payload_mode);
 553       break;
 554     default:
 555       G_OBJECT_WARN_INVALID_PROPERTY_ID (object, prop_id, pspec);
 556       break;
 557   }
 558 }
 559
 560 static GstRtpH263PayPackage *
 561 gst_rtp_h263_pay_package_new_empty (void)
 562 {
 563   return (GstRtpH263PayPackage *) g_malloc0 (sizeof (GstRtpH263PayPackage));
 564 }
 565
 566 static GstRtpH263PayPackage *
 567 gst_rtp_h263_pay_package_new (guint8 * start, guint8 * end, guint length,
 568     guint8 sbit, guint8 ebit, GstBuffer * outbuf, gboolean marker)
 569 {
 570
 571   GstRtpH263PayPackage *package;
 572
 573   package = gst_rtp_h263_pay_package_new_empty ();
 574
 575   package->payload_start = start;
 576   package->payload_end = end;
 577   package->payload_len = length;
 578   package->sbit = sbit;
 579   package->ebit = ebit;
 580   package->outbuf = outbuf;
 581   package->marker = marker;
 582
 583   return package;
 584 }
 585
 586 static void
 587 gst_rtp_h263_pay_package_destroy (GstRtpH263PayPackage * pack)
 588 {
 589   if (pack)
 590     g_free (pack);
 591 }
 592
 593 static void
 594 gst_rtp_h263_pay_boundry_init (GstRtpH263PayBoundry * boundry,
 595     guint8 * start, guint8 * end, guint8 sbit, guint8 ebit)
 596 {
 597   boundry->start = start;
 598   boundry->end = end;
 599   boundry->sbit = sbit;
 600   boundry->ebit = ebit;
 601 }
 602
 603 static void
 604 gst_rtp_h263_pay_splat_header_A (guint8 * header,
 605     GstRtpH263PayPackage * package, GstRtpH263PayPic * piclayer)
 606 {
 607
 608   GstRtpH263PayAHeader *a_header;
 609
 610   a_header = (GstRtpH263PayAHeader *) header;
 611
 612   a_header->f = 0;
 613   a_header->p = 0;
 614   a_header->sbit = package->sbit;
 615   a_header->ebit = package->ebit;
 616   a_header->src = GST_H263_PICTURELAYER_PLSRC (piclayer);
 617   a_header->i = GST_H263_PICTURELAYER_PLTYPE (piclayer);
 618   a_header->u = GST_H263_PICTURELAYER_PLUMV (piclayer);
 619   a_header->s = GST_H263_PICTURELAYER_PLSAC (piclayer);
 620   a_header->a = GST_H263_PICTURELAYER_PLAP (piclayer);
 621   a_header->r1 = 0;
 622   a_header->r2 = 0;
 623   a_header->dbq = 0;
 624   a_header->trb = 0;
 625   a_header->tr = 0;
 626
 627 }
 628
 629 static void
 630 gst_rtp_h263_pay_splat_header_B (guint8 * header,
 631     GstRtpH263PayPackage * package, GstRtpH263PayPic * piclayer)
 632 {
 633
 634   GstRtpH263PayBHeader *b_header;
 635
 636   b_header = (GstRtpH263PayBHeader *) header;
 637
 638   b_header->f = 1;
 639   b_header->p = 0;
 640   b_header->sbit = package->sbit;
 641   b_header->ebit = package->ebit;
 642   b_header->src = GST_H263_PICTURELAYER_PLSRC (piclayer);
 643   b_header->quant = package->quant;
 644   b_header->gobn = package->gobn;
 645   b_header->mba1 = package->mba >> 6;
 646   b_header->mba2 = package->mba & 0x003f;
 647   b_header->r = 0;
 648   b_header->i = GST_H263_PICTURELAYER_PLTYPE (piclayer);
 649   b_header->u = GST_H263_PICTURELAYER_PLUMV (piclayer);
 650   b_header->s = GST_H263_PICTURELAYER_PLSAC (piclayer);
 651   b_header->a = GST_H263_PICTURELAYER_PLAP (piclayer);
 652
 653   b_header->hmv11 = 0;
 654   b_header->hmv12 = 0;
 655   b_header->vmv11 = 0;
 656   b_header->vmv12 = 0;
 657   b_header->hmv21 = 0;
 658   b_header->hmv22 = 0;
 659   b_header->vmv21 = 0;
 660
 661   if (package->nmvd > 0) {
 662     //mvd[0]
 663     b_header->hmv11 = (package->mvd[0] & 0x7f) >> 3;
 664     b_header->hmv12 = (package->mvd[0] & 0x07);
 665     //mvd[1]
 666     b_header->vmv11 = (package->mvd[1] & 0x07f) >> 2;
 667     b_header->vmv12 = (package->mvd[1] & 0x03);
 668
 669     if (package->nmvd == 8) {
 670       //mvd[4]
 671       b_header->hmv21 = (package->mvd[4] & 0x7f) >> 1;
 672       b_header->hmv22 = (package->mvd[4] & 0x01);
 673       //mvd[5]
 674       b_header->vmv21 = (package->mvd[5] & 0x7f);
 675     }
 676   }
 677
 678 }
 679
 680 static gboolean
 681 gst_rtp_h263_pay_gobfinder (GstRtpH263Pay * rtph263pay,
 682     GstRtpH263PayBoundry * boundry)
 683 {
 684   guint8 *current;
 685   guint range;
 686   guint i;
 687
 688   current = boundry->end + 1;
 689   range = (rtph263pay->data - current) + rtph263pay->available_data;
 690
 691
 692   GST_DEBUG_OBJECT (rtph263pay, "Searching for next GOB, data:%p, len:%u, payload_len:%p,"
 693       " current:%p, range:%u", rtph263pay->data, rtph263pay->available_data,
 694       boundry->end + 1, current, range);
 695
 696   /* If we are past the end, stop */
 697   if (current >= rtph263pay->data + rtph263pay->available_data)
 698     return FALSE;
 699
 700   for (i = 3; i < range - 3; i++) {
 701     if ((current[i] == 0x0) &&
 702         (current[i + 1] == 0x0) && (current[i + 2] >> 7 == 0x1)) {
 703       GST_LOG_OBJECT (rtph263pay, "GOB end found at: %p start: %p len: %u", current + i - 1,
 704           boundry->end + 1, (guint) (current + i - boundry->end + 2));
 705       gst_rtp_h263_pay_boundry_init (boundry, boundry->end + 1,
 706           current + i - 1, 0, 0);
 707
 708       return TRUE;
 709     }
 710   }
 711
 712   GST_DEBUG_OBJECT (rtph263pay, "Couldn't find any new GBSC in this frame, range:%u", range);
 713
 714   gst_rtp_h263_pay_boundry_init (boundry, boundry->end + 1,
 715       (guint8 *) (rtph263pay->data + rtph263pay->available_data - 1), 0, 0);
 716
 717   return TRUE;
 718 }
 719
 720 static GstRtpH263PayGob *
 721 gst_rtp_h263_pay_gob_new (GstRtpH263PayBoundry * boundry, guint gobn)
 722 {
 723   GstRtpH263PayGob *gob;
 724
 725   gob = (GstRtpH263PayGob *) g_malloc0 (sizeof (GstRtpH263PayGob));
 726
 727   gob->start = boundry->start;
 728   gob->end = boundry->end;
 729   gob->length = boundry->end - boundry->start + 1;
 730   gob->ebit = boundry->ebit;
 731   gob->sbit = boundry->sbit;
 732   gob->gobn = gobn;
 733   gob->quant = 0;
 734   gob->macroblocks = NULL;
 735   gob->nmacroblocs = 0;
 736
 737   return gob;
 738 }
 739
 740 static void
 741 gst_rtp_h263_pay_gob_destroy (GstRtpH263PayGob * gob, guint ind)
 742 {
 743
 744   if (!gob)
 745     return;
 746
 747   if (gob->macroblocks) {
 748
 749     guint i;
 750
 751     for (i = 0; i < gob->nmacroblocs; i++) {
 752       gst_rtp_h263_pay_mb_destroy (gob->macroblocks[i]);
 753     }
 754
 755     g_free (gob->macroblocks);
 756   }
 757
 758   g_free (gob);
 759 }
 760
 761 /*
 762  * decode MCBPC for I frames and return index in table or -1 if not found
 763  */
 764 static gint
 765 gst_rtp_h263_pay_decode_mcbpc_I (GstRtpH263Pay * rtph263pay, guint32 value)
 766 {
 767
 768   gint i;
 769   guint16 code;
 770
 771   code = value >> 16;
 772
 773   GST_TRACE_OBJECT (rtph263pay, "value:0x%08x, code:0x%04x", value, code);
 774
 775   for (i = 0; i < MCBPC_I_LEN; i++) {
 776     if ((code & mcbpc_I[i][1]) == mcbpc_I[i][0]) {
 777       return i;
 778     }
 779   }
 780
 781   GST_WARNING_OBJECT (rtph263pay, "Couldn't find code, returning -1");
 782
 783   return -1;
 784 }
 785
 786 /*
 787  * decode MCBPC for P frames and return index in table or -1 if not found
 788  */
 789 static gint
 790 gst_rtp_h263_pay_decode_mcbpc_P (GstRtpH263Pay * rtph263pay, guint32 value)
 791 {
 792
 793   gint i;
 794   guint16 code;
 795
 796   code = value >> 16;
 797
 798   GST_TRACE_OBJECT (rtph263pay, "value:0x%08x, code:0x%04x", value, code);
 799
 800   for (i = 0; i < MCBPC_P_LEN; i++) {
 801     if ((code & mcbpc_P[i][1]) == mcbpc_P[i][0]) {
 802       return i;
 803     }
 804   }
 805
 806   GST_WARNING_OBJECT (rtph263pay, "Couldn't find code, returning -1");
 807
 808   return -1;
 809 }
 810
 811 /*
 812  * decode CBPY and return index in table or -1 if not found
 813  */
 814 static gint
 815 gst_rtp_h263_pay_decode_cbpy (GstRtpH263Pay * rtph263pay, guint32 value, const guint8 cbpy_table[16][7])
 816 {
 817
 818   gint i;
 819   guint8 code;
 820
 821   code = value >> 24;
 822
 823   GST_TRACE_OBJECT (rtph263pay, "value:0x%08x, code:0x%04x", value, code);
 824
 825   for (i = 0; i < CBPY_LEN; i++) {
 826     if ((code & cbpy_table[i][1]) == cbpy_table[i][0]) {
 827       return i;
 828     }
 829   }
 830
 831   GST_WARNING_OBJECT (rtph263pay, "Couldn't find code, returning -1");
 832
 833   return -1;
 834 }
 835
 836 /*
 837  * decode MVD and return index in table or -1 if not found
 838  */
 839 static gint
 840 gst_rtp_h263_pay_decode_mvd (GstRtpH263Pay * rtph263pay, guint32 value)
 841 {
 842
 843   gint i;
 844   guint16 code;
 845
 846   code = value >> 16;
 847
 848   GST_TRACE_OBJECT (rtph263pay, "value:0x%08x, code:0x%04x", value, code);
 849
 850   for (i = 0; i < MVD_LEN; i++) {
 851     if ((code & mvd[i][1]) == mvd[i][0]) {
 852       return i;
 853     }
 854   }
 855
 856   GST_WARNING_OBJECT (rtph263pay, "Couldn't find code, returning -1");
 857
 858   return -1;
 859 }
 860
 861 /*
 862  * decode TCOEF and return index in table or -1 if not found
 863  */
 864 static gint
 865 gst_rtp_h263_pay_decode_tcoef (GstRtpH263Pay * rtph263pay, guint32 value)
 866 {
 867
 868   gint i;
 869   guint16 code;
 870
 871   code = value >> 16;
 872
 873   GST_TRACE_OBJECT (rtph263pay, "value:0x%08x, code:0x%04x", value, code);
 874
 875   for (i = 0; i < TCOEF_LEN; i++) {
 876     if ((code & tcoef[i][1]) == tcoef[i][0]) {
 877       GST_TRACE_OBJECT (rtph263pay, "tcoef is %d", i);
 878       return i;
 879     }
 880   }
 881
 882   GST_WARNING_OBJECT (rtph263pay, "Couldn't find code, returning -1");
 883
 884   return -1;
 885 }
 886
 887 /*
 888  * the 32-bit register is like a window that we move right for "move_bits" to get the next v "data" h263 field
 889  * "rest_bits" tells how many bits in the "data" byte address are still not used
 890  */
 891
 892 static gint
 893 gst_rtp_h263_pay_move_window_right (GstRtpH263Pay * rtph263pay, GstRtpH263PayContext * context, guint n,
 894     guint rest_bits, guint8 ** orig_data, guint8 ** data_end)
 895 {
 896
 897   GST_TRACE_OBJECT (rtph263pay,
 898       "Moving window: 0x%08x from: %p for %d bits, rest_bits: %d, data_end %p",
 899       context->window, context->win_end, n, rest_bits, *data_end);
 900
 901   if (n == 0)
 902     return rest_bits;
 903
 904   while (n != 0 || context->win_end == ((*data_end) + 1)) {
 905     guint8 b = context->win_end <= *data_end ? *context->win_end : 0;
 906     if (rest_bits == 0) {
 907       if (n > 8) {
 908         context->window = (context->window << 8) | b;
 909         n -= 8;
 910       } else {
 911         context->window = (context->window << n) | (b >> (8 - n));
 912         rest_bits = 8 - n;
 913         if (rest_bits == 0)
 914           context->win_end++;
 915         break;
 916       }
 917     } else {
 918       if (n > rest_bits) {
 919         context->window = (context->window << rest_bits) |
 920             (b & (((guint) pow (2.0, (double) rest_bits)) - 1));
 921         n -= rest_bits;
 922         rest_bits = 0;
 923       } else {
 924         context->window = (context->window << n) |
 925             ((b & (((guint) pow (2.0, (double) rest_bits)) - 1)) >>
 926             (rest_bits - n));
 927         rest_bits -= n;
 928         if (rest_bits == 0)
 929           context->win_end++;
 930         break;
 931       }
 932     }
 933
 934     context->win_end++;
 935   }
 936
 937   *orig_data = context->win_end - 4;
 938
 939   GST_TRACE_OBJECT (rtph263pay,
 940       "Window moved to %p with value: 0x%08x and orig_data: %p rest_bits: %d",
 941       context->win_end, context->window, *orig_data, rest_bits);
 942   return rest_bits;
 943 }
 944
 945 /*
 946  * Find the start of the next MB (end of the current MB)
 947  * returns the number of excess bits and stores the end of the MB in end
 948  * data must be placed on first MB byte
 949  */
 950 static GstRtpH263PayMB *
 951 gst_rtp_h263_pay_B_mbfinder (GstRtpH263Pay * rtph263pay, GstRtpH263PayContext * context,
 952     GstRtpH263PayGob * gob, GstRtpH263PayMB * macroblock, guint mba)
 953 {
 954   guint mb_type_index;
 955   guint cbpy_type_index;
 956   guint tcoef_type_index;
 957   GstRtpH263PayMB *mac;
 958   GstRtpH263PayBoundry boundry;
 959
 960   gst_rtp_h263_pay_boundry_init (&boundry, macroblock->end,
 961       macroblock->end, 8 - macroblock->ebit, macroblock->ebit);
 962   mac = gst_rtp_h263_pay_mb_new (&boundry, mba);
 963
 964   if (mac->sbit == 8) {
 965     mac->start++;
 966 //     mac->end++;
 967     mac->sbit = 0;
 968   }
 969
 970   GST_LOG_OBJECT (rtph263pay, "current_pos:%p, end:%p, rest_bits:%d, window:0x%08x",
 971       mac->start, mac->end, macroblock->ebit, context->window);
 972
 973   if (context->piclayer->ptype_pictype == 0) {
 974     //We have an I frame
 975     gint i;
 976     guint last;
 977     guint ind;
 978
 979     //Step 2 decode MCBPC I
 980     mb_type_index = gst_rtp_h263_pay_decode_mcbpc_I (rtph263pay, context->window);
 981
 982     GST_TRACE_OBJECT (rtph263pay, "MCBPC index: %d", mb_type_index);
 983     if (mb_type_index == -1) {
 984       GST_ERROR_OBJECT (rtph263pay, "MB index shouldn't be -1 in window: %08x", context->window);
 985       goto beach;
 986     }
 987
 988     mac->ebit =
 989         gst_rtp_h263_pay_move_window_right (rtph263pay, context, mcbpc_I[mb_type_index][2],
 990         mac->ebit, &mac->end, &gob->end);
 991
 992     mac->mb_type = mcbpc_I[mb_type_index][5];
 993
 994     if (mb_type_index == 8) {
 995       GST_TRACE_OBJECT (rtph263pay, "Stuffing skipping rest of MB header");
 996       return mac;
 997     }
 998     //Step 3 decode CBPY I
 999     cbpy_type_index = gst_rtp_h263_pay_decode_cbpy (rtph263pay, context->window, cbpy_I);
1000
1001     GST_TRACE_OBJECT (rtph263pay, "CBPY index: %d", cbpy_type_index);
1002     if (cbpy_type_index == -1) {
1003       GST_ERROR_OBJECT (rtph263pay, "CBPY index shouldn't be -1 in window: %08x", context->window);
1004       goto beach;
1005     }
1006
1007     mac->ebit =
1008         gst_rtp_h263_pay_move_window_right (rtph263pay, context, cbpy_I[cbpy_type_index][2],
1009         mac->ebit, &mac->end, &gob->end);
1010
1011     //Step 4 decode rest of MB
1012     //MB type 1 and 4 have DQUANT - we store it for packaging purposes
1013     if (mcbpc_I[mb_type_index][5] == 4) {
1014       GST_TRACE_OBJECT (rtph263pay, "Shifting DQUANT");
1015
1016       mac->quant = (context->window >> 30);
1017
1018       mac->ebit =
1019           gst_rtp_h263_pay_move_window_right (rtph263pay, context, 2, mac->ebit, &mac->end,
1020           &gob->end);
1021     }
1022     //Step 5 go trough the blocks - decode DC and TCOEF
1023     last = 0;
1024     for (i = 0; i < N_BLOCKS; i++) {
1025
1026       GST_TRACE_OBJECT (rtph263pay, "Decoding INTRADC and TCOEF, i:%d", i);
1027       mac->ebit =
1028           gst_rtp_h263_pay_move_window_right (rtph263pay, context, 8, mac->ebit, &mac->end,
1029           &gob->end);
1030
1031       if (i > 3) {
1032         ind = mcbpc_I[mb_type_index][i - 1];
1033       } else {
1034         ind = cbpy_I[cbpy_type_index][i + 3];
1035       }
1036
1037       if (ind == 1) {
1038         while (last == 0) {
1039           tcoef_type_index = gst_rtp_h263_pay_decode_tcoef (rtph263pay, context->window);
1040
1041           GST_TRACE_OBJECT (rtph263pay, "TCOEF index: %d", tcoef_type_index);
1042           if (tcoef_type_index == -1) {
1043             GST_ERROR_OBJECT (rtph263pay, "TCOEF index shouldn't be -1 in window: %08x",
1044                 context->window);
1045             goto beach;
1046           }
1047           mac->ebit =
1048               gst_rtp_h263_pay_move_window_right (rtph263pay, context,
1049               tcoef[tcoef_type_index][2], mac->ebit, &mac->end, &gob->end);
1050
1051           last = tcoef[tcoef_type_index][3];
1052           if (tcoef_type_index == 102) {
1053             if ((context->window & 0x80000000) == 0x80000000)
1054               last = 1;
1055             else
1056               last = 0;
1057
1058             mac->ebit =
1059                 gst_rtp_h263_pay_move_window_right (rtph263pay, context, 15,
1060                 mac->ebit, &mac->end, &gob->end);
1061           }
1062         }
1063         last = 0;
1064       }
1065     }
1066
1067   } else {
1068     //We have a P frame
1069     guint i;
1070     guint last;
1071     guint ind;
1072
1073     //Step 1 check COD
1074     GST_TRACE_OBJECT (rtph263pay, "Checking for COD");
1075     if ((context->window & 0x80000000) == 0x80000000) {
1076       //The MB is not coded
1077       mac->ebit =
1078           gst_rtp_h263_pay_move_window_right (rtph263pay, context, 1, mac->ebit, &mac->end,
1079           &gob->end);
1080       GST_TRACE_OBJECT (rtph263pay, "COOOOOOOOOOOD = 1");
1081
1082       return mac;
1083     } else {
1084       //The MB is coded
1085       mac->ebit =
1086           gst_rtp_h263_pay_move_window_right (rtph263pay, context, 1, mac->ebit, &mac->end,
1087           &gob->end);
1088     }
1089
1090     //Step 2 decode MCBPC P
1091     mb_type_index = gst_rtp_h263_pay_decode_mcbpc_P (rtph263pay, context->window);
1092
1093     GST_TRACE_OBJECT (rtph263pay, "MCBPC index: %d", mb_type_index);
1094     if (mb_type_index == -1) {
1095       GST_ERROR_OBJECT (rtph263pay, "MB index shouldn't be -1 in window: %08x", context->window);
1096       goto beach;
1097     }
1098     mac->ebit =
1099         gst_rtp_h263_pay_move_window_right (rtph263pay, context, mcbpc_P[mb_type_index][2],
1100         mac->ebit, &mac->end, &gob->end);
1101
1102     mac->mb_type = mcbpc_P[mb_type_index][5];
1103
1104     if (mb_type_index == 20) {
1105       GST_TRACE_OBJECT (rtph263pay, "Stuffing skipping rest of MB header");
1106       return mac;
1107     }
1108     //Step 3 decode CBPY P
1109     cbpy_type_index = gst_rtp_h263_pay_decode_cbpy (rtph263pay, context->window, cbpy_P);
1110
1111     GST_TRACE_OBJECT (rtph263pay, "CBPY index: %d", cbpy_type_index);
1112     if (cbpy_type_index == -1) {
1113       GST_ERROR_OBJECT (rtph263pay, "CBPY index shouldn't be -1 in window: %08x", context->window);
1114       goto beach;
1115     }
1116     mac->ebit =
1117         gst_rtp_h263_pay_move_window_right (rtph263pay, context, cbpy_P[cbpy_type_index][2],
1118         mac->ebit, &mac->end, &gob->end);
1119
1120     //MB type 1 and 4 have DQUANT - we add it to MB object and jump over
1121     if (mcbpc_P[mb_type_index][5] == 4 || mcbpc_P[mb_type_index][5] == 1) {
1122       GST_TRACE_OBJECT (rtph263pay, "Shifting DQUANT");
1123
1124       mac->quant = context->window >> 30;
1125
1126       mac->ebit =
1127           gst_rtp_h263_pay_move_window_right (rtph263pay, context, 2, mac->ebit, &mac->end,
1128           &gob->end);
1129     }
1130     //MB types < 3 have MVD1-4
1131     if (mcbpc_P[mb_type_index][5] < 3) {
1132
1133       guint nmvd;
1134       gint j;
1135
1136       nmvd = 2;
1137       if (mcbpc_P[mb_type_index][5] == 2)
1138         nmvd = 8;
1139
1140       for (j = 0; j < nmvd; j++) {
1141         guint mvd_type;
1142
1143         mvd_type = gst_rtp_h263_pay_decode_mvd (rtph263pay, context->window);
1144
1145         if (mvd_type == -1) {
1146           GST_ERROR_OBJECT (rtph263pay, "MVD1-4 index shouldn't be -1 in window: %08x",
1147               context->window);
1148           goto beach;
1149         }
1150         //set the MB mvd values
1151         mac->mvd[j] = mvd[mvd_type][3];
1152
1153         mac->ebit =
1154             gst_rtp_h263_pay_move_window_right (rtph263pay, context, mvd[mvd_type][2],
1155             mac->ebit, &mac->end, &gob->end);
1156       }
1157
1158
1159     }
1160     //Step 5 go trough the blocks - decode DC and TCOEF
1161     last = 0;
1162     for (i = 0; i < N_BLOCKS; i++) {
1163
1164       //if MB type 3 or 4 then INTRADC coef are present in blocks
1165       if (mcbpc_P[mb_type_index][5] > 2) {
1166         GST_TRACE_OBJECT (rtph263pay, "INTRADC coef: %d", i);
1167         mac->ebit =
1168             gst_rtp_h263_pay_move_window_right (rtph263pay, context, 8, mac->ebit,
1169             &mac->end, &gob->end);
1170       } else {
1171         GST_TRACE_OBJECT (rtph263pay, "INTRADC coef is not present");
1172       }
1173
1174       //check if the block has TCOEF
1175       if (i > 3) {
1176         ind = mcbpc_P[mb_type_index][i - 1];
1177       } else {
1178         if (mcbpc_P[mb_type_index][5] > 2) {
1179           ind = cbpy_I[cbpy_type_index][i + 3];
1180         } else {
1181           ind = cbpy_P[cbpy_type_index][i + 3];
1182         }
1183       }
1184
1185       if (ind == 1) {
1186         while (last == 0) {
1187           tcoef_type_index = gst_rtp_h263_pay_decode_tcoef (rtph263pay, context->window);
1188
1189           GST_TRACE_OBJECT (rtph263pay, "TCOEF index: %d", tcoef_type_index);
1190           if (tcoef_type_index == -1) {
1191             GST_ERROR_OBJECT (rtph263pay, "TCOEF index shouldn't be -1 in window: %08x",
1192                 context->window);
1193             goto beach;
1194           }
1195
1196           mac->ebit =
1197               gst_rtp_h263_pay_move_window_right (rtph263pay, context,
1198               tcoef[tcoef_type_index][2], mac->ebit, &mac->end, &gob->end);
1199
1200           last = tcoef[tcoef_type_index][3];
1201           if (tcoef_type_index == 102) {
1202             if ((context->window & 0x80000000) == 0x80000000)
1203               last = 1;
1204             else
1205               last = 0;
1206
1207             mac->ebit =
1208                 gst_rtp_h263_pay_move_window_right (rtph263pay, context, 15,
1209                 mac->ebit, &mac->end, &gob->end);
1210           }
1211         }
1212         last = 0;
1213       }
1214     }
1215   }
1216
1217   mac->length = mac->end - mac->start + 1;
1218
1219   return mac;
1220
1221 beach:
1222   return NULL;
1223 }
1224
1225 static GstRtpH263PayMB *
1226 gst_rtp_h263_pay_mb_new (GstRtpH263PayBoundry * boundry, guint mba)
1227 {
1228   GstRtpH263PayMB *mb;
1229   gint i;
1230
1231   mb = (GstRtpH263PayMB *) g_malloc0 (sizeof (GstRtpH263PayMB));
1232
1233   mb->start = boundry->start;
1234   mb->end = boundry->end;
1235   mb->length = boundry->end - boundry->start + 1;
1236   mb->sbit = boundry->sbit;
1237   mb->ebit = boundry->ebit;
1238   mb->mba = mba;
1239
1240   for (i = 0; i < 5; i++)
1241     mb->mvd[i] = 0;
1242
1243   return mb;
1244 }
1245
1246 static void
1247 gst_rtp_h263_pay_mb_destroy (GstRtpH263PayMB * mb)
1248 {
1249   if (!mb)
1250     return;
1251
1252   g_free (mb);
1253 }
1254
1255 static GstFlowReturn
1256 gst_rtp_h263_pay_push (GstRtpH263Pay * rtph263pay,
1257     GstRtpH263PayContext * context, GstRtpH263PayPackage * package)
1258 {
1259
1260   /*
1261    * Splat the payload header values
1262    */
1263   guint8 *header;
1264   GstFlowReturn ret;
1265   GstRTPBuffer rtp = { NULL };
1266
1267   gst_rtp_buffer_map (package->outbuf, GST_MAP_WRITE, &rtp);
1268
1269   header = gst_rtp_buffer_get_payload (&rtp);
1270
1271   switch (package->mode) {
1272     case GST_RTP_H263_PAYLOAD_HEADER_MODE_A:
1273       GST_LOG_OBJECT (rtph263pay, "Pushing A packet");
1274       gst_rtp_h263_pay_splat_header_A (header, package, context->piclayer);
1275       break;
1276     case GST_RTP_H263_PAYLOAD_HEADER_MODE_B:
1277       GST_LOG_OBJECT (rtph263pay, "Pushing B packet");
1278       gst_rtp_h263_pay_splat_header_B (header, package, context->piclayer);
1279       break;
1280     case GST_RTP_H263_PAYLOAD_HEADER_MODE_C:
1281       //gst_rtp_h263_pay_splat_header_C(header, package, context->piclayer);
1282       //break;
1283     default:
1284       return GST_FLOW_ERROR;
1285   }
1286
1287   /*
1288    * timestamp the buffer
1289    */
1290   GST_BUFFER_PTS (package->outbuf) = rtph263pay->first_ts;
1291
1292   gst_rtp_buffer_set_marker (&rtp, package->marker);
1293   if (package->marker)
1294     GST_DEBUG_OBJECT (rtph263pay, "Marker set!");
1295
1296   gst_rtp_buffer_unmap (&rtp);
1297
1298   /*
1299    * Copy the payload data in the buffer
1300    */
1301   GST_DEBUG_OBJECT (rtph263pay, "Copying memory");
1302   gst_buffer_copy_into (package->outbuf, rtph263pay->current_buffer,
1303       GST_BUFFER_COPY_MEMORY, package->payload_start - rtph263pay->map.data,
1304       package->payload_len);
1305   gst_rtp_copy_meta (GST_ELEMENT_CAST (rtph263pay), package->outbuf,
1306       rtph263pay->current_buffer,
1307       g_quark_from_static_string (GST_META_TAG_VIDEO_STR));
1308
1309   ret =
1310       gst_rtp_base_payload_push (GST_RTP_BASE_PAYLOAD (rtph263pay),
1311       package->outbuf);
1312   GST_DEBUG_OBJECT (rtph263pay, "Package pushed, returning");
1313
1314   gst_rtp_h263_pay_package_destroy (package);
1315
1316   return ret;
1317 }
1318
1319 static GstFlowReturn
1320 gst_rtp_h263_pay_A_fragment_push (GstRtpH263Pay * rtph263pay,
1321     GstRtpH263PayContext * context, guint first, guint last)
1322 {
1323
1324   GstRtpH263PayPackage *pack;
1325
1326   pack = gst_rtp_h263_pay_package_new_empty ();
1327
1328   pack->payload_start = context->gobs[first]->start;
1329   pack->sbit = context->gobs[first]->sbit;
1330   pack->ebit = context->gobs[last]->ebit;
1331   pack->payload_len =
1332       (context->gobs[last]->end - context->gobs[first]->start) + 1;
1333   pack->marker = FALSE;
1334
1335   if (last == context->no_gobs - 1) {
1336     pack->marker = TRUE;
1337   }
1338
1339   pack->gobn = context->gobs[first]->gobn;
1340   pack->mode = GST_RTP_H263_PAYLOAD_HEADER_MODE_A;
1341   pack->outbuf = gst_rtp_buffer_new_allocate (pack->mode, 0, 0);
1342
1343   GST_DEBUG_OBJECT (rtph263pay, "Sending len:%d data to push function", pack->payload_len);
1344
1345   return gst_rtp_h263_pay_push (rtph263pay, context, pack);
1346 }
1347
1348 static GstFlowReturn
1349 gst_rtp_h263_pay_B_fragment_push (GstRtpH263Pay * rtph263pay,
1350     GstRtpH263PayContext * context, GstRtpH263PayGob * gob, guint first,
1351     guint last, GstRtpH263PayBoundry * boundry)
1352 {
1353
1354   GstRtpH263PayPackage *pack;
1355   guint mv;
1356
1357   pack = gst_rtp_h263_pay_package_new_empty ();
1358
1359   pack->payload_start = gob->macroblocks[first]->start;
1360   pack->sbit = gob->macroblocks[first]->sbit;
1361   if (first == 0) {
1362     pack->payload_start = boundry->start;
1363     pack->sbit = boundry->sbit;
1364     pack->quant = gob->quant;
1365   } else {
1366     pack->quant = gob->macroblocks[first]->quant;
1367   }
1368   pack->payload_end = gob->macroblocks[last]->end;
1369
1370   pack->ebit = gob->macroblocks[last]->ebit;
1371   pack->mba = gob->macroblocks[first]->mba;
1372   pack->gobn = gob->gobn;
1373   pack->mode = GST_RTP_H263_PAYLOAD_HEADER_MODE_B;
1374   pack->nmvd = 0;
1375
1376   if (gob->macroblocks[first]->mb_type < 3) {
1377     if (gob->macroblocks[first]->mb_type == 2)
1378       pack->nmvd = 8;
1379     else if (gob->macroblocks[first]->mb_type < 2)
1380       pack->nmvd = 2;
1381
1382     for (mv = 0; mv < pack->nmvd; mv++)
1383       pack->mvd[mv] = gob->macroblocks[first]->mvd[mv];
1384   }
1385
1386   pack->marker = FALSE;
1387   if (last == gob->nmacroblocs - 1) {
1388     pack->ebit = 0;
1389   }
1390
1391   if ((format_props[context->piclayer->ptype_srcformat][0] - 1 == gob->gobn)
1392       && (last == gob->nmacroblocs - 1)) {
1393     pack->marker = TRUE;
1394   }
1395
1396   pack->payload_len = pack->payload_end - pack->payload_start + 1;
1397   pack->outbuf = gst_rtp_buffer_new_allocate (pack->mode, 0, 0);
1398
1399   return gst_rtp_h263_pay_push (rtph263pay, context, pack);
1400 }
1401
1402
1403 static gboolean
1404 gst_rtp_h263_pay_mode_B_fragment (GstRtpH263Pay * rtph263pay,
1405     GstRtpH263PayContext * context, GstRtpH263PayGob * gob)
1406 {
1407
1408
1409     /*---------- MODE B MODE FRAGMENTATION ----------*/
1410   GstRtpH263PayMB *mac, *mac0;
1411   guint max_payload_size;
1412   GstRtpH263PayBoundry boundry;
1413   guint mb;
1414   guint8 ebit;
1415
1416   guint first = 0;
1417   guint payload_len;
1418
1419   max_payload_size =
1420       context->mtu - GST_RTP_H263_PAYLOAD_HEADER_MODE_B - GST_RTP_HEADER_LEN;
1421
1422   gst_rtp_h263_pay_boundry_init (&boundry, gob->start, gob->start, gob->sbit,
1423       0);
1424
1425   gob->macroblocks =
1426       (GstRtpH263PayMB **) g_malloc0 (sizeof (GstRtpH263PayMB *) *
1427       format_props[context->piclayer->ptype_srcformat][1]);
1428
1429   GST_LOG_OBJECT (rtph263pay, "GOB isn't PB frame, applying mode B");
1430
1431   //initializing window
1432   context->win_end = boundry.end;
1433   if (gst_rtp_h263_pay_move_window_right (rtph263pay, context, 32, boundry.ebit,
1434           &boundry.end, &gob->end) != 0) {
1435     GST_ERROR_OBJECT (rtph263pay,
1436         "The rest of the bits should be 0, exiting, because something bad happend");
1437     goto decode_error;
1438   }
1439   //The first GOB of a frame "has no" actual header - PICTURE header is his header
1440   if (gob->gobn == 0) {
1441     guint shift;
1442     GST_LOG_OBJECT (rtph263pay, "Initial GOB");
1443     shift = 43;
1444
1445     boundry.ebit =
1446         gst_rtp_h263_pay_move_window_right (rtph263pay, context, shift, boundry.ebit,
1447         &boundry.end, &gob->end);
1448
1449     //We need PQUANT for mode B packages - so we store it
1450     gob->quant = context->window >> 27;
1451
1452     //if PCM == 1, then PSBI is present - header has 51 bits
1453     //shift for PQUANT (5) and PCM (1) = 6 bits
1454     shift = 6;
1455     if (context->cpm == 1)
1456       shift += 2;
1457     boundry.ebit =
1458         gst_rtp_h263_pay_move_window_right (rtph263pay, context, shift, boundry.ebit,
1459         &boundry.end, &gob->end);
1460
1461     GST_TRACE_OBJECT (rtph263pay, "window: 0x%08x", context->window);
1462
1463     //Shifting the PEI and PSPARE fields
1464     while ((context->window & 0x80000000) == 0x80000000) {
1465       boundry.ebit =
1466           gst_rtp_h263_pay_move_window_right (rtph263pay, context, 9,
1467           boundry.ebit, &boundry.end, &gob->end);
1468       GST_TRACE_OBJECT (rtph263pay, "window: 0x%08x", context->window);
1469     }
1470
1471     //shift the last PEI field
1472     boundry.ebit =
1473         gst_rtp_h263_pay_move_window_right (rtph263pay, context, 1, boundry.ebit,
1474         &boundry.end, &gob->end);
1475
1476   } else {
1477     //skipping GOBs 24 header bits + 5 GQUANT
1478     guint shift = 24;
1479
1480     GST_TRACE_OBJECT (rtph263pay, "INTER GOB");
1481
1482     //if CPM == 1, there are 2 more bits in the header - GSBI header is 31 bits long
1483     if (context->cpm == 1)
1484       shift += 2;
1485
1486     GST_TRACE_OBJECT (rtph263pay, "window: 0x%08x", context->window);
1487     boundry.ebit =
1488         gst_rtp_h263_pay_move_window_right (rtph263pay, context, shift,
1489         boundry.ebit, &boundry.end, &gob->end);
1490
1491     //We need GQUANT for mode B packages - so we store it
1492     gob->quant = context->window >> 27;
1493
1494     shift = 5;
1495     boundry.ebit =
1496         gst_rtp_h263_pay_move_window_right (rtph263pay, context, shift,
1497         boundry.ebit, &boundry.end, &gob->end);
1498
1499     GST_TRACE_OBJECT (rtph263pay, "window: 0x%08x", context->window);
1500   }
1501
1502   GST_TRACE_OBJECT (rtph263pay, "GQUANT IS: %08x", gob->quant);
1503
1504   // We are on MB layer
1505
1506   mac = mac0 = gst_rtp_h263_pay_mb_new (&boundry, 0);
1507   for (mb = 0; mb < format_props[context->piclayer->ptype_srcformat][1]; mb++) {
1508
1509     GST_TRACE_OBJECT (rtph263pay, "================ START MB %d =================", mb);
1510
1511     //Find next macroblock boundaries
1512     ebit = mac->ebit;
1513     if (!(mac = gst_rtp_h263_pay_B_mbfinder (rtph263pay, context, gob, mac, mb))) {
1514
1515       GST_LOG_OBJECT (rtph263pay, "Error decoding MB - sbit: %d", 8 - ebit);
1516       GST_ERROR_OBJECT (rtph263pay, "Error decoding in GOB");
1517
1518       gst_rtp_h263_pay_mb_destroy (mac0);
1519       goto decode_error;
1520     }
1521
1522     /* Store macroblock for further processing and delete old MB if any */
1523     gst_rtp_h263_pay_mb_destroy (gob->macroblocks[mb]);
1524     gob->macroblocks[mb] = mac;
1525
1526     //If mb_type == stuffing, don't increment the mb address
1527     if (mac->mb_type == 10) {
1528       mb--;
1529       continue;
1530     } else {
1531       gob->nmacroblocs++;
1532     }
1533
1534     if (mac->end >= gob->end) {
1535       GST_LOG_OBJECT (rtph263pay, "No more MBs in this GOB");
1536       if (!mac->ebit) {
1537         mac->end--;
1538       }
1539       gob->end = mac->end;
1540       break;
1541     }
1542     GST_DEBUG_OBJECT (rtph263pay, "Found MB: mba: %d start: %p end: %p len: %d sbit: %d ebit: %d",
1543         mac->mba, mac->start, mac->end, mac->length, mac->sbit, mac->ebit);
1544     GST_TRACE_OBJECT (rtph263pay, "================ END MB %d =================", mb);
1545   }
1546   gst_rtp_h263_pay_mb_destroy (mac0);
1547
1548   mb = 0;
1549   first = 0;
1550   payload_len = boundry.end - boundry.start + 1;
1551   GST_DEBUG_OBJECT (rtph263pay, "------------------------- NEW PACKAGE ----------------------");
1552   while (mb < gob->nmacroblocs) {
1553     if (payload_len + gob->macroblocks[mb]->length < max_payload_size) {
1554
1555       //FIXME: payload_len is not the real length -> ignoring sbit/ebit
1556       payload_len += gob->macroblocks[mb]->length;
1557       mb++;
1558
1559     } else {
1560       //FIXME: we should include the last few bits of the GOB in the package - do we do that now?
1561       //GST_DEBUG_OBJECT (rtph263pay, "Pushing GOBS %d to %d because payload size is %d", first,
1562       //    first == mb - 1, payload_len);
1563
1564       // FIXME: segfault if mb == 0 (first MB is larger than max_payload_size)
1565       GST_DEBUG_OBJECT (rtph263pay, "Push B mode fragment from mb %d to %d", first, mb - 1);
1566       if (gst_rtp_h263_pay_B_fragment_push (rtph263pay, context, gob, first,
1567               mb - 1, &boundry)) {
1568         GST_ERROR_OBJECT (rtph263pay, "Oooops, there was an error sending");
1569         goto decode_error;
1570       }
1571
1572       payload_len = 0;
1573       first = mb;
1574       GST_DEBUG_OBJECT (rtph263pay,
1575           "------------------------- END PACKAGE ----------------------");
1576       GST_DEBUG_OBJECT (rtph263pay,
1577           "------------------------- NEW PACKAGE ----------------------");
1578     }
1579   }
1580
1581   /* Push rest */
1582   GST_DEBUG_OBJECT (rtph263pay, "Remainder first: %d, MB: %d", first, mb);
1583   if (payload_len != 0) {
1584     GST_DEBUG_OBJECT (rtph263pay, "Push B mode fragment from mb %d to %d", first, mb - 1);
1585     if (gst_rtp_h263_pay_B_fragment_push (rtph263pay, context, gob, first,
1586             mb - 1, &boundry)) {
1587       GST_ERROR_OBJECT (rtph263pay, "Oooops, there was an error sending!");
1588       goto decode_error;
1589     }
1590   }
1591
1592     /*---------- END OF MODE B FRAGMENTATION ----------*/
1593
1594   return TRUE;
1595
1596 decode_error:
1597   return FALSE;
1598 }
1599
1600 static GstFlowReturn
1601 gst_rtp_h263_send_entire_frame (GstRtpH263Pay * rtph263pay,
1602     GstRtpH263PayContext * context)
1603 {
1604   GstRtpH263PayPackage *pack;
1605   pack =
1606       gst_rtp_h263_pay_package_new (rtph263pay->data,
1607       rtph263pay->data + rtph263pay->available_data,
1608       rtph263pay->available_data, 0, 0, NULL, TRUE);
1609   pack->mode = GST_RTP_H263_PAYLOAD_HEADER_MODE_A;
1610
1611   GST_DEBUG_OBJECT (rtph263pay, "Available data: %d", rtph263pay->available_data);
1612
1613   pack->outbuf =
1614       gst_rtp_buffer_new_allocate (GST_RTP_H263_PAYLOAD_HEADER_MODE_A, 0, 0);
1615
1616   return gst_rtp_h263_pay_push (rtph263pay, context, pack);
1617 }
1618
1619 static GstFlowReturn
1620 gst_rtp_h263_pay_flush (GstRtpH263Pay * rtph263pay)
1621 {
1622
1623   /*
1624    * FIXME: GSTUF bits are ignored right now,
1625    *  - not using EBIT/SBIT payload header fields in mode A fragmentation - ffmpeg doesn't need them, but others?
1626    */
1627
1628   GstFlowReturn ret;
1629   GstRtpH263PayContext *context;
1630   gint i;
1631
1632   ret = 0;
1633   context = (GstRtpH263PayContext *) g_malloc0 (sizeof (GstRtpH263PayContext));
1634   context->mtu =
1635       rtph263pay->payload.mtu - (MTU_SECURITY_OFFSET + GST_RTP_HEADER_LEN +
1636       GST_RTP_H263_PAYLOAD_HEADER_MODE_C);
1637
1638   GST_DEBUG_OBJECT (rtph263pay, "MTU: %d", context->mtu);
1639   rtph263pay->available_data = gst_buffer_get_size (rtph263pay->current_buffer);
1640   if (rtph263pay->available_data == 0) {
1641     ret = GST_FLOW_OK;
1642     goto end;
1643   }
1644
1645   /* Get a pointer to all the data for the frame */
1646   gst_buffer_map (rtph263pay->current_buffer, &rtph263pay->map, GST_MAP_READ);
1647   rtph263pay->data = (guint8 *) rtph263pay->map.data;
1648
1649   /* Picture header */
1650   context->piclayer = (GstRtpH263PayPic *) rtph263pay->data;
1651
1652   if (context->piclayer->ptype_pictype == 0)
1653     GST_DEBUG_OBJECT (rtph263pay, "We got an I-frame");
1654   else
1655     GST_DEBUG_OBJECT (rtph263pay, "We got a P-frame");
1656
1657   context->cpm = rtph263pay->data[6] >> 7;
1658
1659   GST_DEBUG_OBJECT (rtph263pay, "CPM: %d", context->cpm);
1660
1661   GST_DEBUG_OBJECT (rtph263pay, "Payload length is: %d", rtph263pay->available_data);
1662
1663   /*
1664    * - MODE A - If normal, I and P frames,  -> mode A
1665    *   - GOB layer fragmentation
1666    * - MODE B - If normal, I and P frames, but GOBs > mtu
1667    *   - MB layer fragmentation
1668    * - MODE C - For P frames with PB option, but GOBs > mtu
1669    *   - MB layer fragmentation
1670    */
1671   if (rtph263pay->available_data + GST_RTP_H263_PAYLOAD_HEADER_MODE_A +
1672       GST_RTP_HEADER_LEN < context->mtu) {
1673     ret = gst_rtp_h263_send_entire_frame (rtph263pay, context);
1674   } else {
1675
1676       /*---------- FRAGMENTING THE FRAME BECAUSE TOO LARGE TO FIT IN MTU ----------*/
1677     GstRtpH263PayBoundry bound;
1678     gint first;
1679     guint payload_len;
1680     gboolean forcea = FALSE;
1681
1682     GST_DEBUG_OBJECT (rtph263pay, "Frame too large for MTU");
1683     /*
1684      * Let's go trough all the data and fragment it untill end is reached
1685      */
1686
1687     gst_rtp_h263_pay_boundry_init (&bound, NULL, rtph263pay->data - 1, 0, 0);
1688     context->gobs =
1689         (GstRtpH263PayGob **) g_malloc0 (format_props[context->
1690             piclayer->ptype_srcformat][0] * sizeof (GstRtpH263PayGob *));
1691
1692
1693     for (i = 0; i < format_props[context->piclayer->ptype_srcformat][0]; i++) {
1694       GST_DEBUG_OBJECT (rtph263pay, "Searching for gob %d", i);
1695       if (!gst_rtp_h263_pay_gobfinder (rtph263pay, &bound)) {
1696         if (i <= 1) {
1697           GST_WARNING_OBJECT (rtph263pay,
1698               "No GOB's were found in data stream! Please enable RTP mode in encoder. Forcing mode A for now.");
1699           ret = gst_rtp_h263_send_entire_frame (rtph263pay, context);
1700           goto end;
1701         } else {
1702           /* try to send fragments corresponding to found GOBs */
1703           forcea = TRUE;
1704           break;
1705         }
1706       }
1707
1708       context->gobs[i] = gst_rtp_h263_pay_gob_new (&bound, i);
1709       //FIXME - encoders may generate an EOS gob that has to be processed
1710       GST_DEBUG_OBJECT (rtph263pay,
1711           "Gob values are: gobn: %d, start: %p len: %d ebit: %d sbit: %d", i,
1712           context->gobs[i]->start, context->gobs[i]->length,
1713           context->gobs[i]->ebit, context->gobs[i]->sbit);
1714     }
1715     /* NOTE some places may still assume this to be the max possible */
1716     context->no_gobs = i;
1717     GST_DEBUG_OBJECT (rtph263pay, "Found %d GOBS of maximum %d",
1718         context->no_gobs, format_props[context->piclayer->ptype_srcformat][0]);
1719
1720     // Make packages smaller than MTU
1721     //   A mode
1722     // - if ( GOB > MTU) -> B mode || C mode
1723     //   Push packages
1724
1725     first = 0;
1726     payload_len = 0;
1727     i = 0;
1728     while (i < context->no_gobs) {
1729
1730       if (context->gobs[i]->length >= context->mtu) {
1731         if (payload_len == 0) {
1732
1733           GST_DEBUG_OBJECT (rtph263pay, "GOB len > MTU");
1734           if (rtph263pay->prop_payload_mode || forcea) {
1735             payload_len = context->gobs[i]->length;
1736             goto force_a;
1737           }
1738           if (!context->piclayer->ptype_pbmode) {
1739             GST_DEBUG_OBJECT (rtph263pay, "MODE B on GOB %d needed", i);
1740             if (!gst_rtp_h263_pay_mode_B_fragment (rtph263pay, context,
1741                     context->gobs[i])) {
1742               GST_ERROR_OBJECT (rtph263pay, "There was an error fragmenting in mode B");
1743               ret = GST_FLOW_ERROR;
1744               goto end;
1745             }
1746           } else {
1747             //IMPLEMENT C mode
1748             GST_ERROR_OBJECT (rtph263pay, "MODE C on GOB %d needed, but not supported yet", i);
1749             /*if(!gst_rtp_h263_pay_mode_C_fragment(rtph263pay, context, context->gobs[i])) {
1750                ret = GST_FLOW_OK;
1751                GST_ERROR("There was an error fragmenting in mode C");
1752                goto decode_error;
1753                } */
1754             goto decode_error;
1755           }
1756         decode_error:
1757           i++;
1758           first = i;
1759           continue;
1760
1761         } else {
1762           goto payload_a_push;
1763         }
1764       }
1765
1766       if (payload_len + context->gobs[i]->length < context->mtu) {
1767         GST_DEBUG_OBJECT (rtph263pay, "GOB %d fills mtu", i);
1768         payload_len += context->gobs[i]->length;
1769         i++;
1770         if (i == context->no_gobs) {
1771           GST_DEBUG_OBJECT (rtph263pay, "LAST GOB %d", i);
1772           goto payload_a_push;
1773         }
1774
1775       } else {
1776       payload_a_push:
1777         GST_DEBUG_OBJECT (rtph263pay, "Pushing GOBS %d to %d because payload size is %d", first,
1778             first == i ? i : i - 1, payload_len);
1779         gst_rtp_h263_pay_A_fragment_push (rtph263pay, context, first,
1780             first == i ? i : i - 1);
1781         payload_len = 0;
1782         first = i;
1783       }
1784       continue;
1785
1786     force_a:
1787       GST_DEBUG_OBJECT (rtph263pay, "Pushing GOBS %d to %d because payload size is %d", first, i,
1788           payload_len);
1789       gst_rtp_h263_pay_A_fragment_push (rtph263pay, context, first, i);
1790       payload_len = 0;
1791       i++;
1792       first = i;
1793     }
1794
1795
1796   }/*---------- END OF FRAGMENTATION ----------*/
1797
1798   /* Flush the input buffer data */
1799
1800 end:
1801   gst_rtp_h263_pay_context_destroy (context,
1802       context->piclayer->ptype_srcformat);
1803   gst_buffer_unmap (rtph263pay->current_buffer, &rtph263pay->map);
1804   gst_buffer_replace (&rtph263pay->current_buffer, NULL);
1805
1806   return ret;
1807 }
1808
1809 static GstFlowReturn
1810 gst_rtp_h263_pay_handle_buffer (GstRTPBasePayload * payload, GstBuffer * buffer)
1811 {
1812
1813   GstRtpH263Pay *rtph263pay;
1814   GstFlowReturn ret;
1815
1816   rtph263pay = GST_RTP_H263_PAY (payload);
1817   GST_DEBUG_OBJECT (rtph263pay, "-------------------- NEW FRAME ---------------");
1818
1819   rtph263pay->first_ts = GST_BUFFER_PTS (buffer);
1820
1821   gst_buffer_replace (&rtph263pay->current_buffer, buffer);
1822   gst_buffer_unref (buffer);
1823
1824   /* we always encode and flush a full picture */
1825   ret = gst_rtp_h263_pay_flush (rtph263pay);
1826   GST_DEBUG_OBJECT (rtph263pay, "-------------------- END FRAME ---------------");
1827
1828   return ret;
1829 }
1830
1831 gboolean
1832 gst_rtp_h263_pay_plugin_init (GstPlugin * plugin)
1833 {
1834   return gst_element_register (plugin, "rtph263pay",
1835       GST_RANK_SECONDARY, GST_TYPE_RTP_H263_PAY);
1836 }