vp8_multi_resolution_encoder.c

   1 /*
   2  *  Copyright (c) 2010 The WebM project authors. All Rights Reserved.
   3  *
   4  *  Use of this source code is governed by a BSD-style license
   5  *  that can be found in the LICENSE file in the root of the source
   6  *  tree. An additional intellectual property rights grant can be found
   7  *  in the file PATENTS.  All contributing project authors may
   8  *  be found in the AUTHORS file in the root of the source tree.
   9  */
  10
  11 /*
  12  * This is an example demonstrating multi-resolution encoding in VP8.
  13  * High-resolution input video is down-sampled to lower-resolutions. The
  14  * encoder then encodes the video and outputs multiple bitstreams with
  15  * different resolutions.
  16  */
  17 #include <stdio.h>
  18 #include <stdlib.h>
  19 #include <stdarg.h>
  20 #include <string.h>
  21 #include "math.h"
  22 #define VPX_CODEC_DISABLE_COMPAT 1
  23 #include "vpx/vpx_encoder.h"
  24 #include "vpx/vp8cx.h"
  25 #include "vpx_ports/mem_ops.h"
  26 #define interface (vpx_codec_vp8_cx())
  27 #define fourcc    0x30385056
  28
  29 #define IVF_FILE_HDR_SZ  (32)
  30 #define IVF_FRAME_HDR_SZ (12)
  31
  32 /*
  33  * The input video frame is downsampled several times to generate a multi-level
  34  * hierarchical structure. NUM_ENCODERS is defined as the number of encoding
  35  * levels required. For example, if the size of input video is 1280x720,
  36  * NUM_ENCODERS is 3, and down-sampling factor is 2, the encoder outputs 3
  37  * bitstreams with resolution of 1280x720(level 0), 640x360(level 1), and
  38  * 320x180(level 2) respectively.
  39  */
  40 #define NUM_ENCODERS 3
  41
  42 /* This example uses the scaler function in libyuv. */
  43 #include "third_party/libyuv/include/libyuv/basic_types.h"
  44 #include "third_party/libyuv/include/libyuv/scale.h"
  45 #include "third_party/libyuv/include/libyuv/cpu_id.h"
  46
  47 static double vp8_mse2psnr(double Samples, double Peak, double Mse)
  48 {
  49     double psnr;
  50
  51     if ((double)Mse > 0.0)
  52         psnr = 10.0 * log10(Peak * Peak * Samples / Mse);
  53     else
  54         psnr = 60;      // Limit to prevent / 0
  55
  56     if (psnr > 60)
  57         psnr = 60;
  58
  59     return psnr;
  60 }
  61
  62 static void die(const char *fmt, ...) {
  63     va_list ap;
  64
  65     va_start(ap, fmt);
  66     vprintf(fmt, ap);
  67     if(fmt[strlen(fmt)-1] != '\n')
  68         printf("\n");
  69     exit(EXIT_FAILURE);
  70 }
  71
  72 static void die_codec(vpx_codec_ctx_t *ctx, const char *s) {
  73     const char *detail = vpx_codec_error_detail(ctx);
  74
  75     printf("%s: %s\n", s, vpx_codec_error(ctx));
  76     if(detail)
  77         printf("    %s\n",detail);
  78     exit(EXIT_FAILURE);
  79 }
  80
  81 int (*read_frame_p)(FILE *f, vpx_image_t *img);
  82
  83 static int read_frame(FILE *f, vpx_image_t *img) {
  84     size_t nbytes, to_read;
  85     int    res = 1;
  86
  87     to_read = img->w*img->h*3/2;
  88     nbytes = fread(img->planes[0], 1, to_read, f);
  89     if(nbytes != to_read) {
  90         res = 0;
  91         if(nbytes > 0)
  92             printf("Warning: Read partial frame. Check your width & height!\n");
  93     }
  94     return res;
  95 }
  96
  97 static int read_frame_by_row(FILE *f, vpx_image_t *img) {
  98     size_t nbytes, to_read;
  99     int    res = 1;
 100     int plane;
 101
 102     for (plane = 0; plane < 3; plane++)
 103     {
 104         unsigned char *ptr;
 105         int w = (plane ? (1 + img->d_w) / 2 : img->d_w);
 106         int h = (plane ? (1 + img->d_h) / 2 : img->d_h);
 107         int r;
 108
 109         /* Determine the correct plane based on the image format. The for-loop
 110          * always counts in Y,U,V order, but this may not match the order of
 111          * the data on disk.
 112          */
 113         switch (plane)
 114         {
 115         case 1:
 116             ptr = img->planes[img->fmt==VPX_IMG_FMT_YV12? VPX_PLANE_V : VPX_PLANE_U];
 117             break;
 118         case 2:
 119             ptr = img->planes[img->fmt==VPX_IMG_FMT_YV12?VPX_PLANE_U : VPX_PLANE_V];
 120             break;
 121         default:
 122             ptr = img->planes[plane];
 123         }
 124
 125         for (r = 0; r < h; r++)
 126         {
 127             to_read = w;
 128
 129             nbytes = fread(ptr, 1, to_read, f);
 130             if(nbytes != to_read) {
 131                 res = 0;
 132                 if(nbytes > 0)
 133                     printf("Warning: Read partial frame. Check your width & height!\n");
 134                 break;
 135             }
 136
 137             ptr += img->stride[plane];
 138         }
 139         if (!res)
 140             break;
 141     }
 142
 143     return res;
 144 }
 145
 146 static void write_ivf_file_header(FILE *outfile,
 147                                   const vpx_codec_enc_cfg_t *cfg,
 148                                   int frame_cnt) {
 149     char header[32];
 150
 151     if(cfg->g_pass != VPX_RC_ONE_PASS && cfg->g_pass != VPX_RC_LAST_PASS)
 152         return;
 153     header[0] = 'D';
 154     header[1] = 'K';
 155     header[2] = 'I';
 156     header[3] = 'F';
 157     mem_put_le16(header+4,  0);                   /* version */
 158     mem_put_le16(header+6,  32);                  /* headersize */
 159     mem_put_le32(header+8,  fourcc);              /* headersize */
 160     mem_put_le16(header+12, cfg->g_w);            /* width */
 161     mem_put_le16(header+14, cfg->g_h);            /* height */
 162     mem_put_le32(header+16, cfg->g_timebase.den); /* rate */
 163     mem_put_le32(header+20, cfg->g_timebase.num); /* scale */
 164     mem_put_le32(header+24, frame_cnt);           /* length */
 165     mem_put_le32(header+28, 0);                   /* unused */
 166
 167     if(fwrite(header, 1, 32, outfile));
 168 }
 169
 170 static void write_ivf_frame_header(FILE *outfile,
 171                                    const vpx_codec_cx_pkt_t *pkt)
 172 {
 173     char             header[12];
 174     vpx_codec_pts_t  pts;
 175
 176     if(pkt->kind != VPX_CODEC_CX_FRAME_PKT)
 177         return;
 178
 179     pts = pkt->data.frame.pts;
 180     mem_put_le32(header, pkt->data.frame.sz);
 181     mem_put_le32(header+4, pts&0xFFFFFFFF);
 182     mem_put_le32(header+8, pts >> 32);
 183
 184     if(fwrite(header, 1, 12, outfile));
 185 }
 186
 187 int main(int argc, char **argv)
 188 {
 189     FILE                *infile, *outfile[NUM_ENCODERS];
 190     vpx_codec_ctx_t      codec[NUM_ENCODERS];
 191     vpx_codec_enc_cfg_t  cfg[NUM_ENCODERS];
 192     vpx_codec_pts_t      frame_cnt = 0;
 193     vpx_image_t          raw[NUM_ENCODERS];
 194     vpx_codec_err_t      res[NUM_ENCODERS];
 195
 196     int                  i;
 197     long                 width;
 198     long                 height;
 199     int                  frame_avail;
 200     int                  got_data;
 201     int                  flags = 0;
 202
 203     /*Currently, only realtime mode is supported in multi-resolution encoding.*/
 204     int                  arg_deadline = VPX_DL_REALTIME;
 205
 206     /* Set show_psnr to 1/0 to show/not show PSNR. Choose show_psnr=0 if you
 207        don't need to know PSNR, which will skip PSNR calculation and save
 208        encoding time. */
 209     int                  show_psnr = 0;
 210     uint64_t             psnr_sse_total[NUM_ENCODERS] = {0};
 211     uint64_t             psnr_samples_total[NUM_ENCODERS] = {0};
 212     double               psnr_totals[NUM_ENCODERS][4] = {{0,0}};
 213     int                  psnr_count[NUM_ENCODERS] = {0};
 214
 215     /* Set the required target bitrates for each resolution level. */
 216     unsigned int         target_bitrate[NUM_ENCODERS]={1400, 500, 100};
 217     /* Enter the frame rate of the input video */
 218     int                  framerate = 30;
 219     /* Set down-sampling factor for each resolution level.
 220        dsf[0] controls down sampling from level 0 to level 1;
 221        dsf[1] controls down sampling from level 1 to level 2;
 222        dsf[2] is not used. */
 223     vpx_rational_t dsf[NUM_ENCODERS] = {{2, 1}, {2, 1}, {1, 1}};
 224
 225     if(argc!= (5+NUM_ENCODERS))
 226         die("Usage: %s <width> <height> <infile> <outfile(s)> <output psnr?>\n",
 227             argv[0]);
 228
 229     printf("Using %s\n",vpx_codec_iface_name(interface));
 230
 231     width = strtol(argv[1], NULL, 0);
 232     height = strtol(argv[2], NULL, 0);
 233
 234     if(width < 16 || width%2 || height <16 || height%2)
 235         die("Invalid resolution: %ldx%ld", width, height);
 236
 237     /* Open input video file for encoding */
 238     if(!(infile = fopen(argv[3], "rb")))
 239         die("Failed to open %s for reading", argv[3]);
 240
 241     /* Open output file for each encoder to output bitstreams */
 242     for (i=0; i< NUM_ENCODERS; i++)
 243     {
 244         if(!(outfile[i] = fopen(argv[i+4], "wb")))
 245             die("Failed to open %s for writing", argv[i+4]);
 246     }
 247
 248     show_psnr = strtol(argv[NUM_ENCODERS + 4], NULL, 0);
 249
 250     /* Populate default encoder configuration */
 251     for (i=0; i< NUM_ENCODERS; i++)
 252     {
 253         res[i] = vpx_codec_enc_config_default(interface, &cfg[i], 0);
 254         if(res[i]) {
 255             printf("Failed to get config: %s\n", vpx_codec_err_to_string(res[i]));
 256             return EXIT_FAILURE;
 257         }
 258     }
 259
 260     /*
 261      * Update the default configuration according to needs of the application.
 262      */
 263     /* Highest-resolution encoder settings */
 264     cfg[0].g_w = width;
 265     cfg[0].g_h = height;
 266     cfg[0].g_threads = 1;                           /* number of threads used */
 267     cfg[0].rc_dropframe_thresh = 0;
 268     cfg[0].rc_end_usage = VPX_CBR;
 269     cfg[0].rc_resize_allowed = 0;
 270     cfg[0].rc_min_quantizer = 4;
 271     cfg[0].rc_max_quantizer = 56;
 272     cfg[0].rc_undershoot_pct = 98;
 273     cfg[0].rc_overshoot_pct = 100;
 274     cfg[0].rc_buf_initial_sz = 500;
 275     cfg[0].rc_buf_optimal_sz = 600;
 276     cfg[0].rc_buf_sz = 1000;
 277     //cfg[0].rc_dropframe_thresh = 10;
 278     cfg[0].g_error_resilient = 1;              /* Enable error resilient mode */
 279     cfg[0].g_lag_in_frames   = 0;
 280
 281     /* Disable automatic keyframe placement */
 282     //cfg[0].kf_mode           = VPX_KF_DISABLED;
 283     cfg[0].kf_min_dist = cfg[0].kf_max_dist = 1000;
 284
 285     cfg[0].rc_target_bitrate = target_bitrate[0];       /* Set target bitrate */
 286     cfg[0].g_timebase.num = 1;                          /* Set fps */
 287     cfg[0].g_timebase.den = framerate;
 288
 289     /* Other-resolution encoder settings */
 290     for (i=1; i< NUM_ENCODERS; i++)
 291     {
 292         memcpy(&cfg[i], &cfg[0], sizeof(vpx_codec_enc_cfg_t));
 293
 294         cfg[i].g_threads = 1;                       /* number of threads used */
 295         cfg[i].rc_target_bitrate = target_bitrate[i];
 296
 297         /* Note: Width & height of other-resolution encoders are calculated
 298          * from the highest-resolution encoder's size and the corresponding
 299          * down_sampling_factor.
 300          */
 301         {
 302             unsigned int iw = cfg[i-1].g_w*dsf[i-1].den + dsf[i-1].num - 1;
 303             unsigned int ih = cfg[i-1].g_h*dsf[i-1].den + dsf[i-1].num - 1;
 304             cfg[i].g_w = iw/dsf[i-1].num;
 305             cfg[i].g_h = ih/dsf[i-1].num;
 306         }
 307
 308         /* Make width & height to be multiplier of 2. */
 309         // Should support odd size ???
 310         if((cfg[i].g_w)%2)cfg[i].g_w++;
 311         if((cfg[i].g_h)%2)cfg[i].g_h++;
 312     }
 313
 314     /* Allocate image for each encoder */
 315     for (i=0; i< NUM_ENCODERS; i++)
 316         if(!vpx_img_alloc(&raw[i], VPX_IMG_FMT_I420, cfg[i].g_w, cfg[i].g_h, 32))
 317             die("Failed to allocate image", cfg[i].g_w, cfg[i].g_h);
 318
 319     if (raw[0].stride[VPX_PLANE_Y] == raw[0].d_w)
 320         read_frame_p = read_frame;
 321     else
 322         read_frame_p = read_frame_by_row;
 323
 324     for (i=0; i< NUM_ENCODERS; i++)
 325         write_ivf_file_header(outfile[i], &cfg[i], 0);
 326
 327     /* Initialize multi-encoder */
 328     if(vpx_codec_enc_init_multi(&codec[0], interface, &cfg[0], NUM_ENCODERS,
 329                                 (show_psnr ? VPX_CODEC_USE_PSNR : 0), &dsf[0]))
 330         die_codec(&codec[0], "Failed to initialize encoder");
 331
 332     /* The extra encoding configuration parameters can be set as follows. */
 333     /* Set encoding speed */
 334     for ( i=0; i<NUM_ENCODERS; i++)
 335     {
 336         int speed = -6;
 337         if(vpx_codec_control(&codec[i], VP8E_SET_CPUUSED, speed))
 338             die_codec(&codec[i], "Failed to set cpu_used");
 339     }
 340     /* Set static thresh for highest-resolution encoder. Set it to 1000 for
 341      * better performance. */
 342     {
 343         unsigned int static_thresh = 1000;
 344         if(vpx_codec_control(&codec[0], VP8E_SET_STATIC_THRESHOLD, static_thresh))
 345             die_codec(&codec[0], "Failed to set static threshold");
 346     }
 347     /* Set static thresh = 0 for other encoders for better quality */
 348     for ( i=1; i<NUM_ENCODERS; i++)
 349     {
 350         unsigned int static_thresh = 0;
 351         if(vpx_codec_control(&codec[i], VP8E_SET_STATIC_THRESHOLD, static_thresh))
 352             die_codec(&codec[i], "Failed to set static threshold");
 353     }
 354
 355     frame_avail = 1;
 356     got_data = 0;
 357
 358     while(frame_avail || got_data)
 359     {
 360         vpx_codec_iter_t iter[NUM_ENCODERS]={NULL};
 361         const vpx_codec_cx_pkt_t *pkt[NUM_ENCODERS];
 362
 363         flags = 0;
 364         frame_avail = read_frame_p(infile, &raw[0]);
 365
 366         if(frame_avail)
 367         {
 368             for ( i=1; i<NUM_ENCODERS; i++)
 369             {
 370                 /*Scale the image down a number of times by downsampling factor*/
 371                 /* FilterMode 1 or 2 give better psnr than FilterMode 0. */
 372                 I420Scale(raw[i-1].planes[VPX_PLANE_Y], raw[i-1].stride[VPX_PLANE_Y],
 373                           raw[i-1].planes[VPX_PLANE_U], raw[i-1].stride[VPX_PLANE_U],
 374                           raw[i-1].planes[VPX_PLANE_V], raw[i-1].stride[VPX_PLANE_V],
 375                           raw[i-1].d_w, raw[i-1].d_h,
 376                           raw[i].planes[VPX_PLANE_Y], raw[i].stride[VPX_PLANE_Y],
 377                           raw[i].planes[VPX_PLANE_U], raw[i].stride[VPX_PLANE_U],
 378                           raw[i].planes[VPX_PLANE_V], raw[i].stride[VPX_PLANE_V],
 379                           raw[i].d_w, raw[i].d_h, 1);
 380             }
 381         }
 382
 383         /* Encode each frame at multi-levels */
 384         if(vpx_codec_encode(&codec[0], frame_avail? &raw[0] : NULL,
 385             frame_cnt, 1, flags, arg_deadline))
 386             die_codec(&codec[0], "Failed to encode frame");
 387
 388         for (i=NUM_ENCODERS-1; i>=0 ; i--)
 389         {
 390             got_data = 0;
 391
 392             while( (pkt[i] = vpx_codec_get_cx_data(&codec[i], &iter[i])) )
 393             {
 394                 got_data = 1;
 395                 switch(pkt[i]->kind) {
 396                     case VPX_CODEC_CX_FRAME_PKT:
 397                         write_ivf_frame_header(outfile[i], pkt[i]);
 398                         if(fwrite(pkt[i]->data.frame.buf, 1, pkt[i]->data.frame.sz,
 399                                   outfile[i]));
 400                     break;
 401                     case VPX_CODEC_PSNR_PKT:
 402                         if (show_psnr)
 403                         {
 404                             int j;
 405
 406                             psnr_sse_total[i] += pkt[i]->data.psnr.sse[0];
 407                             psnr_samples_total[i] += pkt[i]->data.psnr.samples[0];
 408                             for (j = 0; j < 4; j++)
 409                             {
 410                                 //fprintf(stderr, "%.3lf ", pkt[i]->data.psnr.psnr[j]);
 411                                 psnr_totals[i][j] += pkt[i]->data.psnr.psnr[j];
 412                             }
 413                             psnr_count[i]++;
 414                         }
 415
 416                         break;
 417                     default:
 418                         break;
 419                 }
 420                 printf(pkt[i]->kind == VPX_CODEC_CX_FRAME_PKT
 421                        && (pkt[i]->data.frame.flags & VPX_FRAME_IS_KEY)? "K":".");
 422                 fflush(stdout);
 423             }
 424         }
 425         frame_cnt++;
 426     }
 427     printf("\n");
 428
 429     fclose(infile);
 430
 431     for (i=0; i< NUM_ENCODERS; i++)
 432     {
 433         printf("Processed %ld frames.\n",(long int)frame_cnt-1);
 434
 435         /* Calculate PSNR and print it out */
 436         if ( (show_psnr) && (psnr_count[i]>0) )
 437         {
 438             int j;
 439             double ovpsnr = vp8_mse2psnr(psnr_samples_total[i], 255.0,
 440                                          psnr_sse_total[i]);
 441
 442             fprintf(stderr, "\n ENC%d PSNR (Overall/Avg/Y/U/V)", i);
 443
 444             fprintf(stderr, " %.3lf", ovpsnr);
 445             for (j = 0; j < 4; j++)
 446             {
 447                 fprintf(stderr, " %.3lf", psnr_totals[i][j]/psnr_count[i]);
 448             }
 449         }
 450
 451         if(vpx_codec_destroy(&codec[i]))
 452             die_codec(&codec[i], "Failed to destroy codec");
 453
 454         /* Try to rewrite the file header with the actual frame count */
 455         if(!fseek(outfile[i], 0, SEEK_SET))
 456             write_ivf_file_header(outfile[i], &cfg[i], frame_cnt-1);
 457         fclose(outfile[i]);
 458
 459         vpx_img_free(&raw[i]);
 460     }
 461
 462     return EXIT_SUCCESS;
 463 }