vp8/decoder/decodframe.c

   1 /*
   2  *  Copyright (c) 2010 The WebM project authors. All Rights Reserved.
   3  *
   4  *  Use of this source code is governed by a BSD-style license
   5  *  that can be found in the LICENSE file in the root of the source
   6  *  tree. An additional intellectual property rights grant can be found
   7  *  in the file PATENTS.  All contributing project authors may
   8  *  be found in the AUTHORS file in the root of the source tree.
   9  */
  10
  11
  12 #include "onyxd_int.h"
  13 #include "vp8/common/header.h"
  14 #include "vp8/common/reconintra.h"
  15 #include "vp8/common/reconintra4x4.h"
  16 #include "vp8/common/recon.h"
  17 #include "vp8/common/reconinter.h"
  18 #include "dequantize.h"
  19 #include "detokenize.h"
  20 #include "vp8/common/invtrans.h"
  21 #include "vp8/common/alloccommon.h"
  22 #include "vp8/common/entropymode.h"
  23 #include "vp8/common/quant_common.h"
  24 #include "vpx_scale/vpxscale.h"
  25 #include "vpx_scale/yv12extend.h"
  26 #include "vp8/common/setupintrarecon.h"
  27
  28 #include "decodemv.h"
  29 #include "vp8/common/extend.h"
  30 #if CONFIG_ERROR_CONCEALMENT
  31 #include "error_concealment.h"
  32 #endif
  33 #include "vpx_mem/vpx_mem.h"
  34 #include "vp8/common/idct.h"
  35 #include "dequantize.h"
  36 #include "vp8/common/threading.h"
  37 #include "decoderthreading.h"
  38 #include "dboolhuff.h"
  39
  40 #include <assert.h>
  41 #include <stdio.h>
  42
  43 void vp8cx_init_de_quantizer(VP8D_COMP *pbi)
  44 {
  45     int i;
  46     int Q;
  47     VP8_COMMON *const pc = & pbi->common;
  48
  49     for (Q = 0; Q < QINDEX_RANGE; Q++)
  50     {
  51         pc->Y1dequant[Q][0] = (short)vp8_dc_quant(Q, pc->y1dc_delta_q);
  52         pc->Y2dequant[Q][0] = (short)vp8_dc2quant(Q, pc->y2dc_delta_q);
  53         pc->UVdequant[Q][0] = (short)vp8_dc_uv_quant(Q, pc->uvdc_delta_q);
  54
  55         /* all the ac values = ; */
  56         for (i = 1; i < 16; i++)
  57         {
  58             int rc = vp8_default_zig_zag1d[i];
  59
  60             pc->Y1dequant[Q][rc] = (short)vp8_ac_yquant(Q);
  61             pc->Y2dequant[Q][rc] = (short)vp8_ac2quant(Q, pc->y2ac_delta_q);
  62             pc->UVdequant[Q][rc] = (short)vp8_ac_uv_quant(Q, pc->uvac_delta_q);
  63         }
  64     }
  65 }
  66
  67 void mb_init_dequantizer(VP8D_COMP *pbi, MACROBLOCKD *xd)
  68 {
  69     int i;
  70     int QIndex;
  71     MB_MODE_INFO *mbmi = &xd->mode_info_context->mbmi;
  72     VP8_COMMON *const pc = & pbi->common;
  73
  74     /* Decide whether to use the default or alternate baseline Q value. */
  75     if (xd->segmentation_enabled)
  76     {
  77         /* Abs Value */
  78         if (xd->mb_segement_abs_delta == SEGMENT_ABSDATA)
  79             QIndex = xd->segment_feature_data[MB_LVL_ALT_Q][mbmi->segment_id];
  80
  81         /* Delta Value */
  82         else
  83         {
  84             QIndex = pc->base_qindex + xd->segment_feature_data[MB_LVL_ALT_Q][mbmi->segment_id];
  85             QIndex = (QIndex >= 0) ? ((QIndex <= MAXQ) ? QIndex : MAXQ) : 0;    /* Clamp to valid range */
  86         }
  87     }
  88     else
  89         QIndex = pc->base_qindex;
  90
  91     /* Set up the block level dequant pointers */
  92     for (i = 0; i < 16; i++)
  93     {
  94         xd->block[i].dequant = pc->Y1dequant[QIndex];
  95     }
  96
  97     for (i = 16; i < 24; i++)
  98     {
  99         xd->block[i].dequant = pc->UVdequant[QIndex];
 100     }
 101
 102     xd->block[24].dequant = pc->Y2dequant[QIndex];
 103
 104 }
 105
 106 #if CONFIG_RUNTIME_CPU_DETECT
 107 #define RTCD_VTABLE(x) (&(pbi)->common.rtcd.x)
 108 #else
 109 #define RTCD_VTABLE(x) NULL
 110 #endif
 111
 112 /* skip_recon_mb() is Modified: Instead of writing the result to predictor buffer and then copying it
 113  *  to dst buffer, we can write the result directly to dst buffer. This eliminates unnecessary copy.
 114  */
 115 static void skip_recon_mb(VP8D_COMP *pbi, MACROBLOCKD *xd)
 116 {
 117     if (xd->mode_info_context->mbmi.ref_frame == INTRA_FRAME)
 118     {
 119         RECON_INVOKE(&pbi->common.rtcd.recon, build_intra_predictors_mbuv_s)(xd);
 120         RECON_INVOKE(&pbi->common.rtcd.recon,
 121                      build_intra_predictors_mby_s)(xd);
 122     }
 123     else
 124     {
 125         vp8_build_inter16x16_predictors_mb(xd, xd->dst.y_buffer,
 126                                            xd->dst.u_buffer, xd->dst.v_buffer,
 127                                            xd->dst.y_stride, xd->dst.uv_stride);
 128     }
 129 }
 130
 131 static void clamp_mv_to_umv_border(MV *mv, const MACROBLOCKD *xd)
 132 {
 133     /* If the MV points so far into the UMV border that no visible pixels
 134      * are used for reconstruction, the subpel part of the MV can be
 135      * discarded and the MV limited to 16 pixels with equivalent results.
 136      *
 137      * This limit kicks in at 19 pixels for the top and left edges, for
 138      * the 16 pixels plus 3 taps right of the central pixel when subpel
 139      * filtering. The bottom and right edges use 16 pixels plus 2 pixels
 140      * left of the central pixel when filtering.
 141      */
 142     if (mv->col < (xd->mb_to_left_edge - (19 << 3)))
 143         mv->col = xd->mb_to_left_edge - (16 << 3);
 144     else if (mv->col > xd->mb_to_right_edge + (18 << 3))
 145         mv->col = xd->mb_to_right_edge + (16 << 3);
 146
 147     if (mv->row < (xd->mb_to_top_edge - (19 << 3)))
 148         mv->row = xd->mb_to_top_edge - (16 << 3);
 149     else if (mv->row > xd->mb_to_bottom_edge + (18 << 3))
 150         mv->row = xd->mb_to_bottom_edge + (16 << 3);
 151 }
 152
 153 /* A version of the above function for chroma block MVs.*/
 154 static void clamp_uvmv_to_umv_border(MV *mv, const MACROBLOCKD *xd)
 155 {
 156     mv->col = (2*mv->col < (xd->mb_to_left_edge - (19 << 3))) ? (xd->mb_to_left_edge - (16 << 3)) >> 1 : mv->col;
 157     mv->col = (2*mv->col > xd->mb_to_right_edge + (18 << 3)) ? (xd->mb_to_right_edge + (16 << 3)) >> 1 : mv->col;
 158
 159     mv->row = (2*mv->row < (xd->mb_to_top_edge - (19 << 3))) ? (xd->mb_to_top_edge - (16 << 3)) >> 1 : mv->row;
 160     mv->row = (2*mv->row > xd->mb_to_bottom_edge + (18 << 3)) ? (xd->mb_to_bottom_edge + (16 << 3)) >> 1 : mv->row;
 161 }
 162
 163 void clamp_mvs(MACROBLOCKD *xd)
 164 {
 165     if (xd->mode_info_context->mbmi.mode == SPLITMV)
 166     {
 167         int i;
 168
 169         for (i=0; i<16; i++)
 170             clamp_mv_to_umv_border(&xd->block[i].bmi.mv.as_mv, xd);
 171         for (i=16; i<24; i++)
 172             clamp_uvmv_to_umv_border(&xd->block[i].bmi.mv.as_mv, xd);
 173     }
 174     else
 175     {
 176         clamp_mv_to_umv_border(&xd->mode_info_context->mbmi.mv.as_mv, xd);
 177         clamp_uvmv_to_umv_border(&xd->block[16].bmi.mv.as_mv, xd);
 178     }
 179
 180 }
 181
 182 static void decode_macroblock(VP8D_COMP *pbi, MACROBLOCKD *xd,
 183                               unsigned int mb_idx)
 184 {
 185     int eobtotal = 0;
 186     int i, do_clamp = xd->mode_info_context->mbmi.need_to_clamp_mvs;
 187
 188     if (xd->mode_info_context->mbmi.mb_skip_coeff)
 189     {
 190         vp8_reset_mb_tokens_context(xd);
 191     }
 192     else
 193     {
 194         eobtotal = vp8_decode_mb_tokens(pbi, xd);
 195     }
 196
 197     /* Perform temporary clamping of the MV to be used for prediction */
 198     if (do_clamp)
 199     {
 200         clamp_mvs(xd);
 201     }
 202
 203     eobtotal |= (xd->mode_info_context->mbmi.mode == B_PRED ||
 204                   xd->mode_info_context->mbmi.mode == SPLITMV);
 205     if (!eobtotal)
 206     {
 207         /* Special case:  Force the loopfilter to skip when eobtotal and
 208          * mb_skip_coeff are zero.
 209          * */
 210         xd->mode_info_context->mbmi.mb_skip_coeff = 1;
 211
 212         skip_recon_mb(pbi, xd);
 213         return;
 214     }
 215
 216     if (xd->segmentation_enabled)
 217         mb_init_dequantizer(pbi, xd);
 218
 219     /* do prediction */
 220     if (xd->mode_info_context->mbmi.ref_frame == INTRA_FRAME)
 221     {
 222         RECON_INVOKE(&pbi->common.rtcd.recon, build_intra_predictors_mbuv)(xd);
 223
 224         if (xd->mode_info_context->mbmi.mode != B_PRED)
 225         {
 226             RECON_INVOKE(&pbi->common.rtcd.recon,
 227                          build_intra_predictors_mby)(xd);
 228         } else {
 229             vp8_intra_prediction_down_copy(xd);
 230
 231
 232
 233         }
 234     }
 235     else
 236     {
 237         vp8_build_inter_predictors_mb(xd);
 238     }
 239
 240 #if CONFIG_ERROR_CONCEALMENT
 241     if (pbi->ec_enabled &&
 242         (mb_idx > pbi->mvs_corrupt_from_mb ||
 243         vp8dx_bool_error(xd->current_bc)))
 244     {
 245         /* MB with corrupt residuals or corrupt mode/motion vectors.
 246          * Better to use the predictor as reconstruction.
 247          */
 248         vp8_conceal_corrupt_mb(xd);
 249         return;
 250     }
 251 #endif
 252
 253     /* dequantization and idct */
 254     if (xd->mode_info_context->mbmi.mode != B_PRED && xd->mode_info_context->mbmi.mode != SPLITMV)
 255     {
 256         BLOCKD *b = &xd->block[24];
 257
 258         DEQUANT_INVOKE(&pbi->dequant, block)(b);
 259
 260         /* do 2nd order transform on the dc block */
 261         if (xd->eobs[24] > 1)
 262         {
 263             IDCT_INVOKE(RTCD_VTABLE(idct), iwalsh16)(&b->dqcoeff[0], b->diff);
 264             ((int *)b->qcoeff)[0] = 0;
 265             ((int *)b->qcoeff)[1] = 0;
 266             ((int *)b->qcoeff)[2] = 0;
 267             ((int *)b->qcoeff)[3] = 0;
 268             ((int *)b->qcoeff)[4] = 0;
 269             ((int *)b->qcoeff)[5] = 0;
 270             ((int *)b->qcoeff)[6] = 0;
 271             ((int *)b->qcoeff)[7] = 0;
 272         }
 273         else
 274         {
 275             IDCT_INVOKE(RTCD_VTABLE(idct), iwalsh1)(&b->dqcoeff[0], b->diff);
 276             ((int *)b->qcoeff)[0] = 0;
 277         }
 278
 279         DEQUANT_INVOKE (&pbi->dequant, dc_idct_add_y_block)
 280                         (xd->qcoeff, xd->block[0].dequant,
 281                          xd->predictor, xd->dst.y_buffer,
 282                          xd->dst.y_stride, xd->eobs, xd->block[24].diff);
 283     }
 284     else if (xd->mode_info_context->mbmi.mode == B_PRED)
 285     {
 286         for (i = 0; i < 16; i++)
 287         {
 288
 289             BLOCKD *b = &xd->block[i];
 290             RECON_INVOKE(RTCD_VTABLE(recon), intra4x4_predict)
 291                          (b, b->bmi.mode, b->predictor);
 292
 293             if (xd->eobs[i] > 1)
 294             {
 295                 DEQUANT_INVOKE(&pbi->dequant, idct_add)
 296                     (b->qcoeff, b->dequant,  b->predictor,
 297                     *(b->base_dst) + b->dst, 16, b->dst_stride);
 298             }
 299             else
 300             {
 301                 IDCT_INVOKE(RTCD_VTABLE(idct), idct1_scalar_add)
 302                     (b->qcoeff[0] * b->dequant[0], b->predictor,
 303                     *(b->base_dst) + b->dst, 16, b->dst_stride);
 304                 ((int *)b->qcoeff)[0] = 0;
 305             }
 306         }
 307
 308     }
 309     else
 310     {
 311         DEQUANT_INVOKE (&pbi->dequant, idct_add_y_block)
 312                         (xd->qcoeff, xd->block[0].dequant,
 313                          xd->predictor, xd->dst.y_buffer,
 314                          xd->dst.y_stride, xd->eobs);
 315     }
 316
 317     DEQUANT_INVOKE (&pbi->dequant, idct_add_uv_block)
 318                     (xd->qcoeff+16*16, xd->block[16].dequant,
 319                      xd->predictor+16*16, xd->dst.u_buffer, xd->dst.v_buffer,
 320                      xd->dst.uv_stride, xd->eobs+16);
 321 }
 322
 323
 324 static int get_delta_q(vp8_reader *bc, int prev, int *q_update)
 325 {
 326     int ret_val = 0;
 327
 328     if (vp8_read_bit(bc))
 329     {
 330         ret_val = vp8_read_literal(bc, 4);
 331
 332         if (vp8_read_bit(bc))
 333             ret_val = -ret_val;
 334     }
 335
 336     /* Trigger a quantizer update if the delta-q value has changed */
 337     if (ret_val != prev)
 338         *q_update = 1;
 339
 340     return ret_val;
 341 }
 342
 343 #ifdef PACKET_TESTING
 344 #include <stdio.h>
 345 FILE *vpxlog = 0;
 346 #endif
 347
 348
 349
 350 static void
 351 decode_mb_row(VP8D_COMP *pbi, VP8_COMMON *pc, int mb_row, MACROBLOCKD *xd)
 352 {
 353
 354     int i;
 355     int recon_yoffset, recon_uvoffset;
 356     int mb_col;
 357     int ref_fb_idx = pc->lst_fb_idx;
 358     int dst_fb_idx = pc->new_fb_idx;
 359     int recon_y_stride = pc->yv12_fb[ref_fb_idx].y_stride;
 360     int recon_uv_stride = pc->yv12_fb[ref_fb_idx].uv_stride;
 361
 362     vpx_memset(&pc->left_context, 0, sizeof(pc->left_context));
 363     recon_yoffset = mb_row * recon_y_stride * 16;
 364     recon_uvoffset = mb_row * recon_uv_stride * 8;
 365     /* reset above block coeffs */
 366
 367     xd->above_context = pc->above_context;
 368     xd->up_available = (mb_row != 0);
 369
 370     xd->mb_to_top_edge = -((mb_row * 16)) << 3;
 371     xd->mb_to_bottom_edge = ((pc->mb_rows - 1 - mb_row) * 16) << 3;
 372
 373     for (mb_col = 0; mb_col < pc->mb_cols; mb_col++)
 374     {
 375         /* Distance of Mb to the various image edges.
 376          * These are specified to 8th pel as they are always compared to values
 377          * that are in 1/8th pel units
 378          */
 379         xd->mb_to_left_edge = -((mb_col * 16) << 3);
 380         xd->mb_to_right_edge = ((pc->mb_cols - 1 - mb_col) * 16) << 3;
 381
 382 #if CONFIG_ERROR_CONCEALMENT
 383         if (pbi->ec_enabled &&
 384             xd->mode_info_context->mbmi.ref_frame == INTRA_FRAME &&
 385             vp8dx_bool_error(xd->current_bc))
 386         {
 387             /* We have an intra block with corrupt coefficients, better to
 388              * conceal with an inter block. Interpolate MVs from neighboring MBs
 389              *
 390              * Note that for the first mb with corrupt residual in a frame,
 391              * we might not discover that before decoding the residual. That
 392              * happens after this check, and therefore no inter concealment will
 393              * be done.
 394              */
 395             vp8_interpolate_motion(xd,
 396                                    mb_row, mb_col,
 397                                    pc->mb_rows, pc->mb_cols,
 398                                    pc->mode_info_stride);
 399         }
 400 #endif
 401
 402         update_blockd_bmi(xd);
 403
 404         xd->dst.y_buffer = pc->yv12_fb[dst_fb_idx].y_buffer + recon_yoffset;
 405         xd->dst.u_buffer = pc->yv12_fb[dst_fb_idx].u_buffer + recon_uvoffset;
 406         xd->dst.v_buffer = pc->yv12_fb[dst_fb_idx].v_buffer + recon_uvoffset;
 407
 408         xd->left_available = (mb_col != 0);
 409
 410         /* Select the appropriate reference frame for this MB */
 411         if (xd->mode_info_context->mbmi.ref_frame == LAST_FRAME)
 412             ref_fb_idx = pc->lst_fb_idx;
 413         else if (xd->mode_info_context->mbmi.ref_frame == GOLDEN_FRAME)
 414             ref_fb_idx = pc->gld_fb_idx;
 415         else
 416             ref_fb_idx = pc->alt_fb_idx;
 417
 418         xd->pre.y_buffer = pc->yv12_fb[ref_fb_idx].y_buffer + recon_yoffset;
 419         xd->pre.u_buffer = pc->yv12_fb[ref_fb_idx].u_buffer + recon_uvoffset;
 420         xd->pre.v_buffer = pc->yv12_fb[ref_fb_idx].v_buffer + recon_uvoffset;
 421
 422         if (xd->mode_info_context->mbmi.ref_frame != INTRA_FRAME)
 423         {
 424             /* propagate errors from reference frames */
 425             xd->corrupted |= pc->yv12_fb[ref_fb_idx].corrupted;
 426         }
 427
 428         vp8_build_uvmvs(xd, pc->full_pixel);
 429
 430         /*
 431         if(pc->current_video_frame==0 &&mb_col==1 && mb_row==0)
 432         pbi->debugoutput =1;
 433         else
 434         pbi->debugoutput =0;
 435         */
 436         decode_macroblock(pbi, xd, mb_row * pc->mb_cols  + mb_col);
 437
 438         /* check if the boolean decoder has suffered an error */
 439         xd->corrupted |= vp8dx_bool_error(xd->current_bc);
 440
 441         recon_yoffset += 16;
 442         recon_uvoffset += 8;
 443
 444         ++xd->mode_info_context;  /* next mb */
 445
 446         xd->above_context++;
 447
 448     }
 449
 450     /* adjust to the next row of mbs */
 451     vp8_extend_mb_row(
 452         &pc->yv12_fb[dst_fb_idx],
 453         xd->dst.y_buffer + 16, xd->dst.u_buffer + 8, xd->dst.v_buffer + 8
 454     );
 455
 456     ++xd->mode_info_context;      /* skip prediction column */
 457 }
 458
 459
 460 static unsigned int read_partition_size(const unsigned char *cx_size)
 461 {
 462     const unsigned int size =
 463         cx_size[0] + (cx_size[1] << 8) + (cx_size[2] << 16);
 464     return size;
 465 }
 466
 467
 468 static void setup_token_decoder(VP8D_COMP *pbi,
 469                                 const unsigned char *cx_data)
 470 {
 471     int num_part;
 472     int i;
 473     VP8_COMMON          *pc = &pbi->common;
 474     const unsigned char *user_data_end = pbi->Source + pbi->source_sz;
 475     vp8_reader          *bool_decoder;
 476     const unsigned char *partition;
 477
 478     /* Parse number of token partitions to use */
 479     pc->multi_token_partition = (TOKEN_PARTITION)vp8_read_literal(&pbi->bc, 2);
 480     num_part = 1 << pc->multi_token_partition;
 481
 482     /* Set up pointers to the first partition */
 483     partition = cx_data;
 484     bool_decoder = &pbi->bc2;
 485
 486     if (num_part > 1)
 487     {
 488         CHECK_MEM_ERROR(pbi->mbc, vpx_malloc(num_part * sizeof(vp8_reader)));
 489         bool_decoder = pbi->mbc;
 490         partition += 3 * (num_part - 1);
 491     }
 492
 493     for (i = 0; i < num_part; i++)
 494     {
 495         const unsigned char *partition_size_ptr = cx_data + i * 3;
 496         ptrdiff_t            partition_size;
 497
 498         /* Calculate the length of this partition. The last partition
 499          * size is implicit.
 500          */
 501         if (i < num_part - 1)
 502         {
 503             partition_size = read_partition_size(partition_size_ptr);
 504         }
 505         else
 506         {
 507             partition_size = user_data_end - partition;
 508         }
 509
 510         if (!pbi->ec_enabled && (partition + partition_size > user_data_end
 511             || partition + partition_size < partition))
 512             vpx_internal_error(&pc->error, VPX_CODEC_CORRUPT_FRAME,
 513                                "Truncated packet or corrupt partition "
 514                                "%d length", i + 1);
 515
 516         if (vp8dx_start_decode(bool_decoder, partition, partition_size))
 517             vpx_internal_error(&pc->error, VPX_CODEC_MEM_ERROR,
 518                                "Failed to allocate bool decoder %d", i + 1);
 519
 520         /* Advance to the next partition */
 521         partition += partition_size;
 522         bool_decoder++;
 523     }
 524
 525 #if CONFIG_MULTITHREAD
 526     /* Clamp number of decoder threads */
 527     if (pbi->decoding_thread_count > num_part - 1)
 528         pbi->decoding_thread_count = num_part - 1;
 529 #endif
 530 }
 531
 532
 533 static void stop_token_decoder(VP8D_COMP *pbi)
 534 {
 535     VP8_COMMON *pc = &pbi->common;
 536
 537     if (pc->multi_token_partition != ONE_PARTITION)
 538         vpx_free(pbi->mbc);
 539 }
 540
 541 static void init_frame(VP8D_COMP *pbi)
 542 {
 543     VP8_COMMON *const pc = & pbi->common;
 544     MACROBLOCKD *const xd  = & pbi->mb;
 545
 546     if (pc->frame_type == KEY_FRAME)
 547     {
 548         /* Various keyframe initializations */
 549         vpx_memcpy(pc->fc.mvc, vp8_default_mv_context, sizeof(vp8_default_mv_context));
 550
 551         vp8_init_mbmode_probs(pc);
 552
 553         vp8_default_coef_probs(pc);
 554         vp8_kf_default_bmode_probs(pc->kf_bmode_prob);
 555
 556         /* reset the segment feature data to 0 with delta coding (Default state). */
 557         vpx_memset(xd->segment_feature_data, 0, sizeof(xd->segment_feature_data));
 558         xd->mb_segement_abs_delta = SEGMENT_DELTADATA;
 559
 560         /* reset the mode ref deltasa for loop filter */
 561         vpx_memset(xd->ref_lf_deltas, 0, sizeof(xd->ref_lf_deltas));
 562         vpx_memset(xd->mode_lf_deltas, 0, sizeof(xd->mode_lf_deltas));
 563
 564         /* All buffers are implicitly updated on key frames. */
 565         pc->refresh_golden_frame = 1;
 566         pc->refresh_alt_ref_frame = 1;
 567         pc->copy_buffer_to_gf = 0;
 568         pc->copy_buffer_to_arf = 0;
 569
 570         /* Note that Golden and Altref modes cannot be used on a key frame so
 571          * ref_frame_sign_bias[] is undefined and meaningless
 572          */
 573         pc->ref_frame_sign_bias[GOLDEN_FRAME] = 0;
 574         pc->ref_frame_sign_bias[ALTREF_FRAME] = 0;
 575     }
 576     else
 577     {
 578         if (!pc->use_bilinear_mc_filter)
 579             pc->mcomp_filter_type = SIXTAP;
 580         else
 581             pc->mcomp_filter_type = BILINEAR;
 582
 583         /* To enable choice of different interploation filters */
 584         if (pc->mcomp_filter_type == SIXTAP)
 585         {
 586             xd->subpixel_predict      = SUBPIX_INVOKE(RTCD_VTABLE(subpix), sixtap4x4);
 587             xd->subpixel_predict8x4   = SUBPIX_INVOKE(RTCD_VTABLE(subpix), sixtap8x4);
 588             xd->subpixel_predict8x8   = SUBPIX_INVOKE(RTCD_VTABLE(subpix), sixtap8x8);
 589             xd->subpixel_predict16x16 = SUBPIX_INVOKE(RTCD_VTABLE(subpix), sixtap16x16);
 590         }
 591         else
 592         {
 593             xd->subpixel_predict      = SUBPIX_INVOKE(RTCD_VTABLE(subpix), bilinear4x4);
 594             xd->subpixel_predict8x4   = SUBPIX_INVOKE(RTCD_VTABLE(subpix), bilinear8x4);
 595             xd->subpixel_predict8x8   = SUBPIX_INVOKE(RTCD_VTABLE(subpix), bilinear8x8);
 596             xd->subpixel_predict16x16 = SUBPIX_INVOKE(RTCD_VTABLE(subpix), bilinear16x16);
 597         }
 598     }
 599
 600     xd->left_context = &pc->left_context;
 601     xd->mode_info_context = pc->mi;
 602     xd->frame_type = pc->frame_type;
 603     xd->mode_info_context->mbmi.mode = DC_PRED;
 604     xd->mode_info_stride = pc->mode_info_stride;
 605     xd->corrupted = 0; /* init without corruption */
 606 }
 607
 608 int vp8_decode_frame(VP8D_COMP *pbi)
 609 {
 610     vp8_reader *const bc = & pbi->bc;
 611     VP8_COMMON *const pc = & pbi->common;
 612     MACROBLOCKD *const xd  = & pbi->mb;
 613     const unsigned char *data = (const unsigned char *)pbi->Source;
 614     const unsigned char *const data_end = data + pbi->source_sz;
 615     ptrdiff_t first_partition_length_in_bytes;
 616
 617     int mb_row;
 618     int i, j, k, l;
 619     const int *const mb_feature_data_bits = vp8_mb_feature_data_bits;
 620
 621     /* start with no corruption of current frame */
 622     xd->corrupted = 0;
 623     pc->yv12_fb[pc->new_fb_idx].corrupted = 0;
 624
 625     if (data_end - data < 3)
 626     {
 627         if (pbi->ec_enabled)
 628         {
 629             /* Declare the missing frame as an inter frame since it will
 630                be handled as an inter frame when we have estimated its
 631                motion vectors. */
 632             pc->frame_type = INTER_FRAME;
 633             pc->version = 0;
 634             pc->show_frame = 1;
 635             first_partition_length_in_bytes = 0;
 636         }
 637         else
 638         {
 639             vpx_internal_error(&pc->error, VPX_CODEC_CORRUPT_FRAME,
 640                                "Truncated packet");
 641         }
 642     }
 643     else
 644     {
 645         pc->frame_type = (FRAME_TYPE)(data[0] & 1);
 646         pc->version = (data[0] >> 1) & 7;
 647         pc->show_frame = (data[0] >> 4) & 1;
 648         first_partition_length_in_bytes =
 649             (data[0] | (data[1] << 8) | (data[2] << 16)) >> 5;
 650         data += 3;
 651
 652         if (!pbi->ec_enabled && (data + first_partition_length_in_bytes > data_end
 653             || data + first_partition_length_in_bytes < data))
 654             vpx_internal_error(&pc->error, VPX_CODEC_CORRUPT_FRAME,
 655                                "Truncated packet or corrupt partition 0 length");
 656         vp8_setup_version(pc);
 657
 658         if (pc->frame_type == KEY_FRAME)
 659         {
 660             const int Width = pc->Width;
 661             const int Height = pc->Height;
 662
 663             /* vet via sync code */
 664             /* When error concealment is enabled we should only check the sync
 665              * code if we have enough bits available
 666              */
 667             if (!pbi->ec_enabled || data + 3 < data_end)
 668             {
 669                 if (data[0] != 0x9d || data[1] != 0x01 || data[2] != 0x2a)
 670                     vpx_internal_error(&pc->error, VPX_CODEC_UNSUP_BITSTREAM,
 671                                    "Invalid frame sync code");
 672             }
 673
 674             /* If error concealment is enabled we should only parse the new size
 675              * if we have enough data. Otherwise we will end up with the wrong
 676              * size.
 677              */
 678             if (!pbi->ec_enabled || data + 6 < data_end)
 679             {
 680                 pc->Width = (data[3] | (data[4] << 8)) & 0x3fff;
 681                 pc->horiz_scale = data[4] >> 6;
 682                 pc->Height = (data[5] | (data[6] << 8)) & 0x3fff;
 683                 pc->vert_scale = data[6] >> 6;
 684             }
 685             data += 7;
 686
 687             if (Width != pc->Width  ||  Height != pc->Height)
 688             {
 689                 int prev_mb_rows = pc->mb_rows;
 690
 691                 if (pc->Width <= 0)
 692                 {
 693                     pc->Width = Width;
 694                     vpx_internal_error(&pc->error, VPX_CODEC_CORRUPT_FRAME,
 695                                        "Invalid frame width");
 696                 }
 697
 698                 if (pc->Height <= 0)
 699                 {
 700                     pc->Height = Height;
 701                     vpx_internal_error(&pc->error, VPX_CODEC_CORRUPT_FRAME,
 702                                        "Invalid frame height");
 703                 }
 704
 705                 if (vp8_alloc_frame_buffers(pc, pc->Width, pc->Height))
 706                     vpx_internal_error(&pc->error, VPX_CODEC_MEM_ERROR,
 707                                        "Failed to allocate frame buffers");
 708
 709 #if CONFIG_ERROR_CONCEALMENT
 710                 pbi->overlaps = NULL;
 711                 if (pbi->ec_enabled)
 712                 {
 713                     if (vp8_alloc_overlap_lists(pbi))
 714                         vpx_internal_error(&pc->error, VPX_CODEC_MEM_ERROR,
 715                                            "Failed to allocate overlap lists "
 716                                            "for error concealment");
 717                 }
 718 #endif
 719
 720 #if CONFIG_MULTITHREAD
 721                 if (pbi->b_multithreaded_rd)
 722                     vp8mt_alloc_temp_buffers(pbi, pc->Width, prev_mb_rows);
 723 #endif
 724             }
 725         }
 726     }
 727
 728     if (pc->Width == 0 || pc->Height == 0)
 729     {
 730         return -1;
 731     }
 732
 733     init_frame(pbi);
 734
 735     if (vp8dx_start_decode(bc, data, data_end - data))
 736         vpx_internal_error(&pc->error, VPX_CODEC_MEM_ERROR,
 737                            "Failed to allocate bool decoder 0");
 738     if (pc->frame_type == KEY_FRAME) {
 739         pc->clr_type    = (YUV_TYPE)vp8_read_bit(bc);
 740         pc->clamp_type  = (CLAMP_TYPE)vp8_read_bit(bc);
 741     }
 742
 743     /* Is segmentation enabled */
 744     xd->segmentation_enabled = (unsigned char)vp8_read_bit(bc);
 745
 746     if (xd->segmentation_enabled)
 747     {
 748         /* Signal whether or not the segmentation map is being explicitly updated this frame. */
 749         xd->update_mb_segmentation_map = (unsigned char)vp8_read_bit(bc);
 750         xd->update_mb_segmentation_data = (unsigned char)vp8_read_bit(bc);
 751
 752         if (xd->update_mb_segmentation_data)
 753         {
 754             xd->mb_segement_abs_delta = (unsigned char)vp8_read_bit(bc);
 755
 756             vpx_memset(xd->segment_feature_data, 0, sizeof(xd->segment_feature_data));
 757
 758             /* For each segmentation feature (Quant and loop filter level) */
 759             for (i = 0; i < MB_LVL_MAX; i++)
 760             {
 761                 for (j = 0; j < MAX_MB_SEGMENTS; j++)
 762                 {
 763                     /* Frame level data */
 764                     if (vp8_read_bit(bc))
 765                     {
 766                         xd->segment_feature_data[i][j] = (signed char)vp8_read_literal(bc, mb_feature_data_bits[i]);
 767
 768                         if (vp8_read_bit(bc))
 769                             xd->segment_feature_data[i][j] = -xd->segment_feature_data[i][j];
 770                     }
 771                     else
 772                         xd->segment_feature_data[i][j] = 0;
 773                 }
 774             }
 775         }
 776
 777         if (xd->update_mb_segmentation_map)
 778         {
 779             /* Which macro block level features are enabled */
 780             vpx_memset(xd->mb_segment_tree_probs, 255, sizeof(xd->mb_segment_tree_probs));
 781
 782             /* Read the probs used to decode the segment id for each macro block. */
 783             for (i = 0; i < MB_FEATURE_TREE_PROBS; i++)
 784             {
 785                 /* If not explicitly set value is defaulted to 255 by memset above */
 786                 if (vp8_read_bit(bc))
 787                     xd->mb_segment_tree_probs[i] = (vp8_prob)vp8_read_literal(bc, 8);
 788             }
 789         }
 790     }
 791
 792     /* Read the loop filter level and type */
 793     pc->filter_type = (LOOPFILTERTYPE) vp8_read_bit(bc);
 794     pc->filter_level = vp8_read_literal(bc, 6);
 795     pc->sharpness_level = vp8_read_literal(bc, 3);
 796
 797     /* Read in loop filter deltas applied at the MB level based on mode or ref frame. */
 798     xd->mode_ref_lf_delta_update = 0;
 799     xd->mode_ref_lf_delta_enabled = (unsigned char)vp8_read_bit(bc);
 800
 801     if (xd->mode_ref_lf_delta_enabled)
 802     {
 803         /* Do the deltas need to be updated */
 804         xd->mode_ref_lf_delta_update = (unsigned char)vp8_read_bit(bc);
 805
 806         if (xd->mode_ref_lf_delta_update)
 807         {
 808             /* Send update */
 809             for (i = 0; i < MAX_REF_LF_DELTAS; i++)
 810             {
 811                 if (vp8_read_bit(bc))
 812                 {
 813                     /*sign = vp8_read_bit( bc );*/
 814                     xd->ref_lf_deltas[i] = (signed char)vp8_read_literal(bc, 6);
 815
 816                     if (vp8_read_bit(bc))        /* Apply sign */
 817                         xd->ref_lf_deltas[i] = xd->ref_lf_deltas[i] * -1;
 818                 }
 819             }
 820
 821             /* Send update */
 822             for (i = 0; i < MAX_MODE_LF_DELTAS; i++)
 823             {
 824                 if (vp8_read_bit(bc))
 825                 {
 826                     /*sign = vp8_read_bit( bc );*/
 827                     xd->mode_lf_deltas[i] = (signed char)vp8_read_literal(bc, 6);
 828
 829                     if (vp8_read_bit(bc))        /* Apply sign */
 830                         xd->mode_lf_deltas[i] = xd->mode_lf_deltas[i] * -1;
 831                 }
 832             }
 833         }
 834     }
 835
 836     setup_token_decoder(pbi, data + first_partition_length_in_bytes);
 837     xd->current_bc = &pbi->bc2;
 838
 839     /* Read the default quantizers. */
 840     {
 841         int Q, q_update;
 842
 843         Q = vp8_read_literal(bc, 7);  /* AC 1st order Q = default */
 844         pc->base_qindex = Q;
 845         q_update = 0;
 846         pc->y1dc_delta_q = get_delta_q(bc, pc->y1dc_delta_q, &q_update);
 847         pc->y2dc_delta_q = get_delta_q(bc, pc->y2dc_delta_q, &q_update);
 848         pc->y2ac_delta_q = get_delta_q(bc, pc->y2ac_delta_q, &q_update);
 849         pc->uvdc_delta_q = get_delta_q(bc, pc->uvdc_delta_q, &q_update);
 850         pc->uvac_delta_q = get_delta_q(bc, pc->uvac_delta_q, &q_update);
 851
 852         if (q_update)
 853             vp8cx_init_de_quantizer(pbi);
 854
 855         /* MB level dequantizer setup */
 856         mb_init_dequantizer(pbi, &pbi->mb);
 857     }
 858
 859     /* Determine if the golden frame or ARF buffer should be updated and how.
 860      * For all non key frames the GF and ARF refresh flags and sign bias
 861      * flags must be set explicitly.
 862      */
 863     if (pc->frame_type != KEY_FRAME)
 864     {
 865         /* Should the GF or ARF be updated from the current frame */
 866         pc->refresh_golden_frame = vp8_read_bit(bc);
 867 #if CONFIG_ERROR_CONCEALMENT
 868         /* Assume we shouldn't refresh golden if the bit is missing */
 869         xd->corrupted |= vp8dx_bool_error(bc);
 870         if (pbi->ec_enabled && xd->corrupted)
 871             pc->refresh_golden_frame = 0;
 872 #endif
 873
 874         pc->refresh_alt_ref_frame = vp8_read_bit(bc);
 875 #if CONFIG_ERROR_CONCEALMENT
 876         /* Assume we shouldn't refresh altref if the bit is missing */
 877         xd->corrupted |= vp8dx_bool_error(bc);
 878         if (pbi->ec_enabled && xd->corrupted)
 879             pc->refresh_alt_ref_frame = 0;
 880 #endif
 881
 882         /* Buffer to buffer copy flags. */
 883         pc->copy_buffer_to_gf = 0;
 884
 885         if (!pc->refresh_golden_frame)
 886             pc->copy_buffer_to_gf = vp8_read_literal(bc, 2);
 887
 888         pc->copy_buffer_to_arf = 0;
 889
 890         if (!pc->refresh_alt_ref_frame)
 891             pc->copy_buffer_to_arf = vp8_read_literal(bc, 2);
 892
 893         pc->ref_frame_sign_bias[GOLDEN_FRAME] = vp8_read_bit(bc);
 894         pc->ref_frame_sign_bias[ALTREF_FRAME] = vp8_read_bit(bc);
 895     }
 896
 897     pc->refresh_entropy_probs = vp8_read_bit(bc);
 898     if (pc->refresh_entropy_probs == 0)
 899     {
 900         vpx_memcpy(&pc->lfc, &pc->fc, sizeof(pc->fc));
 901     }
 902
 903     pc->refresh_last_frame = pc->frame_type == KEY_FRAME  ||  vp8_read_bit(bc);
 904
 905 #if CONFIG_ERROR_CONCEALMENT
 906     /* Assume we should refresh the last frame if the bit is missing */
 907     xd->corrupted |= vp8dx_bool_error(bc);
 908     if (pbi->ec_enabled && xd->corrupted)
 909         pc->refresh_last_frame = 1;
 910 #endif
 911
 912     if (0)
 913     {
 914         FILE *z = fopen("decodestats.stt", "a");
 915         fprintf(z, "%6d F:%d,G:%d,A:%d,L:%d,Q:%d\n",
 916                 pc->current_video_frame,
 917                 pc->frame_type,
 918                 pc->refresh_golden_frame,
 919                 pc->refresh_alt_ref_frame,
 920                 pc->refresh_last_frame,
 921                 pc->base_qindex);
 922         fclose(z);
 923     }
 924
 925
 926     {
 927         /* read coef probability tree */
 928
 929         for (i = 0; i < BLOCK_TYPES; i++)
 930             for (j = 0; j < COEF_BANDS; j++)
 931                 for (k = 0; k < PREV_COEF_CONTEXTS; k++)
 932                     for (l = 0; l < MAX_ENTROPY_TOKENS - 1; l++)
 933                     {
 934
 935                         vp8_prob *const p = pc->fc.coef_probs [i][j][k] + l;
 936
 937                         if (vp8_read(bc, vp8_coef_update_probs [i][j][k][l]))
 938                         {
 939                             *p = (vp8_prob)vp8_read_literal(bc, 8);
 940
 941                         }
 942                     }
 943     }
 944
 945     vpx_memcpy(&xd->pre, &pc->yv12_fb[pc->lst_fb_idx], sizeof(YV12_BUFFER_CONFIG));
 946     vpx_memcpy(&xd->dst, &pc->yv12_fb[pc->new_fb_idx], sizeof(YV12_BUFFER_CONFIG));
 947
 948     /* set up frame new frame for intra coded blocks */
 949 #if CONFIG_MULTITHREAD
 950     if (!(pbi->b_multithreaded_rd) || pc->multi_token_partition == ONE_PARTITION || !(pc->filter_level))
 951 #endif
 952         vp8_setup_intra_recon(&pc->yv12_fb[pc->new_fb_idx]);
 953
 954     vp8_setup_block_dptrs(xd);
 955
 956     vp8_build_block_doffsets(xd);
 957
 958     /* clear out the coeff buffer */
 959     vpx_memset(xd->qcoeff, 0, sizeof(xd->qcoeff));
 960
 961     /* Read the mb_no_coeff_skip flag */
 962     pc->mb_no_coeff_skip = (int)vp8_read_bit(bc);
 963
 964
 965     vp8_decode_mode_mvs(pbi);
 966
 967 #if CONFIG_ERROR_CONCEALMENT
 968     if (pbi->ec_enabled &&
 969             pbi->mvs_corrupt_from_mb < (unsigned int)pc->mb_cols * pc->mb_rows)
 970     {
 971         /* Motion vectors are missing in this frame. We will try to estimate
 972          * them and then continue decoding the frame as usual */
 973         vp8_estimate_missing_mvs(pbi);
 974     }
 975 #endif
 976
 977     vpx_memset(pc->above_context, 0, sizeof(ENTROPY_CONTEXT_PLANES) * pc->mb_cols);
 978
 979     vpx_memcpy(&xd->block[0].bmi, &xd->mode_info_context->bmi[0], sizeof(B_MODE_INFO));
 980
 981 #if CONFIG_MULTITHREAD
 982     if (pbi->b_multithreaded_rd && pc->multi_token_partition != ONE_PARTITION)
 983     {
 984         vp8mt_decode_mb_rows(pbi, xd);
 985         if(pbi->common.filter_level)
 986         {
 987             /*vp8_mt_loop_filter_frame(pbi);*/ /*cm, &pbi->mb, cm->filter_level);*/
 988
 989             pc->last_frame_type = pc->frame_type;
 990             pc->last_filter_type = pc->filter_type;
 991             pc->last_sharpness_level = pc->sharpness_level;
 992         }
 993         vp8_yv12_extend_frame_borders_ptr(&pc->yv12_fb[pc->new_fb_idx]);    /*cm->frame_to_show);*/
 994     }
 995     else
 996 #endif
 997     {
 998         int ibc = 0;
 999         int num_part = 1 << pc->multi_token_partition;
1000
1001         /* Decode the individual macro block */
1002         for (mb_row = 0; mb_row < pc->mb_rows; mb_row++)
1003         {
1004
1005             if (num_part > 1)
1006             {
1007                 xd->current_bc = & pbi->mbc[ibc];
1008                 ibc++;
1009
1010                 if (ibc == num_part)
1011                     ibc = 0;
1012             }
1013
1014             decode_mb_row(pbi, pc, mb_row, xd);
1015         }
1016     }
1017
1018
1019     stop_token_decoder(pbi);
1020
1021     /* Collect information about decoder corruption. */
1022     /* 1. Check first boolean decoder for errors. */
1023     pc->yv12_fb[pc->new_fb_idx].corrupted =
1024         vp8dx_bool_error(bc);
1025     /* 2. Check the macroblock information */
1026     pc->yv12_fb[pc->new_fb_idx].corrupted |=
1027         xd->corrupted;
1028
1029     /* vpx_log("Decoder: Frame Decoded, Size Roughly:%d bytes  \n",bc->pos+pbi->bc2.pos); */
1030
1031     /* If this was a kf or Gf note the Q used */
1032     if ((pc->frame_type == KEY_FRAME) ||
1033          pc->refresh_golden_frame || pc->refresh_alt_ref_frame)
1034     {
1035         pc->last_kf_gf_q = pc->base_qindex;
1036     }
1037
1038     if (pc->refresh_entropy_probs == 0)
1039     {
1040         vpx_memcpy(&pc->fc, &pc->lfc, sizeof(pc->fc));
1041     }
1042
1043 #ifdef PACKET_TESTING
1044     {
1045         FILE *f = fopen("decompressor.VP8", "ab");
1046         unsigned int size = pbi->bc2.pos + pbi->bc.pos + 8;
1047         fwrite((void *) &size, 4, 1, f);
1048         fwrite((void *) pbi->Source, size, 1, f);
1049         fclose(f);
1050     }
1051 #endif
1052
1053     return 0;
1054 }