vp9/encoder/vp9_block.h

   1 /*
   2  *  Copyright (c) 2010 The WebM project authors. All Rights Reserved.
   3  *
   4  *  Use of this source code is governed by a BSD-style license
   5  *  that can be found in the LICENSE file in the root of the source
   6  *  tree. An additional intellectual property rights grant can be found
   7  *  in the file PATENTS.  All contributing project authors may
   8  *  be found in the AUTHORS file in the root of the source tree.
   9  */
  10
  11 #ifndef VPX_VP9_ENCODER_VP9_BLOCK_H_
  12 #define VPX_VP9_ENCODER_VP9_BLOCK_H_
  13
  14 #include "vpx_util/vpx_thread.h"
  15
  16 #include "vp9/common/vp9_entropymv.h"
  17 #include "vp9/common/vp9_entropy.h"
  18
  19 #ifdef __cplusplus
  20 extern "C" {
  21 #endif
  22
  23 typedef struct {
  24   unsigned int sse;
  25   int sum;
  26   unsigned int var;
  27 } diff;
  28
  29 struct macroblock_plane {
  30   DECLARE_ALIGNED(16, int16_t, src_diff[64 * 64]);
  31   tran_low_t *qcoeff;
  32   tran_low_t *coeff;
  33   uint16_t *eobs;
  34   struct buf_2d src;
  35
  36   // Quantizer setings
  37   int16_t *quant_fp;
  38   int16_t *round_fp;
  39   int16_t *quant;
  40   int16_t *quant_shift;
  41   int16_t *zbin;
  42   int16_t *round;
  43
  44   int64_t quant_thred[2];
  45 };
  46
  47 /* The [2] dimension is for whether we skip the EOB node (i.e. if previous
  48  * coefficient in this block was zero) or not. */
  49 typedef unsigned int vp9_coeff_cost[PLANE_TYPES][REF_TYPES][COEF_BANDS][2]
  50                                    [COEFF_CONTEXTS][ENTROPY_TOKENS];
  51
  52 typedef struct {
  53   int_mv ref_mvs[MAX_REF_FRAMES][MAX_MV_REF_CANDIDATES];
  54   uint8_t mode_context[MAX_REF_FRAMES];
  55 } MB_MODE_INFO_EXT;
  56
  57 typedef struct {
  58   int col_min;
  59   int col_max;
  60   int row_min;
  61   int row_max;
  62 } MvLimits;
  63
  64 typedef struct macroblock MACROBLOCK;
  65 struct macroblock {
  66 // cf. https://bugs.chromium.org/p/webm/issues/detail?id=1054
  67 #if defined(_MSC_VER) && _MSC_VER < 1900
  68   int64_t bsse[MAX_MB_PLANE << 2];
  69 #endif
  70
  71   struct macroblock_plane plane[MAX_MB_PLANE];
  72
  73   MACROBLOCKD e_mbd;
  74   MB_MODE_INFO_EXT *mbmi_ext;
  75   MB_MODE_INFO_EXT *mbmi_ext_base;
  76   int skip_block;
  77   int select_tx_size;
  78   int skip_recode;
  79   int skip_optimize;
  80   int q_index;
  81   int block_qcoeff_opt;
  82   int block_tx_domain;
  83
  84   // The equivalent error at the current rdmult of one whole bit (not one
  85   // bitcost unit).
  86   int errorperbit;
  87   // The equivalend SAD error of one (whole) bit at the current quantizer
  88   // for large blocks.
  89   int sadperbit16;
  90   // The equivalend SAD error of one (whole) bit at the current quantizer
  91   // for sub-8x8 blocks.
  92   int sadperbit4;
  93   int rddiv;
  94   int rdmult;
  95   int cb_rdmult;
  96   int mb_energy;
  97
  98   // These are set to their default values at the beginning, and then adjusted
  99   // further in the encoding process.
 100   BLOCK_SIZE min_partition_size;
 101   BLOCK_SIZE max_partition_size;
 102
 103   int mv_best_ref_index[MAX_REF_FRAMES];
 104   unsigned int max_mv_context[MAX_REF_FRAMES];
 105   unsigned int source_variance;
 106   unsigned int pred_sse[MAX_REF_FRAMES];
 107   int pred_mv_sad[MAX_REF_FRAMES];
 108
 109   int nmvjointcost[MV_JOINTS];
 110   int *nmvcost[2];
 111   int *nmvcost_hp[2];
 112   int **mvcost;
 113
 114   int nmvjointsadcost[MV_JOINTS];
 115   int *nmvsadcost[2];
 116   int *nmvsadcost_hp[2];
 117   int **mvsadcost;
 118
 119   // sharpness is used to disable skip mode and change rd_mult
 120   int sharpness;
 121
 122   // aq mode is used to adjust rd based on segment.
 123   int adjust_rdmult_by_segment;
 124
 125   // These define limits to motion vector components to prevent them
 126   // from extending outside the UMV borders
 127   MvLimits mv_limits;
 128
 129   // Notes transform blocks where no coefficents are coded.
 130   // Set during mode selection. Read during block encoding.
 131   uint8_t zcoeff_blk[TX_SIZES][256];
 132
 133   // Accumulate the tx block eobs in a partition block.
 134   int32_t sum_y_eobs[TX_SIZES];
 135
 136   int skip;
 137
 138   int encode_breakout;
 139
 140   // note that token_costs is the cost when eob node is skipped
 141   vp9_coeff_cost token_costs[TX_SIZES];
 142
 143   int optimize;
 144
 145   // indicate if it is in the rd search loop or encoding process
 146   int use_lp32x32fdct;
 147   int skip_encode;
 148
 149   // In first pass, intra prediction is done based on source pixels
 150   // at tile boundaries
 151   int fp_src_pred;
 152
 153   // use fast quantization process
 154   int quant_fp;
 155
 156   // skip forward transform and quantization
 157   uint8_t skip_txfm[MAX_MB_PLANE << 2];
 158 #define SKIP_TXFM_NONE 0
 159 #define SKIP_TXFM_AC_DC 1
 160 #define SKIP_TXFM_AC_ONLY 2
 161
 162 // cf. https://bugs.chromium.org/p/webm/issues/detail?id=1054
 163 #if !defined(_MSC_VER) || _MSC_VER >= 1900
 164   int64_t bsse[MAX_MB_PLANE << 2];
 165 #endif
 166
 167   // Used to store sub partition's choices.
 168   MV pred_mv[MAX_REF_FRAMES];
 169
 170   // Strong color activity detection. Used in RTC coding mode to enhance
 171   // the visual quality at the boundary of moving color objects.
 172   uint8_t color_sensitivity[2];
 173
 174   uint8_t sb_is_skin;
 175
 176   uint8_t skip_low_source_sad;
 177
 178   uint8_t lowvar_highsumdiff;
 179
 180   uint8_t last_sb_high_content;
 181
 182   int sb_use_mv_part;
 183
 184   int sb_mvcol_part;
 185
 186   int sb_mvrow_part;
 187
 188   int sb_pickmode_part;
 189
 190   int zero_temp_sad_source;
 191
 192   // For each superblock: saves the content value (e.g., low/high sad/sumdiff)
 193   // based on source sad, prior to encoding the frame.
 194   uint8_t content_state_sb;
 195
 196   // Used to save the status of whether a block has a low variance in
 197   // choose_partitioning. 0 for 64x64, 1~2 for 64x32, 3~4 for 32x64, 5~8 for
 198   // 32x32, 9~24 for 16x16.
 199   uint8_t variance_low[25];
 200
 201   uint8_t arf_frame_usage;
 202   uint8_t lastgolden_frame_usage;
 203
 204   void (*fwd_txfm4x4)(const int16_t *input, tran_low_t *output, int stride);
 205   void (*inv_txfm_add)(const tran_low_t *input, uint8_t *dest, int stride,
 206                        int eob);
 207 #if CONFIG_VP9_HIGHBITDEPTH
 208   void (*highbd_inv_txfm_add)(const tran_low_t *input, uint16_t *dest,
 209                               int stride, int eob, int bd);
 210 #endif
 211 #if CONFIG_ML_VAR_PARTITION
 212   DECLARE_ALIGNED(16, uint8_t, est_pred[64 * 64]);
 213 #endif  // CONFIG_ML_VAR_PARTITION
 214
 215   struct scale_factors *me_sf;
 216 };
 217
 218 #ifdef __cplusplus
 219 }  // extern "C"
 220 #endif
 221
 222 #endif  // VPX_VP9_ENCODER_VP9_BLOCK_H_