src/third_party/libvpx/source/libvpx/vp9/encoder/vp9_rd.h

   1 /*
   2  *  Copyright (c) 2010 The WebM project authors. All Rights Reserved.
   3  *
   4  *  Use of this source code is governed by a BSD-style license
   5  *  that can be found in the LICENSE file in the root of the source
   6  *  tree. An additional intellectual property rights grant can be found
   7  *  in the file PATENTS.  All contributing project authors may
   8  *  be found in the AUTHORS file in the root of the source tree.
   9  */
  10
  11 #ifndef VP9_ENCODER_VP9_RD_H_
  12 #define VP9_ENCODER_VP9_RD_H_
  13
  14 #include <limits.h>
  15
  16 #include "vp9/common/vp9_blockd.h"
  17
  18 #include "vp9/encoder/vp9_block.h"
  19 #include "vp9/encoder/vp9_context_tree.h"
  20
  21 #ifdef __cplusplus
  22 extern "C" {
  23 #endif
  24
  25 #define RDDIV_BITS          7
  26
  27 #define RDCOST(RM, DM, R, D) \
  28   (((128 + ((int64_t)R) * (RM)) >> 8) + (D << DM))
  29 #define QIDX_SKIP_THRESH     115
  30
  31 #define MV_COST_WEIGHT      108
  32 #define MV_COST_WEIGHT_SUB  120
  33
  34 #define INVALID_MV 0x80008000
  35
  36 #define MAX_MODES 30
  37 #define MAX_REFS  6
  38
  39 // This enumerator type needs to be kept aligned with the mode order in
  40 // const MODE_DEFINITION vp9_mode_order[MAX_MODES] used in the rd code.
  41 typedef enum {
  42   THR_NEARESTMV,
  43   THR_NEARESTA,
  44   THR_NEARESTG,
  45
  46   THR_DC,
  47
  48   THR_NEWMV,
  49   THR_NEWA,
  50   THR_NEWG,
  51
  52   THR_NEARMV,
  53   THR_NEARA,
  54   THR_COMP_NEARESTLA,
  55   THR_COMP_NEARESTGA,
  56
  57   THR_TM,
  58
  59   THR_COMP_NEARLA,
  60   THR_COMP_NEWLA,
  61   THR_NEARG,
  62   THR_COMP_NEARGA,
  63   THR_COMP_NEWGA,
  64
  65   THR_ZEROMV,
  66   THR_ZEROG,
  67   THR_ZEROA,
  68   THR_COMP_ZEROLA,
  69   THR_COMP_ZEROGA,
  70
  71   THR_H_PRED,
  72   THR_V_PRED,
  73   THR_D135_PRED,
  74   THR_D207_PRED,
  75   THR_D153_PRED,
  76   THR_D63_PRED,
  77   THR_D117_PRED,
  78   THR_D45_PRED,
  79 } THR_MODES;
  80
  81 typedef enum {
  82   THR_LAST,
  83   THR_GOLD,
  84   THR_ALTR,
  85   THR_COMP_LA,
  86   THR_COMP_GA,
  87   THR_INTRA,
  88 } THR_MODES_SUB8X8;
  89
  90 typedef struct RD_OPT {
  91   // Thresh_mult is used to set a threshold for the rd score. A higher value
  92   // means that we will accept the best mode so far more often. This number
  93   // is used in combination with the current block size, and thresh_freq_fact
  94   // to pick a threshold.
  95   int thresh_mult[MAX_MODES];
  96   int thresh_mult_sub8x8[MAX_REFS];
  97
  98   int threshes[MAX_SEGMENTS][BLOCK_SIZES][MAX_MODES];
  99   int thresh_freq_fact[BLOCK_SIZES][MAX_MODES];
 100
 101   int64_t comp_pred_diff[REFERENCE_MODES];
 102   int64_t prediction_type_threshes[MAX_REF_FRAMES][REFERENCE_MODES];
 103   int64_t tx_select_diff[TX_MODES];
 104   // TODO(agrange): can this overflow?
 105   int tx_select_threshes[MAX_REF_FRAMES][TX_MODES];
 106
 107   int64_t filter_diff[SWITCHABLE_FILTER_CONTEXTS];
 108   int64_t filter_threshes[MAX_REF_FRAMES][SWITCHABLE_FILTER_CONTEXTS];
 109   int64_t filter_cache[SWITCHABLE_FILTER_CONTEXTS];
 110   int64_t mask_filter;
 111
 112   int RDMULT;
 113   int RDDIV;
 114 } RD_OPT;
 115
 116 struct TileInfo;
 117 struct VP9_COMP;
 118 struct macroblock;
 119
 120 int vp9_compute_rd_mult(const struct VP9_COMP *cpi, int qindex);
 121
 122 void vp9_initialize_rd_consts(struct VP9_COMP *cpi);
 123
 124 void vp9_initialize_me_consts(struct VP9_COMP *cpi, int qindex);
 125
 126 void vp9_model_rd_from_var_lapndz(unsigned int var, unsigned int n,
 127                                   unsigned int qstep, int *rate,
 128                                   int64_t *dist);
 129
 130 int vp9_get_switchable_rate(const struct VP9_COMP *cpi);
 131
 132 const YV12_BUFFER_CONFIG *vp9_get_scaled_ref_frame(const struct VP9_COMP *cpi,
 133                                                    int ref_frame);
 134
 135 void vp9_init_me_luts();
 136
 137 void vp9_get_entropy_contexts(BLOCK_SIZE bsize, TX_SIZE tx_size,
 138                               const struct macroblockd_plane *pd,
 139                               ENTROPY_CONTEXT t_above[16],
 140                               ENTROPY_CONTEXT t_left[16]);
 141
 142 void vp9_set_rd_speed_thresholds(struct VP9_COMP *cpi);
 143
 144 void vp9_set_rd_speed_thresholds_sub8x8(struct VP9_COMP *cpi);
 145
 146 static INLINE int rd_less_than_thresh(int64_t best_rd, int thresh,
 147                                       int thresh_fact) {
 148     return best_rd < ((int64_t)thresh * thresh_fact >> 5) || thresh == INT_MAX;
 149 }
 150
 151 void vp9_mv_pred(struct VP9_COMP *cpi, MACROBLOCK *x,
 152                  uint8_t *ref_y_buffer, int ref_y_stride,
 153                  int ref_frame, BLOCK_SIZE block_size);
 154
 155 void vp9_setup_pred_block(const MACROBLOCKD *xd,
 156                           struct buf_2d dst[MAX_MB_PLANE],
 157                           const YV12_BUFFER_CONFIG *src,
 158                           int mi_row, int mi_col,
 159                           const struct scale_factors *scale,
 160                           const struct scale_factors *scale_uv);
 161 #ifdef __cplusplus
 162 }  // extern "C"
 163 #endif
 164
 165 #endif  // VP9_ENCODER_VP9_RD_H_