MODE_INFO size reduction
[profile/ivi/libvpx.git] / vp8 / common / blockd.h
1 /*
2  *  Copyright (c) 2010 The WebM project authors. All Rights Reserved.
3  *
4  *  Use of this source code is governed by a BSD-style license
5  *  that can be found in the LICENSE file in the root of the source
6  *  tree. An additional intellectual property rights grant can be found
7  *  in the file PATENTS.  All contributing project authors may
8  *  be found in the AUTHORS file in the root of the source tree.
9  */
10
11
12 #ifndef __INC_BLOCKD_H
13 #define __INC_BLOCKD_H
14
15 void vpx_log(const char *format, ...);
16
17 #include "vpx_ports/config.h"
18 #include "vpx_scale/yv12config.h"
19 #include "mv.h"
20 #include "treecoder.h"
21 #include "subpixel.h"
22 #include "vpx_ports/mem.h"
23
24 #define TRUE    1
25 #define FALSE   0
26
27 /*#define DCPRED 1*/
28 #define DCPREDSIMTHRESH 0
29 #define DCPREDCNTTHRESH 3
30
31 #define MB_FEATURE_TREE_PROBS   3
32 #define MAX_MB_SEGMENTS         4
33
34 #define MAX_REF_LF_DELTAS       4
35 #define MAX_MODE_LF_DELTAS      4
36
37 /* Segment Feature Masks */
38 #define SEGMENT_DELTADATA   0
39 #define SEGMENT_ABSDATA     1
40
41 typedef struct
42 {
43     int r, c;
44 } POS;
45
46 #define PLANE_TYPE_Y_NO_DC    0
47 #define PLANE_TYPE_Y2         1
48 #define PLANE_TYPE_UV         2
49 #define PLANE_TYPE_Y_WITH_DC  3
50
51
52 typedef char ENTROPY_CONTEXT;
53 typedef struct
54 {
55     ENTROPY_CONTEXT y1[4];
56     ENTROPY_CONTEXT u[2];
57     ENTROPY_CONTEXT v[2];
58     ENTROPY_CONTEXT y2;
59 } ENTROPY_CONTEXT_PLANES;
60
61 extern const unsigned char vp8_block2left[25];
62 extern const unsigned char vp8_block2above[25];
63
64 #define VP8_COMBINEENTROPYCONTEXTS( Dest, A, B) \
65     Dest = ((A)!=0) + ((B)!=0);
66
67
68 typedef enum
69 {
70     KEY_FRAME = 0,
71     INTER_FRAME = 1
72 } FRAME_TYPE;
73
74 typedef enum
75 {
76     DC_PRED,            /* average of above and left pixels */
77     V_PRED,             /* vertical prediction */
78     H_PRED,             /* horizontal prediction */
79     TM_PRED,            /* Truemotion prediction */
80     B_PRED,             /* block based prediction, each block has its own prediction mode */
81
82     NEARESTMV,
83     NEARMV,
84     ZEROMV,
85     NEWMV,
86     SPLITMV,
87
88     MB_MODE_COUNT
89 } MB_PREDICTION_MODE;
90
91 /* Macroblock level features */
92 typedef enum
93 {
94     MB_LVL_ALT_Q = 0,               /* Use alternate Quantizer .... */
95     MB_LVL_ALT_LF = 1,              /* Use alternate loop filter value... */
96     MB_LVL_MAX = 2                  /* Number of MB level features supported */
97
98 } MB_LVL_FEATURES;
99
100 /* Segment Feature Masks */
101 #define SEGMENT_ALTQ    0x01
102 #define SEGMENT_ALT_LF  0x02
103
104 #define VP8_YMODES  (B_PRED + 1)
105 #define VP8_UV_MODES (TM_PRED + 1)
106
107 #define VP8_MVREFS (1 + SPLITMV - NEARESTMV)
108
109 typedef enum
110 {
111     B_DC_PRED,          /* average of above and left pixels */
112     B_TM_PRED,
113
114     B_VE_PRED,           /* vertical prediction */
115     B_HE_PRED,           /* horizontal prediction */
116
117     B_LD_PRED,
118     B_RD_PRED,
119
120     B_VR_PRED,
121     B_VL_PRED,
122     B_HD_PRED,
123     B_HU_PRED,
124
125     LEFT4X4,
126     ABOVE4X4,
127     ZERO4X4,
128     NEW4X4,
129
130     B_MODE_COUNT
131 } B_PREDICTION_MODE;
132
133 #define VP8_BINTRAMODES (B_HU_PRED + 1)  /* 10 */
134 #define VP8_SUBMVREFS (1 + NEW4X4 - LEFT4X4)
135
136 /* For keyframes, intra block modes are predicted by the (already decoded)
137    modes for the Y blocks to the left and above us; for interframes, there
138    is a single probability table. */
139
140 typedef struct
141 {
142     B_PREDICTION_MODE mode;
143     int_mv mv;
144 } B_MODE_INFO;
145
146
147 typedef enum
148 {
149     INTRA_FRAME = 0,
150     LAST_FRAME = 1,
151     GOLDEN_FRAME = 2,
152     ALTREF_FRAME = 3,
153     MAX_REF_FRAMES = 4
154 } MV_REFERENCE_FRAME;
155
156 typedef struct
157 {
158     MB_PREDICTION_MODE mode, uv_mode;
159     MV_REFERENCE_FRAME ref_frame;
160     int_mv mv;
161
162     unsigned char partitioning;
163     unsigned char mb_skip_coeff;                                /* does this mb has coefficients at all, 1=no coefficients, 0=need decode tokens */
164     unsigned char need_to_clamp_mvs;
165     unsigned char segment_id;                  /* Which set of segmentation parameters should be used for this MB */
166 } MB_MODE_INFO;
167
168 typedef struct
169 {
170     MB_MODE_INFO mbmi;
171     union
172     {
173         B_PREDICTION_MODE as_mode;
174         int_mv mv;
175     } bmi[16];
176 } MODE_INFO;
177
178 typedef struct
179 {
180     short *qcoeff;
181     short *dqcoeff;
182     unsigned char  *predictor;
183     short *diff;
184     short *reference;
185
186     short *dequant;
187
188     /* 16 Y blocks, 4 U blocks, 4 V blocks each with 16 entries */
189     unsigned char **base_pre;
190     int pre;
191     int pre_stride;
192
193     unsigned char **base_dst;
194     int dst;
195     int dst_stride;
196
197     int eob;
198
199     B_MODE_INFO bmi;
200 } BLOCKD;
201
202 typedef struct
203 {
204     DECLARE_ALIGNED(16, short, diff[400]);      /* from idct diff */
205     DECLARE_ALIGNED(16, unsigned char,  predictor[384]);
206 /* not used    DECLARE_ALIGNED(16, short, reference[384]); */
207     DECLARE_ALIGNED(16, short, qcoeff[400]);
208     DECLARE_ALIGNED(16, short, dqcoeff[400]);
209     DECLARE_ALIGNED(16, char,  eobs[25]);
210
211     /* 16 Y blocks, 4 U, 4 V, 1 DC 2nd order block, each with 16 entries. */
212     BLOCKD block[25];
213
214     YV12_BUFFER_CONFIG pre; /* Filtered copy of previous frame reconstruction */
215     YV12_BUFFER_CONFIG dst;
216
217     MODE_INFO *mode_info_context;
218     int mode_info_stride;
219
220     FRAME_TYPE frame_type;
221
222     int up_available;
223     int left_available;
224
225     /* Y,U,V,Y2 */
226     ENTROPY_CONTEXT_PLANES *above_context;
227     ENTROPY_CONTEXT_PLANES *left_context;
228
229     /* 0 indicates segmentation at MB level is not enabled. Otherwise the individual bits indicate which features are active. */
230     unsigned char segmentation_enabled;
231
232     /* 0 (do not update) 1 (update) the macroblock segmentation map. */
233     unsigned char update_mb_segmentation_map;
234
235     /* 0 (do not update) 1 (update) the macroblock segmentation feature data. */
236     unsigned char update_mb_segmentation_data;
237
238     /* 0 (do not update) 1 (update) the macroblock segmentation feature data. */
239     unsigned char mb_segement_abs_delta;
240
241     /* Per frame flags that define which MB level features (such as quantizer or loop filter level) */
242     /* are enabled and when enabled the proabilities used to decode the per MB flags in MB_MODE_INFO */
243     vp8_prob mb_segment_tree_probs[MB_FEATURE_TREE_PROBS];         /* Probability Tree used to code Segment number */
244
245     signed char segment_feature_data[MB_LVL_MAX][MAX_MB_SEGMENTS];            /* Segment parameters */
246
247     /* mode_based Loop filter adjustment */
248     unsigned char mode_ref_lf_delta_enabled;
249     unsigned char mode_ref_lf_delta_update;
250
251     /* Delta values have the range +/- MAX_LOOP_FILTER */
252     signed char last_ref_lf_deltas[MAX_REF_LF_DELTAS];                /* 0 = Intra, Last, GF, ARF */
253     signed char ref_lf_deltas[MAX_REF_LF_DELTAS];                     /* 0 = Intra, Last, GF, ARF */
254     signed char last_mode_lf_deltas[MAX_MODE_LF_DELTAS];                      /* 0 = BPRED, ZERO_MV, MV, SPLIT */
255     signed char mode_lf_deltas[MAX_MODE_LF_DELTAS];                           /* 0 = BPRED, ZERO_MV, MV, SPLIT */
256
257     /* Distance of MB away from frame edges */
258     int mb_to_left_edge;
259     int mb_to_right_edge;
260     int mb_to_top_edge;
261     int mb_to_bottom_edge;
262
263     unsigned int frames_since_golden;
264     unsigned int frames_till_alt_ref_frame;
265     vp8_subpix_fn_t  subpixel_predict;
266     vp8_subpix_fn_t  subpixel_predict8x4;
267     vp8_subpix_fn_t  subpixel_predict8x8;
268     vp8_subpix_fn_t  subpixel_predict16x16;
269
270     void *current_bc;
271
272     int corrupted;
273
274 #if CONFIG_RUNTIME_CPU_DETECT
275     struct VP8_COMMON_RTCD  *rtcd;
276 #endif
277 } MACROBLOCKD;
278
279
280 extern void vp8_build_block_doffsets(MACROBLOCKD *x);
281 extern void vp8_setup_block_dptrs(MACROBLOCKD *x);
282
283 static void update_blockd_bmi(MACROBLOCKD *xd)
284 {
285     int i;
286     if (xd->mode_info_context->mbmi.mode == SPLITMV)
287     {
288         for (i = 0; i < 16; i++)
289         {
290             BLOCKD *d = &xd->block[i];
291             d->bmi.mv.as_int = xd->mode_info_context->bmi[i].mv.as_int;
292         }
293     }else if (xd->mode_info_context->mbmi.mode == B_PRED)
294     {
295         for (i = 0; i < 16; i++)
296         {
297             BLOCKD *d = &xd->block[i];
298             d->bmi.mode = xd->mode_info_context->bmi[i].as_mode;
299         }
300     }
301 }
302
303 #endif  /* __INC_BLOCKD_H */