Merge "Fix high bit depth in vp10 codebase"
[platform/upstream/libvpx.git] / vp10 / encoder / tokenize.h
1 /*
2  *  Copyright (c) 2010 The WebM project authors. All Rights Reserved.
3  *
4  *  Use of this source code is governed by a BSD-style license
5  *  that can be found in the LICENSE file in the root of the source
6  *  tree. An additional intellectual property rights grant can be found
7  *  in the file PATENTS.  All contributing project authors may
8  *  be found in the AUTHORS file in the root of the source tree.
9  */
10
11 #ifndef VP9_ENCODER_VP9_TOKENIZE_H_
12 #define VP9_ENCODER_VP9_TOKENIZE_H_
13
14 #include "vp10/common/entropy.h"
15
16 #include "vp10/encoder/block.h"
17 #include "vp10/encoder/treewriter.h"
18
19 #ifdef __cplusplus
20 extern "C" {
21 #endif
22
23 #define EOSB_TOKEN 127     // Not signalled, encoder only
24
25 #if CONFIG_VP9_HIGHBITDEPTH
26   typedef int32_t EXTRABIT;
27 #else
28   typedef int16_t EXTRABIT;
29 #endif
30
31
32 typedef struct {
33   int16_t token;
34   EXTRABIT extra;
35 } TOKENVALUE;
36
37 typedef struct {
38   const vpx_prob *context_tree;
39   EXTRABIT extra;
40   uint8_t token;
41   uint8_t skip_eob_node;
42 } TOKENEXTRA;
43
44 extern const vpx_tree_index vp10_coef_tree[];
45 extern const vpx_tree_index vp10_coef_con_tree[];
46 extern const struct vp10_token vp10_coef_encodings[];
47
48 int vp10_is_skippable_in_plane(MACROBLOCK *x, BLOCK_SIZE bsize, int plane);
49 int vp10_has_high_freq_in_plane(MACROBLOCK *x, BLOCK_SIZE bsize, int plane);
50
51 struct VP9_COMP;
52 struct ThreadData;
53
54 void vp10_tokenize_sb(struct VP9_COMP *cpi, struct ThreadData *td,
55                      TOKENEXTRA **t, int dry_run, BLOCK_SIZE bsize);
56
57 extern const int16_t *vp10_dct_value_cost_ptr;
58 /* TODO: The Token field should be broken out into a separate char array to
59  *  improve cache locality, since it's needed for costing when the rest of the
60  *  fields are not.
61  */
62 extern const TOKENVALUE *vp10_dct_value_tokens_ptr;
63 extern const TOKENVALUE *vp10_dct_cat_lt_10_value_tokens;
64 extern const int16_t vp10_cat6_low_cost[256];
65 extern const int16_t vp10_cat6_high_cost[128];
66 extern const int16_t vp10_cat6_high10_high_cost[512];
67 extern const int16_t vp10_cat6_high12_high_cost[2048];
68 static INLINE int16_t vp10_get_cost(int16_t token, EXTRABIT extrabits,
69                                    const int16_t *cat6_high_table) {
70   if (token != CATEGORY6_TOKEN)
71     return vp10_extra_bits[token].cost[extrabits];
72   return vp10_cat6_low_cost[extrabits & 0xff]
73       + cat6_high_table[extrabits >> 8];
74 }
75
76 #if CONFIG_VP9_HIGHBITDEPTH
77 static INLINE const int16_t* vp10_get_high_cost_table(int bit_depth) {
78   return bit_depth == 8 ? vp10_cat6_high_cost
79       : (bit_depth == 10 ? vp10_cat6_high10_high_cost :
80          vp10_cat6_high12_high_cost);
81 }
82 #else
83 static INLINE const int16_t* vp10_get_high_cost_table(int bit_depth) {
84   (void) bit_depth;
85   return vp10_cat6_high_cost;
86 }
87 #endif  // CONFIG_VP9_HIGHBITDEPTH
88
89 static INLINE void vp10_get_token_extra(int v, int16_t *token, EXTRABIT *extra) {
90   if (v >= CAT6_MIN_VAL || v <= -CAT6_MIN_VAL) {
91     *token = CATEGORY6_TOKEN;
92     if (v >= CAT6_MIN_VAL)
93       *extra = 2 * v - 2 * CAT6_MIN_VAL;
94     else
95       *extra = -2 * v - 2 * CAT6_MIN_VAL + 1;
96     return;
97   }
98   *token = vp10_dct_cat_lt_10_value_tokens[v].token;
99   *extra = vp10_dct_cat_lt_10_value_tokens[v].extra;
100 }
101 static INLINE int16_t vp10_get_token(int v) {
102   if (v >= CAT6_MIN_VAL || v <= -CAT6_MIN_VAL)
103     return 10;
104   return vp10_dct_cat_lt_10_value_tokens[v].token;
105 }
106
107
108 #ifdef __cplusplus
109 }  // extern "C"
110 #endif
111
112 #endif  // VP9_ENCODER_VP9_TOKENIZE_H_