src/third_party/libvpx/source/libvpx/vp9/common/vp9_filter.c

   1 /*
   2  *  Copyright (c) 2010 The WebM project authors. All Rights Reserved.
   3  *
   4  *  Use of this source code is governed by a BSD-style license
   5  *  that can be found in the LICENSE file in the root of the source
   6  *  tree. An additional intellectual property rights grant can be found
   7  *  in the file PATENTS.  All contributing project authors may
   8  *  be found in the AUTHORS file in the root of the source tree.
   9  */
  10
  11 #include <assert.h>
  12
  13 #include "vp9/common/vp9_filter.h"
  14
  15 const InterpKernel vp9_bilinear_filters[SUBPEL_SHIFTS] = {
  16   { 0, 0, 0, 128,   0, 0, 0, 0 },
  17   { 0, 0, 0, 120,   8, 0, 0, 0 },
  18   { 0, 0, 0, 112,  16, 0, 0, 0 },
  19   { 0, 0, 0, 104,  24, 0, 0, 0 },
  20   { 0, 0, 0,  96,  32, 0, 0, 0 },
  21   { 0, 0, 0,  88,  40, 0, 0, 0 },
  22   { 0, 0, 0,  80,  48, 0, 0, 0 },
  23   { 0, 0, 0,  72,  56, 0, 0, 0 },
  24   { 0, 0, 0,  64,  64, 0, 0, 0 },
  25   { 0, 0, 0,  56,  72, 0, 0, 0 },
  26   { 0, 0, 0,  48,  80, 0, 0, 0 },
  27   { 0, 0, 0,  40,  88, 0, 0, 0 },
  28   { 0, 0, 0,  32,  96, 0, 0, 0 },
  29   { 0, 0, 0,  24, 104, 0, 0, 0 },
  30   { 0, 0, 0,  16, 112, 0, 0, 0 },
  31   { 0, 0, 0,   8, 120, 0, 0, 0 }
  32 };
  33
  34 // Lagrangian interpolation filter
  35 DECLARE_ALIGNED(256, const InterpKernel,
  36                 vp9_sub_pel_filters_8[SUBPEL_SHIFTS]) = {
  37   { 0,   0,   0, 128,   0,   0,   0,  0},
  38   { 0,   1,  -5, 126,   8,  -3,   1,  0},
  39   { -1,   3, -10, 122,  18,  -6,   2,  0},
  40   { -1,   4, -13, 118,  27,  -9,   3, -1},
  41   { -1,   4, -16, 112,  37, -11,   4, -1},
  42   { -1,   5, -18, 105,  48, -14,   4, -1},
  43   { -1,   5, -19,  97,  58, -16,   5, -1},
  44   { -1,   6, -19,  88,  68, -18,   5, -1},
  45   { -1,   6, -19,  78,  78, -19,   6, -1},
  46   { -1,   5, -18,  68,  88, -19,   6, -1},
  47   { -1,   5, -16,  58,  97, -19,   5, -1},
  48   { -1,   4, -14,  48, 105, -18,   5, -1},
  49   { -1,   4, -11,  37, 112, -16,   4, -1},
  50   { -1,   3,  -9,  27, 118, -13,   4, -1},
  51   { 0,   2,  -6,  18, 122, -10,   3, -1},
  52   { 0,   1,  -3,   8, 126,  -5,   1,  0}
  53 };
  54
  55 // DCT based filter
  56 DECLARE_ALIGNED(256, const InterpKernel,
  57                 vp9_sub_pel_filters_8s[SUBPEL_SHIFTS]) = {
  58   {0,   0,   0, 128,   0,   0,   0, 0},
  59   {-1,   3,  -7, 127,   8,  -3,   1, 0},
  60   {-2,   5, -13, 125,  17,  -6,   3, -1},
  61   {-3,   7, -17, 121,  27, -10,   5, -2},
  62   {-4,   9, -20, 115,  37, -13,   6, -2},
  63   {-4,  10, -23, 108,  48, -16,   8, -3},
  64   {-4,  10, -24, 100,  59, -19,   9, -3},
  65   {-4,  11, -24,  90,  70, -21,  10, -4},
  66   {-4,  11, -23,  80,  80, -23,  11, -4},
  67   {-4,  10, -21,  70,  90, -24,  11, -4},
  68   {-3,   9, -19,  59, 100, -24,  10, -4},
  69   {-3,   8, -16,  48, 108, -23,  10, -4},
  70   {-2,   6, -13,  37, 115, -20,   9, -4},
  71   {-2,   5, -10,  27, 121, -17,   7, -3},
  72   {-1,   3,  -6,  17, 125, -13,   5, -2},
  73   {0,   1,  -3,   8, 127,  -7,   3, -1}
  74 };
  75
  76 // freqmultiplier = 0.5
  77 DECLARE_ALIGNED(256, const InterpKernel,
  78                 vp9_sub_pel_filters_8lp[SUBPEL_SHIFTS]) = {
  79   { 0,  0,  0, 128,  0,  0,  0,  0},
  80   {-3, -1, 32,  64, 38,  1, -3,  0},
  81   {-2, -2, 29,  63, 41,  2, -3,  0},
  82   {-2, -2, 26,  63, 43,  4, -4,  0},
  83   {-2, -3, 24,  62, 46,  5, -4,  0},
  84   {-2, -3, 21,  60, 49,  7, -4,  0},
  85   {-1, -4, 18,  59, 51,  9, -4,  0},
  86   {-1, -4, 16,  57, 53, 12, -4, -1},
  87   {-1, -4, 14,  55, 55, 14, -4, -1},
  88   {-1, -4, 12,  53, 57, 16, -4, -1},
  89   { 0, -4,  9,  51, 59, 18, -4, -1},
  90   { 0, -4,  7,  49, 60, 21, -3, -2},
  91   { 0, -4,  5,  46, 62, 24, -3, -2},
  92   { 0, -4,  4,  43, 63, 26, -2, -2},
  93   { 0, -3,  2,  41, 63, 29, -2, -2},
  94   { 0, -3,  1,  38, 64, 32, -1, -3}
  95 };
  96
  97
  98 static const InterpKernel* vp9_filter_kernels[4] = {
  99   vp9_sub_pel_filters_8,
 100   vp9_sub_pel_filters_8lp,
 101   vp9_sub_pel_filters_8s,
 102   vp9_bilinear_filters
 103 };
 104
 105 const InterpKernel *vp9_get_interp_kernel(INTERP_FILTER filter) {
 106   assert(filter != SWITCHABLE);
 107   return vp9_filter_kernels[filter];
 108 }
 109