src/core/NEON/kernels/arm_gemm/kernels/a64_gemm_u8_12x8.hpp

   1 /*
   2  * Copyright (c) 2017-2018 ARM Limited.
   3  *
   4  * SPDX-License-Identifier: MIT
   5  *
   6  * Permission is hereby granted, free of charge, to any person obtaining a copy
   7  * of this software and associated documentation files (the "Software"), to
   8  * deal in the Software without restriction, including without limitation the
   9  * rights to use, copy, modify, merge, publish, distribute, sublicense, and/or
  10  * sell copies of the Software, and to permit persons to whom the Software is
  11  * furnished to do so, subject to the following conditions:
  12  *
  13  * The above copyright notice and this permission notice shall be included in all
  14  * copies or substantial portions of the Software.
  15  *
  16  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
  17  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
  18  * FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL THE
  19  * AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER
  20  * LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM,
  21  * OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE
  22  * SOFTWARE.
  23  */
  24 #pragma once
  25
  26 #ifdef __aarch64__
  27
  28 #include "arm_gemm.hpp"
  29
  30 namespace arm_gemm
  31 {
  32 // Load the actual kernel
  33 void a64_gemm_u8_12x8(const uint8_t *, const uint8_t *, uint32_t *, int, int, int);
  34 void a64_gemm_u8_12x8_a55r1(const uint8_t *, const uint8_t *, uint32_t *, int, int, int);
  35
  36 class gemm_u8_12x8
  37 {
  38 public:
  39     typedef uint8_t  operand_type;
  40     typedef uint32_t result_type;
  41
  42     typedef void (*kern_type)(const uint8_t *, const uint8_t *, uint32_t *, int, int, int);
  43
  44     /* Describes the data layout for A input */
  45     static const int  A_interleave = 8;
  46     static const int  A_block      = 4;
  47     static const bool A_transpose  = false;
  48
  49     /* Same for B input */
  50     static const int  B_interleave = 12;
  51     static const int  B_block      = 4;
  52     static const bool B_transpose  = true;
  53
  54     /* Kernel blocking parameters */
  55     static const int out_width  = 12;
  56     static const int out_height = 8;
  57     static const int k_unroll   = 4;
  58
  59     kern_type kernel = a64_gemm_u8_12x8;
  60
  61     gemm_u8_12x8(const CPUInfo *ci)
  62     {
  63         if(ci->get_cpu_model() == CPUModel::A55r1)
  64         {
  65             kernel = a64_gemm_u8_12x8_a55r1;
  66         }
  67     }
  68 };
  69
  70 } // namespace arm_gemm
  71
  72 #endif // __aarch64__