runtime/onert/backend/cpu/KernelGenerator.h

   1 /*
   2  * Copyright (c) 2020 Samsung Electronics Co., Ltd. All Rights Reserved
   3  *
   4  * Licensed under the Apache License, Version 2.0 (the "License");
   5  * you may not use this file except in compliance with the License.
   6  * You may obtain a copy of the License at
   7  *
   8  *      http://www.apache.org/licenses/LICENSE-2.0
   9  *
  10  * Unless required by applicable law or agreed to in writing, software
  11  * distributed under the License is distributed on an "AS IS" BASIS,
  12  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  13  * See the License for the specific language governing permissions and
  14  * limitations under the License.
  15  */
  16
  17 #ifndef __ONERT_BACKEND_CPU_KERNEL_GENERATOR_H__
  18 #define __ONERT_BACKEND_CPU_KERNEL_GENERATOR_H__
  19
  20 #include "ExternalContext.h"
  21 #include "TensorBuilder.h"
  22 #include "Tensor.h"
  23
  24 #include <backend/CustomKernelBuilder.h>
  25 #include <backend/IKernelGenerator.h>
  26 #include <ir/Operands.h>
  27 #include <ir/Operations.h>
  28
  29 namespace onert
  30 {
  31 namespace backend
  32 {
  33 namespace cpu
  34 {
  35
  36 class KernelGenerator : public IKernelGenerator
  37 {
  38 public:
  39   KernelGenerator(const ir::Operands &operands_ctx, const ir::Operations &operations_ctx,
  40                   const std::shared_ptr<TensorBuilder> &tensor_builder,
  41                   const std::shared_ptr<custom::IKernelBuilder> &kernel_builder,
  42                   const std::shared_ptr<ExternalContext> &external_context);
  43
  44   using IKernelGenerator::visit;
  45
  46   void visit(const ir::OpSequence &) override;
  47   void visit(const ir::operation::Conv2D &) override;
  48   void visit(const ir::operation::DepthwiseConv2D &) override;
  49   void visit(const ir::operation::MaxPool2D &) override;
  50   void visit(const ir::operation::AvgPool2D &) override;
  51   void visit(const ir::operation::Concat &) override;
  52   void visit(const ir::operation::Fill &) override;
  53   void visit(const ir::operation::FullyConnected &) override;
  54   void visit(const ir::operation::Reshape &) override;
  55   void visit(const ir::operation::Squeeze &) override;
  56   void visit(const ir::operation::Softmax &) override;
  57   void visit(const ir::operation::Comparison &) override;
  58   void visit(const ir::operation::Add &) override;
  59   void visit(const ir::operation::Sub &) override;
  60   void visit(const ir::operation::Mul &) override;
  61   void visit(const ir::operation::Div &) override;
  62   void visit(const ir::operation::Einsum &) override;
  63   void visit(const ir::operation::Gather &) override;
  64   void visit(const ir::operation::Custom &node) override;
  65   void visit(const ir::operation::Exp &) override;
  66   void visit(const ir::operation::ExpandDims &) override;
  67   void visit(const ir::operation::Logistic &) override;
  68   void visit(const ir::operation::Pad &) override;
  69   void visit(const ir::operation::Max &) override;
  70   void visit(const ir::operation::Min &) override;
  71   void visit(const ir::operation::Tanh &) override;
  72   void visit(const ir::operation::Pack &) override;
  73   void visit(const ir::operation::Unpack &) override;
  74   void visit(const ir::operation::OneHot &) override;
  75   void visit(const ir::operation::Cast &) override;
  76   void visit(const ir::operation::Transpose &) override;
  77   void visit(const ir::operation::Reduce &) override;
  78   void visit(const ir::operation::ReLU &) override;
  79   void visit(const ir::operation::ReLU6 &) override;
  80   void visit(const ir::operation::Select &) override;
  81   void visit(const ir::operation::Slice &) override;
  82   void visit(const ir::operation::StridedSlice &) override;
  83   void visit(const ir::operation::Split &) override;
  84   void visit(const ir::operation::Abs &) override;
  85   void visit(const ir::operation::Cos &) override;
  86   void visit(const ir::operation::Sin &) override;
  87   void visit(const ir::operation::RSQRT &) override;
  88   void visit(const ir::operation::Shape &) override;
  89   void visit(const ir::operation::ResizeBilinear &node) override;
  90   void visit(const ir::operation::Reverse &) override;
  91   void visit(const ir::operation::Neg &) override;
  92   void visit(const ir::operation::ArgMax &) override;
  93   void visit(const ir::operation::Log &) override;
  94   void visit(const ir::operation::Round &) override;
  95   void visit(const ir::operation::Pow &) override;
  96   void visit(const ir::operation::LogicalNot &) override;
  97   void visit(const ir::operation::ZerosLike &) override;
  98   void visit(const ir::operation::SquaredDifference &) override;
  99   void visit(const ir::operation::Tile &) override;
 100   void visit(const ir::operation::LogicalOr &) override;
 101   void visit(const ir::operation::L2Normalization &) override;
 102   void visit(const ir::operation::Range &) override;
 103   void visit(const ir::operation::MatrixBandPart &) override;
 104   void visit(const ir::operation::BatchMatMul &) override;
 105   void visit(const ir::operation::BatchToSpaceND &) override;
 106   void visit(const ir::operation::BroadcastTo &) override;
 107   void visit(const ir::operation::FusedBatchNorm &) override;
 108   void visit(const ir::operation::LogSoftmax &) override;
 109   void visit(const ir::operation::SpaceToBatchND &) override;
 110   void visit(const ir::operation::Quantize &) override;
 111   void visit(const ir::operation::SpaceToDepth &) override;
 112   void visit(const ir::operation::StatelessRandomUniform &) override;
 113   void visit(const ir::operation::SplitV &) override;
 114
 115 private:
 116   const ir::Operands &_ctx;
 117   const ir::Operations &_operations_ctx;
 118   std::shared_ptr<TensorBuilder> _tensor_builder;
 119   std::shared_ptr<backend::custom::IKernelBuilder> _kernel_builder;
 120   ir::Layout _current_op_seq_layout;
 121   const std::shared_ptr<ExternalContext> _external_context;
 122 };
 123
 124 } // namespace cpu
 125 } // namespace backend
 126 } // namespace onert
 127
 128 #endif // __ONERT_BACKEND_CPU_KERNEL_GENERATOR_H__