runtime/onert/backend/acl_common/AclConstantInitializer.cc

   1 /*
   2  * Copyright (c) 2019 Samsung Electronics Co., Ltd. All Rights Reserved
   3  *
   4  * Licensed under the Apache License, Version 2.0 (the "License");
   5  * you may not use this file except in compliance with the License.
   6  * You may obtain a copy of the License at
   7  *
   8  *      http://www.apache.org/licenses/LICENSE-2.0
   9  *
  10  * Unless required by applicable law or agreed to in writing, software
  11  * distributed under the License is distributed on an "AS IS" BASIS,
  12  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  13  * See the License for the specific language governing permissions and
  14  * limitations under the License.
  15  */
  16
  17 #include "AclConstantInitializer.h"
  18
  19 namespace onert
  20 {
  21 namespace backend
  22 {
  23 namespace acl_common
  24 {
  25
  26 AclConstantInitializer::AclConstantInitializer(const ir::Operands &operands,
  27                                                const std::shared_ptr<ITensorRegistry> &tensor_reg)
  28     : IConstantInitializer{operands}, _tensor_reg{tensor_reg}
  29 {
  30   // DO NOTHING
  31 }
  32
  33 void AclConstantInitializer::copyInputInitialize(const ir::Operation &node, uint32_t index)
  34 {
  35   assert(node.getInputs().size() > index);
  36
  37   const auto &input_index = node.getInputs().at(index);
  38   if (input_index.valid())
  39   {
  40     const auto &input_obj = _operands.at(input_index);
  41     registerCopyInitializer(input_index, input_obj);
  42   }
  43 }
  44
  45 void AclConstantInitializer::permuteInputInitialize(const ir::Operation &node, uint32_t index)
  46 {
  47   assert(node.getInputs().size() > index);
  48
  49   const auto &input_index = node.getInputs().at(index);
  50   const auto &input_obj = _operands.at(input_index);
  51   registerPermuteInitializer(input_index, input_obj);
  52 }
  53
  54 void AclConstantInitializer::visit(const ir::operation::BatchToSpaceND &node)
  55 {
  56   const auto &block_size_index = node.getInputs().at(ir::operation::BatchToSpaceND::BLOCK_SIZE);
  57   const auto &block_size_obj = _operands.at(block_size_index);
  58
  59   if (block_size_obj.isConstant())
  60   {
  61     _init_map[block_size_index] = [](const ir::Operand &model_obj, backend::ITensor &obj) {
  62       assert(model_obj.data());
  63       const auto &shape = model_obj.shape();
  64       const auto base = reinterpret_cast<const int32_t *>(model_obj.data()->base());
  65       assert(model_obj.shape().rank() == 1);
  66       obj.access([&](ITensor &tensor) {
  67         for (size_t i = 0; i < shape.num_elements(); ++i)
  68         {
  69           const int32_t value = base[shape.num_elements() - i - 1];
  70           int32_t *into = reinterpret_cast<int32_t *>(tensor.buffer() +
  71                                                       tensor.calcOffset({static_cast<int32_t>(i)}));
  72           *into = value;
  73         }
  74       });
  75     };
  76   }
  77 }
  78
  79 void AclConstantInitializer::visit(const ir::operation::Conv2D &node)
  80 {
  81   permuteInputInitialize(node, ir::operation::Conv2D::KERNEL);
  82   copyInputInitialize(node, ir::operation::Conv2D::BIAS);
  83 }
  84
  85 void AclConstantInitializer::visit(const ir::operation::DepthwiseConv2D &node)
  86 {
  87   permuteInputInitialize(node, ir::operation::DepthwiseConv2D::KERNEL);
  88   copyInputInitialize(node, ir::operation::DepthwiseConv2D::BIAS);
  89 }
  90
  91 void AclConstantInitializer::visit(const ir::operation::FullyConnected &node)
  92 {
  93   copyInputInitialize(node, ir::operation::FullyConnected::WEIGHT);
  94   copyInputInitialize(node, ir::operation::FullyConnected::BIAS);
  95 }
  96
  97 void AclConstantInitializer::visit(const ir::operation::LSTM &node)
  98 {
  99   copyInputInitialize(node, ir::operation::LSTM::INPUT_TO_INPUT_WEIGHTS);
 100   copyInputInitialize(node, ir::operation::LSTM::INPUT_TO_FORGET_WEIGHTS);
 101   copyInputInitialize(node, ir::operation::LSTM::INPUT_TO_CELL_WEIGHTS);
 102   copyInputInitialize(node, ir::operation::LSTM::INPUT_TO_OUTPUT_WEIGHTS);
 103   copyInputInitialize(node, ir::operation::LSTM::RECURRENT_TO_INPUT_WEIGHTS);
 104   copyInputInitialize(node, ir::operation::LSTM::RECURRENT_TO_FORGET_WEIGHTS);
 105   copyInputInitialize(node, ir::operation::LSTM::RECURRENT_TO_CELL_WEIGHTS);
 106   copyInputInitialize(node, ir::operation::LSTM::RECURRENT_TO_OUTPUT_WEIGHTS);
 107   copyInputInitialize(node, ir::operation::LSTM::CELL_TO_INPUT_WEIGHTS);
 108   copyInputInitialize(node, ir::operation::LSTM::CELL_TO_FORGET_WEIGHTS);
 109   copyInputInitialize(node, ir::operation::LSTM::CELL_TO_OUTPUT_WEIGHTS);
 110   copyInputInitialize(node, ir::operation::LSTM::INPUT_GATE_BIAS);
 111   copyInputInitialize(node, ir::operation::LSTM::FORGET_GATE_BIAS);
 112   copyInputInitialize(node, ir::operation::LSTM::OUTPUT_GATE_BIAS);
 113   copyInputInitialize(node, ir::operation::LSTM::PROJECTION_WEIGHTS);
 114   copyInputInitialize(node, ir::operation::LSTM::PROJECTION_BIAS);
 115 }
 116
 117 void AclConstantInitializer::visit(const ir::operation::RNN &node)
 118 {
 119   copyInputInitialize(node, ir::operation::RNN::WEIGHTS);
 120   copyInputInitialize(node, ir::operation::RNN::RECURRENT_WEIGHTS);
 121   copyInputInitialize(node, ir::operation::RNN::BIAS);
 122 }
 123
 124 void AclConstantInitializer::visit(const ir::operation::TransposeConv &node)
 125 {
 126   permuteInputInitialize(node, ir::operation::TransposeConv::KERNEL);
 127 }
 128
 129 } // namespace acl_common
 130 } // namespace backend
 131 } // namespace onert