runtime/onert/backend/train/ops/ElementwiseActivationLayer.h

   1 /*
   2  * Copyright (c) 2023 Samsung Electronics Co., Ltd. All Rights Reserved
   3  *
   4  * Licensed under the Apache License, Version 2.0 (the "License");
   5  * you may not use this file except in compliance with the License.
   6  * You may obtain a copy of the License at
   7  *
   8  *      http://www.apache.org/licenses/LICENSE-2.0
   9  *
  10  * Unless required by applicable law or agreed to in writing, software
  11  * distributed under the License is distributed on an "AS IS" BASIS,
  12  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  13  * See the License for the specific language governing permissions and
  14  * limitations under the License.
  15  */
  16
  17 #ifndef __ONERT_BACKEND_TRAIN_OPS_ELEMENTWISEACTIVATIONLAYER_H__
  18 #define __ONERT_BACKEND_TRAIN_OPS_ELEMENTWISEACTIVATIONLAYER_H__
  19
  20 #include <backend/IPortableTensor.h>
  21 #include <ops/ElementwiseActivationLayer.h>
  22
  23 #include <exec/train/ITrainableFunction.h>
  24
  25 namespace onert
  26 {
  27 namespace backend
  28 {
  29 namespace train
  30 {
  31 namespace ops
  32 {
  33
  34 enum class ElementwiseActivationType
  35 {
  36   kReLU,
  37 };
  38
  39 class ElementwiseActivationLayer : public ::onert::exec::train::ITrainableFunction,
  40                                    public cpu::ops::ElementwiseActivationLayer
  41 {
  42 public:
  43   ElementwiseActivationLayer();
  44
  45   void configure(const IPortableTensor *input, IPortableTensor *output,
  46                  IPortableTensor *deriv_input, const IPortableTensor *deriv_output, float alpha,
  47                  float beta, ElementwiseActivationType op_type);
  48   void forward(bool training) override;
  49   void backward() override;
  50
  51 private:
  52   IPortableTensor *_deriv_input;
  53   const IPortableTensor *_deriv_output;
  54
  55   ElementwiseActivationType _op_type;
  56   std::function<void(const IPortableTensor *output, const IPortableTensor *incoming,
  57                      IPortableTensor *outgoing)>
  58     _backward_kernel;
  59 };
  60
  61 } // namespace ops
  62 } // namespace train
  63 } // namespace backend
  64 } // namespace onert
  65
  66 #endif // __ONERT_BACKEND_TRAIN_OPS_ELEMENTWISEACTIVATIONLAYER_H__