runtime/onert/backend/train/BackendContext.h

   1 /*
   2  * Copyright (c) 2023 Samsung Electronics Co., Ltd. All Rights Reserved
   3  *
   4  * Licensed under the Apache License, Version 2.0 (the "License");
   5  * you may not use this file except in compliance with the License.
   6  * You may obtain a copy of the License at
   7  *
   8  *      http://www.apache.org/licenses/LICENSE-2.0
   9  *
  10  * Unless required by applicable law or agreed to in writing, software
  11  * distributed under the License is distributed on an "AS IS" BASIS,
  12  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  13  * See the License for the specific language governing permissions and
  14  * limitations under the License.
  15  */
  16
  17 #ifndef __ONERT_BACKEND_TRAIN_BACKEND_CONTEXT_H__
  18 #define __ONERT_BACKEND_TRAIN_BACKEND_CONTEXT_H__
  19
  20 #include <backend/train/TrainableBackendContext.h>
  21
  22 #include "ExternalContext.h"
  23 #include "KernelGenerator.h"
  24 #include "TensorBuilder.h"
  25
  26 namespace onert
  27 {
  28 namespace backend
  29 {
  30 namespace train
  31 {
  32
  33 // TODO Remove this class if ExecutorFactory creates trainable context only once instead of
  34 // replacing BackendContext
  35 class DummyBackendContext : public backend::BackendContext
  36 {
  37 public:
  38   DummyBackendContext(const Backend *backend, ContextData &&data,
  39                       std::shared_ptr<backend::ITensorRegistry> tensor_registry = nullptr)
  40     : backend::BackendContext(backend, std::move(data), tensor_registry)
  41   {
  42   }
  43
  44   backend::ITensorRegistry *genTensors() override { return nullptr; }
  45
  46   backend::FunctionMap genKernels() override { return backend::FunctionMap{}; }
  47 };
  48
  49 // TODO Unify TensorBuilder
  50 // TODO Unify TensorRegistry
  51 class BackendContext : public onert::backend::train::TrainableBackendContext
  52 {
  53 public:
  54   BackendContext(const ITrainableBackend *backend, std::unique_ptr<TrainableContextData> &&tdata,
  55                  std::shared_ptr<backend::train::ITensorRegistry> tensor_registry = nullptr,
  56                  std::shared_ptr<TensorBuilder> tensor_builder = nullptr,
  57                  std::shared_ptr<KernelGenerator> kernel_gen = nullptr)
  58     : onert::backend::train::TrainableBackendContext(backend, std::move(tdata), tensor_registry),
  59       kernel_gen{kernel_gen},
  60       _external_context(new ExternalContext), _tensor_builder{tensor_builder}
  61   {
  62   }
  63
  64   backend::ITensorRegistry *genTensors() override;
  65   backend::train::ITensorRegistry *genTrainingTensors() override;
  66
  67 public:
  68   FunctionMap genKernels() override;
  69
  70   std::shared_ptr<ExternalContext> external_context() { return _external_context; }
  71
  72 public:
  73   // TODO Make it private
  74   std::shared_ptr<KernelGenerator> kernel_gen;
  75
  76 private:
  77   // NOTE ruy context has a thread pool, and when multiple ruy contexts are created,
  78   //      the thread pool is also created in duplicate
  79   // TODO Create one ruy context for session
  80   std::shared_ptr<ExternalContext> _external_context;
  81
  82 private:
  83   std::shared_ptr<TensorBuilder> _tensor_builder;
  84 };
  85
  86 } // namespace train
  87 } // namespace backend
  88 } // namespace onert
  89
  90 #endif // __ONERT_BACKEND_TRAIN_BACKEND_CONTEXT_H__