runtime/onert/core/src/exec/ParallelScheduler.h

   1 /*
   2  * Copyright (c) 2019 Samsung Electronics Co., Ltd. All Rights Reserved
   3  *
   4  * Licensed under the Apache License, Version 2.0 (the "License");
   5  * you may not use this file except in compliance with the License.
   6  * You may obtain a copy of the License at
   7  *
   8  *      http://www.apache.org/licenses/LICENSE-2.0
   9  *
  10  * Unless required by applicable law or agreed to in writing, software
  11  * distributed under the License is distributed on an "AS IS" BASIS,
  12  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  13  * See the License for the specific language governing permissions and
  14  * limitations under the License.
  15  */
  16
  17 #ifndef __ONERT_EXEC_PARALLEL_SCHEDULER_H__
  18 #define __ONERT_EXEC_PARALLEL_SCHEDULER_H__
  19
  20 #include <unordered_map>
  21 #include <memory>
  22
  23 #include "exec/IFunction.h"
  24 #include "BackendSet.h"
  25 #include "ThreadPool.h"
  26
  27 namespace onert
  28 {
  29 namespace exec
  30 {
  31
  32 class ParallelScheduler
  33 {
  34 public:
  35   /**
  36    * @brief Constructs ParallelScheduler object
  37    *
  38    * @param backends Backend set
  39    */
  40   ParallelScheduler(const BackendSet &backends);
  41   /**
  42    * @brief Assign a task to the given backend
  43    *
  44    * @param[in] fn Function to be assigned
  45    * @param[in] fn Target backend
  46    */
  47   void assign(std::unique_ptr<IFunction> &&fn, const backend::Backend *backend);
  48   /**
  49    * @brief Block until all jobs are finished
  50    */
  51   void finish();
  52
  53 private:
  54   std::unordered_map<const backend::Backend *, std::unique_ptr<ThreadPool>> _thread_pools;
  55 };
  56
  57 } // namespace exec
  58 } // namespace onert
  59
  60 #endif // __ONERT_EXEC_PARALLEL_SCHEDULER_H__