runtime/onert/backend/acl_neon/TensorManager.h

   1 /*
   2  * Copyright (c) 2019 Samsung Electronics Co., Ltd. All Rights Reserved
   3  *
   4  * Licensed under the Apache License, Version 2.0 (the "License");
   5  * you may not use this file except in compliance with the License.
   6  * You may obtain a copy of the License at
   7  *
   8  *      http://www.apache.org/licenses/LICENSE-2.0
   9  *
  10  * Unless required by applicable law or agreed to in writing, software
  11  * distributed under the License is distributed on an "AS IS" BASIS,
  12  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  13  * See the License for the specific language governing permissions and
  14  * limitations under the License.
  15  */
  16
  17 #ifndef __ONERT_BACKEND_ACL_NEON_TENSOR_MANAGER_H__
  18 #define __ONERT_BACKEND_ACL_NEON_TENSOR_MANAGER_H__
  19
  20 #include <arm_compute/runtime/Allocator.h>
  21 #include <arm_compute/runtime/PoolManager.h>
  22 #include <arm_compute/runtime/OffsetLifetimeManager.h>
  23 #include <arm_compute/runtime/MemoryManagerOnDemand.h>
  24 #include <arm_compute/runtime/MemoryGroup.h>
  25
  26 #include <AclMemoryManager.h>
  27 #include <AclLinearMemoryManager.h>
  28 #include <AclInternalBufferManager.h>
  29 #include <AclTensorManager.h>
  30
  31 #include "operand/NETensor.h"
  32 #include "operand/NESubTensor.h"
  33
  34 #include "util/logging.h"
  35
  36 namespace onert
  37 {
  38 namespace backend
  39 {
  40 namespace acl_neon
  41 {
  42
  43 using MemoryManager =
  44     acl_common::AclMemoryManager<operand::INETensor, operand::NETensor, operand::NESubTensor>;
  45
  46 using LinearMemoryManager = acl_common::AclLinearMemoryManager<
  47     operand::INETensor, operand::NETensor, operand::NESubTensor,
  48     ::arm_compute::MemoryManagerOnDemand, ::arm_compute::PoolManager,
  49     ::arm_compute::OffsetLifetimeManager, ::arm_compute::Allocator, ::arm_compute::MemoryGroup>;
  50
  51 using InternalBufferManager = acl_common::AclInternalBufferManager<
  52     ::arm_compute::MemoryManagerOnDemand, ::arm_compute::PoolManager,
  53     ::arm_compute::OffsetLifetimeManager, ::arm_compute::Allocator>;
  54
  55 using TensorManager = acl_common::AclTensorManager<acl_neon::operand::INETensor, operand::NETensor,
  56                                                    operand::NESubTensor>;
  57
  58 TensorManager *createTensorManager(bool is_linear_executor)
  59 {
  60   if (is_linear_executor)
  61   {
  62     VERBOSE(acl_neon_createTensorManager) << "AclTensorManager as Linear" << std::endl;
  63     return new TensorManager(new MemoryManager(), new LinearMemoryManager(),
  64                              new InternalBufferManager());
  65   }
  66   else
  67   {
  68     VERBOSE(acl_neon_createTensorManager) << "AclTensorManager" << std::endl;
  69     return new TensorManager(new MemoryManager(), new MemoryManager(), new InternalBufferManager());
  70   }
  71 }
  72
  73 } // namespace acl_neon
  74 } // namespace backend
  75 } // namespace onert
  76
  77 #endif // __ONERT_BACKEND_ACL_NEON_TENSOR_MANAGER_H__