src/armnn/backends/RefWorkloadFactory.hpp

   1 //
   2 // Copyright © 2017 Arm Ltd. All rights reserved.
   3 // See LICENSE file in the project root for full license information.
   4 //
   5 #pragma once
   6
   7 #include "WorkloadFactory.hpp"
   8 #include "OutputHandler.hpp"
   9
  10 #include <boost/core/ignore_unused.hpp>
  11 #include <boost/optional.hpp>
  12
  13 namespace armnn
  14 {
  15
  16 template <typename QueueDescriptorType>
  17 constexpr bool IsOperationQueueDescriptor(const QueueDescriptorType&) { return true; }
  18
  19 template <>
  20 constexpr bool IsOperationQueueDescriptor(const MemCopyQueueDescriptor&) { return false; }
  21
  22 template <>
  23 constexpr bool IsOperationQueueDescriptor(const ConstantQueueDescriptor&) { return false; }
  24
  25 template <>
  26 constexpr bool IsOperationQueueDescriptor(const PermuteQueueDescriptor&) { return false; }
  27
  28 // Reference workload factory.
  29 class RefWorkloadFactory : public IWorkloadFactory
  30 {
  31 public:
  32     explicit RefWorkloadFactory();
  33     virtual ~RefWorkloadFactory() {}
  34
  35     virtual Compute GetCompute() const override { return Compute::CpuRef; }
  36
  37     static bool IsLayerSupported(const Layer& layer, boost::optional<DataType> dataType,
  38                                  std::string& outReasonIfUnsupported);
  39
  40     virtual bool SupportsSubTensors() const override { return false; }
  41
  42     virtual std::unique_ptr<ITensorHandle> CreateSubTensorHandle(ITensorHandle& parent,
  43                                                                  TensorShape const& subTensorShape,
  44                                                                  unsigned int const* subTensorOrigin) const override
  45     {
  46         boost::ignore_unused(parent, subTensorShape, subTensorOrigin);
  47         return nullptr;
  48     }
  49
  50     virtual std::unique_ptr<ITensorHandle> CreateTensorHandle(const TensorInfo& tensorInfo) const override;
  51
  52     virtual std::unique_ptr<IWorkload> CreateInput(const InputQueueDescriptor& descriptor,
  53                                                    const WorkloadInfo& info) const override;
  54
  55     virtual std::unique_ptr<IWorkload> CreateOutput(const OutputQueueDescriptor& descriptor,
  56                                                     const WorkloadInfo& info) const override;
  57
  58     virtual std::unique_ptr<IWorkload> CreateActivation(const ActivationQueueDescriptor& descriptor,
  59                                                         const WorkloadInfo&              info) const override;
  60
  61     virtual std::unique_ptr<IWorkload> CreateSoftmax(const SoftmaxQueueDescriptor& descriptor,
  62                                                      const WorkloadInfo&           info) const override;
  63
  64     virtual std::unique_ptr<IWorkload> CreateSplitter(const SplitterQueueDescriptor& descriptor,
  65                                                       const WorkloadInfo&            info) const override;
  66
  67     virtual std::unique_ptr<IWorkload> CreateMerger(const MergerQueueDescriptor& descriptor,
  68                                                     const WorkloadInfo&          info) const override;
  69
  70     virtual std::unique_ptr<IWorkload> CreateFullyConnected(const FullyConnectedQueueDescriptor& descriptor,
  71                                                             const WorkloadInfo&                  info) const override;
  72
  73     virtual std::unique_ptr<IWorkload> CreatePooling2d(const Pooling2dQueueDescriptor& descriptor,
  74                                                        const WorkloadInfo&           info) const override;
  75
  76     virtual std::unique_ptr<IWorkload> CreatePermute(const PermuteQueueDescriptor& descriptor,
  77                                                      const WorkloadInfo&           info) const override;
  78
  79     virtual std::unique_ptr<IWorkload> CreateConvolution2d(const Convolution2dQueueDescriptor& descriptor,
  80                                                            const WorkloadInfo&               info) const override;
  81
  82     virtual std::unique_ptr<IWorkload> CreateDepthwiseConvolution2d(
  83         const DepthwiseConvolution2dQueueDescriptor& descriptor, const WorkloadInfo& info) const override;
  84
  85     virtual std::unique_ptr<IWorkload> CreateNormalization(const NormalizationQueueDescriptor& descriptor,
  86                                                            const WorkloadInfo&                 info) const override;
  87
  88     virtual std::unique_ptr<IWorkload> CreateMultiplication(const MultiplicationQueueDescriptor& descriptor,
  89                                                             const WorkloadInfo&                  info) const override;
  90
  91     virtual std::unique_ptr<IWorkload> CreateAddition(const AdditionQueueDescriptor& descriptor,
  92                                                       const WorkloadInfo&            info) const override;
  93
  94     virtual std::unique_ptr<IWorkload> CreateBatchNormalization(const BatchNormalizationQueueDescriptor& descriptor,
  95                                                                 const WorkloadInfo& info) const override;
  96
  97     virtual std::unique_ptr<IWorkload> CreateMemCopy(const MemCopyQueueDescriptor& descriptor,
  98                                                      const WorkloadInfo& info) const override;
  99
 100     virtual std::unique_ptr<IWorkload> CreateResizeBilinear(const ResizeBilinearQueueDescriptor& descriptor,
 101                                                             const WorkloadInfo& info) const override;
 102
 103     virtual std::unique_ptr<IWorkload> CreateFakeQuantization(const FakeQuantizationQueueDescriptor& descriptor,
 104                                                               const WorkloadInfo& info) const override;
 105
 106     virtual std::unique_ptr<IWorkload> CreateL2Normalization(const L2NormalizationQueueDescriptor& descriptor,
 107                                                              const WorkloadInfo& info) const override;
 108
 109     virtual std::unique_ptr<IWorkload> CreateConstant(const ConstantQueueDescriptor& descriptor,
 110                                                       const WorkloadInfo& info) const override;
 111
 112     virtual std::unique_ptr<IWorkload> CreateReshape(const ReshapeQueueDescriptor& descriptor,
 113                                                      const WorkloadInfo& info) const override;
 114
 115     virtual std::unique_ptr<IWorkload> CreateFloor(const FloorQueueDescriptor& descriptor,
 116                                                    const WorkloadInfo& info) const override;
 117
 118     virtual std::unique_ptr<IWorkload> CreateLstm(const LstmQueueDescriptor& descriptor,
 119                                                   const WorkloadInfo& info) const override;
 120
 121     virtual std::unique_ptr<IWorkload> CreateConvertFp16ToFp32(const ConvertFp16ToFp32QueueDescriptor& descriptor,
 122                                                                const WorkloadInfo& info) const override;
 123
 124     virtual std::unique_ptr<IWorkload> CreateConvertFp32ToFp16(const ConvertFp32ToFp16QueueDescriptor& descriptor,
 125                                                                const WorkloadInfo& info) const override;
 126
 127 private:
 128
 129     template <typename F32Workload, typename U8Workload, typename QueueDescriptorType>
 130     std::unique_ptr<IWorkload> MakeWorkload(const QueueDescriptorType& descriptor, const WorkloadInfo& info) const;
 131
 132 };
 133
 134 } // namespace armnn