compiler/luci/pass/include/luci/Pass/QuantizeWeightsPass.h

   1 /*
   2  * Copyright (c) 2023 Samsung Electronics Co., Ltd. All Rights Reserved
   3  *
   4  * Licensed under the Apache License, Version 2.0 (the "License");
   5  * you may not use this file except in compliance with the License.
   6  * You may obtain a copy of the License at
   7  *
   8  *      http://www.apache.org/licenses/LICENSE-2.0
   9  *
  10  * Unless required by applicable law or agreed to in writing, software
  11  * distributed under the License is distributed on an "AS IS" BASIS,
  12  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  13  * See the License for the specific language governing permissions and
  14  * limitations under the License.
  15  */
  16
  17 #ifndef __LUCI_QUANTIZE_WEIGHTS_PASS_H__
  18 #define __LUCI_QUANTIZE_WEIGHTS_PASS_H__
  19
  20 #include <loco.h>
  21
  22 #include <logo/Pass.h>
  23
  24 #include <luci/Pass/QuantizationParameters.h>
  25
  26 namespace luci
  27 {
  28
  29 /**
  30  * @brief Pass to quantize weights
  31  */
  32 class QuantizeWeightsPass : public logo::Pass
  33 {
  34 public:
  35   struct Context
  36   {
  37     loco::DataType input_model_dtype = loco::DataType::Unknown;
  38     loco::DataType output_model_dtype = loco::DataType::Unknown;
  39     QuantizationGranularity granularity = QuantizationGranularity::ChannelWise;
  40   };
  41
  42 public:
  43   QuantizeWeightsPass(std::unique_ptr<Context> &&ctx) : _ctx{std::move(ctx)}
  44   {
  45     // DO NOTHING
  46   }
  47
  48 public:
  49   QuantizeWeightsPass(loco::DataType input_model_dtype, loco::DataType output_model_dtype,
  50                       QuantizationGranularity granularity)
  51   {
  52     _ctx = std::make_unique<Context>();
  53     {
  54       _ctx->input_model_dtype = input_model_dtype;
  55       _ctx->output_model_dtype = output_model_dtype;
  56       _ctx->granularity = granularity;
  57     }
  58   }
  59   virtual const char *name(void) const { return "luci::QuantizeWeightsPass"; }
  60
  61 public:
  62   bool run(loco::Graph *graph);
  63
  64 private:
  65   std::unique_ptr<Context> _ctx;
  66 };
  67
  68 } // namespace luci
  69
  70 #endif //__LUCI_QUANTIZE_WEIGHTS_PASS_H__