inference-engine/thirdparty/clDNN/kernel_selector/core/actual_kernels/fully_connected/fully_connected_kernel_fb_io_ref.cpp

   1 /*
   2 // Copyright (c) 2016 Intel Corporation
   3 //
   4 // Licensed under the Apache License, Version 2.0 (the "License");
   5 // you may not use this file except in compliance with the License.
   6 // You may obtain a copy of the License at
   7 //
   8 //      http://www.apache.org/licenses/LICENSE-2.0
   9 //
  10 // Unless required by applicable law or agreed to in writing, software
  11 // distributed under the License is distributed on an "AS IS" BASIS,
  12 // WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  13 // See the License for the specific language governing permissions and
  14 // limitations under the License.
  15 */
  16
  17 #include "fully_connected_kernel_fb_io_ref.h"
  18
  19 namespace kernel_selector
  20 {
  21     ParamsKey FullyConnected_fb_io_ref::GetSupportedKey() const
  22     {
  23         ParamsKey k;
  24         k.EnableInputDataType(Datatype::F16);
  25         k.EnableInputDataType(Datatype::F32);
  26         k.EnableOutputDataType(Datatype::F16);
  27         k.EnableOutputDataType(Datatype::F32);
  28         k.EnableInputWeightsType(WeightsType::F16);
  29         k.EnableInputWeightsType(WeightsType::F32);
  30         k.EnableAllInputLayout();
  31         k.EnableOutputLayout(DataLayout::fb);
  32         k.EnableBatching();
  33         k.EnableBiasPerFeature();
  34         k.EnableNonBiasTerm();
  35         return k;
  36     }
  37
  38     KernelsData FullyConnected_fb_io_ref::GetKernelsData(const Params& params, const optional_params& optParams) const
  39     {
  40         // TODO: it should be fb_io. but the original code use this kernel with yxfb and yxio
  41         //       (fb == fyxb flatten fyx, not yxfb flatten yxf).
  42         //       the order of the add operation cause some numeric changes. in order to avoid them right now we use yxfb/oiyx instead.
  43         // return GetCommonKernelsData(params, optParams, DataLayout::fb, WeightsLayout::io, FORCE_PRIORITY_6);
  44         KernelsData res = {};
  45         for (size_t i = 0; i < autoTuneOptions.size(); i++)
  46         {
  47             KernelsData kd = GetTunedKernelsDataByIndex(params, optParams, DataLayout::yxfb, { WeightsLayout::yxio }, FORCE_PRIORITY_6, (int)i);
  48             if (!kd.empty())
  49             {
  50                 res.emplace_back(kd[0]);
  51             }
  52         }
  53         return res;
  54     }
  55 }