inference-engine/thirdparty/mkl-dnn/tests/gtests/in/convolution_simple_small.h

   1 /*******************************************************************************
   2 * Copyright 2017-2018 Intel Corporation
   3 *
   4 * Licensed under the Apache License, Version 2.0 (the "License");
   5 * you may not use this file except in compliance with the License.
   6 * You may obtain a copy of the License at
   7 *
   8 *     http://www.apache.org/licenses/LICENSE-2.0
   9 *
  10 * Unless required by applicable law or agreed to in writing, software
  11 * distributed under the License is distributed on an "AS IS" BASIS,
  12 * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  13 * See the License for the specific language governing permissions and
  14 * limitations under the License.
  15 *******************************************************************************/
  16
  17 INST_TEST_CASE(SimpleSmall_ZeroDim,
  18     PARAMS(nchw, oihw, FMT_BIAS, nchw, 0, 1, 4, 4, 4, 6, 4, 4, 3, 3, 1, 1, 1, 1),
  19     PARAMS(nchw, oihw, FMT_BIAS, nchw, 0, 1, 4, 0, 4, 6, 0, 4, 3, 3, 1, 1, 1, 1),
  20     PARAMS(nchw, oihw, FMT_BIAS, nchw, 0, 1, 4, 0, 4, 6, 2, 4, 1, 3, 1, 1, 1, 1),
  21     PARAMS(nchw, oihw, FMT_BIAS, nchw, 0, 1, 4, 2, 4, 6, 2, 4, 3, 3, 0, 1, 1, 1)
  22 );
  23
  24 INST_TEST_CASE(SimpleSmall_NCHW_expected_failures,
  25     PARAMS_EXPECT_FAIL(nchw, oihw, FMT_BIAS, nchw, mkldnn_invalid_arguments, 1, 1, 0, 4, 4, 6, 4, 4, 3, 3, 1, 1, 1, 1),
  26     PARAMS_EXPECT_FAIL(nchw, oihw, FMT_BIAS, nchw, mkldnn_invalid_arguments, 1, 1, 4, 4, 4, 0, 4, 4, 3, 3, 1, 1, 1, 1),
  27     PARAMS_EXPECT_FAIL(nchw, oihw, FMT_BIAS, nchw, mkldnn_invalid_arguments, 1, 1, 4, 4, 4, 6, 4, 4, 0, 3, 1, 1, 1, 1),
  28     PARAMS_EXPECT_FAIL(nchw, oihw, FMT_BIAS, nchw, mkldnn_invalid_arguments, 1, 1, -4, 4, 4, 6, 4, 4, 3, 3, 1, 1, 1, 1),
  29     PARAMS_EXPECT_FAIL(nchw, oihw, FMT_BIAS, nchw, mkldnn_invalid_arguments, 1, 1, 4, 4, 4, 6, 4, 4, 3, 3, -1, 1, 1, 1),
  30     PARAMS_EXPECT_FAIL(nchw, oihw, FMT_BIAS, nchw, mkldnn_invalid_arguments, 1, 1, 4, 4, 4, 6, 4, 4, 3, 3, 1, 1, 0, 0)
  31 );
  32
  33 //INST_TEST_CASE(SimpleSmall_Blocked16_padded,
  34 //    // non-1x1 (all)
  35 //    PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16, 2, 1, 17, 13, 13, 23, 12, 12, 3, 3, 0, 0, 1, 1),
  36 //    PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16, 2, 1, 21, 13, 13, 16, 12, 12, 3, 3, 0, 0, 1, 1),
  37 //    PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16, 2, 1, 23, 13, 13, 19, 12, 12, 3, 3, 0, 0, 1, 1),
  38 //    // 1x1 (fwd, bwd_w)
  39 //    PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16, 2, 1, 17, 13, 13, 23, 13, 13, 1, 1, 0, 0, 1, 1),
  40 //    PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16, 2, 1, 21, 13, 13, 16, 13, 13, 1, 1, 0, 0, 1, 1),
  41 //    PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16, 2, 1, 23, 13, 13, 19, 13, 13, 1, 1, 0, 0, 1, 1),
  42 //    // 1x1 (bwd_d)
  43 //    PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16_IOhw16o16i, FMT_BIAS, FMT_DATA_BLOCKED16, 2, 1, 17, 13, 13, 23, 13, 13, 1, 1, 0, 0, 1, 1),
  44 //    PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16_IOhw16o16i, FMT_BIAS, FMT_DATA_BLOCKED16, 2, 1, 21, 13, 13, 16, 13, 13, 1, 1, 0, 0, 1, 1),
  45 //    PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16_IOhw16o16i, FMT_BIAS, FMT_DATA_BLOCKED16, 2, 1, 23, 13, 13, 19, 13, 13, 1, 1, 0, 0, 1, 1)
  46 //);
  47 //
  48 //INST_TEST_CASE(SimpleSmall_Blocked8_padded,
  49 //    // non-1x1 (all)
  50 //    PARAMS(FMT_DATA_BLOCKED, FMT_WEIGHTS_BLOCKED, FMT_BIAS, FMT_DATA_BLOCKED, 2, 1, 17, 13, 13, 23, 12, 12, 3, 3, 0, 0, 1, 1),
  51 //    PARAMS(FMT_DATA_BLOCKED, FMT_WEIGHTS_BLOCKED, FMT_BIAS, FMT_DATA_BLOCKED, 2, 1, 21, 13, 13, 16, 12, 12, 3, 3, 0, 0, 1, 1),
  52 //    PARAMS(FMT_DATA_BLOCKED, FMT_WEIGHTS_BLOCKED, FMT_BIAS, FMT_DATA_BLOCKED, 2, 1, 23, 13, 13, 19, 12, 12, 3, 3, 0, 0, 1, 1),
  53 //    // 1x1 (all)
  54 //    PARAMS(FMT_DATA_BLOCKED, FMT_WEIGHTS_BLOCKED, FMT_BIAS, FMT_DATA_BLOCKED, 2, 1, 17, 13, 13, 23, 13, 13, 1, 1, 0, 0, 1, 1),
  55 //    PARAMS(FMT_DATA_BLOCKED, FMT_WEIGHTS_BLOCKED, FMT_BIAS, FMT_DATA_BLOCKED, 2, 1, 21, 13, 13, 16, 13, 13, 1, 1, 0, 0, 1, 1),
  56 //    PARAMS(FMT_DATA_BLOCKED, FMT_WEIGHTS_BLOCKED, FMT_BIAS, FMT_DATA_BLOCKED, 2, 1, 23, 13, 13, 19, 13, 13, 1, 1, 0, 0, 1, 1)
  57 //);
  58
  59 INST_TEST_CASE(SimpleSmall_NCHW,
  60     PARAMS(nchw, oihw, FMT_BIAS, nchw,
  61         2, 1, 4, 4, 4, 6, 4, 4, 3, 3, 1, 1, 1, 1),
  62     PARAMS(nchw, oihw, FMT_BIAS, nchw,
  63         2, 1, 4, 4, 4, 6, 2, 2, 3, 3, 0, 0, 1, 1),
  64     PARAMS(nhwc, oihw, FMT_BIAS, nhwc,
  65         2, 1, 4, 4, 4, 6, 4, 4, 3, 3, 1, 1, 1, 1),
  66     PARAMS(nhwc, oihw, FMT_BIAS, nhwc,
  67         2, 1, 4, 4, 4, 6, 2, 2, 3, 3, 0, 0, 1, 1),
  68     PARAMS(nhwc, hwio, FMT_BIAS, nhwc,
  69         2, 1, 4, 4, 4, 6, 4, 4, 3, 3, 1, 1, 1, 1),
  70     PARAMS(nhwc, hwio, FMT_BIAS, nhwc,
  71         2, 1, 4, 4, 4, 6, 2, 2, 3, 3, 0, 0, 1, 1),
  72     PARAMS(nhwc, hwigo, FMT_BIAS, nhwc,
  73         2, 2, 4, 4, 4, 6, 4, 4, 3, 3, 0, 0, 1, 1),
  74     PARAMS(nhwc, hwigo, FMT_BIAS, nhwc,
  75         2, 2, 4, 4, 4, 6, 4, 4, 3, 3, 1, 1, 1, 1)
  76 );
  77
  78 INST_TEST_CASE(SimpleSmall_Blocked,
  79     PARAMS(FMT_DATA_BLOCKED, FMT_WEIGHTS_BLOCKED, FMT_BIAS, FMT_DATA_BLOCKED,
  80         2, 1, 32, 13, 13, 32, 12, 12, 3, 3, 0, 0, 1, 1),
  81     PARAMS(FMT_DATA_BLOCKED, FMT_WEIGHTS_BLOCKED, FMT_BIAS, FMT_DATA_BLOCKED,
  82         2, 1, 32, 3, 3, 32, 4, 4, 3, 3, 1, 1, 1, 1),
  83     PARAMS(FMT_DATA_BLOCKED, FMT_WEIGHTS_BLOCKED, FMT_BIAS, FMT_DATA_BLOCKED,
  84         2, 1, 32, 4, 4, 32, 4, 4, 3, 3, 0, 0, 1, 1),
  85     PARAMS(FMT_DATA_BLOCKED, FMT_WEIGHTS_BLOCKED, FMT_BIAS, FMT_DATA_BLOCKED,
  86         2, 1, 32, 3, 3, 32, 2, 2, 3, 3, 0, 0, 1, 1),
  87     PARAMS(FMT_DATA_BLOCKED, FMT_WEIGHTS_BLOCKED, FMT_BIAS, FMT_DATA_BLOCKED,
  88         2, 1, 32, 2, 2, 32, 2, 2, 3, 3, 1, 1, 1, 1),
  89     PARAMS(FMT_DATA_BLOCKED, FMT_WEIGHTS_BLOCKED, FMT_BIAS, FMT_DATA_BLOCKED,
  90         2, 1, 32, 13, 13, 48, 13, 13, 3, 3, 1, 1, 1, 1),
  91     PARAMS(FMT_DATA_BLOCKED, FMT_WEIGHTS_BLOCKED, FMT_BIAS, FMT_DATA_BLOCKED,
  92         2, 1, 32, 13, 13, 48, 11, 11, 3, 3, 0, 0, 1, 1),
  93     PARAMS(FMT_DATA_BLOCKED, FMT_WEIGHTS_BLOCKED_G, FMT_BIAS, FMT_DATA_BLOCKED,
  94         2, 2, 8, 10, 10, 16, 10, 10, 3, 3, 1, 1, 1, 1),
  95     PARAMS(FMT_DATA_BLOCKED, FMT_WEIGHTS_BLOCKED_G, FMT_BIAS, FMT_DATA_BLOCKED,
  96         2, 4, 16, 10, 10, 32, 10, 10, 3, 3, 1, 1, 1, 1),
  97     PARAMS(FMT_DATA_BLOCKED, FMT_WEIGHTS_BLOCKED_G, FMT_BIAS, FMT_DATA_BLOCKED,
  98         2, 8, 32, 10, 10, 256, 10, 10, 3, 3, 1, 1, 1, 1)
  99 );
 100
 101
 102 INST_TEST_CASE(SimpleSmall_Blocked_1x1,
 103     PARAMS(FMT_DATA_BLOCKED, FMT_WEIGHTS_BLOCKED, FMT_BIAS, FMT_DATA_BLOCKED,
 104         2, 1, 32, 13, 13, 32, 13, 13, 1, 1, 0, 0, 1, 1),
 105     PARAMS(FMT_DATA_BLOCKED, FMT_WEIGHTS_BLOCKED, FMT_BIAS, FMT_DATA_BLOCKED,
 106         2, 1, 32, 3, 3, 32, 3, 3, 1, 1, 0, 0, 1, 1),
 107     PARAMS(FMT_DATA_BLOCKED, FMT_WEIGHTS_BLOCKED, FMT_BIAS, FMT_DATA_BLOCKED,
 108         2, 1, 32, 4, 4, 32, 4, 4, 1, 1, 0, 0, 1, 1),
 109     PARAMS(FMT_DATA_BLOCKED, FMT_WEIGHTS_BLOCKED, FMT_BIAS, FMT_DATA_BLOCKED,
 110         2, 1, 32, 3, 3, 32, 3, 3, 1, 1, 0, 0, 1, 1),
 111     PARAMS(FMT_DATA_BLOCKED, FMT_WEIGHTS_BLOCKED, FMT_BIAS, FMT_DATA_BLOCKED,
 112         2, 1, 32, 2, 2, 32, 2, 2, 1, 1, 0, 0, 1, 1),
 113     PARAMS(FMT_DATA_BLOCKED, FMT_WEIGHTS_BLOCKED, FMT_BIAS, FMT_DATA_BLOCKED,
 114         2, 1, 32, 13, 13, 48, 13, 13, 1, 1, 0, 0, 1, 1),
 115     PARAMS(FMT_DATA_BLOCKED, FMT_WEIGHTS_BLOCKED, FMT_BIAS, FMT_DATA_BLOCKED,
 116         2, 1, 32, 13, 13, 48, 13, 13, 1, 1, 0, 0, 1, 1),
 117     PARAMS(FMT_DATA_BLOCKED, FMT_WEIGHTS_BLOCKED_G, FMT_BIAS, FMT_DATA_BLOCKED,
 118         2, 2, 8, 10, 10, 16, 10, 10, 1, 1, 0, 0, 1, 1),
 119     PARAMS(FMT_DATA_BLOCKED, FMT_WEIGHTS_BLOCKED_G, FMT_BIAS, FMT_DATA_BLOCKED,
 120         2, 4, 16, 10, 10, 32, 10, 10, 1, 1, 0, 0, 1, 1),
 121     PARAMS(FMT_DATA_BLOCKED, FMT_WEIGHTS_BLOCKED_G, FMT_BIAS, FMT_DATA_BLOCKED,
 122         1, 8, 32, 1, 1, 128, 1, 1, 1, 1, 0, 0, 1, 1)
 123 );
 124
 125 INST_TEST_CASE(SimpleSmall_Blocked16,
 126     PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16,
 127         2, 1, 32, 13, 13, 32, 12, 12, 3, 3, 0, 0, 1, 1),
 128     PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16,
 129         2, 1, 32, 3, 3, 32, 4, 4, 3, 3, 1, 1, 1, 1),
 130     PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16,
 131         2, 1, 32, 4, 4, 32, 4, 4, 3, 3, 0, 0, 1, 1),
 132     PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16,
 133         2, 1, 32, 3, 3, 32, 2, 2, 3, 3, 0, 0, 1, 1),
 134     PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16,
 135         2, 1, 32, 2, 2, 32, 2, 2, 3, 3, 1, 1, 1, 1),
 136     PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16,
 137         2, 1, 32, 13, 13, 48, 13, 13, 3, 3, 1, 1, 1, 1),
 138     PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16,
 139         2, 1, 32, 13, 13, 48, 11, 11, 3, 3, 0, 0, 1, 1),
 140     PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16,
 141         2, 1, 32, 8, 8, 48, 5, 5, 4, 4, 0, 0, 1, 1),
 142     PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16,
 143         2, 1, 32, 7, 7, 48, 10, 10, 4, 4, 3, 3, 1, 1),
 144     PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16,
 145         2, 1, 32, 1, 1, 48, 2, 2, 4, 4, 2, 2, 1, 1),
 146     PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16,
 147         2, 1, 32, 28, 28, 48, 13, 13, 4, 4, 0, 0, 2, 2),
 148     PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16,
 149         2, 1, 32, 28, 28, 48, 14, 14, 4, 4, 1, 1, 2, 2),
 150     PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16,
 151         2, 1, 32, 26, 26, 48, 13, 13, 4, 4, 1, 1, 2, 2),
 152     PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16,
 153         2, 1, 32, 84, 84, 48, 28, 28, 5, 5, 1, 1, 3, 3),
 154     PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16,
 155         2, 1, 32, 21, 21, 48, 7, 7, 5, 5, 1, 1, 3, 3),
 156     PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16,
 157         2, 1, 32, 18, 18, 48, 5, 5, 6, 6, 2, 2, 4, 4),
 158     PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16,
 159         2, 1, 32, 34, 71, 48, 11, 23, 7, 8, 2, 1, 3, 3),
 160     PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16,
 161         2, 1, 32, 6, 6, 48, 2, 2, 3, 3, 0, 0, 2, 2),
 162     PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16,
 163         2, 1, 32, 9, 9, 48, 2, 2, 5, 5, 0, 0, 3, 3)
 164 );
 165
 166 INST_TEST_CASE(SimpleSmall_Regression,
 167     /* grouped small input-channel avx512 */
 168     PARAMS(nchw, gOhwi16o, FMT_BIAS, FMT_DATA_BLOCKED16,
 169         2, 2, 16, 8, 8, 32, 8, 8, 3, 3, 1, 1, 1, 1),
 170     /* grouped small input-channel avx2 */
 171     PARAMS(nchw, gOhwi8o, FMT_BIAS, nChw8c,
 172         2, 2, 4, 2, 2, 16, 8, 8, 3, 3, 1, 1, 1, 1),
 173     PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16,
 174         2, 1, 32, 16, 16, 32, 16, 16, 3, 3, 0, 0, 1, 1),
 175     PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16,
 176         2, 1, 32, 28, 28, 32, 28, 28, 3, 3, 0, 0, 1, 1),
 177     PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16,
 178         2, 1, 32, 32, 32, 32, 32, 32, 3, 3, 0, 0, 1, 1),
 179     PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16,
 180         2, 1, 32, 3, 3, 32, 2, 2, 3, 3, 1, 1, 1, 1),
 181     PARAMS(FMT_DATA_BLOCKED16, FMT_WEIGHTS_BLOCKED16, FMT_BIAS, FMT_DATA_BLOCKED16,
 182         2, 1, 32, 34, 34, 32, 34, 34, 5, 5, 2, 2, 1, 1)
 183 );
 184
 185 INST_TEST_CASE(SimpleSmall_Depthwise_Blocked,
 186     PARAMS(FMT_DATA_BLOCKED, Goihw8g, FMT_BIAS, FMT_DATA_BLOCKED,
 187         2, 8, 8, 16, 16, 8, 16, 16, 3, 3, 0, 0, 1, 1),
 188     PARAMS(FMT_DATA_BLOCKED, Goihw8g, FMT_BIAS, FMT_DATA_BLOCKED,
 189         2, 32, 32, 9, 9, 32, 2, 2, 5, 5, 0, 0, 3, 3),
 190     PARAMS(FMT_DATA_BLOCKED, Goihw8g, FMT_BIAS, FMT_DATA_BLOCKED,
 191         2, 64, 64, 26, 26, 64, 13, 13, 4, 4, 1, 1, 2, 2),
 192     PARAMS(FMT_DATA_BLOCKED, Goihw8g, FMT_BIAS, FMT_DATA_BLOCKED,
 193         2, 32, 32, 111, 111, 32, 112, 112, 1, 1, 0, 0, 1, 1),
 194     PARAMS(FMT_DATA_BLOCKED, Goihw8g, FMT_BIAS, FMT_DATA_BLOCKED,
 195         1, 64, 64, 1, 2, 64, 1, 1, 3, 3, 1, 1, 1, 2),
 196     PARAMS(FMT_DATA_BLOCKED, Goihw8g, FMT_BIAS, FMT_DATA_BLOCKED,
 197         1, 16, 16, 16, 32, 16, 16, 18, 3, 3, 1, 2, 1, 2),
 198     PARAMS(FMT_DATA_BLOCKED, Goihw8g, FMT_BIAS, FMT_DATA_BLOCKED,
 199         1, 24, 24, 32, 16, 24, 16, 14, 3, 3, 1, 0, 2, 1),
 200     PARAMS(FMT_DATA_BLOCKED, Goihw8g, FMT_BIAS, FMT_DATA_BLOCKED,
 201         1, 16, 16, 32, 16, 16, 18, 16, 3, 3, 2, 1, 2, 1),
 202     PARAMS(FMT_DATA_BLOCKED, Goihw8g, FMT_BIAS, FMT_DATA_BLOCKED,
 203         1, 8, 8, 500, 500, 8, 698, 698, 3, 3, 100, 100, 1, 1)
 204 );
 205
 206 INST_TEST_CASE(SimpleSmall_Depthwise_Blocked16,
 207     PARAMS(FMT_DATA_BLOCKED16, Goihw16g, FMT_BIAS, FMT_DATA_BLOCKED16,
 208         2, 16, 16, 16, 16, 16, 16, 16, 3, 3, 0, 0, 1, 1),
 209     PARAMS(FMT_DATA_BLOCKED16, Goihw16g, FMT_BIAS, FMT_DATA_BLOCKED16,
 210         2, 32, 32, 9, 9, 32, 2, 2, 5, 5, 0, 0, 3, 3),
 211     PARAMS(FMT_DATA_BLOCKED16, Goihw16g, FMT_BIAS, FMT_DATA_BLOCKED16,
 212         2, 64, 64, 26, 26, 64, 13, 13, 4, 4, 1, 1, 2, 2),
 213     PARAMS(FMT_DATA_BLOCKED16, Goihw16g, FMT_BIAS, FMT_DATA_BLOCKED16,
 214         2, 32, 32, 111, 111, 32, 112, 112, 1, 1, 0, 0, 1, 1),
 215     PARAMS(FMT_DATA_BLOCKED16, Goihw16g, FMT_BIAS, FMT_DATA_BLOCKED16,
 216         2, 64, 64, 1, 2, 64, 1, 1, 3, 3, 1, 1, 1, 2),
 217     PARAMS(FMT_DATA_BLOCKED16, Goihw16g, FMT_BIAS, FMT_DATA_BLOCKED16,
 218         1, 32, 32, 16, 32, 32, 14, 16, 3, 3, 0, 1, 1, 2),
 219     PARAMS(FMT_DATA_BLOCKED16, Goihw16g, FMT_BIAS, FMT_DATA_BLOCKED16,
 220         1, 16, 16, 16, 32, 16, 16, 18, 3, 3, 1, 2, 1, 2),
 221     PARAMS(FMT_DATA_BLOCKED16, Goihw16g, FMT_BIAS, FMT_DATA_BLOCKED16,
 222         1, 32, 32, 32, 16, 32, 16, 14, 3, 3, 1, 0, 2, 1),
 223     PARAMS(FMT_DATA_BLOCKED16, Goihw16g, FMT_BIAS, FMT_DATA_BLOCKED16,
 224         1, 16, 16, 32, 16, 16, 18, 16, 3, 3, 2, 1, 2, 1),
 225     PARAMS(FMT_DATA_BLOCKED16, Goihw16g, FMT_BIAS, FMT_DATA_BLOCKED16,
 226         1, 16, 16, 500, 500, 16, 698, 698, 3, 3, 100, 100, 1, 1)
 227 );