Imported Upstream version 1.25.0
[platform/core/ml/nnfw.git] / res / TensorFlowLiteRecipes / Quant_DepthwiseConv2D_I8_000 / test.recipe
1 operand {
2   name: "x"
3   type: INT8
4   shape {
5     dim: 1
6     dim: 28
7     dim: 28
8     dim: 64
9   }
10   quant {
11     min: -4.64391708
12     max: 4.84164238
13     scale: 0.0371982716
14     zero_point: -3
15     quantized_dimension: 0
16   }
17   is_variable: false
18 }
19 operand {
20   name: "depthwise_conv2d/depthwise"
21   type: INT8
22   shape {
23     dim: 1
24     dim: 3
25     dim: 3
26     dim: 64
27   }
28   filler {
29     tag: "gaussian"
30     arg: "0.0"
31     arg: "0.1"
32   }
33   quant {
34     min: -0.063326925
35     min: -0.0634795
36     min: -0.0753154755
37     min: -0.0825628936
38     min: -0.100263909
39     min: -0.0518069938
40     min: -0.0903094783
41     min: -0.092050083
42     min: -0.0861446783
43     min: -0.0868664607
44     min: -0.0805943534
45     min: -0.0630288422
46     min: -0.0603802204
47     min: -0.0894295871
48     min: -0.0806457847
49     min: -0.08705163
50     min: -0.0955024436
51     min: -0.099676609
52     min: -0.0426661745
53     min: -0.100863345
54     min: -0.0732110441
55     min: -0.0957087874
56     min: -0.0984382555
57     min: -0.0870531276
58     min: -0.0588906072
59     min: -0.0985565707
60     min: -0.0667493939
61     min: -0.0315393284
62     min: -0.0872938633
63     min: -0.0947047919
64     min: -0.0988249257
65     min: -0.0945888236
66     min: -0.0884424895
67     min: -0.0674908608
68     min: -0.0691238195
69     min: -0.0973802432
70     min: -0.0970137119
71     min: -0.0648144335
72     min: -0.0792933181
73     min: -0.0928001404
74     min: -0.0429098979
75     min: -0.0946487263
76     min: -0.0911387801
77     min: -0.0989532098
78     min: -0.041106537
79     min: -0.0955499113
80     min: -0.0979051739
81     min: -0.0843721703
82     min: -0.0769490227
83     min: -0.0908443704
84     min: -0.0900151655
85     min: -0.100871772
86     min: -0.0811569467
87     min: -0.0867079645
88     min: -0.0810551718
89     min: -0.0915141478
90     min: -0.0988522843
91     min: -0.0506756492
92     min: -0.0828623697
93     min: -0.0969022587
94     min: -0.0862472728
95     min: -0.0536583066
96     min: -0.0739349052
97     min: 0.0297371298
98     max: 0.0629539043
99     max: 0.081167981
100     max: 0.0732295811
101     max: 0.0943298787
102     max: 0.0894318074
103     max: 0.0948470086
104     max: 0.0968847275
105     max: 0.0914845169
106     max: 0.0937000513
107     max: 0.059604913
108     max: 0.0977034122
109     max: 0.0998425633
110     max: 0.0968779624
111     max: 0.0188128203
112     max: 0.0933915377
113     max: 0.058697015
114     max: 0.0965367705
115     max: 0.0620942265
116     max: 0.098770529
117     max: 0.0851371
118     max: 0.0981955677
119     max: 0.059944734
120     max: 0.0692644
121     max: 0.0846596062
122     max: 0.0562474579
123     max: 0.0516051352
124     max: 0.0457287
125     max: 0.088056
126     max: 0.0738085508
127     max: 0.0320325792
128     max: 0.0874649584
129     max: 0.0846493095
130     max: 0.06501019
131     max: 0.0962834805
132     max: 0.0976130068
133     max: 0.0987761915
134     max: 0.0971763879
135     max: 0.0984461755
136     max: 0.0951509
137     max: 0.097969681
138     max: 0.0811607093
139     max: 0.0462665409
140     max: 0.100696355
141     max: 0.0861465335
142     max: 0.0922105
143     max: 0.0879219174
144     max: 0.0897164643
145     max: 0.0870749801
146     max: 0.0918415785
147     max: 0.0730088204
148     max: 0.0392846316
149     max: 0.0920975059
150     max: 0.042890057
151     max: 0.0462249964
152     max: 0.0784825087
153     max: 0.0663191676
154     max: 0.0893450826
155     max: 0.0812896937
156     max: 0.0611626357
157     max: 0.0788473934
158     max: 0.0721678585
159     max: 0.0912485719
160     max: 0.0942054689
161     max: 0.0807732195
162     scale: 0.000498637208
163     scale: 0.000639117963
164     scale: 0.000593035249
165     scale: 0.000742754957
166     scale: 0.000789479585
167     scale: 0.000746826816
168     scale: 0.000762871874
169     scale: 0.000724803831
170     scale: 0.000737795664
171     scale: 0.000683987862
172     scale: 0.000769318198
173     scale: 0.000786161923
174     scale: 0.000762818614
175     scale: 0.00070417
176     scale: 0.000735366426
177     scale: 0.000685445906
178     scale: 0.000760132039
179     scale: 0.000784855161
180     scale: 0.000777720707
181     scale: 0.000794199586
182     scale: 0.000773193431
183     scale: 0.00075361249
184     scale: 0.000775104389
185     scale: 0.000685457722
186     scale: 0.000463705568
187     scale: 0.000776036
188     scale: 0.000525585783
189     scale: 0.00069335429
190     scale: 0.000687353255
191     scale: 0.000745707
192     scale: 0.000778149
193     scale: 0.000744793913
194     scale: 0.000696397561
195     scale: 0.00075813767
196     scale: 0.000768606376
197     scale: 0.000777765294
198     scale: 0.000765168399
199     scale: 0.000775166729
200     scale: 0.000749219733
201     scale: 0.000771414838
202     scale: 0.000639060687
203     scale: 0.00074526557
204     scale: 0.000792884675
205     scale: 0.000779159134
206     scale: 0.000726066937
207     scale: 0.000752361491
208     scale: 0.00077090686
209     scale: 0.000685629784
210     scale: 0.000723162
211     scale: 0.00071531
212     scale: 0.000708780834
213     scale: 0.000794265943
214     scale: 0.000639031059
215     scale: 0.00068273989
216     scale: 0.000638229714
217     scale: 0.000720583834
218     scale: 0.000778364425
219     scale: 0.000640076352
220     scale: 0.000652459625
221     scale: 0.000763009884
222     scale: 0.000679112389
223     scale: 0.000718492665
224     scale: 0.000741775322
225     scale: 0.000636009616
226     zero_point: 0
227     zero_point: 0
228     zero_point: 0
229     zero_point: 0
230     zero_point: 0
231     zero_point: 0
232     zero_point: 0
233     zero_point: 0
234     zero_point: 0
235     zero_point: 0
236     zero_point: 0
237     zero_point: 0
238     zero_point: 0
239     zero_point: 0
240     zero_point: 0
241     zero_point: 0
242     zero_point: 0
243     zero_point: 0
244     zero_point: 0
245     zero_point: 0
246     zero_point: 0
247     zero_point: 0
248     zero_point: 0
249     zero_point: 0
250     zero_point: 0
251     zero_point: 0
252     zero_point: 0
253     zero_point: 0
254     zero_point: 0
255     zero_point: 0
256     zero_point: 0
257     zero_point: 0
258     zero_point: 0
259     zero_point: 0
260     zero_point: 0
261     zero_point: 0
262     zero_point: 0
263     zero_point: 0
264     zero_point: 0
265     zero_point: 0
266     zero_point: 0
267     zero_point: 0
268     zero_point: 0
269     zero_point: 0
270     zero_point: 0
271     zero_point: 0
272     zero_point: 0
273     zero_point: 0
274     zero_point: 0
275     zero_point: 0
276     zero_point: 0
277     zero_point: 0
278     zero_point: 0
279     zero_point: 0
280     zero_point: 0
281     zero_point: 0
282     zero_point: 0
283     zero_point: 0
284     zero_point: 0
285     zero_point: 0
286     zero_point: 0
287     zero_point: 0
288     zero_point: 0
289     zero_point: 0
290     quantized_dimension: 3
291   }
292   is_variable: false
293 }
294 operand {
295   name: "depthwise_conv2d/BiasAdd;depthwise_conv2d/depthwise;depthwise_conv2d/BiasAdd/ReadVariableOp/resource"
296   type: INT32
297   shape {
298     dim: 64
299   }
300   filler {
301     tag: "gaussian"
302     arg: "0.0"
303     arg: "0.1"
304   }
305   quant {
306     scale: 1.85484423e-05
307     scale: 2.37740842e-05
308     scale: 2.20598868e-05
309     scale: 2.76292012e-05
310     scale: 2.93672765e-05
311     scale: 2.77806666e-05
312     scale: 2.83775153e-05
313     scale: 2.69614502e-05
314     scale: 2.74447229e-05
315     scale: 2.5443167e-05
316     scale: 2.86173072e-05
317     scale: 2.92438654e-05
318     scale: 2.83755344e-05
319     scale: 2.61939058e-05
320     scale: 2.73543592e-05
321     scale: 2.54974038e-05
322     scale: 2.82755973e-05
323     scale: 2.91952547e-05
324     scale: 2.89298659e-05
325     scale: 2.95428526e-05
326     scale: 2.87614585e-05
327     scale: 2.80330823e-05
328     scale: 2.88325427e-05
329     scale: 2.54978422e-05
330     scale: 1.72490454e-05
331     scale: 2.88671981e-05
332     scale: 1.95508819e-05
333     scale: 2.57915817e-05
334     scale: 2.55683535e-05
335     scale: 2.77390118e-05
336     scale: 2.89457985e-05
337     scale: 2.77050458e-05
338     scale: 2.59047865e-05
339     scale: 2.82014116e-05
340     scale: 2.85908282e-05
341     scale: 2.89315249e-05
342     scale: 2.84629423e-05
343     scale: 2.8834862e-05
344     scale: 2.78696789e-05
345     scale: 2.86952982e-05
346     scale: 2.37719523e-05
347     scale: 2.77225918e-05
348     scale: 2.949394e-05
349     scale: 2.89833733e-05
350     scale: 2.70084347e-05
351     scale: 2.79865471e-05
352     scale: 2.86764025e-05
353     scale: 2.55042432e-05
354     scale: 2.69003776e-05
355     scale: 2.66082952e-05
356     scale: 2.63654219e-05
357     scale: 2.9545321e-05
358     scale: 2.377085e-05
359     scale: 2.53967446e-05
360     scale: 2.37410422e-05
361     scale: 2.68044732e-05
362     scale: 2.89538111e-05
363     scale: 2.38097346e-05
364     scale: 2.427037e-05
365     scale: 2.83826485e-05
366     scale: 2.52618065e-05
367     scale: 2.6726686e-05
368     scale: 2.75927596e-05
369     scale: 2.36584583e-05
370     zero_point: 0
371     zero_point: 0
372     zero_point: 0
373     zero_point: 0
374     zero_point: 0
375     zero_point: 0
376     zero_point: 0
377     zero_point: 0
378     zero_point: 0
379     zero_point: 0
380     zero_point: 0
381     zero_point: 0
382     zero_point: 0
383     zero_point: 0
384     zero_point: 0
385     zero_point: 0
386     zero_point: 0
387     zero_point: 0
388     zero_point: 0
389     zero_point: 0
390     zero_point: 0
391     zero_point: 0
392     zero_point: 0
393     zero_point: 0
394     zero_point: 0
395     zero_point: 0
396     zero_point: 0
397     zero_point: 0
398     zero_point: 0
399     zero_point: 0
400     zero_point: 0
401     zero_point: 0
402     zero_point: 0
403     zero_point: 0
404     zero_point: 0
405     zero_point: 0
406     zero_point: 0
407     zero_point: 0
408     zero_point: 0
409     zero_point: 0
410     zero_point: 0
411     zero_point: 0
412     zero_point: 0
413     zero_point: 0
414     zero_point: 0
415     zero_point: 0
416     zero_point: 0
417     zero_point: 0
418     zero_point: 0
419     zero_point: 0
420     zero_point: 0
421     zero_point: 0
422     zero_point: 0
423     zero_point: 0
424     zero_point: 0
425     zero_point: 0
426     zero_point: 0
427     zero_point: 0
428     zero_point: 0
429     zero_point: 0
430     zero_point: 0
431     zero_point: 0
432     zero_point: 0
433     zero_point: 0
434     quantized_dimension: 0
435   }
436   is_variable: false
437 }
438 operand {
439   name: "Identity"
440   type: INT8
441   shape {
442     dim: 1
443     dim: 26
444     dim: 26
445     dim: 64
446   }
447   quant {
448     min: -1.07687819
449     max: 1.02835441
450     scale: 0.0082558142
451     zero_point: 2
452     quantized_dimension: 0
453   }
454   is_variable: false
455 }
456 operation {
457   type: "DepthwiseConv2D"
458   input: "x"
459   input: "depthwise_conv2d/depthwise"
460   input: "depthwise_conv2d/BiasAdd;depthwise_conv2d/depthwise;depthwise_conv2d/BiasAdd/ReadVariableOp/resource"
461   output: "Identity"
462   depthwiseconv2d_options {
463     padding: VALID
464     stride_w: 1
465     stride_h: 1
466     depth_multiplier: 1
467     activation: NONE
468     dilation_w_factor: 1
469     dilation_h_factor: 1
470   }
471 }
472 input: "x"
473 output: "Identity"