[nnc] Add support for freestanding activation functions in tflite importer  (#2385)

While tflite have fused activation functions, some networks use activation functions as separate operations

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[tflchef/reverse] Enable INT32 type (#2393)

This will enable tflchef-reverse to handle INT32 type
- Needed to handle Reshape operator from MobileNet

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tflchef] Update depthwiseconv2d recipe (use relu6 activation) (#2322)

depthwiseconv2d recipe will use relu6 activation.
- Mobilenet uses relu6 activation.
- It could be used as a test for relu6 activation.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[tflchef] Support int32 tensortype (#2388)

This will fix to support int32 tensortype with introducing as_tflite_tensortype()

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tflchef] enable ReLU6 conversion (#2381)

This will enable ReLU6 in as_tflchef_activation()

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco/frontend] Empty DepthwiseConv2D (#2387)

This will add placeholder for DepthwiseConv2D in frontend
- to check loading mobilenet slim model

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco/tfl/frontend] ReLU6 Activation Layer (#2359)

* [enco/tfl/frontend] ReLU6 Activation Layer

This commit is for ReLU6 Activation Layer.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* Pr fix: add code to op/Activation.cpp

[nnc] Support Pad operation on TFLite Importer and Interpreter (#2330)

* Support Pad op in TFLite imported and interpreter

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@partner.samsung.com>

[tflchef] Add DepthwiseConv2D for reverse (#2373)

This will add DepthwiseConv2D Op for tflchef-reverse

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tflchef] Add Conv2D for reverse (#2375)

* [tflchef] Add Conv2D for reverse

This will add Conv2D Op for tflchef-reverse

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* add comment

[tflchef] Add MaxPool2D for reverse (#2376)

This will add MaxPool2D Op for tflchef-reverse

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tflchef] Add ReLU6 for reverse (#2374)

This will add ReLU6 Op for tflchef-reverse

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tflchef] Add ReLU for reverse (#2377)

This will add ReLU Op for tflchef-reverse

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tflchef] Add Concat for reverse (#2370)

This will add Concatenation Op for tflchef-reverse

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tflchef] Add Reshape for reverse (#2371)

This will add Reshape Op for tflchef-reverse

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco] Splitting Frontend.cpp into Op/*.cpp and more (#2362)

* [enco] Splitting Frontend.cpp into Op/*.cpp and more

Through this commit, Frontend.cpp will be refactored into several files.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* pr fix: remove useless "tflite::"

* pr fix: Split h file into h and cpp file

* pr fix: remove wrong test files

[tflchef] Fix FlatBufferIntArrayToVector (#2369)

* [tflchef] Fix FlatBufferIntArrayToVector

This will rename FlatBufferIntArrayToVector to as_index_vector like enco/frontend and correct type of caller
- incorrect type may cause a problem in reading minus values in shape info

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* fix to typename

[tflchef] Prepare adding Ops with AveragePool2D (#2368)

This will add AveragePool2D operator handler and needed changes to test.
Also place holders for other operators to prevent merge conflict.

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tflchef] generate_recipe for each operators (#2361)

This will fill handlers for each operators
- forward filler settings for the operator
- tflchef operator build and I/O settings for corresponding tflite operator

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[nnc] Fix deconv unittest build (#2366)

Fix deconv unit test build and adjust float epsilon

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[nnc][utils][model_generator] Add converter from tree to tflite. (#2230)

Implemented converter from randomly generated Tree representation to TFLite model.

Signed-off-by: i-kulagin i.kulagin@samsung.com

[nnc] Initial support of various operations in ONNX frontend (#2286)

Operations supported in ONNX importer:
- Conv2d
- BatchNorm
- Pool
- scale
- dropout
- Elementwise operations (add, sum, mul, max)
- Gemm

Signed-off-by: Andrew V. Tischenko <a.tischenko@partner.samsung.com>

[nnc] Conv transpose in SoftBackend (#2290)

Implements Deconvolution in Soft Backend, caffe style transfer model is fully supported.

Signed-off-by: Andrei Shedko a.shedko@partner.samsung.com

[nnc] Add `shape` parameter to constructors of operations that cannot infer shapes of their outputs (#2338)

* Add `shape` parameter to constructor of `VariableOp`;
* Add `shape` parameter to constructor of `ReshapeOp`.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[tflchef] Implement generate_recipe (#2360)

* [tflchef] Implement generate_recipe

This implements partial of generate_recipe() for operators, operands and inputs,outputs.

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* remove unused

* reorder a line

* fix typo

* need check quantization

* fix typo

[tflchef] Introduce TFliteOpChef and Registry (#2357)

This will introduce TFliteOpChef base class for Operator handlers for translation and
TFliteOpRegistry for registeration of handlers.
All headers are included in RecipeChef to check compilation and as it will be used later codes.

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tflchef] Adds "comment" into recipe (#2356)

Now, recipe file can have "comment" field, which is ignored by tflchef.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[tflchef] Introduce TFliteImport (#2355)

* [tflchef] Introduce TFliteImport

This will introduce TFliteImport class that provides needed information from tflite::Model to build recipe

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* add brief

[enco/tfl/frontend] Modified wrong test number (#2354)

Conv_003 exists without Conv_002. So Conv_003 is renamed to Conv_002.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[tflchef] Introduce convert helpers (#2351)

This will introduce helper functions to convert tflite types to tflchef types

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tflchef] Store ModelRecipe to file (#2352)

This will implement storing ModelRecipe to a file

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco/tfl/frontend] Bug fix on padding (#2353)

IFM is NHWC format but the padding code was written assuming that IFM is NCHW.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[enco/tfl/frontend] Refactoring RELU activation (#2313)

* [enco/tfl/frontend] Refactoring RELU activation

RELU activation is commonly used by many operations. So this activation is extracted as a separate method.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* returning ifm

* ofm as param

* remove empty line

* pr fix: remove output param

* pr fix : comment, renaming vars, etc.

[tflchef] Call tflchef from Driver (#2350)

This will make Driver call tflchef tflite load and save functions

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tflchef] RawModel loader (#2347)

This will introduce TFlite raw model loader
- copied from enco/frontend

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tflchef] Introduce entry points for tflchef-reverse (#2345)

* [tflchef] Introduce entry points for tflchef-reverse

This will introduce two empty functions for tflchef-reverse tool
- CMakeLists.txt file to build a library
- This library will read TF lite file and drop tflchef recipe file

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* change header ifdef name

[tflchef] Introduce reverse tool driver (#2346)

[tflchef] Introduce reverse tool driver

[nnc] fix static analysis warning and add missed break (#2287)

- Add assert, which protects us from passing a null pointer to a function.
- Add break statement into switch in tflite_importer.

Signed-off-by: Pavel <p.fattakhov@partner.samsung.com>

[tflchef] Add Conv2D test recipe (#2340)

This will add Conv2D test recipe for tflchef.
- there was existing readme to show readme example works but there was no conv2d test

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[nnc] Make constructors of `Operations` accept other `Operation`s as arguments (#2292)

* Make constructors of `Operations` accept `Operation`s they depend on.
* Remove `connectInput` method, which became redundant.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] split model runner script into 4 scripts (#2285)

split model runner script into 4 scripts

Signed-off-by: Pavel <p.fattakhov@partner.samsung.com>

[enco] Fix typo (#2334)

This will fix typo in OwnedFileDescriptor comment

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tflchef] Add ReLU6 in activation (#2312)

This commit will add ReLU6 in activation

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[enco] Remove unused variable (#2311)

This commit will remove unused varuable

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[nnkit] Link backend_support library with dl (#2310)

Backend support library uses dlopen internally, but is not linked with
dl currently.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Set subnet output correctly on branching (#2309)

The current implementation specifies a bag as a subnet output if the subnet
accesses it and this bag is accessed outside of this subnet.

It turns out that this algorithm may specify a network input as a subnet output
as it does not consider this bag is updated by this subnet.

This commit fixes this bug and adds a related test.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[tflchef] Use safemain (#2305)

Now, tflchef and tflchef-file uses the main function that safemain
provides.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc] Implemented caffe2 importer interface (#2233)

* Implemented caffe2 importer interface
* Minor fixes in driver sanity checks
* Inited caffe2 model dumper

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[nnc] Remove redundant code (#2314)

Remove redundant code from c++ snippet that prevents artifact build

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[nnc] Replace layout of operations in cpu backend (#2258)

Order of operations in artifact is changed to RPO to optimize usage of memory caches

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[nnc] Tfl importer eltwise (#2208)

Added elementwise operations, Tanh and Transposed Conv to tfLite importer

Signed-off-by: Andrei Shedko <a.shedko@partner.samsung.com>

[coco] Deprecate FeatureObject create with Shape (#2302)

This commit removes create method that takes a FeatureShape from
ObjectManager class and revises related tests.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco/frontend] Relu activation layer for Conv2D (#2306)

* [enco/frontend] Relu activation layer for Conv2D

This commit adds Relu activation layer for Conv2D and test.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* Check NONE for actuvation

[enco] Introduce enco_dump_all_objects (#2304)

With this debugging helper, users easily enumerates all the objects in a
module with interactive debugger.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco.tflite] Remove deprecated create method use (#2303)

FeatureObject create method (with a FeatureShape) in ObjectManager is
deprecated.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Fix typos in some comments (#2301)

There are same typos in some comments
This commit will fix it

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

Introduce 'safemain' library (#2300)

This commit introduces 'safemain' library which provides 'main' function
that captures std::exception on RELEASE build.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Modify some misunderstandable parameters name (#2297)

Some parameters are started with underbar, which can be misunderstood as private member variable
This commit will fix them not to be misunderstood

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[enco] Extend frontend for ReLU (#2298)

This commit will extend the frontend of enco for ReLU

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[enco] Introduce enco_dump_all_bags (#2293)

This commit introduces enco_dump_all_bags which shows the details of all
the allocated bags in a given module.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco/frontend] Support Reshape of TF lite (#2294)

* [enco/frontend] Support Reshape of TF lite

This will add Reshape operator for TF lite import

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* use ifm_bag->size()

* change test out shape

* fix shape again

* fix typo

[enco] Extend frontend for ReLU6 (#2275)

* [enco] Extend frontend for ReLU6

This commit will extend the frontend of enco for ReLU6

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>
* modify variable name

[enco/frontend] test case for MaxPool2D tflite frontend (#2272)

This commit adds a test case for MaxPool2D tflite frontend

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[enco/frontend] fix bug about padding calculation (#2280)

* [enco/frontend] fix bug about padding calculation

Wrong layout (NCHW) of kernel caused this bug. Fixed to NHWC.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* more complex test (no identical number in ifm shape)

[enco] Show Conv2D op details (#2281)

With this commit, enco_dump_all_ops and enco_dump_op methods show the
additional information if a given op is a Conv2D op.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[tflchef] Support ReLU in tflchef (#2283)

This commit will enable ReLU in tflchef

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[nnc] Replace ASSERT_NEAR with custom comparator (#2231)

Replace ASSERT_NEAR in soft backend unit tests with custom ULP comparator to add flexibility

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

added assert for result of ftell function (#2278)

added assert for result of ftell function in interpreter.

Signed-off-by: Pavel <p.fattakhov@partner.samsung.com>

[nnc] Make the class `Graph` intrusive (#2261)

* Remove `INode`, `AbstractNode`, `Node`, `OpDescription` classes.
* Add `Operation` class, derive all `Op`s from it.
* Modify `Graph` to work with `Operation`s instead of `Node`.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[enco/frontend] MaxPool2D for tflite frontend (#2270)

* [enco/frontend] MaxPool2D for tflite frontend

This commit adds MaxPool2D for tflite frontend.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* 'auto' to explicit type

[tflchef] Support DepthwiseConv2D (#2277)

This patch extends tflchef for DepthwiseConv2D operator.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[enco] Bugfix about ReLU6 for backend (#2273)

There are some typos for ReLU6 operation
This commit will fix them

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[tflchef] Support Reshape (#2268)

This will extend to support Reshape operator

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco/frontend] Added test cases for AvgPool2D (#2244)

* [enco/frontend] added a test case for AvgPool2D

Two test cases for AvgPool2D are added. (paddiang for SAME and VALID)

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* avgpool2d -> averagepool2d

[enco] Rename caffe tests (#2267)

This commit appends layer prefix (such as Convolution) to each caffe tests and
assign new numbers in order to make it easy to find.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Extend backend for ReLU6 (#2265)

This commit will extend the backend of enco for ReLU6

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[enco/frontend] Test for TF lite concat (#2264)

This will add test recipe for Concat operator

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco/frontend] Introduce ConcatenationGraphBuilder (#2262)

* [enco/frontend] Introduce ConcatenationGraphBuilder

This will introduce ConcatenationGraphBuilder for importing Concat operator from TF lite

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* remove unused

[enco/frontend] Revise Conv2D build using copy (#2255)

* [enco/frontend] Revise Conv2D build using copy

This will revise Conv2D to use InstrBuilder::copy method so that cascading new coco IR operator would be easy

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* renamve var

* fix comment

[enco] Remove caffe build tests (#2263)

Build test was introduced to check whether the source code that enco emits
is valid in terms of its syntax at the early stage, but this test is no longer
meaningful.

This commit removes caffe build tests and related infrastructure to
simplify build process.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc] Support PAD operation on modelIR (#2232)

* Create new class for PAD operation and visitors
* Support pad operation in shape Inference
* fix ElementwiseOp dump in irDotDumper

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@partner.samsung.com>

[nnc] Problems fixed during the debug of the Convolution and the Softmax operations (#2142)

- Tensor and tensor shapes transposed in certain places.
- Serialization operation changed to save tensors starting from lower to higher dimensions (to be easily readable by the standard ACL routine).

Signed-off-by: Timur Ablyazimov <t.ablyazimov@samsung.com>

First implementation of some Onnx operators. (#2140)

The following operators were implemented (without any debugging):
Dropuot, Concat, Scale, Reshape, Rel, Softmax.

Signed-off-by: Andrew V. Tischenko a.tischenko@partner.samsung.com

[enco] Introduce enco_dump_all_instrs (#2252)

This commit implements enco_dump_all_instrs debugging helper.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco/frontend] Add AvgPool2DGraphBuilder into registry (#2253)

With this commit, AvgPool2DGraphBuilder is added into registry.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[enco/frontend] Add AvgPool2DGraphBuilder for tflite frontend (#2249)

* [enco/frontend] Add AvgPool2DGraphBuilder for tflite frontend

AvgPool2DGraphBuilder was added for tflite frontend.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* Divisor , assert for fused activation

* tensorflow -> tensorflow lite

[enco/frontend] Introduce copy to InstrBuilder (#2251)

* [enco/frontend] Introduce copy to InstrBuilder

This will add copy method to InstrBuilder to make a copy instruction

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* add comment

[tflchef] Support MaxPool2D (#2248)

This patch extends tflchef for MaxPool2D operator.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[enco] Common nullptr handler in debuging API (#2247)

With this commit, every debugging API shares the same nullptr handler
(which is generated via macro).

This change makes it easy to extend debugging API.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Do NOT eliminate output objects (#2246)

The current implementation of identical object reducation pass
may eliminate output objects (i.e. objects over output bags), which
results in incorrect results.

With this commit, identical object reducation pass no longer eliminates
output objects.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco/frontend] Add padding functions for conv and avgpool (#2243)

Add two more padding functions: One is for conv2d, another for avgpool.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[enco] remove underscore in build method argument (#2242)

This will remove underscore used in build method argument

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tflchef] Remove unnecessary bias input operand from avgpool2d (#2241)

`bias` operand is not used in averagepool2d.
The operand is removed from recipe.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[enco/frontend] Enable Conv2D test (#2240)

This will add INFERENCE file to enable TF lite Conv2D operator load test

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco/frontend] Add convolution recipe file Conv2D_000 (#2167)

This will add tflchef recipe file that has one convolution operator

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco/frontend] Fix shape input for object layout (#2237)

This will fix shape input for object layout with correct value

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco] Add enco_dump_op_tree debugging helper (#2227)

This commit implements enco_dump_op_tree debugging helper which dumps
all the descendents of a given op as a tree.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco/frontend] revise opcode_name method (#2228)

* [enco/frontend] revise opcode_name method

This will revisit opcode_name method with opcode index value to invalid opcode name

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* return non const

[enco/frontend] Remove load function asserts (#2236)

This will remove model checking asserts to enable Conv2D operation import

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[nnc] Implement group in CLI (#2235)

* add group in Option class
* adapt command line parser to work with grouped options
* refactoring of CommandLine accodring to coding style

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>