[tflchef] Call tflchef from Driver (#2350)

This will make Driver call tflchef tflite load and save functions

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tflchef] RawModel loader (#2347)

This will introduce TFlite raw model loader
- copied from enco/frontend

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tflchef] Introduce entry points for tflchef-reverse (#2345)

* [tflchef] Introduce entry points for tflchef-reverse

This will introduce two empty functions for tflchef-reverse tool
- CMakeLists.txt file to build a library
- This library will read TF lite file and drop tflchef recipe file

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* change header ifdef name

[tflchef] Introduce reverse tool driver (#2346)

[tflchef] Introduce reverse tool driver

[nnc] fix static analysis warning and add missed break (#2287)

- Add assert, which protects us from passing a null pointer to a function.
- Add break statement into switch in tflite_importer.

Signed-off-by: Pavel <p.fattakhov@partner.samsung.com>

[tflchef] Add Conv2D test recipe (#2340)

This will add Conv2D test recipe for tflchef.
- there was existing readme to show readme example works but there was no conv2d test

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[nnc] Make constructors of `Operations` accept other `Operation`s as arguments (#2292)

* Make constructors of `Operations` accept `Operation`s they depend on.
* Remove `connectInput` method, which became redundant.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] split model runner script into 4 scripts (#2285)

split model runner script into 4 scripts

Signed-off-by: Pavel <p.fattakhov@partner.samsung.com>

[enco] Fix typo (#2334)

This will fix typo in OwnedFileDescriptor comment

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tflchef] Add ReLU6 in activation (#2312)

This commit will add ReLU6 in activation

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[enco] Remove unused variable (#2311)

This commit will remove unused varuable

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[nnkit] Link backend_support library with dl (#2310)

Backend support library uses dlopen internally, but is not linked with
dl currently.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Set subnet output correctly on branching (#2309)

The current implementation specifies a bag as a subnet output if the subnet
accesses it and this bag is accessed outside of this subnet.

It turns out that this algorithm may specify a network input as a subnet output
as it does not consider this bag is updated by this subnet.

This commit fixes this bug and adds a related test.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[tflchef] Use safemain (#2305)

Now, tflchef and tflchef-file uses the main function that safemain
provides.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc] Implemented caffe2 importer interface (#2233)

* Implemented caffe2 importer interface
* Minor fixes in driver sanity checks
* Inited caffe2 model dumper

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[nnc] Remove redundant code (#2314)

Remove redundant code from c++ snippet that prevents artifact build

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[nnc] Replace layout of operations in cpu backend (#2258)

Order of operations in artifact is changed to RPO to optimize usage of memory caches

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[nnc] Tfl importer eltwise (#2208)

Added elementwise operations, Tanh and Transposed Conv to tfLite importer

Signed-off-by: Andrei Shedko <a.shedko@partner.samsung.com>

[coco] Deprecate FeatureObject create with Shape (#2302)

This commit removes create method that takes a FeatureShape from
ObjectManager class and revises related tests.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco/frontend] Relu activation layer for Conv2D (#2306)

* [enco/frontend] Relu activation layer for Conv2D

This commit adds Relu activation layer for Conv2D and test.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* Check NONE for actuvation

[enco] Introduce enco_dump_all_objects (#2304)

With this debugging helper, users easily enumerates all the objects in a
module with interactive debugger.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco.tflite] Remove deprecated create method use (#2303)

FeatureObject create method (with a FeatureShape) in ObjectManager is
deprecated.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Fix typos in some comments (#2301)

There are same typos in some comments
This commit will fix it

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

Introduce 'safemain' library (#2300)

This commit introduces 'safemain' library which provides 'main' function
that captures std::exception on RELEASE build.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Modify some misunderstandable parameters name (#2297)

Some parameters are started with underbar, which can be misunderstood as private member variable
This commit will fix them not to be misunderstood

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[enco] Extend frontend for ReLU (#2298)

This commit will extend the frontend of enco for ReLU

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[enco] Introduce enco_dump_all_bags (#2293)

This commit introduces enco_dump_all_bags which shows the details of all
the allocated bags in a given module.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco/frontend] Support Reshape of TF lite (#2294)

* [enco/frontend] Support Reshape of TF lite

This will add Reshape operator for TF lite import

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* use ifm_bag->size()

* change test out shape

* fix shape again

* fix typo

[enco] Extend frontend for ReLU6 (#2275)

* [enco] Extend frontend for ReLU6

This commit will extend the frontend of enco for ReLU6

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>
* modify variable name

[enco/frontend] test case for MaxPool2D tflite frontend (#2272)

This commit adds a test case for MaxPool2D tflite frontend

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[enco/frontend] fix bug about padding calculation (#2280)

* [enco/frontend] fix bug about padding calculation

Wrong layout (NCHW) of kernel caused this bug. Fixed to NHWC.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* more complex test (no identical number in ifm shape)

[enco] Show Conv2D op details (#2281)

With this commit, enco_dump_all_ops and enco_dump_op methods show the
additional information if a given op is a Conv2D op.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[tflchef] Support ReLU in tflchef (#2283)

This commit will enable ReLU in tflchef

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[nnc] Replace ASSERT_NEAR with custom comparator (#2231)

Replace ASSERT_NEAR in soft backend unit tests with custom ULP comparator to add flexibility

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

added assert for result of ftell function (#2278)

added assert for result of ftell function in interpreter.

Signed-off-by: Pavel <p.fattakhov@partner.samsung.com>

[nnc] Make the class `Graph` intrusive (#2261)

* Remove `INode`, `AbstractNode`, `Node`, `OpDescription` classes.
* Add `Operation` class, derive all `Op`s from it.
* Modify `Graph` to work with `Operation`s instead of `Node`.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[enco/frontend] MaxPool2D for tflite frontend (#2270)

* [enco/frontend] MaxPool2D for tflite frontend

This commit adds MaxPool2D for tflite frontend.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* 'auto' to explicit type

[tflchef] Support DepthwiseConv2D (#2277)

This patch extends tflchef for DepthwiseConv2D operator.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[enco] Bugfix about ReLU6 for backend (#2273)

There are some typos for ReLU6 operation
This commit will fix them

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[tflchef] Support Reshape (#2268)

This will extend to support Reshape operator

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco/frontend] Added test cases for AvgPool2D (#2244)

* [enco/frontend] added a test case for AvgPool2D

Two test cases for AvgPool2D are added. (paddiang for SAME and VALID)

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* avgpool2d -> averagepool2d

[enco] Rename caffe tests (#2267)

This commit appends layer prefix (such as Convolution) to each caffe tests and
assign new numbers in order to make it easy to find.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Extend backend for ReLU6 (#2265)

This commit will extend the backend of enco for ReLU6

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[enco/frontend] Test for TF lite concat (#2264)

This will add test recipe for Concat operator

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco/frontend] Introduce ConcatenationGraphBuilder (#2262)

* [enco/frontend] Introduce ConcatenationGraphBuilder

This will introduce ConcatenationGraphBuilder for importing Concat operator from TF lite

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* remove unused

[enco/frontend] Revise Conv2D build using copy (#2255)

* [enco/frontend] Revise Conv2D build using copy

This will revise Conv2D to use InstrBuilder::copy method so that cascading new coco IR operator would be easy

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* renamve var

* fix comment

[enco] Remove caffe build tests (#2263)

Build test was introduced to check whether the source code that enco emits
is valid in terms of its syntax at the early stage, but this test is no longer
meaningful.

This commit removes caffe build tests and related infrastructure to
simplify build process.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc] Support PAD operation on modelIR (#2232)

* Create new class for PAD operation and visitors
* Support pad operation in shape Inference
* fix ElementwiseOp dump in irDotDumper

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@partner.samsung.com>

[nnc] Problems fixed during the debug of the Convolution and the Softmax operations (#2142)

- Tensor and tensor shapes transposed in certain places.
- Serialization operation changed to save tensors starting from lower to higher dimensions (to be easily readable by the standard ACL routine).

Signed-off-by: Timur Ablyazimov <t.ablyazimov@samsung.com>

First implementation of some Onnx operators. (#2140)

The following operators were implemented (without any debugging):
Dropuot, Concat, Scale, Reshape, Rel, Softmax.

Signed-off-by: Andrew V. Tischenko a.tischenko@partner.samsung.com

[enco] Introduce enco_dump_all_instrs (#2252)

This commit implements enco_dump_all_instrs debugging helper.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco/frontend] Add AvgPool2DGraphBuilder into registry (#2253)

With this commit, AvgPool2DGraphBuilder is added into registry.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[enco/frontend] Add AvgPool2DGraphBuilder for tflite frontend (#2249)

* [enco/frontend] Add AvgPool2DGraphBuilder for tflite frontend

AvgPool2DGraphBuilder was added for tflite frontend.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* Divisor , assert for fused activation

* tensorflow -> tensorflow lite

[enco/frontend] Introduce copy to InstrBuilder (#2251)

* [enco/frontend] Introduce copy to InstrBuilder

This will add copy method to InstrBuilder to make a copy instruction

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* add comment

[tflchef] Support MaxPool2D (#2248)

This patch extends tflchef for MaxPool2D operator.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[enco] Common nullptr handler in debuging API (#2247)

With this commit, every debugging API shares the same nullptr handler
(which is generated via macro).

This change makes it easy to extend debugging API.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Do NOT eliminate output objects (#2246)

The current implementation of identical object reducation pass
may eliminate output objects (i.e. objects over output bags), which
results in incorrect results.

With this commit, identical object reducation pass no longer eliminates
output objects.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco/frontend] Add padding functions for conv and avgpool (#2243)

Add two more padding functions: One is for conv2d, another for avgpool.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[enco] remove underscore in build method argument (#2242)

This will remove underscore used in build method argument

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tflchef] Remove unnecessary bias input operand from avgpool2d (#2241)

`bias` operand is not used in averagepool2d.
The operand is removed from recipe.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[enco/frontend] Enable Conv2D test (#2240)

This will add INFERENCE file to enable TF lite Conv2D operator load test

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco/frontend] Add convolution recipe file Conv2D_000 (#2167)

This will add tflchef recipe file that has one convolution operator

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco/frontend] Fix shape input for object layout (#2237)

This will fix shape input for object layout with correct value

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco] Add enco_dump_op_tree debugging helper (#2227)

This commit implements enco_dump_op_tree debugging helper which dumps
all the descendents of a given op as a tree.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco/frontend] revise opcode_name method (#2228)

* [enco/frontend] revise opcode_name method

This will revisit opcode_name method with opcode index value to invalid opcode name

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* return non const

[enco/frontend] Remove load function asserts (#2236)

This will remove model checking asserts to enable Conv2D operation import

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[nnc] Implement group in CLI (#2235)

* add group in Option class
* adapt command line parser to work with grouped options
* refactoring of CommandLine accodring to coding style

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[nnc] model runner (#2221)

Add final solution of model runner question

Signed-off-by: Pavel <p.fattakhov@partner.samsung.com>

[enco/frontend] Build graph with looping operators (#2224)

* [enco/frontend] Build graph with looping operators

This will add loop of graph operators and invoke each operator building

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* apply comment: restric scope

[enco/frontend] Build instruction(s) for tflite Conv2D (#2223)

* [enco/frontend] Conv2D - building objects for ifm, ofm, kernel

This code builds objects for ifm, ofm, kernel for conv2D.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* pr fix: put all conv2d code into this PR

[tflchef] Add support for concatenation (#2220)

This will add concatenation operation support for tflchef

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco.core] Remove redundant layout allocation (#2219)

This commit removes redundant feature layout allocations in enco core
implementation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce arity and general arg accessor (#2200)

* [coco] Introduce arity and general arg accessor

With this commit, users are able to query the number of arguments over
each coco::Op, and retrive its Nth argument without knowing its details.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix a typo

[enco/frontend] Introduce TflOpCodeContext class (#2201)

* [enco/frontend] Introduce TflOpCodeContext class

This will introduce TflOpCodeContext class that holds operator codes
of the TF lite model and related methods

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* apply comment as add static

* add note for opcode_name

* move to tflimport namespace region

* add const and change comment

[nnc] Style transfer soft backend no conv transpose (#1934)

Added snippets for new ops (from TFL),
As well as Soft Backend Tests for the ops

Signed-off-by: Andrei Shedko <a.shedko@partner.samsung.com>

[nnc][utils][model_generator] Add operation tree. (#2133)

The changes add the tree of operations and builder for it.
The tree represents random model without relation
to specific format (TFLite or caffe).

The changes are needed for building random links
between operations with consistency tensor's shapes.
The tree then will be converted to specific format
(in future pull request).

Currently contains only one operation (other in future PR)

Signed-off-by: i-kulagin i.kulagin@samsung.com

Update Unit Test Report and System Test Document for October milestone (#2033)

* Add test round 2 in STD and UTR

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[enco/frontend] TF lite GraphBuilderContext members (#2217)

* [enco/frontend] TF lite GraphBuilderContext members

This will add GraphBuilderContext members to import TF lite

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* apply comments

* fix format checker

* fix move

[enco/frontend] Introduce Conv2DGraphBuilder (#2216)

* [enco/frontend] Introduce Conv2DGraphBuilder

This will introduce empty Conv2DGraphBuilder to handle Conv2D operation as a placeholder and register it to the Factory

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* add throw

* apply comment

[enco/frontend] Use pointer in GraphBuilderRegistry (#2215)

* [enco/frontend] Use pointer in GraphBuilderRegistry

This will change to return pointer of registered GraphBuilder so that
we can check BuilinOperator is registered and valid.

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* ad comment and check code of validity

[enco/frontend] Prepare module block (#2214)

This will prepare an empty module block

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Static caffeproto library (#1220)

The current build script builds caffeproto as a shared library.

This commit revises this build script to build caffeproto as a static
library as original caffe does.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco/frontend] Add TflBufferContext (#2192)

* [enco/frontend] Add TflBufferContext

Add TflBufferContext, which reads and provides buffer information of tflite.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* pr fix: wrong grammar, unit32_t, size->len

* prfix:renaming class, explicit constructor, etc

* make tensor_buffer() const method

[nnc] Remove `examples` directory (#2207)

* Remove `examples` directory and rename dot dumpers

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[nnc] Add squeeze operation support (#2138)

This commit adds squeeze operation and ShapeInference support for it

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[nnc] added python model runner. (#2183)

added model runner for caffe, caffe2, onnx and tflite

Signed-off-by: Pavel Fattakhov <p.fattakhov@partner.samsung.com>

[nnc] 'nnmodel' option become a vector (#2157)

Make 'nnmodel' option a vector option, because caffe2 importer consumes two files (init_net.pb and predict_net.pb)

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[tflchef] Support AveragePool2D (#2175)

This patch extends tflchef for AveragePool2D operator.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[enco/frontend] Set module inputs and outputs (#2193)

This will set coco Module inputs and outpus from TF lite graph

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco/frontend] Modify get_padding (#2194)

Removed unnecessary assert and added comment for the origin of code.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[coco] Support ReLU6 for tflite in coco (#2191)

* [coco] Support ReLU6 for tflite in coco

This commit will enable ReLU6 operation for tflite in coco

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>
* Add comment

* modify comment

[enco/frontend] Functions to set coco module IO (#2190)

This will add two methods set_module_inputs and set_module_outputs to
set coco::Module inputs and outputs from TensorContext and TensorBags

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco/frontend] Add function to calculate padding (#2189)

Add function to calculate padding. This will be used by conv2d.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[enco/frontend] Added OpBuilder, InstrBuilder (#2187)

* [enco/frontend] Added OpBuilder, InstrBuilder

Added OpBuilder, InstrBuilder (copied from enco caffe frontend.)

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* Separate into a new file

[enco/frontend] Introduce TensorContext and TensorBags (#2188)

* [enco/frontend] Introduce TensorContext and TensorBags

This will introduce TensorContext to extract and hold informations of
tensors such as shape and name and pre-creates coco::Bag for each tensors

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* apply comments

[enco/frontend] GraphBuilder for tflite op and factory (#2171)

This commit introduces GraphBuilder, and its child classes and factory.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[ANN] Introduce ReLU6 ops (#2176)

* [ANN] Introduce ReLU6 ops

This commit will introduce ReLU6 ops for ANN and execute ReLU6 in ANN

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>
* align column

[tflchef] Support ReLU6 operation (#2179)

* [tflchef] Support ReLU6 operation

This commit will enable ReLU6 operation in tflchef

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>
* resize the channel size

[enco.caffe] Remove redundant layout allocations (#2180)

There are many redundant FeatureLayout allocations in the current caffe
frontend; frontend currently allocates a FeatureObject with deprecated
FeatureObject create method which internally allocates Generic FeatureLayout),
and then updates it with a valid FeatureLayout.

This commit aims to eliminate such redundant layout allocations.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco/frontend] Introduce as_tensor_shape (#2181)

This will introduce as_tensor_shape method to convert flatbuffers::Vector
as nncc::core::ADT::tensor::Shape that will be used for reading tensor shape

Signed-off-by: SaeHie Park <saehie.park@samsung.com>