[nnc] Problems fixed during the debug of the Convolution and the Softmax operations (#2142)

- Tensor and tensor shapes transposed in certain places.
- Serialization operation changed to save tensors starting from lower to higher dimensions (to be easily readable by the standard ACL routine).

Signed-off-by: Timur Ablyazimov <t.ablyazimov@samsung.com>

First implementation of some Onnx operators. (#2140)

The following operators were implemented (without any debugging):
Dropuot, Concat, Scale, Reshape, Rel, Softmax.

Signed-off-by: Andrew V. Tischenko a.tischenko@partner.samsung.com

[enco] Introduce enco_dump_all_instrs (#2252)

This commit implements enco_dump_all_instrs debugging helper.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco/frontend] Add AvgPool2DGraphBuilder into registry (#2253)

With this commit, AvgPool2DGraphBuilder is added into registry.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[enco/frontend] Add AvgPool2DGraphBuilder for tflite frontend (#2249)

* [enco/frontend] Add AvgPool2DGraphBuilder for tflite frontend

AvgPool2DGraphBuilder was added for tflite frontend.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* Divisor , assert for fused activation

* tensorflow -> tensorflow lite

[enco/frontend] Introduce copy to InstrBuilder (#2251)

* [enco/frontend] Introduce copy to InstrBuilder

This will add copy method to InstrBuilder to make a copy instruction

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* add comment

[tflchef] Support MaxPool2D (#2248)

This patch extends tflchef for MaxPool2D operator.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[enco] Common nullptr handler in debuging API (#2247)

With this commit, every debugging API shares the same nullptr handler
(which is generated via macro).

This change makes it easy to extend debugging API.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Do NOT eliminate output objects (#2246)

The current implementation of identical object reducation pass
may eliminate output objects (i.e. objects over output bags), which
results in incorrect results.

With this commit, identical object reducation pass no longer eliminates
output objects.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco/frontend] Add padding functions for conv and avgpool (#2243)

Add two more padding functions: One is for conv2d, another for avgpool.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[enco] remove underscore in build method argument (#2242)

This will remove underscore used in build method argument

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tflchef] Remove unnecessary bias input operand from avgpool2d (#2241)

`bias` operand is not used in averagepool2d.
The operand is removed from recipe.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[enco/frontend] Enable Conv2D test (#2240)

This will add INFERENCE file to enable TF lite Conv2D operator load test

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco/frontend] Add convolution recipe file Conv2D_000 (#2167)

This will add tflchef recipe file that has one convolution operator

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco/frontend] Fix shape input for object layout (#2237)

This will fix shape input for object layout with correct value

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco] Add enco_dump_op_tree debugging helper (#2227)

This commit implements enco_dump_op_tree debugging helper which dumps
all the descendents of a given op as a tree.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco/frontend] revise opcode_name method (#2228)

* [enco/frontend] revise opcode_name method

This will revisit opcode_name method with opcode index value to invalid opcode name

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* return non const

[enco/frontend] Remove load function asserts (#2236)

This will remove model checking asserts to enable Conv2D operation import

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[nnc] Implement group in CLI (#2235)

* add group in Option class
* adapt command line parser to work with grouped options
* refactoring of CommandLine accodring to coding style

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[nnc] model runner (#2221)

Add final solution of model runner question

Signed-off-by: Pavel <p.fattakhov@partner.samsung.com>

[enco/frontend] Build graph with looping operators (#2224)

* [enco/frontend] Build graph with looping operators

This will add loop of graph operators and invoke each operator building

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* apply comment: restric scope

[enco/frontend] Build instruction(s) for tflite Conv2D (#2223)

* [enco/frontend] Conv2D - building objects for ifm, ofm, kernel

This code builds objects for ifm, ofm, kernel for conv2D.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* pr fix: put all conv2d code into this PR

[tflchef] Add support for concatenation (#2220)

This will add concatenation operation support for tflchef

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco.core] Remove redundant layout allocation (#2219)

This commit removes redundant feature layout allocations in enco core
implementation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce arity and general arg accessor (#2200)

* [coco] Introduce arity and general arg accessor

With this commit, users are able to query the number of arguments over
each coco::Op, and retrive its Nth argument without knowing its details.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix a typo

[enco/frontend] Introduce TflOpCodeContext class (#2201)

* [enco/frontend] Introduce TflOpCodeContext class

This will introduce TflOpCodeContext class that holds operator codes
of the TF lite model and related methods

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* apply comment as add static

* add note for opcode_name

* move to tflimport namespace region

* add const and change comment

[nnc] Style transfer soft backend no conv transpose (#1934)

Added snippets for new ops (from TFL),
As well as Soft Backend Tests for the ops

Signed-off-by: Andrei Shedko <a.shedko@partner.samsung.com>

[nnc][utils][model_generator] Add operation tree. (#2133)

The changes add the tree of operations and builder for it.
The tree represents random model without relation
to specific format (TFLite or caffe).

The changes are needed for building random links
between operations with consistency tensor's shapes.
The tree then will be converted to specific format
(in future pull request).

Currently contains only one operation (other in future PR)

Signed-off-by: i-kulagin i.kulagin@samsung.com

Update Unit Test Report and System Test Document for October milestone (#2033)

* Add test round 2 in STD and UTR

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[enco/frontend] TF lite GraphBuilderContext members (#2217)

* [enco/frontend] TF lite GraphBuilderContext members

This will add GraphBuilderContext members to import TF lite

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* apply comments

* fix format checker

* fix move

[enco/frontend] Introduce Conv2DGraphBuilder (#2216)

* [enco/frontend] Introduce Conv2DGraphBuilder

This will introduce empty Conv2DGraphBuilder to handle Conv2D operation as a placeholder and register it to the Factory

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* add throw

* apply comment

[enco/frontend] Use pointer in GraphBuilderRegistry (#2215)

* [enco/frontend] Use pointer in GraphBuilderRegistry

This will change to return pointer of registered GraphBuilder so that
we can check BuilinOperator is registered and valid.

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* ad comment and check code of validity

[enco/frontend] Prepare module block (#2214)

This will prepare an empty module block

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Static caffeproto library (#1220)

The current build script builds caffeproto as a shared library.

This commit revises this build script to build caffeproto as a static
library as original caffe does.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco/frontend] Add TflBufferContext (#2192)

* [enco/frontend] Add TflBufferContext

Add TflBufferContext, which reads and provides buffer information of tflite.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* pr fix: wrong grammar, unit32_t, size->len

* prfix:renaming class, explicit constructor, etc

* make tensor_buffer() const method

[nnc] Remove `examples` directory (#2207)

* Remove `examples` directory and rename dot dumpers

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[nnc] Add squeeze operation support (#2138)

This commit adds squeeze operation and ShapeInference support for it

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[nnc] added python model runner. (#2183)

added model runner for caffe, caffe2, onnx and tflite

Signed-off-by: Pavel Fattakhov <p.fattakhov@partner.samsung.com>

[nnc] 'nnmodel' option become a vector (#2157)

Make 'nnmodel' option a vector option, because caffe2 importer consumes two files (init_net.pb and predict_net.pb)

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[tflchef] Support AveragePool2D (#2175)

This patch extends tflchef for AveragePool2D operator.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[enco/frontend] Set module inputs and outputs (#2193)

This will set coco Module inputs and outpus from TF lite graph

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco/frontend] Modify get_padding (#2194)

Removed unnecessary assert and added comment for the origin of code.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[coco] Support ReLU6 for tflite in coco (#2191)

* [coco] Support ReLU6 for tflite in coco

This commit will enable ReLU6 operation for tflite in coco

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>
* Add comment

* modify comment

[enco/frontend] Functions to set coco module IO (#2190)

This will add two methods set_module_inputs and set_module_outputs to
set coco::Module inputs and outputs from TensorContext and TensorBags

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco/frontend] Add function to calculate padding (#2189)

Add function to calculate padding. This will be used by conv2d.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[enco/frontend] Added OpBuilder, InstrBuilder (#2187)

* [enco/frontend] Added OpBuilder, InstrBuilder

Added OpBuilder, InstrBuilder (copied from enco caffe frontend.)

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* Separate into a new file

[enco/frontend] Introduce TensorContext and TensorBags (#2188)

* [enco/frontend] Introduce TensorContext and TensorBags

This will introduce TensorContext to extract and hold informations of
tensors such as shape and name and pre-creates coco::Bag for each tensors

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* apply comments

[enco/frontend] GraphBuilder for tflite op and factory (#2171)

This commit introduces GraphBuilder, and its child classes and factory.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[ANN] Introduce ReLU6 ops (#2176)

* [ANN] Introduce ReLU6 ops

This commit will introduce ReLU6 ops for ANN and execute ReLU6 in ANN

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>
* align column

[tflchef] Support ReLU6 operation (#2179)

* [tflchef] Support ReLU6 operation

This commit will enable ReLU6 operation in tflchef

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>
* resize the channel size

[enco.caffe] Remove redundant layout allocations (#2180)

There are many redundant FeatureLayout allocations in the current caffe
frontend; frontend currently allocates a FeatureObject with deprecated
FeatureObject create method which internally allocates Generic FeatureLayout),
and then updates it with a valid FeatureLayout.

This commit aims to eliminate such redundant layout allocations.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco/frontend] Introduce as_tensor_shape (#2181)

This will introduce as_tensor_shape method to convert flatbuffers::Vector
as nncc::core::ADT::tensor::Shape that will be used for reading tensor shape

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tflchef] Bugfix of wrong variable in CMakeLists.txt (#2185)

Originally, `RECIPE_PREFIX` is used for indicating the prefix of each test
However until now, `PREFIX` is used for that
This commit will fix it as correct variable name

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[enco] fix as_index_vector usage of Vector methods (#2182)

This will fix to use correct flatbuffers::Vector method and type
- Length() is deprecated, should use size()
- size return type is uint32_t not int

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

 [nnc] Refactor caffe importer to support layers with multiple outputs (#2154)

- add type alias IODescriptorVector;
- make layer conversion methods accept IODescriptorVector and return IODescriptorVector;
- add support for InputLayer with several inputs and single shape;
- refactor according to coding style.

Signed-off-by: Sergei Barannikov s.barannikov@samsung.com

[enco/frontend] Introduce as_index_vector (#2177)

* [enco/frontend] Introduce as_index_vector

This will introduce as_index_vector method to convert
flatbuffers::Vector to IndexVector as
std::vector<int32_t> that will be used to for reading
index values of operators and operands.

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* add a blank line

[enco] Introduce enco_dump_all_ops debugging helper (#2170)

This commit introduces enco_dump_all_ops debugging helper which dumps
all the allocated Ops in a given module.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Introduce enco_dump_op debugging helper (#2152)

This commit introduces enco_dump_op helper function to allows users
to inspect the details of coco::Op value from a debugger such as GDB.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Use PRE_BUILD hook in FlatBuffers_Target (#2161)

It turns out that Ninja failed to propely manage the dependencies of
generated files of a STATIC library.

To address this Ninja build issue, this commit revises FlatBuffers_Target
to insert explicitly dependencies between target and generated files via
using PRE_BUILD hook.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco.caffe] Simplify code using padding helpers (#2151)

This commit simplifies ConvolutionSpec and PoolingSpec code using
build_raw_padding and build_spatial_padding helpers.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[tflchef] Embed TensorFlow Lite schema file (#2150)

This commit embeds TensorFlow Lite schema file in tflchef in order to
reduce external dependencies.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[pp] Build as Position Independent Code (#2149)

pp is currently built as a non-PIC static library, and thus it is
impossible to link pp against another shared library.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[tflchef] Remove dependency to stdex (#2146)

Getting rid of `stdex::make_unique` to minimize dependency.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[enco.caffe] Introduce Padding-related utilities (#2139)

This commit introduces the following helper functions for Padding
variables:
 - build_raw_padding
 - build_spatial_padding

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[tflchef] Fix typo in comment (#2145)

I've spotted several typos during reading tflchef code.
This patch fixes them.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[tflchef] Introduce GaussianFloat32DataChef (#2137)

This commit introduces GaussianFloat32DataChef (along with its factory class) and
registers it to the global DataChef registry.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco.caffe] Introduce RawPadding and SpatialPadding (#2134)

This commit introduces RawPadding/SpatialPadding classes as the first
step toward unifying Padding-related routines.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Do NOT propagate sources (#2132)

This commit revises FlatBuffers_Target not to propagate sources (to
address issue related with the scope of generated files).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[tflchef] Extract "to_number" helper (#2131)

This commit extracts "to_number" helper (currently in Data/Constant.h)
to a seperate module.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco.caffe] Construct ConcatF from Frontend (#2126)

This commit revises caffe frontend to construct ConcatF instead of
directly lowering it as a sequence of Shuffle.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Remove KernelObject create method with shape (#2125)

This commit removes deprecated KernelObject "create" method with shape
from ObjectManager.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco.tflite] Show the list of failed tests (#2121)

This commit revises "runall" to show the list of failed tests.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Declare STATIC library in FlatBuffers_Target (#2123)

This commit revises FlatBuffers_Target function to declare STATIC
library instead of INTERFACE library. This change addresses the scope
issue related with generated files.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco.caffe] Remove morph::caffe prefix (#2124)

This commit introduces 'using namespace morph::caffe' to simplify caffe
frontend implementation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Introduce ConcatLowering pass (#2109)

This commit implements ConcatLowering pass in enco backend, which lowers
ConcatF as a sequence of Shuffle.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco.tflite] Write test logs to a file (#2118)

This commit revises enco tflite test framework to write test logs to a
file (to make it easy to analyze test failures).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add tflchef to contrib precedence list (#2114)

* Add tflchef to contrib precedence list

This will add tflchef to precedence as enco will use tflchef as tflite generator

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* edit comments

[morph] Add TensorFlow Lite support (#2110)

* [morph] Add TensorFlow Lite support

This commit extends morph with tensorflow lite support.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Add missing license notice

[coco] Rename 'Axe' as 'Axis' (#2113)

This commit renames 'Axe' enum class of 'ConcatF' operation as 'Axis'
to make it easy to understand.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Remove logging code inside FlatBuffers_Target (#2106)

The committed implementation of FlatBuffers_Target includes unnecessary
logging code by mistake.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc][utils] Add generator of random tflite models. (#2111)

Currently the generator supports 2 operations
and generate only constant tensor's shapes.

Signed-off-by: i-kulagin <i.kulagin@samsung.com>

Enable ONNX frontend compilation (#2082)

Special --onnx option added.
ONNX operator types aadded.
CMake build system updated to add ONNX related stuff.

Signed-off-by: Andrew V. Tischenko <a.tischenko@partner.samsung.com>

[enco.caffe] Remove LoadOpBuilder (#2105)

This commit removes LoadOpBuilder, and rewrites relavent code using
OpBuilder.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Write caffe test log to a file (#2103)

This commit revises 'runall' script (in enco caffe test framework) to
log all the output (stdout/stderr) to a file to make it easy to
diagnose test failure.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[encodump] Include "functional" (#2102)

std::function is referenced, but functional is not included.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Introduce enco test framework for tflite (#2079)

* [enco] Introduce enco test framework for tflite

Until now, enco test framework for tflite was not supported
This commit will enable enco test for tflite using empty recipe file

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>
* Modify Target Check

[enco] Use FlatBuffers_Target (instead of FlatBuffers_Generate) (#2097)

This commit replaces FlatBuffers_Generate with FlatBuffers_Target.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc] ACL backend elementwise, deconvolution and elu (#2100)

Elementwise, Deconvolution, and BiasAdd implementations and marking Elu as not supported yet.

The operations listed in the title done. And now, formally, all the operations are handled. Some of them marked as unsupported.

Signed-off-by: Timur Ablyazimov t.ablyazimov@samsung.com

[nnc] Rename files with ModelIR operation classes according to coding style (#2099)

* Rename files containing classes for ModelIR operations (include/core/modelIR/operations/)

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[encodump] Prints bags, objects, ops (#2077)

[encodump] Prints bags, objects, ops

`encodump` prints bags, objects, ops. Plus minor enhancements were made.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[enco] Update comment of caffe enco test option name (#2090)

This commit will update comment of `ENCO_CAFFE_TEST` option

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

Introduce FlatBuffers_Target function (#2085)

This commit introduces FlatBuffers_Target function which directly creates
a target.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Move binder.cpp for re-using in enco-test (#2086)

If enco-test for TFLite is added, it will share exactly same binder.cpp
Therefore it is better to move binder.cpp to `enco/test` folder, which makes sharing much easier

This commit will move binder.cpp and modify CmakeLists.txt of caffe to apply the change

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[enco] TensorFlow Lite frontend (v0.1) (#2076)

With this commit, enco tflite frontend is now able to construct
coco::Module and coco::Data from "empty" tflite model.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Introduce instr_sequence helper (#2061)

This commit introduces instr_sequence helper function which returns a
instruction sequence (in execution order).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[encodump] adds initial visit function for ConcatF (#2062)

Created visit function for new op `ConcatF`. Without this, calling `visit(concatF)` throws an runtime exception.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[coco] Op::Visitor as non-pure virtual class (#2060)

This commit renames Op::Visitor as Op::IVisitor, and introduce the
default implementation for each visit method.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Update usage message (#2058)

Usage message for prefix was omitted
This commit will fix it

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[enco.tflite] RawModel-based Frontend template (#2054)

This commit revises (tflite) Frontend class to take a RawModel as an
argument of its constructor, and implements the basic template of "load"
method.

Note that the current implementation does not implement "make_frontend"
yet.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Show failed tests (#2057)

This commit revises "runall" to show the list of failed tests.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>