[tf2tflite] Loading customop.conf file into ModelSignature (#6406)

* [tf2tflite] Loading customop.conf file into ModelSignature

Adds code for loading customop.conf into ModelSignature

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* 1) class to function 2) remove loco from cmake file 3) remove some headers

* fix wrong lambda comment // use argv[5] directly

[neurun] Do not collect TensorBuilders one by one (#6458)

* [neurun] Do not collect TensorBuilders one by one

To get the full set of tensor builders currently using it used to
collect from all the `LowerInfo`s. Now that `BackendResolver` manages
them all we can just use it.
Allow allocation of 0-byte object

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[exo-tflite] support DetphwiseFilterShape in shape_desc (#6491)

* [exo-tflite] support DetphwiseFilterShape in shape_desc

This commit supports DethwiseFilterShape in shape_desc.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>
* apply comment.

[neurun] change int to uint32_t for size of input/output (#6502)

neurun uses uint32_t internally. Runtime API uses int.
This patch will change Runtime API to use uint32_t.
(same type to `neurun` internal).

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[moco-tf] Clean up trivials in FuseBinaryIntoPreceding (#6497)

This commit will clean up some codes
- Remove deprecated function
- Replace and correct comments
- Modify bracket formats

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[moco-tf] Introduce ResolveDuplicateReshape (#6499)

ResolvedDuplicateReshape transform introduced. This transform finds
duplicate FixedReshape pair, and let the later one to bypass the
former.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[mocotest-tf] Enable TF_SMALL_NET_0004 (#6498)

Since `FuseBinaryIntoPreceding` now supports for `DepthwiseConv2dNative`,
this commit will enable `TF_SMALL_NET_0004`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[loco] fix a window_of function in CanonicalShapeInferenceRule (#6489)

This commit fix a window_of function.

Related issue:#6486

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

Use nnfw_coverage for gcov build (#6445)

For gcov build release target, use nnfw_coverage link

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Replace coverage report command (#6476)

- Replace nncc's coverage report command into infra/command
- Introduce build.configuration setting
  - Default workspace: build/

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[neurun] Use nnfw api wrapper's return value (#6493)

Currently nnfw implementation returns no error.
Now, it will use the return value of wrapper.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Remove index parameter from nnfw_input_size (#6488)

index parameter is removed that is not necessary.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[moco-tf] Support DepthwiseConv2dNative in FuseBinaryIntoPreceding (#6490)

This commit will enable supporting `DepthwiseConv2dNative` in `FuseBinaryIntoPreceding`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[neurun] Remove class `Plan` (#6450)

`Plan` is nothing more than a wrapping `FunctionSequence` so it is
redundant. It has been replaced with `FunctionSequence`.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Print build error on TensorFlowVersionChecker build error (#6477)

TensorFlowConfig.cmake checks running result only.

When prebuilt libtensorflow library is built from Ubuntu 18.04,
 and nncc is going to be built on Ubuntu 16.04, it says:

"you need tensorflow version 1.12.0".

This patch will check build error also.
Then, it prints error message to guide the developers
to use libtensorflow built on same version of Ubuntu.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Disable downlaoding NNPACK on aarch64-tizen (#6438)

- DOWNLOAD_NNPACK=OFF on aarch64 tizen build

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

[moco-tf] Do not reset input for BiasAdd Canonicalizer (#6470)

This will remove reset input for old replaced BiasAdd node in Canonicalization and update the diagram

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Do not reset input for Conv2D Canonicalizier (#6471)

This will remove reset input for old replaced Conv2D node in Canonicalization and update the diagram

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Introduce mlapse toolkit (#6441)

This commit introduces the inital version of mlapse toolkit.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fix build error (#6484)

- add missing semicolon on nnfw.h

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

API for Input/Output Tensor information (#6153)

* API for Input/Output Tensor information

- Add nnfw_tensor_info
- input/output size getter

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>
* Fix typo, tensor_info -> tensorinfo

[loco] Simplify FeatureCodec Graph Testcase (#6447)

This commit simplifies FeatureCodec Graph Testcase using
GraphBuilder helper.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[locop] Remove "opcode" helper (#6449)

Only "BuiltinNodeSummaryBuilder" uses this helper currently.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[mocotest-tf] Tests enabled by ResolveConstantShape transform (#6435)

This commit enables two tests enabled by ResolveConstantShape transform
- TF_SMALL_NET_0013 : Shape test
- TF_SMALL_NET_0014 : Mock of the Epilogue

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[neurun] Break NN API and core API tests (#6448)

"test_neurun" currently includes both NN API and neurun core API tests.

This commit introduces "test_neurun_frontend_nnapi" dedicated to NN API tests.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[neurun] Remove empty override in ParamChecker (#6454)

Remove empty override(AddNode) in ParamChecker.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Fix nnas command build-docker-image (#6451)

`./nnas build-docker-image` did not work due to wrong path. This commit
fixes it. `${NNAS_SCRIPT_PATH}` is undefined.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[tf2tflite] enable test of fusion of binary op (#6444)

This will enable test of fusion with binary op with Conv2D, BiasAdd

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[mir_onnx] Refactor importing of BatchNormalization (#6466)

Structurize the code, add comments.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir] Remove BatchNorm op (#6465)

Remove BatchNorm operation which has never been used.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_onnx] Remove pair return from get attributes functions (#6359)

* Create default values for attributes
* Fix all converters which using this functions

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[mir2loco] Remove unused BatchNorm op (#6463)

It will be reimplemented taking into account different variations between frameworks.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_caffe2] Remove unused BatchNorm op (#6462)

It will be reimplemented taking into accout different variations between frameworks.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_caffe] Remove unused BatchNorm op (#6461)

It will be reimplemented taking into account different variations between frameworks.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Remove unused BatchNorm op (#6460)

It will be reimplemented taking into account different variations between frameworks.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Reformat using .clang-format (#6455)

Reformat sources to common style.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir] Delete ElementwiseOp (#6418)

It was replaced by several binary elementwise operations.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Delete uses of ElementwiseOp (#6417)

It was replaced by several binary elementwise operations.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir] Remove BiasAdd and Scale ops (#6416)

These were replaced by more general binary elementwise operations.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Update `freeze_graph.sh` script (#6345)

* Change to use the 'tensorflow' module installed on the system by default.

Signed-off-by: Sung-Jae Lee <sj925.lee@samsung.com>

Remove loco-exporter (#6419)

loco-exporter was left for Circle, but it is likely that Circle exporter
follows the design of (revised) exo-tflite.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc] Remove remainings of BiasAdd and Scale ops (#6415)

These are leftovers after switching to equivalents elementwise operations.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Remove mirunner component (#6414)

Remove `mirunner` PoC, there is no need for it anymore.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_caffe2] Switch to binary elementwise operations (#6410)

Switch to new binary elementwise operations.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir2loco] Switch to binary elementwise operations (#6413)

Switch to new binary elementwise operations.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_onnx] Switch to binary elementwise operations (#6412)

Switch to new binary elementwise operations.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_tflite] Switch to binary elementwise operations (#6411)

Switch to new binary elementwise operations.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_caffe] Switch to binary elementwise operations (#6409)

Switch to new binary elementwise operations.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[res] DethwiseConv2D network with padding and strides (#6446)

A simple network that has DepthwiseConv2dNative with 'SAME' padding and
strides.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[mocotest-tf] enable test of fusion of binary op (#6443)

This will enable test of fusion of binary op with Conv2D, BiasAdd

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[neurun] Do not wrap vector with unique_ptr (#6431)

As `std::vector` has move constructor, without wrapping it with
`unique_ptr` works efficiently as well.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Add layout as a member of SubGraph into KernelGenerators (#6283)

This commit adds layout as a member of SubGraph into KernelGenerators.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[moco-tf] Use precedingOp in FuseBinaryIntoPreceding (#6400)

This commit will introduce precedingOp instead of each operation variable

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[loco] support DepthwiseConv2D of TypeForwardAlgorithm (#6404)

This commit is to support DepthwiseConv2D and DepthwiseFilterEncode in
CanonicalTypeForwardAlgorithm.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[moco-tf] Knob for ResolveConstantShape (#6439)

This commit introduces knob for ResolveConstantShape. Default behavior
is 'on'

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-tf] delete temporary loco_tobe::BiasShape (#6440)

This will delete temporary loco_tobe::BiasShape that was changed to loco::BiasShape

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[res] DepthwiseConv2D network with one placeholder and one constant (#6427)

A simple network that has DepthwiseConv2dNative with input(Placeholder)
and filter(Const).

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[moco-tf] Use loco::BiasShape (#6437)

This will change to use loco::BiasShape from temporary loco_tobe::BiasShape

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Knob for ResolveReshapeWildcardDim (#6436)

This commit introduces knob for ResolveReshapeWildcardDim. Default
behavior is 'on'

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[neurun] Rename compiler::Element (#6430)

Move `compiler::Element` to `compiler::Linear::Element`. This removes
`Element.h` and make it to be an inner class of `Linear`.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[moco-tf] Check attributes for ConcatV2 validate (#6428)

This will add attribute existence check for ConcatV2 node validation

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[locop] Remove unused class in FormattedGraph.cpp (#6420)

CanonicalNodeSummaryBuilder was introduced for FormattedTensorShape class,
but CanonicalNodeSummaryBuilder is now not in this file, and thus no code
now uses this class.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Enable ResolveConstantShape (#6423)

This commit enables ResolveConstantShape transform

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[neurun] Remove linear namespace (#6407)

As `namespace` linear has only few classes this commit moves those to
namespace `compiler`.

`compiler::Element` will be renamed to `compiler::LinearElement`.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[locop] Introduce push_shape/pull_shape helper (#6398)

Let's replace tensor_shape with push_shape/pull_shape as the first step
to remove shape attribtues from Pull/Push node.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[locop] Introduce FormattedTensorShape (#6399)

This commit introduces FormattedTensorShape class which dumps the
content of a given TensorShape into std::ostream.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Revise cpu backend cmake (#6401)

- cpu backend, hi-perf-cpu backend
- Set strict build option: nnfw_common

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-tf] Turn off ImportAsTFConcatV2 (#6421)

This will turn off ImportAsTFConcatV2 knob before applying VariadicArityNode to TFConcatV2

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Import Shape operation (#6402)

This commit implements import stage for Shape operation

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[nnc] Support for binary elementwise operations (#6408)

* Add implementations of binary elementwise operations to backends.
* Switch backend unittests to new ops.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_onnx] Improve core structure of ONNX importer (#6297)

* Fix right initializer loading
* Fix output creation
* Other fixes

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[mir] Move operations.lst.h into include/mir (#6405)

Move `include/mir/ops/operations.lst.h` -> `include/mir/Operations.inc` so that it can be found more easily.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Update skiplist for acl neon backend (#6396)

Update nnapi generated test for acl neon backend
- Enable validation test
- Enable trivial test except broadcast mul
- Enable depth-conv
- Enable comparison
- Enable remain fc tests
- Enable remain reshape tests

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Support async execution in NNAPI (#6395)

Implement Event class to support async execution
Use internal async execution function for startCompute and wait

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Revise acl cl backend cmake (#6391)

- Set strict build option: nnfw_common
- Remove needless link
- Update header include for acl common

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Rename gather implementation in arm-compute-ex (#6388)

Rename CLGather and CLGatherKernel to CLGatherEx and CLGatherExKernel because acl 19.05 already have same name layer & kernel

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Revise acl neon backend cmake (#6393)

- Set strict build option: nnfw_common
- Remove needless link
- Update header include for acl common

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-tf] relocate input method in Concat import (#6394)

This will relocate input method in Concat after class declaration to put anonymous codes together

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Introduce ResolveConstantShape transform (#6379)

* [moco-tf] Introduce ResolveConstantShape transform

This commit introduces ResolveConstantShape transform, which is
responsible to replace determined TFShape node with TFConst.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Separate out condition check stage

[loco] Update index on link (#6381)

Both "link" helpers now update the index of a corresponding node.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] TFShape shape inference (#6373)

This commit implements TFShape node's shape inference.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[exo-tflite] Use shared shape inference framework by default (#6390)

This commit makes exo-tflite to use the shape inference framework
implemented in loco core by default.

Please note that it is possible to turn off this feature via setting
EXOTFLITE_USE_LOCO_SHAPE_INFERENCE as 0.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[loco] Simplify ReLU Graph Testcase (#6392)

Let's simplify ReLU Graph Testcase using GraphBuilder.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Revise sanity check for squeeze dim (#6370)

This commit would throw error for invalid squeeze dimension.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[res] Small network mocking the Epilogue (#6375)

This commit adds TF_SMALL_NET_0014, a mock Epilogue network using ReLU
instead of Softmax

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[neurun] Nit : fix OperandNode::BG_COLORS (#6384)

`BG_COLOR` is a static member of `Node` but it was refereced with a
subclass without a reason.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[moco-tf] relocate MaxPool local class into anonymous (#6385)

This will relocate local class of MaxPool import into anonymous namespace

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] relocate Mul local class into anonymous (#6386)

This will relocate local class of Mul import into anonymous namespace

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] relocate Relu local class into anonymous (#6387)

This will relocate local class of Relu import into anonymous namespace

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] relocate Relu6 local class into anonymous (#6389)

This will relocate local class of Relu6 import into anonymous namespace

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[loco] Simplify Identity Graph Testcase with Graph Builder (#6344)

* [loco] Simplify Identity Graph Testcase with Graph Builder

This commit simplifies Identity Graph Testcase with GraphBuilder.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix a typo

[moco-tf] relocate Identity local class into anonymous (#6382)

This will relocate local class of Identity import into anonymous namespace

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Switch on for ImportAsTFConcatV2 (#6380)

This will switch on for ImportAsTFConcatV2 in the knob

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Canonicalize ConcatV2 node (#6377)

This will enable Canonicalization of TFConcatV2 to canonical TensorConcat

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Fix acl backend test fail (#6376)

Fix acl cl backend test fail

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[loco] Add index getter (#6367)

This commit extends GraphInput and GraphOutput class with "index"
getter.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[mocotest-tf] Enable Squeeze_002 (#6369)

This commit would enable squeeze network test with negative squeeze
dimension.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-tf] relocate FusedBatchNorm local class into anonymous (#6374)

This will relocate local class of FusedBatchNorm import into anonymous namespace

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] TFShape summary (#6372)

This commit adds TFShape node summary.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-tf] Introduce ConcatV2Canonicalizer (#6360)

* [moco-tf] Introduce ConcatV2Canonicalizer

This will introduce ConcatV2Canonicalizer that converts TFConcatV2 to canonical TensorConcat node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* fix typo

* remove unused header