[loco] Inference service for EltwiseSqrt (#6526)

This will add Shape and Type inference for EltwiseSqrt

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[neurun] Implement nnfw_input_size and nnfw_output_size (#6495)

* [neurun] Implement nnfw_input_size and nnfw_output_size

This patch implements nnfw_input_size and nnfw_output_size.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>
* [neurun] Update int to uint32_t for input/output_size

This patch updates int to uint32_t for input/output_size.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Set lcov's gcov-tool param (#6525)

For cross build, set lcov's gcov-tool by GCOV_PATH environment variable. Default is gcov (native build).
nnfw's gen-coverage-report has same feature

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-tf] Clear ConcatV2 import test (#6522)

This will erase ConcatV2 TF dialect import test to reduce complexity of diff for migration to using VariadicArityNode

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tf2tflite] Test script runnable from any directory (#6514)

Previously test script partially assumes it runs on WORKDIR, which makes
no harm at all. This commit just explicitly call file path including WORKDIR
to be matched with other lines convention and to be runnable from any directory.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[loco] Using FixedReshape (#6496)

This commit introduces alias for Reshape<ReshapeType::Fixed> loco node.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[loco] Introduce EltwiseSqrt (#6520)

This will introduce IR for elementwise Sqrt

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[mlapse-tfl] Implement a command-line argument parser (#6512)

This commit implements a command-line argument parse for mlapse-tfl.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fix deadlock when access two acl_cl at once (#6500)

To avoid deadlock when operation need to access two acl_cl at once (source, target), introduce access function to access two tensor

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-tf] Introduce VariadicArityNode (#6472)

This will introduce TF dialect VariadicArityNode to manage Concat node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[locomotiv] supporting FeatureBiasAdd (#6504)

This code enables locomotiv to support FeatureBiasAdd.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[moco-tf] Fix FuseBinaryIntoProceeding logic (#6511)

This commit fixes FuseBinaryIntoProceeding logic. Assertion was
misplace, so that normal addition blocked to this assertion.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[mir2loco] Remove Push node's shape setter (#6487)

This commit revises all the code that invokes deprecated shape setter.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[mir2loco] Remove unused visitors and use default visit_fallback (#6515)

* Remove unused visitors
* Override visit_fallback

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[mir_caffe] Refactor importing of BatchNorm (#6467)

Structurize the code, fix comments.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir2loco] Supported other types in ConstantOp transformer (#6516)

* Supported F32, F64, S32, S64 data types
* Temporary implementations for F64 and S64

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[locop] Ignore the shape attribute for Push nodes (#6485)

CanonicalNodeSummaryBuilder now ignores (deprecated) tensor shape
attributes when it generates a node summary for Push nodes.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[loco] Introduce Softmax node in loco (#6492)

This commit will introduce `Softmax` node in `loco`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[tf2tflite] Loading customop.conf file into ModelSignature (#6406)

* [tf2tflite] Loading customop.conf file into ModelSignature

Adds code for loading customop.conf into ModelSignature

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* 1) class to function 2) remove loco from cmake file 3) remove some headers

* fix wrong lambda comment // use argv[5] directly

[neurun] Do not collect TensorBuilders one by one (#6458)

* [neurun] Do not collect TensorBuilders one by one

To get the full set of tensor builders currently using it used to
collect from all the `LowerInfo`s. Now that `BackendResolver` manages
them all we can just use it.
Allow allocation of 0-byte object

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[exo-tflite] support DetphwiseFilterShape in shape_desc (#6491)

* [exo-tflite] support DetphwiseFilterShape in shape_desc

This commit supports DethwiseFilterShape in shape_desc.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>
* apply comment.

[neurun] change int to uint32_t for size of input/output (#6502)

neurun uses uint32_t internally. Runtime API uses int.
This patch will change Runtime API to use uint32_t.
(same type to `neurun` internal).

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[moco-tf] Clean up trivials in FuseBinaryIntoPreceding (#6497)

This commit will clean up some codes
- Remove deprecated function
- Replace and correct comments
- Modify bracket formats

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[moco-tf] Introduce ResolveDuplicateReshape (#6499)

ResolvedDuplicateReshape transform introduced. This transform finds
duplicate FixedReshape pair, and let the later one to bypass the
former.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[mocotest-tf] Enable TF_SMALL_NET_0004 (#6498)

Since `FuseBinaryIntoPreceding` now supports for `DepthwiseConv2dNative`,
this commit will enable `TF_SMALL_NET_0004`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[loco] fix a window_of function in CanonicalShapeInferenceRule (#6489)

This commit fix a window_of function.

Related issue:#6486

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

Use nnfw_coverage for gcov build (#6445)

For gcov build release target, use nnfw_coverage link

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Replace coverage report command (#6476)

- Replace nncc's coverage report command into infra/command
- Introduce build.configuration setting
  - Default workspace: build/

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[neurun] Use nnfw api wrapper's return value (#6493)

Currently nnfw implementation returns no error.
Now, it will use the return value of wrapper.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Remove index parameter from nnfw_input_size (#6488)

index parameter is removed that is not necessary.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[moco-tf] Support DepthwiseConv2dNative in FuseBinaryIntoPreceding (#6490)

This commit will enable supporting `DepthwiseConv2dNative` in `FuseBinaryIntoPreceding`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[neurun] Remove class `Plan` (#6450)

`Plan` is nothing more than a wrapping `FunctionSequence` so it is
redundant. It has been replaced with `FunctionSequence`.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Print build error on TensorFlowVersionChecker build error (#6477)

TensorFlowConfig.cmake checks running result only.

When prebuilt libtensorflow library is built from Ubuntu 18.04,
 and nncc is going to be built on Ubuntu 16.04, it says:

"you need tensorflow version 1.12.0".

This patch will check build error also.
Then, it prints error message to guide the developers
to use libtensorflow built on same version of Ubuntu.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Disable downlaoding NNPACK on aarch64-tizen (#6438)

- DOWNLOAD_NNPACK=OFF on aarch64 tizen build

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

[moco-tf] Do not reset input for BiasAdd Canonicalizer (#6470)

This will remove reset input for old replaced BiasAdd node in Canonicalization and update the diagram

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Do not reset input for Conv2D Canonicalizier (#6471)

This will remove reset input for old replaced Conv2D node in Canonicalization and update the diagram

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Introduce mlapse toolkit (#6441)

This commit introduces the inital version of mlapse toolkit.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fix build error (#6484)

- add missing semicolon on nnfw.h

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

API for Input/Output Tensor information (#6153)

* API for Input/Output Tensor information

- Add nnfw_tensor_info
- input/output size getter

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>
* Fix typo, tensor_info -> tensorinfo

[loco] Simplify FeatureCodec Graph Testcase (#6447)

This commit simplifies FeatureCodec Graph Testcase using
GraphBuilder helper.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[locop] Remove "opcode" helper (#6449)

Only "BuiltinNodeSummaryBuilder" uses this helper currently.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[mocotest-tf] Tests enabled by ResolveConstantShape transform (#6435)

This commit enables two tests enabled by ResolveConstantShape transform
- TF_SMALL_NET_0013 : Shape test
- TF_SMALL_NET_0014 : Mock of the Epilogue

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[neurun] Break NN API and core API tests (#6448)

"test_neurun" currently includes both NN API and neurun core API tests.

This commit introduces "test_neurun_frontend_nnapi" dedicated to NN API tests.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[neurun] Remove empty override in ParamChecker (#6454)

Remove empty override(AddNode) in ParamChecker.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Fix nnas command build-docker-image (#6451)

`./nnas build-docker-image` did not work due to wrong path. This commit
fixes it. `${NNAS_SCRIPT_PATH}` is undefined.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[tf2tflite] enable test of fusion of binary op (#6444)

This will enable test of fusion with binary op with Conv2D, BiasAdd

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[mir_onnx] Refactor importing of BatchNormalization (#6466)

Structurize the code, add comments.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir] Remove BatchNorm op (#6465)

Remove BatchNorm operation which has never been used.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_onnx] Remove pair return from get attributes functions (#6359)

* Create default values for attributes
* Fix all converters which using this functions

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[mir2loco] Remove unused BatchNorm op (#6463)

It will be reimplemented taking into account different variations between frameworks.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_caffe2] Remove unused BatchNorm op (#6462)

It will be reimplemented taking into accout different variations between frameworks.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_caffe] Remove unused BatchNorm op (#6461)

It will be reimplemented taking into account different variations between frameworks.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Remove unused BatchNorm op (#6460)

It will be reimplemented taking into account different variations between frameworks.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Reformat using .clang-format (#6455)

Reformat sources to common style.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir] Delete ElementwiseOp (#6418)

It was replaced by several binary elementwise operations.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Delete uses of ElementwiseOp (#6417)

It was replaced by several binary elementwise operations.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir] Remove BiasAdd and Scale ops (#6416)

These were replaced by more general binary elementwise operations.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Update `freeze_graph.sh` script (#6345)

* Change to use the 'tensorflow' module installed on the system by default.

Signed-off-by: Sung-Jae Lee <sj925.lee@samsung.com>

Remove loco-exporter (#6419)

loco-exporter was left for Circle, but it is likely that Circle exporter
follows the design of (revised) exo-tflite.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc] Remove remainings of BiasAdd and Scale ops (#6415)

These are leftovers after switching to equivalents elementwise operations.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Remove mirunner component (#6414)

Remove `mirunner` PoC, there is no need for it anymore.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_caffe2] Switch to binary elementwise operations (#6410)

Switch to new binary elementwise operations.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir2loco] Switch to binary elementwise operations (#6413)

Switch to new binary elementwise operations.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_onnx] Switch to binary elementwise operations (#6412)

Switch to new binary elementwise operations.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_tflite] Switch to binary elementwise operations (#6411)

Switch to new binary elementwise operations.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_caffe] Switch to binary elementwise operations (#6409)

Switch to new binary elementwise operations.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[res] DethwiseConv2D network with padding and strides (#6446)

A simple network that has DepthwiseConv2dNative with 'SAME' padding and
strides.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[mocotest-tf] enable test of fusion of binary op (#6443)

This will enable test of fusion of binary op with Conv2D, BiasAdd

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[neurun] Do not wrap vector with unique_ptr (#6431)

As `std::vector` has move constructor, without wrapping it with
`unique_ptr` works efficiently as well.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Add layout as a member of SubGraph into KernelGenerators (#6283)

This commit adds layout as a member of SubGraph into KernelGenerators.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[moco-tf] Use precedingOp in FuseBinaryIntoPreceding (#6400)

This commit will introduce precedingOp instead of each operation variable

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[loco] support DepthwiseConv2D of TypeForwardAlgorithm (#6404)

This commit is to support DepthwiseConv2D and DepthwiseFilterEncode in
CanonicalTypeForwardAlgorithm.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[moco-tf] Knob for ResolveConstantShape (#6439)

This commit introduces knob for ResolveConstantShape. Default behavior
is 'on'

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-tf] delete temporary loco_tobe::BiasShape (#6440)

This will delete temporary loco_tobe::BiasShape that was changed to loco::BiasShape

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[res] DepthwiseConv2D network with one placeholder and one constant (#6427)

A simple network that has DepthwiseConv2dNative with input(Placeholder)
and filter(Const).

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[moco-tf] Use loco::BiasShape (#6437)

This will change to use loco::BiasShape from temporary loco_tobe::BiasShape

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Knob for ResolveReshapeWildcardDim (#6436)

This commit introduces knob for ResolveReshapeWildcardDim. Default
behavior is 'on'

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[neurun] Rename compiler::Element (#6430)

Move `compiler::Element` to `compiler::Linear::Element`. This removes
`Element.h` and make it to be an inner class of `Linear`.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[moco-tf] Check attributes for ConcatV2 validate (#6428)

This will add attribute existence check for ConcatV2 node validation

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[locop] Remove unused class in FormattedGraph.cpp (#6420)

CanonicalNodeSummaryBuilder was introduced for FormattedTensorShape class,
but CanonicalNodeSummaryBuilder is now not in this file, and thus no code
now uses this class.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Enable ResolveConstantShape (#6423)

This commit enables ResolveConstantShape transform

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[neurun] Remove linear namespace (#6407)

As `namespace` linear has only few classes this commit moves those to
namespace `compiler`.

`compiler::Element` will be renamed to `compiler::LinearElement`.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[locop] Introduce push_shape/pull_shape helper (#6398)

Let's replace tensor_shape with push_shape/pull_shape as the first step
to remove shape attribtues from Pull/Push node.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[locop] Introduce FormattedTensorShape (#6399)

This commit introduces FormattedTensorShape class which dumps the
content of a given TensorShape into std::ostream.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Revise cpu backend cmake (#6401)

- cpu backend, hi-perf-cpu backend
- Set strict build option: nnfw_common

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-tf] Turn off ImportAsTFConcatV2 (#6421)

This will turn off ImportAsTFConcatV2 knob before applying VariadicArityNode to TFConcatV2

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Import Shape operation (#6402)

This commit implements import stage for Shape operation

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[nnc] Support for binary elementwise operations (#6408)

* Add implementations of binary elementwise operations to backends.
* Switch backend unittests to new ops.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_onnx] Improve core structure of ONNX importer (#6297)

* Fix right initializer loading
* Fix output creation
* Other fixes

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[mir] Move operations.lst.h into include/mir (#6405)

Move `include/mir/ops/operations.lst.h` -> `include/mir/Operations.inc` so that it can be found more easily.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Update skiplist for acl neon backend (#6396)

Update nnapi generated test for acl neon backend
- Enable validation test
- Enable trivial test except broadcast mul
- Enable depth-conv
- Enable comparison
- Enable remain fc tests
- Enable remain reshape tests

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Support async execution in NNAPI (#6395)

Implement Event class to support async execution
Use internal async execution function for startCompute and wait

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Revise acl cl backend cmake (#6391)

- Set strict build option: nnfw_common
- Remove needless link
- Update header include for acl common

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Rename gather implementation in arm-compute-ex (#6388)

Rename CLGather and CLGatherKernel to CLGatherEx and CLGatherExKernel because acl 19.05 already have same name layer & kernel

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Revise acl neon backend cmake (#6393)

- Set strict build option: nnfw_common
- Remove needless link
- Update header include for acl common

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-tf] relocate input method in Concat import (#6394)

This will relocate input method in Concat after class declaration to put anonymous codes together

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Introduce ResolveConstantShape transform (#6379)

* [moco-tf] Introduce ResolveConstantShape transform

This commit introduces ResolveConstantShape transform, which is
responsible to replace determined TFShape node with TFConst.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Separate out condition check stage

[loco] Update index on link (#6381)

Both "link" helpers now update the index of a corresponding node.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] TFShape shape inference (#6373)

This commit implements TFShape node's shape inference.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[exo-tflite] Use shared shape inference framework by default (#6390)

This commit makes exo-tflite to use the shape inference framework
implemented in loco core by default.

Please note that it is possible to turn off this feature via setting
EXOTFLITE_USE_LOCO_SHAPE_INFERENCE as 0.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>