[exo] Refactoring: Extract code from big method (Fuse) (#8179)

A piece of code is extracted as a method (`create_fused_bias()`) from big method (`Fuse`).

For diff difficulty, old code will be replace with one single call in next PR.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo] TFLMixin for classes that have fused activation function (#8223)

This adds TFLMixin class for TFL nodes that have fused activation function

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[nnfw-api] use circle loader for circle model (#8222)

It uses model_types from MANIFEST to determine loader.
It also added missing namespace neurun for circle_loader.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[nnpkg-test] Remove conv test (#8220)

Remove fail conv test: neurun cannot run convolution with input weight

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[exo] TODO rigorous padding conversion (#8219)

This commit adds TODO comments for rigorous padding conversion

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[exo] Introducing FuseReluPass (#8176)

* [exo] Introducing FuseReluPass

This introduces FuseReluPass, which fuse relu/relu6 into 10 TensorFlow Lite ops.
This commit adds code that finds candidate subgraph.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* remove unused var (to avoid CI error)

* Update compiler/exo/src/Pass/FuseReluPass.h

Co-Authored-By: hyunsik-yoon <hyunsik.yoon@samsung.com>

[moco-tf] Revise IR to using moco::IR (#8218)

This will revise moco::tf IR and base classes to alias of moco IR and base classes

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo] Register FoldTransposeOfConst pass (#8202)

This commit registers FoldTransposeOfConst pass to exo TFL-level
optimization.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[exo] Relu6Converter and TFL/CircleOperationExporter for TFLRelu6 (#8173)

This adds Relu6Converter and TFL/CircleOperationExporter for TFLRelu6.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo] Turn ON ConvertConv2D knob (#8153)

This commit turns on ConvertConv2D knob by default

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-tf] Revise to use moco TF dialect (#8208)

This will revise moco_tf to use TF dialect from moco

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Tidy unused codes (#8204)

This will remove not used anymore Concat and Padding annotations
- Remove also related codes

And remove also not used anymore ImportTarget

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Comment for Relu and Relu6 graph builder (#8201)

This will add comments fro Relu and Relu6 GraphBuilder header

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] Introduce TFLConcatenate node (#7978)

* [exo-tflite] Introduce TFLConcatenate node

This commit will introduce `TFLConcatenate` node in `exo-tflite`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>
* fix assert

* rebase and apply comments

* fix typo

* apply comments

Co-Authored-By: sk-namkoong <sk.namkoong@samsung.com>
* add assert

* fix typo

[res/TensorFlow] Adding Conv2D-BiasAdd-Relu6 test case (#8172)

* [res/TensorFlow] Adding Conv2D-BiasAdd-Relu6 test case

This adds pbtxt and related files for Conv2D-BiasAdd-Relu6.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* remove a term CBR since CBR is normally used with Relu

[moco-tf] Remove unused knobs (#8192)

This will remove not used anymore ImportAs TF dialect knobs

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco] Revive old arg accessors (#8194)

This will revive old input argument accessors for IR migration from moco-tf to moco

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Tidy includes in Op folder (#8198)

This will tidy includes in Op folder that is not necessary anymore

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Use headers in node graph builder (#8191)

This will use node header files in graph builder and cleanup unnecessary header includes

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[neurun] Apply trying const dealloc on ExecutionFactory (#8064)

Apply trying const dealloc on LinearExecutor and ParallelExecutor of
ExecutionFactory

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

[exo] remove complex if statement (#8178)

This removes complex if statement to reduce cyclomatic complexity.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[mir-tflite-importer] Use new operations interface in importer. (#8183)

Changes due to new operations constructors signatures.

Signed-off-by: Dmitry Gusev <d.gusev@partner.samsung.com>

[mir] Add methods for accessing Operation's inputs (#8188)

The `getInput` method is always used in pair with `getProducer`.
This PR adds `getInputProducer` method for convenience.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Fix unittest for CombineTransposes optimization (#8187)

Get the correct IDs of Input ops.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir2loco] Use new operations interface in mir2loco.test (#8185)

Changes related to operations constructors renewal.

Signed-off-by: Dmitry Gusev <d.gusev@partner.samsung.com>

[nnc] Use new operations interface. (#8184)

Changes due to renewed operations constructors.

Signed-off-by: Dmitry Gusev <d.gusev@partner.samsung.com>

[mir-caffe2-importer] Use new operations interface in importer. (#8181)

Changes due to new operations constructors signatures.

Signed-off-by: Dmitry Gusev <d.gusev@partner.samsung.com>

[mir-caffe-importer] Use new operations interface in importer. (#8180)

Changes due to new operations constructors signatures.

Signed-off-by: Dmitry Gusev <d.gusev@partner.samsung.com>

[mir] Rename AffineQuantization methods (#8177)

* Remove plural variant of methods

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[tool] Validation model file check in tflite_benchmark (#8149)

Pass verifier and use VerifyAndBuildFromFile in tflite_benchmark

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Update HowToUseDockerImage.md (Fix broken link) (#8174)

This commit fixes broken link to relative address

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[mir] Creation InputOp from TensorType (#8137)

* Added setOutputType in Operation
* Added InputOp constructor for TensorType
* Marked other constructor as DEPRECATED

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[moco-integration-test] adding NET_0034 (#8169)

NET_0034 (conv2d-sub) was added into test.lst.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[tf2tflite] Adding NET_0034 into test.lst (#8170)

This adds NET_0034 (conv2d-sub) into test.lst.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo] Initializing TFLAdd's fused activation func in existing test code (#8168)

Some test code does not initializes TFLAdd's fused activation func. This commit adds that.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo] type and shape inference for Relu6 (#8171)

This adds type and shape inference for Relu6.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo] Pass to fold Transpose + Const (#8155)

This commit introduces pass to fold Transpose of Const node

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-tf] Node GraphBuilder header (#8158)

* [moco-tf] Node GraphBuilder header

This will introduce header for GraphBuilder for nodes that doesn't have one.

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* fix guard

[exo-tflite] test cases for FuseConv2DAddSubPass (#8101)

* [exo-tflite] test cases for FuseConv2DAddSubPass

This adds four test cases for FuseConv2DAddSubPass.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* make const value 1.5, 3

[res] Remove deprecated test case (#8165)

This commit removes deprecated test case.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[exo] Initialize TFLConv2D member vars (#8166)

This adds an initialization of TFLConv2D member vars.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo] Add fusedActivationFunction to TFLAdd and TFLMul (#8161)

* [exo] Add fusedActivationFunction to TFLAdd and TFLMul

TFLAdd and TFLMul now has an attribute for fusedActivationFunction.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* Modify circle exporter

* remove unused param

* defined and used init_fused_act_func

* remove constructor. init member vars directly

[nncc] Remove ENABLE_CONTRIB_BUILD option (#8156)

This option was introduce when nncc has "contrib" directory, but
"contrib" directory no longer exists.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[CI] Revise test report directory (#7994)

Divide test report directory for each scheduler
Use mixed backend test for graph generation test

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

NNAS create-package command (#8086)

* NNAS create-package command

This commit introduces create-package command.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Add TODO and some comments

[loco] Add comment to TensorConstantPad (#8022)

* [loco] Add comment to TensorConstantPad

This commit adds comment to TensorConstantPad IR in loco.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>
* make comment more clear.

* apply comment.

* modify comment.

* modify comment.

[android] Remove unncessary CMakeLists comments (#8151)

Remove comments that are no longer helpful.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[exo] Using C++ 11 style static_assert (#8152)

This modifies static_assert from c++ 17 style to c++ c++ 11 style.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[tflite_loader] Model file verification (#8132)

Verification check before tflite model loading

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[nnapi] Fix transpose conv NNAPI test (#8127)

Set kernel to constant, not model input

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Apply optimized cpu kernel for SoftMaxFloat32 (#7943)

This commit applies optimized cpu kernel for SoftMaxFloat32.
  - Introduce optimized cpu kernel of SoftMax for float
  - Apply that kernel for cpu backend of neurun

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[nnpkg-run] allow --load to accept little endian (#8116)

It will allow little endianness in `nnpackage-run`.
`hdf5` internally convert endianness if necessay.
All we need is to allow little endian from if-condition.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[tf2circle] Initial copy from tf2tflite (#8145)

* [tf2circle] Initial copy from tf2tflite

This will add working tf2circle from copy of tf2tflite
- CustomOp support is not added cause of duplicate code for now

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* leave message

* remove test material conversion related

* fix build error, remove unused, fix comment

[moco] Add naming rule as a comment (#8147)

This will add some comment for naming rule for TF dialect OPCODE and input accessor

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Add naming rule as a comment (#8144)

* [moco-tf] Add naming rule as a comment

This will add some comment for naming rule for TF dialect OPCODE and input/output accessor

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* remove output

[moco-tf] Graph build Relu Relu6 as TF dialect (#8141)

This will update graph builder to produce only TF dialect for Relu and Relu6 node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Graph build MaxPool as TF dialect (#8140)

This will update graph builder to produce only TF dialect for MaxPool node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Graph build Identity as TF dialect (#8139)

This will update graph builder not to produce only TF dialect for Identity node
- related Importer test is also modified to work with this change

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Graph build Concat as TF dialect (#8131)

This will remove Graph builder fro Concat as Canonical dialect and build only TF dialect

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Graph build Const as TF dialect (#8133)

This will remove Graph builder for Const as Canonical dialect and build only TF dialect

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Graph build Conv2D as TF dialect (#8135)

This will remove Graph builder for Conv2D as Canonical dialect and build only for TF dialect

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Graph build BiasAdd as TF dialect (#8130)

This will remove Graph builder for BiasAdd as Canonical dialect and build only for TF dialect

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Graph build for AvgPool as TF dialect (#8128)

This will remove Graph builder for AvgPool as Canonical dialect and build only for TF dialect

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Refine [mir] operations constructors in order to simplify interface. (#8044)

Operations attributes are united into structures.

Signed-off-by: Dmitry Gusev <d.gusev@partner.samsung.com>

[mir] Introduce AffineQuantization in MIR (#8077)

* Implemented AffineQuantization
* Added helpers for setting Quantization to TensorVariant and TensorType

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[exo-tflite] Overload to_shape_description for MatrixShape (#8009)

Add overload of `to_shape_description` for `MatrixShape`.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[docs] Introduce CrossBuildForAndroid.md for nnfw (#7976)

* [docs] Introduce CrossBuildForAndroid.md for nnfw

This commit introduces `CrossBuildForAndroid.md` for Android Cross
Build Instruction.

Resolve #7892

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>
* Symlink Makefile rather than copying

* Complete the incomplete sentence

Make to support BatchToSpaceND op for acl neon (#7986)

This commit makes to support BatchToSpaceND op for acl neon.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[mir] Introduce new operations: Quantize and Dequantize (#8050)

* Append QuantizeOp and DequantizeOp on mir

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

Make to support ResizeBilinear op on tflite_loader (#8008)

This commit makes to support ResizeBilinear op on tflite_loader.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[loco] TensorConstantPad shape and type inference (#8043)

* [loco] TensorConstantPad shape and type inference

This commit support shape and type inference of TensorConstantPad.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>
* format patch.

[exo] Set DataFormat of subgraph for Circle (#8113)

* [exo] Set DataFormat of subgraph for Circle

This will set DataFormat of the sub graph for Circle format as default

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* update comment

Install exo and exo-tflite (#8107)

From now on, install command will put exo and exo-tflite librarry into
the specified output directory.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add "NET_0010" manifest (#8059)

This commit adds NET_0010 test manifest.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Remove unused WindowData header (#8121)

This will remove not used anymore WindowData.h file

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Remove unused PadData and StrideData (#8115)

This will remove not used anymore PadData and StrideData annotations

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Turn ON knobs for resolving Reshape (#8117)

This commit turns on following knobs:
- ResolveDuplicateReshape
- ResolveRedundantReshape

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-tf] Fix Placeholder import (#8114)

Previously, Placeholder with negative value was not caught by assertion,
and converted to Pull with overflowed value. This commit fixes this
behaviour

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[tf2tflite] use exo (#8109)

This will update tf2tflite to use exo instead of exo_tflite

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo] Update includes (#8105)

This will remove not needed anymore header includes for ExportUtils

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo] use circle for comments and methods (#8111)

This will update to use Circle for comments and local methods

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[nnfw-api] Introduce resize input API (#8034)

* [nnfw-api] Introduce resize input API

Introduce API for resize input: nnfw_apply_tensorinfo
Internal implementation always return error - NYI
Update related API's comment based on doxygen format

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>
* update comment

[nnapi-test] Use android 10 test generation (#8040)

Use android 10 test generation
- Disable TestCompliance util
- Disable _Float16 feature
- Disable dynamic output shape test generation
- Fix to use c++11 feature
- Update generated code archive for tizen build

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[nnfw-api] explain nnfw_set_backend and nnfw_set_op_backend more (#8071)

It explains more about nnfw_set_backend and nnfw_set_op_backend.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[nnpkg-tcs] Run nnpkg-tcs after tc exists (#8119)

Some nnpkg-tcs are not generated via `tf2tflite` test filter.
Thus, nnpkg-tcs checks whether test case exists before running.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[exo] Adding FuseConv2DAddSubPass into TFLOptimize.cpp (#8102)

Now FuseConv2DAddSubPass runs when UseFuseConv2DAddSubPass knob is on.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

Let locomotiv be installable (#8089)

From now on, install command will put locomotive library into the proper
location.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Rename TestHelper filename (#8104)

This will rename TestHelper to TestHelper.test so that it only exist for test executable not shared library

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-integration-test] Add renamed test case (#8098)

This commit adds renamed test case.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

Let make moco-tf installable (#8093)

From now on, install command will put moco-tf library into a proper
location.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[exo] add copy of TFExporter as CircleExporter (#8094)

This will add a copy of TFExporter and related files as CircleExporter to export Circle file

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Let make tf2tflite installable (#8096)

From now on, install command will put tf2tflite binary into a proper
location.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Remove ShapeInferenceData annotation (#8100)

This will remove ShapeInferenceData annotation that was replaced by loco NodeShape

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] TFShapeInferenceRule test (#8074)

This will add TFShapeInferenceRule test from old FixShapeTransform test

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tflite2circle] Remove the limitation of running under nnfw root (#8068)

Now, it uses the pathname of the currently executing script to calculate the default path for other resources.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[tf2tflite] Add renamed test case (#8088)

This commit adds renamed test case to tf2tflite.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[exo] Change target to exo (#8073)

* [exo] Change target to exo

This will update CMake target to exo
- add a temporary exo_tflite target for dependent targets

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* one more change

* add a dup instead of interface

[moco-tf] Add Pad canonicalizer (#8030)

* [moco-tf] Add Pad canonicalizer

This commit adds Pad canonicalizer to moco-tf.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>
* apply commnets.

* apply comment.

* Simplify method to get rank of padding.

* fix wrong assert.

* add comments in canonicalization.

* make comment more clear.

[exo] fix namespace for local method (#8087)

This will fix namespace to anonymous for local method encodeOperatorCodes

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco] Add Pad IR (#8090)

This will copy Pad IR from moco-tf

Signed-off-by: SaeHie Park <saehie.park@samsung.com>