[CI] Revise test report directory (#7994)

Divide test report directory for each scheduler
Use mixed backend test for graph generation test

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

NNAS create-package command (#8086)

* NNAS create-package command

This commit introduces create-package command.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Add TODO and some comments

[loco] Add comment to TensorConstantPad (#8022)

* [loco] Add comment to TensorConstantPad

This commit adds comment to TensorConstantPad IR in loco.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>
* make comment more clear.

* apply comment.

* modify comment.

* modify comment.

[android] Remove unncessary CMakeLists comments (#8151)

Remove comments that are no longer helpful.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[exo] Using C++ 11 style static_assert (#8152)

This modifies static_assert from c++ 17 style to c++ c++ 11 style.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[tflite_loader] Model file verification (#8132)

Verification check before tflite model loading

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[nnapi] Fix transpose conv NNAPI test (#8127)

Set kernel to constant, not model input

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Apply optimized cpu kernel for SoftMaxFloat32 (#7943)

This commit applies optimized cpu kernel for SoftMaxFloat32.
  - Introduce optimized cpu kernel of SoftMax for float
  - Apply that kernel for cpu backend of neurun

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[nnpkg-run] allow --load to accept little endian (#8116)

It will allow little endianness in `nnpackage-run`.
`hdf5` internally convert endianness if necessay.
All we need is to allow little endian from if-condition.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[tf2circle] Initial copy from tf2tflite (#8145)

* [tf2circle] Initial copy from tf2tflite

This will add working tf2circle from copy of tf2tflite
- CustomOp support is not added cause of duplicate code for now

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* leave message

* remove test material conversion related

* fix build error, remove unused, fix comment

[moco] Add naming rule as a comment (#8147)

This will add some comment for naming rule for TF dialect OPCODE and input accessor

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Add naming rule as a comment (#8144)

* [moco-tf] Add naming rule as a comment

This will add some comment for naming rule for TF dialect OPCODE and input/output accessor

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* remove output

[moco-tf] Graph build Relu Relu6 as TF dialect (#8141)

This will update graph builder to produce only TF dialect for Relu and Relu6 node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Graph build MaxPool as TF dialect (#8140)

This will update graph builder to produce only TF dialect for MaxPool node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Graph build Identity as TF dialect (#8139)

This will update graph builder not to produce only TF dialect for Identity node
- related Importer test is also modified to work with this change

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Graph build Concat as TF dialect (#8131)

This will remove Graph builder fro Concat as Canonical dialect and build only TF dialect

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Graph build Const as TF dialect (#8133)

This will remove Graph builder for Const as Canonical dialect and build only TF dialect

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Graph build Conv2D as TF dialect (#8135)

This will remove Graph builder for Conv2D as Canonical dialect and build only for TF dialect

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Graph build BiasAdd as TF dialect (#8130)

This will remove Graph builder for BiasAdd as Canonical dialect and build only for TF dialect

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Graph build for AvgPool as TF dialect (#8128)

This will remove Graph builder for AvgPool as Canonical dialect and build only for TF dialect

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Refine [mir] operations constructors in order to simplify interface. (#8044)

Operations attributes are united into structures.

Signed-off-by: Dmitry Gusev <d.gusev@partner.samsung.com>

[mir] Introduce AffineQuantization in MIR (#8077)

* Implemented AffineQuantization
* Added helpers for setting Quantization to TensorVariant and TensorType

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[exo-tflite] Overload to_shape_description for MatrixShape (#8009)

Add overload of `to_shape_description` for `MatrixShape`.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[docs] Introduce CrossBuildForAndroid.md for nnfw (#7976)

* [docs] Introduce CrossBuildForAndroid.md for nnfw

This commit introduces `CrossBuildForAndroid.md` for Android Cross
Build Instruction.

Resolve #7892

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>
* Symlink Makefile rather than copying

* Complete the incomplete sentence

Make to support BatchToSpaceND op for acl neon (#7986)

This commit makes to support BatchToSpaceND op for acl neon.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[mir] Introduce new operations: Quantize and Dequantize (#8050)

* Append QuantizeOp and DequantizeOp on mir

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

Make to support ResizeBilinear op on tflite_loader (#8008)

This commit makes to support ResizeBilinear op on tflite_loader.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[loco] TensorConstantPad shape and type inference (#8043)

* [loco] TensorConstantPad shape and type inference

This commit support shape and type inference of TensorConstantPad.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>
* format patch.

[exo] Set DataFormat of subgraph for Circle (#8113)

* [exo] Set DataFormat of subgraph for Circle

This will set DataFormat of the sub graph for Circle format as default

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* update comment

Install exo and exo-tflite (#8107)

From now on, install command will put exo and exo-tflite librarry into
the specified output directory.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add "NET_0010" manifest (#8059)

This commit adds NET_0010 test manifest.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Remove unused WindowData header (#8121)

This will remove not used anymore WindowData.h file

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Remove unused PadData and StrideData (#8115)

This will remove not used anymore PadData and StrideData annotations

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Turn ON knobs for resolving Reshape (#8117)

This commit turns on following knobs:
- ResolveDuplicateReshape
- ResolveRedundantReshape

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-tf] Fix Placeholder import (#8114)

Previously, Placeholder with negative value was not caught by assertion,
and converted to Pull with overflowed value. This commit fixes this
behaviour

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[tf2tflite] use exo (#8109)

This will update tf2tflite to use exo instead of exo_tflite

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo] Update includes (#8105)

This will remove not needed anymore header includes for ExportUtils

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo] use circle for comments and methods (#8111)

This will update to use Circle for comments and local methods

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[nnfw-api] Introduce resize input API (#8034)

* [nnfw-api] Introduce resize input API

Introduce API for resize input: nnfw_apply_tensorinfo
Internal implementation always return error - NYI
Update related API's comment based on doxygen format

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>
* update comment

[nnapi-test] Use android 10 test generation (#8040)

Use android 10 test generation
- Disable TestCompliance util
- Disable _Float16 feature
- Disable dynamic output shape test generation
- Fix to use c++11 feature
- Update generated code archive for tizen build

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[nnfw-api] explain nnfw_set_backend and nnfw_set_op_backend more (#8071)

It explains more about nnfw_set_backend and nnfw_set_op_backend.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[nnpkg-tcs] Run nnpkg-tcs after tc exists (#8119)

Some nnpkg-tcs are not generated via `tf2tflite` test filter.
Thus, nnpkg-tcs checks whether test case exists before running.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[exo] Adding FuseConv2DAddSubPass into TFLOptimize.cpp (#8102)

Now FuseConv2DAddSubPass runs when UseFuseConv2DAddSubPass knob is on.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

Let locomotiv be installable (#8089)

From now on, install command will put locomotive library into the proper
location.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Rename TestHelper filename (#8104)

This will rename TestHelper to TestHelper.test so that it only exist for test executable not shared library

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-integration-test] Add renamed test case (#8098)

This commit adds renamed test case.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

Let make moco-tf installable (#8093)

From now on, install command will put moco-tf library into a proper
location.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[exo] add copy of TFExporter as CircleExporter (#8094)

This will add a copy of TFExporter and related files as CircleExporter to export Circle file

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Let make tf2tflite installable (#8096)

From now on, install command will put tf2tflite binary into a proper
location.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Remove ShapeInferenceData annotation (#8100)

This will remove ShapeInferenceData annotation that was replaced by loco NodeShape

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] TFShapeInferenceRule test (#8074)

This will add TFShapeInferenceRule test from old FixShapeTransform test

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tflite2circle] Remove the limitation of running under nnfw root (#8068)

Now, it uses the pathname of the currently executing script to calculate the default path for other resources.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[tf2tflite] Add renamed test case (#8088)

This commit adds renamed test case to tf2tflite.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[exo] Change target to exo (#8073)

* [exo] Change target to exo

This will update CMake target to exo
- add a temporary exo_tflite target for dependent targets

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* one more change

* add a dup instead of interface

[moco-tf] Add Pad canonicalizer (#8030)

* [moco-tf] Add Pad canonicalizer

This commit adds Pad canonicalizer to moco-tf.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>
* apply commnets.

* apply comment.

* Simplify method to get rank of padding.

* fix wrong assert.

* add comments in canonicalization.

* make comment more clear.

[exo] fix namespace for local method (#8087)

This will fix namespace to anonymous for local method encodeOperatorCodes

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco] Add Pad IR (#8090)

This will copy Pad IR from moco-tf

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[neurun] Implement circle_loader (#8079)

Implement `CircleLoader` by deriving it from `BaseLoader`.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nncc] Set proper RPATH on installation (#8057)

This commit makes install command (such as make install) to generate
a portable package.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Remove FixShapeTransform (#8075)

This will remove FixShapeTransform and related codes that is replaced by TFShapeInferenceRule

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[cmake] Fix endif mismatching warning (#8070)

Fix if-endif mismatching warning in cker cmake

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[exo] Relocate and rename exo-tflite to exo (#8069)

This will relocate and rename exo-tflite to exo to prepare export of Circle format
- all tflite related files are moved inside TFLite folder
- local files have tflite_detail sub namespace
- some unused headers exist and will be removed in next PR
- CMake target is still exo_tflite and will be changed in next PR

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[cmd] Format checker check unstaged files and ignore untracked files (#8058)

Ignore untracted file on format checking command
Add modified file on develop branch format checking command

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[cker] cker optimized build option (#8065)

Introduce cker optimized build option to disable optimized cker build on eigen usable environment

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[loco] Install shared library (#8051)

TNow, it is possible to install "libloco.so" with install command (e.g. make install).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[locoex-customop] Support Install (#8055)

Let's make it possible to install locoex-customop with install command.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-log] Support Install (#8056)

Let's make it possible to install moco-log with install command!

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[exo-tflite] Test to check if transpose is exported OK (#8000)

* [exo-tflite] Test to check if transpose is exported OK

This adds two tests to see if transpose is exported OK.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* knob check

* revise comment for perm vector; removed unused vars

* add todo; replace 'if' to 'ASSERT_EQ'

[moco-tf] Revise shape inf for TFShape and rest (#8053)

This will revise shape inference for TFShape and reset of the nodes to be done in TFShapeInferenceRule

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] Renaming DefaultLayout to FeatureLayout (#8046)

* [exo-tflite] Renaming DefaultLayout to FeatureLayout

DefaultLayout is renamed to to FeatureLayout.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* fix comment

[logo] Constant folding skips TensorBroadcast (#7847)

* [logo] Constant folding skips TensorBroadcast

TensorBroadcast is a good hint for optimizaiton. Let's skip this for
constant folding.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Add TODO comment

[exo-tflite] Code to perform fusing TFLAdd/TFLSub into TFLConv2D (#8037)

* [exo-tflite] Code to perform fusing TFLAdd/TFLSub into TFLConv2D

This adds code that fuses TFLAdd/TFLSub into TFLConv2D.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* remove unused param

* todo for cyclomatic complexity

[neurun] Prepare tryDeallocConst to ExecutorFactory (#7333)

* [neurun] Prepare tryDeallocConst to ExecutorFactory

Prepare tryDeallocConst to ExecutorFactory and remove unused lines

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>
* Add TODO

[res] Add simple Pad network with constant (#7982)

* [res] Add simple Pad network with constant

This commit add simple Pad network with constant_value.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>
* rename test folder.

* rename menifest file.

Introduce tf2circle (#8038)

This commit introduces tf2circle with a dummy implementation in order to
create a room for co-work.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[res/TensorFlowTests] Remove "use_cudnn_on_gpu" attrib in pbtxt files (#8041)

"use_cudnn_on_gpu" was removed from all pbtxt files in 'res/TensorFlowTests'.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[moco-tf] Revise shape inf for Mean Mul (#8017)

* [moco-tf] Revise shape inf for Mean Mul

This will revise shape inference for TFMean and TFMul node to be done in TFShapeInferenceRule

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* remove unused var

[moco-tf] Add Pad GraphBuilder (#8032)

* [moco-tf] Add Pad GraphBuilder

This commit adds Pad GraphBuilder to moco-tf.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>
* check whether it has a right attribute.

[exo-tflite] Rewriting a test using TestGraph (#8045)

minimal_with_TFLRelu is re-written with TestGraph to shorten code.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo-tflite] Introducing TFLRelu6 (#8048)

This introduce TFLRelu6 node, which is one of ops that can be fused into conv2d.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo-tflite] Fix wrong logging input name of Relu (#8049)

TFLRelu has `features()` as its input. This commit fix wrong name ("input") to "features".

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[tf2tflite] update exo-tflite dependency (#8035)

This will update tf2tflite to use exo to prepare exporter migration to exo folder

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Change model IR for ResizeBilinear param (#8025)

This commit changes model IR for ResizeBilinear param to scalar.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[nnfw-cmake] Support gmock library (#8031)

Prepare to support gmock - android 10 nnapi test require gmock

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[res] Add Pad network with REFLECT mode (#7984)

* [res] Add Pad network with REFLECT mode

This commit add Pad network with REFLECT mode.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>
* fix info.

[moco-tf] Revise shape inf for RealDiv and others (#8021)

This will revise shape inference for TFRealDiv and other nodes starting with R to be done in TFShapeInferenceRule

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] turning a knob : ConvertTensorTranspose (#8033)

ConvertTensorTranspose knob became true by default.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo-tflite] Introducing a pass that fuse TFLConv2D and [TFLAdd or TFLSub] (#7995)

* [exo-tflite] Introducing a pass that fuse TFLConv2D and [ TFLAdd or TFLSub ]

This introduces a pass that fuse TFLConv2D and [ TFLAdd or TFLSub ]. Real fusing code will be committed in next PR.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* renaming new_bias_node to widened_const

* removed comment that says bias of conv2d is all 0's

* fix type + use more specific node names

* stop using loco::replace(..) for widened bias const

* removed unused vars

* bug fix for set_const_input

[exo-tflite] turning on some knobs (#8002)

This turns knobs of some knobs. (all knobs except knobs related to Conv2D)

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[res] Rename testcase as convention (#8029)

* [res] rename testcase as convention

This commit renames some testcase as naming convention.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>
* apply comment.

[res] Test case to check fusing [ Conv2D - Sub ] (#7991)

Adding a test case to check fusing [ conv2d - sub ] subnetwork into Conv2D of which bias is set to y value of Sub.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo] Empty exo project for migration (#8028)

This will add empty exo project for migration of exo-tflite and to support circle files

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[android] Enable TF Lite JNI build (#8026)

Enable TF Lite JNI module build which will be used by Android Java Apps.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[nnpkg-run] set default backend using OP_BACKEND_ALLOPS environment var. (#8003)

`nnpackage-run` (in short, `nnpkg-run`) uses `nnfw_session` from nnfw APIs.
It uses GeneralConfigSource. It means we need to set configuration using nnfw APIs.
Thus, it reads from environment var and set default backends.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Update document for docker image creation (#8016)

Build command changed from 'nnfw' to 'nnas'.
Update https://github.sec.samsung.net/STAR/nnfw/blob/master/docs/nnfw/howto/HowToUseDockerImage.md to use 'nnas' instead of 'nnfw'.

Signed-off-by: JiHwan Yeo <jihwan.yeo@samsung.com>

[nnapi-test] Port TestMain (#7907)

Port TestMain.cpp from upstream android nn runtime's NNAPI test

Fix
- Always define NNTEST_ONLY_PUBLIC_API to avoid android dependency
- Comment out android logging related code

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-tf] Revise shape inf for FusedBatchNorm and Identity (#8014)

This will revise shape inference for TFFusedBatchNorm and TFIdentity node to be done in TFShapeInferenceRule

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[loco] Introduce Pad IR (#7992)

This commit introduces Pad IR to loco.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[neurun] Templatize BaseLoader (#8012)

* Templatize `BaseLoader` class.
* Add tflite-specific `LoaderDomain` structure.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[moco-tf] Revise shape inf for Const, Conv2D and Conv2DBackpropInput (#7999)

This will revise shape inference for TFConst, TFConv2D and TFConv2DBackpropInput node to be done in TFShapeInferenceRule

Signed-off-by: SaeHie Park <saehie.park@samsung.com>