Fix nnfw.h application build errors (#7716)

Fix build errors of applications using nnfw.h:
```
[   15s] /usr/include/nnfw.h:162:35: error: unknown type name 'nnfw_tensorinfo'
[   15s]                                    nnfw_tensorinfo *tensor_info);
[   15s]                                    ^~~~~~~~~~~~~~~
[   15s] /usr/include/nnfw.h:174:36: error: unknown type name 'nnfw_tensorinfo'
[   15s]                                     nnfw_tensorinfo *tensor_info);
[   15s]                                     ^~~~~~~~~~~~~~~
```

Fixes #7715

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

[nnfw-cmake] Use unified cmake module in toolchain setting (#7683)

Use unified function envoption in toolchain setting

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Make to support HashTableLookup op for acl neon (#7694)

This commit makes to support HashTableLookup op for acl neon.
  - Introduce NEHashTableLookup and NEHashTableLookupKernel
  - Apply NEHashTableLookup layer for neurun

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Update arm64-android toolchain file (#7684)

Make the toolchain file to use the toolchain file that NDK privides.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[nnfw-cmake] Rename nnfw_include (#7681)

Rename nnfw_include to nnas_include: prepare to use unified cmake module

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Add tf2tflite-model-test project (#7698)

* Add tf2tflite-model-test project

Let's allows users to verify tf2tflite with their own models.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Add .gitignore

Introduce build_android_ndk.sh (#7675)

This commit introduces `build_android_ndk.sh` which sets up Android
build environment. And it will replace `build_android_rootfs.sh`.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Add REGRESSION_0001 TensorFlow test (#7695)

This commit introduces REGRESSION_0001 T/F test which includes two
successive broadcasted add.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[tf2tflite] Enable UNIT_Add_004 test (#7697)

Now, tf2tflite unittest suite includes UNIT_Add_004 by default.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-integration] Conv2DBackpropInput unit tests (#7702)

This commit adds following unit tests for moco integration:
- UNIT_Conv2DBackpropInput_000, valid padding case
- UNIT_Conv2DBackpropInput_001, same padding case

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco] Add UNIT_Add_004 to integration test (#7709)

Let's add UNIT_Add_004 as a part of moco integration test.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[exo-tflite] Export TransposedConv2D (#7707)

This commit supports canonical TransposedConv2D node to be exported as
TFlite TRANSPOSE_CONV operation.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-tf] Update comment on eltwise binary canonicalization (#7704)

* [moco-tf] Update comment on eltwise binary canonicalization

This commit updates outdated comment on canonicalize_eltwise_binary_node().
It now can dealt with broadcast case.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Clarify comment

[moco-tf] Check node shape for BinaryCanonicalze (#7703)

This will add check for node shape in EltwiseBinaryCanonicalzeHelper as this requires nodes shape

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Remove SquaredDifferenceCanonicalizer (#7696)

This will remove SquaredDifferenceCanonicalizer that is not used.
Add a note for SquaredDifference node canonicalization.

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[mir2loco] DeConv2D transformation implementation (#7642)

* Supported mir::DeConv2D transformation to loco::TransposedConv2D
* Added test for it

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[mir2loco] Remove no longer unused functions (#7666)

Remove shape based `setupWindow` and `setupStride` which are no longer used.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[neurun]HEScheduler ignore backend if not profiled (#7641)

Now HEScheduler throws an exception if there is no profiling info for an
operation on a backend. This change makes HEScheduler not use this
backend for that operation

Signed-off-by: Poshshoev Dilshodzhon <d.poshshoev@samsung.com>

[nike] Use GTest_AddTest helper (#7689)

This commit revises nike's CMakeLists.txt to use GTest_AddTest helper
instead of explicitly referring "gtest_main" target.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Same padding case for Conv2DBackpropInput Canonicalization (#7686)

* [moco-tf] Same padding case for Conv2DBackpropInput Canonicalization

This commit implements SAME padding case for Conv2DBackpropInput
Canonicalization

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Clarify comment

[moco-int] Enable test SquaredDifference_001 (#7690)

This will enable SquaredDifference_001 unit test

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Introduce circle_loader (#7667)

Add `circle_loader` library without implementation.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[moco-tf] Canonicalize rank-0 tensor constants (#7687)

This commit extends ConstCanonicalizer to translate tf.Const nodes that
emits a rank-0 tensor as a canonical.ConstGen node that emits a rank-1
tensor with shape [1].

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[tf2tflite] Enable test SquaredDifference_001 (#7691)

This will enable SquaredDifference_001 unit test

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] Update Reshape exporter (#7680)

* [exo-tflite] Update Reshape exporter

Until now, new shape is exported only by `new_shape` attribute.
However, runtime was receiving new shape by input.
This commit will update `Reshape` exporter to export new shape
not only as attribute but also as input.

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>
* add comments

[moco-integration-test] Get toolchain from a file (#7678)

This commit revises runall.sh to reads toolchain configuration from
a file instead of command-line arguments.

This change makes it easy to re-run failed tests for diagnostics.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Change ReduceMean kernel of acl_cl (#7654)

This commit changes ReduceMean kernel of acl_cl.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Make to support EmbeddingLookup op for acl neon (#7663)

This commit makes to support EmbeddingLookup op for acl neon.
  - Introduce NEEmbeddingLookup NEEmbeddingLookupKernel
  - Apply NEEmbeddingLookup layer for neurun

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[moco-tf] Enable ResolveSquaredDifference knob (#7670)

This will enable ResolveSquaredDifference knob that decomposes SquaredDifference to Sub and Mul nodes

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tf2tflite] Enable test Div/Sub 001 (#7673)

This will enable unit test of Div/Sub 001 that tests broadcasting

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tf2tflite] Enable UNIT_Squeeze_003 test (#7679)

This commit will enable `UNIT_Squeeze_003` test in tf2tflite

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

Add manifest to TensorFlow NET_0028 test (#7672)

This commit adds a manifest for NET_0028 test which includes a
brief summary.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Introduce `SupportPermutation` to check if backend supports permutation (#7616)

This commit introduces `SupportPermutation` to check if backend supports permutation.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[nnfw-cmake] Change nnfw variable name used in modules (#7671)

Introduce NNFW_PROJECT_SOURCE_DIR and NNFW_EXTERNALS_DIR to alternate NNFW_XXX variable

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-integration-test] Enable UNIT_Mean_00x tests (#7656)

This commit will enable `UNIT_Mean_000` ~ `UNIT_Mean_003`
tests in moco-integration-test

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[tf2tflite] Enable UNIT_Mean_00x tests (#7657)

This commit will enable `UNIT_Mean_000` ~ `UNIT_Mean_003`
tests in tf2tflite

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[moco_int] Enable Add 005 unit test (#7674)

This will enable Add 005 unit test

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] Enable Div,Sub conversion knob (#7677)

This will enable knob for conversion of Div and Sub

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[neurun] Implement NNAPI get output dimensions (#7653)

Inplement NNAPI ANeuralNetworksExecution_getOutputOperandDimensions and wrapper function

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Make to support DepthToSpace op for acl neon (#7629)

This commit makes to support DepthToSpace op for acl neon.
  - Introduce NEDepthToSpaceLayerEx and NEDepthToSpaceLayerKernelEx
  - Apply NEDepthToSpaceLayerEx layer for neurun

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[exo-tflite] Enable Div,Sub conversion (#7669)

This will enable Eltwise Div/Sub node conversion to TFL node by knob

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[nncc-cmake] Change nncc variable name used in modules (#7662)

Introduce NNAS_PROJECT_SOURCE_DIR and NNAS_EXTERNALS_DIR to alternate NNCC_XXX variable
Use workaround for NNAS_EXTERNALS_DIR - CI issue

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-tf] Padding inference for 'valid' padding case (#7650)

* [moco-tf] Padding inference for 'valid' padding case

This commit implements padding inference for Conv2DBackpropInput
canonicalization, in case of 'valid' padding.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* bool ready()

[moco-tf] Remove unused function arg (#7607)

This commit removes unused function argument in Conv2D canonicalizer.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[cmake] Rename nncc_include to nnas_include (#7659)

Rename nncc_include to nnas_include to share modules with nnfw

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[exo-tflite] pass PhaseStrategy from Saturate to Restart (#7652)

pass strategy was Restart but changed to Saturate by accident. This commit changes it to Restart again.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[locomotiv] Introduce TensorReduce Operation (#7643)

* [locomotiv] Introduce TensorReduce Operation

This commit will introduce `TensorReduce` operation in `locomotiv`
For now, only supports `ReduceFunc::Mean`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>
* restructure

[moco-tf] Register Conv2DBackpropInput canonicalization (#7649)

This commit registers Conv2DBackpropInput canonicalization.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[cmake] Move cmake modules (#7651)

Move nncc's cmake modules to infra/cmake/modules to share with nnfw

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[exo-tflite] converting and exporting TFLConst (#7638)

With this, TFLConverter start work and TensorExporter exports tensor using TFLConst when the knob is on.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

Make to support ReduceMax/ReduceMin op for acl neon (#7599)

This commit makes to support ReduceMax/ReduceMin op for acl neon
  - Introduce NEReductionOperationKernelEx
  - Introduce NEReductionOperationEx and NEReduceOperation
  - Apply NEReduceOperation layer for neurun to enable ReduceMax/ReduceMin op

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[exo-tflite] change TFL node opcode (NOP_CONSTGEN -> CONST) (#7621)

Since use TFLConst (not anything like Nop), I changed the opcode also.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[neurun] Implement a hash functor for enum class (#7647)

Implement a hash functor for enum class `NodeName` since Android NDK
clang requires it.

* This is a fix for Android Build

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[nnas-cmd] Use pylint command anywhere (#7648)

Allow use pylint command any path under nnfw
- Use "git ls-files" to find '.FORMATDENY' file
- Use pushd/popd to search python files on nnfw's root path

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Update tflite_benchmark_model for TF 1.14 (#7645)

It fixes `tflite_benchmark_model` build error that happends after
tensorflow is updated to 1.14.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[nncc-cmake] Check external module path existance (#7646)

Check external module path existance and download if that is not exists
Same with nnfw

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Make Compatible Shapes for CPU Add (#6540)

- This commit addes routine for making compatible shapes for CPU Add
  kernel

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Implement NNAPI get output rank function (#7581)

Inplement NNAPI ANeuralNetworksExecution_getOutputOperandRank and wrapper function
Introduce private field and method in Execution class to check execution is finished

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[locomotiv] Layout rule for Matrix domain (#7634)

This commit updates layout rule for Matrix domain in README.md

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-tf] Implement Conv2DBackpropInput canonicalization partially (#7637)

This commit implements Conv2DBackpropInput canonicalization, except
padding inference.

[locomotiv] Implement MatrixEncode, MatrixDecode and MatMul (#7604)

* Implemented operations on loco interpreter (locomotiv)
* Added tests for this operations

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[mir_onnx] Support ConvTranspose operator (#7610)

Add support for `ConvTranspose` operator.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Fix DataFormatSwitcher transformation for DeConv2DOp (#7612)

Rearrange axes of `output_shape` parameter when switching the data format.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_onnx] Fix shape of the bias term in Conv operator converter (#7611)

Reshape the bias term into [1, C, 1, 1] shape to make it broadcastable.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[exo-tflite] Header-only CanonicalNodeConverter implementation (#7639)

Let's put CanonicalNodeConverter::run method implementation in the
header.

With this change, clients can inherit CanonicalNodeConverter
without "CanonicalNodeConverter.cpp" update.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[loco] Use GTest_AddTest macro (#7635)

This commit simplifies loco's CMakeLists.txt by using GTest_AddTest macro.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[exo-tflite] function to convert locoex padding to tflite padding (#7636)

This function converts locoex padding to tflite padding.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[plier-tf] Enable strict build (#7631)

* [plier-tf] Enable strict build

Let's apply nncc common bulid flags (such as Wall).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Update comment

[exo-tflite] adding converter for loco::ConstGen (#7632)

converter and its test for loco::ConstGen (to locoex::TFLConst) was added.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[locop] Add TensorReduce visit function (#7597)

* [locop] Add TensorReduce visit function

This commit will add `TensorReduce` visit function

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>
* apply comments

* fix mistake

[exo-tflite] test case for FeatureBiasAddConverter (#7583)

* [exo-tflite] test case for FeatureBiasAddConverter

An unit test to check `FeatureBiasAddConverter` is added.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* fix typo and wrong index of constgen->at(1)

[moco-tf] Basic structure for Conv2DBackpropInput canonicalize (#7627)

This commit adds basic structure for TFConv2DBackpropInput canonicalize
stage.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[plier-tf] Fix copy_shape (#7615)

copy_shape is expected to throw an exception if there is any unknown
dimension (-1), but the current implementation never throws an
exception.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[res] UNIT_Conv2DBackpropInput_002 (#7606)

* [res] UNIT_Conv2DBackpropInput_002

This commit adds UNIT_Conv2DBackpropInput_002, unit test for
Conv2DBackpropInput with valid padding & non-tight case.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Review feedback

[res] UNIT_Conv2DBackpropInput_000 (#7605)

This commit adds UNIT_Conv2DBackpropInput_000, unit test for
Conv2DBackpropInput with valid padding & tight fit case.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

Introduce T/F Testcase explain script (#7603)

* Introduce T/F Testcase explain script

This "explain" script generates a summary over commited TensorFlow
testcases.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Update HEADER

[moco-tf] Support TFMean Canonicalization (#7594)

* [moco-tf] Support TFMean Canonicalization

This commit will enable for supporting `TFMean` canonicalization

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>
* apply comments

[moco-tf] Import Conv2dBackpropInput (#7579)

This commit introduces import stage of Conv2dBackpropInput.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[loco] Shape inference for TransposedConv2D (#7564)

This commit introduces shape inference for TransposedConv2D and its test

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-tf] ResolveSquaredDifference to TFOptimizier (#7593)

This will add ResolveSquaredDifference transform to TFOptimizier phase

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[nnfw-cmake] Rename cmake module file for subdirecories (#7617)

Use same name with nncc

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[nncc-cmake] Support excluding install in add_extdirectory cmake macro (#7590)

- Support EXCLUDE_FROM_ALL in add_extdirectory (same with nnfw)

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[nncc-cmake] Rename cmake module file for subdirecories (#7588)

Change snake-case type file naming to camel-case (same with other modules)

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Remove boolean flag setting in cmake module (#7589)

Module don't use flag (same with nncc)

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[nncc-cmake] Revise ExternalSourceTools status message print (#7601)

- Remove remain "--" print and use STATUS mode
- More information when download failed

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[exo-tflite] Enable convert Div Sub (#7585)

This will enable Canonical Node Convert of Div and Sub node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] Broadcast conversion for Div, Sub (#7591)

This will enable TensorBroadcastConverter to handle Div and Sub node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Reduce dup code for copy_shapedata (#7592)

This will update copy_shapedata() to use get_node_shape() to reduce duplicate codes in FixShapeTransform

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Introduce ONNXTests resource (#7565)

* Introduce ONNXTests resource

This commit introduces ONNXTests resource which provide simple ONNX
models for testing.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Update comment

[mir_onnx] Support Sqrt operator (#7548)

Add support for `Sqrt` operator.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_onnx] Support Tanh operator (#7608)

Add support for `Tanh` operator.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_tflite] Support Rsqrt operator (#7546)

Add support for `Rsqrt` operator.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_onnx] Support Reciprocal operator (#7598)

Add support for `Reciprocal` operator.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_onnx] Support Sub operator (#7547)

Add support for `Sub` operator.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Introduce PermutationOperationPass (#7254)

This commit introduces PermutationOperationPass that can change layout of each op

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[exo-tflite] Add TensorReduce visit function (#7596)

This commit will add `TensorReduce` visit function

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[nnfw-cmake] StampTools module (#7595)

Extract StampTools module from ExternalSourceTools module (same with nncc)

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-tf] Introduce SqueezeReduceNode transformation (#7580)

* [moco-tf] Introduce SqueezeReduceNode transformation

If Reduce node such as `TFMean` do not keep dimensions, `TFSqueeze` should be inserted.
This commit will introduce `SqueezeReduceNode` transformation for that.

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>
* revise comments

* add assert

Implement NNAPI synchronous execution function (#7574)

Inplement NNAPI ANeuralNetworksExecution_compute function and wrapper
Wrapper uses neurun's synchronous execution method

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[exo-tflite] Enable Add, Mul unit tests (#7586)

This will enable Add, Mul unit tests having different input shape

Signed-off-by: SaeHie Park <saehie.park@samsung.com>