Update tflite_benchmark_model for TF 1.14 (#7645)

It fixes `tflite_benchmark_model` build error that happends after
tensorflow is updated to 1.14.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[nncc-cmake] Check external module path existance (#7646)

Check external module path existance and download if that is not exists
Same with nnfw

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Make Compatible Shapes for CPU Add (#6540)

- This commit addes routine for making compatible shapes for CPU Add
  kernel

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Implement NNAPI get output rank function (#7581)

Inplement NNAPI ANeuralNetworksExecution_getOutputOperandRank and wrapper function
Introduce private field and method in Execution class to check execution is finished

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[locomotiv] Layout rule for Matrix domain (#7634)

This commit updates layout rule for Matrix domain in README.md

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-tf] Implement Conv2DBackpropInput canonicalization partially (#7637)

This commit implements Conv2DBackpropInput canonicalization, except
padding inference.

[locomotiv] Implement MatrixEncode, MatrixDecode and MatMul (#7604)

* Implemented operations on loco interpreter (locomotiv)
* Added tests for this operations

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[mir_onnx] Support ConvTranspose operator (#7610)

Add support for `ConvTranspose` operator.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Fix DataFormatSwitcher transformation for DeConv2DOp (#7612)

Rearrange axes of `output_shape` parameter when switching the data format.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_onnx] Fix shape of the bias term in Conv operator converter (#7611)

Reshape the bias term into [1, C, 1, 1] shape to make it broadcastable.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[exo-tflite] Header-only CanonicalNodeConverter implementation (#7639)

Let's put CanonicalNodeConverter::run method implementation in the
header.

With this change, clients can inherit CanonicalNodeConverter
without "CanonicalNodeConverter.cpp" update.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[loco] Use GTest_AddTest macro (#7635)

This commit simplifies loco's CMakeLists.txt by using GTest_AddTest macro.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[exo-tflite] function to convert locoex padding to tflite padding (#7636)

This function converts locoex padding to tflite padding.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[plier-tf] Enable strict build (#7631)

* [plier-tf] Enable strict build

Let's apply nncc common bulid flags (such as Wall).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Update comment

[exo-tflite] adding converter for loco::ConstGen (#7632)

converter and its test for loco::ConstGen (to locoex::TFLConst) was added.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[locop] Add TensorReduce visit function (#7597)

* [locop] Add TensorReduce visit function

This commit will add `TensorReduce` visit function

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>
* apply comments

* fix mistake

[exo-tflite] test case for FeatureBiasAddConverter (#7583)

* [exo-tflite] test case for FeatureBiasAddConverter

An unit test to check `FeatureBiasAddConverter` is added.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* fix typo and wrong index of constgen->at(1)

[moco-tf] Basic structure for Conv2DBackpropInput canonicalize (#7627)

This commit adds basic structure for TFConv2DBackpropInput canonicalize
stage.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[plier-tf] Fix copy_shape (#7615)

copy_shape is expected to throw an exception if there is any unknown
dimension (-1), but the current implementation never throws an
exception.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[res] UNIT_Conv2DBackpropInput_002 (#7606)

* [res] UNIT_Conv2DBackpropInput_002

This commit adds UNIT_Conv2DBackpropInput_002, unit test for
Conv2DBackpropInput with valid padding & non-tight case.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Review feedback

[res] UNIT_Conv2DBackpropInput_000 (#7605)

This commit adds UNIT_Conv2DBackpropInput_000, unit test for
Conv2DBackpropInput with valid padding & tight fit case.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

Introduce T/F Testcase explain script (#7603)

* Introduce T/F Testcase explain script

This "explain" script generates a summary over commited TensorFlow
testcases.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Update HEADER

[moco-tf] Support TFMean Canonicalization (#7594)

* [moco-tf] Support TFMean Canonicalization

This commit will enable for supporting `TFMean` canonicalization

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>
* apply comments

[moco-tf] Import Conv2dBackpropInput (#7579)

This commit introduces import stage of Conv2dBackpropInput.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[loco] Shape inference for TransposedConv2D (#7564)

This commit introduces shape inference for TransposedConv2D and its test

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-tf] ResolveSquaredDifference to TFOptimizier (#7593)

This will add ResolveSquaredDifference transform to TFOptimizier phase

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[nnfw-cmake] Rename cmake module file for subdirecories (#7617)

Use same name with nncc

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[nncc-cmake] Support excluding install in add_extdirectory cmake macro (#7590)

- Support EXCLUDE_FROM_ALL in add_extdirectory (same with nnfw)

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[nncc-cmake] Rename cmake module file for subdirecories (#7588)

Change snake-case type file naming to camel-case (same with other modules)

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Remove boolean flag setting in cmake module (#7589)

Module don't use flag (same with nncc)

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[nncc-cmake] Revise ExternalSourceTools status message print (#7601)

- Remove remain "--" print and use STATUS mode
- More information when download failed

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[exo-tflite] Enable convert Div Sub (#7585)

This will enable Canonical Node Convert of Div and Sub node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] Broadcast conversion for Div, Sub (#7591)

This will enable TensorBroadcastConverter to handle Div and Sub node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Reduce dup code for copy_shapedata (#7592)

This will update copy_shapedata() to use get_node_shape() to reduce duplicate codes in FixShapeTransform

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Introduce ONNXTests resource (#7565)

* Introduce ONNXTests resource

This commit introduces ONNXTests resource which provide simple ONNX
models for testing.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Update comment

[mir_onnx] Support Sqrt operator (#7548)

Add support for `Sqrt` operator.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_onnx] Support Tanh operator (#7608)

Add support for `Tanh` operator.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_tflite] Support Rsqrt operator (#7546)

Add support for `Rsqrt` operator.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_onnx] Support Reciprocal operator (#7598)

Add support for `Reciprocal` operator.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_onnx] Support Sub operator (#7547)

Add support for `Sub` operator.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Introduce PermutationOperationPass (#7254)

This commit introduces PermutationOperationPass that can change layout of each op

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[exo-tflite] Add TensorReduce visit function (#7596)

This commit will add `TensorReduce` visit function

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[nnfw-cmake] StampTools module (#7595)

Extract StampTools module from ExternalSourceTools module (same with nncc)

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-tf] Introduce SqueezeReduceNode transformation (#7580)

* [moco-tf] Introduce SqueezeReduceNode transformation

If Reduce node such as `TFMean` do not keep dimensions, `TFSqueeze` should be inserted.
This commit will introduce `SqueezeReduceNode` transformation for that.

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>
* revise comments

* add assert

Implement NNAPI synchronous execution function (#7574)

Inplement NNAPI ANeuralNetworksExecution_compute function and wrapper
Wrapper uses neurun's synchronous execution method

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[exo-tflite] Enable Add, Mul unit tests (#7586)

This will enable Add, Mul unit tests having different input shape

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] adding FeatureBiasAddConverter into convert.cpp (#7584)

This makes FeatureBiasAddConverter work when a knob is on.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo-tflite] enclosing namespace exo (#7577)

This commit enclosed codes with `namespace exo`.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[custom op] Remove questionable nnfw_core->nnfw_api dependency (#7410)

* [custom op] Remove questionable nnfw_core->nnfw_api dependency

Split KernelRegistry into KernelRegistry and KernelBuilder

Signed-off-by: Vladimir Plazun <v.plazun@samsung.com>
* format fix

* make common frontend into static lib

[encodump] Use safemain (#7578)

Let's reuse safemain's main implemenation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[exo-tfltie] type and shape inference for TFLConst (#7567)

This adds type and shape inference for `TFLConst`.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[moco-tf] Type inference for Conv2DBackpropInput (#7573)

This commit adds type inference for Conv2DBackpropInput.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

Rename to moco-integration-test (#7569)

This commit rename 'mocotest-tf' directory to 'moco-integration-test'.
It also updates README.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[exo-tflite] Fix TFLMul export option (#7566)

This will fix TFLMul export option that was not corrected from copy-paste
As the option is a dummy, there was no problem with actual execution

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Summary for TFConv2DBackpropInput (#7575)

This commit introduces summary for TFConv2DBackpropInput.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[loco] Introduce MatrixEncode, MatrixDecode and MatrixMul operations (#7406)

* Added MatrixEncode, MatrixDecode and MatrixMul nodes
* Added tests for them
* Defined CanonicalShapeInferenceRule and TypeInference

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[plier-tf] Hide Implementation Details (#7576)

No code outside plier-tf uses membuf and imemstream classes.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[loco] Introduce TensorReduce Operation (#7497)

* [loco] Introduce TensorReduce Operation

This commit will introduce `TensorReduce` operation in loco

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>
* fix wrong shapeInference

* revise comments

[tf2tflite] Enable exo loggers with TF2TFLITE knob (#7561)

With this commit, users are able to enable exo loggers with
TF2TFLITE_Log_Backend knob.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Shape inference for Conv2DBackpropInput (#7539)

This commit implements shape inference for Conv2DBackpropInput.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[exo-tflite] revising README.md (#7529)

* [exo-tflite] revising README.md

Steps for adding a new TFL node  was added.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* revised

[exo-tflite] removing old graph builder (#7524)

Old graph builder (`PushPullGraph<..>`) is now replaced with `TestGraph`.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo-tflite] knob to convert loco::ConstGen (#7477)

This adds knob to convert loco::ConstGen.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo-exporter] adding an empty visit() for TFLConst in OperationExporter (#7568)

`TFLConst` won't be converted into any operation so empty `visit()` was added into `OperationExporter`.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo-tflite] Knob for convert Div, Sub (#7560)

* [exo-tflite] Knob for convert Div, Sub

This will add knob for converting EltwiseDiv and EltwiseSub

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* fix typo

[moco-tf] Introduce ResolveSquaredDifference transform (#7559)

* [moco-tf] Introduce ResolveSquaredDifference transform

This will introduce ResolveSquaredDifference transform that decomposes TFSquaredDifference node into TFSub and TFMul nodes

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* use node->graph()

[exo-tflite] Shape inference for TFLDiv, TFLSub (#7552)

This will enable shape inference for TFLDiv, TFLSub node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] Type inference for TFLDiv, TFLSub (#7551)

This will enable type inference for TFLDiv, TFLSub node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] Export TFLDiv, TFLSub (#7554)

* [exo-tflite] Export TFLDiv, TFLSub

This will enable export for TFLDiv and TFLSub node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* fix options

[exo-tflite] Introduce EltwiseBinaryConverter and refactor (#7533)

This will introduce EltwiseBinaryConverter and refactor EltwiseAddConverter and EltwiseMulConverter using this

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[locoex-customop] Remove plier-tf dependency (#7540)

No code in locoex-customop uses plier-tf.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[mocotest-tf] Rename target to 'moco_integration_test' (#7541)

This commit renames target 'moco_test_tf' to 'moco_integration_test'.
Related variable names also match to be 'moco_integration_*'

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-tf] Enable importing Mean (#7543)

* [moco-tf] Enable importing Mean

This commit will enable importing `Mean` as `TFMean`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>
* revise trivials

[locop] Use GenericNodeSummaryBuilder as default fallback (#7553)

This commit replaces BuiltinNodeSummaryBuild with
GenericNodeSummaryBuilder.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[exo-tflite] Expose Logging Context (#7531)

This commit exposes exo-tflite Logging Context to public in order to
allos downstream tools to control exo-tflite logging system.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[tf2tflite] Use tfinfo target (#7532)

Let's use tfinfo instead of deprecated nnkit_support_tftestinfo.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[exo-tflite] Turn on knobs for style transfer related (#7530)

This will turn on knobs for style transfer related switches
- enable TFL dialect
- enable convert Add, Aul to TFL dialect
- enable resolve TensorBroadcast

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[neurun] Added sanity checks for profiling mode (#7412)

* Added sanity checks for profiling mode
* Fixed missing profiling info exception type

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[neurun] check null before accessing session (#7536)

session will be null-checked before dereferencing.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[res] Unit test of RealDiv 001 (#7549)

This will add RealDiv unit test 001 for broadcasting

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Add ResolveSquaredDifference knob (#7558)

This will add ResolveSquaredDifference knob

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Make to support Neg op for acl neon (#7535)

This commit makes to support Neg op for acl neon.
  - Introduce NEElementwiseUnaryKernel and NENegLayer
  - Apply NENegLayer layer for neurun

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[moco-tf] Use tf as prefix (#7489)

Let's use "tf" prefix instead of "TF" to be compatiable with canonical
prefix.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[locop] Introduce GenericNodeSummaryBuilder (#7518)

This commit introduces GenericNodeSummaryBuilder which uses "dialect"
address and opnum as opname.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[loco] Backward plane inference (#7458)

This commit introduces backward plane inference, which would be used for
canonical shape inference rule, especially for TransposedConv2D.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[nnc] Remove C generating backend (#7545)

Remove C generating backend skeleton.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Make to support Dequantize op for acl neon (#7522)

This commit makes to support Dequantize op for acl neon.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Make to support ReduceSum op for acl neon (#7520)

This commit makes to support ReduceSum op for acl neon

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[exo-tflite] Introducing locoex::TFLConst (#7519)

locoex::TFLConst is added to represent tensor data. (note that this is not for a specific tflite op)

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[enco] Extract Boilerplate as Helper (#7523)

This commit extracts boilerplate in ConstantFoldingTest as a helper
in order to reduce code duplication.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Null-terminating check for backend conf api (#7516)

* Null-terminating check for backend conf api

- Add null terminaing function
- Add check routine

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>
* Give name to arg max length in backend conf

- Add macro for max length
- 32 for backend name, 64 for op name

* fix format

* add null check

* add null check to nnfw_set_op_backend

* Check null inside nnfw_session

[moco-tf] get_node_shape helper in copy_shapedata (#7528)

This will introduce get_node_shape helper in copy_shapedata of FixShape

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] copy shape for binary input nodes (#7525)

This will update FixShape to use correct copy_shapedata() for binary input nodes

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Remove "moco" module (#7509)

No compiler module depends on "moco" module.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[plier-tf] Declare dependent library visibility (#7511)

Let's declare the visibility of dependent libraries explicitly.
This change allows us to introduce PRIVATE dependencies.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[plier-tf] Remove unnecessary const qualifier (#7513)

"const" qualifier on function return type has no effect.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[logo] Simplifying `BiasEncode - BiasDecode` subgraph (#7481)

* [logo] Simplifying `BiasEncode - BiasDecode` subgraph

With this commit, logo will Simplifying `BiasEncode - BiasDecode` subgraph into loco::Forward

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* make code shorter

* remove 'using namespace loco;'

Make to support ArgMax op for acl neon (#7515)

This commit makes to support ArgMax op for acl neon except int32 type.
  - Introduce NEArgMinMax layer
  - Apply NEArgMinMax layer for neurun

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[tflite2circle] Introduce tflite2circle (#7483)

It introduces `tflite2circle` tool.
Its input is `tflite` and output is `circle`.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[moco-tf] copy_shapedata with two inputs (#7499)

* [moco-tf] copy_shapedata with two inputs

This will introduce copy_shapedata that can receive two inputs and return shape from broadcast algorithm for binary operation nodes

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* add note