[loco] Introduce MatrixEncode, MatrixDecode and MatrixMul operations (#7406)

* Added MatrixEncode, MatrixDecode and MatrixMul nodes
* Added tests for them
* Defined CanonicalShapeInferenceRule and TypeInference

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[plier-tf] Hide Implementation Details (#7576)

No code outside plier-tf uses membuf and imemstream classes.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[loco] Introduce TensorReduce Operation (#7497)

* [loco] Introduce TensorReduce Operation

This commit will introduce `TensorReduce` operation in loco

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>
* fix wrong shapeInference

* revise comments

[tf2tflite] Enable exo loggers with TF2TFLITE knob (#7561)

With this commit, users are able to enable exo loggers with
TF2TFLITE_Log_Backend knob.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Shape inference for Conv2DBackpropInput (#7539)

This commit implements shape inference for Conv2DBackpropInput.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[exo-tflite] revising README.md (#7529)

* [exo-tflite] revising README.md

Steps for adding a new TFL node  was added.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* revised

[exo-tflite] removing old graph builder (#7524)

Old graph builder (`PushPullGraph<..>`) is now replaced with `TestGraph`.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo-tflite] knob to convert loco::ConstGen (#7477)

This adds knob to convert loco::ConstGen.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo-exporter] adding an empty visit() for TFLConst in OperationExporter (#7568)

`TFLConst` won't be converted into any operation so empty `visit()` was added into `OperationExporter`.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo-tflite] Knob for convert Div, Sub (#7560)

* [exo-tflite] Knob for convert Div, Sub

This will add knob for converting EltwiseDiv and EltwiseSub

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* fix typo

[moco-tf] Introduce ResolveSquaredDifference transform (#7559)

* [moco-tf] Introduce ResolveSquaredDifference transform

This will introduce ResolveSquaredDifference transform that decomposes TFSquaredDifference node into TFSub and TFMul nodes

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* use node->graph()

[exo-tflite] Shape inference for TFLDiv, TFLSub (#7552)

This will enable shape inference for TFLDiv, TFLSub node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] Type inference for TFLDiv, TFLSub (#7551)

This will enable type inference for TFLDiv, TFLSub node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] Export TFLDiv, TFLSub (#7554)

* [exo-tflite] Export TFLDiv, TFLSub

This will enable export for TFLDiv and TFLSub node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* fix options

[exo-tflite] Introduce EltwiseBinaryConverter and refactor (#7533)

This will introduce EltwiseBinaryConverter and refactor EltwiseAddConverter and EltwiseMulConverter using this

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[locoex-customop] Remove plier-tf dependency (#7540)

No code in locoex-customop uses plier-tf.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[mocotest-tf] Rename target to 'moco_integration_test' (#7541)

This commit renames target 'moco_test_tf' to 'moco_integration_test'.
Related variable names also match to be 'moco_integration_*'

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-tf] Enable importing Mean (#7543)

* [moco-tf] Enable importing Mean

This commit will enable importing `Mean` as `TFMean`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>
* revise trivials

[locop] Use GenericNodeSummaryBuilder as default fallback (#7553)

This commit replaces BuiltinNodeSummaryBuild with
GenericNodeSummaryBuilder.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[exo-tflite] Expose Logging Context (#7531)

This commit exposes exo-tflite Logging Context to public in order to
allos downstream tools to control exo-tflite logging system.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[tf2tflite] Use tfinfo target (#7532)

Let's use tfinfo instead of deprecated nnkit_support_tftestinfo.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[exo-tflite] Turn on knobs for style transfer related (#7530)

This will turn on knobs for style transfer related switches
- enable TFL dialect
- enable convert Add, Aul to TFL dialect
- enable resolve TensorBroadcast

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[neurun] Added sanity checks for profiling mode (#7412)

* Added sanity checks for profiling mode
* Fixed missing profiling info exception type

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[neurun] check null before accessing session (#7536)

session will be null-checked before dereferencing.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[res] Unit test of RealDiv 001 (#7549)

This will add RealDiv unit test 001 for broadcasting

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Add ResolveSquaredDifference knob (#7558)

This will add ResolveSquaredDifference knob

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Make to support Neg op for acl neon (#7535)

This commit makes to support Neg op for acl neon.
  - Introduce NEElementwiseUnaryKernel and NENegLayer
  - Apply NENegLayer layer for neurun

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[moco-tf] Use tf as prefix (#7489)

Let's use "tf" prefix instead of "TF" to be compatiable with canonical
prefix.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[locop] Introduce GenericNodeSummaryBuilder (#7518)

This commit introduces GenericNodeSummaryBuilder which uses "dialect"
address and opnum as opname.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[loco] Backward plane inference (#7458)

This commit introduces backward plane inference, which would be used for
canonical shape inference rule, especially for TransposedConv2D.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[nnc] Remove C generating backend (#7545)

Remove C generating backend skeleton.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Make to support Dequantize op for acl neon (#7522)

This commit makes to support Dequantize op for acl neon.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Make to support ReduceSum op for acl neon (#7520)

This commit makes to support ReduceSum op for acl neon

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[exo-tflite] Introducing locoex::TFLConst (#7519)

locoex::TFLConst is added to represent tensor data. (note that this is not for a specific tflite op)

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[enco] Extract Boilerplate as Helper (#7523)

This commit extracts boilerplate in ConstantFoldingTest as a helper
in order to reduce code duplication.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Null-terminating check for backend conf api (#7516)

* Null-terminating check for backend conf api

- Add null terminaing function
- Add check routine

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>
* Give name to arg max length in backend conf

- Add macro for max length
- 32 for backend name, 64 for op name

* fix format

* add null check

* add null check to nnfw_set_op_backend

* Check null inside nnfw_session

[moco-tf] get_node_shape helper in copy_shapedata (#7528)

This will introduce get_node_shape helper in copy_shapedata of FixShape

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] copy shape for binary input nodes (#7525)

This will update FixShape to use correct copy_shapedata() for binary input nodes

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Remove "moco" module (#7509)

No compiler module depends on "moco" module.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[plier-tf] Declare dependent library visibility (#7511)

Let's declare the visibility of dependent libraries explicitly.
This change allows us to introduce PRIVATE dependencies.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[plier-tf] Remove unnecessary const qualifier (#7513)

"const" qualifier on function return type has no effect.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[logo] Simplifying `BiasEncode - BiasDecode` subgraph (#7481)

* [logo] Simplifying `BiasEncode - BiasDecode` subgraph

With this commit, logo will Simplifying `BiasEncode - BiasDecode` subgraph into loco::Forward

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* make code shorter

* remove 'using namespace loco;'

Make to support ArgMax op for acl neon (#7515)

This commit makes to support ArgMax op for acl neon except int32 type.
  - Introduce NEArgMinMax layer
  - Apply NEArgMinMax layer for neurun

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[tflite2circle] Introduce tflite2circle (#7483)

It introduces `tflite2circle` tool.
Its input is `tflite` and output is `circle`.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[moco-tf] copy_shapedata with two inputs (#7499)

* [moco-tf] copy_shapedata with two inputs

This will introduce copy_shapedata that can receive two inputs and return shape from broadcast algorithm for binary operation nodes

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* add note

[exo-tflite] Enhancing TestGraph.h (#7469)

* [exo-tflite] Enhancing TestGraph.h

1) Adds more operations. 2) changed the symantics of append() with no arg.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* typo, adds better comment

[exo-tflite] Introduce Div and Sub (#7514)

This will introduce IR for Div and Sub

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Add ness dir into tizen test pacakge (#7478)

- Add infra dir
- Fix tests/framework install position

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

[loco] Introduce GraphOutputIndexQueryService (#7479)

This commit introduces GraphOutputIndexQueryService interface, and
revises output_nodes helper to use this new service interface.

This commit also implements GraphOutputIndexQueryService for canonical
dialect in order to guarantee backward compatibility.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[loco] Extend CanonicalShapeInferenceRule with v2 API (#7468)

This commit extends CanonicalShapeinferenceRule with v2 API implementation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Read Knob from top-level Canonicalizer (#7495)

Several canonicalization implementations shows different behavior
according to Knob configuration.

This design makes it a bit difficult to test each implementation in
isolation.

To address this issue, this commit extracts Knob control code and put
them in top-level Canonicalizer.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[locop] Show data type if possible (#7492)

* [locop] Show data type if possible

LinearV1 Graph Formatter now shows the data type of each node.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix a typo

[exo-tflite] Renaming get_knob -> get (#7510)

`get_knob` was renamed to `get` since it always use with knob name and `knob` is duplicate. (e.g., `get<Knob::EnableTFLDialect>`)

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

Add neurun test scripts for tizen (#7504)

- neurun test script for acl_cl and mixed

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Run neurun test on tizen (#7505)

- Run new neurun test script on tizen
- Remove unnecessary zipped file

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Update nnapi (#7482)

Use nnapi in android-10 r2 release

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[nnpkg] rename schema name and update specification (#7484)

nnpackage can have two kinds of models.
`nnpackge_model.fbs` is for `circle`.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Use string as backend configuration arg (#7500)

* Use string as backend configuration arg

- remove unness. enums for backend/operation
- Use string as backend api arguments

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>
* Fix backend conf api

- Remove unness. functions
- Reflect new backend conf api

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>
* Use const char* in c++ header

Update tizen's skiplist (#7475)

* Update tizen's skiplist

Add arm-linux's skiplist into tizen's

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>
* Use arm-ubuntu's skiplist on tizen

- Now, tizen's skiplist is the same as ubuntu's

[locomotiv] Simplify ReLU6 implementation (#7506)

Let's make ReLU6 similar to other element-wise unary operations.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[loco] Type inference for TransposedConv2D (#7508)

This commit introduces type inference for TransposedConv2D

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[mocotest-tf] Add regular testcases (#7488)

This commit registers several testcases as mocotest-tf.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[loco] TransposedConv2D test case (#7498)

This commit adds test case for TransposedConv2D in loco Service

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[exo-tflite] Modifying logging of each TFL nodes (#7507)

1) "TFL.xxx" -> "tfl.xxx", 2) op name printing in one method (opname())

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[locomotiv] Erase annotated data before execute (#7496)

All the execute method implementations invoke "erase_annot_data"
internally.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[exo-tflite] Comment for TensorBroadcast (#7473)

* [exo-tflite] Comment for TensorBroadcast

This will add comment for TensorBroadcast in CanonicalNodeConverter template list as an ite

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* edit message

* fix typo and sentence

[exo-tflite] Resolve TensorBroadcast for Mul (#7491)

This will add handler for TFLMul node in TensorBroadcastConverter

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] adding FeatureBiasAdd converter (#7467)

* [exo-tflite] adding FeatureBiasAdd converter

This adds FeatureBiasAdd converter, which converts loco::FeatureBiasEEdd to locoex::TFLAdd.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* typo

[moco-tf] Broadcast shape for FixShape (#7487)

This will introduce methods for shape broadcast in FixShapeTransform that will be used in shape inference of binary operation nodes with inputs having different shapes

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] Add EltwiseMul and TensorBroadcast to Convert list (#7474)

This will update conversion list to convert EltwiseMul and TensorBroadcast node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] Shape and Type inference for TFLMul (#7470)

This will add Shape and Type inference for TFLMul node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] Test of broadcast algorithm (#7471)

This will add a test of broadcast algorithm with TFLAdd

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[loco] Delete deprecated Pad.h (#7466)

This commit deletes deprecated Pad.h.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[moco-tf] Introduce as_node_shape (#7476)

This will introduce as_node_shape() method in FixShapeTransform that returns loco::NodeShape from ShapeInferenceData

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[nnc] Remove backend passes (#7486)

* Do not derive backends from `Pass`.
* Move backends into separate directory.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Unify functions for elementwise ops in acl ex (#7464)

This commit unifies functions for elementwise ops in acl ex.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[locomotiv] Clean up eltwise binary nodes (#7465)

This commit cleans up deprecated code in element-wise binary node
implementations.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

nnfw-devel package for Tizen (#7336)

Add nnfw-devel package on tizen.

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

[loco] Introduce TensorAxisSet (#7444)

* [loco] Introduce TensorAxisSet

This commit will introduce `TensorAxisSet`, which is a set of `TensorAxis`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>
* apply feedbacks

* remove redundant headers

[exo-tflite] Convert EltwiseMul (#7459)

This will introduce EltwiseMulConverter that converts EltwiseMul to TFLMul

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] Converter for TensorBroadcast IR (#7432)

* [exo-tflite] Converter for TensorBroadcast IR

This will introduce TensorBroadcastConverter that resolves loco::TensorBroadcast IR that meets some certain condition

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* make compiler happy

* fix comments

[exo-tflite] Add EltwiseConverter to conversion list (#7463)

This will add EltwiseConverter to conversion list from knob status

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[locomotiv] Introduce Eltwise Binary Node Helper (#7461)

* [locomotiv] Introduce Eltwise Binary Node Helper

This commit introduces a shared helper method for for element-wise
binary nodes, and rewrites the "execute" method for these nodes using
this helper.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Add a blank line

[moco-tf] Remove unused includes (#7462)

This commit removes unused includes for TFConv2D and
TFConv2DBackpropInput.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[exo-tflite] adding knob for loco::FeatureBiasAdd (#7460)

A knob for loco::FeatureBiasAdd is added.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[loco] Adding shape inference for loco::BiasDecode (#7456)

This adds shape inference for loco::BiasDecode

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[loco] Adding type inference for loco::BiasDecode (#7455)

This adds type inference for loco::BiasDecode.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[moco-tf] Add TFFormattedGraph for TFMean (#7453)

This commit will add `TFFormattedGraph` for `TFMean`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[exo-tflite] Adding AvgPool2DConverter into convert.cpp (#7389)

AvgPool2DConverter is added into Convert.cpp. After this, turning on the knob will convert loco::AvgPool2D to TFLAveragePool2D.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[moco-tf] Replace Pad.h with Padding2D.h (#7438)

This commit replaces Pad.h with Padding2D.h in moco-tf.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[loco] PlaneInference by direction (#7452)

This commit fixed PlaneInference into template with argument 'Direction'

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-tf] Remove unused in Conv2D and DWConv2D (#7451)

This will remove not used anymore codes in Conv2D and DepthwiseConv2dNative IR

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] Handle export for TensorBroadcast (#7450)

This will add handler for loco::TensorBroadcast that throws an error

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] Export for TFLMul (#7449)

This will add exporter for TFLMul node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[loco] make_HWCN_perm helper (#7442)

This commit introduces make_HWCN_perm helper for filter domain for test
case build.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[locomotiv] Introduce UserData (#7397)

* [locomotiv] Introduce UserData

This commit introduces UserData management module and rewrites Pull node
executor using this UserData management module.

This is the first step to decouple locomotiv-internal data structures from
public user-level data structures.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Remove extra token after #endif

[moco-tf] Clean up deprecated code (#7398)

Let's clean up deprecate codes from Add/Sub/Mul/RealDiv canonicalizer
implementations.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[loco] Context-based ForwardShapeInferenceAlgorithm (#7431)

This commit revises ForwardShapeInferenceAlgorithm to access NodeShape
through ShapeInferenceRule::Context instead of global shape helpers.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[locop] Show TensorShape if possible (#7437)

With this change, Linear V1 Graph Formtter now shows some details of
TensorShape if possible.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[loco] In PlaneInference, fix public memebers to private (#7448)

This commit fixes public members to be private, as intended.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>