[tfkit] Resolve SOLVe issues in tfkit (#7381)

This commit will add Tensorflow author and remove redundant license statements

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[logo] Preparing SimplifyDomainConversionPass to add more visit() (#7157)

* [logo] Preparing SimplifyDomainConversionPass to add more visit()

This is a preparation to introduce other visit(..).

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* nullifying input, etc

[nnc] Resolve SOLVe issues in nnc (#7383)

This commit will modify Apache 2.0 License to BSD 2-Clause License
since the code itself is 100% matched with original code and
caffe is under BSD 2-Clause License

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[mir2loco] Rename existing Pad class (#7386)

This commit is for renaming existing Pad class in mir2loco.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[mocotest-tf] Enable Some Broadcasting Tests (#7385)

This commit enables supported broadcasting tests.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnpkg] Update specification for operators (#7355)

It specifies the operators will use the same input, output and
attributes from tensorflow lite.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[moco-tf] Rename existing Pad class (#7384)

This commit is for renaming existing Pad class in moco-tf.

Related: #7357

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[moco-tf] Support Broadcasting (#7378)

This commit revises canonicalize_eltwise_binary_node to insert proper
boradcasting nodes if necessary.

This change will affect the canonicalization process of TFAdd, TFSub, TFMul, TFDiv.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[exo-tflite] exporting TFLMaxPool2D (#7382)

Code to export TFLMaxPool2D was added. Since much of this code is duplicated with TFLAveragePool2D, common code was extracted into a separate method.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

Add UNIT_Add_005 TensorFlow testcase (#7379)

This commit adds UNIT_Add_005 TensorFlow testcase. This test is almost
same as UNIT_Add_001 except that it requires broadcasting over LHS (not RHS).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[neurun] Rename Scheduler to HEScheduler (#7340)

Since this is a scheduler for heterogeneous execution scheduling,
it must be called appropriately

Signed-off-by: Poshshoev Dilshodzhon <d.poshshoev@samsung.com>

[exo-tflite] Introduce TensorShapeExpander (#7373)

* [exo-tflite] Introduce TensorShapeExpander

This will introduce TensorShapeExpander in TFLShapeInferenceRule for shape expansion for operations that has broadcasting

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* remove incs

[loco] add alias before renaming pad class (#7377)

This commit is getting ready for renaming pad class.

Related: #7357

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

Add BSD-2-Clause license (#7370)

- Add license in nnfw.spec
- Add license text

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

[locomotiv] Simplify Element-wise Unary Op Kernels (#7358)

* [locomotiv] Simplify Element-wise Unary Op Kernels

This commit rewrites element-wise unary op kernels on top of shared
infrastructure.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix copy-and-paste error

* Fix error message

[exo-tflite] Adding ReluConverter test (#7287)

* [exo-tflite] Adding ReluConverter test

Two test cases were added: loco::relu with tensor input/putput, loco::relu with feature input/output.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* remove code that checks knob

* using plan.at(n) instead of bunch of  statements

* using find_first_node_bytype

* no loop, used iterator

[exo-tflite] introducing knob for TFLMaxPool2D (#7376)

This adds knob for TFLMaxPool2D, for backward compatibility reason.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[moco-tf] Introduce CanonicalEltwiseInputConnector (#7368)

* [moco-tf] Introduce CanonicalEltwiseInputConnector

This commit introduces CanonicalEltwiseInputConnector which facilitates
pipeline extension.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Use NodeTy

[exo-tflite] Adding AvgPool2DConverter (#7317)

* [exo-tflite] Adding AvgPool2DConverter

AvgPool2DConverter is added, which converts loco::AvgPool2D to locoex::TFLAveragePool2D.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* fix build error

* fix comments

* fix typo

[exo-tflite] TypeInference for TFLMaxPool2D (#7350)

This adds type inference for `TFLMaxPool2D`.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo-tflite] shape inference for TFLMaxPool2D (#7374)

Adding shape inference for TFLMaxPool2D

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[logo] Revise test to use make_graph (#7371)

This will revise ConstantFoldingPass test to use make_graph() method instead of using stack value

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[locop] Do NOT show Shape attribute of Pull node (#7338)

"shape" attribute in Pull node is deprecated.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[exo-tflite] shape inference for TFLAveragePool2D (#7345)

Adding shape inference for TFLAveragePool2D and two test cases.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[moco-tf] Introduce Broadcast Helper (#7334)

* [moco-tf] Introduce Broadcast Helper

This commit introduces Broadcast Helper module which facilitates
numpy-style broadcasting support.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix a typo

[moco-tf] Remove unused CanonicalNodes.lst (#7366)

This will remove not used anymore CanonicalNodes.lst file

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Remove unused NodeShape (#7367)

This will remove not used anymore moco::tf::NodeShape

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] Convert for EltwiseAdd (#7353)

This will add converter for canonical EltwiseAdd to TFLAdd

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] Type inference for TFLAdd (#7354)

This will add type inference for TFLAdd node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tfinfo] Rename targets (#7369)

* [tfinfo] Rename targets

This commit renames targets in tfinfo project to have tfinfo as prefix.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix a typo

[moco-tf] Introduce canonicalize_eltwise_binary_node (#7327)

* [moco-tf] Introduce canonicalize_eltwise_binary_node

A similar pattern is repeated across several element-wise binary
operation converters.

This commit extracts this pattern as canonicalize_eltwise_binary_node
to reduce code duplication.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Put implementations in anonymous namespace

[loco] Remove unused member of FeatureEncodeLayer (#7344)

This commit removes unused member '_perm' of FeatureEncodeLayer.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[loco] Add FilterEncodeLayer for test GraphBuilder (#7343)

This commit adds FilterEncodeLayer for test GraphBuilder.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[mir] Switch to new `DeConv2DOp` constructor (#7361)

Construct `DeConv2DOp` with the new constructor.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_caffe] Switch to new `DeConv2DOp` constructor (#7362)

Construct `DeConv2DOp` with the new constructor.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir] Add a new constructor to `DeConv2DOp` (#7359)

All existing constructors miss the "padding after" parameter. They will be replaced with the new one.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[cop, neurun] Use cpu backend by default for custom op (#7346)

`neurun` uses `acl_cl` backends by default.
However, for custom op, cpu backend will be used by default.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[exo-tflite] Modifying TODO in knob.lst (#7347)

* [exo-tflite] Modifying TODO in knob.lst

Modifying names in TODO from TFL names to canonical names.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* reordering eltwiseAdd

Implement backend manipulation API (#7335)

* Implement backend manipulation API

- Implement backend manipulation API

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>
* Apply suggestion

* fix format

[nnpkg] update custom operator specification (#7337)

* [nnpkg] update custom operator specification

It updates custom operator specification.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>
* Update custom operator specificaiton

- Remove `nncc`
- Change the sentence as requested by review

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[neurun] Eliminate redundant fn in acl KernegGen (#7302)

No need to do extra move for most of the functions

Signed-off-by: Poshshoev Dilshodzhon <d.poshshoev@samsung.com>

[cop] Set isNnAPi=true for CustomNode (#7341)

It sets isNnAPI for CustomNode to enable backend selection.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[locomotiv] Decouple NodeDataImpl and NodeAnnotation (#7332)

NodeDataImpl now inherits NodeData interface, which allows users to
annotate any NodeData implementation other than NodeDataImpl.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[exo-tflite] Adding TFLAveragePool2D into OperationExporter (#7315)

TFLAveragePool2D was added into OperationExporter.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

API to manipulate backend setting (#7298)

Two functions(nnfw_set_default_backend, nnfw_set_op_backend) are
added.

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Fix error during building custom op app for pacl (#7329)

Only nuerun supports custom op.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[custom op] Add example application (#7313)

* [custom op] Add example application

Add example application using FillFrom kernel and FillFrom nnpackage

Signed-off-by: Vladimir Plazun <v.plazun@samsung.com>
* fix wrong kernel name

[custom op] Add example nnpackage (#7312)

Adds example model using FillFrom custom operation

Signed-off-by: Vladimir Plazun <v.plazun@samsung.com>

[moco-tf] Use shape_inference_done for fix_shape COpCall (#7325)

This will update fix_shape for COpCall to use shape_inference_done helper function

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] Rename ConvertAdd (#7323)

This will rename ConvertAdd to loco IR name ConvertEltwiseAdd

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[locomotiv] Support TensorBroadcast (#7309)

* [locomotiv] Support TensorBroadcast

This commit extends locomotiv to support TensorBroadcast nodes.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix a copy-and-paste error

* Check input shape

[loco] TransposedConv2D canonical IR (#7269)

* [loco] TransposedConv2D canonical IR

This commit introduces TransposedConv2D, loco canonical IR for
spatial transposed convolution.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Reorder alphabetically

* Edit comment

[loco] Refactor eltwise_binary_node_shape (#7296)

This commit relocates eltwise_binary_node_shape helper in order to
reduce the amount of code changes required for API v2 migration.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[loco] Do not invoke global shape_known helper (#7297)

This commit revises ForwardShapeInferenceAlgorithm to invoke internal
"shape_known" helper instead of global shape_known helper.

This change reduces the amount of code changes for API v2 migration.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[bino] Remove bitwise-or operator overloading (#7300)

Recently introduced fipe provides more general function pipe
implementation.

Let's use the function pipe implementation in fipe!

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[loco] Implement Type/Shape Inference for TensorBroadcast (#7306)

This commit implements type/shape inference for TensorBroadcast nodes.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[exo-tflite] Moving Knob check of each converter into convert.cpp (#7303)

* [exo-tflite] Moving Knob check of each converter into convert.cpp

Knob check of each converter was moved into `convert.cpp`.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* remove unused header

[moco-tf] Delete moved to logo (#7311)

This will delete transforms that has been moved to logo

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] Putting all converts header file into one header file (#7305)

* [exo-tflite] Putting all converts header file into one header file

Now Conversion.h will include all converter's header file. This is to keep `convert.cpp` clean.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* move conversion/conversions.h to src

[exo-tflite] adding `const` to TFLNodes.h (#7307)

This adds missing `const` to TFLNodes.h

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo-tflite] type inference of TFLAveragePool2D (#7314)

This commit adds type inference of TFLAveragePool2D.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo-tflite] change knob name for loco::AvgPool2D (#7316)

Previous name `ConvertAveragePool2D` followed TFL node name.
So, renamed to ConvertAvgPool2D just like converter's name follows canonical name.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[custom op] Add FillFrom kernel example (#7310)

Add example for kernel developers

Signed-off-by: Vladimir Plazun <v.plazun@samsung.com>

[custom op] Add basic custom op example structure (#7308)

* [custom op] Add basic custom op example structure

Add directories and CMakeLists for apps and kernels

Signed-off-by: Vladimir Plazun <v.plazun@samsung.com>
* use add_subdirectories

Signed-off-by: Vladimir Plazun <v.plazun@samsung.com>

[cli] Use GTest_AddTest (#7286)

Let's simplify CMakeLists.txt a bit with GTest_AddTest helper.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Apply shape_inference_done (#7304)

This will apply to use shape_inference_done() for fix_shape nodes

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] Unit test for ConstantFoldingPass (#7301)

* [logo] Unit test for ConstantFoldingPass

This will add unit test for ConstantFoldingPass copied from moco-tf ConstantFoldingTransform excluing import and log

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* apply comments

[backend/srcn] Add transpose conv kernel (#7248)

* [backend/srcn] Add transpose conv kernel

Srcn library supports raw-major(NCHW) and col-major(NHWC) image layout.
However this commit only supports col-major image layout.

And Srcn library takes HWOI kernel filter layout when the image layout is NHWC.
But in neurun, it takes OHWI kernel filter layout when using the same image layout.
So it need to permute codes for TransposeConv weight.

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>
* Change the Permute function to be limited to kernel layout

* Use original data array without copying to new address

[locomotiv] Use const if possible (#7264)

"annot_data" and "annot_domain" do not change the node itself.

This commit revies the signature of these helpers to express this
property explicitly.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Use shape_inference_done for helpers (#7288)

This will change to use shape_inference_done() for helpers in FixShapeTransform

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] Test helper (#7289)

* [logo] Test helper

This will introduce TestHelper for logo with find_first_node_bytype() method

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* apply comments

[loco] Add LEP_000 document (#7128)

* [loco] Add LEP_000 document

This commit adds LEP_000 document which proposes a design change over
loco IR.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix typos

* Rename and add heading

* Add a comment

[loco] Implement TensorBoradcast::Mapping methods (#7279)

This commit adds missing TensorBroadcast::Mapping method implementations
with related tests.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Introduce fipe library (#7281)

* Introduce fipe library

This commit introduces fipe, which permits function chaining with
UNIX pipe-like syntax.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Add License Notice

* Add a comment

[logo] Use GTest_AddTest helper (#7285)

This commit simplifies logo's CMakeLists.txt using GTest_AddTest.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[exo-tflite] Move Convert.h/cpp, GraphBlock.h/cpp to src (#7291)

Convert.h/cpp, GraphBlock.h/cpp are moved into src.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[neurun] Apply TensorManager instead of MemoryManager (#7251)

* [neurun] Apply TensorManager instead of MemoryManager

Apply TensorManager instead of MemoryManager. It looks huge but there
are the only many changes instead TensorManager of MemoryManager

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>
* Fix format

* Adding finalize() and moving wrap_tensor() in dataflow

* Fix wrong code in dataflow

[exo-tflite] Adding test assert into TFLTypeInferenceRuleTest (#7284)

This adds more asserts into the test body of TFLTypeInferenceRuleTest.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo-tflite] Adding test assert into TFLShapeInferenceRuleTest (#7283)

This adds more asserts into the test body of TFLShapeInferenceRuleTest.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo-tflite] Attaching progress reporter into convert_to_TFLNodes() (#7280)

This attaches progress reporter into the phase of convert_to_TFLNodes().

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo-tflite] Helper macro and class for test (#7255)

* [exo-tflite] Helper macro and class for test

Adding a macro to count the number of node and a class to easily run a pass to test.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* phase -> _phase

[tflite_loader] Implemented TransposeConv node conversion (#7268)

* [tflite_loader] Implemented TransposeConv node conversion

Implemented transpose conv node conversion

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>
* Fixed formatting

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[custom op] Fix custom kernel configuration (#7238)

Previously tensor address was accidently passed instead of tensor buffer
Correctly store userdata_size insude CustomKernel::configure

Signed-off-by: Vladimir Plazun <v.plazun@samsung.com>

[tflite_loader] Implemented Mean node conversion (#7267)

* [tflite_loader] Implemented Mean node conversion

* implemented Mean node conversion
* changed MeanNode keep_dims param type to bool

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>
* Fixed formatting

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[loco] Introduce ShapeInferenceRule v2 API (#7265)

This commit extends ShapeInferenceRule with a new version of infer API.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[loco] Introduce TensorBroadcast node (#7262)

This commit extends loco.canonical with TensorBroadcast node.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Introduce shape_inference_done (#7276)

This will introduce shape_inference_done() method in FixShapeTransform as a helper function not to directly access ShapeInferenceData annotation to check shape inference is done or not

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[mir] Refactor graph dot dumper (#7273)

Refactor graph dot dumper to loosen dependencies.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Use dumpGraph function (#7243)

Use `dumpGraph` function instead of `IrDotDumper` class.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[moco-tf] Remove unused code in FixShapeTransform (#7266)

This will remove unused code in FixShapeTransform
- Shape inference for canonical dialect nodes are handled by loco service

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] Put "exo::" prefix (to easily distinguish log from exo) (#7258)

It is difficult to tell which (moco? exo-tflite?) prints log. So, "exo::" prefix is added for exo-tflite.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

Check OOR exception intflite_benchmark (#7260)

Add try-catch to catch OOR exception by substr

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[exo-tflite] Adding ReluConverter into convert_to_TFLNodes() (#7257)

* [exo-tflite] Adding ReluConverter into convert_to_TFLNodes()

This adds ReluConverter and type/shape inference into convert_to_TFLNodes().

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* saturate -> restart

[res] TF test for Add broadcast with const scala (#7250)

This will add TF test material of Add operator with rank 4 tensor with const scala

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Skip canonical node fix shape (#7244)

This will skip canonical nodes fix shapes that is done as loco service
- Pull and Push nodes are still called as they exist in import

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Fix SquaredDifferenceCanonicalizer (#7245)

This will fix SquaredDifferenceCanonicalizer to check input nodes shape

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Remove unused ForwardShapeInferenceAlgorithm (#7246)

This will remove not used anymore ForwardShapeInferenceAlgorithm

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[res] Conv2DBackpropInput with 3x3 stride 2 (#7194)

This will add TensorFlow test material for Conv2DBackpropInput with 3x3 filter and stride 2

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Introduce bino (#7247)

This commit introduces bino, a library that facilitates std::pair
manipulation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[exo-tflite] change TODO (TFL node list to canonical node list) (#7256)

Changing TODO list from (wrong) TFL node list to canonical node list.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>