[exo] Turning on knob to enabling fusion (of add/sub, relu/relu6) by default (#8333)

This turns on knobs to enabling fusion (of add/sub, relu/relu6) by default

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[loco] DepthwiseFilterDecode canonical IR (#8332)

This commit introduces DepthwiseFilterDecode loco canonical IR

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[tf2tflite] added NET_0035-37 (CBR related test) into test.lst (#8343)

This adds NET00_35, NET_0036, NET_0037 (CBR related test) into test.lst

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo] DepthwiseConv2D TFL dialect IR (#8320)

* [exo] DepthwiseConv2D TFL dialect IR

This commit introduces TFLDepthwiseConv2D, a TFL dialect IR for
DepthwiseConv2D. It also introduces its summary.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Add default value and test

[moco-integration-test] adding NET_0035, NET_0037 into test.lst (#8346)

This adds NET_0035, NET_0037 into test.lst.
0036 fails. An issue will be created.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[nnfw-api] Merge custom op API implementation (#8340)

Move custom op API implementation into neurun/api

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Update BuildGraph parameter (#8337)

Current BuildGraph get subgraph parameter, not interpreter

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco] Import Nodes (#8336)

This will add Import GraphBuilder Nodes to import TensorFlow NodeDef

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[loco] PemutingDecoder for DepthwiseFilter (#8331)

* [loco] PemutingDecoder for DepthwiseFilter

This commit introduces PemutingDecoder for DepthwiseFilter

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Remove unrelated

[moco-tf] use mio-tf (#8328)

* [moco-tf] use mio-tf

This will let moco-tf to use mio-tf so that one TensorFlow protobuf library produced and used

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* check mio_tf cond

[moco] Import requires (#8339)

This will update Import requires file

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] Update SimplifyDomainConversionPass comment (#8323)

This commit updates SimplifyDomainConversionPass comment to cover its
whole functionality

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[exo] Update make_filter_* comment (#8322)

This commit fixes typo and updates following helpers in GraphBlock.h:
- make_filter_encode
- make_filter_decode

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[plier-tf] use mio-tf (#8329)

* [plier-tf] use mio-tf

This will let plier-tf to use mio-tf so that one TensorFlow protobuf library is produced

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* check mio_tf cond

* match cmake if endif

[moco] Convert and TestHelper (#8330)

This will introduce Convert for Import and TestHelper for Import testing

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[nnpkg, circle] Define instance_norm in circle_schema.fbs (#8262)

It introduces instance_norm operator in circle schema.
Also, it updates circle_schema_generated.h for circle_loader.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[moco-tf] Redirect GraphBuilder to moco (#8327)

This will update GraphBuilder and GraphBuilderContext to redirect to moco for migration

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Relocate compute libraries (#8307)

Rename srcn to ncnn
Relocate compute libraries into compute/ (armcompute-ex, cker, ncnn)

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[loco] DepthwiseFilterDecoder (#8319)

This commit introduces DepthwiseFilterDecoder class.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco] Introduce TFPlaceholder IR (#8313)

* [moco] Introduce TFPlaceholder IR

This will introduce TFPlaceholder IR for Placeholder node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* add todo comment

Support Logistic in base loader (#7942)

- Add logistic operation on base loader

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

[loco] Fix typo for DepthwiseFilterEncoder comment (#8318)

This commit fixes typo in DepthwiseFilterEncode comment

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco] Include moco import (#8316)

This will update CMake to include import as sub project

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[mir] Refine operations constructors. (#8283)

Removed obsolete operations constructors in [mir].

Signed-off-by: Dmitry Gusev <d.gusev@partner.samsung.com>

[mir] Remove Operation::Input class (#8294)

Remove `Operation::Input` class and add lightweight `Use` class.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir] Remove unused functions (#8324)

Remove `replaceWithInputNode` and `replaceInputNodes` functions which were only used in unittests.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir] Introduce new fused bias constructors (#8186)

* Conv2DOp ctor (and fix copy)
* DepthwiseConv2DOp ctor (and fix copy)

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[base-loader] Change SubNode to MulNode in loadMul (#8311)

It fixes wrong code in loadMul.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[moco-tf] fix PadCanonicalizer (#8298)

* [moco-tf] fix PadCanonicalizer

This commit fixs PadCanonicalizer in moco-tf.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>
* add comment.

[moco] Import: Introduce GraphBuilder (#8306)

This will introduce moco-import target with GraphBuilder and related classes copied from moco-tf

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Refactor TF node graph builder test part 2 (#8297)

This will refactor test NOT to use Importer module of node graph builder from MaxPool to Tanh

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Refactor TF node graph builder test part 1 (#8296)

This will refactor test NOT to use Importer module of node graph builder from Add to FusedBatchNorm

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo] replace PhaseStrategy of TestHelper.h from Saturate to Restart (#8304)

This replaces PhaseStrategy of TestHelper.h from Saturate to Restart

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[res/TensorFlowTests] NET_0037 test case (#8302)

* [res/TensorFlowTests] NET_0037 test case

This adds NET_0037, Conv2D + ReLU + Add. By exo, Conv2D and ReLU are fused but Add isn't.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* simple description

[nnfw-gbs]  Merge build require and option setting (#8232)

- Remove python3 build require
- Require libarmcl-devel and python on aarch target only
- Merge build option setting for coverage build, test build and general build

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[exo] adding FuseReluPass into TFLOptimize.cpp (#8280)

This adds FuseReluPass into TFLOptimize.cpp. When a knob is on, this pass will run.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo] rewriting a function to handle Mixin (#8281)

Instread of trying to cast to a lot of type, code was re-written to try one-time cast to Mixin.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[lib/tflite] Update operation register (#8278)

Update register.h/cpp to match tflite v1.13.1
Support new operations introduce on v1.13.1
Support more upstream custom operation

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[exo] FuseConv2DAddSubPass checks Conv2D's fused activation function (#8268)

* [exo] FuseConv2DAddSubPass checks Conv2D's fused activation function

This enables FuseConv2DAddSubPass to check Conv2D's fused activation function
and perform fusion considering the status of fused activation function.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* remove unused var

* test case

* one more test case

* float act_func(...) -> void act_func(..)

[mio-tf] TensorFlow model library (#8274)

* [mio-tf] TensorFlow model library

This will introduce mio-tf as a separate project for accessing TensorFlow protobuf model file

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* merge cmake and apply comments

[neurun] Backend priority by OP_BACKEND_ALLOPS (#8124)

- Try backend loading from default backend setting, but not fail if backend is not exist
  - Fail if there is no loaded backend
  - Reorder to load acl(cl, neon) first
- If OP_BACKEND_ALLOPS is empty, use first loaded backend
- Set default OP_BACKEND_ALLOPS emptyy

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Rename moco-onnx as oneco (#8251)

Let's use moco only for TensorFlow Frontend modules.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[tf2tflite] Set shape information in ModelSignature (#8290)

This commit will enable setting shape information in `ModelSignature`
at `tf2tflite`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[nnkit-mocotf] Set shape information in ModelSignature (#8289)

This commit will enable setting shape information in `ModelSignature`
at `nnkit-mocotf`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[res] Tensorflow test file for Relu( Add( Conv2D, Scalar )) (#8282)

This adds Conv2D + Add + ReLU where Add's Const operand is a scalar (size 1 tensor).
To check exo handles this OK.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[moco-integration-test] Enable MergeConcatPass tests (#8288)

This commit will enable `MergeConcatPass` related tests
in `moco-integration-test`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[tf2tflite] Enable MergeConcatPass tests (#8287)

This commit will enable `MergeConcatPass` related tests

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[exo] Enable ConvertTensorConcat knob (#8286)

This commit will enable `ConvertTensorConcat` knob in `exo`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[ncc/interpreter] Fix Reshape operation for quantization (#8246)

* Made Reshape independent from DataType
* Fixed setting output quantization

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[nnc] Fix constant folding optimization for quantization (#8241)

* Fixed transpose for different DataType
* Added qunatization setting on optimization

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[nnc] Fix ModelAnalyzer.linearization test (#8291)

The test relied on specific order of graph traversal.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[moco] Update input accessor (#8279)

This will update to use correct input accessor for MaxPool and FusedBatchNorm node in moco
and remove temporary added accessors

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo] Add tests for TFLConcatenate (#8273)

This commit will add tests for `TFLConcatenate` in `exo`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[moco-tf] Introduce TFNodeBuildTester and apply BiasAdd test (#8272)

This will introduce TFNodeBuildTester test helper class for testing node's GraphBuilder class.
And applied BiasAdd test code is also shown to show how it works.

This change purpose is not to use Import class and to test only the GraphBuilder that
converts TensorFlow NodeDef to TF dialect node.

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo] Introduce MergeConcatNodePass (#8264)

* [exo] Introduce MergeConcatNodePass

This commit will introduce `MergeConcatNodePass`,
which fold multiple `TFLConcatenation` nodes with same axis

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>
* apply comments

* add FusedActFunc check

[locomotiv] Introduce TensorConstantPad (#8027)

* [locomotiv] Introduce TensorConstantPad

This commit introduces TensorConstantPad to locomotiv.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>
* change algorithm of pad interpretation.

* make constant value more general.

* change assert to validate.

* modify test.

* add assert for pad_data.

* constant input can be all operator.

* fix some wrong valiate and message.

[moco-tf] Remove Shape Type inference header (#8270)

This will remove deprecated Shape and Type inference header use that of moco

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Update input accessor (#8276)

This will update to use correct input accessor for MaxPool and FusedBatchNorm node and related variables

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tool] Support SquaredDifferene in select operator (#8263)

- Support SquaredDifferene in select operator
- Add comment: not supporting options on schema v1.13.1

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[exo] Register TransposedConv2DConverter (#8271)

This commit registers TransposedConv2DConverter to convert stage.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[exo] adds loop to fuse the nodes for FuseReluPass (#8266)

This completes FuseReluPass.cpp by add loops that performs fusing selected nodes.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[plier-tf] Introduce parse_nodedef (#8261)

This will introduce parse_nodedef() method to parse tensorflow::NodeDef object

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo] Introduce TFLConcatenation exporter (#8259)

This commit will introduce `TFLConcatenation` exporter in `exo`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[exo] Convert canonical TransposedConv2D (#8267)

This commit introduces convert stage for canonical TransposedConv2D.
This conversion would apply to TransposedConv2D to make TFL-dialect
TFLTransposeConv with additional auxiliary nodes.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[exo] Export TFLTransposeConv (#8260)

This commit introduces export stage of TFLTransposeConv operator

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-tf] Redirect to moco Service (#8265)

This will update Shape and Type inference class to be redirected to moco Service and remove unused source files

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo] TransposeConv type & shape inference (#8258)

This commit introduces type and shape inferences of TFLTransposeConv

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[nnpkg-spec] Add instance_norm and revise structure and level (#8148)

It updates nnpackage specification to define `instance_norm` operator.
Also, it updates the document structure since it begin to have additional
operator. I move operators to same level of model for user to find them easily.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[exo] adding TFLRelu6Converter into convert.cpp (#8253)

This adds TFLRelu6Converter into convert.cpp with related knob on.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo] TransposeConv IR (#8237)

* [exo] TransposeConv IR

This commit introduces TFLTransposeConv IR, TFL-dialect of loco node
representing TFlite TransposedConv operator.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Use camel case member name

[res] Add simple network of placeholder with unknown dimension. (#8229)

It is a simple network of placeholder with unknown dimension.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[exo] refactoring using new function (`create_fused_bias()`) (#8230)

This replaces body with a statement that calls extracted function. (`create_fused_bias()`)

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[lib/tflite] Update nnapi delegate (#8238)

Update nnapi delegate to match with v1.13.1

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Rename srcn backend shape (#8120)

Rename srcn backend Shape class into TensorDescriptor
      - Use same class name as cpu backend
      - Rename variables according to new class name

Signed-off-by: JiHwan Yeo <jihwan.yeo@samsung.com>

[moco] Introduce Shape and Type inference Service (#8228)

* [moco] Introduce Shape and Type inference Service

This will introduce Shape and Type inference Service from copied from moco-tf

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* make compiler happy

* another for compiler

[neurun] Introduce build option for default config (#8167)

- Introduce ENVVAR_NEURUN_CONFIG option: use default neurun config using environment (default: on)
- Default off on tizen, and introduce gbs build option "test_build" to enable environment variable setting

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[nnc] Explicitly declare some variables as `Operation::Input *` (#8247)

This is needed for transition period.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir-tflite-importer] Fixed a bug (wrong Deconv2d constructir). (#8248)

Setting attributes values is corrected.

Signed-off-by: Dmitry Gusev <d.gusev@partner.samsung.com>

[mir-caffe-importer] Fixed a bug in CaffeOpCreator (#8243)

Setting attributes values is corrected.

Signed-off-by: Dmitry Gusev <d.gusev@partner.samsung.com>

[nnc/interpreter] Fix Transpose for quantization (#8242)

* Fixed quantization for output
* Fixed work with every DataType

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[mir2loco] Replace getInputProducer with getInput (#8245)

Replace calls to `getInputProducer` with equivalent `getInput`.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Replace getInputProducer with getInput (#8244)

Replace calls to `getInputProducer` with equivalent `getInput`.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir] Make getInput the same as getInputProducer (#8236)

Make `getInput` the same as `getInputProducer`. The latter will be removed.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir-onnx-importer] Use new operations interface in importer.  (#8182)

* Using new operations interface in importer.

Changes due to new operations constructors signatures.

Signed-off-by: Dmitry Gusev <d.gusev@partner.samsung.com>

[mir2loco] Switch to `getInputProducer` (#8190)

Replace calls to `getInput()->getProducer()` with calls to `getInputProducer()`.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Switch to `getInputProducer` method (#8189)

Replace calls to `getInput()->getProducer()` with calls to `getInputProducer()`.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[angkor] Overload operator== (#8233)

* [angkor] Overload operator==

This commit overloads operator== to index class.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>
* apply commnet.

[angkor] Overload operator+ (#8210)

* [angkor] Overload operator+

This commit overloads operator+ to Index class.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>
* add out_of_range thorw exception.

* remove unnecessary header.

* change error type.

* change operator+ from member function to non-member.

locomotiv is static library (#8212)

This commit changes locomotiv from shared to static library.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-tf] Remove VariadicArityNode (#8227)

This will remove not used anymore VariadicArityNode and its test

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Remove IR tests (#8225)

This will remove IR test codes that already moved to moco-lang

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo] Introduce TFLConcatenation converter (#8221)

This commit will introduce `TFLConcatenation` converter in `exo`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[exo] Refactoring: Extract code from big method (Fuse) (#8179)

A piece of code is extracted as a method (`create_fused_bias()`) from big method (`Fuse`).

For diff difficulty, old code will be replace with one single call in next PR.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo] TFLMixin for classes that have fused activation function (#8223)

This adds TFLMixin class for TFL nodes that have fused activation function

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[nnfw-api] use circle loader for circle model (#8222)

It uses model_types from MANIFEST to determine loader.
It also added missing namespace neurun for circle_loader.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[nnpkg-test] Remove conv test (#8220)

Remove fail conv test: neurun cannot run convolution with input weight

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[exo] TODO rigorous padding conversion (#8219)

This commit adds TODO comments for rigorous padding conversion

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[exo] Introducing FuseReluPass (#8176)

* [exo] Introducing FuseReluPass

This introduces FuseReluPass, which fuse relu/relu6 into 10 TensorFlow Lite ops.
This commit adds code that finds candidate subgraph.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* remove unused var (to avoid CI error)

* Update compiler/exo/src/Pass/FuseReluPass.h

Co-Authored-By: hyunsik-yoon <hyunsik.yoon@samsung.com>

[moco-tf] Revise IR to using moco::IR (#8218)

This will revise moco::tf IR and base classes to alias of moco IR and base classes

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo] Register FoldTransposeOfConst pass (#8202)

This commit registers FoldTransposeOfConst pass to exo TFL-level
optimization.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>