[nnc] Fix switcher transformation for qunatization (#8240)

* Fixed transpose inserters
* Fixed Conv2D and DepthwiseConv2D switchers

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[nnc] Quantize, Dequantize implementations on interpreter (#8175)

* Support Quantize, Dequantize operations on interpreter backend

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[exo] Reshape TFL dialect IR (#8321)

* [exo] Reshape TFL dialect IR

This commit introduces TFLReshape, a TFL dialect IR for Reshape
operator. It also introduces its summary.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Add shape() as second input

[moco] Install support library (#8417)

This will add install support library

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco] Install import and lang (#8411)

tf2tflite requires moco_tf_frontend,
moco_tf_frontend requires moco_import and moco_lang

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[res] add no shape placeholder network (#8412)

This commit adds no shape placeholder simple network.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[exo] Type & Shape inference for TFLDepthwiseConv2D (#8395)

This commit introduces type and shape inference for TFLDepthwiseConv2D

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[nncc] Allow users to set INCLUDE_DIR with FlatBuffers_Target (#8391)

This commit revises FlatBuffers_Target helper to allow users to set
INCLUDE_DIR via option.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] set shape in Frontend test (#8408)

* [moco-tf] set shape in Frontend test

This commit set shape to signature in Frontend test.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>
* apply comment.

[moco] Introduce Support (#8407)

This will introduce moco-support with TFShapeInferenceHelper and related

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] SimplifyDomainConversionPass for DepthwiseFilter combo (#8351)

This commit supports DepthwiseFilterEncode - DepthwiseFilterDecode combo
for SimplifyDomainConversionPass.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[exo] Set FusedActivation for sub and div (#8405)

This commit will set fusedActivationFunction for `sub` and `div`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[moco-tf] Remove GraphBuilder tests (#8402)

This will remove GraphBuilder tests that is now migrated into moco

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Redirect Importer to moco (#8401)

This will redirect Importer header to moco and remove implementation and test

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco] Add tests for node GraphBuilder (#8400)

This will add tests for node GraphBuilder

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo] Export TFLDepthwiseConv2D (#8396)

This commit introduces export stage for TFLDepthwiseConv2D

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[mir] Remove unused functions (#8366)

Remove functions which were needed for transition period.

Signed-off-by: Sergei Barannikov <barannikov88@gmail.com>

[moco-tf] use GraphBuilder of moco (#8393)

This will update to use GraphBuilder and related classes from moco
Also updates that need header changes from this change

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Fix for TFFormattedGraph (#8392)

This will add TFPlaceholder as a alias of moco::TFPlaceholder to make TFFormattedGraph work correctly

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo] Fix EXO_THROW spacing (#8388)

This commit adds space ' ' to EXO_THROW macro.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco] Importer and ModelSignature (#8383)

This will introduce Importer and ModelSignature

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo] Remove exo_tflite target (#8378)

This commit removes unused and deprecated exo_tflite target library.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-integration-test] add Pad test (#8374)

This commit adds Pad test to moco-integration-test.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[moco] Placeholder as TFPlaceholder (#8375)

This will import TensorFlow Placeholder node as TFPlaceholder IR instead of loco::Pull

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tf2tflite] add Pad test (#8372)

This commit adds Pad test to tf2tflite.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[nncc] Rename "mocotest-onnx" project (#8356)

This commit renames "mocotest-onnx" project as oneco-integration-test,
following oneco.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[stdex] Require GTest only when TEST is enabled (#8358)

GTest is required only when ENABLE_TEST is set.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[exo] Support TensorConstantPad operation (#8309)

* [exo] Support TensorConstantPad operation

This commit supports TensorConstantPad operation in exo.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>
* change vector declaration method.

[moco-tf] Import Placeholder as TFPlaceholder (#8369)

This will import TensorFlow Placeholder node as TFPlaceholder IR instead of loco::Pull
- graph input shape setting has moved to Importer class as we cannot query node by name in Frontend

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[loco] Fix typo for PermutingCodec test (#8350)

This commit fixes typo for PermutingCodec test

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[neurun] Verbose output on error while model load (#8365)

Print message of thrown `std::exception` objects.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[moco] NodeShape of TFPlaceholder (#8360)

This will introduce tensor_shape method that returns TensorShape of TFPlaceholder node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Note for PlaceholderCanonicalizer (#8361)

This will add a note for PlaceholderCanonicalizer about GraphInputIndex

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[nnc] Switch to Use-based interface (#8325)

Replace `Operation::Input *` with `Operation::Use` and `getConsumers()` with `getUses()`.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[tfkit] use mio-tf (#8357)

This will let tfkit to use mio-tf so that one TensorFlow protobuf library is produced

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Canonicalize TFPlaceholder (#8354)

This will add and enable Canonicalize TFPlaceholder

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo] make_dw_filter_decode() helper (#8353)

This commit introduces make_dw_filter_decode() helper function

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[loco] Type and shape inference for DepthwiseFilterDecode (#8349)

This commit introduces type and shape inference for
DepthwiseFilterDecode

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco] Placeholder index (#8341)

* [moco] Placeholder index

This will add methods to set/get GraphInputIndex for TFPlaceholder

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* remove todo, add test

[exo] unit test cases for FuseReluPass (#8342)

This adds unit tests for FuseReluPass.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo] turning on a knob for FeatureBiasAdd conversion (#8334)

This turns on a knob for FeatureBiasAdd conversion.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo] Turning on knob to enabling fusion (of add/sub, relu/relu6) by default (#8333)

This turns on knobs to enabling fusion (of add/sub, relu/relu6) by default

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[loco] DepthwiseFilterDecode canonical IR (#8332)

This commit introduces DepthwiseFilterDecode loco canonical IR

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[tf2tflite] added NET_0035-37 (CBR related test) into test.lst (#8343)

This adds NET00_35, NET_0036, NET_0037 (CBR related test) into test.lst

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo] DepthwiseConv2D TFL dialect IR (#8320)

* [exo] DepthwiseConv2D TFL dialect IR

This commit introduces TFLDepthwiseConv2D, a TFL dialect IR for
DepthwiseConv2D. It also introduces its summary.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Add default value and test

[moco-integration-test] adding NET_0035, NET_0037 into test.lst (#8346)

This adds NET_0035, NET_0037 into test.lst.
0036 fails. An issue will be created.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[nnfw-api] Merge custom op API implementation (#8340)

Move custom op API implementation into neurun/api

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Update BuildGraph parameter (#8337)

Current BuildGraph get subgraph parameter, not interpreter

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco] Import Nodes (#8336)

This will add Import GraphBuilder Nodes to import TensorFlow NodeDef

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[loco] PemutingDecoder for DepthwiseFilter (#8331)

* [loco] PemutingDecoder for DepthwiseFilter

This commit introduces PemutingDecoder for DepthwiseFilter

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Remove unrelated

[moco-tf] use mio-tf (#8328)

* [moco-tf] use mio-tf

This will let moco-tf to use mio-tf so that one TensorFlow protobuf library produced and used

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* check mio_tf cond

[moco] Import requires (#8339)

This will update Import requires file

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] Update SimplifyDomainConversionPass comment (#8323)

This commit updates SimplifyDomainConversionPass comment to cover its
whole functionality

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[exo] Update make_filter_* comment (#8322)

This commit fixes typo and updates following helpers in GraphBlock.h:
- make_filter_encode
- make_filter_decode

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[plier-tf] use mio-tf (#8329)

* [plier-tf] use mio-tf

This will let plier-tf to use mio-tf so that one TensorFlow protobuf library is produced

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* check mio_tf cond

* match cmake if endif

[moco] Convert and TestHelper (#8330)

This will introduce Convert for Import and TestHelper for Import testing

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[nnpkg, circle] Define instance_norm in circle_schema.fbs (#8262)

It introduces instance_norm operator in circle schema.
Also, it updates circle_schema_generated.h for circle_loader.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[moco-tf] Redirect GraphBuilder to moco (#8327)

This will update GraphBuilder and GraphBuilderContext to redirect to moco for migration

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Relocate compute libraries (#8307)

Rename srcn to ncnn
Relocate compute libraries into compute/ (armcompute-ex, cker, ncnn)

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[loco] DepthwiseFilterDecoder (#8319)

This commit introduces DepthwiseFilterDecoder class.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco] Introduce TFPlaceholder IR (#8313)

* [moco] Introduce TFPlaceholder IR

This will introduce TFPlaceholder IR for Placeholder node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* add todo comment

Support Logistic in base loader (#7942)

- Add logistic operation on base loader

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

[loco] Fix typo for DepthwiseFilterEncoder comment (#8318)

This commit fixes typo in DepthwiseFilterEncode comment

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco] Include moco import (#8316)

This will update CMake to include import as sub project

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[mir] Refine operations constructors. (#8283)

Removed obsolete operations constructors in [mir].

Signed-off-by: Dmitry Gusev <d.gusev@partner.samsung.com>

[mir] Remove Operation::Input class (#8294)

Remove `Operation::Input` class and add lightweight `Use` class.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir] Remove unused functions (#8324)

Remove `replaceWithInputNode` and `replaceInputNodes` functions which were only used in unittests.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir] Introduce new fused bias constructors (#8186)

* Conv2DOp ctor (and fix copy)
* DepthwiseConv2DOp ctor (and fix copy)

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[base-loader] Change SubNode to MulNode in loadMul (#8311)

It fixes wrong code in loadMul.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[moco-tf] fix PadCanonicalizer (#8298)

* [moco-tf] fix PadCanonicalizer

This commit fixs PadCanonicalizer in moco-tf.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>
* add comment.

[moco] Import: Introduce GraphBuilder (#8306)

This will introduce moco-import target with GraphBuilder and related classes copied from moco-tf

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Refactor TF node graph builder test part 2 (#8297)

This will refactor test NOT to use Importer module of node graph builder from MaxPool to Tanh

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Refactor TF node graph builder test part 1 (#8296)

This will refactor test NOT to use Importer module of node graph builder from Add to FusedBatchNorm

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo] replace PhaseStrategy of TestHelper.h from Saturate to Restart (#8304)

This replaces PhaseStrategy of TestHelper.h from Saturate to Restart

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[res/TensorFlowTests] NET_0037 test case (#8302)

* [res/TensorFlowTests] NET_0037 test case

This adds NET_0037, Conv2D + ReLU + Add. By exo, Conv2D and ReLU are fused but Add isn't.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* simple description

[nnfw-gbs]  Merge build require and option setting (#8232)

- Remove python3 build require
- Require libarmcl-devel and python on aarch target only
- Merge build option setting for coverage build, test build and general build

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[exo] adding FuseReluPass into TFLOptimize.cpp (#8280)

This adds FuseReluPass into TFLOptimize.cpp. When a knob is on, this pass will run.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo] rewriting a function to handle Mixin (#8281)

Instread of trying to cast to a lot of type, code was re-written to try one-time cast to Mixin.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[lib/tflite] Update operation register (#8278)

Update register.h/cpp to match tflite v1.13.1
Support new operations introduce on v1.13.1
Support more upstream custom operation

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[exo] FuseConv2DAddSubPass checks Conv2D's fused activation function (#8268)

* [exo] FuseConv2DAddSubPass checks Conv2D's fused activation function

This enables FuseConv2DAddSubPass to check Conv2D's fused activation function
and perform fusion considering the status of fused activation function.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* remove unused var

* test case

* one more test case

* float act_func(...) -> void act_func(..)

[mio-tf] TensorFlow model library (#8274)

* [mio-tf] TensorFlow model library

This will introduce mio-tf as a separate project for accessing TensorFlow protobuf model file

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* merge cmake and apply comments

[neurun] Backend priority by OP_BACKEND_ALLOPS (#8124)

- Try backend loading from default backend setting, but not fail if backend is not exist
  - Fail if there is no loaded backend
  - Reorder to load acl(cl, neon) first
- If OP_BACKEND_ALLOPS is empty, use first loaded backend
- Set default OP_BACKEND_ALLOPS emptyy

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Rename moco-onnx as oneco (#8251)

Let's use moco only for TensorFlow Frontend modules.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[tf2tflite] Set shape information in ModelSignature (#8290)

This commit will enable setting shape information in `ModelSignature`
at `tf2tflite`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[nnkit-mocotf] Set shape information in ModelSignature (#8289)

This commit will enable setting shape information in `ModelSignature`
at `nnkit-mocotf`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[res] Tensorflow test file for Relu( Add( Conv2D, Scalar )) (#8282)

This adds Conv2D + Add + ReLU where Add's Const operand is a scalar (size 1 tensor).
To check exo handles this OK.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[moco-integration-test] Enable MergeConcatPass tests (#8288)

This commit will enable `MergeConcatPass` related tests
in `moco-integration-test`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[tf2tflite] Enable MergeConcatPass tests (#8287)

This commit will enable `MergeConcatPass` related tests

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[exo] Enable ConvertTensorConcat knob (#8286)

This commit will enable `ConvertTensorConcat` knob in `exo`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[ncc/interpreter] Fix Reshape operation for quantization (#8246)

* Made Reshape independent from DataType
* Fixed setting output quantization

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[nnc] Fix constant folding optimization for quantization (#8241)

* Fixed transpose for different DataType
* Added qunatization setting on optimization

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[nnc] Fix ModelAnalyzer.linearization test (#8291)

The test relied on specific order of graph traversal.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[moco] Update input accessor (#8279)

This will update to use correct input accessor for MaxPool and FusedBatchNorm node in moco
and remove temporary added accessors

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo] Add tests for TFLConcatenate (#8273)

This commit will add tests for `TFLConcatenate` in `exo`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[moco-tf] Introduce TFNodeBuildTester and apply BiasAdd test (#8272)

This will introduce TFNodeBuildTester test helper class for testing node's GraphBuilder class.
And applied BiasAdd test code is also shown to show how it works.

This change purpose is not to use Import class and to test only the GraphBuilder that
converts TensorFlow NodeDef to TF dialect node.

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo] Introduce MergeConcatNodePass (#8264)

* [exo] Introduce MergeConcatNodePass

This commit will introduce `MergeConcatNodePass`,
which fold multiple `TFLConcatenation` nodes with same axis

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>
* apply comments

* add FusedActFunc check

[locomotiv] Introduce TensorConstantPad (#8027)

* [locomotiv] Introduce TensorConstantPad

This commit introduces TensorConstantPad to locomotiv.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>
* change algorithm of pad interpretation.

* make constant value more general.

* change assert to validate.

* modify test.

* add assert for pad_data.

* constant input can be all operator.

* fix some wrong valiate and message.

[moco-tf] Remove Shape Type inference header (#8270)

This will remove deprecated Shape and Type inference header use that of moco

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Update input accessor (#8276)

This will update to use correct input accessor for MaxPool and FusedBatchNorm node and related variables

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tool] Support SquaredDifferene in select operator (#8263)

- Support SquaredDifferene in select operator
- Add comment: not supporting options on schema v1.13.1

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>