Remove exceptional case in python style check (#5917)

Remove skip compiler directory check on python style check

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[neurun] Enable handling subtensors for notify{First|Last}Uses (#5915)

Enable handling subtensors for notify{First|Last}Uses by preVisit and
postVisit.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

Format check for diff file with master (#5916)

This commit allow user to check format diff files with master via CHECK_DIFF_ONLY environment variable
Use this feature on pre-push githook

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[neurun] Selective HI_PERF_CPU backend build (#5913)

This commit allows users to diable HI_PERF_CPU backend build via
BUILD_NEURUN_HI_PERF_CPU_BACKEND option.

Please note that this commit does not change the default behavior.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[neurun] Apply acl internal buffer manager into KernelGenerator (#5908)

Apply acl internal buffer manager into KernelGenerator on cl/neon

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

[neurun] Append acl_memory_manager method into TemplTensorBuilder (#5887)

Append acl_memory_manager method into TemplTensorBuilder to be used for
MemoryManager's internal buffer manager

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

[neurun] Revise planTensors of Linear (#5882)

Revise planTensors of Linear on neurun

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

[mocotest-tf] Add TF_SMALL_NET_0005 test (#5888)

This test is consisted of `Reshape` and `Shape` operation.

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[loco] Fix canonical node list (#5893)

This will fix canonical node list to match alphabetical order of foward

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tf2tflite] Enable Relu6_000 test (#5886)

tf2tflite test framework now checks Relu6_000 automatically.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Introduce AvgPool Canonicalizer (#5819)

This will introduce AvgPool node Canonicalizier

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[neurun] Append preVisit and postVisit to ITensorBuilder (#5879)

Append preVisit and postVisit to ITensorBuilder for #5642

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

[exo-tflite] Support ReLU6 (#5884)

TFLExporter is now able to export ReLU6 node as T/F Lite RELU6
operation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Revise Indentity GraphBuilder (#5855)

This will revise Identity node GraphBuilder to either convert to TF or Canonical dialect by a knob

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[plier/tf] Move more func from current version of moco-tf Convert.h (#5869)

* [plier/tf] Move more func from current version of moco-tf Convert.h

This commit moves more func from current version of moco-tf Convert.h.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* add require(loco). format checked

* error when trying to convert DT_BOOL to loco::DataType

* fix wrong modification

* fix wrong modification

[loco] Support ReLU6 type inference (#5877)

Now, type inference framework supports ReLU6 node.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[plier/tf] remove macro that does not fit with plier-tf (#5871)

Remove a macro, which has no relation with TF and plier-tf.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[res] Add test for endmost part of Inception V3 (#5834)

* [res] Add test for endmost part of Inception V3

This commit adds test case for 'the Epilogue', or the endmost part of
Inception V3 comprised of Squeeze, Reshape, Shape and Softmax.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Style consistency

[neurun] Make visitor for Subgraph override in KernelGenerator (#5876)

Make visitor for Subgraph override in KernelGenerator for preVisit and
postVisit in the future

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

[moco-tf] Rename file and GraphBuilder name for MaxPool (#5851)

This will rename file and GraphBuilder name for MaxPool to follow TensorFlow GraphDef

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Code refactoring Scheduler except makeRank method (#5822)

Split Scheduler::scheduleNode into smaller ones, created
const Graph *_graph, did const some temp variables

Signed-off-by: Dilshodzhon Poshshoev <d.poshshoev@samsung.com>

[exo-tflite] Remove unused type inference code (#5859)

exo-tflite now reuses type inference framework that loco provides.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Introduce TFSqueeze dialect node (#5843)

* [moco-tf] Introduce TFSqueeze dialect node

This commit introduces TFSqueeze dialect node.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Use 'squeeze_dims' instead of 'axis'

[neurun] Add custom operation node (#5598)

Used as a base node for all custom operations. For general design see at #5411

Signed-off-by: Vladimir Plazun <v.plazun@samsung.com>

[neurun] Remove unused prepare method (#5850)

IFunction interface declares prepare method, but no code invokes this
method.

Let's remove this used prepare method.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Remain unified format check script only (#5861)

Remove nncc/nnfw format check script
Remove all .FORMATCHECKED
Add .FORMATDENY into some directories to ignore format check

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-tf] Run for active nodes for FixPad and FixShape (#5862)

This will fix to run for active nodes from outputs for FixPadding and FixShape transformations

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Decouple ONNX frontend (#5755)

Remove dependencies of `ONNXImporterImpl` on other `nnc` components.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Decouple caffe2 frontend (#5754)

Remove dependencies of `Caffe2Importer` on other `nnc` components.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Decouple caffe frontend (#5753)

Remove dependencies of `CaffeImporter` on other `nnc` components.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Replace githook and install (#5860)

Replace githook to infra/git-hooks
Replace githook install command to infra/command
Update path in script

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Decouple TFLite frontend (#5752)

Remove dependencies of `TfliteImporter` on other `nnc` components.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Reformat mir component (#5847)

Reformat code according to coding style.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[moco-tf] Introduce TFReshape dialect node (#5863)

This commit introduces TFReshape dialect node.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[mir2loco] Introduce MIR to Loco transformer (#5751)

* Implemented core structure
* Supported 2 ops: Input and Output
* Unit test for input and output operations

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[moco-tf] Introduce IdentityCanonicalizer (#5854)

* [moco-tf] Introduce IdentityCanonicalizer

This will introduce Identity node Canonicalizer

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* fix comment

* another fix comment

Unify PermuteLayer::runTempl and use Object::access (#5778)

For all types of PermuteNode::Type, runTempl does the same calculation.
The only difference is for rank==4. Unify it and move switch for type
into rank==4 case

Signed-off-by: Dilshodzhon Poshshoev <d.poshshoev@samsung.com>

Fix format script bug (#5858)

Fix format script bug checking environment variable

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Change tab size in format script (#5852)

Fix tab size to 2 in format script
Same tab size with other scripts in infra/nncc/command and infra/nnfw/command

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-tf] Fix test of fix shape and pad transform (#5848)

This will set outputs of test graph for FixShape and FixPadding transform

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Constant Folding Transform for Canonical Dialect (#5759)

* [moco-tf] Constant Folding Transform for Canonical Dialect

This commit adds constant folding transform for canonical dialect, plus a test and build files.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* revised

Update ExecutorFactory comments (#5844)

Update outdated comments in `ExecutorFactory.cc`.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[moco-tf] Remove knob condition for Canonicalizer (#5833)

This will remove condition with knob for checking for specific TF dialect node
With this change there should be no TF dialects after Canonicalization

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Introduce TFIdentity IR (#5839)

This will introduce TFIdentity IR for TensorFlow Identity node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] ShapeInferenceData equality operator (#5845)

This commit introduces equality operator for ShapeInferenceData.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-tf] Remove unused header (#5841)

"CompilerArgs.h", which is not used, was removed.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[moco-tf] Fix transformation changed info (#5836)

This will fix to show transformation has change the graph where it was like
once changed is true then all other transformations in a phase will show as changed

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[locoex/custom op] enhancing locoex custom op (#5810)

Now customop node can store dtype info. Two methods are defined as const.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[neurun] Unify pull and push of Sink and Source (#5808)

* Unify pull and push of Sink and Source

All calculations are the same except the case rank==4

Signed-off-by: Dilshodzhon Poshshoev <d.poshshoev@samsung.com>
* Remove pushUnif and pullUnif from highest level base

Signed-off-by: Dilshodzhon Poshshoev <d.poshshoev@samsung.com>
* Remove "override"

Signed-off-by: Dilshodzhon Poshshoev <d.poshshoev@samsung.com>

Remove setInput and setOutput in IExecutor (#5832)

Remove setInput/setOutput in IExecutor and ExecManager
Remove deprecated setInput/setOutput in ExecutorBase
Internally used setInput/setOutput in ExecutorBase: rename to source/sink and change to private

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Remove PlanBuilder (#5838)

Now `PlanBuilder` is redundant class which just makes harder to read
code. So its behavior is moved to `createLinearExecutor`, just like
`createDataflowExecutor` does.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Update format check script (#5829)

From nncc format checker
- Update clang-format tool checking
- Return false if git diff remain
- Support running format check from outside nnfw repo directory

Script update
- Merge tool check and file check function
- Move environment variable check for c++/python check
- Remove git submodule check
- Update file search condition to find c++ and python
- Use bracket for script variable
- Add function keyword

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-tf] setup_output_node for unittest (#5828)

* [moco-tf] setup_output_node for unittest

This will introduce setup_output_node() in test helper to add Push node as graph outputs

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* edit comment

Enable gtest for two live execution instance (#5831)

Enable gtest to test multiple live execution instance using one executor

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-tf] default name for TFNodeSummaryBuilder (#5817)

This will change to show default name for TFNodeSummaryBuilder and not to break while testing cause of unimplementation

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Set thread count for tflite_run (#5830)

Set thread count for tflite_run by using THREAD environment variable

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Support resize input in tflite_run (#5821)

Support resize input in tflite_run by using --ishapes argument

Example:
./Product/out/bin/tflite_run --ishapes 1 90 160 3 --tflite 131_x2_deconv.tflite

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[locomotiv] Reshape node accepts tensor only (#5798)

Reshape loco node is defined to accept tensor only. This commit corrects
this fact on locomotiv.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

Rename model to graph which is a Graph (#5820)

`_model` was misnamed and could be confusing since we use "Model" and
"Graph" differently in our source so this commit renames it to `_graph`.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[exo-tflite] Use loco type inference framework (#5807)

This commit revises the implementation of exo-tflite type inferene framework
by using loco type inference framework.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[locop] Define << operator and dependent class in the same namespace (#5800)

The current implementation defines operator<< on loco::TensorShape
in anonymous namespace, which results in undefined behavior when it
is invoked from external libraries (such as pp).

This commit introduces FormattedTensorShape as a wrapper to mitigate
this undefined behavior.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[neurun] Elimination data transfer assumption in Scheduler (#5818)

Eliminate multiplying data tranfer time by 2 and calculate
free time slot for permutation

Signed-off-by: Dilshodzhon Poshshoev <d.poshshoev@samsung.com>

Apply coding style to compiler modules (#5812)

Apply coding style to
- cli
- moco-onnx
- nnop

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Remove IExecutor's setInput and setOutput call (#5785)

* Remove IExecutor's setInput and setOutput call

Pass gathered input/output description when call IExecutor's executor() instead of call setInput and setOutput in IExecutor interface

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>
* Handle optional input/output in ExeucotrBase

[i5diff] Use std::vector instead of variable-length array (#5795)

This commit updates i5diff to use std::vector instead of variable-length
array. This change resolves "variable-sized object may not be initialized"
warning.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Apply python coding style to res (#5816)

Apply python coding style to python scripts in res/

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Introduce nnas command script (#5815)

Introduce 'nnas' command script to support unified command.
Call nnas fomart command in nnfw format-check command and remove workaround in 'nnfw'.
'nnas' is almost same with 'nncc' or 'nnfw'.
Remove deprecated NNAS_SCRIPT_PATH.
Relocate import() function.

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Replace and rename format checker (#5805)

Replace nnfw format checker to infra/command
Rename to format

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Unify copyInit and permuteInit of IConstantInitializer (#5803)

All calculations are the same except the case rank==4

Signed-off-by: Dilshodzhon Poshshoev <d.poshshoev@samsung.com>

Rename scripts with execution permission (#5801)

Rename to have extension '.sh' if script file has execution permission

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Simplify BackendSet implementation (#5792)

Simplify `BackendSet` using templatized implementation `util::Set<T>`.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[moco-tf] introduce as_feature_shape (#5796)

* [moco-tf] introduce as_feature_shape

This will introduce as_feature_shape for ShapeInferenceData that will return converted feature shape if it's tensor shape with given data layout

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* use TFDataLayout

Move Scheduler.h into private directory (#5789)

Move `Scheduler.h` into private directory since this file does not have
to be public.

Fix #5776

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[moco-tf] Rename AvgPool (#5802)

This will rename related with AvgPool node
- Canonical AvgPool2D is as-is
- TFAvgPool2D to TFAvgPool
- Rename files as it's import of TensorFlow AvgPool
- Change related tests

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Inroduce WindowData annotation (#5797)

This will introduce WindowData to annotate temporary window attribute for Pooling nodes

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[locomotiv] Use array instead of set for test Session (#5779)

* [locomotiv] Use array instead of set for test Session

To avoid undefined behavior, this commit use array instead of set to
make Session from iterator range.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Use aggregate initializer to be simple

Introduce GeneralConfigSource (#5784)

Introduce `GeneralConfigSource` which is a derivative of `IConfig`.
Unlinke `EnvConfigSource`, this provides `set` method so users can call
it via API.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Add scheduler for Linear Executor (#5775)

* Add scheduler for Linear Executor

Add scheduler for Linear executor and fix calculating
free time for permutation of current node's inputs

Signed-off-by: Dilshodzhon Poshshoev <d.poshshoev@samsung.com>
* Remove data transfer time related changes

Signed-off-by: Dilshodzhon Poshshoev <d.poshshoev@samsung.com>

Update gtest for two live execution instance (#5719)

* Update gtest for two live execution instance

Update ExecInstance gtest to use execution instance
Fix bug using two executor
Add gtest for for two live execution instance using one executor, but disable

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>
* Fix memory leak

[loco] Introduce CanonicalTypeInferenceRule class (#5768)

This commit introduces CanonicalTypeInferenceRule class which implements
TypeInferenceRule interface for loco canonical dialect.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fix format check warning message by symbolic link (#5777)

Fix to ignore symbolic link permission check

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Fix boost source download bug (#5763)

Fix using boost source download flag DOWNLOAD_BOOST bug

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-tf] Add TFAvgPool2D IR and related (#5769)

This will add TFAvgPool2D IR and related minumum codes for build

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[locomotiv] Session constructable with range (#5740)

* [locomotiv] Session constructable with range

This commit introduces Session constructor with iterator range and
related test.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Review fix: to use std-style convention

[mocotest-tf] enable TF_SMALL_NET_0003 test (#5766)

This will enable TF_SMALL_NET_0003 test that has Conv2D + FusedBatchNorm

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[mocotest-tf] Enable tests that pass (#5767)

This will enable tests that pass, copied from tf2tflite test items

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Relocate scrips/standalone (#5765)

Move scripts/standalone to infra/scripts
Make symbolic link scripts/standalone to infra/script for workaround CI infra

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-tf] Enable transforms for FusedBatchNorm node (#5762)

This will enable to resolve FusedBatchNorm node to be fused to preceding nodes

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Move doc for 'test.info' into tfinfo dir (#5745)

* Move doc for 'test.info' into tfinfo dir

This commit moves documentation on 'test.info' from
'mocotest-tf' into 'tfinfo' directory, as it seems more suitable.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Fix title and directory

Introduce a func that initializes inputs by default (#5743)

This commit introduces defaultInit func that initializes inputs by default.
  - Introduce defaultInit func
  - Remove registering initializer that initializes inputs from ConstantInitializer

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

DR1 project requirements document (#5633)

* DR1 project requirements document

Added DR1 project requrements document

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>
* remove unnecessary data

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>
* rethink component list

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>
* - Update Interpreter description
- Add Heterogeneous execution requirements

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>
* add requirement for optimizer

* review fixes

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>
* - Add custom-op related requirement
- Set optimization requirements

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>
* revert mistake change

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Update README.md (#5734)

* Update README.md

- Update notice following repo integration.

Signed-off-by: Sung-Jae Lee <sj925.lee@samsung.com>
* Add links.

- Recovering accidentally deleted link information

Signed-off-by: Sung-Jae Lee <sj925.lee@samsung.com>

[loco] Implement Dialect-agnostic Type Inference Framework (#5732)

This commit introduces basic infrastructure for dialect-agnostic type
inference, and implements its core framework.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnkit] Fix nnkit project README (#5746)

This commit fixes nnkit README to use 'compiler' instead of 'contrib'.
It also corrects changed library directions in examples.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[locomotiv] Use signed variable as intended (#5741)

Previously execution for Conv2D used unsigned variable for one
intended as signed one. This commit now fix this to use unsigned
variable correctly.

Unused headers also excluded.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

Move Dockerfile for nncc into infra directory (#5744)

Previously nncc Dockerfile was placed in home directory. This commit
moves the Dockerfile into 'infra/nncc' directory. Related documentation
also edited.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[res/TensorFlowTests] test case network for constant folding (#5739)

This commit adds a network test case for constant folding.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[moco/tf] Make import as TF dialect (#5729)

This will switch Knobs to import as TF dialects for BiasAdd, Const and Conv2D and turn on Canonicalize for these by default

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[locomotiv] Clarify layout rule as documentation (#5742)

This commit updates documentation to state its rule on internal data
layout representation.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

Fix format error in ShapeInference (#5733)

Fix format error in runtime ShapeInference

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>