Fix goals for 2019 (#5994)

Fix goals for 2019 in SRS and SDD documents

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Add gtest to prepare multithread execution instance (#5898)

Introduce gtest to prepare multithread execution instance using one executor

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-tf] Replace assert in FuseBinaryIntoPreceding (#6009)

This will replace assert with a log for unknown as it is now know case and can be handled by other transforms

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[neurun] Remove hiding _indexed_ranks from Dataflow (#5926)

_indexed_ranks is a protected member in both ExecutorBase and Dataflow.
ExecutorBase::setIndexedRanks() sets ExecutorBase::_indexed_ranks,
but methods in Dataflow uses Dataflow::_indexed_ranks and is always nullptr

Signed-off-by: Dilshodzhon Poshshoev <d.poshshoev@samsung.com>

[moco-tf] Import as TFAvgPool with a knob (#6006)

This will add a Knob to import AvgPool node as TFAvgPool or AvgPool2D

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco/tf] DepthwiseConv2D FixShapeTransform bug fix. (#6003)

It needs to be modified for getting right stride data.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[neurun] Enable {CL|NE}DepthwiseConvolutionLayer3x3 on KernelGenerator (#6008)

Enable {CL|NE}DepthwiseConvolutionLayer3x3 on each KernelGenerator. The
only CLDepthwiseConvolutionLayer3x3 has the parameter for the internal
buffer memory manager.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

[moco/tf] Add TFNodeSummaryBuilder for DepthwiseConv2dNative (#6004)

This commit adds a TFNodeSummaryBuilder for DepthwiseConv2dNative.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[neurun] Enable AclLinearMemoryManager on LinearExecutor (#5922)

Enable AclLinearMemoryManager to acl_cl and acl_neon  on LinearExecutor

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

[moco-tf] Fix shape and pad for TFAvgPool (#5996)

This will implement FixShape and FixPadding for TFAvgPool node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[neurun] Fix preVisit/postVisit for double-concats (#5977)

* [neurun] Fix preVisit/postVisit for double-concats

Fix preVisit and postVisit of TemplTensorBuilder to pass
double-concats(two consecutive concats) of
inception_v3_2018_04_27.tflite

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>
* Fix comment

Mark NNPACK as NOT FOUND if PeachpySource is missing (#5995)

The current implement says that NNPACK is available even though
PeachpySource is missing.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Set PeachpySource as NOT FOUND on failure (#5966)

The current implementation of PeachpySource package reports SUCCESS
even when source code generation fails.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Revise importer test (#5960)

This will revise importer test to do test with TFIdentity IR that uses Identity node as a test material

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Move vector<int64_t> streamout to LogHelper (#5981)

This will move vector<int64_t> streamout of TFFormattedGraph to LogHelper

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Import Reshape operation as TF dialect (#5976)

This commit implements import stage of tensorflow Reshape operation to
TFReshape node.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-tf] Introduce as_tensor_shape with FeatureShape (#5973)

This will introduce ShapeInferenceData helper to set as TensorShape with FeatureShape and TFDataLayout

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Fix #5978 (#5989)

Adjust tests to take into account recent changes in compiler passes.
Fixes #5978.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir/Caffe importer] Introduce `importModel` method (#5986)

Add `importModel` method as a future replacement for `import` and `createIR` methods.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[neurun] Add fine for scheduling into another backend (#5880)

Assigning to another backend will cause creating a subgraph:
one for permutation and one more if it was mergable node
if the same backend was assigned

Signed-off-by: Dilshodzhon Poshshoev <d.poshshoev@samsung.com>

[mir/TFLite importer] Introduce `importModel` method (#5988)

Add `importModel` method as a future replacement for `import` and `createIR` methods.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir/ONNX importer] Introduce `importModel` method (#5987)

Add `importModel` method as a future replacement for `import` and `createIR` methods.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir/Caffe2 importer] Introduce `importModel` method (#5985)

Add `importModel` method as a future replacement for `import` and `createIR` methods.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[neurun] Add custom kernel registry (#5597)

Add custom kernel registry used to keep track of custom kernels used by specific backend( see #5411 )

Signed-off-by: Vladimir Plazun <v.plazun@samsung.com>

[nnc] Join `import` and `createIR` methods into `importModel` (#5984)

Methods `import` and `createIR` are always used together. Join them to simplify usage.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Fix unmatched result of tconv in NCHW (#5968)

This commit fixes unmatched result of tconv in NCHW
  - Change weights of tconv to OIHW in case of NCHW

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[moco-tf] Summary for TFReshape node (#5979)

This commit adds summary for TFReshape node

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-tf] Enable AvgPoolCanonicalizer (#5980)

This will add AvgPoolCanonicalizer to Canonicalizer list

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[loco] Introduce const Graph getters (#5974)

Now, Graph provides const "nodes", "inputs", "outputs" methods.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[loco] Remove unused input_nodes helper (#5972)

* [loco] Remove unused input_nodes helper

This commit removes unused input_nodes helper. This helper is currently
unused, but its presence makes it difficult to decouple loco core from
loco canonical.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Remove the implementation

[loco] Input/Output Index from Push/Pull node (#5961)

* [loco] Input/Output Index from Push/Pull node

This commit revises Push/Pull node to store associated Graph-level
Input/Output index in it.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix typos

[moco-tf] Introduce TFMaxPool IR (#5975)

This will introduce TFMaxPool IR in TensorFlow Dialect for MaxPool node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[neurun] Always notify ExecutionObserver (#5958)

Now, DataflowExecutor notifies the beginning and end of the whole
execution whenever any observer exists (even when profiling mode is
disabled).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fix format error in moco-tf (#5970)

Fix format error in moco-tf's FixShapeTransform.cpp

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco/tf] Introduce TFDepthwiseConv2D IR. (#5912)

* [moco/tf] Introduce TFDepthwiseConv2D IR.

This commit introduce TFDepthwiseConv2D IR.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>
* apply 'Native' keyword.

Remove sinks and sources member in ExecutorBase (#5885)

Remove sinks and sources member in ExecutorBase and source/sink methods return unique pointer
Move unused input checking into execute method
Remove unused parameter for source/sink

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[neurun] Remove unnecessary class and verbose code (#5930)

Remove unnecessary class(LinearAclMemoryManager) and verbose code

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

Unified dockerfile (#5925)

Merge infra/nncc/Dockerfile, infra/nnfw/docker/Dockerfile, and infra/nnfw/docker/Dockerfile_tizen into infra/docker/Dockerfile
- Base ubuntu version: 16.04
- Use apt-get
- Native/cross gcc/g++ version: 6.x
- Update nncc/nnfw docker build documents
- Move infra/nnfw/command/build-docker command into infra/command and change name to build-docker-image

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Fix CRLF new line (#5959)

Fix CRLF new line checking error by 19_NN_Compiler_and_Return_SDD.rst

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[neurun] Rename functions in TemplTensorBuilder (#5943)

Function `start_lifetime` and `end_lifetime` could be misleading sine
they may or may not do. So this commit renames them to `def_handler` and
`use_handler`, respectively.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Mock ACL NEON nodes for further implementations (#5942)

* Add mock functions for ACL NEON nodes

Mock: Squeeze, StridedSlice, Transpose, Div, Exp, ReduceMax and Comparison

Signed-off-by: Sizov Nikita <n.sizov@samsung.com>
* Use unused variables in mocked functions

Signed-off-by: Sizov Nikita <n.sizov@samsung.com>

Remove .FORMATDENY files from properly formatted directories (#5945)

Remove.FORMATDENY files from mir_{caffe2,caffe,onnx,tflite}_importer directories which have been recently formatted.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Support activation operations for acl neon (#5932)

This commit supports activation operations for acl neon.
  - Abs, ReLU*, SQRT

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[res/TensorFlowTests] Modify Custom Op user data (#5941)

This commit adds `dtype` of custom op, which will be accessed for TypeInference.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

DR1 RNN requirements (#5772)

* DR1 RNN requirements

Add requirements related to RNN networks
remove redundant requirements

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Dr1 development document (#5646)

* Updated SDD document for DR1

- Added more tasks
- Changed formatiing of task table
- Responsible person is changed

* change development plan, fix responcibilities, remove NNCC repo mentions
* add control flow related item
* remove redundant tizen requirements
* relax control flow requirements
* fix naming of components

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[moco-tf] remove ModelMetainfo.proto (#5940)

This file, a schema for user input, is now moved into tf2tflite.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[moco-tf] Implement shape inference for TFReshape (#5914)

This commit implements shape inference for TFReshape on fix_shape().

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[loco] Support traversal to Graph from Node (#5910)

This commit extends Node class to provide "graph" method which returns
a pointer to associated Graph object.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Extract importers out of nnc (#5900)

Move sources of Caffe, Caffe2, TensorFlow Lite, ONNX importers from `nnc` to top-level `compiler` directory.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir2loco] Support Pooling operations (#5846)

* Support Pooling operation and tests for 2 ops

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[nnc] Cleanup after separating importers (#5902)

Importers have been extracted into independent components. This is a follow-up cleanup.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Reformat mir importers (#5904)

Reformat code according to coding style.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[neurun] Fix load_model_from_file (#5928)

load_load_from_file should load model from {nnpackage path + model path}.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[neurun] Remove unnecessary methods of ITensorBuilder (#5923)

Remove unnecessary methods of ITensorBuilder, cpu/TensorBuilder and
TemplTensorBuilder

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

[neurun] Introduce OperationIndexMap as Operand has (#5918)

There are a lot of use `std::unordered_map<model::OperationIndex, T>`
So, introducing map alias like Operand has is logical

Signed-off-by: Dilshodzhon Poshshoev <d.poshshoev@samsung.com>

[neurun] Generalize ExecutionObserver interface design (#5867)

The current design declares "uploadExecTime" which is a bit specific to
dedicated observer implementation.

This commit revises ExecutionObserver to hook on the whole model execution,
and ProfileObserver to invoke "uploadExecTime" when model execution
ends.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Apply plier-tf to AvgPoolCanonicalizer (#5921)

This commit applies plier-tf to AvgPoolCanonicalizer.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-tf] Applying plier-tf (#5891)

This commit applies `plier-tf` into `moco-tf`.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

Remove exceptional case in python style check (#5917)

Remove skip compiler directory check on python style check

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[neurun] Enable handling subtensors for notify{First|Last}Uses (#5915)

Enable handling subtensors for notify{First|Last}Uses by preVisit and
postVisit.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

Format check for diff file with master (#5916)

This commit allow user to check format diff files with master via CHECK_DIFF_ONLY environment variable
Use this feature on pre-push githook

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[neurun] Selective HI_PERF_CPU backend build (#5913)

This commit allows users to diable HI_PERF_CPU backend build via
BUILD_NEURUN_HI_PERF_CPU_BACKEND option.

Please note that this commit does not change the default behavior.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[neurun] Apply acl internal buffer manager into KernelGenerator (#5908)

Apply acl internal buffer manager into KernelGenerator on cl/neon

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

[neurun] Append acl_memory_manager method into TemplTensorBuilder (#5887)

Append acl_memory_manager method into TemplTensorBuilder to be used for
MemoryManager's internal buffer manager

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

[neurun] Revise planTensors of Linear (#5882)

Revise planTensors of Linear on neurun

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

[mocotest-tf] Add TF_SMALL_NET_0005 test (#5888)

This test is consisted of `Reshape` and `Shape` operation.

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[loco] Fix canonical node list (#5893)

This will fix canonical node list to match alphabetical order of foward

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tf2tflite] Enable Relu6_000 test (#5886)

tf2tflite test framework now checks Relu6_000 automatically.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Introduce AvgPool Canonicalizer (#5819)

This will introduce AvgPool node Canonicalizier

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[neurun] Append preVisit and postVisit to ITensorBuilder (#5879)

Append preVisit and postVisit to ITensorBuilder for #5642

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

[exo-tflite] Support ReLU6 (#5884)

TFLExporter is now able to export ReLU6 node as T/F Lite RELU6
operation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Revise Indentity GraphBuilder (#5855)

This will revise Identity node GraphBuilder to either convert to TF or Canonical dialect by a knob

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[plier/tf] Move more func from current version of moco-tf Convert.h (#5869)

* [plier/tf] Move more func from current version of moco-tf Convert.h

This commit moves more func from current version of moco-tf Convert.h.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* add require(loco). format checked

* error when trying to convert DT_BOOL to loco::DataType

* fix wrong modification

* fix wrong modification

[loco] Support ReLU6 type inference (#5877)

Now, type inference framework supports ReLU6 node.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[plier/tf] remove macro that does not fit with plier-tf (#5871)

Remove a macro, which has no relation with TF and plier-tf.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[res] Add test for endmost part of Inception V3 (#5834)

* [res] Add test for endmost part of Inception V3

This commit adds test case for 'the Epilogue', or the endmost part of
Inception V3 comprised of Squeeze, Reshape, Shape and Softmax.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Style consistency

[neurun] Make visitor for Subgraph override in KernelGenerator (#5876)

Make visitor for Subgraph override in KernelGenerator for preVisit and
postVisit in the future

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

[moco-tf] Rename file and GraphBuilder name for MaxPool (#5851)

This will rename file and GraphBuilder name for MaxPool to follow TensorFlow GraphDef

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Code refactoring Scheduler except makeRank method (#5822)

Split Scheduler::scheduleNode into smaller ones, created
const Graph *_graph, did const some temp variables

Signed-off-by: Dilshodzhon Poshshoev <d.poshshoev@samsung.com>

[exo-tflite] Remove unused type inference code (#5859)

exo-tflite now reuses type inference framework that loco provides.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Introduce TFSqueeze dialect node (#5843)

* [moco-tf] Introduce TFSqueeze dialect node

This commit introduces TFSqueeze dialect node.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Use 'squeeze_dims' instead of 'axis'

[neurun] Add custom operation node (#5598)

Used as a base node for all custom operations. For general design see at #5411

Signed-off-by: Vladimir Plazun <v.plazun@samsung.com>

[neurun] Remove unused prepare method (#5850)

IFunction interface declares prepare method, but no code invokes this
method.

Let's remove this used prepare method.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Remain unified format check script only (#5861)

Remove nncc/nnfw format check script
Remove all .FORMATCHECKED
Add .FORMATDENY into some directories to ignore format check

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-tf] Run for active nodes for FixPad and FixShape (#5862)

This will fix to run for active nodes from outputs for FixPadding and FixShape transformations

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Decouple ONNX frontend (#5755)

Remove dependencies of `ONNXImporterImpl` on other `nnc` components.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Decouple caffe2 frontend (#5754)

Remove dependencies of `Caffe2Importer` on other `nnc` components.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Decouple caffe frontend (#5753)

Remove dependencies of `CaffeImporter` on other `nnc` components.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Replace githook and install (#5860)

Replace githook to infra/git-hooks
Replace githook install command to infra/command
Update path in script

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Decouple TFLite frontend (#5752)

Remove dependencies of `TfliteImporter` on other `nnc` components.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Reformat mir component (#5847)

Reformat code according to coding style.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[moco-tf] Introduce TFReshape dialect node (#5863)

This commit introduces TFReshape dialect node.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[mir2loco] Introduce MIR to Loco transformer (#5751)

* Implemented core structure
* Supported 2 ops: Input and Output
* Unit test for input and output operations

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[moco-tf] Introduce IdentityCanonicalizer (#5854)

* [moco-tf] Introduce IdentityCanonicalizer

This will introduce Identity node Canonicalizer

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* fix comment

* another fix comment

Unify PermuteLayer::runTempl and use Object::access (#5778)

For all types of PermuteNode::Type, runTempl does the same calculation.
The only difference is for rank==4. Unify it and move switch for type
into rank==4 case

Signed-off-by: Dilshodzhon Poshshoev <d.poshshoev@samsung.com>

Fix format script bug (#5858)

Fix format script bug checking environment variable

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Change tab size in format script (#5852)

Fix tab size to 2 in format script
Same tab size with other scripts in infra/nncc/command and infra/nnfw/command

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-tf] Fix test of fix shape and pad transform (#5848)

This will set outputs of test graph for FixShape and FixPadding transform

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Constant Folding Transform for Canonical Dialect (#5759)

* [moco-tf] Constant Folding Transform for Canonical Dialect

This commit adds constant folding transform for canonical dialect, plus a test and build files.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* revised