[moco-tf] TFReshape Canonicalization (#6005)

* [moco-tf] TFReshape Canonicalization

This commit implements Canonicalization for TFReshape. Currently it only
supports fixed reshape case.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* TODO comment to support loco ConstGen node

Fix invalid params of CLTransposeConv (#6057)

This commit fixes invalid params of CLTansposeConv.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[loco] Use data type attribute in Graph-level input (#5999)

This commit revises "Pull" node implementation to use Graph-level
"dtype" attribute.

This commit includes some workaround not to impact the current clients.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[neurun] Rename "make_subgraph" helper (#6042)

Graph::lower internally declares "make_subgraph", but its role is more
than subgraph construction.

This commit renames "make_subgraph" as "append_fresh_single_op_subgraph"
to make it easy to understand its behavior.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Support TFAvgPool for Logging (#6045)

This will add TFAvgPool for TFNodeSummaryBuilder thus dump of graph shows TFAvgPool attributes

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Canonicalizer for MaxPool (#6027)

This will introduce MaxPoolCanonicalizer to canonicalize MaxPool node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[loco] Introduce EltwiseAdd IR (#6026)

* [loco] Introduce EltwiseAdd IR

This will introduce EltwiseAdd IR for Elementwise Add operation

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* use lhs, rhs

* remove Tensor in comment

DR1 Detailed level documentation (#5896)

* DR1 Detailed level documentation

Add detailed level documentation for DR1 milestone

* update 2019 goals
* initial structure description
* add compiler flow
* add description of components including compiler and runtime
* add description to high level directories, and add line breaks
* remove redundant data, fix references
* fix typos and wording
* DR1 DLD SE member in-charge review and fixes
  - Expanded OSS pre-review table with new columns
  - Added SW Code Structure using `tree` tool
  - Updated Revision history and Table of contents

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

DR1 sw requirement document fixes (#5992)

* DR1 sw requirement document fixes

- Fix sw requirement document number version
- Fixed non-function requirements numeration

Signed-off-by: Aleksei Kondrashov <a.kondrashov@partner.samsung.com>

Add High Level Documentation (#5665)

* Add High Level Documentation

- Added image of overall architecture of project
- Added image with data flow through the pipeline
- Added Core Structure component
- Added and mapped non-functional requirements
- Updated revision history

* add overview of components
* add initial version of API secton
* add IR description
* add runtime behavior
* add structural description of IRs
* add compiler structure and behavioral description
* add structure diagram about nn runtime
* add constraints and scope items
* add Traceability Matrix
* add table of contents and items required by template
* add description about gray and white modules on component diagram
* update images to eliminate ambiguous interpretation
* change heading, rename nn Compute component
* break sections in more items
* bring back nnapi part
* rename NNFW IR into neurun IR and fix naming of other components
* fix formatting of subsystem description & abbreviations
* remove redundant item from compiler description
* fix typos and wording

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[moco-tf] Fix shape for TFMaxPool (#6025)

This will implement FixShape for TFMaxPool node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Fix pad for TFMaxPool (#6023)

This will implement FixPad for TFMaxPool node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[mir] Add support for 0-dimensional tensors (#6039)

Fixes compilation error of SuperResolution and StyleTransfer networks.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir/TFLite importer] Cleanup after changing interface (#6036)

* Remove `cleanup` method.
* Move `import` and `createIR` methods into private section.
* Use `make_unique` to deal with `unique_ptr`s.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir/ONNX importer] Cleanup after changing interface (#6035)

* Move `import` and `createIR` methods into private section.
* Use `make_unique` to deal with `unique_ptr`s.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir/Caffe importer] Cleanup after changing interface (#6034)

* Remove `cleanup` method.
* Move `import` and `createIR` methods into private section.
* Use `make_unique` to deal with `unique_ptr`s.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir/Caffe2 importer] Cleanup after changing interface (#6033)

* Remove `cleanup` method.
* Move `import` and `createIR` methods into private section.
* Use `make_unique` to deal with `unique_ptr`s.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Fix format script diff file only (#6007)

To get correct updated files when master is update after branch out, count new commits after branch out from master and compare with branch out commit

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[neurun] Introduce "simple" Subgraph emplace method (#6000)

This commit introduces "simple" Subgraph empalce method which does not
allocate a Subgraph internally but requires clients to allocate it
instead.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[neurun] Code refactoring of Scheduler::makeRank (#5881)

Split Scheduler::makeRank into smaller ones

Signed-off-by: Dilshodzhon Poshshoev <d.poshshoev@samsung.com>

[moco-tf] ResolveFusedBatchNorm unit test to generate proper log (#6024)

Previously unit test for ResolveFusedBatchNorm printed unknown node
fallback logging. This commit fixes this bug to print proper format
defined by moco-tf.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco/tf] Import TFDepthwiseConv2d Op (#6001)

* [moco/tf] Import TFDepthwiseConv2d Op

This commit is for importing TFDepthwiseConv2d Op.

Signed-off-by: seongwoo sw4670.chae@samsung.com
* This commit makes tensor_content of pbtxt human-readable.

[nnc] Use `importModel` methods instead of `import`, `createIR` and `cleanup` (#5990)

Replace uses of `import`, `createIR` and `cleanup` with newly introduced `importModel`.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

 DR1 test document (#5890)

* DR1 test document

- Introduced STD for DR1 milestone
- According to new requirements new tests are added

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Fix bug in ExecInstance (#6017)

Delete compiler generated by new
Fix typo input buffer name in twoThreads test

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Replace pylint command (#6002)

Replace infra/nnfw/command/pylint command into infra/command

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

ACL NEON Comparison Node (#5951)

Add support of ComparisonNode for ACL NEON

Signed-off-by: Sizov Nikita <n.sizov@samsung.com>

ACL NEON SqueezeNode (#5944)

Add support of SqueezeNode for ACL NEON

Signed-off-by: Sizov Nikita <n.sizov@samsung.com>

[moco-tf] Reshape shape inference rejects dynamic case (#6013)

Previously shape inference stage for TFReshape node was erroneously
done for wildcard dimension as well. This commit fixes this bug to
reject dynamic reshape case.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

Transpose convolution valid padding test (#5998)

* Transpose convolution valid padding test

- Add transpose convolution valid padding test
- Fix bug transpoe valid padding
- Update comment

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>
* Update comment

Fix goals for 2019 (#5994)

Fix goals for 2019 in SRS and SDD documents

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Add gtest to prepare multithread execution instance (#5898)

Introduce gtest to prepare multithread execution instance using one executor

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-tf] Replace assert in FuseBinaryIntoPreceding (#6009)

This will replace assert with a log for unknown as it is now know case and can be handled by other transforms

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[neurun] Remove hiding _indexed_ranks from Dataflow (#5926)

_indexed_ranks is a protected member in both ExecutorBase and Dataflow.
ExecutorBase::setIndexedRanks() sets ExecutorBase::_indexed_ranks,
but methods in Dataflow uses Dataflow::_indexed_ranks and is always nullptr

Signed-off-by: Dilshodzhon Poshshoev <d.poshshoev@samsung.com>

[moco-tf] Import as TFAvgPool with a knob (#6006)

This will add a Knob to import AvgPool node as TFAvgPool or AvgPool2D

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco/tf] DepthwiseConv2D FixShapeTransform bug fix. (#6003)

It needs to be modified for getting right stride data.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[neurun] Enable {CL|NE}DepthwiseConvolutionLayer3x3 on KernelGenerator (#6008)

Enable {CL|NE}DepthwiseConvolutionLayer3x3 on each KernelGenerator. The
only CLDepthwiseConvolutionLayer3x3 has the parameter for the internal
buffer memory manager.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

[moco/tf] Add TFNodeSummaryBuilder for DepthwiseConv2dNative (#6004)

This commit adds a TFNodeSummaryBuilder for DepthwiseConv2dNative.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[neurun] Enable AclLinearMemoryManager on LinearExecutor (#5922)

Enable AclLinearMemoryManager to acl_cl and acl_neon  on LinearExecutor

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

[moco-tf] Fix shape and pad for TFAvgPool (#5996)

This will implement FixShape and FixPadding for TFAvgPool node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[neurun] Fix preVisit/postVisit for double-concats (#5977)

* [neurun] Fix preVisit/postVisit for double-concats

Fix preVisit and postVisit of TemplTensorBuilder to pass
double-concats(two consecutive concats) of
inception_v3_2018_04_27.tflite

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>
* Fix comment

Mark NNPACK as NOT FOUND if PeachpySource is missing (#5995)

The current implement says that NNPACK is available even though
PeachpySource is missing.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Set PeachpySource as NOT FOUND on failure (#5966)

The current implementation of PeachpySource package reports SUCCESS
even when source code generation fails.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Revise importer test (#5960)

This will revise importer test to do test with TFIdentity IR that uses Identity node as a test material

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Move vector<int64_t> streamout to LogHelper (#5981)

This will move vector<int64_t> streamout of TFFormattedGraph to LogHelper

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Import Reshape operation as TF dialect (#5976)

This commit implements import stage of tensorflow Reshape operation to
TFReshape node.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-tf] Introduce as_tensor_shape with FeatureShape (#5973)

This will introduce ShapeInferenceData helper to set as TensorShape with FeatureShape and TFDataLayout

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Fix #5978 (#5989)

Adjust tests to take into account recent changes in compiler passes.
Fixes #5978.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir/Caffe importer] Introduce `importModel` method (#5986)

Add `importModel` method as a future replacement for `import` and `createIR` methods.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[neurun] Add fine for scheduling into another backend (#5880)

Assigning to another backend will cause creating a subgraph:
one for permutation and one more if it was mergable node
if the same backend was assigned

Signed-off-by: Dilshodzhon Poshshoev <d.poshshoev@samsung.com>

[mir/TFLite importer] Introduce `importModel` method (#5988)

Add `importModel` method as a future replacement for `import` and `createIR` methods.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir/ONNX importer] Introduce `importModel` method (#5987)

Add `importModel` method as a future replacement for `import` and `createIR` methods.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir/Caffe2 importer] Introduce `importModel` method (#5985)

Add `importModel` method as a future replacement for `import` and `createIR` methods.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[neurun] Add custom kernel registry (#5597)

Add custom kernel registry used to keep track of custom kernels used by specific backend( see #5411 )

Signed-off-by: Vladimir Plazun <v.plazun@samsung.com>

[nnc] Join `import` and `createIR` methods into `importModel` (#5984)

Methods `import` and `createIR` are always used together. Join them to simplify usage.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Fix unmatched result of tconv in NCHW (#5968)

This commit fixes unmatched result of tconv in NCHW
  - Change weights of tconv to OIHW in case of NCHW

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[moco-tf] Summary for TFReshape node (#5979)

This commit adds summary for TFReshape node

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-tf] Enable AvgPoolCanonicalizer (#5980)

This will add AvgPoolCanonicalizer to Canonicalizer list

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[loco] Introduce const Graph getters (#5974)

Now, Graph provides const "nodes", "inputs", "outputs" methods.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[loco] Remove unused input_nodes helper (#5972)

* [loco] Remove unused input_nodes helper

This commit removes unused input_nodes helper. This helper is currently
unused, but its presence makes it difficult to decouple loco core from
loco canonical.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Remove the implementation

[loco] Input/Output Index from Push/Pull node (#5961)

* [loco] Input/Output Index from Push/Pull node

This commit revises Push/Pull node to store associated Graph-level
Input/Output index in it.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix typos

[moco-tf] Introduce TFMaxPool IR (#5975)

This will introduce TFMaxPool IR in TensorFlow Dialect for MaxPool node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[neurun] Always notify ExecutionObserver (#5958)

Now, DataflowExecutor notifies the beginning and end of the whole
execution whenever any observer exists (even when profiling mode is
disabled).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fix format error in moco-tf (#5970)

Fix format error in moco-tf's FixShapeTransform.cpp

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco/tf] Introduce TFDepthwiseConv2D IR. (#5912)

* [moco/tf] Introduce TFDepthwiseConv2D IR.

This commit introduce TFDepthwiseConv2D IR.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>
* apply 'Native' keyword.

Remove sinks and sources member in ExecutorBase (#5885)

Remove sinks and sources member in ExecutorBase and source/sink methods return unique pointer
Move unused input checking into execute method
Remove unused parameter for source/sink

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[neurun] Remove unnecessary class and verbose code (#5930)

Remove unnecessary class(LinearAclMemoryManager) and verbose code

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

Unified dockerfile (#5925)

Merge infra/nncc/Dockerfile, infra/nnfw/docker/Dockerfile, and infra/nnfw/docker/Dockerfile_tizen into infra/docker/Dockerfile
- Base ubuntu version: 16.04
- Use apt-get
- Native/cross gcc/g++ version: 6.x
- Update nncc/nnfw docker build documents
- Move infra/nnfw/command/build-docker command into infra/command and change name to build-docker-image

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Fix CRLF new line (#5959)

Fix CRLF new line checking error by 19_NN_Compiler_and_Return_SDD.rst

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[neurun] Rename functions in TemplTensorBuilder (#5943)

Function `start_lifetime` and `end_lifetime` could be misleading sine
they may or may not do. So this commit renames them to `def_handler` and
`use_handler`, respectively.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Mock ACL NEON nodes for further implementations (#5942)

* Add mock functions for ACL NEON nodes

Mock: Squeeze, StridedSlice, Transpose, Div, Exp, ReduceMax and Comparison

Signed-off-by: Sizov Nikita <n.sizov@samsung.com>
* Use unused variables in mocked functions

Signed-off-by: Sizov Nikita <n.sizov@samsung.com>

Remove .FORMATDENY files from properly formatted directories (#5945)

Remove.FORMATDENY files from mir_{caffe2,caffe,onnx,tflite}_importer directories which have been recently formatted.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Support activation operations for acl neon (#5932)

This commit supports activation operations for acl neon.
  - Abs, ReLU*, SQRT

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[res/TensorFlowTests] Modify Custom Op user data (#5941)

This commit adds `dtype` of custom op, which will be accessed for TypeInference.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

DR1 RNN requirements (#5772)

* DR1 RNN requirements

Add requirements related to RNN networks
remove redundant requirements

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Dr1 development document (#5646)

* Updated SDD document for DR1

- Added more tasks
- Changed formatiing of task table
- Responsible person is changed

* change development plan, fix responcibilities, remove NNCC repo mentions
* add control flow related item
* remove redundant tizen requirements
* relax control flow requirements
* fix naming of components

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[moco-tf] remove ModelMetainfo.proto (#5940)

This file, a schema for user input, is now moved into tf2tflite.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[moco-tf] Implement shape inference for TFReshape (#5914)

This commit implements shape inference for TFReshape on fix_shape().

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[loco] Support traversal to Graph from Node (#5910)

This commit extends Node class to provide "graph" method which returns
a pointer to associated Graph object.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Extract importers out of nnc (#5900)

Move sources of Caffe, Caffe2, TensorFlow Lite, ONNX importers from `nnc` to top-level `compiler` directory.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir2loco] Support Pooling operations (#5846)

* Support Pooling operation and tests for 2 ops

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[nnc] Cleanup after separating importers (#5902)

Importers have been extracted into independent components. This is a follow-up cleanup.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Reformat mir importers (#5904)

Reformat code according to coding style.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[neurun] Fix load_model_from_file (#5928)

load_load_from_file should load model from {nnpackage path + model path}.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[neurun] Remove unnecessary methods of ITensorBuilder (#5923)

Remove unnecessary methods of ITensorBuilder, cpu/TensorBuilder and
TemplTensorBuilder

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

[neurun] Introduce OperationIndexMap as Operand has (#5918)

There are a lot of use `std::unordered_map<model::OperationIndex, T>`
So, introducing map alias like Operand has is logical

Signed-off-by: Dilshodzhon Poshshoev <d.poshshoev@samsung.com>

[neurun] Generalize ExecutionObserver interface design (#5867)

The current design declares "uploadExecTime" which is a bit specific to
dedicated observer implementation.

This commit revises ExecutionObserver to hook on the whole model execution,
and ProfileObserver to invoke "uploadExecTime" when model execution
ends.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Apply plier-tf to AvgPoolCanonicalizer (#5921)

This commit applies plier-tf to AvgPoolCanonicalizer.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-tf] Applying plier-tf (#5891)

This commit applies `plier-tf` into `moco-tf`.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

Remove exceptional case in python style check (#5917)

Remove skip compiler directory check on python style check

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[neurun] Enable handling subtensors for notify{First|Last}Uses (#5915)

Enable handling subtensors for notify{First|Last}Uses by preVisit and
postVisit.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

Format check for diff file with master (#5916)

This commit allow user to check format diff files with master via CHECK_DIFF_ONLY environment variable
Use this feature on pre-push githook

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[neurun] Selective HI_PERF_CPU backend build (#5913)

This commit allows users to diable HI_PERF_CPU backend build via
BUILD_NEURUN_HI_PERF_CPU_BACKEND option.

Please note that this commit does not change the default behavior.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[neurun] Apply acl internal buffer manager into KernelGenerator (#5908)

Apply acl internal buffer manager into KernelGenerator on cl/neon

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

[neurun] Append acl_memory_manager method into TemplTensorBuilder (#5887)

Append acl_memory_manager method into TemplTensorBuilder to be used for
MemoryManager's internal buffer manager

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

[neurun] Revise planTensors of Linear (#5882)

Revise planTensors of Linear on neurun

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

[mocotest-tf] Add TF_SMALL_NET_0005 test (#5888)

This test is consisted of `Reshape` and `Shape` operation.

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[loco] Fix canonical node list (#5893)

This will fix canonical node list to match alphabetical order of foward

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tf2tflite] Enable Relu6_000 test (#5886)

tf2tflite test framework now checks Relu6_000 automatically.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Introduce AvgPool Canonicalizer (#5819)

This will introduce AvgPool node Canonicalizier

Signed-off-by: SaeHie Park <saehie.park@samsung.com>