Add implementation of Caffe to Model IR converter (#640)

Add Caffe layer to Model IR converter skeleton
Added a class for converting Caffe layers to Model IR operations.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Add utility functions for processing Caffe layer options (#637)

Add Caffe layer to Model IR converter skeleton
Added a class for converting Caffe layers to Model IR operations.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Modify and revise maintainers in README (#623)

This commit modifies incorrect info about maintainers.

Signed-off-by: lotieye.choi <lotieye.choi@samsung.com>

Serialize parameters (#602)

Implementation of compressed parameters dump

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Dump compressed parameters (#601)

Implementation of compressed parameters dump

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Suppress warnings from TensorFlow Lite code (#599)

This commit suppresses warnings (clang 7.0 reports) from TensorFlow Lite code.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Create Model IR graph from Caffe model visitor (#635)

Implemented Caffe LayerParameter visiting function to call
Caffe to Model IR operation converter.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Prepare data for Caffe layer to Model IR converter (#597)

Implemented functions preparing inputs and parameters for
creating Model IR operations.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Support workspace override (#627)

This commit allows users to use their own workspace other than 'build'
via NNCC_WORKSPACE environment variable.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add Caffe model input processing (#596)

Process Caffe model Input layer and set up Model IR graph inputs.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Add Caffe layer to Model IR converter skeleton (#595)

Added a class for converting Caffe layers to Model IR operations.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Revise and modify typoes (#622)

This commit revises and modifies typoes.

Signed-off-by: lotieye.choi <lotieye.choi@samsung.com>

[nnc backend] Add Conv2D_FFT class (#582)

Add Conv2D_FFT class and functions for FFT routines.
Implementation will be added later (near future).

Signed-off-by: Denis Maksimenko <d.maksimenko@partner.samsung.com>

[pp] Support 'MultiLineText' append (#598)

'LinearDocument' currently supports 'LinearDocument' append, but does not support
generic 'MultiLineText' append.

This commit revises 'LinearDocument' to support generic 'MultiLineText'
append.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nest] Initial commit (#625)

This commit create a workspace for a lightweight nested loop generation
library named 'nest'.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fix incorrect assertion (#593)

`fread` returns number of read blocks( of size `size` ) instead of byte count

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add Caffe importer example (#592)

It prints the model and creates Model IR (but doesn't use it).

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Add general tensor transpose helper (#589)

Added a generalized TensorVariant transpose helper function
used for converting convolution tensor weights to Model IR format.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

[caffegen] Fix compiler warnings (#591)

This commit fixes all the compiler warnings (reported by clang 7.0)
in caffegen implementation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fix mismatched tag warning (#586)

This commit fixes mismatched tag warning (clang 7.0 reports).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fix missing override warnings (#587)

This commit fixes missing override warnings reported by clang 7.0.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnsuite] Fix unmatched ifdef guard (#588)

This commit fixes unmatched ifdef guard in RandomModel header.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc backend] Add nnc interpreter backend plugin (#577)

Add nnc interpreter backend plugin

Adds nnc_interpreter_plugin target
Implements backend plugin interface for nnc
Can be used to interpret previously loaded computation graph

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Initialise uninitialised _moduleType (#583)

This commit initialise _moduleType in AbstractModule default constructor

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

Add virtual destructor to AbstractSession class (#590)

This commit introduces virtual destructor on AbstractSession class.
Without this virtual destructor, it is possible that the destructor of
derived classes is not invoked properly.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc backend] Add NNInterpreter class (#576)

Add NNInterpreter class

This class implements model IR interpreter

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Basic model analyzer info gathering (#560)

Basic model analyzer info gathering

Save inputs, outputs and operation names.

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[nnc] Rename 'soft_backend_test' (#585)

This commit renames 'soft_backend_test' as 'nnc_soft_backend_test' to
make it easy to find corresponding code.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fix unused parameter warnings in Caffe importer (#584)

This commit fixes build problems by removing unused parameter warnings.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Fix generator consistency checker (#559)

Fix generator consistency checker

Fix argument checker in generator and add tests for it

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Add Caffe importer interface implementation (#541)

Added initial version of Caffe importer interface implementation
that uses model visitor to create Model IR.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Make TensorVariable copy assignable (#575)

Required by model IR interpreter

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Fix IrNode to actually call visitor->visit() (#574)

Previously disabled due to missing visitor operation acceptors

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add Caffe model visitor skeleton (#540)

Add Caffe model visitor skeleton

This commit adds Caffe model visitor skeleton.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Add softmax operation implementation (#542)

Used by model IR interpreter backend

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add another post action (show_action) to README (#573)

* Add another post action (show_action) to README

This commits appends another post action (show_action) to README.

Signed-off-by: lotieye.choi <lotieye.choi@samsung.com>
* Add Running with post action section

This commit adds `Running with post action` section.

Signed-off-by: lotieye.choi <lotieye.choi@samsung.com>
* Remove a unused symbol

This commit remove a unused symbol.

Signed-off-by: lotieye.choi <lotieye.choi@samsung.com>
* Modify sentence to clarify meaning

This commit modifies a sentence to clarify meaning

Signed-off-by: lotieye.choi <lotieye.choi@samsung.com>

Add Reduce operation implementation (#543)

Used by model IR interpreter

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[nnc backend] Add Bias operation implementation (#441)

Add Bias operation implementation

Used by model IR interpreter backend

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[nnc backend] Add DeptwiseConv2D operation implementation (#418)

[nnc backend] Add DeptwiseConv2D operation implementation

Add DepthwiseConv2D reference implementation used by model IR interpreter

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[pp] Add 'MultiLineText' interface (#571)

This commit adds 'MultiLineText' interfaces, and revises
'LinearDocument' and 'EnclosedDocument' to inherit this interface.

In addition, this commit introduces MultiLineTextUtils
(which will includes utilities over MultiLineText interface).

Currently, it includes '<<' operator overload.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc backend] Add Reshape operation implementation (#443)

Add Reshape operation implementation

Used by model IR interpreter

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[nnc backend] Add Concat implementation (#419)

[nnc backend] Add Concat implementation

Reference concat implementation used by model IR interpreter

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Pass args through docker-test command (#567)

Pass args through docker-test command

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

Invoke tests with ctest in 'test' script (#566)

Invoke tests with ctest in 'test' script

Invoke tests with ctest instead of cmake in 'test' script

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[nnc backend] Add FullyConnected(matmul) operation implementation (#538)

Add FullyConnected(matmul) operation implementation

Used by model IR interpreter

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[nnc backend] Add Fill operation (#417)

[nnc backend] Add Fill operation

Used as a base for other operations

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Configure a project for testing with CTest (#537)

Configure a project for testing with CTest - include CTest in CMakeLists.txt

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[nnc backend] Build model IR interpreter core (#557)

Build model IR interpreter core

This commit fixes adds add_subdirectory(core) in nnc/libs/backend/interpreter/CMakeLists.txt

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[pp] Add 'EnclosedDocument' class (#570)

This commit adds 'EnclosedDocument' class which provides front() method which
allows users to append lines at the bottom of heading (in forward direction),
and back() method which allows users to prepend lines at the top of
footer (in reverse direction).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[pp] Add 'LinearDocument' class (#565)

This commit adds 'LinearDocument' class which maintains a
linearly appendable document (either in forward/reverse direction).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fix failed build (#558)

Fix missed change to Elementwise.h naming

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[stdex.set] Overload '==' operator (#564)

This commit introduces 'operator==' overloading over sets.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[pp] Introduce IndentedStringBuilder (#563)

* [pp] Introduce IndentedStringBuilder

This commit extracts IndentedStringBuilder from IndentedDocumentBuilder
class.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Update local variable names

Add 'stdex' project (#562)

This commit introduces 'stdex' project which provides an extension over
standard C++ libraries.

The current version includes diff operator overloading over two sets.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Use set instead of Set.h

[T/F Lite] Gather source files when adding a target (#561)

Currently, source files are gathered inside 'TensorFlowLiteConfig.cmake',
but the target is defined in 'TensorFlowLite/CMakeLists.txt'.

This commit moves source file gathering scripts to 'TensorFlowLite/CMakeLists.txt'
to make it easy to understand tensorflow lite target itself.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add Caffe model console dumper (#536)

Add Caffe model visiting mechanism

Used for traversing the model and doing something with
objects that it contains.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Notify whether Caffe is available (#549)

This commit introduces message command, which shows 'Found' message when
Caffe is avaiable (during configuration).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Data tests final part (PluginManager class tests) (#487)

PluginManager class tests

This commit introduced tests for PluginManager class

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

Fix failed build (#554)

Fixes mismatched include guard in conv_2D.h

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add Caffe model visiting mechanism (#535)

Add Caffe model visiting mechanism

Used for traversing the model and doing something with
objects that it contains.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Fix merge issues from #394 (#534)

Add missing #include <cassert> to ShapeRange header

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[nnc backend] Add Pool2D operation implementation (#440)

[nnc backend] Add Pool2D operation implementation

This class is used by model IR interpreter backend

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[nnc backend] Add elementwise operation impl (#416)

 [nnc backend] Add elementwise operation impl

Used as a base for other operation implementations

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Soft backend C/C++ framework (#483)

Introduce generator framework

Main generator and model analyzer structure

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Update Dockerfile with Caffe dependencies (#551)

This commit updates Dockerfile with Caffe dependencies.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Do NOT require GLog from GFlags (#546)

Do NOT require GLog from GFlags

Introduce usage to nncc script (#530)

* Introduce usage to nncc script

This commit introduces usage to nncc script

Signed-off-by: lotieye.choi <lotieye.choi@samsung.com>
* Modify usage in nncc script

This commit modifies usage in nncc script to list supported commands automatically

Signed-off-by: lotieye.choi <lotieye.choi@samsung.com>
* Remove a help option

This commit removes help option.

Signed-off-by: lotieye.choi <lotieye.choi@samsung.com>

Fix merge issues (#505)

This commit fixes merge issues from #404

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add 'docker-shell' (#468)

This commit extracts interactive shell creation routine from
'docker-build' and introduces it as 'docker-shell' command.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Introduce 'pp' library (#430)

* Introduce 'pp' library

This commit introduces 'pp' library which provides various helper
functions and classes for pretty-printing.

The current implementation provides 'fmt' function which constructs a
string using operator<<, and IndentedDocumentBuilder class which makes
it easy to build indented documents especially when indentation is
nested.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Check _level before unindent

* Use static storage quantifier

* Use strict compile options

* Remove unnecessary override

* Do not construct temporary string objects

Fix build break (#501)

This commit fixes build breaks.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnsuite] TensorFlow Lite-based conv nnkit backend (#431)

This commit introduce a nnkit backend which inferences with sample
(random) conv model in nnsuite.

This implementation may serve as a reference data generator for compiler
test.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Update SW HLD content (#322)

Add HLD content

This commit adds the content of High-Level Design Document

Signed-off-by: Sergey Vostokov <s.vostokov@samsung.com>

SW Detailed-Level Design Document v1.0 (#357)

* Add Detailed-Level Design Document

This commit adds the SW Detailed-Level Design Document

Signed-off-by: Sergey Vostokov <s.vostokov@samsung.com>
* Remove "Apply optimizations" section

* Update DLD template

* Add content of "SW Detailed Structure Design" section

* Remove structure image. Update section "Generate the code" and "Interface"

Add 'docker-run' command (#495)

This commit introduces 'docker-run' command which invokes a given
command inside a nncc docker container.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnkit] Introduce HDF5 import action (#380)

This commit introduces HDF5 import action, which fills tensor with the
values loaded from HDF5 file.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Permit additional docker options via DOCKER_OPTS (#496)

This commmit allows users to pass additional docker options to
docker-related commands via DOCKER_OPTS variable.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Download NEON2SSE source by default (#493)

This commit enables DOWNLOAD_NEON2SSE flag by default, and updates
docker configuration to allow CI to override NEON2SSE_URL.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Enable GEMM Low-precesion download (#484)

This commit enables GEMM Lowp-precesion source code download, and
updates docker configuration to allow URL override in CI.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnkit] Add README.md (#466)

* [nnkit] Add readme

This will add readme for nnkit project that can help understand what and how to use

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* apply comments

* apply more comments

* remove quote mark

* anoher apply comments

* fix arg1

* detailed how nni works

* minor change

* add about nni

Fixed PluginInstance class test warning (#488)

This commit fixed PluginInstance class test warning

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[nnc core] Add ShapeInference class (#452)

Add ShapeInference class

Used to infer shapes of intermediate nodes based only on input shapes

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Fix TensorVariant deletion test (#451)

Fix use-after-free in TensorVariant.DeletionTest( raw_indicator used after beeing deleted )

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add interpreter_core target for model IR interpreter (#453)

Add interpreter_core target for model IR interpreter

This commit adds backend/interpreter/core directory, backend/interpreter/core/CMakeLists.txt

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Set build type to Debug if not given (#485)

* Set build type to Debug if not given

This will set CMAKE_BUILD_TYPE to "Debug" if not given through arguments
- this will add -g compile option

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* message always

[nnkit] Build all projects under tools/ (#476)

This commit includes all the projects under contrib/nnkit/tools on configure.

This change allows users to build and test their own nnkit tools locally without
modifying files under version control.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Enable EIGEN download by default (#469)

This commit enables eigen download by default, and revises docker
configuration to allow EIGEN_URL override inside CI build machines.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Build TensorFlow Lite in build/externals/tflite (#405)

This commit revises TensorFlowLite package to build tensorflow lite
under build/externals/tflite.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add 'How to build with ninja' section (#473)

This commit adds 'How to build with ninja' section to 'Getting Started'
guide.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Enable farmhash download by default (#479)

This commit enables farmhash download by default, and updates docker
configuration to support URL override inside CI.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Extract 'docker-test' (#467)

This commit extracts 'docker-test' from 'docker-build'

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add TFLite importer plugin (#420)

Add TFLite importer plugin

This commit introduces TFLite importer to the plugin system.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Enable TensorFlow download by default (#472)

This commit enables TensorFlow download by default, and updates docker
configuration to allow CI to overide download URL.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Update 'How to build with docker' document (#461)

This commit updates 'How to build nncc with docker' section in "Getting
Started" document according to the recent change that extracts 'docker-configure'
from 'docker-build'.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Remove 'tflitekit' (#463)

Now 'nnkit' includes 'tflite' backend which is identical to 'tflitekit'.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Remove 'getting_started' (#465)

This commit removes 'getting_started' project from contrib.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Introduce 'ENABLE_STRICT_BUILD' option (#462)

* Introduce 'ENABLE_STRICT_BUILD' option

This commit introduces 'ENABLE_STRICR_BUILD' option which allows us to
detect compiler warnings as error.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix a typo (wraning -> warning)

[nnkit] Help message for nni (#457)

* [nnkit] Help message for nni

This will show help message for arguments are invalid of nni

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* remove --backend-arg count check

Add 'docker-configure' script (#458)

This commit extracts 'docker-configure' script from 'docker-build'

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[core.ADT] Add kernel index enumerator (#415)

This commit adds kernel index enumerator which is almost similar as
that of tensor, but specialized for convolution kernel.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>