Update IDEF0 A12 diagram: add input Configured Execution Session (#334)

This commit updates IDEF0 A12 diagram adding one more input for
all activity Configured Execution Session.

Signed-off-by: Sergey Vostokov <s.vostokov@samsung.com>

IDEF0 A0: add new input for the block from "Environment variables" (#327)

This commit adds third input from Environment variables to the block
"NN model compilation"

Signed-off-by: Sergey Vostokov <s.vostokov@samsung.com>

Soft backend plugin (#356)

Add initial soft backend to generate C/C++ source code

This commit adds C/C++ emitting backend plugin.
Yet empty

Signed-off-by: Alexander Efimov <a.efimov@samsung.com>

PluginManager tests part 8 (AbstractModule class) (#348)

AbstractModule class test

This commit introduced test for AbstractModule class

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

Add Model IR operator creator skeleton for TFLite (#354)

Add Model IR operator creator skeleton for TFLite

This is a Model IR operator creator class skeleton.
Contains public interface for creating supported operations.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

[foundation] Implemented 'Exception' class 'what()' method (#351)

Implemented 'Exception' class 'what()' method

This commit introduced 'what()' method 'Exception' class

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[core.ADT.kernel] Introduce Overlay/Buffer (#389)

This commit introduce kernel overlay which interprets externally allocated
memory region as a tensor, and buffer which allocates its own memory region.

These overlay and buffer are derived from common view class (to minimize
code duplication)

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Use correct test namespace (#390)

This commit fixes multiple reference issues inside nncc_core_test

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Build caffe inside build/externals directory (#382)

Currently, caffe is built inside the binary directory of the first subproejct
that finds caffe.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[core.ADT.tensor] Introduce Overlay/Buffer (#386)

This commit revises tensor::View<T> as an interface, and introduces two
implementations: Overlay<T> and Buffer<T>

Overlay<T> is a tensor view over externally allocated memory region, and
Buffer<T> is a tensor view which owns content memory (currently
implemented via vector)

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[core.ADT] Copyable/movable feature layout (#384)

This commit revises feature::Layout class similarly as tensor::Layout.

With this commit, one may copy/move layout as if it is a plain value.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnkit] Set HDF5 include directories correctly (#388)

This commit passes HDF5 include directories when building HDF5 export
action correctly.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[core.ADT] Copyable/movable kernel layout (#385)

This commit revises kernel layout implementations similarly as those of
tensor layout.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[core.ADT] Simplify tensor view construction (#383)

The current implementation of tensor::View<T> takes an owned pointer
of Layout (std::unique_ptr<Layout>) as its argument.

This design was enforced by the constraint that Layout is a pure
virtual class. Recently, this constraint is gone. Layout class is now
a simple class which is copyable and movable.

This commit revises tensor view constructor to take Layout instead of
std::unique_ptr<Layout> to make it easy to build tensor view.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nncc.core] Copyable/movable tensor layout (#369)

This commit revises 'ADT::tensor::Layout' to be copyable and movable.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[core.ADT.feature] Introduce Layout interface (#289)

This commit introduces 'nncc::core::ADT::feature::Layout' interface
which is almost same as tensor::Layout but specialized for feature map
that convolution uses.

This commit also introduces 'CHWLayout' as an example.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnkit] Remove deprecated classes (#379)

nni now loads backend/action directly from shared libraries (not
through registry).

This commit removes deprecated classes from nnkit.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Multiple jobs docker-build (#377)

Perform build in docker-build script, using multiple jobs

Signed-off-by: Ivan Vagin ivan.vagin@samsung.com

Remove caffekit (#374)

Caffe backend in nnkit includes all the functionalities of caffekit, and
nnkit provides various extensions via pre/post actions.

Let's remove caffekit, and focus on nnkit.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Tensorflow Lite as Position Independent Static Library (#371)

This commit revises TensorFlowLite module to insert -fPIC option when
building "libtensorflowlite.a". This option will allow tensorflow lite
to be linked into shared library.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnkit] Introduce HDF5 export action (#370)

This commit introduces HDF5 export action which allows us to record
tensor state before/after inference as HDF5 file (.h5).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnkit] Add Caffe backend (#367)

This commit adds 'caffe' backend implementation which can be loaded by
nni toolchain.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Farmhash as Position Independent Static Library (#365)

This commit revises FarmhashConfig module to insert -fPIC option when
building libfarmhash.a. This option will allow farmhash library to be linked
into shared libraries.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Convert tensor from NHWC (TFLite) to HWCN (#353)

Add a function that creates an IR tensor from a TFLite tensor

Note: this code is subject to change if the way IR stores tensor
data and type changes.

Signed-off-by: Dmitry Mozolev d.mozolev@samsung.com

[nnkit] Introduce nni toolchain (#366)

This commit introduces 'nni' toolchain which loads backend/action
modules, and executes them.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add section "SW Quality Verification" to SDD (#315)

* Add section "SW Quality Verification" to SDD

This commit adds the section "SW Quality Verification" to
SW Development Document. This section contains only plans.

Signed-off-by: Sergey Vostokov <s.vostokov@samsung.com>
* Add version info in the title table

* fix format

* remove table name

[nnkit] Introduce Action interface (#364)

This commit adds 'nnkit_intf_action' target which provides 'Action'
interface to its users.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fixed PluginSession class test (#360)

Use correct delimiter between plugin paramether and plugin description

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

PluginManager tests part 3 (#333)

PluginManager tests part 3

This commit introduced tests for classes:
 * AbstractSession
 * PluginParam

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

PluginManager tests part 4 (PluginInstance class) (#342)

PluginManager tests: PluginInstance class

This commit introduced test for PluginInstance class

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

Data tests part 1.2 (Data class)  (#345)

Data class tests

This commit introduced test for Data class

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

BackendModule/FrontendModule classes tests (#349)

This commit introduced tests for BackendModule/FrontendModule classes

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

PluginManager tests part 6 (PluginSession class) (#346)

PluginSession class tests

This commit introduced test for PluginSession class

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

PluginProxy class tests (#347)

This commit introduced test for PluginProxy class

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

Add a function that creates an IR tensor from a TFLite tensor (#350)

Note: this code is subject to change if the way IR stores tensor
data and type changes.

Signed-off-by: Dmitry Mozolev d.mozolev@samsung.com

PluginManager tests part 5 (SharedLibrary class) (#344)

SharedLibrary class tests

This commit introduced test for SharedLibrary class and appropriate
CMakeLists

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[core.ADT.kernel] Introduce Layout interface (#291)

This commit introduces 'nncc::core::ADT::kernel::Layout' interface
which is almost same as tensor::Layout but specialized for 4D kernel
that convolution uses.

This commit also introduces 'NCHWLayout' as an example.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

PluginManager tests part 2 (#332)

PluginManager tests part 2

This commit introduced tests for classes:
 * ConfigException
 * PluginException

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

Set IR inputs and outputs from TFLite model (#328)

Set IR inputs and outputs from TFLite model

This commit adds methods for creating IR graph inputs and outputs
from a TFLite model.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

PluginManager tests part 1.1 (#341)

DataException tests

This commit introduced test for DataException class and appropriate
CMakeLists

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

Add shape helper (#325)

Add shape helper

This commits adds a common class that importers can use to
carry out various operations on shapes useful during model import.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Add 'add_subdirectories' module (#288)

This commit adds 'add_subdirectores' module which provides
'add_subdirectories' function, and simplifies top-level CMakeLists.txt
using this new function.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Pass arguments to build script (#337)

This commit allowing to pass arguments to build script

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

Print detail messages on test failures (#338)

This commit enabling detail messages on test failures

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

Add '*.swp' to .gitignore (#336)

This commit adds '.swp' files to .gitignore

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

Introduce 'nncc_coverage' interface target (#335)

This commit introduces 'nncc_coverage' interface target which propagates
compilation options for coverage build, and use it to simplify add_nncc_library
implementation.

It is possible to eliminate unnecessary link statement (to libc) inside
add_nncc_library with this commit.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

nnc: fix console params parsing (#326)

fix wrong single params parsing
(params like '-a', '-f')

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

Update visitor to support available operations (#320)

Update visitor to support available operations

Updates visitor base class to support currently implemented operations

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Fix "enumeration values not handled in switch" warning (#323)

This commit fixes the warning that appears if not all enum values are
handled in a switch.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

nnc: Fix stream output operator (#316)

fix stream output for PluginManager AbstractModule classes

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

nnc: PluginManager make code more consistent (#317)

This commit for consistent "auto" using

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

Fix CaffeProto CMake warning (#305)

This commit fixes CMake warning emitted when DOWNLOAD_CAFFE is disabled.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

nnc: Implement nnc common realisation (#277)

nnc: Implement nnc skeleton

This commit implements nnc with activated frontend and backend
modules

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

nnc: Fix PluginProxy interface (#309)

This commit is to fix common plugin interface.

There are some problems to return std::shared_ptr by library "C" interface
also AbstractPluginInstance and plugin *PluginInstance (like SamplePluginInstance) should be a
singleton and std::shared_ptr is unnecessary there.

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

Fix compiler warnings in Graph and Node classes (#314)

Reorder initialization list to match declaration order
Set node input pins with respect to inputIndex given

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

nnc example: fix SamplePluginInstance copy and assignment (#313)

This commit delete copy and assignment operator
from singleton plugin instance example class

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

nnc: fix AbstractPluginInstance copy and assignment operator (#312)

This commit delete copy and assignment operator
from singleton base class

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

Fix compiler warnings in TensorVariant class (#311)

Make constructor initilization list order match declaration order
Add missing virtual destructor

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Fix compiler warnings in operation descriptions (#310)

Fixes compiler warnings in PoolOp and OpDescription classes
Add missing OpDescription virtual destructor

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[nnc] Fix operation description namespace issues (#308)

This commit fixes compilation errors introduced by switch to clang-7

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

nnc: Implement BackendModule class (#276)

nnc: Implement BackendModule class

This commit implements BackendModule class

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

nnc: Implement FrontendModule class (#275)

nnc: Implement FrontendModule class

This commit implements FrontendModule class

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

nnc: fix AbstractModule copy and assignment operator (#307)

nnc: fix AbstractModule copy and assignment operator

This commit delete copy and assignment operator
from singleton base class

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

Fix issue "no return statement in function return non-void" (#304)

Fix issue "no return statement in function return non-void"

This commit fix issue for two classes nncc:core:ADT:tensor:Index::resize() and
nncc::core::ADT::tensor::Shape::resize()

Signed-off-by: Sergey Vostokov <s.vostokov@samsung.com>

Fix error "returning reference to temporary" (#302)

This commit fixes issue when member function returns
reference to the local variable.

Signed-off-by: Sergey Vostokov <s.vostokov@samsung.com>

protect AbstractModule class methods (#301)

AbstractModule will be used as base class for
module singletons

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

nnc: Implement plugin example (#278)

nnc: Implement plugin example

This commit show how to create plugin for nnc

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

[nnc] Add backend directory (#300)

This directory is used to store backend plugins sources. (e.g. code emitter, interpreter)

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[nnkit] Build registry library (#290)

'libs/CMakeLists.txt' does not include registry directory, and thus
registry libraries are not built currently.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add Graph class (#297)

Add Graph class

This class is used to represent computation graph

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add Variable operation class (#296)

This class is used to represent input node in computation graph

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

nnc: Implement PluginManager class (#273)

nnc: Implement PluginsManager class

This class will search, load, initialize plugins and
delegate plugins to modules by plugin type

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

[foundation] Do NOT allow copy/move on OwnedRegion (#299)

As its name suggestes, OwnedRegion should not be copied.

OwnedRegion should be moveable simialrly as std::unique_ptr<T>,
but the current implementation sets '_base' field as const field,
so it is impossible to implement move constructor.

As a workaround, this commit  disables move on Owned Region
temporarily.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[cli] Add 'FunctionCommand' class (#292)

This commit adds 'FunctionCommand' class which allows us to use pure
function as a command.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add :/cmake-build-* and :/.idea to .gitignore (#295)

SRR team uses clion as a main IDE for development and it's more convinient to have IDE artefacts ignored

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add FullyConnected layer desсription class (#285)

Add FullyConnected layer desсription class

This class is used to represent a fully connected layer in computation graph

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add Relu operation desсription class (#287)

Add Relu operation desription class

This class is used to represent relu operation in computation graph

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add Pool operation description (#286)

Add Pool operation desription class

This class is used to represent pool operation in computation graph

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add DepthwiseConv2D operation description (#284)

Add DepthwiseConv2D operation description

This class is used to represent Depthwise Convolution operation in computation graph

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add Conv2D operation desсription class (#280)

Add Conv2D operation desription class

This class is used to represent 2d convolution operation in computation graph

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add CappedRelu operation description class (#272)

* Add CappedRelu operation description class

This class used to represent capped relu operation in computation graph

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add Softmax operation description (#294)

This class is used to represent softmax operation in computation graph

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add BiasAdd operation description class (#271)

Add BiasAdd operation description class

This class used to represent bias addition in computation graph

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add Concat operation description class (#279)

This class is used to represent concatenation operation in computation graph

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

nnc: make isOptional method const (#293)

This commit makes getter const

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

nnc: Implement AbstractModule class (#268)

nnc: implement AbstractModule class

This commit implements base module class.

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

nnc: Implement PluginProxy class (#267)

nnc: implement PluginProxy class

this is base class to load pluggin

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

nnc: Implement AbstractPluginInstance class (#266)

nnc: implement AbstractPluginInstance class

Virtual plugin instance class.
Provides basic API for communication between plugin and nnc

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

[core] Add Tensor View (#281)

This commit introduces 'nncc::core::ADT::tensor::View' class which
allows users to interpret a memory region as a tensor with a specified
shape and layout.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[core] Add 'num_elements' on kernel shape (#253)

This commit adds 'num_elements' for kernel shape similarly as
'num_elements' for tensor shape.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[core] Add 'num_elements' on feature shape (#252)

This commit adds 'num_elements' for feature shape similarly as 'num_elements'
for tensor shape.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add TFLite IR visitor skeleton (#274)

Add TFLite IR visitor skeleton

Adds skeleton for the TFLite IR visitor,
additionally saves pointers to some useful model contents.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Introduce 'nncc_include' (#263)

This commit introduces 'nncc_include' macro which allows users to write
and use useful nncc-internal CMake modules.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[core.ADT] Add tensor::Layout interface (#244)

This commit adds tensor::Layout interface, and tensor::LexicalLayout class
which implements Layout interfaces.

Layout interface provides 'offset' method which returns an offset of each element
in flat array, and LexicalLayout assigns this offset following lexicographical order.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Introduce a way to support all TFLite versions in one library (#172)

* Introduce a way to support all TFLite versions in one library

It is not obvious how to support all TFLite model versions in one
library, and this commit changes the structure of the code to show
how other tflite versions can be accommodated.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Add TensorVariant class (#254)

Add TensorVariant class

This class is used to store and pass raw data

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Use caffeproto instead of nncc_frontend_caffe_core (#257)

nncc_frontend_caffe_core is currently almost same as caffeproto.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnkit] Introduce 'nnkit_registry_backend' (#258)

* [nnkit] Introduce 'nnkit_registry_backend'

This commit introduces 'nnkit_registry_backend' library which servers as
a global registry on various backends.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Leave a comment on thread safety

* Update comment

Add Caffe proto reader (#255)

Add Caffe proto reader

Both reading from binary and from text files is supported.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Add IRNode class (#256)

Add IRNode class

This class used to represent single operation in computation graph along with its connections

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>