[nnc core] Add reshape operation description (#392)

This commit adds missing reshape operation description

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add functions preparing data for the TFLite-to-IR operator creator (#376)

Add functions preparing data for the TFLite-to-IR operator creator

Operator creator interface functions take collections of operator
inputs and operator parameters as arguments. These two functions
prepare this data.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Add auxiliary functions for creating TFLite-to-Model-IR operators (#363)

Add Model IR operator creator skeleton for TFLite

This is a Model IR operator creator class skeleton.
Contains public interface for creating supported operations.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

[nnkit] Introduce 'tflite' backend (#408)

This commit introduces 'tflite' bakckend, which loads 'tflite' model
file and runs inference.

The core part of this backend is extracted as nnkit_support_tflite
library, which allows its reuse in the future.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Introduce 'nnop' library (#402)

This commit introduce 'nnop' librarry which provides simple (naive)
implementation of NN operation (which can be used as a reference).

'nnop' currently contains 'conv2d' operation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add 'How to build and run unittest' section (#403)

This commit adds 'How to build and run unittest' section in Getting
Started document.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[core.ADT] Introduce NHWC kernel layout (#401)

This commit introduces NHWC kernel layout, which is commonly used in
CPU-optimized convolution implementation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[core.tensor] Introduce IndexEnumerator (#381)

This commit introduces IndexEnumerator which enumerates all the valid index
for a given Shape in lexical order, and related unittests.

In addtion, this commit rewrites IndexRange class using IndexEnumerator
to eliminate code duplication.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnkit] Introduce randomize action (#399)

This commit introduces randomize action which randomizes all the tensors
in a tensor context.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[core.ADT] Introduce feature buffer/overlay (#400)

This commit introduces feature buffer/overlay classes, and related
tests. The design of buffer/overlay is almost similar as that of
kernel/tensor.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Update the IDEF0 A1 diagram (#319)

Update the IDEFO A1 diagram: connect backend by Model IR

This commit updates the IDEF0 A1 diagram by adding new connection
from activity block 2 "Import NN model" to activity block 5
"Code generation" by the Model IR. It means that the backend is
able to use the Model IR to produce some output.

Also, it fixes naming of activity boxes.

Signed-off-by: Sergey Vostokov <s.vostokov@samsung.com>

Update IDEF0 A12 diagram: add input Configured Execution Session (#334)

This commit updates IDEF0 A12 diagram adding one more input for
all activity Configured Execution Session.

Signed-off-by: Sergey Vostokov <s.vostokov@samsung.com>

IDEF0 A0: add new input for the block from "Environment variables" (#327)

This commit adds third input from Environment variables to the block
"NN model compilation"

Signed-off-by: Sergey Vostokov <s.vostokov@samsung.com>

Soft backend plugin (#356)

Add initial soft backend to generate C/C++ source code

This commit adds C/C++ emitting backend plugin.
Yet empty

Signed-off-by: Alexander Efimov <a.efimov@samsung.com>

PluginManager tests part 8 (AbstractModule class) (#348)

AbstractModule class test

This commit introduced test for AbstractModule class

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

Add Model IR operator creator skeleton for TFLite (#354)

Add Model IR operator creator skeleton for TFLite

This is a Model IR operator creator class skeleton.
Contains public interface for creating supported operations.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

[foundation] Implemented 'Exception' class 'what()' method (#351)

Implemented 'Exception' class 'what()' method

This commit introduced 'what()' method 'Exception' class

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[core.ADT.kernel] Introduce Overlay/Buffer (#389)

This commit introduce kernel overlay which interprets externally allocated
memory region as a tensor, and buffer which allocates its own memory region.

These overlay and buffer are derived from common view class (to minimize
code duplication)

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Use correct test namespace (#390)

This commit fixes multiple reference issues inside nncc_core_test

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Build caffe inside build/externals directory (#382)

Currently, caffe is built inside the binary directory of the first subproejct
that finds caffe.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[core.ADT.tensor] Introduce Overlay/Buffer (#386)

This commit revises tensor::View<T> as an interface, and introduces two
implementations: Overlay<T> and Buffer<T>

Overlay<T> is a tensor view over externally allocated memory region, and
Buffer<T> is a tensor view which owns content memory (currently
implemented via vector)

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[core.ADT] Copyable/movable feature layout (#384)

This commit revises feature::Layout class similarly as tensor::Layout.

With this commit, one may copy/move layout as if it is a plain value.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnkit] Set HDF5 include directories correctly (#388)

This commit passes HDF5 include directories when building HDF5 export
action correctly.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[core.ADT] Copyable/movable kernel layout (#385)

This commit revises kernel layout implementations similarly as those of
tensor layout.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[core.ADT] Simplify tensor view construction (#383)

The current implementation of tensor::View<T> takes an owned pointer
of Layout (std::unique_ptr<Layout>) as its argument.

This design was enforced by the constraint that Layout is a pure
virtual class. Recently, this constraint is gone. Layout class is now
a simple class which is copyable and movable.

This commit revises tensor view constructor to take Layout instead of
std::unique_ptr<Layout> to make it easy to build tensor view.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nncc.core] Copyable/movable tensor layout (#369)

This commit revises 'ADT::tensor::Layout' to be copyable and movable.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[core.ADT.feature] Introduce Layout interface (#289)

This commit introduces 'nncc::core::ADT::feature::Layout' interface
which is almost same as tensor::Layout but specialized for feature map
that convolution uses.

This commit also introduces 'CHWLayout' as an example.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnkit] Remove deprecated classes (#379)

nni now loads backend/action directly from shared libraries (not
through registry).

This commit removes deprecated classes from nnkit.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Multiple jobs docker-build (#377)

Perform build in docker-build script, using multiple jobs

Signed-off-by: Ivan Vagin ivan.vagin@samsung.com

Remove caffekit (#374)

Caffe backend in nnkit includes all the functionalities of caffekit, and
nnkit provides various extensions via pre/post actions.

Let's remove caffekit, and focus on nnkit.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Tensorflow Lite as Position Independent Static Library (#371)

This commit revises TensorFlowLite module to insert -fPIC option when
building "libtensorflowlite.a". This option will allow tensorflow lite
to be linked into shared library.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnkit] Introduce HDF5 export action (#370)

This commit introduces HDF5 export action which allows us to record
tensor state before/after inference as HDF5 file (.h5).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnkit] Add Caffe backend (#367)

This commit adds 'caffe' backend implementation which can be loaded by
nni toolchain.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Farmhash as Position Independent Static Library (#365)

This commit revises FarmhashConfig module to insert -fPIC option when
building libfarmhash.a. This option will allow farmhash library to be linked
into shared libraries.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Convert tensor from NHWC (TFLite) to HWCN (#353)

Add a function that creates an IR tensor from a TFLite tensor

Note: this code is subject to change if the way IR stores tensor
data and type changes.

Signed-off-by: Dmitry Mozolev d.mozolev@samsung.com

[nnkit] Introduce nni toolchain (#366)

This commit introduces 'nni' toolchain which loads backend/action
modules, and executes them.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add section "SW Quality Verification" to SDD (#315)

* Add section "SW Quality Verification" to SDD

This commit adds the section "SW Quality Verification" to
SW Development Document. This section contains only plans.

Signed-off-by: Sergey Vostokov <s.vostokov@samsung.com>
* Add version info in the title table

* fix format

* remove table name

[nnkit] Introduce Action interface (#364)

This commit adds 'nnkit_intf_action' target which provides 'Action'
interface to its users.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fixed PluginSession class test (#360)

Use correct delimiter between plugin paramether and plugin description

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

PluginManager tests part 3 (#333)

PluginManager tests part 3

This commit introduced tests for classes:
 * AbstractSession
 * PluginParam

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

PluginManager tests part 4 (PluginInstance class) (#342)

PluginManager tests: PluginInstance class

This commit introduced test for PluginInstance class

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

Data tests part 1.2 (Data class)  (#345)

Data class tests

This commit introduced test for Data class

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

BackendModule/FrontendModule classes tests (#349)

This commit introduced tests for BackendModule/FrontendModule classes

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

PluginManager tests part 6 (PluginSession class) (#346)

PluginSession class tests

This commit introduced test for PluginSession class

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

PluginProxy class tests (#347)

This commit introduced test for PluginProxy class

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

Add a function that creates an IR tensor from a TFLite tensor (#350)

Note: this code is subject to change if the way IR stores tensor
data and type changes.

Signed-off-by: Dmitry Mozolev d.mozolev@samsung.com

PluginManager tests part 5 (SharedLibrary class) (#344)

SharedLibrary class tests

This commit introduced test for SharedLibrary class and appropriate
CMakeLists

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[core.ADT.kernel] Introduce Layout interface (#291)

This commit introduces 'nncc::core::ADT::kernel::Layout' interface
which is almost same as tensor::Layout but specialized for 4D kernel
that convolution uses.

This commit also introduces 'NCHWLayout' as an example.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

PluginManager tests part 2 (#332)

PluginManager tests part 2

This commit introduced tests for classes:
 * ConfigException
 * PluginException

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

Set IR inputs and outputs from TFLite model (#328)

Set IR inputs and outputs from TFLite model

This commit adds methods for creating IR graph inputs and outputs
from a TFLite model.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

PluginManager tests part 1.1 (#341)

DataException tests

This commit introduced test for DataException class and appropriate
CMakeLists

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

Add shape helper (#325)

Add shape helper

This commits adds a common class that importers can use to
carry out various operations on shapes useful during model import.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Add 'add_subdirectories' module (#288)

This commit adds 'add_subdirectores' module which provides
'add_subdirectories' function, and simplifies top-level CMakeLists.txt
using this new function.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Pass arguments to build script (#337)

This commit allowing to pass arguments to build script

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

Print detail messages on test failures (#338)

This commit enabling detail messages on test failures

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

Add '*.swp' to .gitignore (#336)

This commit adds '.swp' files to .gitignore

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

Introduce 'nncc_coverage' interface target (#335)

This commit introduces 'nncc_coverage' interface target which propagates
compilation options for coverage build, and use it to simplify add_nncc_library
implementation.

It is possible to eliminate unnecessary link statement (to libc) inside
add_nncc_library with this commit.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

nnc: fix console params parsing (#326)

fix wrong single params parsing
(params like '-a', '-f')

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

Update visitor to support available operations (#320)

Update visitor to support available operations

Updates visitor base class to support currently implemented operations

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Fix "enumeration values not handled in switch" warning (#323)

This commit fixes the warning that appears if not all enum values are
handled in a switch.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

nnc: Fix stream output operator (#316)

fix stream output for PluginManager AbstractModule classes

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

nnc: PluginManager make code more consistent (#317)

This commit for consistent "auto" using

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

Fix CaffeProto CMake warning (#305)

This commit fixes CMake warning emitted when DOWNLOAD_CAFFE is disabled.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

nnc: Implement nnc common realisation (#277)

nnc: Implement nnc skeleton

This commit implements nnc with activated frontend and backend
modules

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

nnc: Fix PluginProxy interface (#309)

This commit is to fix common plugin interface.

There are some problems to return std::shared_ptr by library "C" interface
also AbstractPluginInstance and plugin *PluginInstance (like SamplePluginInstance) should be a
singleton and std::shared_ptr is unnecessary there.

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

Fix compiler warnings in Graph and Node classes (#314)

Reorder initialization list to match declaration order
Set node input pins with respect to inputIndex given

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

nnc example: fix SamplePluginInstance copy and assignment (#313)

This commit delete copy and assignment operator
from singleton plugin instance example class

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

nnc: fix AbstractPluginInstance copy and assignment operator (#312)

This commit delete copy and assignment operator
from singleton base class

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

Fix compiler warnings in TensorVariant class (#311)

Make constructor initilization list order match declaration order
Add missing virtual destructor

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Fix compiler warnings in operation descriptions (#310)

Fixes compiler warnings in PoolOp and OpDescription classes
Add missing OpDescription virtual destructor

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[nnc] Fix operation description namespace issues (#308)

This commit fixes compilation errors introduced by switch to clang-7

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

nnc: Implement BackendModule class (#276)

nnc: Implement BackendModule class

This commit implements BackendModule class

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

nnc: Implement FrontendModule class (#275)

nnc: Implement FrontendModule class

This commit implements FrontendModule class

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

nnc: fix AbstractModule copy and assignment operator (#307)

nnc: fix AbstractModule copy and assignment operator

This commit delete copy and assignment operator
from singleton base class

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

Fix issue "no return statement in function return non-void" (#304)

Fix issue "no return statement in function return non-void"

This commit fix issue for two classes nncc:core:ADT:tensor:Index::resize() and
nncc::core::ADT::tensor::Shape::resize()

Signed-off-by: Sergey Vostokov <s.vostokov@samsung.com>

Fix error "returning reference to temporary" (#302)

This commit fixes issue when member function returns
reference to the local variable.

Signed-off-by: Sergey Vostokov <s.vostokov@samsung.com>

protect AbstractModule class methods (#301)

AbstractModule will be used as base class for
module singletons

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

nnc: Implement plugin example (#278)

nnc: Implement plugin example

This commit show how to create plugin for nnc

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

[nnc] Add backend directory (#300)

This directory is used to store backend plugins sources. (e.g. code emitter, interpreter)

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[nnkit] Build registry library (#290)

'libs/CMakeLists.txt' does not include registry directory, and thus
registry libraries are not built currently.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add Graph class (#297)

Add Graph class

This class is used to represent computation graph

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add Variable operation class (#296)

This class is used to represent input node in computation graph

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

nnc: Implement PluginManager class (#273)

nnc: Implement PluginsManager class

This class will search, load, initialize plugins and
delegate plugins to modules by plugin type

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

[foundation] Do NOT allow copy/move on OwnedRegion (#299)

As its name suggestes, OwnedRegion should not be copied.

OwnedRegion should be moveable simialrly as std::unique_ptr<T>,
but the current implementation sets '_base' field as const field,
so it is impossible to implement move constructor.

As a workaround, this commit  disables move on Owned Region
temporarily.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[cli] Add 'FunctionCommand' class (#292)

This commit adds 'FunctionCommand' class which allows us to use pure
function as a command.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add :/cmake-build-* and :/.idea to .gitignore (#295)

SRR team uses clion as a main IDE for development and it's more convinient to have IDE artefacts ignored

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add FullyConnected layer desсription class (#285)

Add FullyConnected layer desсription class

This class is used to represent a fully connected layer in computation graph

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add Relu operation desсription class (#287)

Add Relu operation desription class

This class is used to represent relu operation in computation graph

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add Pool operation description (#286)

Add Pool operation desription class

This class is used to represent pool operation in computation graph

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add DepthwiseConv2D operation description (#284)

Add DepthwiseConv2D operation description

This class is used to represent Depthwise Convolution operation in computation graph

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add Conv2D operation desсription class (#280)

Add Conv2D operation desription class

This class is used to represent 2d convolution operation in computation graph

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add CappedRelu operation description class (#272)

* Add CappedRelu operation description class

This class used to represent capped relu operation in computation graph

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add Softmax operation description (#294)

This class is used to represent softmax operation in computation graph

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add BiasAdd operation description class (#271)

Add BiasAdd operation description class

This class used to represent bias addition in computation graph

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add Concat operation description class (#279)

This class is used to represent concatenation operation in computation graph

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

nnc: make isOptional method const (#293)

This commit makes getter const

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

nnc: Implement AbstractModule class (#268)

nnc: implement AbstractModule class

This commit implements base module class.

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

nnc: Implement PluginProxy class (#267)

nnc: implement PluginProxy class

this is base class to load pluggin

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

nnc: Implement AbstractPluginInstance class (#266)

nnc: implement AbstractPluginInstance class

Virtual plugin instance class.
Provides basic API for communication between plugin and nnc

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

[core] Add Tensor View (#281)

This commit introduces 'nncc::core::ADT::tensor::View' class which
allows users to interpret a memory region as a tensor with a specified
shape and layout.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>