Add Mobilenet+Inception-v3 model loading system tests (#945)

Note that there is no way to run them yet because the way to run all
system tests separately from the unit tests should be decided first,
as well as the way to store large files (NN models in this case).

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

[nnc] Fix tensorflow lite import of depthwise conv (#985)

Depthwise convolution in Tensorflow Lite has channel multiplier
as its kernel's first dimension, while current Model IR
assumes it is the last dimension. This commit fixes this issue
by appropriately transposing the kernel during import.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

[nnc] Interpreter: fixed Pool operation (#983)

Fixed Pooling op. Added missing "else" statement. Everything worked without it, but it was extremely confusing. Also added a "break" for consistency, even though it is not needed.

Signed-off-by: Denis Maksimenko <d.maksimenko@partner.samsung.com>

[nnc] Assume SAME padding in Caffe importer (#1011)

Layers have numeric padding parameters in Caffe, as oppopsed to
SAME/VALID padding in Tensorflow Lite and Model IR.

Currently,
during the model import stage there is no information about tensor
shapes, so it is impossible to map numeric paddings to SAME/VALID
paddings correctly.

Despite that, current reference models for Caffe do follow the rule of
"if pad is zero then padding is VALID, otherwise SAME",
so this commit does exactly that (before, Caffe importer would
throw an exception if it found non-zero non-equal paddings for height
and width; but inception-v3 has non-square convolutions which lead to
exactly such case).

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Fixed FullyConnected. (#1008)

Fixed ShapeInference for FullyConnected layer, fixed interpreter implementation of FUllyConnected op.

Signed-off-by: Denis Maksimenko <d.maksimenko@partner.samsung.com>

[nnc] Caffe import: transpose FullyConnected weights (#1009)

Now transposing internal_product weights in Caffe importer to match internal format.

Signed-off-by: Denis Maksimenko <d.maksimenko@partner.samsung.com>

Fix return value. (#1010)

createFullyConnected() used to return wrong Node if bias is not present.

Signed-off-by: Denis Maksimenko <d.maksimenko@partner.samsung.com>

Soft backend fix softmax deserialization (#975)

This commit fixes deserialization of softmax parameters

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Soft backend: add absent dimension in shape (#981)

Add dimension in shape on deserialization (if there are 3 instead of 4)
this is batch dimension - 1 for inference

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Renamed sample plugin option (#942)

This commit renamed sample plugin option

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[coco] Fix build break (#1005)

This commit fixes build break caused by bag link access interface.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Pass ObjectLink to Op/Instr Manager (#1002)

This commit revises Op/Instr manager to take ObjectLink as an arugment
of their constructor.

Note that this link is not used, yet.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce PtrSlot (#969)

This commit introduces PtrSlot which allows us to insert a hook on
pointer updates.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Accessor on ObjectInfo (#1001)

This commit introduces indirect accessor on ObjectInfo inside Object
class.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Support unlink on Bag (#1000)

This commit revises Object::bag method to support Bag unlink.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Default constructible Conv2DTest fixture (#999)

Clang 6.X implicitly delete default constructor when there are const
fields, which results in build error.

This commit explicitly introduces the default constructor of Conv2DTest
fixture to fix build break.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Return casted value correctly (#998)

This commit fixes a bug in 'curr' method implementation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnkit] Extract Caffe backend implementation (#997)

This commit extracts Caffe backend class from nnkit Caffe module.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Pass Bag-to-BagInfo link via virtual method (#993)

This commit revises Object class to get Bag-to-BagInfo link via virtual
method (to make it easy to introduce a new fields if necessary).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Fix incorrect ifdef guard (#994)

This commit fixes incorrect ifdef guard of FeatureObjectInfo.forward.h

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnkit] Type-generic Caffe Backend (#991)

This commit revises FloatCaffeBackend ans type-generic CaffeBackend.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Use consistent ifdef guard (#995)

This commit updates inconsistent ifdef guards in coco IR headers.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Use consistent factory method name (#996)

This commit renames make method in InputManager and OutputManage classes
as 'create' similarly as other manager classes.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce KernelObjectInfo (#987)

This commit introduces KernelObjectInfo class which will hold the
internal state of kernel objects in coco IR.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce 'Conv2DTest' fixture (#988)

This commit introduces 'Conv2DTest' fixture to simplify Conv2D op tests.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce Instr fixtures (#989)

This commit introduces InstrTest, FeatureInstrTest, UnifTTest classes
which includes common routines for writing tests.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnkit] Extract TensorContext (#992)

This commit extracts CaffeTensorContext (in nnkit Caffe backend) as
nnkit::support::caffe::TensorContext.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce 'ObjectTest' fixture (#990)

This commit introduces 'ObjectTest' fixture which includes common
infrastructure for writing 'Object' tests.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnkit] Construct CaffeBackend from caffe::Net (#967)

* [nnkit] Construct CaffeBackend from caffe::Net

Currently, the constructor of CaffeBackend takes arguments for
caffe::Net, and forwards it to internally allocated caffe::Net instance.

This commit revises CaffeBackend constructor to take an exteranlly
allocated caffe::Net instance as its argument.

This change allows us to construct a caffe backend from in-memory caffe
model (instead of serialized one).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Remove unnecessary comment

Improve command line parser and add unit tests for command line interface (#984)

* command line parser is done
* add unit tests for testing options declaration and correct parsing

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

Generalize options for soft backend (#923)

Replace specific file paths with output directory and common name

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[nnc debug] Add internal documentation (#971)

Added rst document desribing nnc debugging system.

Signed-off-by: Denis Maksimenko <d.maksimenko@partner.samsung.com>

Fix tflite Dims argument (#954)

Reverse axis order for tflite functions.

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Shape inference unit test fix (#972)

Add absent dimensions into input data shape

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[coco] Use std::set to record dependent objects (#968)

This commit revises Bag and BagInfo to use std::set (instead of PtrList)
to record dependent objects.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Simplify BlockManager tests (#956)

This commit extracts the common routine in BlockManager tests, and
move it to a new test fxiture class (BlockManagerTest).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

interpreter_plugin: fix segfault if input/output node not found (#950)

add intput / output nodes checking

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

interpreter_plugin: fix input tensor initialization (#953)

add tensor and input file sizes checking

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

IR graph: Fix getInput/getOutput (#949)

add checking of map search results

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

Fix output nodes search by name (#948)

fix problem when interpreter cannot find output node by name

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

 Soft backend: eigen library (#841)

Add library with common support functions for operations

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[nnkit] Type-generic Caffe TensorContext (#966)

This commit revises FloatCaffeTensorContext in nnkit Caffe backend as a
type-generic one.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Non-public head method (#965)

This comit revises DLinkedLists:::Node to allow its descendent classes
to have non-public head method (The current design enforces head to be a
public method).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce FeatureObjectInfo (#964)

* [coco] Introduce FeatureObjectInfo

This commit introduce FeatureObjectInfo class which internally manages
mutable information related with each FeatureObject.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Use correct incorrect ifdef guard

Cmdline: add command line infrastructure  (#952)

implementation of the following things:
* parser for command line;
* interface for creating options
* wrapper for unit tests

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[coco] Introduce 'Arg' class (#960)

* [coco] Introduce 'Arg' class

This commit introduces 'Arg' class which servers as a base class for
both Input and Output.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Use consistent declaration

[coco] Remove deprecated Bag constructor (#963)

This commit removes deprecated Bag object constructor.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Add 'curr' method to DLinkedList::Node (#961)

This commit introdcues 'curr' method which internally casts this as
Child, and replaces all the use of reinterpret_cast in Node
implementation with curr method.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce FeatureObjectTest class (#959)

This commit revises FeatureObject-related tests using FeatureObjectTest
class.

This class provides some usefule utilities (such as allocate) for
writing tests.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce KernelObjectTest (#962)

This commit introduces KernelObjectTest class which includes various
helper methods for writing KernelObject tests.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Disable failing nnc test (#958)

This commit temporarily disables a part of failing nnc test to fix build
break.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Implement Op::parent method (#940)

This commit implements Op::parent method which allows users to retrieve
an instruction that owns an operation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Update OpLink on UnitF::op update (#939)

This commit revises UnitF::op method to update OpLink properly.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce ObjectInfo (#938)

This commit introduces ObjectInfo class, and revises ObjectManager to
take Object -> ObjectInfo link on construction.

This is the first step toward support automatic object def/use updates.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Bugfix: tests for auto dimension reshape (#857)

Add undefined dimension constant and more tests for shape inference

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[nnc] Fix Caffe Concat operator import (#924)

Concat layer might not have a ConcatParameter section with it,
so it is only possible to recognize it by the name of the layer.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

[nnc] Add doxygen configuration file (#914)

This config is set to:
  - extract undocumented entities as well (for class diagrams etc)
  - extract private class members (for fuller documentation)
  - extract only C/C++ files

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Softbackend: move serialization out of ModelAnalyzer (#859)

Check limits of char parameters properly,
split max and average pool in defferent calls,
serialize output shape where needed

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[nnc testing] Move unit tests to a separate folder (#913)

Created unittests dir, moved nnc module tests there, created CMakeLists.txt for new directory and edited nnc CMakeLists.txt.

Signed-off-by: Denis Maksimenko <d.maksimenko@partner.samsung.com>

[nnkit] Introduce nnkit_support_caffe (#936)

This commit extracts BlobContext and its descendents from nnkit Caffe
backend implementation as nnkit_support_caffe library.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Use OpManager for Instr test (#937)

This commit removes DummyOp implementation from Instr test, and uses
OpManager to create an Op instance (which is required by UnitF::op
method tests).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Pass OpLink to Op/Instr Manager (#935)

This commit revises Op/Instr Manager to take OpLink on construction.

Note that OpLink passed ot Op/Instr Managers is not used, yet.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Enable format check (#932)

This commit enables format check on coco.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce Generic Data Context (#929)

* [coco] Introduce Generic Data Context

This commit introduces generic data context, which allows any frontends
to deliver constand weight data to backends.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix GCC 4.9 build break

[coco] Default constructible DLinkedList::Node (#926)

The current design of DLinkedList::Node enforces all of its descendent classes to
implement a consturctor that takes PtrLink, and passes it to its parent.

This restriction makes it difficult to introduce some intermediate
traists.

This commit revises DLinkedList::Node to remove this restriction.

The current design enforces only leaf classes to implement 'get' method.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco.generic] Generic Data Handling Library (#920)

This commit introduces 'coco_generic' which provides various classes and
functions to deal with generic data (such as f32).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Require reads and updates for Instr classes (#922)

This commit requires all of Instr classes to implement reads and updates
methods which returns a set of Bags read/updated during execution.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Soft backend: refactoring of artefact Shape class (#820)

Adjust artefact shape to implementation needs
Add more tests

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[coco] Hide BagInfo from Users (#917)

This commit rewrites 'Bag.h' to include 'BagInfo.forward.h' instead of
'BagInfo.h' in order to hide the implementation details of 'BagInfo'
from the users of 'Bag'.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nest] Support Free Variable enumeration (#901)

This commit introduces 'nest::FV' which allows us to collect free
variables in various nest objects such as expression.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc debug] Add debugging system (#893)

 Add logging system implementation.
This initial commit adds header and source files with defined macros for debugging.

Signed-off-by: Denis Maksimenko <d.maksimenko@partner.samsung.com>

[nnc] Remove unnecessary heap allocs in interpreter test (#916)

Changed unnecessary heap allocation for Interpreter and
ShapeInference objects to stack allocations.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

[nnc] Fix float equality check in the interpreter test (#915)

The problem was that the custom float comparing function wasn't
checking for some corner cases, like floats having a different
sign or being +0 and -0 (although this is very unlikely of course).

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

[caffegen] Add 'init' command (#918)

This commit introduces 'init' command to caffegen. Unlike 'fill' command,
'init' uses Caffe itself to initialize parameters with random values.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Remove unnecessary Instr::ctor test (#919)

This commit removes Instr::ctor test as it currently tests methods
implemented in coco::DLinkedList<...>::Node.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Generate Instr boilerplates from list (#896)

This commit generates Instr boilerplates such as casting methods,
visit method in Instr::Visitor, and mutate method in Instr::Mutator.

This change allows us to easily introduce new instructions.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fix soft backend build (#909)

Fix build of soft backend plugins

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[coco] Allows users to query Bag's type (#908)

This commit introduces 'Bag::isInput' and 'Bag::isOutput' methods which
allows users to check Bag's type.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Update 'BagType' from Output (#895)

Now, the changes on the backing bag of each 'Output' will automatically
updates 'BagType'.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[morph] Add 'NNAPI' support (#898)

This commit implements shape conversion routines for Android NN API.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[morph] Introduce 'caffe' namespace (#899)

This commit introdcues 'caffe' namespaces in order to avoid name conflicts.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add interpreter test and Model IR graph creator that it uses (#872)

Graph creator can create a small Model IR graph consisting of an
input operator, and one other operator - the one being tested,
like Conv2D for example.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Add serialized test info readers and tensor comparator (#871)

Added functions that use flatbuffers to get NN operator
parameters needed for Model IR graph construction, and a tensor
comparing function that acts as a GTest assert.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Add nnc interpreter test main and test info schema (#869)

Added nnc interpreter test main file a flatbuffers schema
describing NN operator parameters needed for testing.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Soft backend: concat operation (#838)

Add implementation of tensor concatenation operation

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

 Soft backend: pool operation (#835)

Add implementation of pool operations

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Add nnc interpreter binary test data generator and serializer (#870)

So far only normally distributed random tensors are supported.
Flatbuffers is used for serialization.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

 Soft Backend: capped relu operation (#837)

Add implementation of capped relu operation

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

 Soft backend: fully connected operation (#836)

Add implementation of fully connected operation

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

 Soft backend: reshape operation (#834)

Add implementation of reshape operation

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

 Soft backend: relu operation (#832)

Add implementation of relu operation

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

 Soft backend: bias operation (#831)

Add implementation of bias add operation

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Soft backend: softmax operation (#817)

Add softmax operation in soft backend

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Soft backend: depthwise convolution operation (#816)

Add implementation of depthwise convolution operation

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Soft backend: conv2d operation (#815)

Add Implementation of convolution operation in soft backend

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[coco] Update 'BagType' from Input (#892)

This commit revises 'Input' to update 'BagType' when it updates its
backing Bag.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Generate methods from Op.lst (#891)

This commit revises 'Op' class to generate the implementation of casting methods
and 'accept' method from 'Op.lst' file, which allows us to easily extend operators.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Pass Bag Link to OutputManager (#889)

This commit revises the constructor of OutputManager to take Bag Link
(Bag to BagInfo map) as its argument.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce 'Op::uses' method (#890)

This commit introduces 'Op::uses' method which returns a set of objects
will be used during execution.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Pass Bag Link on the construction of InputManager (#888)

This commit revises the constructor of InputManager to take Bag Link
(Bag to BagInfo map) as its argument.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>