Add support of negative axis in softmax (#1117)

Use negative parameter in softmax operation to count axises from last one

[enco] Emit Network_???_count and Network_???_bind (#1138)

This commit revises C++ code emitter to emit the implementation of the
following functions:
 - Network_input_count
 - Network_input_bind
 - Network_output_count
 - Network_output_bind

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce Stride2D (#1137)

This commit introduces Stirde2D class which records stride over 2D plane
(such as channels in a feature map).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Dummy Caffe Frontend implementation (#1133)

This commit introduces Frontend class which inherits enco::Frontend.

In the current implementation, load method always returns empty
coco::Module and coco::Data instances.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Self-complete C++ code gen (#1134)

This commit revises C++ code generator to generate self-complete C++
code, which allows us to compile generated C++ code without any
dependency.

The current implementation includes "NeuralNetworks.h" (which is not
available yet), and emits Network_output_dim implementatation that
cannot be compiled.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Record Conv2D Padding (#1135)

This commit revises Conv2D op to record required padding.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Caffe frontend template (#1130)

This commit creates a workspace for Caffe frontend with basic template.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Invoke backend compile method from CLI (#1126)

This commit revises enco-cli to initiate compilation from loaded bundle
(that frontend generates).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Introduce basic implementation of CppCode (#1128)

This commit introduces basic implementation of CppCode which emits the
basic template of compiled artifact.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Introduce Backend basic implementation (#1127)

This commit introduces the basic template of enco::Backend
implementation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce reorder in Arg (#1124)

This commit add reorder method to Arg to facilitate Frontend
implementation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nest] Fix conv2d example comments (#1123)

This will fix nest conv2d example comments about ifm, ker accessing.

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Implement compiler driver and redesign plugin system (#1103)

* improve command line parser a little bit
* implement compiler driver
* redesign plugin system:
  - eliminate redundant classes
  - search plugin by predefined paths
  - adapt cmake build system: installation of targets
* Remove redundant headers
* Set plugin name dependent on OS target
* Eliminate dependencies from nncc_foundation and nncc_core libraries

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[enco] Introduce CppCode class (#1125)

This commit introduces CppCode class which encapsulates C++ code
emitter.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Introduce Code class (#1111)

* [enco] Introduce Code class

This commit introduces Code class which is a triple of coco::Module,
coco::Data, and ANNContext; One may regard this as an extended coco IR.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Use enco namespace

[pp] Remove deprecated IndentedDocumentBuilder (#1120)

This commit removes deprecated IndentedDocumentBuilder from pp.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add 'llvm' as external module (#1110)

This commit adds 'llvm' as external module which provides compile/link options to use LLVM libraries.

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[coco] Introduce Padding2D class (#1121)

This commit introduces Padding2D class which represents padding for
feature operations such as Conv2D.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Support Shuffle creation (#1108)

This commit allows InstrManager to create Shuffle instructions.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc] tflite schema moved  to separate target (#1092)

Moved tflite schema to separate target

Add stream operator for Shape (#1115)

This commit adds stream operator for Shape

Add stream operator for Index (#1116)

This commit adds stream operator for Index

Move Shape and Index classes to nnc (#1104)

Move Shape, Index and all related support classes to nnc

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[enco] Introduce ANNBinder and ANNContext (#1109)

This commit introduces ANNBinder (which bridges coco::Block and
ann::Module) and ANNContext (which serves as a factory/tracker of
ANNContext).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Introduce ANN IR Module class (#1107)

This commit introduces ANN IR Module class which hosts all of ANN
Weight/Operand/Operations in it.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce 'Shuffle' instruction (#1088)

This commit introduces 'Shuffle' instruction which allows us to express
data reordering in IR.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Introduce ANN OperationInventory (#1105)

This commit introduces ANN OperationInventory which stores a sequence of
operations in ANN IR.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add llvm 6.0 to CI docker image (#1086)

This will add llvm 6.0 dev binaries to CI docker image.
- builds llvm 6.0 from source
- use docker multi-stage to reduce image size

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[nncc.core.ADT] Overload == over kernel shape (#1053)

This commit introduces '==' operator overloading for kernel shape
instances.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Introduce ANN WeightInventory class (#1096)

This commit introduces ANN WeightInventory class which serves as a
factory and tracker of all the Weight instances.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Introduce ANN OperandInventory (#1095)

This commit introduces ANN OperandInventory class which serves as a
factory and tracker of ANN Operand instances.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Introduce ANN 'Operation' class (#1094)

This commit introduces 'Operation' class for Android NN IR that enco
internally uses.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Type command line checker functions more precisely (#1100)

Replaces BaseOption in argument of checkers with actual option types

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[nnc debug] Add command line options (#1079)

Add options to enable nnc_debug. They will be processed later by compiler driver.

Signed-off-by: Denis Maksimenko <d.maksimenko@partner.samsung.com>

 Soft backend: unit tests for C++ operations (#946)

Add implementation of unittests for operations

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[enco] Introduce ANN Operand classes (#1093)

This commit introduces ANN Operand classes (Scalar/Tensor) for plain
(non-quantized) operations.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnkit] Add caffe section to README (#1080)

* Add caffe section to README.

Added "Running with Caffe backend" section to nnkit README file.

Signed-off-by: Denis Maksimenko <d.maksimenko@partner.samsung.com>
* Remove excessive newline.

Remove excessive newline to follow document style better.

Signed-off-by: Denis Maksimenko <d.maksimenko@partner.samsung.com>
* Changes.

Changed filename and added info that `caffemodel` is unnecessary.

Signed-off-by: Denis Maksimenko <d.maksimenko@partner.samsung.com>
* Clarify usage.

Add clarification on `caffemodel` file necessity.

Signed-off-by: Denis Maksimenko <d.maksimenko@partner.samsung.com>

[enco] Introduce ANN Weight class (#1091)

This commit introduces ANN Weight class which will hold initial data for
a specific operand.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Introduce ANN Operand ID (#1090)

This commit introduces 'ann::OperandID' class to denote an
operand in Android NN network in a type-safe way.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Introduce Andoird NN DataType enum (#1089)

This commit introduces Android NN DataType enum, which is a part of ANN
IR that enco internally uses.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Introduce 'core' library (#1087)

This commit introduces enco core library which will hosts Android NN API
backend implementation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce Update Hook & Slot (#1077)

This commit introduces 'UpdateHook' and 'UpdateSlot' classes to make it
easy to implement an instruction that directly updates Bag.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add nullpointer check in Model IR Node input connection (#1078)

Pointer returned from function 'dynamic_cast' at ir_node.cpp:23 may be null, and it is dereferenced at ir_node.cpp:23.

fix #1071

Signed-off-by: y.novikov <y.novikov@partner.samsung.com>

Use const ptr instead passing by value (#1065)

Passing structures of such size by value can lead
to unnecessary performance loss.

Signed-off-by: y.novikov <y.novikov@partner.samsung.com>

Soft backend: support new format of kernel in depthwise convolution (#1064)

Adds proper support of 4-dimensional kernel in depthwise operation

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Fix softmax axis inporting in TF lite (#1038)

Set softmax axis to 1 in case of fully connected layer before it

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[coco] Pass BagLink to InstrManager (#1076)

This commit revises InstrManager to take BagLink as an argument on
construction. BagLink is necessary for bag reading/updating instruction
creation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce Read Hook & Slot (#1075)

This commit introduces Read Hook & Slot classes which makes is easy to
implement direct Bag reading instruction.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fix docker argument checking (#1074)

This will fix docker argument check and execution
- 'echo' and 'sed' was executed regardless of variable settings

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[coco] Record direct bag read/update (#1073)

This commit extends BagInfo to record direct (not through Object) bag
read/update.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Initial commit (#1072)

This commit creates 'enco' project; NN model-to-Android NN API
transpiler based on Coco IR.

This commit includes README.md and the core implementation of enco CLI.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce Locatable interface (#1059)

This commit introduces Locatable interface, which allows us to get a
location (as an instruction) on the code; This class serves as a base
class for Bag::Read, Bag::Update, Object::Def, and Object::Use.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Implement bag update in Arg (#1057)

This commit moves Bag update implementation from Input/Output into Arg.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

interpreter plugin: Fix segfaut on tensor loading (#1035)

Add check result for fopen

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

[coco] Remove Conv2D::Param struct (#1054)

This commit removes Conv2D::Param struct, and revises OpManager::create method
similarly as InstrManager::create method.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Share mock-up Def class (#1056)

DefHook/DefSlot tests include their own mock-up Def class. This commit
extracts these mock-up Def class as shared one.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Share mock-up Use class (#1055)

This commit extracts mock-up Use class from UseHook/UseSlot tests, and
shares the extracted one for both tests.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Update Object Def/Use from FeatureInstr (#1050)

This commit revises FeatureInstr to support automatic update of def/use
of its IFM/OFM object.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Record Bag Read/Update set (#1052)

This commit introduce Bag::Read and Bag::Update class which allows us to
query the location of Bag reads and updates.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Automatic update Kernel Object's user list (#1049)

This commit revises Conv2D op class to automatically update kernel object's
user list on ker method call.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce DefSlot<T> (#1048)

This commit introduces DefSlot template class which make it easy to
declare Object-defining entities such Instr.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce UseSlot<T> (#1047)

This commit introduces UseSlot<T> template class which make it easy to
declare Object-using entities such as Op and Instr.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Move ObjectManager into Conv2DTest class (#1046)

This commit moves ObjectManager-related instance declarations from
ker_update testcase into Conv2DTest fixture.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce DefHook (#1045)

This commit introduces DefHook class which encapsulates necessary
actions on Def Object updates.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Expose Object def/user information (#1044)

This commit allows users to access Object def/user information recorded in
ObjectInfo through Object entities.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce UseHook (#1042)

This commit introduces UseHook, which encapsulates ObjectInfo update
routines on Object usage changes.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Update Object Link on Object Creation (#1041)

This commit revises ObjectManager to update Object Link on object
creation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Use common UnitF allocation routine (#1040)

This commit extracts common UnitF allocation routine in UnitF tests as
'allocate' helper method.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnkit] Caffe-based nnsuite conv backend (#1006)

This commit introduces Caffe-based nnsuite conv backend. This backend
serves as a oracle for Caffe-compatible compiled artifacts.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Record Def/Use(s) in ObjectInfo (#1007)

This commit introduces Def/Use fields in ObjectInfo. Note that
this commit justs introduces fields, and does not include any update
code.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Soft backend: fix fully connected layer (#1015)

Fixes serialization of fully connected parameters

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Soft backend: fix pooling operation (#1028)

Rearrange window, strides and padding dimensions

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Partial redesign plugins system and add usage of new CLI (#1029)

* improve command line infrastructure:
  - add new parameter (checker) in Option class
* replace all uses by new CLI
* partial redesign plugins system

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[nnc] Support depthwise conv channel multiplier in interpreter (#1030)

Now depthwise convolution in interpreter supports 4D kernels.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Soft backend: fix conv operations (#1013)

Fixes convolution 2d operation in soft backend

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

nnc: Fix Caffe output node names (#1024)

This commit fix interpreting problem
based on wrong IR output nodes names

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

[nnc] TFlite import: Implement FullyConnected  (#1012)

TFlite importer can now handle FullyConnected op.

Signed-off-by: Denis Maksimenko <d.maksimenko@partner.samsung.com>

[nnc debug] Update debug format in sources (#943)

Changed format used for debugging in most files.

Signed-off-by: Denis Maksimenko <d.maksimenko@partner.samsung.com>

Add Mobilenet+Inception-v3 model loading system tests (#945)

Note that there is no way to run them yet because the way to run all
system tests separately from the unit tests should be decided first,
as well as the way to store large files (NN models in this case).

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

[nnc] Fix tensorflow lite import of depthwise conv (#985)

Depthwise convolution in Tensorflow Lite has channel multiplier
as its kernel's first dimension, while current Model IR
assumes it is the last dimension. This commit fixes this issue
by appropriately transposing the kernel during import.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

[nnc] Interpreter: fixed Pool operation (#983)

Fixed Pooling op. Added missing "else" statement. Everything worked without it, but it was extremely confusing. Also added a "break" for consistency, even though it is not needed.

Signed-off-by: Denis Maksimenko <d.maksimenko@partner.samsung.com>

[nnc] Assume SAME padding in Caffe importer (#1011)

Layers have numeric padding parameters in Caffe, as oppopsed to
SAME/VALID padding in Tensorflow Lite and Model IR.

Currently,
during the model import stage there is no information about tensor
shapes, so it is impossible to map numeric paddings to SAME/VALID
paddings correctly.

Despite that, current reference models for Caffe do follow the rule of
"if pad is zero then padding is VALID, otherwise SAME",
so this commit does exactly that (before, Caffe importer would
throw an exception if it found non-zero non-equal paddings for height
and width; but inception-v3 has non-square convolutions which lead to
exactly such case).

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Fixed FullyConnected. (#1008)

Fixed ShapeInference for FullyConnected layer, fixed interpreter implementation of FUllyConnected op.

Signed-off-by: Denis Maksimenko <d.maksimenko@partner.samsung.com>

[nnc] Caffe import: transpose FullyConnected weights (#1009)

Now transposing internal_product weights in Caffe importer to match internal format.

Signed-off-by: Denis Maksimenko <d.maksimenko@partner.samsung.com>

Fix return value. (#1010)

createFullyConnected() used to return wrong Node if bias is not present.

Signed-off-by: Denis Maksimenko <d.maksimenko@partner.samsung.com>

Soft backend fix softmax deserialization (#975)

This commit fixes deserialization of softmax parameters

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Soft backend: add absent dimension in shape (#981)

Add dimension in shape on deserialization (if there are 3 instead of 4)
this is batch dimension - 1 for inference

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Renamed sample plugin option (#942)

This commit renamed sample plugin option

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[coco] Fix build break (#1005)

This commit fixes build break caused by bag link access interface.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Pass ObjectLink to Op/Instr Manager (#1002)

This commit revises Op/Instr manager to take ObjectLink as an arugment
of their constructor.

Note that this link is not used, yet.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce PtrSlot (#969)

This commit introduces PtrSlot which allows us to insert a hook on
pointer updates.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Accessor on ObjectInfo (#1001)

This commit introduces indirect accessor on ObjectInfo inside Object
class.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Support unlink on Bag (#1000)

This commit revises Object::bag method to support Bag unlink.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Default constructible Conv2DTest fixture (#999)

Clang 6.X implicitly delete default constructor when there are const
fields, which results in build error.

This commit explicitly introduces the default constructor of Conv2DTest
fixture to fix build break.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Return casted value correctly (#998)

This commit fixes a bug in 'curr' method implementation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnkit] Extract Caffe backend implementation (#997)

This commit extracts Caffe backend class from nnkit Caffe module.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Pass Bag-to-BagInfo link via virtual method (#993)

This commit revises Object class to get Bag-to-BagInfo link via virtual
method (to make it easy to introduce a new fields if necessary).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Fix incorrect ifdef guard (#994)

This commit fixes incorrect ifdef guard of FeatureObjectInfo.forward.h

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnkit] Type-generic Caffe Backend (#991)

This commit revises FloatCaffeBackend ans type-generic CaffeBackend.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Use consistent ifdef guard (#995)

This commit updates inconsistent ifdef guards in coco IR headers.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>