Import pads from caffe model directly (#1545)

Do not inference paddings in ShapeInference, instead use numbers from model

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[enco] Android NN DCONV2D operation generation (#1553)

* [enco] Android NN DCONV2D operation generation

With this commit, Android NN IR builder in enco NNAPI backend is now
able to build DCONV2D operation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix build error

[enco] Configure convolution group parameter (#1552)

This commit revises enco caffe frontend to update coco IR's group
parameter according to caffe model.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Manage Def in Object (#1532)

* [coco] Manage Def in Object

This commit moves Def field and related methods from ObjectInfo into
Object.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Update comment

[coco] Remove BagInfo (#1536)

This commit removes all the reference of deprecated BagInfo from coco IR
codebase.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce Shuffle::size method (#1539)

* [coco] Introduce Shuffle::size method

This commit introduces Shuffle::size method which allows us to get the
number of element-wise transfers without using heavy range method.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Check invariant over size() and range()

[coco] Use InstrManagerTest fixture for create_UnitF (#1529)

This commit rewrites create_UnitF test using InstrManagerTest
fixture.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] UseSet for Object (#1528)

This commit revises ObjectInfo to maintain a set of Use(s) for each
object along with a set of Consumer(s).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[caffegen] Do NOT depend on nncc_foundation (#1548)

This commit replaces all the use of nncc::foundation::make_unique with
stdex::make_unique in order to eliminate nncc_foundation dependency.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] ANN Op CodeGen (#1547)

This commit extends opcode implementation for DEPTHWISE_CONV_2D op.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] IR entities-to-Module link (#1546)

With this commit, each IR entity allocated via EntityManager will have a correct
link to a module that it belongs to.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Unify Compatiblity Check and ANN IR Builder (#1534)

This commit revises ANNOpBuilder to return Appender for a given
instruction instead of appending it.

This change allows us to unify independent CompatibilityCheck into
ANNOpBuilder.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

feature: add multiple interpreter outputs (#1543)

--res-filename removed redundant
--output-dir used for outputs
--output-node can take multiple values

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

Implement batch norm as scale and bias (#1542)

Replace batch norm with scale and bias operations in caffe importer

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Fix naming of soft backend files (#1477)

Replace old_c_style with CamelCase style in pure soft backend file names

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Fix Importer bug (#1541)

Found when testing 1 op models: `Im2Col` Layer uses the convolution parameter, as does
the `Deconvolution` (or `TransposedConvolution` layer). This resolves the issue.

Signed-off-by: Andrei Shedko <a.shedko@partner.samsung.com>

Support new type of option value (#1504)

* support `std::vector<std::string>` type for option
* support multiple values for option in command line parser
* write unit test for new functionality

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

Add shape correctness check (#1485)

Check that shapes of input tensors are correct in artifact setters

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[coco] Store size in Bag (#1531)

This commit revises Bag to store its size in it. This is a step toward
Bag/BagInfo unification.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Explicit Input/Output link from Bag (#1526)

This commit revises Bag class to maintain explicit Input/Output link (to
make it easy to manipulate).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Declare ANNOpBuilder before ANNGroupBuilder (#1524)

As stated in the title, this commit declares (and implements) ANNOpBuilder
before ANNGroupBuilder (to use ANNOpBuilder inside ANNGroupBuilder
later).

This commit includes no change over implementation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Do NOT use Object-to-ObjectInfo link (#1527)

Def and Use classes are now able to access the internals of Object
without using Object-to-ObjectInfo link.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Do NOT use Op-to-Instr link (#1525)

coco no longer uses Op-to-Instr link as a mean to manage Op-to-Instr
relations.

This commit removes all the use of Op-to-Instr link in coco IR codebase.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Use as a friend class of Object (#1523)

This commit declares Use as a friend class of Object, and simplifies the
internal implementation of Use.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Return Def instead Producer (#1521)

This commit revises Object::def method to return a pointer to Def
instead of a pointer to its Producer.

This commit also revises all the related implementations and tests.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Introduce DEPTHWISE_CONV_2D (#1520)

This commit extends Android NN IR with DEPTHWISE_CONV_2D operation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Manage DepSet/ReadSet/UpdateSet in Bag (#1518)

This commit moves DepSet/ReadSet/UpdateSet in BagInto into Bag. This is
the first step to unify Bag and BagInfo class.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Remove links for child-parent relation update (#1522)

This commit eliminates all the use of PtrLink as a mean to update
child-parent relation between DLinkedList::Head and DLinkedList::Node.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Use 'Appender' in Split pass (#1516)

* [enco] Use 'Appender' in Split pass

This commit introduces the concept of 'Appender' in Split pass.

Conceptually, each Appender encapsulates the update over ANN IR for
each coco IR instruction.

This change is a step to unify ANNGroupBuilder and ANNOpBuilder.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Remove unused variable avgpool

[coco] Introduce Step class (#1517)

This commit introduces Step class which denotes the edge between Op and
Instr.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Remove Bag-to-BagInfo link (#1519)

This commit removes all the use of Bag-to-BagInfo link from coco IR
codebase.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Allow Def to access the internals of Object (#1515)

This commit declares Def as a friend of Object class, which allows Def
to access Object's internal fields.

This change allows us to simplify the implementation of Def.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Detach Node from List on destruction (#1514)

This commit revises DLinkedList::Node's destructor to detach itself on
destruction.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce producer and consumers helpers (#1513)

This commit introduces producer and consumers helpers for Object values.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Direct updates Input/Ouput mask (#1512)

This commit declares Input and Ouput class as a friend of Bag, and
revises these classes to update Bag's make without using Bag-to-BagInfo
link.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Rename UseSlot as Use (#1511)

This commit renames UseSlot as Use (to be consistent with Def).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Prepare Window2D method renaming (#1509)

Window2D currently has 'vertical' and 'horizontal' methods, but
it would be better to use 'height' and 'width' to make it clear that
Window2D represents the shape of receptive fields.

As the first step to method renaming, this commit introduces 'height'
and 'width' methods to allow clients (such as enco) to prepare
themselves for future changes.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Change object destruction order (#1508)

This commit changes the order of object destruction in coco::Module
implementation to allow each block to detach itself from the
corresponding BlockList.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Infer Output Shape of Convolution with group (#1501)

This commit extends ConvolutionSpec to handle non-default group parameter.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Direct update on UpdateSet (#1510)

This commit declares Update as a friend class of Bag, and revises Update
to update UpdateSet in a Bag without using Bag-to-BagInfo link.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Direct update on ReadSet (#1496)

This commit declares Read as a friend class of Bag, and updates ReadSet
in it without using Bag-to-BagInfo link.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Class static head (#1498)

This commit replaces pure virtual head method with class static version
in order to support detach from destructor.

Note that destructor SHOULD NOT invoke virtual method.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Remove deprecated get (#1499)

This commit removes deprecated get method in DLinkedList Node.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce 'group' parameter to Conv2D op (#1495)

This commit introduces 'group' parameter to Conv2D op in order to
support depthwise (or grouped in general) convolution.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[stdex] Introduce Memory.h (#1494)

This commit introduces Memory.h to stdex library, which includes
make_unique implementation (not present in C++ 11).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Remove unnecessary methods for bag link update (#1497)

This commit removes all of unnecessary methods introduced to deliver bag
link to each Dep.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Simplify Bag-Dep relation update (#1492)

This commit simplifies Bag-Dep relation updates via friend declaration.

Now, Dep does not use Bag-to-BagInfo link for relation update.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Direct Parent-Child relation update in DLinkedList (#1491)

This commit revises DLinkedLists to directly updates parent-child
relations instead of using PtrLink.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Remove UseHook (#1493)

This commit removes UseHook and implements its functionalities in
UseSlot as in Def.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Hoist objects across multiple shuffle(s) (#1489)

* [enco] Hoist objects across multiple shuffle(s)

This commit extends object hoist optimization pass to support object
hoist across multiple shuffle(s).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Add 'Case 1' section

* Fix a typo (followinc --> following)

[coco] Link to Def instead of Producer (#1487)

This commit revises ObjectInfo class to maintain a link(= pointer) to
Def instead of Producer.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Support new caffe operations in soft backend (#1476)

Support new operations:
+ Scale (works on channel axis only)
+ Dropout (passes tensor without changes)
+ BatchNorm (passes tensor without changes)

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Add interpreter implementations for new operations (#1456)

Adds implementation for operation added in #1396 ( Scale, Dropout, BatchNorm )

TODO: BatchNorm and Dropout are simple stubs( just copy input to output )

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[nnc] Remove backslashes from interpreter plugin output tensor name (#1236)

Remove backslashes from interpreter plugin tensor name

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[coco] Rename DefSlot (#1484)

This commit renames DefSlot as Def similarly as Dep/Read/Update for Bag.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Remove DefHook (#1483)

This commit removes DefHook and implements its functionalities directly
in DefSlot.

This change is a step to revise DefSlot similarly as Dep/Read/Update.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Non-template UseSlot (#1482)

This commit rewrites UseSlot as a non-template version. This is a step
to support Object-to-Object substitution.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[caffegen] Enable format check (#1481)

This commit enables format check over caffegen code, and fixes existing
format errors.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Introduce Object Hoisting Optimization (#1479)

* [enco] Introduce Object Hoisting Optimization

This commit implments object hoisting opimization in enco NNAPI backend.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Remove unused candidates

[coco] Non-template DefSlot (#1480)

DefSlot is revised as a non-template version, which is a step to
support Object-to-Object substitution.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce replaceAllDepsWith (#1472)

This commit introduces replaceAllDepsWith method in Bag.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Eliminate dead bags (#1473)

This commit implements dead bag elimination optimization pass in enco
NNAPI backend.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Rename Object::Def and Object::Use (#1478)

This commit renames Object::Def and Object::Use as Object::Producer and
Object::Consumer, respectively.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Extract PoolingParmeter importer (#1471)

This commit extracts PoolingParameter importer implemented in
PoolingSpec test as a library routine.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc] Documentation for soft backend (#1237)

Added doxygen documentation for soft backend

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Support Split operation in caffe frontend (#1475)

Support Split operation in caffe importer

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Implement Passes in nnc (#1474)

* implement passes system
* remove plugins

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

New operations for caffe frontend (#1360)

Added new ops to caffe frontend:
* BatchNorm
* Scale
* Dropout

Signed-off-by: Andrei Shedko <a.shedko@partner.samsung.com>

[nnc] Add support for loading model weights to Caffegen  (#1414)

Added binary model with weights maker to caffegen.
This actually reads weights from `.caffemodel` files.

Signed-off-by: Andrei Shedko <a.shedko@partner.samsung.com>

[enco] Generate bypass shuffle (#1470)

This commit introduces bypass shuffle generation pass in enco NNAPI
backend.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Remove CanonicalAxisIndex (#1468)

CanonicalAxisIndex is currently just a wrapper of ShapeQuery.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Rename mock-up Read as Readers (#1469)

The name of this mock-up class is not changed during refactoring in
order to reduce the amount of code diffs.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Support Bag destruction (#1463)

This commit extends BagManager with destroy method. This change allows
users to safely destruct bags allocated via Bagmanager.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Support Bag replace (#1467)

This commit introduces replaceWith method in Bag, which allows users to
replace all the occurences of a bag in IR with another bag.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Remove unnecessary set in ExternalSourceTools (#1466)

This set command in necessary as a package, but unnecessary as a module.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce defined in Shuffle (#1465)

This commit extends Shuffle class with defined method.

This 'defined' method allows users to check whether a specified
element is specified as a target in Shuffle instruction without
using heavy range call.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce Shuffle::at with ElemID method (#1464)

This commit introduces Shuffle::at method that takes ElemID as its
argument.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Randomize inception c1 test (#1461)

The current inception c1 tests uses zero-filled kernel.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

OptionTools as a module (#1458)

OptionTools also does not fit into the concept of packages in nncc.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

ExternalProejctTools as a module (#1453)

Similarly as ExternalSourceTool, ExternalProejctTools also does not fin
into the concept of packages in nncc.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[core] Remove unused Printable trait (#1454)

This commit removes unused Printable trait declaration and related
implementations and tests.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Unlink Object's Def on destruction (#1457)

This commit revises DefSlot<T> to unlink linked Def from Object on
destruction.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Support Instr destruction (#1455)

This commit extends InstrManager with destroy method.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Ensure Bag has no reference on destruction (#1449)

This commit introduces several asserts inside Bag's destructor to ensure
that each bag has no reference in IR on destruction.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Refine Bag::updates method interface (#1448)

This commit changes Bag::updates method signature to support
constant-time access over Update links.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Add inception c1 test (#1447)

This commit integrates inception_c1 example into caffe test suite.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Refine Bag::reads method interface (#1446)

This commit refines Bag::reads method to support constant-time access
over Read links.

Note that this commit introduces semantic changes over Bag::reads
method, but does not change the semantics of readers helper.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

ExternalSourceTools as a module (#1445)

ExternalSourceTools does not fit into the concept of packages in nncc as
it does not import (or build) any external dependencies, and is always
available.

This commit converts ExternalSource as a module.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Refine Bag::deps method interface (#1444)

This commit refines Bag::deps method to return the set of Deps links
that points on the current bag.

Note that this commit does not change the semantics non-member 'dependent_objects'
helper, so one may use 'dependent_objects' helper instead of 'deps'
method for compatiblity.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Fix Read.forward.h (#1443)

This commit rewrites Read.forward.h to provides the forward declaration
of Read class; The current implementation provides the duplicated definition
of Read class.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Replace the use of deprecated methods in Bag (#1442)

This commit replaces the use of deprecated methods in Bag with suggested
ones.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Use make_unique without namespace (#1441)

This commit introduces 'using' statement for 'make_unique' in
Module.cpp. This change will improve code readability, and make
it easy to adopt C++ 14 later.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Unlink Read from Bag on destruction (#1438)

This commit implements the destructor of Read which unlinks itself from
a linked bag if it exists.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Unlink Update from Bag on desturction (#1439)

With this commit, Update unlinks itself from a linked bag if it exists.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce non-member helpers for Bag (#1440)

This commit introduces the following non-member helpers for Bag
 - dependent_objects
 - readers
 - updaters

These functions have a corresponding method in Bag, but these methods
will be deprecated.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Maintain UpdateSet instead of UpdaterSet (#1437)

This commit rewrites BagInfo to maintain UpdateSet instead of
UpdaterSet, which is necessary to support Bag-to-Bag substitution.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Maintain ReadSet instead of ReaderSet (#1435)

* [coco] Maintain ReadSet instead of ReaderSet

This commit revises BagInfo to maintain a set of Read instead of Reader
as a step to support Bag substitution.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Do not check _reader on update

[coco] Remove UpdateHook (#1434)

UpdateHook was introduced to isolate non-template implementation from
Update<T>.

Now, Update<T> is no longer based on template, and thus UpdateHook is no
longer necessary.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[ci] Add hdf5-tools to Dockerfile (#1429)

* [ci] Add hdf5-tools to Dockerfile

This will add hdf5-tools to Dockefile for test programs that uses hdf5 tools

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* Change comment for hdf5-tools

[coco] Remove ReadHook (#1433)

ReadHook was introduced to provide  common (non-template) implementation
over Read<T> classes.

This commit removes ReadHook and directly implements related operation
in Read as Read is no longer based on template.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>