Add custom target to build unit tests from only nnc (#1576)

* add custom target to build all tests from only nnc
* add custom target to run all tests from only nnc

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[coco] Externally Configurable GenericFeatureLayout (#1578)

This commit allows users to replace the layout in FeatureObject with
their own (externally allocated) GenericFeatureLayout.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Implement reorder in GenericFeatureLayout (#1577)

This commit moves the actual implementation of reorder method from
FeaturObject into GenericFeatureLayout.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Rename mock-up Bag::Updater (#1575)

Currently, its name is "Update" although it inherits "Bag::Updater".

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Generate reader/accessor per request (#1573)

This commit revises PlainWeightContext to generate kernel
reader/accessor per request.

This allows PlainWeightContext to generate Object-specific reader and
accessor.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Remove ObjectInfo (#1569)

This commit removes all the reference of ObjectInfo from coco IR code
base as ObjectInfo is no longer used.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[caffegen] Remove deprecated Fill command (#1567)

* [caffegen] Remove deprecated Fill command

This commit removes deprecated Fill command and related implementations
from caffegen.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix build error

[coco] Introduce GenericFeatureLayout (#1565)

This commit introduces GenericFeatureLayout which is extracted from
FeatureObject. GenericFeatureLayout includes code related with mapping
from index to each Bag element.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Rename target of system test for soft backend (#1574)

* Rename target of system test for soft backend

* replace target name `system_test_soft_backend_cpp_compile` with `nnc_system_test_soft_backend_cpp_compile`

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>
* rename target of test executable

[nnc] Initialize modelPacked field in TfliteImporter (#1566)

This commit add an initializer for modelPacked filed in TfliteImporter.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Remove unused empty directories (#1571)

This commit removes the following empty directories under libs:
 - frontend
   - caffe
   - tflite

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[refNN] Fix possible memory leak (#1563)

In the current implementation, allocated event object will be leaked
if startCompute failed.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] UseSet in Object (#1564)

With this commit, Object (instead of ObjectInfo) is responsible for
its UseSet management.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Do NOT use deprecated Window2D methods in Caffe frontend (#1558)

This commit eliminates the use of deprecated methods in Window2D from
Caffe frontend implementation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Do NOT use deprecated Window2D methods in NNAPI backend (#1557)

This commit eliminates the use of deprecated methods in Window2D from
NNAPI backend implementation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Remove deprecated users method (#1556)

This commit removes deprecated users method from Object, and revises
related implementations.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[RefNN] Add missing break in Executor (#1561)

'break' is missing at the end of "ADD" case currently.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Mark mutable fields as private (#1560)

This commit marks deps, reads, and updates methods in Bag as private
after renaming.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Add caffe 016 test (#1554)

This commit adds caffe 016 test which includes a group convolution layer
(which simulates depthwise convolution).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add top-level LICENSE file (#1550)

The purpose of LICENSE is to provide full text of license that the
corresponding source contains only partial and/or link to full text.

LICENSE currently contains Apache License 2.0 which our own sources
and imported reference android NN runtime use.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Import pads from caffe model directly (#1545)

Do not inference paddings in ShapeInference, instead use numbers from model

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[enco] Android NN DCONV2D operation generation (#1553)

* [enco] Android NN DCONV2D operation generation

With this commit, Android NN IR builder in enco NNAPI backend is now
able to build DCONV2D operation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix build error

[enco] Configure convolution group parameter (#1552)

This commit revises enco caffe frontend to update coco IR's group
parameter according to caffe model.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Manage Def in Object (#1532)

* [coco] Manage Def in Object

This commit moves Def field and related methods from ObjectInfo into
Object.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Update comment

[coco] Remove BagInfo (#1536)

This commit removes all the reference of deprecated BagInfo from coco IR
codebase.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce Shuffle::size method (#1539)

* [coco] Introduce Shuffle::size method

This commit introduces Shuffle::size method which allows us to get the
number of element-wise transfers without using heavy range method.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Check invariant over size() and range()

[coco] Use InstrManagerTest fixture for create_UnitF (#1529)

This commit rewrites create_UnitF test using InstrManagerTest
fixture.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] UseSet for Object (#1528)

This commit revises ObjectInfo to maintain a set of Use(s) for each
object along with a set of Consumer(s).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[caffegen] Do NOT depend on nncc_foundation (#1548)

This commit replaces all the use of nncc::foundation::make_unique with
stdex::make_unique in order to eliminate nncc_foundation dependency.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] ANN Op CodeGen (#1547)

This commit extends opcode implementation for DEPTHWISE_CONV_2D op.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] IR entities-to-Module link (#1546)

With this commit, each IR entity allocated via EntityManager will have a correct
link to a module that it belongs to.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Unify Compatiblity Check and ANN IR Builder (#1534)

This commit revises ANNOpBuilder to return Appender for a given
instruction instead of appending it.

This change allows us to unify independent CompatibilityCheck into
ANNOpBuilder.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

feature: add multiple interpreter outputs (#1543)

--res-filename removed redundant
--output-dir used for outputs
--output-node can take multiple values

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

Implement batch norm as scale and bias (#1542)

Replace batch norm with scale and bias operations in caffe importer

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Fix naming of soft backend files (#1477)

Replace old_c_style with CamelCase style in pure soft backend file names

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Fix Importer bug (#1541)

Found when testing 1 op models: `Im2Col` Layer uses the convolution parameter, as does
the `Deconvolution` (or `TransposedConvolution` layer). This resolves the issue.

Signed-off-by: Andrei Shedko <a.shedko@partner.samsung.com>

Support new type of option value (#1504)

* support `std::vector<std::string>` type for option
* support multiple values for option in command line parser
* write unit test for new functionality

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

Add shape correctness check (#1485)

Check that shapes of input tensors are correct in artifact setters

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[coco] Store size in Bag (#1531)

This commit revises Bag to store its size in it. This is a step toward
Bag/BagInfo unification.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Explicit Input/Output link from Bag (#1526)

This commit revises Bag class to maintain explicit Input/Output link (to
make it easy to manipulate).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Declare ANNOpBuilder before ANNGroupBuilder (#1524)

As stated in the title, this commit declares (and implements) ANNOpBuilder
before ANNGroupBuilder (to use ANNOpBuilder inside ANNGroupBuilder
later).

This commit includes no change over implementation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Do NOT use Object-to-ObjectInfo link (#1527)

Def and Use classes are now able to access the internals of Object
without using Object-to-ObjectInfo link.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Do NOT use Op-to-Instr link (#1525)

coco no longer uses Op-to-Instr link as a mean to manage Op-to-Instr
relations.

This commit removes all the use of Op-to-Instr link in coco IR codebase.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Use as a friend class of Object (#1523)

This commit declares Use as a friend class of Object, and simplifies the
internal implementation of Use.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Return Def instead Producer (#1521)

This commit revises Object::def method to return a pointer to Def
instead of a pointer to its Producer.

This commit also revises all the related implementations and tests.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Introduce DEPTHWISE_CONV_2D (#1520)

This commit extends Android NN IR with DEPTHWISE_CONV_2D operation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Manage DepSet/ReadSet/UpdateSet in Bag (#1518)

This commit moves DepSet/ReadSet/UpdateSet in BagInto into Bag. This is
the first step to unify Bag and BagInfo class.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Remove links for child-parent relation update (#1522)

This commit eliminates all the use of PtrLink as a mean to update
child-parent relation between DLinkedList::Head and DLinkedList::Node.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Use 'Appender' in Split pass (#1516)

* [enco] Use 'Appender' in Split pass

This commit introduces the concept of 'Appender' in Split pass.

Conceptually, each Appender encapsulates the update over ANN IR for
each coco IR instruction.

This change is a step to unify ANNGroupBuilder and ANNOpBuilder.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Remove unused variable avgpool

[coco] Introduce Step class (#1517)

This commit introduces Step class which denotes the edge between Op and
Instr.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Remove Bag-to-BagInfo link (#1519)

This commit removes all the use of Bag-to-BagInfo link from coco IR
codebase.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Allow Def to access the internals of Object (#1515)

This commit declares Def as a friend of Object class, which allows Def
to access Object's internal fields.

This change allows us to simplify the implementation of Def.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Detach Node from List on destruction (#1514)

This commit revises DLinkedList::Node's destructor to detach itself on
destruction.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce producer and consumers helpers (#1513)

This commit introduces producer and consumers helpers for Object values.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Direct updates Input/Ouput mask (#1512)

This commit declares Input and Ouput class as a friend of Bag, and
revises these classes to update Bag's make without using Bag-to-BagInfo
link.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Rename UseSlot as Use (#1511)

This commit renames UseSlot as Use (to be consistent with Def).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Prepare Window2D method renaming (#1509)

Window2D currently has 'vertical' and 'horizontal' methods, but
it would be better to use 'height' and 'width' to make it clear that
Window2D represents the shape of receptive fields.

As the first step to method renaming, this commit introduces 'height'
and 'width' methods to allow clients (such as enco) to prepare
themselves for future changes.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Change object destruction order (#1508)

This commit changes the order of object destruction in coco::Module
implementation to allow each block to detach itself from the
corresponding BlockList.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Infer Output Shape of Convolution with group (#1501)

This commit extends ConvolutionSpec to handle non-default group parameter.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Direct update on UpdateSet (#1510)

This commit declares Update as a friend class of Bag, and revises Update
to update UpdateSet in a Bag without using Bag-to-BagInfo link.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Direct update on ReadSet (#1496)

This commit declares Read as a friend class of Bag, and updates ReadSet
in it without using Bag-to-BagInfo link.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Class static head (#1498)

This commit replaces pure virtual head method with class static version
in order to support detach from destructor.

Note that destructor SHOULD NOT invoke virtual method.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Remove deprecated get (#1499)

This commit removes deprecated get method in DLinkedList Node.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce 'group' parameter to Conv2D op (#1495)

This commit introduces 'group' parameter to Conv2D op in order to
support depthwise (or grouped in general) convolution.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[stdex] Introduce Memory.h (#1494)

This commit introduces Memory.h to stdex library, which includes
make_unique implementation (not present in C++ 11).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Remove unnecessary methods for bag link update (#1497)

This commit removes all of unnecessary methods introduced to deliver bag
link to each Dep.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Simplify Bag-Dep relation update (#1492)

This commit simplifies Bag-Dep relation updates via friend declaration.

Now, Dep does not use Bag-to-BagInfo link for relation update.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Direct Parent-Child relation update in DLinkedList (#1491)

This commit revises DLinkedLists to directly updates parent-child
relations instead of using PtrLink.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Remove UseHook (#1493)

This commit removes UseHook and implements its functionalities in
UseSlot as in Def.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Hoist objects across multiple shuffle(s) (#1489)

* [enco] Hoist objects across multiple shuffle(s)

This commit extends object hoist optimization pass to support object
hoist across multiple shuffle(s).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Add 'Case 1' section

* Fix a typo (followinc --> following)

[coco] Link to Def instead of Producer (#1487)

This commit revises ObjectInfo class to maintain a link(= pointer) to
Def instead of Producer.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Support new caffe operations in soft backend (#1476)

Support new operations:
+ Scale (works on channel axis only)
+ Dropout (passes tensor without changes)
+ BatchNorm (passes tensor without changes)

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Add interpreter implementations for new operations (#1456)

Adds implementation for operation added in #1396 ( Scale, Dropout, BatchNorm )

TODO: BatchNorm and Dropout are simple stubs( just copy input to output )

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[nnc] Remove backslashes from interpreter plugin output tensor name (#1236)

Remove backslashes from interpreter plugin tensor name

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[coco] Rename DefSlot (#1484)

This commit renames DefSlot as Def similarly as Dep/Read/Update for Bag.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Remove DefHook (#1483)

This commit removes DefHook and implements its functionalities directly
in DefSlot.

This change is a step to revise DefSlot similarly as Dep/Read/Update.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Non-template UseSlot (#1482)

This commit rewrites UseSlot as a non-template version. This is a step
to support Object-to-Object substitution.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[caffegen] Enable format check (#1481)

This commit enables format check over caffegen code, and fixes existing
format errors.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Introduce Object Hoisting Optimization (#1479)

* [enco] Introduce Object Hoisting Optimization

This commit implments object hoisting opimization in enco NNAPI backend.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Remove unused candidates

[coco] Non-template DefSlot (#1480)

DefSlot is revised as a non-template version, which is a step to
support Object-to-Object substitution.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce replaceAllDepsWith (#1472)

This commit introduces replaceAllDepsWith method in Bag.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Eliminate dead bags (#1473)

This commit implements dead bag elimination optimization pass in enco
NNAPI backend.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Rename Object::Def and Object::Use (#1478)

This commit renames Object::Def and Object::Use as Object::Producer and
Object::Consumer, respectively.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Extract PoolingParmeter importer (#1471)

This commit extracts PoolingParameter importer implemented in
PoolingSpec test as a library routine.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc] Documentation for soft backend (#1237)

Added doxygen documentation for soft backend

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Support Split operation in caffe frontend (#1475)

Support Split operation in caffe importer

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Implement Passes in nnc (#1474)

* implement passes system
* remove plugins

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

New operations for caffe frontend (#1360)

Added new ops to caffe frontend:
* BatchNorm
* Scale
* Dropout

Signed-off-by: Andrei Shedko <a.shedko@partner.samsung.com>

[nnc] Add support for loading model weights to Caffegen  (#1414)

Added binary model with weights maker to caffegen.
This actually reads weights from `.caffemodel` files.

Signed-off-by: Andrei Shedko <a.shedko@partner.samsung.com>

[enco] Generate bypass shuffle (#1470)

This commit introduces bypass shuffle generation pass in enco NNAPI
backend.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Remove CanonicalAxisIndex (#1468)

CanonicalAxisIndex is currently just a wrapper of ShapeQuery.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Rename mock-up Read as Readers (#1469)

The name of this mock-up class is not changed during refactoring in
order to reduce the amount of code diffs.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Support Bag destruction (#1463)

This commit extends BagManager with destroy method. This change allows
users to safely destruct bags allocated via Bagmanager.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Support Bag replace (#1467)

This commit introduces replaceWith method in Bag, which allows users to
replace all the occurences of a bag in IR with another bag.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Remove unnecessary set in ExternalSourceTools (#1466)

This set command in necessary as a package, but unnecessary as a module.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce defined in Shuffle (#1465)

This commit extends Shuffle class with defined method.

This 'defined' method allows users to check whether a specified
element is specified as a target in Shuffle instruction without
using heavy range call.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce Shuffle::at with ElemID method (#1464)

This commit introduces Shuffle::at method that takes ElemID as its
argument.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Randomize inception c1 test (#1461)

The current inception c1 tests uses zero-filled kernel.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

OptionTools as a module (#1458)

OptionTools also does not fit into the concept of packages in nncc.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

ExternalProejctTools as a module (#1453)

Similarly as ExternalSourceTool, ExternalProejctTools also does not fin
into the concept of packages in nncc.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>