[nnc] Remove backslashes from interpreter plugin output tensor name (#1236)

Remove backslashes from interpreter plugin tensor name

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[coco] Rename DefSlot (#1484)

This commit renames DefSlot as Def similarly as Dep/Read/Update for Bag.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Remove DefHook (#1483)

This commit removes DefHook and implements its functionalities directly
in DefSlot.

This change is a step to revise DefSlot similarly as Dep/Read/Update.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Non-template UseSlot (#1482)

This commit rewrites UseSlot as a non-template version. This is a step
to support Object-to-Object substitution.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[caffegen] Enable format check (#1481)

This commit enables format check over caffegen code, and fixes existing
format errors.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Introduce Object Hoisting Optimization (#1479)

* [enco] Introduce Object Hoisting Optimization

This commit implments object hoisting opimization in enco NNAPI backend.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Remove unused candidates

[coco] Non-template DefSlot (#1480)

DefSlot is revised as a non-template version, which is a step to
support Object-to-Object substitution.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce replaceAllDepsWith (#1472)

This commit introduces replaceAllDepsWith method in Bag.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Eliminate dead bags (#1473)

This commit implements dead bag elimination optimization pass in enco
NNAPI backend.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Rename Object::Def and Object::Use (#1478)

This commit renames Object::Def and Object::Use as Object::Producer and
Object::Consumer, respectively.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Extract PoolingParmeter importer (#1471)

This commit extracts PoolingParameter importer implemented in
PoolingSpec test as a library routine.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc] Documentation for soft backend (#1237)

Added doxygen documentation for soft backend

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Support Split operation in caffe frontend (#1475)

Support Split operation in caffe importer

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Implement Passes in nnc (#1474)

* implement passes system
* remove plugins

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

New operations for caffe frontend (#1360)

Added new ops to caffe frontend:
* BatchNorm
* Scale
* Dropout

Signed-off-by: Andrei Shedko <a.shedko@partner.samsung.com>

[nnc] Add support for loading model weights to Caffegen  (#1414)

Added binary model with weights maker to caffegen.
This actually reads weights from `.caffemodel` files.

Signed-off-by: Andrei Shedko <a.shedko@partner.samsung.com>

[enco] Generate bypass shuffle (#1470)

This commit introduces bypass shuffle generation pass in enco NNAPI
backend.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Remove CanonicalAxisIndex (#1468)

CanonicalAxisIndex is currently just a wrapper of ShapeQuery.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Rename mock-up Read as Readers (#1469)

The name of this mock-up class is not changed during refactoring in
order to reduce the amount of code diffs.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Support Bag destruction (#1463)

This commit extends BagManager with destroy method. This change allows
users to safely destruct bags allocated via Bagmanager.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Support Bag replace (#1467)

This commit introduces replaceWith method in Bag, which allows users to
replace all the occurences of a bag in IR with another bag.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Remove unnecessary set in ExternalSourceTools (#1466)

This set command in necessary as a package, but unnecessary as a module.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce defined in Shuffle (#1465)

This commit extends Shuffle class with defined method.

This 'defined' method allows users to check whether a specified
element is specified as a target in Shuffle instruction without
using heavy range call.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce Shuffle::at with ElemID method (#1464)

This commit introduces Shuffle::at method that takes ElemID as its
argument.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Randomize inception c1 test (#1461)

The current inception c1 tests uses zero-filled kernel.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

OptionTools as a module (#1458)

OptionTools also does not fit into the concept of packages in nncc.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

ExternalProejctTools as a module (#1453)

Similarly as ExternalSourceTool, ExternalProejctTools also does not fin
into the concept of packages in nncc.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[core] Remove unused Printable trait (#1454)

This commit removes unused Printable trait declaration and related
implementations and tests.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Unlink Object's Def on destruction (#1457)

This commit revises DefSlot<T> to unlink linked Def from Object on
destruction.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Support Instr destruction (#1455)

This commit extends InstrManager with destroy method.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Ensure Bag has no reference on destruction (#1449)

This commit introduces several asserts inside Bag's destructor to ensure
that each bag has no reference in IR on destruction.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Refine Bag::updates method interface (#1448)

This commit changes Bag::updates method signature to support
constant-time access over Update links.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Add inception c1 test (#1447)

This commit integrates inception_c1 example into caffe test suite.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Refine Bag::reads method interface (#1446)

This commit refines Bag::reads method to support constant-time access
over Read links.

Note that this commit introduces semantic changes over Bag::reads
method, but does not change the semantics of readers helper.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

ExternalSourceTools as a module (#1445)

ExternalSourceTools does not fit into the concept of packages in nncc as
it does not import (or build) any external dependencies, and is always
available.

This commit converts ExternalSource as a module.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Refine Bag::deps method interface (#1444)

This commit refines Bag::deps method to return the set of Deps links
that points on the current bag.

Note that this commit does not change the semantics non-member 'dependent_objects'
helper, so one may use 'dependent_objects' helper instead of 'deps'
method for compatiblity.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Fix Read.forward.h (#1443)

This commit rewrites Read.forward.h to provides the forward declaration
of Read class; The current implementation provides the duplicated definition
of Read class.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Replace the use of deprecated methods in Bag (#1442)

This commit replaces the use of deprecated methods in Bag with suggested
ones.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Use make_unique without namespace (#1441)

This commit introduces 'using' statement for 'make_unique' in
Module.cpp. This change will improve code readability, and make
it easy to adopt C++ 14 later.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Unlink Read from Bag on destruction (#1438)

This commit implements the destructor of Read which unlinks itself from
a linked bag if it exists.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Unlink Update from Bag on desturction (#1439)

With this commit, Update unlinks itself from a linked bag if it exists.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce non-member helpers for Bag (#1440)

This commit introduces the following non-member helpers for Bag
 - dependent_objects
 - readers
 - updaters

These functions have a corresponding method in Bag, but these methods
will be deprecated.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Maintain UpdateSet instead of UpdaterSet (#1437)

This commit rewrites BagInfo to maintain UpdateSet instead of
UpdaterSet, which is necessary to support Bag-to-Bag substitution.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Maintain ReadSet instead of ReaderSet (#1435)

* [coco] Maintain ReadSet instead of ReaderSet

This commit revises BagInfo to maintain a set of Read instead of Reader
as a step to support Bag substitution.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Do not check _reader on update

[coco] Remove UpdateHook (#1434)

UpdateHook was introduced to isolate non-template implementation from
Update<T>.

Now, Update<T> is no longer based on template, and thus UpdateHook is no
longer necessary.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[ci] Add hdf5-tools to Dockerfile (#1429)

* [ci] Add hdf5-tools to Dockerfile

This will add hdf5-tools to Dockefile for test programs that uses hdf5 tools

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* Change comment for hdf5-tools

[coco] Remove ReadHook (#1433)

ReadHook was introduced to provide  common (non-template) implementation
over Read<T> classes.

This commit removes ReadHook and directly implements related operation
in Read as Read is no longer based on template.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[morph] Introduce dims.h (#1432)

This commit introduces dims modulue which will include helpers
for dims object creation from various shapes.

The current implementation supports only a helper for tensor shape.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Rename ReadSlot and UpdateSlot (#1420)

This commit renames ReadSlot and UpdateSlot as Read/Update similarly as
Dep class.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Maintain Dep(s) instead of Object(s) (#1424)

As the first step to support Bag substitution, this commit revises
BagInfo to internally maintain a list of Dep(s) in each dependent
Object instead of Object itself.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fix comments (#1427)

This commit fixes some puzzling comments in caffegen

Signed-off-by: Andrei Shedko <a.shedko@partner.samsung.com>

nnc: add DOT format support to model dumpers (#1359)

usage for dumpers:
    --dot - for dot format
    --dump - for simple format

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

Support missing Caffe Ops in Visitors (#1396)

Added stubs to Visitors for Missing Caffe Ops.
ShapeInference, DotDumper, Interpreter now have skeleton implementations

Signed-off-by: Andrei Shedko <a.shedko@partner.samsung.com>

Not unload plugins when they have already done (#1426)

workaround for bugs: #1300, #1198

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[enco] Add caffe 015 test (#1421)

This commit adds caffe 015 test which includes a convolution layer that
specifies padding via pad_h/pad_w parameters.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Remove deprecated Bag::object method (#1422)

This commit removes deprecated Bag::object method declaration and
implementation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Replace deprecated object with deps (#1419)

This commit replaces all the use of deprecated Bag::object method inside
enco with Bag::deps.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Support convolution layer with pad_h and pad_w (#1418)

* [enco] Support convolution layer with pad_h and pad_w

This commit extends caffe frontend to support convolution layer with
pad_h and pad_w parameters.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Update comment

[coco] Introduce Bag::deps (#1411)

This commit introduces Bag::deps which replaces existing 'object'
method.

New 'deps' method returns a snapshot of dependent object set similarly
as 'reads' and 'updates'.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Rename Read and Update (#1410)

This commit renames Read and Update as Reader and Updater, respectively.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Add caffe 014 test (#1415)

This commit introduces caffe 014 testcase for concat layer.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Generate loops correctly (#1409)

The current implementation of LoopGen assumes that Shuffle is fully
specified over the destination bag.

While previous commit addresses one specific issue, it turns out that
LoopGen still suffers from various asserts during execution, and
generates incorrect code.

This commit rewrites LoopGen to depend on TransferSequence instead of
directly using Shuffle instruction to address all of remaining issues.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc] Scalar param support in IR dumper (#1397)

Added scalar parameter support in IR Dot Dumper
The params and their names are stored in a `vector<pair<string,float>>`

Signed-off-by: Andrei Shedko <a.shedko@partner.samsung.com>

[enco.caffe] Support IRGen over Concat layer (#1408)

With this commit, enco caffe frontend is now able to generate coco IR
for Concat layer.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Use 'Dep' inside 'Object' (#1406)

This commit replaces Bag * inside Object with 'Dep'.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Loop Generation over Partial Shuffle (#1405)

With this commit, Host codegen is now able to emit loop nests for
partial shuffle.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Introduce ShapeQuery class (#1404)

* [enco] Introduce ShapeQuery class

This commit generalizes CanonicalChannelAxis implementation as
ShapeQuery to reuse this logic for other layers.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix typos in comment

[enco] Introduce ConcatSpec class (#1403)

This commit introduces ConcatSpec class which estimates the output shape
of Concat layer.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce Dep class (#1401)

This commit introduces Dep class which represents the edge between Bag
and its dependent Object; the code itself is derived from Object::bag.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce Shuffle::range (#1400)

This commit extends Shuffle class with range method which returns the
set of elements that will be updated by Shuffle.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Add caffe 013 test (#1393)

This commit introduces caffe 013 test which includes an average pooling
layer with padding.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Support partial shuffling (#1382)

Shuffle instruction now uses 'map' instead of 'vector' to store
element transfers between two bags.

This change allows users to encode partial shuffling in coco IR.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Implement AvgPool2D decomposition (#1388)

With this commit, enco backend now decomposes Static AvgPool2D with
padding into PadF and PaddingExcluded AvgPool2D without padding.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Initialize BagLink via non-virtual method (#1390)

This commit deprecates virtual get method, and introduces non-virtual
setBagLink method.

This will allows us to use Bag Link inside destructor.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Extend ANN IR CodeGen to support Pad op (#1391)

This commit extends ANN IR CodeGen to support Pad op.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Build ANN IR for PadF op (#1392)

This commit extends ANN IR builder to support PadF op.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Introduce Pad op (#1387)

This commit extends ANN IR to support Pad op.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Support INT32 tensor type (#1389)

This commit extends ANN CodeGen to properly declare a tensor operand of
INT32 type.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[ann] Introduce ANEURALNETWORKS_PAD (#1386)

ANEURALNETWORKS_PAD tag is currently missing in "NeuralNetworks.h".

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fix build bug: remove conflicting declaration (#1384)

* remove conflicting declaration in interpreter

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

Add tracking of error code (#1067)

Return value of a functions 'fstat' and 'fseek' is not checked.
The return value may indicate error code.

Signed-off-by: y.novikov <y.novikov@partner.samsung.com>

[coco] Introduce PadF op (#1381)

This commit introduces PadF op, and extends OpManager to support PadF
construction.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Add caffe 012 test (#1380)

This commit introduces caffe 012 test which includes a MAX pooling layer
with padding.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Correctly set ANN MaxPool2D padding (#1379)

This commit revises ANN IR builder to use padding configuration stored
in MaxPool2D op (instead of hard-coded ones)

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Build IR from Max pooling layer with padding (#1378)

This commit revises enco caffe frontend to update padding on MaxPool2D
op with the padding values from pooling layer specification.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Build ANN IR for AvgPool2D with padding (#1377)

This commit enables ANN IR build for AvgPool2D with padding.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce padding-related members to MaxPool2D (#1376)

This commit introduces padding-related members to MaxPool2D class to
allow frontend to deliver padding information to backend.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Remove deprecated Shuffle::at (#1375)

This commit removes deprecated Shuffle::at method.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Build IR from Average Pooling layers with padding (#1373)

This commit extends enco caffe frontend to support coco IR build on
average pooling layers with padding.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Initial AvgPoolRewritePass implementation (#1374)

This commit introduces the initial implementation of AvgPoolRewritePass
which support only simple case (Static divisor with empty padding).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Add caffe 011 test (#1350)

This commit adds caffe 011 test which includes an average pooling layer
with stride.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Use Shuffle::insert instead of Shuffle::at (#1372)

This commit replaces all the use of deprecated Shuffle::at with
Shuffle::insert.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce Instr::dispose (#1370)

This commit intorudces dispose method to Instr class, which allows users
to request each instruction to release IR entities that it internally manages.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce divisor-related members in AvgPool2D (#1371)

This commit extends AvgPool2D with divisor-related members to allow
frontend to deliver diviosr-related information to backend.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[RefNN] Import PAD op implementation (#1351)

This commit imports PAD op implementation in AOSP (with small cleanup).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Override dispose in MaxPool2D (#1367)

This commit overrides dispose in MaxPool2D with empty body (to convert
dispose method in Op as a pure virtual method).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Support Op destruction (#1369)

This commit introduces destroy method into OpManager class, which allows
users to destruct Op instances.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Shape inference on Pooling layers with Padding (#1354)

This commit revises PoolingSpec to infer the ouput shape of pooling
layers with padding.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce pad in AvgPool2D (#1353)

This commit introduces padding-related members into AvgPool2D class.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Release kernel on Conv2D dispose (#1366)

This commit overrides dispose method for Conv2D. On dispose call, Conv2D
will release its kernel object.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>