[nnc] Documentation for soft backend (#1237)

Added doxygen documentation for soft backend

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Support Split operation in caffe frontend (#1475)

Support Split operation in caffe importer

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Implement Passes in nnc (#1474)

* implement passes system
* remove plugins

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

New operations for caffe frontend (#1360)

Added new ops to caffe frontend:
* BatchNorm
* Scale
* Dropout

Signed-off-by: Andrei Shedko <a.shedko@partner.samsung.com>

[nnc] Add support for loading model weights to Caffegen  (#1414)

Added binary model with weights maker to caffegen.
This actually reads weights from `.caffemodel` files.

Signed-off-by: Andrei Shedko <a.shedko@partner.samsung.com>

[enco] Generate bypass shuffle (#1470)

This commit introduces bypass shuffle generation pass in enco NNAPI
backend.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Remove CanonicalAxisIndex (#1468)

CanonicalAxisIndex is currently just a wrapper of ShapeQuery.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Rename mock-up Read as Readers (#1469)

The name of this mock-up class is not changed during refactoring in
order to reduce the amount of code diffs.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Support Bag destruction (#1463)

This commit extends BagManager with destroy method. This change allows
users to safely destruct bags allocated via Bagmanager.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Support Bag replace (#1467)

This commit introduces replaceWith method in Bag, which allows users to
replace all the occurences of a bag in IR with another bag.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Remove unnecessary set in ExternalSourceTools (#1466)

This set command in necessary as a package, but unnecessary as a module.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce defined in Shuffle (#1465)

This commit extends Shuffle class with defined method.

This 'defined' method allows users to check whether a specified
element is specified as a target in Shuffle instruction without
using heavy range call.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce Shuffle::at with ElemID method (#1464)

This commit introduces Shuffle::at method that takes ElemID as its
argument.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Randomize inception c1 test (#1461)

The current inception c1 tests uses zero-filled kernel.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

OptionTools as a module (#1458)

OptionTools also does not fit into the concept of packages in nncc.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

ExternalProejctTools as a module (#1453)

Similarly as ExternalSourceTool, ExternalProejctTools also does not fin
into the concept of packages in nncc.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[core] Remove unused Printable trait (#1454)

This commit removes unused Printable trait declaration and related
implementations and tests.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Unlink Object's Def on destruction (#1457)

This commit revises DefSlot<T> to unlink linked Def from Object on
destruction.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Support Instr destruction (#1455)

This commit extends InstrManager with destroy method.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Ensure Bag has no reference on destruction (#1449)

This commit introduces several asserts inside Bag's destructor to ensure
that each bag has no reference in IR on destruction.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Refine Bag::updates method interface (#1448)

This commit changes Bag::updates method signature to support
constant-time access over Update links.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Add inception c1 test (#1447)

This commit integrates inception_c1 example into caffe test suite.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Refine Bag::reads method interface (#1446)

This commit refines Bag::reads method to support constant-time access
over Read links.

Note that this commit introduces semantic changes over Bag::reads
method, but does not change the semantics of readers helper.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

ExternalSourceTools as a module (#1445)

ExternalSourceTools does not fit into the concept of packages in nncc as
it does not import (or build) any external dependencies, and is always
available.

This commit converts ExternalSource as a module.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Refine Bag::deps method interface (#1444)

This commit refines Bag::deps method to return the set of Deps links
that points on the current bag.

Note that this commit does not change the semantics non-member 'dependent_objects'
helper, so one may use 'dependent_objects' helper instead of 'deps'
method for compatiblity.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Fix Read.forward.h (#1443)

This commit rewrites Read.forward.h to provides the forward declaration
of Read class; The current implementation provides the duplicated definition
of Read class.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Replace the use of deprecated methods in Bag (#1442)

This commit replaces the use of deprecated methods in Bag with suggested
ones.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Use make_unique without namespace (#1441)

This commit introduces 'using' statement for 'make_unique' in
Module.cpp. This change will improve code readability, and make
it easy to adopt C++ 14 later.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Unlink Read from Bag on destruction (#1438)

This commit implements the destructor of Read which unlinks itself from
a linked bag if it exists.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Unlink Update from Bag on desturction (#1439)

With this commit, Update unlinks itself from a linked bag if it exists.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce non-member helpers for Bag (#1440)

This commit introduces the following non-member helpers for Bag
 - dependent_objects
 - readers
 - updaters

These functions have a corresponding method in Bag, but these methods
will be deprecated.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Maintain UpdateSet instead of UpdaterSet (#1437)

This commit rewrites BagInfo to maintain UpdateSet instead of
UpdaterSet, which is necessary to support Bag-to-Bag substitution.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Maintain ReadSet instead of ReaderSet (#1435)

* [coco] Maintain ReadSet instead of ReaderSet

This commit revises BagInfo to maintain a set of Read instead of Reader
as a step to support Bag substitution.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Do not check _reader on update

[coco] Remove UpdateHook (#1434)

UpdateHook was introduced to isolate non-template implementation from
Update<T>.

Now, Update<T> is no longer based on template, and thus UpdateHook is no
longer necessary.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[ci] Add hdf5-tools to Dockerfile (#1429)

* [ci] Add hdf5-tools to Dockerfile

This will add hdf5-tools to Dockefile for test programs that uses hdf5 tools

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* Change comment for hdf5-tools

[coco] Remove ReadHook (#1433)

ReadHook was introduced to provide  common (non-template) implementation
over Read<T> classes.

This commit removes ReadHook and directly implements related operation
in Read as Read is no longer based on template.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[morph] Introduce dims.h (#1432)

This commit introduces dims modulue which will include helpers
for dims object creation from various shapes.

The current implementation supports only a helper for tensor shape.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Rename ReadSlot and UpdateSlot (#1420)

This commit renames ReadSlot and UpdateSlot as Read/Update similarly as
Dep class.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Maintain Dep(s) instead of Object(s) (#1424)

As the first step to support Bag substitution, this commit revises
BagInfo to internally maintain a list of Dep(s) in each dependent
Object instead of Object itself.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fix comments (#1427)

This commit fixes some puzzling comments in caffegen

Signed-off-by: Andrei Shedko <a.shedko@partner.samsung.com>

nnc: add DOT format support to model dumpers (#1359)

usage for dumpers:
    --dot - for dot format
    --dump - for simple format

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

Support missing Caffe Ops in Visitors (#1396)

Added stubs to Visitors for Missing Caffe Ops.
ShapeInference, DotDumper, Interpreter now have skeleton implementations

Signed-off-by: Andrei Shedko <a.shedko@partner.samsung.com>

Not unload plugins when they have already done (#1426)

workaround for bugs: #1300, #1198

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[enco] Add caffe 015 test (#1421)

This commit adds caffe 015 test which includes a convolution layer that
specifies padding via pad_h/pad_w parameters.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Remove deprecated Bag::object method (#1422)

This commit removes deprecated Bag::object method declaration and
implementation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Replace deprecated object with deps (#1419)

This commit replaces all the use of deprecated Bag::object method inside
enco with Bag::deps.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Support convolution layer with pad_h and pad_w (#1418)

* [enco] Support convolution layer with pad_h and pad_w

This commit extends caffe frontend to support convolution layer with
pad_h and pad_w parameters.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Update comment

[coco] Introduce Bag::deps (#1411)

This commit introduces Bag::deps which replaces existing 'object'
method.

New 'deps' method returns a snapshot of dependent object set similarly
as 'reads' and 'updates'.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Rename Read and Update (#1410)

This commit renames Read and Update as Reader and Updater, respectively.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Add caffe 014 test (#1415)

This commit introduces caffe 014 testcase for concat layer.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Generate loops correctly (#1409)

The current implementation of LoopGen assumes that Shuffle is fully
specified over the destination bag.

While previous commit addresses one specific issue, it turns out that
LoopGen still suffers from various asserts during execution, and
generates incorrect code.

This commit rewrites LoopGen to depend on TransferSequence instead of
directly using Shuffle instruction to address all of remaining issues.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc] Scalar param support in IR dumper (#1397)

Added scalar parameter support in IR Dot Dumper
The params and their names are stored in a `vector<pair<string,float>>`

Signed-off-by: Andrei Shedko <a.shedko@partner.samsung.com>

[enco.caffe] Support IRGen over Concat layer (#1408)

With this commit, enco caffe frontend is now able to generate coco IR
for Concat layer.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Use 'Dep' inside 'Object' (#1406)

This commit replaces Bag * inside Object with 'Dep'.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Loop Generation over Partial Shuffle (#1405)

With this commit, Host codegen is now able to emit loop nests for
partial shuffle.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Introduce ShapeQuery class (#1404)

* [enco] Introduce ShapeQuery class

This commit generalizes CanonicalChannelAxis implementation as
ShapeQuery to reuse this logic for other layers.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix typos in comment

[enco] Introduce ConcatSpec class (#1403)

This commit introduces ConcatSpec class which estimates the output shape
of Concat layer.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce Dep class (#1401)

This commit introduces Dep class which represents the edge between Bag
and its dependent Object; the code itself is derived from Object::bag.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce Shuffle::range (#1400)

This commit extends Shuffle class with range method which returns the
set of elements that will be updated by Shuffle.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Add caffe 013 test (#1393)

This commit introduces caffe 013 test which includes an average pooling
layer with padding.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Support partial shuffling (#1382)

Shuffle instruction now uses 'map' instead of 'vector' to store
element transfers between two bags.

This change allows users to encode partial shuffling in coco IR.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Implement AvgPool2D decomposition (#1388)

With this commit, enco backend now decomposes Static AvgPool2D with
padding into PadF and PaddingExcluded AvgPool2D without padding.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Initialize BagLink via non-virtual method (#1390)

This commit deprecates virtual get method, and introduces non-virtual
setBagLink method.

This will allows us to use Bag Link inside destructor.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Extend ANN IR CodeGen to support Pad op (#1391)

This commit extends ANN IR CodeGen to support Pad op.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Build ANN IR for PadF op (#1392)

This commit extends ANN IR builder to support PadF op.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Introduce Pad op (#1387)

This commit extends ANN IR to support Pad op.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Support INT32 tensor type (#1389)

This commit extends ANN CodeGen to properly declare a tensor operand of
INT32 type.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[ann] Introduce ANEURALNETWORKS_PAD (#1386)

ANEURALNETWORKS_PAD tag is currently missing in "NeuralNetworks.h".

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fix build bug: remove conflicting declaration (#1384)

* remove conflicting declaration in interpreter

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

Add tracking of error code (#1067)

Return value of a functions 'fstat' and 'fseek' is not checked.
The return value may indicate error code.

Signed-off-by: y.novikov <y.novikov@partner.samsung.com>

[coco] Introduce PadF op (#1381)

This commit introduces PadF op, and extends OpManager to support PadF
construction.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Add caffe 012 test (#1380)

This commit introduces caffe 012 test which includes a MAX pooling layer
with padding.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Correctly set ANN MaxPool2D padding (#1379)

This commit revises ANN IR builder to use padding configuration stored
in MaxPool2D op (instead of hard-coded ones)

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Build IR from Max pooling layer with padding (#1378)

This commit revises enco caffe frontend to update padding on MaxPool2D
op with the padding values from pooling layer specification.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Build ANN IR for AvgPool2D with padding (#1377)

This commit enables ANN IR build for AvgPool2D with padding.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce padding-related members to MaxPool2D (#1376)

This commit introduces padding-related members to MaxPool2D class to
allow frontend to deliver padding information to backend.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Remove deprecated Shuffle::at (#1375)

This commit removes deprecated Shuffle::at method.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Build IR from Average Pooling layers with padding (#1373)

This commit extends enco caffe frontend to support coco IR build on
average pooling layers with padding.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Initial AvgPoolRewritePass implementation (#1374)

This commit introduces the initial implementation of AvgPoolRewritePass
which support only simple case (Static divisor with empty padding).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Add caffe 011 test (#1350)

This commit adds caffe 011 test which includes an average pooling layer
with stride.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Use Shuffle::insert instead of Shuffle::at (#1372)

This commit replaces all the use of deprecated Shuffle::at with
Shuffle::insert.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce Instr::dispose (#1370)

This commit intorudces dispose method to Instr class, which allows users
to request each instruction to release IR entities that it internally manages.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce divisor-related members in AvgPool2D (#1371)

This commit extends AvgPool2D with divisor-related members to allow
frontend to deliver diviosr-related information to backend.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[RefNN] Import PAD op implementation (#1351)

This commit imports PAD op implementation in AOSP (with small cleanup).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Override dispose in MaxPool2D (#1367)

This commit overrides dispose in MaxPool2D with empty body (to convert
dispose method in Op as a pure virtual method).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Support Op destruction (#1369)

This commit introduces destroy method into OpManager class, which allows
users to destruct Op instances.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Shape inference on Pooling layers with Padding (#1354)

This commit revises PoolingSpec to infer the ouput shape of pooling
layers with padding.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce pad in AvgPool2D (#1353)

This commit introduces padding-related members into AvgPool2D class.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Release kernel on Conv2D dispose (#1366)

This commit overrides dispose method for Conv2D. On dispose call, Conv2D
will release its kernel object.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce dummy dispose to AvgPool2D (#1368)

This commit introduces dummy (empty) dispose method to AvgPool2D.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce insert method in Shuffle (#1363)

* [coco] Introduce insert method in Shuffle

This commit introduces insert method in Shuffle instruction as the first
step toward partial shuffling support.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Update _content properly inside insert

[coco] Extract UnitF to a seperate file (#1365)

This commit extracts the declaration and implementation of UnitF into a
seperate file.

Note that test code is not yet extracted.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce Op dispose (#1364)

This commit introduces Op::dispose method which allows users to request
each operation to release resources before destruction.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Fix build break on clang 7 (#1362)

This commit includes 'functional' in Frontend.cpp to fix build break on
clang 7.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc]Visitor improvement Pure Virtual Methods to Virtual (#1303)

changed visitor's methods from pure virtual to virtual

Signed-off-by: Andrei Shedko <a.shedko@partner.samsung.com>

Add absent layers for mobilenet (#1333)

Add layers in Model IR:
+ batch norm
+ scale
+ dropout

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Fix soft backend unittest (#1332)

Disable soft backend ASSERT_DEATH test in case of release build,
this test is not applicable for release build.

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Refactor soft backend (#1305)

Remove redundant soft backend classes
Move all C++ code snippets to code_snippet directory
Generate headers from snippets to generated directory

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Update revision history in DLD document and add GPU backend item (#1355)

This commit adds item about GPU backend and updates revision history of DLD

Signed-off-by: Sergey Vostokov <s.vostokov@samsung.com>

Update HLD by adding new revision info (#1356)

This commit adds new revision history line "add IR description"

Signed-off-by: Sergey Vostokov <s.vostokov@samsung.com>