[enco] Remove unused code (#1663)

This commit removes unused code in Normalize.cpp which is left to
minimize code diffs.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Add license notice (#1657)

This commit appends license notice for all the sources and headers of
coco IR.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Remove third party debug functionality (#1658)

* Remove unused third party debug functionality

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[coco] Introduce BlockIndex class (#1655)

This commit introduces BlockIndex class which denotes the index of a
block inside a block list.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Notify Child Join/Leave from DLinkedList (#1653)

With this commit, users may implement a hook on child join/leave event
for classes that inherit DLinkedList traits.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Test Conv2D's destructor (#1652)

This commit introduces a test for Conv2D's destructor.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nest] Add license notice (#1648)

This commit appends license notice over all the headers and sources of
nest.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Do NOT use GenericFeatureLayout in IR test (#1651)

This commit removes the use of GenericFeatureLayout inside IR test.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Insert Copy instead of Shuffle (#1654)

The current implementation of data layout normalization pass inserts
shuffle, which necessitates excessive iterations.

As an optimization, this commit revises data layout normalization
pass to insert copy instead of shuffle.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Lower Copy as Shuffle (#1650)

This commit introduces a lowering phase that rewrites Copy as Shuffle.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Unlink Use on destruction (#1649)

This commit revises Use's destructor to unlink itself from linked
Object (if exists).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nncc.foundation] Add license notice (#1625)

This commit appends license notice for all the sources and headers of
nncc foundation library.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Rename 'Use' mock-up class (#1626)

This commit renames 'Use' mock-up class as 'Consumer'.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Remove redundant classes from modelIR (#1642)

Remove
 - IndexEnumerator class that duplicates functionality from ShapeInference
 - Redundant interface classes

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Update STD doc (#1644)

include all rst files into the document

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

Update SDD doc (#1643)

include all rst files into the document

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

Move SDD document into contrib/nnc (#1641)

This commit moves SDD document from nncc/doc in md formant into nncc/contrib/nnc in rst format

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

Move STD document into contrib/nnc (#1636)

* move STD document into contrib/nnc

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[nnc] Implement tensor serialization  (#1398)

* Add serialization classes

Add Serializer class that can be used for IR serialization, and unit tests for it.

Signed-off-by: Denis Maksimenko <d.maksimenko@partner.samsung.com>

Prevent crash build if components are unavailable (#1628)

* fix linking failure if frontends are unavailable

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[nnkit] Throw bad_alloc on malloc failure (#1624)

tflite backend (for nnsuite conv case) internally uses typed_malloc
method, which wraps std::malloc, which may return nullptr on memory
allocation failure.

This commit revises this method to throw std::bad_alloc on memory
allocation failure (similarly as C++ new) to make it easy to detect
memory allocation failure.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Allow users to skip contrib project build (#1623)

With this commit, users are now allowed to skip some projects under
contrib via cmake options (-DBUILD_CONTRIB_XXX).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Build tests only when test is enabled (#1622)

With this commit, CMake will build coco tests (coco_core_test and
coco_generic_test) only when ENABLE_TEST is set.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[refNN] Simplify DCHECK macros (#1621)

This commit simplifies DCHECK macros using assert itself.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce Copy instruction (#1615)

This commit introduces Copy instruction as a mean to reduce compile
time.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnkit] Add lincense notice (#1618)

This commit adds license notice for all the headers and sources.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[morph] Add license notice (#1619)

This commit appends license notice over the sources and headers of morph
project.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nncc.core] Add license notice (#1620)

This commit addes license notices for all the sources and headers of
nncc core library.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnop] Add license notice (#1617)

This commit appends license notice for all the headers and sources of
nnop project.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnsuite] Add license notice (#1616)

This commit appends license notice for all the headers and sources of
nnsuite library.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[pp] Add license notice (#1608)

This commit appends license notice for all the headers and soruces of
pp library.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce Instr::IMutator interface (#1614)

This commit introduces Instr::IMutator interface, which aims to minimize
code changes upon Instr (similarly as in Instr::IVisitor).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Unique ID for each FeatureLayout (#1613)

This commit introduces unique ID value for each FeatureLayout, which
allows backend to easily distinguish each layout.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Introduce list_subdirectories (#1611)

This commit extracts list_subdirectories function from
add_subdirectories, and re-implements add_subdirectories using
list_subdirectories.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Do NOT use GenericFeatureLayout in NNAPI backend (#1612)

This commit replaces all the use of GenericFeatureLayout inside NNAPI
backend implementation with optimized BHWC layout.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce BHWC Feature Layout (#1601)

This commit implements BHWC Feature Layout class, which may speed up
some model import/codegen phase.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Instr::Visitor as abstract class (instead of interface) (#1605)

This commit introduces pure virtual Instr::IVisitor interface, and
revises Instr::Vistor as abstract class.

This change aims to minimize changes upon Instr extension.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Throw an exception on unknown operand type (#1606)

The current implementation assumes that operand is either scalar or
tensor and validates it through assert.

This commit explicitly validates dynamic casted pointer, which allows us
to detect such an abnormal case even for release build.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Catch std::exception instead of std::runtime_error (#1607)

The current implementation catches std::runtime_error, and thus failed
to catch other exceptions such as std::invalid_argument.

This commit revises catch statement to catch std::exception which is a
base class for a wide range of exceptions including
std::invalid_argument.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fix build for install target (#1609)

* Fix build for install target

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

Add OptionalTargetTools module (#1590)

This commit introduces OptionalTargetTools module which provides
optional_target_link_libraries macro, and revises
nncc_target_link_libraries to use this macro.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nncc.core] Return a uint32_t value on num_elements call (#1604)

Now, num_elements functions return a uint32_t value instead of a uint64_t
value.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnop] Explicit cast to int64_t (#1603)

This commit inserts explicit cast to int64_t (from uint32_t) before
using it.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Catch internal exceptions in main (#1600)

With this commit, enco-cli now catches internal exceptions from
top-level main, and shows error message.

Note that this change is applied only to Release build. Debug build
remains unchanged to make it easy to check the stack trace on failure.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[stdex] Add license notice (#1602)

All the headers and sources in stdex now have license notice at the top.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[stdex] File naming convention (#1598)

This commit changes set as Set.h for consistency.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Replace Generic with BCHW layout in Caffe frontend (#1597)

This commit replaces all the use of GenericFeatureLayout with BCHW
layout.

This change eliminates the need for reorder call, which speeds up IR
build.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Fix possible memory leak in DLinkedListTest (#1593)

With the current implementation, allocated objects will be leaked on
assert failure.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[caffegen] Add license notice (#1596)

This commit adds license notice to all the headers and sources under
contrib/caffegen.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce BCHW Feature Layout (#1595)

This commit introduces BCHW feature layout class as a mean to speed up
model import/transformation phases.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[cli] Add LICENSE notice (#1568)

This commit adds LICENSE notice for all the sources under cli.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce FeatureLayout interface (#1592)

This commit introduces FeatureLayout interface, and revises
FeatureObject to depend on this new interface instead of
GenericFeatureLayout.

Besides, this commit also revises GenericFeatureLayout to inherit
FeatureLayout interface, which removes the need for external code
update.

This change allows us to impliment and use optimized FeatureLayouts to
speed up compilation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Update Index-to-Element link only via GenericFeatureLayout (#1591)

This commit adjusts the role of FeatureObject and GenericFeatureLayout
classes. Now, GenericFeatureLayout (not FeatureObject) is not responsible
for Index-to-Element link update.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Do NOT use reorder (in NNAPI backend) (#1589)

This commit eliminates the use of reorder method (in FeatureObject) from
NNAPI backend implementation.

This change is prerequisite for coco IR design revision.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Do NOT use reorder inside Caffe frontend (#1588)

This commit eliminates the use of reorder method (in FeatureObject) from
caffe frontend implementation.

This change is prerequisite for coco IR design revision.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

The first commit in the set of incremental commits for PRs adding the new ACL C++ soft backend (#1583)

This commit adds the command line option for the new backend invokation and add the new backend library stub

Signed-off-by: Timur Ablyazimov <t.ablyazimov@samsung.com>

Refactor nnc build system (#1584)

* implement function to add nnc library

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

Support pooling border type in soft backend  (#1582)

Support two border types in avg pooling: ZEROFILLED and EMPTY
Only EMPTY type supported in max pooling

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[nnc] Fix interpreter tests (#1581)

Force borderType to be set to `ZEROFILLED` in pooling operator creation
Fix check for gtest availability( previosly was `getst` instead of `gtest` )
Add status message instead silent fail if tests cannot be build

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add interpreter support of different pooling types (#1580)

Add support of `zero filled` and `empty` padding fill in interpreter pooling

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add border type in pooling operation (#1579)

* Add border type that describes content of pool input outside of it's shape
* Support this property in importers
* Fix warning in tflite_op_creator.cpp

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Add custom target to build unit tests from only nnc (#1576)

* add custom target to build all tests from only nnc
* add custom target to run all tests from only nnc

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[coco] Externally Configurable GenericFeatureLayout (#1578)

This commit allows users to replace the layout in FeatureObject with
their own (externally allocated) GenericFeatureLayout.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Implement reorder in GenericFeatureLayout (#1577)

This commit moves the actual implementation of reorder method from
FeaturObject into GenericFeatureLayout.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Rename mock-up Bag::Updater (#1575)

Currently, its name is "Update" although it inherits "Bag::Updater".

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Generate reader/accessor per request (#1573)

This commit revises PlainWeightContext to generate kernel
reader/accessor per request.

This allows PlainWeightContext to generate Object-specific reader and
accessor.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Remove ObjectInfo (#1569)

This commit removes all the reference of ObjectInfo from coco IR code
base as ObjectInfo is no longer used.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[caffegen] Remove deprecated Fill command (#1567)

* [caffegen] Remove deprecated Fill command

This commit removes deprecated Fill command and related implementations
from caffegen.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix build error

[coco] Introduce GenericFeatureLayout (#1565)

This commit introduces GenericFeatureLayout which is extracted from
FeatureObject. GenericFeatureLayout includes code related with mapping
from index to each Bag element.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Rename target of system test for soft backend (#1574)

* Rename target of system test for soft backend

* replace target name `system_test_soft_backend_cpp_compile` with `nnc_system_test_soft_backend_cpp_compile`

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>
* rename target of test executable

[nnc] Initialize modelPacked field in TfliteImporter (#1566)

This commit add an initializer for modelPacked filed in TfliteImporter.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Remove unused empty directories (#1571)

This commit removes the following empty directories under libs:
 - frontend
   - caffe
   - tflite

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[refNN] Fix possible memory leak (#1563)

In the current implementation, allocated event object will be leaked
if startCompute failed.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] UseSet in Object (#1564)

With this commit, Object (instead of ObjectInfo) is responsible for
its UseSet management.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Do NOT use deprecated Window2D methods in Caffe frontend (#1558)

This commit eliminates the use of deprecated methods in Window2D from
Caffe frontend implementation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Do NOT use deprecated Window2D methods in NNAPI backend (#1557)

This commit eliminates the use of deprecated methods in Window2D from
NNAPI backend implementation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Remove deprecated users method (#1556)

This commit removes deprecated users method from Object, and revises
related implementations.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[RefNN] Add missing break in Executor (#1561)

'break' is missing at the end of "ADD" case currently.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Mark mutable fields as private (#1560)

This commit marks deps, reads, and updates methods in Bag as private
after renaming.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Add caffe 016 test (#1554)

This commit adds caffe 016 test which includes a group convolution layer
(which simulates depthwise convolution).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add top-level LICENSE file (#1550)

The purpose of LICENSE is to provide full text of license that the
corresponding source contains only partial and/or link to full text.

LICENSE currently contains Apache License 2.0 which our own sources
and imported reference android NN runtime use.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Import pads from caffe model directly (#1545)

Do not inference paddings in ShapeInference, instead use numbers from model

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[enco] Android NN DCONV2D operation generation (#1553)

* [enco] Android NN DCONV2D operation generation

With this commit, Android NN IR builder in enco NNAPI backend is now
able to build DCONV2D operation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix build error

[enco] Configure convolution group parameter (#1552)

This commit revises enco caffe frontend to update coco IR's group
parameter according to caffe model.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Manage Def in Object (#1532)

* [coco] Manage Def in Object

This commit moves Def field and related methods from ObjectInfo into
Object.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Update comment

[coco] Remove BagInfo (#1536)

This commit removes all the reference of deprecated BagInfo from coco IR
codebase.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce Shuffle::size method (#1539)

* [coco] Introduce Shuffle::size method

This commit introduces Shuffle::size method which allows us to get the
number of element-wise transfers without using heavy range method.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Check invariant over size() and range()

[coco] Use InstrManagerTest fixture for create_UnitF (#1529)

This commit rewrites create_UnitF test using InstrManagerTest
fixture.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] UseSet for Object (#1528)

This commit revises ObjectInfo to maintain a set of Use(s) for each
object along with a set of Consumer(s).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[caffegen] Do NOT depend on nncc_foundation (#1548)

This commit replaces all the use of nncc::foundation::make_unique with
stdex::make_unique in order to eliminate nncc_foundation dependency.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] ANN Op CodeGen (#1547)

This commit extends opcode implementation for DEPTHWISE_CONV_2D op.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] IR entities-to-Module link (#1546)

With this commit, each IR entity allocated via EntityManager will have a correct
link to a module that it belongs to.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Unify Compatiblity Check and ANN IR Builder (#1534)

This commit revises ANNOpBuilder to return Appender for a given
instruction instead of appending it.

This change allows us to unify independent CompatibilityCheck into
ANNOpBuilder.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

feature: add multiple interpreter outputs (#1543)

--res-filename removed redundant
--output-dir used for outputs
--output-node can take multiple values

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

Implement batch norm as scale and bias (#1542)

Replace batch norm with scale and bias operations in caffe importer

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Fix naming of soft backend files (#1477)

Replace old_c_style with CamelCase style in pure soft backend file names

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Fix Importer bug (#1541)

Found when testing 1 op models: `Im2Col` Layer uses the convolution parameter, as does
the `Deconvolution` (or `TransposedConvolution` layer). This resolves the issue.

Signed-off-by: Andrei Shedko <a.shedko@partner.samsung.com>

Support new type of option value (#1504)

* support `std::vector<std::string>` type for option
* support multiple values for option in command line parser
* write unit test for new functionality

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

Add shape correctness check (#1485)

Check that shapes of input tensors are correct in artifact setters

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[coco] Store size in Bag (#1531)

This commit revises Bag to store its size in it. This is a step toward
Bag/BagInfo unification.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>