Fix IrNode to actually call visitor->visit() (#574)

Previously disabled due to missing visitor operation acceptors

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add Caffe model visitor skeleton (#540)

Add Caffe model visitor skeleton

This commit adds Caffe model visitor skeleton.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Add softmax operation implementation (#542)

Used by model IR interpreter backend

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add another post action (show_action) to README (#573)

* Add another post action (show_action) to README

This commits appends another post action (show_action) to README.

Signed-off-by: lotieye.choi <lotieye.choi@samsung.com>
* Add Running with post action section

This commit adds `Running with post action` section.

Signed-off-by: lotieye.choi <lotieye.choi@samsung.com>
* Remove a unused symbol

This commit remove a unused symbol.

Signed-off-by: lotieye.choi <lotieye.choi@samsung.com>
* Modify sentence to clarify meaning

This commit modifies a sentence to clarify meaning

Signed-off-by: lotieye.choi <lotieye.choi@samsung.com>

Add Reduce operation implementation (#543)

Used by model IR interpreter

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[nnc backend] Add Bias operation implementation (#441)

Add Bias operation implementation

Used by model IR interpreter backend

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[nnc backend] Add DeptwiseConv2D operation implementation (#418)

[nnc backend] Add DeptwiseConv2D operation implementation

Add DepthwiseConv2D reference implementation used by model IR interpreter

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[pp] Add 'MultiLineText' interface (#571)

This commit adds 'MultiLineText' interfaces, and revises
'LinearDocument' and 'EnclosedDocument' to inherit this interface.

In addition, this commit introduces MultiLineTextUtils
(which will includes utilities over MultiLineText interface).

Currently, it includes '<<' operator overload.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc backend] Add Reshape operation implementation (#443)

Add Reshape operation implementation

Used by model IR interpreter

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[nnc backend] Add Concat implementation (#419)

[nnc backend] Add Concat implementation

Reference concat implementation used by model IR interpreter

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Pass args through docker-test command (#567)

Pass args through docker-test command

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

Invoke tests with ctest in 'test' script (#566)

Invoke tests with ctest in 'test' script

Invoke tests with ctest instead of cmake in 'test' script

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[nnc backend] Add FullyConnected(matmul) operation implementation (#538)

Add FullyConnected(matmul) operation implementation

Used by model IR interpreter

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[nnc backend] Add Fill operation (#417)

[nnc backend] Add Fill operation

Used as a base for other operations

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Configure a project for testing with CTest (#537)

Configure a project for testing with CTest - include CTest in CMakeLists.txt

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[nnc backend] Build model IR interpreter core (#557)

Build model IR interpreter core

This commit fixes adds add_subdirectory(core) in nnc/libs/backend/interpreter/CMakeLists.txt

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[pp] Add 'EnclosedDocument' class (#570)

This commit adds 'EnclosedDocument' class which provides front() method which
allows users to append lines at the bottom of heading (in forward direction),
and back() method which allows users to prepend lines at the top of
footer (in reverse direction).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[pp] Add 'LinearDocument' class (#565)

This commit adds 'LinearDocument' class which maintains a
linearly appendable document (either in forward/reverse direction).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fix failed build (#558)

Fix missed change to Elementwise.h naming

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[stdex.set] Overload '==' operator (#564)

This commit introduces 'operator==' overloading over sets.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[pp] Introduce IndentedStringBuilder (#563)

* [pp] Introduce IndentedStringBuilder

This commit extracts IndentedStringBuilder from IndentedDocumentBuilder
class.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Update local variable names

Add 'stdex' project (#562)

This commit introduces 'stdex' project which provides an extension over
standard C++ libraries.

The current version includes diff operator overloading over two sets.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Use set instead of Set.h

[T/F Lite] Gather source files when adding a target (#561)

Currently, source files are gathered inside 'TensorFlowLiteConfig.cmake',
but the target is defined in 'TensorFlowLite/CMakeLists.txt'.

This commit moves source file gathering scripts to 'TensorFlowLite/CMakeLists.txt'
to make it easy to understand tensorflow lite target itself.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add Caffe model console dumper (#536)

Add Caffe model visiting mechanism

Used for traversing the model and doing something with
objects that it contains.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Notify whether Caffe is available (#549)

This commit introduces message command, which shows 'Found' message when
Caffe is avaiable (during configuration).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Data tests final part (PluginManager class tests) (#487)

PluginManager class tests

This commit introduced tests for PluginManager class

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

Fix failed build (#554)

Fixes mismatched include guard in conv_2D.h

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add Caffe model visiting mechanism (#535)

Add Caffe model visiting mechanism

Used for traversing the model and doing something with
objects that it contains.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Fix merge issues from #394 (#534)

Add missing #include <cassert> to ShapeRange header

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[nnc backend] Add Pool2D operation implementation (#440)

[nnc backend] Add Pool2D operation implementation

This class is used by model IR interpreter backend

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[nnc backend] Add elementwise operation impl (#416)

 [nnc backend] Add elementwise operation impl

Used as a base for other operation implementations

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Soft backend C/C++ framework (#483)

Introduce generator framework

Main generator and model analyzer structure

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Update Dockerfile with Caffe dependencies (#551)

This commit updates Dockerfile with Caffe dependencies.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Do NOT require GLog from GFlags (#546)

Do NOT require GLog from GFlags

Introduce usage to nncc script (#530)

* Introduce usage to nncc script

This commit introduces usage to nncc script

Signed-off-by: lotieye.choi <lotieye.choi@samsung.com>
* Modify usage in nncc script

This commit modifies usage in nncc script to list supported commands automatically

Signed-off-by: lotieye.choi <lotieye.choi@samsung.com>
* Remove a help option

This commit removes help option.

Signed-off-by: lotieye.choi <lotieye.choi@samsung.com>

Fix merge issues (#505)

This commit fixes merge issues from #404

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add 'docker-shell' (#468)

This commit extracts interactive shell creation routine from
'docker-build' and introduces it as 'docker-shell' command.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Introduce 'pp' library (#430)

* Introduce 'pp' library

This commit introduces 'pp' library which provides various helper
functions and classes for pretty-printing.

The current implementation provides 'fmt' function which constructs a
string using operator<<, and IndentedDocumentBuilder class which makes
it easy to build indented documents especially when indentation is
nested.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Check _level before unindent

* Use static storage quantifier

* Use strict compile options

* Remove unnecessary override

* Do not construct temporary string objects

Fix build break (#501)

This commit fixes build breaks.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnsuite] TensorFlow Lite-based conv nnkit backend (#431)

This commit introduce a nnkit backend which inferences with sample
(random) conv model in nnsuite.

This implementation may serve as a reference data generator for compiler
test.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Update SW HLD content (#322)

Add HLD content

This commit adds the content of High-Level Design Document

Signed-off-by: Sergey Vostokov <s.vostokov@samsung.com>

SW Detailed-Level Design Document v1.0 (#357)

* Add Detailed-Level Design Document

This commit adds the SW Detailed-Level Design Document

Signed-off-by: Sergey Vostokov <s.vostokov@samsung.com>
* Remove "Apply optimizations" section

* Update DLD template

* Add content of "SW Detailed Structure Design" section

* Remove structure image. Update section "Generate the code" and "Interface"

Add 'docker-run' command (#495)

This commit introduces 'docker-run' command which invokes a given
command inside a nncc docker container.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnkit] Introduce HDF5 import action (#380)

This commit introduces HDF5 import action, which fills tensor with the
values loaded from HDF5 file.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Permit additional docker options via DOCKER_OPTS (#496)

This commmit allows users to pass additional docker options to
docker-related commands via DOCKER_OPTS variable.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Download NEON2SSE source by default (#493)

This commit enables DOWNLOAD_NEON2SSE flag by default, and updates
docker configuration to allow CI to override NEON2SSE_URL.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Enable GEMM Low-precesion download (#484)

This commit enables GEMM Lowp-precesion source code download, and
updates docker configuration to allow URL override in CI.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnkit] Add README.md (#466)

* [nnkit] Add readme

This will add readme for nnkit project that can help understand what and how to use

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* apply comments

* apply more comments

* remove quote mark

* anoher apply comments

* fix arg1

* detailed how nni works

* minor change

* add about nni

Fixed PluginInstance class test warning (#488)

This commit fixed PluginInstance class test warning

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[nnc core] Add ShapeInference class (#452)

Add ShapeInference class

Used to infer shapes of intermediate nodes based only on input shapes

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Fix TensorVariant deletion test (#451)

Fix use-after-free in TensorVariant.DeletionTest( raw_indicator used after beeing deleted )

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add interpreter_core target for model IR interpreter (#453)

Add interpreter_core target for model IR interpreter

This commit adds backend/interpreter/core directory, backend/interpreter/core/CMakeLists.txt

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Set build type to Debug if not given (#485)

* Set build type to Debug if not given

This will set CMAKE_BUILD_TYPE to "Debug" if not given through arguments
- this will add -g compile option

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* message always

[nnkit] Build all projects under tools/ (#476)

This commit includes all the projects under contrib/nnkit/tools on configure.

This change allows users to build and test their own nnkit tools locally without
modifying files under version control.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Enable EIGEN download by default (#469)

This commit enables eigen download by default, and revises docker
configuration to allow EIGEN_URL override inside CI build machines.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Build TensorFlow Lite in build/externals/tflite (#405)

This commit revises TensorFlowLite package to build tensorflow lite
under build/externals/tflite.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add 'How to build with ninja' section (#473)

This commit adds 'How to build with ninja' section to 'Getting Started'
guide.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Enable farmhash download by default (#479)

This commit enables farmhash download by default, and updates docker
configuration to support URL override inside CI.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Extract 'docker-test' (#467)

This commit extracts 'docker-test' from 'docker-build'

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add TFLite importer plugin (#420)

Add TFLite importer plugin

This commit introduces TFLite importer to the plugin system.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Enable TensorFlow download by default (#472)

This commit enables TensorFlow download by default, and updates docker
configuration to allow CI to overide download URL.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Update 'How to build with docker' document (#461)

This commit updates 'How to build nncc with docker' section in "Getting
Started" document according to the recent change that extracts 'docker-configure'
from 'docker-build'.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Remove 'tflitekit' (#463)

Now 'nnkit' includes 'tflite' backend which is identical to 'tflitekit'.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Remove 'getting_started' (#465)

This commit removes 'getting_started' project from contrib.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Introduce 'ENABLE_STRICT_BUILD' option (#462)

* Introduce 'ENABLE_STRICT_BUILD' option

This commit introduces 'ENABLE_STRICR_BUILD' option which allows us to
detect compiler warnings as error.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix a typo (wraning -> warning)

[nnkit] Help message for nni (#457)

* [nnkit] Help message for nni

This will show help message for arguments are invalid of nni

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* remove --backend-arg count check

Add 'docker-configure' script (#458)

This commit extracts 'docker-configure' script from 'docker-build'

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[core.ADT] Add kernel index enumerator (#415)

This commit adds kernel index enumerator which is almost similar as
that of tensor, but specialized for convolution kernel.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[contrib/cli] introduce usage method (#425)

* [contrib/cli] introduce show_usage method

This will introduce show_usage() method in cli App class
- purpose is to show provided commands when no command is given

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* rename to usage()

[core.ADT] Iterator-based kernel overlay (#428)

This commit revises 'core::ADT::kernel::Overlay' to use iterator instead
of a pointer.

This change allows us to use kernel overlay over any STL-compatible
sequences that provides random iterator.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnkit] Introduce 'show' action (#437)

This commit introduces 'show' action which dumps the content of tensors
to standard output.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[core.ADT] Introduce operator== over feature shape (#442)

This commit introduces equality operator which tests whether two feature
shapes are identical.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Extract out common docker configuration (#450)

This commit extracts out common docker configuration as 'docker.configuration' file
as the first step to decompose docker-build script.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fix nni command comments (#444)

This will fix nni command comments to --pre-arg and --post-arg

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Data tests part 1.3 (DataList class tests) (#361)

DataList class tests

This commit introduced test for DataList class

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

PluginManager tests part 10 (PluginManagerException class) (#355)

PluginManagerException class test

This commit introduced test for PluginManagerException class

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[nnc backend] Add conv2D operation implementation (#404)

[nnc backend] Add conv2D operation implementation

Used by nnc model IR interpreter backend

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[nnc backend] Add OperationImpl class (#396)

Add OperationImpl class

Base class used as a base for other operation implementations

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[nnc core] Add Tensor class template (#395)

[nnc core] Add Tensor class template

Used as a TensorVariant data accessor

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[nnc core] Add ShapeRange class (#394)

[nnc core] Add ShapeRange class

Adds ShapeRange and ShapeIter classes used to iterate over given shape

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Enable DOWNLOAD_CAFFE by default (#433)

This commit changes the default value of DOWNLOAD_CAFFE as ON, and
updates docker-build scripts to allow CI to override CAFFE_URL.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Run unittest per PR (#435)

This commit revises 'docker-build' script to run test after build.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Build farmhash under dedicated location (#412)

This commit revises Farmhash package to build farmhash library under
dedicated location (build/externals/farmhash).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Ignore top-level Makefile (#413)

Makefile is intentionally omitted in the top-level to allow users to
have their own Makefile. This commit adds top-level Makefile to
.gitignore to make this policiy explicit.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add 'nnsuite' project (#410)

This commit adds 'nnsuite' project which will includes various in-memory
NN models for testing.

Currently, 'nnsuite' includes a simple model consists of one Conv2D operation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Use 'cmake --build' instead of make (#414)

This commit revises 'build' command scripts to use 'cmake --build'
instead of make.

This change will allow users to use other build system such as ninja.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add TFLite-to-Model IR operator creator implementation (#407)

Add TFLite-to-Model IR operator creator implementation

Implementation for operator creator API functions, which
create the corresponding Model IR operators.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Finalize initial version of TFLite v3 importer (#406)

This commit uses TFLite format visitor to finalize TFLite
importer interface.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Update SW Test Document: fix Req IDs, add test cases (#352)

* Update SW Test Document: fix Req IDS, add test cases

This commit updates SW Test Document by applications the following changes:
 - fix requirements numbering
 - update project repo structure
 - add test cases

* Update title version in STD document

Signed-off-by: Sergey Vostokov <s.vostokov@samsung.com>

Create Model IR operators in TFLite model visitor (#398)

This commit adds the code that makes use of the TFLite-to-Model-IR
operator creator to construct Model IR graph.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Set known Model IR node names and remove "NYI" exceptions (#397)

Removed "Not implemented" exceptions from remaining visitor functions
(they are just supposed to be empty) and added code that sets Model IR
node names.

Note: not all of the nodes will get names because there is no 1-to-1
correspondence between TFLite graph nodes and Model IR nodes.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

[nnc core] Add reshape operation description (#392)

This commit adds missing reshape operation description

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Add functions preparing data for the TFLite-to-IR operator creator (#376)

Add functions preparing data for the TFLite-to-IR operator creator

Operator creator interface functions take collections of operator
inputs and operator parameters as arguments. These two functions
prepare this data.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

Add auxiliary functions for creating TFLite-to-Model-IR operators (#363)

Add Model IR operator creator skeleton for TFLite

This is a Model IR operator creator class skeleton.
Contains public interface for creating supported operations.

Signed-off-by: Dmitry Mozolev <d.mozolev@samsung.com>

[nnkit] Introduce 'tflite' backend (#408)

This commit introduces 'tflite' bakckend, which loads 'tflite' model
file and runs inference.

The core part of this backend is extracted as nnkit_support_tflite
library, which allows its reuse in the future.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Introduce 'nnop' library (#402)

This commit introduce 'nnop' librarry which provides simple (naive)
implementation of NN operation (which can be used as a reference).

'nnop' currently contains 'conv2d' operation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add 'How to build and run unittest' section (#403)

This commit adds 'How to build and run unittest' section in Getting
Started document.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[core.ADT] Introduce NHWC kernel layout (#401)

This commit introduces NHWC kernel layout, which is commonly used in
CPU-optimized convolution implementation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[core.tensor] Introduce IndexEnumerator (#381)

This commit introduces IndexEnumerator which enumerates all the valid index
for a given Shape in lexical order, and related unittests.

In addtion, this commit rewrites IndexRange class using IndexEnumerator
to eliminate code duplication.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnkit] Introduce randomize action (#399)

This commit introduces randomize action which randomizes all the tensors
in a tensor context.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>