Update revision history in DLD document and add GPU backend item (#1355)

This commit adds item about GPU backend and updates revision history of DLD

Signed-off-by: Sergey Vostokov <s.vostokov@samsung.com>

Update HLD by adding new revision info (#1356)

This commit adds new revision history line "add IR description"

Signed-off-by: Sergey Vostokov <s.vostokov@samsung.com>

[enco] Set AvgPool2D stride on ANN subnet construction (#1349)

With this commit, ANN subnet builder uses stride values stored in coco IR to
set strides of ANN AvgPool2D operation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Remove unused onUpdate hook (#1347)

* [coco] Remove unused onUpdate hook

This commit removes unused onUpdate hook from Object.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Update related comment

[enco.caffe] Set AvgPool2D stride (#1346)

With this commit, enco caffe frontend now sets the stride of AvgPool2D
using a value specified in a given caffe model (instead of hard-coded one).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Add caffe 010 testcase (#1345)

This commit adds caffe 010 testcase which includes a simple 3x3
average pooling layer.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Rewrite constant methods using concat (#1337)

Currently, constant methods in Global internally implements string concat
operation.

This commit revises these methods to reuse existing concat method.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Build AvgPool2D op from caffe model (#1341)

With this commit, enco caffe frontend is now able to build a simple
AvgPool2D op from caffe model.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce stride-related members in AvgPool2D (#1344)

This commit introduces stride methods and related _stride field in
AvgPool2D class.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Decide pooling method from spec (#1339)

This commit revises PoolingSpec to correctly decide pooling method from
a model specification given as prototxt.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Generate code for AvgPool2D op (#1340)

This commit supports code generation on AvgPool2D op.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Construct AvgPool2D via OpManager (#1336)

This commit implements OpManager::create<AvgPool2D> method.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nncc.core] Remove unused tensor formatting classes (#1335)

This commit removes unused tensor formatting classes from nnnc core
library.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco.caffe] Correctly enumerate network outputs (#1327)

With this commit, caffe frontend now correctly enumerates network
outputs.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce AvgPool2D class (#1329)

This commit introduces AvgPool2D class which denotes 2D average pooling
operation in coco IR.

Note that the current implementation allows users to specify window
size.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Test compilation of artifact (#1119)

Adds test to check that backend is able to produce compilable files

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Generate unified setter and getter (#1284)

Generate unified setter and getter for single input/output nets to artifact.
This setter and getter has fixed declaration for all nets with single input and output

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Fix arm c++ artifact generation (#1285)

+ Fix alignment of serialized data
+ Fix build with NEON enabled
+ Fix -Wall warnings

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[enco] Add caffe 008 test (#1324)

This commit introduces caffe 008 testcase which checks whether enco can
correctly compile a simple caffe network that consists of a single Max
pooling layer with stride.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco.caffe] Set MaxPool2D op stride values (#1323)

With this commit, Caffe frontend now correctly sets stride of
MaxPool2D operation using the values inferred from caffe model.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Configure ANN subnet MaxPool2D strides (#1321)

With this commit, enco now sets stride values for MaxPool2D op in android
NN subnet from stride values stored in coco::MaxPool2D entity.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco.caffe] Infer the output shape of Pooling with stride (#1322)

With this commit, PoolingSpec is now able to infer the output shape of
Pooling layer with stride values.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Add caffe 007 test (#1319)

This commit adds caffe 007 test which consists of a simple Max pooling
layer without padding and stride.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Record stride configuration in MaxPool2D (#1320)

This commit introduces a field and methods related with stride into
MaxPool2D class.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Initial MaxPool2D codegen support (#1318)

This commit implements codegen routines for MaxPool2D without
padding/stride.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Remove unused num_output field (#1317)

This commit removes unused num_output field from ConvolutionSpec class.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Correct copy & move constructor (#1316)

This commit fixes copy&paste error in MaxPool2D class declaration.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco.caffe] Initial pooling layer support (#1314)

This commit presents the initial implementation of pooling layer
supporting routine.

The current implementation supports only simple Max pooling (w/o padding
and stride).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco.caffe] Initial PoolingSpec implementation (#1312)

This commit submits the initial implementation of PoolingSpec.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Configurable MaxPool2D window size (#1313)

This commit introduces a field and methods related with window (=
receptive field) configuration.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Extract string-manipulating rotuines (#1311)

This commit extracts concat method (for string manipulation) from
Subnet.cpp, and introduces String.h for future reuse.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Create MaxPool2D with OpManager (#1310)

This commit implements 'create' method for 'MaxPool2D' op in
'OpManager'.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce MaxPool2D class (#1307)

This commit introduces MaxPool2D class which allows coco IR to describe
MAX pooling over feature maps.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Add 006 test (#1306)

This commit adds 006 testcase which includes a simple ReLU layer in it.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Build ANN ReLU operator (#1298)

This commit revises ANNGroupBuilder and ANNOpBuilder to recognize ReLU
operation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Emit ReLU opcode (#1297)

enco is now able to generate ANeuralNetworks_addOperation call for
RELU operator.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Suppress caffe test glog messages (#1287)

This will suppress enco caffe test glog messages while in build steps.
Error and Fatal will be shown.

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Support for grouped convolution for caffe (#1209)

Adds support for grouped convolution in caffe: fix kernel tensor on shape inference

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Update HLD, SRS, and DLD documentation (#1304)

* include content from rst file into one
* remove redundant rst files
* correct reference to image

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

Update DLD by adding of ModelIR, C++ backend, Caffe backend, CLI  description (#1286)

Added description of:
  * model IR
  * soft backend
  * caffe importer
  * command line interface

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[coco] Introduce Window2D class (#1296)

This commit introduces Window2D class which denotes the size of
receptive field that some spatial operator (such as Pooling) uses.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Introduce ReLU op to ANN IR (#1294)

This commit introduces RELU tag to ann::Operation::Code enumeration.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Genernally normalize feature layout (#1293)

The current implementation of NormalizePass applies feature layout
normalization only for Conv2D operation.

With this commit, NormalizePass normalizes feature layout for general
feature operation (including ReLU).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco.caffe] Build IR from ReLU layer (#1292)

This commit implements the initial implementation of IR builder for ReLU
layer.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Add kernel_h/kernel_w convolution test (#1291)

This commit adds caffe 005 test which includes a convolution layer that
specifies its kernel size using kernel_h and kernel_w, and enables
build/inference test.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Extend OpManager for ReLU op (#1278)

This commit implements create<ReLU> method, which allows us to create
ReLU instances via OpManager.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[refNN] Support ReLU operator (#1290)

This commit imports ReLU operator-related implementations into the
reference NN runtime.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco.caffe] Support kernel_h/kernel_w paramaters (#1289)

With this commit, ConvolutionSpec is now able to recoginize kernel_h and
kernel_w parameters.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Asymmetrically padded convolution test (#1276)

This commit adds 004 test which includes asymmetrically padded
convolution layer, and enables build/inference test.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Symmetrically padded convolution test (#1274)

This commit adds a 003 test which includes symmetrically padded
convolution layer.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Remove redundant curly brace (#1282)

remove redundant curly brace when initialization of cmake variable

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

Closing files in interpreter`s plugin and cpp operations (#1185)

Add closing of files in interpreter_plugin.cpp and cpp_operations.def. Also checking for error codes was made.

Signed-off-by: y.novikov <y.novikov@partner.samsung.com>

Fix build bugs: not enabled target if its dependent targets are unavailable (#1258)

Targets for tests won't be built if main targets aren't set

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

Not enable frontend plugins if their dependencies aren't set (#1279)

* frontend plugins won't be enabled if their dependencies aren't set
* added feature to disable command line options. It is needed to
  disable plugin options if plugins aren't available

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

Move Detailed Level Design Documentation to contrib/nnc (#1281)

* move rst file
* correct references in file: replace .md by .rst

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

Update getting_started document for docker (#1267)

Docker build for _nncc_ use multistage-build
However multistage-build require docker 17.05 or higher version
This commit will update this information

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

Correct paths where plugins are to be searched (#1280)

* now it's not necessary to run make install
* now plugins are searched by relative path

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[CaffeProto] Do NOT generate files at top-level (#1273)

CaffeProto package currently places generated protobuf files into the
top-level binary directory.

With this commit, generated protobufe files are inside a directory
dedicated to caffeproto target (external/caffeproto).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Add ReLU operator (#1272)

This commit introduces ReLU op class which denotes a ReLU op in coco IR.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco.caffe] Deliver Conv2D padding values via IR (#1271)

With this commit, enco Caffe frontend now sets Conv2D padding values
correctly in IR.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco.core] Use DefaultVisitor (#1269)

The use of Op::Visitor and Instr::Visitor in enco.core enforces us to
update enco whenever a new operator is introduced to coco IR.

To decouple changes on enco from thone on coco, this commit revises
enco core library to use DefaultVisitor instead of Visitor.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Read pad from ConvolutionParameter (#1268)

* [enco] Read pad from ConvolutionParameter

This commit revises ConvolutionSpec to read pad values from
ConvolutionParameter.

Note that 'pad_h' and 'pad_w' parameters are not supported, yet.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix typos (stride_h -> pad_h, stride_w -> pad_w)

[enco] Set Conv2D padding for ANN Subnet (#1264)

The current implementation assumes that padding is always 0. With this commit,
enco now sets Conv2D padding based on padding parameters that IR
provides.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Add ConvolutionSpec::ifm_shape test (#1266)

This commit extracts repeated tests over ifm_shape as a seperate test.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Add symmetrically strided convolution test (#1265)

This commit adds 002 testcase which tests symmetrically strided
convolution, and enables build/inference test.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[core] Remove deprecated PadInfo and StrideInfo (#1263)

This commit removes deprecated PadInfo and StrideInfo classes from
nncc.core.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Extract CanonicalChannelAxis (#1259)

This commit extracts CanonicalChannelAxis class from ConvolutionSpec to
make it reusable from outside.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco.caffe] Set Conv2D stride (#1256)

With this commit, enco Caffe frontend now sets strides for Conv2D op
entity.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnop] Use internal PadInfo and StrideInfo (#1260)

This commit introduces nnop-internal PadInfo and StrideInfo class, and
revises conv method to use these internal classes.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Pass strides to ANN subnet (#1257)

This commit passes stride values (specified in Conv2D op) to android NN
sub-network via setOperandValue calls.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Adjust input size for 001 test (#1255)

This commit adjusts inputs size of 001 test to reduce test time.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Remove duplicated includes (#1253)

This commit removes duplicated '#include "Normalize.h"' in
Normalize.cpp.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Support stride get/set for Conv2D (#1252)

This commit allows us to get and set stride values for Conv2D operation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Convolution Shape inference with stride (#1251)

This commit revises ConvolutionSpec to infer stride values for each
spatial axis, and use these values for OFM shape inference.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Enable inference test on 001 case (#1248)

This commit enables inference test on 001 (simple convolution) case.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Emit setInput and setOutput calls (#1246)

With this commit, generated code will includes the call for the
following APIs (if necessary):
 - ANeuralNetworksExecution_setInput
 - ANeuralNetworksExecution_setOutput

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Emit ANeuralNetworksModel_finish call (#1247)

Now, subnet constructor includes ANeuralNetworksModel_finish call.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Emit identifyInputsAndOutputs call (#1244)

Generated C++ code will invoke ANeuralNetworksModel_identifyInputsAndOutputs
with this commit.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Extract Conv2D class (#1245)

This commit extracts the declaration/implementation/test of Conv2D
class into a dedicated header/source/test file.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Identify input/output of ANN subnet (#1243)

This commit revises Split pass to identify input/ouput of android NN
sub-network based on how block and bags are related.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Set weight (kernel/bias) data for ANN subnet (#1242)

This commit implements weight initializer for android NN subnet inside
Split pass.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Emit addOperation calls (#1240)

With this commit, C++ code generated by enco includes addOperation
calls.

Note that the current implementation supports only CONV_2D operation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Introduce usage analysis helpers (#1239)

* [enco] Introduce usage analysis helpers

This commit introduces several helper functions that allows us to easily
analyze how bags and blocks are related with each other.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Add assert on blk

[enco] Add asymmetric conv kernel shape test (#1235)

This commit adds a test that checks whether ConvolutionSpec infers
the shape of kernel and OFM when kernel_size is specified for each dimension.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Support subnet in/out identification (#1234)

This commit introduces identifyInputs and identifyOutputs method which
allows Backend to record android NN subnet's input and output.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Reorganize nnc project file hierarchy (#1219)

* reorganize frontend part (last part)

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[enco] Emit setOperandValue calls (#1233)

Generated C++ code will include setOperand (ANeuralNetworksModel_setOperandValue)
calls with this commit.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Use random weight (#1232)

The output of current 000 test is always filled with zero as Caffe
uses 'constant:0' weight filler if weight filler is not specified.

This commit revises 001 testcase to use gaussian filler for weight.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Update test configuration correctly (#1231)

The current implementation does not update test configuration for
inference tests.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Create and start ANN exeution (#1230)

With this commit, enco now emits ANeuralNetworksExecution_create and
ANeuralNetworksExecution_startCompute calls.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Emit addOperand calls (#1228)

* [enco] Emit addOperand calls

Now, the constructor of Subnet class includes addOperand calls in it.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Use scalar/tensor instead of info

[enco] Introduce setOperand for non-scalar values (#1229)

This commit introduces overloaded setOperand method which takes non-scalar
(array) values.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Record ANN input/output opreands (#1227)

This commit extends ann::Module class with input and output methods
which records the input and output operands of android NN model.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Emit fields in Subnet classes (#1224)

* [enco] Emit fields in Subnet classes

This commit revises SubnetStructBuilder to emit mandatory fields and
relevant constructor/destructor code.

Note that model construction is not yet supported.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix a typo (Retun -> Return)

[enco] Declare subnet field (#1226)

Now, Network struct has a dedicated field for each subnet.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Remove redundant host memory allocation (#1225)

This commit removes redundant host momory allocation introduced by
mistake.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Add convolution test (#1223)

This commit adds a simple caffe model with one convolution layer as a
testcase.

Note that inference test is not yet enabled.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Append missing semicolon (#1222)

The current implementation emits assert call without semicolon.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Introduce build test (#1221)

The current enco test framework supports only inference test based on
nnkit, and thus cannot be used in the middle of development.

This commit allows us to test whether enco generates a valid source code.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Introduce SubnetBlockCompiler template (#1213)

This commit introduces SubnetBlockCompiler which will generate the code
that invokes Android NN network inference.

Note that the current implementation simply generates some assert code.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>