Fix build issue #2668 (#2669)

- Build failure issued by merging of #2646: convertBlob return value changed
- Small code style changes

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Support for Caffe Embed layer (#2646)

* Add support for Embed layer.
* Refactor creating of BiasAdd op in Caffe importer.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Initialize uninitialized variable in caffe2 importer (#2665)

Initialize uninitialized variable in caffe2 importer

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[nnc] New Gemm implementation, GlobalAveragePool and Conv2D updates. (#2622)

The first steps in new Gemm implementation were done: Now it's a standard NN operator with proper shape inference. Interpreter (an d maybe soft backend) support will be added in the next patch.
Pool and Conv operators are using similar input data that's why they were partially merged. As result they now produce proper output shape.

Signed-off-by: Andrew V. Tischenko a.tischenko@partner.samsung.com

[enco] Introduce ANNConv2D instruction (#2655)

This commit introduces ANNConv2D instruction class as a part of extended
coco IR.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnsuite] Remove unused includes (#2656)

This commit removes unused includes from nnsuite code.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Do NOT use nncc::foundation::make_unique (#2657)

This commit replaces all the occurrences of
nncc::foundation::make_unique with stdex::make_unique.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnkit] Use make_unique in stdex instead of nncc::foundation (#2654)

This commit replaces all the occurrences of nncc::foundation::make_unique
with stdex::make_unique.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnsuite] Use stdex::make_unique (#2653)

This commit replaces all the use of nncc::foundation::make_unique in
nnsuite with stdex::make_unique.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[cli] Use stdex instead of nncc_foundation (#2650)

This commit replaces all the use of nncc::foundation::make_unique in cli
project with stdex::make_unique.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Support bias setting for ANNConv2DAppender (#2652)

With this commit, users are able to a pass bias term to ANNConv2DAppender.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Initialize pointers in ANN Appenders (#2648)

This commit updates ANN Appenders implemented for Split pass to
initialize its pointer fields on construction.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc] Add new dom to text tests for acl backend (#2641)

Tests added:
- ArtifactId
- ArtifactRef
- ArtifactDeref
- ArtifactFunctionCall
- ArtifactUnaryExpr
- ArtifactBinaryExpr

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[nnc] Refine soft backend documentation (#2543)

- Updated interface documentations
- Updated main execution sequence
- Fixed typos

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[nnc] Acl backend system tests for Mobilenet and Inception-v3 operations (#2229)

The system tests framework for the ACL soft backend has been created. The test cases for the operations used in the Mobilenet and the Inception-v3 operations have been added.

Signed-off-by: Timur Ablyazimov <t.ablyazimov@samsung.com>

[nnc] Initialize member of AclCppOpGenerator properly (#2642)

AclCppOpGenerator _constrBlock and _infBlock member variables were not initialized

Signed-off-by: Timur Ablyazimov <t.ablyazimov@samsung.com>

[nnc] Change IrDotDumper handling of misc values (#2542)

Makes all misc values into strings and adds automatic conversion routine

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[nnc] Update constant support in Graph (#2620)

Do not list constants as inputs
Mark inputs resolved before running visitor
Register constant automatically, no need to keep track in importers

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[nncc/foundation] Remove math functions (#2638)

These math functions are deprecated by "nike" library.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc] Introduce Gather operation (#2626)

Add GatherOp class to modelIR.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nike] RelativeEpsilonEqual (#2636)

This commit introduce RelativeEpsilonEqual comparison algorithm.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Remove deprecated method (#2624)

This commit will remove deprecated method `Shuffle::at`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[coco] Remove deprecated allocate method (#2635)

This commit removes (deprecated) allocate method which takes "object"
as an argument.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Allocate weight through bag (#2634)

This commit removes all the allocate method call with "object" (which is
deprecated).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco/generic] Return allocated span (#2630)

Now, allocate method in PlainWeightContext<T> returns the allocated span
as its return.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc] Add convenient constructor to mir::Shape class (#2627)

Add a constructor to mir::Shape that accepts rank of the shape.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Remove clang-format configurations for JavaScripts (#2625)

There is no JavaScript code to be format checked in nncc.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Substitute deprecated method (#2621)

This commit will substitute deprecated method to the right one

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[enco] Remove deprecated intermediates function (#2618)

This commit will remove deprecated function, `intermediates`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

Fix build bug #2604 (#2616)

* not enable unit test if numpy is not installed

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[nncc.foundation] Remove classes related Region (#2615)

There is no code that uses these classes.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc] Support batch in InnerProduct layer in Caffe importer (#2599)

Add support for batch size to InnerProduct layer.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Introduce "nike" (#2609)

* Add a "nike" library

This commit introduces a new library called "nike", which will serve a
collection of numeric value comparison routines.

The current implementation includes one comparison routine.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix a typo (ABSOLUATE -> ABSOLUTE)

* Add a comment over NaN comparision rule

[tflchef] separate tflchef and reverse test (#2613)

* [tflchef] separate tflchef and reverse test

This will separate build and testing of tflchef and tflchef-reverse so that one can develop step-by-step

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* litte edit with note

[enco/tfl] Support feature map concatenation along batch (#2608)

* [enco/tfl] Support feature map concatenation along batch

This commit updates enco tflite frontend to support feature map
concatenation along bath dimension.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix a typo (unit32_ -> uint32_t)

[coco] Remove deprecated DefaultVisitor (#2607)

This commit will remove DefaultVisitor and substitute as Visitor

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[enco] skeleton of IR validator (#2558)

This is a skeleton code for validating IR in backend.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[tflchef] Log test output (#2606)

* [tflchef] Log test output

This commit revises runall to log the output of each test into a
dedicated file.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Log running command

[tflchef] Show failed tests on test failure (#2602)

In this commit, runall in tflchef is revised to show the list of failed
tests on test failure.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Use consistent class declarations for Managers (#2603)

This commit revises Manager declarations to use consistent style.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[tflchef] Update README and related test (#2430)

This commit will introduce gaussian filler in tflchef
And also recipe of readme will be modified

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[coco] Add FeatureShape constructor with explicit arguments (#2592)

This commit adds a FeatureShape constructor which allows users to
specify batch/depth/height/width explicitly.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Create BHWC FeatureLayout with FeatureShape (#2593)

This change allows users to create a BHWC FeatureLayout with non-singular
batch dimension.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] frontend/caffe: remove unused header includes (#2600)

* [enco] frontend/caffe: remove unused header includes

This will remove unused header files in Frontend.cpp

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* remove one more

[nnkit] Remove nni (#2601)

This commit removes deprecated nni project.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Fixed build error (#2597)

Fixed error: "no template named 'function' in namespace 'std'"

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[nnc] Support 'transpose' parameter of InnerProduct layer (#2598)

Add support for 'transpose' parameter of InnerProduct layer.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Add arm-c++ target (#2515)

Adds new target option to make possible split of arm and x86 artifact generation in cpu c++ backend

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[nnc] Use nnkit-run for test (#2585)

Now, infer_testcase.py script will invoke nnkit-run instead of
deprecated nni.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

update Unit Test Report for completion DR (#2596)

* add test round 3 including results of unit tests for ACL C++ code generator

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

update STD and SDD for completion DR (#2595)

This is a patch from Alexey Kondrashov.

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

update SW Development Document for completion DR (#2571)

* update SW Development Document for completion DR

* add report of ProtexIP
* add report of SVACE
* add code metrics result
* correct System Test document for completion DR
* add mention about coding style document

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[coco] Declare coco-internal FeatureShape class (#2591)

This commit declares coco-internal FeatureShape class with "batch"
method.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Remove deprecated FeatureObject::at method (#2590)

"at" method in FeatureObject was introduced when FeatureObject is
responsible to layout management, but this method is no longer used.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco/tfl/frontend] Remove tensor copying code (#2559)

Frontend now copies tensor copy after building IR. Duplicate code is removed from GraphBuilder.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[coco] Remove deprecated FeatureObject constructor (#2588)

This commit removes deprecated FeatureObject constructor with
FeatureShape.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] frontend/caffe: move loop invariant context (#2589)

This will move loop invariant opbuilder_context variable outside of the for loop

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco] frontend/caffe: fix header guard directive (#2587)

This will fix input layer header guard with correct directive

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco] caffe/frontend: const ref for layer name (#2584)

This will make to use const reference for std::string type layer name for lookup method

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[nnkit] Update README.md with nnkit-run (#2581)

This commit replaces all the reference of deprecated "nni" in README.md
with "nnkit-run".

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] caffe/frontend: rename Op to Layer (#2582)

This will rename "Op" to "Layer" for folder name and lookup parameter

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco/tfl] Use NONE when setting activation (#2583)

This commit rewrites Concat_000 test recipe to use "NONE" instead of
explicit integer (0) to make it easy to understand.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco/tfl] Support concat along feature height/width (#2579)

* [enco/tfl] Support concat along feature height/width

This commit rewrites enco tflite frontend to support feature map
concatenation along height/width dimensions.

This commit also includes related tests.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Use NONE instead of 0

* Fix a typo (compuate -> compute)

[enco] frontend/caffe: separate scale (#2580)

This will move Scale layer handler to separate file

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco] Use nnkit-run instead of nni for test (#2576)

This commit replaces all the use of nni with nnkit-run in enco test
framework.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Lower ConcatF to Shuffle (#2575)

This commit revises enco to lower ConcatF as Shuffle if is not yet delegated
to Android NN.

Note that the current implementation of "Intrinsic Selection" delegates
ConcatF to Android NN only when ConcatF is depth-wise.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] frontend/caffe: separate eltwise (#2574)

This will move Eltwise(ElementWise) layer handler to separate file

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco] frontend/caffe: separate concat (#2567)

This will move Concatenation layer handler to separate file

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tfldump] Rename file DumpOp to OpPrinter (#2566)

This will rename DumpOp header and source file to OpPrinter

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[nnc] Add acl backend tests for ops in mobilenet and inception (#2570)

Added tests for operations:
- scale
- bias
- concat
- reshape
- dropout
- conv2d
- depthwise2d
- softmax
- pool
- fc
- relu

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[nnc] Refactor weights conversions in Caffe importer (#2209)

* Move conversion of `BlobShape`s to `TensorVariant`s from `createMIRNodesFromLayer to individual layer conversion methods;
* Remove unnecessary type alias `IrTensor`.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Skeleton for acl backend unit tests (#2549)

- added two groups of tests: MIR to DOM transformations and DOM to text transformation
- Declarations of checker functions
- two example tests, one for each group

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[nnc] Initial implementation of caffe2_op_creator (#2333)

Initial implementation of caffe2_op_creator.

`mobilenet` supported, to support `inception` model - need to support custom paddings in pooling ops and test not tested operation conversations.

Implemented ops:
- Add
- AveragePool
- Conv
- Concat
- Dropout
- FC
- GivenTensorFill
- MaxPool
- Mul
- Relu
- Softmax
- SpatialBN
- Sum

Not tested ops:
- Add
- Concat
- Mul
- SpatialBN

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[nnc] Update description of ModelIR in documentation (#2548)

Reflect recent changes in ModelIR in the documentation.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

ACL backend documentation (#2547)

The ACL backend internal structure documentation.

Signed-off-by: Timur Ablyazimov <t.ablyazimov@samsung.com>

[tfldump] rename DumpOp (#2565)

* [tfldump] rename DumpOp

This will rename DumpOp to OrPrinter for class and variables.
- Each inherited classes are also renamed as XxxxPrinter

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* rename variable

[enco] frontend/caffe: separate relu (#2562)

This will move ReLU layer handler to separate file

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco] frontend/caffe: separate pooling (#2560)

This will move Pooling layer handler to separate file.

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco] Introduce Intrinsic Selection (#2553)

This commit introduces the basic implementation of Intrinsic Selection pass.
The current implementation is able to rewrite an "Eval" instruction for
"Depthwise concat over features" as "ANNDepthConcatF" instruction.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] frontend/caffe: separate convolution (#2556)

This will move Convolution layer handler to separate file.

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco/tfl/frontend] Function to copy tensor value into coco::Data (#2511)

* [enco/tfl/frontend] Function to copy unfilled tensor value into coco::Data

This commit adds a function to copy unfilled tensor value into coco::Data.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* pr fix: added if with continue, assert, int32 message

[enco] Fix wrong OFM size of regression test (#2554)

Fixed from [h, w] : [7, 7] ==>  [8, 8]

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[enco] frontend/caffe: separate Input (#2541)

This will move Input layer handler to separate file.
And changes for related with registry updates.

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tfldump] rename OpPrinterRegistry (#2552)

This will rename class DumpOpRegistry to OpPrinterRegistry

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco] Support Layout Conversion over ANNDepthConcatF (#2550)

Now, Data Layout Conversion pass will insert copy instructions for
layout conversion before/after ANNDepthConcatF instruction if they
are necessary.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc] Support constant operation in interpreter (#2546)

Save a value from node in variable storage

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

Improved Pooling and GlobalAveragePool Implementation for ONNX (#2540)

Some bugs in ONNX AveragePool and MaxPool were fixed.
GlobalAveragePool for ONNX was supported as simple AveragePool with a set of default parameters.

Signed-off-by: Andrew V. Tischenko <a.tischenko@partner.samsung.com>

Add test round 3 in System Test Document (#2493)

* correct unsupported tests
* add tests for ACL C++ soft backend

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[enco] frontend/caffe: Prepare to use GraphBuilder (#2538)

This will add using GraphBuilderRegistry to prepare handling by each layer GraphBuilder

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco] frontend/caffe: Rename load() var (#2536)

This will rename load() local variable m to use full name module and d to data

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco] frontend/caffe: Separate OpBuilder and InstrBuilder (#2537)

This will move OpBuilder and InstrBuilder class to separate file

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tflchef] Use nnkit-run in testing (#2534)

This commit replaces all the use of deprecated nni in tflchef testing
framework with nnkit-run.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] frontend/caffe: Introduce GraphBuilderRegistry (#2535)

This will introduce GraphBuilderRegistry class to register GraphBuilder by layer type

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco] DataLayoutConversion with free Load op (#2531)

It is currently impossible to apply Data Layout Conversion if there is a free Load op.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco/tfl/frontend] TensorContext returns tensor type (#2533)

This commit enables TensorContext to return tensor type.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[nnkit] Introduce nnkit-run (#2527)

This commit introduces nnkit-run (which is a copy of nni) as the first
step to removing "nni".

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Support block dump (#2528)

This commit implement "enco_dump_block" debugging helper which shows all
the instructions in a given block.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] frontend/caffe: Introduce GraphBuilder (#2530)

This will introduce GraphBuilder class as a base for layer imports

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco] Build ANN IR from ANNDepthConcatF instruction (#2521)

ANN IRGen Pass now generates ANN IR from ANNDepthConcatF instruction.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Use override consistently (#2526)

With this commit, all the overridden methods in PlainWeightContextImpl
and DataImpl are marked with "override".

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>