[nnc] Support StridedSlice operation on TFLite importer (#2720)

Support StridedSlice operation on TFLite importer only for strides array of ones

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[nnc] Fixed memory leak and heap overflow (#2703)

* Fixed memory leak and heap overflow in softbackend elementwise op
* Collect caffe2 model problems before tensors loading

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[nnc] Support Transpose operation on TFLite importer (#2716)

* Support TransposeOp on TFLite importer
* Add const where needed in TFLite op creator

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

Take DIRNAME as an optional argument (#2709)

This commit refines the implementation of ExternalSourceDownload; Now,
users can pass DIRNAME as an optional argument.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Add tflite frontend for Sub (#2710)

This commit will add the tflite frontend of enco for Sub.

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

[enco] Add ann backend for Sub (#2711)

This commit will add the ann backend of enco for Sub.

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

[enco] Comparing Featureshape using operator "!=" (#2708)

Code were modified to use newly defined operator "!=" of FeatureShape.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[enco] Bugfix to throw error when file do not exist (#2104)

Until now, there was no error even when prototxt or caffemodel do not exist
This commit will fix the bug

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[coco] Support Sub operator (#2698)

This commit add Sub operator in coco

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

Remove deprecated nncc_foundation (#2694)

There is no code that uses nncc_foundation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[tflchef] Add Sub for reverse (#2697)

This will add Sub Op for tflchef-reverse

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

[nnc] Support Elementwise Add and Mul operations with weights array (#2628)

* Add support Elementwise Add and Mul operations with weights array
* Support constant operation in soft cpu backend
* Remove ref type from InputParams and InputOps and add them to

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>
Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>
Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>
* Add refs for all creates

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[nnc] Fix broken importing of Scale Caffe layer (#2704)

Fix broken importing of Scale Caffe layer when --debug_transpose is passed to the compiler.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Support for Gather ONNX operator (#2700)

Add support for Gather ONNX operator.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Added slice (#2680)

Added slice to MIR, Interpreter, C++ SoftBackend
Added Importer Support for slice to tflite importer
Fixed SoftBackend Impl

Signed-off-by: Andrei Shedko <a.shedko@partner.samsung.com>

[nnc] Support for Sigmoid activation function (#2685)

Add support for Sigmoid activation function:
* In Model IR
* In C++ CPU backend
* In interpreter
* In Caffe frontend
* In TFLite fronend
* In ONNX frontend

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Add transpose operation test for soft backend (#2647)

- Test for transpose operation for soft backend
- Code style refactor of testsuite
- Arbitrary names for output node in tests supported

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[tflchef] Support Sub operation (#2692)

This commit will enable Sub operation in tflchef

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

[coco] Use stdex::make_unique (#2690)

This commit replaces all the occurrences of make_unique in
nncc::foundation with the alternative one in stdex.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[encodump] Use stdex::make_unique (#2691)

This commit replaces all the occurrences of make_unique in
nncc::foundation with stdex::make_unique.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc] Replace ElementwiseOp args number deserialization with generated number (#2678)

[nnc] Issue: SVACE STATIC_OVERFLOW in soft_backend/code_snippets/cpp_operations.def

Signed-off-by: Timur Ablyazimov <t.ablyazimov@samsung.com>

[nnc] Fixed caffe2 importer MIR operator names (#2683)

* Don't name any MIR operators, except for i/o
* Fixed default pooling stride size

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[nnc] Problem in the ACL backend system tests fixed (#2682)

Fixed a bug in the tensor_gen. nni was renamed to nnkit-run so we had to change this in the CMakeLists.txt of the ACL backend system tests. Also the dependencies of tensor_gen, caffegen and nnkit-run were done obligatory.

Signed-off-by: Timur Ablyazimov <t.ablyazimov@samsung.com>

[nnc] Rectify shared_ptr wrapper around TensorVariant (#2684)

- Get rid of shared_ptr wrapper around TensorVariant class.
- Add const qualifiers to auto reference declarations

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] SQRT Operation (#2514)

- Added sqrt op to backends (interpreter and c++ SB)
- Added sqrt to tflite importer

Signed-off-by: Andrei Shedko <a.shedko@partner.samsung.com>

[nnc] Implement Gather operation in interpreter backend (#2681)

Add implementation of Gather operation to interpreter backend.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

updated SDD for completion DR (#2670)

* remove svace defects

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[enco] Build ANN IR from ANNConv2D instruction (#2676)

This commit extends Split pass to build ANN IR from ANNConv2D
instruction.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce object casting helpers (#2673)

This commit introduces the following object casting helpers:
 - isa<T>
 - cast<T>
 - safe_cast<T>

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Modified FeatureObject test, working for coco::FeatureShape (#2674)

With #2667, a warning was thrown. (ambiguous operator) This PR resolve the issue.

Signed-off-by: Hyun Sik Yoon hyunsik.yoon@samsung.com

[coco] "==", "!=" op for FeatureShape (#2667)

This commit adds "==", "!=" operators for FeatureShape.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[enco] Validating output shape of Conv2D (#2623)

* [enco] IR validator : validating output shape of conv2D

This commit adds code to check if output shape of conv2D is same with Eval.out

Signed-off-by: Hyun Sik Yoon hyunsik.yoon@samsung.com
* pr fix: comment on Dec 11

* pr fix: assert() for remoted round

* pr fix: string_width, striding_height

* pr fix: various.

[nncc/core] Do NOT link unused foundation library (#2672)

nncc_core has no implemenation/declaration that depends on
nncc_foundation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[tflchef] Remove default activation of concat test recipe (#2658)

* [tflchef] Remove default activation of concat test recipe

This patch removes the default activation value of concat test recipe.
It will be assigned NONE type by default.

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>
* Use NONE value instaed of removing that line

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

[nnc] Added Broadcasting (#2417)

- Added Broadcasting to interpreter and shapeInference.
- Fixed interpreter impl and placed const in correct location
- Added broadcasting to softBackend
- Added tests and cpp backend implementations for broadcasted `+, -, *, /, max`
- Added generic implementation of Elementwise Broadcast for ease of
- fixed codestyle; removed shape inference file

Signed-off-by: Andrei Shedko <a.shedko@samsung.com>

[nnc] Caffe2 importer improvements (#2664)

* Tested and fixed operators needed for 'inception': Add, Mul, Concat, SpatialBN
* Supported custom paddings
* Supported custom pooling window shapes
* Several bugs fixed

This PR enables 'TransposeOp' in caffe2 frontend, which is not currently supported by ACL backend.

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[nnc] Support for Gather operation in soft backend (#2663)

Add support for Gather operation to soft backend.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Fix broken ConstantOp (#2671)

Revert recent changes made to ConstantOp that broke it.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Fix build issue #2668 (#2669)

- Build failure issued by merging of #2646: convertBlob return value changed
- Small code style changes

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Support for Caffe Embed layer (#2646)

* Add support for Embed layer.
* Refactor creating of BiasAdd op in Caffe importer.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Initialize uninitialized variable in caffe2 importer (#2665)

Initialize uninitialized variable in caffe2 importer

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[nnc] New Gemm implementation, GlobalAveragePool and Conv2D updates. (#2622)

The first steps in new Gemm implementation were done: Now it's a standard NN operator with proper shape inference. Interpreter (an d maybe soft backend) support will be added in the next patch.
Pool and Conv operators are using similar input data that's why they were partially merged. As result they now produce proper output shape.

Signed-off-by: Andrew V. Tischenko a.tischenko@partner.samsung.com

[enco] Introduce ANNConv2D instruction (#2655)

This commit introduces ANNConv2D instruction class as a part of extended
coco IR.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnsuite] Remove unused includes (#2656)

This commit removes unused includes from nnsuite code.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Do NOT use nncc::foundation::make_unique (#2657)

This commit replaces all the occurrences of
nncc::foundation::make_unique with stdex::make_unique.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnkit] Use make_unique in stdex instead of nncc::foundation (#2654)

This commit replaces all the occurrences of nncc::foundation::make_unique
with stdex::make_unique.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnsuite] Use stdex::make_unique (#2653)

This commit replaces all the use of nncc::foundation::make_unique in
nnsuite with stdex::make_unique.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[cli] Use stdex instead of nncc_foundation (#2650)

This commit replaces all the use of nncc::foundation::make_unique in cli
project with stdex::make_unique.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Support bias setting for ANNConv2DAppender (#2652)

With this commit, users are able to a pass bias term to ANNConv2DAppender.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Initialize pointers in ANN Appenders (#2648)

This commit updates ANN Appenders implemented for Split pass to
initialize its pointer fields on construction.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc] Add new dom to text tests for acl backend (#2641)

Tests added:
- ArtifactId
- ArtifactRef
- ArtifactDeref
- ArtifactFunctionCall
- ArtifactUnaryExpr
- ArtifactBinaryExpr

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[nnc] Refine soft backend documentation (#2543)

- Updated interface documentations
- Updated main execution sequence
- Fixed typos

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[nnc] Acl backend system tests for Mobilenet and Inception-v3 operations (#2229)

The system tests framework for the ACL soft backend has been created. The test cases for the operations used in the Mobilenet and the Inception-v3 operations have been added.

Signed-off-by: Timur Ablyazimov <t.ablyazimov@samsung.com>

[nnc] Initialize member of AclCppOpGenerator properly (#2642)

AclCppOpGenerator _constrBlock and _infBlock member variables were not initialized

Signed-off-by: Timur Ablyazimov <t.ablyazimov@samsung.com>

[nnc] Change IrDotDumper handling of misc values (#2542)

Makes all misc values into strings and adds automatic conversion routine

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[nnc] Update constant support in Graph (#2620)

Do not list constants as inputs
Mark inputs resolved before running visitor
Register constant automatically, no need to keep track in importers

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[nncc/foundation] Remove math functions (#2638)

These math functions are deprecated by "nike" library.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc] Introduce Gather operation (#2626)

Add GatherOp class to modelIR.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nike] RelativeEpsilonEqual (#2636)

This commit introduce RelativeEpsilonEqual comparison algorithm.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Remove deprecated method (#2624)

This commit will remove deprecated method `Shuffle::at`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[coco] Remove deprecated allocate method (#2635)

This commit removes (deprecated) allocate method which takes "object"
as an argument.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Allocate weight through bag (#2634)

This commit removes all the allocate method call with "object" (which is
deprecated).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco/generic] Return allocated span (#2630)

Now, allocate method in PlainWeightContext<T> returns the allocated span
as its return.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc] Add convenient constructor to mir::Shape class (#2627)

Add a constructor to mir::Shape that accepts rank of the shape.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Remove clang-format configurations for JavaScripts (#2625)

There is no JavaScript code to be format checked in nncc.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Substitute deprecated method (#2621)

This commit will substitute deprecated method to the right one

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[enco] Remove deprecated intermediates function (#2618)

This commit will remove deprecated function, `intermediates`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

Fix build bug #2604 (#2616)

* not enable unit test if numpy is not installed

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[nncc.foundation] Remove classes related Region (#2615)

There is no code that uses these classes.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc] Support batch in InnerProduct layer in Caffe importer (#2599)

Add support for batch size to InnerProduct layer.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Introduce "nike" (#2609)

* Add a "nike" library

This commit introduces a new library called "nike", which will serve a
collection of numeric value comparison routines.

The current implementation includes one comparison routine.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix a typo (ABSOLUATE -> ABSOLUTE)

* Add a comment over NaN comparision rule

[tflchef] separate tflchef and reverse test (#2613)

* [tflchef] separate tflchef and reverse test

This will separate build and testing of tflchef and tflchef-reverse so that one can develop step-by-step

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* litte edit with note

[enco/tfl] Support feature map concatenation along batch (#2608)

* [enco/tfl] Support feature map concatenation along batch

This commit updates enco tflite frontend to support feature map
concatenation along bath dimension.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix a typo (unit32_ -> uint32_t)

[coco] Remove deprecated DefaultVisitor (#2607)

This commit will remove DefaultVisitor and substitute as Visitor

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[enco] skeleton of IR validator (#2558)

This is a skeleton code for validating IR in backend.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[tflchef] Log test output (#2606)

* [tflchef] Log test output

This commit revises runall to log the output of each test into a
dedicated file.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Log running command

[tflchef] Show failed tests on test failure (#2602)

In this commit, runall in tflchef is revised to show the list of failed
tests on test failure.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Use consistent class declarations for Managers (#2603)

This commit revises Manager declarations to use consistent style.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[tflchef] Update README and related test (#2430)

This commit will introduce gaussian filler in tflchef
And also recipe of readme will be modified

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[coco] Add FeatureShape constructor with explicit arguments (#2592)

This commit adds a FeatureShape constructor which allows users to
specify batch/depth/height/width explicitly.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Create BHWC FeatureLayout with FeatureShape (#2593)

This change allows users to create a BHWC FeatureLayout with non-singular
batch dimension.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] frontend/caffe: remove unused header includes (#2600)

* [enco] frontend/caffe: remove unused header includes

This will remove unused header files in Frontend.cpp

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* remove one more

[nnkit] Remove nni (#2601)

This commit removes deprecated nni project.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Fixed build error (#2597)

Fixed error: "no template named 'function' in namespace 'std'"

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[nnc] Support 'transpose' parameter of InnerProduct layer (#2598)

Add support for 'transpose' parameter of InnerProduct layer.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Add arm-c++ target (#2515)

Adds new target option to make possible split of arm and x86 artifact generation in cpu c++ backend

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[nnc] Use nnkit-run for test (#2585)

Now, infer_testcase.py script will invoke nnkit-run instead of
deprecated nni.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

update Unit Test Report for completion DR (#2596)

* add test round 3 including results of unit tests for ACL C++ code generator

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

update STD and SDD for completion DR (#2595)

This is a patch from Alexey Kondrashov.

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

update SW Development Document for completion DR (#2571)

* update SW Development Document for completion DR

* add report of ProtexIP
* add report of SVACE
* add code metrics result
* correct System Test document for completion DR
* add mention about coding style document

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[coco] Declare coco-internal FeatureShape class (#2591)

This commit declares coco-internal FeatureShape class with "batch"
method.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Remove deprecated FeatureObject::at method (#2590)

"at" method in FeatureObject was introduced when FeatureObject is
responsible to layout management, but this method is no longer used.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco/tfl/frontend] Remove tensor copying code (#2559)

Frontend now copies tensor copy after building IR. Duplicate code is removed from GraphBuilder.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[coco] Remove deprecated FeatureObject constructor (#2588)

This commit removes deprecated FeatureObject constructor with
FeatureShape.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] frontend/caffe: move loop invariant context (#2589)

This will move loop invariant opbuilder_context variable outside of the for loop

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco] frontend/caffe: fix header guard directive (#2587)

This will fix input layer header guard with correct directive

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco] caffe/frontend: const ref for layer name (#2584)

This will make to use const reference for std::string type layer name for lookup method

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[nnkit] Update README.md with nnkit-run (#2581)

This commit replaces all the reference of deprecated "nni" in README.md
with "nnkit-run".

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] caffe/frontend: rename Op to Layer (#2582)

This will rename "Op" to "Layer" for folder name and lookup parameter

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[enco/tfl] Use NONE when setting activation (#2583)

This commit rewrites Concat_000 test recipe to use "NONE" instead of
explicit integer (0) to make it easy to understand.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>