[nnsuite] Use specific tflite version (#2807)

TensorFlow Lite currently has no public API, and thus its
interface(=API) is subject to change.

Let's use specific tflite version to avoid compilation failure due to
API incompatibility.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Add comments for constant folding (#2808)

* [enco] Add comments for constant folding

This will add some comments of constant folding

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* apply suggestion

* use capital letter

* fix grammer

[enco] Add test case for Div operation (#2812)

This commit adds test case for Div support in enco

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[nnc] Fix incorrect operation id for leaky relu (#2815)

Id of LeakyRelu operation was incorrectly set as ReLU

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[nnc] Check that the model has the correct format in Caffe importer (#2753)

Ensure that the model file consumed entirely, otherwise complain that the model cannot be loaded. Fixes #2050.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Support Clip and Reshape operations on caffe2 importer (#2751)

* Support GivenTensorInt64Fill const tensors
* Convert Clip operation in CappedRelu
* Support Reshape operation

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

 [nnc] remove redundant shape transposes from acl backend  (#2764)

- Remove redundant reverse shape transposes like this [0,1,2,3]->[3,2,1,0]
- Refactor tensor serialization

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[nnc] Fix deconv2D import in tflite importer (#2544)

Use output shape stored in tflite model as it's impossible to compute it from operation parameters

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[enco] Support Div for tflite frontend (#2779)

* [enco] Support Div for tflite frontend

This commit extends enco tflite frontend including Div operation

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Rename ifm, ofm indices to 'num', 'denom' and 'out'

* Add activation assertion

* Input shapes may differ in case of broadcasting

* Remove redundant variable d

* Add TODO notice about object type generalization

[ann] Fix Div operation to perform division (#2806)

This commit fixes Div operation in ann to correct way

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

Support Pre/Post Package Hook (#2798)

With this commit, nncc_find_package invokes pre (and post) hooks before (and after)
actual find_package invocation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Introduce nnkit_support_tflite-1.7 target (#2804)

This target allows clients to specify the version of tensorflow lite that
they want to use.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[ann] Support Div operation (#2800)

* [ann] Support Div operation

This commit would support Div operation in ann

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Change indent and minor refactoring

Introduce Abseil Source package (#2802)

* Introduce Abseil Source package

This commit introduces Abseil (C++) source package as a nncc external
package.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Update comment

[enco] fix typo in comment (#2801)

This will fix typo in reduce_identical_object comment

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Update external dependencies on URL change (#2799)

With this commit, ExternalSource_Download will re-download external source
if its URL has changed.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add .vs folder to gitignore (#2797)

This will add to ignore Visual Studio temporary .vs folder

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Remove deprecated TensorFlowLite package (#2786)

Let's use versioned package instead.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Add comment of Locatable (#2796)

* [coco] Add comment of Locatable

This will add comment for Locatable interface

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* simplify

[nnc] Support transpose in acl backend (#2746)

- Support transpose operations in acl backend
- Insert transposes in acl backend where needed
- Add test for transpose operation

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[nnc] Support for LSTM Caffe layer (#2721)

* Add support for LSTM Caffe layer.
* Rename "SoftmaxLoss" Caffe layer to "SoftmaxWithLoss" as it should be.
* Add support for non-default axis for InnerProduct Caffe layer.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Add LeakyRelu activation (#2757)

* [nnc] Add LeakyRelu activation

Implement leaky relu activation function( relu with negative slope )

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[enco] Fixed debugging typo (#2793)

enco_dump_all_bags, _objects, _ops, _instrs take module as a parameter.

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

[enco] Support Div for ANN backend (#2792)

* [enco] Support Div for ANN backend

This commit enables ANN backend generation for Div operation

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Remove irrelavant modification in 'Debugging.cpp'

[nnc] Fix for constant in ModelAnalyzer (#2744)

Fixed constants not being visible in soft backend

Signed-off-by: Andrei Shedko <a.shedko@samsung.com>

[enco] add comments for loads in DataLayoutConversion (#2789)

* [enco] add comments for loads in DataLayoutConversion

This will add some comments explaining the condition

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* remove 'deleted'

* add about bounded

* use 'note'

[coco] Support Sqrt operator in coco (#2790)

This commit adds Sqrt op in coco.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Introduce TensorFlow 1.12 source package (#2785)

This commit integrates TensorFlowSource (1.12) package into nncc build
system.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Add comments to subst method (#2775)

* [enco] Add comments to subst method

This will add explanation comment of subst() method

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* some changes and example code

* use word USER

* Apply suggested comment

* fix typos

* use word Consumer

[nnkit] Use specific version of TensorFlow Lite (#2782)

This commit updates nnkit_support_tflite uses a specific version of
tensorflow lite (v1.7).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

ExternalSource_Download with URL keyword (#2784)

This commit updates ExternalSource_Download to accept URL keyword as an
argument of the following form:

 ExternalSource_Download(SAMPLE DIRNAME "SAMPLE" URL "...")

This change will make it easy to understand CMake build script.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add TensorFlow Lite 1.7 package (#2778)

This commit introduces TensorFlow Lite 1.7 package to nncc build system.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Support Div operation (#2770)

This commit extends coco IR including Div operation

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[enco] Add Sub test case (#2713)

This commit add Sub test case for enco

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

[encodump] Add Sub operator (#2731)

This commit supports to print information about Sub.

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

[tflchef] Support Div operation for reverse (#2760)

This commit will enable Div operation in tflchef-reverse

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[enco] Add cassert headerfile (#2749)

Add cassert header file in operator cpp files

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

[RefNN] Remove commented code (#2748)

Remove unnecessary comment for readability.

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

[tflchef] Support Div operation (#2755)

This commit will let tflchef cook Div operation

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[nnc] Add more tests for acl dom to text operations (#2719)

Tested entities:
- ArtifactIndex
- ArtifactRet
- ArtifactBreak
- ArtifactCont
- ArtifactVariable
- ArtifactBlock
- ArtifactForLoop
- ArtifactIf
- ArtifactFunction
- ArtifactClassVariable
- ArtifactClassFunction
- ArtifactClass
- ArtifactModule

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[nnc] Fix interpreter deconv implementation (#2756)

Rotate kernel index prior to input index calculation

Signed-off-by: Vladimir Plazun <v.plazun@partner.samsung.com>

[nnc] Support constant in acl backend (#2723)

- Support generation of constant operation in acl backend
- Add test for constant operation

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

TensorFlowSource v1.7 package (#2715)

This commit adds "version" property to TensorFlowSource CMake package
in nncc.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[ann] Implement Sub (#2714)

* [ann] Implement prepare for Sub

This patch implements a prepare for Sub operation in ann backend

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>
* [ann] Implement float32 operation for Sub

This commit implements a float32 operation for Sub operator

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

[nnc] Caffe2 importer unittest (#2735)

Implemented caffe2 importer unittest for unsupported op

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[nnc] Merge frontend libraires (#2737)

* add one frontend library as interface
* remove redundant `target_include_directories`

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[nnc] The first ONNX model resnet50 works on NNC interpreter (#2718)

Several operators were fixed: BatchNormalization, Reshape, Gemm and Pooling. Now NNC is available to convert the ONNX resnt50 network, play it back in interpreter and to produce the out which is totally comparable with reference data.

Signed-off-by: Andrew V. Tischenko a.tischenko@partner.samsung.com

Make onnxproto as static library (#2738)

* make onnxproto as static library

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[nnc] Support sigmoid operation in acl backend (#2739)

- Generate code for sigmoid activation function
- Add unit tests for sigmoid, tanh and capped_relu activation functions

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[nnc] Sub and Squared Diff (#2679)

- Refactored tflite import of various elementwise ops
- Added support for sub and SquaredDiff to C++ SB and Interpreter
- Fixed assert in c++ CPU artifact

Signed-off-by: Andrei Shedko <a.shedko@samsung.com>

[nnc] Do not transpose weights when serializing FullyConnected operation for x86-spp back end (#2736)

Remove call to transposeTensor<1, 0> when serializing weights tensor for FullyConnected op for x86-cpp backend.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Fix buid target name (#2740)

* correct target name in CMakeLists.txt

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[nnc] Cleanup dead code in interpreter backend (#2734)

Removed no longer used variable `_opByName` and methods working with it.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Refactor ONNX importer and fix ONNX importer build bug (#2733)

* remove redundant classes from ONNX

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[enco] IRValidator test code for conv2D (#2707)

* [enco] IRValidator test code for conv2D

This commit adds test code to check output shape of conv2D.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* pr fix: using std::array, removed <iostream>

* pr fix: test when validate fails

* pr fix: remove iostream

[nnc] Added Unsqueeze to ONNX (#2729)

Added Unsqueeze to ONNX with Reshape

Signed-off-by: Andrei Shedko <a.shedko@samsung.com>

[nnc] Create interface for NN importers (#2728)

* added factory method to create importer objects
* added template method to manage `run` method for all importers
* ONNX importer wasn't changed

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[nnc] Added Resize implementation in SB (#2398)

SoftBackend implementation of Resize Nearest Neighbor
Lifted from TFLite Reference ops.
Fixed Interpreter implementation.

Signed-off-by: Andrei Shedko <a.shedko@samsung.com>

[nnc] Fixed caffe2 maxpool border type (#2727)

Fixed caffe2 importer maxpool border type

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[nnc] Fix strided slice shrink axis mask (#2725)

* Fix processing shrink axis mask on StridedSlice operation creation on TFLite importer

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[nnc] Support StridedSlice operation on TFLite importer (#2720)

Support StridedSlice operation on TFLite importer only for strides array of ones

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[nnc] Fixed memory leak and heap overflow (#2703)

* Fixed memory leak and heap overflow in softbackend elementwise op
* Collect caffe2 model problems before tensors loading

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[nnc] Support Transpose operation on TFLite importer (#2716)

* Support TransposeOp on TFLite importer
* Add const where needed in TFLite op creator

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

Take DIRNAME as an optional argument (#2709)

This commit refines the implementation of ExternalSourceDownload; Now,
users can pass DIRNAME as an optional argument.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[enco] Add tflite frontend for Sub (#2710)

This commit will add the tflite frontend of enco for Sub.

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

[enco] Add ann backend for Sub (#2711)

This commit will add the ann backend of enco for Sub.

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

[enco] Comparing Featureshape using operator "!=" (#2708)

Code were modified to use newly defined operator "!=" of FeatureShape.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[enco] Bugfix to throw error when file do not exist (#2104)

Until now, there was no error even when prototxt or caffemodel do not exist
This commit will fix the bug

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[coco] Support Sub operator (#2698)

This commit add Sub operator in coco

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

Remove deprecated nncc_foundation (#2694)

There is no code that uses nncc_foundation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[tflchef] Add Sub for reverse (#2697)

This will add Sub Op for tflchef-reverse

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

[nnc] Support Elementwise Add and Mul operations with weights array (#2628)

* Add support Elementwise Add and Mul operations with weights array
* Support constant operation in soft cpu backend
* Remove ref type from InputParams and InputOps and add them to

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>
Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>
Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>
* Add refs for all creates

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[nnc] Fix broken importing of Scale Caffe layer (#2704)

Fix broken importing of Scale Caffe layer when --debug_transpose is passed to the compiler.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Support for Gather ONNX operator (#2700)

Add support for Gather ONNX operator.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Added slice (#2680)

Added slice to MIR, Interpreter, C++ SoftBackend
Added Importer Support for slice to tflite importer
Fixed SoftBackend Impl

Signed-off-by: Andrei Shedko <a.shedko@partner.samsung.com>

[nnc] Support for Sigmoid activation function (#2685)

Add support for Sigmoid activation function:
* In Model IR
* In C++ CPU backend
* In interpreter
* In Caffe frontend
* In TFLite fronend
* In ONNX frontend

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Add transpose operation test for soft backend (#2647)

- Test for transpose operation for soft backend
- Code style refactor of testsuite
- Arbitrary names for output node in tests supported

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

[tflchef] Support Sub operation (#2692)

This commit will enable Sub operation in tflchef

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

[coco] Use stdex::make_unique (#2690)

This commit replaces all the occurrences of make_unique in
nncc::foundation with the alternative one in stdex.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[encodump] Use stdex::make_unique (#2691)

This commit replaces all the occurrences of make_unique in
nncc::foundation with stdex::make_unique.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnc] Replace ElementwiseOp args number deserialization with generated number (#2678)

[nnc] Issue: SVACE STATIC_OVERFLOW in soft_backend/code_snippets/cpp_operations.def

Signed-off-by: Timur Ablyazimov <t.ablyazimov@samsung.com>

[nnc] Fixed caffe2 importer MIR operator names (#2683)

* Don't name any MIR operators, except for i/o
* Fixed default pooling stride size

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[nnc] Problem in the ACL backend system tests fixed (#2682)

Fixed a bug in the tensor_gen. nni was renamed to nnkit-run so we had to change this in the CMakeLists.txt of the ACL backend system tests. Also the dependencies of tensor_gen, caffegen and nnkit-run were done obligatory.

Signed-off-by: Timur Ablyazimov <t.ablyazimov@samsung.com>

[nnc] Rectify shared_ptr wrapper around TensorVariant (#2684)

- Get rid of shared_ptr wrapper around TensorVariant class.
- Add const qualifiers to auto reference declarations

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] SQRT Operation (#2514)

- Added sqrt op to backends (interpreter and c++ SB)
- Added sqrt to tflite importer

Signed-off-by: Andrei Shedko <a.shedko@partner.samsung.com>

[nnc] Implement Gather operation in interpreter backend (#2681)

Add implementation of Gather operation to interpreter backend.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

updated SDD for completion DR (#2670)

* remove svace defects

Signed-off-by: Roman Rusyaev <r.rusyaev@samsung.com>

[enco] Build ANN IR from ANNConv2D instruction (#2676)

This commit extends Split pass to build ANN IR from ANNConv2D
instruction.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Introduce object casting helpers (#2673)

This commit introduces the following object casting helpers:
 - isa<T>
 - cast<T>
 - safe_cast<T>

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[coco] Modified FeatureObject test, working for coco::FeatureShape (#2674)

With #2667, a warning was thrown. (ambiguous operator) This PR resolve the issue.

Signed-off-by: Hyun Sik Yoon hyunsik.yoon@samsung.com

[coco] "==", "!=" op for FeatureShape (#2667)

This commit adds "==", "!=" operators for FeatureShape.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[enco] Validating output shape of Conv2D (#2623)

* [enco] IR validator : validating output shape of conv2D

This commit adds code to check if output shape of conv2D is same with Eval.out

Signed-off-by: Hyun Sik Yoon hyunsik.yoon@samsung.com
* pr fix: comment on Dec 11

* pr fix: assert() for remoted round

* pr fix: string_width, striding_height

* pr fix: various.

[nncc/core] Do NOT link unused foundation library (#2672)

nncc_core has no implemenation/declaration that depends on
nncc_foundation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[tflchef] Remove default activation of concat test recipe (#2658)

* [tflchef] Remove default activation of concat test recipe

This patch removes the default activation value of concat test recipe.
It will be assigned NONE type by default.

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>
* Use NONE value instaed of removing that line

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

[nnc] Added Broadcasting (#2417)

- Added Broadcasting to interpreter and shapeInference.
- Fixed interpreter impl and placed const in correct location
- Added broadcasting to softBackend
- Added tests and cpp backend implementations for broadcasted `+, -, *, /, max`
- Added generic implementation of Elementwise Broadcast for ease of
- fixed codestyle; removed shape inference file

Signed-off-by: Andrei Shedko <a.shedko@samsung.com>

[nnc] Caffe2 importer improvements (#2664)

* Tested and fixed operators needed for 'inception': Add, Mul, Concat, SpatialBN
* Supported custom paddings
* Supported custom pooling window shapes
* Several bugs fixed

This PR enables 'TransposeOp' in caffe2 frontend, which is not currently supported by ACL backend.

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[nnc] Support for Gather operation in soft backend (#2663)

Add support for Gather operation to soft backend.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Fix broken ConstantOp (#2671)

Revert recent changes made to ConstantOp that broke it.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Fix build issue #2668 (#2669)

- Build failure issued by merging of #2646: convertBlob return value changed
- Small code style changes

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Support for Caffe Embed layer (#2646)

* Add support for Embed layer.
* Refactor creating of BiasAdd op in Caffe importer.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>