Implement SquaredDifference in PACL (#2815)

This patch implements Squared Difference using Sub and Square kernel.
This patch is added as a replacement to previous patch #2570, which realizes Squared Difference using Sub and Mul.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Add generated tests for TENSORFLOW_MAX_EX (#2851)

This commit adds generated tests for TENSORFLOW_MAX_EX.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[neurun] Revise insertOperation to insertPermute (#2826)

This commit removes the method `Graph::insertOperation` and adds
`Graph::insertPermute`. Since with `insertOperation` method is a general
method for inserting any node but it can be done with limited situation.
Instead, with `insertPermute` method, it can only Permute node but for
any operand. However since it requires Graph to have dependency on
Backend and Permute node, so it should be extracted to another module
later.

Here are the differences

- insertPermute inserts `Permute` node only while insertOperation can
  insert any type of the node given by parameter,
- insertPermute only adds a node that uses given operand as input
  while insertOperation connects the newly created node's output and the
  original input operation
- insertPermute can be called at LOWERED phase only

This commit also removes the tests for `insertOperation` since
`insertPermute` can be only called at LOWERED phase.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Add copyright and license for benchmark directory (#2847)

- Add Apache 2.0 in our source (Benchmark.*)
- Add our copyright in our modification to ACL (benchmark*.cpp)

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[neurun] Remove misleading comment (#2829)

Remove misleading comment in BackendManager - which has been already
fixed, but the comment is not updated.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Support Exp kernel on ACL (#2835)

* Support Exp kernel on ACL

This commit implements an exp kernel moduel and related codes on ACL.

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>
* Update License contents

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

[neurun] Make cpu backend impl less verbose (#2848)

Now that we have inputs/outputs/params as `operand::Index` type so we do
not have to write the full type info for backend implementation.
So this commit revises those to use `auto` for cpu backend.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[neurun] Make acl_cl backend impl less verbose (#2849)

Now that we have inputs/outputs/params as operand::Index type so we do
not have to write the full type info for backend implementation.
So this commit revises those to use auto for acl_cl backend.

Likewise for cpu backend : #2848

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Reverting the execution permission (#2853)

After the recent changes, the modes have been changed for the following files.
This commit revokes them.

Signed-off-by: Siva Sai <siva.sai@samsung.com>

Revering the mode change (#2852)

This commit reverse the change of mode in NeuralNetworksEx.h

Signed-off-by: Siva Sai <siva.sai@samsung.com>

[neurun] Update type of Node Params (#2843)

Params for each node has used raw integer, this commit updates it to
have use `operand::Index`.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Update LICENSE and tizen spec (#2842)

- Eigen is not used any more so BSD and MPL license are removed.
- Some sources under MIT are introduced.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Change license MIT to Apache 2.0 for our ARMComputeEx sources (*.cl) (#2840)

*.cl's licenses are changed that was missing in #2704.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[neurun] Introduce default constructor for Index (#2831)

Introduce default constructor for `Graph::Index` so wrapping objects can
have a default constructor.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Introduce TENSORFLOW_SUM_EX operation in PACL (#2836)

Add nnapi delegation of TENSORFLOW_SUM_EX operation.
Add param and node for TENSORFLOW_SUM_EX operation.

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

[Tools] Revise operator option generation in select operator (#2769)

Revise operator option generation in select operator
- Reorder by option type's enum value
- Move import

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[neurun] Remove duplicated include (#2833)

This commit removes the line for duplicated include.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Implementation of DepthToSpace op in PACL for CPU (#2808)

This patch will add DepthToSpace op

Signed-off-by: shubham <shub98.gupta@samsung.com>

Introduce TRANSPOSE_CONV_EX in NeuralNetworksEx.h (#2825)

This patch introduces TRANSPOSE_CONV_EX in NeuralNetworksEx.h
Related Issue: #2809

Signed-off-by: b.devansh <b.devansh@samsung.com>

Introduce SpaceToBatchND in PACL (#2810)

This patch introduces SpaceToBatchND op in PACL

Signed-off-by: shubham <shub98.gupta@samsung.com>

Introduce EXP_EX operation in PACL (#2817)

Add nnapi delegation of EXP_EX operation.
Add param and node for EXP_EX operation.

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

Introduce TENSORFLOW_SUM_EX operation on NeuralNetworks.h (#2818)

Add TENSORFLOW_SUM_EX operation in NeuralNetworks.h.

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

Introduce NEG_EX operation in PACL (#2816)

Add nnapi delegation of NEG_EX operation.
Add param and node for NEG_EX operation.

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

[Tools] Fix parser error (#2790)

Fix parser error when parsing operator option table

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Introduce EXP operation on NeuralNetworks.h (#2814)

This patch introduces ANEURALNETWORKS_EXP_EX in NeuralNetworks.h
EXP operator is used in mtcnn model.
Related issue : #2167

Signed-off-by: prasannar <prasanna.r@samsung.com>

Introduce NEG operation on NeuralNetworks.h (#2813)

This patch introduces ```ANEURALNETWORKS_NEG_EX``` in NeuralNetworks.h
NEG operator is used in mtcnn model.
Related issue : #2167

Signed-off-by: prasannar <prasanna.r@samsung.com>

Add TensorFlowSum custom operator in tflite interpreter (#2797)

This commit registers TensorFlowSum operator in tflite interpreter.
It contains the actual behavior of TensorFlowSum.

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

Introduce DEPTH_TO_SPACE operation into PACL (#2781)

This patch will introduce Depth_To_Space into pure_arm_compute (#2765)

Signed-off-by: shubham <shub98.gupta@samsung.com>

Enabling PAD on NEON-PACL (#2728)

This patch will add neon support for PAD op

Signed-off-by: shubham <shub98.gupta@samsung.com>

Removing unncessary CAST_NE from GenericReshapeLayer (#2774)

This patch removes unncessary CAST_NE from GenericReshapeLayer, as the configure functions of NEON Kernels expects parameters of type ITensor and the parameters are all of type ITensor.

Signed-off-by: b.devansh <b.devansh@samsung.com>

Remove ARM Compute submodule (#2783)

* Remove ARM Compute submodule

Remove ARM Compute submodule and use source download

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>
* Check ARMComputeSource_FOUND

Return ARMCompute_FOUND false if cannot find ARMComputeSource

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Revise run & docker-run command (#2786)

Revise run & docker-run command
Same implementation with nncc

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[neurun] Add usage getter in Object class (#2784)

Part of : #2773

This commit adds usage getter in Object class.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Delete stamp files when clean (#2785)

Delete stamp files when clean using Makefile

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Add copyright in model file tool & detection (#2779)

- Add copyright in tools/tflitefile_tool
- Add coptright in contrib/detection

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[neurun] Implement Permute for StageGenerator (#2775)

Implement `IStageGenerator::generate` method for Permute operation.
Currently we handle this inserted operation as same with other
operations(Added from NN API).

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[neurun] Introduce more operation methods (#2777)

Introduce methods for replacing operands for `operation::Node`.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[neurun] Add getName interface in Node (#2776)

Related : #2685

This commit adds `getName` interface in Node for getting the name of Node info.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Removing unncessary CAST_NE from SquaredDifference Op (#2723)

This patch removes unncessary CAST_NE from SquaredDifference Op, Since the configure functions of NEON Kernels expects parameters of type ITensor and the parameters input, output are all of type ITensor.

Signed-off-by: prasannar <prasanna.r@samsung.com>

[neurun] Update operand::LowerInfo (#2771)

Have use/def info as BackendSet instead of LayoutSet. This is because
each backend has its own tensors, even if many backends are of the
layout.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[neurun] Use MockNode.h in verifier TC (#2772)

This commit makes the verifier TC uses `MockNode.h`.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Removing unncessary CAST_NE from PureACL (#2718)

This patch removes unncessary CAST_NE from PureACL, Since the configure functions of NEON Kernels expects parameters of type ITensor and the parameters input, output are all of type ITensor.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Removing GeneratedTests.l2_norm* from the skiplist (#2725)

With #2642 the l2_pool_float* cases passed. Removing from skip list.

Signed-off-by: Praveen D N <praveen.dn@samsung.com>

Enabling appendTanh on NEON runtime -PACL (#2762)

This patch will add NEON runtime support for appendTanh

Signed-off-by: prasannar <prasanna.r@samsung.com>

[neurun] Hold Backend objects as pointer (#2768)

* [neurun] Hold Backend objects as pointer

Make `BackendManager` to return backend's pointer so it does not make
many duplicated objects of `Backend`.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>
* [neurun] BackendResolver as Graph member

Now that we have Backend as pointer, there is an issue on the scope of
BackendResolver.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Removing unncessary CAST_NE from GenericFullyConnectedLayer (#2721)

This patch removes unncessary CAST_NE from GenericFullyConnectedLayer, Since the configure functions of NEON Kernels expects parameters of type ITensor and the parameters are all of type ITensor.

Signed-off-by: prasannar <prasanna.r@samsung.com>

[neurun] Apply other types for source/sink. (#2740)

This commit applies other types for source/sink.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[Tools] Check tflite file correctness (#2767)

- Check tflite file correctness to parse operator option table (option table type defined but undefined value)
- Print and exit if operator selector cannot support

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[neurun] Introduce ITensorBuilder::tensorAt (#2759)

Introduce an interface that returns ITensor objecet for given Index.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[neurun] non-const LowerInfo accessor for operand (#2757)

Introduce non-const LowerInfo accesor for `operand::Object`.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[Tool] fix bug (ARM native build version crashes) (#2763)

This is a bug fix of issue #2727.
The reason is not clear but calling the following throws std::system_error from openCL (-1 : meaning 'unknown')
- cl::Device::getDefault()
- cl::Context::getDefault()
- cl::Platform::getDefault()

Removed the above from main prining section and move them into additional printing section with `try` and `catch` surrounded.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

Remove copyright and license from externals/CMakeLists.txt (#2697)

Related Issue: #2662

We don't put license and copyright on CMakeLists.txt.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[neurun] Introduce OperandPass (#2758)

`OperandPass` is a subclass of `Pass` that iterates for each
`operand::Object`. And subclasses of `OperandPass` must have
implementation of `callback` method.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Implementation for LRN Layer (#2643)

This patch implements Local Response Normalization Layer in NNFW-PACL

Signed-off-by: shubham <shub98.gupta@samsung.com>

Enabling Logistics Op on PureACL NEON runtime (#2715)

This patch enables Logistics Op to run on NEON runtime PureACL.

Signed-off-by: b.devansh <b.devansh@samsung.com>

[neurun] Apply memcpy for source/sink (#2754)

This commit applies memcpy for source/sink.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[neurun] Introduce method `IBackendConfig::id` (#2753)

Introduce method `IBackendConfig::id()` so the backend itself holds its
string ID.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[neurun] Bring source/sink codes for 2D and 3D (#2752)

This commit bring source/sink codes for 2D and 3D from pureacl.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[neurun] Introduce method IndexSet::replace (#2751)

Introduce operand::IndexSet::replace method which can update an element
in the set.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[neurun] Introduce `operand::BackendSet` (#2750)

BackendSet is a class that is a set of Backends. It will be used from
`operand::LowerInfo` to express which backends need to allocate for a
operand.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[neurun] Implement PermuteLayer kernel for cpu (#2749)

PermuteLayer basically copies data from input tensor to output tensor,
but if the tensor must be permuted it also do permute the tensor.
Currently NHWC to NCHW and NCHW to NHWC permutation is supported.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[neurun] Introduce graph::Pass (#2747)

This commit introduces `graph::Pass` that can manipulate the graph
model.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Install core libs into /usr/lib in tizen (#2722)

- For M2, libneuralnetworks.so should be installed on /usr/lib

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Disable x86_64, i586 build on obs (#2716)

There is build break on obs SR. With this commit, no build is trigged
for x86_64 and i586 arch.

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>
Signed-off-by: Sangjung woo <sangjung.woo@samsung.com>

Remove scripts/command/change_gitmodule.sh (#2713)

This patch removes scripts/command/change_gitmodule.sh, since it is no
longer used, and updates its caller sites.

Same reason with #1085

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Ignore acl dirty (#2712)

Ignore acl dirty to ignore build obj and binary
To ignore build directory, you should fix .gitignore in externals/acl

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Fix comparison size_t with zero (#2710)

Fix comparison size_t with zero (always true)
Compare before casting from int to size_t

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Download tensorflow source only (#2703)

Instead of using submodule, download source code for tensorflow source down & build

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Fix NeuralNetworksLoadHelpers.h bug (#2707)

Fix NeuralNetworksLoadHelpers.h bug: same inline function name with NeuralNetworksShims.h in tensorflow lite

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Remove priavte server name in framework test (#2701)

Remove priavte server name in framework test configuration
Instead we should pass by environment variable MODELFILE_SERVER
Find modelfile name for zip files

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

packaging: fix armcl package name (#2705)

armcl packages for arm and aarch64 have same package name so fix it.

Change-Id: I1104a35add8e0cfcd19625b4a79051e97e61df35
Signed-off-by: Inki Dae <inki.dae@samsung.com>
Signed-off-by: Sangjung woo <sangjung.woo@samsung.com>

Change license MIT to Apache 2.0 for our ARMComputeEx sources (#2704)

Related Issue: #2663

For sources that we added under ARMComputeEx, the license is changed
to Apache 2.0, which is our company's default license for open source.

I kept ARM copyright because some code (e.g. PixelWiseDivision) uses
their code, and basically all code are based on ARM compute's skeleton.

StridedSlice and TopKV2 are implemented using TFLite kernels.
Thus the corresponding files have TensorFlow Authors copyright also.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Use public vanilla arm compute library in submodule (#2696)

- change submodule url to vanilla arm compute library
- submodule commit : tag v18.05

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Disable sub/broadcast model test (#2700)

`sub/broadcast` model test fails after update submodule to public acl
18.05. This commit disables sub test by default.

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Environment variable to ignore md5 (#2695)

Environment variable to ignore md5 when model file is in cache directory

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Add MIT in tizen spec's license field (#2699)

Related Issue: #2650, #1977

MIT is specified since ARMComputeEx is introduced, which is under MIT license.
It is required to make happy SOLVe.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Add MIT license in LICENSE (#2698)

Related Issue: #2650, #1977

MIT license, used in ARMComputeEx, is added in LICENSE.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Environment variable setting for modelfile server (#2691)

- Support environment variable "MODELFILE_SERVER" for framework test modelfile download server
- Remove argument for mirror server
- Support zip file download
- Change variable name in config.sh to set download path: MODELFILE_SERVER_PATH

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[neurun] Relocate Dumper from codegen to graph (#2690)

* [neurun] Relocate Dumper from codegen to graph

Related : #2686

This commit relocates Dumper from codegen to graph.
Dumper does not match the meaning of code generation and introducing other dumpers such as `.dot dumper` later are also same.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>
* add dumper namespace

Enable Explicit Depth-wise Conv on NEON-PACL (#2680)

This patch will add support for Explicit Depthwise conv on NEON.

Signed-off-by: shubham <shub98.gupta@samsung.com>

Add pure_arm_compute layer for SquaredDifference (#2570)

This patch adds the pure_arm_compute layer for SquaredDifference.

Signed-off-by: prasannar <prasanna.r@samusng.com>

Add failed tests on vanilla acl submodule (#2694)

Some tests will fail after using vanilla acl submodule. To avoid CI
failure, add those tests into skip list.

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Fix eigen package checking (#2693)

Fix eigen package checking in external

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Change externals download URL (#2689)

Change externals download URL from internal mirror to github

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[Contrib] OpenCL experiment code (#2685)

This code checks if devices in a GPU use same memory address.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

Fix gbs build fail : add python to buildrequire (#2687)

- Fix gbs build fail : add python to buildrequire

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

[neurun] Unify duplicate DataType definition (#2671)

This commit unifies duplicate DataType definition.
It can remove `cpu specific` includes for acl_cl kernel.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Enabling Tanh on pureACL NEON runtime (#2674)

This patch enables the TANH operation on pureACL NEON runtime.

Signed-off-by: prasannar <prasanna.r@samusng.com>

Enable Squeeze on pureACL on NEON runtime (#2682)

This patch will add Squueze op for Neon runtime in pureACL

Signed-off-by: shubham <shub98.gupta@samsung.com>

Fix externals CMake (#2683)

Fix externals CMake
- Remove unused include directories
- Remove unused packages on arm cross build
- Change eigen library name

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[neurun] Introduce Permute operation (#2670)

Introduce Permute operation which is for tensor permutation. This
operation is not one of NNAPI operations but inserted internally in the
graph to convert different tensor layouts.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Remove git submodule and use download (#2678)

Instead of using git submodule, use download for externals
(except tensorflow and acl)

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Fix copyright in ARMComputeEx (CLReductionMean.h, fixed_point.h) (#2665)

Related Issue: #2663

- Add our copyright since we added `CLReductionMean` kernel.
- Add our copyright since `fixed_point.h` (not existing since ACL18.08) was modified
from ACL18.x.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Use CLKernellibraryEx on our own kernels (#2675)

* Use CLKernellibraryEx on our own kernels

- Change  CLKernellibrary to CLKernellibraryEx
- add initilaization of CLKernellibraryEx before creating kernel
FIXME: please suggest better way

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>
* CLKernellibraryEx initialization on Compilation_finish

- Remove initialization on kernel's configure step
- Add initialization on Compilation_finish

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Make resolve_includes.py work for Python 2 and 3 (#2681)

Previously lines with `print` work only on Python 2. Modified for Python 3.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

Implementing L2Normalization operation in NNAPI (#2642)

This commit implements L2Normalization operation in pure_arm_compute runtime.

Signed-off-by: prasannar <prasanna.r@samusng.com>

[neurun] Fix Index casting (#2666)

* [neurun] Fix Index casting

Before Index was used `int32_t` but now it is `uint32_t`. However in
some code the casting is not changed accordingly. This commit changes
those unchanged code and fix misleading comments.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>
* Return BAD_DATA instead of assertion

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Use include instead of find_package for module (#2667)

Define nnfw_include to use include instead of find_package
Change ExternalProjectTools, ExternelSourceTools, and OptionTools to use nnfw_include (same with nncc)

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Enable FLOOR on pureacl NEON runtime (#2664)

This patch enables the ```Floor``` operation on pureACL ```NEON``` runtime.

Signed-off-by: prasannar <prasanna.r@samusng.com>

Introduce HashtableLookup op in PACL runtime (#2655)

This commit introduces ANEURALNETWORKS_HASHTABLE_LOOKUP in PACL.
Related issue: #2654

Signed-off-by: Siva Sai <siva.sai@samsung.com>