Removing function overhead of pow in Squarediff kernel (#3130)

This patch will remove function overhead of pow since pow(x,2) can be wirtten as x*x

Signed-off-by: shubham <shub98.gupta@samsung.com>

Correction in reduction mean kernel (#3131)

This patch removes unnecessary temp varaible and modifies comments

Signed-off-by: shubham <shub98.gupta@samsung.com>

Offset function not required (#3132)

This patch will remove unused offset4D function from CLReduceSum.cpp

Signed-off-by: shubham <shub98.gupta@samsung.com>

Use dlopen for generated test (#3154)

Use dlopen instead of static link for generated test

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Remove duplicated codes from SimpleEmbeddingLookup (#3159)

This commit removes duplicated codes from SimpleEmbeddingLookup.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Add CRLF detect in format-checker (#3162)

This will add CRLF newline check in format-checker script

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Initialize Objects and other variables (#3129)

This patch will initialize class objects and variables

Signed-off-by: Shubham <shub98.gupta@samsung.com>

Remove unnecessary Headerfile <iostream> from op BatchToSpaceNd (#3108)

This patch removes unnecessary headerfile <iostream> from op/BatchToSpaceNd.cc

Signed-off-by: prasannar <prasanna.r@samsung.com>

Add a function that converts the coordinates of the runtime into the coordinates of ACL. (#3117)

This commit adds a function that converts the coordinates of the runtime into the coordinates of ACL.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Convert CRLF line endings to LF (#3148)

Some files use CRLF(Windows) for line ending while most files use LF
(Unix-like).

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Revert "[neurun] Only one item for codegen operand Context (#3043)" (#3127)

This reverts commit f607de26dcf88a20de5e1d303390f9253cb27c34.

There is no easy way to fix #3126, so reverting the problematic change.
However still, we need to fix it.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[neurun] Remove unnecessary header includes (#3142)

Remove more unnecessary header includes in
`frontend/wrapper/compilation.cc`.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Add Abs custom op in tflite (#3033)

This commit resgiters and performs Custom(Abs) op in tflite.
Related issue:#2828

Signed-off-by: Siva Sai <siva.sai@samsung.com>

Block size assert for space_to_depth (#3087)

The block size should be asserted for size, divisor of
height and weight and output depth as per NNAPI specification.
The change asserts as per specification.

Assert moved from execution to compile time.

Signed-off-by: Praveen D N <praveen.dn@samsung.com>

Remove Unsupported Datatye Cases in StridedSlice (#3111)

NN api defines only for U8 and F32 dataype for stridedslice op.
Hence, leaving code only for supported dataypes.

Signed-off-by: shubham <shub98.gupta@samsung.com>

Add missing definition for Cast.h (#3120)

This commit Add missing definition for Cast.h

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Change external source code download setting (#3116)

Use tar.gz file instead of zip file
Change external source code download setting to server path only
- Support smooth external code update
- Support simple mirror server moving

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Add SimpleNeg to process NEG on CPU (#2979)

* Add SimpleNeg to process NEG on CPU

This patch allows to process NEG on CPU by default

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>
* Update if branch statement of NEG

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>
* Use USE_SIMPLE_NEG environment of NEG cpu operation

It is quite many slower than gpu operation.
But for debugging, keep this codes.

* Revert an irrelevant correction

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

[contrib] running/synchronizing kernels on two devices in a GPU (#2780)

This is a experiment code to test how to synchronize kernels on two devices in a GPU.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

Add bash shebang to generate_test.sh (#3102)

`$BASH_SOURCE` is not available even for some other bash-compatible
shells.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Assert moved:exec to compile time for DepthToSpace Layer (#3088)

If shape constraint has done well at compilation time, then there is no
need of assert at execution time.

Signed-off-by: shubham <shub98.gupta@samsung.com>

Adding Scale, Overflow policy and Rounding policy to Div op (#3086)

Same as Mul op which uses the following values.

Signed-off-by: Siva Sai <siva.sai@samsung.com>

Remove space_to_batch gtest from skiplist armv7l-linux (#3079)

This patch will remove passing space_to_batch gtest from skiplist.

Signed-off-by: shubham <shub98.gupta@samsung.com>

Enable to check operand status in pureacl (#2438)

This commit will enable to check if operand exists or not

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[neurun] Rename IBackendConfig to IConfig (#3098)

Rename `IBackendConfig` to `IConfig` since it is in namespace
`neurun::backend` so "Backend" in the class name is redundant.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Seperate functions of Cast.h into the declaration and the definition (#3104)

This commit seperates functions of Cast.h into the declaration and the definition.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[neurun] Show other inputs on dot graph (#3078)

* [neurun] Show other inputs on dot graph

This commit shows other inputs(kernel,bias..) on dot graph.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>
* Add options to switch showing range

* merge condition

Fix max_pool op to support quant type (#3016)

This patch will fix the max_pool_quant8_3 Gtest
And adds support for Quantization.

Signed-off-by: shubham <shub98.gupta@samsung.com>

Move TRANSPOSE_CONV_EX case to AddOperationEx in model.cc (#3103)

This patch moves TRANSPOSE_CONV_EX case to AddOperationEx since it's an Ex operation.

Signed-off-by: prasannar <prasanna.r@samsung.com>

[neurun] Make codegen impl less verbose (#3084)

Since we have the inputs and outputs as operand::Index we do not need the full
scope resolution, hence changing those to auto for codegen.

Signed-off-by: Praveen D N <praveen.dn@samsung.com>

Add NNAPI Delegation Changes for L2_Normalization op (#3080)

This patch adds NNAPI Delegation Changes for L2_Normalization op.

Signed-off-by: prasannar <prasanna.r@samsung.com>

NNAPI delegation changes for Batch_To_Space_ND op (#3057)

This patch gives the required NNAPI_Delegation changes for Batch_To_Space_op.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Remove Unsupported Datatye Cases in SpaceToDepth (#3077)

NN api defines only for U8 and F32 dataype for spacetodepth op.
Hence, leaving code only for supported dataypes.

Signed-off-by: shubham <shub98.gupta@samsung.com>

Remove S8,U32,S32 dataype cases from DepthToSpace (#3076)

This patch will remove S8, U32 and S32 cases since nnapi doesnot defines for them in DepthToSpace

Signed-off-by: shubham <shub98.gupta@samsung.com>

Add LRN codes in NE-ACL to supp both odd/even val (#2908)

This patch contains RS7-RuntimeNTools/ComputeLibrary#47 PR
For NEON-ACL LRN support
Updated license contents for NENormalizationLayerEx

Signed-off-by: shubham <shub98.gupta@samsung.com>

Fix for avg_pool_quant8_4 Gtest (#3017)

This patch will fix avg_pool_quant8_4 gtest

Signed-off-by: shubham <shub98.gupta@samsung.com>

nnfw: RSQRT support for Extended ACL. (#3039)

SQRT is supported as an Activation function in ACL, so RSQRT is also
added as in Activation Function in case of Extended ACL for nnfw.

Full framework for Activation function is added with this patch so
that if similar functionality is required for some other operator
then it can be added easily.

Signed-off-by: Tanuj Tekriwal <tanuj.tekri@samsung.com>

Introduce BATCH_TO_SPACE_ND in runtime. (#3058)

This patch introduces BATCH_TO_SPACE_ND in PACL runtime.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Remove cmake for acl build (#3092)

Remove cmake for acl build (not used anymore)

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Add NNAPI_Delegation changes for HashTableLookup op (#3082)

This patch adds NNAPI_Delegation changes for HashTableLookup op

Signed-off-by: prasannar <prasanna.r@samsung.com>

Introduce Custom(Abs) op in runtime (#3035)

This commit introduces Custom(Abs) op in PACL runtime.
Related issue: #2828

Signed-off-by: Siva Sai <siva.sai@samsung.com>

[PureACL] remove unused code (tanh activation code) (#3072)

Remove tanh fuseCode since we don't have tanh supported.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

Updating skiplist for HashtableLookup (#2907)

With #2655 and #2708 both the removed gtests are passing,
hence removing them from the skiplist.

Signed-off-by: Siva Sai <siva.sai@samsung.com>

[neurun] Fix condition typo in lowering (#3071)

This commit fixes condition typo in lowering.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

[neurun] Remove dot dump env verbose (#3073)

This commit removes dot dump env verbose which is not needed anymore.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Fix wrong return of EnvVar::asBool (#3075)

Previously `asBool` always return `1`. Fixed the bug.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[neurun] Combine generateWeight and generateBias (#3066)

Combine `generateWeight` and `generateBias` into one `generate` method
in `IInitializerGenerator`.

The type `Initializer` is now a list of a pair of Index and Initializer
function. To keep the legacy code as much as possible, the two functions
are still there as private and non-virtual.

Resolve #3042

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Add CL Kernels for SquaredDifference op. (#3037)

This patch adds CL Kernels for SquaredDifference op.

Signed-off-by: prasannar <prasanna.r@samsung.com>

[neurun] Move backend interfaces to interface dir (#3041)

Move backend interfaces to interface dir.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Setting quantization info to fix bug (#3020)

This patch will set quantization info for the quant8 supported ops.

Signed-off-by: shubham <shub98.gupta@samsung.com>

Remove passed Generated Tests from skiplist armv7l-linux (#3049)

This patch removes the passed Generated Tests
```
tensorflowmax_ex*
space_to_depth*
```
from the skiplist ```runtime_run_android_nn_test.skip.armv7l-linux```.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Add Generated Test for Squared Difference op (#3019)

Add squared_difference_ex_1D_float for testing 1d tensor.
Add squared_difference_ex_2D_float for testing 2d tensor.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Included file is not required (#2910)

This patch will remove #include CLArithmeticSubtraction which is not getting used at all.

Signed-off-by: shubham <shub98.gupta@samsung.com>

Changes in Generated files of gather gTests (#3045)

The files
```
gather_1D_quant8.example.cpp
gather_2D_quant8.example.cpp
gather_1D_quant8.model.cpp
gather_2D_quant8.model.cpp
```
have changes that is not reflected in the nnfw repo.
This patch points out those necessary changes.

Signed-off-by: prasannar <prasanna.r@samsung.com>

[neurun] Only one item for codegen operand Context (#3043)

* [neurun] Only one item for codegen operand Context

Now that Permutation insertion has changed that there must be only one
`backend::operand::Object` for each operand. So this commit removes
vector container which made it one-to-many relationship between graph
operand and backend operand.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>
* Add assertion

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Add NNAPI Delegation and Custom Op for Equal (#2984)

This patch adds NNAPI Delegation and Custom op definition for Equal.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Remove depth_to_space gtest from skiplist armv7l-linux (#3052)

This patch will remove passing depth_to_space gtest from skiplist.

Signed-off-by: shubham <shub98.gupta@samsung.com>

Implementation of Space_to_BatchND op in PACL (#2854)

This patch will acc CPU implemenation of SPACETOBATCHND for rank=4 tensors.

Signed-off-by: shubham <shub98.gupta@samsung.com>

[neurun] Simplify graph dot dumper implementation (#3034)

* [neurun] Simplify graph dot dumper implementation

This commit unifies DotBuilder update methods into one, and remove
redundant shape info in the parameter list.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>
* Simplify addNode

Add Apache License (#3005)

This patch adds Apache License to SimpleEmbedding lookup and SquaredDiff layer

Signed-off-by: shubham <shub98.gupta@samsung.com>

[neurun] Remove unnecessary header includes (#3053)

Remove unnecessary header includes in
`frontend/wrapper/compilation.cc`.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[neurun] Update Plan and TensorBuilder role (#3011)

Update `ITensorBuilder::prepare` not to depend on `Plan` object.

In order to do that, Introduce `wrapTensor` and `iterate` interfaces for
`ITensorBuilder`.

Resolve #2746

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Patch bug in ArmComputeEx NEG_Ex (#3018)

This patch solves the bug in NEG_Ex in ArmComputeEx.
Related issue: #2920

Signed-off-by: prasannar <prasanna.r@samsung.com>

Fix run script (#3024)

This will fix run script that was incorrecly fixed

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[neurun] Add default ctor for operand::Shape (#3025)

Add default ctor for `graph::operand::Shape` to remove meaningless
initialization with rank param like `Shape{1}`.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Fix a bug of StridedSliceCPU (#3015)

This commit fixes a bug of StridedSliceCPU.
- Fix StridedSliceCPU to work with `ICLTensor` even if the `ICLTensor`s have padding.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Fix a bug of ReduceSum (#3013)

This commit fixes a bug of ReduceSum.
- Fix ReduceSum to work with `ICLTensor` even if the `ICLTensor`s have padding.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Fix a bug of ReduceMax for cpu (#3012)

This commit fixes a bug of ReduceMax for cpu.
- Fix ReduceMax to work with `ICLTensor` even if the `ICLTensor`s have padding.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[neurun] Implement to run the dot dumper (#2912)

* [neurun] Implement to run the dot dumper

This commit implements to run the dot dumper with env GRAPH_DOT_DUMP.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>
* add

* Extract dump method to DotDumper class

* add license to DotDumper.cc

Add Apache License to Local Response Normalization op (#2932)

This patch adds Apache License to Local Response Normalization op.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Introduce TRANSPOSE_CONV operation on runtime (#2941)

This patch introduces TRANSPOSE_CONV operation on runtime.
This operator is required by grocery recognition system model.

Signed-off-by: b.devansh <b.devansh@samsung.com>

[neurun] Rewrite the way for addShapeConstr (#2937)

Now that we have input/outputs as `operation::Node` interface, we do not
need to implement calls to `addShapeConstr` for each node. Instead, it
is done in general way for all nodes from `Linear::markTensors`. And for
this, there was some changes to `ITensorBuilder` interface.

Reslove #2741

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[tfltool] OP selector: Support more operator (#2975)

Support selecting operators: NEG, EXP

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Change input arguments of SquaredDifference operator (#2903)

While testing grocery model, below errors occured,
```
tflite_run: /home/jyoung/git/star/nnfw/runtimes/pure_arm_compute/src/internal/op/SquaredDifference.cc:33: internal::tflite::op::SquaredDifference::Param::Param(uint32_t, const uint32_t*, uint32_t, const uint32_t*): Assertion `inputCount == 3 && outputCount == 1' failed.
```
There is no need of an activation index as SquaredDifference op takes only two inputs X & Y.
This patch makes those necessary changes.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Update nnapi_delegation for Space_To_BatchND (#2904)

This patch will add nnapi delegaion for Space_to_BatchND

Signed-off-by: shubham <shub98.gupta@samsung.com>

Add generated tests for NEG_EX (#2869)

Add neg_ex_1D_float for testing 1d tensor.
Add neg_ex_2D_float for testing 2d tensor.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Add Apache License to L2Normalization Op (#2931)

This patch adds Apache License to L2Normalization Op.

Signed-off-by: prasannar <prasanna.r@samsung.com>

[neurun] Introduce Enum `Input` for Conv2D (#2943)

Introduce Enum `Input` for FullyConnected to avoid using magic numbers
from input list.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Add Apache License to SquaredDifference Op (#2930)

This patch adds Apache License to Squared Difference Op

Signed-off-by: prasannar <prasanna.r@samsung.com>

[neurun] Introduce Enum `Input` for MaxPool2D (#2945)

Introduce Enum `Input` for MaxPool2D to avoid using magic numbers
from input list.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[neurun] Introduce Enum `Input` for the rest ops (#2947)

Introduce Enum `Input` for Reshape and Softmax to avoid using magic
numbers from input list.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Add Apache License to HashTableLookup op (#2933)

This patch adds Apache License to HashTableLookup op.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Introduce ABS_EX op in NeuralNetworksEx.h (#2949)

This commit introduces ABS_EX op in NeuralNetworksEx.h
Related issue: #2828

Signed-off-by: Siva Sai <siva.sai@samsung.com>

Introduce EQUAL_EX operation on runtime (#2872)

This patch introduces EQUAL_EX operation on runtime.
The related ACL implementation is done in subsequent patches.

Signed-off-by: prasannar <prasanna.r@samsung.com>

[neurun] Remove unnecessary code in Linear.h (#2901)

Remove unnecessary code in `linear/Linear.h`.

- Incorrect `virtual` keyword
- Meaningless `private` keyword

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[neurun] Remove outdated comment (#2900)

Remove outdated TODO comment that has been fixed already.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[neurun] Introduce Enum `Input` for Conv2D (#2899)

Introduce Enum `Input` for Conv2D to avoid using magic numbers from
input list.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[neurun] Remove redundant code (#2898)

Remove redundant code. This was supposed to be removed from #2870,
however it was not removed by mistake.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[neurun] Introduce Enum `Input` for AvgPool2D (#2897)

Introduce Enum `Input` for AvgPool to avoid using magic numbers for
input list.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[neurun] Introduce EdgeConsistencyChecker (#2893)

Introduce EdgeConsistencyChecker which verifies the consistency between
operation-side edges and operand-side edges.

This commit also makes DAGChecker to be an assert condition.

Resolve #2706

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Reverting the execution permission (#2905)

This commit reverse the change of mode for the following files.

Signed-off-by: shubham <shub98.gupta@samsung.com>

Removing the execution permission for NeuralNetowrksEx.h (#2909)

Removing the execution permission for NeuralNetowrksEx.h

Signed-off-by: Siva Sai <siva.sai@samsung.com>

Add generated test for TENSORFLOW_SUM_EX (#2883)

* Add generated test for TENSORFLOW_SUM_EX

This commit adds generated test for TENSORFLOW_SUM_EX

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>
* Add tensorflowsum_ex_* generated tests to skip list (neurun, tizen and x86_64)

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

Assert moved:exec to compile time for SpaceToDepth (#2878)

If shape constraint has done well at compilation time, then there is no
need of assert at execution time.

Signed-off-by: shubham <shub98.gupta@samsung.com>

[neurun] Remove unused TensorConvert kernels (#2876)

Remove unused TensorCovert kernels since now we have PermuteLayer
instead.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Assert moved:exec to compile time for DepthToSpace (#2877)

If shape constraint has done well at compilation, then there is no
need of assert at execution time.

Signed-off-by: shubham <shub98.gupta@samsung.com>

Fix custom op's output resize (#2873)

Fix custom op TensorFlowMax & TensorFlowSum implementation
Output resize policy: check dimension info

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[neurun] Move namespace of arm_compute::feature (#2886)

Move namespace `internal::arm_compute::feature` to
`neurun::util::feature::nhwc`.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[neurun] Introduce .dot dumper (#2787)

* [neurun] Introduce .dot dumper

Part of : #2773

This commit introduces `.dot` dumper, which includes below.

- DotNodeInfo : operation info for dot graph
- DotOperandInfo : operand info for dot graph
- DotDumper : make dot graph and stream dump

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>
* introduce dot_shape()

* change asInt to value()

* Change the directory of dot dumper

[neurun] Bring the part that uses source/sink in execution. (#2788)

This commit bring the part that uses source/sink in execution.
- Bring the part from pureacl.
- Change sourse/sink for 2D/3D to not use `execute_window_loop` in order to avoid unused-param error.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>