Realignment of doxygen comments in various CL Host files (#4052)

In order to have uniformity and similarity to ACL
and NeuralNetworks.h's style of doxygen comments,
this patch realigns the comments.

Signed-off-by: shubham <shub98.gupta@samsung.com>

Add CLKernel calls for Comparison operators (#4044)

This patch adds CLKernel calls for comparison operators
- Equal
- Not Equal

Signed-off-by: prasannar <prasanna.r@samsung.com>

Changes in DataType supported by CL and host files of SquaredDifference and Neg (#4013)

This patch adds changes in DataType supported by CL and host files of SquaredDifference and Neg
Reference NeuralNetworksEx.h

Signed-off-by: prasannar <prasanna.r@samsung.com>

[neurun] Replace EnvVar with ConfigManager (#4045)

Replace EnvVar with ConfigManager. Some default values are revised to
work in the same way as before.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Correction in various gtests (#4036)

1.correction in datatype for shape
2.correction in input and output values based on datatype
3.renaming files based on the datatype they are testing for.

Signed-off-by: shubham <shub98.gupta@samsung.com>

[neurun] Remove backend/acl_cl/kernel/View.h (#4003)

Related : #3983

This commit removes `backend/acl_cl/kernel/View.h` that is duplicated with other `View` classes.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Add missing assertions in TransposeConv visit func (#4027)

This patch will add assertions for tensors rank in TransposeConv
visit func

Signed-off-by: shubham <shub98.gupta@samsung.com>

Renaming of gtests to provide the datatype info they are testing (#4035)

Since many of the gtests have datatype in their name which they are
testing. Moreover, having datatype in the names will give more clear
distinction in gtests, this patch renames the gtest files to do the
same.

Signed-off-by: shubham <shub98.gupta@samsung.com>

[neurun] Move template specializations (#4039)

Move template specializations to source file to avoid duplicated
definition error.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[neurun] Create a singleton for ConfigManager (#4040)

Create a singleton for ConfigManager. Restrict ctor to be private so it
does not instantiated by code from other places.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Remove unnecessary switch case from ArgMinMax kernel (#4033)

Since axis is always less than input rank and in Host file
there is already an assertion of axis<rank.
this switch case is not req and hence reducing the unnecessary
switch arithematic.

This patch will remove this unnecessary switch case and reducing code
redundancy.

Signed-off-by: shubham <shub98.gupta@samsung.com>

Remove dependece of data format(NHWC) of PACL runtime from kernels of SPACE_TO_BATCH_ND (#4024)

This commit removes dependece of data format(NHWC) of PACL runtime from kernels of SPACE_TO_BATCH_ND.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Adding float gtests for split (#4028)

This patch adds float gtests for split.

Signed-off-by: b.devansh <b.devansh@samsung.com>

Implementation for CL to support padding for tensors upto rank<=4 (#3945)

This patch will enable pad op to support padding of tensors having
rank <=4

Signed-off-by: shubham <shub98.gupta@samsung.com>

Remove AND GTests from skiplist (#3982)

This patch removes AND GTests from skiplists.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Add DataTypes supported by BinaryLogicalOp CL Kernel (#4012)

This patch adds DataType supported by BinaryLogicalOp CL Kernel

Signed-off-by: prasannar <prasanna.r@samsung.com>

Add CL Kernel for PRELU (#3961)

This patch adds single CL Kernel for PReLU implemented as,

f(x) = alpha * x for x < 0, f(x) = x for x >= 0.

As of now (#3901 ) PReLU implemented as,

f(x) = Relu(x) + (negative_alpha * Neg(x, activation=Relu))

Scope:

- Optimization
- No switch between CPU & GPU

Signed-off-by: prasannar <prasanna.r@samsung.com>

Add tests for LogicalNot (#3600)

This commit adds tests for LogicalNot op

Signed-off-by: Poshshoev Dilshodzhon <d.poshshoev@samsung.com>

Propose unified kernel for Comparison operators and bug fix (#3914)

This patch proposed unified CL Kernel for Comparison operator
This patch includes:
- CL kernel for EQUAL/NOT_EQUAL
- TRUTH value bug fix
- CL Kernel that can be easily extended for GT, LT, GE, LE

Signed-off-by: prasannar <prasanna.r@samsung.com>

Update namespace and ifdef for libs/misc (#4022)

Update ifdef for libs/misc
Update namespace libs/misc as nnfw::misc

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Move tools/test_driver to tests/scripts (#4019)

* Move tools/test_driver to tests/scripts

Move tools/test_driver to tests/scripts
Update test path
Workaround for CI

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>
* Comment in Makefile for workaround

[neurun] Introduce ConfigManager (#4021)

Introduce ConfigManager that manages global configuration data.
The values are from Environment Variables.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Correction in GTests of Equal_Ex with truth value as 0xff (255) (#3927)

This patch corrects GTests of Equal_Ex with truth value as 0xff (255)
Related issue: #3823 #3851

As quoted by @hseok82-oh

>IMO, use 0xff (255) for true, and 0x00 (0) for false in test.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Add gtest to test broadcasting in Notequal op (#3717)

This patch will test broadcasting in notequal op

Signed-off-by: shubham <shub98.gupta@samsung.com>

Update namespace in libs/tflite/ext (#4015)

Update namespace in libs/tflite/ext to nnfw::tflite
Reduce namespace depth for custom op

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[neurun] Use IObject in PermuteLayer (#4005)

This commit uses `IObject` insted of `ITensor` in `PermuteLayer`, since we don't want to use `map/unmap` functions explicitly and to get any `ACL` dependencies.

Related : #3279
Part of : #3873

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Fix external tensorflow lite build cmake (#4007)

- Remove BUILD_TFLITE_BENCHMARK_MODEL check for profiling source code
- Fix typo

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Rename tensorflow lite interpreter test (#4009)

* Rename tensorflow lite interpreter test

Rename tensorflow lite interpreter test by comparing with result of tensorflow
: tf_test -> tflite_test

* Fix build option description

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Move how to run guideline into readme file (#3987)

This patch moves the how to run guideline into readme file

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

Add argmax quant8 to skiplist (#4004)

Add argmax quant8 to skiplist: test fail

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Move libs/misc/profiling to libs/profiling (#3997)

Move libs/misc/profiling to libs/profiling for profiling library
Update cmake to link profiling library
Update header path for profiling
Update cmake for tensorflow build to support build with BUILD_TFLITE_BENCHMARK_MODEL option

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

ArgMinMax CL kernel for ArgMax and ArgMin (#3867)

The changes introduce the argmax and argmin CL kernel in one cl file.

Signed-off-by: Praveen D N <praveen.dn@samsung.com>

Add gtest to test LogicalAnd op for 2D and 3D tensors (#3938)

This patch will add gtests to test logicalAnd op for 2D and 3D tensors

Signed-off-by: shubham <shub98.gupta@samsung.com>

Add gtest to test LogicalOr for 2D and 3D tensors (#3939)

This patch will add gtests to test logicalOr for 2d and 3d tensors

Signed-off-by: shubham <shub98.gupta@samsung.com>

Pass explicitly local workgroup size to enqueue in acl (#3996)

This patch allows the local workgroup size(_lws_hint) value pass to enqueue function

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

[neurun] Introduce Config.lst (#3999)

Config.lst is a macro list with fields "Name", "Type", "Default value".

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[neurun] Fix wrong size calculation when permuting (#3998)

This commit fixes wrong size calculation when permuting.
It should be data size not pointer size.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Apply dim correction to neg operator (#3986)

This allows to apply dim correction to Neg operator

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

[neurun] Change ifdef guard in Convert.h (#3990)

This commit changes ifdef guard in `Convert.h` to correct.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

[neurun] Use host memory in acl_cl (#3974)

Related issue:3735
Add CLTensor::setBuffer to be able to use host memory from the acl_cl

Signed-off-by: Poshshoev Dilshodzhon <d.poshshoev@samsung.com>

Add GTests to test broadcast of LogicalAND op (#3950)

This patch adds GTests to test broadcast of LogicalAND op.

Signed-off-by: prasannar <prasanna.r@samsung.com>

ADD 1D, 2D, 3D, 4D GTests for RSQRT (#3932)

This patch adds 1D, 2D, 3D, 4D GTests for RSQRT

Signed-off-by: prasannar <prasanna.r@samsung.com>

Fix build bug by tflite library namespace (#3993)

Fix build bug by tflite library namespace change

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Update namespace and ifdef for tflite library (#3968)

* Update namespace and ifdef for tflite library

Make tflite/extend directory for ported codes from public tensorflow
Update namespace except extended directory
Update ifdef in header

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>
* Rename tflite/extend to tflite/ext

* Fix format

* Update ifdef in ext

* Flatten namespace nnfw::tflite::interp to nnfw::tflite

* Add comment for endif

Add missing axises comment (#3979)

This patch will add missing axises comment.

Signed-off-by: shubham <shub98.gupta@samsung.com>

Fix wrong radius of LRN in NENormalization (#3977)

Fix wrong radius setting for LRN

Signed-off-by: shubham <shub98.gupta@samsung.com>

Make TestGenerated file for each version (#3975)

* Make TestGenerated file for each version

On coverage build, build have failed since all_generated_tests.cpp is too
large. This patch will generate a test file for each NNAPI version.

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>
* Extract common code from TestGenerated_XX.cpp

- Extract common code from TestGenerated_XX.cpp

Support boolean input param in tflite_run (#3958)

This patch assigns random boolean value to boolean input param.

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

Add gtest to test Exp op for 3D/4D tesnors (#3797)

This patch will add gtest to test Exp op for tesnors having
dimensions other than 4

Signed-off-by: shubham <shub98.gupta@samsung.com>

Add CL Kernel calls for LogicalAnd op (#3970)

This patch adds CL Kernel calls for LogicalAnd op

Signed-off-by: prasannar <prasanna.r@samsung.com>

Remove setting of false to apply_dim_correction in compilation,cc for Broadcast support ops (#3976)

This patch removes setting of false to apply_dim_correction in compilation,cc for Broadcast support ops.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Add GTests to test broadcast of LogicalOR (#3949)

This patch adds GTests to test broadcast of LogicalOR.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Redefine REDUCE_MIN in NeuralNetworkEx.h (#3925)

This patch redefines REDUCE_MIN in NeuralNetworkEx.h
    explaining it supports INT32 also
    Reference tf.reduce_min
    input_tensor: The tensor to reduce. Should have numeric type.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Redefine REDUCE_MIN in NeuralNetworkEx.h (#3926)

This patch redefines REDUCE_MIN in NeuralNetworkEx.h
    explaining it supports INT32 also
    Reference tf.reduce_max
    ```
    input_tensor: The tensor to reduce. Should have numeric type.
    ```

Signed-off-by: prasannar <prasanna.r@samsung.com>

Add gtest to test neg op for int datatype (#3930)

This patch will add gtest to test neg for int datatype

Signed-off-by: shubham <shub98.gupta@samsung.com>

Correction in GTests of NotEqual_Ex with truth value as 0xff (255) (#3929)

This patch corrects GTests of NotEqual_Ex with truth value as 0xff (255)
Related issue: #3823 #3851

Signed-off-by: shubham <shub98.gupta@samsung.com>

Fix Typo in internal/op/* files (#3973)

This patch fixes typo issues in internal/op/*.h files
changes:
```defualt -> default```

Signed-off-by: prasannar <prasanna.r@samsung.com>

Fix typo on SimpleArgMinMax.cc (#3972)

fix typo : defualy -> default

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Use TFLiteConverter instead of deprecated API in tensorflow_model_freezer (#3917)

Add prerequires section in readme
Use tflite v1.12 tool to support the extended operators
Fix some tc errors

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

Add sample py example for some operator (#3919)

Added operators:
ARGMAX, ARGMIN, LOGICAL_AND, LOGICAL_NOT, LOGICAL_OR, STACK, UNSTACK

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

Update tflite library name in cmake (#3967)

Update tflite library name in cmake to nnfw_lib_tflite

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[neurun] Remove default values in View.h (#3966)

This commit removes default values of `feature_index_to_byte_offset`'s parameter in `View.h`.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Update namespace of nnapi library (#3965)

Update namespace of nnapi library: nnfw::support::nnapi to nnfw::nnapi
Update header ifdef

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[neurun] Fix wrong parameter in nchw View.h (#3963)

This commit fixes wrong parameter for 3 rank in nchw `View.h`.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Rename libs/util to libs/misc and update cmake (#3962)

Rename libs/util to libs/misc
Use static build only

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Resolve inconsistencies in the boolean data values (#3957)

* Resolve inconsistencies in the boolean data values

Since the data is stored in the index value of the input/output tensors,
it is modified to use the index value when it accesses the data.

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>
* Use meaningful variable names

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

Move libs/support/tflite to libs/tflite (#3920)

Move libs/support/tflite to libs/tflite
Update header include path

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Change nnapi library name and update cmake (#3956)

Chane nnapi library name: nnfw_support_nnapi -> nnfw_lib_nnapi
Specify library type as static
Remove unused nnapi library link

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Remove redundant .cl files regarding reduce operations (#3952)

This patch removes redundant .cl files regarding reduce operations
In issue: #3448
Since Unification of reduce kernel is merged,
      removal of existing implementation can be removed
Hence removing the same.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Update skiplist for tizen (#3953)

Now, the skiplist of tizen is the same as linux's

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Add PReLU CL Kernel calls from PACL (#3916)

This patch adds PReLU CL Kernel calls from PACL.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Add 3D 4D Gtests for SquaredDifferenceEx op (#3933)

This patch adds 3D 4D Gtests for SquaredDifferenceEx op.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Add GTests for SQRT_EX 3D 4D case (#3934)

This patch GTests for SQRT_EX 3D 4D case

Signed-off-by: prasannar <prasanna.r@samsung.com>

Add validations for Neg op in CLKernel.cpp (#3931)

This patch will add validations req to be tested
before executing neg op

Signed-off-by: shubham <shub98.gupta@samsung.com>

Remove unwanted apache license from RSQRT Gtest (#3937)

This patch removes unwanted apache license from RSQRT Gtest ```rsqrt_ex_float1.mod.py```

Signed-off-by: prasannar <prasanna.r@samsung.com>

Implement LogicalOr op in PACL (#3944)

This patch will add implementation of LogicalOr op
in PACL

Signed-off-by: shubham <shub98.gupta@samsung.com>

Add gtest to test quant8 datatype for NotEqual Op (#3757)

This patch will add gtest to test quant8 datatype for NotEqual Op

Signed-off-by: shubham <shub98.gupta@samsung.com>

Add NNAPI delegation for LOGICAL_OR (#3904)

This patch adds NNAPI delegation for LOGICAL_OR.
Related issue: #3459

Signed-off-by: shubham <shub98.gupta@samsung.com>

Generic EmbeddingLookup kernel to handle tensors upto rank=4 (#3794)

This patch unifies the 3 different embedding lookup kernel into
one kernel so as to make a generic cl to support upto 4d tensors.

Signed-off-by: shubham <shub98.gupta@samsung.com>

Defining default constructor in Pack and Unpack layer (#3907)

This patch will define default constructor in Pack and
Unpack Layers

Signed-off-by: shubham <shub98.gupta@samsung.com>

Generic HashTableLookup kernel to handle tensors upto rank=4 (#3798)

This patch unifies the 3 different hashtable lookup kernel into
one kernel so as to make a generic cl to support upto 4d tensors.

Signed-off-by: shubham <shub98.gupta@samsung.com>

Add gtest to test Argmax op for tensors of QASYMM8 dataype (#3802)

This patch will add gtest for Argmax to test for tensors of
QASYMM8 dataype

Signed-off-by: shubham <shub98.gupta@samsung.com>

Remove passing gtests from skiplist (#3908)

This patch will remove all passing gtests from skiplist
- local_response_norm_float_4
- GeneratedTests.unpack*

Signed-off-by: shubham <shub98.gupta@samsung.com>

Add license comments in SimpleUnpackLayer* (#3905)

This patch will add license commnets in SimpleUnpackLayer.cc
andSimpleUnpackLayer.h

Signed-off-by: shubham <shub98.gupta@samsung.com>

Add gtest for split with negative axis. (#3915)

This patch adds a test case for split with negative axis.

Signed-off-by: b.devansh <b.devansh@samsung.com>

Remove generated test cpp (#3921)

Remove generated test cpp as these files are unused since #3874.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Move Padding module from `internal` to `util`. (#3882)

Move Padding module from `internal` to `util`.

Part of #3764

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Add NNAPI delegation for LOGICAL_AND (#3903)

This patch adds NNAPI delegation for LOGICAL_AND.
Related issue: #3459

Signed-off-by: prasannar <prasanna.r@samsung.com>

Validation check for addOperation (#3911)

- Check operation type is validate
- Add try-catch exception and return ANEURALNETWORKS_BAD_STATE when exception is raised
- Set return value when addOperationEx is not failed

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Add ExtendCMakeFunction module and add_subdirectories function (#3912)

- Add ExtendCMakeFunction module to simplify cmake
- Introduce add_subdirectories function to support adding all subdirectories at once.  (It's comes from nncc repo)
- Use add_subdirectories function in libs

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Unify REDUCE_SUM and REDUCE_MAX operation in CL kernel (#3885)

This patch unifies REDUCE_SUM and REDUCE_MAX operation in CL kernel
This is done to reduce code redundancy.
Related issue: #3771

Signed-off-by: prasannar <prasanna.r@samsung.com>

Add comments to define alpha input in internal/op/PReLU.cc (#3900)

This patch adds comments to define alpha input in internal/op/PReLU.cc.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Change in kernel name for LogicalBinaryOp (#3913)

This patch corrects the change in kernel name for LogicalBinaryOps (AND & OR)

Signed-off-by: prasannar <prasanna.r@samsung.com>

Add PReLU layer in PACL (#3901)

This patch adds PReLU layer in PACL.
Issue: #3459 for Epic4

PReLU implemented as,
      f(x) = Relu(x) + (negative_alpha * Neg(x, activation=Relu))

Signed-off-by: prasannar <prasanna.r@samsung.com>

Move libs/support/nnapi to libs/nnapi (#3895)

Move libs/support/nnapi to libs/nnapi
Update header include path

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Update namespace and header define for cpp14 library (#3896)

Update namespace to nnfw::cpp14
Update define to __NNFW_CPP14_xxx__
Update usage of cpp14 library to updated namespace

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Remove unused headers from Unpack op in internal/layers (#3906)

This patch will remove unused headers included in Unpack
related files in internal/layers

Signed-off-by: shubham <shub98.gupta@samsung.com>

Add GTests for PReLU op (#3899)

This patch adds GTest for PReLU op
Issue: #3459.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Adding assertions in TransposeConv op. (#3887)

This patch adds necessary assertions in TransposeConv.

Signed-off-by: b.devansh <b.devansh@samsung.com>

Return error for not finished model compile (#3897)

When NNAPI call try to compile model not finished, return BAD_STATE error

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>