Changes in PACK GTest as per specifications in NNAPI (#3866)

This patch makes changes in PACK GTests as per specification in NNAPI.
Refer #3864 for specification.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Move include/util (#3872)

* Move include/util

Move include/util to libs/util/include/util
Update cmake for include

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>
* Add .FORMATDENY file

Format for header will be fixed later

[neurun] Remove usage of internal/nnapi/kernel (#3862)

Now that feature is 4D, so this commit removes kernel usage for unifying
kernel and feature. This commit includes removal of dynamic_cast to
backend implementations, which had to be done with this work.

Removing files in `internal/nnapi/kernel` will be done in another
commit.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Change operator TENSORFLOW_SUM name (#3747)

Change operator ANEURALNETWORKS_TENSORFLOW_SUM_EX name to ANEURALNETWORKS_REDUCE_SUM_EX

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Correction in gtests for unpack op (#3869)

This patch corrects the gtests for unpack op.

Signed-off-by: b.devansh <b.devansh@samsung.com>

Correcting the order of input in unpack op (#3868)

This patch corrects the order in which the unpack op takes the input as suggested in #3787.

Signed-off-by: b.devansh <b.devansh@samsung.com>

Remove Mobilenet_quantized gtest from skiplist (#3836)

This patch will remove Mobilenet_quantized gtest from skiplist

Signed-off-by: shubham <shub98.gupta@samsung.com>

Code realignment for namespace to seperate it from CLass func (#3792)

This patch will realign the code in the namespace so as to have
greater readablity and clear seperation from the class member funcs.

Signed-off-by: shubham <shub98.gupta@samsung.com>

Remove deperecated kernel header (#3860)

Remove deperecated kernel header in include/kernel/acl

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[tfltool] Enable select operator for LogicalNot op (#3819)

This patch enables LogicalNot in tflitetool in select_operator.py

Signed-off-by: prasannar <prasanna.r@samsung.com>

Add generatedtests for TransposeConv (#3710)

This patch adds generatedtests for TransposeConv.

Signed-off-by: b.devansh <b.devansh@samsung.com>

Remove space_to_batch_quant gtests from skiplist (#3780)

this patch will remove space_to_batch_quant gtests from skiplist

Signed-off-by: shubham <shub98.gupta@samsung.com>

Correction in the commnets in gtest filees (#3834)

This patch will correct the commnets for number of values for input
and output in the gtests.

Signed-off-by: shubham <shub98.gupta@samsung.com>

Replace ambiguous comments in Gather GTests (#3832)

This patch replaces ambiguous comments in Gather GTests

Signed-off-by: prasannar <prasanna.r@samsung.com>

[tfltool] Correction in select operator for ArgMax op (#3854)

This patch removes "not supported" for ArgMax in tflitetool in select_operator.py

Signed-off-by: b.devansh <b.devansh@samsung.com>

Redefining ArgMinMax CPU implementation as SimpleArgMinMax (#3812)

This patch redefines ArgMinMax CPU implementation as SimpleArgMinMax,
     Since we follow adding 'Simple' as prefix for CPU implementation as a naming convention.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Update Dockerfile (#3856)

Update Dockerfile to have python3 in the docker image.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Revise nnfw.spec for tizen (#3857)

Add a required package python 3.
This is for test generation on build time.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Redefine HashTableLookup CPU implementation as SimpleHashTableLookup (#3804)

This patch redefines HashTableLookup CPU implementation as SimpleHashTableLookup.
Since we follow a naming convention for CPU implementation with prefix 'Simple'.

Signed-off-by: prasannar <prasanna.r@samsung.com>

[tflkit] Fix bug tflite_convert.sh for version<2 (#3704)

Fix bug tflite_convert.sh for version<2 setting allow_custom_ops

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Revise build flags for contrib (#3855)

Revise build flags order for contrib in CfgOptionFlags.cmake
Introduce build flag for tf_test
Use build flag BUILD_LAB for opencl_test build
Change build flags' default for contrib off

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[tfltool] Correction in select operator for RNN op (#3852)

This patch rectifies RNN in tflitetool in select_operator.py

Signed-off-by: b.devansh <b.devansh@samsung.com>

[neurun] Remove backend dependency in View (#3821)

* [neurun] Remove backend dependency in View

This commit removes `backend dependency` in `View` classes.

- Add `offset_element_in_bytes` abstract function to `ITensor`
- Make `View` gets `ITensor`

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>
* Change offset_element_in_bytes to calcOffset

Define Gather_Ex op in NeuralNetworkEx.h (#3756)

This patch defines Gather_Ex op in NeuralNetworkEx.h
Related issue: #3347

Signed-off-by: prasannar <prasanna.r@samsung.com>

Add nnapi_delegation for PACK n UNPACK (#3787)

This patch adds nnapi_delegation for pack and unpack op.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Update pack input parameters (#3848)

The values_count is added by nnapi_delegate
but it is not necessary because it can be replaced with ifm_indexes.size()
So it will be ignored

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

Remove deprecated contrib directories (#3844)

Remove example, bindacl, and convacl directories

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Add nnapi delegates for reduce_xx ops (#3786)

Add delegates for tflite::BuiltinOperator_SUM,
tflite::BuiltinOperator_REDUCE_MAX, and tflite::BuiltinOperator_REDUCE_MIN

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Remove Reduce Min GTest from skiplist (#3842)

This patch removes Reduce Min GTest from skiplist.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Add tf_classify reference application (#3642)

* Add tf_classify reference application

This patch creates an `example` directory
The tf_classify application is based on TendofFlow Android Camera Demo.

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>
* Change application name and move the location

Use tflite_classify instead of tf_classify
Move application under contrib directory
Do not support to download files

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>
* Add const keyword and remove unnecessary library link

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>
* Use std::vector instead of c-style array

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>
* Use OpenCV C++ apis

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

Add CL kernel calls for ReduceMin from PACL. (#3772)

This patch adds CL kernel calls for ReduceMin from PACL.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Remove EQUAL delegated as custom op in nnapi_delegate (#3833)

This patch removes EQUAL delegated as custom op in nnapi_delegate
Since EQUAL is built in op as far as v1.12 is concerned.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Collect optional operand index (#3768)

Collect optional operand index using defined API in frontend

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Introduce permission checker (#3831)

Introduce permission checker in format checker
It check execution permission except script files

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Remove unnecessary headers files inclusion (#3839)

This patch will remove not req headers inclusion in the following files:
ArgMinMax.cc
ArgMinMax.h
GenericFullyConnectedLayer.cc
GenericFullyConnectedLayer.h
HashtableLookupLayer.cc
HashtableLookupLayer.h
SimpleBatchToSpaceNd.h
SimpleDepthToSpace.h
SimpleEmbeddingLookup.h
SimpleNeg.h

Signed-off-by: shubham <shub98.gupta@samsung.com>

Add license comments to SimplePackLayer* (#3838)

This patch will add license comments to SimplePackLayer.cpp and
SimplePackLayer.h

Signed-off-by: shubham <shub98.gupta@samsung.com>

Remove not req headers from SquarredDiff CL file (#3837)

This patch will remove not req headers in CLSquaredDifferenceKernel.cpp

Signed-off-by: shubham <shub98.gupta@samsung.com>

Remove not req headers from the layers in internal folder (#3840)

This patch will remove unnecessary headers for the follwing files
from the internal/layers :
SimplePackLayer.cc
SimplePackLayer.h
SimplePadLayer.h
SimpleSQRT.cc
SimpleSQRT.h
SimpleSpaceToBatchND.h
SimpleSpaceToDepth.h
SimpleTransposeConv.cc
SimpleTransposeConv.h

Signed-off-by: shubham <shub98.gupta@samsung.com>

[tfltool] Enable select operator for LogicalOr op (#3824)

This patch will enalbe select operator for Logicalor op

Signed-off-by: shubham <shub98.gupta@samsung.com>

[tfltool] Enable select operator for NotEqual op (#3814)

This patch will enable select operator for NotEqual op

Signed-off-by: shubham <shub98.gupta@samsung.com>

Renaming of Logical_AND op to LogicalAnd (#3800)

To maintain uniformity and naming convention,
This patch renames the Logical_AND to LogicalAnd

Signed-off-by: shubham <shub98.gupta@samsung.com>

Add gtest to test Neg op for 3D and 4D Tensors (#3796)

This patch will add gtest to test Neg op for 3D/4D tensors.

Signed-off-by: shubham <shub98.gupta@samsung.com>

[tfltool] Enable select operator for ArgMax op (#3813)

This patch will enable ArgMax op in tflitetool in select_operator.py

Signed-off-by: prasannar <prasanna.r@samsung.com>

[tfltool] Enable select operator for LogicalAND op (#3815)

This patch will enable LogicalAND in tflitetool in select_operator.py

Signed-off-by: prasannar <prasanna.r@samsung.com>

[tfltool] Enable select operator for Dequantize op (#3818)

This patch enables Dequantize in tflitetool in select_operator.py

Signed-off-by: prasannar <prasanna.r@samsung.com>

[tfltool] Enable select operator for Unpack op (#3820)

This patch will enable select operator tflitetool for unpack op

Signed-off-by: shubham <shub98.gupta@samsung.com>

Redefining input parameters in reduce_operations.cl Kernel (#3789)

This patch redefines input parameters in reduce_operations.cl Kernel.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Remove execution permission for command and configure (#3830)

Remove execution permission for command and configure
- build-docker
- docker-shell
- image_name.configuration

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Correction in data type supported by neg_tensor.cl (#3790)

This patch corrects the comments on data type supported by neg_tensor.cl.

Signed-off-by: prasannar <prasanna.r@samsung.com>

[tool] Enable select operator for reduce operators (#3810)

Enable select operator for reduce operators: reduce_max, reduce_min, reduce_any, mean, sum,

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[tfltool] Enable select operator for RNN op (#3825)

This patch enables RNN in tflitetool in select_operator.py

Signed-off-by: b.devansh <b.devansh@samsung.com>

Add NNAPI delegation to PRELU op (#3807)

This patch adds NNAPI delegation to PRELU op.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Handle optional input & output on frontend (#3763)

- Throw exception when optional input is set because we cannot support this yet
- Return with do nothing for optional output

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Add a generated test for SpaceToBatchND (#3637)

This commit adds a generated test for SpaceToBatchND.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Initialize and reset for bool type in Diff.cpp (#3777)

Define initializer, reseter and comparator for bool type tensor

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Remove registraton of EQUAL, RSQRT as custom op. (#3809)

Since ops like EQUAL, RSQRT have been introduced in TF v1.12
They need not be registered as Custom ops anymore.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Rename topk_v2 gtests to topk_v2_ex (#3765)

This patch renames topk_v2 gtests to topk_v2_ex.
This is done for maintaining uniformity.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Rename split Generated test to split_ex (#3766)

This patch renames split Generated test to split_ex.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Renaming Gather GTests to gather_ex (#3767)

This patch renames Gather GTests to gather_ex.
This is done to maintain the uniformity.

Signed-off-by: prasannar <prasanna.r@samsung.com>

[neurun] Extract Coordinate4D from ParentInfo (#3806)

This commit extracts `Coordinate4D` class from `ParentInfo` to use in other classes generally.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Introduce PReLU op in PACL (#3791)

This patch introduces PReLU op in PACL.
Related issue: #3459

Signed-off-by: prasannar <prasanna.r@samsung.com>

Support boolean tensor input and output (#3808)

Supprot boolean tensor input and output in nnapi delegate
Use temporary buffer for casting between boolean array and quantized int array

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Remove SQRT and RSQRT delegated as CUSTOM OP in nnapi_delegate (#3788)

This patch removes SQRT and RSQRT delegated as CUSTOM OP in nnapi_delegate.
Since #3742 is merged.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Fix typo to path lcov-to-cobertura-xml (#3803)

Fix typo to path lcov-to-cobertura-xml:
externals/lcov-to-covertura-xml -> externals/lcov-to-cobertura-xml

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Insert LogicalOr case in Model.cc (#3801)

This patch will add case for LogicalOr in Model.cc

Signed-off-by: shubham <shub98.gupta@samsung.com>

Define SPLIT_EX in NeuralNetworkEx.h (#3755)

This patch defines SPLIT_EX in NeuralNetworkEx.h
Related issue: #3347

Signed-off-by: prasannar <prasanna.r@samsung.com>

Define TOPK_V2_EX in NeuralNetworkEx.h (#3759)

This patch defines TOPK_V2_EX in NeuralNetworkEx.h.
Related issue: #3347

Signed-off-by: prasannar <prasanna.r@samsung.com>

Add nnapi_delegation for Equal and NOT_Equal (#3745)

* Add nnapi_delegation for Equal and NOT_Equal

This patch adds nnapi_delegation for Equal and NOT_Equal.

Signed-off-by: prasannar <prasanna.r@samsung.com>
* Add nnapi_delegation for Equal and NOT_Equal

This patch adds nnapi_delegation for Equal and NOT_Equal.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Implement SQRT_EX op in CPU (#3760)

This patch implements SQRT_EX op in CPU.
Related issue: #3459

Signed-off-by: prasannar <prasanna.r@samsung.com>

Introduce PRELU_EX in NeuralNetworksEx.h (#3769)

This patch introduces PRELU_EX in NeuralNetworksEx.h
Related issue: #3574 #3459

Signed-off-by: prasannar <prasanna.r@samsung.com>

Update generated test files (#3749)

* Remove deprecated generated test files

- Remove deprecated files: already recipe is removed
- Remove deprecated files by renamed: floor, tanh, and div recipe is renamed becasue of namespace conflict

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>
* Update generated files

Update difference between generated by script and code in repo

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Add gtest to test Logical_OR_Ex op (#3781)

This patch will add gtest to test Logical_OR op

Signed-off-by: shubham <shub98.gupta@samsung.com>

Remove Passing mean gtest from skiplist (#3782)

This patch will remove passing mean gtest from skiplist

Signed-off-by: shubham <shub98.gupta@samsung.com>

Register reduce_xx operator for internal tflite interpreter (#3785)

Reduce_sum, reduce_min, reduce_max builtin operators are registered
for internal tflite interpreter.

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Define TRANSPOSE_CONV_EX in NeuralNetworksEx.h (#3773)

This patch defines TRANSPOSE_CONV_EX in NeuralNetworksEx.h.
Related issue: #3347

Signed-off-by: b.devansh <b.devansh@samsung.com>

[neurun] Move Convert to backend/acl_cl (#3778)

internal/Convert.h and the source file is acl_cl dependent, so it is
moved to `backend/acl_cl` dir.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Add Quant8 support to NotEqual CL (#3754)

This patch will provide quant8 support for NotEqual Op

Signed-off-by: shubham <shub98.gupta@samsung.com>

Handle boolean for nnapi delegate (#3775)

To handle boolean for nnapi delegate, change type to quantized tensor and call NNAPI

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Define Abs_Ex op in NeuralNetworksEx.h (#3758)

This patch will define Abs_Ex op in NeuralNetworksEx.h

Signed-off-by: shubham <shub98.gupta@samsung.com>

Move benchmark into contrib (#3774)

Move benchmark into contrib
Revise directory structure: use src directory
Revise cmake to reference src directory and check build option

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Introduce LOGICAL_AND op in runtime (#3564)

This patch introduces LOGICAL_AND op in our runtime.
Related issue: #3459

Signed-off-by: prasannar <prasanna.r@samsung.com>

Add delegate for SQRT and RSQRT (#3742)

* Add delegate for SQRT and RSQRT

With tensorflow v1.12, SQRT and RSQRT are built-in operator.
This commit adds delegate for built-in SQRT and RSQRT.

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>
* Add macro to avoid GBS build fail

tizen(obs) has tensorflow v1.9 while this commit requires v1.12.

Introduce optional operand set on frontent (#3751)

Introduce unordered_set field for optional operand
Define API to insert optional operand
Introduce process to handle optional operand at model finish (cannot handle yet)

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[neurun] Replace ITensor to our own (#3739)

Related : #3273
Part of : #3700

This commit replaces `arm_compute::ITensor` to `neurun::operand::ITensor` finally.

Replaced below classes
- ITensor
- ICLTensor
- CLTensor
- CLSubTensor

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Implement CL Kernel for ReduceMin op (#3744)

This patch implements CL Kernel for ReduceMin op.

Signed-off-by: prasannar <prasanna.r@samsung.com>

Correction in SpaceToBatch CPU version for quant8 datatype (#3686)

This patch will set correct zero_value for quant8 datatype in spaceToBatch.

Signed-off-by: shubham <shub98.gupta@samsung.com>

Adding nnapi delegation changes regarding TransposeConv (#3427)

This patch adds required changes to nnapi delegate to run transpose conv

Signed-off-by: b.devansh <b.devansh@samsung.com>

Remove passing pad_quant8 gtest from skiplist (#3694)

This patch will remove pad_quant8 gtest from skiplist

Signed-off-by: shubham <shub98.gupta@samsung.com>

Add GTest for ReduceMin op. (#3732)

This patch adds GTest for reduce_min op.
Added files:
```
reduce_min_ex
reduce_min_ex_float_1
reduce_min_ex_float_2
```

Signed-off-by: prasannar <prasanna.r@samsung.com>

Add GTest for LogicalAND op (#3567)

This patch adds GTest for LogicalAND op.
Related issue: 3459

Signed-off-by: prasannar <prasanna.r@samsung.com>

Add validation function & missing broadcast related code in NOTEQUAL (#3715)

This patch will add validation function and missing broadcast related code.

Signed-off-by: shubham <shub98.gupta@samsung.com>

Introduce ReduceMin in PACL (#3729)

This patch introduces ReduceMin in PACL.
Related issue: #3459

Signed-off-by: prasannar <prasanna.r@samsung.com>

[neurun] Introduce Node.Include.h (#3740)

This file includes headers of all the nodes

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[neurun] Change dot_dumper input/output shape (#3741)

This commit changes `input`/`output` shape of dot_dumper graph to `doublecircle`.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Removing the not required Pad op files (#3625)

After PR #3428 merged
These PadLayer files are not required.

Signed-off-by: shubham <shub98.gupta@samsung.com>

Update build-docker command (#3697)

- Change command: build_docker -> build-docker
- Can use docker build options
- Update docker file: restrict yapf version to 0.22.0
- Update document

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Save pointer to buffer for operand value setting (#3736)

For operand value setting, save pointer to buffer instead of copy when size is greater than
ANEURALNETWORKS_MAX_SIZE_OF_IMMEDIATELY_COPIED_VALUES defined in NeuralNetworks.h

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Correction in pad CPU version for quant8 datatype (#3687)

This patch set the correct padding value which is offset for quant8 dataypes.

Signed-off-by: shubham <shub98.gupta@samsung.com>

Add CLkernel for Generic Padding (#3428)

This patch will add cl kernel to execute pad op on GPU

Signed-off-by: shubham <shub98.gupta@samsung.com>

Support Layout::NHWC for CL Kernel of SpaceToBatchND (#3734)

This commit supports Layout::NHWC for CL Kernel of SpaceToBatchND.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>