Add testcase for left rank < right rank (#1787)

* Add testcase for left rank < right rank

This commit adds a testcase for different rank
-left rank < right rank

Signed-off-by: SungJin Choi <lotieye.choi@samsung.com>
* Change to a gtest format

This commit changes main format to a gtest.

Signed-off-by: SungJin Choi <lotieye.choi@samsung.com>

Remove incorrect link_library to neuralnetworks (#1918)

In neural_networks_test, libneuralnetworks incorrectly is linked.

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Enables other type of operands in CONV2D operation. (#1889)

* Change the type of CONV2D's Bias from QASYMM8 to INT32

This commit changes CONV2D's bias type from QASYMM8 to INT32.

According to the nnapi description, for input tensor of {@link ANEURALNETWORKS_TENSOR_QUANT8_ASYMM} type, the bias should be of {@link ANEURALNETWORKS_TENSOR_INT32}.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>
* Add QuantizationInfo to TensorInfo in CONV2D operation.

This commit adds QuantizationInfo to TensorInfo in CONV2D operation.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[New runtime] Skeleton for addOperationEx (#1913)

Prepare addOperationEx
Fix link error

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Update ACL (Cast float to qasymm8) (#1881)

This commit updates ACL (Cast float to qasymm8).

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Disable pureacl/new runtine build which depends on arm compute library (#1909)

On x64, disable pureacl/new runtine build which depends on arm compute library

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Change the scale value of unit test related to the convolution. (#1887)

This commit change the scale value of unit test related to the convolution.
- Change the scale value of output operand to 1.0f.
- Change the scale value of input and kernel operand to 0.02f.
- Change the scale value of bias to the value of multiplying input scale and kernel scale.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[newrt] Remove CPU prefix of ConvolutionLayer class (#1891)

This commit removes CPU prefix of ConvolutionLayer class

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

--env-file option for docker cross arm build (#1879)

* --env-file option for docker cross arm build

1. support --env-file option via $ENV_FILE
2. add env_file for pureacl, new_runtime build

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>
* Rename env files

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>
* remove empty line

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Modify wrong values in testcases (#1865)

This commit modifies wrong values in testcases.

Signed-off-by: SungJin Choi <lotieye.choi@samsung.com>

[newrt] Fix build failure in > gcc 5.6 (#1898)

This commit fixes build failure in > gcc 5.6.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Remove test build from newruntime build (#1903)

There is link error when building runtime_run_android_nn_test with new runtime.
Before fixing all buld error by newruntime, disable runtime_run_android_nn_test.

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Update NeuralNetworks.h from android-p-prevew-4 (#1905)

Related Issue: #1904

Android-p-preview-3 announced that it will have fixed NNAPI v1.1.
However I would like to update NeuralNetworks.h from android-p-preview-4's.

Because

- it updated comments (style, description, ...).
- it fixed a mistake included in android-p-preview-3.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

link runtime_run_android_nn_test to nnapi_puer_arm_compute (#1901)

this commit adds link runtime_run_android_nn_test to nnapi_puer_arm_compute,
which is missing now.

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Fix link error when linking runtime_run_android_nn_test with pureacl (#1900)

Fix : #1899
1. add dummy APIs to fix link error

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Enable the kTfLiteUInt8 of the input operands in RandomTestRunner to be random value. (#1882)

This commit enables the kTfLiteUInt8 of the input operands in RandomTestRunner to be random value.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[newrt] Implement AvgPool kernel for CPU (#1880)

* [newrt] Implement AvgPool kernel for CPU

This commit implements AvgPool kernel for CPU in new runtime.

Signed-off-by:sjsujinkim sjsujin.kim@samsung.com

* Relocate to_string to support/nnapi

Introduce EnvVar class (#1884)

* Introduce EnvVar class

EnvVar reads environment variables from system and can return the
value as string, bool or int.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>
* Move EnvVar.h to nnfw/include/util

Move the file and add namespace

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Define android nn test skiplist for pure arm compute runtime (#1854)

* Define android nn test skiplist for pure arm compute runtime

1. backup the existing skiplist for legacy runtime
2. define new skiplist for pure arm compute runtime

related issue: #1851

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>
* rename backup file

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>
* add new line

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Add unit test for operations that support ANEURALNETWORKS_TENSOR_QUANT8_ASYMM (#1857)

This commit adds unit tests for operations that support ANEURALNETWORKS_TENSOR_QUANT8_ASYMM.

Operation list of added unit test
  - ANEURALNETWORKS_TENSOR_ADD
  - ANEURALNETWORKS_AVERAGE_POOL_2D
  - ANEURALNETWORKS_CAST_EX (QUANT8_ASYMM to FLOAT32)
  - ANEURALNETWORKS_CONCATENATION
  - ANEURALNETWORKS_CONV_2D
  - ANEURALNETWORKS_DEPTHWISE_CONV_2D
  - ANEURALNETWORKS_FULLY_CONNECTED
  - ANEURALNETWORKS_MAX_POOL_2D
  - ANEURALNETWORKS_MUL
  - ANEURALNETWORKS_RELU
  - ANEURALNETWORKS_RELU6
  - ANEURALNETWORKS_RESHAPE
  - ANEURALNETWORKS_SOFTMAX

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Add buildscript for new runtime (#1875)

This script is used on CI to build new runtime

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Apply OperatorParser to model_parser.py (#1871)

Apply OperatorParser to model_parser.py. Now model_parser.py
uses OperatorParser.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

[newrt] Use ACL backend for all operations (#1874)

Currently we cannot run with heterogeneous backends, set all backends as
ACL. Later, we are going to control it with environment variables.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Apply format checker to new runtime (#1872)

This commit applies format checker to new runtime

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

[CMake] Extract building runtime test as a param (#1870)

Before `add_subdirectory(tests)` was called twice if we run both two
runtimes which causes cmake error.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Create frameworktest list file for new runtime (#1869)

convolution1 and convolution2 model added

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Introduce OperatorParser for model_parser (#1858)

* Introduce OperatorParser for model_parser

- To remove `TFLiteModelFileParser`'s dependencies for tflite.operator,
    tflite.tensor, introduce new class `OperatorParser`.
- `OperatorParser` class handles `Operator` class and `Tensor` class.
- Not yet changed model_parser.py. To test this, it needs another commit
for new operator counter and changes on model_parser.py

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>
* Rename __ to _wrapping

Introduce OperationCount and PerfPredictor (#1859)

* Introduce OperationCount and PerfPredictor

- For #1836
- OperationCount class has count units and these will be calculated for
total cycle by PerfPredictor
- PerfPredictor class will calculate total cycles with OperationCount.
By setting each cycle's value, performance prediction will be
calculated.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>
* Add more description for how to calc in detail

Add nnapi_unittest for ReLU1 (#1864)

relu1_1 is for 2 ranks input model.

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

Disable logistic/l2pool2d on framework test (#1856)

On pure arm compute runtime, logistic/l2pool2d fail on framework test.
This commit makes CI to run seamless when pureacl runtime runs as default runtime.

Related issue : #1851

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Definitions for supporting Tanh in pureacl runtime (#1846)

Define namespace, node, param for Tanh

Signed-off-by: seok <sk.namkoong@samsung.com>

Support other types for TfLiteInterpMatchApp (#1842)

This commit supports other types for TfLiteInterpMatchApp.
- Change TfLiteInterpMatchApp::compareSingleTensorView() to the template method.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Add Kernel ACL test case for ReLU6 (#1766)

Add tests for both NEON and CL kernel were added
Support tests for 2d-tensors and 4d-tensors
To compare a performance btw BOUNDED_RELU and LU_BOUNDED_RELU,
add two kinds of ReLU6 implementation
  - BOUNDED_RELU : Upper Bounded Rectifier (f(x) = min(a, max(0,x))
  - LU_BOUNDED_RELU : Lower and Upper Bounded Rectifier (f(x) = min(a, max(b,x))

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

[new_runtime] Support CPU backend (#1847)

Conv2D Operation is only supported yet.
Implement #1607 into the current runtime structure.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Support other types for RandomGenerator (#1831)

This commit supports other types(int32_t, uint8_t) for RandomGenerator.
- Add quantization info to RandomGenerator.
- Change class RandomGenerator to not be the template class.
- Change operator method to template method(generate<>()).

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Add ops_counter for operator types in Inceptionv3 (#1824)

Add ops_counter for operator types in Inceptionv3.
- Pooling, Softmax, FullyConnected.
- LogSoftmax: this is added but not used.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

Add inline keyword to `iterate()` (#1848)

To avoid multiple definition error

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[new_runtime] Initial structure change (#1843)

Change runtime structure to support multiple backends

- Introduce `Backend` which contains IInitializerGenerator and
  IStageGenerator
- Introduce `BackendResolver` so we can choose which backend for each
  operation
- Introduce `IObject` so it can access any kind of tensors from different
  backends
- Move arm_compute-specific implementation to arm_compute directory
- Keep Concat layer for later elimination since it is hard to know at
  first if we have heterogeneous backends

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Add a float variable of nearest to 1 (#1837)

This commit adds a float variable of nearest to 1.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Change install dir of new runtime (#1844)

1. install new runtime into lib/new_runtime

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Recover the sequence of LD_LIBRARY_PATH (#1838)

The sequence of LD_LIBRARY_PATH should be remained as it was.

Recover the sequence of LD_LIBRARY_PATH

Signed-off-by: seok <sk.namkoong@samsung.com>

tflite_benchmark: use get_env_bool instead of getenv (#1812)

* tflite_benchmark: use get_env_bool instead of getenv

Replace std::getenv by nnfw::util::get_env_bool for USE_NNAPI

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>
* Update tflite_benchmark.cc

tflite_benchmark: get env refactor (#1801)

* tflite_benchmark: get env refactor

using nnfw::util::get_env_int instead of custom get_env call

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>
* add const spec

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>
* fix compare signed/unsigned issue

tflite_benchmark: use get_env_int for THREAD (#1840)

Replace std::getenv by nnfw::util::get_env_int for THREAD

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

Consider different rank between left and right operands for broadcasting (#1786)

This commit resolve different rank between left and right operands for broadcasting

Signed-off-by: SungJin Choi <lotieye.choi@samsung.com>

fix get_env_bool for "true"/"false" values (#1811)

* fix get_env_bool for "true"/"false" values

exception in case non int string passed

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>
* remove unused code

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

Modify Framework test script (#1829)

Setting of NNFW_LD_LIBRARY_PATH is done many times
Even though LD_LIBRARY_PATH is given, script search NNFW_LD_LIBRARY_PATH first.

Put the codes of setting NNFW_LD_LIBRARY_PATH outside of iteration block
Change the sequence of LD_LIBRARY_PATH and NNFW_LD_LIBRARY_PATH

Separate make_default_quantization function. (#1823)

This commit seperate make_default_quantization to avoid error of redefinition.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Move ops_counters code to op_counter.py (#1813)

* Move ops_counters code to op_counter.py

Move ops_counters code to op_counter.py

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>
* Add code to prevent no key sitatuion

* Add operator types for inceptionv3

Update NeuralNetworks.h: NN API 1.1 (#1815)

* Update NeuralNetworks.h: NN API 1.1

Update NeuralNetworks.h to released NN API 1.1
https://android.googlesource.com/platform/frameworks/ml/+/android-p-preview-3/nn/runtime/include/NeuralNetworks.h

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>
* Remove andorid api version check

Remove andorid api version check

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>
* Remove base version check

Remove base android version check

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Do not install nnapi_unittest testcases (#1817)

These testcases are not an official test tools
So do not install nnapi_unittest testcases to unitteset directory.

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

Updates for cross build using docker (#1807)

Modify some sentences
Add method about cross build using docker with ACL build
Remove method for cross build using docker without ACL build
(We don't use method without ACL build anymore)

env: add default value parameter to get_env (#1800)

* env: add default value parameter to get_env

defaultValue parameter can be used if named parametr is missing

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>
* move default value to decaration

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

Remove dependency with internal header for custom op (#1804)

Remove dependency with internal header to support custom operation

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Adds counter for operations of convolution operator (#1803)

* Adds counter for operations of convolution operator

Adds counter for operations of convolution operator
- Ref:
https://github.com/apaszke/torch-opCounter/blob/e610cebf12c7ba36f5ee1c6b327129478202b32e/src/profiler.lua#L75

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>
* Apply format.patch

Add nnapi_unittest for ReLU6 (2D-tensor) (#1794)

relu6_1 is for 2 ranks input model.

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

Update acl patch (gather operation) (#1769)

This commit updates acl patch.
-https://github.sec.samsung.net/RS7-RuntimeNTools/ComputeLibrary/pull/26
-related with #1746

Signed-off-by: SungJin Choi <lotieye.choi@samsung.com>

Add an unit test for TANH op (#1774)

This commit adds an unit test for TANH op.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Use GLOB in nn runtime's CMakeLists.txt (#1798)

Use GLOB for listing all sources becasue ...

- Currently we compile all *.cpp sources.
- By using GLOB, we don't need to modify CMakeLists.txt.
- Our other runtimes (pure_arm_compute, new_runtime) already use this feature.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Support ReLU1 operation (#1795)

Define ReLU1 namespace, node, param in pure acl runtime
Set parameter for ReLU1 in pure acl runtime

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

Add runtime information in libneuralnetworks.so (#1793)

Related Issue: #1792

You can get the name of runtime from `libneuralnetworks.so` by command:
```
$ strings Product/out/lib/libneuralnetworks.so         | grep "library info"
library information : runtime=nn

$ strings Product/out/lib/pureacl/libneuralnetworks.so | grep "library info"
library information : runtime=pure_arm_compute
```

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Support ReLU6 operation (#1770)

Define ReLU6 namespace, node, param in pure acl runtime
Set parameter for ReLU6 in pure acl runtime

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

tflite_benchmark: Fix segfault on model loading. (#1782)

* tflite_benchmark: Fix segfault on model loading.

add BuildFromFile return result checking

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>
* cout to cerr

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

Add tflite_benchmark console params checking (#1781)

* Add tflite_benchmark console params checking

add params count checking
add help

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>
* add ostream as param

Signed-off-by: Vitaliy Cherepanov <v.cherepanov@samsung.com>

Add testcases for SUB broadcasting (#1789)

This commit adds testcases for SUB broadcasting
-left > right (rank): test5
-left < right (rank): test6

Signed-off-by: SungJin Choi <lotieye.choi@samsung.com>

Print operator types and its count for model (#1790)

Print operator types and its count for model

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

Change model_parser.py to print tensors of each input/output (#1785)

* Change model_parser.py to print tensors of each input/output

Change model_parser.py to print tensors of each input/output. This
commit makes users easily see input/output tensors.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>
* fix format to pass format-checker

tools/nnapi_unittest runs as GTest (#1757)

Changes each test to GTest.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

Fix daily_arm_coverage build break (#1779)

Fix daily_arm_coverage build break : issue #1776

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Add nnapi_unittest for ReLU (#1761)

relu_1 is for 2 ranks input model.
relu_2 is for 3 ranks input model.
relu_3 is for 4 ranks input model.

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

Extend broadcasting for ADD operation (#1765)

* Extend broadcating for ADD operation

This commit extends broadcating for ADD operation.
-Only if input are initialized, it supports various broadcasting.
-For example, in case left = {N=1,H=3,W=2,C=4}
    these cases(right={4} or right={244} or right=3,2,4}) are supported.
-Previously, only right={1} is supported.

Signed-off-by: SungJin Choi <lotieye.choi@samsung.com>
* Remove unused blank and rename variables

This commit removes unused blank and rename variables.

Signed-off-by: SungJin Choi <lotieye.choi@samsung.com>
* Remove addShapeForBroadcast and revise addShapeConstr

This commit removes addShapeForBroadcast and revises addShapeConstr.

Signed-off-by: SungJin Choi <lotieye.choi@samsung.com>
* Change it->second.rank() to 4 (constant)

This commit changes it->second.rank() to 4
-because it always 4.
-Broadcasting tensor shape is needed only for 4D input.

Signed-off-by: SungJin Choi <lotieye.choi@samsung.com>
* Revise an incorrect comment

This commit modifies an incorrect comment.

Signed-off-by: SungJin Choi <lotieye.choi@samsung.com>
* Update and modify wrong format

This commit updates wrong format.

Signed-off-by: SungJin Choi lotieye.choi@samsung.com
Signed-off-by: SungJin Choi <lotieye.choi@samsung.com>
* Delete duplicate addShapeConstr statement

This commit deletes duplicate addShapeConstr statement.

Signed-off-by: SungJin Choi <lotieye.choi@samsung.com>

 Introduce broadcasting testcase for ADD operation (#1768)

* Introduce broadcasting cast for ADD operation

This commit itroduces more broadcasting cast for ADD operation.
-to test #1765

Signed-off-by: SungJin Choi <lotieye.choi@samsung.com>
* add a line at the end

This commit adds a line at the end.

Signed-off-by: SungJin Choi <lotieye.choi@samsung.com>

Add Kernel ACL test case for ReLU (#1763)

Add tests for both NEON and CL kernel were added
Support tests for 2d-tensors and 4d-tensors

KernelACL_TC.reluFloat32_2d
KernelACL_TC.reluFloat32_4d
KernelACL_TC.neon_reluFloat32_2d
KernelACL_TC.neon_reluFloat32_4d

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

 Set parameter for ReLU in pure acl runtime  (#1759)

* Set parameter for ReLU in pure acl runtime

Set parameter for ReLU in pure acl runtime compilation step

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>
* Remove irrelevant code

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

Implement DEQUANTIZE operation of NNAPI in pureacl. (#1740)

This commit implements DEQUANTIZE operation in pureacl.
- Enable DEQUANTIZE operator on nnapi_delegate of tflite.
- Implement DEQUANTIZE operation in pureacl

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Support general brodcasting on ADD (#1733)

* Support general brodcasting on ADD

This commit supports general brodcasting on ADD.

Signed-off-by: SungJin Choi <lotieye.choi@samsung.com>
* Modify comparison between shape

This commit modifies comparison between shape.

Signed-off-by: SungJin Choi <lotieye.choi@samsung.com>

Define ReLU namespace in pure acl runtime (#1737)

Define ReLU namespace, node, param in pure acl runtime

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

DIV TFLITE file Generator for testing (#1742)

This file generates the following tflite files for DIV.
These are used for #1741.

```
$ ls -1 models/div/*.tflite

models/div/div_1d_1d.tflite
models/div/div_1d_scalarConst.tflite
models/div/div_2d_1d.tflite
models/div/div_2d_2d.tflite
models/div/div_2d_scalarConst.tflite
models/div/div_3d_1d.tflite
models/div/div_3d_2d.tflite
models/div/div_3d_3d.tflite
models/div/div_3d_scalarConst.tflite
models/div/div_4d_1d.tflite
models/div/div_4d_2d.tflite
models/div/div_4d_3d.tflite
models/div/div_4d_4d.tflite
models/div/div_4d_scalarConst.tflite
models/div/div_scalarConst_scalarConst.tflite
```

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

Support QASYMM8 type to initializer of CONV2D op and FC op (#1710)

This commit supports QASYMM8 type to initializer of CONV2D op and FC op.
- Add initKernelTensor() function.
- Support QASYMM8 type to initializer of CONV2D op and FC op.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[tool] PB info printer (#1749)

This tool prints information of operations inside a PB file.
Currently this information will  be used to calculate overhead of Conv in ADAS model.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

Add a unit test for dequantize op. (#1735)

This commit adds a unit test for dequantize op.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[Emergency] Fix build break (#1756)

Fix build break in compilation.cc

- build.append()
- scala -> scalar

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Add testcases for ADD operation (#1734)

This commit adds test cases for ADD operation to check various broadcasting cases.

Signed-off-by: SungJin Choi <lotieye.choi@samsung.com>

Scale for Softmax (#1728)

Parent issue: #1675
This commit enables scale (beta) for `Softmax` operation.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

Introduce ReLU1 to pure acl runtime (#1715)

This commit adds ReLU1 to pure acl runtime.
-min(max(x, -1), 1);

Signed-off-by: SungJin Choi <lotieye.choi@samsung.com>

Add activiation to avgpool and maxpool (#1718)

This commit adds activiation to avgpool and maxpool in pure acl runtime.

Signed-off-by: SungJin Choi <lotieye.choi@samsung.com>

Move functions related to make TensorInfo to Cast.h (#1705)

* Move functions related to make TensorInfo to Cast.h

This commit moves functions related to make TEnsorInfo from compilation.cc to Cast.h

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>
* Add quantization information to an asTensorInfo() for operand::Shape

This commit adds quantization information to an asTensorInfo() for operand::Shape.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Update ACL submodule (#1751)

Update ACL submodule: Fix error on MV8890

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Fix CMakeLists for android build (#1750)

Install JNI so file to lib/
Link log for debug

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Add testcases for sub operation (#1730)

This commit adds test cases for sub operation to check various broadcasting cases.

Signed-off-by: SungJin Choi <lotieye.choi@samsung.com>

Generator - TFLITE file, Tensorflow model file (#1690)

This commit enhances `tools/tensorflow_model_freezer`.
Now a lot of ranks can be used as operands and files for them are generated on the fly.

Running a sample file, 'Mul_gen.py' will creates the following files:
- __TFLITE__ files
- Tensorflow __model__ file
- __Tensorboard__ files
- __frozen__ Tensorflow model file

Please read `reamd.me` for details.

```
$ ls ~/model/mul/ -a
.                           mul_2d_1d.pb                mul_3d_1d.pb
..                          mul_2d_1d.pbtxt             mul_3d_1d.pbtxt
checkoiint                  mul_2d_1d.tflite            mul_3d_1d.tflite
mul_1d_1d_frozen.pb         mul_2d_2d_frozen.pb         mul_3d_3d_frozen.pb
mul_1d_1d_frozen.pbtxt      mul_2d_2d_frozen.pbtxt      mul_3d_3d_frozen.pbtxt
mul_1d_1d.pb                mul_2d_2d.pb                mul_3d_3d.pb
mul_1d_1d.pbtxt             mul_2d_2d.pbtxt             mul_3d_3d.pbtxt
mul_1d_1d.tflite            mul_2d_2d.tflite            mul_3d_3d.tflite
mul_1d_scalar_frozen.pb     mul_2d_scalar_frozen.pb     mul_scalar_scalar_frozen.pb
mul_1d_scalar_frozen.pbtxt  mul_2d_scalar_frozen.pbtxt  mul_scalar_scalar_frozen.pbtxt
mul_1d_scalar.pb            mul_2d_scalar.pb            mul_scalar_scalar.pb
mul_1d_scalar.pbtxt         mul_2d_scalar.pbtxt         mul_scalar_scalar.pbtxt
mul_1d_scalar.tflite        mul_2d_scalar.tflite        mul_scalar_scalar.tflite
mul_2d_1d_frozen.pb         mul_3d_1d_frozen.pb         .tensorboard
mul_2d_1d_frozen.pbtxt      mul_3d_1d_frozen.pbtxt
```

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

FloatVar to handle float input of NNAPI_UNITTEST (#1720)

This commit adds FloatVar. This is needed to handle float input of NNAPI_UNITTEST for beta value of ```SOFTMAX```. (#1675)

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

Modify asTensorShape to support general brodcasting on SUB (#1729)

This commit modifies asTensorShape to support general brodcasting on SUB

Signed-off-by: SungJin Choi <lotieye.choi@samsung.com>

Add README.md file of test_driver.sh (#1719)

* Add README.md file of test_driver.sh

Add the contents of how the `test_driver.sh` works.

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>
* Update contents for test_driver

Add description for `nnapi_test` and TC directory to clarify

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

Update acl submodule patch (f52df29a919ee59c4c734d3a9bd3ed6c8c0182c2) (#1731)

This commit updates acl submodule patch (f52df29a919ee59c4c734d3a9bd3ed6c8c0182c2)
- https://github.sec.samsung.net/RS7-RuntimeNTools/ComputeLibrary/pull/27

Signed-off-by: SungJin Choi <lotieye.choi@samsung.com>

Fix typo asScala to asScalar (#1724)

I would like to fix it because same typos spread to several places.
(Perhaps for avoiding compilation error)

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Naming change: pure -> tfl_interp (#1725)

Current naming ```pure``` is confusing since we have ```pure_arm_compute```.
Since this is actually tensorflow lite interpreter, ```pure``` was renamed to ```tfl_interp```.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[Pure ACL] MUL supports more operand ranks (#1687)

`MUL(A, B)` tested with the more shapes of operands.
- 1D, 2D, 3D combination
- A == 1D, 2D, 3D, B == scalar (or vice versa)

The following has issue so far (will be fixed as a separate PR):
- scalar output

Update submodule patch of ACL (#1709)

This commit updates submodule patch of ACL
- update c88554c (introduce gather 1D input)

Signed-off-by: SungJin Choi <lotieye.choi@samsung.com>

Install nnapi_unittest_xxx files to out/unittest directory (#1723)

These files have not been run through the `test_driver.sh`.

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>