Remove unused functions and includes in ModelBuilder (#512)

This commit removes unused functions and includes in ModelBuilder.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Introduce nnfw::util::tensor::Object (#505)

This commit introduces nnfw::util::tensor::Object, which makes it easy
to generate a random tensor object for testing.

This commit also simplifies nnapi_test and nnapi_unintest_conv_1
implementations using this new helper class.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[Pure ACL NN Runtime] Add Execution Placeholder (#526)

This commit partially implements functions related with ANeuralNetworksExecution
struct.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Introduce nnfw_kernels (#517)

- Introduce nnfw_kernels to choose kernel for various target at runtime
- Apply nnfw_kernels to convFloat32 used at OperationType::CONV_2D
  - Introduce environment variable NNFW_KERNEL_convFloat32 to select target of convFloat32
  - Tested with convolution_test2.tflite

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>

[NNAPI Unittest] Add softmax (#471)

This commit adds softmax NNAPI unittest. It is related with #374.

Signed-off-by: SungJin Choi <lotieye.choi@samsung.com>

Implement convolution kernel with ACL (#521)

This will implement convolution kernel with ACL in the simplest way.

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Early version of freezer ( Tensorflow model (code level) to frozen model ) (#419)

This commit introduces a tool to convert Tensorflow model (in code level) to frozen model file.
This could be used in future to generate many frozen model files for test cases.
The following samples to generate frozen model are included.

- relu(wx+b)
- softmax(wx+b)

Enable tizen cross/obs build (#482)

1. setup tizen cross/obs build
2. add tizen cross build script

Build assumes that libarmcl-devel, gtest-devel and tensorflow-lite are installed
on tizen's rootfs. Since libarmcl and tensorflow-lite is not present
on public tizen repo, please use private local repo like
`http://10.113.61.134/repo/` for obs build. For cross build, rootfs is
uploaded on `http://npuarchive.mooo.com/archive/nnfw/rootfs/rootfs_arm_tizen.tar.gz`.

[NNAPI Unittest] Use random kernel/bias for conv_1 (#524)

* [NNAPI Unittest] Use random kernel/bias for conv_1

This commit revises 'nnapi_unittest_conv_1' to use random kernel and
bias values for testing.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[Pure ACL NN Runtime] Implement Compilation (#522)

This commit partially implements ANeuralNetworksCompilation_create with
partially defined ANeuralNetworksCompilation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Use common test driver for NN API tests (#514)

This commit extracts test driver implemented in 'nnapi_test' as utility,
and uses it to revises 'nnapi_unittest_conv_1'.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[Pure ACL NN Runtime] Support casting operations over Shape (#519)

This commit introduces various casting operations over operand::Shape
class in pure ACL NN runtime.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Resolve TODO-NNRT (#518)

- Resolve TODO-NNRT
  - Remove including <limit> header file

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>

Handle reshape and depthwise convolution in operator selector (#476)

Operator selector (select_operator.py) can handle new two operators

- Reshape
- Depthwise convolution

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Clean declaration section in ModelBuilder.h (#511)

This commit cleans declaration section in ModelBuilder.h

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Revert remaining commented LOG codes to original (#506)

This commit reverts remaining commented LOG codes to original.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Enable static_assert in NeuralNetwors.cpp (#508)

This commit enables static_assert in NeuralNetwors.cpp
The assertions of 'OEM Operations' are commented out in current scope now.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Clean up cmake files in directory depends (#507)

This commit clean up cmake files in directory depends.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

typo fix: NNFw_OWNER_GID -> NNFW_ (#513)

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

fix a typo in nnapi_test (#510)

This commit fixes a typo in nnapi_test.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[Pure ACL NN Runtime] Partailly implement addOperation (#501)

This commit implements ANeuralNetworksModel_addOperation partially for
Conv2D operation with implicit paddings.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[NNAPI Test] Support dynamic tolerance (#509)

This commit allows 'nnapi_test' to dynamically adjust its tolerance level.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Rename libtensorflow_lite.a to -lite.a (#504)

Makefile on tensorflow-lite repo uses -lite.a
To enable obs build, need to follow orignal naming.

Extract Tensor IndexFormatter as utility (#489)

This commit extracts TensorIndexFormatter (implemented in NNAPI test) as
utility.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

HowTo documentation for docker image of nnfw (#427)

* HowTo documentation for docker image of nnfw

- Add HowToUseDockerImage.md

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>
* Add private registery configuration for different docker daemon

- Add private registery configuration for different docker daemon

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>
* Apply review feedbacks

- Apply review feedbacks

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>

Introduce nnfw kernel Initialize (#502)

This will introduce initialize function for nnfw acl kernels

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Labs convolution with acl runtime (#500)

This will update labs convolution test using acl runtime layer

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Introduce tensor::NonIncreasingStride (#499)

This commit extracts stride-related code from TensorView in nnfw::support::tflite
as NonIncreasingStride utility class (in nnfw::util::tensor).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Docs tizen on xu4 (#498)

* Docs tizen on xu4

This will add how-to document about tizen on xu4 from wiki page

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Introduce NNFW_GTEST_LIBS for test programs (#497)

This will introduce NNFW_GTEST_LIBS variables having gtest libraries for test programs

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[Pure ACL NN Runtime] Implement setOperand functions (#490)

This commit implements setOperandValue and  setOperandValueFromMemory
functions for pure ACL NN Runtime.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Introduce an image generator (#426)

This commit introduces an image generator:

- How to execute:
`$ ./imagegen.py`
Two output images are generated: `image.bin` and `image.ppm`.

- Changing the size of the output image
Change variable `image_size` at the beginning of `imagegen.py`.

- Changing output image format
If you want to output another image format, you can use as below:
`im.save("image.jpg")`

Signed-off-by: Junghyun Kim <jh0822.kim@samsung.com>

Introduce nnfw::util::tensor::Zipper (#495)

This commit introduces Zipper class and related helper methods.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[NNAPI Test] Initialize IFM with float values (#494)

This commit revises 'nnapi_test' to initialize IFM with float values.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fix CI build fail due to permission(for pipiline job) (#469)

On pipeline job, workspace clean is not a default option. Thus we have
to clean up WS manually on pipeline. Without this patch, cleanup is
not allowed due to permission error. It is based on c93d050642e196b0d667a9dee34117aa330f5fbc.

  1. fix permission error on CI
  2. supress wget output with `-nv`

Remove the dependency on hal and hidl from IServiceManager (#444)

This commit removes the dependency on hal and hidl from IServiceManager.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Add kernels implementation placeholder (#448)

* Add kernels implementation placeholder

This will add empty kernels placeholder source and initial cmakefiles and empty test source

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Work around the github permission issue

This patch is to work around the access permission issue on github using
submodule.

Signed-off-by: Sangmin Seo <sangmin7.seo@samsung.com>

Add tensorflow module

For issue #332

This patch adds https://github.sec.samsung.net/RS7-STAR/Tensorflow/tree/nnfw
as a submodule.

Signed-off-by: Sangmin Seo <sangmin7.seo@samsung.com>

Remove externals/tensorflow

For issue #332

As the first step to use git submodule for TensorFlow, this commit first
removes externals/tensorflow.

Signed-off-by: Sangmin Seo <sangmin7.seo@samsung.com>

Remove unused eq operator over TfLiteTensor (#483)

equality operator over TfLiteTensor is no longer used.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Print out max relative difference (#473)

* Print out max non-zero observed relative difference

- Print out max non-zero observed relative difference
  for both MATCHED and UNMATCHED

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>
* Apply review feedbacks

- Apply review feedbacks

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>

Introduce equality over tensor::Shape (#488)

This commit introduces == operator over tensor::Shape, and use it to
check shape equality over two tensors under comparision.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Introduce nnfw::support::tflite::interp::Builder (#487)

This commit introduces 'nnfw::support::tflite::interp::Builder' as a
common interface for NNAPI test & unittests.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnfw_support_tflite] Introduce TensorUtils.h (#486)

* [nnfw_support_tflite] Introduce TensorUtils.h

This commit introduces TensorUtils.h in nnfw_support_tfilte library.
This header provides various helper functions over TfLiteTensor objects.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Remove irrelevant change

[Pure ACL Runtime] Implement ANeuralNetworkModel (#477)

This commit partially implements ANeuralNetworkModel in Pure ACL Runtime
to record opearnd types.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Unify graphdef and graphdump (#453)

This commit unifies graphdef and graphdump projects into tf_model_tools
(to make it easy to understand what they are).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[NNAPI Unittests] Add 'env' unittest (#442)

This commit adds a 'env' unittest in NNAPI unittests module.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fill feature object with random numbers (#472)

This commit renames nnfw::util::feature::RandomObject as nnfw::util::feature::Object,
and revises it to initialize its content with user-defined number generator.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add running unittest in test_driver.sh (#484)

Runs unittest binaries in Product/out/unittest when test_driver.sh is
executed.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

Extract operator== over vector as utility (#481)

This commit extracts operator== (implemented in nnapi_test) into
'util/vector.h' (for future reuse).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add googletest deps to android_nn_test (#479)

This fix issue #475

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Add gnueabi arm-cross toolchain (#474)

gnueabi cross toolchain is needed to support tizen cross build

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Reduce indent level in tflite_run (#464)

Reduce indent level in tflite_run

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Add framework tests for mobilenet (#478)

Add framework tests for mobilenet
These tests will not be run as default

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Bug fix in run_test.sh for skip test (#480)

Fix bug skip all test after some test skipped

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Add run_tests.sh in test_driver.sh (#462)

run_tests.sh with tflite_run as driver is going to be executed in
test_driver.sh.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

Support skip test in run_test.sh (#466)

Support skip test in run_test.sh
Can skip by setting STATUS="disabled" in config.sh

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Remove verbose in run_test.sh (#461)

Remove verbose in run_test.sh to reduce CI record

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Add tools/test_driver on build_test_suite in Makefile (#458)

Adds tools/test_driver on build_test_suite in Makefile. test_driver.sh
is going to be included in the test-suite.tar.gz.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

Introduce nnfw::support::tflite::TensorView (#456)

This commit introduces 'nnfw::support::tflite::TensorView' which allows
users to easily access elements in TensorFlow Lite Tensor object.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add test_driver.sh for verification (#439)

* Add test_driver.sh for verification

This commits add test_driver.sh to Product/out/bin for verification.
Additional tests would be appended in this script soon.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

Add more test scripts for TF Lite models (#422)

Related issues #84 and #402

This patch adds test scripts for TF Lite models created in #402.

Signed-off-by: Sangmin Seo <sangmin7.seo@samsung.com>

Support Enable/Disable VLOG (#451)

Introduce environment variable VLOG for Enable/Disable VLOG outputs.
`VLOG` is disabled by default.

Example usage

```
VLOG=1 ./tests/framework/run_test.sh # Enable VLOG
```

Introduce 'nnfw_support_tflite' lib (#452)

This commit introduces 'nnfw_support_tflite' lib which provides various
helpes for accessing TensorFlow Lite internals.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[Pure ACL NN Runtime] Implement ANeuralNetworksMemory (#424)

This commit implements ANeuralNetworksMemory in experimental pure ACL NN
runtime.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Introduce IndexIterator (for feature) (#428)

This commit introduces IndexIterator class and relevent helpers in
nnfw::util::feature namespace to make it easy to iterate over feature
elements.

This commit includes updates on NNAPI Conv1 Unittest to demonstrate how
to use these helpers.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Print shape info in model parser tool (#449)

* Print shape info in model parser tool

Print shape info in model parser tool to get tensor size

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>
* Update README.md

Update README.md to show shape info

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Support update in TfLiteFeatureView (#425)

This commit introduces a (in-place) update method into TfLiteFeatureView
class.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Introduce 'nnfw::util::fp32' namespace (#445)

This commit introduces 'nnfw::util::fp32' namespace which includes
various helps for handling floating-pointer numbers.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Introduce 'nnfw::util::tensor' namespace (#440)

This commit introduces 'nnfw::util::tensor' namespace which will include
various helpers for tensor (ND-array) object.

Currently, 'nnfw::util::tensor' namespace includes the following
classes and funtiont:
 - class Index
 - class Shape
 - class IndexIterator
 - method iterate

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Bring android NN runtime tests (#438)

This PR introduces TestMain.cpp, TestTrivialModel and TestValidation
from Android NN tests.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Enable ModelBuilder::sortIntoRunOrder() (#435)

This commit enables ModelBuilder::sortIntoRunOrder() which is missed in implementation.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Comment out the unnecessary assertion in CONV2D Op. (#430)

This commit comments out the unnecessary assertion in CONV2D Op.

Related #403

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Introduce 'nnfw::util::vector' namespace (#421)

This commit introduces 'nnfw::util::vector' namespace which includes
various helpers for vector objects.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fix wrong return value (#436)

This commit fixes wrong return value.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Remove the dependency on hal and hidl from interfaces related to the memory. (#399)

This commit removes the dependency on hal and hidl from interfaces related to the memory.

- IMemory@1.0
- IAllocator@1.0

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Change tools/nnapi_test to install (#429)

This commits enables tools/nnapi_test moved to Product/out/bin on
installed.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

Add md5hash check for test files (#418)

To verify cached files are good

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Introduce 'nnfw::util::kernel' namespace (#414)

This commit introduces 'nnfw::util::kernel' namespace which holds
various helpers for handling convolution kernels.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnapi_test] Show details on test failure (#407)

This commit allows users to check details on test failure via
environment variable (VERBOSE).

Note that this feature is turned off by default.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[NNAPI unittest] Show configurations before run (#417)

This commit revises 'nnapi_unittest_conv_1' to show configurations
before run (to make it easy to analyze issues).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Introduce TfLiteFeatureView (#412)

This commit implements TfLiteFeatureView in NN API Unittest (conv_1).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[NNAPI Unittest] Fix environment variable setup (#411)

This commit fix IntVar class to set an internal variable correctly from
environments.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fix bug in run_test.sh (#415)

Fix bug when finding test directory

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Add ActivationLayer to kernel test lab (#409)

This will add ActivationLayer with Relu to convolution kernel test lab

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[nnapi_test] Fix float equality condition (#408)

0.0f is not equal to 0.0f in the current equality condition.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Remove the dependency on hal and hidl from interfaces of neuralnetworks (#397)

This commit removes the dependency on hal and hidl from interfaces of neuralnetworks.

- version 1.0 : IDevice, IPreparedModel, IExecutionCallcak, IPreparedModelCallback and types
- version 1.1 : IDevice and types

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Enable remaining helpers in OperationsUtils (#396)

- Enable remaining helpers using activation type in OperationsUtils

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>

Enable googletest for unittesting (#398)

0. Support arm-cross, x64-native, arm-native, and tizen-obs build
1. Introduce googletest at top level
2. Add simple test tflite_test.cc : this should be removed
3. Add howto doc

Setup NN API without NN Runtime project (#390)

This commit adds a room for NN API implementation without NN Runtime
(for experiments).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add git to docker image for nnfw (#405)

- Add git package to docker image for nnfw

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>

Add USE_LOGNN option for make check (#400)

Enables having choice for LD_LIBRARY. The default LD_LIBRARY is out/lib
while obj/tools/nnapi_bindings/bindings/logging on USE_LOGNN=1. This is
supported for debugging.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

Use docker image of nnfw repo in CI (#401)

- Use docker image of nnfw repo in CI, i.e. nnfw_docker

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>

Introduce nnfw::util::feature namespace (#393)

* Introduce nnfw::util::feature namespace

This commit introduces nnfw::util::feature namespace which will contain
various helpers for 3D tensor object.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix a typo(utils -> util)

* Implement feature::Shape's consturctor in its header

Introduce nnfw::util::env::IntAccessor (#392)

This commit introduces nnfw::util::env::IntAccessor which makes it easy
to access environmets (for configuration).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Introduce util::benchmark (#391)

This commit extracts benchmark-related helpers (implemented inside
tflite_benchmark) as a shared library.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Use float-compare on NN API testing (#389)

* Use float-compare on NN API testing

This commit revises nnapi_test to use float-compare on NN API
implementation testing.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Use std::isnan instead of isnan

Introduce nnapi_template (#388)

This commit introduces nnapi_template which provides a dummy NN API
implementation in order to make it easy to introduce an experimental NN
API implementation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Support STRIDE configuration (#386)

This commit revises nnapi_unittest_conv1 to support STRIDE
configuration.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>