Apply insertFusedActivationLayer() to other CL layers. (#1082)

This commit applies insertFusedActivationLayer() to CL layers
(Conv2D and Pooling).

Signed-off-by: Junghyun Kim <jh0822.kim@samsung.com>

Change the git url for tensorflow submodule (#1070)

For issue #1069

This patch changes the git url and branch for the tensorflow submodule
as Tizen's.

Signed-off-by: Sangmin Seo <sangmin7.seo@samsung.com>

[BUGFIX] Do not insert activation layer for ANEURALNETWORKS_FUSED_NONE (#1080)

If the activation layer is ANEURALNETWORKS_FUSED_NONE,
just return the function instead of break to avoid
inserting an unconfigured activation layer.

Signed-off-by: Junghyun Kim <jh0822.kim@samsung.com>

Remove server information (#1075)

Remove server information from script

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Use on-device AI instead of embedded AI (#1076)

For issue #939

This patch changes the term, embedded AI, used in the background section
of the requirement specification document as on-device AI for
consistency.

Signed-off-by: Sangmin Seo <sangmin7.seo@samsung.com>

Apply CLUniqueTensor to Pooling and Softmax (#1051)

This commit applies CLUniqueTensor instead of directly using ACL's Tensor.

Signed-off-by: Junghyun Kim <jh0822.kim@samsung.com>

Apply NEUniqueTensor (#1054)

This commit applies NEUniqueTensor to Conv2D, Pooling, and Softmax
instead of directly using ACL's Tensor.

Signed-off-by: Junghyun Kim <jh0822.kim@samsung.com>

Add xu4 tizen test script (#1038)

* Add xu4 tizen test script

For example, if you'd like to build & test for tizen xu4, do as
follows:
1. cross build and test
`$ ./run docker_build_tizen_cross.sh ; ./run tizen_xu4_test.sh --test-suite-path=Product/out/test-suite.tar.gz --unittest --verification`
2. gbs build and test
`$ ./run docker_gbs_build.sh ; ./run tizen_xu4_test.sh --rpm-dir=Product/out/rpm --verification --unittest`

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Add 3-clause BSD license in LICENSE (#1048)

SOLVe complains 3-clause BSD license should be specified.
It will make SOLVe happy.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Use `BSD-3-Clause` for tizen build spec (#1061)

Related issue: #1059
All license identified in protex should be specified in tizen build spec.
Furthemore, SOLVe is happy with `BSD-3-Clause`, not `3-clause BSD License`.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

enable coverage-suite on gbs build (#1058)

1. coverage-suite on gbs build
2. docker_gbs_build.sh accepts gbs define option

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Ignore changes externals/acl (#1047)

This commit adds `ignore = dirty` to ignore untracked or
modified files in `external/acl`

Signed-off-by: Junghyun Kim <jh0822.kim@samsung.com>

fix gbs build error & add return status (#1055)

1. Fix #1053
2. Add return status on docker_gbs_build.sh

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Enable depthwiseConvQuant8 (#1037)

- enable depthwiseConvQuant8, because we enabled tests
  for DEPTHWISE_CONV_2D with TENSOR_QUANT8_ASYMM.

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>

Fix softmax of ACL op for matrix input (#1020)

This will fix ACL softmax op that has matrix input
- this adds MatrixInputAccessor class to handle matrix input

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tflite_run] Change code format of argument addition (#1041)

One option per one line with clang-format on/off

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Introduce insertFusedActivationLayer() (#1005)

This commit introduces insertFusedActivationLayer().
This function generates activation layer of ACL according to the
activation type spcified by NNAPI.

Signed-off-by: Junghyun Kim <jh0822.kim@samsung.com>

Add MPL2, Apache-2.0, and BSD in tizen build spec (#1046)

SOLVe system complained that we don't specified the licenses
that are identified by Protex. This PR added those licenses,
and removed MIT license since we don't use MIT.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Integrate tflite_run argument parsing (#1030)

Currently the command line argument of `tflite_run` is parsed by
`boost::program_options` and directly from `argv`. This has introduced a
few problems. So this commit integrates argument parsing with introducing
positional options so we don't have to access `argv[1]` directly for `.tflite`
file.

Fix #1001

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Add benchmark-acl test to test_driver.sh (#1026)

Enables test_driver.sh to run benchmark-acl tests such as
benchmark_googlenet. This benchmark-acl test will be run on daily
benchmark ci. To run the tests, the benchmark-acl test binaries should be
already built.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

removed since these files are under LGPL license (#1029)

Amd.h and SinplicialCholesky_impl.h in Eigen directory are under LGPL license.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

Revise benchmark test in test script (#1013)

To prepare benchmark-acl test in test script, revises benchmark
test code in test driver and script for making json.

Fix googletest build for native (#1009)

This will remove CMAKE_TOOLCHAIN_FILE option for googltest native build

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Fix SVACE build script (#1010)

Fix SVACE build script to verify test package build

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Change ifdef guard to changed namespace rule (#1008)

This commit changes ifdef guard to changed namespace rule.

close : #1006

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Add command line argument `dump` to tflite_run (#1011)

* Add command line argument `dump` to tflite_run

Argument `dump` specifies the file name of output tensors are stored.
If not given, outputs are not dumped.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Exclude frameworktest from test_driver's default tests (#998)

Now defult tests by test_driver run verification and unittest excluding
for frameworktest.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

Introduce OutputTensorDumper (#991)

This class writes output tensors to generate golden data

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Build test only (#997)

Modify Makefile on root directory to build test only by "make testbuild"
Can build tensoflow lite only using "make tflite"

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

nnfw-test dir contains bin/lib directory (#1004)

Now, nnfw-test.rpm contains subdirectories(tests, tools, and Product) which is the same structure as
test-suite.tar.gz file

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

List up how-to documents in a separate document (#1003)

For #926

This commit puts together how-to documents in docs/howto and lists them up
in docs/howto.md.

Signed-off-by: Sangmin Seo <sangmin7.seo@samsung.com>

Add missing header definition macro in shape.h (#1002)

This commit adds missing header definition macro
(#ifndef - #define - #endif) in shape.h

Signed-off-by: Junghyun Kim <jh0822.kim@samsung.com>

Add license sources in contrib/kerneltesting (#971)

Related issue: #840

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Add license to sources in contrib/convacl/* (#970)

Related issue: #840

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Add license to sources in contrib/bindacl/* (#969)

Related issue: #840

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Update README.md (#1000)

For issue #926

This commit updates README.md to better describe the project and
repository information.

Signed-off-by: Sangmin Seo <sangmin7.seo@samsung.com>

Implement RELU6 with a test case of RELU6 (#995)

This commit introduces RELU6 implementation as a fused activation
function with its test case.
The parameter sizes of the test case are from the first depthwise conv2d
layer of MobileNet.

Signed-off-by: Junghyun Kim <jh0822.kim@samsung.com>

Move NeuralNetworksWrapper.h to tests/include (#990)

Related issue: #978

NeuralNetworksWrapper.h (C++ wrapper for NeuralNetworks.h) is used only
in runtime unit tests under runtime/tests/*. It is not official API that
there is no documentation on it. So I move it to tests/include.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Add acl env options to test_driver.sh (#996)

Enables test_driver to handle setting acl environments by
--acl_envon option.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

Change namespace from android::nn to nnfw::rt (#987)

* This commit changes namespace from android::nn to nnft::rt.

Related : #663
Close : #716

Signed-off-by: sjsujinkim sjsujin.kim@samsung.com

Change variable convention of Make and CMake (#993)

- HOST_OS   : Where we are compile (Linux)
- TARGET_OS : Where nnfw executable runs (Linux or Tizen or Android)

Fix #874

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

BringUpTests should not depends on Android NN Tests condition (#977)

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Enable to use ACL DepthwiseConv2D via NNAPI (#985)

This sets nnfw_kernel_* table for NN runtime to use ACL DepthwiseConv2D.

Signed-off-by: Junghyun Kim <jh0822.kim@samsung.com>

Remove android_nn from contrib. (#992)

This commit removes android_nn from contrib.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Use multicore when building ACL (#983)

This commit enables parallelizing build of ACL using scons -j.

Signed-off-by: Junghyun Kim <jh0822.kim@samsung.com>

Rename BringUpTest and NeuralNetworkTest in snake style (#989)

Related Issue: #831

Most directory names are in snake style.
For consistency, I rename them.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Prepend license to tools/* (#965)

Related issue: #840

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[BUGFIX] typo on translating the shape of weights (#984)

fixed typo. inputShapeACL -> weightsShapeACL

Signed-off-by: Junghyun Kim <jh0822.kim@samsung.com>

Introduce xxx_driverbin in test_driver.sh (#976)

Now, we can pass proper driver binary depending on test
type(framework/verification/benchmark).

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Add license to source in contrib/example (#975)

Related issue: #840

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Archiving nnfw rpms during gbs build (#964)

* Archiving nnfw rpms during gbs build

This is a prerequisite to enable test on tizen

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>
* update as commented

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>
* remove last slash

Add build command for benchmark/acl (#974)

Now `BENCHMARK_ACL_BUILD=1 make build` runs building benchmark/acl.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

Introduce NEON DepthwiseConv2D (#973)

This commit introduces DepthwiseConv2D implementation for NEON.

Signed-off-by: Junghyun Kim <jh0822.kim@samsung.com>

Introduce a test code of multi-channel DepthwiseConv2D (#972)

This commit introduces a test code of multi-channel DepthwiseConv2D.

Signed-off-by: Junghyun Kim <jh0822.kim@samsung.com>

Add tools and tests dir into nnfw-test.rpm (#966)

nnfw-test rpm contains tools and tests folder to support test on tizen target.

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Introduce DepthwiseConv2D to support MobileNet (#967)

This commit introduces DepthwiseConv2D layer to support Mobilenet
with a simple test case.

Signed-off-by: Junghyun Kim <jh0822.kim@samsung.com>

Reflect dir changes to gen_coverage_report script (#962)

Now, coverage report's target includes libs, include, runtimes, and
tools folder.

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Cleanup ci and docker directory (#960)

- Cleanup ci and docker directory

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>

Fix typo in script (#961)

- Fix typo in script

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>

Fix typo in docker_gbs_build.sh (#959)

- Fix typo in docker_gbs_build.sh

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>

Update Tizen build scripts with new directory structure (#958)

- Update Tizen build scripts with new directory structure

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>

Update scripts in new location (#957)

- Update scripts in new location

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>

Rename src as runtimes (#956)

For issue #831 and #925

This patch renames `src` as `runtimes`.

Signed-off-by: Sangmin Seo <sangmin7.seo@samsung.com>

Update change_gitmodule.sh and using it (#954)

- Update change_gitmodule.sh with new directory structure
- Update follow scripts using change_gitmodule.sh
    docker_build_ubuntu_svace.sh
    docker_cross_test_coverage_build.sh
    docker_run_test.sh

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>

Move `src/nn/runtime/sample` to `src/tests/BringUpTest` (#955)

* Move `src/nn/runtime/sample` to `src/tests/BringUpTest`

As discussed from #831, this commit changes directory structure.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>
* Fix the way of adding subdirectory

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Rename src/runtime/test as src/tests/NeuralNetworksTest (#953)

For issue #831 and #925

This commit renames src/runtime/test as src/tests/NeuralNetworksTest.

Signed-off-by: Sangmin Seo <sangmin7.seo@samsung.com>

Update scripts/command (#952)

Make following scrtips work well in new directory structure

- scripts/command/docker_build.sh
- scripts/command/docker_build_cross_arm_ubuntu.sh
- scripts/command/docker_build_cross_arm_ubuntu_without_aclbuild.sh

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>

Extract CMakeLists.txt for sample directory (#951)

This commit extracts test executable part from `src/nn/runtime/CMakeLists.txt`
into `src/nn/runtime/sample/CMakeLists.txt`.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Relocate NeuralNetworks.h to include (#950)

For issue #831 and #925

This commit moves NeuralNetworks.h to the top-level include directory.

Signed-off-by: Sangmin Seo <sangmin7.seo@samsung.com>

Relocate NN runtime from src/runtime/ref to src (#949)

* Relocate NN runtime from src/runtime/ref to src

- Relocate NN runtime from src/runtime/ref to src

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>

Make a copy of scripts and files in docker from scripts/command

- Make a copy of scripts and files in ./docker from ./scripts/command
- This files will be used with currrent CI and
  will be removed when CI is updated

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>

Move scripts in docker to scripts/command

- Move scripts in docker to scripts/command
- We have to leave copies in old location for CI which is not update yet

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>

Make a copy of scripts and files in ci from scripts/command

- Make a copy of scripts and files in ci from scripts/command
- This files will be used with currrent CI and
  will be removed when CI is updated

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>

Move all files in ./ci to ./scripts/command

- Move all files in ./ci to ./scripts/command
- We need to make a copy for backward compatibility with CI

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>

Move all Dockerfile from docker to scripts/docker

- Move all Dockerfile from docker to scripts/docker

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>

Move tools/nnapi_bindings/* to src/ (#947)

For #831

This commit moves tools/nnapi_bindings/* to src/.  The header `nnapi.h`
in tools/nnapi_bindings/include is also moved to the top-level include
directory.

Signed-off-by: Sangmin Seo <sangmin7.seo@samsung.com>

Move src/support to libs (#945)

Move src/support to libs/support

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Move NNOP kernels into libs (#944)

This commit moves NNOP kernel source code from `src/kernel` to
`libs/kernel`.

Signed-off-by: Junghyun Kim <jh0822.kim@samsung.com>

Move labs/* to contrib (#943)

For #831

This commit moves sub-directories in labs to contrib.

Signed-off-by: Sangmin Seo <sangmin7.seo@samsung.com>

Add the first draft of SW high level design (#921)

* Add the first draft of SW high level design

This commit adds the first draft of SW high level design.

Signed-off-by: Sangmin Seo <sangmin7.seo@samsung.com>

Fix wrong pair of ifdef comment in TestValidation.cpp (#934)

* Make ifdef comment correct in TestValidation.cpp

This commit makes ifdef comment correct int TestValidation.cpp

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>
* Change todo comment

* Fix typo se->we

Relocate badState helper to the top of ModelBuilder (#935)

As we've discussed in https://github.sec.samsung.net/STAR/nnfw/pull/809#discussion_r48662, once this helper was merged for easy to review, and then we've planed rearrange the order to easy to read in another PR.
This is why I make this PR.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Add the first draft of SW requirement specification (#920)

This commit adds the first draft of SW requirement specification.

Signed-off-by: Sangmin Seo <sangmin7.seo@samsung.com>

Change externals/acl as a submodule (#827)

This patch removes externals/acl and adds ACL again as a submodule.

For issue #554

Signed-off-by: Sangmin Seo sangmin7.seo@samsung.com

Resolve NN runtime unit test Assertion (#903)

Assertion generated in NN runtime unit test, need to check the need for assertion, disabling it as ToDo-NNRT

Add license to sources for tools, tests, include (#936)

Related issue: #840

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Add license to sources under libs and src/support (#933)

Related issue: #840

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Change TestValidation2.cpp to default NN Runtime test (#928)

This commit changes TestValidation2.cpp to default NN Runtime test.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Add test rpm for obs build (#914)

* Add test rpm for obs build

nnfw-test.rpm contains unittests and its install path
is /opt/usr/nnfw-test/

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Reduce indent level (#927)

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Enable rootfs using tools/cross/build-rootfs.sh (#929)

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Add ANEURALNETWORKS_BAD_DATA check in validateOperandType/setFromPointer (#916)

* add additional ANEURALNETWORKS_BAD_DATA check in validateOperandType/setFromPointer

This commit adds additional ANEURALNETWORKS_BAD_DATA check in below
- validateOperandType
- setFromPointer

These codes have copied from android NN master branch(af63a36)

Fix : #805

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>
* Add detailed comment to TODO comment

Add LICENSE in root directory (#913)

The purpose of LICENSE is to provide full text of license
that the corresponding source contains only partial and/or
link to full text.

It contains the following licenses:

- Apache License 2.0 (for ours)
- Mozilla Public License 2.0 (almost all of eigen)

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Fix and update docs tizen xu4 file (#918)

This will fix xu4_tizen.md file that had a wrong script file name
- also update to latest tizen image file name that now doesn't have version number like `4.0`

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Revert "Add assertion to check divide by zero (#892)" (#924)

This reverts commit 8abe4dba8ff6b5209561dc728b980fc7e8def816.

This was made for fixing the Coverity warning (#891) but it does not work.
We decide this warning to be a false alarm.

Revert "Disable memory bound check in MemoryTracker for 32bit arch" (#922)

This was made for fixing the UNREACHABLE_CODE detected by SVACE but it doesn't work.
We decide this warning to be a false alarm.

This reverts commit 3b01060eda993c1c9863237af561b04ed30c7dd0.
This reverts commit d22e4225050092a53b685f73cb0bcabc7c144a74.

Add doc for aarch64 build (#917)

* Add doc for aarch64 build

Add doc for aarch64 build. This is copied from doc for arm.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

Add NNFW_KERNELS_ env on benchmark test (#912)

Adds NNFW_KERNELS env such as convFloat32, averagePoolFloat32 on
benchmark test. The envs are written on nnfw_kernel_env_list.txt.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

Add additional ANEURALNETWORKS_BAD_DATA check into updateDimensionInfo (#910)

This commit adds additional ANEURALNETWORKS_BAD_DATA check into updateDimensionInfo.
These codes have copied from android NN master branch(af63a36)

Fix : #805

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Can pass SVACE binary path (#900)

Can pass SVACE binary path using environment variable

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>