Build runtime only for SVACE (#888)

Build runtime only for SVACE report

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Remove execute mode from source files in NN runtime (#876)

- Remove execute mode from source files in NN runtime

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>

Remove dead code in Activation.cpp (#862)

- Remove dead code in Activation.cpp
- This was reported as UNCHECKED_FUNC_RES.STAT from SVACE

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>

Add rootfs for ARM64 (#877)

* Add rootfs for ARM64

Prepares nnfw to support cross/ARM64 build

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

Remove double semicolon in Memory code (#881)

This commit removes double semicolon in Memory code.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Close 'dupfd' if returned unexpected null (#861)

This commit closes 'dupfd' if returned unexpected null.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Make option: runtime build only (#864)

Introduce new make option: runtime build only
Can build runtime only by "make runtime"

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Disable depthwiseConvQuant8 in NN runtime (#866)

- Disable depthwiseConvQuant8 in NN runtime
- We disable this because
  - we don't have test set for this yet
  - and we want to exclude unused code from code coverage test.

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>

Update pthread to `${LIB_PTHREAD}` (#868)

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

script to download model files (#858)

Usage : ./run_test.sh --download=on

Fix incorrect md5sum for inceptionv3_module (#854)

[Build] Support Android build for nnapi_test (#869)

Support Android build for nnapi_test and its dependencies.
Need to add a document how to create rootfs.

Fix #515

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Fix typo of a condition (#873)

`&` here is supposed to be `&&`.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Fix memory leak in Conv2D.cpp (#865)

- Fix memory leak in Conv2D.cpp
- These were reported as MEMORY_LEAK.EX in SVACE (Issue #849, #850)

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>

Remove unnecessary return statement (#846)

- Remove unnecessary return statement which make below code unreachable.

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>

Remove tools and depend directory from coverage (#856)

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Fix c++ and python coding format in tools (#843)

Fix c++ and python format based on decided coding rule

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

upload concatenation files to the mooo server (#836)

Signed-off-by: SungJin Choi <lotieye.choi@samsung.com>

Docker build for svace analyzer (#844)

Add script for docker build with svace analyzer

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Fix test error on tizen (#847)

dirname does not accept multiple arguments.
To run test on tizen, dirname is executed as a part of find command.

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Framework tests for RELU and RELU6 operations (#830)

* Framework tests for RELU and RELU6 operations

This commit enables the framework tests for RELU and RELU6 activation functions

* Update config.sh

Add reshape op to NNFWKernel to test performance (#835)

Signed-off-by: SungJin Choi <lotieye.choi@samsung.com>

Remove external/protobuf and tools/tf_model_tools (#826)

For #553

This patch removes external/protobuf and tools/tf_model_tools.

tools/tf_model_tools has been copied to
https://github.sec.samsung.net/RS7-RuntimeNTools/nnas_tools

Signed-off-by: Sangmin Seo <sangmin7.seo@samsung.com>

TFLite model tool: PEP8 Format (#821)

Fix python code format based on PEP8

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Remove local repo from gbs build (#817)

1. remove local repo
2. add --include-all option to gbs build command for local test

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Check C++ files: .cc extension (#822)

Add .cc extension to check C++ coding rule

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Introduce 'libs' directory (#820)

This commit introduces 'libs' directory which will hold various
libraries used for runtime implementation.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fix build break for benchmark on ci (#819)

Print json with quot. Exactly its spec is not well descriptive. This
solution is workaround.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

Update document of docker image (#790)

- Update document of docker image
- The latest version of docker image is nnfw_docker:1.4

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>

[Build] Fix hardcoded value from Makefile (#786)

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Print benchmark's result to json (#811)

* Print benchmark's result to json

Print benchmark's result to json for visualizing on jenkins. The json
file's content fit to specification of benchmark(one of jenkins plugin).

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

Unify NEON and OpenCL versions of Reshape unit test (#813)

- extract common features to `src/Reshape.test.h`
- implement different parts into `neon/Reshape.test.cpp` and
  `cl/Reshape.test.cpp`

Signed-off-by: Junghyun Kim <jh0822.kim@samsung.com>

Add coverage report script for CI (#801)

This script is used on CI to generate lcov coverage info.

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Check nullptr of the buffer in setInput (#807)

* Check nullptr of the buffer in setInput

This commit checks nullptr of the buffer in setInput to fix #806.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>
* Separate nullptr checks in setInput

Enabling RELU and RELU6 (#787)

Enable relu and relu6 operations in cpuexecutor

Enable depthconv and reshape tests in config (#788)

Enable the depthwiseconv and reshape in test config files for the operations to be tested in test_run

Separate ACL build type output folder (#803)

This will use ACL build option `build_dir` to separate build type (debug,release) to have its own folder

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Clean up Utils in common (#799)

This commit cleans up Utils in common.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Build tests only when googletest is built (#802)

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Unify NEON and OpenCL implementation of reshape layer (#800)

NEON and OpenCL implementations of reshape layer are very similar.
This commit
- extracts common features to `src/Reshape.h`
- implement different parts into `neon/Reshape.cpp` and `cl/Reshape.cpp`.

Signed-off-by: Junghyun Kim <jh0822.kim@samsung.com>

[NNOP] Unify NEON and OpenCL implementaion and tests (#798)

This commit unifies NEON and OpenCL implementation and tests.
- common statements are extracted to `acl/src/FullyConnected.h` and
  `acl/src/FullyConnected.test.h`
- Different parts are described in `cl` and `neon` directories.

Signed-off-by: Junghyun Kim <jh0822.kim@samsung.com>

Separate acl build and install step (#785)

This will separate acl library build and install step in Makefile
- this is needed for only want to copy libraries after make clean
- there is no change for 'make acl'

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Change realpath to readlink -f on test driver (#784)

Instead of realpath, use readlink -f because there
is no realpath on taos.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

Introduce NEUniqueTensor (#779)

NEUniqueTensor is a tensor wrapper for arm_compute::Tensor.
This is similar to CLUniqueTensor.

Signed-off-by: Junghyun Kim <jh0822.kim@samsung.com>

Remove wget verbose in tizen cross build (#782)

Remove wget verbose in tizen cross build script

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Enable Depthwiseconv2D of CpuExecutor (#617)

Add the DEPTHWISECONV2D operation file and enable the operation with float support.

Fix test driver not to print message on benchmark (#770)

Fix test driver not to print message such as ones from wget on benchmark
mode.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

[Build] Add arch `arm64` in Makefile (#775)

Add archicture `arm64`.
For arm64, android is the only OS supported for now.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Enable acl/neon backend (#776)

This will add acl/neon kernel implementations to kernel lookup tables

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

TFLite Model tool: Use argparse library (#772)

Use argparse library to define and parse argument

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

TFLIte model parser: More tensor information (#732)

* TFLIte model parser: More tensor information

Print tensor debugging name
Print shape as scalar if data rank is 0

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>
* Update README.md

Update README.md to print tensor name

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

TFLite run: Define more custom operator (#777)

Define more custom operator using updated model
Print only.

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Clean include section of ExecutionBuilder (#778)

This commit cleans include section of ExecutionBuilder.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Update TestValidation.cpp to android master branch for runtime (#742)

* Update TestValidation.cpp to android master branch for runtime

This commit updates TestValidation.cpp to anroid master branch(5596ca500) for runtime.
Related : #611

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>
* Change master test to TestValidation2.cpp

Use const for readonly shape (#773)

This will add const reference to method that return value is used read only
- this will prevent memory copy

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Introduce 'make_alloc' helper (#769)

This commit introduces 'make_alloc' helper which makes it easy to use
malloc on a specific type, and revises random test implementations using
this new helper.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[CMake] Do not force TARGET_OS to be HOST_OS (#771)

Currently TARGET_OS was always forced to be HOST_OS.
It have not been an issue since all OS we handle was linux, so far.
For the future, we should TARGET_OS is set to HOST_OS only if it is not given.

Register concat to nnfw kernel table (#767)

This will add concatenationFloat32 on ACL to kernel lookup table

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Fix wrong report dir on test_driver.sh (#754)

When test_driver.sh run unittest, the report dir was changed by the
path where test_driver.sh run. This commit fixes the report dir.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

Add format check package to docker image (#764)

Add clang-format-3.9, pip, and yapf for format checker

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Add svace to gitignore (#766)

This will add SVACE data folder .svace-dir to .gitignore

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[CMake] Extract pthread as a variable (#760)

Instead of just writing `pthread`, use `${LIB_PTHREAD}`.
This is for the future, so Android config will override it to an empty value.
Since BIONIC libc library contains pthread library so it will emit an error if
`-lpthread` is passed to linker.

Update tflite file API (#711)

Update tflite file API generated by flatc
Using update schema file in tensorflow 1.7

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

resolve #757 (#765)

Signed-off-by: SungJin Choi <lotieye.choi@samsung.com>

Add lcov-to-cobertura conversion tool (#755)

* Add lcov-to-cobertura conversion tool

This script converts lcov result to covertura format.
This script will be used on CI side for publishing line coverage result.

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>
* Add original source link

Show max absolute/relative diff (#761)

This commit revises NNAPI test framework to show max absolute/relative
diff information at the end.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Stringfy COVERAGE_BUILD (#762)

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Add a unit test of FC-FC (#759)

This commit adds a unit test of an FC layer followed by another FC
layer.

Signed-off-by: Junghyun Kim <jh0822.kim@samsung.com>

Add test coverage build (#744)

* Add test coverage build

1. add flags for test coverage build
2. add script to enable on CI

* Add OPTION init

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Add lcov to docker image (#752)

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Fix wrong running benchmark test (#753)

Fixes wrong benchmark test. According to introducing run_test.sh's
options, it needs to add options properly.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

Change input/weights/bias/output shape of FC according to NNAPI spec (#750)

This commit changes input/weights/bias/output shape
to follow the NNAPI specification.

Signed-off-by: Junghyun Kim <jh0822.kim@samsung.com>

Revise code of printing summary of framework test on test_driver.sh (#748)

Revises code of printing summary of framework test on test_driver.sh by
applying options from run_test.sh.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

Add summary of verification on test driver (#749)

Enables test driver to print summary(tap) of the result on verification

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

Initial code of Concatenation on ACL (#746)

This will add initial implementation of Concatenation on ACL CL and NEON

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Print summary of benchmark on test_driver.sh (#739)

Enables test_driver.sh to print summary of benchmark. The printed
summary has only 'mean' result of benchmark.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

Change assertion of MatrixWeightAccessor to accept 1D and 2D (#747)

This commit change assertion condition to accept both 1D and 2D tensors
for MatrixWeightAccessor similar to MatrixOutputAccessor.

Signed-off-by: Junghyun Kim <jh0822.kim@samsung.com>

Coding rule check script (#730)

Check coding rule for c++ code and python code
Use clang-format to check c++ coding rule, and use yapf to use python coding  rule based on PEP8

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Clang format file for cpp coding rule (#712)

Define C++ coding rule

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[NNOP] Introduce MatrixOutputAccessor (#741)

This commit introduces MatrixOutputAccessor to process 2D output tensors.

Signed-off-by: Junghyun Kim <jh0822.kim@samsung.com>

Register ACL operators to NN runtime (#721)

This will add ACL operators to NN runtime "acl" items so that we can use them
- Operation itself is not verified yet, we need to test and fix if problems exist

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Rename and relocate logging for runtime (#713)

This commit renames and relocates logging for runtime (remove android dep.)

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Fix unusual assertion in CONV2D Op. (#707)

This commit fixes unusual assertion in CONV2D Op likes #430.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Implement Usage of test_driver.sh (#727)

Fills Usage function which prints help messages for options.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

Fix softmax with ACL (#733)

* Fix softmax with ACL

This will fix softmaxFloat32 implementation to use rank 2 input
- this change is to run Inception V3 model
- as ACL shrinks rank as high order size is 1, input/output actually be a vector

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* add test for rank 4

* apply for non-support ranks

* return false for release build

Remove original ExecutionCallback inheritance (#728)

This commit removes original ExecutionCallback inheritance.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Remove remaining ExecutionPlan codes in ExecutionBuilder (#723)

This commit removes remaining ExecutionPlan codes in ExecutionBuilder.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Add NYI message instead of assertion in CpuExecutor (#706)

This commit adds NYI message instead of assertion which causes CI failure in CpuExecutor.

Signed-off-by: sjsujinkim <sjsujin.kim@samsung.com>

Add options for run_test.sh (#715)

* Add options for run_test.sh

Adds handling options for run_test.sh

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>
* Implement Usage of run_tests.sh

* Fix wrong description of --driverbin

Show total number of unittest set (#710)

- Show total number of unittest set

Signed-off-by: Hyung-Kyu Choi <hk0110.choi@samsung.com>

Add how-to-contribute document (#718)

* Add how-to-contribute document

For issue #694

This commit adds the how-to-contribute document.

The document is based on
https://github.sec.samsung.net/STAR/nncc/blob/master/doc/contribution_guide.md.

Signed-off-by: Sangmin Seo <sangmin7.seo@samsung.com>
* Add a link to roadmap

* Add a note to mention the origin of this document

add pooling test cases which are similar to inception v3 slim (#735)

Signed-off-by: SungJin Choi <lotieye.choi@samsung.com>

[Pure ACL Runtime] Support Fully Connected (#731)

This commit partially implements ANEURALNETWORKS_FULLY_CONNECTED operation
in pure ACL Runtime to allow pure ACL runtime to execute inceptoin v3
non-slim model.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Build fix on nnfw_support_nnapi by adding -fPIC (#714)

This is required to enable test coverage build.
During building with `-fprofile-arcs -ftest-coverage`, build fails as
follows:
libnnfw_support_nnapi.a(Utils.o): relocation R_ARM_THM_MOVW_ABS_NC against `a local symbol' can not be used when making a shared object; recompile with -fPIC

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

[NNAPI Random Test] Add 'fully_connected_1' test (#720)

This commit introduces 'fully_connected_1' test which allows us to test
the implementation of ANEURALNETWORKS_FULLY_CONNECTED operation with
random data.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[Pure ACL Runtime] Support Softmax (#726)

This commit implements 'softmax' operation support in Pure ACL Runtime.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

contrib: add the top-level CMakeLists and example (#722)

For issue #680

This commit adds an example for the contrib directory as well as the
top-level CMakeLists.txt.

The files were copied from STAR/nncc/contrib and modified.

Signed-off-by: Sangmin Seo <sangmin7.seo@samsung.com>

Print result of framework test on test_driver.sh (#708)

Prints framework_test.tap which is the result of framework test by
run_tests.sh.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

[NNOP] Introduce VectorInputAccessor (#717)

this commit introduces VectorInputAccessor to get input for FC-FC.

Signed-off-by: Junghyun Kim <jh0822.kim@samsung.com>

Add benchmark test to test_driver.sh (#648)

* Add benchmark test to test_driver.sh

Enables running tflite_benchmark in test_driver.sh. To do
tflite_benchmark, test_driver.sh needs --benchmark option.

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>
* Fix export statement and echo messages