Introduce integrated CL kernel cache feature

This patch introduces integrated CL kernel cache feature for
NN runtimes such as ARMNN or other in-house versions.

Originally, this feature came from utils/Utils.cpp and utils/Utils.h
files but was used just for the testing.

Caching CL kernel binaries is madatorily required for real product
becasue inference performance at first run is one of very important
factors. This patch exposes two API - save_program_cache_to_file
and resotre_program_cache_from_file so that NN runtimes can use
these API to cache the compiled CL kernel binaries.

In addition, it adds a new map object, _new_built_programs_map,
to manage only newly compiled CL kernel binaries.
With this patch, already compiled kernel binaries will be restored
from existing map object, _built_programs_map, and newly compiled
kernel binaries will be added to _new_built_programs_map, and then
saved to a given file. However, it can bring more latency when loading
the CL kernel bineries from a given file in case that many binary pieces
- cl caches - are stacked on the file so separeate them different files,
which depends on NN runtime policy.

Changelog v1.
- Reordered including headers suggested by Manuel Bottini.
- Updated description.
Changelog v2.
- Drop function descriptions.
Changelog v3.
- FIx build error with openlcl = 0. As for this, it moves two functions,
  save_program_cache_to_file and restore_program_cache_from_file,
  to src/runtime/CL/Utils.cpp and arm_compute/runtime/CL/Utils.h,
  and set ARM_COMPUTE_CL flag only when opencl = 1.
  This change makes CL kernel cache feature to depend on OpenCL support.

Change-Id: I8c640fb1809ca79191daf5b1ff72a50dd492c36d
Signed-off-by: Inki Dae <inki.dae@samsung.com>

packaging: add Tizen platform support

This patch adds toolchain support for Tizen.

Change-Id: Ieb72a2995592aa13bb7fe6621b3db4ecf2b10931
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Revert "Fix toolchain name for Tizen build"

This reverts commit 9ca781ab10eb319280f4c6873cb58241075d9725.

Change-Id: Ifcbf4179517cc5613f01def8df85d35b815abebd
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Fix version

Change-Id: I14aa4ffe18ed5ae7e59ebe46d78a7ec6bce98ca6
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Dist: updated install files

Updated the files to installed based on opencl or neon support

Change-Id: Ic76c61107591c7c7e8afb98a71408c5325baa0c4
Signed-off-by: Parichay Kapoor <pk.kapoor@samsung.com>

Dist/Tizen: remove libarmcl-release

There is no one using that obsoleted names.
To avoid "have choice for" problem, remove it.

Change-Id: Id253bd42b5f6a331fdfcd022cdb9ec4691cec923
Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

Dist/Tizen: spec file clean-up

1. Do not use "release" postfix for the main library package.
2. Do not use -n if you are going to have the main name as prefix.
3. Cleaned up and added missing internal dependencies

Change-Id: Ic9adef91725b2f73a19b0a5d89ac8480643859da
Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

Fix dependency error

Libarmcl's main package is libarmcl-release, not libarmcl.

Change-Id: I960f7c17121320e82efe72a0c991aac3afac5905
Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

Fix packaging error

This fixes:

=== the following packages failed to build due to missing build dependencies (1) ===
nnstreamer:
  have choice for libarm_compute.so()(64bit) needed by nnfw-devel: libarmcl-devel libarmcl-release
  have choice for libarm_compute_core.so()(64bit) needed by nnfw-devel: libarmcl-devel libarmcl-release
  have choice for libarm_compute.so()(64bit) needed by nnfw: libarmcl-devel libarmcl-release
  have choice for libarm_compute_core.so()(64bit) needed by nnfw: libarmcl-devel libarmcl-release

by
- Make files exclusively installed between subpackages (release and devel)
- Add dependency between relead and devel.

Change-Id: I1b738124c9d62c663e99316eba68cbcda7cd033f
Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

Fix toolchain name for Tizen build

Change-Id: If46310352247976566f36ac026e08465e0b8135b
Signed-off-by: Inki Dae <inki.dae@samsung.com>

packaging: add gbs build support for Tizen

Change-Id: I961315e7bb17e071deae469fc26b3a151eb1b0e4
Signed-off-by: Inki Dae <inki.dae@samsung.com>

arm_compute v19.11.1

arm_compute v19.11

arm_compute v19.08

arm_compute v19.05

Update README.md

arm_compute v19.02

Change-Id: I853a3ecf38f206da13c1b03640c8adf73c20477c

Update README.md

Fix README Link

arm_compute v18.11

arm_compute v18.08

Fix build (#454)

* Fix C++11 syntax. It fixes build with GCC.

* Be Python 3.x compatible by replacing print "XXX" by print("XXX")

arm_compute v18.05

bugfix: CLDeconvolutionLayer::validate fails if bias==NULL (#439)

Added link to ArmNN

Change-Id: I3738be62d60d046067c4f347c0e1dd2dd0bd1dab

Correct the use of OpenMP private (#400)

Fix race condition on info.thread_id in OpenMP scheduler (#399)

Additionally refactor improper use of OpenMP's worksharing
construct (for).

Bugfix: fixing trivial typo in enum value definition for A53. (#394)

arm_compute v18.03

Change-Id: I8f9a2a9d32a6cab019b8504d313216f28671f9f5

arm_compute v18.02

Change-Id: I7207aa488e5470f235f39b6c188b4678dc38d1a6

Bugfix for NumPyBinLoader with SubTensor output. (#345)

* Bugfix for NumPyBinLoader with SubTensor output.

When a SubTensor is used as output from a NumPyBinLoader, data should
not be written to the begining of the buffer.

Change-Id: I6ed4b24710ac09b41ca92c7e21f24d44a3ed2881

* Reduce the buffer size with the same amount

Change-Id: Id260f58209ce2fbee877f7d6f4afbe95c6c74036

* SubTensor's has to be accessed through execution windows

Bugfix: must zero all values in all slices (#343)

fix warning hit with Android clang version 5.0.300080 (#348)

arm_compute v18.01

Change-Id: I9bfa178c2e38bfd5fc812e62aab6760d87748e05

Merge pull request #325 from lukeiwanski/feature/no_exceptions

ARM_COMPUTE_NO_EXCEPTIONS macro guard

arm_compute v17.12

Update AlexNet example with accessors

Merge pull request #244 from forresti/fix-comment

fix comment

Merge pull request #258 from giorgio-arena/patch-1

Update 00_introduction.dox

Update 00_introduction.dox

fix comment

typo
kernerl's --> kernel's

arm_compute v17.10

Change-Id: If1489af40eccd0219ede8946577afbf04db31b29

arm_compute v17.09

Change-Id: I4bf8f4e6e5f84ce0d5b6f5ba570d276879f42a81

Merge pull request #195 from DensityCo/master

Fix Yocto cross-compiles

Fix Yocto cross-compiles

Yocto defines it's compilers in the environment complete with some arch flags.
For example:

```
CC="arm-poky-linux-gnueabi-gcc \
  -march=armv7-a \
  -mfloat-abi=hard \
  -mfpu=neon \
  -mtune=cortex-a9 \
  --sysroot=/home/ubuntu/device/build/tmp/sysroots/pico-imx6"
```

The SConstruct file would fail to find the compiler because it was calling
python's subprocess.check_output which expects the first argument of the list
to be _only_ the name of the executable.

This patch allows the SConstruct script to check the version of the compiler
even with funny environment variables. Instead of appending to the compiler
string and passing `shell=True` to subprocess, split `env['CXX']` into an array
and append `-dumpversion` to that array. Python warns against the use of
`shell=True` in subprocess calls.

Added data folder (For the tests)

Restored accidentally deleted LICENSE file

Added reference to Caffe on Compute Library project

arm_compute v17.06

Merge pull request #114 from andrew-wja/master

Add a build flag to control whether or not the example programs get built

Add a build parameter controlling whether or not to build the example programs, default to off

arm_compute v17.05

Updated README with links to the v17.04 binaries and documentation

arm_compute v17.04

Merge pull request #14 from sundw2014/master

fix a bug of checking dimensions in NEGEMMTranspose1xWKernel.cpp

Merge pull request #11 from ppwwyyxx/patch-1

Include <cerrno>

Merge pull request #22 from jlovejoy/patch-1

add license info to README

add license info to README

adding explicit statement as to inbound and outbound license to readme

fix a bug of checking dimensions in NEGEMMTranspose1xWKernel.cpp

Include <cerrno>

When compiling on Linux host to armv7a target following to the tutorial, got error of "errno undeclared". Include this header fixed this problem.

Added link to the binary builds in the README

arm_compute v17.03.1

Initial commit