fix coverity issue

[Version] : 0.0.2
[Issue type] bug fix

CID : 1656258

Fixed a coverity issue, Dead default in switch.
For invalid format type, it will be handled by switch-case statement.
So drop unnecessary exception handling.

Change-Id: I6dee7f5e83682b4c05001317d3f3845980cfb728
Signed-off-by: Inki Dae <inki.dae@samsung.com>

disable tflite parser support

Change-Id: I0d9c2d7dfef04df0bc4f8e08c2de5a5306a4fc9f
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Fix typo

[Versin] 0.0.1-5
[Issue type] clean up

Change-Id: I61464f10539fd9cd671056f8afad3fdd268b0dc5
Signed-off-by: Hyunsoo Park <hance.park@samsung.com>

Excludes tuning level when READ mode is set

Change-Id: I33210956a9af5ef94614a582eda945dcab350724
Signed-off-by: Hyunsoo Park <hance.park@samsung.com>

Remove swap and clear codes in destructor

std::map destroyer will deallocates all the storage capacity so
we don't need to clear and swap memeber variables which have std::map type.

Change-Id: Ide07a16e6b723495428dbaab89884989dc0cb2f6
Signed-off-by: Tae-Young Chung <ty83.chung@samsung.com>

Change members of inference_engine_layer_property structure,
and change vector<inference_engine_tensor_buffer> to map<string, inference_engine_tensor_buffer>

This is based on
https://review.tizen.org/gerrit/#/c/platform/core/multimedia/inference-engine-interface/+/254892/
https://review.tizen.org/gerrit/#/c/platform/core/api/mediavision/+/254953/

Change-Id: Iba73fa67f586287f0efe90ac2750fab9c6927e45
Signed-off-by: Tae-Young Chung <ty83.chung@samsung.com>

Enable optimization feature

Enabled below two optimization features,
    - converting data type from fp32 to fp16.
    - using Winograd algorithm[1] for matrix multiplication optimization,
      which reduces matrix multiplication count.

[1] https://en.wikipedia.org/wiki/Coppersmith%E2%80%93Winograd_algorithm

Change-Id: I9d37bc8e1cbb196ce46a2725a15ff09240826aaa
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Add ARMNN logging level support

ARMNN runtime engine supports five step logging levels.
This patch allows user to change the logging level at build time.

Change-Id: I621158be707f21dbd357da24ee00e271b34692b8
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Convert specific tuning mode to the one for ARMNN

Change-Id: I2a0d2bcd3b6846971720b542c78823069a92484b
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Subject: Add CLTuner support

Added CLTuner support ARMNN engine.

The use of CLTuner is valid only in case of GpuAcc request.
There are two behaviors of CLTuner according to CLTuner configuration
like below,
    [cltuner->active is true]
        -> It means that ARMNN backend uses CLTuner API of ARMNN engine.
    [cltuner->active is false]
        -> It means that ARMNN backend skips the use of CLTuner API
           of ARMNN engine.
    [cltuner->update is true]
        -> It means that ARMNN backend requests a tuning file generation
           to ARMNN engine.
    [cltuner->update is false]
        -> It means that ARMNN backend requests a inference to ARMNN engine,
           and ARMNN will use a tuned file for the inference.

Change-Id: Id74aeab532d312f1db7b7f856667a53d07abb329
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Fix build warning

This patch fixes below build warning,
 warning: 'const void InferenceEngineImpl::ARMNNImpl::GraphDebugCallback(armnn::LayerGuid,
 unsigned int, armnn::ITensorHandle*)' defined but not used [-Wunused-function]

Change-Id: I736cb165ba29300b376ea834df379f78a595e9ce
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Add Graph debug mode support

Added Graph debug mode support, which adds debug layer to all layers
of a given model in runtime so that we can check the computation result
to each layer while in inference.

To invoke graph debug mode, set ARMNN_GRAPH_DEBUG flag to 1 in
spec file.

Change-Id: Ia9cd25728903784ef25fd09c637c34a5cd5a7de4
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Use a proper notation for runtime context

According to https://en.wikipedia.org/wiki/Hungarian_notation,
Changing prefix of mRuntime to sRuntime is better. By doing so,
we can identify that this member should be initialized or not.

Change-Id: I465afccd98727242c186d409bc1dd69e36da936a
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Make sure to clear mRuntime at destructor

Change-Id: I2dddcffe5bec11eb27462ed3ce9eb53f5c44e6cf
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Drop w option

Change-Id: I1b49728e7777ae018b0b6ea498968f2651f3b7b2
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Add Signed64 tensor data type support

Change-Id: Iae20f462062d155c3d7fc2891feb4fa989820a96
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Fix uninitialized variable issue

This fixes below coverity issues,
 CID : 1147548, 1147784

Change-Id: I16b15715b197aa6b70930fe02288f486868cfd99
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Consider two and more models inference support

This patch considers two and more models inference.

Mediavision has one backend engine context per a model.
However, ARMNN requires one runtime instance for all models.
So this patch makes it to use a same runtime instance
for two and more models.

Change-Id: Icc2a42fe20fefbc0b76806e7d107b5ad961bded0
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Add init code for member variable

Change-Id: I5906254f4327ce05933f4faf99aec2c96d6151d4
Signed-off-by: Hyunsoo Park <hance.park@samsung.com>

Fix initializer list coding rule

Change-Id: I40a673c88db39892135e76f5685e0dc333a53eb0
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Fix coding style based on Tizen SE C++ Coding Rule

Tizen SE C++ Coding Rule:
https://code.sec.samsung.net/confluence/pages/viewpage.action?pageId=160925159

Change-Id: Icbc6dc69923927758bf734bd0b348c2bfa5729f0
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Add SetPrivateData function

This function is needed for inference engine interface to pass
armnn specific data to this backend before loading a model file.

Change-Id: I162967bcf0bc7ddb6735a85c0381420183b4830b
Signed-off-by: Inki Dae <inki.dae@samsung.com>

packaging: build only on arm and aarch64

ARMNN is NN runtime library for ARM system so do not build
it on other architecture.

Change-Id: I5cc692abe635b331c7efae9f912b94ea47f2e035
Signed-off-by: Inki Dae <inki.dae@samsung.com>

fix build error on aarch64

In aarch64, size_t is 64bit data and so make sure to use correct
format specifier, and minor cleanup.

Change-Id: I30e3147aaba6e4a9cc1dc87f1fd540054a9a204f
Signed-off-by: Inki Dae <inki.dae@samsung.com>

change enumeration values to new ones

some enumeration values of inference-engine-interface have been
updated so change them.

Change-Id: Ia057060061027647873fde09911a0f17fb12e830
Signed-off-by: Inki Dae <inki.dae@samsung.com>

packaging: add armnn build requirement

Change-Id: I04c4116253ee5576eb96df4edf1bf98af943c0f6
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Drop GetInferenceResult function

Change-Id: Iaecaebe2eb1219a4903c06ff06dde3eb7e69e683
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Add more logs and fallback device

Change-Id: Ia3f50b639790edbd47ffb7ec4edc42eb3090f4c2
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Fix typo

Change-Id: I7aa4e6733f1743bbe6d3ac1a3f65468e6ad78c0e
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Use ARMNN internal data type instead of specific one

Change-Id: I75393f94465b2d3638f66ccc2207cb60655751db
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Drop dead functions

AllocateTensorBuffer and ReleaseTenosrBuffer functions aren't needed
anymore so drop them.

Change-Id: I0d3f0a7080bb3c668e903d8116569dca811e652a
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Fix build warnings

Change-Id: I64bfaed5fb6b197835065ac9e0715c6d9ffd8b39
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Consider various NN model formats

As of now, only TFLite model is supported, and other will be
supported layer.

Change-Id: Ie255875032bfc6051da7a14913564bb9548c69b7
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Add multiple input and output tensors support

Change-Id: Ibde983e23f3ba208b29494ece236675213aa52ef
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Add user desired input and output layer support

Change-Id: I33216ac409f8087d166154ff57b1cec4b2a80879
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Receive output tensor buffers for the inference

This patch receives tensor buffers allocated by upper layer
and makes them to be used for the inference.

As for this, it implements GetOutputTensorBuffers callback.

Change-Id: Ic8a3978205b38de0b1b93cd61b6fec4e98c62f3a
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Rename input/output binding members

Change-Id: I8fc122e1eb5c42bdc444930b40015884b5080648
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Use input tensor buffers coming from upper layer

This patch makes armnn backend to use input tensor buffers
coming from Inference layer for the inference.

As for this, it addes new several callbacks, and drops unnecessary ones.

Change-Id: Id922a1ecef70e36e781c66f363995a261713b6b0
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Use a generic channel value

Nowi, Inference layer will pass a generic channel value
instead of OpenCV specific.

Change-Id: Ibfabe6d3d93cb72cd7ff68479da83cd06f386246
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Receive model file format from inference engine interface

Change-Id: I9a63c2d214221eb56049a111d26e1123f7e7c58c
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Implement GetBackendCapacity callback

This patch implements GetBackendCapacity callback and
provides device types that ARMNN can run the inference.

Change-Id: If67f53f8e0932ec997dd3ba03bf065dc64056627
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Consider one more inference target devices

Change-Id: I51b9a04f60e4b4fe873d8d8a1fda6a122532ce31
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Drop SetInputTensorParam/SetOutputTensorParam callbacks

Change-Id: I1ee785034aa06b19fdba260c87f9081a7d312952
Signed-off-by: Inki Dae <inki.dae@samsung.com>

Add logs to print out a given target device

Change-Id: Ie85dfbc9e731e0eeceab6fc869c4edfdaea3d3b7
Signed-off-by: Inki Dae <inki.dae@samsung.com>

code refactoring to Inference initialization process

This patch uses new Load callback and constructor,
and replaces Init/DeInit callbacks with BindBackend/UnbindBackend callbacks.

Change-Id: Iec12fc15a3754ee312e6352201497fa9f78ac4d5
Signed-off-by: Inki Dae <inki.dae@samsung.com>

add initial code

Signed-off-by: Inki Dae <inki.dae@samsung.com>

Initial empty repository