[test/ml_option] Add unittests for ml_option

- Add some testcases using newly added ml_option APIs

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[C-API/Single] Add new API "ml_single_open_with_option"

- This API handle ml_option provided by user and make single instance

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[C-API/common] Add new API for "ml_option"

- Add three new APIs for ml_option:
  ml_option_create
  ml_option_destory
  ml_option_set
- Define related types and structures
- The ml_option use GHashTable {const char* key : void* value} to store
  various values used by ml_*

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[C-Api] add NNFW type (TVM)

Prepare ACR, add new NNFW type (TVM) and mark Tizen version.

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

[trival] Fix header document

- Fix a typo in header description.

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[C-Api] update API description

Prepare ACR, review native API and update description.

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

[Android] update script for mxnet

1. add version flag and update prebuilt library for mxnet.
2. disable test when building lite version.

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

[JAVA-Api] Update android build scripts.

Update to use nnstreamer-github-resource github link

Signed-off-by: makesource <makesource@gmail.com>

[C-Api] Fix indentation

Fix indent at init_filter_mxnet()

Signed-off-by: makesource <makesource@gmail.com>

[JAVA-Api] Remove redundant newlines

Remove redundant newlines in build-nnstreamer-android.sh and Android.mk

Signed-off-by: makesource <makesource@gmail.com>

[C-Api] Add missing enums in ml-api-common

Add missing enums in ml-api-common

Signed-off-by: makesource <makesource@gmail.com>

[JAVA-Api] Add missing MXNet enums in JAVA, c++ APIs

Add MXNet enums in JAVA, c++ API.

Signed-off-by: makesource <makesource@gmail.com>

[JAVA-Api] Parameterized nnstreamer mxnet subplugin

Add enable_mxnet, ENABLE_MXNET flags.

Signed-off-by: makesource <makesource@gmail.com>

[JAVA-Api] Fix MXNet version

Use MXNet 1.9.1 tag version

Signed-off-by: makesource <makesource@gmail.com>

 [JAVA-Api] Modify build script for MXNet build

Modify build script flag that does not related with mxnet

Signed-off-by: makesource <makesource@gmail.com>

[JAVA-Api] Modify build script for MXNet build

Modify build script to download MXNet so files

Signed-off-by: makesource <makesource@gmail.com>

[JAVA-Api] Add and update MXNet related mk files

Add mk files for prebuilt MXNet shared library files

Signed-off-by: makesource <makesource@gmail.com>

[trivial] Fix some typos

- Fix some typos.

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[C-API] Fix the typo

This patch fixes the typo in ml-api-common.h file.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[test] Add test for decoding pngfile using appsrc

- Add a test for decoding pngfile using appsrc (C API and android JAVA)
- It check the equality of decoded orange.png using simple pipline
  with raw file (orange.raw)

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[pipeline] Let pipeline src use current caps when it's given

- If current caps is given, use it rather than allowed caps.
- Use caps "image/png" when the pipeline is "appsrc caps=image/png ! pngdec ! ... "

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[Single] Remove gst dependency from single-shot

Remove gst dependency from singlep-shot

Signed-off-by: gichan <gichan2.jang@samsung.com>

[C/common] Remove unnecessary NULL assignment

This patch removes the unnecessary NULL asignment in
_ml_tensors_info_free() since _ml_tensors_info_initialize() function
internally asigns the NULL to the name of each ml_tensor_info_s. It
removes redundant code and increase the performance.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[C/Inference] Apply extract method technique to remove redundant code

Three internal functions for appsrc callback have the redundant code to
fetch the callback function. This patch applies the extract method
technique to remove it and increase maintainability.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[C/Inference] Cleanup the nested-if statement

ml_pipeline_src_parse_tensors_info() has the deep nested-if statement
and it makes it hard to understand and maintain. This patch does
refactoring the code structure and increases readability and
maintainability.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[C-API] Revert "Move ml_strerror() to internal header"

Since ml_strerror() & ml_error() functions are used in webapi-plugins
module, they should be in ml-api-common.h header.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[C-API] Move ml_strerror() to internal header

ml_strerror(), ml_error() functions are not ready to release. So they
are moved to internal header.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[trivial] Fix some typos

- Fix some typos in several files

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[C-API/Service] Refactoring for ML Service API

This patch adds disconnectDB() interface in IMLServiceDB and closes
the DB handle explicitly after use. Since some embedded database
such as LevelDB does not support multi-process so only one process
can access the DB at one time and it might cause the IO exceptions.
This patch reduces the deadlock situation.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[C-API/Test] Add Mock testcase for Service API

ML Service API uses an external database library and it could raise
unexpected errors such as IO Exception. To handle their exceptions,
lots of error handling code was added but it is hard to test because
exceptions are not raised in normal cases. In this patch, we use GMock
for dependency injection of external libraries. We can define the
expected exception when calling an external API so can verify its operation.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[C-API] Remove unnecessary doxygen tag

This patch removes the unnecessary doxygen tag in doc.h file.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[C-Api/pipeline] clear element callback

1. Clear element callback before changing the pipeline state - receiving the EOS event.
2. Fix element lock when an error occurs in internal process.

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

[C-API] Update doc file for ML Service API

This patch adds the doxygen section and updates doc.h file for ML Service API.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[ML-API] version info

Set project version to 1.8.1 (will be updated later - 1.8.2 for Tizen M2)

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

[C-Api] handle each feature state

Each Tizen ML feature state (inference, training, service) should be managed separately.

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

[C-Api/Service] fix svace issue

Fix svace issue - remove memory leak.

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

[Feature] Add ml-service feature check function

Add machine learning service feature check function.

Signed-off-by: gichan <gichan2.jang@samsung.com>

[Doc] Change CI server domain name

Change CI server domain name from nnstreamer.mooo.com to ci.nnstreamer.ai

Signed-off-by: gichan <gichan2.jang@samsung.com>

[single] Allow tvn model when using VD_AIFW

This patch allows tvn model when using VD_AIFW framework.

Signed-off-by: yelini-jeong <yelini.jeong@samsung.com>

[C-Api/Service] update API description

Under the API review, update API description and example code.

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

[C-API/Service] Workaround for dbspace failure

Because of SMACK control, the application process cannot access the
'/opt/usr/dbspace'. To meet the Tizen M1 release schedule, this patch
uses '/tmp' as database space. It is just a workaround and will be fixed
in the right way.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[Package] Add SMACK label and cleanup the package

After modifying C-API packages, the SMACK label was omitted for
each package. And library packages contain unnecessary so file.
This patch adds omitted SMACK label and cleans up the contents of
the package.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

CODEOWNERS: update reviewers.

New members introduced: @songgot (will be writing APIs soon)

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

C/common: ml_tensors_info_set_tensor_dimension error message.

Tell the API users why the error happens and how they can mend it.

Fixes https://github.com/nnstreamer/nnstreamer/issues/3562

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

[C-API/Test] Apply test fixture to remove duplicate code

To remove duplicate code in each test case, this patch applies the
test fixture framework. g_autofree macro is used for allocated space
to be freed automatically no matter test case is passed or not.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[CodeClean] cleanup headers

cleanup headers and warning in meson build script before starting ACR process.

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

[Package] Change package dependency.

Previously, the single and pipeline API were separated.
Change the pipeline package contain the single package.

Signed-off-by: gichan <gichan2.jang@samsung.com>

[C-API/Service] Apply Singleton pattern

This patch applies the singleton pattern to MLServiceLevelDB class
so that a single instance exists in runtime.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[C-API/Service] Refactoring the service API for maintainability and readability

To support various database systems, this patch defines the interface
class IMLServiceDB and implements MLServiceLevelDB using LevelDB. If the
backend DB is changed, we just add a new class for the new DB without
changing the existing code. That increases the maintainability.
Moreover, this patch updates the signature of user-level APIs to
increase readability.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[C-API/TEST] Add various test cases for ML Service API

This patch newly adds the test cases for ML Service APIs. They include
the positive and negative cases for setting, getting, and deleting the
pipeline description.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[C-API] Add Error code for DB and filesystem

This patch newly adds the ML_ERROR_IO_ERROR code for the failure
of DB and filesystem operation.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[Package] Bugfix for package dependency

To maintain backward compatibility, capi-machine-learning-inference
package should require pipeline, single and common libraries. However,
common is omitted and it can cause break issues when making platform
:1image. This patch fixes this bug.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[C-API/Serivce] Update the doxygen tag

This patch updates the doxygen tag and comments for ML Service API.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[C-API/Serivce] Set SYS_DB_DIR as build configuration

This patch sets the SYS_DB_DIR as build configuration. In the case
of Tizen, a predefined DB path (i.e. TZ_SYS_GLOBALUSER_DB) is used.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[C-API/Service] Add testcase for ML Service API

This patch adds the basic testcase of the ML Service API for adding
and getting the pipeline description with the name.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[C-API/Service] implement ML Service API

This patch newly adds the ML Service APIs for adding and getting the
pipeline description with the name. To store the pipeline description,
leveldb is used.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[C-API/Service] Fix the compile-time error

Because of an omitted semicolon and header file, there is a compile-time error
when using ml-api-service.h header. This patch fixes this bug.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[debian] Rename invalid .install file names

Rename invalid .install file names.
...-dev-api.install -> ..-api-dev.install

Signed-off-by: gichan <gichan2.jang@samsung.com>

[debian] Separate debian packaging

 - Separate single/pipeline debian package
 - Change library name (capi-nnstreamer-* -> ml-inference-*)

Signed-off-by: gichan <gichan2.jang@samsung.com>

[C/inference] Apply Substitute Algorithm instead of Switch-Case statement

This patch does refactoring the code by applying the Substitute
Algorithm technique. Instead of a Switch-Case statement, a hash table is
used and it increases both readability and performance.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[C/inference] Refactoring the nested-if statement

A nested if statement makes it hard to understand and maintain the code.
This patch reorganizes the code structure and increases readability.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[C/inference] Apply extract method for type converting

Instead of a complicated switch-case statement in the function, this
patch extracts a new function for type converting. Since the enumeration
of both types is the same order, typecasting is good enough for
converting.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[meson] change global link -> project link

As recommended from a review in #137, add_global_link_argument has
changed to add_project_link_argument

**Self evaluation:**
1. Build test: [X]Passed [ ]Failed [ ]Skipped
2. Run test: [X]Passed [ ]Failed [ ]Skipped

Signed-off-by: Jihoon Lee <jhoon.it.lee@samsung.com>

[Debian] update ml-inference-api-dev package

After #131, ml-inference-api-dev is relying on capi-ml-inference-single
and capi-ml-inference-pipeline pc.

It might have been better that ml-inference-api-dev relying on
ml-inference-single/pipeline-dev. As the package is not introduced,
this patch add pc files into the ml-inference-api-dev package.

See also: https://github.com/nnstreamer/nntrainer/issues/1853#issuecomment-1064220362

**Self evaluation:**
1. Build test: [X]Passed [ ]Failed [ ]Skipped
2. Run test: [X]Passed [ ]Failed [ ]Skipped

Signed-off-by: Jihoon Lee <jhoon.it.lee@samsung.com>

Fix libcapi-nnstremer is empty due to linker optimization

From #131, libcapi-nnstreamer.so became empty because
libcapi-nnstreamer.so does not contain any symbol from
libcapi-nnstreamer-single, libcapi-nnstreamer-pipeline.so

This should be semantically resolvable by using 'link-whole' argument in
meson but it is not implemented for shared_library.

This patch address the issue by disabling `-bas-needed=false` in meson
and add -Wl,--as-needed to global linker argument.

https://github.com/mesonbuild/meson/issues/3046.

**Self evaluation:**
1. Build test: [X]Passed [ ]Failed [ ]Skipped
2. Run test: [X]Passed [ ]Failed [ ]Skipped

Signed-off-by: Jihoon Lee <jhoon.it.lee@samsung.com>

[Log] log utils from nnstreamer

The log util was separated from nnstreamer repo.
Remove unnecessary header and update log util.

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

[Package] Separate single-shot and pipeline API.

 - `machine-learning-inference` is separated to `machine-learning-inference-single` and `machine-learning-inference-pipeline`.
 - Separate internal header files.

Signed-off-by: gichan <gichan2.jang@samsung.com>

[build] Build android api with gstreamer v1.20.0

- Assume that android builds are with gstreamer v1.20.0
- Remove the patch file which is no needed for the new version
- Modify the patch file for tracing

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[Tizen/TEST] Add gcov package

Add gcov package for tizen coverage auto measurement tool.

Signed-off-by: Gichan Jang <gichan2.jang@samsung.com>

[C-Api/Test] condition to check allowed element

1. init gstreamer before starting the unittest.
2. check element restriction flag from config file.

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

[C-Api/CodeClean] internal struct for pipeline

Code clean, cleanup definition for internal data struct.

TODO: We now have a plan to separate single and pipeline source.
Then it is necessary to hide internal data struct for pipeline functions.

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

[C-Api/Util] util function to get gst element

Add util function to get gst-element instance.

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

[TEST] Check restricted elements.

Check whether the restricted elements are properly handled or not.

Signed-off-by: Gichan Jang <gichan2.jang@samsung.com>

C/Service: first prototypes of service API Phase 1

This is the start of designing https://github.com/nnstreamer/nnstreamer/issues/3473
Phase 1 and 2 APIs are declared.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

C/common: refactor data structure locations for service API

A few definitions in pipeline/single APIs are used by service API.
Move such definitions to the common header.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

[C/inference] Use allowed_elements instead of restricted-elements

The name 'restricted-elements' of nnstreamer configuration is not
matched as its real operation. Because of this reason, its name is
renamed to 'allowed_elements'. This patch updates the related code.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[TEST] Add replacing string test

Add replacing string test.
(Copied from nnstreamer/nnstreamer/tests/unitest_util.c)

Signed-off-by: gichan <gichan2.jang@samsung.com>

[android/pytorch] Add pytorch v1.10.1 android support

- Support pytorch v1.10.1 for android (only arm64)

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[android/tflite] Add tflite v2.7.0 support

- Add tflite v2.7.0 support
- Set v2.7.0 as default version of tflite

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[CODEOWNERS] Fix codeowners syntex.

The last matching pattern takes the most precedence.
Change orders.
Refer: https://docs.github.com/en/repositories/managing-your-repositorys-settings-and-features/customizing-your-repository/about-code-owners

Signed-off-by: Gichan Jang <gichan2.jang@samsung.com>

[Single] Fix coverity issues

 - Remove unrechable code.
 - Fix use after free.

Signed-off-by: Gichan Jang <gichan2.jang@samsung.com>

C/single: elaborate invoke stream-pipe error.

When the framework version does not match the given
model's requirement, STREAM_PIPE error may happen.
Because it appears that such cases are common,
add more explanation.

Related with https://github.com/nnstreamer/nnstreamer/issues/3603

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

[Single] Allow NULL value for some properties.

Allow to set NULL value for some properties such as custom, accelator
and the rest.

Signed-off-by: Gichan Jang <gichan2.jang@samsung.com>

[TEST] Update the test case

Both plugin_availability_fail_invalid_01_n and
plugin_availability_fail_invalid_02_n have the same test code. This
patch updates the parameter to test other case.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[CODEOWNER] Fix sourcecode path.

Currently, the source code path of the CODEOWNER is set differently than we were intended.
For example, /c/* mathces files like `c/README.md`
but not further nested files like `c/src/ml-api-common.c`
To include nested files, fix source code path syntex.

Signed-off-by: Gichan Jang <gichan2.jang@samsung.com>

C/common: override dlog infra with stderr for unit testing

With unittesting, especially in GBS, dlog output is
not shown because dlog server is not running.

Replace it with stderr print in unittesting
for better readability in GBS.

This is similar with
https://github.com/nnstreamer/nnstreamer/pull/3571

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

C/Single: elaborate error messages.

For the sake of app developers, let's elaborate error messages.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

[build/android] Add comments for nnfw and snpe makefiles about external libs

- Add comments for how external libs should be configured.

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[build/android] Fix Pytorch makefile to compatibile with tflite (xnnpack)

- Exclude xnnpack and other prebuilt libs from `LOCAL_WHOLE_STATIC_LIBRARIES`
  to avoid link crash issue with tflite which also contains xnnpack and other common prebuilt libs

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[build/android] Add a comment in file `Android-nnstreamer-prebuilt.mk`

- Add a comment for native developers.

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

C/inference: more errors with elaborated messages.

Elaborate error and exception messages of pipeline API
and internal functions.
Use the new log/report infrastructure.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

C/common: update error reporting macros

1. Error continue-report only if the op has returned a non-zero value.
2. Commonize formatting macro.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

[C-Api] Fix the omitted Requires section in capi-ml-inference.pc

Because of the bug in the meson file, Requires section in
capi-ml-inference.pc is empty. It causes the compile-time error when
using ML APIs. This patch fixes this bug.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[fix/trivial] Fix unnecessary null check

- Remove unnecessary null check

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[fix/trivial] Fix unreacable code

- Remove unreachable code

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

C/Service: introduction of the new API set.

Declaration of what the "ML Service APIs" will provide.

This is the start of designing https://github.com/nnstreamer/nnstreamer/issues/3473

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

C-API/Common: more elaborated error reporting.

As an example for other API implementations,
error messages of ml-api-common.c are elaborated
with the new error reporting infra.

Unit test cases will follow later.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

C-API/Common: macro for formatting error messages.

New macros for error reporting infrastructure with some more info.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

[android/test] Add pipeline api test for mqtt elements

- Add a test for mqtt elements. Because it needs running mqtt broker,
  it should be ignored at this moment.
- At least it is passed in configured environment (mqtt broker is
  installed in the android device and running locally)
- Add permisiion for internet in AndroidManifest.xml

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[android/mqtt] Add MQTT support

- Add MQTT support
- It requires paho.mqtt.c prebuilt lib

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>