[action] Use r25c for c++17 in Android build action

This patch changes ndk-version in github action to use c++17 in Android.

Signed-off-by: Yelin Jeong <yelini.jeong@samsung.com>

[Android] Use c++17 for ndk-build

This patch changes the c++ version to 17 in the jni files.

Signed-off-by: Yelin Jeong <yelini.jeong@samsung.com>

[Query] case when change pipe state

Set caps in edge handle before calling change-state callback.

Signed-off-by: Jaeyun Jung <jy1210.jung@samsung.com>

Add support for TensorRT 10.

Adds a tensor_filter (tensorrt10) for TensorRT 10+ using the onnx and
engine parsers. Leaves as-is the tensor_filter (tensorrt) for TensorRT
10- using the uffparsers.

Signed-off-by: Bram Veldhoen <noreply@github.com>
Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[CodeClean] typecast of size

Code clean to fix svace issue, typecast of size and index value.

Signed-off-by: Jaeyun Jung <jy1210.jung@samsung.com>
Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[query] Set tensor query caps when state changes from PAUSED to PLAYING

This patch makes to set tensor query caps, when state changes from PAUSED to PLAYING.
When the tensor_query_server is stopped, edge_handle is released.
So we need to set caps again when restarted.
If caps are not set, client connection is not possible after restart tensor_query_server.

Signed-off-by: Yelin Jeong <yelini.jeong@samsung.com>

[Filter/DeepViewRT] mem leak case

Fix mem leak case when loading mapped model file, use member variable.

Signed-off-by: Jaeyun Jung <jy1210.jung@samsung.com>

[android] Let nnstreamer.mk export proper snpe filter source file

- Determine proper source code out of `tensor_filter_snpe.cc` and `tensor_filter_snpe_v1.cc`

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[filter] Support snpe filter in android

- Support snpe (SDK v2) in Android.
  Some additional env variables are requires to be set.
  REF: https://docs.qualcomm.com/bundle/publicresource/topics/80-63442-2/dsp_runtime.html

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[filter] Add custom props for snpe filter to support various runtimes

- Let `custom=Runtime:[CPU|GPU|DSP|NPU]` set each snpe runtime.

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

Change variable name

Change the variable name indicating the number of data pushed in the current epoch.

Signed-off-by: hyunil park <hyunil46.park@samsung.com>

[CodeClean] fix svace issue

Recently ahub static checker reports typecast issue of integer variable.
Update param type and check null ptr to fix svace issue.

Signed-off-by: Jaeyun Jung <jy1210.jung@samsung.com>
Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

Rename workflow jobs for github branch rules.

Github status checks are based on job names.
Add names to configure Github status checks.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

github-action: build and deploy docker.

Build and deploy docker image daily.
This will be deployed to nnstreamer:nnstreamer docker hub repo.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

[CodeClean] util to get nth info

Fix svace issue, use util function to get nth tensor info.

Signed-off-by: Jaeyun Jung <jy1210.jung@samsung.com>

[CodeClean] fix svace issue

Code clean, fix svace issues.
- check max number of tensors and prevent underflow.

Signed-off-by: Jaeyun Jung <jy1210.jung@samsung.com>

[spec] Enable vivante for specific profile

- Build vivante subplugin for some targets.

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[tensor_trainer] bugfix: Add exception handling for a non-existent model config file

Added exception handling for a non-existent model config file

Signed-off-by: hyunil park <hyunil46.park@samsung.com>

[actions] Make pubilder cache daily

This patch makes the daily pdebuild workflow save the cache key with date postfix and outdate previous cache. Then the pdebuild.yml workflow can use the fresh cache.

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[actions] Update gbs workflows to be run on 22.04

- Since Ubuntu 22.04 supports gbs from this year, let's switch to it.

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[Build] onnx-runtime from tizen 9.0

Update spec to enable ONNX runtime from Tizen 9.0.

Signed-off-by: Jaeyun Jung <jy1210.jung@samsung.com>

build: update header path

Fix fatal error: asm-arm/hwcap.h: No such file or directory

Signed-off-by: Dongkyun Son <dongkyun.s@samsung.com>

[spec] Fix lcov options for different Tizen/lcov versions

- Set proper lcov options w.r.t. Tizen/lcov versions.

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[action] Save pbuilder cache daily and use it in each PR

- Let the daily job `update_pbuilder_cache.yml` save cache.
- Let the PR job `pdebuild.yml use proper cache for each arch.

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[action] Save gbs cache daily and restore gbs cache per PR

- Let the daily job `update_gbs_cache.yml` save cache for every build arch.
- Let the PR job `gbs_build.yml` restore proper cache for each arch.

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[action] Diable cache actions except for the gbs build

- Saving cache in each PR consumes too much space.
- To utilize the cache, we need to update each cache in main branch periodically.
  Before introducing such action, disable cache for a while.

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[action] Let pdebuild action do not build arm64

- Currently `pdebuild --architecture arm64` is equivalent as `pdebuild --architecture amd64`.
- Drop arm64 build.

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

github-action/macos build fix

Github-action macos build started spitting:
```
Run actions/setup-python@v1
  with:
    python-version: 3.x
    architecture: x64
  env:
    changed_file_list: /var/folders/3m/p59k4qdj0f17st0gn2cmj3640000gn/T/tmp.b0uhtmFUzp
    rebuild:        1
Error: Version 3.x with arch x64 not found
Available versions:
```
Similar with https://github.com/actions/setup-python/issues/162

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

Ubuntu: mantic & noble support

I decided to use pytorch being integrated by Ubuntu (debian/sid),
and this package provides libtorch-dev for C++ binding.

Trying to address #4431

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

Update Dockerfile

1. Update 18.04 --> 22.04
2. Add gpg-agent to resolve docker build error in 22.04
3. Add mirror ARG for faster usage
    - e.g., w/ --build-arg="UBUNTU_APT_MIRROR=http://mirror.kakao.com/ubuntu/"

Addresses #4432

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

[CodeClean] handle hashtable function

Code clean, check hash-table util function result.

Signed-off-by: Jaeyun Jung <jy1210.jung@samsung.com>

[CodeClean] fix typo

Code clean, fix indent and typo in source files.

Signed-off-by: Jaeyun Jung <jy1210.jung@samsung.com>

[test] Set a `gstTestBackground` SSAT tc as not critical

Set the gstTestBackground TCs as not critical:
  The another background pipeline (videotestsrc ! ... ! filesink) from
  `gstTestBackground` sometimes does not make test file properly.
  If following tests succeed, It means background pipeline works well.

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[ncnn] Use g_message for accl log

This patch makes ssat test (grep "accl = gpu" string) works.

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[CodeClean] unnecessary mem allocation

Code clean, remove unnecessary memory allocation while creating edge handle.

Signed-off-by: Jaeyun Jung <jy1210.jung@samsung.com>

[workflow] Fix pbuilder cache permission error

- Currently pbuilder workflow does not use stored cache for permission
  error. This commit resolve the issue.

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[Query] util function using integer id

To prevent double free case, remove query handle and use integer id.
Also, add util function to hide edge handle in query elements and fix null ptr case.

Signed-off-by: Jaeyun Jung <jy1210.jung@samsung.com>

[Query] Release edge handle when stopping the playing

Problem: When state changes from PAUSED to NULL,the tensor_query_serversrc cannot switch to NULL state because it keeps waiting for data pop.

Solution: Change the creation and destruction of server data and edge handle to be managed according to the state.

 READY->PAUSED: Create query server common data
 PAUSED->PLAYING: Create nns-edge handle
 PLAYING->PAUSED: Rlease nns-edge handle
 PAUSED->READY: Descruct qeury server common data

Releated issue: https://github.com/nnstreamer/api/issues/487

Signed-off-by: gichan2-jang <gichan2.jang@samsung.com>

[Edge/CodeClean] remove unnecessary connection timeout

Fix svace issue, remove unnecessary code to check connection timeout.

Signed-off-by: Jaeyun Jung <jy1210.jung@samsung.com>

[tensor_trainer] Add condition to stop model training

- When a request to stop model training is received,
  if it has already been completed, it is ignored

Signed-off-by: hyunil park <hyunil46.park@samsung.com>

[Tizen] Fix gcov build error

Due to the lcov 2.0 upgrade, the warning is changed to error so the gcov build fails.
Ignore this case. (Tizen PM guide)

Signed-off-by: gichan2-jang <gichan2.jang@samsung.com>

meson: explicit 'enabled' should spit errors if not found

If -Dsupport-ncnn=enabled is given and ncnn is not found,
an error should be generated by meson.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

decoder/direct_video: detect element size mismatch

Return error with explicit error message (GST_ERROR) if
the element size mismatches.

For example, float32 tensor stream cannot be converted
to RGB video stream without tensor_transform.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

[AITT] Skip AITT test

Skip AITT gtest and ssat until aitt-ses is available.

Signed-off-by: gichan2-jang <gichan2.jang@samsung.com>

Filter/MLAgent: Update build dependency on MLOps Agent

This patch updates build dependency on MLOps Agent. Note that MLAgent
has been renamed to MLOps Agent and provided from a new repository
separated from the API repository.

Signed-off-by: Wook Song <wook16.song@samsung.com>

[trivial] Fix bogus date in chagnelog

- Fix rpmbuild warning about wrong date

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[CodeClean] set null after free

Clearly set null after releasing the name in tensor-info struct.

Signed-off-by: Jaeyun Jung <jy1210.jung@samsung.com>

[CodeClean] missing lock

Fix svace issues, add missing lock.

Signed-off-by: Jaeyun Jung <jy1210.jung@samsung.com>

[build/debian] add dependency to onnxruntime

- add new pkg for onnxruntime in debian build

Signed-off-by: Suyeon Kim <suyeon5.kim@samsung.com>

[protobuf] Fix memory leak in nnstreamer_protobuf

- Make GstMemory with properly set GDestroyNotify func

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[filter] Fix memory leak in reload model

- Fix memory leak when reload tflite model

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[fix] Resolve memory leak in tensor_if

- Free g_list and GValue properly.

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[test] Freeing memory during unittests

- Unref memory properly used in unittests.

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[fix] Free option context in gtest

- Call g_option_context_free in unittest_latency

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[spec] Suppress ORC log level

- Suppress ORC logs as showing WARNING or higher logs to reduce too many
  them during gbs unittests.

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

test/datareposinK: timing error in test case

Occasionally, in github-action CI, datareposink.writeFlexibleTensors_n
fails due to synchronization errors:

```
[ RUN      ] datareposink.writeFlexibleTensors_n
../tests/nnstreamer_datarepo/unittest_datareposink.cc:570: Failure
Expected: (file_info) != (nullptr), actual: NULL vs (nullptr)
[  FAILED  ] datareposink.writeFlexibleTensors_n (173 ms)
```

It happens when the pipeline is set NULL before the file 'flexible.data'
is writtn within the pipeline.
Allow some time (0.1s) before setting it NULL.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

[region] Fix memory leak in tensor_region

- mem argument of `gst_tensor_meta_info_append_header` should be freed.
- Properly free old memory after the call and replace the buffer with
  new memory

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[test] Fix mem leak in tflite unittest

- Fix memory leak by unref

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[common] Fix mem leak in extra tensors

- Extra tensor names stored in GstMemory leaks.
- Let the extra tensor do not store names.

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

github-action: indent style error --> warning

Indent style error is set down to warning.
Until we have ZERO indent style error in overall,
let's keep them warning.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

[mlagent] Fix misspelling variable naming and log

 - change misspelling 'stringied' to 'stringfied'

Signed-off-by: linuxias <linuxias@gmail.com>

github-action: import all TAOS-CI post-build

- gbs build for x64, x86, arm32, arm64
- pdebuild for { x64, arm64 } x { 22.04, 20.04 }
- yocto build w/ eSDK (Yocto 4.0.15)
- android build w/ nttld/setup-ndk

to enable such github actions,
- android / jni build script fix

and, drop TAOS-CI. (all imported!)

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

[common] Fix mem leak in gst_tensor_buffer_append_memory

- last_memory should be released before calling
  `gst_buffer_replace_memory`

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

actions: add sloccount, prohibited-words, signed-off-by, ...

The following TAOS-CI pr-prebuild checks are imported
- sloccount
- prohibited words
- signed off by
- shellcheck
- flawfinder
- coverity

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

[test] Fix snpe filter test to support two API versions

- Add dlc model files for SNPE2.
- Rename SNPE1 model files.
- Fix unittest to set proper model files.

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[filter] Add SNPE filter supports API ver 2

- Add a SNPE filter source `tensor_filter_snpe.cc` to support SNPE API version 2
  - It utilizes new C APIs.
- Let meson decide cpp source file to compile by checking snpe_api_version

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

actions: add cppcheck, doxygen-build, executable, ...

The following TAOS-CI pr-prebuild checks are imported
- cppcheck
- doxygen-build
- executable
- hardcoded-path
- misspelling
- nobody
- timestamp

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

actions: static/rpm-spec check added

RPM-SPEC runs rpmlint if .spec file is updated.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

actions: static/doxygen-tag style clean

Make the code style consistant with other recent checks.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

actions: more static checks from TAOC-CI

- indent
- newline
- pylint

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

[CodeClean] fix svace issue

1. change data type to handle gst-memory.
2. use util function to get nth tensor info.
3. add null-init in filter-edgetpu.
4. fix use-after-free case when parsing accel in tensor-filter.

Signed-off-by: Jaeyun Jung <jy1210.jung@samsung.com>

github-action: rebuild only if it's required

This adds a workflow routine that checks if rebuild is needed.
Then, if there is no changes in source code, skip rebuilding

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

GitHub/Workflows: Add an action to check C++ source file format

This patch adds a GitHub Action workflow to check C++ source file
format.

Signed-off-by: Wook Song <wook16.song@samsung.com>
[Imported from deviceMLOps.MLAgent]
Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

github-action: do not run static-checks on deleted files.

The git-changed files may include deleted files.
Do not run static-cchecks on deletec files.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

test: nondeterministic unit test error.

Due to multithread nondeterminism, we get
occasional unit test error from the "new_data_cb"
callback.

Create a lock and make data local to the function.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

[Filter] remove space of model file

To prevent not-found error, remove space of model path.

Signed-off-by: Jaeyun Jung <jy1210.jung@samsung.com>

actions: add static checks

Add static checkers & verifiers to github-actions.
Initially, clang-format for C++ files and file size checker
are migrated from TAOS-CI.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

github-action/risc-v test update

Use dockerfile of nnstreamer's fork designed for nnstreamer packages.
Enable gtest, too.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

[fix/svace] fix svace issue

Fix covertiy and SVACE issue
- model_path isn't initialized. fixed it.

Signed-off-by: Suyeon Kim <suyeon5.kim@samsung.com>

[add/onnxruntime] Update onnxruntime_support on

add true default onnxruntime option for Tizen releases

Signed-off-by: Suyeon Kim <suyeon5.kim@samsung.com>

[tensor_trainer] Move the function of checking invalid parameters

- Move gst_tensor_trainer_check_invalid_param to enable setting properties in PAUSED states

Signed-off-by: hyunil park <hyunil46.park@samsung.com>

[CodeClean] util to get list size

Code clean, fix indent and util function to get list size.

Signed-off-by: Jaeyun Jung <jy1210.jung@samsung.com>

[Filter/ArmNN] fix mem leak

Fix mem leak, free model path in destructor.

Signed-off-by: Jaeyun Jung <jy1210.jung@samsung.com>

[build] Let meson check API version of SNPE

- Let meson.build check SNPE API version.
- Added compile flag `SNPE_VERSION_MAJOR` would be used in future commits.

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[filter] Rename `tensor_filter_snpe.cc` to `tensor_filter_snpe_v1.cc`

- Current source code targets SNPE version 1.
- Future commits will add source code targets SNPE version 2.

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[tests] Add SSAT test for padding mode in tensor_transform

This patch adds SSAT test for padding mode in tensor_transform.

Signed-off-by: Yelin Jeong <yelini.jeong@samsung.com>

[transform] Add tensor padding mode in tensor_transform

This patch adds tensor padding mode in tensor_transform.
tensor padding has options like this.
left, right, top, bottom, front, back, type (NCHW or NHWC).

Signed-off-by: Yelin Jeong <yelini.jeong@samsung.com>

[common] Move enum tensor_layout

This patch moves tensor_layout enum to tensor_typedef.
tensor_layout can be used in other elements.

Signed-off-by: Yelin Jeong <yelini.jeong@samsung.com>

[trivial] Fix multiline comments to meet doxygen requiremnent

- Fix multiline comments in unittest_mlagent.cc to satisfy CI

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[mlagent] Let `mlagent_get_model_path_from` returns uri in fallback

- Let the function returns properly allocated gchar* in fallback case.
- Fix memleak (g_strfreev).
- Fix memleak in a testcase.

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[test] Add a missing header in mock_mlagent.h

- Add a missing header <utility> in mock_mlagent.h
- It declares `std::exchange`

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[fix/onnxruntime-filter] fixed tensor with negative value in shape

Some onnx models had free dimensions for batch. ex) [None,3,720,720]
It fixed that creating tensor with negative value in shape '''Ort::Value''' is treated  as 1.

Signed-off-by: Suyeon Kim <suyeon5.kim@samsung.com>

[Py/CodeClean] pylock after checking ptr

Code clean, apply gil after checking null ptr.

Signed-off-by: Jaeyun Jung <jy1210.jung@samsung.com>

[build] Remove unnecessary BuildRequires

- The latest tflite2 tizen package has its own flatbuffers header
  internally. Let's remove the `BuildRequires: flatbuffers-debvel`
- Let meson check the header when build_platform is not tizen

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[Pkg] fix library name for nns internal

nnstreamer-internal pkg requires nns-single library.

Signed-off-by: Jaeyun Jung <jy1210.jung@samsung.com>

Centralize python interpreter init/fini for subplugins

Python subplugins of decoder, converter, filter should
share the init/fini status.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

filter/python3: revise GIL access.

Control GIL at C callbacks.
Control mutex at C++ class.
As in decoder/converter changes.
This is the last step before the final step for #3834

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

converter::python make them thread safe with GIL

Apply GIL control to converter::python3 as in we do with filter::python3.
Fixes converter part of #3834
Overrides #3872

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

[CodeClean/grpc] clearly define release function

The type of data pushed into queue is gst-buffer.
Clearly set the release function when calling free.

Signed-off-by: Jaeyun Jung <jy1210.jung@samsung.com>

[CodeClean] fix indent and codestyle

Trivial, fix indent and codestyle for line comment.

Signed-off-by: Jaeyun Jung <jy1210.jung@samsung.com>