[TEST] Modify query test

 - Some parameters are removed, change the query test.
 - Apply back ground test

Signed-off-by: gichan <gichan2.jang@samsung.com>

[Edge] Tensor query TCP connection

Implement tensor query TCP connection using nnstreamer-edge lib.

Signed-off-by: gichan <gichan2.jang@samsung.com>

doc/distro-features: update features per distro

Update the list of features deployed via distro releases.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

[Android] Update file list of nnstreamer elements

Since the paths and names of nnstreamer elements are changed, this patch
updates the Android NDK build file.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[Doc] Update markdown file list of nnstreamer elements

Since the paths and names of nnstreamer elements are changed, this patch
updates the markdown file list of nnstreamer elements.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[Common] Reduce Dependency complexity to increase the SAM score

There are lots of modules in /get/nnstreamer folder and it causes a high
dependency complexity. This patch reduces the module number by
integrating elements. Eventually it increases the DEP score from 2.73
to 5.0.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[Gst/MQTT/Sink] fix: Remove duplicated g_free for the message buffer

This patch remove duplicated g_free for the message buffer(self->mqtt_msg_buf).

Signed-off-by: Yechan Choi <yechan9.choi@samsung.com>

doc/edge-ai: update documentation

Add more explanation on edge-AI / among-device AI

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

doc/component-description: apply recent updates.

We now have a lot more elements and features.
Update component desciption accordingly.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

[Svace] init member variables

Fix svace issue, initialize member variables in constructor.

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

[Svace] fix svace issues

Fix svace issue, handle memory boundary and return code in test.

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

[test/tvm] Apply Test Fixture to remove redundant code

To remove duplicate code in each test case, this patch applies the test
fixture framework of Google Test. It helps focus on the test case
without considering model loading, or memory allocation.

Signed-off-by: Sangjung Woo <sangjung.woo@samsung.com>

[TEST/query] Do not use fixed port number

Do not use fix port number.
Let's get an available port number so that multiple tests do not use the same port number.

Signed-off-by: gichan <gichan2.jang@samsung.com>

[Tests/Meson] Copy bmp2png to the tests directory every build time

In order to enforce to keep ./tests/bmp2png the same as the one in the
build directory, this patch modifies the meson build script to copy
bmp2png to the tests directory from the build directory every build time.

Signed-off-by: Wook Song <wook16.song@samsung.com>

filter/python3: support multi-threaded python custon filters.

Use Python GIL for multi-threaded python custom filters.
Don't use a local lock, use GIL.

Fixes #3822

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>
ps. The execution result of CV2 enabled python code of #3822:

```
$ gst-launch-1.0 videotestsrc num-buffers=10 ! video/x-raw,format=RGB,width=280,height=40 ! tensor_converter ! tensor_filter framework=python3 model=p2.py input=3:280:40:1 inputtype=uint8 output=3:280:40:1 outputtype=uint8  ! tensor_decoder mode=direct_video ! videoconvert ! ximagesink
init_filter_py:844
Setting pipeline to PAUSED ...
Pipeline is PREROLLING ...
--- USE_CV2:True /source/AutoDrv/NNStreamer/tests/p2.py (33600,)
Pipeline is PREROLLED ...
Setting pipeline to PLAYING ...
New clock: GstSystemClock
--- USE_CV2:True /source/AutoDrv/NNStreamer/tests/p2.py (33600,)
--- USE_CV2:True /source/AutoDrv/NNStreamer/tests/p2.py (33600,)
--- USE_CV2:True /source/AutoDrv/NNStreamer/tests/p2.py (33600,)
--- USE_CV2:True /source/AutoDrv/NNStreamer/tests/p2.py (33600,)
--- USE_CV2:True /source/AutoDrv/NNStreamer/tests/p2.py (33600,)
--- USE_CV2:True /source/AutoDrv/NNStreamer/tests/p2.py (33600,)
--- USE_CV2:True /source/AutoDrv/NNStreamer/tests/p2.py (33600,)
--- USE_CV2:True /source/AutoDrv/NNStreamer/tests/p2.py (33600,)
--- USE_CV2:True /source/AutoDrv/NNStreamer/tests/p2.py (33600,)
Got EOS from element "pipeline0".
Execution ended after 0:00:00.333332913
Setting pipeline to PAUSED ...
Setting pipeline to READY ...
Setting pipeline to NULL ...
Freeing pipeline ...
```

[github-action] Run GBS in github-action

Run gbs in github-action for more Tizen testing.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

doc/coding-convention: update the changes of recent years.

Coding convention for C++ has become more concrete and the components of nnstreamer and its neighbor have been updated.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

[Tests] Remove unnecessary line feeds in the runTest.sh files

This patch removes unnecessary line feed in the middle of the string
from the runTest.sh files.

Signed-off-by: Wook Song <wook16.song@samsung.com>

[Tests/Query] Revise runTest.sh to support macOS

grep in macOS does not have -P, --perl-regexp. In addition, the stat's
option to specify a format also differs from that of Linux distros. This
patch revises runTest.sh to support macOS by applying the above
differences.

Signed-off-by: Wook Song <wook16.song@samsung.com>

[tests/gRPC] Change the hard-coded shared object's extension

This patch changes the hard-coded string, indicating the shared object's
extension, to SO_EXT provided by the SSAT API.

Signed-off-by: Wook Song <wook16.song@samsung.com>

[tests/gRPC] Use ssat-api to check the size of marker.log

In order to make the test script more portable, this patch changes the
stat command line checking the size of marker.log to the universal
command provided by the SSAT API.

Signed-off-by: Wook Song <wook16.song@samsung.com>

doc/API-reference: elaborate the document.

Add some explanations to the topic lists.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

[Edge] migrating edge library

Prepare uploading edge library.
- temporally rename edge library in nnstreamer
- remove unnecessary param in edge APIs

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

[Tests/gRPC] Prepare a fallback value for PATH_TO_PLUGIN

In case NNSTREAMER_BUILD_ROOT_PATH is not defined, the test cases for
gRPC might run in an unintentional way. To this end, this patch adds a
fallback value for PATH_TO_PLUGIN to runTest.sh.

Signed-off-by: Wook Song <wook16.song@samsung.com>

dist/Ubuntu: enable Float16 support

Enable Float16 support in deb build.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

dist/Tizen: Enable FLOAT16 in Tizen x64/arm64/arm32

Although tensor-transform doesn't support fp16, yet,
let's enable fp16 support for further development.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

test: float16 arithmetic

By default, float16 tests are not critical.
However, if the envvar, "FLOAT16_SUPPORTED" is 1, they become
critical.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

tensor-transform: float16 support.

ORC/SIMD support not included.
Float16 w/ heavy tensor-transform is not recommended.

- Generate error if float16 is used in unsupported build
- Generate warning if float16 op is used too heavily (it's slow!)
- Future todo: support SIMD for float16 ops

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

tensor-filter subplugins: add FLOAT16 support

Add float16 support for a few subplugins
with possible float16 usages.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

Introduce FLOAT16 stream type

Add FLOAT16 type.
Fortunately, gcc for x64, aarch64, and arm has extension for
float16.

@todo: update meson script so that arch-specific compiler
options for float16 can be added if float16 is enabled.

Addressed #3784

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

[gRPC/Common] Modify hard-coded strings indicating sub-plugins' names

This patch modifies the hard-coded strings (e.g., libnnstreamer_grpc_*.so)
which indicate the file name of the sub-plugins to use the pre-defined
file extensions according to the platform.

Signed-off-by: Wook Song <wook16.song@samsung.com>

[Ext/Meson] Use find_program() instead of 'which'

This patch changes the way to find 'grpc_cpp_plugin' to use
find_program(), the built-in function provided by Meson.

Signed-off-by: Wook Song <wook16.song@samsung.com>

[Edge] prepare migration

Change header name for nnstreamer edge library.

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

[Edge] refactoring edge cmd

Refactoring to send/receive edge command and buffer.
- define command info struct to handle command, id, and memories.
- util functions to init, clear edge command.

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

[Edge] client IDs in handle

Remove global table for client IDs, and move it to edge handle.

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

[Edge] new function to invoke event callback

Add new function to invoke event and export edge-event functions.

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

[Filter/TFLite] Fix model tensors allocation not working for some delegates

This change is correction for error below reported by the TFlite library
during Invoke():

"Invoke called on model that is not ready."

Tensors allocation may be done by TFLite framework during call to
ModifyGraphWithDelegate() but that is not guaranteed.
Therefore, even if delegates are used, tensors allocation must be done
explicitly with AllocateTensors(), prior to inferencing with Invoke().

Signed-off-by: Julien Vuillaumier <julien.vuillaumier@nxp.com>

[Edge] invalid data info when copying edge data

Fix mem leak and invalid data info when copying edge-data.

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

[Edge] util functions for edge data

Add new functions for edge data.
- The edge-data type is unnecessary when creating data handle.
- Client ID will be used in the pipeline, as a meta of buffer.

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

[Edge] code clean

Code clean, check returned err-code and params. Prevent null ptr exception case.

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

[Edge] base code for mutex lock

Update macros and mutex lock in edge handle.

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

[trivial] Fix typos in the spec file

- Fix some typos in `nnstreamer.spec`.

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[Edge] Add tcp implementation

 - Add NNStreamer-edge TCP implementation.

Signed-off-by: gichan <gichan2.jang@samsung.com>

[Edge] possible mem leak

Fix svace issue, mem leak case when connection is failed.

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

test/grpc: correct parallel unit test calls

1. Do not fork ssat-api functions
2. Do not sleep constant time. Check the launch process.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

[Edge] remove unnecessary function

Code clean, remove unnecessary function and fix invalid return.
The edge-handle may have multiple connections, checking connection is unnecessary.
Instead, we will add internal function for each socket.

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

[Doc] Add yocto daily build result in README.md

- Add a link to build result of yocto (nnstreamer/meta-neural-network)

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

[spec] Fix spec to cut the depedency on custom tflite in 64-bit

- In 64-bit the dep is like "libtensorflow2-lite-custom.so()(64bit)"
- To cut this properly, replace "so" with "*"

Signed-off-by: Yongjoo Ahn <yongjoo1.ahn@samsung.com>

tests: build error w/ higher gcc & lower gtest

If you have gcc >= 11 and gtest <= 1.8, you may have build errors:

/usr/src/gtest/src/gtest-death-test.cc: In function ‘bool testing::internal::StackGrowsDown()’:
/usr/src/gtest/src/gtest-death-test.cc:1009:24: error: ‘dummy’ may be used uninitialized [-Werror=maybe-uninitialized]
 1009 |   StackLowerThanAddress(&dummy, &result);
      |   ~~~~~~~~~~~~~~~~~~~~~^~~~~~~~~~~~~~~~~
/usr/src/gtest/src/gtest-death-test.cc:999:6: note: by argument 1 of type ‘const void*’ to ‘void testing::internal::StackLowerThanAddress(const void*, bool*)’ declared here
  999 | void StackLowerThanAddress(const void* ptr, bool* result) {
      |      ^~~~~~~~~~~~~~~~~~~~~
/usr/src/gtest/src/gtest-death-test.cc:1007:7: note: ‘dummy’ declared here
 1007 |   int dummy;
      |       ^~~~~

As gtest's code is not our test target, let the compiler ignore warnings of gtest codes.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

[Edge] add mqtt functions

Add internal functions to handle mqtt message.
This is initial commit for mqtt-hybrid feature after separating the edge library.

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

[Edge] handle magic validation

Before adding mutex lock, update magic validation.

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

test/query: update gtest utc for updated protocol property.

We now use enum type for protocol property, which is NO MORE case insensitive.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

Query: fix protocol property handling

Protocols are enum. Use enum-param, not int or string.
With this, users can use both numbers and enum-strings.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

doc/filter subplugin: brief guide on how to write subplugin

To clarify which mechanism to use for new tensor-filter subplugin,
added a short guide on how to write tensor-filter subplugin.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

deb: cut the dependency on custom tflite binary

Custom tflite binary is supposed to be installed by users
afterwards.

Thus, cut the dependency from the deb packaging.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

dist: cut the dependency on custom tflite binary

Custom tflite binary is supposed to be installed by users
afterwards.

Thus, cut the dependency from the rpm packaging.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

Tensorflow-lite custom bin support: Plan B implemented

This addresses plan B of #3713

$ ldd build/ext/nnstreamer/tensor_filter/libnnstreamer_filter_tensorflow2-lite-custom.so
linux-vdso.so.1 (0x00007fffe21f2000)
libnnstreamer-single.so => /source/AutoDrv/NNStreamer/build/ext/nnstreamer/tensor_filter/../../../gst/nnstreamer/libnnstreamer-single.so (0x00007f08b5bba000)
/source/AutoDrv/NNStreamer/ext/nnstreamer/tensor_filter/libtensorflow2-lite-custom.so (0x00007f08b50a5000)
libdl.so.2 => /lib/x86_64-linux-gnu/libdl.so.2 (0x00007f08b4ea1000)
libglib-2.0.so.0 => /usr/lib/x86_64-linux-gnu/libglib-2.0.so.0 (0x00007f08b4b8a000)
libstdc++.so.6 => /usr/lib/x86_64-linux-gnu/libstdc++.so.6 (0x00007f08b477d000)
libgcc_s.so.1 => /lib/x86_64-linux-gnu/libgcc_s.so.1 (0x00007f08b4565000)
libc.so.6 => /lib/x86_64-linux-gnu/libc.so.6 (0x00007f08b4174000)
libgmodule-2.0.so.0 => /usr/lib/x86_64-linux-gnu/libgmodule-2.0.so.0 (0x00007f08b3f70000)
libgobject-2.0.so.0 => /usr/lib/x86_64-linux-gnu/libgobject-2.0.so.0 (0x00007f08b3d1c000)
libpthread.so.0 => /lib/x86_64-linux-gnu/libpthread.so.0 (0x00007f08b3afd000)
/lib64/ld-linux-x86-64.so.2 (0x00007f08b5ff8000)
libpcre.so.3 => /lib/x86_64-linux-gnu/libpcre.so.3 (0x00007f08b388b000)
libm.so.6 => /lib/x86_64-linux-gnu/libm.so.6 (0x00007f08b34ed000)
libffi.so.6 => /usr/lib/x86_64-linux-gnu/libffi.so.6 (0x00007f08b32e5000)

After this, we need the following commits.
1. a manual how to use tflite2-custom. (at /ext/nnstreamer/tensor-filter?)
2. a test case for tflite2-custom.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

test/query: parallel client launching shouldn't use gstTest

Don't use & fork with bash function.
Add timeout for launching.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

bash scripts: use python3 instead of python

We are removing python2 dependencies.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

dist/Ubuntu: remove python2 dependency

Use python3 instead.
Addressing #3774

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

dist/Tizen: remove python2 dependency.

Use python3 instead.
Addressing #3774

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

python scripts: use python3 instead of python in shebang.

From tests/*, tools/*, removing the usage of python3, update shebang.
Addressing #3774

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

[Log] use internal log function

Replace logutil - glib funcs, use predefined log functions.

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

test/query: use get_available_port.py

Use get_available_port.py instead of RANDOM number.
Moved get_available_port.py from nnstreamer_grpc to tests as it has now become a common test utility.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

test/query: wait for server launching, not 5 sec.

1. With busy CI servers, you don't know how much time it takes
to launch tensor-query-server instances.

Thus, wait for the pipeline launching, not a constant time.

Besides, you can use "wait" command for server exit.

2. Do not use & for ssat apis.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

[filter/deepview-rt] Add filter subplugin for DeepViewRT

This change implements a tensor filter subplugin to interface
with DeepViewRT inference engine:
https://www.embeddedml.com/deepviewrt

Plugin can be instanciated using NNStreamer filter element
with relevant properties:

tensor_filter framework=deepview-rt model=<rtm model file>
              [custom=[Engine:<path to engine shared lib>]
                      [Cache:<cache size in MiB>]
                      [MemPool:<memory pool size in MiB>]]

SSAT test suite addition for DeepView RT tensor filter plugin.

Sample model (mobilenet_v1_0.25_224.rtm) is derived from public
tflite model, converted to rtm format per procedure below:
$ wget http://download.tensorflow.org/models/mobilenet_v1_2018_08_02/mobilenet_v1_0.25_224.tgz
$ tar xvf mobilenet_v1_0.25_224.tgz
$ deepview-converter  ./mobilenet_v1_0.25_224.tflite ./mobilenet_v1_0.25_224.rtm

Signed-off-by: Julien Vuillaumier <julien.vuillaumier@nxp.com>

[Edge] base code for edge event

Update base code to handle edge event.

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

[Edge] code clean

1. Fix code style and condition to set raw data.
2. Use malloc instead of glib function.

TODO: implement lock to handle edge handles.

Signed-off-by: Jaeyun <jy1210.jung@samsung.com>

filter:tf-lite2-custom usage manual

For #3713, add a usage manual because it may be not too trivial
for non-system-sw developers.

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

[meson] Fix Yocto Kirkstone build issue

A build configuration error is seen on Yocto Kirkstone (4.0)
coming from commit:
https://github.com/nnstreamer/nnstreamer/commit/0584ce06e30f1dbb188bce2b370df53d335046dd

Signature of error:
meson.build:505:4: ERROR: Command "//recipe-sysroot-native/usr/bin/python3-native/python3 -m site --user-site" failed with status 1

Building with Yocto, native tools are sandboxed in build workspace,
there is no python user site.
This change is to prevent meson configuration to break when no user
site package is present.

Signed-off-by: Julien Vuillaumier <julien.vuillaumier@nxp.com>

[Meson] Fix warnings related to the run_command call

This patch sets the keyword argument, 'check', of the run_command
function to true in order to fix the following warnings:

WARNING: You should add the boolean check kwarg to the run_command call.
         It currently defaults to false,
         but it will default to true in future releases of meson.
         See also: https://github.com/mesonbuild/meson/issues/9300

Signed-off-by: Wook Song <wook16.song@samsung.com>

[decoder/bounding_box] Fix ssd box decoding without postprocessing

Boxes whose detection scores do not exceed the specified sigmoid
threshold shall never be reported as valid.

This changeset fixes current implementation whereby valid field
for a box is set only when its detection scores have passed the
threshold tests. Thus, if score test is not passed, valid field for
a box is inherited from the previous box score tests.

Therefore without this change, whenever one box passes the score
criteria, every subsequent boxes will be reported as valid, even though
their detection scores are low.
As a consequence, a very big number of boxes may be passed to the
next stage of NMS processing which causes processing overhead.

Signed-off-by: Julien Vuillaumier <julien.vuillaumier@nxp.com>

[macOS/Doc] Replace 'nnsuite' with 'nnstreamer'

This patch replaces the old organization name, nnsuite, remaining
in the Getting Started document with the current one, nnstreamer.

Signed-off-by: Wook Song <wook16.song@samsung.com>

[Tests/IF] Fix a build error related to -Winconsistent-missing-override

This patch fixes the following build error while compiling with clang in
macOS.

With clang in macOS:

../tests/nnstreamer_if/unittest_if.cc:65:8: error: 'TearDown' overrides a member function but is not marked 'override' [-Werror,-Winconsistent-missing-override]
  void TearDown ()
       ^
/opt/homebrew/Cellar/googletest/1.11.0/include/gtest/gtest.h:481:16: note: overridden virtual function is here
  virtual void TearDown();
               ^
1 error generated.

Signed-off-by: Wook Song <wook16.song@samsung.com>

[macOS/meson] Add a missing parameter to the sed's in-place edit option

In macOS, the '-i' option of the sed command requires a parameter to
tell what extension to use for the backup file. To this end, this patch
appends '.bak' to the '-i' option to fix the build errors on macOS.

Signed-off-by: Wook Song <wook16.song@samsung.com>

[mxnet] Add Doxygen tags for Predictor.hh

To suppress CI's complain and specify where this code came from.

Signed-off-by: Muhwan Kim <mhkim4886@gmail.com>

[mxnet] Change license of test code to LGPL-2.1

Detailed discussion here: PR #3742

Signed-off-by: Muhwan Kim <mhkim4886@gmail.com>

[mxnet] Use __FILE__ instead of hard-coded path to generate log message

__FILE__ macro is better, elegant way to print file names.

Signed-off-by: Muhwan Kim <mhkim4886@gmail.com>

[mxnet] Use copy option to suppress deprecation warning

meson have copy option for this usage

Signed-off-by: Muhwan Kim <mhkim4886@gmail.com>

[mxnet] Use official MXNet MXDType

Use datatype enum from MXNet instead of copied one

Signed-off-by: Muhwan Kim <mhkim4886@gmail.com>

[mxnet] Include nnstreamer_plugin_api.h

Use nnstreamer_plugin_api.h which is recommended

Signed-off-by: Muhwan Kim <mhkim4886@gmail.com>

[mxnet] Fix minor format issue

Add newline character to reduce line length

Signed-off-by: Muhwan Kim <mhkim4886@gmail.com>

[mxnet] Use kFileLocation instead of kFileUrl

We can still generate good message using kFileLocation.

Signed-off-by: Muhwan Kim <mhkim4886@gmail.com>

[mxnet] Fix typo

Fix typo speces -> spaces

Signed-off-by: Muhwan Kim <mhkim4886@gmail.com>

[mxnet] Change license of test script to LGPL-2.1

For this, being LGPL 2.1 doesn't incur problems (in PR #3742)

Signed-off-by: Muhwan Kim <mhkim4886@gmail.com>

[mxnet] Fix install directory of tests

Fix typo of unittest_filter_mxnet install directory reference.

Signed-off-by: Muhwan Kim <mhkim4886@gmail.com>

[mxnet] Add mxnet related variables in nnstreamer.mk

Add NNSTREAMER_FILTER_MXNET_SRCS vars in nnstreamer.mk

Signed-off-by: makesource <makesource@gmail.com>

[mxnet] Add unistd.h header in tensor_filter_mxnet

Add unistd.h header to use R_OK macro.

Signed-off-by: makesource <makesource@gmail.com>

[mxnet] Disable name mangling

Disable name mangling for init_filter_mxnet, fini_filter_mxnet functions.

Signed-off-by: makesource <makesource@gmail.com>

[mxnet] Add doxygen tags on top of simple_test_mxnet.cc

Add omitted some tags on top

Signed-off-by: Muhwan Kim <mhkim4886@gmail.com>

[mxnet] Convert comments into doxygen style

Convert original comments into @brief of doxygen style comments

Signed-off-by: Muhwan Kim <mhkim4886@gmail.com>

[mxnet] Initialize sourceid before use

Added initialize of sourceid

Signed-off-by: Muhwan Kim <mhkim4886@gmail.com>

[mxnet] Fix build error in test code

Fix the unused variable errors by adding UNUSED lines

Signed-off-by: Muhwan Kim <mhkim4886@gmail.com>

[mxnet] Fix unused parameter error

Fix build error by adding UNUSED lines

Signed-off-by: Muhwan Kim <mhkim4886@gmail.com>

[mxnet] Applied clang-format

Fix code format to follow .clang-format file

Signed-off-by: Muhwan Kim <mhkim4886@gmail.com>

[UNTESTED][mxnet] Add TensorRT support

Add TensorRT support for nnstreamer-filter-mxnet.
Like the previous commit, I will remove [UNTESTED] tag
after testing.

Signed-off-by: Bumsik Kim <k.bumsik@gmail.com>

[UNTESTED][mxnet] Add GPU support

Add GPU support for nnstreamer-filter-mxnet.
This should work if MXNet is properly compiled
but I don't currently have development environment
to test GPU acceleration. I will remove the UNTESTED
tag when I set up the environment and test it.

Signed-off-by: Bumsik Kim <k.bumsik@gmail.com>

[mxnet] Add simple test

This is a simple test to verify if nnstreamer-filter-mxnet works.
This may not be a proper test for upstream NNStreamer.
The main idea is to compare the outputs of the MXNet reference
implementation [1] and that of nnstreamer-filter-mxnet.

OpenCV is required to build this test.

[1]:
https://github.com/apache/incubator-mxnet/blob/1.7.0/cpp-package/example/inference/imagenet_inference.cpp

Signed-off-by: Bumsik Kim <k.bumsik@gmail.com>

[meson] Add mxnet support

Add nnstreamer-filter-mxnet in the meson build system.
The mxnet support flag is -Dmxnet-support=enabled

Signed-off-by: Bumsik Kim <k.bumsik@gmail.com>

[mxnet] Preliminary version of tensor_filter_mxnet

This patch newely adds MXNet support for tensor_filter.
This is based on tensor_filter_subplugin class. This currently does not
suppor the GPU acceleration but it will be added in later patches.

Since this project does not have a stable C++ coding convention, I
partially followed the Google C++ Style Guide [1] for naming and applied
.clang_format file in the root.

[1]: https://google.github.io/styleguide/cppguide.html#Naming

Signed-off-by: Bumsik Kim <k.bumsik@gmail.com>