[Plugins] Create sub-directory for plugins

This patch creates sub-directory for plugins such as nnstreamer, npumgr,
and so on. The exsiting codes will be moved to there.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Apptest] Add apptest to test API call interleaving

This adds apptest to test API call interleaving for multiple models.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Release] NPU Engine v2.3.12 release

This patch makes new release for npu-engine, v2.3.12.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Action] Test gbs build and upload packages

This patch adds github workflows to test gbs build
and upload rpm packages.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Segment] adds segment size info. for external memory

This patch adds segment size info. for external memory
to the segment table.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[README] Add github action badge

This patch adds github action badge.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Action] Add test script for github action

This patch adds test script for github action.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[InputService] Perform refactoring for input services

This patch performs refactoring for input services.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Test] Add aging test to repeat whole APIs

This patch adds aging test to repease whole APIs.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Data] Support data layout conversion between NCHW and TRIV2

This patch supports data layout conversion between NCHW and TRIV2.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Release] NPU Engine v2.3.11 release

This patch makes new release for npu-engine, v2.3.11.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Apptest] Add extra aging test to repeat model register/unregister

This patch adds extra aging test to repeat model register/unregister.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[npubinfmt] Add data layout for inout tensors to npubinfmt.h

This patch adds the model-expected data layout for input/output
tensors to npubinfmt.h

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[HW] Revise HW input service

This patch revises HW input service's implementation.

It's now connected to submitNPU_requestKernel() which uses
internal input/output data from third-parity kernel modules.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Apptest] Add aging test mode and check mem leak

This patch adds aging test mode and check mem leak.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Svace] Fix svace defects

This patch fixes svace defects.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Bug/dealloc] Add missing close() on hwmem dealloc

This patch adds missing close() on hwmem dealloc.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[SegmentTable] Bug fix when restoring the segment table

This patch fixes the bug when restoring segment table for re-use.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Apptest] Add apptest for multiple inferences (againg test)

This patch adds apptest for multiple inferences.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[API] Add API to get model id of request and handle empty weight

This patch adds APi to get model id of request and handle the case
that model contains empty weight data.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[API] Allow to submit a request multiple times

This patch allows to submit a request multiple times.
But, users should call removeNPU_request().

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[CodeClean] Add newline between variable and doxygen comment

This patch adds newline between variable and doxygen comment.
Otherwise, clang-format makes undesirable line-breaks in variable
definitions.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[API] Add API to submit requests for kernel modules

This patch adds API to submit requests for kernel modules.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Bug] Fix the bug when setting npumgr param

This patch fixes the bug when setting npumgr param.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Release] NPU Engine v2.3.10 release

This patch makes new release for npu-engine, v2.3.10.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[API] Implement decoupled APIs for network inferencing

This patch implements decoupled APIs for network inferencing.
It allows for users to configure their requests before submission.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[NPUMGR/Dummy] Enable NHWC format handling

This patch enables NHWC format handling.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[API] Add decoupled inference APIs (request submission)

This patch adds decoupled inference APIs to create, configure,
and submit a request.

But, this PR only contains their prototype yet which is TBU.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[API/Log] Add Logging API for users with custom tag

This patch adds logging API for users with custom tag.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[UnitTest] Add missing task handle initialization

This patch adds missing task handle inititialization.
UINT32_MAX indicates it uses SR task scheduler.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Log] Add missing error logs for triv2 driver API

This patch adds missing error logs for triv2 driver API.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[VD/NPUMGR] Add tizen-npumanager dependency

This patch adds tizen-npumanager dependency.

It's used only when 'vd_npumgr' option is provided.
Otherwise, dummy npumgr module is used.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Docs] Add some document for DBus application

This patch adds some document for DBus application.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Fix] Remove the dependency with npu scheduler

This patch removes the dependency with npu scheduler.
Only when taks_handle is set, npu scheduler is used.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Docs] Fix a simple typo in README

Corrected 'compatibile' to 'compatible'.

Signed-off-by: Dongjin Na <dongjin.na@samsung.com>

[Docs] Add documents to enable ssh connections

This patch adds documents to enable ssh connections.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Coverage] Fix coverage report's version

This patch fixes the version of coverage report.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[TCM] remove '#ifdef' in outside of TCs

This patch remvoes `#ifdef` in outside of TCs
because TCM cannot detect such macros.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[FIX/VD] Rename npu schduler device and other kernel enum types

This patch renames npu schduler device and other kernel enum types.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Release] NPU Engine v2.3.9 release

This patch makes new release for NPU Engine, v2.3.9.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Docs] Add the detail test lists

This patch adds the detail test lists.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Bug] Fix metadata memcpy bug

This patch fixes the bug about metadata memcpy.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Docs] add additional info. to the FPGA testing document

This patch adds additional info. to the FPGA testting document.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Misc] Update CODEOWNERS

This patch adds new coder owner for code review.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Svace] Fix memory leak

This patch fixes memory leak.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Coverage] Increase function coverage

This patch increases function coverage for unused types.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Docs] Add document for FPGA testing

This patch adds documents for FPGA testing.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[FPGA/FIX] fix some apptests for FPGA env.

This patch fixes some apptests for FPGA env.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Coverage/Fix] Enable lcov coverage analysis

This patch enables lcov coverage analysis to calculate TEM.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[FIX/FPGA] Enable data manipulation in FPGA env.

This patch enables data manipulation in FPGA env.
It also adds a test option to enabel TRIV2 data format.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Build/Fix] Add a meson option to select target platform

This patch adds a meson option to select target platform

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Docs] Update package version and remove xenial support

This patch updates package version and remove xenial support.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Coverage] Increase coverage for profiler

This patch increases coverage for profiler.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Release] npu-engine 2.3.8 release

This patch makes new release for npu-engine.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Tests/Fix] Use NHWC format to compare golden data

This patch uses NHWC format to compare golden data.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Profile/Tests] Add a profile option to select profile level

This patch adds a profile option to select profile level in tests.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[FIX/PROFILE] Fix profile data alignment shared with driver

This patch fixes profile data alignment shared with driver.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Debian] Increase the minimum version dependency of libmrpsim

This patch increases the minimum version dependency of libmrpsim.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Fix/Coverity] Fix coverity issues not checking return values

This patch fixes coverity issues that some codes do not check
return values of lseek().

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[VD/NPUMGR] Implement network execute APIs

This patch implements network execute APIs of VD NPUMGR.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[API] Add a common API to cover runNPU_sync/async

This patch adds a common API to cover runNPU_sync/async.
It also allow for users to provide pre-allocated input/output.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[VD/NPUMGR] Implement buffer-related APIs

This patch implement buffer-related APIs and its backend modules.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Build/Fix] Remove unnecessary glib dependency

This patch removes unnecessary glib dependency.

VD NPUMGR requires glib-2.0 dependency but it's provided
by npu-engine-example and available only in the Tizen env.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[VD/NPUMGR] Daemonize NPUMGR runnable in FastModel

This patch makes daemonized NPUMGR which is runnable in FastModel.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[API] add an API to calculate a tensor size of model

This patch adds an API to calculate a tensor size which
the target model assumes.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Comm/FD] Allow to read file contents via a file descriptor

This patch allows to read file contents via a file descriptor.
Some user may want to pass just a file descriptor, not file name.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Tests/Utils] Separate common functions from test utils

This patch separates common functions from test utils.
It will be useful for some tests without npu-engine dependencies.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Fix/Triv2] Fix checking a file descriptor of npu_sched driver

This patch fixes checking a file descriptor of npu_sched driver.
A file descriptor returned by `::open` can have even zero.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[VD/NPUMGR] Implement network/tensor query functions

This patch implements network/tensor query functions of
TRIV2's VD NPU Manager plugin.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[VD/NPUMGR] Implement network create/destroy

This patch implements network create/destroy in VD NPU Manager.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[VD/NPUMGR] Add the TRIV2 plugin prototype of npumgr

This patch adds the TRIV2 plugin prototype of npumgr.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Release] npu-engine 2.3.7 release

This patch makes new release npu-engine 2.3.7.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[FIX] Update test models v2.3.4 to v2.3.5

This patch updates test models v2.3.4 to v2.3.5.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[API/Profile] Add the profile opcode

This patch adds the profile opcode.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[API/Profile] Seperate profiling data

This patch seperates profiling data depending on its profile level.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[API/Profile] Implement getNPU_profile_opt()

This patch implements `getNPU_profile_opt()`, which is a variant of
the existing `getNPU_profile()`.

It requires an extra argument called `npu_profile_opt`.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Svace] Fix minor svace issue

This patch fixes some minor svace issues
- UNINIT_CTOR
- RESOURCE_LEAK

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Release] NPU Engine 2.3.6 release

This patch makes new release, npu engine v2.3.6.
Please refer to ./CHANGES for the detail.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Utils/Cuse] Support profiling ioctl () of CUSE device.

This patch supports profiling ioctl () of CUSE device.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Utils/Cuse] Implement run_input ioctl and connect libmrpsim

This patch implements run_input ioctl, connecting libmrpsim APIs.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Utils/Cuse] Implement model register/deregister ioctls

This patch implements model register/deregister ioctls in
the CUSE driver.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[VD/NPUMGR] Implement the protoype of NPU Manager

This patch implements the prototype of NPU Manager.

Because the VD NPU manager is GDBus-based thread application,
we can simply emulate the NPU manager using GDBus server, client,
and the corresponding test program.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Clang] Add .clang-format and apply updates

This patch adds .clang-format and apply updates over
the whole source codes.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[API/Profile] Add profile data path to the profile data struct

This patch adds profile data path (.rec) to the profile data struct.
Also, the prefix directory can be set using envvar (NE_PREFIX_PROFILE).

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[SAM] Add the exclude list of SAM.

This patch adds the exclude list of SAM.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Utils/Cuse] Implement hwmem alloc/dealloc via Cuse driver

This patch implements hwmem alloc/dealloc via Cuse driver.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Utils/Cuse] Add the prototype of trinity-cuse

This patch adds the prototype of trinity-cuse, which is a
CUSE-based user-level device driver, and thus can be utilized
in the tizen emulator to provide a virtual device node.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Fix] Distinguish between Debian and Emul. envionment

This patch fixes the build script to distinguish between
Debian and Emul. envionment.

Previously, we have assumed that Debian supports only emulation
using libmrpsim. But, we have to also support Debian env. without
direct emulation. Instead, it may use a fuse driver to access
libmrpsim.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Fix] Reduce the maximum device nodes

This patch fixes the routine checking device node availability.
The maximum device nodes is uncessarily too large (i.e., 255).

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[README] Update deprecated descriptions

This patch updates deprecated descriptions in README.md.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Coverage/Fix] Add error handling to the coverage analysis script

This patch adds error handling to the coverage analysis script.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Fix] Rename 'task' to 'request'

This patch renames 'task' to 'request'.

As VD I/F has used 'task' to describe scheduling task, it makes confusion.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Docs] Add documents for Tizen MLAPI sample app

This patch adds documents for Tizen MLAPI sample app.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Release] NPU Engine 2.3.5 release

This patch makes new release, npu engine v2.3.5.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Profile] Add start/end cycles for profiling

This patch adds start/end cycles for profiling.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Emul/Tizen] Enable emulation mode in Tizen env.

This patch enables emulation mode in Tizen env.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Release] npu-engine release v2.3.4

This patch makes new release v2.3.4

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Profile] Support layer manipulation in kernel profiling

This patch supports layer manipulation in kernel profiling.

Previously, the layer manipulation was supported in emulated
driver API using the mrpsim simulator.

In this patch, I added ModelProfiler class to provide common
interface used in both simulator and kernel driver.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Profile/Fix] Rename 'unknown' layer to 'unclassified' layer

This patch renames 'unknown' layer to 'unclassified' layer.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Profile/Fix] Increase the max length of layer name

This patch increases the max lengh of layer name.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>