[Build] Fix build flags for C/C++ in meson.build

This patch fixes build flags in meson.build.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Svace] Fix svace issues due to unittest codes

This patch fixes svace issues due to unittest codes.

This includes
- NO_CAST.INTEGER_OVERFLOW
- DEREF_OF_NULL.RET.STAT
- INTEGER_OVERFLOW
- DOUBLE_FREE.EX

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Core/NPU/Meson] Add fallback dependency on npu-engine-emul

This patch makes meson find the npu-engine-emul without user-defined
PKG_CONFIG_PATH.

Signed-off-by: Wook Song <wook16.song@samsung.com>

[UnitTests] Fix build warnings about -Werror=sign-compare

This patch fixes build warnings about -Werror=sign-compare in the unit
test cases.

Signed-off-by: Wook Song <wook16.song@samsung.com>

[NPUdrvAPI] Add init() to check a device is available

This patch adds init() to check a device is available.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Coverage] Use gcovr for coverage analysis, instead of unstable lcov

This patch uses gcovr for coverage analysis, instead of unstable lcov.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[UnitTest/Handler] Add HostHandler unittests

This patch adds HostHandler unittests.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Revision] Revise handler and related components

This patch revises handler and related components.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[UnitTest/Buffer] Revise buffer impl. and add its unittests

This patch revises buffer impl. and add its unittests

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[UnitTest/Sched] Revise the scheduler impl. and add its unittests

This patch revises the scheduler impl. and add its unittests.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[UnitTest/Model] Revise model and add its unittests

This patch revises model and add its unittests

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[UnitTest/Mem] revise memory allocator and add its unittests

This patch revises memory allocator and add its unittests

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[UnitTest/Inf] Revise inf impl. and revise its unittests

This patch revises inf impl. and revises its unittests.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[UnitTest/InputService] Revise inputservice and add its unittests

This patch revises inputservice add add its unittests

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[UnitTest/HWmem] Revise HWmem impl. and add unittests

This patch revises HWmem impl. and add unittests

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Svace] Fix unresolved svace issues

This patch fixes unresolved svace issues.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[doc] Update the spin repo url, missed in the previous commit

Thie updates the spin repo url in doc missed in the previous commit.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Svace] Fix svace defects reported by ahub service

This patch fixes save defects reported by ahub service

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Doc] Update some documentation due to the changed SPIN repos.

This patch updates some documentation due to the changed SPIN repos.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[UnitTest/Utils] Revise conf/utils and add their negative unittests

This path modifies the naive impl. of getConf(), and adds negative test
cases for utils/conf.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[UnitTest/ThreadPool] Revise ThreadPool and add its unittests

This patch revises the thread pool sources and add the unittests.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Badge] Add a SAM Score badge

This patch adds a SAM Score badge.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[UnitTest/NPU] Add NPUdrvAPI (emulation only) unittests

This patch adds NPUdrvAPI (emulation only) unitests.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[UnitTest/Comm] Add CommPlugin unittests

This patch adds CommPlugin unittests

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[npubinfmt/triv2] NPU binary format for TRIV2 models

This commit appends the NPU binary format for TRIV2 models.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

Update software stack url and log tag info

this patch updates software stack url and log tag info.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Refactor/Build/Tests] Revise meson.build and test sources

This patch revises meson.build and some test sources.
Also, most of test cases are disabled temporally.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Refactor/libnpuhost/Handler] Revise host handler and libnpuhost.h

This patch revises the host handler and libnpuhost APIs.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Refactor/Scheduler/Inf] Revise scheduler/inference engine

This patch revises the scheduler and inference engine.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Refactor/InputService] Revise input services

This patch revises the input service interface.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Refactor/ThreadPool] Revise thread pool for input services

This path revises the thread pool for input services.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Refactor/Comm] Revise Comm. Plugin interface and IP plugin impl.

This patch revises comm. plugin interface and IP plugin implementation.
It now handles only data transfer between npu-engine and outside.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Refactor/Mem] Revise memory allocator

This patch revises memory allocator in npu engine.
The configuration devices which memory allocator will be used.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Refactor/Model/Buffer] Revise Model/Buffer derived from HWmem

This patch revises model and buffer implementations, derived from
HWmem class.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Refactor/HWmem] Revise Hardwar memory (HWmem)

This patch revise Hardware memory structure & implementation.
Model and Buffer will be derived class of HWmem, and HWmem has
different implementation. It's designed to use bridge pattern.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Refactor/NPU] Revise NPU driver APIs

This patch revises NPU driver source codes in npu-engine.

1) Seperate each device impl. into different files.
2) Use the driver API instance in npu-engine components.

This only implementes APIs of emulation. We need to implement
other device's APIs in near future.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Refactor/Utils] Revise utility/conf features

This patch revises utility/conf features in npu-engine.

1) Move the related sources to ./utils folder
- To remove the Module Cycle Dependency (MCD) in SAM analysis.

2) Replace C-based library implementation to standard library

3) Remove 'working_dir' and add 'num_threads' in configuration.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

Remove the unused header, NPUARMPlugin.h

This patch removes the unsed header, NPUARMPlugin.h

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[SAM] Remove unused files before applying SAM report

This patch removes unused files before applying SAM report.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[IOCTL] Rename GET_READY to GET_STATE

According to changes in the device driver, this patch renames the IOCTL
named TRINITY_IOCTL_GET_READY to TRINITY_IOCTL_GET_STATE.

Signed-off-by: Wook Song <wook16.song@samsung.com>

[Core/IP] Use the device name prefix for trinity vision as 'triv-'

This patch fixes a bug related to the device node name for the trinity
vision device.

Signed-off-by: Wook Song <wook16.song@samsung.com>

[Core/NPU] Change the device name of vision npu to triv-$id

This patch changes the device name of vision npu to use the suffix,
'-${device_id}'.

Signed-off-by: Wook Song <wook16.song@samsung.com>

[Fix/ioctl] always initialize the ioctl arguments to zero

This patch initializes ioctl arguments to zero.

It's to prevent from forgetting to initialize newly added variables
in the ioctl argument structures.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[npubinfmt] variable-length metadata size

This patch makes the metadata size be a variable-size.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Mem/GEM] add the memory/GEM API to allocate segments

This patch adds the memory/GEM API to allocate segments

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Refactor/GEM] Refactor GEMdrvAPI to seperate emulation codes

This patch makes refactor of GEMdrvAPI to seperate emulation codes

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[ASR] Disable the ASR apptest for a while

This patch disables the ASR apptest until the TRIA driver is prepared.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[cgem/version] Fix the version handling in cgem driver API

This patch fixes the version handling in cgem driver API.

After the Tizen base is updated, the original version checking
is not working. Thus, we now reply on the standard drm driver
version check API (i.e., drmGetVersion) in libdrm/xf86drm.h.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Handler] Fix error handling on output allocation

This commit fixes error handling on output allocation

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Release] NPU Engine 1.2.0 release

This commit makes the NPU Engine 1.2.0 release

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Version] Make meson.build forward the version info. to sources

This commit is to make meson.build forward the version info. to sources.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Priority] Disable the comment-out of priority setting

This commit disables the comment-out of priority setting as
the kernel header was newly updated.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Refactor] Refactor according the changes in the device driver

This patch applies the recent changes in the kernel device driver [1] to
the related modules.

[1] 27ff14af [Drivers/SRNPU] Restructure SRNPU Core and Vision drivers

Signed-off-by: Wook Song <wook16.song@samsung.com>

[Release] NPU Engine release 1.1.4

This commit makes a NPU Engine release 1.1.4

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[UnitTest] change the way to run unittests in debian/rules

This commit changes the way to run unittests in debian/rules

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Fix] Rename DSP-related ones to HW/Recurring

This commit renames DSP to HW/recurring because TRIV2 already
contains DSP inside SoC, and we don't know exact HW used in VD.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Dist] Fix .spec file for Tizen dist

This commit fixes .spec file (e.g., wrong syntax, missing manifest)

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Dist] Add install_rpath for test cases

This commit adds install_rpath for test cases

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[ThreadPool/UnitTest] Add unittest to test thread pool functionality

This commit adds unittest to test the functionality of thread pool.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[CleanUp/UnitTest] Revise some unittests

This commit revises some unittests.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[DSP/ThreadPool] Handle tasks with high priority immediately

This commit handles tasks with high priority immediately.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[InputService/DSP] Add internal input service with DSP

This commit implements DSP input service for TRIV-2.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[ThreadPool] Seperate the thread pool impl. from host inputservice.

This commit seperates the thread pool impl. from host inputservice for
other input services.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[API/DSP] Implement runNPU_internalInput() for VDNPU with DSP inputs

This commit implements runNPU_internalInput() for VDNPU with DSP inputs.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Tests] Revise unit/apptests to sync with updated interfaces

This commit revises unit/apptests to sync with updated interfaces.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Revision] Revise ne-host-inputservice.c to use thread pool

This commit revises ne-host-inputservice.c to use thread pool.
For no buffering mode, user library needs to manage multiple threads.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Revision] Implement no buffering for NPU inference

This commit implements no buffering for NPU inference.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Option] Add the option to manage buffering

This commit adds the option to manage buffering.
We are going to move the duty of scheduling to kernel driver.
This option will handle this.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[API/Priority] Add the API to set timeout/priority per model

This commit adds the API to set timeout/priority per model.
Note that per-request handling requires more software burdens, and API
modification, which are not desirable.
Also, we now support three types of priorities for inference requests,
HIGH, MID, and LOW.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Release] NPU Engine release 1.1.3

This commit makes NPU Engine release 1.1.3

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Dist] Specify install_rpath for ubuntu users

This commit specifies install_rpath for ubuntu users

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Testdata] Remove unnecessary model testdata

This commit removes unnecessary model testdata.
This was already moved to another repo.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[AppTest] Skip model apptests to remove testdata build dependency

This commit skips model apptests in npu-engine, but CI server will
perform this test instead.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[NPU/UnitTest] Add a missing setup related to timeout, before run_input()

This commit adds a missing setup of timeout before run_input()

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Release] NPU Engine v1.1.2 release

This commit makes NPU Engine v1.1.2 release.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Doc] Fix updated information

This commit fixes updated information

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[VOC/API] Add a host API to get model metadata

This commit adds a host API to get model metadata.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Release] 1.1.1 release

This commit makes a NPU-Engine release, 1.1.1.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Bug/DataManip] Fix bug: skip data manip. when LAYOUT_SRNPU is used

This commit fixes the bug that performed data manipulation on LAYOUT_SRNPU.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Coverage] Add a missing dependency for coverage generation

This commit adds a missing dependency for coverage generation, python.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Release] NPU Engine 1.1.0 release

This commit makes a NPU engine release, 1.1.0

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Refactor] Remove npu emulation and testdata generation

This commit removes npu emulation and testdata generation from NPU
engine. They would be provided from other packages.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Release] release 1.0.1

This commit makes a npu-engine release, 1.0.1.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Fix/TestGen] Remove uncessary input tensors

This commit removes uncessary input tensors for testcase generation.
Only 'in0' input tensor in the first layer is valid.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Release] NPU engine 1.0.0 release

This commit releases new version of NPU engine, 1.0.0.
Now we need to consider the version matching with NPU_Linux-kernel.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[TestdataGen] Reuse NPU emul to generate reference data for tvn models

This commit reuses NPU emul to generate reference data for tvn models.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Refactor/Emul] Refactor NPU emulations for random testdata generation

This commit refactors NPU emulation for random testdata generation.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Timeout] Change codes to send timeout information to the kernel

This commit changes related source codes to send the timeout information
to the srnpu kernel driver.
Also, it adds timestamp to include the time consumed in software stack
as well as execution time of npu inference.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Test] Enable apptests using actual models only on x86_64

This commit enables apptests using actual models only on x86_64.
Qemu emulation is too slow to handle I/O operations.
Also, FastModel will test them on aarch64, so it's redundant.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Test/tvn] Exclude models with bugs

This commit excludes some models with bugs.
It was reported to NPU_Compiler part.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[AppTest] Revise visa example apptest for readability

This commit revises example apptest for readability.
It will be reused for tvn models, too.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Packaging] Do not generate testdata for armv7l

This commit disables generating testdata for armv7l.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[ne-host-input-service] Add support for model ID

When a model is set in the NPU, NPU now returns a model ID.
This model ID is to be passed back to NPU indicating the model to use
when the given input is to be run.
This allows different models to be registered to the NPU and run inputs
one by one in order or out of order without having to worry to register
model again and again from user side.

This PR adds support for this model ID.

Signed-off-by: Parichay Kapoor <pk.kapoor@samsung.com>

[BUG/NPUemul] add missing break in switch statement

This commit adds missing break in switch statement.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[README] Update README.md for the updated test directory

This commit updates README.md for the updated test directory.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Test/Model] Change the test directory from ./src/test to ./tests

This commit changes the test directory from ./src/test to ./tests.
Also, this new directory now includes pre-built model binaries.
(e.g., NPU models from NPU_Compiler)

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[libnpuhost] Add the API to set timeout for next inferences

This commit adds the API to set timeout for next inferences.
It will be called before runNPU_* functions.
Also, if the timeout is zero, the next inferences are regarded
as time-critical tasks (i.e., preemption mode).

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[FIX] Set buffer data to zero in the test mode

This commit sets buffer data to zero in the test mode.
Otherwise, it causes valgrind warnings.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Test] Disable example_visa apptest in armv7l

This commit disables example_visa apptest in armv7l.
The libnpuvision library often makes segmentation fault in armv7l, but
we cannot fix this.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Release] NPU engine 0.0.7 release

This commit releases NPU engine 0.0.7.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>