[README] Add document pages to README.md

This patch adds document pages to README.md

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[profile] Update per-layer profiling

Ths patch updates per-layer profiling according to
the changed extended metadata format.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[doc] add initial files to generate hotdoc

This patch adds initial files to generate hotdoc.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[npubinfmt/profile] New proposal for profile extra metadata

This patch makes new proposal for profile extra metadata.
The two-level mapping table may be useful to users.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[npubinfmt] add extra info to store number of visa insts

This patch adds extra info to npubinfmt storing number of visa insts.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Release] NPU Engine 2.3.0 release

This patch makes new release for NPU Engine, v2.3.0.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Profile] Implement vISA to layer (tensor name) mapping

This patch implements vISA to layer (tensor name) mapping.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Doc/Fix] Update some documents to apply changed testdata path

This patch updates some documents to apply changed testdata path.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Profile] Get per-layer profiling info. from extended metadata

This patch gets per-layer profiling info. from extended metadata.
The detail parsing will be implemented soon.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Apptest/Doc] Add sample usage example using libnpuhost.h

This patch adds sample usage example using libnpuhost.h
to provide straightforward API examples for newbies.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[UnitTest/NPU] Remove some testcases for TRIV1

This patch removes some testcases for TRIV1.
The kernel driver does not support TRIV1 anymore.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[UAPI] Set model's npubinfmt version

This patch sets model's npubinfmt version.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[npubinfmt/profile] Add decription of extended metadata for profiling

This patch adds some description of extended metadata for profiling.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[npubinfmt/profile] Rename the magiccode's extra field

This patch renames `extra` field in npubinfmt's `magiccode`.
As it's confusing with extra version, it's renamed to `extended`.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Fix] Specify recurring test's target NPU to 8TOPS

This patch specifies recurring test's target NPU to 8TOPS.
Later, it will be changed to 2TOPS when testdata is ready.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Fix/UnitTest] Change the npu version for testing

This patch changes the npu version for testing.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Fix] fix a potential deadlock when calling join()

This patch fixes a potential deadlock when calling join().

If we don't guard a stop variable with the lock, after checking
the predicate of wait(), notify_all() can be performed early before
calling actuall wait().

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[TRIV2.3/API] Add new API to get a device instance with tops info

This patch adds new API to get a device instance with tops info.
It tries to find any available device with the given tops.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Release] npu-engine 2.2.10 release

This patch makes npu-engine's new release, v2.2.10

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[2TOPS/Fix] Use dynamic data granularity

This patch changes codes to use dynamic data granularity depending on
the npu tops and element size.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Coverage] Increase code coverage

This patch increases code coverage. Recently, we added some APIs.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Release] NPU Engine v2.2.9 Release

This patch makes new release for NPU Engine, v2.2.9.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Packaging/Fix] Remove unnecessary dependency

This patch removes unnecessary dependency for libncurses.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Profile] Revise profiling interface for TRIV2 kernel driver

This patch revises profiling interface for TRIV2 kernel driver.
It tries to keep the same interface with simulator's one.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Utils] Fix minor defects from svace analysis

This patch fixes minor defects from svace analysis.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Release] npu-engine release v2.2.8

This patch makes new release of npu-engine library, v2.2.8.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Profile] Implement the profile interface and fix minor bugs

This patch implements the profile interface synced with libmrpsim
updates and fixes some minor bugs.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Release] npu-engine release v2.2.7

This patch makes new release of npu-engine library, v2.2.7.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Utils/Trinity-SMI] Add an option to wait the interval between updates

This patch adds an option to wait the interval between updates in
the command line tool, trinity-smi. It requires ncurses as the extra
dependency.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Emul/2TOPS] Fix a wrong command filepath for 2TOPS NPU

This patch fixes a wrong command filepath for 2TOPS NPU
from triv2-2tops to triv2_2tops.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Host/Refactor] Move libnpuhost codes to ./src/host/

This patch makes refactoring for libnpuhost codes by
moving the codes to host/ne-host.cc from core/ne-handler.cc

In short, the patch includes
- Seperate host APIs from handler
- Move definitions from libnpuhost.h to typedef.h
- Remove inclusion of libnpuhost.h in core sources
- Remove unused variables

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[UTILS] Add a feature of trinity-smi to show list of apps/tasks

This patch adds a feature of trinity-smi to show list of apps/tasks

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Release] npu-engine 2.2.6 release

This patch makes new release of npu-engine, 2.2.6.
Please refer to ./CHANGES for details.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[README] Add the quick-start guide using docker

This patch adds the Quick-start guide using docker for npu-engine
users.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Utils] Prototype of trinity-smi for management and monitoring

This patch implements the prototype of trinity-smi, which is a
command line util for management and monitoring of trinity devices.

- trinity-smi (Trinity System Management Interface)

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Handler/API] Add libnpuhost APIs to get NPU device's TOPS

This patch adds libnpuhost APIs to get NPU device's TOPS

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Handler/API] Add libnpuhost APIs to get driver API level

This patch adds libnpuhost APIs to get driver API levle.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Util/Fix] Skip TRIV emulation on debian env.

This patch skips TRIV emulation on debian env.
We don't support TRIV emulation libary from now on.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Emul/2TOPS] Use environment variable to set the command file

This patch uses environment variable to set the command file
for libmrpsim. The 2-TOPS emulation uses different arch spec.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Release] npu-engine 2.2.5 release

This patch makes npu-engine 2.2.5 release.
Please refer to ./CHANGES for details.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Model/Tops] Check the TOPS which TRIV2 device supports

This patch adds the routine to check the TOPS device supports.
It compares the device's TOPS and model-described TOPS.
For backward-compatability, if TOPS is zero, it's regarded as "don't care"

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[npubinfmt] Add the size of dsp memory to npubinfmt

This patch adds the size of dsp memory to npubinfmt.h as extra
variable for DSP.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[npubinfmt] add macro to get 'TOPS' from npu_version

This patch adds macro to get 'TOPS' from npu_version field
in npubinfmt.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[UnitTest] Add LD_LIBRARY_PATH to test envionment

This patch adds LD_LIBRARY_PATH to test envionment.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Emul] Revise NPU emulation to use libmrpsim.so

From now on, we don't use libnpu-engine-emul.so. Instead,
libmrpsim.so will do such work, and support profiling as well.
Also, the emulation on Tizen env. is now disabled.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Fix/Coverage] Fix the coverage script

This patch fixes the coverage script to generate gtest .xml output
files.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Debian/Coverage] Generage coverage report on debian

This patch enables coverage report generation on debian env.
Because libmrpsim.so does not support Tizen, the way to generate
line coverage also needs to be changed.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Fix/AppTest] Increase the timeout for triv2 bulk apptest

This patch increases the timeout for triv2 bulk apptest,
from 100ms to 5000ms. It was too tight to execute FSRCNN
on FastModel envionment.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Test/Util] Revise some apptests to use common test utility

This patch revises some apptests to use common test utility.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[DataConvert] Add missing warning messages on data converter

This patch adds missing warning messages on data converter.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Release] npu-engine 2.2.4 release

This patch makes npu-engine 2.2.4 release

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[FIX] Fix input/output data size calculation

This patch fixes input/output data size calculation.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Release] npu-engine 2.2.3 release

This patch makes npu-engine 2.2.3 release.
Please check its details at ./CHANGES.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Profile] Implement the prototype of profiling APIs

This patch implements the prototype of profiling APIs.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Fix/Coverity] Resolve the reported coverity issues

This patch resolves the coverity issues reported by AnalysisHub,
which includes
- Uninitialized variables
- Resource leaks
- Race conditions

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Bug/Unregister] Fix the bug related to unregisterModels()

This patch fixes the bug related to unregisterModels ().
The original codes just clear a model vector structure,
which was supposed to call unsetModel() per each model.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[AppTests] Skip the test when the given model is not compatible

When the given model is not compatible with the test case, this patch
makes the test skip that model with a proper message instead of
regarding it as a failed case.

Signed-off-by: Wook Song <wook16.song@samsung.com>

[libnpuhost/profile] Add new APIs for NPU profiling

This patch adds new APIs for NPU profiling, but
they are not yet implemented.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[AppTests] Do not install the dummy apptests in normal release

Since the dummy apptests are only for the line coverage calculation,
this patch tunrns off the installation of those apptests in the normal
release.

Signed-off-by: Wook Song <wook16.song@samsung.com>

[AppTests/BulkGem] Fix a bug in destroying a DRM handle

This is a trivial patch that fixes a bug in destroying a DRM handle. It
returns 0 when it succeeds in destroying the given DRM handle.

Signed-off-by: Wook Song <wook16.song@samsung.com>

[UnitTest/Bug] Add deregisterModel() after runInput()

This patch adds deregisterModel() after runInput().
When we run this unittest twice, the kernel panic occurs.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[UnitTest] Reduce the sleep time for npu unittest

This patch reduces the sleep time for npu unittest.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Fix/AppTest] Deprecated enum in libtinyxml2-dev

This patch removes the build error in Ubuntu 18.04 (SPIN),
due to the deprecated enum (XML_NO_ERROR) in libtinyxml2-dev,

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[AppTest] Add apptest to test models with different constraints

This patch adds apptests to test models with different constraints
(e.g., priority), which can be used for multi-tasking.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[UnitTest] Add unit test cases to test functional of api in invalid case
and increase coverage

This patch add some test case and expectation
- ne_libnpuhost_test : call getNPUdeviceByType with invalid num_devices
- ne_core_sched_test: add negative test case for set/get apis.
- ne_core_handler_test: call unsetModel in uninitilized test case,
add triv_prepare_dma_input_buffers to test BUFFER_DMABUF type,
add triv_prepare_input_buffers2_n to test with empty buffers,
add handler_generic_buffers_n to test with BUFFER_UNDEFINED type,
add handler_triv_stop_internal_n to check stopInternal with invalid id,
add handler_common_get_npu_device_by_type_n to check getNPUdeviceByType
with invalid type.

Signed-off-by: Truong Van bac <bac.truong@samsung.com>
This patch add some test case, assertion and  expectation
- Increase coverage
- Add need assertion in some object
Signed-off-by: Truong Van bac <bac.truong@samsung.com>

[Fix/Utils] Use the standard library to restore format changes

This patch uses the standard library (i.e., std::ios_base::fmtflags)
to retore format changes in std::cout. It removes any side-effect.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Fix/Utils] Fix missing format restoration of model inspector

This patch fixes missing format restoration of model inspector,
reported by coverity.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Release] npu-engine 2.2.2 release

This patch makes npu-engine 2.2.2 release.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[TRIV2] Add data manipulation support for TRIV2

This patch adds data manipulation support for TRIV2,
which converts data layout between NHWC and HW format.

It includes data quantization as well.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[DataManip] Implement data converter class

This patch adds data converter class, which mainly perform
the data format conversion and quantization.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Fix/Utils] Fix typo in model-inspect.cc

This patch fixes typo in model-inspect.cc

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Bug/Weight] fix bug accessing weight seg idx when the data is empty

This patch fixes the bug accessing weight segment index
even when the weight data is empty.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Utils] Add npu-engine-utils packages

This patch adds npu-engine-utils packages.
Currently, we support only model-inspect.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[libnpuhost] remove unused APIs

This patch removes unused APIs.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[FIX/DMABUF] Fix external segments handling

This patch fixes external segments handling.
It was creating only one external segment.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Release] npu-engine 2.2.1 release and code freeze for release

This patch makes npu-engine 2.2.1 release and freezes the codes
for release.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[UnitTest] Remove unnecessary ifdef for emulation

This patch removes unnecessary ifdef for emulation.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Doc/Test] Add documentation for nnstreamer-private-subplugin

This patch adds documentation for nnstreamer-private-subplugin

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Fix/UnitTest] Resolve memory leaks in unittest

This patch resolves memory leaks in libnpuhost unittest

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Doc/Fix] Fix 'how_to_test.md' to distinguish host/fastmodel shell

This patch fixes 'how_to_test_md' documentation to make it possible
to distinguish host and FastModel's shells.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[FIX] resolve minor svace/coverity issues

This patch resolves minor svace/coverity issues such as
- Uninitialized variables in constructor
- Memory leaks in unittests

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Release] npu-engine release 2.2.0

This patch makes new release, 2.2.0, of npu-engine library.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[FIX/FPGA] Add driver-assisted memcpy for workaround solution

This patch adds driver-assisted memcpy for workaround solution.

In the current FPGA env, memcpy() between FPGAs makes bit-flip
for a certain memory regions. This workaround codes can avoid
this issue by driver-assisted codes.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Tests/Unit/Handler] Add a negative TC for registerModel()

This patch adds a negative TC for registerModel() in HostHandler.

Signed-off-by: Wook Song <wook16.song@samsung.com>

[Tests/Unit] Fix no-assertion TCs reported by TCM

This patch fixes two no-assertion test cases for utilities reported by
TCM.

Signed-off-by: Wook Song <wook16.song@samsung.com>

[Core/Utils] Make logWrite have a return value

This patch makes the logWrite method of Logger class have a return
value.

Signed-off-by: Wook Song <wook16.song@samsung.com>

[UnitTest] Add some negative cases for libnpuhost unittest

This patch adds some negative cases for libnpuhost unittest

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[UnitTest] Add new unittest for libnpuhost

This patch adds new unittest for libnpuhost.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Test/Util] Add util class for testing

This patch adds util class for testing.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Doc] Describe how to test NPU-DDK packages on FastModel

This patch makes new doc for describing how to test NPU-DDK packages.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[AHub/TCM] Add config.yaml for TCM on AHub

This patch adds a config.yaml file for Test Case Manager running on
the Analysis Hub infra.

Signed-off-by: Wook Song <wook16.song@samsung.com>

[Fix/UnitTest] Fix some unittests of ne-inf.cc due to timing issue

This fixes some unitests of ne-inf.cc.
Sometimes, invoke() returns -EBUSY due to the previous one.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[UnitTest] Increase unittests' sleep time to 100ms

This patch increases unittests' sleep time to 100ms.
In some emulated envionment, the original sleep time is too fast
to check certain negative cases.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Fix/UnitTest] Fix some unresolved coverity issues in handler unittest

This patch fixes some unresolved coverity issues in handler unittest

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Fix/AppTest] Remove a model instance in TesterTRIV2

This patch removes a model instance in TesterTRIV2 for each TRIV2
apptest. It makes svace/coverity warnings due to assigned file names.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Tests/App] Update the application-level test for hw-recurring task

This patch updates the application-level test for hw-recurring task
according to the changes in the kernel driver.

Signed-off-by: Wook Song <wook16.song@samsung.com>

[Core/NPUDrvAPI/Triv2] Implement stop_target()

This patch adds implementation of the virtual function, stop_target().

Signed-off-by: Wook Song <wook16.song@samsung.com>

[Test] Slightly increase test time

This patch slightly increases test time. Otherwise, some unittests
are failed due to timing issue.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Coverage] Increase the code coverage for HWmem

This patch increases the code coverage for HWmem.
The final coverage for 'ne-hwmem.cc' is 100%.

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>

[Coverity] Resolve coverity issues due to uninitialized variables

This patch resolves coverity issues due to uninitialized variables
(UNINIT_CTOR, UNINIT).

Signed-off-by: Dongju Chae <dongju.chae@samsung.com>