[logo] Introduce Passes header (#6945)

* [logo] Introduce Passes header

This will introduce Passes header that includes all Pass header files

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* sort and add comment

Fix svace: uninit variable (#6948)

- Fix WGID 405904
- Fix by adding initialization

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Fix svace: uninit variable of Execution (#6934)

- Fix WGID 405897
- Remove explicit initialzation

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

[logo] Introduce SimplifyDomainConversionPass (#6941)

This will introduce SimplifyDomainConversionPass copied from moco

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] Introduce RemoveForwardNodePass (#6937)

This will introduce RemoveForwardNodePass copied from moco

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] Introduce RemoveDeadNodePass (#6935)

This will introduce RemoveDeadNodePass copied from moco

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] Introduce ResolveDuplicateReshapePass (#6938)

This will introduce ResolveDuplicateReshapePass copied from moco

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] Introduce ResolveRedundantReshapePass (#6940)

This will introduce ResolveRedundantReshapePass copied from moco

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] Introduce ReorderDecodePass (#6936)

This will introduce ReorderDecodePass copied from moco

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Introduce nnpackage_tool directory (#6933)

I would like to put all nnpackage-related tools under one directory.
Thus, I introduce `tools/nnpackage_tool` and move `nnpackager` into it.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[logo] Introduce ConstantFoldingPass (#6923)

* [logo] Introduce ConstantFoldingPass

This will introduce ConstantFoldingPass compiled from moco

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* add requires items

Fix svace: deref nullptr (#6925)

- Fix WGID 405891
- fix by using polymorphic_downcast instead of dynamic_cast

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

[locop] Replace deprecated FixedArityNode class (#6927)

This commit revises locop to use FixedArity mix-in instead of deprecated
FixedArityNode class.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[exo-tflite] Fixed how not-yet-implemnented op is printed (#6905)

Change " " to "_" since " " may look weird.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[locop] Show Graph Input/Output (#6911)

LinearV1 Graph Format now shows graph input/output metadata, too.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[mir_caffe] Do not set names of operations (#6814)

Remove useless setting of operation names.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnpkg_run] use chrono to measure time (#6858)

Use c++ chrono instead of linux's gettimeofday

Signed-off-by: Vladimir Plazun <v.plazun@samsung.com>

[mir_onnx] Dropout operation versioning (#6898)

* Supported V1, V6, V7, V10 dropout versions

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[nnpkg_run] implement dump (in h5 format) (#6669)

It dumps outputs in h5 format.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[neurun]Fix HE scheduler shuffle cond and schedule ret val (#6899)

* [neurun]Fix HE scheduler shuffle cond,schedule ret

Also fixed returning way of Scheduler::schedule: so for it created a
copy of _backend_resolver instead of moving existing one

Signed-off-by: Poshshoev Dilshodzhon <d.poshshoev@samsung.com>
* Address reviews

Signed-off-by: Poshshoev Dilshodzhon <d.poshshoev@samsung.com>

[nnpackage] Move nnpackage out of runtimes/contrib (#6848)

Move nnpackage out of runtimes/contrib

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Fix typo in i5diff README.md (#6921)

This patch fixes typo in i5diff README.md.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Fix svace: uninit variable for AddLayer (#6873)

* Fix svace: uninit variable for AddLayer

- Fix WGID 405897
- Initialize member variables

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>
* fix format

[exo-tflite] Adding FixedArityNode (#6917)

FixedArityNode is copied from loco since loco::FixedArityNode's destiny is doomed.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[loco] Remove unused methods from Push (#6904)

No code uses "rank" and "dim" method in Push class.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[loco] Clean up deprecated CanonicalNodeImpl (#6903)

Let's clean up CanonicalNodeImpl deprecated by CanonicalNodeDef.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[loco] fix MultiDialectShapeInferenceRule.test (#6913)

This will add CanonicalShapeInferenceRule to MultiDialectShapeInferenceRule as there are Canonical dialect node Pull and Push in the graph

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] Introduce PhaseRunner (#6909)

This will introduce PhaseRunner that runs group of Pass(es) that is defined as a Phase

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Fix pacl test fail (#6914)

Skip all svdf test on pacl

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[exo-tflite] Introducing EXOTFLITE_ConvertRelu knob (#6918)

This commit adds EXOTFLITE_ConvertRelu knob.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[nnpkg_run] Use HDF5 shared library for both x86_64 and arm (#6910)

Let's use same type of hdf5 library for `nnpackage_run`.
Currently arm uses hdf5 static linking, x86_64 uses shared one.

I've found that `aec` linking bug exists in shared library also.
Thus, if condition is removed from HDF5Config.cmake.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Update nnapi generated test for v1.0 operations (#6819)

Update nnapi generated test spec files for v1.0 operations to match with current android nn runtime master

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-tf] Introduce FixedArityNode (#6907)

This commit introduces moco-tf internal FixedArityNode class as the
first step to remove FixedArityNode from loco.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[exo-tflite] Introducing Logging (#6896)

* [exo-tflite] Introducing Logging

This adds classes related to Logging. These are borrowed from moco except 1) removed logging of annoted padding, 2) change namespace

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* int to uint32_t

[exo-tflite] Introducing TFLRelu class (#6893)

* [exo-tflite] Introducing TFLRelu class

This adds TFLRelu class. summary() of TFLFormattedGraph is also added (without this warning will occurs)

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* change the way how 'unused variable error' is handled

[logo] Introduce Pass (#6889)

* [logo] Introduce Pass

This will introduce logo project with Pass base class to provide loco graph trasformations

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* change test group

[nnpkg/tflite_run] make help option work (#6879)

Currently, tflite/nnpackage_run does not recognize help option.

It complains like:

$ LD_LIBRARY_PATH=Product/out/lib Product/out/bin/nnpackage_run --help
terminate called after throwing an instance of 'boost::exception_detail::clone_impl<boost::exception_detail::error_info_injector<boost::program_options::required_option> >'
  what():  the option '--nnpackage' is required but missing
  Aborted (core dumped)

This patch fixes it by notifying errors after parsing help option.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[moco-tf] changing int to uint32_t (#6902)

changing int to uint32_t to make the type of lhs and rhs of comparison

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo-tflite] Introducing Knob for exo-tflite (#6895)

Knob for exo-tflite is added. Initially `EnableTFLDialect` knob is added.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[res] Remove renamed old Multiple_IO_XXX (#6891)

This commit removes renamed old Multiple_IO_XXX tests.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[mir_onnx] MatMul operation support (#6797)

* Added MatMulNodeConverter
* Fix registration and cmake

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[mir_onnx] ReduceMean operation support (#6798)

* Added ReduceMeanNodeConverter
* Registration and cmake for converter

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[mir_onnx] Fix is_test attribute checking (#6831)

Reverse `is_test` attribute testing. Only `is_test` mode is supported.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir] Remove Scalar class (#6810)

`Scalar` class is redundant because `TensorVariant` is able to represent scalars.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Use tensor names in backends (#6865)

Switch from operation names to tensor names.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[res] Rename Inception v3 subgraph tests (#6878)

This commit renames Inception_v3_XXX into NET_XXXX

NET_0025 <- Inception_v3_000
NET_0026 <- Inception_v3_001
NET_0027 <- Inception_v3_002

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[mocotest-tf] Enable UNIT_Tanh_000 test (#6881)

This commit will enable `UNIT_Tanh_000` test in mocotest-tf

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[tf2tflite] Enable UNIT_Tanh_000 test (#6882)

This commit will enable `UNIT_Tanh_000` test in tf2tflite

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[tf2tflite] Remove split comment (#6890)

Refactoring done. Let's remove split comment.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[tf2tflite] Enable DepthwiseConv2D test (#6883)

This commit enables DetphwiseConv2D test.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[moco-testtf] Enable DepthwiseConv2D test (#6885)

This commist enable Depthwiseconv2D test.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[mir_caffe] Do not overwrite tensor names (#6868)

This is a workaround for an issue when fallthrough layer (ex. `Dropout`, `Split`) goes right after the input layer.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[tf2tflite] Remove replaced Multiple_IO_XXX (#6887)

This commit removes replaced old Multiple_IO_XXX tests.
New NET_0022~0024 tests already enabled for tf2tflite.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[mocotest-tf] Remove split comment (#6888)

Refactoring done. Let's remove split comment.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[locomotiv] Fix math.h to cmath (#6884)

This commit will fix `<math.h>` to `<cmath>`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[mocotest-tf] Enable valid NET tests (#6874)

This commit enables NET_0022~0024 tests for mocotest-tf. These tests are
tests for networks with multiple IO.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[tf2tflite] Enable valid NET tests (#6875)

This commit enables NET_0022~0024 tests for tf2tflite. These tests are
tests for networks with multiple IO.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[nnpkg-run] fix x86_64 build error (#6880)

We've used hdf5 static linking to avoid work for installing hdf5 for
all CI slaves.  However, it causes build error on x86_64.
Thus, this patch makes x86_64 use shared library to fix this error.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[locomotiv] Introduce Tanh Operation (#6846)

* [locomotiv] Introduce Tanh Operation

This commit will introduce `Tanh` operation in `locomotiv`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>
* substitute tanh_ew to std::tanh

Update default docker image name (#6876)

Update default docker image name to nnas
Update checking image existance to check docker name & tag
Remove unused image_name.configuration file

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[neurun] Update ACL version for Android RootFS (#6877)

Update ACL version for Android RootFS - v18.03 to v19.05

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[nnpkg_run] implement load (#6689)

`load` is implemented.
Inputs are filled from input file in h5 format.
The inputs[i] will have its data from DATASET `i` from h5 file.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[nnpkg_run] verify input and output before prepare and run (#6857)

Check input number and input/output types first so that we can do
early exit before prepare.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[moco-tf] Enable importing Tanh (#6849)

This commit will enable importing `Tanh` as `TFTanh`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[locop] Remove symbol lookup helper (#6863)

This helper was introduced to reduce code diff during refactoring, and
is no longer necessary.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fix svace: deref of nullptr (#6862)

* Fix svace: deref of nullptr

- Fix WGID 405901
- add assert for nullptr check

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>
* fix format

[nnpkg_run] Fix wrong index in randomgen (#6856)

`0` was used (instead of `i`) in loop for generating random inputs.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Disable build x64 nnpkg-run build on CI (#6864)

Mismatching between installed hdf5 and custom buildtool (6.x) makes link error

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[res] Add renamed NET test from Multiple_IO_XXXX (#6821)

This commit add (will-be) renamed test cases of Multiple_IO_XXXX.

NET_0022 <- Multiple_IO_000
NET_0023 <- Multiple_IO_001
NET_0024 <- Multiple_IO_002

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[exo-tflite] Add Tanh visit fuction (#6847)

This commit will add `Tanh` visit function

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[moco-tf] Support TFTanh Canonicalization (#6852)

This commit will enable for supporting `TFTanh` canonicalization

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[moco-tf] Add TFFormattedGraph for TFTanh (#6850)

This commit will add `TFFormattedGraph` for `TFTanh`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[locop] Add Tanh visit function (#6851)

This commit will add `Tanh` visit function

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

Fix svace : uninitialized value as parameter (#6841)

- Fix ID 405892
- Default value(false) is provided

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Fix svace : deref of nullptr (#6842)

- Fix ID 405891
- add assert for nullptr check

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

static_cast for ARMComputeAxis constructor (#6833)

- This patch fixes aarch64 tizen build error
- assert for range check
- static_cast of size_t(64) parameter into uint32_t

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

[neurun] Introduced scheduler tests (#6789)

* [neurun] Introduced scheduler tests

* implemented infrastructure for scheduler tests
* implemented scheduler test with straight graph and known execution
time

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>
* Prevented memory leak

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>
* Run test three times - one time for each backend

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[neurun] Check cmd args in run_frameworktest.sh (#6813)

* [neurun] Check cmd args in run_frameworktest.sh

Check command line arguments in `run_frameworktest.sh`. If a required
argument is not given, it will show `Usage` then stop.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>
* FRAMEWORKTEST_LIST_FILE is not a required argument

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Make backend::operand::ITensor::calcOffset to const member function (#6825)

This commit makes backend::operand::ITensor::calcOffset to const member function.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[mir_caffe] Inherit tensor names (#6845)

Set `Operation::Output`s names based on model tensor names.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_caffe2] Inherit tensor names (#6853)

Set `Operation::Output`s names based on model tensor names.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_tflite] Inherit tensor names (#6854)

Set `Operation::Output`s names based on model tensor names.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_onnx] Inherit tensor names (#6855)

Set `Operation::Output`s names based on model tensor names.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[moco-tf] Enable RemoveTFIdentityNode Transform (#6834)

This commit will enable `RemoveTFIdentityNode` transform

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[exo-tflite] TFLFormattedGraph to print TFLNodes (#6836)

TFLFormattedGraph was added to print the info of TFLNodes.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[mir] Add a name field to Operation::Output (#6844)

Add a name field to `Operation::Output` along with getter and setter.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[custom op] Bind custom kernel registry to each backend context at creation time (#6788)

Make backend context hold information about registered custom kernels
This will be later used by `CustomOperationManager`

Signed-off-by: Vladimir Plazun <v.plazun@samsung.com>

[res] Remove renamed inception tests (#6838)

TF_IV3_XXXX tests are fully replaced by NET_0017~0021. These renamed
tests are safely removed by this commit.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[res] Add UNIT_Tanh_000 testcase (#6839)

This commit will add `UNIT_Tanh_000` testcase

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[moco-tf] Introduce TFDialect for Tanh (#6835)

* [moco-tf] Introduce TFDialect for Tanh

This commit will introduce TFDialect for `Tanh`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>
* Add missing code

[res] Shrinked TF Inception_v3_002 test (#6817)

This commit make TF Inception_v3_002 test to have slim dimensions so
that suitable to be tested.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[mir] Remove old PadOp interface (#6808)

Remove deprecated `PadOp` constructor and getters.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_tflite] Remove unused include (#6809)

Remove unused include of `Scalar.h`.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[res] Shrinked TF Inception_v3_001 test (#6815)

This commit makes TF Inception_v3_001 test to have slim dimensions so
that suitable to be tested.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[loco] Introduce Tanh Operation (#6830)

This commit will introduce `Tanh` operation in loco

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[moco-tf] suporting custom op when inferencing shape and type (#6818)

Added shape and type support for custom op.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[tf2tflite] Replace TF_IV3-XXX with new name NET_XXX (#6806)

This commit replaces TF_IV3-XXX with new name NET_XXX for tf2tflite.
Note that test contents are same.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[mir_onnx] Comment out extra token after #endif (#6820)

This commit comments out extra token after #endif, which generates
compile warning on build procedure

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[nnpkg_run] use uint64_t for num_element (#6807)

- use uint64_t for num_element.
- check each element is not negative.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Helper library for NNAPI v1.2 (#6823)

Introduce helper library for NNAPI v1.2 (almost copy from v1.1, and update)
Change default helper

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>