[exo-tflite] introducing TFLConverter class (#6986)

* [exo-tflite] introducing TFLConverter class

Children of this class will convert a loco node to TFL node. This class is a parent of those children.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* remove graph param from

[moco-tf] Use loco::NodeShape in copy_shapedata (#6984)

This will change to use loco::NodeShape if exist as shape information in copy_shapedata()

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Introduce as_feature_shape in FixShapeTransform (#6989)

This will introduce as_feature_shape() that returns FeatureShape from loco::NodeShape with TFDataLayout

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] Inherit PhaseRunnerMixinObservable (#6985)

This will update PhaseRunner to inherit PhaseRunnerMixinObservable for notification
and add call methods to send notifications

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] comment for ending namespace (#6979)

This adds comment for ending namespace

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[moco-tf] Fix to use plier::tf::as_data_layout (#6968)

This will fix to use plier::tf::as_data_layout() from previous as_DataLayout()
and use explicit plier::tf namespace

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] Function to convert canonical nodes to TFL nodes (#6939)

* [exo-tflite] Function to convert canonical nodes to TFL nodes

This adds a skeleton level implementation of a function that will convert canonical nodes to TFL nodes

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* copyright. fix log for knob checking

[logo] Introduce PhaseRunnerMixinObservable (#6971)

This will introduce PhaseRunnerMixinObservable for Phase/Pass run stage notification

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Introduce new NNAPI test generator (#6924)

Move test generator into tests/nnapi/nnapi_test_generator/android-p
Introduce test generator into tests/nnapi/nnapi_test_generator/android-q-beta from current android master (not used yet)
Update README.md for introduced test generator

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[loco] Clean up deprecated FixedArityNode class (#6970)

Let's clean up deprecated FixedArityNode class.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] update stride and window data (#6969)

This will introduce update_stride_data() and update_window_data() common function in FixShapeTransform

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] introduce node_shape method (#6962)

* [moco-tf] introduce node_shape method

This will introduce node_shape() method in FixShapeTransform that returns NodeShape from Node as a common shape information for dialect independent

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* header for shape_known

[neurun] Fix indentation in DataflowExecutor.cc (#6840)

Fix indentation in DataflowExecutor.cc, remove TODO comment.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[mir] Add Graph::create() overload without 'name' parameter (#6951)

This is a first step to remove names from operations.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnkit] Clean up redundant requires (#6946)

nnkit no longer requires moco and tfinfo module.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[exo-tflite] TFLRelu uses exo::FixedArityNode (#6952)

Since loco::FixedArityNode is being deprecated, TFLRelu now uses exo::FixedArityNode.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[logo] Introduce PhaseEventListener and enums (#6922)

This will introduce PhaseEventListener as interface for event listener while running the Phase, Pass

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] Fix to make same pattern (#6954)

This will fix Restart PhaseRunner to follow Saturate of run() return value pattern

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] introduce make_shape_inference_data (#6960)

This will introduce make_shape_inference_data() that makes ShapeInferenceData from NodeShape shape information

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] DepthwiseFilter in ShapeInferenceData (#6957)

This will update to support DepthwiseFilter in ShapeInferenceData

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] Introduce Passes header (#6945)

* [logo] Introduce Passes header

This will introduce Passes header that includes all Pass header files

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* sort and add comment

Fix svace: uninit variable (#6948)

- Fix WGID 405904
- Fix by adding initialization

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Fix svace: uninit variable of Execution (#6934)

- Fix WGID 405897
- Remove explicit initialzation

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

[logo] Introduce SimplifyDomainConversionPass (#6941)

This will introduce SimplifyDomainConversionPass copied from moco

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] Introduce RemoveForwardNodePass (#6937)

This will introduce RemoveForwardNodePass copied from moco

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] Introduce RemoveDeadNodePass (#6935)

This will introduce RemoveDeadNodePass copied from moco

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] Introduce ResolveDuplicateReshapePass (#6938)

This will introduce ResolveDuplicateReshapePass copied from moco

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] Introduce ResolveRedundantReshapePass (#6940)

This will introduce ResolveRedundantReshapePass copied from moco

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] Introduce ReorderDecodePass (#6936)

This will introduce ReorderDecodePass copied from moco

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Introduce nnpackage_tool directory (#6933)

I would like to put all nnpackage-related tools under one directory.
Thus, I introduce `tools/nnpackage_tool` and move `nnpackager` into it.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[logo] Introduce ConstantFoldingPass (#6923)

* [logo] Introduce ConstantFoldingPass

This will introduce ConstantFoldingPass compiled from moco

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* add requires items

Fix svace: deref nullptr (#6925)

- Fix WGID 405891
- fix by using polymorphic_downcast instead of dynamic_cast

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

[locop] Replace deprecated FixedArityNode class (#6927)

This commit revises locop to use FixedArity mix-in instead of deprecated
FixedArityNode class.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[exo-tflite] Fixed how not-yet-implemnented op is printed (#6905)

Change " " to "_" since " " may look weird.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[locop] Show Graph Input/Output (#6911)

LinearV1 Graph Format now shows graph input/output metadata, too.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[mir_caffe] Do not set names of operations (#6814)

Remove useless setting of operation names.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnpkg_run] use chrono to measure time (#6858)

Use c++ chrono instead of linux's gettimeofday

Signed-off-by: Vladimir Plazun <v.plazun@samsung.com>

[mir_onnx] Dropout operation versioning (#6898)

* Supported V1, V6, V7, V10 dropout versions

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[nnpkg_run] implement dump (in h5 format) (#6669)

It dumps outputs in h5 format.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[neurun]Fix HE scheduler shuffle cond and schedule ret val (#6899)

* [neurun]Fix HE scheduler shuffle cond,schedule ret

Also fixed returning way of Scheduler::schedule: so for it created a
copy of _backend_resolver instead of moving existing one

Signed-off-by: Poshshoev Dilshodzhon <d.poshshoev@samsung.com>
* Address reviews

Signed-off-by: Poshshoev Dilshodzhon <d.poshshoev@samsung.com>

[nnpackage] Move nnpackage out of runtimes/contrib (#6848)

Move nnpackage out of runtimes/contrib

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Fix typo in i5diff README.md (#6921)

This patch fixes typo in i5diff README.md.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Fix svace: uninit variable for AddLayer (#6873)

* Fix svace: uninit variable for AddLayer

- Fix WGID 405897
- Initialize member variables

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>
* fix format

[exo-tflite] Adding FixedArityNode (#6917)

FixedArityNode is copied from loco since loco::FixedArityNode's destiny is doomed.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[loco] Remove unused methods from Push (#6904)

No code uses "rank" and "dim" method in Push class.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[loco] Clean up deprecated CanonicalNodeImpl (#6903)

Let's clean up CanonicalNodeImpl deprecated by CanonicalNodeDef.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[loco] fix MultiDialectShapeInferenceRule.test (#6913)

This will add CanonicalShapeInferenceRule to MultiDialectShapeInferenceRule as there are Canonical dialect node Pull and Push in the graph

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] Introduce PhaseRunner (#6909)

This will introduce PhaseRunner that runs group of Pass(es) that is defined as a Phase

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Fix pacl test fail (#6914)

Skip all svdf test on pacl

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[exo-tflite] Introducing EXOTFLITE_ConvertRelu knob (#6918)

This commit adds EXOTFLITE_ConvertRelu knob.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[nnpkg_run] Use HDF5 shared library for both x86_64 and arm (#6910)

Let's use same type of hdf5 library for `nnpackage_run`.
Currently arm uses hdf5 static linking, x86_64 uses shared one.

I've found that `aec` linking bug exists in shared library also.
Thus, if condition is removed from HDF5Config.cmake.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Update nnapi generated test for v1.0 operations (#6819)

Update nnapi generated test spec files for v1.0 operations to match with current android nn runtime master

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-tf] Introduce FixedArityNode (#6907)

This commit introduces moco-tf internal FixedArityNode class as the
first step to remove FixedArityNode from loco.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[exo-tflite] Introducing Logging (#6896)

* [exo-tflite] Introducing Logging

This adds classes related to Logging. These are borrowed from moco except 1) removed logging of annoted padding, 2) change namespace

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* int to uint32_t

[exo-tflite] Introducing TFLRelu class (#6893)

* [exo-tflite] Introducing TFLRelu class

This adds TFLRelu class. summary() of TFLFormattedGraph is also added (without this warning will occurs)

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* change the way how 'unused variable error' is handled

[logo] Introduce Pass (#6889)

* [logo] Introduce Pass

This will introduce logo project with Pass base class to provide loco graph trasformations

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* change test group

[nnpkg/tflite_run] make help option work (#6879)

Currently, tflite/nnpackage_run does not recognize help option.

It complains like:

$ LD_LIBRARY_PATH=Product/out/lib Product/out/bin/nnpackage_run --help
terminate called after throwing an instance of 'boost::exception_detail::clone_impl<boost::exception_detail::error_info_injector<boost::program_options::required_option> >'
  what():  the option '--nnpackage' is required but missing
  Aborted (core dumped)

This patch fixes it by notifying errors after parsing help option.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[moco-tf] changing int to uint32_t (#6902)

changing int to uint32_t to make the type of lhs and rhs of comparison

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo-tflite] Introducing Knob for exo-tflite (#6895)

Knob for exo-tflite is added. Initially `EnableTFLDialect` knob is added.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[res] Remove renamed old Multiple_IO_XXX (#6891)

This commit removes renamed old Multiple_IO_XXX tests.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[mir_onnx] MatMul operation support (#6797)

* Added MatMulNodeConverter
* Fix registration and cmake

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[mir_onnx] ReduceMean operation support (#6798)

* Added ReduceMeanNodeConverter
* Registration and cmake for converter

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[mir_onnx] Fix is_test attribute checking (#6831)

Reverse `is_test` attribute testing. Only `is_test` mode is supported.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir] Remove Scalar class (#6810)

`Scalar` class is redundant because `TensorVariant` is able to represent scalars.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Use tensor names in backends (#6865)

Switch from operation names to tensor names.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[res] Rename Inception v3 subgraph tests (#6878)

This commit renames Inception_v3_XXX into NET_XXXX

NET_0025 <- Inception_v3_000
NET_0026 <- Inception_v3_001
NET_0027 <- Inception_v3_002

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[mocotest-tf] Enable UNIT_Tanh_000 test (#6881)

This commit will enable `UNIT_Tanh_000` test in mocotest-tf

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[tf2tflite] Enable UNIT_Tanh_000 test (#6882)

This commit will enable `UNIT_Tanh_000` test in tf2tflite

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[tf2tflite] Remove split comment (#6890)

Refactoring done. Let's remove split comment.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[tf2tflite] Enable DepthwiseConv2D test (#6883)

This commit enables DetphwiseConv2D test.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[moco-testtf] Enable DepthwiseConv2D test (#6885)

This commist enable Depthwiseconv2D test.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[mir_caffe] Do not overwrite tensor names (#6868)

This is a workaround for an issue when fallthrough layer (ex. `Dropout`, `Split`) goes right after the input layer.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[tf2tflite] Remove replaced Multiple_IO_XXX (#6887)

This commit removes replaced old Multiple_IO_XXX tests.
New NET_0022~0024 tests already enabled for tf2tflite.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[mocotest-tf] Remove split comment (#6888)

Refactoring done. Let's remove split comment.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[locomotiv] Fix math.h to cmath (#6884)

This commit will fix `<math.h>` to `<cmath>`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[mocotest-tf] Enable valid NET tests (#6874)

This commit enables NET_0022~0024 tests for mocotest-tf. These tests are
tests for networks with multiple IO.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[tf2tflite] Enable valid NET tests (#6875)

This commit enables NET_0022~0024 tests for tf2tflite. These tests are
tests for networks with multiple IO.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[nnpkg-run] fix x86_64 build error (#6880)

We've used hdf5 static linking to avoid work for installing hdf5 for
all CI slaves.  However, it causes build error on x86_64.
Thus, this patch makes x86_64 use shared library to fix this error.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[locomotiv] Introduce Tanh Operation (#6846)

* [locomotiv] Introduce Tanh Operation

This commit will introduce `Tanh` operation in `locomotiv`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>
* substitute tanh_ew to std::tanh

Update default docker image name (#6876)

Update default docker image name to nnas
Update checking image existance to check docker name & tag
Remove unused image_name.configuration file

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[neurun] Update ACL version for Android RootFS (#6877)

Update ACL version for Android RootFS - v18.03 to v19.05

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[nnpkg_run] implement load (#6689)

`load` is implemented.
Inputs are filled from input file in h5 format.
The inputs[i] will have its data from DATASET `i` from h5 file.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[nnpkg_run] verify input and output before prepare and run (#6857)

Check input number and input/output types first so that we can do
early exit before prepare.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[moco-tf] Enable importing Tanh (#6849)

This commit will enable importing `Tanh` as `TFTanh`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[locop] Remove symbol lookup helper (#6863)

This helper was introduced to reduce code diff during refactoring, and
is no longer necessary.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fix svace: deref of nullptr (#6862)

* Fix svace: deref of nullptr

- Fix WGID 405901
- add assert for nullptr check

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>
* fix format

[nnpkg_run] Fix wrong index in randomgen (#6856)

`0` was used (instead of `i`) in loop for generating random inputs.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Disable build x64 nnpkg-run build on CI (#6864)

Mismatching between installed hdf5 and custom buildtool (6.x) makes link error

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[res] Add renamed NET test from Multiple_IO_XXXX (#6821)

This commit add (will-be) renamed test cases of Multiple_IO_XXXX.

NET_0022 <- Multiple_IO_000
NET_0023 <- Multiple_IO_001
NET_0024 <- Multiple_IO_002

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[exo-tflite] Add Tanh visit fuction (#6847)

This commit will add `Tanh` visit function

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[moco-tf] Support TFTanh Canonicalization (#6852)

This commit will enable for supporting `TFTanh` canonicalization

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[moco-tf] Add TFFormattedGraph for TFTanh (#6850)

This commit will add `TFFormattedGraph` for `TFTanh`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[locop] Add Tanh visit function (#6851)

This commit will add `Tanh` visit function

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

Fix svace : uninitialized value as parameter (#6841)

- Fix ID 405892
- Default value(false) is provided

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Fix svace : deref of nullptr (#6842)

- Fix ID 405891
- add assert for nullptr check

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

static_cast for ARMComputeAxis constructor (#6833)

- This patch fixes aarch64 tizen build error
- assert for range check
- static_cast of size_t(64) parameter into uint32_t

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

[neurun] Introduced scheduler tests (#6789)

* [neurun] Introduced scheduler tests

* implemented infrastructure for scheduler tests
* implemented scheduler test with straight graph and known execution
time

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>
* Prevented memory leak

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>
* Run test three times - one time for each backend

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

[neurun] Check cmd args in run_frameworktest.sh (#6813)

* [neurun] Check cmd args in run_frameworktest.sh

Check command line arguments in `run_frameworktest.sh`. If a required
argument is not given, it will show `Usage` then stop.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>
* FRAMEWORKTEST_LIST_FILE is not a required argument

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Make backend::operand::ITensor::calcOffset to const member function (#6825)

This commit makes backend::operand::ITensor::calcOffset to const member function.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[mir_caffe] Inherit tensor names (#6845)

Set `Operation::Output`s names based on model tensor names.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>