[mir_onnx] Switch to ReduceMean op (#7003)

Switch from `ReduceOp` to `ReduceMeanOp`. The former one is deprecated.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Implemented Data Format Switcher (#6932)

* Implemented PoolOp visitor in switcher

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[neurun] Introduce AclInternalBufferManager class (#6983)

Introduce AclInternalBufferManager class which will be used by acl's
layers

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

[neurun] Fix nnfw_output_tensorinfo (#7035)

nnfw_session::output_tensoninfo should uses output size, instead of input size.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[moco-tf] Use logo Pass (#7030)

* [moco-tf] Use logo Pass

This will update to use logo Pass as transformations for two Optimiziers

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* use moco::tf::Knob

[moco-tf] Use loco::NodeShape for inputs (#7008)

* [moco-tf] Use loco::NodeShape for inputs

This will change fix_shape() to use loco::NodeShape for input's shape information

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* fix vars

[nnc] Add support for ReduceMean (#7002)

This operation is the future replacement of the `Reduce` operation.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Add support for AvgPool2D and MaxPool2D (#7011)

These operations are the future replacement of the `Pool` operation.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[exo-tflite] Placeholders for TFL nodes (#7021)

* [exo-tflite] Placeholders for TFL nodes

This will add TODO comment as placeholders for TFL nodes to come

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* use name from schema

[exo-tflite] Introducing TFLShapeInference (#6991)

* [exo-tflite] Introducing TFLShapeInference

This adds TFLShapeInference that infer the shape of TFL nodes and TFLShapeAnnot that passes shape from canonical node.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* adding missing graph input

* fix typo

* remove Forward word from internal class naming

[neurun] Add iterate() to FunctionSequence (#6977)

Add iterate() to FunctionSequence for #6156

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

[nnpkg_tool] Revise nnpkg_test and model2nnpkg for readable log (#7028)

`nnpkg_test`
- distinguish the run and compare result.
- shows the errors after a blank line.
- does not use `set -e` to continue after error for pretty printing.

`model2nnpkg`
- It becmome less noisy.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[nnpkg_tool] Introduce nncc-tc-to-nnpkg-tc (#7005)

Introduce tool for converting nncc testcase to nnpkg testcase.
Please read README.md for usage.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[mir] Add AvgPool2D and MaxPool2D operations (#6996)

These are the future replacement of the `Pool` operation.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir] Add ReduceMean operation (#6994)

This is a future replacement of `Reduce` operation.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnpkg_tool] Introduce nnpkg_test.sh (#7020)

Introduce a tool for running an nnpackage testcase.
It will run nnpackage with nnpackage_run, and compare the result.
For usage, find README.md.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[neurun] Apply InternalBufferManager to RNN on acl_cl (#6978)

Apply InternalBufferManager to RNN on acl_cl

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

[moco-tf] Introduce ProgressReporter (#7013)

* [moco-tf] Introduce PhaseEventListener

This will introduce PhaseEventListener that implements logo::PhaseEventListener that dumps Phase event logs

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* rename

Introduce model2nnpackage (#6976)

This patch introduces model2nnpackage.
It will take model file (either circle or tflite) and generate
containing nnpackage.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[exo-tflite] Placeholders for TFLNodes.lst (#7019)

This will add TODO comments in TFLNodes.lst as placeholders for new TFL nodes to come

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] Use throw instead of assert (#7006)

The current implementation of translateLocoTypeToTFLite may return an
invalid value if the code is built with release configuration.

This commit replaces assert with throw to prevent undefined behavior.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-log] Extract LoggingContext class (#6999)

LoggingContext class is currently declared in Log.h, and thus it is
impossible to access this class declaration without including macros
defined in Log.h, which leads to macro name conflicts in some case.

This commit introduce a dedicated file for LoggingContext class to
allow users to access LoggingContext class without the risk of macro
name conflicts.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnkit] Remove empty directories (#6967)

All the components are now at the top-level.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Use make_shape_inference_data in fix_shape (#6998)

This will use make_shape_inference_data() for patterns of make_unique() + copy_shape_values() with ShapeInferenceData

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] Enabling OperationExporter to handle TFLNode (#7001)

This enables OperationExporter to handle TFLNode

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[moco-tf] Use logo::Pass for Transform (#7000)

This will make moco::tf to use logo::Pass for Transform class as for first step of migration

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[nnc] Do not set / check names of operations (#6981)

Operation names are going to be removed.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir2loco] Switch to tensor names (#6974)

Do not set operation names; set tensor names instead.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_onnx] Do not set names of operations (#6956)

Remove useless setting of operation names.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[exo-tflite] Macros to wrap assert and std::runtime_error (#6919)

* [exo-tflite] Macros to wrap assert and std::runtime_error

Two macros were added that wrap assert and std::runtime_error

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* renamed

[neurun] Recover prepare of IFunction (#6975)

Recover prepare of IFunction for #6156

Signed-off-by: Yongseop Kim <yons.kim@samsung.com>

[mir_tflite] Do not set names of operations (#6955)

Remove useless setting of operation names.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_caffe] Do not set names of operations (#6953)

Remove useless setting of operation names.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_onnx] Register Transpose operator converter (#6947)

It was lost not long ago after improper resolving of a merge conflict.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_onnx] Add support for auto_pad attribute (#6943)

Add support for `auto_pad` attribute to `Conv`, `AveragePool`, `MaxPool` operator converters.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir_caffe2] Do not set names of operations (#6812)

Remove useless setting of operation names.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[exo-tflite] ShapeInference support for Custom Op (#6622)

* [exo-tflite] ShapeInference support for Custom Op

With this commit, ShapeInference can infer the shape of custom op.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* adds an empty line; remove visit()

[mogo-tf] use update_stride_data and update_window_data (#6987)

This will update to use update_stride_data() and update_window_data() in fix_shape() functions

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] make_shape_inference_data from T (#6980)

This will introduce template make_shape_inference_data() that creates a copy of ShapeInferenceData from src

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] Adding visit(locoex::TFLRelu) into OperationExporter  (#6988)

* [exo-tflite] Making OperationExporter handle locoex::TFLRelu

This enables OperationExporter to export locoex::TFLRelu into tflite file.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* fix build error

[exo-tflite] introducing TFLConverter class (#6986)

* [exo-tflite] introducing TFLConverter class

Children of this class will convert a loco node to TFL node. This class is a parent of those children.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* remove graph param from

[moco-tf] Use loco::NodeShape in copy_shapedata (#6984)

This will change to use loco::NodeShape if exist as shape information in copy_shapedata()

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Introduce as_feature_shape in FixShapeTransform (#6989)

This will introduce as_feature_shape() that returns FeatureShape from loco::NodeShape with TFDataLayout

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] Inherit PhaseRunnerMixinObservable (#6985)

This will update PhaseRunner to inherit PhaseRunnerMixinObservable for notification
and add call methods to send notifications

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] comment for ending namespace (#6979)

This adds comment for ending namespace

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[moco-tf] Fix to use plier::tf::as_data_layout (#6968)

This will fix to use plier::tf::as_data_layout() from previous as_DataLayout()
and use explicit plier::tf namespace

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] Function to convert canonical nodes to TFL nodes (#6939)

* [exo-tflite] Function to convert canonical nodes to TFL nodes

This adds a skeleton level implementation of a function that will convert canonical nodes to TFL nodes

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* copyright. fix log for knob checking

[logo] Introduce PhaseRunnerMixinObservable (#6971)

This will introduce PhaseRunnerMixinObservable for Phase/Pass run stage notification

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Introduce new NNAPI test generator (#6924)

Move test generator into tests/nnapi/nnapi_test_generator/android-p
Introduce test generator into tests/nnapi/nnapi_test_generator/android-q-beta from current android master (not used yet)
Update README.md for introduced test generator

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[loco] Clean up deprecated FixedArityNode class (#6970)

Let's clean up deprecated FixedArityNode class.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] update stride and window data (#6969)

This will introduce update_stride_data() and update_window_data() common function in FixShapeTransform

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] introduce node_shape method (#6962)

* [moco-tf] introduce node_shape method

This will introduce node_shape() method in FixShapeTransform that returns NodeShape from Node as a common shape information for dialect independent

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* header for shape_known

[neurun] Fix indentation in DataflowExecutor.cc (#6840)

Fix indentation in DataflowExecutor.cc, remove TODO comment.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[mir] Add Graph::create() overload without 'name' parameter (#6951)

This is a first step to remove names from operations.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnkit] Clean up redundant requires (#6946)

nnkit no longer requires moco and tfinfo module.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[exo-tflite] TFLRelu uses exo::FixedArityNode (#6952)

Since loco::FixedArityNode is being deprecated, TFLRelu now uses exo::FixedArityNode.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[logo] Introduce PhaseEventListener and enums (#6922)

This will introduce PhaseEventListener as interface for event listener while running the Phase, Pass

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] Fix to make same pattern (#6954)

This will fix Restart PhaseRunner to follow Saturate of run() return value pattern

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] introduce make_shape_inference_data (#6960)

This will introduce make_shape_inference_data() that makes ShapeInferenceData from NodeShape shape information

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] DepthwiseFilter in ShapeInferenceData (#6957)

This will update to support DepthwiseFilter in ShapeInferenceData

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] Introduce Passes header (#6945)

* [logo] Introduce Passes header

This will introduce Passes header that includes all Pass header files

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* sort and add comment

Fix svace: uninit variable (#6948)

- Fix WGID 405904
- Fix by adding initialization

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

Fix svace: uninit variable of Execution (#6934)

- Fix WGID 405897
- Remove explicit initialzation

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

[logo] Introduce SimplifyDomainConversionPass (#6941)

This will introduce SimplifyDomainConversionPass copied from moco

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] Introduce RemoveForwardNodePass (#6937)

This will introduce RemoveForwardNodePass copied from moco

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] Introduce RemoveDeadNodePass (#6935)

This will introduce RemoveDeadNodePass copied from moco

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] Introduce ResolveDuplicateReshapePass (#6938)

This will introduce ResolveDuplicateReshapePass copied from moco

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] Introduce ResolveRedundantReshapePass (#6940)

This will introduce ResolveRedundantReshapePass copied from moco

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] Introduce ReorderDecodePass (#6936)

This will introduce ReorderDecodePass copied from moco

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Introduce nnpackage_tool directory (#6933)

I would like to put all nnpackage-related tools under one directory.
Thus, I introduce `tools/nnpackage_tool` and move `nnpackager` into it.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[logo] Introduce ConstantFoldingPass (#6923)

* [logo] Introduce ConstantFoldingPass

This will introduce ConstantFoldingPass compiled from moco

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* add requires items

Fix svace: deref nullptr (#6925)

- Fix WGID 405891
- fix by using polymorphic_downcast instead of dynamic_cast

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

[locop] Replace deprecated FixedArityNode class (#6927)

This commit revises locop to use FixedArity mix-in instead of deprecated
FixedArityNode class.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[exo-tflite] Fixed how not-yet-implemnented op is printed (#6905)

Change " " to "_" since " " may look weird.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[locop] Show Graph Input/Output (#6911)

LinearV1 Graph Format now shows graph input/output metadata, too.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[mir_caffe] Do not set names of operations (#6814)

Remove useless setting of operation names.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnpkg_run] use chrono to measure time (#6858)

Use c++ chrono instead of linux's gettimeofday

Signed-off-by: Vladimir Plazun <v.plazun@samsung.com>

[mir_onnx] Dropout operation versioning (#6898)

* Supported V1, V6, V7, V10 dropout versions

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[nnpkg_run] implement dump (in h5 format) (#6669)

It dumps outputs in h5 format.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[neurun]Fix HE scheduler shuffle cond and schedule ret val (#6899)

* [neurun]Fix HE scheduler shuffle cond,schedule ret

Also fixed returning way of Scheduler::schedule: so for it created a
copy of _backend_resolver instead of moving existing one

Signed-off-by: Poshshoev Dilshodzhon <d.poshshoev@samsung.com>
* Address reviews

Signed-off-by: Poshshoev Dilshodzhon <d.poshshoev@samsung.com>

[nnpackage] Move nnpackage out of runtimes/contrib (#6848)

Move nnpackage out of runtimes/contrib

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Fix typo in i5diff README.md (#6921)

This patch fixes typo in i5diff README.md.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Fix svace: uninit variable for AddLayer (#6873)

* Fix svace: uninit variable for AddLayer

- Fix WGID 405897
- Initialize member variables

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>
* fix format

[exo-tflite] Adding FixedArityNode (#6917)

FixedArityNode is copied from loco since loco::FixedArityNode's destiny is doomed.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[loco] Remove unused methods from Push (#6904)

No code uses "rank" and "dim" method in Push class.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[loco] Clean up deprecated CanonicalNodeImpl (#6903)

Let's clean up CanonicalNodeImpl deprecated by CanonicalNodeDef.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[loco] fix MultiDialectShapeInferenceRule.test (#6913)

This will add CanonicalShapeInferenceRule to MultiDialectShapeInferenceRule as there are Canonical dialect node Pull and Push in the graph

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] Introduce PhaseRunner (#6909)

This will introduce PhaseRunner that runs group of Pass(es) that is defined as a Phase

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Fix pacl test fail (#6914)

Skip all svdf test on pacl

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[exo-tflite] Introducing EXOTFLITE_ConvertRelu knob (#6918)

This commit adds EXOTFLITE_ConvertRelu knob.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[nnpkg_run] Use HDF5 shared library for both x86_64 and arm (#6910)

Let's use same type of hdf5 library for `nnpackage_run`.
Currently arm uses hdf5 static linking, x86_64 uses shared one.

I've found that `aec` linking bug exists in shared library also.
Thus, if condition is removed from HDF5Config.cmake.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Update nnapi generated test for v1.0 operations (#6819)

Update nnapi generated test spec files for v1.0 operations to match with current android nn runtime master

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-tf] Introduce FixedArityNode (#6907)

This commit introduces moco-tf internal FixedArityNode class as the
first step to remove FixedArityNode from loco.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[exo-tflite] Introducing Logging (#6896)

* [exo-tflite] Introducing Logging

This adds classes related to Logging. These are borrowed from moco except 1) removed logging of annoted padding, 2) change namespace

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* int to uint32_t

[exo-tflite] Introducing TFLRelu class (#6893)

* [exo-tflite] Introducing TFLRelu class

This adds TFLRelu class. summary() of TFLFormattedGraph is also added (without this warning will occurs)

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* change the way how 'unused variable error' is handled

[logo] Introduce Pass (#6889)

* [logo] Introduce Pass

This will introduce logo project with Pass base class to provide loco graph trasformations

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* change test group

[nnpkg/tflite_run] make help option work (#6879)

Currently, tflite/nnpackage_run does not recognize help option.

It complains like:

$ LD_LIBRARY_PATH=Product/out/lib Product/out/bin/nnpackage_run --help
terminate called after throwing an instance of 'boost::exception_detail::clone_impl<boost::exception_detail::error_info_injector<boost::program_options::required_option> >'
  what():  the option '--nnpackage' is required but missing
  Aborted (core dumped)

This patch fixes it by notifying errors after parsing help option.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[moco-tf] changing int to uint32_t (#6902)

changing int to uint32_t to make the type of lhs and rhs of comparison

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo-tflite] Introducing Knob for exo-tflite (#6895)

Knob for exo-tflite is added. Initially `EnableTFLDialect` knob is added.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[res] Remove renamed old Multiple_IO_XXX (#6891)

This commit removes renamed old Multiple_IO_XXX tests.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>