Apply optimized cpu kernel for AvgPoolFloat32 (#7834)

This commit applies optimized cpu kernel for AvgPoolFloat32.
  - Introduce introduce optimized cpu kernel of AvgPool2D op
  - Apply that kernel for AvgPoolFloat32

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[res] Summary for NET_0025 (#7867)

This commit adds summary for NET_0025, CBR network test case.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[tf2tflite] Test NET_0025 (#7868)

This commit registers NET_0025 unit test, CBR network, to tf2tflite

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-tf] PlaneShape for shape inference (#7866)

This will introduce PlaneShape, PlaneInference and related codes for plane shape inference for Pool and Conv2D series nodes

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] window_of for Conv2D (#7864)

This will introduce window_of method used for Conv2D type nodes

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] traversing using active_nodes instead of all_nodes (#7865)

Using all_nodes makes simplifying orphant subgraph and cause error.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[moco] Introduce lang sub project and TFDialect (#7863)

This will introduce moco lang sub project with TFDialect class

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[pacl] Additional NNAPI implementation for update NNAPI (#7860)

- PACL's NNAPI implementation for updated NNAPI generated test
- Update skiplist for updated validation check

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[nnfw-cmake] Rename NNFW_OVERLAY_DIR (#7848)

Rename NNFW_OVERLAY_DIR to NNAS_OVERLAY_DIR  to share cmake package config with nnfw

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[nnfw-cmake] Replace nonius package config (#7839)

Move nonius and source package config to common directory

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[exo-tflite] Make S32 tensor to be exported (#7827)

* [exo-exporter] Make S32 tensor to be exported

Previously only FLOAT32 tensor could be exported. This commit enables S32 tensor to be exported.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* throw exception when not-supported dtype is found

[moco] Initial readme (#7813)

* [moco] Initial readme

This will introduce readme for moco project and moco-lang sub project

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* change folder to lang

* update moco

[nncc-cmake] Introduce NNAS_OVERLAY_DIR (#7846)

Introduce NNAS_OVERLAY_DIR to share cmake package config with nnfw

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[exo-tflite] code to export TFLTranspose to tflite file (#7806)

Code to export TFLTranspose to tflite file was added into OperationExporter.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo-tflite] shape & type inference for TFLConv2D (#7835)

This adds shape inference and type inference for TFLConv2D.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo-tfltie] converting loco::Conv2D to locoex::TFLConv2D (#7845)

This adds a Conv2DConverter that converts loco::Conv2D to locoex::TFLConv2D.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[moco-tf] Revose ResolveReshapeWildcardDim (#7843)

This will revise ResolveReshapeWildcardDim to use NodeShape instead of ShapeInferenceData

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Revise ResolveConstantShape (#7842)

This will revise ResolveConstantShape to use NodeShape instead of ShapeInferenceData

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Revise FuseBinaryIntoPreceding (#7841)

This will revise FuseBinaryIntoPreceding to use NodeShape instead of ShapeInferenceData

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[mir2loco] Support Broadcast on Elementwise operations (#7665)

* Supported new elemetwise operations
* Implemented TensorBroadcast creation
* Fixed all functions for broadcasting

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

Expand [mir-caffe-importer] interface (#7850)

Added new interface function loadModel in caffe importer

Signed-off-by: Dmitry Gusev <d.gusev@partner.samsung.com>

Expand [mir-caffe2-importer] interface (#7855)

A new function loadModel was added.

Signed-off-by: Dmitry Gusev <d.gusev@partner.samsung.com>

Expand [mir-onnx-importer] interface (#7856)

A new function loadModel was added.

Signed-off-by: Dmitry Gusev <d.gusev@partner.samsung.com>

Importer interface was expanded. (#7857)

A new function loadModel was added.

Signed-off-by: Dmitry Gusev <d.gusev@partner.samsung.com>

[mir] Introduce TensorType (#7854)

* Add `TensorType` class which combines tensor element type and shape.
* Use it in `TensorVariant` and `Operation::Output`.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnapi] Update NeuralNetworks.Wrapper.h (#7829)

Use NeuralNetworks.Wrapper.h in android-10 nn runtime
Fix to use boost::optional instead of std::optional (c++17 feature)

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-tf] TFShapeInferenceRule V2 (#7825)

This will revise TFShapeInferenceRule to support V2 interface

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Fix build error for TFShapeInferenceHelper path (#7837)

This will fix build error for recent TFShapeInferenceHelper path change

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tflite] converting loco::TensorTranspose to locoex::TFLTranspose (#7824)

* [exo-tflite] converter to convert loco::TensorTranspose to locoex::TFLTranspose

A converter to convert loco::TensorTranspose to locoex::TFLTranspose is introduced.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* adding more validation check + using std::is_permutation(..)

[moco-tf] Revise TFNodeSummaryBuilder for TFConst (#7826)

This will remove shape information for TFConst as shape is shown in loco

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Convert TF strides and ksize (#7812)

* [moco-tf] Convert TF strides and ksize

This will introduce two methods to convert TensorFlow Strides and KSize vector to loco Stride and Window in TFShapeInferenceHelper

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* change folder to src

* recover changes

[nnfw-cmake] Replace NNPACK and related package config (#7798)

Move NNPACK and related source package config to common directory

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[lib-tflite] Remove tflite version definition depdency code (#7807)

- Remove TFLITE_MAJOR_VER and TFLITE_MINOR_VER setting in nnfw.spec and cmake script
- Remove TFLITE_MAJOR_VER and TFLITE_MINOR_VER dependency code in tflite extension library

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[exo-tflite] helper funtion to create filter (#7828)

* [exo-tflite] helper fultion to create filter

This adds helper functions to easily create FilterEncode and FilterDecode of two filter layout.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* remove blank

[exo-tflite] Unit test getOpPadding (#7802)

This commit adds unit test of getOpPadding() for valid, same
and custom padding cases.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

Make to support Gather op for acl neon (#7746)

This commit makes to support Gather op for acl neon.
  - Introduce NEGatherEx and NEGatherKernelEx
  - Apply NEGatherEx layer for neurun

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[cmd] Move doxygen command (#7821)

Move doxygen command from nnfw to nnas
Use user-setting workspace for docygen output
Add document for help

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[exo-tflite] Fix getOpPadding for SAME padding case (#7787)

* [exo-tflite] Fix getOpPadding for SAME padding case

Previously getOpPadding() checks only necessary condition for SAME
padding case. This commit checks fully equivalent logic for this.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Use explicit cast

[moco-tf] Remove ShapeInferenceData in Canonicalizers (#7810)

This will revise Canonicalizers not to use ShapeInferenceData and use node_shape instead

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Remove dump shape after import (#7811)

This is to remove usage of ShapeInferenceData.
As loco can display shape information of the nodes, we do not need to dump the shape information after import.

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Rename cpu backend Shape (#5534)

Rename cpu backend Shape class into TensorDescriptor

Signed-off-by: Efimov Alexander <a.efimov@samsung.com>

Roll-back and fix typo in CONTRIBUTORS (#7809)

- Roll-back CONTRIBUTUTORS file from mis committed.
- Fix typo in filename CONTRIBUTUTORS to CONTRIBUTORS.

Signed-off-by: Sung-Jae Lee <sj925.lee@samsung.com>

[exo-tflite] shape / type inference for TFLTranspose (#7803)

* [exo-tflite] shape / type inference for TFLTranspose

This adds shape and type inference for TFLTranspose and a test case.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* Fix wrong test case. Previously it is testing loco::Transpose, now it tests locoex::TFLTranspose

* remove method needed for loco::TensorTranspose

* typo

[loco] Introducing PermutingDecoder for filter (#7801)

* [loco] Introducing PermutingDecoder for filter

This adds PermutingDecoder for filter and related test case.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* move PermutingDecoder from DepthwiseFilter area to filter area

Make to support Cast op for acl neon (#7800)

This commit make to support Cast op for acl neon.
  - Add NECast layer and NECastKernel
  - Apply NECast layer for neurun

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Enable some nnapi tests on ACL neon (#7756)

This commit enables some nnapi tests on ACL neon.
  - dequantize*
  - TrivialTest.BroadcastMulTwo

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[loco] Type and Shape inference for FilterDecode (#7804)

This adds Type and Shape inference for FilterDecode.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[nnfw-gbs] Use pre-generated test code (#7805)

Update nnfw.spec to use pre-generated nnapi test code

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[cmd] Fix build docker image command help (#7742)

Remove deprecated option: tizen build option was removed

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[nnfw-cmake] Revise tflite version setting (#7793)

Define option for tflite external code version
Replace ported tflite files to support two or more version
Prepare to remove TFLITE_MAJOR_VER and TFLITE_MINOR_VER setting

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[ARMCompute] Fix for Android build (#7791)

- Do not build ARMCompute by default
- Fix `CMAKE_FIND_ROOT_PATH_MODE_LIBRARY` to search in the host dirs

For now, using pre-built library is recommended and building ARMCompute
is not enabled. It can be used by specifying `EXT_ACL_FOLDER` in
Makefile or pass `ARMCompute_EXTDIR` to CMake.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[android_tflite] Remove finding NDK_DIR (#7799)

Remove automatic finding from CMake. Users must specify NDK_DIR from now
on.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[exo-tflite] fix wrong #endif guard (#7784)

Wrong guard was fixed. __CONVERSION_GRAPH_BLOCK_H__ to __GRAPH_BLOCK_H__

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[loco] TensorTranspose: Shape and Type inference (#7796)

* [loco] TensorTranspose: Shape and Type inference

This enables shape and type inference for loco::TensorTranspose. A TC for shape inference was also added.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* Transpose -> TensorTranspose

[exo-tflite] knob for TFLTranspose (#7797)

A knob for TFLTranspose was added.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo-tflite] Introducing TFLConv2D (#7795)

* [exo-tflite] Introducing TFLConv2D

This adds TFLConv2D, which is a representation of Tensorflow Lite CONV_2D.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* ( ? : ) operator to switch

[loco] Introducing TensorTranspose node (#7772)

* [loco] Introducing TensorTranspose node

This adds TensorTranspose node, which permutes a tensor.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* remove initial values of perm

[moco-tf] Introduce TFShapeInferenceHelper (#7790)

* [moco-tf] Introduce TFShapeInferenceHelper

This will introduce TFShapeInferenceHelper to provide helper methods for smooth migrarion to using loco shape inference service and other functionalities for shape related helper functions.

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* remove dup comments

[nnfw-cmake] Revise build option setting (#7780)

- Reorder correct place for default in CfgOptionFlags.cmake
- Remove redundant platform specific setting - same with default
- Remove redundant option setting in tizen cross build script
- Remove BUILD_TOOLS option
- Introduce BUILD_OPENCL_TOOL to set build option for each tool

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[nnfw-cmake] Replace boost package config (#7786)

Move boost & source package config to common directory

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[nnfw-cmake] Replace acl package config (#7785)

Move acl & source package config to common directory

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[exo-tflite] Introducing TFLTranspose (#7783)

TFLTranspose is added to represent Tensorflow Lite Transpose operation.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[loco] Introducing FilterDecode (#7778)

This adds FilterDecode, which converts a filter to a tensor.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo-tflite] Refactoring ReluConverterTest (#7781)

1) using TestGraph to shorten code; 2) first test does not check loco::Pull

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[tf2tflite] Enable NET_0028 test (#7767)

Let's add NET_0028 to tf2tflite integration testsuite.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco] Enable NET_0028 test (#7766)

Let's add NET_0028 to moco integration testsuite.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[Dist/Tizen] Do not install libraries with devel packages. (#7769)

Do not install duplicated libraries with devel packages; it incur build errors in applications with indirect dependencies on nnfw.
For example, if A Requires B and B BuildRequires nnfw, building A indirect-BuildRequires nnfw's *.so files, which cannot be resolved by GBS or OBS because both nnfw and nnfw-devel have nnfw's *.so files.
Thus, if nnfw has all *.so files in _libdir, do not install them with devel except for representative symlinks.

Fixes #7714

Signed-off-by: MyungJoo Ham <myungjoo.ham@samsung.com>

Revise tizen build (#7755)

Remove special setting for gbs/obs build
Install armcl package in tizen rootfs
Move default setting for tizen into cmake option

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[tfldump] Use external TensorFlow 1.14 schema file (#7762)

This commit uses tflite schema file from TensorFlow 1.14 external source
code.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-tf] Remove Phase (#7760)

logo replaces this internal implementation of Phase.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Introduce CodecHelper (#7757)

This commit introduces CodecHelper module which provides
set_feature_enc/set_feature_dec helpers.

This change reduces duplication in code base.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[loco] Remove unnecessary friend declarations (#7753)

This commit removes unnecessary friend declarations from loco Graph
class.

These friend declarations are introduced for migration, but no longer
required.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[CI] Exit with fail code when build fail (#7758)

Fix build script to check build fail

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[nncc-cmake] Replace package config files (#7761)

Replace package config files and related files to common directory with nnfw

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-tf] Reduce Code Duplication (#7743)

This commit rewrites canonizliazation passes to use SimpleNodeTransform
in order to reduce code duplication.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nncc-cmake] Rename nncc_find_package to nnas_find_package (#7740)

Rename nncc_find_package to nnas_find_package to share package config with nnfw

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[tflite_bencmark] Let users can turn On/Off build (#7750)

* [tflite_bencmark] Let users can turn On/Off build

Introduce CMake variable `BUILD_TFLITE_BENCHMARK` which is a flag to
indicate do the build or not.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>
* Update CfgOptionFlags.cmake

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[ARMComputeEx] Fix target_link_libraries dependency (#7745)

This library actually needs `arm_compute` rather than
`arm_compute_core`. Without this, Android NDK build fails.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[nnapi-test] Update test generator (#7729)

- Rename directory: andrdoid-10
- Use generator in android-10 r2 release (not used yet)
- Remove useless files
- Update README.md

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[android_tflite] Disable JNI build (#7744)

JNI build is not trivial due to the reason that is described in the
comment. So temporarily disable JNI build.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[tflite_benchmark] Remove Boost dependency (#7751)

Accumulator is the only module that `tflite_benchmark` is depend on.
This commit introduces our own Accumulator and replace with it.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[nnfw-cmake] Introduce nnas_find_package (#7741)

Introduce nnas_Find_package to share package config with nncc

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Make layout of frontend and backend to be the same for Gather, Reshape and FC (#7711)

This commit makes layout of frontend and backend to be the same for Gather, Reshape and FC.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[mir] Add function for numpy-style broadcasting (#7749)

* Add `broadcastShapes` for numpy-style bidirectional broadcasting.
* Use it in shape inference of binary operations.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[nnc] Update C++-generating backend elementwise operations (#7748)

Remove support for multiple inputs to elementwise operations (they now accept only two inputs).

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

[mir2loco] Implemented transformation for FullyConnectedOp (#7414)

* Support transformation mir::FullyConnected to loco::MatrixMul

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[nnfw-cmake] Use android cmake variable (#7738)

Use android cmake variable ANDROID defined in toolchain cmake setting

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[nnfw-cmake] Remove nnfw module directory (#7720)

Move remain nnfw cmake module to unified module
Remove nnfw cmake module
Use unified module in nnfw cmake script

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[android_tflite] Move CMake dependency declaration (#7725)

Move CMake dependency declaration to the correct file. Adding dependency
from another module is illegal.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[loco] Fix typo in CanonicalShapeInferenceRule (#7734)

This will fix typo in CanonicalShapeInferenceRule

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo-tfltie] turning on a knob of TFLConst (#7733)

This turns on a knob for TFLConst.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo-tflite] Give name to created tensor (#7732)

* [exo-tflite] Give name to created tensor

This commit amends operator export stage to give name to just created
tensor.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Remove duplicated definition

[moco-tf] SimpleNodeTransform (#7723)

This commit introduces SimpleNodeTransform which iterates over active
nodes of a certain type.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[tf2tflite] NET_0016 test (#7727)

This commit adds NET_0016 test for tf2tflite

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-integration-test] Use i5diff (#7728)

Let's use i5diff instead of h5diff.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[neurun] Add missing inclusions of headers (#7724)

Add inclusions for Android NDK build. NDK clang compiler complains
without this.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[tf2tflite] Conv2DBackpropInput unit tests (#7718)

This commit adds following unit tests for tf2tflite integration test:
- UNIT_Conv2DBackpropInput_000, valid padding case
- UNIT_Conv2DBackpropInput_001, same padding case

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

Make backends of acl support PermuteNode (#7685)

This commit makes backends of acl support PermuteNode.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Make to support SpaceToDepth op for acl neon (#7633)

This commit makes to support SpaceToDepth op for acl neon.
  - Introduce NESpaceToDepthLayerEx and NESpaceToDepthLayerKernelEx
  - Apply NEDepthToSpaceLayerEx layer for neurun

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[libs/tflite] Fix narrowing conversion (#7717)

There is a narrowing conversion in `RandomGenerator` constructor and it
is detected by Android NDK clang compiler.

`int` to `uint_fast32_t` causes narrowing conversion so this commit
changes type of `seed` to `uint32_t`.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>