[circle_inspect] Initial circle-inspect project (#8513)

This will introduce circle-inspect project to inspect Circle model file

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Update Transform header with moco (#8512)

This will update Transforms header to include individual Passes from moco and delete not used anymore redirect header files

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tf2nnpk] check existence and provide help (#8499)

It will show help with `--help`.
It will check existence of flatc, graphdef and info file.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Make to support Pack op for acl neon (#8506)

This commit makes to support Pack op for acl neon.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[ncnn-backend] Enable NCNN backend test (#8482)

Test ncnn backend - transpose conv only
(run with cpu backend test job)

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-tf] Use moco Importer (#8504)

This will update to use moco Importer header

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[neurun] Change Gather axis param to int (#8460)

* Changed Gather axis param from OperandIndex to int

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[moco_tf] Remove ResolveFusedBatchNorm test (#8502)

This will remove ResolveFusedBatchNorm test as the Pass itself has migrated to moco-pass

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Use mono namespace of Passes (#8500)

This will update to use moco namespace of Passes

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tfl-inspect] Introduce dump operators (#8493)

* [tfl-inspect] Introduce dump operators

This will introduce DumpOperators and use this for dumping operators in the model file

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* apply comments

[tf2nnpkg] Exit immediately on fail (#8468)

Exit immediately if one of called script or binary  (tf2tflite, tflite2circle, model2nnpkg) failed

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-tf] Redirect to use moco Pass (#8492)

This will redirect to use moco Pass and delete migrated Pass implementions

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Make to support Pack op for acl_cl (#8490)

This commit makes to support Pack op for acl_cl.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Change calculating offset of Readers and Views (#8409)

This commit changes calculating offset of Readers and Views to use strides.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[nnpkg_test] nnpkg_test list accepts wildcard (#8486)

- You can use * in list.
- nnpkg_test list is updated.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[exo] revising comment for the target nodes of FusedBiasAddPass (#8477)

Comment for the target nodes of FusedBiasAddPass was revised.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo] mixin for nodes that have bias input and fused activation function (#8476)

* [exo] mixin for nodes that have bias input and fused activation function

This adds a  mixin for nodes that have bias input and fused activation function.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* remove inheritance structure of mixin

[exo] renaming template type and node name (#8483)

Instead of trying to imply real type of template type,
general T is used and static_assert was added to explicitly show allowed type.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[tfl-inspect] Introduce Reader (#8461)

* [tfl-inspect] Introduce Reader

This will introduce tflite file Reader class and required methods

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* use tflinspect namespace

* move Model inside src

[moco] Introduce Pass (#8466)

* [moco] Introduce Pass

This will introduce Pass that provides TF dialect pass, transformation and optimization

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* fix typo

[nnc] Extract implementations of activation functions (#8487)

Extract implementation of activation function to cpp files.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Introduce Pack op (#8355)

* Introduce Pack op

This commit introduces Pack op into frontend.
  - Introduce PackNode into neurun
  - Introduce Pack op into frontend

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>
* Add NYI runtime_error for pack op of base_loader

This commit adds NYI runtime_error for pack op of base_loader.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Update nnpkg_test list (#8481)

This commit updates nnpkg_test's test coverage.

Note that unit test for 'Concat' and 'DepthwiseConv2D' have been changed
their names:
- UNIT_Concat_* -> UNIT_ConcatV2_*
- UNIT_DepthwiseConv2D_* -> UNIT_DepthwiseConv2dNative_*

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[android] Introduce android_benchmark_app (#8380)

* [android] Introduce android_benchmark_app

This commit introduces an Android benchmark app for easy testing with an
actual Android visual app rather than running on shell.

The app contains minimal UI which consist of 2 buttons and few text
views to show results.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>
* Fixes

[CI] Infra scripts for nncc package and nnpkg test (#8471)

CI infra scripts
- nncc build and resouce collection scripts
- Update build_nnpkg.sh to install nncc package
  - Update nncc-tc-to-nnpk-tc.sh to handle pb file and use tf2nnpkg

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[exo] renaming a method to a bit more detaild name (#8478)

This renames `create_fused_bias()` to `create_fused_bias_const()`.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo] refactoring: rearranging if.. else.. in FuseBiasAddPass (#8479)

This re-arranges `if (abnormal case) else if (normal case)` to `if (normal case) else if (abnormal case)` for better readability.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

'create-package' with relative install prefix (#8443)

* 'create-package' with relative install prefix

This commit allows './nnas create-package' with relative install prefix

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Fix to be relative to user's directory

[exo] setting FusedActFunc of TFLAdd and TFLSub with init() function (#8454)

This adds init() method that sets FusedActFunc of TFLAdd and TFLSub

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[tf2nnpkg] Model name (#8467)

Use model name for circle file and package directory output

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[nnas] Introduce verify-package command (#8435)

This command allows users to verify NNAS Host Toolchain package. The
current implementation supports very basic checks.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnfw/cmd] Remove alias setting (#8359)

* [nnfw/cmd] Remove alias setting

Remove alias setting in command
Directory alias will be set on Makefile
Add and fix build path checking message

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>
* Fix bug

[moco] Remove service from lang (#8465)

This will remove service folder from Lang that exist as separate target

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[nnpackage_run] Fix time unit shown (#8398)

Fix printed time unit `sec` to `ms`.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[exo] renaming test name (FuseConv2DBiasAddPassTest to FuseBiasAddPassTest) (#8455)

Test name was renamed from FuseConv2DBiasAddPassTest to FuseBiasAddPassTest.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[moco] Let Support use Lang (#8462)

This will update Support to use Lang target
- delete  migrated TFDataLayout and TFPadding
- use TFDataLayout and TFPadding from Lang
- update cmake build order

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[res/TensorFlowTests] test models for fusing DepthwiseConv with other ops (#8457)

This adds test models for fusing DepthwiseConv with other ops.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[mir-tflite-importer] Fix setting quantization only on uint8 tensors (#8458)

* Added data type check for all creations of quantization

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[mir-tflite-importer] Fix checking quantized input type (#8456)

* Fixed setting quantization for InputOp then data type isn't UINT8

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[nnfw-api] Remove header install by copy (#8376)

Divide nnfw api directory to src and include, and install public headers
Rename nnapi directory and install public header

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[exo] Convert DepthwiseConv2D applied (#8449)

This commit turns on conversion for DepthwiseConv2D

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco] Add TFDataLayout and TFPadding to IR (#8453)

This will add  TFDataLayout and TFPadding type into IR

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Fix undefined symbol error on libbackend_srcn.so (#8447)

This commit fixes undedefined symbol error of openmp's function on libbackend_srcn.so.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[circle-schema] use ubyte for BuiltinOperator (#8451)

Previously, it was byte, which can't accommodate 254 (instance_norm).

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[cmd] Introduce skipconfigure and skipbuild (#8406)

* [cmd] Introduce skipconfigure and skipbuild

Introduce skipconfigure and skipbuild argument to use pre-configured setting or pre-build result

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>
* Use string value and string compare

[moco-tf] Link with moco-service (#8450)

This will let moco-tf link with moco-service

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo] moving ConcatMerge from convert() to optimize() (#8445)

ConcatMerge is a pass for TFL nodes. Therefore it would be better to run this pass after completion of canonical nodes to TFL nodes.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo] FoldReshapeOfConst applied (#8442)

This commit turn on FoldReshapeOfConst pass for TFL optimization stage

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[tfl-inspect] Introduce empty tfl-inspect (#8428)

* [tfl-inspect] Introduce empty tfl-inspect

This will introduce empty tfl-inspect tool to show operators in TensorFlow lite model file

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* update readme

* use tfl-inspect

* split example

[moco-service] Introduce moco-service (#8436)

This will introduce moco-service extracted from moco-lang

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo] Renaming FuseConv2DAddSubPass to FuseBiasAddPass (#8441)

Supporting BiasAdd is needed for more ops (other than Conv2D) so pass is renamed into more general term.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

Add Exp op into base_loader (#8414)

Now, base_loader supports EXP operatoin.

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

[exo] Convert DepthwiseConv2D (#8431)

This commit introduces conversion for DepthwiseConv2D. It converts
canonical DepthwiseConv2D into TFLDepthwiseConv2D plus some auxiliary

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-integraion-test] turn on placeholder test (#8434)

This commit turns on placeholder no shape related test.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[tf2tflite] turn on placeholder test (#8433)

This commit turns on placeholder no shape related test.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

Add ReduceMax into base_loader (#8415)

Now, base_loader supports ReduceMax op

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

[exo] Fold Reshape of Const Pass (#8432)

This commit introduces FoldReshapeOfConst Pass, which folds TFLReshape
followed by TFLConst

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

Introduce mio-circle (#8426)

* Introduce mio-circle

This commit introduces "mio-circle" which provides FlatBuffer generated
circle file accessor.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix Copyright year

[exo] TFLReshape inference for shape & type (#8430)

* [exo] TFLReshape inference for shape & type

This commit implements shape and type inference for TFLReshape

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Fix typo

[moco] as Node cast helper in support (#8420)

This will introduce as helper that casts to required type in support

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] rewrite graphDef (#8397)

* [moco-tf] rewrite graphDef

This commit adds rewrite graphDef function to Frontend.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>
* split one function into two.

* change function name.

* add for supporting zero-dim-size.

[mio-tflite] Introduce mio-tflite (#8425)

* [mio-tflite] Introduce mio-tflite

This will introduce mio-tflite that produces TensorFlow lite schema header file

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* follow circle for test

* provide as example not test

* remove blank

[res] add Placeholder with no shape value network (#8418)

This commit adds Placeholder with no shape value simple network.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[mir-tflite-importer] Support quantization on tflite frontend (#8314)

* Added setting quantization to Output
* Added fused bias Covn and DWConv op creation

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[nnc/interpreter] Fix removed method getProducer (#8424)

* Fixed getting the type from input

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[mir] Fix setting output type on ConstantOp ctor (#8421)

* Fixed setOutputType on ctor

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[ncc/interpreter] Fix reading/writing tensors from/to files (#8292)

* Supported writing UINT8 DataType
* Reading files based on Input DataType size

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[nnc] Fix switcher transformation for qunatization (#8240)

* Fixed transpose inserters
* Fixed Conv2D and DepthwiseConv2D switchers

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[nnc] Quantize, Dequantize implementations on interpreter (#8175)

* Support Quantize, Dequantize operations on interpreter backend

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[exo] Reshape TFL dialect IR (#8321)

* [exo] Reshape TFL dialect IR

This commit introduces TFLReshape, a TFL dialect IR for Reshape
operator. It also introduces its summary.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Add shape() as second input

[moco] Install support library (#8417)

This will add install support library

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco] Install import and lang (#8411)

tf2tflite requires moco_tf_frontend,
moco_tf_frontend requires moco_import and moco_lang

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[res] add no shape placeholder network (#8412)

This commit adds no shape placeholder simple network.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[exo] Type & Shape inference for TFLDepthwiseConv2D (#8395)

This commit introduces type and shape inference for TFLDepthwiseConv2D

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[nncc] Allow users to set INCLUDE_DIR with FlatBuffers_Target (#8391)

This commit revises FlatBuffers_Target helper to allow users to set
INCLUDE_DIR via option.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] set shape in Frontend test (#8408)

* [moco-tf] set shape in Frontend test

This commit set shape to signature in Frontend test.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>
* apply comment.

[moco] Introduce Support (#8407)

This will introduce moco-support with TFShapeInferenceHelper and related

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[logo] SimplifyDomainConversionPass for DepthwiseFilter combo (#8351)

This commit supports DepthwiseFilterEncode - DepthwiseFilterDecode combo
for SimplifyDomainConversionPass.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[exo] Set FusedActivation for sub and div (#8405)

This commit will set fusedActivationFunction for `sub` and `div`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[moco-tf] Remove GraphBuilder tests (#8402)

This will remove GraphBuilder tests that is now migrated into moco

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Redirect Importer to moco (#8401)

This will redirect Importer header to moco and remove implementation and test

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco] Add tests for node GraphBuilder (#8400)

This will add tests for node GraphBuilder

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo] Export TFLDepthwiseConv2D (#8396)

This commit introduces export stage for TFLDepthwiseConv2D

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[mir] Remove unused functions (#8366)

Remove functions which were needed for transition period.

Signed-off-by: Sergei Barannikov <barannikov88@gmail.com>

[moco-tf] use GraphBuilder of moco (#8393)

This will update to use GraphBuilder and related classes from moco
Also updates that need header changes from this change

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Fix for TFFormattedGraph (#8392)

This will add TFPlaceholder as a alias of moco::TFPlaceholder to make TFFormattedGraph work correctly

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo] Fix EXO_THROW spacing (#8388)

This commit adds space ' ' to EXO_THROW macro.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco] Importer and ModelSignature (#8383)

This will introduce Importer and ModelSignature

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo] Remove exo_tflite target (#8378)

This commit removes unused and deprecated exo_tflite target library.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-integration-test] add Pad test (#8374)

This commit adds Pad test to moco-integration-test.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[moco] Placeholder as TFPlaceholder (#8375)

This will import TensorFlow Placeholder node as TFPlaceholder IR instead of loco::Pull

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tf2tflite] add Pad test (#8372)

This commit adds Pad test to tf2tflite.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[nncc] Rename "mocotest-onnx" project (#8356)

This commit renames "mocotest-onnx" project as oneco-integration-test,
following oneco.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[stdex] Require GTest only when TEST is enabled (#8358)

GTest is required only when ENABLE_TEST is set.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[exo] Support TensorConstantPad operation (#8309)

* [exo] Support TensorConstantPad operation

This commit supports TensorConstantPad operation in exo.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>
* change vector declaration method.

[moco-tf] Import Placeholder as TFPlaceholder (#8369)

This will import TensorFlow Placeholder node as TFPlaceholder IR instead of loco::Pull
- graph input shape setting has moved to Importer class as we cannot query node by name in Frontend

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[loco] Fix typo for PermutingCodec test (#8350)

This commit fixes typo for PermutingCodec test

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[neurun] Verbose output on error while model load (#8365)

Print message of thrown `std::exception` objects.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[moco] NodeShape of TFPlaceholder (#8360)

This will introduce tensor_shape method that returns TensorShape of TFPlaceholder node

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Note for PlaceholderCanonicalizer (#8361)

This will add a note for PlaceholderCanonicalizer about GraphInputIndex

Signed-off-by: SaeHie Park <saehie.park@samsung.com>