[android_jni] Add missing builtin_ops_jni.cc (#8548)

This file should have been committed from #8026 but it was not added by
accident. Target `tensorflowlite_jni` would not build without this file.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Update test project in collect resource script (#8546)

`tf2tflite_test` would be deprecated, and replaced with
`tf2tflite_integration_test`. This commit updates regarding this change
for collect resource script.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-tf] Use TFShapeInferenceHelper from moco (#8545)

This will update to use TFShapeInferenceHelper from moco

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[mir/interpreter] Quantized operations implementation (#8317)

* Supported quantized operations: Add, Conv2D, DepthwiseConv2D
* Fixed interpreter for quantizations

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[tfl-inspect] Remove unused header inc (#8544)

This will remove unused header includes

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tf2tflite-integration-test] adding test for DepthwiseConv2D bias fusion (#8542)

This adds four nets to test DepthwiseConv2D bias fusion.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[moco-tf] Remove unused IR headers (#8541)

This will remove not used anymore IR headers that only redirects to moco IR

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo] Revising setCandidate() of FuseBiasAddPass (#8538)

setCandidate() of FuseBiasAddPass was revised to support FormerT and LatterT, and removed names related to conv2d.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[moco-tf] Remove unused GraphBuilder redirect headers (#8534)

This will remove not used anymore GraphBuilder redirect header files

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[circle-inspect] Rename "Load.cpp" as "Model.cpp" (#8535)

"Load.cpp" includes the implementation of "Model.h".

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Remove Importer.h (#8533)

This will remove not used anymore Importer.h file

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo] moving dynamic cast check in setCandidate into visitors (#8531)

This moves dynamic cast check in setCandidate into visitors.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[circle-inspect] Dump circle file (#8529)

* [circle-inspect] Dump circle file

This will enable dump circle file operators

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* remove unused headers

[tfl-inspect] Rename "Load.cpp" as "Model.cpp" (#8528)

"Load.cpp" includes the implementation of "Model.h".

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] Remove Dialect files (#8527)

This will remove not used anymore Dialect folder files

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Introduce tf2tflite integration test (#8523)

This commit introduces tf2tflite integration test:
tf2tflite-integration-test directory, and tf2tflite_integration_test
test executable

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[exo] revising Fuse class to use FormerT and LatterT (#8530)

This revises Fuse class in FuseBiasAddPass.cpp  to use FormerT and LatterT.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[infra/cmake] add TensorFlowSource 1.13.1 (#8519)

This commit adds TensorFlowSource 1.13.1

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[circle-inspect] Introduce Load Reader and Model (#8525)

* [circle-inspect] Introduce Load Reader and Model

This will introduce circle model Load and Reader using mio-circle

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* fix comment

[tf2circle] Set shape information in signature at tf2circle (#8484)

Until now, signature in `tf2circle` didn't have shape information.
This commit will set the shape information in signature at `tf2circle`

Signed-off-by: Seok NamKoong <sk.namkoong@samsung.com>

[moco-tf] Update to use moco TFDialect (#8522)

This will update to use moco TFDialect in src folder

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo] rewriting FuseBiasAddPass to use Mixin<Bias>  (#8507)

* [exo] FuseBiasAddPass

This code is modified to use Mixin<Bias> instead of TFLConv2D. (This commit is a part of modification.)

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* Former -> FormerT

* Fix get_former()

[moco-tf] Update to use moco TFDialect (#8514)

This will update to use TFDialect from moco project

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[circle_inspect] Initial circle-inspect project (#8513)

This will introduce circle-inspect project to inspect Circle model file

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Update Transform header with moco (#8512)

This will update Transforms header to include individual Passes from moco and delete not used anymore redirect header files

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tf2nnpk] check existence and provide help (#8499)

It will show help with `--help`.
It will check existence of flatc, graphdef and info file.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

Make to support Pack op for acl neon (#8506)

This commit makes to support Pack op for acl neon.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[ncnn-backend] Enable NCNN backend test (#8482)

Test ncnn backend - transpose conv only
(run with cpu backend test job)

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-tf] Use moco Importer (#8504)

This will update to use moco Importer header

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[neurun] Change Gather axis param to int (#8460)

* Changed Gather axis param from OperandIndex to int

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[moco_tf] Remove ResolveFusedBatchNorm test (#8502)

This will remove ResolveFusedBatchNorm test as the Pass itself has migrated to moco-pass

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] Use mono namespace of Passes (#8500)

This will update to use moco namespace of Passes

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[tfl-inspect] Introduce dump operators (#8493)

* [tfl-inspect] Introduce dump operators

This will introduce DumpOperators and use this for dumping operators in the model file

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* apply comments

[tf2nnpkg] Exit immediately on fail (#8468)

Exit immediately if one of called script or binary  (tf2tflite, tflite2circle, model2nnpkg) failed

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[moco-tf] Redirect to use moco Pass (#8492)

This will redirect to use moco Pass and delete migrated Pass implementions

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Make to support Pack op for acl_cl (#8490)

This commit makes to support Pack op for acl_cl.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Change calculating offset of Readers and Views (#8409)

This commit changes calculating offset of Readers and Views to use strides.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[nnpkg_test] nnpkg_test list accepts wildcard (#8486)

- You can use * in list.
- nnpkg_test list is updated.

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[exo] revising comment for the target nodes of FusedBiasAddPass (#8477)

Comment for the target nodes of FusedBiasAddPass was revised.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo] mixin for nodes that have bias input and fused activation function (#8476)

* [exo] mixin for nodes that have bias input and fused activation function

This adds a  mixin for nodes that have bias input and fused activation function.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>
* remove inheritance structure of mixin

[exo] renaming template type and node name (#8483)

Instead of trying to imply real type of template type,
general T is used and static_assert was added to explicitly show allowed type.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[tfl-inspect] Introduce Reader (#8461)

* [tfl-inspect] Introduce Reader

This will introduce tflite file Reader class and required methods

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* use tflinspect namespace

* move Model inside src

[moco] Introduce Pass (#8466)

* [moco] Introduce Pass

This will introduce Pass that provides TF dialect pass, transformation and optimization

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* fix typo

[nnc] Extract implementations of activation functions (#8487)

Extract implementation of activation function to cpp files.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Introduce Pack op (#8355)

* Introduce Pack op

This commit introduces Pack op into frontend.
  - Introduce PackNode into neurun
  - Introduce Pack op into frontend

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>
* Add NYI runtime_error for pack op of base_loader

This commit adds NYI runtime_error for pack op of base_loader.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Update nnpkg_test list (#8481)

This commit updates nnpkg_test's test coverage.

Note that unit test for 'Concat' and 'DepthwiseConv2D' have been changed
their names:
- UNIT_Concat_* -> UNIT_ConcatV2_*
- UNIT_DepthwiseConv2D_* -> UNIT_DepthwiseConv2dNative_*

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[android] Introduce android_benchmark_app (#8380)

* [android] Introduce android_benchmark_app

This commit introduces an Android benchmark app for easy testing with an
actual Android visual app rather than running on shell.

The app contains minimal UI which consist of 2 buttons and few text
views to show results.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>
* Fixes

[CI] Infra scripts for nncc package and nnpkg test (#8471)

CI infra scripts
- nncc build and resouce collection scripts
- Update build_nnpkg.sh to install nncc package
  - Update nncc-tc-to-nnpk-tc.sh to handle pb file and use tf2nnpkg

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[exo] renaming a method to a bit more detaild name (#8478)

This renames `create_fused_bias()` to `create_fused_bias_const()`.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo] refactoring: rearranging if.. else.. in FuseBiasAddPass (#8479)

This re-arranges `if (abnormal case) else if (normal case)` to `if (normal case) else if (abnormal case)` for better readability.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

'create-package' with relative install prefix (#8443)

* 'create-package' with relative install prefix

This commit allows './nnas create-package' with relative install prefix

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Fix to be relative to user's directory

[exo] setting FusedActFunc of TFLAdd and TFLSub with init() function (#8454)

This adds init() method that sets FusedActFunc of TFLAdd and TFLSub

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[tf2nnpkg] Model name (#8467)

Use model name for circle file and package directory output

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[nnas] Introduce verify-package command (#8435)

This command allows users to verify NNAS Host Toolchain package. The
current implementation supports very basic checks.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[nnfw/cmd] Remove alias setting (#8359)

* [nnfw/cmd] Remove alias setting

Remove alias setting in command
Directory alias will be set on Makefile
Add and fix build path checking message

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>
* Fix bug

[moco] Remove service from lang (#8465)

This will remove service folder from Lang that exist as separate target

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[nnpackage_run] Fix time unit shown (#8398)

Fix printed time unit `sec` to `ms`.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[exo] renaming test name (FuseConv2DBiasAddPassTest to FuseBiasAddPassTest) (#8455)

Test name was renamed from FuseConv2DBiasAddPassTest to FuseBiasAddPassTest.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[moco] Let Support use Lang (#8462)

This will update Support to use Lang target
- delete  migrated TFDataLayout and TFPadding
- use TFDataLayout and TFPadding from Lang
- update cmake build order

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[res/TensorFlowTests] test models for fusing DepthwiseConv with other ops (#8457)

This adds test models for fusing DepthwiseConv with other ops.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[mir-tflite-importer] Fix setting quantization only on uint8 tensors (#8458)

* Added data type check for all creations of quantization

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[mir-tflite-importer] Fix checking quantized input type (#8456)

* Fixed setting quantization for InputOp then data type isn't UINT8

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[nnfw-api] Remove header install by copy (#8376)

Divide nnfw api directory to src and include, and install public headers
Rename nnapi directory and install public header

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[exo] Convert DepthwiseConv2D applied (#8449)

This commit turns on conversion for DepthwiseConv2D

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco] Add TFDataLayout and TFPadding to IR (#8453)

This will add  TFDataLayout and TFPadding type into IR

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

Fix undefined symbol error on libbackend_srcn.so (#8447)

This commit fixes undedefined symbol error of openmp's function on libbackend_srcn.so.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[circle-schema] use ubyte for BuiltinOperator (#8451)

Previously, it was byte, which can't accommodate 254 (instance_norm).

Signed-off-by: Sanggyu Lee <sg5.lee@samsung.com>

[cmd] Introduce skipconfigure and skipbuild (#8406)

* [cmd] Introduce skipconfigure and skipbuild

Introduce skipconfigure and skipbuild argument to use pre-configured setting or pre-build result

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>
* Use string value and string compare

[moco-tf] Link with moco-service (#8450)

This will let moco-tf link with moco-service

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo] moving ConcatMerge from convert() to optimize() (#8445)

ConcatMerge is a pass for TFL nodes. Therefore it would be better to run this pass after completion of canonical nodes to TFL nodes.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

[exo] FoldReshapeOfConst applied (#8442)

This commit turn on FoldReshapeOfConst pass for TFL optimization stage

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[tfl-inspect] Introduce empty tfl-inspect (#8428)

* [tfl-inspect] Introduce empty tfl-inspect

This will introduce empty tfl-inspect tool to show operators in TensorFlow lite model file

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* update readme

* use tfl-inspect

* split example

[moco-service] Introduce moco-service (#8436)

This will introduce moco-service extracted from moco-lang

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[exo] Renaming FuseConv2DAddSubPass to FuseBiasAddPass (#8441)

Supporting BiasAdd is needed for more ops (other than Conv2D) so pass is renamed into more general term.

Signed-off-by: Hyun Sik Yoon <hyunsik.yoon@samsung.com>

Add Exp op into base_loader (#8414)

Now, base_loader supports EXP operatoin.

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

[exo] Convert DepthwiseConv2D (#8431)

This commit introduces conversion for DepthwiseConv2D. It converts
canonical DepthwiseConv2D into TFLDepthwiseConv2D plus some auxiliary

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[moco-integraion-test] turn on placeholder test (#8434)

This commit turns on placeholder no shape related test.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[tf2tflite] turn on placeholder test (#8433)

This commit turns on placeholder no shape related test.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

Add ReduceMax into base_loader (#8415)

Now, base_loader supports ReduceMax op

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

[exo] Fold Reshape of Const Pass (#8432)

This commit introduces FoldReshapeOfConst Pass, which folds TFLReshape
followed by TFLConst

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

Introduce mio-circle (#8426)

* Introduce mio-circle

This commit introduces "mio-circle" which provides FlatBuffer generated
circle file accessor.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>
* Fix Copyright year

[exo] TFLReshape inference for shape & type (#8430)

* [exo] TFLReshape inference for shape & type

This commit implements shape and type inference for TFLReshape

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Fix typo

[moco] as Node cast helper in support (#8420)

This will introduce as helper that casts to required type in support

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco-tf] rewrite graphDef (#8397)

* [moco-tf] rewrite graphDef

This commit adds rewrite graphDef function to Frontend.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>
* split one function into two.

* change function name.

* add for supporting zero-dim-size.

[mio-tflite] Introduce mio-tflite (#8425)

* [mio-tflite] Introduce mio-tflite

This will introduce mio-tflite that produces TensorFlow lite schema header file

Signed-off-by: SaeHie Park <saehie.park@samsung.com>
* follow circle for test

* provide as example not test

* remove blank

[res] add Placeholder with no shape value network (#8418)

This commit adds Placeholder with no shape value simple network.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[mir-tflite-importer] Support quantization on tflite frontend (#8314)

* Added setting quantization to Output
* Added fused bias Covn and DWConv op creation

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[nnc/interpreter] Fix removed method getProducer (#8424)

* Fixed getting the type from input

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[mir] Fix setting output type on ConstantOp ctor (#8421)

* Fixed setOutputType on ctor

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[ncc/interpreter] Fix reading/writing tensors from/to files (#8292)

* Supported writing UINT8 DataType
* Reading files based on Input DataType size

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[nnc] Fix switcher transformation for qunatization (#8240)

* Fixed transpose inserters
* Fixed Conv2D and DepthwiseConv2D switchers

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[nnc] Quantize, Dequantize implementations on interpreter (#8175)

* Support Quantize, Dequantize operations on interpreter backend

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

[exo] Reshape TFL dialect IR (#8321)

* [exo] Reshape TFL dialect IR

This commit introduces TFLReshape, a TFL dialect IR for Reshape
operator. It also introduces its summary.

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>
* Add shape() as second input

[moco] Install support library (#8417)

This will add install support library

Signed-off-by: SaeHie Park <saehie.park@samsung.com>

[moco] Install import and lang (#8411)

tf2tflite requires moco_tf_frontend,
moco_tf_frontend requires moco_import and moco_lang

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[res] add no shape placeholder network (#8412)

This commit adds no shape placeholder simple network.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>

[exo] Type & Shape inference for TFLDepthwiseConv2D (#8395)

This commit introduces type and shape inference for TFLDepthwiseConv2D

Signed-off-by: Cheongyo Bahk <ch.bahk@samsung.com>

[nncc] Allow users to set INCLUDE_DIR with FlatBuffers_Target (#8391)

This commit revises FlatBuffers_Target helper to allow users to set
INCLUDE_DIR via option.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

[moco-tf] set shape in Frontend test (#8408)

* [moco-tf] set shape in Frontend test

This commit set shape to signature in Frontend test.

Signed-off-by: seongwoo <sw4670.chae@samsung.com>
* apply comment.

[moco] Introduce Support (#8407)

This will introduce moco-support with TFShapeInferenceHelper and related

Signed-off-by: SaeHie Park <saehie.park@samsung.com>