ExecTime records for NYI ops should always read "not implemented" (#5309)

* ExecTime records for NYI ops should always read "not implemented"

Added a guard against recods for ops with incomplete implementation

Signed-off-by: Andrei Shedko <a.shedko@samsung.com>
* Fix small typo in comment

Fix small typo in comment

Signed-off-by: Andrei Shedko <a.shedko@samsung.com>

Fix DotDumper bug when dumper level 1 (#5320)

Constant operands were incorrectly shown. This commit fixes it.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Core implementation of TFLite Loader [2/4] (#5286)

* Initial implementation of tflite loader

* PR contain header of loader and stab impl
* Fix some format in loader

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>
* Core implementation without operations

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>
* Add exceptions on not supported params in tflite::Tensor

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

Implement per-operation backend assignment (#5311)

Implement per-operation backend assignment on ManualScheduler.
This also introduces `string_helpers.h`.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[Interp] Generated test for interpreter (#5303)

* [Interp] Generated test for interpreter

Add generated test for interpreter in x86-64 test script

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>
* Update comment

Use user setting gcov tool for coverage report (#5315)

Use user setting gcov tool (arm cross builttool) to match gnu tool version

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Remove operand's layout from LowerInfo (#5322)

This commit removes operand's layout from LowerInfo.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[neurun] Introduce Unpack operation (#5327)

* Add `Unpack` operation to the neurun core
* Implement `ANEURALNETWORKS_UNPACK_EX` interface.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>

Fix pacl build fail (#5325)

Fix pacl build fail by tflite loader

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Initial implementation of tflite loader (#5285)

* Initial implementation of tflite loader

* PR contain header of loader and stab impl

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>
* Fix some format in loader

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>
* Disable tflite loader building for tizen build

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>
* CMake fixes: using library links, -Werror

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>
* Fix dangerous namespace to tflite_loader

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>
* Fix some comment issues and ifndef name

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

Resolve param value for l2 pool at frontend (#5304)

- Remove index param in l2pool2d node and resolve value at frontend
- Use resolved constant param value at acl_cl backend

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Replace BackendSet with PermuteFactorSet (#5307)

This commit replaces BackendSet with PermuteFactorSet.
  - replace BackendSet with PermuteFactorSet in operand::LowerInfo
  - Add the layout as a factor separating sub-graphs

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Remove unused variable and method in Plan (#5317)

`_compiled` is no longer used as related code are moved to an earlier
stage.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[xray] A lightweight message passing interface (#5305)

This commit introduces xray which implements a lightweight message
passing channel (based on weak symbol) for event trace.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Hoisted some throw "NYI" statements to stage generation (#5312)

Hoisted some throw "NYI" statements to stage generation

Signed-off-by: Andrei Shedko <a.shedko@samsung.com>

Resolve param value for depthwise conv at frontend (#5302)

- Remove index param in depthwise conv node and resolve value at frontend
- Use resolved constant param value at each backend

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Fix ManualScheduler (#5306)

`OP_BCKEND_XXXNode` did not work, this commit fixes it.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Introduce IScheduler (#5296)

* Introduce IScheduler

Introduce IScheduler to support various kind of schedulers. It has
just one `schedule` function that returns a `BackendResolver`, but it
could be changed later as needed.

Legacy scheduling procedure is now implemented in `ManualScheduler`.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>
* Fix comments

Introduce custom set (#5300)

This commit introduces custom set of permutation factors into operand's LowerInfo.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Fix coverage test bug in ExecTime (#5289)

* Fix coverage test bug in ExecTime

Fix coverage test bug by g++ optimization level (-O) in ExecTime::updateOperationExecTime's map [] operator

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>
* Use emplace instead of insert

Front-pad 4dShapes instead of back-pad (#5299)

Front-pad 4dShapes instead of back-pad

Signed-off-by: Andrei Shedko <a.shedko@samsung.com>

[Interpreter] Use cker for interpreter add operation (#5276)

* Use cker for interpreter add operation

- Use cker for interpreter add operation
- Introduce util header for type transfer
- Support more activations: RELU, RELU1, RELU6
- Support more types: float32

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>
* Rename functions

Introduce layout parameter to asFeature and asKernel (#5295)

Introduce layout parameter but allow NHWC only (because NCHW is not used yet)
Fix axis mapping comment

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Resolve param value for average pool at frontend (#5298)

- Change stride and kernel width/height index param in avgpool2d node to constant value
- Resolve param values at frontend and use resolved value at each backend

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Resolve stride value for tanspose conv at frontend (#5294)

- Remove stride index param in transposeconv node and resolve value at frontend
- Use resolved constant stride value at acl_cl backend

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Resolve param value for maxpool at frontend (#5292)

- Remove stride and kernel size index param in maxpool node
- Resolve param values for maxpool at frontend
- Use resolved constant param at each backend

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Rename files of nnapi wrapper classes (#5291)

Rename header and source files that were misleading.

- `compilation` to `ANeuralNetworksCompilation`
- `event` to `ANeuralNetworksEvent`
- `execution` to `ANeuralNetworksExecution`
- `memory` to `ANeuralNetworksMemory`

In the same manner with #5284

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Modify util function in OperationFactory (#5290)

* Modify util function in OperationFactory

- Rename util function for struct param setting: set{Struct_name} to make{Struct_name}
- Use explicit static casting for uint32_t from int32_t in makeStride function

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>
* Rename makeExplicitPadding

Rename nnapi wrapper `model.h` (#5284)

Rename nnapi wrapper `model.h` to `ANeuralNetworksModel.h`.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Resolve stride value for convolution at frontend (#5282)

Remove stride index param in con2d node
Resolve stride value for conv2d at frontend
Use resolved constant stride value at each backend

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Revise BackendResolver to be per operation (#5262)

Revise BackendResolver to be per operation, not the type of operation

Part of #5115

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Introduce the layout into TensorBuilder (#5233)

* Introduce the layout into TensorBuilder

This commit introduces the layout into TensorBuilder.
  - Introduce layout into TensorBuilder
  - Remove setting the layout with hard-coding from TensorBuilder

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>
* Update TensorBuilder.h

[tflitefile_tool] Fix depthwise typo in config_saver (#5281)

This patch fixes the depthwise typo in config_saver

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

Overload cpp14::make_unique to support arrays (#5268)

* Overload cpp14::make_unique to support arrays

Extend own implementation of make_unique to support array construction.

Signed-off-by: Sergei Barannikov <s.barannikov@samsung.com>
* Add copyright information.

Introduce alias feature shape (#5273)

Introduce alias model::FeatureShape for nnfw::misc::feature::Shape

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[Interpreter] Introduce kernel registration structure (#5269)

* Introduce kernel registration structure

- Divide kernel to prepare/invoke
- Introduce kernel registration structure
  - OperationExecutor's constructure register kernel
  - Visitor call prepare and invoke function based on node type

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>
* Fix unused variable

Rename snake case padding util function (#5271)

Rename valid_padding and same_padding function

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[Interpreter] Introduce buffer allocator and deallocator (#5260)

* Introduce introduce buffer allocator and deallocator

Allocate buffer if need for operation output
Deallocate buffer if all uses are finished

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>
* Rename allocatedIfNeed to allocatedIfNeeded

Fix remove file name in ExecTime unittest (#5264)

Fix remove file name in ExecTime unittest to exec_time.json

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Prepare to use Stride struct in operation param (#5261)

Move util::Stride to InternalType.h
Make field for stride param in operation node definition

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

New schema_generated.h file in tflite_loader (#5228)

* Regenerated schema_generated.h file in tflite loader

* Generate new file with correspondings flatbuffers version and flags

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>
* Recompiled schema header without extra flags

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>
* New line at the end of file

Signed-off-by: Pavel Iliutchenko <p.iliutchenk@samsung.com>

Use rua-shim in T/F Lite delegate (#5263)

This commit update T/F Lite delegate to use RUA Shim implementation
instead of the current Shim implementation (derived from T/F Lite).

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Fixed 'how to test manually' document (#5251)

Fixed 'how to test manually' document

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

Use padding util function for transpose convolution (#5256)

Use padding util function for transpose convolution on acl cl backend stage generator

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[RUA] Update CMake target name & ifdef guard (#5255)

With this commit, RUA becomes consistent with other libraries in NNFW
in terms of CMake target name and ifdef guard.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Add interpreter unittest using buffer (#5221)

* Add interpreter unittest using buffer

Add interpreter unittest using two add operation with buffer output and constant operand
Move add kernel code order for correct exception

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>
* Update example model comment

[tflite_run] Support input from file (#5204)

Supported input from file (--input cli key)

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

Revise padding parameter resolution (#5248)

Resolve paddidng parameter value at frontend
Use util function in backend stage generator

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Remove const keyword for int32_t return (#5249)

Remove const keyword for int32_t return in cker

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Fix backend pointers in ExecTime (#5241)

Fix backend pointers in ExecTime

Signed-off-by: Andrei Shedko <a.shedko@samsung.com>

[RUA] Introduce Anchor & Shim module (#5243)

This commit introduces rua-anchor which provides as a global rua
service store, and rua-shim which provides (inlined) Android NN API
implementation which delegates the call to the anchored runtime.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Extract ExecutorFactory as a separate class (#5236)

Remove if-else statements for Executor creation, use a map-based factory
instead.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Revise padding parameter setting for depthwise convolution (#5234)

* Revise padding parameter setting for depthwise convolution

- Resolve explicit padding param value at frontend
- Introduce util function to calculate padding from type and additional info
  - Use introduced function on backend

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>
* Update function name

[RUA] Introduce Dynamic Binder (#5230)

This commit introduces RUA Dynamic Binder which binds Android NN runtime
through dlopen as TensorFlow Lite does.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Added 'how to test manually' document (#5205)

Added 'how to test manually' document

Signed-off-by: Ivan Vagin <ivan.vagin@samsung.com>

Introduce Execution Time structure (#5162)

This adds a structure to store/update/persist
runtime information for different ops

Signed-off-by: Andrei Shedko <a.shedko@samsung.com>

Rename Worker to WorkQueue (ParallelScheduler) (#5232)

Rename Worker to WorkQueue which is ussed from ParallelScheduler.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Include cmake ExternalProjectTools before using (#5231)

Include lost cmake ExternalProjectTools before using add_extdirectory macro

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Merge explicit padding structure (#5229)

Merge usage neurun::util::Padding to neurun::model::ExplicitPadding
Rename Padding.value to Padding.param

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Introduce RUA library (#5227)

This commit introduces RUA library which serves as an abstraction over
various Android NN runtime implementations.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

FileIO for Execution Time (#5226)

This class handles saving and parsing ExecTime data.

Signed-off-by: Andrei Shedko <a.shedko@samsung.com>

Update doxygen config for main page (#5220)

Update exxclude directory to make main page and related page

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Introduce the layout into Subgraph (#5222)

This commit introduces the layout into Subgraph.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Add const keyword for interpreter tensor accessor (#5218)

Add const keyword for interpreter tensor accessor in ExecEnv

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Support RNN operation (#5214)

This commit supports RNN operation by using acl cl.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Move operation kernel call (#5217)

Introduce operation kernel directory for interpreter
Call kernel function in visitor

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Fix typo in depthwise convolution node (#5216)

Fix typo: multipler -> multiplier
This typo comes from tensorflow lite

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Remove backend layout (#5176)

This commit removes backend layout.
  - Remove getting layout from backend
  - Introduce layout into LowerInfo

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Introduce doxygen command (#5213)

* Introduce doxygen command

Doxygen generation command: ./nnfw doxygen

Update doxygen configuration file
- Include codes only build on gbs
- Update path based on repo's root

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>
* Use pushd and pop

Package dependency for peachpy (#5201)

External peachpy source need for NNPACK
In peachpy source download configuration, it need additional download to execute python setup script - six, enum, opcode
Instead of using setup.py, direct code generation script run with python path setting

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[cker] Depthwise conv quant8 type (#5195)

Introduce depthwise conv quant8 type kernel in cker
Implement neurun cpu backend for depthwise conv quant8 and enable test

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Enable ParallelExecutor (#5202)

Enable ParallelExecutor with option `EXECUTOR=Parallel`.

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

[cker] Elementwise add kernel (#5203)

* [cker] Elementwise add kernel

Introduce elementwise add kernel in cker
Implement neurun cpu backend and enable test

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>
* Fix header

Introduce padding struct (#5210)

* Introduce padding struct

Introduce padding struct including padding type and explicit padding value
Use padding type field only

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>
* Fix bug in debug build

Rename padding type enum class (#5209)

Rename padding type enum class: Padding -> PaddingType
Prepare introduce padding struct including padding type and value

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Fix dumper bug (#5207)

Fix dumper bug for TopKV2 Node

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Remove nnpack installation (#5193)

Remove nnpack related headers and static library installation

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

[ACLEx] Introduce CLRNNLayerEx (#5196)

This commit introduces CLRNNLayerEx fixing CLRNNLayer of v19.02.

diff --git a/src/runtime/CL/functions/CLRNNLayer.cpp b/src/runtime/CL/functions/CLRNNLayer.cpp
index 63f00ac8e..d89a38316 100644
--- a/src/runtime/CL/functions/CLRNNLayer.cpp
+++ b/src/runtime/CL/functions/CLRNNLayer.cpp
@@ -44,8 +44,8 @@ CLRNNLayer::CLRNNLayer(std::shared_ptr<IMemoryManager> memory_manager)
 Status CLRNNLayer::validate(const ITensorInfo *input, const ITensorInfo *weights, const ITensorInfo *recurrent_weights, const ITensorInfo *bias, const ITensorInfo *hidden_state,
                             const ITensorInfo *output, const ActivationLayerInfo &info)
 {
-    const int idx_width  = get_data_layout_dimension_index(input->data_layout(), DataLayoutDimension::WIDTH);
-    const int idx_height = get_data_layout_dimension_index(input->data_layout(), DataLayoutDimension::HEIGHT);
+    const int idx_width = 0;
+    const int idx_height = 1;
     ARM_COMPUTE_RETURN_ERROR_ON_NULLPTR(input, weights, recurrent_weights, bias, hidden_state, output);
     ARM_COMPUTE_RETURN_ERROR_ON(input->dimension(idx_width) != weights->dimension(idx_width));
     ARM_COMPUTE_RETURN_ERROR_ON(weights->dimension(idx_height) != recurrent_weights->dimension(idx_width));
@@ -72,7 +72,7 @@ void CLRNNLayer::configure(const ICLTensor *input, const ICLTensor *weights, con
     ARM_COMPUTE_ERROR_ON_NULLPTR(input, weights, recurrent_weights, bias, hidden_state, output);
     ARM_COMPUTE_ERROR_THROW_ON(CLRNNLayer::validate(input->info(), weights->info(), recurrent_weights->info(), bias->info(), hidden_state->info(), output->info(), info));

-    const int   idx_height = get_data_layout_dimension_index(input->info()->data_layout(), DataLayoutDimension::HEIGHT);
+    const int   idx_height = 1;
     TensorShape shape      = compute_rnn_shape(recurrent_weights->info(), hidden_state->info()->dimension(idx_height));

     _is_prepared = false;

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Remove NNAPI Shim include from NNAPI Delegate header (#5200)

This header may introduce some name conflicts. Let's remove this
unnecessary include.

Signed-off-by: Jonghyun Park <jh1302.park@samsung.com>

Use template for actvation calculation (#5198)

Change activation implementation to use template
Prepare to support more type (int32, uint32, etc)

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Fix PermuteLayer (#5188)

This commit fixes PermuteLayer to consider padding.
  - Fix PermuteLayer to consider padding
  - Fix PermuteLayer to consider layout

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Update Dumper to support implemented operations (#5192)

This commit updates Dumper to support implemented operations now.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Introduce ParallelExecutor (#5171)

This commit introduces ParallelExecutor without usage.

Draft PR : #4920

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Remove Obsolescent Functions (atoi) (#5191)

This patch will replace atoi function with strtol.

Reference : https://wiki.sei.cmu.edu/confluence/display/c/MSC24-C.+Do+not+use+deprecated+or+obsolescent+functions

Signed-off-by: Chunseok Lee <chunseok.lee@samsung.com>

[hi-perf-cpu] High performance cpu backend (#5064)

* [hi-perf] High performance cpu backend

initial support for nnpack library

Signed-off-by: Andrei Shedko <a.shedko@samsung.com>
* [hi-perf] NNPACK actually builds correctly.

NNPACK builds, but cpuinfo does not detect CPU yet.

Signed-off-by: Andrei Shedko <a.shedko@samsung.com>
* [hi-perf] Cleanup cmake and test inference

Split nnpack deps download into separate configs.
Added float16 format options to arm builds.
Added nnpack relu test to be run when it is possible

Signed-off-by: Andrei Shedko <a.shedko@samsung.com>
* [hi-perf] Try to fix cmake crossbuild

Try to fix cmake crossbuild

Signed-off-by: Andrei Shedko <a.shedko@samsung.com>
* [hi-perf] Fix x86_64 build

PeachPy on x86_64 needs to generate some files for successful
compilation
Added explicit dependency on Opcodes.py

Signed-off-by: Andrei Shedko <a.shedko@samsung.com>
* [hi-perf] Fix archive type in cmake

Fix archive type in cmake
Fix avx instruction generation for nnpack

Signed-off-by: Andrei Shedko <a.shedko@samsung.com>
* [hi-perf] Review Fixes

file-terminating newlines added, codestyle fixed.

Signed-off-by: Andrei Shedko <a.shedko@samsung.com>
* [hi-perf] More fixes for cmake files

Status reporting improved.
Removed superfluous linkages and includes.

Signed-off-by: Andrei Shedko <a.shedko@samsung.com>
* [hi-perf] More review Fixes

Fixed comment, Removed conflicting change

Signed-off-by: Andrei Shedko <a.shedko@samsung.com>

Introduce tensorflow lite file loader directory (#5180)

Introduce tensorflow lite file loader directory in contribs for prototye of nnpackage's model file loader
schema.fbs file is comes from tensorflow r1.13.1
schema_generated.h file is auto-generated by flatc

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Support assigning backends to instances of operations (#5167)

* Support assigning backends to instances of operations

This is needed for HE scheduling

Signed-off-by: Poshshoev Dilshodzhon <d.poshshoev@samsung.com>
* Remove unrelated changes

Signed-off-by: Poshshoev Dilshodzhon <d.poshshoev@samsung.com>

Enable some tests for x64 (#5174)

This commit enables some tests for x64

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Remove unused/unneeded SubGraphContext methods (#5173)

- Remove `releaseAt` which is unused
- Remove `getAt` which is a duplicate

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Change default layout of acl backend to NHWC (#5159)

* Change default layout of acl backend to NHWC

This commit changes default layout of acl backend to NHWC.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>
* Enable NCHW test for acl backend

This commit enable NCHW test for acl backend
 - Introduce ACL_DEFAULT_LAYOUT configuration for test by layout

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>
* Fix failures of NCHW tests

This commit fixes failures of NCHW tests.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Introduce layout info in model operand (#5172)

Set model operand's shape layout info in operand info to support more layout from model
Default value is NHWC

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>

Fix compile error. (#5170)

- fix unintended implicit fallthrough in switch case.

Signed-off-by: Sung-Jae Lee <sj925.lee@samsung.com>

Introduce asActivationLayerInfo converting activation code to ActivationLayerInfo (#5144)

This commit introduces asActivationLayerInfo converting activation code to ActivationLayerInfo.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

[tflitefile_tool] Add config option for benchmark tool to save model config file (#5145)

* [tflitefile_tool] Add config option for benchmark tool

This patch adds the `-c` and `--config` options.
This option will print the configuration information of each operator.

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>
* Save configuration file

This patch allows to save the configuration info about model

Signed-off-by: Jiyoung Yun <jy910.yun@samsung.com>

Introduce ParallelScheduler (#5155)

Introduce `ParallelScheduler` along with `Worker` and `ThreadPool`.

Part of #4920

Signed-off-by: Hanjoung Lee <hanjoung.lee@samsung.com>

Organizing the files past the date. (#5166)

- Make backup folder `doc/2018`.
- Move the files past the date, if possible.

Signed-off-by: Sung-Jae Lee <sj925.lee@samsung.com>

Update `roadmap.md` (#5148)

* Update `roadmap.md`

- create document sub folder named `2018`
- move the last `roadmap.md` document and `nnfw_architecture` image to 2018 folder.
- create new `roadmap.md` and `nnfw_architecture` for 2019 with updated contests.

Signed-off-by: Sung-Jae Lee <sj925.lee@samsung.com>

Update `workgroups.md` document (#5160)

* Update `workgroups.md` document

- Update workgroups.md document with latest workgroup configuration.
- Tempolarly rename old file to `2018_workgroups.md` for backup.
  It will moved to `docs/2018` folder after #5148 merged.

Signed-off-by: Sung-Jae Lee <sj925.lee@samsung.com>

Change ConcatLayer to support NHWC (#5165)

This commit ConcatLayer to support NHWC.

Signed-off-by: jiseob.jang <jiseob.jang@samsung.com>

Remove pack simple kernel (#5163)

Remove pack simple kernel in libs/ARMComputeEx
Use stack kernel in acl 19.02
Fix generated test to test 2D input (permutation issue)

Signed-off-by: Hyeongseok Oh <hseok82.oh@samsung.com>