[tflite] Minimize invoke critical path
authorParichay Kapoor <pk.kapoor@samsung.com>
Mon, 27 Jul 2020 04:26:00 +0000 (13:26 +0900)
committerMyungJoo Ham <myungjoo.ham@samsung.com>
Fri, 7 Aug 2020 10:33:07 +0000 (19:33 +0900)
commita6d902c5b64e30315f01a06ab4d19ad228c775d1
tree1b2f32c56ecc56742e34595070be9f4433c1c398
parentf38699a335e70090cc258c54fd3b9f0b8707d2e1
[tflite] Minimize invoke critical path

Minimize invoke critical path for tflite extension:
1. Cache input and output tensor ptrs out of the invoke to the location where extension
stores input and output tensors info
2. Verification of output size also moved out of invoke as the output tensor memory is
allocated internally by nnstreamer and its size is verified by each of the single API
and by tensor_filter.c for pipeline

V2:
Added bug fix to basic unittests for tflite reload exposed with the changes proposed in this PR

Signed-off-by: Parichay Kapoor <pk.kapoor@samsung.com>
ext/nnstreamer/tensor_filter/tensor_filter_tensorflow_lite.cc
tests/nnstreamer_filter_extensions_common/unittest_tizen_template.cc.in