Specification for RNN/GRU sequences (#1426)

* Specification for RNN/GRU sequences

* update opset4 list

[IE CLDNN] fix warnings from gcc-9 compiler (#1431)

GitHub CI: set_pr_labels - runs every 4 hours

Fix the case with nodes containing ":" in names (#1089)

* Fix the case with nodes containing : in names

* Raise error in case of several possibilities

Add ONNX DequantizeLinear to MO (#1250)

* Add ONNX DequantizeLinear to MO

* Update docs

[IE TESTS] Add Minimum tests (#1470)

[DL Workbench] Move files to another guide (#1443)

* [DL Workbench] Moved files to another guide

* Fixed indentation

GitHub CI: Fix issues in check_pr.py

Add input transposing for MatMul (#1462)

Specify Range-4 operation (#1180)

GitHub CI: Change secret

GitHub CI: Add set_pr_labels (#1467)

* GitHub CI: Add set_pr_labels

* Change to run every 10 min

* Update names

Add acosh asinh atanh to opset3 ngraph (#1278)

* Add acosh, asinh and atanh to opset4

Add asinh to onnx importer opset4 (#1436)

GitHub CI: Add Python scripts for controlling organization (#1437)

[IE][VPU]: Added Mish layer (#1158)

* Add Mish stage in GraphTransformer
* Add Mish per-layer tests

Network serializer for v7 is removed (#1414)

* Network serializer for v7 is removed

* Fixed compilation

* Fixed Windows build

* WA for GPU

* Create function 2 times

* Fixed compilation

* Added return

support parallel nested nnet for Kaldi (#1194)

* supported nested nnet1 for Kaldi

Update Reduction operations specification (#1446)

Remove deprecated methods from node (#1369)

Update ShapeOf extender (#1406)

Documentation updates (#1433)

Corrected message about deprecated IR version (#1438)

Add ONNX SpaceToDepth and DepthToSpace extractor (#1122)

* Add ONNX SpaceToDepth extractor

* Add DepthToSpace ONNX extractor

[IE][VPU][GT]: Change begin and end masks serialization for StridedSlice (#1417)

* In order to support cases when begin and end size is less than input rank, the serialization was changed.
* Add tests
* Update firmware

Updated fluid to 4.3.0 (#1422)

[Stress] Redesign of MemCheckTests (#650)

* [Stress] Redesigned MemCheckTests: 1. Added MemCheckPipeline to incapsulate measures and logging. 2. Moved references to array

* [Stress] Added tracking of THREADS in MemCheckTests

[IE][VPU][NGraph] Move dynamic NMS from common to vpu folder (#1409)

* [IE][VPU]: Moves UpgradeNMS4ToNMSDynamic transformation into myriad plugin

* [IE][VPU]: Moves UpgradeNMS4ToNMSDynamic from common to vpu folder

* [IE][VPU]: Moves Dynamic NMS from common folder to vpu

* [VPU]: Makes NMS conversion unconditional

* [VPU][NGraph]: Changes dynamic NMS base class from v3 to v4

* [VPU]: Moves NMS4toDynamic transformation before common optimization

[IE CLDNN] Shrink reshapes (#1362)

Fixes LFS issues (#1440)

* Removed non-LFS images to reload them to LFS

* Reload images to LFS

* Reload images to LFS

[IE Myriad/35383] vpu_profile is removed (#1393)

Test fix import of ONNX model in serialized Protobuf binary format. (#1355)

* Try fix parsing error.

* Small exception refinements during importing model.

* More exception refinements.

* Skip segfaulting tests.

* More clear error types and messages. Func rename.

* Fix typo.

* Check on CI whether test_onnx will work.

* Add only those file which pass tests or have failing ones skipped.

Extend nGraph for operation CTCLoss (#1236)

* Extend nGraph for operation CTCLoss

Signed-off-by: Roman Kazantsev <roman.kazantsev@intel.com>
* Fixes as per comments

Co-authored-by: Nikolay Shchegolev <nikolay.shchegolev@intel.com>

Replaced copy_with_new_args() to clone_with_new_inputs() (#1395)

Expose OpSets as part of nGraph PythonAPI (#1261)

Update list of tests passing/failing using TestCase on IE backend (#1161)

[Stress] Small improvement of scripts (#1302)

* [Stress] Extend CLI with arguments checks for compare_memcheck_2_runs.py

* [Stress] Extend requirements.txt with PyYAML

Removed ie_deprecated.cpp from legacy library (#1419)

Removed CNNLayer entries from ie_common.h (#1420)

* Removed useless header include

* Removed CNNLayer entries from ie_common.h

Removed is_parameter, is_constant and is_output (#1408)

Removed redundant licenses (#1392)

* Removed redundant licenses

* Added protobuf license

CMAKE: added ie_libraries target (#1411)

[IE CLDNN] Gemm int8 with slm optimization. Fused ops fix (#1319)

[IE TESTS] Added single layer test Mish (#1401)

Pre-processing(GAPI): ARM(NEON) integration + Split, Merge, Color conversion kernels on NEON (#1315)

Split CNNlayer validators (#1403)

* Simplified CNNLayer validators: keep only parsing of arguments

* Added validators as is

* Removed parsing arguments

* Removed Backetize validator

[IE][VPU]: Added Gelu layer (#1195)

* Implement Gelu stage in GraphTransformer
* Disable GeLU decomposition in the nGraph transformations

Removed addLayer implementation from ngraph impl (#1400)

Remove redundant node methods (#1324)

* Remove placement

* Removed validate and infer eltwise

* Remove is eltwise

* Remove support broadcast and decompose

* Removed is_op, is_parameter, is_pattern

* Fixed code style

* Added is_constant and is_output

* Removed is_communicative and is_null

* Fixed code style

* Fixed typo

* Fixed comments

* Fixed typo

* Revert is_parameter, is_output, is_result for OpenCV build

Fix for issue (#1335)

Header length for supported model detection is increased (#1363)

Add mish op to ngraph (#1187)

* Add mish op to ngraph

* Update mish op

* Set v4 namespase for tests

* Add mish to cmake

* Add comments for mish op.

* Refactoring code style

* Update version to v1 for Mish op

* Add value propogation test for Mish op

* Refactoring mish op according to review

* Fix mish version

* Update cmake file

* Fix mish value propogation unit test

* Add unit test for mish op

Co-authored-by: Your Name <you@example.com>

Doc Migration (master) (#1377)

* Doc Migration from Gitlab (#1289)

* doc migration

* fix

* Update FakeQuantize_1.md

* Update performance_benchmarks.md

* Updates graphs for FPGA

* Update performance_benchmarks.md

* Change DL Workbench structure (#1)

* Changed DL Workbench structure

* Fixed tags

* fixes

* Update ie_docs.xml

* Update performance_benchmarks_faq.md

* Fixes in DL Workbench layout

* Fixes for CVS-31290

* [DL Workbench] Minor correction

* Fix for CVS-30955

* Added nGraph deprecation notice as requested by Zoe

* fix broken links in api doxy layouts

* CVS-31131 fixes

* Additional fixes

* Fixed POT TOC

* Update PAC_Configure.md

PAC DCP 1.2.1 install guide.

* Update inference_engine_intro.md

* fix broken link

* Update opset.md

* fix

* added opset4 to layout

* added new opsets to layout, set labels for them

* Update VisionAcceleratorFPGA_Configure.md

Updated from 2020.3 to 2020.4

Co-authored-by: domi2000 <domi2000@users.noreply.github.com>

Added default constructor for RNNCellBase, fix conversions (#1370)

ONNX CI: add docker image cleanup (#1394)

* change stage name
 * add docker image cleanup

Add getting/setting friendly name for Node wrapper Py API (#1286)

Reference implementations for ReduceLogicalAnd & ReduceLogicalOr (#1333)

Add Acosh operator to ONNX importer opset4 (#1351)

[Stress] Integrate compare_memcheck_2_runs call in run_memcheck.py (#1036)

* [Stress] Define Database constant arguments in memcheck_upload.py only

* [Stress] Simplify computations using HashableDict in `compare_memcheck_2_runs`

* [Stress] Add comparison using pandas

Removed tests for old IR reader (#1368)

Removed v0 fused operations (#1263)

ReduceLp operation specification (#1205)

* Add ReduceL2 operation specification

* Add example

* Update operation specification

* Update operation specification

* Update operation specification

* Update operation specification

* Update types in operation specification

[nGraph][Py][Tests] Remove backup of old models (#1349)

CODEOWNERS: Add .ci & docs

[IE][VPU][GT]: Use topological order in shape allocation (#1281)

* Some pass creates datas duplicate with a different order from time to time (because of unordered_set usage). It leads to a different order in model->datas() list and affects the shape allocation process which relies on this order.
* Make shape allocation be relied on topological order of datas which is stable and doesn't depend on order datas creation during different passes.

Fix unsafe use of CPU_ISSET_S macro. (#1357)

Don't increment mapped_idx via prefix increment within the argument of the
potentially unsafe CPU_ISSET_S macro. If the macro is expanded so that the
increment expression is evaluated multiple times, it will return unexpected
results.

While the glibc implementation of CPU_ISSET_S macro seems to be safe, the musl
libc (v1.1.23) version is unsafe and will evaluate the first argument of
CPU_ISSET_S three times.

Co-authored-by: Christian Priebe <cp3213@ic.ac.uk>

Remove get_arguments (#1323)

* Removed get_arguments

* Fixed code style

[IE][VPU]: CMX limit compile option (#1268)

In some networks, mvTensor would request a large CMX-DMA transfer (<512K). That starves DMA for other timing critical tasks such as SIPP. Limit CMX-DMA request size as an option in myriad_compile:
* Add compile option TILING_CMX_LIMIT_KB
* Declare compile option TILING_CMX_LIMIT_KB in IE tools (compile_tool and vpu_compile)
* Add tests for compile option TILING_CMX_LIMIT_KB. Small fix for naming behavior tests.

Azure CI: Fix cloning git submodules (#1356)

fix: inference-engine/ie_bridges/python/sample/requirements.txt to reduce vulnerabilities (#1007)

The following vulnerabilities are fixed by pinning transitive dependencies:
- https://snyk.io/vuln/SNYK-PYTHON-NUMPY-73513

Co-authored-by: snyk-bot <snyk-bot@snyk.io>

[IE TESTS] Add PReLu single layer test (#1306)

* [IE TESTS] Add PReLu single layer test

* [IE TESTS] Small refactoring of test infrastructure

* [IE TESTS] Add shape for activation

Revert "Header length for supported model detection is increased (#1340)" (#1354)

This reverts commit 5b2ec7840ac3c5c1d1ec107e50e499f22c9fe7a6.

Remove implicit conversion from getInputTo, getLayerCreator (#1274)

* Added ctor for CNNNetworkImpl to convert from ngraphImpl

* Re-use in all places instead of manual conversion

* Hide convertToCNNNetworkImpl usage

* Removed conversion from getCreatorLayer

* Fixes 2

* Fixes 3

* Fixes 4

* Fixed ieFuncTests

* Fixed more tests

* Fixed LPT tests

* Remove useless test

* Fixed GNA

* Fixed Gleb's comments

* Fixed Core integration tests

* Trying to fix python

* Fixed GPU tests

* Small fixes

* Fixed QueryNetwork after removing implicit conversion

* Fixed Core integration tests for QueryNetwork

* Fixed python; MULTI device QueryNetwork

* Fixed MULTI QueryNetwork

* Removed unused methods

* Enabled LPT FullyConnectedTestModel test

* Fixed typo in python

[Stress] Specify OMZ `develop` branch in get_testdata.py (#1318)

Since in validation OMZ is used from a package (and OMZ is from develop branch), align OMZ default for get_testdata.py

[IE TESTS] Small refactoring of test infrastructure (#1332)

Allow python benchmark_app load onnx model (#1283)

Specify operation CTCLoss-4 (#1189)

* Specify operation CTCLoss-4

Signed-off-by: Roman Kazantsev <roman.kazantsev@intel.com>
* Correct documentation for CTCLoss after #1 review

Signed-off-by: Roman Kazantsev <roman.kazantsev@intel.com>
* Correct documentation for CTCLoss after #2 review

Signed-off-by: Roman Kazantsev <roman.kazantsev@intel.com>
* Correct documentation for CTCLoss after #3 review

* Correct documentation for CTCLoss after #4 review

Signed-off-by: Roman Kazantsev <roman.kazantsev@intel.com>
* Correct layout for logits and add more description for unique attribute

Signed-off-by: Roman Kazantsev <roman.kazantsev@intel.com>
* Correct types for length and indices tensors

Signed-off-by: Roman Kazantsev <roman.kazantsev@intel.com>
* Correct formulas and punctuation

Signed-off-by: Roman Kazantsev <roman.kazantsev@intel.com>

[IE CLDNN] Adjustment of layouts to choose optimal deconvolution (#781)

Header length for supported model detection is increased (#1340)

Added default multi threaded configuration (#1310)

* Added default multythreaded configuration

* Fixed typo

[IE Myriad] Remove Myriad 2 from supported devices in XLink (#1331)

remove nGraph deprecated methods (part 1) (#1314)

* Remove remove_goe

* Remove traverse_nodes

* Removed deprecated constructors

* Removed deprecated tensor methods

* Fixed IE build

* Fixed code style

[IE][VPU][nGraph]: Enables merging subsequent DSR operations (#1326)

Myriad plugin treats DSR operation in a way removing such operations
and connecting inputs with each other (replacing output with one of them).
Semantic of connection is one inputs contains shape of another.
Since the same data object can have exactly one shape it's prohibited
to have DSR inputs connected with another data objects
(the only allowed exception is inputs that are already connected between
each other).

As a result of nGraph -> CNN conversion some operations could be optimized
out which in turn could lead to subsequent DSR operations where each has
its own shape sub-graph. Even if shape sub-graphs are identical it's not
visible to plugin that sees incorrect inputs (inputs of DSR are already
connected, but now with each other, when second DSR is parsed).

To overcome such issue (the reason is when operations are optimized out,
their shape sub-graphs are still there), additional ngraph
transformation should be introduced to merge subsequent DSR into single
DSR operation.

Signed-off-by: Gladilov, Gleb <gleb.gladilov@intel.com>

[IE][VPU][nGraph]: Fixes Reshape's shape infer method (#1327)

Previously, if Reshape had input pattern with values [0, -1] - it
propagated dynamic shape through a function. At the same time,
taking "0" and "-1" interpretation into consideration, it turns out
in such cases we could just propagate the same input shape in case of
2D input.

For Faster-RCNN this fix makes static dimensions on dynamic paths static.

Signed-off-by: Gladilov, Gleb <gleb.gladilov@intel.com>

[IE][VPU][nGraph]: Fixes StridedSlice DTS (#1328)

* In case of Begin/End/Stride inputs of StridedSlice have rank less
than input data rank - remaining dimensions must be kept unchanged.
* Previous, implementation had UB in such cases - out of bound
vector element access

Signed-off-by: Gladilov, Gleb <gleb.gladilov@intel.com>

Add Input and Output class to Py API (#1284)

[ONNX] Exception handling refinements. (#1266)

[IE Common][Tests] saturated_cast: refactoring & tests (#1304)

* [IE Common] Refactor saturated_cast

* [IE Common][Tests] Add tests for saturated casts

* [IE Common] Review fixes

* [IE Common] Make enable_if check a template parameter

Reverse Sequence code clean up (#1303)

Added mish layer doc opset (#1149)

* Added mish layer doc opset

* Refactoring mish spec

* Update mish spec

* Change output description of Mish layer

* Fix Mish according to review

* Refactoring Mish and GELU spec according to code review

* Update formula for ops in spec

* Refactoring spec text

* Update Mish opset

* Change Mish version from 1 to 4

* Sort opset4

Co-authored-by: Your Name <you@example.com>

Specify, review and approve operation Interpolate-4 (#1035)

* Added documentation for Interpolate-3.

* Some fixes.

* Fixed some typos.

* Now Interpolate-3 is Interpolate-4.

* Fixed typo.

* DEleted unused 'mode' 'area'.

* Fixed some typos.

* Now 'axes' attribute is an input of Interpolate.

* Added description of variants of nearest_mode.

* Added descriptions of coordinate transformation modes.

* Now 'axes' is an optional input.

* Fixed typo.

[IE TESTS] Add ShapeOf SingleLayerTest (#1285)

* [IE TESTS] add single layer test ShapeOf

* [IE TESTS] update for master

* [IE TESTS] add subgraph test

* [IE TESTS] update todo in skip_tests_config

* [IE TESTS] update skip_tests_config

* [IE TESTS] update skip_tests_config

* [IE TESTS] update opset3

update system requirements (#1321) (#1322)

* update system requirements

* update release version in readme

Fix that brings back the MULTI's ability to add/remove devices (to the priorities list) on the fly. Presumably was lost during refactoring. (#1309)

the point is that we should check the ORIGINALLY (largest) list of the devices (actually ExecutableNetworks for them) to see if the device is just added back

[LPT] FuseFakeQuantizeAndScaleShift transformation for last layer fix (#1291)

* [LPT] FuseFakeQuantizeAndScaleShift transformation for last layer fix

* [LPT] refactoring

* [LPT] FuseFakeQuantizeAndScaleShift test: last layer name validation was added

[IE CLDNN] WA to use bfyx format if applicable for bf(w)zyx Gather input (#1056)

[IE CLDNN] Disable inserting reorders if num_dims mismatch (#1023)

Add OpenVINO-ONNX CI check (#688)

[IE][VPU][Tests]: Fix M2 on deprecated tests for StridedSlice (#1300)

* Disable reorder in Myriad2 cases in StridedSlice deprecated_tests

[ONNX] Quantize linear using FakeQuantize (#1169)