API changes updates for 2021.2 (#3419)

Removed confusing information about required/optional output of the operation. The output exists always but it may be not connected to anywhere. (#3422)

[IE][VPU]: Mish decomposition (#3412)

Introduce vpu ngraph transformation that decomposes Mish layer with the following formula: mish(x) = x * tanh(ln(exp(x) + 1)). It is needed to fix the accuracy drop of Yolo-v4 public model that happened due to Mish implementation in the myriad plugin is not accurate enough. It is just a workaround and will be removed when Mish layer will be improved.
map: 70.97% (ref: 70.96%)
coco_precision: 73.50% (ref 73.49%)

Fix paths for `squeezenet1.1` in time_tests config (#3417)

[DOC] ShapeInference.md update. slyalin comments (#3355)

* [DOC] ShapeInference.md update. slyalin comments

* Apply suggestions from code review

Co-authored-by: Alina Alborova <alina.alborova@intel.com>
* Apply suggestions from code review

Co-authored-by: Alina Alborova <alina.alborova@intel.com>
* Update docs/IE_DG/ShapeInference.md

Co-authored-by: Alina Alborova <alina.alborova@intel.com>

Updated transformations API guide (#3386)

* Updated transformations docs

* Added RTTI to examples

* Fixed grammar mistakes

* Mention Sinks in NG docs

[install_prerequisites.sh] upgrade pip to install tensorflow (#3392) (#3402)

[GNA] Fix import model with header version 2.1 (#3363)

[IE][VPU]: Use unified pcie firmware (#3383)

* Unified firmware named pcie-ma2x8x is needed to use both ma2480 and ma2085 with pcie connection.
* Update firmware built from R14 release branch

[IE CLDNN] Fix handling of fsv4 input padding in mmad bfyx to fsv32 convolution kernel (#3253)

[CPU] NMS test for the rest of 1st & 2nd outputs. (#3380)

Cherry-pick from master  (#3379)

* [DOC] Add macOS specific section into intro guide

Signed-off-by: Peskov <alexander.peskov@intel.com>
* Remove libinference_engine_legacy from 'must link with' section

Signed-off-by: Peskov <alexander.peskov@intel.com>

[IE][VPU]: KW fixes 2021.2 (#3313)

Fixes for documentation build (#3365)

[IE][VPU]: Introduces ENABLE_EARLY_ELTWISE_RELU_FUSION option (#3343)

Unconditional Eltwise+ReLU merge makes some models take a bit more memory,
so they could not be inferred on Myriad-X. With this change used can
optionally disable this optimization and use Myriad-X.

Cherry-pick #3295 to releases/2021/2 (#3353)

* Feature/azaytsev/change layout (#3295)

* Updated openvino_docs.xml

Fix the potential unlimited mem allocation problem (#3347)

Add WA for OMZ Keras models in stress tests (#3341)

Add `fillBlobs` to fix issue with negative values in `image_info` input layer (#3335)

Fixes for NMS documentation. (#3305)

* Fixes for NMS documentation.

* Small fixes.

* Small fix.

Fixed klockwork for legacy library (#3320)

[ DOC ] setBatchSize update (#3316)

* [ DOC ] setBatchSize update

* comments

* Links fixed

* Update docs/IE_DG/ShapeInference.md

* Fixing broken note

* Fixing broken note [2]

* Update docs/IE_DG/ShapeInference.md

Co-authored-by: Alina Alborova <alina.alborova@intel.com>
Co-authored-by: Alina Alborova <alina.alborova@intel.com>

[Scripts] install_NEO_OCL_driver: Updated capturing '-y' option. Removed installing prerequisites. (#3322)

* install_NEO_OCL_driver: Updated capturing '-y' option. Removed installing prerequisites.

* install_NEO_OCL_driver: Rollback removing install_prerequisites, but keep only ocl-icd & libnuma dependencies. Updated definition of UBUNTU_VERSION.

[CPU] fixed MergePermuteAndReorder optimization (#3317)

Fixed KW issues reported for build 754 of speech recognition demo (#3326)

[GNA] Fix a global buffer overflow in GNAModelSerial::Import (#3290) (#3327)

[IE][VPU]: Update call signature with the fw from R14 develop branch (#3241)

* Update call signature with the firmware from mdk R14 branch
* Update VPU firmware build number

Fixed links to build instruction (#3309)

added state API changes to doc (#3307)

Align time_tests models with master (#3270)

* Add new model to `tgl_test_config.yml` (#3236)

* Fix wrong path for `yolo-v2-tiny-ava-0001` for time_tests

* Add several new models to `tgl_test_config.yml` in time_tests

[Scripts] Update install_NEO_OCL_driver with 20.35.17767 for 2021.2 (#3288)

* install_NEO_OCL_driver: Added new CLI options. Added help. Added new available to download and install driver - 20.35.17767

* install_NEO_OCL_driver: Fixed descriptions and var names

* install_NEO_OCL_driver: Updated syntax

Fixed static analysis issues (transformations) (#3276)

[LPT] integration: issue #42391 & issue #43001  (#3201)

* [LPT] NetworkHelper::roundWithTolerance: removed tolerance & rename to round
[LPT] NetworkHelper::round functional tests
[LPT] ieFuncTests: updated some test-cases

* [LPT] Subtract is not used

* [LPT] AddTransformation: zero handling

* [LPT] AddTransformation test

[IE CLDNN] Gather fix (#3282)

Fixed static analysis issues (#3254)

[CPU] NormalizeL2. Support 3D layout. (#3256)

[CPU] NMS. Fill the rest of first out blob. (#3251)

fix for sliced input, fix for reshaping of Loop op (squash commits) (#3261)

[ MO ] Fix for preprocessing insertion on ShapeOf paths (#3233)

* [ MO ] Fix for preprocessing insertion on ShapeOf paths

* ScaleInput tests

[IE CLDNN] Minor fixed to NMS and TopK (#3224)

[ nG: TI ] Fix for reshaping TensorIterator (#3237)

* [ nG: TI ] Fix for reshaping TensorIterator

* Trigger CI

* misprint

* style

* style

Fix "results" uploading to DB in time_tests (#3214)

Complete CTCGreedyDecoder implementation in nGraph and add tests (#3206)

Signed-off-by: Roman Kazantsev <roman.kazantsev@intel.com>

Update tf2 yolov4 docs support (#3227)

Co-authored-by: Your Name <you@example.com>

[ MO TF ] TF FakeQuantize normalization fix (#3180)

Update install_openvino_dependencies.sh (#3196)

[LPT] Transpose, MatMul: Klocwork fixes (#3192)

Fix NMS1/3/4 to Legacy conversion (#3210)

* Fix NMS1/3/4 to Legacy conversion

* Added functoinal tests

[IE] - Interpolate ONNX workaround (#3203)

Co-authored-by: DariaMityagina <daria.mityagina@intel.com>

Backport of PR #3092 - TopK sorting fix (#3195)

Disable v10 serealizer (#3184)

* Disable v10 serealizer

* Fixed comments

Temporaly skip GRU Cell test (#3183)

Fix accuracy problem for YoloV3 (incorrect StridedSlice nop elimination) (#3179)

[IE][VPU]: Align buffer conditions with the device part (#3168)

[GNA] Security fixes for 2021.2 (#3167)

ONNX LSTM/GRU/RNN seqence_lens input tests with reverse and bidirectional mode (#3149)

Fix NMS5 dynamism issues (#3137)

* Fixed ConvertNMS5ToLegacy conversion pass to resolve dynamism as soon as possible; fixed output precision to avoid troubles during convert_precision pass

* Added NMS5ToLegacy conversion for cldnn plugin

* Fixed NMS3 copy method

* Updated NMS5ToLegacy pass to avoid convert precision issues

* Updated nGraph reader and Functional tests

* Removing odd CF call

* removed xfail for test that is expected to pass

* Fixed Convert operations friendly_name

* Removed NMS5ToLegacy from opset1_to_legacy conversion

* Update NMS5 layer tests

* Update NMS5 DSR tests

[LPT] implementation were moved from common dir (#3173)

[CPU] Normalize node. Broadcast weights from 1 to channels. (#3141)

Added SECURITY.md back (#3177)

[DOC] Update Docker install guide (#3055)

* [DOC] Update Docker install guide

* [DOC] Add proxy for Windows Docker install guide

* [DOC] move up prebuilt images section

* Update installing-openvino-linux.md

* Update installing-openvino-docker-linux.md

* Update installing-openvino-docker-linux.md

Formatting fixes

* Update installing-openvino-docker-linux.md

Fixed formatting issues

* Update installing-openvino-docker-windows.md

Minor fixes

* Update installing-openvino-docker-linux.md

Fixed formatting issues

* [DOC] update text with CPU image, remove proxy for win

* Update installing-openvino-docker-windows.md

Minor fixes

* Update installing-openvino-docker-windows.md

Minor fix

* Update installing-openvino-docker-windows.md

Minor fix

* Update installing-openvino-docker-windows.md

Co-authored-by: Andrey Zaytsev <andrey.zaytsev@intel.com>

[IE][VPU]: Refactoring of SpecialStageProcessor (#2885)

* SpecialStageProcessor refactoring
* Fix for Yolo-v3-pytorch and related test

Fix graph clenup (#3159)

* Fix graph clenup

* Refactoring graph clean up function

* Change wa comment

Co-authored-by: Your Name <you@example.com>

Revert "Reduced usage of batch in python samples (#3104)" (#3171)

This reverts commit 23e653858bc5e543afe17dcfdb6ce89047e96788.

[IE CLDNN] program_impl::replace_all_usages causes invalid memory access. (#138)

added ubuntu 20.04 support to speech recognition demo (#3145)

updated speech recognition demo resources URLs to AWS

Print GNA Lib function name when error code obtained (#3129)

TI and Sequences related transformations: transition from cnn to ngraph versions (#2927)

* sequences to ti transformations, support for seq_lengths input, update reference implemetations, add new tests

* fix python api, update sequences to ti transformation

* transition from cnn to ngraph transformations for cpu, gpu, vpu plugins

* fix convert_ti_to_sequence transformation

* fix naming issue in unroll transformation

* test pure TensorIterator in vpu plugin

* fix sequences to ti transformation

* Update sequences to TI transformation: fix reverse sequence support

* update single layer tests, fix TI reference impl, fix Sequences to TI transformations

* ngraph code style

* fix build

* fix ngraph python api

* resolver review comments, refactoring

* revert vpu changes

* disable/fix tests

* refactoring

* Resolve review remarks

* optimization of LSTMSeq -> LSTMSeq IE: remove unnecessary Transpose ops

* Refactoring of transformation pipeline in cpu and gpu plugins, align GRU/RNN -> GRU/RNN IE with LSTM -> LSTM IE

* update TensorIterator tests, refactoring

* fix typo

* Fix unit tests, delete unnecessary callbacks

* Refactoring: delete commented code

* Add FullyConnected to skipConstInfer list for legacy ConstFolding

* disable legacy cnn unit tests

* delete xfail

* fix for backward compatibility with opset1::LSTMCell

* delete xfail

* fix build, remove Reshape layer from skipConstInfer list

[nGraph][ONNX] Rename xfails (#3061)

Extend information to submit to a DB in time_tests (#3018)

* Optimize imports in time_tests conftest.py

* Extend information to submit to a DB in time_tests:
1. Add `--manifest` and `--db_metadata` CLI keys
2. Add `prepare_db_info` fixture

* Move `validate_test_case` fixture to a const schema, remove extra checks

* Add `manifest_metadata` fixture to parse and validate manifest only once

* Add OS utils to submit os info to DB

Fix ApplyPermutations for the case when more then 1 input with permutes (#3095)

Removed documents which are ported to OpenVINO WiKi (#3106)

* Removed documents which are ported to OpenVINO WiKi

* More updates

* Removed getting started

* Ported more guides to OpenVINO Wiki

Connect some ngraph and IE cmake options (#3147)

[IE][TOOLS] Fix for CCT two IR mode (#3084)

[IE][VPU]: Fix condition in HW tiling (#3111)

Co-authored-by: kora6 <kora6@github.com>

[ngraph] Fix compare functions for functional tests (#3161)

[IE CLDNN] Fixed mem leak (#3153)

Fix compilation error in gna_wait_test (#3150)

error: converting to ‘std::vector<std::tuple<unsigned int, long int,......

Show help message when -i or -m is not set (#3144)

[CPU] Interpolate operation improvements (#2366)

* interpolate improvement

* JITTED cubic mode

* fix 'code is too big' when JIT

* extend test to cover tail code path

* transformation of interpolate1 to interpolate4

* add low precision transformation for interpolate4

Reduced usage of batch in python samples (#3104)

* Reduced usage of batch in python sampes

Excluded from hello_classification and object_detection samples

[IE TESTS] Move main.cpp to shared lib from plugin functional tests (#3157)

[IE TESTS][IE CPU] Add smoke prefix for broadcast SLT (#3158)

[IE TESTS] Added test for NMS (#2830)

[CPU] added MergePermuteAndReorder optimization + added test (#2519)

Protect reading external weights from up-dir (#3098)

* introduced path sanitizing

* added tests, folders structure clean-up

* fixed test

* fixed up-dir path handling

* improved sanitizing for windows

* fix Windows test

* move sanitize impl

LSTM/GRU/RNN Sequences : support for seq_lengths input (#2788)

* sequences to ti transformations, support for seq_lengths input, update reference implemetations, add new tests

* fix python api, update sequences to ti transformation

* fix sequences to ti transformation

* Update sequences to TI transformation: fix reverse sequence support

* update single layer tests, fix TI reference impl, fix Sequences to TI transformations

* ngraph code style

* fix build

* fix ngraph python api

* resolver review comments, refactoring

* Resolve review remarks

* delete xfail

Specification to ONNX external data feature (#2939)

* Added external weights files doc

* review remarks

* review remarks

* review remarks

Co-authored-by: Michał Karzyński <4430709+postrational@users.noreply.github.com>
* review remarks. part 2

Co-authored-by: Michał Karzyński <4430709+postrational@users.noreply.github.com>
* fixed info about nullptr

* Apply suggestions from code review

Co-authored-by: Anastasiya Ageeva <anastasiya.ageeva@intel.com>
* review remarks. part 2

Co-authored-by: Michał Karzyński <4430709+postrational@users.noreply.github.com>
Co-authored-by: Anastasiya Ageeva <anastasiya.ageeva@intel.com>

Use std::transform instead of vector constructor (#3151)

[IE TESTS] Remove extra dependency from Shared lib (#3006)

* [IE TESTS][IE CMAKE] Add cmake option for configuration to skip tests

* [IE TESTS] Remove extra dependency from IE tests shared lib

* Revert to add flag

Corrected "-i" argument description (#3142)

* Corrected "-i" argument description

According to their usage in samples

[IE CLDNN] Add asymmetric quantization support to fsv16 imad 1x1 convolution kernel (#2941)

Fix for Reduce extractors and normalizer (#3136)

* Fixed extractor for ONNX ReduceXXX operations and fixed ReduceAxisNormalizer transformation

* Unit test for ReduceAxisNormalizer transformation

[IE][VPU]: ExpGenerateProposals: added temporary buffer allocation (#3093)

ExpGenerateProposals: temporary buffer allocation moved from firmware to blob
* Added tmpBuffer
* Changed the amount of allocated memory
* firmware update

Co-authored-by: Ivan Poliksenov <ivan.poliksenov@intel.com>

[IE][VPU]: NMS - fix memory allocation bug (#3133)

Update tolerance values for ONNX model tests (#3131)

small refactor samples setBatchSize (#3053)

* small refactor samples setBatchSize

Extend test coverage for ONNX Resize Operator (#3086)

Add ceil_mode for Max and Avg pooling (#2965)

Bump wheel from 0.34.2 to 0.35.1 in /ngraph/python (#3120)