Temp commit for openvino v2021.2

[README.md] change latest release to 2021.2 (#3628)

doc fixes (#3626)

Co-authored-by: Nikolay Tyukaev <ntyukaev_lo@jenkins.inn.intel.com>

Feature/azaytsev/ovsa docs (#3627)

* Added ovsa_get_started.md

* Fixed formatting issues

* Fixed formatting issues

* Fixed formatting issues

* Fixed formatting issues

* Fixed formatting issues

* Fixed formatting issues

* Fixed formatting issues

* Updated the GSG topic, added a new image

* Formatting issues fixes

* Formatting issues fixes

* Formatting issues fixes

* Formatting issues fixes

* Formatting issues fixes

* Formatting issues fixes

* Formatting issues fixes

* Formatting issues fixes

* Formatting issues fixes

* Formatting issues fixes

* Formatting issues fixes

* Formatting issues fixes

* Formatting issues fixes

* Revert "Formatting issues fixes"

This reverts commit c6e6207431d8622e2ff083315d2d99875734a5b6.

* Replaced to Security section

Benchmarks 2021 2 (#3590)

* Initial changes

* Updates

* Updates

* Updates

* Fixed graph names

* minor fix

* Fixed link

* Implemented changes according to the review changes

* fixed links

* Updated Legal_Information.md according to review feedback

* Replaced  Uzel* UI-AR8 with Mustang-V100-MX8

Feature/azaytsev/transition s3 bucket (#3609)

* Replaced https://download.01.org/ links with https://storage.openvinotoolkit.org/

* Fixed links

Fixes in the spec of Interpolate-4. (#3596)

Release mo dev guide refactoring (#3266)

* Updated MO extension guide

* Minor change and adding svg images

* Added additional information about operation extractors. Fixed links and markdown issues

* Added missing file with information about Caffe Python layers and image for MO transformations dependencies graph

* Added section with common graph transformations attributes and diagram with anchor transformations. Added list of available front phase transformations

* Added description of front-phase transformations except the scope-defined and points defined. Removed legacy document and examples for such transformations.

* Added sections about node name pattern defined front phase transformations. Copy-pasted the old one for the points defined front transformation

* Added description of the rest of front transformations and and all middle and back phase transformations

* Refactored Legacy_Mode_for_Caffe_Custom_Layers and updated the Customize_Model_Optimizer with information about extractors order

* Added TOC for the MO Dev guide document and updated SVG images with PNG ones

* Fixed broken link. Removed redundant image

* Fixed broken links

* Added information about attributes 'run_not_recursively', 'force_clean_up' and 'force_shape_inference' of the transformation

* Code review comments

* Added a section about `Port`s

* Extended Ports description with examples

* Added information about Connections

* Updated MO README.md and removed a lot of redundant and misleading information

* Updates to the Customize_Model_Optimizer.md

* More updates to the Customize_Model_Optimizer.md

* Final updates for the Customize_Model_Optimizer.md

* Fixed some broken links

* More fixed links

* Refactored Custom Layers Guide: removed legacy and incorrect text, added up-to-date.

* Draft implementation of the Custom layer guide example for the MO part

* Fixed broken links using #. Change layer->operation in extensibility documents

* Updated Custom operation guide with IE part

* Fixed broken links and minor updates to the Custom Operations Guide

* Updating links

* Layer->Operation

docs: update what's new in MO in 2021.2 (#3585)

Added Intel® Iris® Xe Dedicated Graphics, naming convention info (#3523)

* Added Intel® Iris® Xe Dedicated Graphics, naming convention info

* Added GPU.0 GPU.1

* added info about Intel® Iris® Xe MAX Graphics drivers

[DOC] Added NOTE in samples overview doc (#3566)

* Added NOTE in samples overview doc

* Added info about hello classification sample

Update PIP package name (#3530)

Added Get Started Guide for Raspbian (#3517)

* Added Get Started Guide for Raspbian

* Updated the TOC xml file

* Minor fixes

* Implemented review comments

* Fixed broken link

add animation (#2865) (#3546)

Fixed CVS-36087 (#3532)

* Fixed CVS-36087

* Fixed link to the installation package

Added workaround instructions to fix the issue described in CVS-35873 (#3528)

added draft version of doc for networks with state (#3372)

* added draft version of doc for networks with state

* update code snippet

* update example

* review fixes

* fixed png

* review fixes

* image fix

* minor fix

* LowLatency documentation

* apply review comments

* Apply suggestions from code review

Co-authored-by: Anastasiya Ageeva <anastasiya.ageeva@intel.com>
* review fixes

Co-authored-by: Ivan Tikhonov <ivan.tikhonov@intel.com>
Co-authored-by: Anastasiya Ageeva <anastasiya.ageeva@intel.com>

math formula fixes 2021.2 (#3514)

* math formula fix

* ops math formula fix

Co-authored-by: Nikolay Tyukaev <ntyukaev_lo@jenkins.inn.intel.com>

Add Description for DDR type option for MyriadX device (#3507)

Added uninstallation instructions (#3509)

[DOC] add Docker on Windows GPU infer instruction (#3492)

* odc: add Docker on Windows GPU infer instruction

* Update docs/install_guides/installing-openvino-docker-windows.md

Co-authored-by: Alina Alborova <alina.alborova@intel.com>
* Update docs/install_guides/installing-openvino-docker-windows.md

Co-authored-by: Alina Alborova <alina.alborova@intel.com>
* Update docs/install_guides/installing-openvino-docker-windows.md

Co-authored-by: Alina Alborova <alina.alborova@intel.com>
* Update docs/install_guides/installing-openvino-docker-windows.md

Co-authored-by: Alina Alborova <alina.alborova@intel.com>
* Update docs/install_guides/installing-openvino-docker-windows.md

Co-authored-by: Alina Alborova <alina.alborova@intel.com>
* Update docs/install_guides/installing-openvino-docker-windows.md

Co-authored-by: Alina Alborova <alina.alborova@intel.com>
* Update docs/install_guides/installing-openvino-docker-windows.md

Co-authored-by: Alina Alborova <alina.alborova@intel.com>
* Update docs/install_guides/installing-openvino-docker-windows.md

Co-authored-by: Alina Alborova <alina.alborova@intel.com>
* Update docs/install_guides/installing-openvino-docker-windows.md

Co-authored-by: Alina Alborova <alina.alborova@intel.com>
* Update docs/install_guides/installing-openvino-docker-windows.md

Co-authored-by: Alina Alborova <alina.alborova@intel.com>
* Update docs/install_guides/installing-openvino-docker-windows.md

Co-authored-by: Alina Alborova <alina.alborova@intel.com>
* Update docs/install_guides/installing-openvino-docker-windows.md

Co-authored-by: Alina Alborova <alina.alborova@intel.com>
* Update docs/install_guides/installing-openvino-docker-windows.md

Co-authored-by: Kate Generalova <kate.generalova@intel.com>
* Removed an extra colon

* Update docs/install_guides/installing-openvino-docker-windows.md

Co-authored-by: Alina Alborova <alina.alborova@intel.com>

[Cherry-pick] DL Workbench cross-linking (#3488)

* Added links to MO and Benchmark App

* Changed wording

* Fixes a link

* fixed a link

* Changed the wording

* Links to WB

* Changed wording

* Changed wording

* Fixes

* Changes the wording

* Minor corrections

* Removed an extra point

* cherry-pick

* Added the doc

* More instructions and images

* Added slide

* Borders for screenshots

* fixes

* Fixes

* Added link to Benchmark app

* Replaced the image

* tiny fix

* tiny fix

* Fixed a typo

Cherry-pick #2922 into releases/2021/2 (#3495)

* Checrry-pick GNA doc review

* Addressed comments

* Removed an inexistent link

Restored gtk-3 installation (#3472)

Restore compilaltion with tbb 2017u7 (#3007) (#3426)

* Restore compilaltion with tbb 2017u7

Signed-off-by: Alexander Peskov <alexander.peskov@intel.com>
* Fix unsupported arg for tbb deterministic_reduce

Signed-off-by: Alexander Peskov <alexander.peskov@intel.com>
Co-authored-by: Alexander Zhogov <alexander.zhogov@intel.com>
Co-authored-by: Alexander Peskov <alexander.peskov@intel.com>
Co-authored-by: Alexander Zhogov <alexander.zhogov@intel.com>

API changes updates for 2021.2 (#3419)

Removed confusing information about required/optional output of the operation. The output exists always but it may be not connected to anywhere. (#3422)

[IE][VPU]: Mish decomposition (#3412)

Introduce vpu ngraph transformation that decomposes Mish layer with the following formula: mish(x) = x * tanh(ln(exp(x) + 1)). It is needed to fix the accuracy drop of Yolo-v4 public model that happened due to Mish implementation in the myriad plugin is not accurate enough. It is just a workaround and will be removed when Mish layer will be improved.
map: 70.97% (ref: 70.96%)
coco_precision: 73.50% (ref 73.49%)

Fix paths for `squeezenet1.1` in time_tests config (#3417)

[DOC] ShapeInference.md update. slyalin comments (#3355)

* [DOC] ShapeInference.md update. slyalin comments

* Apply suggestions from code review

Co-authored-by: Alina Alborova <alina.alborova@intel.com>
* Apply suggestions from code review

Co-authored-by: Alina Alborova <alina.alborova@intel.com>
* Update docs/IE_DG/ShapeInference.md

Co-authored-by: Alina Alborova <alina.alborova@intel.com>

Updated transformations API guide (#3386)

* Updated transformations docs

* Added RTTI to examples

* Fixed grammar mistakes

* Mention Sinks in NG docs

[install_prerequisites.sh] upgrade pip to install tensorflow (#3392) (#3402)

[GNA] Fix import model with header version 2.1 (#3363)

[IE][VPU]: Use unified pcie firmware (#3383)

* Unified firmware named pcie-ma2x8x is needed to use both ma2480 and ma2085 with pcie connection.
* Update firmware built from R14 release branch

[IE CLDNN] Fix handling of fsv4 input padding in mmad bfyx to fsv32 convolution kernel (#3253)

[CPU] NMS test for the rest of 1st & 2nd outputs. (#3380)

Cherry-pick from master  (#3379)

* [DOC] Add macOS specific section into intro guide

Signed-off-by: Peskov <alexander.peskov@intel.com>
* Remove libinference_engine_legacy from 'must link with' section

Signed-off-by: Peskov <alexander.peskov@intel.com>

[IE][VPU]: KW fixes 2021.2 (#3313)

Fixes for documentation build (#3365)

[IE][VPU]: Introduces ENABLE_EARLY_ELTWISE_RELU_FUSION option (#3343)

Unconditional Eltwise+ReLU merge makes some models take a bit more memory,
so they could not be inferred on Myriad-X. With this change used can
optionally disable this optimization and use Myriad-X.

Cherry-pick #3295 to releases/2021/2 (#3353)

* Feature/azaytsev/change layout (#3295)

* Updated openvino_docs.xml

Fix the potential unlimited mem allocation problem (#3347)

Add WA for OMZ Keras models in stress tests (#3341)

Add `fillBlobs` to fix issue with negative values in `image_info` input layer (#3335)

Fixes for NMS documentation. (#3305)

* Fixes for NMS documentation.

* Small fixes.

* Small fix.

Fixed klockwork for legacy library (#3320)

[ DOC ] setBatchSize update (#3316)

* [ DOC ] setBatchSize update

* comments

* Links fixed

* Update docs/IE_DG/ShapeInference.md

* Fixing broken note

* Fixing broken note [2]

* Update docs/IE_DG/ShapeInference.md

Co-authored-by: Alina Alborova <alina.alborova@intel.com>
Co-authored-by: Alina Alborova <alina.alborova@intel.com>

[Scripts] install_NEO_OCL_driver: Updated capturing '-y' option. Removed installing prerequisites. (#3322)

* install_NEO_OCL_driver: Updated capturing '-y' option. Removed installing prerequisites.

* install_NEO_OCL_driver: Rollback removing install_prerequisites, but keep only ocl-icd & libnuma dependencies. Updated definition of UBUNTU_VERSION.

[CPU] fixed MergePermuteAndReorder optimization (#3317)

Fixed KW issues reported for build 754 of speech recognition demo (#3326)

[GNA] Fix a global buffer overflow in GNAModelSerial::Import (#3290) (#3327)

[IE][VPU]: Update call signature with the fw from R14 develop branch (#3241)

* Update call signature with the firmware from mdk R14 branch
* Update VPU firmware build number

Fixed links to build instruction (#3309)

added state API changes to doc (#3307)

Align time_tests models with master (#3270)

* Add new model to `tgl_test_config.yml` (#3236)

* Fix wrong path for `yolo-v2-tiny-ava-0001` for time_tests

* Add several new models to `tgl_test_config.yml` in time_tests

[Scripts] Update install_NEO_OCL_driver with 20.35.17767 for 2021.2 (#3288)

* install_NEO_OCL_driver: Added new CLI options. Added help. Added new available to download and install driver - 20.35.17767

* install_NEO_OCL_driver: Fixed descriptions and var names

* install_NEO_OCL_driver: Updated syntax

Fixed static analysis issues (transformations) (#3276)

[LPT] integration: issue #42391 & issue #43001  (#3201)

* [LPT] NetworkHelper::roundWithTolerance: removed tolerance & rename to round
[LPT] NetworkHelper::round functional tests
[LPT] ieFuncTests: updated some test-cases

* [LPT] Subtract is not used

* [LPT] AddTransformation: zero handling

* [LPT] AddTransformation test

[IE CLDNN] Gather fix (#3282)

Fixed static analysis issues (#3254)

[CPU] NormalizeL2. Support 3D layout. (#3256)

[CPU] NMS. Fill the rest of first out blob. (#3251)

fix for sliced input, fix for reshaping of Loop op (squash commits) (#3261)

[ MO ] Fix for preprocessing insertion on ShapeOf paths (#3233)

* [ MO ] Fix for preprocessing insertion on ShapeOf paths

* ScaleInput tests

[IE CLDNN] Minor fixed to NMS and TopK (#3224)

[ nG: TI ] Fix for reshaping TensorIterator (#3237)

* [ nG: TI ] Fix for reshaping TensorIterator

* Trigger CI

* misprint

* style

* style

Fix "results" uploading to DB in time_tests (#3214)

Complete CTCGreedyDecoder implementation in nGraph and add tests (#3206)

Signed-off-by: Roman Kazantsev <roman.kazantsev@intel.com>

Update tf2 yolov4 docs support (#3227)

Co-authored-by: Your Name <you@example.com>

[ MO TF ] TF FakeQuantize normalization fix (#3180)

Update install_openvino_dependencies.sh (#3196)

[LPT] Transpose, MatMul: Klocwork fixes (#3192)

Fix NMS1/3/4 to Legacy conversion (#3210)

* Fix NMS1/3/4 to Legacy conversion

* Added functoinal tests

[IE] - Interpolate ONNX workaround (#3203)

Co-authored-by: DariaMityagina <daria.mityagina@intel.com>

Backport of PR #3092 - TopK sorting fix (#3195)

Disable v10 serealizer (#3184)

* Disable v10 serealizer

* Fixed comments

Temporaly skip GRU Cell test (#3183)

Fix accuracy problem for YoloV3 (incorrect StridedSlice nop elimination) (#3179)

[IE][VPU]: Align buffer conditions with the device part (#3168)

[GNA] Security fixes for 2021.2 (#3167)

ONNX LSTM/GRU/RNN seqence_lens input tests with reverse and bidirectional mode (#3149)

Fix NMS5 dynamism issues (#3137)

* Fixed ConvertNMS5ToLegacy conversion pass to resolve dynamism as soon as possible; fixed output precision to avoid troubles during convert_precision pass

* Added NMS5ToLegacy conversion for cldnn plugin

* Fixed NMS3 copy method

* Updated NMS5ToLegacy pass to avoid convert precision issues

* Updated nGraph reader and Functional tests

* Removing odd CF call

* removed xfail for test that is expected to pass

* Fixed Convert operations friendly_name

* Removed NMS5ToLegacy from opset1_to_legacy conversion

* Update NMS5 layer tests

* Update NMS5 DSR tests

[LPT] implementation were moved from common dir (#3173)

[CPU] Normalize node. Broadcast weights from 1 to channels. (#3141)

Added SECURITY.md back (#3177)

[DOC] Update Docker install guide (#3055)

* [DOC] Update Docker install guide

* [DOC] Add proxy for Windows Docker install guide

* [DOC] move up prebuilt images section

* Update installing-openvino-linux.md

* Update installing-openvino-docker-linux.md

* Update installing-openvino-docker-linux.md

Formatting fixes

* Update installing-openvino-docker-linux.md

Fixed formatting issues

* Update installing-openvino-docker-windows.md

Minor fixes

* Update installing-openvino-docker-linux.md

Fixed formatting issues

* [DOC] update text with CPU image, remove proxy for win

* Update installing-openvino-docker-windows.md

Minor fixes

* Update installing-openvino-docker-windows.md

Minor fix

* Update installing-openvino-docker-windows.md

Minor fix

* Update installing-openvino-docker-windows.md

Co-authored-by: Andrey Zaytsev <andrey.zaytsev@intel.com>

[IE][VPU]: Refactoring of SpecialStageProcessor (#2885)

* SpecialStageProcessor refactoring
* Fix for Yolo-v3-pytorch and related test

Fix graph clenup (#3159)

* Fix graph clenup

* Refactoring graph clean up function

* Change wa comment

Co-authored-by: Your Name <you@example.com>

Revert "Reduced usage of batch in python samples (#3104)" (#3171)

This reverts commit 23e653858bc5e543afe17dcfdb6ce89047e96788.

[IE CLDNN] program_impl::replace_all_usages causes invalid memory access. (#138)

added ubuntu 20.04 support to speech recognition demo (#3145)

updated speech recognition demo resources URLs to AWS

Print GNA Lib function name when error code obtained (#3129)

TI and Sequences related transformations: transition from cnn to ngraph versions (#2927)

* sequences to ti transformations, support for seq_lengths input, update reference implemetations, add new tests

* fix python api, update sequences to ti transformation

* transition from cnn to ngraph transformations for cpu, gpu, vpu plugins

* fix convert_ti_to_sequence transformation

* fix naming issue in unroll transformation

* test pure TensorIterator in vpu plugin

* fix sequences to ti transformation

* Update sequences to TI transformation: fix reverse sequence support

* update single layer tests, fix TI reference impl, fix Sequences to TI transformations

* ngraph code style

* fix build

* fix ngraph python api

* resolver review comments, refactoring

* revert vpu changes

* disable/fix tests

* refactoring

* Resolve review remarks

* optimization of LSTMSeq -> LSTMSeq IE: remove unnecessary Transpose ops

* Refactoring of transformation pipeline in cpu and gpu plugins, align GRU/RNN -> GRU/RNN IE with LSTM -> LSTM IE

* update TensorIterator tests, refactoring

* fix typo

* Fix unit tests, delete unnecessary callbacks

* Refactoring: delete commented code

* Add FullyConnected to skipConstInfer list for legacy ConstFolding

* disable legacy cnn unit tests

* delete xfail

* fix for backward compatibility with opset1::LSTMCell

* delete xfail

* fix build, remove Reshape layer from skipConstInfer list

[nGraph][ONNX] Rename xfails (#3061)

Extend information to submit to a DB in time_tests (#3018)

* Optimize imports in time_tests conftest.py

* Extend information to submit to a DB in time_tests:
1. Add `--manifest` and `--db_metadata` CLI keys
2. Add `prepare_db_info` fixture

* Move `validate_test_case` fixture to a const schema, remove extra checks

* Add `manifest_metadata` fixture to parse and validate manifest only once

* Add OS utils to submit os info to DB

Fix ApplyPermutations for the case when more then 1 input with permutes (#3095)

Removed documents which are ported to OpenVINO WiKi (#3106)

* Removed documents which are ported to OpenVINO WiKi

* More updates

* Removed getting started

* Ported more guides to OpenVINO Wiki

Connect some ngraph and IE cmake options (#3147)

[IE][TOOLS] Fix for CCT two IR mode (#3084)

[IE][VPU]: Fix condition in HW tiling (#3111)

Co-authored-by: kora6 <kora6@github.com>