install_NEO_OCL_driver: Updated exit codes, messages. Updated way to remove old driver on Ubuntu (#2334)

fixes for UWP (#2255)

* UWP fixes

* Commented code for compilation with UWP

* Current state: compiled for DESKTOP_APP

* Fixes

* Added toolchain

* Enabled ONNX imported for Windows Store

* Updated toolchain

* Fixes

* Disable ONNX in case of UWP

* Fix for Windows Driver

* Applied style check

* Dynamic loading of GetDLLDirectory symbols

* Clean-up in the toolchain

* Updated mkldnn plugin cmake

[ MO ] Complete weights layout permutation (#2299)

* MO TF: FQPerChannel extractor

* [ MO ] Complete weights layout permutation

* removed deleted file out of BOM

* Bring back stashed changes

* Skip if no weights permutation

* Conditional permutation

* Comments

fix move assignment operator of Shape class (#2280)

Accept ONNX Constants with empty tensors (#2287)

ConvertPrecision - saturate Constant's value to std::numeric_limits<dst… (#2206)

* ConvertPrecision - saturate Constant's value to std::numeric_limits<dst_type>::lowest() if it's below that limit.

* Remove clamping to std::numeric_limits<int32_t>::lowest() in U32/U64 case

Fix bidirectional mode in reference implementations of GRU/LSTM/RNN Sequences (#2264)

* fix bidirectional case in references of sequences ops, enable decomposition of bidirectional cases in CommonOptimizations

* introduce new opset5, include GRU/RNN/LSTM Sequences to opset5

* Revert "introduce new opset5, include GRU/RNN/LSTM Sequences to opset5"

This reverts commit 73c22a11dbd724d2cfa9212ff211db74ef09cf2a.

Updated operations specification documents (2021.2) (#2270)

* Updated documentation structure and remove incorrect added files for Acosh-1, Asinh-1 and Atanh-1

* Fixed broken links

Fixed compilation without OpenCV (#2309)

[IE][VPU]: Enable some DSR+Op tests (#2118)

* Introduced a new way to test DSR+Op cases
* Enabled DSR_Reduce, DSR_VariadicSplit, DSR_TopK, DSR_Scatter, DSR_Unsqueeze tests
* Other disabled tests are still disabled until reference function is implemented. Added related comments
* Reduce DSR+Op tests execution time via reducing tensor shapes

setupvars: Updated notifications, fixed calling python in Windows case (#2319)

Glstreamer dependencies (#2292)

* Refactoring: install_openvino_dependencies.sh script

* Added python3-gi package

* Correcting typos

* Update install_openvino_dependencies.sh

Fixed libglib2.0-0 package location.

install_openvino_dependencies: Updated copyrights (#2306)

setupvars.bat: Updated notification about incorrect Python version. Removed checking ICC2019
setupvars.sh: Removed logic with choosing higher version of installed Python. Added dynamic detecting python3 major and minor version for setting path. Add checking minimum required Python version(now 3.6)

[IE][VPU]: Enable DTS for some eltwise operations (#2242)

* Enable DTS for Maximum, Minimum, Less, LogicalNot

[IE][CMAKE] Add some libraries to ie_developer export list (#2279)

The following libraries:

* `vpu_common_lib_test_static`
* `ieTestHelpers_s`

Those libraries might be helpful for standalone plugins tests.

Fixing bugs in nGraph reference implementation of Interpolate-4 (#2204)

* Now coordinate_transformation_mode used for all axes in the 'nearest' mode.

* Temporarily added tests for Interpolate-4 evaluate().

* Deleted temporarily added tests.

* Fixed documentation for the 'nearest' mode.

* Small fixes.

* Disabled Interpolate-4 layer tests for CPU.

* Disabled some Interpolate-4 CPU tests.

* do not change index table when execute each time

* layout check added

* interpolate for no batch size even scale is 1

* coordinate transformation with div scale, not multiple 1/scale, for higher accuracy

* disable tests temporal

* test modification

* Some changes.

* Enabled some tests.

Fixed c samples build (#2278)

* Fixed c samples build

fixed CVS-38816 - Failure to build samples in C

* Fixed issue with gflags

Fix TimeTests build and README (#2275)

* Fix searching of pipelines for `time_tests` build

* Add `realpath` use in README for IEDevPackage because of limitation

* Add `mkdir build && cd build` commands in README

* Rename `time-tests` to `time_tests` in README

Default Infer leads to correct infer request state (#1562)

Fix time_tests gcc 4.8.5 build error (#2208)

Move PriorBox to PriorBoxIE transformation from CommonOptimization pass (#2185)

* move PriorBox to PriorBoxIE transformation from CommonOptimization pass

* call initNodeInfo transformation before PriorToPriorIE

* update comments

Reverting devicePriorities to be vector and respect the order, as opposed to the incorrect (re (#2249)

cent?) refactoring that introduced the unordered_map that effectively ignores the priorities

Clone a specific tag for pybind11 (#2297)

[CPU] RNN layer. Blobs precision validation. (#2223)

Statically analyzed issues. (#2274)

[IE TESTS] CoreThreading_LoadNetwork tests were disabled for GPU plugin (#2245)

Test refactor (#2225)

update OpenCV version to 4.5.0 (#2254)

* update OpenCV version to 4.5.0

* fix Azure pipelines

Fixed KW warning and review issues (#2263)

Revert "[IE TESTS] dynavic batch for mvn layer (#1010)" (#2257)

This reverts commit 2e3378c50feb96df2bb8cb719bf0745705e35ad9.

[IE][VPU]: update firmware 1378 (#2182)

[VPU] Fix K propagation through Reshape (#2184)

* [VPU][DTS] Fix K propagation through Reshape

* [VPU] Add test cases

[PP GAPI] Addded tests to cover exisiting precision conversions done by (#1976)

some plugins

- added shared parameterized tests
- instantiated for template plugin
- instantiated for cpu plugin
- fixed CPU plugin to properly handle U16 input
- fixed CPU reverse_sequence primitive to alolw input/oputput tensors to
be in FP32 only
- updated ngraph test_simple_computation_on_ndarrays to not expect
failure on U16 input

added check to avoid IR generation in case of wrong input shape (#2127)

* added check to avoid IR generation in case of wrong input shape

* review changes

[IE][VPU][OpenCL] 2021.1 release compiler (#2166)

Revert "Eliminated invalid subgraphs (#2196)" (#2250)

This reverts commit 89a6f926a4784110b34848a432994e4632f860ce.

Added Public CI badge to main page (#2241)

[GNA] fix scale factor calculation for unfused bias after fc (#2097)

* [GNA] fix scale factor calculation for unfused bias after fc

* change check

* add test

* apply requested changes

* cpplint fix

* apply test changes

* modify model for test to match ::op::

Fix running nG Python tests on Windows and update doc (#2162)

[IE][VPU]: Merges transformations calls from LoadExeNetwork and Frontend (#2220)

Signed-off-by: Gladilov, Gleb <gleb.gladilov@intel.com>

Reshape v7: remove (#1379)

* Removed shape inference fr IR v7 and older

* Disabled dynamic batch tests which require reshape

* Fixes tests 2

* Disabled MKLDNN tests with convolution reshape

* Fixed GPU tests

* Disable VPU tests with batch size > 1 for old IRs

* Removed most of shape infer functions for old representation

* Removed most of CNNLayer validators

* Fixed validators and keep only parseParams

* Removed tests on invalid IR v7

* Disabled more VPU tests

* Removed Backetize validator

* Disable one more Myriad tests case where reshape for old IR is needed

* Removed useless reshape

* Need to replace GRUCell with Unique

* Moved shape infer functions for experimental layers to Core IE

* Fixed shape inference functions not to depend on legacy

* Added missed SparseToDense

* Added descriptive error message

* Fixed comments

[IE][VPU]: Workaround to support parameter Beta for layer Swish (#2205)

* Workaround to full support Swish layer. It is faster than native Swish for now.

[IE][TESTS] Fix compareRawBuffers and compareBlobData methods (#2222)

Use `<=` comparison instead of `<` with thresholds.
This allows to use `0` threshold for bit-exact comparison.

Eliminated invalid subgraphs (#2196)

nGraph some KW fixes (#2102)

* Removed redundant methods

* Fixed KW for linux

Extend error message (#2175)

Fixed query network for networks with KSO (#2201)

* Added a test to reproduce QueryNetwork with KSO

* Fixed QueryNetwork for networks with KSO

* Added additional test

Fixed output names for case with redundant ops before result (#2210)

[IE][VPU]: Some KW fixes (#2142)

* Some KW fixes
* Fix printTo in vpu ngraph transformations

[GNA] Safety fixes (#2158)

[IE][VPU][Tests]: Enables tests on MergeSubsequentDSROperations (#2149)

Signed-off-by: Gladilov, Gleb <gleb.gladilov@intel.com>

TensorIterator to RNN/GRU/LSTM Sequence transformation (#2146)

* ti to sequences transformations

* fix sequences to sequences ie conversion

* resolve review marks

* resolve review remarks, fix ti to sequences transformations to support batch > 1 if slice axis == 0

* temporary enable ngraph ti transformations for cpu plugin

* fix includes

* Revert "fix includes"

This reverts commit 6cf15b97bec94168df71606ac959b3cf60634c8a.

* Revert "temporary enable ngraph ti transformations for cpu plugin"

This reverts commit fd528d7216a2e6b11e915a0038a191259dc60551.

* delete todo comments

[LPT] Copy constant with several outputs before blob update (cherry-pick to master) (#2198)

* [LPT] Copy constant implementation

* [LPT] the same Constant ops as FQ interval boundaries

setupvars: update logic for setting path-like vars in case if they are empty. Updated copyrights. (#2229)

GatherTree description was extended and outdated link fixed (#2167)

* add more alrifications to description

* move clarification to comment

* pseudo code become more accurate

* review changes

Revert "update OpenCV version to 4.5.0"

This reverts commit 5d229a45649091d25c3e85f391f99ea88122e008.

update OpenCV version to 4.5.0

[CPU] add check on equality of values IL and IH ranges (#2190)

Add backend tests  to ONNX OpenVino CI (#1972)

Define security policy (#2215)

[Python Tools] Fix several problems in cross-check-tool (#2170)

Super smart reshape: HC Reshape to 2D followed by MatMul (#2183)

* Initial commit

* [SSR] Reshape(2D)->MatMul constrain relaxation

* Moved common pattern mechanics to the common function

* Moving SmartReshape to CNNNetworkNgraphImpl ctors

* Review comment

* Tests

Split time-tests common library (#2173)

Split time-tests common library

Add a README.md with workflow description.
Defined "timetest_" suffix for all time tests.
Applied clang-format-9 and added a README.md

Co-authored-by: Alina Alborova <alina.alborova@intel.com>

[DOC] Reshape feature (#2023)

* [DOC] Reshape feature

* Comments adressed.

* Clarifications

* Converting_Model_General.md

* Update ShapeInference.md

* Update ShapeInference.md

* Comments

* Update Convert_Object_Detection_API_Models.md

Co-authored-by: Andrey Zaytsev <andrey.zaytsev@intel.com>

Added type info for transformations (#2116)

Fix Mish and SoftPlus value propagation functions (#2120)

* Fix Mish and SoftPlus value propagation functions

* Add unit tests for SoftPlus & Mish operations value propagation functions

[PYTHON API TESTS] Add ngraph tests (#2132)

Co-authored-by: Alexander Zhogov <alexander.zhogov@intel.com>

Fix for static PartialShape detection algorithm (#2106)

Added callback to disable PriorBox to PriorBoxIE transformation (#2159)

* move priorbox to ie transformations to Opset1ToLegacyOpset pipeline

* fix typo

* Revert "fix typo"

This reverts commit 4077a78cbdcc1340b0999a3756ce348dd567e45f.

* Revert "move priorbox to ie transformations to Opset1ToLegacyOpset pipeline"

This reverts commit 910e41ff2099b0516fc9bff2baaa2ec678c8a7bf.

* add functionality to disable prior box to ie transformation

* fix callback

[IE CLDNN] Memory allocation optimizations (#2007)

Add exposing function signatures via Cython (#2024)

Implement `run_executable.py` to run `TimeTests` several times (#2125)

[IE CLDNN] Fix stack-use-after-scope issue (#2150)

Updated ConvertPrecision pass not to make extra copy of Constant data (#2108)

[samples] remove unused ngraph (#2156)

[IE Myriad][#38489] Reduce test scope for Swish layer (#2163)

Fixed differences between glib versions (#2153)

[IE][VPU]: Support ngraph::Function in VPU QueryNetwork (#1929)

* Support ngraph::Function in VPU QueryNetwork

[IE Myriad][IE Tests] Activation layer's constants parametrization. (#2071)

CI passed: https://gitlab-icv.inn.intel.com/inference-engine/product-configs/merge_requests/870

fix #38545 remove CPU network layer check for py samples (#2145)

Add support for custom onnx operators: DetectionOutput, Normalize and… (#2064)

[IE][VPU][Custom CL]: Fix binary convolution3x3 3d transaction (#2144)

* Fix binary_convolution3x3.cl kernel & test

[IE CLDNN] Fully connected MMAD kernel optimizations (#2115)

[CPU] statically analyzed issues. (#2139)

[CPU] Supported depthwise 6d, 7d, ..., added test (#971)

Fixed addOutput behavior for experimental ops (#2138)

[CPU] Fixed quantization post op memory leak (#2101)

[CPU] add const and precision check quantize ranges (#2074)

[ IE ] ExperimentalDetectron shape infer fix (#2143)

[JAVA] Code style check added (#1984)

[IE CLDNN] Fix problems with loop iterator and parameter check in clDNN (#2141)

[IE][TOOLS] compile_tool improvements (#2140)

* Remove dead code.
* Protect device specific config options with device checks.
* Add missing space to precision parsing error message.
* Allow to switch FP32 input precision to U8.

Relaxed tolerance for fp16_inception_v1 model (#2129)

Extend MO for support of Interpolate-4 (#2026)

* Commit.

* Added opset4 version in the class Interpolate.

* Added class ONNXResize11Op to read ONNX Resize with opset version >= 11.

* Added support for Interpolate-4 into transformations TestInterpolateReshapeWA and InterpolateConcat.

* Added support for Interpolate-4 into transformation InterpolateWithConcat.

* Deleted redundant checks from the transformation UpsampleToResample.

* Reverted last changes.

* Changed ONNX Resize extractor to support for Interpolate-4.

* Added conversion of ONNXResize11Op into Interpolate-4.

* Added support for Interpolate-4 into the transformation InterpolateSequenceToInterpolate.

* Small fix for formatting.

* Written tests for MO version of Interpolate-4 with shape_calculation_mode = sizes.

* Written tests for infer function of Interpolate-4.

* Now transformations InterpolateWithConcat, InterpolateConcat, InterpolateReshapeWA skip Interpolate-4.

* Used create_op_with_const_inputs in the transformation InterpolateSequenceToInterpolate.

* The transformation ONNXResize11ToInterpolate4 was rewritten using find_and_replace_pattern.

* Now the dictionary infers (dictionary of infer functions of Interpolate) is a class static attribute.

* Deleted unused variable.

* Restored original logic of find_and_replace_pattern method of the class InterpolateReshapeWA.

* Used create_op_with_const_inputs() in the transformation InterpolateSequenceToInterpolate for opset1 case.

* Replaced resize_name by resize.soft_get('name', resize.id).

* Small fixes.

* Added two tests for Interpolate-4 infer function.

* Fixed the transformation ONNXResize11ToInterpolateV4 for the case when ONNXResize11 operation has 3 inputs.

* Added conversion of ONNXResize11 with tf_crop_and_resize_mode to ROIPooling + ONNXResize11.

* Fixed bugs in the transformation ONNXResize11ToInterpolateV4 and in the infer function of the operation ONNXResize11.

* Small changes.

* Renamed transformation that converts ONNXResize11 into ROIPooling + ONNXResize11 and fixed BOM-file.

* Fixed tests for the transformation InterpolateSequenceToInterpolate.

* Small change.

* Now the transformation InterpolateSequenceToInterpolate preserves output layer name.

* Deleted the transformation ONNXResize11ToTFCropAndResize.

Implement statistics collection: (#2056)

1. Add `-s` CLI key to get statistics file path
2. Implement `StatisticsWriter` singleton to manage handle to this file

[PP GAPI] - Generic precision conversion kernel; support for U8 (#2076)

- added U8 support
- tests are extended

[GNA] Fix for concat layer with >2 inputs (#1475)

* Fix for concat layer with more than 2 inputs

Signed-off-by: Bartosz Sochacki <bartosz.sochacki@intel.com>
* Fixed check if affine is used for crop layer

Signed-off-by: Bartosz Sochacki <bartosz.sochacki@intel.com>
* code cleanup for fix affine layer check

Signed-off-by: Bartosz Sochacki <bartosz.sochacki@intel.com>
* added test for concat layer with multiple inputs

* simplified test to use less number of layers

* fixed code style

* fixed coding style

* addressed review comments and one more issue that appeared during testing

* fixed code style errors

* scale factor propagation for concat layer with multiple inputs

* fix for a case when all inputs to concat are activation layers

* fix for linux compilation - C++14 is not enabled and fails on lambda with auto parameters

* corrected current year in headers in concat multi input tests

* fixes for code review issues raised by Denis Orlov

* enabled integer mode computation in GNA concat multi input test

* removed 1 space per review comment

* a fix to fail when not all scale factors are equal

* added GNA_DEVICE_MODE config to concat multi input test

* corrected searching for a next input to concat layer

* changed selection of 2nd candidate for source quant value

* code style fix - else and brackets should be in the same line

* small code improvement

* fix for mixing line endings

* addressed with endless requantization loop and fixed failing tests

Fixed AddressSanitizer issue (#2122)

[IE CLDNN] fs_b_yx_fsv32 addition in quantize_scale_shift kernel and reorders removal fix (#2124)

[IE][Tests]: Fixes dangling reference access in nGraph function comparator (#2105)

Usage reference to front of the queue after pop is UB

Signed-off-by: Gladilov, Gleb <gleb.gladilov@intel.com>