Simplified usage of CNNNetworkIterator (#1260)

[IE Common] Replace static_cast with saturated one (#1257)

[CPU] ScatterUpdate ScatterElementsUpdate and ScatterNDUpdate support (#909)

* scatter_update_series_enable

* scatter_update_series_enable

* add single layer tests

[IE TESTS] Added single layer test "Ceiling" (#1271)

[IE][VPU]: Remove dataToShape edges from unsued data (#1213)

* Check equality of shape data for the replaced and replacement input/output data in the model
* Connect data with shape in duplicateData method
* Disconnect shape with data which is being removed as unsued.
* Check that disconnected shape still have child dataToShape edges or consumers
* Refactor cleanUp to use removeUnsuedData and not duplicate code

Add python API codeowners (#1254)

[IE CLDNN] Added Mish operation (#1125)

Fix the __repr__ function for dynamic shapes (#1210)

Swish operation specification (#1200)

* Add Swish operation specification

SoftPlus operation specification (#1128)

* Add SoftPlus operation specification

[nGraph] Fix reshape builder if target shape is scalar (#1206)

[nGraph] Allow to use protobuf lite in onnx importer (#687)

ONNX Imagescaler op (#1262)

* ONNX ImageScaler op

* UT for ImageScaler op

Enable importing TinyYOLOv2 (#1121)

* Fixed bugs in TinyYOLOv2 ops

* Added tests

* styles applied

* styles applied

* code review remarks introduced

* code review remarks (unit tests added)

Move arithmetics spec from v1 to v4 spec docs (#1230)

* Move atanh asinh acosh to opset4

* Update opset3 tables

[IE TESTS] Added single layer tests (#1137)

[LPT] Eltwise Prod transformation fix (#1135)

* [LPT] Eltwise Prod transformation fix

* [LPT] ngraph Multiply lp transformation test

Fixed RTTI issues for ngraph::Variant (#1258)

Use ngraph.hpp in samples and documentation (#1240)

[IE TESTS] dynavic batch for mvn layer (#1010)

* [ci-skip][IE TESTS] dynavic batch for mvn layer

* update instance v0

* [ci-skip][IE TESTS] update instance for mvn layer

* [ci-skip][IE TESTS] fix

* [ci-skip][IE TESTS] add dynamic batch for singleLayer basic class

* [ci-skip][IE TESTS] update dynamic batch for singleLayer basic class

* [ci-skip][IE TESTS] removing bathFlag

* [IE TESTS] removing bathSize

* [IE TESTS] refactor dynamic batch in basic class

* [IE TESTS] refactor dynamic batch in basic class

Conversion via CNNNetworkImpl ctor (#1222)

* Added ctor for CNNNetworkImpl to convert from ngraphImpl

* Re-use in all places instead of manual conversion

* Hide convertToCNNNetworkImpl usage

* Remove useless test

* Fixed Gleb's comments

[IE Tools] Update tools with new Python API (#944)

The supported models detection improvement (#1235)

* The supported models detection improvement

* Unit test for supported models detection

Fix MemCheckTests failures caused by change in OMZ models scope (#1214)

Run only models available in OMZ to prevent failures
Remove person-reidentification-retail-0031.xml from configs

[Python API] setting and getting preprocessing info through InferRequest (#1009)

Refactoring: remove unneeded typedef from DetectionOutputAttrs struct. (#1231)

Removed all and allreduce layers (#1182)

* Removed all and allreduce layers

* Removed reference implementations

Add new parameters to compile-tool (#1153)

fix build target name in demos for Windows (#1253)

[Stress] Move logging after all computations of `progress_str` (#1226)

ONNX DequantizeLinear op (#1123)

* DequantizeLinear 10 as a subgraph

* Enable DequantizeLinear from opset 13

* Exclude the failing tests

* Re-enable dequantize linear UTs

* Validation helper

Removed And operation (#1183)

[IE TESTS] Add Convert, ConvertLike single layer tests. Refactoring `Range` (#1212)

[IE TESTS] Add Multi, hetero and Cpu plugin as dependecies to the functional tests (#1234)

Preprocessing(GAPI): Universal intrinsics (AVX2) implementation of U8C1 linear Resize. (#942)

* Preprocessing(GAPI): Universal intrinsics (AVX2) implementation of U8C1 linear Resize

* Refactoring

Removed ArgMax ArgMin (#1181)

Fix const node non-deterministic names (part 2) (#1081)

* Fix non-deterministic node names generation in the Model Optimizer (part 2)

Removed nGraph experimental operations and headers (#1197)

Added IR v7 reader dependency for functional tests (#1238)

[GNA] Added support configuration of nthreads and quantization bits (#1059)

Add assert for Clip-11 (#795)

Stick to isort==4.3.21 (#1223)

[CPU][TESTS] Disabled sporadically failed Core treading test on Windows (#1227)

[IE CLDNN] Addition of eltwise support for different input sizes. (#640)

Windows build fix (#1225)

Optimisations for binary operations broadcast (#1058)

Removed BatchNotmTraining (#1185)

Remove atan2 (#1184)

[IE CLDNN] Fix input feature padding handling in dw conv fsv16 kernel (#1217)

[IE CLDNN] Add additional check for local block io support (#1211)

This change is needed, because some ocl compiler versions may advertise
support for extension, but fail to compile some of the functions.

Use include headers in unit tests (#1216)

[MKLDNN] Fixed bias datatype in jit_uni_dw_conv kernel (#1131)

Deprecated cnn layer (#1138)

* Deprecated getInputTo, getCreatorLayer

* Fixes

* Fixed ie_layers moving to legacy

* Fixed onnx importer dependency

* Fixed python

* Fix python API compilation

* Added comments not to use _impl from Data

Co-authored-by: Nadezhda Ageeva <nadezhda.ageeva@intel.com>

Empty dimension means Dimension::dynamic() (#1171)

[ BTS & STB ] Fixing broken transformations (#874)

Add FakeQuantize op to ONNX importer (#1099)

Enable nGraph Python API unit tests using Inference Engine APIs (#1095)

[ MO ] Clamp value inference (#1207)

[IE][VPU] exclude test: conv_3x3s1p1_vgg (issue: 34466) (#1204)

Fixed type of  reduction axes (#1190)

Enable read onnx model tensor FLOAT16 no raw data (#1168)

[ONNX importer] Add more Resize-10 tests (#1026)

CMAKE: Added IR reader dependency to dev_targets (#1202)

Removed const transformer usage in graph transformer (#1164)

* Commented constant folding

* Fix

Fixed typo in docs (#1201)

[VPU] Enable DSR_MatMul tests (#1129)

* [VPU] Remove hardcoded shape type from MatMul dts

* [VPU] Forbid first GEMM input to be dynamic and transposed

* [VPU] Update DSR_MatMul tests to use DSR_TestsCommon base class

[Stress] Enable StressMemleaksTests on GPU in precommit (#1079)

* [Stress] Fix missing retry for StressMemLeaksTests

* [Stress] Add smoothing with sliding average for StressMemleaksTests

* [Stress] Enable GPU in StressMemleaksTests precommit scope

Fixed user name in codeowners (#1198)

Updated Core::ReadNetwork documentation (#1178)

Resolve build failure due to warning C5208 (#1170)

> warning C5208: unnamed class used in typedef name cannot declare members other than non-static data members, member enumerations, or member classes

This commit adds a placeholder name to the struct definition
according to the accepted solution here:
https://developercommunity.visualstudio.com/content/problem/1034754/warning-c5208-a-c20-feature-occurs-when-compiling-1.html

Only applies to MSVC 19.26 or later. The alternative is to add a switch
`/Wv:19.25` to suppress the warning.

Remove reference to removed function. (#1192)

[IE VPU] Enable DSR_* tests: part 1 (#1041)

* [IE VPU] Enable DSR_BinaryEltwise tests

* [IE VPU] Enable DSR_Gather tests

* [IE VPU] Enable DSR_Clamp tests

* [IE VPU] Enable DSR_Concat tests

* [IE VPU] Enable DSR_Convert tests

* [IE VPU] Enable DSR_Squeeze tests

* [IE VPU] Enable DSR_UnaryEltwise tests

* [ nGraph ] Softmax should return input pshape, not fully dynamic shape

Try "system.debug: true" (#1179)

[IE CLDNN] Add some auto-tuning improvements (#1154)

- add error reporting for failed kernel runs during auto-tune
- fix auto-tuning for asymmetric quantization
- add asymmetric quantization information to cache
- change auto-tuning metric from average to min

Removed WA for C API compilation (#1176)

Split IR readers (#1167)

* Split IR readers

* Fixed tests

* CMAKE: Removed add_clang_format_target usage from readers

[Stress] Add --ref_db_collection in compare_memcheck_2_runs.py (#1157)

Removed opset0 from public API (#1144)

[IE TESTS] ie_class migration to the new test infrastructure (#1136)

[VPU] StaticShapeNMS support (#1057)

[IE][VPU]: Introduces StaticShapeNMS stage

[IE CLDNN] Don't force expected reorder layout & improve i64->i32 fallback (#1088)

[IE CLDNN] Autoremove comments from processed cl files (#1152)

[IE TEST] LRN tests fixed params (#743)

* LRN tests fixed params

* Fix comment

* Swiched to opset3

Clean-up files in tests helpers (#1173)

Removed disable_tests.hpp (#1172)

[MO MXNET] Fixed spatial reshape on GluonCV models (#587)

* added value propagation for slice_like op

* Mark slice_lice as undead node

* fixes in mark_undead_nodes and unittests update

[IE CLDNN] Removed unused primitives and related structures (#1039)

[IE CLDNN] Add two early optimization capabilites (#1155)

This change adds checks, macros and defines for two early/experimental
features:
- local memory block reads
- builtin optimization hints, ie: __builtin_assume

Added nGraph transformations developer guide (#947)

* Added nGraph transformations developer guide

* Added some more chapters

* Added Transformation writing essentials chapter

* Added working with ngraph::Function chapter

* Added two chapters

* Fix comments

* Moved code snippets to source files

* Moved ngraph test utils to common. Added transformations test examples to template plugin

* Added Common mistake section

* Added doxygen for CommoOptimization passes

* Fixed doxygen comments; added links in md files; fixed typos

* Fixed review comments

Avoid duplicate data during reshapeDilation (#765)

[IE VPU] Set name for output DSR in DTS (#1011)

* [IE VPU] Set name for outDSR in DTS transformations

* [IE VPU] Enable NonZero_Transpose tests

* [IE VPU] Set name for outDSR in Reduce DTS

* [IE VPU] Use move semantic in DTS

[IE TEST] Added constant input to MatMul tests (#1119)

* Added constant input to MatMul tests

* Added InputLayerType to ngraph_helpers.hpp

NMS-4 op support (#1115)

* Specification for the NMS-4 operation (updated shape infer function)

* Enabled NMS-4 in the Model Optimizer

* Changed opset version for NMS with dynamic outputs and namespace to be "dynamic"

* Added NMS-4

* Added opset4 to the nGraph

* Added unit tests for NMS-4 type infer

* Renamed UpgradeNMS3ToNMS4 to UpgradeNMS3ToNMSDynamic. Added stub for ConvertNMS4ToLegacy

* Make IE aware of opset4 ops

* Updated NMSIE to have different shape infer function based on the NMS it was converted from. Implemented NMS4->NMSIE conversion

* Apply code style

* Updated StaticShapeNonMaximumSuppression op in the VPU

* Introduced new version of NMSIE operation with shape infer function from v4::NMS

* Fixed dynamicToStaticNonMaxSuppression transformation

* Added new version of NMSIE op with updated shape infer function

* Fixed NMS4 to NMSIE2 transformation

* Fixed constructors for nGraph ops v4::NM and dynamic::NMS

* Updated text in the opset4 specification document

* Code style fixes

* Fixed constructors for StaticShapeNMS + fixed test

* Minor change to the NMS op in the MO

* Fixed typo in the dynamic_to_static_shape_non_max_suppression transformation

* Removed redundant checks

* Refactored NMS infer and validate functions

* Added more checks to the validate_and_infer_types functions for NMS-3 and NMS-4

* Fixed compilation issue on Windows for op NMS

* Code style fixes

* Fixed typos in the NMSIE and NMSIE2 to CNNLayer op conversion

* Fixed typo in the ie_cnn_layer_builder_ngraph.cpp

* Fixed the NMSToLegacyNMS transformation. Added unit tests

* Apply code review comments

* Refactored NMSIE to use visitors

* Removed calling ConvertNMS4ToLegacy in the common optimizations

* Moved NMS4ToNMSLegacy to convert1_to_legacy group of transformations

* Removed useless include statement

* Removed copy-paste issue

Co-authored-by: Evgeny Lazarev <elazarev.nnov@gmail.com>

Alpha and beta nodes element types fix (#1150)

[CPU] Fixed PostOpsIntBlobMemory filling (#1133)

Fixed Softmax reference (#1148)

[IE CLDNN] Fix Android build error: braces around scalar initializer (#1151)

Cnnnetwork add layer (#1124)

* Removed addLayer from public interface

* Convert to CNNNetworkImpl

[ MO ] Keep data type of compressed value (#1143)

JIRA: 34085

[IE CLDNN] int8 batches optimization (#632)