[GNA] MemoryStateImpl (#839)

* [GNA] fix query state for GNAMemoryState

* [GNA] MemoryState implementation:

Fix shared tests
Fix smoke tests
fix SetState
Implement LastState
Fix Reset

* Move getPrecision() to GNAMemoryState

Change Smoke Reset() test to check resetting one state

* [GNA] add dequantize to getLastState()

* code refactor

Co-authored-by: Anna Alberska <anna.alberska@intel.com>
Co-authored-by: kmagiers <kmagiers@intel.com>

Add nGraph-ONNX tests (#1215)

Implement ScatterND operation in MO and transform for SparseToDense (#584)

SparseToDense used in Wide and Deep model is expressed through ScatterND operation.
ScatterND is more functional than SparseToDense. Hence, it was decided to replace SparseToDense
with ScatterND. ScatterND is more useful for other models.

Remove SparseToDense from the previous opset

Signed-off-by: Roman Kazantsev <roman.kazantsev@intel.com>

Simplified usage of CNNNetworkIterator (#1260)

[IE Common] Replace static_cast with saturated one (#1257)

[CPU] ScatterUpdate ScatterElementsUpdate and ScatterNDUpdate support (#909)

* scatter_update_series_enable

* scatter_update_series_enable

* add single layer tests

[IE TESTS] Added single layer test "Ceiling" (#1271)

[IE][VPU]: Remove dataToShape edges from unsued data (#1213)

* Check equality of shape data for the replaced and replacement input/output data in the model
* Connect data with shape in duplicateData method
* Disconnect shape with data which is being removed as unsued.
* Check that disconnected shape still have child dataToShape edges or consumers
* Refactor cleanUp to use removeUnsuedData and not duplicate code

Add python API codeowners (#1254)

[IE CLDNN] Added Mish operation (#1125)

Fix the __repr__ function for dynamic shapes (#1210)

Swish operation specification (#1200)

* Add Swish operation specification

SoftPlus operation specification (#1128)

* Add SoftPlus operation specification

[nGraph] Fix reshape builder if target shape is scalar (#1206)

[nGraph] Allow to use protobuf lite in onnx importer (#687)

ONNX Imagescaler op (#1262)

* ONNX ImageScaler op

* UT for ImageScaler op

Enable importing TinyYOLOv2 (#1121)

* Fixed bugs in TinyYOLOv2 ops

* Added tests

* styles applied

* styles applied

* code review remarks introduced

* code review remarks (unit tests added)

Move arithmetics spec from v1 to v4 spec docs (#1230)

* Move atanh asinh acosh to opset4

* Update opset3 tables

[IE TESTS] Added single layer tests (#1137)

[LPT] Eltwise Prod transformation fix (#1135)

* [LPT] Eltwise Prod transformation fix

* [LPT] ngraph Multiply lp transformation test

Fixed RTTI issues for ngraph::Variant (#1258)

Use ngraph.hpp in samples and documentation (#1240)

[IE TESTS] dynavic batch for mvn layer (#1010)

* [ci-skip][IE TESTS] dynavic batch for mvn layer

* update instance v0

* [ci-skip][IE TESTS] update instance for mvn layer

* [ci-skip][IE TESTS] fix

* [ci-skip][IE TESTS] add dynamic batch for singleLayer basic class

* [ci-skip][IE TESTS] update dynamic batch for singleLayer basic class

* [ci-skip][IE TESTS] removing bathFlag

* [IE TESTS] removing bathSize

* [IE TESTS] refactor dynamic batch in basic class

* [IE TESTS] refactor dynamic batch in basic class

Conversion via CNNNetworkImpl ctor (#1222)

* Added ctor for CNNNetworkImpl to convert from ngraphImpl

* Re-use in all places instead of manual conversion

* Hide convertToCNNNetworkImpl usage

* Remove useless test

* Fixed Gleb's comments

[IE Tools] Update tools with new Python API (#944)

The supported models detection improvement (#1235)

* The supported models detection improvement

* Unit test for supported models detection

Fix MemCheckTests failures caused by change in OMZ models scope (#1214)

Run only models available in OMZ to prevent failures
Remove person-reidentification-retail-0031.xml from configs

[Python API] setting and getting preprocessing info through InferRequest (#1009)

Refactoring: remove unneeded typedef from DetectionOutputAttrs struct. (#1231)

Removed all and allreduce layers (#1182)

* Removed all and allreduce layers

* Removed reference implementations

Add new parameters to compile-tool (#1153)

fix build target name in demos for Windows (#1253)

[Stress] Move logging after all computations of `progress_str` (#1226)

ONNX DequantizeLinear op (#1123)

* DequantizeLinear 10 as a subgraph

* Enable DequantizeLinear from opset 13

* Exclude the failing tests

* Re-enable dequantize linear UTs

* Validation helper

Removed And operation (#1183)

[IE TESTS] Add Convert, ConvertLike single layer tests. Refactoring `Range` (#1212)

[IE TESTS] Add Multi, hetero and Cpu plugin as dependecies to the functional tests (#1234)

Preprocessing(GAPI): Universal intrinsics (AVX2) implementation of U8C1 linear Resize. (#942)

* Preprocessing(GAPI): Universal intrinsics (AVX2) implementation of U8C1 linear Resize

* Refactoring

Removed ArgMax ArgMin (#1181)

Fix const node non-deterministic names (part 2) (#1081)

* Fix non-deterministic node names generation in the Model Optimizer (part 2)

Removed nGraph experimental operations and headers (#1197)

Added IR v7 reader dependency for functional tests (#1238)

[GNA] Added support configuration of nthreads and quantization bits (#1059)

Add assert for Clip-11 (#795)

Stick to isort==4.3.21 (#1223)

[CPU][TESTS] Disabled sporadically failed Core treading test on Windows (#1227)

[IE CLDNN] Addition of eltwise support for different input sizes. (#640)

Windows build fix (#1225)

Optimisations for binary operations broadcast (#1058)

Removed BatchNotmTraining (#1185)

Remove atan2 (#1184)

[IE CLDNN] Fix input feature padding handling in dw conv fsv16 kernel (#1217)

[IE CLDNN] Add additional check for local block io support (#1211)

This change is needed, because some ocl compiler versions may advertise
support for extension, but fail to compile some of the functions.

Use include headers in unit tests (#1216)

[MKLDNN] Fixed bias datatype in jit_uni_dw_conv kernel (#1131)

Deprecated cnn layer (#1138)

* Deprecated getInputTo, getCreatorLayer

* Fixes

* Fixed ie_layers moving to legacy

* Fixed onnx importer dependency

* Fixed python

* Fix python API compilation

* Added comments not to use _impl from Data

Co-authored-by: Nadezhda Ageeva <nadezhda.ageeva@intel.com>

Empty dimension means Dimension::dynamic() (#1171)

[ BTS & STB ] Fixing broken transformations (#874)

Add FakeQuantize op to ONNX importer (#1099)

Enable nGraph Python API unit tests using Inference Engine APIs (#1095)

[ MO ] Clamp value inference (#1207)

[IE][VPU] exclude test: conv_3x3s1p1_vgg (issue: 34466) (#1204)

Fixed type of  reduction axes (#1190)

Enable read onnx model tensor FLOAT16 no raw data (#1168)

[ONNX importer] Add more Resize-10 tests (#1026)

CMAKE: Added IR reader dependency to dev_targets (#1202)

Removed const transformer usage in graph transformer (#1164)

* Commented constant folding

* Fix

Fixed typo in docs (#1201)

[VPU] Enable DSR_MatMul tests (#1129)

* [VPU] Remove hardcoded shape type from MatMul dts

* [VPU] Forbid first GEMM input to be dynamic and transposed

* [VPU] Update DSR_MatMul tests to use DSR_TestsCommon base class

[Stress] Enable StressMemleaksTests on GPU in precommit (#1079)

* [Stress] Fix missing retry for StressMemLeaksTests

* [Stress] Add smoothing with sliding average for StressMemleaksTests

* [Stress] Enable GPU in StressMemleaksTests precommit scope

Fixed user name in codeowners (#1198)

Updated Core::ReadNetwork documentation (#1178)

Resolve build failure due to warning C5208 (#1170)

> warning C5208: unnamed class used in typedef name cannot declare members other than non-static data members, member enumerations, or member classes

This commit adds a placeholder name to the struct definition
according to the accepted solution here:
https://developercommunity.visualstudio.com/content/problem/1034754/warning-c5208-a-c20-feature-occurs-when-compiling-1.html

Only applies to MSVC 19.26 or later. The alternative is to add a switch
`/Wv:19.25` to suppress the warning.

Remove reference to removed function. (#1192)

[IE VPU] Enable DSR_* tests: part 1 (#1041)

* [IE VPU] Enable DSR_BinaryEltwise tests

* [IE VPU] Enable DSR_Gather tests

* [IE VPU] Enable DSR_Clamp tests

* [IE VPU] Enable DSR_Concat tests

* [IE VPU] Enable DSR_Convert tests

* [IE VPU] Enable DSR_Squeeze tests

* [IE VPU] Enable DSR_UnaryEltwise tests

* [ nGraph ] Softmax should return input pshape, not fully dynamic shape

Try "system.debug: true" (#1179)

[IE CLDNN] Add some auto-tuning improvements (#1154)

- add error reporting for failed kernel runs during auto-tune
- fix auto-tuning for asymmetric quantization
- add asymmetric quantization information to cache
- change auto-tuning metric from average to min

Removed WA for C API compilation (#1176)

Split IR readers (#1167)

* Split IR readers

* Fixed tests

* CMAKE: Removed add_clang_format_target usage from readers

[Stress] Add --ref_db_collection in compare_memcheck_2_runs.py (#1157)

Removed opset0 from public API (#1144)

[IE TESTS] ie_class migration to the new test infrastructure (#1136)

[VPU] StaticShapeNMS support (#1057)

[IE][VPU]: Introduces StaticShapeNMS stage

[IE CLDNN] Don't force expected reorder layout & improve i64->i32 fallback (#1088)

[IE CLDNN] Autoremove comments from processed cl files (#1152)

[IE TEST] LRN tests fixed params (#743)

* LRN tests fixed params

* Fix comment

* Swiched to opset3

Clean-up files in tests helpers (#1173)

Removed disable_tests.hpp (#1172)

[MO MXNET] Fixed spatial reshape on GluonCV models (#587)

* added value propagation for slice_like op

* Mark slice_lice as undead node

* fixes in mark_undead_nodes and unittests update

[IE CLDNN] Removed unused primitives and related structures (#1039)

[IE CLDNN] Add two early optimization capabilites (#1155)

This change adds checks, macros and defines for two early/experimental
features:
- local memory block reads
- builtin optimization hints, ie: __builtin_assume

Added nGraph transformations developer guide (#947)

* Added nGraph transformations developer guide

* Added some more chapters

* Added Transformation writing essentials chapter

* Added working with ngraph::Function chapter

* Added two chapters

* Fix comments

* Moved code snippets to source files

* Moved ngraph test utils to common. Added transformations test examples to template plugin

* Added Common mistake section

* Added doxygen for CommoOptimization passes

* Fixed doxygen comments; added links in md files; fixed typos

* Fixed review comments

Avoid duplicate data during reshapeDilation (#765)

[IE VPU] Set name for output DSR in DTS (#1011)

* [IE VPU] Set name for outDSR in DTS transformations

* [IE VPU] Enable NonZero_Transpose tests

* [IE VPU] Set name for outDSR in Reduce DTS

* [IE VPU] Use move semantic in DTS

[IE TEST] Added constant input to MatMul tests (#1119)

* Added constant input to MatMul tests

* Added InputLayerType to ngraph_helpers.hpp

NMS-4 op support (#1115)

* Specification for the NMS-4 operation (updated shape infer function)

* Enabled NMS-4 in the Model Optimizer

* Changed opset version for NMS with dynamic outputs and namespace to be "dynamic"

* Added NMS-4

* Added opset4 to the nGraph

* Added unit tests for NMS-4 type infer

* Renamed UpgradeNMS3ToNMS4 to UpgradeNMS3ToNMSDynamic. Added stub for ConvertNMS4ToLegacy

* Make IE aware of opset4 ops

* Updated NMSIE to have different shape infer function based on the NMS it was converted from. Implemented NMS4->NMSIE conversion

* Apply code style

* Updated StaticShapeNonMaximumSuppression op in the VPU

* Introduced new version of NMSIE operation with shape infer function from v4::NMS

* Fixed dynamicToStaticNonMaxSuppression transformation

* Added new version of NMSIE op with updated shape infer function

* Fixed NMS4 to NMSIE2 transformation

* Fixed constructors for nGraph ops v4::NM and dynamic::NMS

* Updated text in the opset4 specification document

* Code style fixes

* Fixed constructors for StaticShapeNMS + fixed test

* Minor change to the NMS op in the MO

* Fixed typo in the dynamic_to_static_shape_non_max_suppression transformation

* Removed redundant checks

* Refactored NMS infer and validate functions

* Added more checks to the validate_and_infer_types functions for NMS-3 and NMS-4

* Fixed compilation issue on Windows for op NMS

* Code style fixes

* Fixed typos in the NMSIE and NMSIE2 to CNNLayer op conversion

* Fixed typo in the ie_cnn_layer_builder_ngraph.cpp

* Fixed the NMSToLegacyNMS transformation. Added unit tests

* Apply code review comments

* Refactored NMSIE to use visitors

* Removed calling ConvertNMS4ToLegacy in the common optimizations

* Moved NMS4ToNMSLegacy to convert1_to_legacy group of transformations

* Removed useless include statement

* Removed copy-paste issue

Co-authored-by: Evgeny Lazarev <elazarev.nnov@gmail.com>

Alpha and beta nodes element types fix (#1150)

[CPU] Fixed PostOpsIntBlobMemory filling (#1133)

Fixed Softmax reference (#1148)

[IE CLDNN] Fix Android build error: braces around scalar initializer (#1151)