Align with the specification SpaceToBatch, BatchToSpace ops (#1140)

* Aligned SpaceToBatch/BatchToSpace with the spec, converted from fused_op to op

* Implemented transformation to decompose STB/BTS

* Added unit tests

* Added new mode (INTERPRETER_TRANSFOMATIONS) for functional tests

Feature/ar24 int8 optimizations (#1208)

[nGraph] Public Py API to get function from cnnnetwork (#1567)

Removed constant folding for Tile op (#1595)

Remove reverse op from pyAPI. (#1538)

Hierarchical extension to nGraph RTTI (#1245)

* RTTI base for ngraph::Node; cherry-pick from another branch, draft

* Added comments, moved code, switched to custom RTTI-based version of is_type

* Move rtti definitions in ngraph op class to the beginning of each class definition as a preparation for the next replacement

* Migrate part of operations to new RTTI

* Migrate GroupConvolution and Concat to new RTTI

* Apply code style for ngraph part

* Rename RTTI_DECLARATION/DEFINITION to NGRAPH_RTTI_DECLARATION/DEFINITION

* Reverted accidentally updated version of mkldnn

* TMP: rewrite RTTI back to constexprions as an attempt to fix static objects initialization order issue

* Apply ngraph code style

* Finalize move back to constexpr for RTTI

* Applied code-style

* Fix in fast algorithm in GraphRewrite, add new tests for this and other cases

* Make parent optional parameter for NGRAPH_RTTI_DECLARATION and remove Node::type_info; remove ability to have Node as a parent for type_info

* Try to resolve compilation error on Windows

* The next attempt to fix Windows build: re-introduce get_type_info_static

* Removed file that was removed in master and kept in this branch by mistake

* Next attempt to fix Windows build: externConstexpr

* Attempt to fix win build: extra public (suspect icc bug), remove get_type_info_static as useless.

* Next attempt to fix Windows: proxy const and constexpr

* Fixed constexpr

* Next attmpts: move get_type_info to cpp file

* Code stype fix

* Re-implemented RTTI without use of constexpr; run-time initialization is used; removed global definitions to avoid issues with order of static objects initialization

* Remove already unncecessary compiler flag for Windows

* get_type_info_static initializes static local constant with type_info that is used for CLASS::type_info and CLASS::get_type_info

* Rewrite commens for NGRAPH_RTTI_... macros, remove not used header

Removed reshape and transpose constant folding passes (#1598)

* Removed template code from reshape implementation

* Removed constant foldyng for transpose and dyn reshape

ngraph::pass::ConvertPrecision transformation (#1312)

* In this PR I'll add ngraph::pass::ConvertPrecision transformation and change only CPU Plugin to decrease number of changes. Other plugins will be updated in separate PR.

* This PR also includes changes for TI body transformations. We need to call the same sequence of transformations including ConvertPrecision for TI body.

ITT library usage fixes (#1613)

[ nG  GRUCell ] Allowed dynamic input shape (#1606)

Use clone_function instead of specialize_function (#1523)

* Try to use clone_function instead of specialize_function

* Try to fix stress tests

* Remove redundant specialize_function

* Fixed TI clone

* Removed redundant code

* Uncomment threading tests

* Fixed docs

* copy function friendly name too

* Fixed copy rt_info

* Fixed comments

[IE CLDNN] Added fsv16 and int8 support in BatchToSpace and SpaceToBatch (#1381)

[ MO GroupNorm ] Covered float Multiplication with Converts (#1602)

Hide implementation of SharedObjectLoader to cpp files (#1556)

* Hide implementation of SharedObjectLoader to cpp files

* Fixed GPU tests compilation

* Fixes for Unix; check OpenCL headers with strict flags

* Fixed Windows

* More fixes for Windows

* Fixed Unit tests

* Enabled compilation with libVA for new GPU tests

* Fixes for case when libVA is not available

* Removed useless NOMINMAX

* Useless include

* Fix

* Fixes

* Fixes for Intel compiler

* Fix for Windows + Intel compiler

* Fixed samples compilation with Intel compiler

Disabled JSON library (#1599)

[nG][Python]Make model runner compatibile with python 3.5 (#1578)

Removed dirty skip from tests definitions (#1591)

[Stress] Remove --env_conf at all after deprecation (#1582)

Common library to trace using Intel ITT and new performance counters (#1479)

Removed ie_parallel include from task executors (#1588)

[IE CLDNN] Added HSwish-4 operation (#1585)

[IE CLDNN] Gather 5d/6d support (#1553)

[IE][VPU]: Use the string size, including the null-terminated character, to serialize the DataNode name (#1496)

Fix typo. (#1571)

Removed v0 convolution and group convolution (#1512)

Run nGraph code style check in the root of repo (#1573)

[Stress] Enable OMZ info_dumper.py in get_testdata.py (#1485)

* [Stress] Support OMZ model_info.py in get_testdata.py

* [Stress] Copy IRs from OMZ models folder to IRs folder

* [Stress] Support modified configs in C++ tests

* [Stress] Deprecate support of --env_conf due refactoring of configs

* [Stress] Update configs:
1. Removed env configs due deprecation
2. Moved test configs to a new format

* [Stress] Extend MemCheck records with info from test config

Fix for CTCLoss in NGraph (#1563)

Blank index is optional input and must be handled appropriately

Signed-off-by: Roman Kazantsev <roman.kazantsev@intel.com>

[nGraph] Py API get/set partial shape of parameter (#1560)

GitHub CI: Add filter for newly created PRs, and labels map in config.json (#1532)

* Add filter for newly created PRs, and labels map in config.json

* Fix label name

Virtual inheritance to allow inheriting test classes and overriding common logic (#1557)

add Ubuntu 20.04 to dependencies.cmake (#1565)

Updated inference_engine.hpp (#1539)

[IE CLDNN] Prod mode support in eltwise fusings (#1491)

[GNA] Support for cascade concat with non functional layers between concats (#598)

[GNA] Support for cascade concat with non functional layers between concats

Removed classes for DistributedInterface, State and Send, Resv v0 operations (#1549)

* Removed State

* Removed Recv and Send operations

* Remoced distributed interface

Removed v0 builders (#1528)

Changed visibility of nGraph node methods (#1544)

Fix false positives in ModelRunner. (#1541)

[nGraph] Matching names of functions (#1524)

Specify, review and approve operation Proposal-4 (#1270)

* Specify, review and approve operation Proposal-4

* added types section and some other corrections

* Added example of Proposal-4 without reductions

* Corrected information about input tensors

* removed 'logits' from specification, added information about shapes

* removed `for_deformable` attribute

* changed `batch_size` to 7

* updated output dimension

[IE][VPU]: Enable new tests for adjust_data_batch pass (#1219)

* New tests for adjust_data_batch pass

[IE][VPU]: Enabling of NonZero single layer tests (#1502)

Disable MatMul to FC conversion for VPU (#1520)

* Splited MatmulToFCorGemm transformation

* Updated VPU transformation predicate to check that MatMul has DSR as input

nGraph unit tests refactoring (#1495)

Add product version to memcheck records (#1508)

Removed public headers / dependencies for readers plugins (#1534)

* Removed public headers / depedencies for readers plugins

* Refactored cmake for onnx reader plugin as well

Template documentation update (#1519)

* Updated Inference Engine Plugin developer guide
after inference using ngraph reference backend is added

* Documentation fixes

* Fixed review comments

Avoid redundant clone and reshape (#1376)

* Avoid redundant clone and reshape

* Removed some constructors

* Fixed output precision

setupvars.sh: Updated logic for detecting INSTALLDIR - using relative path every time instead of checking <INSTALLDIR> or INTEL_OPENVINO_DIR (#1536)

NodeVector -> OutputVector replacement (#1272)

MO clean from IR v7 and other legacy code (#1521)

* Remove unnnecessary ir_version checks in the MO

* Cleaned up 'backend_attrs_v2' function

* Small clean up from the 'TFCustomSubgraphCall'

* Clean up the MO extractor attributes mapping

* Renamed PreluOp to PReLU

Refactor tests to use TestCase class (#1517)

[IE CLDNN] Changed weights layout for 1d scaleshift (#1483)

Fix node name tests (#1507)

Updated MO requirements files (#1511)

* Updated MO requirements files

* Updated requirements in the CI config to run the pylint

[nGraph] Remove legacy Python API (1) (#1504)

[IE Myriad] Use instance of InferenceEngine::Core via ie::ICore interface in Myriad plugin (#1316)

* [ci-skip][IE Myriad] ie::ICore pointer passed into FrontEnd from plugin

* [ci-skip][IE Myriad] Added MockICore to fix graph transformer tests

* [ci-skip][IE Myriad] IN renamed to I_N to avoid compile error in Windows build: C2513: 'int': no variable declared before '='

ONNX Model runner (#1415)

Removed redundant methods from function and util (#1505)

Implemented inference in template plugin (#1308)

* Implemented inference in template plugin

* Fixed tests

* Removed thirdparty dependency

* Simplified executor configuration

* removed half

* Fixed cmake

* Fixed ngraph node check

* device blob allocation

* Fixed enum error

Treat 1d single-element tensors as scalars. (#1498)

InterpolateWithConcat pass fix (#1501)

* Fix InterpolateWithConcat pass

* Add test for None case

[IE][VPU]: Enable conv_3x3s1p1_vgg test for ma2085 (#1486)

Add atanh to onnx importer opset4 (#1425)

[IE] Add Blob::createROI method (#882)

* Add default implementation that throws exception.
* Implement `createROI` for `TBlob` and existing compound blobs.
* Use reference couting for TBlob memory buffer to prolong its life time for ROI blobs.
* Add private extension for ND ROI and use it as implementation detail for now:
  * Add `DimSlice` and `TensorSlice` structures for generic ND ROI support.
  * Add `make_roi_desc` function to create `TensorDesc` for ROI.

Removed IInferencePluginAPI interface (#1497)

* Removed legacy library includes from plugin api headers

* Removed IInferencePluginAPI interface; merged with IInferencePlugin

* Removed pluginAPIInterface usage in Core implementation

Remove old transformation passes (#1463)

Removed NgraphData (#1416)

Tests for keep_constant_inputs (#1366)

* First variant of tests for keep_constant_inputs

* Redone tests to check number of inputs

* Count inputs of layer via ngraph::Function

* Add additional transformations for CNNNetwork

* Modified work with CNNNetwork via iterators

* Add tests for FullyConnected Network

* Rename function for counting of inputs

* Debug output was deleted

* transformations_callback was removed

* Change ASSERT_GT on ASSERT_EQ

Removed v0 operations from AlgebraicSimplufication pass (#1481)

* Removed v0 operations from AlgebraicSimplufication pass

* Fixed tests

Fixed incorrect logic in detection of result shape for convolution (#1444)

* Fixed incorrect logic in detection of result shape for convolution

* Added test

nGraph Transformations refactoring (#931)

This PR introduces next changes:
1. Transformations *_tbl.hpp files were replaced with direct registration in cpp files.
2. Plugins use pass::Manager to call conversion passes.
3. Transformations callback was moved to PassBase class as there is no more need to keep it in separate class
4. All pattern based transformations must be inherited from MatcherPass class. GraphRewrite class will be used only for matchers registration and execution on function.
MatcherPass class adds new features to pattern-based transformations approach:
* Allows to run matcher pass on a single node.
* Operations that were created inside transformation callback can be added to execution list to be available for pattern matching within single GraphRewrite.
5. GraphRewrite MatchClosure was replaced with MatcherPass. So all matchers will be registered as a MatcherPass.
6. Added pass::Manager::clear_state() method to avoid dependency with nodes that no longer belongs to function after replacement.
7.  Some representative transformations were updated to use MatcherPass as an example.
8.  Mul->Add sequence fusion transformation was replaced with LinOpSequenceFusion.
9. Pattern and callback registration code was moved to class c-tors (will be finished for remaining passes in other PR) .
10. Updated pass::Manager to get pass names only when NGRAPH_PROFILE_PASS_ENABLE enabled.
11. Moving towards removing PassProperty.
12. Added ngraph::pattern::wrap_type<T>(inputs, pred) to simplify pattern creation.
13. GraphRewrite was updated to execute MatcherPass more efficient.

setupvars: Added post_training_optimization_toolkit to PYTHONPATH (#1492)

GitHub CI: Disable/remove set_pr_labels

Preprocessing(GAPI): Universal intrinsics (AVX512) implementation of linear Resize 8UC1 (#1132)

[IE CLDNN] Fixed gemm fusings with FP precision (#1490)

Adds first inference time measurements in benchmark_app (#1487)

Add support (limited, based on Interpolate-1) to Resize-11 ONNX op (#1364)

* Implementation of Resize-11

* Added support to sizes input

* Add tests to sizes input

* Added missing comment

* fixed tests

* fixed tests

* Fixed test. part 2.

* review remaks. part 1.

* review remarks. part 2.

Co-authored-by: Tomasz Socha <tomasz.socha@intel.com>
* Added more tests

Co-authored-by: Tomasz Socha <tomasz.socha@intel.com>

[IE CLDNN] Add b_fs_fsv16 concat optimizations (#1452)

1. Add fsv16 int8 support to optimized kernel
2. Optimize fsv16 concat kernel
3. Add graph optimization to improve concat alignment

Issue: CVS-28494

[IE NGRAPH] Remove default values in InterpolateAttr structure (#1484)

Add tests for ArgMin/ArgMax with float inputs (#1429)

Removed v0 CropAndResize and EmbeddingLoop operations (#1450)

[IE CLDNN] Improvements for SpaceToDepth (#1454)

[IE TESTS] Add Interpolate single layer test (#1456)

Removed BroadcastDistributed (#1430)

Specification for RNN/GRU sequences (#1426)

* Specification for RNN/GRU sequences

* update opset4 list

[IE CLDNN] fix warnings from gcc-9 compiler (#1431)

GitHub CI: set_pr_labels - runs every 4 hours

Fix the case with nodes containing ":" in names (#1089)

* Fix the case with nodes containing : in names

* Raise error in case of several possibilities

Add ONNX DequantizeLinear to MO (#1250)

* Add ONNX DequantizeLinear to MO

* Update docs

[IE TESTS] Add Minimum tests (#1470)

[DL Workbench] Move files to another guide (#1443)

* [DL Workbench] Moved files to another guide

* Fixed indentation

GitHub CI: Fix issues in check_pr.py

Add input transposing for MatMul (#1462)

Specify Range-4 operation (#1180)

GitHub CI: Change secret

GitHub CI: Add set_pr_labels (#1467)

* GitHub CI: Add set_pr_labels

* Change to run every 10 min

* Update names

Add acosh asinh atanh to opset3 ngraph (#1278)

* Add acosh, asinh and atanh to opset4

Add asinh to onnx importer opset4 (#1436)