Modified samples to support ONNX models (#1680)

* Modified samples to support ONNX models

- Removed manual loading of IR .bin files (hello_classification, object_detection_sample_ssd)
- Corrected comments
- Added Note in README files

* Modified samples to support ONNX models

- Removed manual loading of IR .bin files (hello_classification, object_detection_sample_ssd)
- Corrected comments
- Added Note in README files

[SCRIPTS] install_NEO_OCL_driver.sh: Added verifying current driver version (#1951)

* install_NEO_OCL_driver.sh: Added verifying current driver version

* install_NEO_OCL_driver.sh: Updated removal oldest driver on Ubuntu. Updated logic on defining

* install_NEO_OCL_driver.sh: Fixed function name

Enable eager execution while TensorFlow 2 model is loaded (#1945)

Fixed threading configuration parameters (#1919)

* Fixed threading parameters

* Updated documentation

* Fix for macos

* Fix doc

[IE CLDNN] int8 output support in fsv16 dw conv (#1886)

Disable CanConvertFromAOTtoSueModel test (#1949)

Query network should return all supported layers (#1845)

* Query network should return all supported layers

* Added other plugins. Fixed hetero and multi

* IRv7 test use legacy impl

[IE TESTS] Add Reverse Seq single layer test (#1933)

* [IE TESTS] Add Reverse Seq single layer test

* Added spaces for better readability.

[IE CLDNN] Weights reorders optimization (#1542)

* [IE CLDNN] Fix incorrect (g)_is_os_(z)yx_isv16_osv16 layout name

* [IE CLDNN] Constant blobs copying improvements

* [IE CLDNN] Weights reorders optimization

[GNA] Aligning GNA2 and GNA Unit testing (#952)

Co-authored-by: kmagiers <kmagiers@intel.com>

Introduce Quantize-Dequantize to FakeQuantize transformation (#1849)

* Introduce Quantize-Dequantize to FakeQuantize transformation

* Revert changes in DequantizeLinear

* apply code format

* Changes after review:

- description for transformation
- remove NGRAPH_CHECK and move some checks from callback to predicates in pattern
- check if out_low/high are broadcastable for FQ's first input
- fix params to copy_runtime_info

* Add type_matches and type_matches_any predicates

* Use get_single_value

* Changes after review:

- add brief description of transformation
- use get_pattern_value_map instead of get_pattern_map
- change opset1 to opset4
- fix params to copy_runtime_info

* Check result of dynamic_pointer_cast

Fixed Precision Conversion for GenericIE operation type (#1917)

* Fixed Precision Conversion for GenericIE operation type

* changed logic for setting output type in GenericIE

[IE][VPU]: Fix NCE hang due to input dimensions exceed HW limitation (#1636)

* Fixed NCE hang due to input dimensions exceed HW limitation
* Added convolution test for big input dimensions

Signed-off-by: wenzengc <wenzeng.chen@intel.com>

Improvements for MKLDNN Input node execution (#1913)

Removed WA with adding fake output for VariadicSplit operation (#1938)

[ MO ] Fix for remove_op_node_with_data_node (#1934)

[GNA] Remove profiler (#1931)

SoftPlus operation implementation (#1365)

Common specific creator for ops to be converted to ie ops (#1928)

* Add common specific creator for ops to be converted to ie ops

* fix cpu func tests

* Add macro for specific creators

Fix output name collision for incorrect ONNX models (#1930)

Adjust tolerance values in ModelImportRunner to the ones onnxruntime … (#1894)

Fixed order of transformation to convert the TF OD API SSD models (#1887)

* Fixed order of transformation to convert the TF OD API SSD models

* Refactored the sub-graph modification for the TF OD API models related to Squeeze/Reshape after SSD heads

Added BatchNormInference tests (#1927)

Deprecated migration to Core guide (#1910)

[IE][VPU]: Update firmware (#1915)

* Firmware update contains changed conditions for removing inner dimension with length 1 in Permute kernel

[IE][VPU]: Fix KW issues on Linux (#1916)

* nullptr dereference fixed in Concat and Reduce stages in Graph Transformer
* missed parameters in asserts in StridedSlice stage was added

[LPT] BLOCKED layout ignoring (#1873)

* [LPT] BLOCKED layout ignoring

* [LPT] Permute transformation tests

* [LPT] Tests rework

[CPU] Added H-Swish activation (#1445)

Reference implementation for ScatterUpdate (#1678)

* Reference implementation for ScatterUpdate and use of it in evaluate.

* Review comments. Clarify comments.

* Update file directory.

* Replace scatter_update reference implementation in ngraph/core/reference/

* Remove template code from ScatterUpdate reference implementation

* Apply review requests

Co-authored-by: mitruska <katarzyna.mitrus@intel.com>

[LPT] GemmTransformation usage fix (#1899)

v0::Pad operator removal (#1912)

* v0::Pad operator removal

* Obsolete test removal

[GNA] Change GNA library version to 1047.1 (#1867)

Disable eager execution affecting TensorFlow 1 concept model handling (#1914)

Signed-off-by: Roman Kazantsev <roman.kazantsev@intel.com>

[IE CLDNN] Fix concat in place with conv interactions (#1714)

This change fixes concatenation in place optimization where it may
interact with convolution that uses physical padding.
One of such cases is where input to optimized concatenation is also
input to convolution, so it should have padding to enable optimized
implementation.
Previously for all concatenation inputs padding was overriden with only
concatenation axis being padded.
This change fixes this issue by propagating padding across inputs and
output.

Add reshaping of dynamic network in python tests (#1850)

[Python API] Deprecation of DataPtr.creator_layer and DataPtr.input_to properties (#1905)

Partial revert a commit with reference implementations of PriorBox(Clustered) ops (#1878)

* partial revert a commit with reference implementations of PriorBox(Clustered), disable references for this ops

* ngraph codestyle

* disable const folding unit tests for PriorBox(Clustered)

* fix arm build

* fix unit test

* Revert "fix unit test"

This reverts commit 1fe59e55d620c430e81c52edd3fc46f2b5b1a9b9.

[ MO ] Reinfer shape sub-graphs once (#1908)

* [ MO ] Reinfer shape sub-graphs once

* feedback

* feedback

Added test for Pad (#1902)

* Addded test for Pad

* Add builder

Fix Assign, Matmul ops for correct work with keep_shape_ops feature for Kaldi models (#1885)

* fix assign and matmul ops

* fix unit test

* static shapes by default for kaldi

[IE CLDNN] Enabled tensor pitches in topk kernel for 0 input (#1898)

[IE CLDNN] Forcing bfzyx format in MVN layer (#1903)

Reduce number of ops needed to create InstanceNorm (#1896)

* Reduce number of ops needed to create InstanceNorm

InstanceNorm in onnx importer creates the same subgraph for Mean twice - once for Variance and once for actual Mean.
This change makes InstanceNorm to use single Mean which is shared by numerator and Variance.

Also enables IE_CPU.onnx_model_instance_normalization test case

* Revert changes to .gitignore

[IE CLDNN] FP16 support for some quantized kernels (#1855)

Linux clang compilation error fix (#1891)

[ MO ] Change layout of Shape sub-graphs once (#1875)

* [ MO ] Change layout of Shape sub-graphs once

Accept empty initializers from ONNX models (#1776)

* Accept empty initializers from ONNX models

* Create dummy constants instead of null nodes

* Code formatting

* Test the empty initializers handling in onnx importer

[GNA] Additional checks (#1018)

Added detailed error messages for cases when network has dynamic shapes on the conversion moment (#1890)

Add method to classification_result for returning results (#1460)

Fix addOutput (#1888)

Azure CI: Enable all MklDnnFunctionalTests (#1881)

* Azure CI: Enable all MklDnnFunctionalTests

* Update azure-pipelines.yml

* Disable failed test on Mac: moke_MobileNet/ModelTransformationsTest.LPT/mobilenet_v2_tf_depthwise_batch1_inPluginDisabled_inTestDisabled_asymmetric*

Fixed error message for ONNX importer tests (#1880)

[JAVA] Changed blob costructor (using cArray) in samples (#1863)

Reuse make_executable_network in ImportNetwork (#1869)

* Reuse make_executable_network for ImportNetwork

* make_executable_network returns ExecutableNetwork cpp wrapper

Updating ADE version (#1877)

- Fix gcc 9 build warnings

[IE CLDNN] Add 3d spatials support to conv & pool imad kernels and unblock any in/out feature sizes (#1693)

ONNX ScatterND MO support (#1813)

* Added extractor for ONNX operation ScatterNDUpdate

* Updated list of supported operations for ONNX

[IE TESTS] Added single layer tests HSwish (#1861)

[IE][VPU]: Execution graph via ngraph for VPU plugin (#1572)

* Execution graph via ngraph for VPU plugin
* Enable ExecGraphTests
* Assert throw for multi device in tests
* Assert throw for gna device in tests

[ MO ] FloorDiv replacement (#1860)

* [ MO ] FloorDiv replacement

* BOM file

* Review comments

* FloorDiv in SupportedFrameworkList.md

Remove Structural Attributes from Proposal op. (#1853)

Deprecate nGraph v0 ops and builders (#1856)

* Deprecate nGraph v0 ops

* Fixed build

* Added deprecated defines to fix windows

[ MO ] KSO ON by default (#1730)

* [ MO ] KSO ON by default.
Introduce static_shape MO key, remove keep_shape_ops key usages

* keep_shape_ops -> static_shape

* static_shape = False by default

* Fix Proposal-4 shape infer

* style-apply

* Fix Layout Change for ShapeOf paths

Revert "[GNA] Remove old GNA1 from Cmake scripts (#1686)" (#1864)

This reverts commit ffe8599c309b32ef4bf6b6e73ea7a2edd2c048c0.

install_NEO_OCL_driver.sh: Added downloading driver functionality after removal NEO from the package (#1872)

Restore change of i64 parameters to i32 (#1866)

Change "run_op_node" helper to use Parameter instead of Constant (#1722)

* Replace Constant with Parameter in run_op_node.

* Pass inputs to function.

* Add func to get shape.

* Make constant if input is scalar.

* Add case for list.

* Fix test.

* Split tests for run_op_node and run_op_numeric_data.

* Split more tests.

* Split more and more tests.

* Mark tests with xfail.

* Mark more tests with xfail.

* Replace scalar with parameter.

* Code formatting.

* Set empty shape for scalar.

* Remove check for list.

Moved AlgebraicSimplification and NopElimination passes to IE (#1859)

* Moved AlgebraicSimplification and NopElimination passes to IE

* Fixed headerfiles

[IE CLDNN] Enable fsv16 format for all quantized models (#1791)

[NGRAPH] Fix system protoc version check in CMake (#1852)

Add `OUTPUT_STRIP_TRAILING_WHITESPACE` option to `execute_process` command.

Latest CMake (tested 3.18.1) doesn't strip new line from `protoc --version` call,
which leads to wrong `PROTOC_VERSION` variable and failure on git fetch step.

re-enable the myriadMultipleGraphsTests_nightly (#1836)

* re-enable the myriadMultipleGraphsTests_nightly

* refresh version of Myriad firmware

[GNA] add support for 4d eltwise (#1353)

* [GNA] add support for 4d eltwise

* cpplint fix

* refactor

* fix FP16 broadcast pass

* change anonymous function to InferenceEngine::details::product

* introduce anonymous function to the pass & add layer checks

* refactor tileBlob lambda

[IE CLDNN] Fix vector iterators incompatibility issue in prepare_primitive_fusing (#1842)

Fixed addOutput (#1844)

* Fixed addOutput

* Added tests; removed addOutput second call

[IE CLDNN] Mixed precision scale support (#1848)

Removed MO conversion of i64 inputs to i32 (#1835)

ExtractImagePatches MO implementation and nGraph transformation (#739)

[ MO ] Random Uniform Replacer (#1814)

LoadNetwork interface: executable network is returned as return value (#1840)

* LoadNetwork interface

* Added reference to SOPointer to returned ExecutablNetwork

* Fixed test

[LPT] Symmetric quantization support for efficientnet-b0 (#1773)

* [LPT] Symmetric quantization for efficientnet-b0

* [LPT] zero point calculation fix

Co-authored-by: Zinoviev, Vladimir <vladimir.zinoviev@intel.com>

[IE CLDNN] Use fsv4 instead of af32 layout for imad case (#1784)

Fixed path for pad reference impl (#1846)

[IE CLDNN] added fusing support for ref and b_fs_yx_fsv16 implementations (#1692)

Enable HSwish - ngraph op, fusion/decomposition and reference implementation (#1770)

* Add HSwish operator to nGraph

* Add HSwishFusion transformation

* Update check_constant function

* Add reference implementation for HSwish

* Enable reference implemenation in HSwish evaluate

* Add op_eval test

* HSwish fusion transformation test

* Add HSwishFusionWithoutRelu transformation

* Add more hswish fusion tests

* Register HSwishFusion pass in common_optimizations

* Update HSwish reference implementation

* Add HSwishFusion with Relu and Multiply

* Add HSwishDecomposition transformation pass

* Add HSwishDecomposition test

* Add HSwish op to ngraph python API

* Update HSwish fusion transformations

* Remove HSwishFusion from common optimizations

* Update hswish python API

* Add bf16 to evaluate hswish

* Update hswish python API

* Move hswish reference implementation

* UnaryElementwiseArithmetic inheritance

* Enable HSwish callback for clDNN

* Register HSwishDecomposition pass in ConvertOpSet1ToLegacy

* Enable HSwishFusion pass in common optimizations

* Use NGRAPH_RTTI_DECLARATION

* Moved python hswish test to the test_ops_unary

Add Range-4 support (#1552)

* Add Range-4 support

* Add type infer and IR Reader extender

* Implement ngraph Range-4

* Implement evaluate for Range-4

* Remove not needed types

* Resolve review feedback

* Add RTTI defines

Remove ngraph::Lambda class, replace TensorIterator body with ngraph::Function (#1830)

* remove Lambda class, replace TensorIterator body with ngraph::Function

* Fix passing parameters from parent graph to subgraph

Co-authored-by: mbencer <mateusz.bencer@intel.com>

Return serialization to IR v7 under conditional compilation (#1820)

Fixed set/get batch size logic for scalar inputs (#1837)

Optimize Concat operation (#1812)

* 1d case optimization

* code refactor

* concat optimization

* removed using template for concat

* unit tests to concat constant folding

* synchro with current master

Convert Pad to GroupConvolution transformation (#1826)

* Added ConvertPadToConvolution pass

* Removed NasNet transformation from MO

* Renamed Conv to GroupConv; Added tests

* Fixed typo; Added RTTI

Ngraph: hide itt.hpp to src (#1834)

* Use proper include for log.hpp

* Hide itt.hpp to src folder

* Removed CodeWriter

[GNA] Implement ImportNetwork from stream (#1743)

* add ImportNetwork from stream

* add test for importing network from stream

Merge changes from 2020.4.0.1 (#1809)

* [GNA] Propagate QoS timeout to the calling app (#1188)

* [GNA] Support timeout value set in Wait (#1499)

* [GNA] stored request id for completed sync infer request in order to get status later using wait() (#1458)

* stored request id for completed async infer request in order to get it's status later

* preserved status not started for multiple sequential calls to wait()

Co-authored-by: Denis Orlov <denis.orlov@intel.com>
* [GNA] Fix callbacks (#1607)

Co-authored-by: Eugene Smirnov <eugene.smirnov@intel.com>

Add arithmetic operators for bfloat16 (#1831)

Fix a specification for CTCLoss operation (#1786)

v1::Pad evaluator (#1771)

* v1::Pad reference implementation

* ut fix: pad_negative_exterior_1d

* ut fix: pad_negative_exterior_1d_check_limits & pad_edge_1d

* Code formatting

* ut fix: pad_edge_1d_top_neg & pad_edge_1d_top_neg_bigger_than_tensor

* More Pad UT fixes

* Pad UT fixes: REFLECT mode

* Fix all Pad UTs

* Switch Pad evaluation in INT backend

* Non-template solution to v1::Pad::evaluate

* Always create v1::Pad with 4 inputs

* VS compilation error fix

* Python test fix

* Remove the v0::Pad constant folding pass

* Some extra checks in v1::Pad evaluator

* Code formatting

* Remove an obsolete CF test

Add ONNX Round op (#1605)

[IE][VPU]: Reverts nGraph TI Unrolling for VPU (#1824)

[IE][VPU]: Fixed MX firmware memory type patching (#1825)

Fixing Myriad X firmware loader after RTEMS 5 related changes merged into MDK
* Fixed MX firmware memory type patching
* Update firmware
* disable myriadMultipleGraphsTests_nightly

Co-authored-by: Chekhonin Andrey <andrey.chekhonin@intel.com>