[Relay][Convert Layout] Handling batch norm layout change. (#4600)

[REFACTOR][RUNTIME] Update NDArray use the Unified Object System (#4581)

* [REFACTOR][RUNTIME] Move NDArray to Object System.

Previously NDArray has its own object reference counting mechanism.
This PR migrates NDArray to the unified object protocol.

The calling convention of NDArray remained intact.
That means NDArray still has its own type_code and
its handle is still DLTensor compatible.

In order to do so, this PR added a few minimum runtime type
detection in TVMArgValue and RetValue only when the corresponding
type is a base type(ObjectRef) that could also refer to NDArray.

This means that even if we return a base reference object ObjectRef
which refers to the NDArray. The type_code will still be translated
correctly as kNDArrayContainer.
If we assign a non-base type(say Expr) that we know is not compatible
with NDArray during compile time, no runtime type detection will be performed.

This PR also adopts the object protocol for NDArray sub-classing and
removed the legacy NDArray subclass protocol.
Examples in apps/extension are now updated to reflect that.

Making NDArray as an Object brings all the benefits of the object system.
For example, we can now use the Array container to store NDArrays.

* Address review comments

fix codegenc (#4597)

[Perf] Add CublasLt extern support for better Igemm performance (#4550)

* cublaslt added

* fix lint

* address comments

* address more comments

* Trigger CI

* Trigger CI

[GraphRuntime] Support parameter out in the graph runtime debug (#4598)

* [GraphRuntime] Support parameter out in the graph runtime debug

* Dummy commit to trigger build

[FRONTEND][TF] conv2d_transpose 'SAME' support kernel more than 1x1 (#4484)

* [FRONTEND][TF] conv3d_transpose 'SAME' support kernel more than 1x1

* revised per as review comments

* add more fallback wolkaround to make all tests pass

fix tf.compat.v1 issue for tf verison <=1.12 (#4593)

[autotvm] fix typos in comment (#4591)

[Runtime] add necessary const qualifier for NDArray container of parameters (#4590)

[TOPI] add 3D upsampling Op. (#4584)

* [TOPI] add 3D upsampling Op.

* fix lint issues

* change align_corners to coordinate_transformation_mode

* fix resize3d half_pixel

* make a simple function and clean up trilinear_resize3d_python

* fix doc

[Relay][AlterLayout] Broadcast with scalar shape (#4577)

[Relay] Convert Layout Pass. (#4335)

[FIX][TOPI][X86] schedule dense pack (#4539)

[TOPI][AutoTVM] NHWC conv2d templates for ARM (#3859)

* [AutoTVM][TOPI] NHWC conv2d templates (spatial pack) for ARM

As some frontends (tflite for example) are using NHWC as the default
layout, we are enabling NHWC schedule templates in TOPI and AutoTVM.

* some comments fix

[Container] Fix NDArray SaveDLTensor declaration and implementation signature different (#4586)

[Quantization, Calibrate] Fix context creation when current_target is explicity set (#4582)

[DOCS]fix typos in autotvm tutorial (#4585)

[NEWS] add v0.6 release (#4558)

* [NEWS] add v0.6 release

* remove link prefix

* fix issue number

Some Windows and MSVC fixes (#4569)

* fix python exception creation in Windows

* better string conversion for msvc

* fix cpp style issue

[RUNTIME] Remove Extension VTable in favor of Unified Object system. (#4578)

Before the unified object protocol, we support pass
additional extension objects around by declaring a type as an extension type.
The old extension mechanism requires the types to register their
constructor and deleter to a VTable and does not enjoy the benefit of the
self-contained deletion property of the new Object system.

This PR upgrades the extension example to make use of the new object system
and removed the old Extension VTable.

Note that the register_extension funtion in the python side continues to work
when the passed argument does not require explicit container copy/deletion,
which covers the current usecases of the extension mechanism.

[DEPRECATION] Cleanup legacy verilog support (#4576)

This PR cleans up the left over code for legacy verilog support which was experimental.
The new hardware backend path is now support by VTA via TSIM.

[DOC] fix doc in api.py (#4580)

[Relay/Topi][Op] Added native DepthToSpace and SpaceToDepth Operators (#4566)

* Added tvm function stencil for subpixel operations to topi.

* Topi subpixel operators added and tested.

* Added subpixel attrs.

* Added depth_to_space relay attributes.

* depth_to_space fully working.

* Fixed NHWC shape bug.

* SpaceToDepth in and all tests passing.

* lint fixes.

* Added string include

* Fixed topi formatting.

* Added DCR/CDR mode to depthtospace operator.

[DEPRECATION] Remove NNVM compiler (#4571)

* Remove NNVM compiler

Fix llvm-enabled build by adding missing intrinsics headers (#4575)

remove unnecessary cast to int32 (#4573)

[VTA][Chisel] End-to-end Inference with Chisel VTA (#4574)

* [VTA][Chisel] End-to-end Inference with Chisel VTA

* Update TensorAlu.scala

Remove nnvm (#4565)

[Relay] add max_pool3d in relay and TF converter (#4551)

* [Relay] add max_pool3d in relay and TF converter

* fix comments

[TEST] Remove nnvm related code in topi and test script (#4562)

* [TEST] Remove nnvm related code in topi and test script

* Remove docs dep

[Relay][Frontend][ONNX] Support auto_pad in Conv and ConvTranspose (#4563)

Support standardize runtime module (#4532)

[REFACTOR][DTYPE] Isolate dtype to runtime (#4560)

dtype.h -> runtime/data_type.h

Changes:
- Rename all old reference of tvm::Type to DataType
- ExprNode.type -> ExprNode.dtype
- Expr.type() -> Expr.dtype()
- Change Expr related functions to expr_operator.
  - DataType::min() -> min_value(DataType)
  - DataType::max() -> max_value(DataType)
- Move type constructor Int, UInt, Float, Handle, Bool into DataType.
  - Int(bits) -> DataType::Int(bits)
  - UInt(bits) -> DataType::UInt(bits)

[RUNTIME][VULKAN] Fix compiler warning (#4559)

[IR] fix style in ir_mutator and ir_visitor (#4561)

[VTA] improved virtual memory mapping (#4545)

* [VTA] improved virtual memory mapping

* Update virtual_memory.cc

[COMMUNITY] @cchung100m -> reviewer (#4557)

vm external codegen (#4544)

[PYTHON][FFI] Cythonize NDArray.copyto (#4549)

* [PYTHON][FFI] Cythonize NDArray.copyto

* Cythonize the shape property

[DOCS] Mention Ninja build system in install/from_source.rst (#4554)

* [DOCS] Mention Ninja build system in install/from_source.rst

* Address comments

[TOPI] Fixed nms max_output_size loop (#4541)

One of the loops in hybrid_nms used for
performing the max_output_size reordering
was incorrectly designated as parallel
resulting in incorrect behaviour. This patch
changes that loop to a serial loop.

Change-Id: I97184f5887f5f028d8ab339fa2808eb7630a4017

[TOPI] Allow batch matmul to be fused into injective ops (#4537)

[relay][op] add expand op (from ONNX) to relay frontend (#4483)

* Add Expand to onnx.py

* add test function for expand

* Fix a onnx frontend test

* Add tests for the value itself instead of shape only on test_expand

* Cleaned up some unnecessary modifications.

Implement 1d deconvolution (#4476)

Update legacy places from nnvm to relay. (#4535)

* Update legacy places from nnvm to relay.

This PR prepares the current mainline to remove nnvm compiler dep.

* remove legacy stage

[Relay] External codegen (#4482)

PIL is depreciated and should be replaced with pillow (a fork of PIL) (#4533)

Change-Id: If2075df5475505f2da87dae7145af5a7ab83d8a4

fix crash issue in tsim backend (#4527)

fix onnx shape dtype (#4528)

fix empty config caused KeyError (#4520)

add bfloat16 typeflag support (#4525)

[ir] use DataType instead of Type for readability because Type has been deprecated (#4513)

Use the best tuner possible (#4397)

* Use the best tuner possible

* Add comment denoting availability of better tuners

* Fix typos and wording

Fixed extra reshape parameter bug. (#4524)

[Bugfix][Frontend][TFlite] Fix wrong function call in TANH tests (#4517)

* Replace sigmoid() with tanh() in tests for TANH

Fix bias_add gradient (#4516)

* Fix bias_add gradient

A change caused collapse_sum_like to reject implicit dimension
broadcasting for bias_add gradient, so switch to explicit sum reduction
on the non-bias axis dimensions.

* Lint fix

Fix TF resize for dynamic size models (#4510)

[CI] Update docker image ci_lint to obtain Python 3.6 from ppa:deadsnakes/ppa (#4505) (#4506)

[Quantization] Fix annotation for multiply op (#4458)

* fix mul rewrite

* register Realize Rewrite for global avg pool and add test

* remove unnecessary check

* improve the test case

[Hybrid][Fix] Fix hybrid script to support array of tensors (#4494)

* [Fix][Hybrid] Fix hybrid script to support array of tensors

* add test case

* clean up

* trigger ci

Fix build for llvm newer than 9.0 (#4515)

[TOPI] implement pool3d op (#4478)

* [TOPI] implement pool3d op

* use PoolInferCorrectLayout for both 2d and 3d pooling

* unify MakeMaxPool and MakeAvgPool

[NODE][Serialization]fix serialization precision loss in float (#4503)

* fix serialization precision loss in float

When we want to serialize a tvm.tensor object(like pickle)， we will get a precision loss cause by std::to_string()。
For example, a2.value will be 0.0 while a.value=0.00000001 in the following:
    import tvm
    import pickle
    a = tvm.const(0.00000001, 'float32')
    a2 = pickle.loads(pickle.dumps(a))

* remove line end spaces

add rocm schedules to topi C++ (#4507)

This imports the CUDA schedules to rocm.

Add AMD codeGen unit tests (#4509)

Refactor bilinear and neighbour implementation in Tensorflow frontend (#4504)

There is significant duplication between functions.

Spotted while looking to move the tensorflow and tflite framework support to later than
1.13.1. The tests barf around resize_nearest_neighbour not ignoring the attribute
'helpful_pixel_centers'.

That upgrade is a separate discussion while this can go in
independently.

Thanks,
Ramana

[codegen][Build] it's more readable to move the if condition out of the loop (#4501)

[RUNTIME] Fix compile errors of OpenCL FPGA backend (#4492)

update rocm intrin rule (#4499)

[VTA] Speedup TSIM by Multi-threading (#4491)

This PR tries to increase TSIM performance by introducing multi-threading support.

Add __float2half_rn for cuda compute capabilities less than 53 (#4489)

* Fix

* clean up

[Relay][Fix] Fix alter op layout when calling a global var (#4454)

* [Relay][Fix] Fix alter op layout when calling a global var

* add test case

[Team] Jared Roesch -> PPMC (#4488)

[docs] typos in include/tvm/ir.h (#4493)

[REFACTOR][RUNTIME] Add LibraryModule that merges systemlib and dso. (#4481)

Historically we have two variations of modules(DSOModule and SystemLibModule)
that both exposes module via symbols.

This PR creates a common implementation for both, and introduce a Library
base class that allows us to have different implementations of GetSymbol.

It paves ways for future library related module enhancements.

[Relay][Frontend][TFlite] Add parses support for UNPACK tflite operator (#4447)

* use SPLIT & SQUEEZE = UNPACK as implemented in tensorflow parser
  Relay doesn't support UNPACK
* tflite 1.13: UNPACK doesn't work as exepcted -> copies the values from
  1st unpacked tensor to the other unpacks
* tflite 1.13: doesn't accept negative axis

[VTA] Bringing group convolution support  (#4421)

* group conv operator support for VTA

* autotvm tuning script for group conv2d

* lint fix

* lint fix

* lint fix

* addressing comments

Check function attr for alpha equal (#4479)

[Codegen] fix bug on LLVM 10.0 (#4480)

Workaround to make conv2d_transpose compilation for CUDA work (#4472)

Fix typo in travserse (#4469)

[relay][op] Add shape func to tile (#4441)

* [relay][op] Add shape func to tile

* retrigger ci

* check dynamic axes

* retrigger ci

[BUGFIX] Fix search path for libtvm_topi.so (#4467)

[CONTRIB] TFLite Runtime (#4439)

lldb pretty printers for relay (#4453)

* lldb pretty printers for relay

A set of lldb debugger pretty printers that use the relay
PrettyPrinter functionality to display data structures in
the lldb debugger.

* lldb pretty printers for relay

A set of lldb debugger pretty printers that use the relay
PrettyPrinter functionality to display data structures in
the lldb debugger.
- Put the dot.lldbinit file in your home directory as .lldbinit.
- Update the file to point to the pretty printer script tvm.py
- Restart lldb

[doc] fix typo (#4463)

implement conv3d op (#4400)

* implement conv3d op

* add back missed conv2d_output_shape by mistake

* fix typo and docs, add topi test

* rebase to master and merge 2d/3d unification

* use cudnn.conv_forward

[RUNTIME][RPC] Update RPC runtime to allow remote module as arg (#4462)

[RUNTIME] Add cudnn conv3d (#4418)

* [RUNTIME] Add cudnn conv3d

* add output checking to test_cudnn.verify()

* fix tests failure

* revised per as review comments

* unify conv_output_shape, conv_find_algo and conv_forward

* convert python list to tvm.array in conv_forward

* revise per as comments

* 'pass as reference' for vector args

* add back con2d/3d seperated implementation

* remove unused included header

* remove extra std::vectors

* remove unused header

[MEMORY] Fix gcc 4.8 compact (#4461)

Fix the Makefile for howto_deploy (#4457)

Fix MSVC build error with container.h (#4455)

[TOPI][Relay][OP] Add a strided_set operation. (#4303)

[Relay] shape func for zeros, zeros_like, ones, ones_like (#4448)

[DOCS] add benchmark log format doc (#4366)

* add benchmark log format doc

* code review changes

* remove runtime_config, add md5 field

* schema edits

[µTVM] Enable AutoTVM for ARM STM32F746XX Boards (#4274)

a tiny typo (#4452)

[TFLite] Add transpose_conv to TFLite parser (#4440)

[Runtime] Make ADTObject POD container type (#4346)

[Relay][Pass] Fix lambda lift pass for recursive call (#4432)

* Fix lambda lift

* clean up

* lint

* fix

* remove unused import