[RUNTIME][RPC] Update RPC runtime to allow remote module as arg (#4462)

[RUNTIME] Add cudnn conv3d (#4418)

* [RUNTIME] Add cudnn conv3d

* add output checking to test_cudnn.verify()

* fix tests failure

* revised per as review comments

* unify conv_output_shape, conv_find_algo and conv_forward

* convert python list to tvm.array in conv_forward

* revise per as comments

* 'pass as reference' for vector args

* add back con2d/3d seperated implementation

* remove unused included header

* remove extra std::vectors

* remove unused header

[MEMORY] Fix gcc 4.8 compact (#4461)

Fix the Makefile for howto_deploy (#4457)

Fix MSVC build error with container.h (#4455)

[TOPI][Relay][OP] Add a strided_set operation. (#4303)

[Relay] shape func for zeros, zeros_like, ones, ones_like (#4448)

[DOCS] add benchmark log format doc (#4366)

* add benchmark log format doc

* code review changes

* remove runtime_config, add md5 field

* schema edits

[µTVM] Enable AutoTVM for ARM STM32F746XX Boards (#4274)

a tiny typo (#4452)

[TFLite] Add transpose_conv to TFLite parser (#4440)

[Runtime] Make ADTObject POD container type (#4346)

[Relay][Pass] Fix lambda lift pass for recursive call (#4432)

* Fix lambda lift

* clean up

* lint

* fix

* remove unused import

[Relay][Frontend][TFlite] Add test for qnn_mul operator (#4395)

* Add a function to set the qnn output range wrt each elemwise operation.
* Add comments warning for nonsense clamped output in the tflite/tvm results comparison.

rpi4b target (#4445)

fix multiple transfer issue in loaduop (#4442)

[Doc] Fix broken link (#4438)

* [Doc] Fix broken link

* [Doc] Fix broken link

* [Doc] Fix broken link

[VTA] Enable streamlined GEMM execution (#4392)

* disable pipelined adder and enable streamlined gemm execution

* pipeline first layer of adder

* explain difference between pipeadder and adder

* add comment for explaining the hard-coded latency

add DeviceName to ROCm api (#4437)

[ARM CPU] Fix infer shape error of depthwise (#4384)

* [ARM CPU] Fix contrib_spatial_pack error

* PyLint error fix

* diable no-else-return as other files

* Change the test case split OC not be 1 to cover 5D weight layout

[VTA][HotFix] Relay->VTA quantization fix (#4433)

* relay -> vta fix

* setting optlevel to 3 for quantization to fold batchnorm

[RELEASE] Update copyright message, change notice, remove cma kernel module for now (#4431)

[DOCS] Update main website to tvm.apache.org (#4429)

* [DOCS] Update main website to tvm.apache.org

* Update jvm pom repo loc

* Change the org to asf

* Update ci addr to new one

Allow Array/Map store objects that are not NodeRef (#4430)

Tweak debugger result (#4426)

[AutoTVM] select model with the most tuned schedules (#4404)

* select model with the most tuned schedules

* change detect empty map method

* modify model description for load_reference_log

[SETUP] Add optional dependencies to extras_require (#4428)

[Fix][Relay] Remove schedule register for nonexisting log1p op (#4425)

removing nnvm dep from VTA sources (#4419)

add rocm codegen unittest for cross thread reduction (#4423)

[Perf] Enhance cudnn and cublas backend and enable TensorCore (#4353)

* add half and mix precision support to cublas backend

* add TensorCore support in CuDNN

* enhance CuDNN support

* address comments and fix lint

* fix

* add fp16 test

[RUNTIME] rename allocator.make -> allocator.make_object for term consistency (#4416)

Fix compilaton of bfloat16 on Windows (#4415)

[LICENSE] clarify the blockingqueue license, update version to 0.6.0 (#4414)

[License] move cma_api to 3rdparty. separate BSD 2-clause and 3-clause (#4410)

* [License] move cma_api to 3rdparty. separate BSD 2-clause and 3-clause

* add zlib license for blockingconcurrentqueue.h

[LINT] Remove unnecessary copyright message for files with ASF header (#4409)

* [LINT] Improve the check tool to handle ASF copyright message.

* [LINT] Remove unnecessary copyright message as per ASF requirement.

* Fix codegen hybrid

* [LINT] Broaden license checks to include html, xml

* [LINT] Fix rest of the files

* Fix notice

* [LINT] Improve check file type error message

[Release] resolve license issues (#4408)

[Relay][Legalize] Legalize conv2d_transpose for NHWC (#4399)

[RUNTIME] Move module export to the function level. (#4405)

[TVM][RUNTIME] A minimum example to generate external library wrappers for DSOModule (#4280)

[LICENSE] add 3rdparty licenses (#4402)

* [LICENSE] add 3rdparty licenses

* rename license files to .txt

Added tflite frontend support for quantized mean. (#4339)

[DOCS] Mention incubating in readme (#4401)

[Golang][Doc] improve the samples and doc (#4385)

* [Golang][Doc] improve the samples and doc

* [Golang][Doc] add asf header

* [Golang][Doc] Improve the end to end example

* [Golang][Doc] Improve the end to end example

update_document_after_repository_renamed (#4398)

Update Jenkinsfile for external runtime (#4396)

[Relay][VM] Clean up the VM and VM profiler code (#4391)

* [VM] add a few more API to vm

* [VM][Fix] fix vm convert args

* [VM] a few fixes

* rename fields

* update

* update vm profiler

* x

* add doc

* lint

* fix test

* address comments

[TOPI] Fix flaky testcase for floor div (#4382)

* [TOPI] Fix flaky testcase for floor div

* avoid check at 0.0

Add Logan to reviewer (#4390)

Update compile_engine.py (#4393)

[Relay][Frontend][TF] Fix slice when begin or size is not Const (#4372)

* fix slice bug when input is param

* use _infer_value rather than _infer_value_simulated

add GPU checking before compilation for rocm (#4394)

Previously, we would rely on the later phases to error out
(often for using too much shared memory). This enables the
checks on the IR that already exist for CUDA and OpenCL also
for ROCm.

[QNN] Lowering for Depthwise Convolution. (#4351)

[fix][pass] Save the function when it is used as a call arg (#4389)

[CI] Add more info, per exec ws isolation (#4388)

[ThreadPool] Solve thread transitions issue (#4344)

* [ThreadPool] Solve thread transitions issue

* Use pthread_atfork to avoid master thread affinity be derived by child.

* Code Format

* comment of exclude_worker0_

* set full cpu affinity

* Redundant blank line

* CPPLint

* CPPLint namespace

* CPPLint

* Fix the wrong logic of bind master thread.

Compare all outputs in TFLite test_forward_ssd_mobilenet_v1 (#4373)

[team] add Yizhi's pgp key (#4380)

fix build with llvm trunk (#4386)

[doc] fix typo, codege to codegen (#4383)

[CI] Avoid content-length request in test data download (#4375)

[nvcc] enable multiple arch in one fatbin (#4377)

[Relay][Quantize] Integrate data-aware calibration into quantization (#4295)

* [Relay][Quantize] Integrate data-aware calibration into quantization

* Update _calibrate.py

* trigger ci

* Address comments

* address comments

[PERF] Parallelize reduction for CPU (#4158)

* [PERF] parallel reduction in cpu

* fix

* x

* update

* lint

* fix

[tutorial][benchmark] nnvm -> relay (#4368)

* [tutorial] nnvm -> relay

* use relay workload

* delete movbilenetv2 option

Fix TFLite RESHAPE assert (#4320)

[Relay tests] AlterOpLayout - Temporary attr update (#4357)

add rule for clean (#4364)

* add rule for clean

* Update clean rule

Seems like lib/ directory is not made by the makefile
So don't delete directory, just the contents of it.

reminding message for TVM_REGISTER_NODE_TYPE (#4365)

fix Android and OpenCL docker install (#4363)

[SOURCE] Add ASF header to __init__.py files (#4359)

[Frontend]Add TensorFlow FloorMod (#4308)

* Add tf FloorMod

* Add floor_div/mod into topi and relay

* Add to rst

* Fix test

[Relay][Frontend][Tensorflow]Add conv2d_transpose (#4300)

* [Relay][Frontend][Tensorflow]Add conv2d_transpose

* add transformation from NHWC to NCHW to compatible with TVM conv2d_transpose implementation

* remove 'dilations' paramater to compitable with TF1.3

Send list as argument to schedule_conv2d (#4358)

When getting cuda schedule passing single tensor seem to work but after changing target to "llvm" causes assert.
Sending list on other hand makes both cuda and llvm targets happy.
See https://discuss.tvm.ai/t/solved-simple-example-error-attributeerror-tensorslice-object-has-no-attribute-op/2245/3

Fix docstring in topi.nn.fifo_buffer (#4349)

Retain qnn input kernel scales (#4292)

* Add qnn conv2d attributes for input_tensor_scale and
kernel_tensor_scale.

The lowering in the tflite frontend loses the input_tensor_scale
and the kernel_tensor_scale by multiplying it and putting it into
the Requantize operation. This means that any graph partitioning
passes or other passes that need to access this information no longer
have it available in the qnn dialect.

regards
Ramana

* Store input tensor scale and Weight tensor scale for Dense as well

As for conv2d, the tflite frontend drops the input tensor
scale and the weight tensor scale from the relay op. Store
it as separate fields in there.

* Fix unintentional tab

* Rename input_tensor_scale to input_scale and kernel_tensor_scale
to kernel_scale for conv2d.

* input_tensor_scale -> input_scale weight_tensor_scale->weight_scale

* Rework dense testcase

And use input_scale and kernel_scale

* Be consistent in use of input_scale and kernel_scale values

* Fixup qnn conv2d tests for input_scale and kernel_scale

* Make pydoc identical between conv2d and dense for weight_tensor

* Fix up conv2d parameters to be in the same order between C++ and python

* Fix ordering of parameters for dense.

* Add input_scale and output_scale to try and satisfy ci gods

* Delete input_scale and kernel_scale.

nn.conv2d does not contain input_scale and kernel_scale. We need
to delete it when lowering it to nn.conv2d.

* Add input_scale and kernel_scale for qnn.conv2d

[Debugger] Sorting op-time breakdown for quicker analysis. (#4352)

proper device query through rocm api (#4305)

fix install script (#4350)

AutoTVM: selecting tuning templates when extracting task (#4338)

* AutoTVM: selecting tuning templates when extracting task

Make the procedure of trying new templates easier.

Test: tests/python/relay/test_autotvm_task_extraction.py

* Use dict to match key for topi ops

* fix lint issue

* be more pythonic :)

Add workgroup size attribute to AMDGPU functions in codegen (#4342)

When we did not set the workgroup size, LLVM will use too many registers
for kernel launches with many threads. This resulted in "invalid ISA"
errors. Here we set the maximum workgroup size to the maximum threads
per block from the device API.

Of course, one might look into allowing configurations with fewer
threads at runtime to use more registers.

[FIX] Fix for a specific case when loop partitioning with indivisble (#4243)

factors and resulting nested loop is broken.
This is due to the fact that we are creating zero extent loops which
are fixed afterwards. However unroll pass breaks due to the zero extent
loop.

[Relay][VM][Interpreter] Enable first-class constructors in VM and interpreter via eta expansion (#4218)

* Fix constructor pretty printing

* Make Module::HasDef name consistent with API

* Add VM constructor compilation via eta expansion

* Lint

* Fix CI

* Fix failing test

* Address comment

* Retrigger CI

* Retrigger CI

[COMMUNITY] Add DISCLAIMER, KEYS for ASF release (#4345)

* [COMMUNITY] Add DISCLAIMER, KEYS for ASF release

* Add file name spec

Add check to ensure input file was successfully opened in NNVM deploy code demo (#4315)

Bump up CUDA log version in tophub.py (#4347)

[CodeGen] Add build config option disable_assert to control whether to generate assert (#4340)

fix inconsistent tag name (#4134)

[VTA] Bug fix for padded load with large inputs (#4293)

* bug fix for padded load with large inputs

* Update TensorLoad.scala

* Update test_vta_insn.py

imp module is deprecated (#4275)

[Relay][Frontend][ONNX] operator support: DepthToSpace, SpaceToDepth (#4271)

[Test][Relay][Pass] Add test case for lambda lift (#4317)

[RUNTIME] Add device query for AMD GcnArch (#4341)

* add gcnArch query

* kGcnArch query for cuda is a no-op

[Relay][Frontend][TF] Fix transpose when axes is not a param (#4327)

* [Relay][Frontend][TF] Use _infer_value_simulated when axes is not a const to Transpose

* uncomment tests

* dummy change to retrigger ci

[Contrib] Add MKL DNN option (#4323)

* [Contrib] Add MKL DNN

* update

* update

Deprecate NNVM warning msg (#4333)

Solve custom model of prelu (#4326)

Add topi.nn.fifo_buffer to TVM doc (#4343)

Add support for quant. mul operator in tflite frontend (#4283)

A test for qnn_mul has to be added when the qnn elemwise tests (#4282) get merged.

[Relay][Pass] Add pass to remove unused functions in relay module (#4334)

* [Relay][Pass] Add pass to remove unused functions in relay module

* Add tests

* Fix lint

* Fix visit order

* Add pass argument

* Fix