[Relay] External codegen (#4482)

PIL is depreciated and should be replaced with pillow (a fork of PIL) (#4533)

Change-Id: If2075df5475505f2da87dae7145af5a7ab83d8a4

fix crash issue in tsim backend (#4527)

fix onnx shape dtype (#4528)

fix empty config caused KeyError (#4520)

add bfloat16 typeflag support (#4525)

[ir] use DataType instead of Type for readability because Type has been deprecated (#4513)

Use the best tuner possible (#4397)

* Use the best tuner possible

* Add comment denoting availability of better tuners

* Fix typos and wording

Fixed extra reshape parameter bug. (#4524)

[Bugfix][Frontend][TFlite] Fix wrong function call in TANH tests (#4517)

* Replace sigmoid() with tanh() in tests for TANH

Fix bias_add gradient (#4516)

* Fix bias_add gradient

A change caused collapse_sum_like to reject implicit dimension
broadcasting for bias_add gradient, so switch to explicit sum reduction
on the non-bias axis dimensions.

* Lint fix

Fix TF resize for dynamic size models (#4510)

[CI] Update docker image ci_lint to obtain Python 3.6 from ppa:deadsnakes/ppa (#4505) (#4506)

[Quantization] Fix annotation for multiply op (#4458)

* fix mul rewrite

* register Realize Rewrite for global avg pool and add test

* remove unnecessary check

* improve the test case

[Hybrid][Fix] Fix hybrid script to support array of tensors (#4494)

* [Fix][Hybrid] Fix hybrid script to support array of tensors

* add test case

* clean up

* trigger ci

Fix build for llvm newer than 9.0 (#4515)

[TOPI] implement pool3d op (#4478)

* [TOPI] implement pool3d op

* use PoolInferCorrectLayout for both 2d and 3d pooling

* unify MakeMaxPool and MakeAvgPool

[NODE][Serialization]fix serialization precision loss in float (#4503)

* fix serialization precision loss in float

When we want to serialize a tvm.tensor object(like pickle)， we will get a precision loss cause by std::to_string()。
For example, a2.value will be 0.0 while a.value=0.00000001 in the following:
    import tvm
    import pickle
    a = tvm.const(0.00000001, 'float32')
    a2 = pickle.loads(pickle.dumps(a))

* remove line end spaces

add rocm schedules to topi C++ (#4507)

This imports the CUDA schedules to rocm.

Add AMD codeGen unit tests (#4509)

Refactor bilinear and neighbour implementation in Tensorflow frontend (#4504)

There is significant duplication between functions.

Spotted while looking to move the tensorflow and tflite framework support to later than
1.13.1. The tests barf around resize_nearest_neighbour not ignoring the attribute
'helpful_pixel_centers'.

That upgrade is a separate discussion while this can go in
independently.

Thanks,
Ramana

[codegen][Build] it's more readable to move the if condition out of the loop (#4501)

[RUNTIME] Fix compile errors of OpenCL FPGA backend (#4492)

update rocm intrin rule (#4499)

[VTA] Speedup TSIM by Multi-threading (#4491)

This PR tries to increase TSIM performance by introducing multi-threading support.

Add __float2half_rn for cuda compute capabilities less than 53 (#4489)

* Fix

* clean up

[Relay][Fix] Fix alter op layout when calling a global var (#4454)

* [Relay][Fix] Fix alter op layout when calling a global var

* add test case

[Team] Jared Roesch -> PPMC (#4488)

[docs] typos in include/tvm/ir.h (#4493)

[REFACTOR][RUNTIME] Add LibraryModule that merges systemlib and dso. (#4481)

Historically we have two variations of modules(DSOModule and SystemLibModule)
that both exposes module via symbols.

This PR creates a common implementation for both, and introduce a Library
base class that allows us to have different implementations of GetSymbol.

It paves ways for future library related module enhancements.

[Relay][Frontend][TFlite] Add parses support for UNPACK tflite operator (#4447)

* use SPLIT & SQUEEZE = UNPACK as implemented in tensorflow parser
  Relay doesn't support UNPACK
* tflite 1.13: UNPACK doesn't work as exepcted -> copies the values from
  1st unpacked tensor to the other unpacks
* tflite 1.13: doesn't accept negative axis

[VTA] Bringing group convolution support  (#4421)

* group conv operator support for VTA

* autotvm tuning script for group conv2d

* lint fix

* lint fix

* lint fix

* addressing comments

Check function attr for alpha equal (#4479)

[Codegen] fix bug on LLVM 10.0 (#4480)

Workaround to make conv2d_transpose compilation for CUDA work (#4472)

Fix typo in travserse (#4469)

[relay][op] Add shape func to tile (#4441)

* [relay][op] Add shape func to tile

* retrigger ci

* check dynamic axes

* retrigger ci

[BUGFIX] Fix search path for libtvm_topi.so (#4467)

[CONTRIB] TFLite Runtime (#4439)

lldb pretty printers for relay (#4453)

* lldb pretty printers for relay

A set of lldb debugger pretty printers that use the relay
PrettyPrinter functionality to display data structures in
the lldb debugger.

* lldb pretty printers for relay

A set of lldb debugger pretty printers that use the relay
PrettyPrinter functionality to display data structures in
the lldb debugger.
- Put the dot.lldbinit file in your home directory as .lldbinit.
- Update the file to point to the pretty printer script tvm.py
- Restart lldb

[doc] fix typo (#4463)

implement conv3d op (#4400)

* implement conv3d op

* add back missed conv2d_output_shape by mistake

* fix typo and docs, add topi test

* rebase to master and merge 2d/3d unification

* use cudnn.conv_forward

[RUNTIME][RPC] Update RPC runtime to allow remote module as arg (#4462)

[RUNTIME] Add cudnn conv3d (#4418)

* [RUNTIME] Add cudnn conv3d

* add output checking to test_cudnn.verify()

* fix tests failure

* revised per as review comments

* unify conv_output_shape, conv_find_algo and conv_forward

* convert python list to tvm.array in conv_forward

* revise per as comments

* 'pass as reference' for vector args

* add back con2d/3d seperated implementation

* remove unused included header

* remove extra std::vectors

* remove unused header

[MEMORY] Fix gcc 4.8 compact (#4461)

Fix the Makefile for howto_deploy (#4457)

Fix MSVC build error with container.h (#4455)

[TOPI][Relay][OP] Add a strided_set operation. (#4303)

[Relay] shape func for zeros, zeros_like, ones, ones_like (#4448)

[DOCS] add benchmark log format doc (#4366)

* add benchmark log format doc

* code review changes

* remove runtime_config, add md5 field

* schema edits

[µTVM] Enable AutoTVM for ARM STM32F746XX Boards (#4274)

a tiny typo (#4452)

[TFLite] Add transpose_conv to TFLite parser (#4440)

[Runtime] Make ADTObject POD container type (#4346)

[Relay][Pass] Fix lambda lift pass for recursive call (#4432)

* Fix lambda lift

* clean up

* lint

* fix

* remove unused import

[Relay][Frontend][TFlite] Add test for qnn_mul operator (#4395)

* Add a function to set the qnn output range wrt each elemwise operation.
* Add comments warning for nonsense clamped output in the tflite/tvm results comparison.

rpi4b target (#4445)

fix multiple transfer issue in loaduop (#4442)

[Doc] Fix broken link (#4438)

* [Doc] Fix broken link

* [Doc] Fix broken link

* [Doc] Fix broken link

[VTA] Enable streamlined GEMM execution (#4392)

* disable pipelined adder and enable streamlined gemm execution

* pipeline first layer of adder

* explain difference between pipeadder and adder

* add comment for explaining the hard-coded latency

add DeviceName to ROCm api (#4437)

[ARM CPU] Fix infer shape error of depthwise (#4384)

* [ARM CPU] Fix contrib_spatial_pack error

* PyLint error fix

* diable no-else-return as other files

* Change the test case split OC not be 1 to cover 5D weight layout

[VTA][HotFix] Relay->VTA quantization fix (#4433)

* relay -> vta fix

* setting optlevel to 3 for quantization to fold batchnorm

[RELEASE] Update copyright message, change notice, remove cma kernel module for now (#4431)

[DOCS] Update main website to tvm.apache.org (#4429)

* [DOCS] Update main website to tvm.apache.org

* Update jvm pom repo loc

* Change the org to asf

* Update ci addr to new one

Allow Array/Map store objects that are not NodeRef (#4430)

Tweak debugger result (#4426)

[AutoTVM] select model with the most tuned schedules (#4404)

* select model with the most tuned schedules

* change detect empty map method

* modify model description for load_reference_log

[SETUP] Add optional dependencies to extras_require (#4428)

[Fix][Relay] Remove schedule register for nonexisting log1p op (#4425)

removing nnvm dep from VTA sources (#4419)

add rocm codegen unittest for cross thread reduction (#4423)

[Perf] Enhance cudnn and cublas backend and enable TensorCore (#4353)

* add half and mix precision support to cublas backend

* add TensorCore support in CuDNN

* enhance CuDNN support

* address comments and fix lint

* fix

* add fp16 test

[RUNTIME] rename allocator.make -> allocator.make_object for term consistency (#4416)

Fix compilaton of bfloat16 on Windows (#4415)

[LICENSE] clarify the blockingqueue license, update version to 0.6.0 (#4414)

[License] move cma_api to 3rdparty. separate BSD 2-clause and 3-clause (#4410)

* [License] move cma_api to 3rdparty. separate BSD 2-clause and 3-clause

* add zlib license for blockingconcurrentqueue.h

[LINT] Remove unnecessary copyright message for files with ASF header (#4409)

* [LINT] Improve the check tool to handle ASF copyright message.

* [LINT] Remove unnecessary copyright message as per ASF requirement.

* Fix codegen hybrid

* [LINT] Broaden license checks to include html, xml

* [LINT] Fix rest of the files

* Fix notice

* [LINT] Improve check file type error message

[Release] resolve license issues (#4408)

[Relay][Legalize] Legalize conv2d_transpose for NHWC (#4399)

[RUNTIME] Move module export to the function level. (#4405)

[TVM][RUNTIME] A minimum example to generate external library wrappers for DSOModule (#4280)

[LICENSE] add 3rdparty licenses (#4402)

* [LICENSE] add 3rdparty licenses

* rename license files to .txt

Added tflite frontend support for quantized mean. (#4339)

[DOCS] Mention incubating in readme (#4401)

[Golang][Doc] improve the samples and doc (#4385)

* [Golang][Doc] improve the samples and doc

* [Golang][Doc] add asf header

* [Golang][Doc] Improve the end to end example

* [Golang][Doc] Improve the end to end example

update_document_after_repository_renamed (#4398)

Update Jenkinsfile for external runtime (#4396)

[Relay][VM] Clean up the VM and VM profiler code (#4391)

* [VM] add a few more API to vm

* [VM][Fix] fix vm convert args

* [VM] a few fixes

* rename fields

* update

* update vm profiler

* x

* add doc

* lint

* fix test

* address comments

[TOPI] Fix flaky testcase for floor div (#4382)

* [TOPI] Fix flaky testcase for floor div

* avoid check at 0.0

Add Logan to reviewer (#4390)

Update compile_engine.py (#4393)

[Relay][Frontend][TF] Fix slice when begin or size is not Const (#4372)

* fix slice bug when input is param

* use _infer_value rather than _infer_value_simulated

add GPU checking before compilation for rocm (#4394)

Previously, we would rely on the later phases to error out
(often for using too much shared memory). This enables the
checks on the IR that already exist for CUDA and OpenCL also
for ROCm.

[QNN] Lowering for Depthwise Convolution. (#4351)

[fix][pass] Save the function when it is used as a call arg (#4389)

[CI] Add more info, per exec ws isolation (#4388)

[ThreadPool] Solve thread transitions issue (#4344)

* [ThreadPool] Solve thread transitions issue

* Use pthread_atfork to avoid master thread affinity be derived by child.

* Code Format

* comment of exclude_worker0_

* set full cpu affinity

* Redundant blank line

* CPPLint

* CPPLint namespace

* CPPLint

* Fix the wrong logic of bind master thread.

Compare all outputs in TFLite test_forward_ssd_mobilenet_v1 (#4373)

[team] add Yizhi's pgp key (#4380)