[Lang] Layout in TVM node system (#2509)

* move layout.h & layout.cc from relay to tvm

* change ConvertLayout in relay to bijectiveLayout->Forward/backward

* add first test case

* add LayoutAxis

* add LayoutAxis struct and compiles

* simplify BijectiveLayout rule consturct

* polish func name for Layout, move impl to .cc, remove Layout::defined(), add defined() checker

* partially add layout py support

* add layout test cases

* add doc for tvm.layout & tvm.bijective_layout

* fix lint

* fix lint

* fix layout name generation bug

* fix layout typo

* address comments and add topi.layout_transform

* layout.h->data_layout.h, test_lang_layout.py->test_lang_data_layout.py

[AUTOTVM] tweak `sample_int` implementation (#2677)

* check in

* lint

* cleanup

* Update util.py

[RELAY] Fix get_int_tuple for shape like '(1001,)' (#2691)

tshape.strip('()[]').split(',') will make a list ['1001',''] but the empty one isn't needed.

[CODEGEN LLVM GPU] Initialize llvm before lookup for the target (#2683)

Handle Select in IntSetEvaluator (#2687)

[RUST] Fix typo (#2681)

Stop pylint complaining about unnecessary return statement. (#2684)

Recent pylint introduced support for the useless-return diagnostic.
This patch remove the useless returns.

Support mean in NNVM to Relay converter. (#2680)

[DOC] CoreML frontend tutorial (#2667)

* [DOC] CoreML frontend tutorial

* Update tutorials/frontend/from_coreml.py

Co-Authored-By: kazum <morita.kazutaka@lab.ntt.co.jp>
* Update tutorials/frontend/from_coreml.py

Co-Authored-By: kazum <morita.kazutaka@lab.ntt.co.jp>
* Addressed comments and added the original author

[PYLINT] Disable consider-using-get (#2654)

add converter for MXNet slice in nnvm and relay (#2662)

[Relay] Port param dict save/load from NNVM (#2620)

[Relay] add more descriptive error for checked_type (#2652)

[Relay] Ensure nested higher-order functions are treated correctly (#2676)

yolo reorg op for relay (#1941)

REGION op removed from topi and added in darkent frontend (#2275)

[Graph Runtime] Run_individual for benchmarking individual layers (#2569)

[AUTOTVM][Bugfix] Fix history loader for heterogeneous execution

Add CONCATENATION to tflite frontend, support Inception V3 (#2643)

* Add CONCATENATION to tflite frontend

* fix typo

* Fix codestyle

* Fix code style

* simplify convert map

* Update

[Relay] fix error in ANF (too agressively inline atomic expression and create free variable). (#2665)

fix (#2674)

[Hybrid Script] Add `max_num_threads` (#2672)

* i think it works for now?

* fix lint

* fix 2/3 compat

* fix py2 again

* fine, i gave up

[BUILD] Simplify after bind device type (#2670)

[Relay] add more function to prelude (#2660)

Fix -Wreturn-std-move and -Wself-assign-overloaded (#2669)

[Relay/TOPI][OP] Add arange op in Relay and TOPI (#2621)

* Add arange op

* Update docs

* Fix bug

* add sanity check in relay and mxnet frontend mapping

* lint

* nits

* pylint

* don't allow empty output from arange

* Remove empty test for arange

* Fix bug and update doc

add committer (#2661)

[Relay] GNF (#2492)

Update community.rst

[RELAY/OP] Gradient of relay level1 ops (#2633)

fix lint (#2649)

[Relay] fix anf for reference and pattern matching (#2637)

[RELAY][PASS]use attribute registration style in the mac count pass (#2645)

Explicitly disable pylint warning subprocess-popen-preexec-fn (#2656)

Stop pylint complaining about useless import alias. (#2655)

Recent pylint warngs about import renames with no effect.  Remove
them.

[Quantization][RELAY] Add check against NCHWc ops in the quantization pass (#2646)

* check in

* fix typo

* fix typo

* change message

* change message

* typo

* lint

add MXNet converter for where operator for both NNVM and Relay (#2647)

Fix pylint 2.2.2 gripes. (#2642)

[RUNTIME][NDArray] Allowing External Libraries to Subclass NDArrays (#2613)

Fix fusion bug when call symbol that is not an operator. (#2630)

[Tutorial][Frontend] move from_keras tutorial to frontend (#2479)

* [Tutorial][Frontend] move from_keras tutorial to frontend

* remove tutorial/nnvm/from_keras.py

Add test case for expr_functor.py (#2632)

check in (#2627)

[RELAY][PASS] add a relay pass to count #macs of a model (#2609)

* add a relay pass to count #macs of a model

* remove unnecessary includes

* fix end-of-file issues

* address review comments

* remove test resnet

* address more review comments

* use data layout string to locate the input channel

* fix bug in conv 2d output tensor checking

* C must exist

[autotvm] fix #2617 (#2619)

[Bugfix] Missing #include <sstream> (#2629)

Thanks @hlu1 and @tqchen, this is now merged.

Update task_python_vta.sh

[Relay]fix heterogenous annotation bug (#2622)

[RELAY] Stop_fusion annotation (#2624)

[RELAY][OP] ROI Align (#2618)

remove batch_norm_inference (#2626)

[TVM][LANG] Add eager simplification for operations with FloatImm (#2615)

* Add eager simplication for FloatImm

* fix

* fix lint

* Fix gcc warning

* fix

* Add test case

[EXPR] Expression-template based pattern matching. (#2589)

Fix issue mutating if expressions (#2601)

[Relay][Docs] Documentation for Algebraic Data Types (#2575)

Fix the FInplaceIdentity (#2572)

[Bugfix] Nms_ir data_race solved (#2600)

* nms data race solved

* tst_topi_vision reference results are gonna be updated in PR #2353

* proposal nms_ir updated

[RELAY][TOPI] `alter_op_layout` for x86 (#2602)

* alter_op_layout for x86

* cleanup

* cleanup

* fix lint

* fix lint

* fix lint

* fix lint

* change support level

* change other support levels

[RELAY][DOCS] Port from_mxnet tutorial to relay (#2608)

* check in

* update build and run

[Quantize] Skip for same input-output domain scale. (#2611)

[Relay] Algebraic data types (#2442)

* First pass on ADTs

* Add doc string for tag field

* Visit constructors in TypeVisitor for TypeData

* Add to description of type call

* Add type call to type solving and unification

* Make type mutator for typecall consistent with others (only create new node if there's a change)

* Ensure kindchecking can handle type calls and typedata

* Fix bad nesting in module constructor

* Correctly construct call in typecall test

* Add call override for ordinary vars (do we want this?)

* Remove generalization hack from type inference because it was breaking ADT constructors

* Check that there are no free type vars in exprs after inferring type

* Free var checks need module because of ADT constructors

* Typecall test can't have unbound type var, make it global

* Uncomment tmap test and remove comments about failing to infer ret type; those work now

* Put in dummy visits for ADTs in graph runtime codegen to placate pylint

* Fix Relay type infer test module constructor

* Mark override for TypeCallNode in type solver

* Ensure free vars check treats patern vars as bound

* Run interpreter in more ADT test cases

* Refactor kind check to return the kind, like typechecking

* Fix invalid typecall in test

* Add kind check to type inference, do not use nulls in func_type_annotation()!

* Redundant whitespace

* Make TypeData a separate kind

* Make ADT handles a separate kind too, document calling convention better

* Remove nats and tree from prelude, move to test, document prelude

* Restore and document nat and tree to prelude, add more tree tests

* Add alpha equality tests for match cases, fix variable binding bug

* Add more kind check tests for ADTs

* Add more tests for finding free or bound vars in match exprs

* Add unification tests for type call

* Update main() for alpha equality tests

* Add simple type inference test cases for match exprs and ADT constructors

* Add more ADT interpreter tests

* Allow incomplete types when typechecking match cases

* Type inference for pattern vars should use the type annotation if it's there

* Two more specific test cases for ADT matching

* Add option ADT to prelude

* Fix broken reference to kind enum

* Fix rebase snags

* Do not attach checked types to constructors

* More docstrings for module fields

* Use proper wrapper for indexing into module type data

* checked_type for constructors is not populated

* Expand type call docstring

* Rename PatternConstructor con field

* Use error reporter for pattern constructor case

* Condense error reporting in kind check, use error reporter

* Expand docstrings and rename ADT fields

* Rename 'option' ADT to 'optional' for consistency with Python

* Add various list iterators and utility functions to prelude

* Add smoke tests for new iterators in prelude

* Add concat to prelude

* Add smoke test for concat

* Correct docstrings in prelude

* Ensure that type defs are written in module initialization

* Various requested renamings

* Correct rebase snags

* Add kind check tests for ref types

* Update the main() for kind checking tests

fix get layout in to_relay (#2610)

Version 0.5 (#2604)

* Version 0.5

* update version.py

* update news

* update news

* update news

[Relay] Reference (#2489)

* move

fix test

fix lint

fix test

add more code

fix lint

better type infer ability

* fix build

* address comment

[DOCS] update titles to reflect tutorial content (nnvm vs. relay) (#2597)

* update titles to reflect tutorial content (nnvm vs. relay)

* move things around

* fix typo

[TVM][Bugfix] fix storage_rewrite bug when input is big (#2580)

* fix storage_rewrite bug when input is big

* cast when necessary

* simplification

* simplification

* int64->uint32

* revert uint32->int64

[TOPI][CUDA] Add faster-rcnn proposal op (#2420)

* [TOPI][CUDA] Add faster-rcnn proposal op

* Fix doc

* Add global barrier

* Use vthread in argsort

* Update sort and nms ir

* Fix lint

* Update sort ir in ssd nms

[RUNTIME] Enable NDArray type extension (#2598)

[Hybrid script] Backend support (#2477)

* a preliminary version is done?

* we no longer need the redundant hybrid/api.py

* support assert stmt

* cast supported

* intrin -> runtime; util is mainly in charge of compilation time

* assert statement

* fix python lint

* fix cpp lint

* on the way to module

* rollback .cc

* fix typo, no direct expose then

* @vinx13 ceil is added i guess?

* wip...

* temp commit

* fix import

* i preliminary version is done?

* on the way to build hybrid module

* nearly fixed...

* dumped python are equiv as original python

* on the way to bootstrap

* cpu bootstrap done

* bootstrap!

* fix lint

* fix doc

* resolve some review concerns

* support load/save

* fix lint

* thanks to xqdan fixed my typo

* fix build, make dump non-optional

* add vthread

* jesus why i added this

[TEST] Remove script that references previously removed content. (#2596)

[AUTOTVM][RELAY][DOCS] relay ports of `tune_nnvm_*` autotvm tutorials (#2594)

Fix typo (#2595)

thanks @icemelon9, this is merged

Tighten buffer bound for TensorComputeOp by improving EvalSet on ranges (#2565)

A couple of fixes for GEN (#2593)

[TUTORIAL] Fix downloaded file path (#2590)

[IR] Update HalideIR (#2582)

Conda packages with cuda support (#2577)

[Team] @merrymercy -> PMC (#2578)

Get tags of saved model automatically

Remove exception trail in tf parser error message

Fix lint

Fix comments

Support TensorFlow saved model

TF parser: return the consistent error message to error handler

Add tf parser wrapper, infer shape automatically

Optimize move semantics of NodeEntry reducing copies of shared_ptr which causes atomic contention (#2576)

Update plan_memory.cc (#2574)

[BUGFIX] Fix for quantize. (#2573)

 [TVM][BUGFIX] Fix missing reduction init predicates (#2495)

* [TVM][BUGFIX] Fix reductions in split axes

* A test case for the problem

* Fix the fix: skip loops that are related to reduction AND are unrelated to axis

[Golang] bugfix #2517 (#2558)

[Python dep] Add missing dep pkg for relay (#2568)

[RELAY][FRONTEND] Tensorflow frontend. (#2216)

* [RELAY][FRONTEND] Tensorflow frontend support.

*  * LSTM removed for a while.

*  * basic ops are good.

*  * nn wip

*  * wip

*  * python2.7 corrections.

* * NN ops are good.

* * e2e models working good

*  * all good except LSTM

*  * rebase, tutorials and CI trigger.

*  * CI errors.

*  * enable opt_level=3

*  * Docstrings cleanup. testing.tf utils moved to relay from nnvm.

*  * tutorials update.

*  * LSTM work good now.

*  * Rebase

*  * CI error

*  * enable PTB.

*  * rebase.

*  * tutorials

* Update python/tvm/relay/frontend/tensorflow.py

Co-Authored-By: srkreddy1238 <sivar.b@huawei.com>
*  * review comments.

*  CI fix.

*  * review comments.

[Relay][OP] Add reverse_reshape (#2503)

* Enable reverse in reshape

* Fix lint and typo

* Put reverse_reshape into a separate op

* Fix pylint

Misc refactor on graph runtime, layout node (#2557)

Remove duplicate as Checks and CHECK value (#2531)

[VERSION] Move version script to the project root (#2556)

print ast w/o metadata (#2533)

[RELAY] TextPrinter: Use Map Format (#2553)

[RUST][FRONTEND] Add rust frontend v0.1 (#2292)

[CI] Update rust format version (#2550)

[Relay][Frontend] Caffe2 Support (#2507)

* [Relay][Frontend] Add Caffe2 Support

* [Relay][Frontend] Add Caffe2 Support (fix unsed import)

* [Relay][Frontend] Add Caffe2 Support (fix caffe2 model import)

* [Relay][Frontend] Add Caffe2 Support (fix model install and reflect code reviews)

* [Relay][Frontend] Add Caffe2 Support (fix caffe2 model import)

* [Relay][Frontend] Add Caffe2 Support (fix caffe2 model import)

* [Relay][Frontend] Add Caffe2 Support (fix caffe2 model import)

* [Relay][Frontend] Add Caffe2 Support (fix caffe2 frontend import)

* [Relay][Frontend] Add Caffe2 Support (rename function name in test_forward)

* [Relay][Frontend] Add Caffe2 Support (fix caffe2 model import)

* [Relay][Frontend] Add Caffe2 Support (fix caffe2 model import)

* [Doc] Caffe2 frontend tutorial

* [Doc] Caffe2 frontend tutorial

* [Doc] Caffe2 frontend tutorial

* [Relay][Frontend] Add Caffe2 Support (remove unsed file)

[CI] Enable ANTLR in CPU env (#2548)

[COMMUNITY] @FrozenGene -> Reviewer (#2544)

* [COMMUNITY] @FrozenGene -> Reviewer

* Fix

[DOCS][RELAY] Sync up ops with code base (#2532)