[mlir] support recursive types in type conversion infra
authorAlex Zinenko <zinenko@google.com>
Mon, 22 Nov 2021 12:19:36 +0000 (13:19 +0100)
committerAlex Zinenko <zinenko@google.com>
Mon, 22 Nov 2021 17:16:02 +0000 (18:16 +0100)
commit9c5982ef8e95a0b5acdbd0d2599fbd87526abe2e
tree2589737bcf890f7f7365b0f572d3d18e99361275
parent774f7832fb2539b20e5e93ae675a0b7428e4f2f2
[mlir] support recursive types in type conversion infra

MLIR supports recursive types but they could not be handled by the conversion
infrastructure directly as it would result in infinite recursion in
`convertType` for elemental types. Support this case by keeping the "call
stack" of nested type conversions in the TypeConverter class and by passing it
as an optional argument to the individual conversion callback. The callback can
then check if a specific type is present on the stack more than once to detect
and handle the recursive case.

This approach is preferred to the alternative approach of having a separate
callback dedicated to handling only the recursive case as the latter was
observed to introduce ~3% time overhead on a 50MB IR file even if it did not
contain recursive types.

This approach is also preferred to keeping a local stack in type converters
that need to handle recursive types as that would compose poorly in case of
out-of-tree or cross-project extensions.

Reviewed By: rriddle

Differential Revision: https://reviews.llvm.org/D113579
mlir/docs/DialectConversion.md
mlir/include/mlir/Transforms/DialectConversion.h
mlir/lib/Transforms/Utils/DialectConversion.cpp
mlir/test/Transforms/test-legalize-type-conversion.mlir
mlir/test/lib/Dialect/Test/TestPatterns.cpp