Fixes a small bug in computing dependence direction vectors, where equality constraint can be created on the wrong loop IVs when source/sink of the dependence are at different loop depths. Adds unit tests for cases where source/sink of the dependence are at varying loop depths.

--

PiperOrigin-RevId: 248627490

Simplify the verification of ExtractElementop.

    Make it clear that it cares about the aggregate type being a vector or tensor and not just that it has a shape.
    Remove redundant validation from the custom method that is now covered by the tablegen'ed verification

    This is related to making MemRefs a ShapedType as well.

--

PiperOrigin-RevId: 248610443

Expand ReturnOp error to include types. NFC.

    Found it a bit easier to see what mismatches occurred when invoking passes doesn't match.

--

PiperOrigin-RevId: 248597286

Don't fail verifying unranked shapes as being the same as this could be valid at runtime.

    tensor<*xf32> could be a tensor<1xf32> at runtime but this verifyShapeMatch would return failure and say function is invalid.

--

PiperOrigin-RevId: 248583038

Unify the 'constantFold' and 'fold' hooks on an operation into just 'fold'. This new unified fold hook will take constant attributes as operands, and may return an existing 'Value *' or a constant 'Attribute' when folding. This removes the awkward situation where a simple canonicalization like "sub(x,x)->0" had to be written as a canonicalization pattern as opposed to a fold.

--

PiperOrigin-RevId: 248582024

Add linalg.range_intersect conversion to LLVM.

    This CL adds lowering for linalg.range_intersect into LLVM by computing:
      * new_min <- max (range1.min, range2.min)
      * new_max <- min (range1.max, range2.max)
      * new_step <- range1.step * range2.step

--

PiperOrigin-RevId: 248571810

Add a linalg.range_intersect op.

    This CL adds an operation whose purpose is to encode boundary conditions directly in the view type. In particular, full/partial tile distinction can
    occur at the level of metadata only.
    This CL also adopts a Linalg_Op pattern that is similar to Std_Op.

--

PiperOrigin-RevId: 248529469

Rename VectorOrTensorType to ShapedType

    This is in preparation for making it also support/be a parent class of MemRefType. MemRefs have similar shape/rank/element semantics and it would be useful to be able to use these same utilities for them.

    This CL should not change any semantics and only change variables, types, string literals, and comments. In follow-up CLs I will prepare all callers to handle MemRef types or remove their dependence on ShapedType.

    Discussion/Rationale in https://groups.google.com/a/tensorflow.org/forum/#!topic/mlir/cHLoyfGu8y8

--

PiperOrigin-RevId: 248476449

Store the child function analysis maps of a ModuleAnalysisManager by unique_ptr instead of by-value.

--

PiperOrigin-RevId: 248456926

Add a new tutorial document that details how to define Dialect Attributes and Types.

--

PiperOrigin-RevId: 248417063

Upstreaming Quantizer tool (part 2).

    This adds some additional core types and utilities, notably the constraint analysis graph (CAG) structures, associated metadata and configuration policy object base class.

    The CAG is not particularly memory efficient as it stands now. I had started some work to turn it into a form that could be better managed by a bump pointer allocator but abandoned that for now in favor of having something that does semantically what I was going for as a starting point.

--

PiperOrigin-RevId: 248413133

Fixed Attributes.h comment typo from vecctor to vector

--

PiperOrigin-RevId: 248369005

Cleanup linalg integration test

    This CL performs post-commit cleanups.
    It adds the ability to specify which shared libraries to load dynamically in ExecutionEngine. The linalg integration test is updated to use a shared library.
    Additional minor cleanups related to LLVM lowering of Linalg are also included.

--

PiperOrigin-RevId: 248346589

Add support for parsing/printing dialect defined attributes. This also adds support for a pretty syntax for dialects attributes that is synonymous with the pretty syntax for dialect types. This cl also adds a new attribute 'OpaqueAttr' that allows for roundtripping attributes attached to unregistered dialects.

    Dialect attributes have the following syntax:
       dialect-attribute  ::= `#` dialect-namespace `<` `"` attr-data `"` `>`
       dialect-attribute  ::= `#` alias-name pretty-dialect-sym-body?

--

PiperOrigin-RevId: 248344416

Remove some extraneous const qualifiers on Type, and 0b1 -> 1 in tblgen files. (NFC)

--

PiperOrigin-RevId: 248332674

Make Linalg tiling a FunctionPass instead of a ModulePass - NFC

--

PiperOrigin-RevId: 248286354

Add a new document detailing the diagnostics infrastructure.

--

PiperOrigin-RevId: 248275851

Start to introduce the "Quantizer" tool, which is responsible for transforming a computation expressed in floating point to one operating in terms of quantized types (where possible), either using quant-aware-training hints where available or post-training statistics.

    This is being integrated from an experimental side repository piece by piece over the course of several patches and will ultimately include full build support, documentation and e2e tests.

--

PiperOrigin-RevId: 248259895

Add support for a Linalg base op class

    This CL uses a pattern proposed by aminim@ to add a base Linalg op that further dispatches to the proper op implementation.
    This CL adds a LinalgOp which implements isclassof for only a subset of the linalg ops: the ops that behave like a library call for the purpose of transformations like tiling.
    This uses a static dispatch mechanism based on the LinalgLibraryOps.td ops declarations to avoid switch or visitor patterns. This may later be replaced by Tablegen'd dispatch when it is available.

    As a consequence, the list of library like operations in Linalg may now grow without having to modify any of the dispatch or transformation support.

    More details in the concept-based dispatch, as explained by aminim@
    ```
    This is inspired by Sean Parent's: https://sean-parent.stlab.cc/papers-and-presentations/#value-semantics-and-concept-based-polymorphism

    A key difference is that the set of classes erased is statically known, which avoids to use dynamic memory allocation.
    We use a zero-sized templated class to emit the virtual table and generate a singleton object for each instantiation of this class. We pay the cost of initialization once on construction (find which class to dispatch to) and then a virtual dispatch on every call.
    ```

--

PiperOrigin-RevId: 248258921

Remove unnecessary C++ specifier in CPP files. NFC.

    These are only required in .h files to disambiguate between C and C++ header files.

--

PiperOrigin-RevId: 248219135

Add an AffineExpr matcher

    This CL gives a pattern-matching-y look and feel to AffineExpr.
    For now this uses a shared_ptr instead of unique'ing into a bumpPtrAllocator.
    SDBM gives a simple use case with more idiomatic syntax for matchers.

--

PiperOrigin-RevId: 248188075

Move Quantization -> Dialect/QuantOps, FxpMathOps -> Dialect/FxpMathOps.

    Adding the additional layer of directory was discussed offline and matches the Target/ tree. The names match the defacto convention we seem to be following where the C++ namespace is ^(.+)Ops/$ matched against the directory name.

    This is in preparation for patching the Quantizer into this tree, which would have been confusing without moving the Quantization dialect to its more proper home. It is left to others to move other dialects if desired.

    Tested:
      ninja check-mlir

--

PiperOrigin-RevId: 248171982

When converting a location to an SMLoc, advance to the first non-whitespace if the column is unknown(zero). This also fixes a small bug with call stack printing.

    Example:
    /tmp/file_C.py:21:5: error: 'foo.bar' op attribute 'something'
        raise app.UsageError('Too many command-line arguments.')
        ^
    /tmp/file_D.py:20:3: note: called from
      if len(argv) > 1:
      ^
    /tmp/file_E.py:19:1: note: called from
    def main(argv):
    ^
    /tmp/file_F.py:24:3: note: called from
      app.run(main)
      ^

--

PiperOrigin-RevId: 248151212

[ODS] Add definition for TypeAttr

--

PiperOrigin-RevId: 248147938

Move specification of print, parse and verify to Std_Op base.

    Removes some boilerplate in ops, add support to refer to C++ class name from parser function specification in ODS.

--

PiperOrigin-RevId: 248140977

Add initial support to the SourceMgrDiagnosticHandler for printing call stacks.

    Example:

    /tmp/file_C.py:17:1: error: 'foo.bar' op attribute 'something' ...
      app.run(main)
    ^
    /tmp/file_D.py:14:1: note: called from
        raise app.UsageError('Too many command-line arguments.')
    ^
    /tmp/file_E.py:12:1: note: called from
    def main(argv):
    ^
    /tmp/file_F.py:13:1: note: called from
      if len(argv) > 1:
    ^

--

PiperOrigin-RevId: 248074804

Fix lingering sign compare warnings in exposed by "ninja check-mlir".

--

PiperOrigin-RevId: 248050178

Add a linalg.dim

    A linalg.dim operation is used to extract size information from !linalg.view objects passed
    through function call boundaries.

--

PiperOrigin-RevId: 248017488

Refactor NameLoc so that it also holds a child location. This removes the awkward use of CallSiteLoc as a variable usage location.

--

PiperOrigin-RevId: 248014642

Update "Table-driven Op Definition Specification" doc

    This CL turns the previous "Op Definition" doc into a manual for table-driven
    op definition specification by fleshing out more details of existing mechanisms.

--

PiperOrigin-RevId: 248013274

Fix -Wsign-compare in Toy LateLowering.

--

PiperOrigin-RevId: 248005642

Remove unused function and avoid unused variable warning. NFC.

--

PiperOrigin-RevId: 247991231

Add a utility method to MLIRContext get a registered dialect with the derived type instead of the string name. The derived dialect type must provide a static 'getDialectNamespace' method.

    This means that we can now do something like:
      ctx->getRegisteredDialect<LLVMDialect>();

    as opposed to:
      static_cast<LLVMDialect *>(ctx->getRegisteredDialect("llvm");

--

PiperOrigin-RevId: 247989896

Use the DialectSymbolRegistry to reserve space in the Attribute::Kind enum to allow for dialects to define attribute kinds. The currently defined attributes kinds have now been moved to StandardAttributes.

--

PiperOrigin-RevId: 247988373

Move MemRefCastOp and TensorCastOp to the Op Definition Generation framework.

--

PiperOrigin-RevId: 247981385

Move the definition of Return op to the Op Definition Generation framework.

--

PiperOrigin-RevId: 247980849

NFC: Cleanup the definitions of the Location classes.

--

PiperOrigin-RevId: 247979132

Change a few errors emitted by the parser to be notes instead.

--

PiperOrigin-RevId: 247978922

Move Affine Expressions and Affine Structures documentation from LangRef to Affine Dialect doc.

--

PiperOrigin-RevId: 247971222

Pipe Linalg to a cblas call via mlir-cpu-runner

    This CL extends the execution engine to allow the additional resolution of symbols names
    that have been registered explicitly. This allows linking static library symbols that have not been explicitly exported with the -rdynamic linking flag (which is deemed too intrusive).

--

PiperOrigin-RevId: 247969504

Add test for affine-loop-tile pass with a loop of trip count 1

--

PiperOrigin-RevId: 247950156

Update cmakelist to reflect renamed filename.

--

PiperOrigin-RevId: 247946677

Refactor the includes of Function.h now that the dependency on Operation has been removed. The dependency was on the op casting methods, which have now moved out of Operation, used by the walker.

--

PiperOrigin-RevId: 247944666

Update region documentation

    Restructure the Regions section in LangRef to avoid having a wall of text and
    reflect a recent evolution of the design.  Unspecify region types, that are put
    on hold until use cases arise.

    Update the Rationale doc with a list of design decisions related to regions.
    Separately list the design alternatives that were considered and discarded due
    to the lack of existing use cases.

--

PiperOrigin-RevId: 247943144

Factor out loop interchange code from LoopFusion into LoopUtils (NFC).

--

PiperOrigin-RevId: 247926512

Remove the explicit "friend Operation" statement from each of the derived operations now that op casting is no longer inside of Operation.

--

PiperOrigin-RevId: 247791672

Replace Operation::isa with llvm::isa.

--

PiperOrigin-RevId: 247789235

Replace Operation::cast with llvm::cast.

--

PiperOrigin-RevId: 247785983

Add support for using llvm::dyn_cast/cast/isa for operation casts and replace usages of Operation::dyn_cast with llvm::dyn_cast.

--

PiperOrigin-RevId: 247780086

Automated rollback of changelist 247778391.

PiperOrigin-RevId: 247778691

Add support for using llvm::dyn_cast/cast/isa for operation casts and replace usages of Operation::dyn_cast with llvm::dyn_cast.

--

PiperOrigin-RevId: 247778391

Rename Op::isClassFor to Op::classof to match the LLVM isa/dyn_cast standard naming scheme.

--

PiperOrigin-RevId: 247771192

Remove several heavy includes from Diagnostics.h by a moving a couple of fields/methods to the .cpp file.

--

PiperOrigin-RevId: 247768443

rename -memref-dependence-check to -test-memref-dependence-check since it
    generates remarks for testing, it isn't itself a transformation.

    While there, upgrade its diagnostic emission to use the streaming interface.

    Prune some unnecessary #includes.

--

PiperOrigin-RevId: 247768062

Remove some unnecessary or duplicated header includes from IR/.

--

PiperOrigin-RevId: 247762545

Cleanups and simplifications to code, noticed by inspection. NFC.

--

PiperOrigin-RevId: 247758075

Revert "Pass for outlining gpu.launch operation bodies into kernel functions called by gpu.launch_func operations"

OSS build was broken (missing CMakeLists.txt changes and compilation failures on Ubuntu)

Automated rollback of changelist 247564213.

PiperOrigin-RevId: 247713812

Change the diagnostic handler to accept Diagnostic instead of location/message/kind. This opens the door for many more powerful use cases: fixits, colors, etc.

--

PiperOrigin-RevId: 247705673

[TableGen] Return base attribute's name for anonymous OptionalAttr/DefaultValuedAttr

--

PiperOrigin-RevId: 247693280

Move the definitions for CallOp and IndirectCallOp to the Op Definition Generator.

--

PiperOrigin-RevId: 247686419

Move the definitions of BranchOp, DimOp, and ExtractElementOp to Op Definition Generator.

--

PiperOrigin-RevId: 247686212

Ensure that all attributes are registered with a dialect. This is one of the final steps towards allowing dialects to define their own attributes, but there are still several things missing before this is fully supported(e.g. parsing/printing ).

--

PiperOrigin-RevId: 247684322

Add support to the SourceMgrDiagnosticHandlers to auto-load new source files seen in diagnostics.

--

PiperOrigin-RevId: 247681779

Add llvm_unreachable in unreachable path to silence GCC warning (NFC)

    The switch is supposed to be fully covered, but GCC warns that:
     "control reaches end of non-void function"

--

PiperOrigin-RevId: 247672430

Fix unused variable warning in the Toy tutorial (NFC)

--

PiperOrigin-RevId: 247672377

Remove unused method `parseIntegerSetInline` and `parseAffineMapInline` in Parser (NFC)

    Fix GCC warning.

--

PiperOrigin-RevId: 247672318

Remove unused `signature()` from `OpMethod` class (private to mlir-tblgen) (NFC)

--

PiperOrigin-RevId: 247672280

Use `uint8_t` storage for enum class

    This is intended to fix a GCC warning:

    > mlir/lib/IR/LocationDetail.h:32:25: warning: ‘mlir::detail::LocationStorage::kind’ is too small to hold all values of ‘enum class mlir::Location::Kind’

--

PiperOrigin-RevId: 247672213

Remove extra `;` after function definition (NFC)

    Fix a GCC warning

--

PiperOrigin-RevId: 247670176

Replace dyn_cast<> with isa<> when the returned value is unused (NFC)

    Fix a gcc warning.

--

PiperOrigin-RevId: 247669360

Refactor the SourceMgrDiagnosticHandlers to support more locations than FileLineColLoc.

--

PiperOrigin-RevId: 247662828

Remove unused Vectorize constructor (NFC)

    Fix gcc warning.

--

PiperOrigin-RevId: 247647114

Remove unused `hasSingleNonZeroAt` function (NFC)

    Fix clang warning.

--

PiperOrigin-RevId: 247623306

Make header-defined function inline instead of static (NFC)

    Fix warning for unused function when the header is included in
    an implementation file that does not use this function.

--

PiperOrigin-RevId: 247622232

Templatize the integer constructors for DiagnosticArgument to avoid ambiguous conversions.

--

PiperOrigin-RevId: 247621058

Emit cast instead of dyn_cast_or_null where attribute is required.

    If the attribute needs to exist for the validity of the op, then no need to use
    dyn_cast_or_null as the op would be invalid in the cases where cast fails, so
    just use cast.

--

PiperOrigin-RevId: 247617696

Reorder edsc python tests - NFC

    This CL orders the python tests to:
    1. allow introspecting on the EdscTest class and avoid the error-prone process of having to add the test call by hand;
    2. account for differences in the order of `dir(edscTest)` between python2, <= python3.5 and >= python 3.6

--

PiperOrigin-RevId: 247609687

Add support to SourceMgrDiagnosticHandler for handling the case where the llvm::SourceMgr has no main file.

--

PiperOrigin-RevId: 247605584

Verify that kernel functions referenced by gpu.launch_func have a gpu.kernel attribute.

    Also extract gpu.launch_func's function attribute name into a constant.

--

PiperOrigin-RevId: 247595352

Annotate outlined kernel functions with the attribute `gpu.kernel`.

--

PiperOrigin-RevId: 247589560

Add gpu.launch_func builder taking KernelDim3 arguments (NFC).

--

PiperOrigin-RevId: 247577649

Pass for outlining gpu.launch operation bodies into kernel functions called by gpu.launch_func operations.

--

PiperOrigin-RevId: 247564213

Remove unused PassID member from PassRegistry (NFC)

    Fix clang warning

--

PiperOrigin-RevId: 247558931

Remove unused MLIRContext member from MutableAffineMap class (NFC)

    Fix clang warning

--

PiperOrigin-RevId: 247558650

Make header-defined method inline instead of static (NFC)

    This is fixing a clang warning when this header is included in a file
    that does not use this function.

--

PiperOrigin-RevId: 247557803

Fix class/struct mismatch between declaration/definition (NFC)

    Fix clang warnings

--

PiperOrigin-RevId: 247557395

Add override keyword on overidden virtual method (NFC)

    Fix clang warnings

--

PiperOrigin-RevId: 247556495

Move the diagnostic verification functionality out of mlir-opt and into a new llvm::SourceMgr diagnostic handler 'SourceMgrDiagnosticVerifierHandler'. This will allow for other tools to reuse the 'expected-*' functionality.

--

PiperOrigin-RevId: 247514684

Only forbid mixing tensor and vector when considering broadcasting behavior

    The previous approach is too restrictive; we end up forbidding all dialect-specific
    types as element types. Changed to not consider element types entirely.

--

PiperOrigin-RevId: 247486537

Add support in the SourceMgrDiagnosticHandler for handling source managers with multiple buffers.

--

PiperOrigin-RevId: 247482733

Move edsc python tests to Filecheck

--

PiperOrigin-RevId: 247479507

Pipe Linalg to LLVM via mlir-cpu-runner

    This CL adds support for functions in the Linalg dialect to run with mlir-cpu-runner.
    For this purpose, this CL adds BufferAllocOp, BufferDeallocOp, LoadOp and StoreOp to the Linalg dialect as well as their lowering to LLVM. To avoid collisions with mlir::LoadOp/StoreOp (which should really become mlir::affine::LoadOp/StoreOp), the mlir::linalg namespace is added.

    The execution uses a dummy linalg_dot function that just returns for now. In the future a proper library call will be used.

--

PiperOrigin-RevId: 247476061

Fix OSS build (Linux)

--

PiperOrigin-RevId: 247472005

Update mlir::interleaveComma to work on ranges with types other than Container<T>.

--

PiperOrigin-RevId: 247468184

Add memref dimension bounds as upper/lower bounds on MemRefRegion constraints, to guard against potential over-approximation from projection.

--

PiperOrigin-RevId: 247431201

Fix bug in DmaGenerate pass where MemRefRegion union was not propagated to read region.
    Also cleaned up dma-generate.mlir a bit.

--

PiperOrigin-RevId: 247417358

Conversion to LLVM Dialect: integrate TypeConverter into LLVMLowering

    Historically, the conversion from standard and built-in types to the LLVM IR
    dialect types was performed by a dedicated class, TypeConverter.  This class
    served to contain references to the LLVM IR dialect and to the LLVM IR Module
    to allow querying the data layout.  Recently, the LLVMLowering class was
    introduced to make the conversion to the LLVM IR dialect extensible to other
    source dialects.  This class also includes the references to the LLVM IR
    dialect and module.  TypeConverter was extended with basic support for
    dialect-specific type conversion through callbacks.  This is not sufficient in
    cases where dialect-specific types appear inside other types, such as function
    or container types.

    Integrate TypeConverter into LLVMLowering.  Whenever a subtype needs to be
    converted during standard type conversion (e.g. an argument or a result of a
    FunctionType), the conversion will call to the virtual function
    `LLVMLowering::convertType`, which can be extended to support dialect-specific
    types.

    Provide a new LLVMOpConversion class that serves as a base class for all
    conversions to the LLVM IR dialect and gives them access to LLVMLowering for
    the purpose of type conversion.  Update Linalg to LLVM IR lowering to use this
    class.

--

PiperOrigin-RevId: 247407314

Fix builder for LLVM::Alloca operation.

--

PiperOrigin-RevId: 247402238

Add gpu.launch_func builder.

--

PiperOrigin-RevId: 247364893

Simplify the emission of a few op parser diagnostics. This also adds the ability to stream an attribute into a Diagnostic.

--

PiperOrigin-RevId: 247359911