[RISCV] Add cost model for scalable scatter and gather
authorPhilip Reames <preames@rivosinc.com>
Thu, 16 Jun 2022 21:10:21 +0000 (14:10 -0700)
committerPhilip Reames <listmail@philipreames.com>
Thu, 16 Jun 2022 21:22:31 +0000 (14:22 -0700)
commitd764aa7fc6b9cc3fbe960019018f5f9e941eb0a6
treeed0201b47a5cc47ea828d14256a19e8497f77248
parentbbb73ade43a29c90adabca69afb9a4df1a5cfb5e
[RISCV] Add cost model for scalable scatter and gather

The costing we use for fixed length vector gather and scatter is to simply count up the memory ops, and multiply by a fixed memory op cost. For scalable vectors, we don't actually know how many lanes are active. Instead, we have to end up making a worst case assumption on how many lanes could be active. In the generic +V case, this results in very high costs, but we can do better when we know an upper bound on the VLEN.

There's some obvious ways to improve this - e.g. using information about VL and mask bits from the instruction to reduce the upper bound - but this seems like a reasonable starting point.

The resulting costs do bias us pretty strongly away from generating scatter/gather for generic +V.  Without this, we'd be returning an invalid cost and thus definitely not vectorizing, so no major change in practical behavior expected.

Differential Revision: https://reviews.llvm.org/D127541
llvm/lib/Target/RISCV/RISCVTargetTransformInfo.cpp
llvm/test/Analysis/CostModel/RISCV/scalable-gather.ll
llvm/test/Analysis/CostModel/RISCV/scalable-scatter.ll