[SLP] allow forming 2-way reduction patterns
authorSanjay Patel <spatel@rotateright.com>
Wed, 6 Nov 2019 22:24:09 +0000 (17:24 -0500)
committerSanjay Patel <spatel@rotateright.com>
Thu, 7 Nov 2019 11:08:42 +0000 (06:08 -0500)
commit7ff57705ba196ce649d6034614b3b9df57e1f84f
treef64f7a3809df4ab32e919b62c531e0a2b7dacccd
parent55b445150da9101fda07a4c28ee6a4e4bc9fc89a
[SLP] allow forming 2-way reduction patterns

We have a vector compare reduction problem seen in PR39665 comment 2:
https://bugs.llvm.org/show_bug.cgi?id=39665#c2

Or slightly reduced here:

define i1 @cmp2(<2 x double> %a0) {
  %a = fcmp ogt <2 x double> %a0, <double 1.0, double 1.0>
  %b = extractelement <2 x i1> %a, i32 0
  %c = extractelement <2 x i1> %a, i32 1
  %d = and i1 %b, %c
  ret i1 %d
}

SLP would not attempt to turn this into a vector reduction because there is an
artificial lower limit on that transform. We can not completely remove that limit
without inducing regressions though, so this patch just hacks an extra attempt at
creating a 2-way reduction to the end of the analysis.

As shown in the test file, we are still not getting some of the motivating cases,
so follow-on patches will be needed to solve those cases.

Differential Revision: https://reviews.llvm.org/D59710
llvm/include/llvm/Transforms/Vectorize/SLPVectorizer.h
llvm/lib/Transforms/Vectorize/SLPVectorizer.cpp
llvm/test/Feature/weak_constant.ll
llvm/test/Transforms/SLPVectorizer/X86/reduction2.ll