[SimplifyCFG] limit recursion depth when speculating instructions (PR26308)
authorSanjay Patel <spatel@rotateright.com>
Wed, 27 Jan 2016 19:22:45 +0000 (19:22 +0000)
committerSanjay Patel <spatel@rotateright.com>
Wed, 27 Jan 2016 19:22:45 +0000 (19:22 +0000)
commit5264cc772c4075964abf40dbeb80ea29cfcd8cd4
treea1dad9aa622b32a933950c8d0995f3d1e487fe6d
parent3fe604f89fccfe1534eeaf4b4e328185d01659f6
[SimplifyCFG] limit recursion depth when speculating instructions (PR26308)

This is a fix for:
https://llvm.org/bugs/show_bug.cgi?id=26308

With the switch to using the TTI cost model in:
http://reviews.llvm.org/rL228826
...it became possible to hit a zero-cost cycle of instructions (gep -> phi -> gep...),
so we need a cap for the recursion in DominatesMergePoint().

A recursion depth parameter was already added for a different reason in:
http://reviews.llvm.org/rL255660
...so we can just set a limit for it.

I pulled "10" out of the air and made it an independent parameter that we can play with.
It might be higher than it needs to be given the currently low default value of
PHINodeFoldingThreshold (2). That's the starting cost value that we enter the recursion
with, and most instructions have cost set to TCC_Basic (1), so I don't think we're going
to speculate more than 2 instructions with the current parameters.

As noted in the review and the TODO comment, we can do better than just limiting recursion
depth.

Differential Revision: http://reviews.llvm.org/D16637

llvm-svn: 258971
llvm/lib/Transforms/Utils/SimplifyCFG.cpp
llvm/test/Transforms/SimplifyCFG/X86/switch_to_lookup_table.ll