[MCA] Simplify the rounding logic used in TimelineView::printWaitTimeEntry.
authorAndrea Di Biagio <andrea.dibiagio@sony.com>
Sat, 7 Aug 2021 10:39:33 +0000 (11:39 +0100)
committerAndrea Di Biagio <andrea.dibiagio@sony.com>
Sat, 7 Aug 2021 10:59:41 +0000 (11:59 +0100)
commit45685a1fc4524579a25b03eb1a27e8fcb792afc7
treebf6c6a84cff36497b8e1f8bdc24c258ca9f27da4
parent454f69bcc17e6451c926a2e7b708e900fc8fdcb8
[MCA] Simplify the rounding logic used in TimelineView::printWaitTimeEntry.

This is related to PR51392.

Before this patch, the timeline view was rounding doubles to the first decimal,
using a logic similar to this:

```
  double AverageTime = (double)Input / CumulativeExecutions;
  double Result = floor((AverageTime * 10) + 0.5) / 10
```

Here, Input and CumulativeExecutions are both unsigned integers.
The last operation is what effectively performs the rounding of AverageTime.

PR51392 has been raised because - under specific -m32 configurations of GCC -
one of the timeline tests reports slighlty different values (due to a different
rounding choice).

This patch tries to minimise the propagation of floating-point error by
hoisting the multiply by 10, so that it is performed on the unsigned.

```
  double AverageTime = (double)(Input * 10) / CumulativeExecutions;
  floor(AverageTime + 0.5) / 10
```

So we are trading a floating point multiply for a integer multiply (which can be
expanded using a simple MUL or using an `ADD + LEA` sequence). This decrease in
floating point operations executed should also help with decreasing the error in
the computation..

Strictly speaking, that computation will always be potentially subject to error
(depending on what values are passed in input). However, this patch should
improve the situation and make bug like PR51392 less frequent.
llvm/tools/llvm-mca/Views/TimelineView.cpp