[clang][dataflow] Perform structural comparison of indirection values in `join`.
authorYitzhak Mandelbaum <yitzhakm@google.com>
Wed, 27 Apr 2022 17:21:59 +0000 (17:21 +0000)
committerYitzhak Mandelbaum <yitzhakm@google.com>
Thu, 28 Apr 2022 17:55:09 +0000 (17:55 +0000)
commit6c81b57237164319b5429ee33957004aa21db2fa
treead9c59543e9d7cbaa05199b2e72774c2ebeb7b5f
parent1462e63f67a965defec035c3bc17a5ddeb366964
[clang][dataflow] Perform structural comparison of indirection values in `join`.

This patch changes `Environment::join`, in the case that two values at the same
location are not (pointer) equal, to structurally compare indirection values
(pointers and references) for equivalence (that is, equivalent pointees) before
resorting to merging.

This change makes join consistent with equivalence, which also performs
structural comparison. It also fixes a bug where the values are `ReferenceValue`
but the merge creates a non-reference value. This case arises when the
`ReferenceValue`s were created to represent an lvalue, so the "reference-ness"
is not reflected in the type. In this case, the pointees will always be
equivalent, because lvalues at the same code location point to the location of a
fixed declaration, whose location is itself stable across blocks.

We were unable to reproduce a unit test for this latter bug, but have verified
the fix in the context of a larger piece of code that triggers the bug.

Differential Revision: https://reviews.llvm.org/D124540
clang/lib/Analysis/FlowSensitive/DataflowEnvironment.cpp