[ThinLTO] Avoid temporaries when loading global decl attachment metadata
authorTeresa Johnson <tejohnson@google.com>
Sat, 19 Sep 2020 17:09:28 +0000 (10:09 -0700)
committerTeresa Johnson <tejohnson@google.com>
Wed, 23 Sep 2020 03:32:07 +0000 (20:32 -0700)
commitab1b4810b55279bcf6fdd87be74a403440be3991
tree2cf60337cacd138a3c5e3565d4b242bb6e0e236c
parent1a3ef0417c7ca9498895186c96da452f6e2f15a0
[ThinLTO] Avoid temporaries when loading global decl attachment metadata

When performing ThinLTO importing, the metadata loader attempts to lazy
load, by building an index. However, module level global decl attachment
metadata was being parsed early while building the index, since the
associated (module level) global values aren't materialized on demand.
This results in the creation of forward reference temporary metadatas,
which are expensive.

Normally, these module level global values don't have much attached
metadata. However, in the case of -fwhole-program-vtables (e.g. for
whole program devirtualization), the vtables may have many attached type
metadatas. This was resulting in very slow performance when performing
ThinLTO importing with the default lazy loading.

This patch restructures the handling of these global decl attachment
records, delaying their parsing until after the lazy loading index has
been built. Then the parser can use the interface that loads from the
index, which resolves forward references immediately instead of creating
expensive temporaries.

For one ThinLTO backend that imports from modules containing huge
numbers of vtables and associated types, I measured the following
compile times for the metadata materialization during function
importing, rounded to nearest second:

No -fwhole-program-vtables:
  Lazy loading on (head):  1s
  Lazy loading off (head): 3s
  Lazy loading on (patch): 1s

With -fwhole-program-vtables:
  Lazy loading on (head):  440s
  Lazy loading off (head): 4s
  Lazy loading on (patch): 2s

Differential Revision: https://reviews.llvm.org/D87970
llvm/lib/Bitcode/Reader/MetadataLoader.cpp
llvm/test/ThinLTO/X86/devirt2.ll