[clang][#52782] Bail on incomplete parameter type in stdcall name mangling
authorMarkus Böck <markus.boeck02@gmail.com>
Fri, 24 Dec 2021 20:55:07 +0000 (21:55 +0100)
committerMarkus Böck <markus.boeck02@gmail.com>
Wed, 5 Jan 2022 16:58:24 +0000 (17:58 +0100)
commit782791ee84d29db137f441c1e033582a7a78ad5e
tree3956885b8c643e2058929293712889898f9875dd
parentc16fd6a3762cce432319c1f0ea7aeff6666d9c26
[clang][#52782] Bail on incomplete parameter type in stdcall name mangling

stdcall name mangling requires a suffix with the number equal to the sum of the byte count of all parameter types. In the case of a function prototype that has a parameter type of an incomplete type it is impossible to get the size of the type. While such a function is not callable or able to be defined in the TU, it may still be mangled when generating debug info, which would previously lead to a crash.
This patch fixes that by simply bailing out of the loop and using the so far accumulated byte count. This matches GCCs behaviour as well: https://github.com/gcc-mirror/gcc/blob/bc8d6c60137f8bbf173b86ddf31b15d7ba2a33dd/gcc/config/i386/winnt.c#L203

Fixes https://github.com/llvm/llvm-project/issues/52782

Differential Revision: https://reviews.llvm.org/D116020
clang/lib/AST/Mangle.cpp
clang/test/CodeGen/pr52782-stdcall-func-decl.cpp [new file with mode: 0644]