selftests: net: tcp_mmap: populate pages in send path
authorEric Dumazet <edumazet@google.com>
Fri, 20 Jan 2023 18:11:36 +0000 (18:11 +0000)
committerJakub Kicinski <kuba@kernel.org>
Tue, 24 Jan 2023 05:24:29 +0000 (21:24 -0800)
commit057fb03160a88925877548979ab4ab7f9223e118
tree7b7b4554316362fb15ad6adb90013a87833f254a
parent32e54254bab86529f6adcfd7fec6fae29a6ed4ff
selftests: net: tcp_mmap: populate pages in send path

In commit 72653ae5303c ("selftests: net: tcp_mmap:
Use huge pages in send path") I made a change to use hugepages
for the buffer used by the client (tx path)

Today, I understood that the cause for poor zerocopy
performance was that after a mmap() for a 512KB memory
zone, kernel uses a single zeropage, mapped 128 times.

This was really the reason for poor tx path performance
in zero copy mode, because this zero page refcount is
under high pressure, especially when TCP ACK packets
are processed on another cpu.

We need either to force a COW on all the memory range,
or use MAP_POPULATE so that a zero page is not abused.

Signed-off-by: Eric Dumazet <edumazet@google.com>
Link: https://lore.kernel.org/r/20230120181136.3764521-1-edumazet@google.com
Signed-off-by: Jakub Kicinski <kuba@kernel.org>
tools/testing/selftests/net/tcp_mmap.c