udp: track the forward memory release threshold in an hot cacheline
authorPaolo Abeni <pabeni@redhat.com>
Thu, 20 Oct 2022 17:48:52 +0000 (19:48 +0200)
committerDavid S. Miller <davem@davemloft.net>
Mon, 24 Oct 2022 09:52:50 +0000 (10:52 +0100)
commit8a3854c7b8e4532063b14bed34115079b7d0cb36
treecd84d6b901d6d1e14185481909982e4f267cd512
parenta5ef058dc4d9a3e60d1808a0700e18e0e37e408e
udp: track the forward memory release threshold in an hot cacheline

When the receiver process and the BH runs on different cores,
udp_rmem_release() experience a cache miss while accessing sk_rcvbuf,
as the latter shares the same cacheline with sk_forward_alloc, written
by the BH.

With this patch, UDP tracks the rcvbuf value and its update via custom
SOL_SOCKET socket options, and copies the forward memory threshold value
used by udp_rmem_release() in a different cacheline, already accessed by
the above function and uncontended.

Since the UDP socket init operation grown a bit, factor out the common
code between v4 and v6 in a shared helper.

Overall the above give a 10% peek throughput increase under UDP flood.

Signed-off-by: Paolo Abeni <pabeni@redhat.com>
Reviewed-by: Eric Dumazet <edumazet@google.com>
Acked-by: Kuniyuki Iwashima <kuniyu@amazon.com>
Signed-off-by: David S. Miller <davem@davemloft.net>
include/linux/udp.h
include/net/udp.h
net/ipv4/udp.c
net/ipv6/udp.c