udp: fix integer overflow while computing available space in sk_rcvbuf
authorAntonio Messina <amessina@google.com>
Thu, 19 Dec 2019 14:08:03 +0000 (15:08 +0100)
committerDavid S. Miller <davem@davemloft.net>
Tue, 24 Dec 2019 22:52:39 +0000 (14:52 -0800)
commitfeed8a4fc9d46c3126fb9fcae0e9248270c6321a
treeaf3b520fba6a979b12c0fb470dc697a827725b06
parentc60174717544aa8959683d7e19d568309c3a0c65
udp: fix integer overflow while computing available space in sk_rcvbuf

When the size of the receive buffer for a socket is close to 2^31 when
computing if we have enough space in the buffer to copy a packet from
the queue to the buffer we might hit an integer overflow.

When an user set net.core.rmem_default to a value close to 2^31 UDP
packets are dropped because of this overflow. This can be visible, for
instance, with failure to resolve hostnames.

This can be fixed by casting sk_rcvbuf (which is an int) to unsigned
int, similarly to how it is done in TCP.

Signed-off-by: Antonio Messina <amessina@google.com>
Signed-off-by: David S. Miller <davem@davemloft.net>
net/ipv4/udp.c