io_uring: One wqe per wq
authorBreno Leitao <leitao@debian.org>
Fri, 10 Mar 2023 20:11:07 +0000 (12:11 -0800)
committerJens Axboe <axboe@kernel.dk>
Mon, 3 Apr 2023 13:14:21 +0000 (07:14 -0600)
commitda64d6db3bd304d44d7ac1eb7f319a1cc7efd611
tree793dc98215738e883ff0e4df5dbb261b9a197765
parentc56e022c0a27142b7b59ae6bdf45f86bf4b298a1
io_uring: One wqe per wq

Right now io_wq allocates one io_wqe per NUMA node.  As io_wq is now
bound to a task, the task basically uses only the NUMA local io_wqe, and
almost never changes NUMA nodes, thus, the other wqes are mostly
unused.

Allocate just one io_wqe embedded into io_wq, and uses all possible cpus
(cpu_possible_mask) in the io_wqe->cpumask.

Signed-off-by: Breno Leitao <leitao@debian.org>
Link: https://lore.kernel.org/r/20230310201107.4020580-1-leitao@debian.org
Signed-off-by: Jens Axboe <axboe@kernel.dk>
io_uring/io-wq.c