XArray: Do not return sibling entries from xa_load()
authorMatthew Wilcox (Oracle) <willy@infradead.org>
Thu, 27 Jul 2023 02:58:17 +0000 (22:58 -0400)
committerMatthew Wilcox (Oracle) <willy@infradead.org>
Fri, 28 Jul 2023 19:37:45 +0000 (15:37 -0400)
commitcbc02854331edc6dc22d8b77b6e22e38ebc7dd51
treecb7dd322d9626e8dbd8c47eb7f7094fa748dc576
parentf837f0a3c94882a29e38ff211a36c1c8a0f07804
XArray: Do not return sibling entries from xa_load()

It is possible for xa_load() to observe a sibling entry pointing to
another sibling entry.  An example:

Thread A: Thread B:
xa_store_range(xa, entry, 188, 191, gfp);
xa_load(xa, 191);
entry = xa_entry(xa, node, 63);
[entry is a sibling of 188]
xa_store_range(xa, entry, 184, 191, gfp);
if (xa_is_sibling(entry))
offset = xa_to_sibling(entry);
entry = xa_entry(xas->xa, node, offset);
[entry is now a sibling of 184]

It is sufficient to go around this loop until we hit a non-sibling entry.
Sibling entries always point earlier in the node, so we are guaranteed
to terminate this search.

Signed-off-by: Matthew Wilcox (Oracle) <willy@infradead.org>
Fixes: 6b24ca4a1a8d ("mm: Use multi-index entries in the page cache")
Cc: stable@vger.kernel.org
lib/xarray.c
tools/testing/radix-tree/multiorder.c