arm64: tlbi: Set MAX_TLBI_OPS to PTRS_PER_PTE
authorWill Deacon <will.deacon@arm.com>
Mon, 19 Nov 2018 18:08:49 +0000 (18:08 +0000)
committerWill Deacon <will.deacon@arm.com>
Tue, 27 Nov 2018 19:01:21 +0000 (19:01 +0000)
commit3d65b6bbc01ecece8142e62a8a5f1d48ba41a240
treedc7f45ef8c51f57043decabae1e1387bc963f436
parentbdb85cd1d20669dfae813555dddb745ad09323ba
arm64: tlbi: Set MAX_TLBI_OPS to PTRS_PER_PTE

In order to reduce the possibility of soft lock-ups, we bound the
maximum number of TLBI operations performed by a single call to
flush_tlb_range() to an arbitrary constant of 1024.

Whilst this does the job of avoiding lock-ups, we can actually be a bit
smarter by defining this as PTRS_PER_PTE. Due to the structure of our
page tables, using PTRS_PER_PTE means that an outer loop calling
flush_tlb_range() for entire table entries will end up performing just a
single TLBI operation for each entry. As an example, mremap()ing a 1GB
range mapped using 4k pages now requires only 512 TLBI operations when
moving the page tables as opposed to 262144 operations (512*512) when
using the current threshold of 1024.

Cc: Joel Fernandes <joel@joelfernandes.org>
Acked-by: Catalin Marinas <catalin.marinas@arm.com>
Signed-off-by: Will Deacon <will.deacon@arm.com>
arch/arm64/include/asm/tlbflush.h