s390/zcrypt: fix reply buffer calculations for CCA replies
authorHarald Freudenberger <freude@linux.ibm.com>
Mon, 17 Jul 2023 14:55:29 +0000 (16:55 +0200)
committerHeiko Carstens <hca@linux.ibm.com>
Thu, 20 Jul 2023 14:48:56 +0000 (16:48 +0200)
commit4cfca532ddc3474b3fc42592d0e4237544344b1a
tree242f19aeaa2aba993b2c03956d339cf77a653fd9
parent1f7e9067756cac5b44b9701bbe0bb83e93011e47
s390/zcrypt: fix reply buffer calculations for CCA replies

The length information for available buffer space for CCA
replies is covered with two fields in the T6 header prepended
on each CCA reply: fromcardlen1 and fromcardlen2. The sum of
these both values must not exceed the AP bus limit for this
card (24KB for CEX8, 12KB CEX7 and older) minus the always
present headers.

The current code adjusted the fromcardlen2 value in case
of exceeding the AP bus limit when there was a non-zero
value given from userspace. Some tests now showed that this
was the wrong assumption. Instead the userspace value given for
this field should always be trusted and if the sum of the
two fields exceeds the AP bus limit for this card the first
field fromcardlen1 should be adjusted instead.

So now the calculation is done with this new insight in mind.
Also some additional checks for overflow have been introduced
and some comments to provide some documentation for future
maintainers of this complicated calculation code.

Furthermore the 128 bytes of fix overhead which is used
in the current code is not correct. Investigations showed
that for a reply always the same two header structs are
prepended before a possible payload. So this is also fixed
with this patch.

Signed-off-by: Harald Freudenberger <freude@linux.ibm.com>
Reviewed-by: Holger Dengler <dengler@linux.ibm.com>
Cc: stable@vger.kernel.org
Signed-off-by: Heiko Carstens <hca@linux.ibm.com>
drivers/s390/crypto/zcrypt_msgtype6.c