Bluetooth: vhci: Fix race when opening vhci device
authorArkadiusz Bokowy <arkadiusz.bokowy@gmail.com>
Wed, 20 Sep 2023 15:30:07 +0000 (17:30 +0200)
committerLuiz Augusto von Dentz <luiz.von.dentz@intel.com>
Wed, 11 Oct 2023 18:12:08 +0000 (11:12 -0700)
commit92d4abd66f7080075793970fc8f241239e58a9e7
tree373d921361137abe794deebb05c6970f4c995e38
parenta950a5921db450c74212327f69950ff03419483a
Bluetooth: vhci: Fix race when opening vhci device

When the vhci device is opened in the two-step way, i.e.: open device
then write a vendor packet with requested controller type, the device
shall respond with a vendor packet which includes HCI index of created
interface.

When the virtual HCI is created, the host sends a reset request to the
controller. This request is processed by the vhci_send_frame() function.
However, this request is send by a different thread, so it might happen
that this HCI request will be received before the vendor response is
queued in the read queue. This results in the HCI vendor response and
HCI reset request inversion in the read queue which leads to improper
behavior of btvirt:

> dmesg
[1754256.640122] Bluetooth: MGMT ver 1.22
[1754263.023806] Bluetooth: MGMT ver 1.22
[1754265.043775] Bluetooth: hci1: Opcode 0x c03 failed: -110

In order to synchronize vhci two-step open/setup process with virtual
HCI initialization, this patch adds internal lock when queuing data in
the vhci_send_frame() function.

Signed-off-by: Arkadiusz Bokowy <arkadiusz.bokowy@gmail.com>
Signed-off-by: Luiz Augusto von Dentz <luiz.von.dentz@intel.com>
drivers/bluetooth/hci_vhci.c