net/mac80211/agg-tx.c

   1 // SPDX-License-Identifier: GPL-2.0-only
   2 /*
   3  * HT handling
   4  *
   5  * Copyright 2003, Jouni Malinen <jkmaline@cc.hut.fi>
   6  * Copyright 2002-2005, Instant802 Networks, Inc.
   7  * Copyright 2005-2006, Devicescape Software, Inc.
   8  * Copyright 2006-2007  Jiri Benc <jbenc@suse.cz>
   9  * Copyright 2007, Michael Wu <flamingice@sourmilk.net>
  10  * Copyright 2007-2010, Intel Corporation
  11  * Copyright(c) 2015-2017 Intel Deutschland GmbH
  12  * Copyright (C) 2018 - 2023 Intel Corporation
  13  */
  14
  15 #include <linux/ieee80211.h>
  16 #include <linux/slab.h>
  17 #include <linux/export.h>
  18 #include <net/mac80211.h>
  19 #include "ieee80211_i.h"
  20 #include "driver-ops.h"
  21 #include "wme.h"
  22
  23 /**
  24  * DOC: TX A-MPDU aggregation
  25  *
  26  * Aggregation on the TX side requires setting the hardware flag
  27  * %IEEE80211_HW_AMPDU_AGGREGATION. The driver will then be handed
  28  * packets with a flag indicating A-MPDU aggregation. The driver
  29  * or device is responsible for actually aggregating the frames,
  30  * as well as deciding how many and which to aggregate.
  31  *
  32  * When TX aggregation is started by some subsystem (usually the rate
  33  * control algorithm would be appropriate) by calling the
  34  * ieee80211_start_tx_ba_session() function, the driver will be
  35  * notified via its @ampdu_action function, with the
  36  * %IEEE80211_AMPDU_TX_START action.
  37  *
  38  * In response to that, the driver is later required to call the
  39  * ieee80211_start_tx_ba_cb_irqsafe() function, which will really
  40  * start the aggregation session after the peer has also responded.
  41  * If the peer responds negatively, the session will be stopped
  42  * again right away. Note that it is possible for the aggregation
  43  * session to be stopped before the driver has indicated that it
  44  * is done setting it up, in which case it must not indicate the
  45  * setup completion.
  46  *
  47  * Also note that, since we also need to wait for a response from
  48  * the peer, the driver is notified of the completion of the
  49  * handshake by the %IEEE80211_AMPDU_TX_OPERATIONAL action to the
  50  * @ampdu_action callback.
  51  *
  52  * Similarly, when the aggregation session is stopped by the peer
  53  * or something calling ieee80211_stop_tx_ba_session(), the driver's
  54  * @ampdu_action function will be called with the action
  55  * %IEEE80211_AMPDU_TX_STOP. In this case, the call must not fail,
  56  * and the driver must later call ieee80211_stop_tx_ba_cb_irqsafe().
  57  * Note that the sta can get destroyed before the BA tear down is
  58  * complete.
  59  */
  60
  61 static void ieee80211_send_addba_request(struct ieee80211_sub_if_data *sdata,
  62                                          const u8 *da, u16 tid,
  63                                          u8 dialog_token, u16 start_seq_num,
  64                                          u16 agg_size, u16 timeout)
  65 {
  66         struct ieee80211_local *local = sdata->local;
  67         struct sk_buff *skb;
  68         struct ieee80211_mgmt *mgmt;
  69         u16 capab;
  70
  71         skb = dev_alloc_skb(sizeof(*mgmt) + local->hw.extra_tx_headroom);
  72
  73         if (!skb)
  74                 return;
  75
  76         skb_reserve(skb, local->hw.extra_tx_headroom);
  77         mgmt = skb_put_zero(skb, 24);
  78         memcpy(mgmt->da, da, ETH_ALEN);
  79         memcpy(mgmt->sa, sdata->vif.addr, ETH_ALEN);
  80         if (sdata->vif.type == NL80211_IFTYPE_AP ||
  81             sdata->vif.type == NL80211_IFTYPE_AP_VLAN ||
  82             sdata->vif.type == NL80211_IFTYPE_MESH_POINT)
  83                 memcpy(mgmt->bssid, sdata->vif.addr, ETH_ALEN);
  84         else if (sdata->vif.type == NL80211_IFTYPE_STATION)
  85                 memcpy(mgmt->bssid, sdata->vif.cfg.ap_addr, ETH_ALEN);
  86         else if (sdata->vif.type == NL80211_IFTYPE_ADHOC)
  87                 memcpy(mgmt->bssid, sdata->u.ibss.bssid, ETH_ALEN);
  88
  89         mgmt->frame_control = cpu_to_le16(IEEE80211_FTYPE_MGMT |
  90                                           IEEE80211_STYPE_ACTION);
  91
  92         skb_put(skb, 1 + sizeof(mgmt->u.action.u.addba_req));
  93
  94         mgmt->u.action.category = WLAN_CATEGORY_BACK;
  95         mgmt->u.action.u.addba_req.action_code = WLAN_ACTION_ADDBA_REQ;
  96
  97         mgmt->u.action.u.addba_req.dialog_token = dialog_token;
  98         capab = IEEE80211_ADDBA_PARAM_AMSDU_MASK;
  99         capab |= IEEE80211_ADDBA_PARAM_POLICY_MASK;
 100         capab |= u16_encode_bits(tid, IEEE80211_ADDBA_PARAM_TID_MASK);
 101         capab |= u16_encode_bits(agg_size, IEEE80211_ADDBA_PARAM_BUF_SIZE_MASK);
 102
 103         mgmt->u.action.u.addba_req.capab = cpu_to_le16(capab);
 104
 105         mgmt->u.action.u.addba_req.timeout = cpu_to_le16(timeout);
 106         mgmt->u.action.u.addba_req.start_seq_num =
 107                                         cpu_to_le16(start_seq_num << 4);
 108
 109         ieee80211_tx_skb_tid(sdata, skb, tid, -1);
 110 }
 111
 112 void ieee80211_send_bar(struct ieee80211_vif *vif, u8 *ra, u16 tid, u16 ssn)
 113 {
 114         struct ieee80211_sub_if_data *sdata = vif_to_sdata(vif);
 115         struct ieee80211_local *local = sdata->local;
 116         struct sk_buff *skb;
 117         struct ieee80211_bar *bar;
 118         u16 bar_control = 0;
 119
 120         skb = dev_alloc_skb(sizeof(*bar) + local->hw.extra_tx_headroom);
 121         if (!skb)
 122                 return;
 123
 124         skb_reserve(skb, local->hw.extra_tx_headroom);
 125         bar = skb_put_zero(skb, sizeof(*bar));
 126         bar->frame_control = cpu_to_le16(IEEE80211_FTYPE_CTL |
 127                                          IEEE80211_STYPE_BACK_REQ);
 128         memcpy(bar->ra, ra, ETH_ALEN);
 129         memcpy(bar->ta, sdata->vif.addr, ETH_ALEN);
 130         bar_control |= (u16)IEEE80211_BAR_CTRL_ACK_POLICY_NORMAL;
 131         bar_control |= (u16)IEEE80211_BAR_CTRL_CBMTID_COMPRESSED_BA;
 132         bar_control |= (u16)(tid << IEEE80211_BAR_CTRL_TID_INFO_SHIFT);
 133         bar->control = cpu_to_le16(bar_control);
 134         bar->start_seq_num = cpu_to_le16(ssn);
 135
 136         IEEE80211_SKB_CB(skb)->flags |= IEEE80211_TX_INTFL_DONT_ENCRYPT |
 137                                         IEEE80211_TX_CTL_REQ_TX_STATUS;
 138         ieee80211_tx_skb_tid(sdata, skb, tid, -1);
 139 }
 140 EXPORT_SYMBOL(ieee80211_send_bar);
 141
 142 void ieee80211_assign_tid_tx(struct sta_info *sta, int tid,
 143                              struct tid_ampdu_tx *tid_tx)
 144 {
 145         lockdep_assert_held(&sta->ampdu_mlme.mtx);
 146         lockdep_assert_held(&sta->lock);
 147         rcu_assign_pointer(sta->ampdu_mlme.tid_tx[tid], tid_tx);
 148 }
 149
 150 /*
 151  * When multiple aggregation sessions on multiple stations
 152  * are being created/destroyed simultaneously, we need to
 153  * refcount the global queue stop caused by that in order
 154  * to not get into a situation where one of the aggregation
 155  * setup or teardown re-enables queues before the other is
 156  * ready to handle that.
 157  *
 158  * These two functions take care of this issue by keeping
 159  * a global "agg_queue_stop" refcount.
 160  */
 161 static void __acquires(agg_queue)
 162 ieee80211_stop_queue_agg(struct ieee80211_sub_if_data *sdata, int tid)
 163 {
 164         int queue = sdata->vif.hw_queue[ieee80211_ac_from_tid(tid)];
 165
 166         /* we do refcounting here, so don't use the queue reason refcounting */
 167
 168         if (atomic_inc_return(&sdata->local->agg_queue_stop[queue]) == 1)
 169                 ieee80211_stop_queue_by_reason(
 170                         &sdata->local->hw, queue,
 171                         IEEE80211_QUEUE_STOP_REASON_AGGREGATION,
 172                         false);
 173         __acquire(agg_queue);
 174 }
 175
 176 static void __releases(agg_queue)
 177 ieee80211_wake_queue_agg(struct ieee80211_sub_if_data *sdata, int tid)
 178 {
 179         int queue = sdata->vif.hw_queue[ieee80211_ac_from_tid(tid)];
 180
 181         if (atomic_dec_return(&sdata->local->agg_queue_stop[queue]) == 0)
 182                 ieee80211_wake_queue_by_reason(
 183                         &sdata->local->hw, queue,
 184                         IEEE80211_QUEUE_STOP_REASON_AGGREGATION,
 185                         false);
 186         __release(agg_queue);
 187 }
 188
 189 static void
 190 ieee80211_agg_stop_txq(struct sta_info *sta, int tid)
 191 {
 192         struct ieee80211_txq *txq = sta->sta.txq[tid];
 193         struct ieee80211_sub_if_data *sdata;
 194         struct fq *fq;
 195         struct txq_info *txqi;
 196
 197         if (!txq)
 198                 return;
 199
 200         txqi = to_txq_info(txq);
 201         sdata = vif_to_sdata(txq->vif);
 202         fq = &sdata->local->fq;
 203
 204         /* Lock here to protect against further seqno updates on dequeue */
 205         spin_lock_bh(&fq->lock);
 206         set_bit(IEEE80211_TXQ_STOP, &txqi->flags);
 207         spin_unlock_bh(&fq->lock);
 208 }
 209
 210 static void
 211 ieee80211_agg_start_txq(struct sta_info *sta, int tid, bool enable)
 212 {
 213         struct ieee80211_txq *txq = sta->sta.txq[tid];
 214         struct txq_info *txqi;
 215
 216         lockdep_assert_held(&sta->ampdu_mlme.mtx);
 217
 218         if (!txq)
 219                 return;
 220
 221         txqi = to_txq_info(txq);
 222
 223         if (enable)
 224                 set_bit(IEEE80211_TXQ_AMPDU, &txqi->flags);
 225         else
 226                 clear_bit(IEEE80211_TXQ_AMPDU, &txqi->flags);
 227
 228         clear_bit(IEEE80211_TXQ_STOP, &txqi->flags);
 229         local_bh_disable();
 230         rcu_read_lock();
 231         schedule_and_wake_txq(sta->sdata->local, txqi);
 232         rcu_read_unlock();
 233         local_bh_enable();
 234 }
 235
 236 /*
 237  * splice packets from the STA's pending to the local pending,
 238  * requires a call to ieee80211_agg_splice_finish later
 239  */
 240 static void __acquires(agg_queue)
 241 ieee80211_agg_splice_packets(struct ieee80211_sub_if_data *sdata,
 242                              struct tid_ampdu_tx *tid_tx, u16 tid)
 243 {
 244         struct ieee80211_local *local = sdata->local;
 245         int queue = sdata->vif.hw_queue[ieee80211_ac_from_tid(tid)];
 246         unsigned long flags;
 247
 248         ieee80211_stop_queue_agg(sdata, tid);
 249
 250         if (WARN(!tid_tx,
 251                  "TID %d gone but expected when splicing aggregates from the pending queue\n",
 252                  tid))
 253                 return;
 254
 255         if (!skb_queue_empty(&tid_tx->pending)) {
 256                 spin_lock_irqsave(&local->queue_stop_reason_lock, flags);
 257                 /* copy over remaining packets */
 258                 skb_queue_splice_tail_init(&tid_tx->pending,
 259                                            &local->pending[queue]);
 260                 spin_unlock_irqrestore(&local->queue_stop_reason_lock, flags);
 261         }
 262 }
 263
 264 static void __releases(agg_queue)
 265 ieee80211_agg_splice_finish(struct ieee80211_sub_if_data *sdata, u16 tid)
 266 {
 267         ieee80211_wake_queue_agg(sdata, tid);
 268 }
 269
 270 static void ieee80211_remove_tid_tx(struct sta_info *sta, int tid)
 271 {
 272         struct tid_ampdu_tx *tid_tx;
 273
 274         lockdep_assert_held(&sta->ampdu_mlme.mtx);
 275         lockdep_assert_held(&sta->lock);
 276
 277         tid_tx = rcu_dereference_protected_tid_tx(sta, tid);
 278
 279         /*
 280          * When we get here, the TX path will not be lockless any more wrt.
 281          * aggregation, since the OPERATIONAL bit has long been cleared.
 282          * Thus it will block on getting the lock, if it occurs. So if we
 283          * stop the queue now, we will not get any more packets, and any
 284          * that might be being processed will wait for us here, thereby
 285          * guaranteeing that no packets go to the tid_tx pending queue any
 286          * more.
 287          */
 288
 289         ieee80211_agg_splice_packets(sta->sdata, tid_tx, tid);
 290
 291         /* future packets must not find the tid_tx struct any more */
 292         ieee80211_assign_tid_tx(sta, tid, NULL);
 293
 294         ieee80211_agg_splice_finish(sta->sdata, tid);
 295
 296         kfree_rcu(tid_tx, rcu_head);
 297 }
 298
 299 int ___ieee80211_stop_tx_ba_session(struct sta_info *sta, u16 tid,
 300                                     enum ieee80211_agg_stop_reason reason)
 301 {
 302         struct ieee80211_local *local = sta->local;
 303         struct tid_ampdu_tx *tid_tx;
 304         struct ieee80211_ampdu_params params = {
 305                 .sta = &sta->sta,
 306                 .tid = tid,
 307                 .buf_size = 0,
 308                 .amsdu = false,
 309                 .timeout = 0,
 310                 .ssn = 0,
 311         };
 312         int ret;
 313
 314         lockdep_assert_held(&sta->ampdu_mlme.mtx);
 315
 316         switch (reason) {
 317         case AGG_STOP_DECLINED:
 318         case AGG_STOP_LOCAL_REQUEST:
 319         case AGG_STOP_PEER_REQUEST:
 320                 params.action = IEEE80211_AMPDU_TX_STOP_CONT;
 321                 break;
 322         case AGG_STOP_DESTROY_STA:
 323                 params.action = IEEE80211_AMPDU_TX_STOP_FLUSH;
 324                 break;
 325         default:
 326                 WARN_ON_ONCE(1);
 327                 return -EINVAL;
 328         }
 329
 330         spin_lock_bh(&sta->lock);
 331
 332         /* free struct pending for start, if present */
 333         tid_tx = sta->ampdu_mlme.tid_start_tx[tid];
 334         kfree(tid_tx);
 335         sta->ampdu_mlme.tid_start_tx[tid] = NULL;
 336
 337         tid_tx = rcu_dereference_protected_tid_tx(sta, tid);
 338         if (!tid_tx) {
 339                 spin_unlock_bh(&sta->lock);
 340                 return -ENOENT;
 341         }
 342
 343         /*
 344          * if we're already stopping ignore any new requests to stop
 345          * unless we're destroying it in which case notify the driver
 346          */
 347         if (test_bit(HT_AGG_STATE_STOPPING, &tid_tx->state)) {
 348                 spin_unlock_bh(&sta->lock);
 349                 if (reason != AGG_STOP_DESTROY_STA)
 350                         return -EALREADY;
 351                 params.action = IEEE80211_AMPDU_TX_STOP_FLUSH_CONT;
 352                 ret = drv_ampdu_action(local, sta->sdata, &params);
 353                 WARN_ON_ONCE(ret);
 354                 return 0;
 355         }
 356
 357         if (test_bit(HT_AGG_STATE_WANT_START, &tid_tx->state)) {
 358                 /* not even started yet! */
 359                 ieee80211_assign_tid_tx(sta, tid, NULL);
 360                 spin_unlock_bh(&sta->lock);
 361                 kfree_rcu(tid_tx, rcu_head);
 362                 return 0;
 363         }
 364
 365         set_bit(HT_AGG_STATE_STOPPING, &tid_tx->state);
 366
 367         ieee80211_agg_stop_txq(sta, tid);
 368
 369         spin_unlock_bh(&sta->lock);
 370
 371         ht_dbg(sta->sdata, "Tx BA session stop requested for %pM tid %u\n",
 372                sta->sta.addr, tid);
 373
 374         del_timer_sync(&tid_tx->addba_resp_timer);
 375         del_timer_sync(&tid_tx->session_timer);
 376
 377         /*
 378          * After this packets are no longer handed right through
 379          * to the driver but are put onto tid_tx->pending instead,
 380          * with locking to ensure proper access.
 381          */
 382         clear_bit(HT_AGG_STATE_OPERATIONAL, &tid_tx->state);
 383
 384         /*
 385          * There might be a few packets being processed right now (on
 386          * another CPU) that have already gotten past the aggregation
 387          * check when it was still OPERATIONAL and consequently have
 388          * IEEE80211_TX_CTL_AMPDU set. In that case, this code might
 389          * call into the driver at the same time or even before the
 390          * TX paths calls into it, which could confuse the driver.
 391          *
 392          * Wait for all currently running TX paths to finish before
 393          * telling the driver. New packets will not go through since
 394          * the aggregation session is no longer OPERATIONAL.
 395          */
 396         if (!local->in_reconfig)
 397                 synchronize_net();
 398
 399         tid_tx->stop_initiator = reason == AGG_STOP_PEER_REQUEST ?
 400                                         WLAN_BACK_RECIPIENT :
 401                                         WLAN_BACK_INITIATOR;
 402         tid_tx->tx_stop = reason == AGG_STOP_LOCAL_REQUEST;
 403
 404         ret = drv_ampdu_action(local, sta->sdata, &params);
 405
 406         /* HW shall not deny going back to legacy */
 407         if (WARN_ON(ret)) {
 408                 /*
 409                  * We may have pending packets get stuck in this case...
 410                  * Not bothering with a workaround for now.
 411                  */
 412         }
 413
 414         /*
 415          * In the case of AGG_STOP_DESTROY_STA, the driver won't
 416          * necessarily call ieee80211_stop_tx_ba_cb(), so this may
 417          * seem like we can leave the tid_tx data pending forever.
 418          * This is true, in a way, but "forever" is only until the
 419          * station struct is actually destroyed. In the meantime,
 420          * leaving it around ensures that we don't transmit packets
 421          * to the driver on this TID which might confuse it.
 422          */
 423
 424         return 0;
 425 }
 426
 427 /*
 428  * After sending add Block Ack request we activated a timer until
 429  * add Block Ack response will arrive from the recipient.
 430  * If this timer expires sta_addba_resp_timer_expired will be executed.
 431  */
 432 static void sta_addba_resp_timer_expired(struct timer_list *t)
 433 {
 434         struct tid_ampdu_tx *tid_tx = from_timer(tid_tx, t, addba_resp_timer);
 435         struct sta_info *sta = tid_tx->sta;
 436         u8 tid = tid_tx->tid;
 437
 438         /* check if the TID waits for addBA response */
 439         if (test_bit(HT_AGG_STATE_RESPONSE_RECEIVED, &tid_tx->state)) {
 440                 ht_dbg(sta->sdata,
 441                        "timer expired on %pM tid %d not expecting addBA response\n",
 442                        sta->sta.addr, tid);
 443                 return;
 444         }
 445
 446         ht_dbg(sta->sdata, "addBA response timer expired on %pM tid %d\n",
 447                sta->sta.addr, tid);
 448
 449         ieee80211_stop_tx_ba_session(&sta->sta, tid);
 450 }
 451
 452 static void ieee80211_send_addba_with_timeout(struct sta_info *sta,
 453                                               struct tid_ampdu_tx *tid_tx)
 454 {
 455         struct ieee80211_sub_if_data *sdata = sta->sdata;
 456         struct ieee80211_local *local = sta->local;
 457         u8 tid = tid_tx->tid;
 458         u16 buf_size;
 459
 460         if (WARN_ON_ONCE(test_bit(HT_AGG_STATE_STOPPING, &tid_tx->state) ||
 461                          test_bit(HT_AGG_STATE_WANT_STOP, &tid_tx->state)))
 462                 return;
 463
 464         lockdep_assert_held(&sta->ampdu_mlme.mtx);
 465
 466         /* activate the timer for the recipient's addBA response */
 467         mod_timer(&tid_tx->addba_resp_timer, jiffies + ADDBA_RESP_INTERVAL);
 468         ht_dbg(sdata, "activated addBA response timer on %pM tid %d\n",
 469                sta->sta.addr, tid);
 470
 471         spin_lock_bh(&sta->lock);
 472         sta->ampdu_mlme.last_addba_req_time[tid] = jiffies;
 473         sta->ampdu_mlme.addba_req_num[tid]++;
 474         spin_unlock_bh(&sta->lock);
 475
 476         if (sta->sta.deflink.he_cap.has_he) {
 477                 buf_size = local->hw.max_tx_aggregation_subframes;
 478         } else {
 479                 /*
 480                  * We really should use what the driver told us it will
 481                  * transmit as the maximum, but certain APs (e.g. the
 482                  * LinkSys WRT120N with FW v1.0.07 build 002 Jun 18 2012)
 483                  * will crash when we use a lower number.
 484                  */
 485                 buf_size = IEEE80211_MAX_AMPDU_BUF_HT;
 486         }
 487
 488         /* send AddBA request */
 489         ieee80211_send_addba_request(sdata, sta->sta.addr, tid,
 490                                      tid_tx->dialog_token, tid_tx->ssn,
 491                                      buf_size, tid_tx->timeout);
 492
 493         WARN_ON(test_and_set_bit(HT_AGG_STATE_SENT_ADDBA, &tid_tx->state));
 494 }
 495
 496 void ieee80211_tx_ba_session_handle_start(struct sta_info *sta, int tid)
 497 {
 498         struct tid_ampdu_tx *tid_tx;
 499         struct ieee80211_local *local = sta->local;
 500         struct ieee80211_sub_if_data *sdata;
 501         struct ieee80211_ampdu_params params = {
 502                 .sta = &sta->sta,
 503                 .action = IEEE80211_AMPDU_TX_START,
 504                 .tid = tid,
 505                 .buf_size = 0,
 506                 .amsdu = false,
 507                 .timeout = 0,
 508         };
 509         int ret;
 510
 511         tid_tx = rcu_dereference_protected_tid_tx(sta, tid);
 512
 513         /*
 514          * Start queuing up packets for this aggregation session.
 515          * We're going to release them once the driver is OK with
 516          * that.
 517          */
 518         clear_bit(HT_AGG_STATE_WANT_START, &tid_tx->state);
 519
 520         /*
 521          * Make sure no packets are being processed. This ensures that
 522          * we have a valid starting sequence number and that in-flight
 523          * packets have been flushed out and no packets for this TID
 524          * will go into the driver during the ampdu_action call.
 525          */
 526         synchronize_net();
 527
 528         sdata = sta->sdata;
 529         params.ssn = sta->tid_seq[tid] >> 4;
 530         ret = drv_ampdu_action(local, sdata, &params);
 531         tid_tx->ssn = params.ssn;
 532         if (ret == IEEE80211_AMPDU_TX_START_DELAY_ADDBA) {
 533                 return;
 534         } else if (ret == IEEE80211_AMPDU_TX_START_IMMEDIATE) {
 535                 /*
 536                  * We didn't send the request yet, so don't need to check
 537                  * here if we already got a response, just mark as driver
 538                  * ready immediately.
 539                  */
 540                 set_bit(HT_AGG_STATE_DRV_READY, &tid_tx->state);
 541         } else if (ret) {
 542                 if (!sdata)
 543                         return;
 544
 545                 ht_dbg(sdata,
 546                        "BA request denied - HW unavailable for %pM tid %d\n",
 547                        sta->sta.addr, tid);
 548                 spin_lock_bh(&sta->lock);
 549                 ieee80211_agg_splice_packets(sdata, tid_tx, tid);
 550                 ieee80211_assign_tid_tx(sta, tid, NULL);
 551                 ieee80211_agg_splice_finish(sdata, tid);
 552                 spin_unlock_bh(&sta->lock);
 553
 554                 ieee80211_agg_start_txq(sta, tid, false);
 555
 556                 kfree_rcu(tid_tx, rcu_head);
 557                 return;
 558         }
 559
 560         ieee80211_send_addba_with_timeout(sta, tid_tx);
 561 }
 562
 563 void ieee80211_refresh_tx_agg_session_timer(struct ieee80211_sta *pubsta,
 564                                             u16 tid)
 565 {
 566         struct sta_info *sta = container_of(pubsta, struct sta_info, sta);
 567         struct tid_ampdu_tx *tid_tx;
 568
 569         if (WARN_ON_ONCE(tid >= IEEE80211_NUM_TIDS))
 570                 return;
 571
 572         tid_tx = rcu_dereference(sta->ampdu_mlme.tid_tx[tid]);
 573         if (!tid_tx)
 574                 return;
 575
 576         tid_tx->last_tx = jiffies;
 577 }
 578 EXPORT_SYMBOL(ieee80211_refresh_tx_agg_session_timer);
 579
 580 /*
 581  * After accepting the AddBA Response we activated a timer,
 582  * resetting it after each frame that we send.
 583  */
 584 static void sta_tx_agg_session_timer_expired(struct timer_list *t)
 585 {
 586         struct tid_ampdu_tx *tid_tx = from_timer(tid_tx, t, session_timer);
 587         struct sta_info *sta = tid_tx->sta;
 588         u8 tid = tid_tx->tid;
 589         unsigned long timeout;
 590
 591         if (test_bit(HT_AGG_STATE_STOPPING, &tid_tx->state)) {
 592                 return;
 593         }
 594
 595         timeout = tid_tx->last_tx + TU_TO_JIFFIES(tid_tx->timeout);
 596         if (time_is_after_jiffies(timeout)) {
 597                 mod_timer(&tid_tx->session_timer, timeout);
 598                 return;
 599         }
 600
 601         ht_dbg(sta->sdata, "tx session timer expired on %pM tid %d\n",
 602                sta->sta.addr, tid);
 603
 604         ieee80211_stop_tx_ba_session(&sta->sta, tid);
 605 }
 606
 607 int ieee80211_start_tx_ba_session(struct ieee80211_sta *pubsta, u16 tid,
 608                                   u16 timeout)
 609 {
 610         struct sta_info *sta = container_of(pubsta, struct sta_info, sta);
 611         struct ieee80211_sub_if_data *sdata = sta->sdata;
 612         struct ieee80211_local *local = sdata->local;
 613         struct tid_ampdu_tx *tid_tx;
 614         int ret = 0;
 615
 616         trace_api_start_tx_ba_session(pubsta, tid);
 617
 618         if (WARN(sta->reserved_tid == tid,
 619                  "Requested to start BA session on reserved tid=%d", tid))
 620                 return -EINVAL;
 621
 622         if (!pubsta->deflink.ht_cap.ht_supported &&
 623             sta->sdata->vif.bss_conf.chandef.chan->band != NL80211_BAND_6GHZ)
 624                 return -EINVAL;
 625
 626         if (WARN_ON_ONCE(!local->ops->ampdu_action))
 627                 return -EINVAL;
 628
 629         if ((tid >= IEEE80211_NUM_TIDS) ||
 630             !ieee80211_hw_check(&local->hw, AMPDU_AGGREGATION) ||
 631             ieee80211_hw_check(&local->hw, TX_AMPDU_SETUP_IN_HW))
 632                 return -EINVAL;
 633
 634         if (WARN_ON(tid >= IEEE80211_FIRST_TSPEC_TSID))
 635                 return -EINVAL;
 636
 637         ht_dbg(sdata, "Open BA session requested for %pM tid %u\n",
 638                pubsta->addr, tid);
 639
 640         if (sdata->vif.type != NL80211_IFTYPE_STATION &&
 641             sdata->vif.type != NL80211_IFTYPE_MESH_POINT &&
 642             sdata->vif.type != NL80211_IFTYPE_AP_VLAN &&
 643             sdata->vif.type != NL80211_IFTYPE_AP &&
 644             sdata->vif.type != NL80211_IFTYPE_ADHOC)
 645                 return -EINVAL;
 646
 647         if (test_sta_flag(sta, WLAN_STA_BLOCK_BA)) {
 648                 ht_dbg(sdata,
 649                        "BA sessions blocked - Denying BA session request %pM tid %d\n",
 650                        sta->sta.addr, tid);
 651                 return -EINVAL;
 652         }
 653
 654         if (test_sta_flag(sta, WLAN_STA_MFP) &&
 655             !test_sta_flag(sta, WLAN_STA_AUTHORIZED)) {
 656                 ht_dbg(sdata,
 657                        "MFP STA not authorized - deny BA session request %pM tid %d\n",
 658                        sta->sta.addr, tid);
 659                 return -EINVAL;
 660         }
 661
 662         /*
 663          * 802.11n-2009 11.5.1.1: If the initiating STA is an HT STA, is a
 664          * member of an IBSS, and has no other existing Block Ack agreement
 665          * with the recipient STA, then the initiating STA shall transmit a
 666          * Probe Request frame to the recipient STA and shall not transmit an
 667          * ADDBA Request frame unless it receives a Probe Response frame
 668          * from the recipient within dot11ADDBAFailureTimeout.
 669          *
 670          * The probe request mechanism for ADDBA is currently not implemented,
 671          * but we only build up Block Ack session with HT STAs. This information
 672          * is set when we receive a bss info from a probe response or a beacon.
 673          */
 674         if (sta->sdata->vif.type == NL80211_IFTYPE_ADHOC &&
 675             !sta->sta.deflink.ht_cap.ht_supported) {
 676                 ht_dbg(sdata,
 677                        "BA request denied - IBSS STA %pM does not advertise HT support\n",
 678                        pubsta->addr);
 679                 return -EINVAL;
 680         }
 681
 682         spin_lock_bh(&sta->lock);
 683
 684         /* we have tried too many times, receiver does not want A-MPDU */
 685         if (sta->ampdu_mlme.addba_req_num[tid] > HT_AGG_MAX_RETRIES) {
 686                 ret = -EBUSY;
 687                 goto err_unlock_sta;
 688         }
 689
 690         /*
 691          * if we have tried more than HT_AGG_BURST_RETRIES times we
 692          * will spread our requests in time to avoid stalling connection
 693          * for too long
 694          */
 695         if (sta->ampdu_mlme.addba_req_num[tid] > HT_AGG_BURST_RETRIES &&
 696             time_before(jiffies, sta->ampdu_mlme.last_addba_req_time[tid] +
 697                         HT_AGG_RETRIES_PERIOD)) {
 698                 ht_dbg(sdata,
 699                        "BA request denied - %d failed requests on %pM tid %u\n",
 700                        sta->ampdu_mlme.addba_req_num[tid], sta->sta.addr, tid);
 701                 ret = -EBUSY;
 702                 goto err_unlock_sta;
 703         }
 704
 705         tid_tx = rcu_dereference_protected_tid_tx(sta, tid);
 706         /* check if the TID is not in aggregation flow already */
 707         if (tid_tx || sta->ampdu_mlme.tid_start_tx[tid]) {
 708                 ht_dbg(sdata,
 709                        "BA request denied - session is not idle on %pM tid %u\n",
 710                        sta->sta.addr, tid);
 711                 ret = -EAGAIN;
 712                 goto err_unlock_sta;
 713         }
 714
 715         /* prepare A-MPDU MLME for Tx aggregation */
 716         tid_tx = kzalloc(sizeof(struct tid_ampdu_tx), GFP_ATOMIC);
 717         if (!tid_tx) {
 718                 ret = -ENOMEM;
 719                 goto err_unlock_sta;
 720         }
 721
 722         skb_queue_head_init(&tid_tx->pending);
 723         __set_bit(HT_AGG_STATE_WANT_START, &tid_tx->state);
 724
 725         tid_tx->timeout = timeout;
 726         tid_tx->sta = sta;
 727         tid_tx->tid = tid;
 728
 729         /* response timer */
 730         timer_setup(&tid_tx->addba_resp_timer, sta_addba_resp_timer_expired, 0);
 731
 732         /* tx timer */
 733         timer_setup(&tid_tx->session_timer,
 734                     sta_tx_agg_session_timer_expired, TIMER_DEFERRABLE);
 735
 736         /* assign a dialog token */
 737         sta->ampdu_mlme.dialog_token_allocator++;
 738         tid_tx->dialog_token = sta->ampdu_mlme.dialog_token_allocator;
 739
 740         /*
 741          * Finally, assign it to the start array; the work item will
 742          * collect it and move it to the normal array.
 743          */
 744         sta->ampdu_mlme.tid_start_tx[tid] = tid_tx;
 745
 746         ieee80211_queue_work(&local->hw, &sta->ampdu_mlme.work);
 747
 748         /* this flow continues off the work */
 749  err_unlock_sta:
 750         spin_unlock_bh(&sta->lock);
 751         return ret;
 752 }
 753 EXPORT_SYMBOL(ieee80211_start_tx_ba_session);
 754
 755 static void ieee80211_agg_tx_operational(struct ieee80211_local *local,
 756                                          struct sta_info *sta, u16 tid)
 757 {
 758         struct tid_ampdu_tx *tid_tx;
 759         struct ieee80211_ampdu_params params = {
 760                 .sta = &sta->sta,
 761                 .action = IEEE80211_AMPDU_TX_OPERATIONAL,
 762                 .tid = tid,
 763                 .timeout = 0,
 764                 .ssn = 0,
 765         };
 766
 767         lockdep_assert_held(&sta->ampdu_mlme.mtx);
 768
 769         tid_tx = rcu_dereference_protected_tid_tx(sta, tid);
 770         params.buf_size = tid_tx->buf_size;
 771         params.amsdu = tid_tx->amsdu;
 772
 773         ht_dbg(sta->sdata, "Aggregation is on for %pM tid %d\n",
 774                sta->sta.addr, tid);
 775
 776         drv_ampdu_action(local, sta->sdata, &params);
 777
 778         /*
 779          * synchronize with TX path, while splicing the TX path
 780          * should block so it won't put more packets onto pending.
 781          */
 782         spin_lock_bh(&sta->lock);
 783
 784         ieee80211_agg_splice_packets(sta->sdata, tid_tx, tid);
 785         /*
 786          * Now mark as operational. This will be visible
 787          * in the TX path, and lets it go lock-free in
 788          * the common case.
 789          */
 790         set_bit(HT_AGG_STATE_OPERATIONAL, &tid_tx->state);
 791         ieee80211_agg_splice_finish(sta->sdata, tid);
 792
 793         spin_unlock_bh(&sta->lock);
 794
 795         ieee80211_agg_start_txq(sta, tid, true);
 796 }
 797
 798 void ieee80211_start_tx_ba_cb(struct sta_info *sta, int tid,
 799                               struct tid_ampdu_tx *tid_tx)
 800 {
 801         struct ieee80211_sub_if_data *sdata = sta->sdata;
 802         struct ieee80211_local *local = sdata->local;
 803
 804         lockdep_assert_held(&sta->ampdu_mlme.mtx);
 805
 806         if (WARN_ON(test_and_set_bit(HT_AGG_STATE_DRV_READY, &tid_tx->state)))
 807                 return;
 808
 809         if (test_bit(HT_AGG_STATE_STOPPING, &tid_tx->state) ||
 810             test_bit(HT_AGG_STATE_WANT_STOP, &tid_tx->state))
 811                 return;
 812
 813         if (!test_bit(HT_AGG_STATE_SENT_ADDBA, &tid_tx->state)) {
 814                 ieee80211_send_addba_with_timeout(sta, tid_tx);
 815                 /* RESPONSE_RECEIVED state whould trigger the flow again */
 816                 return;
 817         }
 818
 819         if (test_bit(HT_AGG_STATE_RESPONSE_RECEIVED, &tid_tx->state))
 820                 ieee80211_agg_tx_operational(local, sta, tid);
 821 }
 822
 823 static struct tid_ampdu_tx *
 824 ieee80211_lookup_tid_tx(struct ieee80211_sub_if_data *sdata,
 825                         const u8 *ra, u16 tid, struct sta_info **sta)
 826 {
 827         struct tid_ampdu_tx *tid_tx;
 828
 829         if (tid >= IEEE80211_NUM_TIDS) {
 830                 ht_dbg(sdata, "Bad TID value: tid = %d (>= %d)\n",
 831                        tid, IEEE80211_NUM_TIDS);
 832                 return NULL;
 833         }
 834
 835         *sta = sta_info_get_bss(sdata, ra);
 836         if (!*sta) {
 837                 ht_dbg(sdata, "Could not find station: %pM\n", ra);
 838                 return NULL;
 839         }
 840
 841         tid_tx = rcu_dereference((*sta)->ampdu_mlme.tid_tx[tid]);
 842
 843         if (WARN_ON(!tid_tx))
 844                 ht_dbg(sdata, "addBA was not requested!\n");
 845
 846         return tid_tx;
 847 }
 848
 849 void ieee80211_start_tx_ba_cb_irqsafe(struct ieee80211_vif *vif,
 850                                       const u8 *ra, u16 tid)
 851 {
 852         struct ieee80211_sub_if_data *sdata = vif_to_sdata(vif);
 853         struct ieee80211_local *local = sdata->local;
 854         struct sta_info *sta;
 855         struct tid_ampdu_tx *tid_tx;
 856
 857         trace_api_start_tx_ba_cb(sdata, ra, tid);
 858
 859         rcu_read_lock();
 860         tid_tx = ieee80211_lookup_tid_tx(sdata, ra, tid, &sta);
 861         if (!tid_tx)
 862                 goto out;
 863
 864         set_bit(HT_AGG_STATE_START_CB, &tid_tx->state);
 865         ieee80211_queue_work(&local->hw, &sta->ampdu_mlme.work);
 866  out:
 867         rcu_read_unlock();
 868 }
 869 EXPORT_SYMBOL(ieee80211_start_tx_ba_cb_irqsafe);
 870
 871 int __ieee80211_stop_tx_ba_session(struct sta_info *sta, u16 tid,
 872                                    enum ieee80211_agg_stop_reason reason)
 873 {
 874         int ret;
 875
 876         mutex_lock(&sta->ampdu_mlme.mtx);
 877
 878         ret = ___ieee80211_stop_tx_ba_session(sta, tid, reason);
 879
 880         mutex_unlock(&sta->ampdu_mlme.mtx);
 881
 882         return ret;
 883 }
 884
 885 int ieee80211_stop_tx_ba_session(struct ieee80211_sta *pubsta, u16 tid)
 886 {
 887         struct sta_info *sta = container_of(pubsta, struct sta_info, sta);
 888         struct ieee80211_sub_if_data *sdata = sta->sdata;
 889         struct ieee80211_local *local = sdata->local;
 890         struct tid_ampdu_tx *tid_tx;
 891         int ret = 0;
 892
 893         trace_api_stop_tx_ba_session(pubsta, tid);
 894
 895         if (!local->ops->ampdu_action)
 896                 return -EINVAL;
 897
 898         if (tid >= IEEE80211_NUM_TIDS)
 899                 return -EINVAL;
 900
 901         spin_lock_bh(&sta->lock);
 902         tid_tx = rcu_dereference_protected_tid_tx(sta, tid);
 903
 904         if (!tid_tx) {
 905                 ret = -ENOENT;
 906                 goto unlock;
 907         }
 908
 909         WARN(sta->reserved_tid == tid,
 910              "Requested to stop BA session on reserved tid=%d", tid);
 911
 912         if (test_bit(HT_AGG_STATE_STOPPING, &tid_tx->state)) {
 913                 /* already in progress stopping it */
 914                 ret = 0;
 915                 goto unlock;
 916         }
 917
 918         set_bit(HT_AGG_STATE_WANT_STOP, &tid_tx->state);
 919         ieee80211_queue_work(&local->hw, &sta->ampdu_mlme.work);
 920
 921  unlock:
 922         spin_unlock_bh(&sta->lock);
 923         return ret;
 924 }
 925 EXPORT_SYMBOL(ieee80211_stop_tx_ba_session);
 926
 927 void ieee80211_stop_tx_ba_cb(struct sta_info *sta, int tid,
 928                              struct tid_ampdu_tx *tid_tx)
 929 {
 930         struct ieee80211_sub_if_data *sdata = sta->sdata;
 931         bool send_delba = false;
 932         bool start_txq = false;
 933
 934         ht_dbg(sdata, "Stopping Tx BA session for %pM tid %d\n",
 935                sta->sta.addr, tid);
 936
 937         spin_lock_bh(&sta->lock);
 938
 939         if (!test_bit(HT_AGG_STATE_STOPPING, &tid_tx->state)) {
 940                 ht_dbg(sdata,
 941                        "unexpected callback to A-MPDU stop for %pM tid %d\n",
 942                        sta->sta.addr, tid);
 943                 goto unlock_sta;
 944         }
 945
 946         if (tid_tx->stop_initiator == WLAN_BACK_INITIATOR && tid_tx->tx_stop)
 947                 send_delba = true;
 948
 949         ieee80211_remove_tid_tx(sta, tid);
 950         start_txq = true;
 951
 952  unlock_sta:
 953         spin_unlock_bh(&sta->lock);
 954
 955         if (start_txq)
 956                 ieee80211_agg_start_txq(sta, tid, false);
 957
 958         if (send_delba)
 959                 ieee80211_send_delba(sdata, sta->sta.addr, tid,
 960                         WLAN_BACK_INITIATOR, WLAN_REASON_QSTA_NOT_USE);
 961 }
 962
 963 void ieee80211_stop_tx_ba_cb_irqsafe(struct ieee80211_vif *vif,
 964                                      const u8 *ra, u16 tid)
 965 {
 966         struct ieee80211_sub_if_data *sdata = vif_to_sdata(vif);
 967         struct ieee80211_local *local = sdata->local;
 968         struct sta_info *sta;
 969         struct tid_ampdu_tx *tid_tx;
 970
 971         trace_api_stop_tx_ba_cb(sdata, ra, tid);
 972
 973         rcu_read_lock();
 974         tid_tx = ieee80211_lookup_tid_tx(sdata, ra, tid, &sta);
 975         if (!tid_tx)
 976                 goto out;
 977
 978         set_bit(HT_AGG_STATE_STOP_CB, &tid_tx->state);
 979         ieee80211_queue_work(&local->hw, &sta->ampdu_mlme.work);
 980  out:
 981         rcu_read_unlock();
 982 }
 983 EXPORT_SYMBOL(ieee80211_stop_tx_ba_cb_irqsafe);
 984
 985
 986 void ieee80211_process_addba_resp(struct ieee80211_local *local,
 987                                   struct sta_info *sta,
 988                                   struct ieee80211_mgmt *mgmt,
 989                                   size_t len)
 990 {
 991         struct tid_ampdu_tx *tid_tx;
 992         struct ieee80211_txq *txq;
 993         u16 capab, tid, buf_size;
 994         bool amsdu;
 995
 996         capab = le16_to_cpu(mgmt->u.action.u.addba_resp.capab);
 997         amsdu = capab & IEEE80211_ADDBA_PARAM_AMSDU_MASK;
 998         tid = u16_get_bits(capab, IEEE80211_ADDBA_PARAM_TID_MASK);
 999         buf_size = u16_get_bits(capab, IEEE80211_ADDBA_PARAM_BUF_SIZE_MASK);
1000         buf_size = min(buf_size, local->hw.max_tx_aggregation_subframes);
1001
1002         txq = sta->sta.txq[tid];
1003         if (!amsdu && txq)
1004                 set_bit(IEEE80211_TXQ_NO_AMSDU, &to_txq_info(txq)->flags);
1005
1006         mutex_lock(&sta->ampdu_mlme.mtx);
1007
1008         tid_tx = rcu_dereference_protected_tid_tx(sta, tid);
1009         if (!tid_tx)
1010                 goto out;
1011
1012         if (mgmt->u.action.u.addba_resp.dialog_token != tid_tx->dialog_token) {
1013                 ht_dbg(sta->sdata, "wrong addBA response token, %pM tid %d\n",
1014                        sta->sta.addr, tid);
1015                 goto out;
1016         }
1017
1018         del_timer_sync(&tid_tx->addba_resp_timer);
1019
1020         ht_dbg(sta->sdata, "switched off addBA timer for %pM tid %d\n",
1021                sta->sta.addr, tid);
1022
1023         /*
1024          * addba_resp_timer may have fired before we got here, and
1025          * caused WANT_STOP to be set. If the stop then was already
1026          * processed further, STOPPING might be set.
1027          */
1028         if (test_bit(HT_AGG_STATE_WANT_STOP, &tid_tx->state) ||
1029             test_bit(HT_AGG_STATE_STOPPING, &tid_tx->state)) {
1030                 ht_dbg(sta->sdata,
1031                        "got addBA resp for %pM tid %d but we already gave up\n",
1032                        sta->sta.addr, tid);
1033                 goto out;
1034         }
1035
1036         /*
1037          * IEEE 802.11-2007 7.3.1.14:
1038          * In an ADDBA Response frame, when the Status Code field
1039          * is set to 0, the Buffer Size subfield is set to a value
1040          * of at least 1.
1041          */
1042         if (le16_to_cpu(mgmt->u.action.u.addba_resp.status)
1043                         == WLAN_STATUS_SUCCESS && buf_size) {
1044                 if (test_and_set_bit(HT_AGG_STATE_RESPONSE_RECEIVED,
1045                                      &tid_tx->state)) {
1046                         /* ignore duplicate response */
1047                         goto out;
1048                 }
1049
1050                 tid_tx->buf_size = buf_size;
1051                 tid_tx->amsdu = amsdu;
1052
1053                 if (test_bit(HT_AGG_STATE_DRV_READY, &tid_tx->state))
1054                         ieee80211_agg_tx_operational(local, sta, tid);
1055
1056                 sta->ampdu_mlme.addba_req_num[tid] = 0;
1057
1058                 tid_tx->timeout =
1059                         le16_to_cpu(mgmt->u.action.u.addba_resp.timeout);
1060
1061                 if (tid_tx->timeout) {
1062                         mod_timer(&tid_tx->session_timer,
1063                                   TU_TO_EXP_TIME(tid_tx->timeout));
1064                         tid_tx->last_tx = jiffies;
1065                 }
1066
1067         } else {
1068                 ___ieee80211_stop_tx_ba_session(sta, tid, AGG_STOP_DECLINED);
1069         }
1070
1071  out:
1072         mutex_unlock(&sta->ampdu_mlme.mtx);
1073 }