net/mac80211/mesh_plink: Convert timers to use timer_setup()
[platform/kernel/linux-rpi.git] / net / mac80211 / sta_info.c
1 /*
2  * Copyright 2002-2005, Instant802 Networks, Inc.
3  * Copyright 2006-2007  Jiri Benc <jbenc@suse.cz>
4  * Copyright 2013-2014  Intel Mobile Communications GmbH
5  * Copyright (C) 2015 - 2017 Intel Deutschland GmbH
6  *
7  * This program is free software; you can redistribute it and/or modify
8  * it under the terms of the GNU General Public License version 2 as
9  * published by the Free Software Foundation.
10  */
11
12 #include <linux/module.h>
13 #include <linux/init.h>
14 #include <linux/etherdevice.h>
15 #include <linux/netdevice.h>
16 #include <linux/types.h>
17 #include <linux/slab.h>
18 #include <linux/skbuff.h>
19 #include <linux/if_arp.h>
20 #include <linux/timer.h>
21 #include <linux/rtnetlink.h>
22
23 #include <net/codel.h>
24 #include <net/mac80211.h>
25 #include "ieee80211_i.h"
26 #include "driver-ops.h"
27 #include "rate.h"
28 #include "sta_info.h"
29 #include "debugfs_sta.h"
30 #include "mesh.h"
31 #include "wme.h"
32
33 /**
34  * DOC: STA information lifetime rules
35  *
36  * STA info structures (&struct sta_info) are managed in a hash table
37  * for faster lookup and a list for iteration. They are managed using
38  * RCU, i.e. access to the list and hash table is protected by RCU.
39  *
40  * Upon allocating a STA info structure with sta_info_alloc(), the caller
41  * owns that structure. It must then insert it into the hash table using
42  * either sta_info_insert() or sta_info_insert_rcu(); only in the latter
43  * case (which acquires an rcu read section but must not be called from
44  * within one) will the pointer still be valid after the call. Note that
45  * the caller may not do much with the STA info before inserting it, in
46  * particular, it may not start any mesh peer link management or add
47  * encryption keys.
48  *
49  * When the insertion fails (sta_info_insert()) returns non-zero), the
50  * structure will have been freed by sta_info_insert()!
51  *
52  * Station entries are added by mac80211 when you establish a link with a
53  * peer. This means different things for the different type of interfaces
54  * we support. For a regular station this mean we add the AP sta when we
55  * receive an association response from the AP. For IBSS this occurs when
56  * get to know about a peer on the same IBSS. For WDS we add the sta for
57  * the peer immediately upon device open. When using AP mode we add stations
58  * for each respective station upon request from userspace through nl80211.
59  *
60  * In order to remove a STA info structure, various sta_info_destroy_*()
61  * calls are available.
62  *
63  * There is no concept of ownership on a STA entry, each structure is
64  * owned by the global hash table/list until it is removed. All users of
65  * the structure need to be RCU protected so that the structure won't be
66  * freed before they are done using it.
67  */
68
69 static const struct rhashtable_params sta_rht_params = {
70         .nelem_hint = 3, /* start small */
71         .automatic_shrinking = true,
72         .head_offset = offsetof(struct sta_info, hash_node),
73         .key_offset = offsetof(struct sta_info, addr),
74         .key_len = ETH_ALEN,
75         .max_size = CONFIG_MAC80211_STA_HASH_MAX_SIZE,
76 };
77
78 /* Caller must hold local->sta_mtx */
79 static int sta_info_hash_del(struct ieee80211_local *local,
80                              struct sta_info *sta)
81 {
82         return rhltable_remove(&local->sta_hash, &sta->hash_node,
83                                sta_rht_params);
84 }
85
86 static void __cleanup_single_sta(struct sta_info *sta)
87 {
88         int ac, i;
89         struct tid_ampdu_tx *tid_tx;
90         struct ieee80211_sub_if_data *sdata = sta->sdata;
91         struct ieee80211_local *local = sdata->local;
92         struct fq *fq = &local->fq;
93         struct ps_data *ps;
94
95         if (test_sta_flag(sta, WLAN_STA_PS_STA) ||
96             test_sta_flag(sta, WLAN_STA_PS_DRIVER) ||
97             test_sta_flag(sta, WLAN_STA_PS_DELIVER)) {
98                 if (sta->sdata->vif.type == NL80211_IFTYPE_AP ||
99                     sta->sdata->vif.type == NL80211_IFTYPE_AP_VLAN)
100                         ps = &sdata->bss->ps;
101                 else if (ieee80211_vif_is_mesh(&sdata->vif))
102                         ps = &sdata->u.mesh.ps;
103                 else
104                         return;
105
106                 clear_sta_flag(sta, WLAN_STA_PS_STA);
107                 clear_sta_flag(sta, WLAN_STA_PS_DRIVER);
108                 clear_sta_flag(sta, WLAN_STA_PS_DELIVER);
109
110                 atomic_dec(&ps->num_sta_ps);
111         }
112
113         if (sta->sta.txq[0]) {
114                 for (i = 0; i < ARRAY_SIZE(sta->sta.txq); i++) {
115                         struct txq_info *txqi = to_txq_info(sta->sta.txq[i]);
116
117                         spin_lock_bh(&fq->lock);
118                         ieee80211_txq_purge(local, txqi);
119                         spin_unlock_bh(&fq->lock);
120                 }
121         }
122
123         for (ac = 0; ac < IEEE80211_NUM_ACS; ac++) {
124                 local->total_ps_buffered -= skb_queue_len(&sta->ps_tx_buf[ac]);
125                 ieee80211_purge_tx_queue(&local->hw, &sta->ps_tx_buf[ac]);
126                 ieee80211_purge_tx_queue(&local->hw, &sta->tx_filtered[ac]);
127         }
128
129         if (ieee80211_vif_is_mesh(&sdata->vif))
130                 mesh_sta_cleanup(sta);
131
132         cancel_work_sync(&sta->drv_deliver_wk);
133
134         /*
135          * Destroy aggregation state here. It would be nice to wait for the
136          * driver to finish aggregation stop and then clean up, but for now
137          * drivers have to handle aggregation stop being requested, followed
138          * directly by station destruction.
139          */
140         for (i = 0; i < IEEE80211_NUM_TIDS; i++) {
141                 kfree(sta->ampdu_mlme.tid_start_tx[i]);
142                 tid_tx = rcu_dereference_raw(sta->ampdu_mlme.tid_tx[i]);
143                 if (!tid_tx)
144                         continue;
145                 ieee80211_purge_tx_queue(&local->hw, &tid_tx->pending);
146                 kfree(tid_tx);
147         }
148 }
149
150 static void cleanup_single_sta(struct sta_info *sta)
151 {
152         struct ieee80211_sub_if_data *sdata = sta->sdata;
153         struct ieee80211_local *local = sdata->local;
154
155         __cleanup_single_sta(sta);
156         sta_info_free(local, sta);
157 }
158
159 struct rhlist_head *sta_info_hash_lookup(struct ieee80211_local *local,
160                                          const u8 *addr)
161 {
162         return rhltable_lookup(&local->sta_hash, addr, sta_rht_params);
163 }
164
165 /* protected by RCU */
166 struct sta_info *sta_info_get(struct ieee80211_sub_if_data *sdata,
167                               const u8 *addr)
168 {
169         struct ieee80211_local *local = sdata->local;
170         struct rhlist_head *tmp;
171         struct sta_info *sta;
172
173         rcu_read_lock();
174         for_each_sta_info(local, addr, sta, tmp) {
175                 if (sta->sdata == sdata) {
176                         rcu_read_unlock();
177                         /* this is safe as the caller must already hold
178                          * another rcu read section or the mutex
179                          */
180                         return sta;
181                 }
182         }
183         rcu_read_unlock();
184         return NULL;
185 }
186
187 /*
188  * Get sta info either from the specified interface
189  * or from one of its vlans
190  */
191 struct sta_info *sta_info_get_bss(struct ieee80211_sub_if_data *sdata,
192                                   const u8 *addr)
193 {
194         struct ieee80211_local *local = sdata->local;
195         struct rhlist_head *tmp;
196         struct sta_info *sta;
197
198         rcu_read_lock();
199         for_each_sta_info(local, addr, sta, tmp) {
200                 if (sta->sdata == sdata ||
201                     (sta->sdata->bss && sta->sdata->bss == sdata->bss)) {
202                         rcu_read_unlock();
203                         /* this is safe as the caller must already hold
204                          * another rcu read section or the mutex
205                          */
206                         return sta;
207                 }
208         }
209         rcu_read_unlock();
210         return NULL;
211 }
212
213 struct sta_info *sta_info_get_by_idx(struct ieee80211_sub_if_data *sdata,
214                                      int idx)
215 {
216         struct ieee80211_local *local = sdata->local;
217         struct sta_info *sta;
218         int i = 0;
219
220         list_for_each_entry_rcu(sta, &local->sta_list, list) {
221                 if (sdata != sta->sdata)
222                         continue;
223                 if (i < idx) {
224                         ++i;
225                         continue;
226                 }
227                 return sta;
228         }
229
230         return NULL;
231 }
232
233 /**
234  * sta_info_free - free STA
235  *
236  * @local: pointer to the global information
237  * @sta: STA info to free
238  *
239  * This function must undo everything done by sta_info_alloc()
240  * that may happen before sta_info_insert(). It may only be
241  * called when sta_info_insert() has not been attempted (and
242  * if that fails, the station is freed anyway.)
243  */
244 void sta_info_free(struct ieee80211_local *local, struct sta_info *sta)
245 {
246         if (sta->rate_ctrl)
247                 rate_control_free_sta(sta);
248
249         sta_dbg(sta->sdata, "Destroyed STA %pM\n", sta->sta.addr);
250
251         if (sta->sta.txq[0])
252                 kfree(to_txq_info(sta->sta.txq[0]));
253         kfree(rcu_dereference_raw(sta->sta.rates));
254 #ifdef CONFIG_MAC80211_MESH
255         kfree(sta->mesh);
256 #endif
257         free_percpu(sta->pcpu_rx_stats);
258         kfree(sta);
259 }
260
261 /* Caller must hold local->sta_mtx */
262 static int sta_info_hash_add(struct ieee80211_local *local,
263                              struct sta_info *sta)
264 {
265         return rhltable_insert(&local->sta_hash, &sta->hash_node,
266                                sta_rht_params);
267 }
268
269 static void sta_deliver_ps_frames(struct work_struct *wk)
270 {
271         struct sta_info *sta;
272
273         sta = container_of(wk, struct sta_info, drv_deliver_wk);
274
275         if (sta->dead)
276                 return;
277
278         local_bh_disable();
279         if (!test_sta_flag(sta, WLAN_STA_PS_STA))
280                 ieee80211_sta_ps_deliver_wakeup(sta);
281         else if (test_and_clear_sta_flag(sta, WLAN_STA_PSPOLL))
282                 ieee80211_sta_ps_deliver_poll_response(sta);
283         else if (test_and_clear_sta_flag(sta, WLAN_STA_UAPSD))
284                 ieee80211_sta_ps_deliver_uapsd(sta);
285         local_bh_enable();
286 }
287
288 static int sta_prepare_rate_control(struct ieee80211_local *local,
289                                     struct sta_info *sta, gfp_t gfp)
290 {
291         if (ieee80211_hw_check(&local->hw, HAS_RATE_CONTROL))
292                 return 0;
293
294         sta->rate_ctrl = local->rate_ctrl;
295         sta->rate_ctrl_priv = rate_control_alloc_sta(sta->rate_ctrl,
296                                                      sta, gfp);
297         if (!sta->rate_ctrl_priv)
298                 return -ENOMEM;
299
300         return 0;
301 }
302
303 struct sta_info *sta_info_alloc(struct ieee80211_sub_if_data *sdata,
304                                 const u8 *addr, gfp_t gfp)
305 {
306         struct ieee80211_local *local = sdata->local;
307         struct ieee80211_hw *hw = &local->hw;
308         struct sta_info *sta;
309         int i;
310
311         sta = kzalloc(sizeof(*sta) + hw->sta_data_size, gfp);
312         if (!sta)
313                 return NULL;
314
315         if (ieee80211_hw_check(hw, USES_RSS)) {
316                 sta->pcpu_rx_stats =
317                         alloc_percpu(struct ieee80211_sta_rx_stats);
318                 if (!sta->pcpu_rx_stats)
319                         goto free;
320         }
321
322         spin_lock_init(&sta->lock);
323         spin_lock_init(&sta->ps_lock);
324         INIT_WORK(&sta->drv_deliver_wk, sta_deliver_ps_frames);
325         INIT_WORK(&sta->ampdu_mlme.work, ieee80211_ba_session_work);
326         mutex_init(&sta->ampdu_mlme.mtx);
327 #ifdef CONFIG_MAC80211_MESH
328         if (ieee80211_vif_is_mesh(&sdata->vif)) {
329                 sta->mesh = kzalloc(sizeof(*sta->mesh), gfp);
330                 if (!sta->mesh)
331                         goto free;
332                 sta->mesh->plink_sta = sta;
333                 spin_lock_init(&sta->mesh->plink_lock);
334                 if (ieee80211_vif_is_mesh(&sdata->vif) &&
335                     !sdata->u.mesh.user_mpm)
336                         timer_setup(&sta->mesh->plink_timer, mesh_plink_timer,
337                                     0);
338                 sta->mesh->nonpeer_pm = NL80211_MESH_POWER_ACTIVE;
339         }
340 #endif
341
342         memcpy(sta->addr, addr, ETH_ALEN);
343         memcpy(sta->sta.addr, addr, ETH_ALEN);
344         sta->sta.max_rx_aggregation_subframes =
345                 local->hw.max_rx_aggregation_subframes;
346
347         sta->local = local;
348         sta->sdata = sdata;
349         sta->rx_stats.last_rx = jiffies;
350
351         u64_stats_init(&sta->rx_stats.syncp);
352
353         sta->sta_state = IEEE80211_STA_NONE;
354
355         /* Mark TID as unreserved */
356         sta->reserved_tid = IEEE80211_TID_UNRESERVED;
357
358         sta->last_connected = ktime_get_seconds();
359         ewma_signal_init(&sta->rx_stats_avg.signal);
360         for (i = 0; i < ARRAY_SIZE(sta->rx_stats_avg.chain_signal); i++)
361                 ewma_signal_init(&sta->rx_stats_avg.chain_signal[i]);
362
363         if (local->ops->wake_tx_queue) {
364                 void *txq_data;
365                 int size = sizeof(struct txq_info) +
366                            ALIGN(hw->txq_data_size, sizeof(void *));
367
368                 txq_data = kcalloc(ARRAY_SIZE(sta->sta.txq), size, gfp);
369                 if (!txq_data)
370                         goto free;
371
372                 for (i = 0; i < ARRAY_SIZE(sta->sta.txq); i++) {
373                         struct txq_info *txq = txq_data + i * size;
374
375                         ieee80211_txq_init(sdata, sta, txq, i);
376                 }
377         }
378
379         if (sta_prepare_rate_control(local, sta, gfp))
380                 goto free_txq;
381
382         for (i = 0; i < IEEE80211_NUM_TIDS; i++) {
383                 /*
384                  * timer_to_tid must be initialized with identity mapping
385                  * to enable session_timer's data differentiation. See
386                  * sta_rx_agg_session_timer_expired for usage.
387                  */
388                 sta->timer_to_tid[i] = i;
389         }
390         for (i = 0; i < IEEE80211_NUM_ACS; i++) {
391                 skb_queue_head_init(&sta->ps_tx_buf[i]);
392                 skb_queue_head_init(&sta->tx_filtered[i]);
393         }
394
395         for (i = 0; i < IEEE80211_NUM_TIDS; i++)
396                 sta->last_seq_ctrl[i] = cpu_to_le16(USHRT_MAX);
397
398         sta->sta.smps_mode = IEEE80211_SMPS_OFF;
399         if (sdata->vif.type == NL80211_IFTYPE_AP ||
400             sdata->vif.type == NL80211_IFTYPE_AP_VLAN) {
401                 struct ieee80211_supported_band *sband;
402                 u8 smps;
403
404                 sband = ieee80211_get_sband(sdata);
405                 if (!sband)
406                         goto free_txq;
407
408                 smps = (sband->ht_cap.cap & IEEE80211_HT_CAP_SM_PS) >>
409                         IEEE80211_HT_CAP_SM_PS_SHIFT;
410                 /*
411                  * Assume that hostapd advertises our caps in the beacon and
412                  * this is the known_smps_mode for a station that just assciated
413                  */
414                 switch (smps) {
415                 case WLAN_HT_SMPS_CONTROL_DISABLED:
416                         sta->known_smps_mode = IEEE80211_SMPS_OFF;
417                         break;
418                 case WLAN_HT_SMPS_CONTROL_STATIC:
419                         sta->known_smps_mode = IEEE80211_SMPS_STATIC;
420                         break;
421                 case WLAN_HT_SMPS_CONTROL_DYNAMIC:
422                         sta->known_smps_mode = IEEE80211_SMPS_DYNAMIC;
423                         break;
424                 default:
425                         WARN_ON(1);
426                 }
427         }
428
429         sta->sta.max_rc_amsdu_len = IEEE80211_MAX_MPDU_LEN_HT_BA;
430
431         sta->cparams.ce_threshold = CODEL_DISABLED_THRESHOLD;
432         sta->cparams.target = MS2TIME(20);
433         sta->cparams.interval = MS2TIME(100);
434         sta->cparams.ecn = true;
435
436         sta_dbg(sdata, "Allocated STA %pM\n", sta->sta.addr);
437
438         return sta;
439
440 free_txq:
441         if (sta->sta.txq[0])
442                 kfree(to_txq_info(sta->sta.txq[0]));
443 free:
444 #ifdef CONFIG_MAC80211_MESH
445         kfree(sta->mesh);
446 #endif
447         kfree(sta);
448         return NULL;
449 }
450
451 static int sta_info_insert_check(struct sta_info *sta)
452 {
453         struct ieee80211_sub_if_data *sdata = sta->sdata;
454
455         /*
456          * Can't be a WARN_ON because it can be triggered through a race:
457          * something inserts a STA (on one CPU) without holding the RTNL
458          * and another CPU turns off the net device.
459          */
460         if (unlikely(!ieee80211_sdata_running(sdata)))
461                 return -ENETDOWN;
462
463         if (WARN_ON(ether_addr_equal(sta->sta.addr, sdata->vif.addr) ||
464                     is_multicast_ether_addr(sta->sta.addr)))
465                 return -EINVAL;
466
467         /* The RCU read lock is required by rhashtable due to
468          * asynchronous resize/rehash.  We also require the mutex
469          * for correctness.
470          */
471         rcu_read_lock();
472         lockdep_assert_held(&sdata->local->sta_mtx);
473         if (ieee80211_hw_check(&sdata->local->hw, NEEDS_UNIQUE_STA_ADDR) &&
474             ieee80211_find_sta_by_ifaddr(&sdata->local->hw, sta->addr, NULL)) {
475                 rcu_read_unlock();
476                 return -ENOTUNIQ;
477         }
478         rcu_read_unlock();
479
480         return 0;
481 }
482
483 static int sta_info_insert_drv_state(struct ieee80211_local *local,
484                                      struct ieee80211_sub_if_data *sdata,
485                                      struct sta_info *sta)
486 {
487         enum ieee80211_sta_state state;
488         int err = 0;
489
490         for (state = IEEE80211_STA_NOTEXIST; state < sta->sta_state; state++) {
491                 err = drv_sta_state(local, sdata, sta, state, state + 1);
492                 if (err)
493                         break;
494         }
495
496         if (!err) {
497                 /*
498                  * Drivers using legacy sta_add/sta_remove callbacks only
499                  * get uploaded set to true after sta_add is called.
500                  */
501                 if (!local->ops->sta_add)
502                         sta->uploaded = true;
503                 return 0;
504         }
505
506         if (sdata->vif.type == NL80211_IFTYPE_ADHOC) {
507                 sdata_info(sdata,
508                            "failed to move IBSS STA %pM to state %d (%d) - keeping it anyway\n",
509                            sta->sta.addr, state + 1, err);
510                 err = 0;
511         }
512
513         /* unwind on error */
514         for (; state > IEEE80211_STA_NOTEXIST; state--)
515                 WARN_ON(drv_sta_state(local, sdata, sta, state, state - 1));
516
517         return err;
518 }
519
520 static void
521 ieee80211_recalc_p2p_go_ps_allowed(struct ieee80211_sub_if_data *sdata)
522 {
523         struct ieee80211_local *local = sdata->local;
524         bool allow_p2p_go_ps = sdata->vif.p2p;
525         struct sta_info *sta;
526
527         rcu_read_lock();
528         list_for_each_entry_rcu(sta, &local->sta_list, list) {
529                 if (sdata != sta->sdata ||
530                     !test_sta_flag(sta, WLAN_STA_ASSOC))
531                         continue;
532                 if (!sta->sta.support_p2p_ps) {
533                         allow_p2p_go_ps = false;
534                         break;
535                 }
536         }
537         rcu_read_unlock();
538
539         if (allow_p2p_go_ps != sdata->vif.bss_conf.allow_p2p_go_ps) {
540                 sdata->vif.bss_conf.allow_p2p_go_ps = allow_p2p_go_ps;
541                 ieee80211_bss_info_change_notify(sdata, BSS_CHANGED_P2P_PS);
542         }
543 }
544
545 /*
546  * should be called with sta_mtx locked
547  * this function replaces the mutex lock
548  * with a RCU lock
549  */
550 static int sta_info_insert_finish(struct sta_info *sta) __acquires(RCU)
551 {
552         struct ieee80211_local *local = sta->local;
553         struct ieee80211_sub_if_data *sdata = sta->sdata;
554         struct station_info *sinfo = NULL;
555         int err = 0;
556
557         lockdep_assert_held(&local->sta_mtx);
558
559         /* check if STA exists already */
560         if (sta_info_get_bss(sdata, sta->sta.addr)) {
561                 err = -EEXIST;
562                 goto out_err;
563         }
564
565         sinfo = kzalloc(sizeof(struct station_info), GFP_KERNEL);
566         if (!sinfo) {
567                 err = -ENOMEM;
568                 goto out_err;
569         }
570
571         local->num_sta++;
572         local->sta_generation++;
573         smp_mb();
574
575         /* simplify things and don't accept BA sessions yet */
576         set_sta_flag(sta, WLAN_STA_BLOCK_BA);
577
578         /* make the station visible */
579         err = sta_info_hash_add(local, sta);
580         if (err)
581                 goto out_drop_sta;
582
583         list_add_tail_rcu(&sta->list, &local->sta_list);
584
585         /* notify driver */
586         err = sta_info_insert_drv_state(local, sdata, sta);
587         if (err)
588                 goto out_remove;
589
590         set_sta_flag(sta, WLAN_STA_INSERTED);
591
592         if (sta->sta_state >= IEEE80211_STA_ASSOC) {
593                 ieee80211_recalc_min_chandef(sta->sdata);
594                 if (!sta->sta.support_p2p_ps)
595                         ieee80211_recalc_p2p_go_ps_allowed(sta->sdata);
596         }
597
598         /* accept BA sessions now */
599         clear_sta_flag(sta, WLAN_STA_BLOCK_BA);
600
601         ieee80211_sta_debugfs_add(sta);
602         rate_control_add_sta_debugfs(sta);
603
604         sinfo->generation = local->sta_generation;
605         cfg80211_new_sta(sdata->dev, sta->sta.addr, sinfo, GFP_KERNEL);
606         kfree(sinfo);
607
608         sta_dbg(sdata, "Inserted STA %pM\n", sta->sta.addr);
609
610         /* move reference to rcu-protected */
611         rcu_read_lock();
612         mutex_unlock(&local->sta_mtx);
613
614         if (ieee80211_vif_is_mesh(&sdata->vif))
615                 mesh_accept_plinks_update(sdata);
616
617         return 0;
618  out_remove:
619         sta_info_hash_del(local, sta);
620         list_del_rcu(&sta->list);
621  out_drop_sta:
622         local->num_sta--;
623         synchronize_net();
624         __cleanup_single_sta(sta);
625  out_err:
626         mutex_unlock(&local->sta_mtx);
627         kfree(sinfo);
628         rcu_read_lock();
629         return err;
630 }
631
632 int sta_info_insert_rcu(struct sta_info *sta) __acquires(RCU)
633 {
634         struct ieee80211_local *local = sta->local;
635         int err;
636
637         might_sleep();
638
639         mutex_lock(&local->sta_mtx);
640
641         err = sta_info_insert_check(sta);
642         if (err) {
643                 mutex_unlock(&local->sta_mtx);
644                 rcu_read_lock();
645                 goto out_free;
646         }
647
648         err = sta_info_insert_finish(sta);
649         if (err)
650                 goto out_free;
651
652         return 0;
653  out_free:
654         sta_info_free(local, sta);
655         return err;
656 }
657
658 int sta_info_insert(struct sta_info *sta)
659 {
660         int err = sta_info_insert_rcu(sta);
661
662         rcu_read_unlock();
663
664         return err;
665 }
666
667 static inline void __bss_tim_set(u8 *tim, u16 id)
668 {
669         /*
670          * This format has been mandated by the IEEE specifications,
671          * so this line may not be changed to use the __set_bit() format.
672          */
673         tim[id / 8] |= (1 << (id % 8));
674 }
675
676 static inline void __bss_tim_clear(u8 *tim, u16 id)
677 {
678         /*
679          * This format has been mandated by the IEEE specifications,
680          * so this line may not be changed to use the __clear_bit() format.
681          */
682         tim[id / 8] &= ~(1 << (id % 8));
683 }
684
685 static inline bool __bss_tim_get(u8 *tim, u16 id)
686 {
687         /*
688          * This format has been mandated by the IEEE specifications,
689          * so this line may not be changed to use the test_bit() format.
690          */
691         return tim[id / 8] & (1 << (id % 8));
692 }
693
694 static unsigned long ieee80211_tids_for_ac(int ac)
695 {
696         /* If we ever support TIDs > 7, this obviously needs to be adjusted */
697         switch (ac) {
698         case IEEE80211_AC_VO:
699                 return BIT(6) | BIT(7);
700         case IEEE80211_AC_VI:
701                 return BIT(4) | BIT(5);
702         case IEEE80211_AC_BE:
703                 return BIT(0) | BIT(3);
704         case IEEE80211_AC_BK:
705                 return BIT(1) | BIT(2);
706         default:
707                 WARN_ON(1);
708                 return 0;
709         }
710 }
711
712 static void __sta_info_recalc_tim(struct sta_info *sta, bool ignore_pending)
713 {
714         struct ieee80211_local *local = sta->local;
715         struct ps_data *ps;
716         bool indicate_tim = false;
717         u8 ignore_for_tim = sta->sta.uapsd_queues;
718         int ac;
719         u16 id = sta->sta.aid;
720
721         if (sta->sdata->vif.type == NL80211_IFTYPE_AP ||
722             sta->sdata->vif.type == NL80211_IFTYPE_AP_VLAN) {
723                 if (WARN_ON_ONCE(!sta->sdata->bss))
724                         return;
725
726                 ps = &sta->sdata->bss->ps;
727 #ifdef CONFIG_MAC80211_MESH
728         } else if (ieee80211_vif_is_mesh(&sta->sdata->vif)) {
729                 ps = &sta->sdata->u.mesh.ps;
730 #endif
731         } else {
732                 return;
733         }
734
735         /* No need to do anything if the driver does all */
736         if (ieee80211_hw_check(&local->hw, AP_LINK_PS) && !local->ops->set_tim)
737                 return;
738
739         if (sta->dead)
740                 goto done;
741
742         /*
743          * If all ACs are delivery-enabled then we should build
744          * the TIM bit for all ACs anyway; if only some are then
745          * we ignore those and build the TIM bit using only the
746          * non-enabled ones.
747          */
748         if (ignore_for_tim == BIT(IEEE80211_NUM_ACS) - 1)
749                 ignore_for_tim = 0;
750
751         if (ignore_pending)
752                 ignore_for_tim = BIT(IEEE80211_NUM_ACS) - 1;
753
754         for (ac = 0; ac < IEEE80211_NUM_ACS; ac++) {
755                 unsigned long tids;
756
757                 if (ignore_for_tim & ieee80211_ac_to_qos_mask[ac])
758                         continue;
759
760                 indicate_tim |= !skb_queue_empty(&sta->tx_filtered[ac]) ||
761                                 !skb_queue_empty(&sta->ps_tx_buf[ac]);
762                 if (indicate_tim)
763                         break;
764
765                 tids = ieee80211_tids_for_ac(ac);
766
767                 indicate_tim |=
768                         sta->driver_buffered_tids & tids;
769                 indicate_tim |=
770                         sta->txq_buffered_tids & tids;
771         }
772
773  done:
774         spin_lock_bh(&local->tim_lock);
775
776         if (indicate_tim == __bss_tim_get(ps->tim, id))
777                 goto out_unlock;
778
779         if (indicate_tim)
780                 __bss_tim_set(ps->tim, id);
781         else
782                 __bss_tim_clear(ps->tim, id);
783
784         if (local->ops->set_tim && !WARN_ON(sta->dead)) {
785                 local->tim_in_locked_section = true;
786                 drv_set_tim(local, &sta->sta, indicate_tim);
787                 local->tim_in_locked_section = false;
788         }
789
790 out_unlock:
791         spin_unlock_bh(&local->tim_lock);
792 }
793
794 void sta_info_recalc_tim(struct sta_info *sta)
795 {
796         __sta_info_recalc_tim(sta, false);
797 }
798
799 static bool sta_info_buffer_expired(struct sta_info *sta, struct sk_buff *skb)
800 {
801         struct ieee80211_tx_info *info;
802         int timeout;
803
804         if (!skb)
805                 return false;
806
807         info = IEEE80211_SKB_CB(skb);
808
809         /* Timeout: (2 * listen_interval * beacon_int * 1024 / 1000000) sec */
810         timeout = (sta->listen_interval *
811                    sta->sdata->vif.bss_conf.beacon_int *
812                    32 / 15625) * HZ;
813         if (timeout < STA_TX_BUFFER_EXPIRE)
814                 timeout = STA_TX_BUFFER_EXPIRE;
815         return time_after(jiffies, info->control.jiffies + timeout);
816 }
817
818
819 static bool sta_info_cleanup_expire_buffered_ac(struct ieee80211_local *local,
820                                                 struct sta_info *sta, int ac)
821 {
822         unsigned long flags;
823         struct sk_buff *skb;
824
825         /*
826          * First check for frames that should expire on the filtered
827          * queue. Frames here were rejected by the driver and are on
828          * a separate queue to avoid reordering with normal PS-buffered
829          * frames. They also aren't accounted for right now in the
830          * total_ps_buffered counter.
831          */
832         for (;;) {
833                 spin_lock_irqsave(&sta->tx_filtered[ac].lock, flags);
834                 skb = skb_peek(&sta->tx_filtered[ac]);
835                 if (sta_info_buffer_expired(sta, skb))
836                         skb = __skb_dequeue(&sta->tx_filtered[ac]);
837                 else
838                         skb = NULL;
839                 spin_unlock_irqrestore(&sta->tx_filtered[ac].lock, flags);
840
841                 /*
842                  * Frames are queued in order, so if this one
843                  * hasn't expired yet we can stop testing. If
844                  * we actually reached the end of the queue we
845                  * also need to stop, of course.
846                  */
847                 if (!skb)
848                         break;
849                 ieee80211_free_txskb(&local->hw, skb);
850         }
851
852         /*
853          * Now also check the normal PS-buffered queue, this will
854          * only find something if the filtered queue was emptied
855          * since the filtered frames are all before the normal PS
856          * buffered frames.
857          */
858         for (;;) {
859                 spin_lock_irqsave(&sta->ps_tx_buf[ac].lock, flags);
860                 skb = skb_peek(&sta->ps_tx_buf[ac]);
861                 if (sta_info_buffer_expired(sta, skb))
862                         skb = __skb_dequeue(&sta->ps_tx_buf[ac]);
863                 else
864                         skb = NULL;
865                 spin_unlock_irqrestore(&sta->ps_tx_buf[ac].lock, flags);
866
867                 /*
868                  * frames are queued in order, so if this one
869                  * hasn't expired yet (or we reached the end of
870                  * the queue) we can stop testing
871                  */
872                 if (!skb)
873                         break;
874
875                 local->total_ps_buffered--;
876                 ps_dbg(sta->sdata, "Buffered frame expired (STA %pM)\n",
877                        sta->sta.addr);
878                 ieee80211_free_txskb(&local->hw, skb);
879         }
880
881         /*
882          * Finally, recalculate the TIM bit for this station -- it might
883          * now be clear because the station was too slow to retrieve its
884          * frames.
885          */
886         sta_info_recalc_tim(sta);
887
888         /*
889          * Return whether there are any frames still buffered, this is
890          * used to check whether the cleanup timer still needs to run,
891          * if there are no frames we don't need to rearm the timer.
892          */
893         return !(skb_queue_empty(&sta->ps_tx_buf[ac]) &&
894                  skb_queue_empty(&sta->tx_filtered[ac]));
895 }
896
897 static bool sta_info_cleanup_expire_buffered(struct ieee80211_local *local,
898                                              struct sta_info *sta)
899 {
900         bool have_buffered = false;
901         int ac;
902
903         /* This is only necessary for stations on BSS/MBSS interfaces */
904         if (!sta->sdata->bss &&
905             !ieee80211_vif_is_mesh(&sta->sdata->vif))
906                 return false;
907
908         for (ac = 0; ac < IEEE80211_NUM_ACS; ac++)
909                 have_buffered |=
910                         sta_info_cleanup_expire_buffered_ac(local, sta, ac);
911
912         return have_buffered;
913 }
914
915 static int __must_check __sta_info_destroy_part1(struct sta_info *sta)
916 {
917         struct ieee80211_local *local;
918         struct ieee80211_sub_if_data *sdata;
919         int ret;
920
921         might_sleep();
922
923         if (!sta)
924                 return -ENOENT;
925
926         local = sta->local;
927         sdata = sta->sdata;
928
929         lockdep_assert_held(&local->sta_mtx);
930
931         /*
932          * Before removing the station from the driver and
933          * rate control, it might still start new aggregation
934          * sessions -- block that to make sure the tear-down
935          * will be sufficient.
936          */
937         set_sta_flag(sta, WLAN_STA_BLOCK_BA);
938         ieee80211_sta_tear_down_BA_sessions(sta, AGG_STOP_DESTROY_STA);
939
940         /*
941          * Before removing the station from the driver there might be pending
942          * rx frames on RSS queues sent prior to the disassociation - wait for
943          * all such frames to be processed.
944          */
945         drv_sync_rx_queues(local, sta);
946
947         ret = sta_info_hash_del(local, sta);
948         if (WARN_ON(ret))
949                 return ret;
950
951         /*
952          * for TDLS peers, make sure to return to the base channel before
953          * removal.
954          */
955         if (test_sta_flag(sta, WLAN_STA_TDLS_OFF_CHANNEL)) {
956                 drv_tdls_cancel_channel_switch(local, sdata, &sta->sta);
957                 clear_sta_flag(sta, WLAN_STA_TDLS_OFF_CHANNEL);
958         }
959
960         list_del_rcu(&sta->list);
961         sta->removed = true;
962
963         drv_sta_pre_rcu_remove(local, sta->sdata, sta);
964
965         if (sdata->vif.type == NL80211_IFTYPE_AP_VLAN &&
966             rcu_access_pointer(sdata->u.vlan.sta) == sta)
967                 RCU_INIT_POINTER(sdata->u.vlan.sta, NULL);
968
969         return 0;
970 }
971
972 static void __sta_info_destroy_part2(struct sta_info *sta)
973 {
974         struct ieee80211_local *local = sta->local;
975         struct ieee80211_sub_if_data *sdata = sta->sdata;
976         struct station_info *sinfo;
977         int ret;
978
979         /*
980          * NOTE: This assumes at least synchronize_net() was done
981          *       after _part1 and before _part2!
982          */
983
984         might_sleep();
985         lockdep_assert_held(&local->sta_mtx);
986
987         /* now keys can no longer be reached */
988         ieee80211_free_sta_keys(local, sta);
989
990         /* disable TIM bit - last chance to tell driver */
991         __sta_info_recalc_tim(sta, true);
992
993         sta->dead = true;
994
995         local->num_sta--;
996         local->sta_generation++;
997
998         while (sta->sta_state > IEEE80211_STA_NONE) {
999                 ret = sta_info_move_state(sta, sta->sta_state - 1);
1000                 if (ret) {
1001                         WARN_ON_ONCE(1);
1002                         break;
1003                 }
1004         }
1005
1006         if (sta->uploaded) {
1007                 ret = drv_sta_state(local, sdata, sta, IEEE80211_STA_NONE,
1008                                     IEEE80211_STA_NOTEXIST);
1009                 WARN_ON_ONCE(ret != 0);
1010         }
1011
1012         sta_dbg(sdata, "Removed STA %pM\n", sta->sta.addr);
1013
1014         sinfo = kzalloc(sizeof(*sinfo), GFP_KERNEL);
1015         if (sinfo)
1016                 sta_set_sinfo(sta, sinfo);
1017         cfg80211_del_sta_sinfo(sdata->dev, sta->sta.addr, sinfo, GFP_KERNEL);
1018         kfree(sinfo);
1019
1020         rate_control_remove_sta_debugfs(sta);
1021         ieee80211_sta_debugfs_remove(sta);
1022
1023         cleanup_single_sta(sta);
1024 }
1025
1026 int __must_check __sta_info_destroy(struct sta_info *sta)
1027 {
1028         int err = __sta_info_destroy_part1(sta);
1029
1030         if (err)
1031                 return err;
1032
1033         synchronize_net();
1034
1035         __sta_info_destroy_part2(sta);
1036
1037         return 0;
1038 }
1039
1040 int sta_info_destroy_addr(struct ieee80211_sub_if_data *sdata, const u8 *addr)
1041 {
1042         struct sta_info *sta;
1043         int ret;
1044
1045         mutex_lock(&sdata->local->sta_mtx);
1046         sta = sta_info_get(sdata, addr);
1047         ret = __sta_info_destroy(sta);
1048         mutex_unlock(&sdata->local->sta_mtx);
1049
1050         return ret;
1051 }
1052
1053 int sta_info_destroy_addr_bss(struct ieee80211_sub_if_data *sdata,
1054                               const u8 *addr)
1055 {
1056         struct sta_info *sta;
1057         int ret;
1058
1059         mutex_lock(&sdata->local->sta_mtx);
1060         sta = sta_info_get_bss(sdata, addr);
1061         ret = __sta_info_destroy(sta);
1062         mutex_unlock(&sdata->local->sta_mtx);
1063
1064         return ret;
1065 }
1066
1067 static void sta_info_cleanup(unsigned long data)
1068 {
1069         struct ieee80211_local *local = (struct ieee80211_local *) data;
1070         struct sta_info *sta;
1071         bool timer_needed = false;
1072
1073         rcu_read_lock();
1074         list_for_each_entry_rcu(sta, &local->sta_list, list)
1075                 if (sta_info_cleanup_expire_buffered(local, sta))
1076                         timer_needed = true;
1077         rcu_read_unlock();
1078
1079         if (local->quiescing)
1080                 return;
1081
1082         if (!timer_needed)
1083                 return;
1084
1085         mod_timer(&local->sta_cleanup,
1086                   round_jiffies(jiffies + STA_INFO_CLEANUP_INTERVAL));
1087 }
1088
1089 int sta_info_init(struct ieee80211_local *local)
1090 {
1091         int err;
1092
1093         err = rhltable_init(&local->sta_hash, &sta_rht_params);
1094         if (err)
1095                 return err;
1096
1097         spin_lock_init(&local->tim_lock);
1098         mutex_init(&local->sta_mtx);
1099         INIT_LIST_HEAD(&local->sta_list);
1100
1101         setup_timer(&local->sta_cleanup, sta_info_cleanup,
1102                     (unsigned long)local);
1103         return 0;
1104 }
1105
1106 void sta_info_stop(struct ieee80211_local *local)
1107 {
1108         del_timer_sync(&local->sta_cleanup);
1109         rhltable_destroy(&local->sta_hash);
1110 }
1111
1112
1113 int __sta_info_flush(struct ieee80211_sub_if_data *sdata, bool vlans)
1114 {
1115         struct ieee80211_local *local = sdata->local;
1116         struct sta_info *sta, *tmp;
1117         LIST_HEAD(free_list);
1118         int ret = 0;
1119
1120         might_sleep();
1121
1122         WARN_ON(vlans && sdata->vif.type != NL80211_IFTYPE_AP);
1123         WARN_ON(vlans && !sdata->bss);
1124
1125         mutex_lock(&local->sta_mtx);
1126         list_for_each_entry_safe(sta, tmp, &local->sta_list, list) {
1127                 if (sdata == sta->sdata ||
1128                     (vlans && sdata->bss == sta->sdata->bss)) {
1129                         if (!WARN_ON(__sta_info_destroy_part1(sta)))
1130                                 list_add(&sta->free_list, &free_list);
1131                         ret++;
1132                 }
1133         }
1134
1135         if (!list_empty(&free_list)) {
1136                 synchronize_net();
1137                 list_for_each_entry_safe(sta, tmp, &free_list, free_list)
1138                         __sta_info_destroy_part2(sta);
1139         }
1140         mutex_unlock(&local->sta_mtx);
1141
1142         return ret;
1143 }
1144
1145 void ieee80211_sta_expire(struct ieee80211_sub_if_data *sdata,
1146                           unsigned long exp_time)
1147 {
1148         struct ieee80211_local *local = sdata->local;
1149         struct sta_info *sta, *tmp;
1150
1151         mutex_lock(&local->sta_mtx);
1152
1153         list_for_each_entry_safe(sta, tmp, &local->sta_list, list) {
1154                 unsigned long last_active = ieee80211_sta_last_active(sta);
1155
1156                 if (sdata != sta->sdata)
1157                         continue;
1158
1159                 if (time_is_before_jiffies(last_active + exp_time)) {
1160                         sta_dbg(sta->sdata, "expiring inactive STA %pM\n",
1161                                 sta->sta.addr);
1162
1163                         if (ieee80211_vif_is_mesh(&sdata->vif) &&
1164                             test_sta_flag(sta, WLAN_STA_PS_STA))
1165                                 atomic_dec(&sdata->u.mesh.ps.num_sta_ps);
1166
1167                         WARN_ON(__sta_info_destroy(sta));
1168                 }
1169         }
1170
1171         mutex_unlock(&local->sta_mtx);
1172 }
1173
1174 struct ieee80211_sta *ieee80211_find_sta_by_ifaddr(struct ieee80211_hw *hw,
1175                                                    const u8 *addr,
1176                                                    const u8 *localaddr)
1177 {
1178         struct ieee80211_local *local = hw_to_local(hw);
1179         struct rhlist_head *tmp;
1180         struct sta_info *sta;
1181
1182         /*
1183          * Just return a random station if localaddr is NULL
1184          * ... first in list.
1185          */
1186         for_each_sta_info(local, addr, sta, tmp) {
1187                 if (localaddr &&
1188                     !ether_addr_equal(sta->sdata->vif.addr, localaddr))
1189                         continue;
1190                 if (!sta->uploaded)
1191                         return NULL;
1192                 return &sta->sta;
1193         }
1194
1195         return NULL;
1196 }
1197 EXPORT_SYMBOL_GPL(ieee80211_find_sta_by_ifaddr);
1198
1199 struct ieee80211_sta *ieee80211_find_sta(struct ieee80211_vif *vif,
1200                                          const u8 *addr)
1201 {
1202         struct sta_info *sta;
1203
1204         if (!vif)
1205                 return NULL;
1206
1207         sta = sta_info_get_bss(vif_to_sdata(vif), addr);
1208         if (!sta)
1209                 return NULL;
1210
1211         if (!sta->uploaded)
1212                 return NULL;
1213
1214         return &sta->sta;
1215 }
1216 EXPORT_SYMBOL(ieee80211_find_sta);
1217
1218 /* powersave support code */
1219 void ieee80211_sta_ps_deliver_wakeup(struct sta_info *sta)
1220 {
1221         struct ieee80211_sub_if_data *sdata = sta->sdata;
1222         struct ieee80211_local *local = sdata->local;
1223         struct sk_buff_head pending;
1224         int filtered = 0, buffered = 0, ac, i;
1225         unsigned long flags;
1226         struct ps_data *ps;
1227
1228         if (sdata->vif.type == NL80211_IFTYPE_AP_VLAN)
1229                 sdata = container_of(sdata->bss, struct ieee80211_sub_if_data,
1230                                      u.ap);
1231
1232         if (sdata->vif.type == NL80211_IFTYPE_AP)
1233                 ps = &sdata->bss->ps;
1234         else if (ieee80211_vif_is_mesh(&sdata->vif))
1235                 ps = &sdata->u.mesh.ps;
1236         else
1237                 return;
1238
1239         clear_sta_flag(sta, WLAN_STA_SP);
1240
1241         BUILD_BUG_ON(BITS_TO_LONGS(IEEE80211_NUM_TIDS) > 1);
1242         sta->driver_buffered_tids = 0;
1243         sta->txq_buffered_tids = 0;
1244
1245         if (!ieee80211_hw_check(&local->hw, AP_LINK_PS))
1246                 drv_sta_notify(local, sdata, STA_NOTIFY_AWAKE, &sta->sta);
1247
1248         if (sta->sta.txq[0]) {
1249                 for (i = 0; i < ARRAY_SIZE(sta->sta.txq); i++) {
1250                         if (!txq_has_queue(sta->sta.txq[i]))
1251                                 continue;
1252
1253                         drv_wake_tx_queue(local, to_txq_info(sta->sta.txq[i]));
1254                 }
1255         }
1256
1257         skb_queue_head_init(&pending);
1258
1259         /* sync with ieee80211_tx_h_unicast_ps_buf */
1260         spin_lock(&sta->ps_lock);
1261         /* Send all buffered frames to the station */
1262         for (ac = 0; ac < IEEE80211_NUM_ACS; ac++) {
1263                 int count = skb_queue_len(&pending), tmp;
1264
1265                 spin_lock_irqsave(&sta->tx_filtered[ac].lock, flags);
1266                 skb_queue_splice_tail_init(&sta->tx_filtered[ac], &pending);
1267                 spin_unlock_irqrestore(&sta->tx_filtered[ac].lock, flags);
1268                 tmp = skb_queue_len(&pending);
1269                 filtered += tmp - count;
1270                 count = tmp;
1271
1272                 spin_lock_irqsave(&sta->ps_tx_buf[ac].lock, flags);
1273                 skb_queue_splice_tail_init(&sta->ps_tx_buf[ac], &pending);
1274                 spin_unlock_irqrestore(&sta->ps_tx_buf[ac].lock, flags);
1275                 tmp = skb_queue_len(&pending);
1276                 buffered += tmp - count;
1277         }
1278
1279         ieee80211_add_pending_skbs(local, &pending);
1280
1281         /* now we're no longer in the deliver code */
1282         clear_sta_flag(sta, WLAN_STA_PS_DELIVER);
1283
1284         /* The station might have polled and then woken up before we responded,
1285          * so clear these flags now to avoid them sticking around.
1286          */
1287         clear_sta_flag(sta, WLAN_STA_PSPOLL);
1288         clear_sta_flag(sta, WLAN_STA_UAPSD);
1289         spin_unlock(&sta->ps_lock);
1290
1291         atomic_dec(&ps->num_sta_ps);
1292
1293         /* This station just woke up and isn't aware of our SMPS state */
1294         if (!ieee80211_vif_is_mesh(&sdata->vif) &&
1295             !ieee80211_smps_is_restrictive(sta->known_smps_mode,
1296                                            sdata->smps_mode) &&
1297             sta->known_smps_mode != sdata->bss->req_smps &&
1298             sta_info_tx_streams(sta) != 1) {
1299                 ht_dbg(sdata,
1300                        "%pM just woke up and MIMO capable - update SMPS\n",
1301                        sta->sta.addr);
1302                 ieee80211_send_smps_action(sdata, sdata->bss->req_smps,
1303                                            sta->sta.addr,
1304                                            sdata->vif.bss_conf.bssid);
1305         }
1306
1307         local->total_ps_buffered -= buffered;
1308
1309         sta_info_recalc_tim(sta);
1310
1311         ps_dbg(sdata,
1312                "STA %pM aid %d sending %d filtered/%d PS frames since STA woke up\n",
1313                sta->sta.addr, sta->sta.aid, filtered, buffered);
1314
1315         ieee80211_check_fast_xmit(sta);
1316 }
1317
1318 static void ieee80211_send_null_response(struct sta_info *sta, int tid,
1319                                          enum ieee80211_frame_release_type reason,
1320                                          bool call_driver, bool more_data)
1321 {
1322         struct ieee80211_sub_if_data *sdata = sta->sdata;
1323         struct ieee80211_local *local = sdata->local;
1324         struct ieee80211_qos_hdr *nullfunc;
1325         struct sk_buff *skb;
1326         int size = sizeof(*nullfunc);
1327         __le16 fc;
1328         bool qos = sta->sta.wme;
1329         struct ieee80211_tx_info *info;
1330         struct ieee80211_chanctx_conf *chanctx_conf;
1331
1332         if (qos) {
1333                 fc = cpu_to_le16(IEEE80211_FTYPE_DATA |
1334                                  IEEE80211_STYPE_QOS_NULLFUNC |
1335                                  IEEE80211_FCTL_FROMDS);
1336         } else {
1337                 size -= 2;
1338                 fc = cpu_to_le16(IEEE80211_FTYPE_DATA |
1339                                  IEEE80211_STYPE_NULLFUNC |
1340                                  IEEE80211_FCTL_FROMDS);
1341         }
1342
1343         skb = dev_alloc_skb(local->hw.extra_tx_headroom + size);
1344         if (!skb)
1345                 return;
1346
1347         skb_reserve(skb, local->hw.extra_tx_headroom);
1348
1349         nullfunc = skb_put(skb, size);
1350         nullfunc->frame_control = fc;
1351         nullfunc->duration_id = 0;
1352         memcpy(nullfunc->addr1, sta->sta.addr, ETH_ALEN);
1353         memcpy(nullfunc->addr2, sdata->vif.addr, ETH_ALEN);
1354         memcpy(nullfunc->addr3, sdata->vif.addr, ETH_ALEN);
1355         nullfunc->seq_ctrl = 0;
1356
1357         skb->priority = tid;
1358         skb_set_queue_mapping(skb, ieee802_1d_to_ac[tid]);
1359         if (qos) {
1360                 nullfunc->qos_ctrl = cpu_to_le16(tid);
1361
1362                 if (reason == IEEE80211_FRAME_RELEASE_UAPSD) {
1363                         nullfunc->qos_ctrl |=
1364                                 cpu_to_le16(IEEE80211_QOS_CTL_EOSP);
1365                         if (more_data)
1366                                 nullfunc->frame_control |=
1367                                         cpu_to_le16(IEEE80211_FCTL_MOREDATA);
1368                 }
1369         }
1370
1371         info = IEEE80211_SKB_CB(skb);
1372
1373         /*
1374          * Tell TX path to send this frame even though the
1375          * STA may still remain is PS mode after this frame
1376          * exchange. Also set EOSP to indicate this packet
1377          * ends the poll/service period.
1378          */
1379         info->flags |= IEEE80211_TX_CTL_NO_PS_BUFFER |
1380                        IEEE80211_TX_STATUS_EOSP |
1381                        IEEE80211_TX_CTL_REQ_TX_STATUS;
1382
1383         info->control.flags |= IEEE80211_TX_CTRL_PS_RESPONSE;
1384
1385         if (call_driver)
1386                 drv_allow_buffered_frames(local, sta, BIT(tid), 1,
1387                                           reason, false);
1388
1389         skb->dev = sdata->dev;
1390
1391         rcu_read_lock();
1392         chanctx_conf = rcu_dereference(sdata->vif.chanctx_conf);
1393         if (WARN_ON(!chanctx_conf)) {
1394                 rcu_read_unlock();
1395                 kfree_skb(skb);
1396                 return;
1397         }
1398
1399         info->band = chanctx_conf->def.chan->band;
1400         ieee80211_xmit(sdata, sta, skb);
1401         rcu_read_unlock();
1402 }
1403
1404 static int find_highest_prio_tid(unsigned long tids)
1405 {
1406         /* lower 3 TIDs aren't ordered perfectly */
1407         if (tids & 0xF8)
1408                 return fls(tids) - 1;
1409         /* TID 0 is BE just like TID 3 */
1410         if (tids & BIT(0))
1411                 return 0;
1412         return fls(tids) - 1;
1413 }
1414
1415 /* Indicates if the MORE_DATA bit should be set in the last
1416  * frame obtained by ieee80211_sta_ps_get_frames.
1417  * Note that driver_release_tids is relevant only if
1418  * reason = IEEE80211_FRAME_RELEASE_PSPOLL
1419  */
1420 static bool
1421 ieee80211_sta_ps_more_data(struct sta_info *sta, u8 ignored_acs,
1422                            enum ieee80211_frame_release_type reason,
1423                            unsigned long driver_release_tids)
1424 {
1425         int ac;
1426
1427         /* If the driver has data on more than one TID then
1428          * certainly there's more data if we release just a
1429          * single frame now (from a single TID). This will
1430          * only happen for PS-Poll.
1431          */
1432         if (reason == IEEE80211_FRAME_RELEASE_PSPOLL &&
1433             hweight16(driver_release_tids) > 1)
1434                 return true;
1435
1436         for (ac = 0; ac < IEEE80211_NUM_ACS; ac++) {
1437                 if (ignored_acs & ieee80211_ac_to_qos_mask[ac])
1438                         continue;
1439
1440                 if (!skb_queue_empty(&sta->tx_filtered[ac]) ||
1441                     !skb_queue_empty(&sta->ps_tx_buf[ac]))
1442                         return true;
1443         }
1444
1445         return false;
1446 }
1447
1448 static void
1449 ieee80211_sta_ps_get_frames(struct sta_info *sta, int n_frames, u8 ignored_acs,
1450                             enum ieee80211_frame_release_type reason,
1451                             struct sk_buff_head *frames,
1452                             unsigned long *driver_release_tids)
1453 {
1454         struct ieee80211_sub_if_data *sdata = sta->sdata;
1455         struct ieee80211_local *local = sdata->local;
1456         int ac;
1457
1458         /* Get response frame(s) and more data bit for the last one. */
1459         for (ac = 0; ac < IEEE80211_NUM_ACS; ac++) {
1460                 unsigned long tids;
1461
1462                 if (ignored_acs & ieee80211_ac_to_qos_mask[ac])
1463                         continue;
1464
1465                 tids = ieee80211_tids_for_ac(ac);
1466
1467                 /* if we already have frames from software, then we can't also
1468                  * release from hardware queues
1469                  */
1470                 if (skb_queue_empty(frames)) {
1471                         *driver_release_tids |=
1472                                 sta->driver_buffered_tids & tids;
1473                         *driver_release_tids |= sta->txq_buffered_tids & tids;
1474                 }
1475
1476                 if (!*driver_release_tids) {
1477                         struct sk_buff *skb;
1478
1479                         while (n_frames > 0) {
1480                                 skb = skb_dequeue(&sta->tx_filtered[ac]);
1481                                 if (!skb) {
1482                                         skb = skb_dequeue(
1483                                                 &sta->ps_tx_buf[ac]);
1484                                         if (skb)
1485                                                 local->total_ps_buffered--;
1486                                 }
1487                                 if (!skb)
1488                                         break;
1489                                 n_frames--;
1490                                 __skb_queue_tail(frames, skb);
1491                         }
1492                 }
1493
1494                 /* If we have more frames buffered on this AC, then abort the
1495                  * loop since we can't send more data from other ACs before
1496                  * the buffered frames from this.
1497                  */
1498                 if (!skb_queue_empty(&sta->tx_filtered[ac]) ||
1499                     !skb_queue_empty(&sta->ps_tx_buf[ac]))
1500                         break;
1501         }
1502 }
1503
1504 static void
1505 ieee80211_sta_ps_deliver_response(struct sta_info *sta,
1506                                   int n_frames, u8 ignored_acs,
1507                                   enum ieee80211_frame_release_type reason)
1508 {
1509         struct ieee80211_sub_if_data *sdata = sta->sdata;
1510         struct ieee80211_local *local = sdata->local;
1511         unsigned long driver_release_tids = 0;
1512         struct sk_buff_head frames;
1513         bool more_data;
1514
1515         /* Service or PS-Poll period starts */
1516         set_sta_flag(sta, WLAN_STA_SP);
1517
1518         __skb_queue_head_init(&frames);
1519
1520         ieee80211_sta_ps_get_frames(sta, n_frames, ignored_acs, reason,
1521                                     &frames, &driver_release_tids);
1522
1523         more_data = ieee80211_sta_ps_more_data(sta, ignored_acs, reason, driver_release_tids);
1524
1525         if (driver_release_tids && reason == IEEE80211_FRAME_RELEASE_PSPOLL)
1526                 driver_release_tids =
1527                         BIT(find_highest_prio_tid(driver_release_tids));
1528
1529         if (skb_queue_empty(&frames) && !driver_release_tids) {
1530                 int tid, ac;
1531
1532                 /*
1533                  * For PS-Poll, this can only happen due to a race condition
1534                  * when we set the TIM bit and the station notices it, but
1535                  * before it can poll for the frame we expire it.
1536                  *
1537                  * For uAPSD, this is said in the standard (11.2.1.5 h):
1538                  *      At each unscheduled SP for a non-AP STA, the AP shall
1539                  *      attempt to transmit at least one MSDU or MMPDU, but no
1540                  *      more than the value specified in the Max SP Length field
1541                  *      in the QoS Capability element from delivery-enabled ACs,
1542                  *      that are destined for the non-AP STA.
1543                  *
1544                  * Since we have no other MSDU/MMPDU, transmit a QoS null frame.
1545                  */
1546
1547                 /* This will evaluate to 1, 3, 5 or 7. */
1548                 for (ac = IEEE80211_AC_VO; ac < IEEE80211_NUM_ACS; ac++)
1549                         if (!(ignored_acs & ieee80211_ac_to_qos_mask[ac]))
1550                                 break;
1551                 tid = 7 - 2 * ac;
1552
1553                 ieee80211_send_null_response(sta, tid, reason, true, false);
1554         } else if (!driver_release_tids) {
1555                 struct sk_buff_head pending;
1556                 struct sk_buff *skb;
1557                 int num = 0;
1558                 u16 tids = 0;
1559                 bool need_null = false;
1560
1561                 skb_queue_head_init(&pending);
1562
1563                 while ((skb = __skb_dequeue(&frames))) {
1564                         struct ieee80211_tx_info *info = IEEE80211_SKB_CB(skb);
1565                         struct ieee80211_hdr *hdr = (void *) skb->data;
1566                         u8 *qoshdr = NULL;
1567
1568                         num++;
1569
1570                         /*
1571                          * Tell TX path to send this frame even though the
1572                          * STA may still remain is PS mode after this frame
1573                          * exchange.
1574                          */
1575                         info->flags |= IEEE80211_TX_CTL_NO_PS_BUFFER;
1576                         info->control.flags |= IEEE80211_TX_CTRL_PS_RESPONSE;
1577
1578                         /*
1579                          * Use MoreData flag to indicate whether there are
1580                          * more buffered frames for this STA
1581                          */
1582                         if (more_data || !skb_queue_empty(&frames))
1583                                 hdr->frame_control |=
1584                                         cpu_to_le16(IEEE80211_FCTL_MOREDATA);
1585                         else
1586                                 hdr->frame_control &=
1587                                         cpu_to_le16(~IEEE80211_FCTL_MOREDATA);
1588
1589                         if (ieee80211_is_data_qos(hdr->frame_control) ||
1590                             ieee80211_is_qos_nullfunc(hdr->frame_control))
1591                                 qoshdr = ieee80211_get_qos_ctl(hdr);
1592
1593                         tids |= BIT(skb->priority);
1594
1595                         __skb_queue_tail(&pending, skb);
1596
1597                         /* end service period after last frame or add one */
1598                         if (!skb_queue_empty(&frames))
1599                                 continue;
1600
1601                         if (reason != IEEE80211_FRAME_RELEASE_UAPSD) {
1602                                 /* for PS-Poll, there's only one frame */
1603                                 info->flags |= IEEE80211_TX_STATUS_EOSP |
1604                                                IEEE80211_TX_CTL_REQ_TX_STATUS;
1605                                 break;
1606                         }
1607
1608                         /* For uAPSD, things are a bit more complicated. If the
1609                          * last frame has a QoS header (i.e. is a QoS-data or
1610                          * QoS-nulldata frame) then just set the EOSP bit there
1611                          * and be done.
1612                          * If the frame doesn't have a QoS header (which means
1613                          * it should be a bufferable MMPDU) then we can't set
1614                          * the EOSP bit in the QoS header; add a QoS-nulldata
1615                          * frame to the list to send it after the MMPDU.
1616                          *
1617                          * Note that this code is only in the mac80211-release
1618                          * code path, we assume that the driver will not buffer
1619                          * anything but QoS-data frames, or if it does, will
1620                          * create the QoS-nulldata frame by itself if needed.
1621                          *
1622                          * Cf. 802.11-2012 10.2.1.10 (c).
1623                          */
1624                         if (qoshdr) {
1625                                 *qoshdr |= IEEE80211_QOS_CTL_EOSP;
1626
1627                                 info->flags |= IEEE80211_TX_STATUS_EOSP |
1628                                                IEEE80211_TX_CTL_REQ_TX_STATUS;
1629                         } else {
1630                                 /* The standard isn't completely clear on this
1631                                  * as it says the more-data bit should be set
1632                                  * if there are more BUs. The QoS-Null frame
1633                                  * we're about to send isn't buffered yet, we
1634                                  * only create it below, but let's pretend it
1635                                  * was buffered just in case some clients only
1636                                  * expect more-data=0 when eosp=1.
1637                                  */
1638                                 hdr->frame_control |=
1639                                         cpu_to_le16(IEEE80211_FCTL_MOREDATA);
1640                                 need_null = true;
1641                                 num++;
1642                         }
1643                         break;
1644                 }
1645
1646                 drv_allow_buffered_frames(local, sta, tids, num,
1647                                           reason, more_data);
1648
1649                 ieee80211_add_pending_skbs(local, &pending);
1650
1651                 if (need_null)
1652                         ieee80211_send_null_response(
1653                                 sta, find_highest_prio_tid(tids),
1654                                 reason, false, false);
1655
1656                 sta_info_recalc_tim(sta);
1657         } else {
1658                 int tid;
1659
1660                 /*
1661                  * We need to release a frame that is buffered somewhere in the
1662                  * driver ... it'll have to handle that.
1663                  * Note that the driver also has to check the number of frames
1664                  * on the TIDs we're releasing from - if there are more than
1665                  * n_frames it has to set the more-data bit (if we didn't ask
1666                  * it to set it anyway due to other buffered frames); if there
1667                  * are fewer than n_frames it has to make sure to adjust that
1668                  * to allow the service period to end properly.
1669                  */
1670                 drv_release_buffered_frames(local, sta, driver_release_tids,
1671                                             n_frames, reason, more_data);
1672
1673                 /*
1674                  * Note that we don't recalculate the TIM bit here as it would
1675                  * most likely have no effect at all unless the driver told us
1676                  * that the TID(s) became empty before returning here from the
1677                  * release function.
1678                  * Either way, however, when the driver tells us that the TID(s)
1679                  * became empty or we find that a txq became empty, we'll do the
1680                  * TIM recalculation.
1681                  */
1682
1683                 if (!sta->sta.txq[0])
1684                         return;
1685
1686                 for (tid = 0; tid < ARRAY_SIZE(sta->sta.txq); tid++) {
1687                         if (!(driver_release_tids & BIT(tid)) ||
1688                             txq_has_queue(sta->sta.txq[tid]))
1689                                 continue;
1690
1691                         sta_info_recalc_tim(sta);
1692                         break;
1693                 }
1694         }
1695 }
1696
1697 void ieee80211_sta_ps_deliver_poll_response(struct sta_info *sta)
1698 {
1699         u8 ignore_for_response = sta->sta.uapsd_queues;
1700
1701         /*
1702          * If all ACs are delivery-enabled then we should reply
1703          * from any of them, if only some are enabled we reply
1704          * only from the non-enabled ones.
1705          */
1706         if (ignore_for_response == BIT(IEEE80211_NUM_ACS) - 1)
1707                 ignore_for_response = 0;
1708
1709         ieee80211_sta_ps_deliver_response(sta, 1, ignore_for_response,
1710                                           IEEE80211_FRAME_RELEASE_PSPOLL);
1711 }
1712
1713 void ieee80211_sta_ps_deliver_uapsd(struct sta_info *sta)
1714 {
1715         int n_frames = sta->sta.max_sp;
1716         u8 delivery_enabled = sta->sta.uapsd_queues;
1717
1718         /*
1719          * If we ever grow support for TSPEC this might happen if
1720          * the TSPEC update from hostapd comes in between a trigger
1721          * frame setting WLAN_STA_UAPSD in the RX path and this
1722          * actually getting called.
1723          */
1724         if (!delivery_enabled)
1725                 return;
1726
1727         switch (sta->sta.max_sp) {
1728         case 1:
1729                 n_frames = 2;
1730                 break;
1731         case 2:
1732                 n_frames = 4;
1733                 break;
1734         case 3:
1735                 n_frames = 6;
1736                 break;
1737         case 0:
1738                 /* XXX: what is a good value? */
1739                 n_frames = 128;
1740                 break;
1741         }
1742
1743         ieee80211_sta_ps_deliver_response(sta, n_frames, ~delivery_enabled,
1744                                           IEEE80211_FRAME_RELEASE_UAPSD);
1745 }
1746
1747 void ieee80211_sta_block_awake(struct ieee80211_hw *hw,
1748                                struct ieee80211_sta *pubsta, bool block)
1749 {
1750         struct sta_info *sta = container_of(pubsta, struct sta_info, sta);
1751
1752         trace_api_sta_block_awake(sta->local, pubsta, block);
1753
1754         if (block) {
1755                 set_sta_flag(sta, WLAN_STA_PS_DRIVER);
1756                 ieee80211_clear_fast_xmit(sta);
1757                 return;
1758         }
1759
1760         if (!test_sta_flag(sta, WLAN_STA_PS_DRIVER))
1761                 return;
1762
1763         if (!test_sta_flag(sta, WLAN_STA_PS_STA)) {
1764                 set_sta_flag(sta, WLAN_STA_PS_DELIVER);
1765                 clear_sta_flag(sta, WLAN_STA_PS_DRIVER);
1766                 ieee80211_queue_work(hw, &sta->drv_deliver_wk);
1767         } else if (test_sta_flag(sta, WLAN_STA_PSPOLL) ||
1768                    test_sta_flag(sta, WLAN_STA_UAPSD)) {
1769                 /* must be asleep in this case */
1770                 clear_sta_flag(sta, WLAN_STA_PS_DRIVER);
1771                 ieee80211_queue_work(hw, &sta->drv_deliver_wk);
1772         } else {
1773                 clear_sta_flag(sta, WLAN_STA_PS_DRIVER);
1774                 ieee80211_check_fast_xmit(sta);
1775         }
1776 }
1777 EXPORT_SYMBOL(ieee80211_sta_block_awake);
1778
1779 void ieee80211_sta_eosp(struct ieee80211_sta *pubsta)
1780 {
1781         struct sta_info *sta = container_of(pubsta, struct sta_info, sta);
1782         struct ieee80211_local *local = sta->local;
1783
1784         trace_api_eosp(local, pubsta);
1785
1786         clear_sta_flag(sta, WLAN_STA_SP);
1787 }
1788 EXPORT_SYMBOL(ieee80211_sta_eosp);
1789
1790 void ieee80211_send_eosp_nullfunc(struct ieee80211_sta *pubsta, int tid)
1791 {
1792         struct sta_info *sta = container_of(pubsta, struct sta_info, sta);
1793         enum ieee80211_frame_release_type reason;
1794         bool more_data;
1795
1796         trace_api_send_eosp_nullfunc(sta->local, pubsta, tid);
1797
1798         reason = IEEE80211_FRAME_RELEASE_UAPSD;
1799         more_data = ieee80211_sta_ps_more_data(sta, ~sta->sta.uapsd_queues,
1800                                                reason, 0);
1801
1802         ieee80211_send_null_response(sta, tid, reason, false, more_data);
1803 }
1804 EXPORT_SYMBOL(ieee80211_send_eosp_nullfunc);
1805
1806 void ieee80211_sta_set_buffered(struct ieee80211_sta *pubsta,
1807                                 u8 tid, bool buffered)
1808 {
1809         struct sta_info *sta = container_of(pubsta, struct sta_info, sta);
1810
1811         if (WARN_ON(tid >= IEEE80211_NUM_TIDS))
1812                 return;
1813
1814         trace_api_sta_set_buffered(sta->local, pubsta, tid, buffered);
1815
1816         if (buffered)
1817                 set_bit(tid, &sta->driver_buffered_tids);
1818         else
1819                 clear_bit(tid, &sta->driver_buffered_tids);
1820
1821         sta_info_recalc_tim(sta);
1822 }
1823 EXPORT_SYMBOL(ieee80211_sta_set_buffered);
1824
1825 int sta_info_move_state(struct sta_info *sta,
1826                         enum ieee80211_sta_state new_state)
1827 {
1828         might_sleep();
1829
1830         if (sta->sta_state == new_state)
1831                 return 0;
1832
1833         /* check allowed transitions first */
1834
1835         switch (new_state) {
1836         case IEEE80211_STA_NONE:
1837                 if (sta->sta_state != IEEE80211_STA_AUTH)
1838                         return -EINVAL;
1839                 break;
1840         case IEEE80211_STA_AUTH:
1841                 if (sta->sta_state != IEEE80211_STA_NONE &&
1842                     sta->sta_state != IEEE80211_STA_ASSOC)
1843                         return -EINVAL;
1844                 break;
1845         case IEEE80211_STA_ASSOC:
1846                 if (sta->sta_state != IEEE80211_STA_AUTH &&
1847                     sta->sta_state != IEEE80211_STA_AUTHORIZED)
1848                         return -EINVAL;
1849                 break;
1850         case IEEE80211_STA_AUTHORIZED:
1851                 if (sta->sta_state != IEEE80211_STA_ASSOC)
1852                         return -EINVAL;
1853                 break;
1854         default:
1855                 WARN(1, "invalid state %d", new_state);
1856                 return -EINVAL;
1857         }
1858
1859         sta_dbg(sta->sdata, "moving STA %pM to state %d\n",
1860                 sta->sta.addr, new_state);
1861
1862         /*
1863          * notify the driver before the actual changes so it can
1864          * fail the transition
1865          */
1866         if (test_sta_flag(sta, WLAN_STA_INSERTED)) {
1867                 int err = drv_sta_state(sta->local, sta->sdata, sta,
1868                                         sta->sta_state, new_state);
1869                 if (err)
1870                         return err;
1871         }
1872
1873         /* reflect the change in all state variables */
1874
1875         switch (new_state) {
1876         case IEEE80211_STA_NONE:
1877                 if (sta->sta_state == IEEE80211_STA_AUTH)
1878                         clear_bit(WLAN_STA_AUTH, &sta->_flags);
1879                 break;
1880         case IEEE80211_STA_AUTH:
1881                 if (sta->sta_state == IEEE80211_STA_NONE) {
1882                         set_bit(WLAN_STA_AUTH, &sta->_flags);
1883                 } else if (sta->sta_state == IEEE80211_STA_ASSOC) {
1884                         clear_bit(WLAN_STA_ASSOC, &sta->_flags);
1885                         ieee80211_recalc_min_chandef(sta->sdata);
1886                         if (!sta->sta.support_p2p_ps)
1887                                 ieee80211_recalc_p2p_go_ps_allowed(sta->sdata);
1888                 }
1889                 break;
1890         case IEEE80211_STA_ASSOC:
1891                 if (sta->sta_state == IEEE80211_STA_AUTH) {
1892                         set_bit(WLAN_STA_ASSOC, &sta->_flags);
1893                         ieee80211_recalc_min_chandef(sta->sdata);
1894                         if (!sta->sta.support_p2p_ps)
1895                                 ieee80211_recalc_p2p_go_ps_allowed(sta->sdata);
1896                 } else if (sta->sta_state == IEEE80211_STA_AUTHORIZED) {
1897                         ieee80211_vif_dec_num_mcast(sta->sdata);
1898                         clear_bit(WLAN_STA_AUTHORIZED, &sta->_flags);
1899                         ieee80211_clear_fast_xmit(sta);
1900                         ieee80211_clear_fast_rx(sta);
1901                 }
1902                 break;
1903         case IEEE80211_STA_AUTHORIZED:
1904                 if (sta->sta_state == IEEE80211_STA_ASSOC) {
1905                         ieee80211_vif_inc_num_mcast(sta->sdata);
1906                         set_bit(WLAN_STA_AUTHORIZED, &sta->_flags);
1907                         ieee80211_check_fast_xmit(sta);
1908                         ieee80211_check_fast_rx(sta);
1909                 }
1910                 break;
1911         default:
1912                 break;
1913         }
1914
1915         sta->sta_state = new_state;
1916
1917         return 0;
1918 }
1919
1920 u8 sta_info_tx_streams(struct sta_info *sta)
1921 {
1922         struct ieee80211_sta_ht_cap *ht_cap = &sta->sta.ht_cap;
1923         u8 rx_streams;
1924
1925         if (!sta->sta.ht_cap.ht_supported)
1926                 return 1;
1927
1928         if (sta->sta.vht_cap.vht_supported) {
1929                 int i;
1930                 u16 tx_mcs_map =
1931                         le16_to_cpu(sta->sta.vht_cap.vht_mcs.tx_mcs_map);
1932
1933                 for (i = 7; i >= 0; i--)
1934                         if ((tx_mcs_map & (0x3 << (i * 2))) !=
1935                             IEEE80211_VHT_MCS_NOT_SUPPORTED)
1936                                 return i + 1;
1937         }
1938
1939         if (ht_cap->mcs.rx_mask[3])
1940                 rx_streams = 4;
1941         else if (ht_cap->mcs.rx_mask[2])
1942                 rx_streams = 3;
1943         else if (ht_cap->mcs.rx_mask[1])
1944                 rx_streams = 2;
1945         else
1946                 rx_streams = 1;
1947
1948         if (!(ht_cap->mcs.tx_params & IEEE80211_HT_MCS_TX_RX_DIFF))
1949                 return rx_streams;
1950
1951         return ((ht_cap->mcs.tx_params & IEEE80211_HT_MCS_TX_MAX_STREAMS_MASK)
1952                         >> IEEE80211_HT_MCS_TX_MAX_STREAMS_SHIFT) + 1;
1953 }
1954
1955 static struct ieee80211_sta_rx_stats *
1956 sta_get_last_rx_stats(struct sta_info *sta)
1957 {
1958         struct ieee80211_sta_rx_stats *stats = &sta->rx_stats;
1959         struct ieee80211_local *local = sta->local;
1960         int cpu;
1961
1962         if (!ieee80211_hw_check(&local->hw, USES_RSS))
1963                 return stats;
1964
1965         for_each_possible_cpu(cpu) {
1966                 struct ieee80211_sta_rx_stats *cpustats;
1967
1968                 cpustats = per_cpu_ptr(sta->pcpu_rx_stats, cpu);
1969
1970                 if (time_after(cpustats->last_rx, stats->last_rx))
1971                         stats = cpustats;
1972         }
1973
1974         return stats;
1975 }
1976
1977 static void sta_stats_decode_rate(struct ieee80211_local *local, u16 rate,
1978                                   struct rate_info *rinfo)
1979 {
1980         rinfo->bw = STA_STATS_GET(BW, rate);
1981
1982         switch (STA_STATS_GET(TYPE, rate)) {
1983         case STA_STATS_RATE_TYPE_VHT:
1984                 rinfo->flags = RATE_INFO_FLAGS_VHT_MCS;
1985                 rinfo->mcs = STA_STATS_GET(VHT_MCS, rate);
1986                 rinfo->nss = STA_STATS_GET(VHT_NSS, rate);
1987                 if (STA_STATS_GET(SGI, rate))
1988                         rinfo->flags |= RATE_INFO_FLAGS_SHORT_GI;
1989                 break;
1990         case STA_STATS_RATE_TYPE_HT:
1991                 rinfo->flags = RATE_INFO_FLAGS_MCS;
1992                 rinfo->mcs = STA_STATS_GET(HT_MCS, rate);
1993                 if (STA_STATS_GET(SGI, rate))
1994                         rinfo->flags |= RATE_INFO_FLAGS_SHORT_GI;
1995                 break;
1996         case STA_STATS_RATE_TYPE_LEGACY: {
1997                 struct ieee80211_supported_band *sband;
1998                 u16 brate;
1999                 unsigned int shift;
2000                 int band = STA_STATS_GET(LEGACY_BAND, rate);
2001                 int rate_idx = STA_STATS_GET(LEGACY_IDX, rate);
2002
2003                 rinfo->flags = 0;
2004                 sband = local->hw.wiphy->bands[band];
2005                 brate = sband->bitrates[rate_idx].bitrate;
2006                 if (rinfo->bw == RATE_INFO_BW_5)
2007                         shift = 2;
2008                 else if (rinfo->bw == RATE_INFO_BW_10)
2009                         shift = 1;
2010                 else
2011                         shift = 0;
2012                 rinfo->legacy = DIV_ROUND_UP(brate, 1 << shift);
2013                 break;
2014                 }
2015         }
2016 }
2017
2018 static int sta_set_rate_info_rx(struct sta_info *sta, struct rate_info *rinfo)
2019 {
2020         u16 rate = ACCESS_ONCE(sta_get_last_rx_stats(sta)->last_rate);
2021
2022         if (rate == STA_STATS_RATE_INVALID)
2023                 return -EINVAL;
2024
2025         sta_stats_decode_rate(sta->local, rate, rinfo);
2026         return 0;
2027 }
2028
2029 static void sta_set_tidstats(struct sta_info *sta,
2030                              struct cfg80211_tid_stats *tidstats,
2031                              int tid)
2032 {
2033         struct ieee80211_local *local = sta->local;
2034
2035         if (!(tidstats->filled & BIT(NL80211_TID_STATS_RX_MSDU))) {
2036                 unsigned int start;
2037
2038                 do {
2039                         start = u64_stats_fetch_begin(&sta->rx_stats.syncp);
2040                         tidstats->rx_msdu = sta->rx_stats.msdu[tid];
2041                 } while (u64_stats_fetch_retry(&sta->rx_stats.syncp, start));
2042
2043                 tidstats->filled |= BIT(NL80211_TID_STATS_RX_MSDU);
2044         }
2045
2046         if (!(tidstats->filled & BIT(NL80211_TID_STATS_TX_MSDU))) {
2047                 tidstats->filled |= BIT(NL80211_TID_STATS_TX_MSDU);
2048                 tidstats->tx_msdu = sta->tx_stats.msdu[tid];
2049         }
2050
2051         if (!(tidstats->filled & BIT(NL80211_TID_STATS_TX_MSDU_RETRIES)) &&
2052             ieee80211_hw_check(&local->hw, REPORTS_TX_ACK_STATUS)) {
2053                 tidstats->filled |= BIT(NL80211_TID_STATS_TX_MSDU_RETRIES);
2054                 tidstats->tx_msdu_retries = sta->status_stats.msdu_retries[tid];
2055         }
2056
2057         if (!(tidstats->filled & BIT(NL80211_TID_STATS_TX_MSDU_FAILED)) &&
2058             ieee80211_hw_check(&local->hw, REPORTS_TX_ACK_STATUS)) {
2059                 tidstats->filled |= BIT(NL80211_TID_STATS_TX_MSDU_FAILED);
2060                 tidstats->tx_msdu_failed = sta->status_stats.msdu_failed[tid];
2061         }
2062 }
2063
2064 static inline u64 sta_get_stats_bytes(struct ieee80211_sta_rx_stats *rxstats)
2065 {
2066         unsigned int start;
2067         u64 value;
2068
2069         do {
2070                 start = u64_stats_fetch_begin(&rxstats->syncp);
2071                 value = rxstats->bytes;
2072         } while (u64_stats_fetch_retry(&rxstats->syncp, start));
2073
2074         return value;
2075 }
2076
2077 void sta_set_sinfo(struct sta_info *sta, struct station_info *sinfo)
2078 {
2079         struct ieee80211_sub_if_data *sdata = sta->sdata;
2080         struct ieee80211_local *local = sdata->local;
2081         u32 thr = 0;
2082         int i, ac, cpu;
2083         struct ieee80211_sta_rx_stats *last_rxstats;
2084
2085         last_rxstats = sta_get_last_rx_stats(sta);
2086
2087         sinfo->generation = sdata->local->sta_generation;
2088
2089         /* do before driver, so beacon filtering drivers have a
2090          * chance to e.g. just add the number of filtered beacons
2091          * (or just modify the value entirely, of course)
2092          */
2093         if (sdata->vif.type == NL80211_IFTYPE_STATION)
2094                 sinfo->rx_beacon = sdata->u.mgd.count_beacon_signal;
2095
2096         drv_sta_statistics(local, sdata, &sta->sta, sinfo);
2097
2098         sinfo->filled |= BIT(NL80211_STA_INFO_INACTIVE_TIME) |
2099                          BIT(NL80211_STA_INFO_STA_FLAGS) |
2100                          BIT(NL80211_STA_INFO_BSS_PARAM) |
2101                          BIT(NL80211_STA_INFO_CONNECTED_TIME) |
2102                          BIT(NL80211_STA_INFO_RX_DROP_MISC);
2103
2104         if (sdata->vif.type == NL80211_IFTYPE_STATION) {
2105                 sinfo->beacon_loss_count = sdata->u.mgd.beacon_loss_count;
2106                 sinfo->filled |= BIT(NL80211_STA_INFO_BEACON_LOSS);
2107         }
2108
2109         sinfo->connected_time = ktime_get_seconds() - sta->last_connected;
2110         sinfo->inactive_time =
2111                 jiffies_to_msecs(jiffies - ieee80211_sta_last_active(sta));
2112
2113         if (!(sinfo->filled & (BIT(NL80211_STA_INFO_TX_BYTES64) |
2114                                BIT(NL80211_STA_INFO_TX_BYTES)))) {
2115                 sinfo->tx_bytes = 0;
2116                 for (ac = 0; ac < IEEE80211_NUM_ACS; ac++)
2117                         sinfo->tx_bytes += sta->tx_stats.bytes[ac];
2118                 sinfo->filled |= BIT(NL80211_STA_INFO_TX_BYTES64);
2119         }
2120
2121         if (!(sinfo->filled & BIT(NL80211_STA_INFO_TX_PACKETS))) {
2122                 sinfo->tx_packets = 0;
2123                 for (ac = 0; ac < IEEE80211_NUM_ACS; ac++)
2124                         sinfo->tx_packets += sta->tx_stats.packets[ac];
2125                 sinfo->filled |= BIT(NL80211_STA_INFO_TX_PACKETS);
2126         }
2127
2128         if (!(sinfo->filled & (BIT(NL80211_STA_INFO_RX_BYTES64) |
2129                                BIT(NL80211_STA_INFO_RX_BYTES)))) {
2130                 sinfo->rx_bytes += sta_get_stats_bytes(&sta->rx_stats);
2131
2132                 if (sta->pcpu_rx_stats) {
2133                         for_each_possible_cpu(cpu) {
2134                                 struct ieee80211_sta_rx_stats *cpurxs;
2135
2136                                 cpurxs = per_cpu_ptr(sta->pcpu_rx_stats, cpu);
2137                                 sinfo->rx_bytes += sta_get_stats_bytes(cpurxs);
2138                         }
2139                 }
2140
2141                 sinfo->filled |= BIT(NL80211_STA_INFO_RX_BYTES64);
2142         }
2143
2144         if (!(sinfo->filled & BIT(NL80211_STA_INFO_RX_PACKETS))) {
2145                 sinfo->rx_packets = sta->rx_stats.packets;
2146                 if (sta->pcpu_rx_stats) {
2147                         for_each_possible_cpu(cpu) {
2148                                 struct ieee80211_sta_rx_stats *cpurxs;
2149
2150                                 cpurxs = per_cpu_ptr(sta->pcpu_rx_stats, cpu);
2151                                 sinfo->rx_packets += cpurxs->packets;
2152                         }
2153                 }
2154                 sinfo->filled |= BIT(NL80211_STA_INFO_RX_PACKETS);
2155         }
2156
2157         if (!(sinfo->filled & BIT(NL80211_STA_INFO_TX_RETRIES))) {
2158                 sinfo->tx_retries = sta->status_stats.retry_count;
2159                 sinfo->filled |= BIT(NL80211_STA_INFO_TX_RETRIES);
2160         }
2161
2162         if (!(sinfo->filled & BIT(NL80211_STA_INFO_TX_FAILED))) {
2163                 sinfo->tx_failed = sta->status_stats.retry_failed;
2164                 sinfo->filled |= BIT(NL80211_STA_INFO_TX_FAILED);
2165         }
2166
2167         sinfo->rx_dropped_misc = sta->rx_stats.dropped;
2168         if (sta->pcpu_rx_stats) {
2169                 for_each_possible_cpu(cpu) {
2170                         struct ieee80211_sta_rx_stats *cpurxs;
2171
2172                         cpurxs = per_cpu_ptr(sta->pcpu_rx_stats, cpu);
2173                         sinfo->rx_dropped_misc += cpurxs->dropped;
2174                 }
2175         }
2176
2177         if (sdata->vif.type == NL80211_IFTYPE_STATION &&
2178             !(sdata->vif.driver_flags & IEEE80211_VIF_BEACON_FILTER)) {
2179                 sinfo->filled |= BIT(NL80211_STA_INFO_BEACON_RX) |
2180                                  BIT(NL80211_STA_INFO_BEACON_SIGNAL_AVG);
2181                 sinfo->rx_beacon_signal_avg = ieee80211_ave_rssi(&sdata->vif);
2182         }
2183
2184         if (ieee80211_hw_check(&sta->local->hw, SIGNAL_DBM) ||
2185             ieee80211_hw_check(&sta->local->hw, SIGNAL_UNSPEC)) {
2186                 if (!(sinfo->filled & BIT(NL80211_STA_INFO_SIGNAL))) {
2187                         sinfo->signal = (s8)last_rxstats->last_signal;
2188                         sinfo->filled |= BIT(NL80211_STA_INFO_SIGNAL);
2189                 }
2190
2191                 if (!sta->pcpu_rx_stats &&
2192                     !(sinfo->filled & BIT(NL80211_STA_INFO_SIGNAL_AVG))) {
2193                         sinfo->signal_avg =
2194                                 -ewma_signal_read(&sta->rx_stats_avg.signal);
2195                         sinfo->filled |= BIT(NL80211_STA_INFO_SIGNAL_AVG);
2196                 }
2197         }
2198
2199         /* for the average - if pcpu_rx_stats isn't set - rxstats must point to
2200          * the sta->rx_stats struct, so the check here is fine with and without
2201          * pcpu statistics
2202          */
2203         if (last_rxstats->chains &&
2204             !(sinfo->filled & (BIT(NL80211_STA_INFO_CHAIN_SIGNAL) |
2205                                BIT(NL80211_STA_INFO_CHAIN_SIGNAL_AVG)))) {
2206                 sinfo->filled |= BIT(NL80211_STA_INFO_CHAIN_SIGNAL);
2207                 if (!sta->pcpu_rx_stats)
2208                         sinfo->filled |= BIT(NL80211_STA_INFO_CHAIN_SIGNAL_AVG);
2209
2210                 sinfo->chains = last_rxstats->chains;
2211
2212                 for (i = 0; i < ARRAY_SIZE(sinfo->chain_signal); i++) {
2213                         sinfo->chain_signal[i] =
2214                                 last_rxstats->chain_signal_last[i];
2215                         sinfo->chain_signal_avg[i] =
2216                                 -ewma_signal_read(&sta->rx_stats_avg.chain_signal[i]);
2217                 }
2218         }
2219
2220         if (!(sinfo->filled & BIT(NL80211_STA_INFO_TX_BITRATE))) {
2221                 sta_set_rate_info_tx(sta, &sta->tx_stats.last_rate,
2222                                      &sinfo->txrate);
2223                 sinfo->filled |= BIT(NL80211_STA_INFO_TX_BITRATE);
2224         }
2225
2226         if (!(sinfo->filled & BIT(NL80211_STA_INFO_RX_BITRATE))) {
2227                 if (sta_set_rate_info_rx(sta, &sinfo->rxrate) == 0)
2228                         sinfo->filled |= BIT(NL80211_STA_INFO_RX_BITRATE);
2229         }
2230
2231         sinfo->filled |= BIT(NL80211_STA_INFO_TID_STATS);
2232         for (i = 0; i < IEEE80211_NUM_TIDS + 1; i++) {
2233                 struct cfg80211_tid_stats *tidstats = &sinfo->pertid[i];
2234
2235                 sta_set_tidstats(sta, tidstats, i);
2236         }
2237
2238         if (ieee80211_vif_is_mesh(&sdata->vif)) {
2239 #ifdef CONFIG_MAC80211_MESH
2240                 sinfo->filled |= BIT(NL80211_STA_INFO_LLID) |
2241                                  BIT(NL80211_STA_INFO_PLID) |
2242                                  BIT(NL80211_STA_INFO_PLINK_STATE) |
2243                                  BIT(NL80211_STA_INFO_LOCAL_PM) |
2244                                  BIT(NL80211_STA_INFO_PEER_PM) |
2245                                  BIT(NL80211_STA_INFO_NONPEER_PM);
2246
2247                 sinfo->llid = sta->mesh->llid;
2248                 sinfo->plid = sta->mesh->plid;
2249                 sinfo->plink_state = sta->mesh->plink_state;
2250                 if (test_sta_flag(sta, WLAN_STA_TOFFSET_KNOWN)) {
2251                         sinfo->filled |= BIT(NL80211_STA_INFO_T_OFFSET);
2252                         sinfo->t_offset = sta->mesh->t_offset;
2253                 }
2254                 sinfo->local_pm = sta->mesh->local_pm;
2255                 sinfo->peer_pm = sta->mesh->peer_pm;
2256                 sinfo->nonpeer_pm = sta->mesh->nonpeer_pm;
2257 #endif
2258         }
2259
2260         sinfo->bss_param.flags = 0;
2261         if (sdata->vif.bss_conf.use_cts_prot)
2262                 sinfo->bss_param.flags |= BSS_PARAM_FLAGS_CTS_PROT;
2263         if (sdata->vif.bss_conf.use_short_preamble)
2264                 sinfo->bss_param.flags |= BSS_PARAM_FLAGS_SHORT_PREAMBLE;
2265         if (sdata->vif.bss_conf.use_short_slot)
2266                 sinfo->bss_param.flags |= BSS_PARAM_FLAGS_SHORT_SLOT_TIME;
2267         sinfo->bss_param.dtim_period = sdata->vif.bss_conf.dtim_period;
2268         sinfo->bss_param.beacon_interval = sdata->vif.bss_conf.beacon_int;
2269
2270         sinfo->sta_flags.set = 0;
2271         sinfo->sta_flags.mask = BIT(NL80211_STA_FLAG_AUTHORIZED) |
2272                                 BIT(NL80211_STA_FLAG_SHORT_PREAMBLE) |
2273                                 BIT(NL80211_STA_FLAG_WME) |
2274                                 BIT(NL80211_STA_FLAG_MFP) |
2275                                 BIT(NL80211_STA_FLAG_AUTHENTICATED) |
2276                                 BIT(NL80211_STA_FLAG_ASSOCIATED) |
2277                                 BIT(NL80211_STA_FLAG_TDLS_PEER);
2278         if (test_sta_flag(sta, WLAN_STA_AUTHORIZED))
2279                 sinfo->sta_flags.set |= BIT(NL80211_STA_FLAG_AUTHORIZED);
2280         if (test_sta_flag(sta, WLAN_STA_SHORT_PREAMBLE))
2281                 sinfo->sta_flags.set |= BIT(NL80211_STA_FLAG_SHORT_PREAMBLE);
2282         if (sta->sta.wme)
2283                 sinfo->sta_flags.set |= BIT(NL80211_STA_FLAG_WME);
2284         if (test_sta_flag(sta, WLAN_STA_MFP))
2285                 sinfo->sta_flags.set |= BIT(NL80211_STA_FLAG_MFP);
2286         if (test_sta_flag(sta, WLAN_STA_AUTH))
2287                 sinfo->sta_flags.set |= BIT(NL80211_STA_FLAG_AUTHENTICATED);
2288         if (test_sta_flag(sta, WLAN_STA_ASSOC))
2289                 sinfo->sta_flags.set |= BIT(NL80211_STA_FLAG_ASSOCIATED);
2290         if (test_sta_flag(sta, WLAN_STA_TDLS_PEER))
2291                 sinfo->sta_flags.set |= BIT(NL80211_STA_FLAG_TDLS_PEER);
2292
2293         thr = sta_get_expected_throughput(sta);
2294
2295         if (thr != 0) {
2296                 sinfo->filled |= BIT(NL80211_STA_INFO_EXPECTED_THROUGHPUT);
2297                 sinfo->expected_throughput = thr;
2298         }
2299 }
2300
2301 u32 sta_get_expected_throughput(struct sta_info *sta)
2302 {
2303         struct ieee80211_sub_if_data *sdata = sta->sdata;
2304         struct ieee80211_local *local = sdata->local;
2305         struct rate_control_ref *ref = NULL;
2306         u32 thr = 0;
2307
2308         if (test_sta_flag(sta, WLAN_STA_RATE_CONTROL))
2309                 ref = local->rate_ctrl;
2310
2311         /* check if the driver has a SW RC implementation */
2312         if (ref && ref->ops->get_expected_throughput)
2313                 thr = ref->ops->get_expected_throughput(sta->rate_ctrl_priv);
2314         else
2315                 thr = drv_get_expected_throughput(local, sta);
2316
2317         return thr;
2318 }
2319
2320 unsigned long ieee80211_sta_last_active(struct sta_info *sta)
2321 {
2322         struct ieee80211_sta_rx_stats *stats = sta_get_last_rx_stats(sta);
2323
2324         if (time_after(stats->last_rx, sta->status_stats.last_ack))
2325                 return stats->last_rx;
2326         return sta->status_stats.last_ack;
2327 }
2328
2329 static void sta_update_codel_params(struct sta_info *sta, u32 thr)
2330 {
2331         if (!sta->sdata->local->ops->wake_tx_queue)
2332                 return;
2333
2334         if (thr && thr < STA_SLOW_THRESHOLD * sta->local->num_sta) {
2335                 sta->cparams.target = MS2TIME(50);
2336                 sta->cparams.interval = MS2TIME(300);
2337                 sta->cparams.ecn = false;
2338         } else {
2339                 sta->cparams.target = MS2TIME(20);
2340                 sta->cparams.interval = MS2TIME(100);
2341                 sta->cparams.ecn = true;
2342         }
2343 }
2344
2345 void ieee80211_sta_set_expected_throughput(struct ieee80211_sta *pubsta,
2346                                            u32 thr)
2347 {
2348         struct sta_info *sta = container_of(pubsta, struct sta_info, sta);
2349
2350         sta_update_codel_params(sta, thr);
2351 }