drivers/net/wireless/ath/ath9k/recv.c

   1 /*
   2  * Copyright (c) 2008-2011 Atheros Communications Inc.
   3  *
   4  * Permission to use, copy, modify, and/or distribute this software for any
   5  * purpose with or without fee is hereby granted, provided that the above
   6  * copyright notice and this permission notice appear in all copies.
   7  *
   8  * THE SOFTWARE IS PROVIDED "AS IS" AND THE AUTHOR DISCLAIMS ALL WARRANTIES
   9  * WITH REGARD TO THIS SOFTWARE INCLUDING ALL IMPLIED WARRANTIES OF
  10  * MERCHANTABILITY AND FITNESS. IN NO EVENT SHALL THE AUTHOR BE LIABLE FOR
  11  * ANY SPECIAL, DIRECT, INDIRECT, OR CONSEQUENTIAL DAMAGES OR ANY DAMAGES
  12  * WHATSOEVER RESULTING FROM LOSS OF USE, DATA OR PROFITS, WHETHER IN AN
  13  * ACTION OF CONTRACT, NEGLIGENCE OR OTHER TORTIOUS ACTION, ARISING OUT OF
  14  * OR IN CONNECTION WITH THE USE OR PERFORMANCE OF THIS SOFTWARE.
  15  */
  16
  17 #include <linux/dma-mapping.h>
  18 #include "ath9k.h"
  19 #include "ar9003_mac.h"
  20
  21 #define SKB_CB_ATHBUF(__skb)    (*((struct ath_rxbuf **)__skb->cb))
  22
  23 static inline bool ath9k_check_auto_sleep(struct ath_softc *sc)
  24 {
  25         return sc->ps_enabled &&
  26                (sc->sc_ah->caps.hw_caps & ATH9K_HW_CAP_AUTOSLEEP);
  27 }
  28
  29 /*
  30  * Setup and link descriptors.
  31  *
  32  * 11N: we can no longer afford to self link the last descriptor.
  33  * MAC acknowledges BA status as long as it copies frames to host
  34  * buffer (or rx fifo). This can incorrectly acknowledge packets
  35  * to a sender if last desc is self-linked.
  36  */
  37 static void ath_rx_buf_link(struct ath_softc *sc, struct ath_rxbuf *bf)
  38 {
  39         struct ath_hw *ah = sc->sc_ah;
  40         struct ath_common *common = ath9k_hw_common(ah);
  41         struct ath_desc *ds;
  42         struct sk_buff *skb;
  43
  44         ds = bf->bf_desc;
  45         ds->ds_link = 0; /* link to null */
  46         ds->ds_data = bf->bf_buf_addr;
  47
  48         /* virtual addr of the beginning of the buffer. */
  49         skb = bf->bf_mpdu;
  50         BUG_ON(skb == NULL);
  51         ds->ds_vdata = skb->data;
  52
  53         /*
  54          * setup rx descriptors. The rx_bufsize here tells the hardware
  55          * how much data it can DMA to us and that we are prepared
  56          * to process
  57          */
  58         ath9k_hw_setuprxdesc(ah, ds,
  59                              common->rx_bufsize,
  60                              0);
  61
  62         if (sc->rx.rxlink == NULL)
  63                 ath9k_hw_putrxbuf(ah, bf->bf_daddr);
  64         else
  65                 *sc->rx.rxlink = bf->bf_daddr;
  66
  67         sc->rx.rxlink = &ds->ds_link;
  68 }
  69
  70 static void ath_rx_buf_relink(struct ath_softc *sc, struct ath_rxbuf *bf)
  71 {
  72         if (sc->rx.buf_hold)
  73                 ath_rx_buf_link(sc, sc->rx.buf_hold);
  74
  75         sc->rx.buf_hold = bf;
  76 }
  77
  78 static void ath_setdefantenna(struct ath_softc *sc, u32 antenna)
  79 {
  80         /* XXX block beacon interrupts */
  81         ath9k_hw_setantenna(sc->sc_ah, antenna);
  82         sc->rx.defant = antenna;
  83         sc->rx.rxotherant = 0;
  84 }
  85
  86 static void ath_opmode_init(struct ath_softc *sc)
  87 {
  88         struct ath_hw *ah = sc->sc_ah;
  89         struct ath_common *common = ath9k_hw_common(ah);
  90
  91         u32 rfilt, mfilt[2];
  92
  93         /* configure rx filter */
  94         rfilt = ath_calcrxfilter(sc);
  95         ath9k_hw_setrxfilter(ah, rfilt);
  96
  97         /* configure bssid mask */
  98         ath_hw_setbssidmask(common);
  99
 100         /* configure operational mode */
 101         ath9k_hw_setopmode(ah);
 102
 103         /* calculate and install multicast filter */
 104         mfilt[0] = mfilt[1] = ~0;
 105         ath9k_hw_setmcastfilter(ah, mfilt[0], mfilt[1]);
 106 }
 107
 108 static bool ath_rx_edma_buf_link(struct ath_softc *sc,
 109                                  enum ath9k_rx_qtype qtype)
 110 {
 111         struct ath_hw *ah = sc->sc_ah;
 112         struct ath_rx_edma *rx_edma;
 113         struct sk_buff *skb;
 114         struct ath_rxbuf *bf;
 115
 116         rx_edma = &sc->rx.rx_edma[qtype];
 117         if (skb_queue_len(&rx_edma->rx_fifo) >= rx_edma->rx_fifo_hwsize)
 118                 return false;
 119
 120         bf = list_first_entry(&sc->rx.rxbuf, struct ath_rxbuf, list);
 121         list_del_init(&bf->list);
 122
 123         skb = bf->bf_mpdu;
 124
 125         memset(skb->data, 0, ah->caps.rx_status_len);
 126         dma_sync_single_for_device(sc->dev, bf->bf_buf_addr,
 127                                 ah->caps.rx_status_len, DMA_TO_DEVICE);
 128
 129         SKB_CB_ATHBUF(skb) = bf;
 130         ath9k_hw_addrxbuf_edma(ah, bf->bf_buf_addr, qtype);
 131         __skb_queue_tail(&rx_edma->rx_fifo, skb);
 132
 133         return true;
 134 }
 135
 136 static void ath_rx_addbuffer_edma(struct ath_softc *sc,
 137                                   enum ath9k_rx_qtype qtype)
 138 {
 139         struct ath_common *common = ath9k_hw_common(sc->sc_ah);
 140         struct ath_rxbuf *bf, *tbf;
 141
 142         if (list_empty(&sc->rx.rxbuf)) {
 143                 ath_dbg(common, QUEUE, "No free rx buf available\n");
 144                 return;
 145         }
 146
 147         list_for_each_entry_safe(bf, tbf, &sc->rx.rxbuf, list)
 148                 if (!ath_rx_edma_buf_link(sc, qtype))
 149                         break;
 150
 151 }
 152
 153 static void ath_rx_remove_buffer(struct ath_softc *sc,
 154                                  enum ath9k_rx_qtype qtype)
 155 {
 156         struct ath_rxbuf *bf;
 157         struct ath_rx_edma *rx_edma;
 158         struct sk_buff *skb;
 159
 160         rx_edma = &sc->rx.rx_edma[qtype];
 161
 162         while ((skb = __skb_dequeue(&rx_edma->rx_fifo)) != NULL) {
 163                 bf = SKB_CB_ATHBUF(skb);
 164                 BUG_ON(!bf);
 165                 list_add_tail(&bf->list, &sc->rx.rxbuf);
 166         }
 167 }
 168
 169 static void ath_rx_edma_cleanup(struct ath_softc *sc)
 170 {
 171         struct ath_hw *ah = sc->sc_ah;
 172         struct ath_common *common = ath9k_hw_common(ah);
 173         struct ath_rxbuf *bf;
 174
 175         ath_rx_remove_buffer(sc, ATH9K_RX_QUEUE_LP);
 176         ath_rx_remove_buffer(sc, ATH9K_RX_QUEUE_HP);
 177
 178         list_for_each_entry(bf, &sc->rx.rxbuf, list) {
 179                 if (bf->bf_mpdu) {
 180                         dma_unmap_single(sc->dev, bf->bf_buf_addr,
 181                                         common->rx_bufsize,
 182                                         DMA_BIDIRECTIONAL);
 183                         dev_kfree_skb_any(bf->bf_mpdu);
 184                         bf->bf_buf_addr = 0;
 185                         bf->bf_mpdu = NULL;
 186                 }
 187         }
 188 }
 189
 190 static void ath_rx_edma_init_queue(struct ath_rx_edma *rx_edma, int size)
 191 {
 192         __skb_queue_head_init(&rx_edma->rx_fifo);
 193         rx_edma->rx_fifo_hwsize = size;
 194 }
 195
 196 static int ath_rx_edma_init(struct ath_softc *sc, int nbufs)
 197 {
 198         struct ath_common *common = ath9k_hw_common(sc->sc_ah);
 199         struct ath_hw *ah = sc->sc_ah;
 200         struct sk_buff *skb;
 201         struct ath_rxbuf *bf;
 202         int error = 0, i;
 203         u32 size;
 204
 205         ath9k_hw_set_rx_bufsize(ah, common->rx_bufsize -
 206                                     ah->caps.rx_status_len);
 207
 208         ath_rx_edma_init_queue(&sc->rx.rx_edma[ATH9K_RX_QUEUE_LP],
 209                                ah->caps.rx_lp_qdepth);
 210         ath_rx_edma_init_queue(&sc->rx.rx_edma[ATH9K_RX_QUEUE_HP],
 211                                ah->caps.rx_hp_qdepth);
 212
 213         size = sizeof(struct ath_rxbuf) * nbufs;
 214         bf = devm_kzalloc(sc->dev, size, GFP_KERNEL);
 215         if (!bf)
 216                 return -ENOMEM;
 217
 218         INIT_LIST_HEAD(&sc->rx.rxbuf);
 219
 220         for (i = 0; i < nbufs; i++, bf++) {
 221                 skb = ath_rxbuf_alloc(common, common->rx_bufsize, GFP_KERNEL);
 222                 if (!skb) {
 223                         error = -ENOMEM;
 224                         goto rx_init_fail;
 225                 }
 226
 227                 memset(skb->data, 0, common->rx_bufsize);
 228                 bf->bf_mpdu = skb;
 229
 230                 bf->bf_buf_addr = dma_map_single(sc->dev, skb->data,
 231                                                  common->rx_bufsize,
 232                                                  DMA_BIDIRECTIONAL);
 233                 if (unlikely(dma_mapping_error(sc->dev,
 234                                                 bf->bf_buf_addr))) {
 235                                 dev_kfree_skb_any(skb);
 236                                 bf->bf_mpdu = NULL;
 237                                 bf->bf_buf_addr = 0;
 238                                 ath_err(common,
 239                                         "dma_mapping_error() on RX init\n");
 240                                 error = -ENOMEM;
 241                                 goto rx_init_fail;
 242                 }
 243
 244                 list_add_tail(&bf->list, &sc->rx.rxbuf);
 245         }
 246
 247         return 0;
 248
 249 rx_init_fail:
 250         ath_rx_edma_cleanup(sc);
 251         return error;
 252 }
 253
 254 static void ath_edma_start_recv(struct ath_softc *sc)
 255 {
 256         ath9k_hw_rxena(sc->sc_ah);
 257         ath_rx_addbuffer_edma(sc, ATH9K_RX_QUEUE_HP);
 258         ath_rx_addbuffer_edma(sc, ATH9K_RX_QUEUE_LP);
 259         ath_opmode_init(sc);
 260         ath9k_hw_startpcureceive(sc->sc_ah, !!(sc->hw->conf.flags & IEEE80211_CONF_OFFCHANNEL));
 261 }
 262
 263 static void ath_edma_stop_recv(struct ath_softc *sc)
 264 {
 265         ath_rx_remove_buffer(sc, ATH9K_RX_QUEUE_HP);
 266         ath_rx_remove_buffer(sc, ATH9K_RX_QUEUE_LP);
 267 }
 268
 269 int ath_rx_init(struct ath_softc *sc, int nbufs)
 270 {
 271         struct ath_common *common = ath9k_hw_common(sc->sc_ah);
 272         struct sk_buff *skb;
 273         struct ath_rxbuf *bf;
 274         int error = 0;
 275
 276         spin_lock_init(&sc->sc_pcu_lock);
 277
 278         common->rx_bufsize = IEEE80211_MAX_MPDU_LEN / 2 +
 279                              sc->sc_ah->caps.rx_status_len;
 280
 281         if (sc->sc_ah->caps.hw_caps & ATH9K_HW_CAP_EDMA)
 282                 return ath_rx_edma_init(sc, nbufs);
 283
 284         ath_dbg(common, CONFIG, "cachelsz %u rxbufsize %u\n",
 285                 common->cachelsz, common->rx_bufsize);
 286
 287         /* Initialize rx descriptors */
 288
 289         error = ath_descdma_setup(sc, &sc->rx.rxdma, &sc->rx.rxbuf,
 290                                   "rx", nbufs, 1, 0);
 291         if (error != 0) {
 292                 ath_err(common,
 293                         "failed to allocate rx descriptors: %d\n",
 294                         error);
 295                 goto err;
 296         }
 297
 298         list_for_each_entry(bf, &sc->rx.rxbuf, list) {
 299                 skb = ath_rxbuf_alloc(common, common->rx_bufsize,
 300                                       GFP_KERNEL);
 301                 if (skb == NULL) {
 302                         error = -ENOMEM;
 303                         goto err;
 304                 }
 305
 306                 bf->bf_mpdu = skb;
 307                 bf->bf_buf_addr = dma_map_single(sc->dev, skb->data,
 308                                                  common->rx_bufsize,
 309                                                  DMA_FROM_DEVICE);
 310                 if (unlikely(dma_mapping_error(sc->dev,
 311                                                bf->bf_buf_addr))) {
 312                         dev_kfree_skb_any(skb);
 313                         bf->bf_mpdu = NULL;
 314                         bf->bf_buf_addr = 0;
 315                         ath_err(common,
 316                                 "dma_mapping_error() on RX init\n");
 317                         error = -ENOMEM;
 318                         goto err;
 319                 }
 320         }
 321         sc->rx.rxlink = NULL;
 322 err:
 323         if (error)
 324                 ath_rx_cleanup(sc);
 325
 326         return error;
 327 }
 328
 329 void ath_rx_cleanup(struct ath_softc *sc)
 330 {
 331         struct ath_hw *ah = sc->sc_ah;
 332         struct ath_common *common = ath9k_hw_common(ah);
 333         struct sk_buff *skb;
 334         struct ath_rxbuf *bf;
 335
 336         if (sc->sc_ah->caps.hw_caps & ATH9K_HW_CAP_EDMA) {
 337                 ath_rx_edma_cleanup(sc);
 338                 return;
 339         }
 340
 341         list_for_each_entry(bf, &sc->rx.rxbuf, list) {
 342                 skb = bf->bf_mpdu;
 343                 if (skb) {
 344                         dma_unmap_single(sc->dev, bf->bf_buf_addr,
 345                                          common->rx_bufsize,
 346                                          DMA_FROM_DEVICE);
 347                         dev_kfree_skb(skb);
 348                         bf->bf_buf_addr = 0;
 349                         bf->bf_mpdu = NULL;
 350                 }
 351         }
 352 }
 353
 354 /*
 355  * Calculate the receive filter according to the
 356  * operating mode and state:
 357  *
 358  * o always accept unicast, broadcast, and multicast traffic
 359  * o maintain current state of phy error reception (the hal
 360  *   may enable phy error frames for noise immunity work)
 361  * o probe request frames are accepted only when operating in
 362  *   hostap, adhoc, or monitor modes
 363  * o enable promiscuous mode according to the interface state
 364  * o accept beacons:
 365  *   - when operating in adhoc mode so the 802.11 layer creates
 366  *     node table entries for peers,
 367  *   - when operating in station mode for collecting rssi data when
 368  *     the station is otherwise quiet, or
 369  *   - when operating as a repeater so we see repeater-sta beacons
 370  *   - when scanning
 371  */
 372
 373 u32 ath_calcrxfilter(struct ath_softc *sc)
 374 {
 375         u32 rfilt;
 376
 377         if (config_enabled(CONFIG_ATH9K_TX99))
 378                 return 0;
 379
 380         rfilt = ATH9K_RX_FILTER_UCAST | ATH9K_RX_FILTER_BCAST
 381                 | ATH9K_RX_FILTER_MCAST;
 382
 383         /* if operating on a DFS channel, enable radar pulse detection */
 384         if (sc->hw->conf.radar_enabled)
 385                 rfilt |= ATH9K_RX_FILTER_PHYRADAR | ATH9K_RX_FILTER_PHYERR;
 386
 387         if (sc->rx.rxfilter & FIF_PROBE_REQ)
 388                 rfilt |= ATH9K_RX_FILTER_PROBEREQ;
 389
 390         /*
 391          * Set promiscuous mode when FIF_PROMISC_IN_BSS is enabled for station
 392          * mode interface or when in monitor mode. AP mode does not need this
 393          * since it receives all in-BSS frames anyway.
 394          */
 395         if (sc->sc_ah->is_monitoring)
 396                 rfilt |= ATH9K_RX_FILTER_PROM;
 397
 398         if (sc->rx.rxfilter & FIF_CONTROL)
 399                 rfilt |= ATH9K_RX_FILTER_CONTROL;
 400
 401         if ((sc->sc_ah->opmode == NL80211_IFTYPE_STATION) &&
 402             (sc->nvifs <= 1) &&
 403             !(sc->rx.rxfilter & FIF_BCN_PRBRESP_PROMISC))
 404                 rfilt |= ATH9K_RX_FILTER_MYBEACON;
 405         else
 406                 rfilt |= ATH9K_RX_FILTER_BEACON;
 407
 408         if ((sc->sc_ah->opmode == NL80211_IFTYPE_AP) ||
 409             (sc->rx.rxfilter & FIF_PSPOLL))
 410                 rfilt |= ATH9K_RX_FILTER_PSPOLL;
 411
 412         if (conf_is_ht(&sc->hw->conf))
 413                 rfilt |= ATH9K_RX_FILTER_COMP_BAR;
 414
 415         if (sc->nvifs > 1 || (sc->rx.rxfilter & FIF_OTHER_BSS)) {
 416                 /* This is needed for older chips */
 417                 if (sc->sc_ah->hw_version.macVersion <= AR_SREV_VERSION_9160)
 418                         rfilt |= ATH9K_RX_FILTER_PROM;
 419                 rfilt |= ATH9K_RX_FILTER_MCAST_BCAST_ALL;
 420         }
 421
 422         if (AR_SREV_9550(sc->sc_ah) || AR_SREV_9531(sc->sc_ah))
 423                 rfilt |= ATH9K_RX_FILTER_4ADDRESS;
 424
 425         return rfilt;
 426
 427 }
 428
 429 int ath_startrecv(struct ath_softc *sc)
 430 {
 431         struct ath_hw *ah = sc->sc_ah;
 432         struct ath_rxbuf *bf, *tbf;
 433
 434         if (ah->caps.hw_caps & ATH9K_HW_CAP_EDMA) {
 435                 ath_edma_start_recv(sc);
 436                 return 0;
 437         }
 438
 439         if (list_empty(&sc->rx.rxbuf))
 440                 goto start_recv;
 441
 442         sc->rx.buf_hold = NULL;
 443         sc->rx.rxlink = NULL;
 444         list_for_each_entry_safe(bf, tbf, &sc->rx.rxbuf, list) {
 445                 ath_rx_buf_link(sc, bf);
 446         }
 447
 448         /* We could have deleted elements so the list may be empty now */
 449         if (list_empty(&sc->rx.rxbuf))
 450                 goto start_recv;
 451
 452         bf = list_first_entry(&sc->rx.rxbuf, struct ath_rxbuf, list);
 453         ath9k_hw_putrxbuf(ah, bf->bf_daddr);
 454         ath9k_hw_rxena(ah);
 455
 456 start_recv:
 457         ath_opmode_init(sc);
 458         ath9k_hw_startpcureceive(ah, !!(sc->hw->conf.flags & IEEE80211_CONF_OFFCHANNEL));
 459
 460         return 0;
 461 }
 462
 463 static void ath_flushrecv(struct ath_softc *sc)
 464 {
 465         if (sc->sc_ah->caps.hw_caps & ATH9K_HW_CAP_EDMA)
 466                 ath_rx_tasklet(sc, 1, true);
 467         ath_rx_tasklet(sc, 1, false);
 468 }
 469
 470 bool ath_stoprecv(struct ath_softc *sc)
 471 {
 472         struct ath_hw *ah = sc->sc_ah;
 473         bool stopped, reset = false;
 474
 475         ath9k_hw_abortpcurecv(ah);
 476         ath9k_hw_setrxfilter(ah, 0);
 477         stopped = ath9k_hw_stopdmarecv(ah, &reset);
 478
 479         ath_flushrecv(sc);
 480
 481         if (sc->sc_ah->caps.hw_caps & ATH9K_HW_CAP_EDMA)
 482                 ath_edma_stop_recv(sc);
 483         else
 484                 sc->rx.rxlink = NULL;
 485
 486         if (!(ah->ah_flags & AH_UNPLUGGED) &&
 487             unlikely(!stopped)) {
 488                 ath_err(ath9k_hw_common(sc->sc_ah),
 489                         "Could not stop RX, we could be "
 490                         "confusing the DMA engine when we start RX up\n");
 491                 ATH_DBG_WARN_ON_ONCE(!stopped);
 492         }
 493         return stopped && !reset;
 494 }
 495
 496 static bool ath_beacon_dtim_pending_cab(struct sk_buff *skb)
 497 {
 498         /* Check whether the Beacon frame has DTIM indicating buffered bc/mc */
 499         struct ieee80211_mgmt *mgmt;
 500         u8 *pos, *end, id, elen;
 501         struct ieee80211_tim_ie *tim;
 502
 503         mgmt = (struct ieee80211_mgmt *)skb->data;
 504         pos = mgmt->u.beacon.variable;
 505         end = skb->data + skb->len;
 506
 507         while (pos + 2 < end) {
 508                 id = *pos++;
 509                 elen = *pos++;
 510                 if (pos + elen > end)
 511                         break;
 512
 513                 if (id == WLAN_EID_TIM) {
 514                         if (elen < sizeof(*tim))
 515                                 break;
 516                         tim = (struct ieee80211_tim_ie *) pos;
 517                         if (tim->dtim_count != 0)
 518                                 break;
 519                         return tim->bitmap_ctrl & 0x01;
 520                 }
 521
 522                 pos += elen;
 523         }
 524
 525         return false;
 526 }
 527
 528 static void ath_rx_ps_beacon(struct ath_softc *sc, struct sk_buff *skb)
 529 {
 530         struct ath_common *common = ath9k_hw_common(sc->sc_ah);
 531
 532         if (skb->len < 24 + 8 + 2 + 2)
 533                 return;
 534
 535         sc->ps_flags &= ~PS_WAIT_FOR_BEACON;
 536
 537         if (sc->ps_flags & PS_BEACON_SYNC) {
 538                 sc->ps_flags &= ~PS_BEACON_SYNC;
 539                 ath_dbg(common, PS,
 540                         "Reconfigure beacon timers based on synchronized timestamp\n");
 541                 if (!(WARN_ON_ONCE(sc->cur_beacon_conf.beacon_interval == 0)))
 542                         ath9k_set_beacon(sc);
 543                 if (sc->p2p_ps_vif)
 544                         ath9k_update_p2p_ps(sc, sc->p2p_ps_vif->vif);
 545         }
 546
 547         if (ath_beacon_dtim_pending_cab(skb)) {
 548                 /*
 549                  * Remain awake waiting for buffered broadcast/multicast
 550                  * frames. If the last broadcast/multicast frame is not
 551                  * received properly, the next beacon frame will work as
 552                  * a backup trigger for returning into NETWORK SLEEP state,
 553                  * so we are waiting for it as well.
 554                  */
 555                 ath_dbg(common, PS,
 556                         "Received DTIM beacon indicating buffered broadcast/multicast frame(s)\n");
 557                 sc->ps_flags |= PS_WAIT_FOR_CAB | PS_WAIT_FOR_BEACON;
 558                 return;
 559         }
 560
 561         if (sc->ps_flags & PS_WAIT_FOR_CAB) {
 562                 /*
 563                  * This can happen if a broadcast frame is dropped or the AP
 564                  * fails to send a frame indicating that all CAB frames have
 565                  * been delivered.
 566                  */
 567                 sc->ps_flags &= ~PS_WAIT_FOR_CAB;
 568                 ath_dbg(common, PS, "PS wait for CAB frames timed out\n");
 569         }
 570 }
 571
 572 static void ath_rx_ps(struct ath_softc *sc, struct sk_buff *skb, bool mybeacon)
 573 {
 574         struct ieee80211_hdr *hdr;
 575         struct ath_common *common = ath9k_hw_common(sc->sc_ah);
 576
 577         hdr = (struct ieee80211_hdr *)skb->data;
 578
 579         /* Process Beacon and CAB receive in PS state */
 580         if (((sc->ps_flags & PS_WAIT_FOR_BEACON) || ath9k_check_auto_sleep(sc))
 581             && mybeacon) {
 582                 ath_rx_ps_beacon(sc, skb);
 583         } else if ((sc->ps_flags & PS_WAIT_FOR_CAB) &&
 584                    (ieee80211_is_data(hdr->frame_control) ||
 585                     ieee80211_is_action(hdr->frame_control)) &&
 586                    is_multicast_ether_addr(hdr->addr1) &&
 587                    !ieee80211_has_moredata(hdr->frame_control)) {
 588                 /*
 589                  * No more broadcast/multicast frames to be received at this
 590                  * point.
 591                  */
 592                 sc->ps_flags &= ~(PS_WAIT_FOR_CAB | PS_WAIT_FOR_BEACON);
 593                 ath_dbg(common, PS,
 594                         "All PS CAB frames received, back to sleep\n");
 595         } else if ((sc->ps_flags & PS_WAIT_FOR_PSPOLL_DATA) &&
 596                    !is_multicast_ether_addr(hdr->addr1) &&
 597                    !ieee80211_has_morefrags(hdr->frame_control)) {
 598                 sc->ps_flags &= ~PS_WAIT_FOR_PSPOLL_DATA;
 599                 ath_dbg(common, PS,
 600                         "Going back to sleep after having received PS-Poll data (0x%lx)\n",
 601                         sc->ps_flags & (PS_WAIT_FOR_BEACON |
 602                                         PS_WAIT_FOR_CAB |
 603                                         PS_WAIT_FOR_PSPOLL_DATA |
 604                                         PS_WAIT_FOR_TX_ACK));
 605         }
 606 }
 607
 608 static bool ath_edma_get_buffers(struct ath_softc *sc,
 609                                  enum ath9k_rx_qtype qtype,
 610                                  struct ath_rx_status *rs,
 611                                  struct ath_rxbuf **dest)
 612 {
 613         struct ath_rx_edma *rx_edma = &sc->rx.rx_edma[qtype];
 614         struct ath_hw *ah = sc->sc_ah;
 615         struct ath_common *common = ath9k_hw_common(ah);
 616         struct sk_buff *skb;
 617         struct ath_rxbuf *bf;
 618         int ret;
 619
 620         skb = skb_peek(&rx_edma->rx_fifo);
 621         if (!skb)
 622                 return false;
 623
 624         bf = SKB_CB_ATHBUF(skb);
 625         BUG_ON(!bf);
 626
 627         dma_sync_single_for_cpu(sc->dev, bf->bf_buf_addr,
 628                                 common->rx_bufsize, DMA_FROM_DEVICE);
 629
 630         ret = ath9k_hw_process_rxdesc_edma(ah, rs, skb->data);
 631         if (ret == -EINPROGRESS) {
 632                 /*let device gain the buffer again*/
 633                 dma_sync_single_for_device(sc->dev, bf->bf_buf_addr,
 634                                 common->rx_bufsize, DMA_FROM_DEVICE);
 635                 return false;
 636         }
 637
 638         __skb_unlink(skb, &rx_edma->rx_fifo);
 639         if (ret == -EINVAL) {
 640                 /* corrupt descriptor, skip this one and the following one */
 641                 list_add_tail(&bf->list, &sc->rx.rxbuf);
 642                 ath_rx_edma_buf_link(sc, qtype);
 643
 644                 skb = skb_peek(&rx_edma->rx_fifo);
 645                 if (skb) {
 646                         bf = SKB_CB_ATHBUF(skb);
 647                         BUG_ON(!bf);
 648
 649                         __skb_unlink(skb, &rx_edma->rx_fifo);
 650                         list_add_tail(&bf->list, &sc->rx.rxbuf);
 651                         ath_rx_edma_buf_link(sc, qtype);
 652                 }
 653
 654                 bf = NULL;
 655         }
 656
 657         *dest = bf;
 658         return true;
 659 }
 660
 661 static struct ath_rxbuf *ath_edma_get_next_rx_buf(struct ath_softc *sc,
 662                                                 struct ath_rx_status *rs,
 663                                                 enum ath9k_rx_qtype qtype)
 664 {
 665         struct ath_rxbuf *bf = NULL;
 666
 667         while (ath_edma_get_buffers(sc, qtype, rs, &bf)) {
 668                 if (!bf)
 669                         continue;
 670
 671                 return bf;
 672         }
 673         return NULL;
 674 }
 675
 676 static struct ath_rxbuf *ath_get_next_rx_buf(struct ath_softc *sc,
 677                                            struct ath_rx_status *rs)
 678 {
 679         struct ath_hw *ah = sc->sc_ah;
 680         struct ath_common *common = ath9k_hw_common(ah);
 681         struct ath_desc *ds;
 682         struct ath_rxbuf *bf;
 683         int ret;
 684
 685         if (list_empty(&sc->rx.rxbuf)) {
 686                 sc->rx.rxlink = NULL;
 687                 return NULL;
 688         }
 689
 690         bf = list_first_entry(&sc->rx.rxbuf, struct ath_rxbuf, list);
 691         if (bf == sc->rx.buf_hold)
 692                 return NULL;
 693
 694         ds = bf->bf_desc;
 695
 696         /*
 697          * Must provide the virtual address of the current
 698          * descriptor, the physical address, and the virtual
 699          * address of the next descriptor in the h/w chain.
 700          * This allows the HAL to look ahead to see if the
 701          * hardware is done with a descriptor by checking the
 702          * done bit in the following descriptor and the address
 703          * of the current descriptor the DMA engine is working
 704          * on.  All this is necessary because of our use of
 705          * a self-linked list to avoid rx overruns.
 706          */
 707         ret = ath9k_hw_rxprocdesc(ah, ds, rs);
 708         if (ret == -EINPROGRESS) {
 709                 struct ath_rx_status trs;
 710                 struct ath_rxbuf *tbf;
 711                 struct ath_desc *tds;
 712
 713                 memset(&trs, 0, sizeof(trs));
 714                 if (list_is_last(&bf->list, &sc->rx.rxbuf)) {
 715                         sc->rx.rxlink = NULL;
 716                         return NULL;
 717                 }
 718
 719                 tbf = list_entry(bf->list.next, struct ath_rxbuf, list);
 720
 721                 /*
 722                  * On some hardware the descriptor status words could
 723                  * get corrupted, including the done bit. Because of
 724                  * this, check if the next descriptor's done bit is
 725                  * set or not.
 726                  *
 727                  * If the next descriptor's done bit is set, the current
 728                  * descriptor has been corrupted. Force s/w to discard
 729                  * this descriptor and continue...
 730                  */
 731
 732                 tds = tbf->bf_desc;
 733                 ret = ath9k_hw_rxprocdesc(ah, tds, &trs);
 734                 if (ret == -EINPROGRESS)
 735                         return NULL;
 736
 737                 /*
 738                  * Re-check previous descriptor, in case it has been filled
 739                  * in the mean time.
 740                  */
 741                 ret = ath9k_hw_rxprocdesc(ah, ds, rs);
 742                 if (ret == -EINPROGRESS) {
 743                         /*
 744                          * mark descriptor as zero-length and set the 'more'
 745                          * flag to ensure that both buffers get discarded
 746                          */
 747                         rs->rs_datalen = 0;
 748                         rs->rs_more = true;
 749                 }
 750         }
 751
 752         list_del(&bf->list);
 753         if (!bf->bf_mpdu)
 754                 return bf;
 755
 756         /*
 757          * Synchronize the DMA transfer with CPU before
 758          * 1. accessing the frame
 759          * 2. requeueing the same buffer to h/w
 760          */
 761         dma_sync_single_for_cpu(sc->dev, bf->bf_buf_addr,
 762                         common->rx_bufsize,
 763                         DMA_FROM_DEVICE);
 764
 765         return bf;
 766 }
 767
 768 static void ath9k_process_tsf(struct ath_rx_status *rs,
 769                               struct ieee80211_rx_status *rxs,
 770                               u64 tsf)
 771 {
 772         u32 tsf_lower = tsf & 0xffffffff;
 773
 774         rxs->mactime = (tsf & ~0xffffffffULL) | rs->rs_tstamp;
 775         if (rs->rs_tstamp > tsf_lower &&
 776             unlikely(rs->rs_tstamp - tsf_lower > 0x10000000))
 777                 rxs->mactime -= 0x100000000ULL;
 778
 779         if (rs->rs_tstamp < tsf_lower &&
 780             unlikely(tsf_lower - rs->rs_tstamp > 0x10000000))
 781                 rxs->mactime += 0x100000000ULL;
 782 }
 783
 784 /*
 785  * For Decrypt or Demic errors, we only mark packet status here and always push
 786  * up the frame up to let mac80211 handle the actual error case, be it no
 787  * decryption key or real decryption error. This let us keep statistics there.
 788  */
 789 static int ath9k_rx_skb_preprocess(struct ath_softc *sc,
 790                                    struct sk_buff *skb,
 791                                    struct ath_rx_status *rx_stats,
 792                                    struct ieee80211_rx_status *rx_status,
 793                                    bool *decrypt_error, u64 tsf)
 794 {
 795         struct ieee80211_hw *hw = sc->hw;
 796         struct ath_hw *ah = sc->sc_ah;
 797         struct ath_common *common = ath9k_hw_common(ah);
 798         struct ieee80211_hdr *hdr;
 799         bool discard_current = sc->rx.discard_next;
 800
 801         /*
 802          * Discard corrupt descriptors which are marked in
 803          * ath_get_next_rx_buf().
 804          */
 805         if (discard_current)
 806                 goto corrupt;
 807
 808         sc->rx.discard_next = false;
 809
 810         /*
 811          * Discard zero-length packets.
 812          */
 813         if (!rx_stats->rs_datalen) {
 814                 RX_STAT_INC(rx_len_err);
 815                 goto corrupt;
 816         }
 817
 818         /*
 819          * rs_status follows rs_datalen so if rs_datalen is too large
 820          * we can take a hint that hardware corrupted it, so ignore
 821          * those frames.
 822          */
 823         if (rx_stats->rs_datalen > (common->rx_bufsize - ah->caps.rx_status_len)) {
 824                 RX_STAT_INC(rx_len_err);
 825                 goto corrupt;
 826         }
 827
 828         /* Only use status info from the last fragment */
 829         if (rx_stats->rs_more)
 830                 return 0;
 831
 832         /*
 833          * Return immediately if the RX descriptor has been marked
 834          * as corrupt based on the various error bits.
 835          *
 836          * This is different from the other corrupt descriptor
 837          * condition handled above.
 838          */
 839         if (rx_stats->rs_status & ATH9K_RXERR_CORRUPT_DESC)
 840                 goto corrupt;
 841
 842         hdr = (struct ieee80211_hdr *) (skb->data + ah->caps.rx_status_len);
 843
 844         ath9k_process_tsf(rx_stats, rx_status, tsf);
 845         ath_debug_stat_rx(sc, rx_stats);
 846
 847         /*
 848          * Process PHY errors and return so that the packet
 849          * can be dropped.
 850          */
 851         if (rx_stats->rs_status & ATH9K_RXERR_PHY) {
 852                 ath9k_dfs_process_phyerr(sc, hdr, rx_stats, rx_status->mactime);
 853                 if (ath_process_fft(sc, hdr, rx_stats, rx_status->mactime))
 854                         RX_STAT_INC(rx_spectral);
 855
 856                 return -EINVAL;
 857         }
 858
 859         /*
 860          * everything but the rate is checked here, the rate check is done
 861          * separately to avoid doing two lookups for a rate for each frame.
 862          */
 863         if (!ath9k_cmn_rx_accept(common, hdr, rx_status, rx_stats, decrypt_error, sc->rx.rxfilter))
 864                 return -EINVAL;
 865
 866         if (ath_is_mybeacon(common, hdr)) {
 867                 RX_STAT_INC(rx_beacons);
 868                 rx_stats->is_mybeacon = true;
 869         }
 870
 871         /*
 872          * This shouldn't happen, but have a safety check anyway.
 873          */
 874         if (WARN_ON(!ah->curchan))
 875                 return -EINVAL;
 876
 877         if (ath9k_cmn_process_rate(common, hw, rx_stats, rx_status)) {
 878                 /*
 879                  * No valid hardware bitrate found -- we should not get here
 880                  * because hardware has already validated this frame as OK.
 881                  */
 882                 ath_dbg(common, ANY, "unsupported hw bitrate detected 0x%02x using 1 Mbit\n",
 883                         rx_stats->rs_rate);
 884                 RX_STAT_INC(rx_rate_err);
 885                 return -EINVAL;
 886         }
 887
 888         ath9k_cmn_process_rssi(common, hw, rx_stats, rx_status);
 889
 890         rx_status->band = ah->curchan->chan->band;
 891         rx_status->freq = ah->curchan->chan->center_freq;
 892         rx_status->antenna = rx_stats->rs_antenna;
 893         rx_status->flag |= RX_FLAG_MACTIME_END;
 894
 895 #ifdef CONFIG_ATH9K_BTCOEX_SUPPORT
 896         if (ieee80211_is_data_present(hdr->frame_control) &&
 897             !ieee80211_is_qos_nullfunc(hdr->frame_control))
 898                 sc->rx.num_pkts++;
 899 #endif
 900
 901         return 0;
 902
 903 corrupt:
 904         sc->rx.discard_next = rx_stats->rs_more;
 905         return -EINVAL;
 906 }
 907
 908 /*
 909  * Run the LNA combining algorithm only in these cases:
 910  *
 911  * Standalone WLAN cards with both LNA/Antenna diversity
 912  * enabled in the EEPROM.
 913  *
 914  * WLAN+BT cards which are in the supported card list
 915  * in ath_pci_id_table and the user has loaded the
 916  * driver with "bt_ant_diversity" set to true.
 917  */
 918 static void ath9k_antenna_check(struct ath_softc *sc,
 919                                 struct ath_rx_status *rs)
 920 {
 921         struct ath_hw *ah = sc->sc_ah;
 922         struct ath9k_hw_capabilities *pCap = &ah->caps;
 923         struct ath_common *common = ath9k_hw_common(ah);
 924
 925         if (!(ah->caps.hw_caps & ATH9K_HW_CAP_ANT_DIV_COMB))
 926                 return;
 927
 928         /*
 929          * Change the default rx antenna if rx diversity
 930          * chooses the other antenna 3 times in a row.
 931          */
 932         if (sc->rx.defant != rs->rs_antenna) {
 933                 if (++sc->rx.rxotherant >= 3)
 934                         ath_setdefantenna(sc, rs->rs_antenna);
 935         } else {
 936                 sc->rx.rxotherant = 0;
 937         }
 938
 939         if (pCap->hw_caps & ATH9K_HW_CAP_BT_ANT_DIV) {
 940                 if (common->bt_ant_diversity)
 941                         ath_ant_comb_scan(sc, rs);
 942         } else {
 943                 ath_ant_comb_scan(sc, rs);
 944         }
 945 }
 946
 947 static void ath9k_apply_ampdu_details(struct ath_softc *sc,
 948         struct ath_rx_status *rs, struct ieee80211_rx_status *rxs)
 949 {
 950         if (rs->rs_isaggr) {
 951                 rxs->flag |= RX_FLAG_AMPDU_DETAILS | RX_FLAG_AMPDU_LAST_KNOWN;
 952
 953                 rxs->ampdu_reference = sc->rx.ampdu_ref;
 954
 955                 if (!rs->rs_moreaggr) {
 956                         rxs->flag |= RX_FLAG_AMPDU_IS_LAST;
 957                         sc->rx.ampdu_ref++;
 958                 }
 959
 960                 if (rs->rs_flags & ATH9K_RX_DELIM_CRC_PRE)
 961                         rxs->flag |= RX_FLAG_AMPDU_DELIM_CRC_ERROR;
 962         }
 963 }
 964
 965 int ath_rx_tasklet(struct ath_softc *sc, int flush, bool hp)
 966 {
 967         struct ath_rxbuf *bf;
 968         struct sk_buff *skb = NULL, *requeue_skb, *hdr_skb;
 969         struct ieee80211_rx_status *rxs;
 970         struct ath_hw *ah = sc->sc_ah;
 971         struct ath_common *common = ath9k_hw_common(ah);
 972         struct ieee80211_hw *hw = sc->hw;
 973         int retval;
 974         struct ath_rx_status rs;
 975         enum ath9k_rx_qtype qtype;
 976         bool edma = !!(ah->caps.hw_caps & ATH9K_HW_CAP_EDMA);
 977         int dma_type;
 978         u64 tsf = 0;
 979         unsigned long flags;
 980         dma_addr_t new_buf_addr;
 981         unsigned int budget = 512;
 982
 983         if (edma)
 984                 dma_type = DMA_BIDIRECTIONAL;
 985         else
 986                 dma_type = DMA_FROM_DEVICE;
 987
 988         qtype = hp ? ATH9K_RX_QUEUE_HP : ATH9K_RX_QUEUE_LP;
 989
 990         tsf = ath9k_hw_gettsf64(ah);
 991
 992         do {
 993                 bool decrypt_error = false;
 994
 995                 memset(&rs, 0, sizeof(rs));
 996                 if (edma)
 997                         bf = ath_edma_get_next_rx_buf(sc, &rs, qtype);
 998                 else
 999                         bf = ath_get_next_rx_buf(sc, &rs);
1000
1001                 if (!bf)
1002                         break;
1003
1004                 skb = bf->bf_mpdu;
1005                 if (!skb)
1006                         continue;
1007
1008                 /*
1009                  * Take frame header from the first fragment and RX status from
1010                  * the last one.
1011                  */
1012                 if (sc->rx.frag)
1013                         hdr_skb = sc->rx.frag;
1014                 else
1015                         hdr_skb = skb;
1016
1017                 rxs = IEEE80211_SKB_RXCB(hdr_skb);
1018                 memset(rxs, 0, sizeof(struct ieee80211_rx_status));
1019
1020                 retval = ath9k_rx_skb_preprocess(sc, hdr_skb, &rs, rxs,
1021                                                  &decrypt_error, tsf);
1022                 if (retval)
1023                         goto requeue_drop_frag;
1024
1025                 /* Ensure we always have an skb to requeue once we are done
1026                  * processing the current buffer's skb */
1027                 requeue_skb = ath_rxbuf_alloc(common, common->rx_bufsize, GFP_ATOMIC);
1028
1029                 /* If there is no memory we ignore the current RX'd frame,
1030                  * tell hardware it can give us a new frame using the old
1031                  * skb and put it at the tail of the sc->rx.rxbuf list for
1032                  * processing. */
1033                 if (!requeue_skb) {
1034                         RX_STAT_INC(rx_oom_err);
1035                         goto requeue_drop_frag;
1036                 }
1037
1038                 /* We will now give hardware our shiny new allocated skb */
1039                 new_buf_addr = dma_map_single(sc->dev, requeue_skb->data,
1040                                               common->rx_bufsize, dma_type);
1041                 if (unlikely(dma_mapping_error(sc->dev, new_buf_addr))) {
1042                         dev_kfree_skb_any(requeue_skb);
1043                         goto requeue_drop_frag;
1044                 }
1045
1046                 /* Unmap the frame */
1047                 dma_unmap_single(sc->dev, bf->bf_buf_addr,
1048                                  common->rx_bufsize, dma_type);
1049
1050                 bf->bf_mpdu = requeue_skb;
1051                 bf->bf_buf_addr = new_buf_addr;
1052
1053                 skb_put(skb, rs.rs_datalen + ah->caps.rx_status_len);
1054                 if (ah->caps.rx_status_len)
1055                         skb_pull(skb, ah->caps.rx_status_len);
1056
1057                 if (!rs.rs_more)
1058                         ath9k_cmn_rx_skb_postprocess(common, hdr_skb, &rs,
1059                                                      rxs, decrypt_error);
1060
1061                 if (rs.rs_more) {
1062                         RX_STAT_INC(rx_frags);
1063                         /*
1064                          * rs_more indicates chained descriptors which can be
1065                          * used to link buffers together for a sort of
1066                          * scatter-gather operation.
1067                          */
1068                         if (sc->rx.frag) {
1069                                 /* too many fragments - cannot handle frame */
1070                                 dev_kfree_skb_any(sc->rx.frag);
1071                                 dev_kfree_skb_any(skb);
1072                                 RX_STAT_INC(rx_too_many_frags_err);
1073                                 skb = NULL;
1074                         }
1075                         sc->rx.frag = skb;
1076                         goto requeue;
1077                 }
1078
1079                 if (sc->rx.frag) {
1080                         int space = skb->len - skb_tailroom(hdr_skb);
1081
1082                         if (pskb_expand_head(hdr_skb, 0, space, GFP_ATOMIC) < 0) {
1083                                 dev_kfree_skb(skb);
1084                                 RX_STAT_INC(rx_oom_err);
1085                                 goto requeue_drop_frag;
1086                         }
1087
1088                         sc->rx.frag = NULL;
1089
1090                         skb_copy_from_linear_data(skb, skb_put(hdr_skb, skb->len),
1091                                                   skb->len);
1092                         dev_kfree_skb_any(skb);
1093                         skb = hdr_skb;
1094                 }
1095
1096                 if (rxs->flag & RX_FLAG_MMIC_STRIPPED)
1097                         skb_trim(skb, skb->len - 8);
1098
1099                 spin_lock_irqsave(&sc->sc_pm_lock, flags);
1100                 if ((sc->ps_flags & (PS_WAIT_FOR_BEACON |
1101                                      PS_WAIT_FOR_CAB |
1102                                      PS_WAIT_FOR_PSPOLL_DATA)) ||
1103                     ath9k_check_auto_sleep(sc))
1104                         ath_rx_ps(sc, skb, rs.is_mybeacon);
1105                 spin_unlock_irqrestore(&sc->sc_pm_lock, flags);
1106
1107                 ath9k_antenna_check(sc, &rs);
1108                 ath9k_apply_ampdu_details(sc, &rs, rxs);
1109                 ath_debug_rate_stats(sc, &rs, skb);
1110
1111                 ieee80211_rx(hw, skb);
1112
1113 requeue_drop_frag:
1114                 if (sc->rx.frag) {
1115                         dev_kfree_skb_any(sc->rx.frag);
1116                         sc->rx.frag = NULL;
1117                 }
1118 requeue:
1119                 list_add_tail(&bf->list, &sc->rx.rxbuf);
1120
1121                 if (edma) {
1122                         ath_rx_edma_buf_link(sc, qtype);
1123                 } else {
1124                         ath_rx_buf_relink(sc, bf);
1125                         if (!flush)
1126                                 ath9k_hw_rxena(ah);
1127                 }
1128
1129                 if (!budget--)
1130                         break;
1131         } while (1);
1132
1133         if (!(ah->imask & ATH9K_INT_RXEOL)) {
1134                 ah->imask |= (ATH9K_INT_RXEOL | ATH9K_INT_RXORN);
1135                 ath9k_hw_set_interrupts(ah);
1136         }
1137
1138         return 0;
1139 }