]> git.karo-electronics.de Git - karo-tx-linux.git/blob - drivers/net/ethernet/intel/i40e/i40e_virtchnl_pf.c
95c23fbaa2113214d9cd34ddfa176a7d1cd8d89e
[karo-tx-linux.git] / drivers / net / ethernet / intel / i40e / i40e_virtchnl_pf.c
1 /*******************************************************************************
2  *
3  * Intel Ethernet Controller XL710 Family Linux Driver
4  * Copyright(c) 2013 - 2016 Intel Corporation.
5  *
6  * This program is free software; you can redistribute it and/or modify it
7  * under the terms and conditions of the GNU General Public License,
8  * version 2, as published by the Free Software Foundation.
9  *
10  * This program is distributed in the hope it will be useful, but WITHOUT
11  * ANY WARRANTY; without even the implied warranty of MERCHANTABILITY or
12  * FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License for
13  * more details.
14  *
15  * You should have received a copy of the GNU General Public License along
16  * with this program.  If not, see <http://www.gnu.org/licenses/>.
17  *
18  * The full GNU General Public License is included in this distribution in
19  * the file called "COPYING".
20  *
21  * Contact Information:
22  * e1000-devel Mailing List <e1000-devel@lists.sourceforge.net>
23  * Intel Corporation, 5200 N.E. Elam Young Parkway, Hillsboro, OR 97124-6497
24  *
25  ******************************************************************************/
26
27 #include "i40e.h"
28
29 /*********************notification routines***********************/
30
31 /**
32  * i40e_vc_vf_broadcast
33  * @pf: pointer to the PF structure
34  * @opcode: operation code
35  * @retval: return value
36  * @msg: pointer to the msg buffer
37  * @msglen: msg length
38  *
39  * send a message to all VFs on a given PF
40  **/
41 static void i40e_vc_vf_broadcast(struct i40e_pf *pf,
42                                  enum i40e_virtchnl_ops v_opcode,
43                                  i40e_status v_retval, u8 *msg,
44                                  u16 msglen)
45 {
46         struct i40e_hw *hw = &pf->hw;
47         struct i40e_vf *vf = pf->vf;
48         int i;
49
50         for (i = 0; i < pf->num_alloc_vfs; i++, vf++) {
51                 int abs_vf_id = vf->vf_id + (int)hw->func_caps.vf_base_id;
52                 /* Not all vfs are enabled so skip the ones that are not */
53                 if (!test_bit(I40E_VF_STATE_INIT, &vf->vf_states) &&
54                     !test_bit(I40E_VF_STATE_ACTIVE, &vf->vf_states))
55                         continue;
56
57                 /* Ignore return value on purpose - a given VF may fail, but
58                  * we need to keep going and send to all of them
59                  */
60                 i40e_aq_send_msg_to_vf(hw, abs_vf_id, v_opcode, v_retval,
61                                        msg, msglen, NULL);
62         }
63 }
64
65 /**
66  * i40e_vc_notify_vf_link_state
67  * @vf: pointer to the VF structure
68  *
69  * send a link status message to a single VF
70  **/
71 static void i40e_vc_notify_vf_link_state(struct i40e_vf *vf)
72 {
73         struct i40e_virtchnl_pf_event pfe;
74         struct i40e_pf *pf = vf->pf;
75         struct i40e_hw *hw = &pf->hw;
76         struct i40e_link_status *ls = &pf->hw.phy.link_info;
77         int abs_vf_id = vf->vf_id + (int)hw->func_caps.vf_base_id;
78
79         pfe.event = I40E_VIRTCHNL_EVENT_LINK_CHANGE;
80         pfe.severity = I40E_PF_EVENT_SEVERITY_INFO;
81         if (vf->link_forced) {
82                 pfe.event_data.link_event.link_status = vf->link_up;
83                 pfe.event_data.link_event.link_speed =
84                         (vf->link_up ? I40E_LINK_SPEED_40GB : 0);
85         } else {
86                 pfe.event_data.link_event.link_status =
87                         ls->link_info & I40E_AQ_LINK_UP;
88                 pfe.event_data.link_event.link_speed = ls->link_speed;
89         }
90         i40e_aq_send_msg_to_vf(hw, abs_vf_id, I40E_VIRTCHNL_OP_EVENT,
91                                0, (u8 *)&pfe, sizeof(pfe), NULL);
92 }
93
94 /**
95  * i40e_vc_notify_link_state
96  * @pf: pointer to the PF structure
97  *
98  * send a link status message to all VFs on a given PF
99  **/
100 void i40e_vc_notify_link_state(struct i40e_pf *pf)
101 {
102         int i;
103
104         for (i = 0; i < pf->num_alloc_vfs; i++)
105                 i40e_vc_notify_vf_link_state(&pf->vf[i]);
106 }
107
108 /**
109  * i40e_vc_notify_reset
110  * @pf: pointer to the PF structure
111  *
112  * indicate a pending reset to all VFs on a given PF
113  **/
114 void i40e_vc_notify_reset(struct i40e_pf *pf)
115 {
116         struct i40e_virtchnl_pf_event pfe;
117
118         pfe.event = I40E_VIRTCHNL_EVENT_RESET_IMPENDING;
119         pfe.severity = I40E_PF_EVENT_SEVERITY_CERTAIN_DOOM;
120         i40e_vc_vf_broadcast(pf, I40E_VIRTCHNL_OP_EVENT, 0,
121                              (u8 *)&pfe, sizeof(struct i40e_virtchnl_pf_event));
122 }
123
124 /**
125  * i40e_vc_notify_vf_reset
126  * @vf: pointer to the VF structure
127  *
128  * indicate a pending reset to the given VF
129  **/
130 void i40e_vc_notify_vf_reset(struct i40e_vf *vf)
131 {
132         struct i40e_virtchnl_pf_event pfe;
133         int abs_vf_id;
134
135         /* validate the request */
136         if (!vf || vf->vf_id >= vf->pf->num_alloc_vfs)
137                 return;
138
139         /* verify if the VF is in either init or active before proceeding */
140         if (!test_bit(I40E_VF_STATE_INIT, &vf->vf_states) &&
141             !test_bit(I40E_VF_STATE_ACTIVE, &vf->vf_states))
142                 return;
143
144         abs_vf_id = vf->vf_id + (int)vf->pf->hw.func_caps.vf_base_id;
145
146         pfe.event = I40E_VIRTCHNL_EVENT_RESET_IMPENDING;
147         pfe.severity = I40E_PF_EVENT_SEVERITY_CERTAIN_DOOM;
148         i40e_aq_send_msg_to_vf(&vf->pf->hw, abs_vf_id, I40E_VIRTCHNL_OP_EVENT,
149                                0, (u8 *)&pfe,
150                                sizeof(struct i40e_virtchnl_pf_event), NULL);
151 }
152 /***********************misc routines*****************************/
153
154 /**
155  * i40e_vc_disable_vf
156  * @pf: pointer to the PF info
157  * @vf: pointer to the VF info
158  *
159  * Disable the VF through a SW reset
160  **/
161 static inline void i40e_vc_disable_vf(struct i40e_pf *pf, struct i40e_vf *vf)
162 {
163         i40e_vc_notify_vf_reset(vf);
164         i40e_reset_vf(vf, false);
165 }
166
167 /**
168  * i40e_vc_isvalid_vsi_id
169  * @vf: pointer to the VF info
170  * @vsi_id: VF relative VSI id
171  *
172  * check for the valid VSI id
173  **/
174 static inline bool i40e_vc_isvalid_vsi_id(struct i40e_vf *vf, u16 vsi_id)
175 {
176         struct i40e_pf *pf = vf->pf;
177         struct i40e_vsi *vsi = i40e_find_vsi_from_id(pf, vsi_id);
178
179         return (vsi && (vsi->vf_id == vf->vf_id));
180 }
181
182 /**
183  * i40e_vc_isvalid_queue_id
184  * @vf: pointer to the VF info
185  * @vsi_id: vsi id
186  * @qid: vsi relative queue id
187  *
188  * check for the valid queue id
189  **/
190 static inline bool i40e_vc_isvalid_queue_id(struct i40e_vf *vf, u16 vsi_id,
191                                             u8 qid)
192 {
193         struct i40e_pf *pf = vf->pf;
194         struct i40e_vsi *vsi = i40e_find_vsi_from_id(pf, vsi_id);
195
196         return (vsi && (qid < vsi->alloc_queue_pairs));
197 }
198
199 /**
200  * i40e_vc_isvalid_vector_id
201  * @vf: pointer to the VF info
202  * @vector_id: VF relative vector id
203  *
204  * check for the valid vector id
205  **/
206 static inline bool i40e_vc_isvalid_vector_id(struct i40e_vf *vf, u8 vector_id)
207 {
208         struct i40e_pf *pf = vf->pf;
209
210         return vector_id < pf->hw.func_caps.num_msix_vectors_vf;
211 }
212
213 /***********************vf resource mgmt routines*****************/
214
215 /**
216  * i40e_vc_get_pf_queue_id
217  * @vf: pointer to the VF info
218  * @vsi_id: id of VSI as provided by the FW
219  * @vsi_queue_id: vsi relative queue id
220  *
221  * return PF relative queue id
222  **/
223 static u16 i40e_vc_get_pf_queue_id(struct i40e_vf *vf, u16 vsi_id,
224                                    u8 vsi_queue_id)
225 {
226         struct i40e_pf *pf = vf->pf;
227         struct i40e_vsi *vsi = i40e_find_vsi_from_id(pf, vsi_id);
228         u16 pf_queue_id = I40E_QUEUE_END_OF_LIST;
229
230         if (!vsi)
231                 return pf_queue_id;
232
233         if (le16_to_cpu(vsi->info.mapping_flags) &
234             I40E_AQ_VSI_QUE_MAP_NONCONTIG)
235                 pf_queue_id =
236                         le16_to_cpu(vsi->info.queue_mapping[vsi_queue_id]);
237         else
238                 pf_queue_id = le16_to_cpu(vsi->info.queue_mapping[0]) +
239                               vsi_queue_id;
240
241         return pf_queue_id;
242 }
243
244 /**
245  * i40e_config_irq_link_list
246  * @vf: pointer to the VF info
247  * @vsi_id: id of VSI as given by the FW
248  * @vecmap: irq map info
249  *
250  * configure irq link list from the map
251  **/
252 static void i40e_config_irq_link_list(struct i40e_vf *vf, u16 vsi_id,
253                                       struct i40e_virtchnl_vector_map *vecmap)
254 {
255         unsigned long linklistmap = 0, tempmap;
256         struct i40e_pf *pf = vf->pf;
257         struct i40e_hw *hw = &pf->hw;
258         u16 vsi_queue_id, pf_queue_id;
259         enum i40e_queue_type qtype;
260         u16 next_q, vector_id;
261         u32 reg, reg_idx;
262         u16 itr_idx = 0;
263
264         vector_id = vecmap->vector_id;
265         /* setup the head */
266         if (0 == vector_id)
267                 reg_idx = I40E_VPINT_LNKLST0(vf->vf_id);
268         else
269                 reg_idx = I40E_VPINT_LNKLSTN(
270                      ((pf->hw.func_caps.num_msix_vectors_vf - 1) * vf->vf_id) +
271                      (vector_id - 1));
272
273         if (vecmap->rxq_map == 0 && vecmap->txq_map == 0) {
274                 /* Special case - No queues mapped on this vector */
275                 wr32(hw, reg_idx, I40E_VPINT_LNKLST0_FIRSTQ_INDX_MASK);
276                 goto irq_list_done;
277         }
278         tempmap = vecmap->rxq_map;
279         for_each_set_bit(vsi_queue_id, &tempmap, I40E_MAX_VSI_QP) {
280                 linklistmap |= (BIT(I40E_VIRTCHNL_SUPPORTED_QTYPES *
281                                     vsi_queue_id));
282         }
283
284         tempmap = vecmap->txq_map;
285         for_each_set_bit(vsi_queue_id, &tempmap, I40E_MAX_VSI_QP) {
286                 linklistmap |= (BIT(I40E_VIRTCHNL_SUPPORTED_QTYPES *
287                                      vsi_queue_id + 1));
288         }
289
290         next_q = find_first_bit(&linklistmap,
291                                 (I40E_MAX_VSI_QP *
292                                  I40E_VIRTCHNL_SUPPORTED_QTYPES));
293         vsi_queue_id = next_q / I40E_VIRTCHNL_SUPPORTED_QTYPES;
294         qtype = next_q % I40E_VIRTCHNL_SUPPORTED_QTYPES;
295         pf_queue_id = i40e_vc_get_pf_queue_id(vf, vsi_id, vsi_queue_id);
296         reg = ((qtype << I40E_VPINT_LNKLSTN_FIRSTQ_TYPE_SHIFT) | pf_queue_id);
297
298         wr32(hw, reg_idx, reg);
299
300         while (next_q < (I40E_MAX_VSI_QP * I40E_VIRTCHNL_SUPPORTED_QTYPES)) {
301                 switch (qtype) {
302                 case I40E_QUEUE_TYPE_RX:
303                         reg_idx = I40E_QINT_RQCTL(pf_queue_id);
304                         itr_idx = vecmap->rxitr_idx;
305                         break;
306                 case I40E_QUEUE_TYPE_TX:
307                         reg_idx = I40E_QINT_TQCTL(pf_queue_id);
308                         itr_idx = vecmap->txitr_idx;
309                         break;
310                 default:
311                         break;
312                 }
313
314                 next_q = find_next_bit(&linklistmap,
315                                        (I40E_MAX_VSI_QP *
316                                         I40E_VIRTCHNL_SUPPORTED_QTYPES),
317                                        next_q + 1);
318                 if (next_q <
319                     (I40E_MAX_VSI_QP * I40E_VIRTCHNL_SUPPORTED_QTYPES)) {
320                         vsi_queue_id = next_q / I40E_VIRTCHNL_SUPPORTED_QTYPES;
321                         qtype = next_q % I40E_VIRTCHNL_SUPPORTED_QTYPES;
322                         pf_queue_id = i40e_vc_get_pf_queue_id(vf, vsi_id,
323                                                               vsi_queue_id);
324                 } else {
325                         pf_queue_id = I40E_QUEUE_END_OF_LIST;
326                         qtype = 0;
327                 }
328
329                 /* format for the RQCTL & TQCTL regs is same */
330                 reg = (vector_id) |
331                     (qtype << I40E_QINT_RQCTL_NEXTQ_TYPE_SHIFT) |
332                     (pf_queue_id << I40E_QINT_RQCTL_NEXTQ_INDX_SHIFT) |
333                     BIT(I40E_QINT_RQCTL_CAUSE_ENA_SHIFT) |
334                     (itr_idx << I40E_QINT_RQCTL_ITR_INDX_SHIFT);
335                 wr32(hw, reg_idx, reg);
336         }
337
338         /* if the vf is running in polling mode and using interrupt zero,
339          * need to disable auto-mask on enabling zero interrupt for VFs.
340          */
341         if ((vf->driver_caps & I40E_VIRTCHNL_VF_OFFLOAD_RX_POLLING) &&
342             (vector_id == 0)) {
343                 reg = rd32(hw, I40E_GLINT_CTL);
344                 if (!(reg & I40E_GLINT_CTL_DIS_AUTOMASK_VF0_MASK)) {
345                         reg |= I40E_GLINT_CTL_DIS_AUTOMASK_VF0_MASK;
346                         wr32(hw, I40E_GLINT_CTL, reg);
347                 }
348         }
349
350 irq_list_done:
351         i40e_flush(hw);
352 }
353
354 /**
355  * i40e_release_iwarp_qvlist
356  * @vf: pointer to the VF.
357  *
358  **/
359 static void i40e_release_iwarp_qvlist(struct i40e_vf *vf)
360 {
361         struct i40e_pf *pf = vf->pf;
362         struct i40e_virtchnl_iwarp_qvlist_info *qvlist_info = vf->qvlist_info;
363         u32 msix_vf;
364         u32 i;
365
366         if (!vf->qvlist_info)
367                 return;
368
369         msix_vf = pf->hw.func_caps.num_msix_vectors_vf;
370         for (i = 0; i < qvlist_info->num_vectors; i++) {
371                 struct i40e_virtchnl_iwarp_qv_info *qv_info;
372                 u32 next_q_index, next_q_type;
373                 struct i40e_hw *hw = &pf->hw;
374                 u32 v_idx, reg_idx, reg;
375
376                 qv_info = &qvlist_info->qv_info[i];
377                 if (!qv_info)
378                         continue;
379                 v_idx = qv_info->v_idx;
380                 if (qv_info->ceq_idx != I40E_QUEUE_INVALID_IDX) {
381                         /* Figure out the queue after CEQ and make that the
382                          * first queue.
383                          */
384                         reg_idx = (msix_vf - 1) * vf->vf_id + qv_info->ceq_idx;
385                         reg = rd32(hw, I40E_VPINT_CEQCTL(reg_idx));
386                         next_q_index = (reg & I40E_VPINT_CEQCTL_NEXTQ_INDX_MASK)
387                                         >> I40E_VPINT_CEQCTL_NEXTQ_INDX_SHIFT;
388                         next_q_type = (reg & I40E_VPINT_CEQCTL_NEXTQ_TYPE_MASK)
389                                         >> I40E_VPINT_CEQCTL_NEXTQ_TYPE_SHIFT;
390
391                         reg_idx = ((msix_vf - 1) * vf->vf_id) + (v_idx - 1);
392                         reg = (next_q_index &
393                                I40E_VPINT_LNKLSTN_FIRSTQ_INDX_MASK) |
394                                (next_q_type <<
395                                I40E_VPINT_LNKLSTN_FIRSTQ_TYPE_SHIFT);
396
397                         wr32(hw, I40E_VPINT_LNKLSTN(reg_idx), reg);
398                 }
399         }
400         kfree(vf->qvlist_info);
401         vf->qvlist_info = NULL;
402 }
403
404 /**
405  * i40e_config_iwarp_qvlist
406  * @vf: pointer to the VF info
407  * @qvlist_info: queue and vector list
408  *
409  * Return 0 on success or < 0 on error
410  **/
411 static int i40e_config_iwarp_qvlist(struct i40e_vf *vf,
412                                     struct i40e_virtchnl_iwarp_qvlist_info *qvlist_info)
413 {
414         struct i40e_pf *pf = vf->pf;
415         struct i40e_hw *hw = &pf->hw;
416         struct i40e_virtchnl_iwarp_qv_info *qv_info;
417         u32 v_idx, i, reg_idx, reg;
418         u32 next_q_idx, next_q_type;
419         u32 msix_vf, size;
420
421         size = sizeof(struct i40e_virtchnl_iwarp_qvlist_info) +
422                (sizeof(struct i40e_virtchnl_iwarp_qv_info) *
423                                                 (qvlist_info->num_vectors - 1));
424         vf->qvlist_info = kzalloc(size, GFP_KERNEL);
425         vf->qvlist_info->num_vectors = qvlist_info->num_vectors;
426
427         msix_vf = pf->hw.func_caps.num_msix_vectors_vf;
428         for (i = 0; i < qvlist_info->num_vectors; i++) {
429                 qv_info = &qvlist_info->qv_info[i];
430                 if (!qv_info)
431                         continue;
432                 v_idx = qv_info->v_idx;
433
434                 /* Validate vector id belongs to this vf */
435                 if (!i40e_vc_isvalid_vector_id(vf, v_idx))
436                         goto err;
437
438                 vf->qvlist_info->qv_info[i] = *qv_info;
439
440                 reg_idx = ((msix_vf - 1) * vf->vf_id) + (v_idx - 1);
441                 /* We might be sharing the interrupt, so get the first queue
442                  * index and type, push it down the list by adding the new
443                  * queue on top. Also link it with the new queue in CEQCTL.
444                  */
445                 reg = rd32(hw, I40E_VPINT_LNKLSTN(reg_idx));
446                 next_q_idx = ((reg & I40E_VPINT_LNKLSTN_FIRSTQ_INDX_MASK) >>
447                                 I40E_VPINT_LNKLSTN_FIRSTQ_INDX_SHIFT);
448                 next_q_type = ((reg & I40E_VPINT_LNKLSTN_FIRSTQ_TYPE_MASK) >>
449                                 I40E_VPINT_LNKLSTN_FIRSTQ_TYPE_SHIFT);
450
451                 if (qv_info->ceq_idx != I40E_QUEUE_INVALID_IDX) {
452                         reg_idx = (msix_vf - 1) * vf->vf_id + qv_info->ceq_idx;
453                         reg = (I40E_VPINT_CEQCTL_CAUSE_ENA_MASK |
454                         (v_idx << I40E_VPINT_CEQCTL_MSIX_INDX_SHIFT) |
455                         (qv_info->itr_idx << I40E_VPINT_CEQCTL_ITR_INDX_SHIFT) |
456                         (next_q_type << I40E_VPINT_CEQCTL_NEXTQ_TYPE_SHIFT) |
457                         (next_q_idx << I40E_VPINT_CEQCTL_NEXTQ_INDX_SHIFT));
458                         wr32(hw, I40E_VPINT_CEQCTL(reg_idx), reg);
459
460                         reg_idx = ((msix_vf - 1) * vf->vf_id) + (v_idx - 1);
461                         reg = (qv_info->ceq_idx &
462                                I40E_VPINT_LNKLSTN_FIRSTQ_INDX_MASK) |
463                                (I40E_QUEUE_TYPE_PE_CEQ <<
464                                I40E_VPINT_LNKLSTN_FIRSTQ_TYPE_SHIFT);
465                         wr32(hw, I40E_VPINT_LNKLSTN(reg_idx), reg);
466                 }
467
468                 if (qv_info->aeq_idx != I40E_QUEUE_INVALID_IDX) {
469                         reg = (I40E_VPINT_AEQCTL_CAUSE_ENA_MASK |
470                         (v_idx << I40E_VPINT_AEQCTL_MSIX_INDX_SHIFT) |
471                         (qv_info->itr_idx << I40E_VPINT_AEQCTL_ITR_INDX_SHIFT));
472
473                         wr32(hw, I40E_VPINT_AEQCTL(vf->vf_id), reg);
474                 }
475         }
476
477         return 0;
478 err:
479         kfree(vf->qvlist_info);
480         vf->qvlist_info = NULL;
481         return -EINVAL;
482 }
483
484 /**
485  * i40e_config_vsi_tx_queue
486  * @vf: pointer to the VF info
487  * @vsi_id: id of VSI as provided by the FW
488  * @vsi_queue_id: vsi relative queue index
489  * @info: config. info
490  *
491  * configure tx queue
492  **/
493 static int i40e_config_vsi_tx_queue(struct i40e_vf *vf, u16 vsi_id,
494                                     u16 vsi_queue_id,
495                                     struct i40e_virtchnl_txq_info *info)
496 {
497         struct i40e_pf *pf = vf->pf;
498         struct i40e_hw *hw = &pf->hw;
499         struct i40e_hmc_obj_txq tx_ctx;
500         struct i40e_vsi *vsi;
501         u16 pf_queue_id;
502         u32 qtx_ctl;
503         int ret = 0;
504
505         if (!i40e_vc_isvalid_vsi_id(vf, info->vsi_id)) {
506                 ret = -ENOENT;
507                 goto error_context;
508         }
509         pf_queue_id = i40e_vc_get_pf_queue_id(vf, vsi_id, vsi_queue_id);
510         vsi = i40e_find_vsi_from_id(pf, vsi_id);
511         if (!vsi) {
512                 ret = -ENOENT;
513                 goto error_context;
514         }
515
516         /* clear the context structure first */
517         memset(&tx_ctx, 0, sizeof(struct i40e_hmc_obj_txq));
518
519         /* only set the required fields */
520         tx_ctx.base = info->dma_ring_addr / 128;
521         tx_ctx.qlen = info->ring_len;
522         tx_ctx.rdylist = le16_to_cpu(vsi->info.qs_handle[0]);
523         tx_ctx.rdylist_act = 0;
524         tx_ctx.head_wb_ena = info->headwb_enabled;
525         tx_ctx.head_wb_addr = info->dma_headwb_addr;
526
527         /* clear the context in the HMC */
528         ret = i40e_clear_lan_tx_queue_context(hw, pf_queue_id);
529         if (ret) {
530                 dev_err(&pf->pdev->dev,
531                         "Failed to clear VF LAN Tx queue context %d, error: %d\n",
532                         pf_queue_id, ret);
533                 ret = -ENOENT;
534                 goto error_context;
535         }
536
537         /* set the context in the HMC */
538         ret = i40e_set_lan_tx_queue_context(hw, pf_queue_id, &tx_ctx);
539         if (ret) {
540                 dev_err(&pf->pdev->dev,
541                         "Failed to set VF LAN Tx queue context %d error: %d\n",
542                         pf_queue_id, ret);
543                 ret = -ENOENT;
544                 goto error_context;
545         }
546
547         /* associate this queue with the PCI VF function */
548         qtx_ctl = I40E_QTX_CTL_VF_QUEUE;
549         qtx_ctl |= ((hw->pf_id << I40E_QTX_CTL_PF_INDX_SHIFT)
550                     & I40E_QTX_CTL_PF_INDX_MASK);
551         qtx_ctl |= (((vf->vf_id + hw->func_caps.vf_base_id)
552                      << I40E_QTX_CTL_VFVM_INDX_SHIFT)
553                     & I40E_QTX_CTL_VFVM_INDX_MASK);
554         wr32(hw, I40E_QTX_CTL(pf_queue_id), qtx_ctl);
555         i40e_flush(hw);
556
557 error_context:
558         return ret;
559 }
560
561 /**
562  * i40e_config_vsi_rx_queue
563  * @vf: pointer to the VF info
564  * @vsi_id: id of VSI  as provided by the FW
565  * @vsi_queue_id: vsi relative queue index
566  * @info: config. info
567  *
568  * configure rx queue
569  **/
570 static int i40e_config_vsi_rx_queue(struct i40e_vf *vf, u16 vsi_id,
571                                     u16 vsi_queue_id,
572                                     struct i40e_virtchnl_rxq_info *info)
573 {
574         struct i40e_pf *pf = vf->pf;
575         struct i40e_hw *hw = &pf->hw;
576         struct i40e_hmc_obj_rxq rx_ctx;
577         u16 pf_queue_id;
578         int ret = 0;
579
580         pf_queue_id = i40e_vc_get_pf_queue_id(vf, vsi_id, vsi_queue_id);
581
582         /* clear the context structure first */
583         memset(&rx_ctx, 0, sizeof(struct i40e_hmc_obj_rxq));
584
585         /* only set the required fields */
586         rx_ctx.base = info->dma_ring_addr / 128;
587         rx_ctx.qlen = info->ring_len;
588
589         if (info->splithdr_enabled) {
590                 rx_ctx.hsplit_0 = I40E_RX_SPLIT_L2      |
591                                   I40E_RX_SPLIT_IP      |
592                                   I40E_RX_SPLIT_TCP_UDP |
593                                   I40E_RX_SPLIT_SCTP;
594                 /* header length validation */
595                 if (info->hdr_size > ((2 * 1024) - 64)) {
596                         ret = -EINVAL;
597                         goto error_param;
598                 }
599                 rx_ctx.hbuff = info->hdr_size >> I40E_RXQ_CTX_HBUFF_SHIFT;
600
601                 /* set split mode 10b */
602                 rx_ctx.dtype = I40E_RX_DTYPE_HEADER_SPLIT;
603         }
604
605         /* databuffer length validation */
606         if (info->databuffer_size > ((16 * 1024) - 128)) {
607                 ret = -EINVAL;
608                 goto error_param;
609         }
610         rx_ctx.dbuff = info->databuffer_size >> I40E_RXQ_CTX_DBUFF_SHIFT;
611
612         /* max pkt. length validation */
613         if (info->max_pkt_size >= (16 * 1024) || info->max_pkt_size < 64) {
614                 ret = -EINVAL;
615                 goto error_param;
616         }
617         rx_ctx.rxmax = info->max_pkt_size;
618
619         /* enable 32bytes desc always */
620         rx_ctx.dsize = 1;
621
622         /* default values */
623         rx_ctx.lrxqthresh = 2;
624         rx_ctx.crcstrip = 1;
625         rx_ctx.prefena = 1;
626         rx_ctx.l2tsel = 1;
627
628         /* clear the context in the HMC */
629         ret = i40e_clear_lan_rx_queue_context(hw, pf_queue_id);
630         if (ret) {
631                 dev_err(&pf->pdev->dev,
632                         "Failed to clear VF LAN Rx queue context %d, error: %d\n",
633                         pf_queue_id, ret);
634                 ret = -ENOENT;
635                 goto error_param;
636         }
637
638         /* set the context in the HMC */
639         ret = i40e_set_lan_rx_queue_context(hw, pf_queue_id, &rx_ctx);
640         if (ret) {
641                 dev_err(&pf->pdev->dev,
642                         "Failed to set VF LAN Rx queue context %d error: %d\n",
643                         pf_queue_id, ret);
644                 ret = -ENOENT;
645                 goto error_param;
646         }
647
648 error_param:
649         return ret;
650 }
651
652 /**
653  * i40e_alloc_vsi_res
654  * @vf: pointer to the VF info
655  * @type: type of VSI to allocate
656  *
657  * alloc VF vsi context & resources
658  **/
659 static int i40e_alloc_vsi_res(struct i40e_vf *vf, enum i40e_vsi_type type)
660 {
661         struct i40e_mac_filter *f = NULL;
662         struct i40e_pf *pf = vf->pf;
663         struct i40e_vsi *vsi;
664         int ret = 0;
665
666         vsi = i40e_vsi_setup(pf, type, pf->vsi[pf->lan_vsi]->seid, vf->vf_id);
667
668         if (!vsi) {
669                 dev_err(&pf->pdev->dev,
670                         "add vsi failed for VF %d, aq_err %d\n",
671                         vf->vf_id, pf->hw.aq.asq_last_status);
672                 ret = -ENOENT;
673                 goto error_alloc_vsi_res;
674         }
675         if (type == I40E_VSI_SRIOV) {
676                 u64 hena = i40e_pf_get_default_rss_hena(pf);
677                 u8 broadcast[ETH_ALEN];
678
679                 vf->lan_vsi_idx = vsi->idx;
680                 vf->lan_vsi_id = vsi->id;
681                 /* If the port VLAN has been configured and then the
682                  * VF driver was removed then the VSI port VLAN
683                  * configuration was destroyed.  Check if there is
684                  * a port VLAN and restore the VSI configuration if
685                  * needed.
686                  */
687                 if (vf->port_vlan_id)
688                         i40e_vsi_add_pvid(vsi, vf->port_vlan_id);
689
690                 spin_lock_bh(&vsi->mac_filter_hash_lock);
691                 if (is_valid_ether_addr(vf->default_lan_addr.addr)) {
692                         f = i40e_add_mac_filter(vsi,
693                                                 vf->default_lan_addr.addr);
694                         if (!f)
695                                 dev_info(&pf->pdev->dev,
696                                          "Could not add MAC filter %pM for VF %d\n",
697                                         vf->default_lan_addr.addr, vf->vf_id);
698                 }
699                 eth_broadcast_addr(broadcast);
700                 f = i40e_add_mac_filter(vsi, broadcast);
701                 if (!f)
702                         dev_info(&pf->pdev->dev,
703                                  "Could not allocate VF broadcast filter\n");
704                 spin_unlock_bh(&vsi->mac_filter_hash_lock);
705                 wr32(&pf->hw, I40E_VFQF_HENA1(0, vf->vf_id), (u32)hena);
706                 wr32(&pf->hw, I40E_VFQF_HENA1(1, vf->vf_id), (u32)(hena >> 32));
707         }
708
709         /* program mac filter */
710         ret = i40e_sync_vsi_filters(vsi);
711         if (ret)
712                 dev_err(&pf->pdev->dev, "Unable to program ucast filters\n");
713
714         /* Set VF bandwidth if specified */
715         if (vf->tx_rate) {
716                 ret = i40e_aq_config_vsi_bw_limit(&pf->hw, vsi->seid,
717                                                   vf->tx_rate / 50, 0, NULL);
718                 if (ret)
719                         dev_err(&pf->pdev->dev, "Unable to set tx rate, VF %d, error code %d.\n",
720                                 vf->vf_id, ret);
721         }
722
723 error_alloc_vsi_res:
724         return ret;
725 }
726
727 /**
728  * i40e_enable_vf_mappings
729  * @vf: pointer to the VF info
730  *
731  * enable VF mappings
732  **/
733 static void i40e_enable_vf_mappings(struct i40e_vf *vf)
734 {
735         struct i40e_pf *pf = vf->pf;
736         struct i40e_hw *hw = &pf->hw;
737         u32 reg, total_queue_pairs = 0;
738         int j;
739
740         /* Tell the hardware we're using noncontiguous mapping. HW requires
741          * that VF queues be mapped using this method, even when they are
742          * contiguous in real life
743          */
744         i40e_write_rx_ctl(hw, I40E_VSILAN_QBASE(vf->lan_vsi_id),
745                           I40E_VSILAN_QBASE_VSIQTABLE_ENA_MASK);
746
747         /* enable VF vplan_qtable mappings */
748         reg = I40E_VPLAN_MAPENA_TXRX_ENA_MASK;
749         wr32(hw, I40E_VPLAN_MAPENA(vf->vf_id), reg);
750
751         /* map PF queues to VF queues */
752         for (j = 0; j < pf->vsi[vf->lan_vsi_idx]->alloc_queue_pairs; j++) {
753                 u16 qid = i40e_vc_get_pf_queue_id(vf, vf->lan_vsi_id, j);
754
755                 reg = (qid & I40E_VPLAN_QTABLE_QINDEX_MASK);
756                 wr32(hw, I40E_VPLAN_QTABLE(total_queue_pairs, vf->vf_id), reg);
757                 total_queue_pairs++;
758         }
759
760         /* map PF queues to VSI */
761         for (j = 0; j < 7; j++) {
762                 if (j * 2 >= pf->vsi[vf->lan_vsi_idx]->alloc_queue_pairs) {
763                         reg = 0x07FF07FF;       /* unused */
764                 } else {
765                         u16 qid = i40e_vc_get_pf_queue_id(vf, vf->lan_vsi_id,
766                                                           j * 2);
767                         reg = qid;
768                         qid = i40e_vc_get_pf_queue_id(vf, vf->lan_vsi_id,
769                                                       (j * 2) + 1);
770                         reg |= qid << 16;
771                 }
772                 i40e_write_rx_ctl(hw, I40E_VSILAN_QTABLE(j, vf->lan_vsi_id),
773                                   reg);
774         }
775
776         i40e_flush(hw);
777 }
778
779 /**
780  * i40e_disable_vf_mappings
781  * @vf: pointer to the VF info
782  *
783  * disable VF mappings
784  **/
785 static void i40e_disable_vf_mappings(struct i40e_vf *vf)
786 {
787         struct i40e_pf *pf = vf->pf;
788         struct i40e_hw *hw = &pf->hw;
789         int i;
790
791         /* disable qp mappings */
792         wr32(hw, I40E_VPLAN_MAPENA(vf->vf_id), 0);
793         for (i = 0; i < I40E_MAX_VSI_QP; i++)
794                 wr32(hw, I40E_VPLAN_QTABLE(i, vf->vf_id),
795                      I40E_QUEUE_END_OF_LIST);
796         i40e_flush(hw);
797 }
798
799 /**
800  * i40e_free_vf_res
801  * @vf: pointer to the VF info
802  *
803  * free VF resources
804  **/
805 static void i40e_free_vf_res(struct i40e_vf *vf)
806 {
807         struct i40e_pf *pf = vf->pf;
808         struct i40e_hw *hw = &pf->hw;
809         u32 reg_idx, reg;
810         int i, msix_vf;
811
812         /* Start by disabling VF's configuration API to prevent the OS from
813          * accessing the VF's VSI after it's freed / invalidated.
814          */
815         clear_bit(I40E_VF_STATE_INIT, &vf->vf_states);
816
817         /* free vsi & disconnect it from the parent uplink */
818         if (vf->lan_vsi_idx) {
819                 i40e_vsi_release(pf->vsi[vf->lan_vsi_idx]);
820                 vf->lan_vsi_idx = 0;
821                 vf->lan_vsi_id = 0;
822                 vf->num_mac = 0;
823         }
824         msix_vf = pf->hw.func_caps.num_msix_vectors_vf;
825
826         /* disable interrupts so the VF starts in a known state */
827         for (i = 0; i < msix_vf; i++) {
828                 /* format is same for both registers */
829                 if (0 == i)
830                         reg_idx = I40E_VFINT_DYN_CTL0(vf->vf_id);
831                 else
832                         reg_idx = I40E_VFINT_DYN_CTLN(((msix_vf - 1) *
833                                                       (vf->vf_id))
834                                                      + (i - 1));
835                 wr32(hw, reg_idx, I40E_VFINT_DYN_CTLN_CLEARPBA_MASK);
836                 i40e_flush(hw);
837         }
838
839         /* clear the irq settings */
840         for (i = 0; i < msix_vf; i++) {
841                 /* format is same for both registers */
842                 if (0 == i)
843                         reg_idx = I40E_VPINT_LNKLST0(vf->vf_id);
844                 else
845                         reg_idx = I40E_VPINT_LNKLSTN(((msix_vf - 1) *
846                                                       (vf->vf_id))
847                                                      + (i - 1));
848                 reg = (I40E_VPINT_LNKLSTN_FIRSTQ_TYPE_MASK |
849                        I40E_VPINT_LNKLSTN_FIRSTQ_INDX_MASK);
850                 wr32(hw, reg_idx, reg);
851                 i40e_flush(hw);
852         }
853         /* reset some of the state variables keeping track of the resources */
854         vf->num_queue_pairs = 0;
855         vf->vf_states = 0;
856 }
857
858 /**
859  * i40e_alloc_vf_res
860  * @vf: pointer to the VF info
861  *
862  * allocate VF resources
863  **/
864 static int i40e_alloc_vf_res(struct i40e_vf *vf)
865 {
866         struct i40e_pf *pf = vf->pf;
867         int total_queue_pairs = 0;
868         int ret;
869
870         /* allocate hw vsi context & associated resources */
871         ret = i40e_alloc_vsi_res(vf, I40E_VSI_SRIOV);
872         if (ret)
873                 goto error_alloc;
874         total_queue_pairs += pf->vsi[vf->lan_vsi_idx]->alloc_queue_pairs;
875
876         if (vf->trusted)
877                 set_bit(I40E_VIRTCHNL_VF_CAP_PRIVILEGE, &vf->vf_caps);
878         else
879                 clear_bit(I40E_VIRTCHNL_VF_CAP_PRIVILEGE, &vf->vf_caps);
880
881         /* store the total qps number for the runtime
882          * VF req validation
883          */
884         vf->num_queue_pairs = total_queue_pairs;
885
886         /* VF is now completely initialized */
887         set_bit(I40E_VF_STATE_INIT, &vf->vf_states);
888
889 error_alloc:
890         if (ret)
891                 i40e_free_vf_res(vf);
892
893         return ret;
894 }
895
896 #define VF_DEVICE_STATUS 0xAA
897 #define VF_TRANS_PENDING_MASK 0x20
898 /**
899  * i40e_quiesce_vf_pci
900  * @vf: pointer to the VF structure
901  *
902  * Wait for VF PCI transactions to be cleared after reset. Returns -EIO
903  * if the transactions never clear.
904  **/
905 static int i40e_quiesce_vf_pci(struct i40e_vf *vf)
906 {
907         struct i40e_pf *pf = vf->pf;
908         struct i40e_hw *hw = &pf->hw;
909         int vf_abs_id, i;
910         u32 reg;
911
912         vf_abs_id = vf->vf_id + hw->func_caps.vf_base_id;
913
914         wr32(hw, I40E_PF_PCI_CIAA,
915              VF_DEVICE_STATUS | (vf_abs_id << I40E_PF_PCI_CIAA_VF_NUM_SHIFT));
916         for (i = 0; i < 100; i++) {
917                 reg = rd32(hw, I40E_PF_PCI_CIAD);
918                 if ((reg & VF_TRANS_PENDING_MASK) == 0)
919                         return 0;
920                 udelay(1);
921         }
922         return -EIO;
923 }
924
925 /**
926  * i40e_trigger_vf_reset
927  * @vf: pointer to the VF structure
928  * @flr: VFLR was issued or not
929  *
930  * Trigger hardware to start a reset for a particular VF. Expects the caller
931  * to wait the proper amount of time to allow hardware to reset the VF before
932  * it cleans up and restores VF functionality.
933  **/
934 static void i40e_trigger_vf_reset(struct i40e_vf *vf, bool flr)
935 {
936         struct i40e_pf *pf = vf->pf;
937         struct i40e_hw *hw = &pf->hw;
938         u32 reg, reg_idx, bit_idx;
939
940         /* warn the VF */
941         clear_bit(I40E_VF_STATE_ACTIVE, &vf->vf_states);
942
943         /* Disable VF's configuration API during reset. The flag is re-enabled
944          * in i40e_alloc_vf_res(), when it's safe again to access VF's VSI.
945          * It's normally disabled in i40e_free_vf_res(), but it's safer
946          * to do it earlier to give some time to finish to any VF config
947          * functions that may still be running at this point.
948          */
949         clear_bit(I40E_VF_STATE_INIT, &vf->vf_states);
950
951         /* In the case of a VFLR, the HW has already reset the VF and we
952          * just need to clean up, so don't hit the VFRTRIG register.
953          */
954         if (!flr) {
955                 /* reset VF using VPGEN_VFRTRIG reg */
956                 reg = rd32(hw, I40E_VPGEN_VFRTRIG(vf->vf_id));
957                 reg |= I40E_VPGEN_VFRTRIG_VFSWR_MASK;
958                 wr32(hw, I40E_VPGEN_VFRTRIG(vf->vf_id), reg);
959                 i40e_flush(hw);
960         }
961         /* clear the VFLR bit in GLGEN_VFLRSTAT */
962         reg_idx = (hw->func_caps.vf_base_id + vf->vf_id) / 32;
963         bit_idx = (hw->func_caps.vf_base_id + vf->vf_id) % 32;
964         wr32(hw, I40E_GLGEN_VFLRSTAT(reg_idx), BIT(bit_idx));
965         i40e_flush(hw);
966
967         if (i40e_quiesce_vf_pci(vf))
968                 dev_err(&pf->pdev->dev, "VF %d PCI transactions stuck\n",
969                         vf->vf_id);
970 }
971
972 /**
973  * i40e_cleanup_reset_vf
974  * @vf: pointer to the VF structure
975  *
976  * Cleanup a VF after the hardware reset is finished. Expects the caller to
977  * have verified whether the reset is finished properly, and ensure the
978  * minimum amount of wait time has passed.
979  **/
980 static void i40e_cleanup_reset_vf(struct i40e_vf *vf)
981 {
982         struct i40e_pf *pf = vf->pf;
983         struct i40e_hw *hw = &pf->hw;
984         u32 reg;
985
986         /* free VF resources to begin resetting the VSI state */
987         i40e_free_vf_res(vf);
988
989         /* Enable hardware by clearing the reset bit in the VPGEN_VFRTRIG reg.
990          * By doing this we allow HW to access VF memory at any point. If we
991          * did it any sooner, HW could access memory while it was being freed
992          * in i40e_free_vf_res(), causing an IOMMU fault.
993          *
994          * On the other hand, this needs to be done ASAP, because the VF driver
995          * is waiting for this to happen and may report a timeout. It's
996          * harmless, but it gets logged into Guest OS kernel log, so best avoid
997          * it.
998          */
999         reg = rd32(hw, I40E_VPGEN_VFRTRIG(vf->vf_id));
1000         reg &= ~I40E_VPGEN_VFRTRIG_VFSWR_MASK;
1001         wr32(hw, I40E_VPGEN_VFRTRIG(vf->vf_id), reg);
1002
1003         /* reallocate VF resources to finish resetting the VSI state */
1004         if (!i40e_alloc_vf_res(vf)) {
1005                 int abs_vf_id = vf->vf_id + hw->func_caps.vf_base_id;
1006                 i40e_enable_vf_mappings(vf);
1007                 set_bit(I40E_VF_STATE_ACTIVE, &vf->vf_states);
1008                 clear_bit(I40E_VF_STATE_DISABLED, &vf->vf_states);
1009                 /* Do not notify the client during VF init */
1010                 if (test_and_clear_bit(I40E_VF_STATE_PRE_ENABLE,
1011                                        &vf->vf_states))
1012                         i40e_notify_client_of_vf_reset(pf, abs_vf_id);
1013                 vf->num_vlan = 0;
1014         }
1015
1016         /* Tell the VF driver the reset is done. This needs to be done only
1017          * after VF has been fully initialized, because the VF driver may
1018          * request resources immediately after setting this flag.
1019          */
1020         wr32(hw, I40E_VFGEN_RSTAT1(vf->vf_id), I40E_VFR_VFACTIVE);
1021 }
1022
1023 /**
1024  * i40e_reset_vf
1025  * @vf: pointer to the VF structure
1026  * @flr: VFLR was issued or not
1027  *
1028  * reset the VF
1029  **/
1030 void i40e_reset_vf(struct i40e_vf *vf, bool flr)
1031 {
1032         struct i40e_pf *pf = vf->pf;
1033         struct i40e_hw *hw = &pf->hw;
1034         bool rsd = false;
1035         u32 reg;
1036         int i;
1037
1038         /* If VFs have been disabled, there is no need to reset */
1039         if (test_and_set_bit(__I40E_VF_DISABLE, pf->state))
1040                 return;
1041
1042         i40e_trigger_vf_reset(vf, flr);
1043
1044         /* poll VPGEN_VFRSTAT reg to make sure
1045          * that reset is complete
1046          */
1047         for (i = 0; i < 10; i++) {
1048                 /* VF reset requires driver to first reset the VF and then
1049                  * poll the status register to make sure that the reset
1050                  * completed successfully. Due to internal HW FIFO flushes,
1051                  * we must wait 10ms before the register will be valid.
1052                  */
1053                 usleep_range(10000, 20000);
1054                 reg = rd32(hw, I40E_VPGEN_VFRSTAT(vf->vf_id));
1055                 if (reg & I40E_VPGEN_VFRSTAT_VFRD_MASK) {
1056                         rsd = true;
1057                         break;
1058                 }
1059         }
1060
1061         if (flr)
1062                 usleep_range(10000, 20000);
1063
1064         if (!rsd)
1065                 dev_err(&pf->pdev->dev, "VF reset check timeout on VF %d\n",
1066                         vf->vf_id);
1067         usleep_range(10000, 20000);
1068
1069         /* On initial reset, we don't have any queues to disable */
1070         if (vf->lan_vsi_idx != 0)
1071                 i40e_vsi_stop_rings(pf->vsi[vf->lan_vsi_idx]);
1072
1073         i40e_cleanup_reset_vf(vf);
1074
1075         i40e_flush(hw);
1076         clear_bit(__I40E_VF_DISABLE, pf->state);
1077 }
1078
1079 /**
1080  * i40e_reset_all_vfs
1081  * @pf: pointer to the PF structure
1082  * @flr: VFLR was issued or not
1083  *
1084  * Reset all allocated VFs in one go. First, tell the hardware to reset each
1085  * VF, then do all the waiting in one chunk, and finally finish restoring each
1086  * VF after the wait. This is useful during PF routines which need to reset
1087  * all VFs, as otherwise it must perform these resets in a serialized fashion.
1088  **/
1089 void i40e_reset_all_vfs(struct i40e_pf *pf, bool flr)
1090 {
1091         struct i40e_hw *hw = &pf->hw;
1092         struct i40e_vf *vf;
1093         int i, v;
1094         u32 reg;
1095
1096         /* If we don't have any VFs, then there is nothing to reset */
1097         if (!pf->num_alloc_vfs)
1098                 return;
1099
1100         /* If VFs have been disabled, there is no need to reset */
1101         if (test_and_set_bit(__I40E_VF_DISABLE, pf->state))
1102                 return;
1103
1104         /* Begin reset on all VFs at once */
1105         for (v = 0; v < pf->num_alloc_vfs; v++)
1106                 i40e_trigger_vf_reset(&pf->vf[v], flr);
1107
1108         /* HW requires some time to make sure it can flush the FIFO for a VF
1109          * when it resets it. Poll the VPGEN_VFRSTAT register for each VF in
1110          * sequence to make sure that it has completed. We'll keep track of
1111          * the VFs using a simple iterator that increments once that VF has
1112          * finished resetting.
1113          */
1114         for (i = 0, v = 0; i < 10 && v < pf->num_alloc_vfs; i++) {
1115                 usleep_range(10000, 20000);
1116
1117                 /* Check each VF in sequence, beginning with the VF to fail
1118                  * the previous check.
1119                  */
1120                 while (v < pf->num_alloc_vfs) {
1121                         vf = &pf->vf[v];
1122                         reg = rd32(hw, I40E_VPGEN_VFRSTAT(vf->vf_id));
1123                         if (!(reg & I40E_VPGEN_VFRSTAT_VFRD_MASK))
1124                                 break;
1125
1126                         /* If the current VF has finished resetting, move on
1127                          * to the next VF in sequence.
1128                          */
1129                         v++;
1130                 }
1131         }
1132
1133         if (flr)
1134                 usleep_range(10000, 20000);
1135
1136         /* Display a warning if at least one VF didn't manage to reset in
1137          * time, but continue on with the operation.
1138          */
1139         if (v < pf->num_alloc_vfs)
1140                 dev_err(&pf->pdev->dev, "VF reset check timeout on VF %d\n",
1141                         pf->vf[v].vf_id);
1142         usleep_range(10000, 20000);
1143
1144         /* Begin disabling all the rings associated with VFs, but do not wait
1145          * between each VF.
1146          */
1147         for (v = 0; v < pf->num_alloc_vfs; v++) {
1148                 /* On initial reset, we don't have any queues to disable */
1149                 if (pf->vf[v].lan_vsi_idx == 0)
1150                         continue;
1151
1152                 i40e_vsi_stop_rings_no_wait(pf->vsi[pf->vf[v].lan_vsi_idx]);
1153         }
1154
1155         /* Now that we've notified HW to disable all of the VF rings, wait
1156          * until they finish.
1157          */
1158         for (v = 0; v < pf->num_alloc_vfs; v++) {
1159                 /* On initial reset, we don't have any queues to disable */
1160                 if (pf->vf[v].lan_vsi_idx == 0)
1161                         continue;
1162
1163                 i40e_vsi_wait_queues_disabled(pf->vsi[pf->vf[v].lan_vsi_idx]);
1164         }
1165
1166         /* Hw may need up to 50ms to finish disabling the RX queues. We
1167          * minimize the wait by delaying only once for all VFs.
1168          */
1169         mdelay(50);
1170
1171         /* Finish the reset on each VF */
1172         for (v = 0; v < pf->num_alloc_vfs; v++)
1173                 i40e_cleanup_reset_vf(&pf->vf[v]);
1174
1175         i40e_flush(hw);
1176         clear_bit(__I40E_VF_DISABLE, pf->state);
1177 }
1178
1179 /**
1180  * i40e_free_vfs
1181  * @pf: pointer to the PF structure
1182  *
1183  * free VF resources
1184  **/
1185 void i40e_free_vfs(struct i40e_pf *pf)
1186 {
1187         struct i40e_hw *hw = &pf->hw;
1188         u32 reg_idx, bit_idx;
1189         int i, tmp, vf_id;
1190
1191         if (!pf->vf)
1192                 return;
1193         while (test_and_set_bit(__I40E_VF_DISABLE, pf->state))
1194                 usleep_range(1000, 2000);
1195
1196         i40e_notify_client_of_vf_enable(pf, 0);
1197
1198         /* Amortize wait time by stopping all VFs at the same time */
1199         for (i = 0; i < pf->num_alloc_vfs; i++) {
1200                 if (test_bit(I40E_VF_STATE_INIT, &pf->vf[i].vf_states))
1201                         continue;
1202
1203                 i40e_vsi_stop_rings_no_wait(pf->vsi[pf->vf[i].lan_vsi_idx]);
1204         }
1205
1206         for (i = 0; i < pf->num_alloc_vfs; i++) {
1207                 if (test_bit(I40E_VF_STATE_INIT, &pf->vf[i].vf_states))
1208                         continue;
1209
1210                 i40e_vsi_wait_queues_disabled(pf->vsi[pf->vf[i].lan_vsi_idx]);
1211         }
1212
1213         /* Disable IOV before freeing resources. This lets any VF drivers
1214          * running in the host get themselves cleaned up before we yank
1215          * the carpet out from underneath their feet.
1216          */
1217         if (!pci_vfs_assigned(pf->pdev))
1218                 pci_disable_sriov(pf->pdev);
1219         else
1220                 dev_warn(&pf->pdev->dev, "VFs are assigned - not disabling SR-IOV\n");
1221
1222         /* free up VF resources */
1223         tmp = pf->num_alloc_vfs;
1224         pf->num_alloc_vfs = 0;
1225         for (i = 0; i < tmp; i++) {
1226                 if (test_bit(I40E_VF_STATE_INIT, &pf->vf[i].vf_states))
1227                         i40e_free_vf_res(&pf->vf[i]);
1228                 /* disable qp mappings */
1229                 i40e_disable_vf_mappings(&pf->vf[i]);
1230         }
1231
1232         kfree(pf->vf);
1233         pf->vf = NULL;
1234
1235         /* This check is for when the driver is unloaded while VFs are
1236          * assigned. Setting the number of VFs to 0 through sysfs is caught
1237          * before this function ever gets called.
1238          */
1239         if (!pci_vfs_assigned(pf->pdev)) {
1240                 /* Acknowledge VFLR for all VFS. Without this, VFs will fail to
1241                  * work correctly when SR-IOV gets re-enabled.
1242                  */
1243                 for (vf_id = 0; vf_id < tmp; vf_id++) {
1244                         reg_idx = (hw->func_caps.vf_base_id + vf_id) / 32;
1245                         bit_idx = (hw->func_caps.vf_base_id + vf_id) % 32;
1246                         wr32(hw, I40E_GLGEN_VFLRSTAT(reg_idx), BIT(bit_idx));
1247                 }
1248         }
1249         clear_bit(__I40E_VF_DISABLE, pf->state);
1250 }
1251
1252 #ifdef CONFIG_PCI_IOV
1253 /**
1254  * i40e_alloc_vfs
1255  * @pf: pointer to the PF structure
1256  * @num_alloc_vfs: number of VFs to allocate
1257  *
1258  * allocate VF resources
1259  **/
1260 int i40e_alloc_vfs(struct i40e_pf *pf, u16 num_alloc_vfs)
1261 {
1262         struct i40e_vf *vfs;
1263         int i, ret = 0;
1264
1265         /* Disable interrupt 0 so we don't try to handle the VFLR. */
1266         i40e_irq_dynamic_disable_icr0(pf);
1267
1268         /* Check to see if we're just allocating resources for extant VFs */
1269         if (pci_num_vf(pf->pdev) != num_alloc_vfs) {
1270                 ret = pci_enable_sriov(pf->pdev, num_alloc_vfs);
1271                 if (ret) {
1272                         pf->flags &= ~I40E_FLAG_VEB_MODE_ENABLED;
1273                         pf->num_alloc_vfs = 0;
1274                         goto err_iov;
1275                 }
1276         }
1277         /* allocate memory */
1278         vfs = kcalloc(num_alloc_vfs, sizeof(struct i40e_vf), GFP_KERNEL);
1279         if (!vfs) {
1280                 ret = -ENOMEM;
1281                 goto err_alloc;
1282         }
1283         pf->vf = vfs;
1284
1285         /* apply default profile */
1286         for (i = 0; i < num_alloc_vfs; i++) {
1287                 vfs[i].pf = pf;
1288                 vfs[i].parent_type = I40E_SWITCH_ELEMENT_TYPE_VEB;
1289                 vfs[i].vf_id = i;
1290
1291                 /* assign default capabilities */
1292                 set_bit(I40E_VIRTCHNL_VF_CAP_L2, &vfs[i].vf_caps);
1293                 vfs[i].spoofchk = true;
1294
1295                 set_bit(I40E_VF_STATE_PRE_ENABLE, &vfs[i].vf_states);
1296
1297         }
1298         pf->num_alloc_vfs = num_alloc_vfs;
1299
1300         /* VF resources get allocated during reset */
1301         i40e_reset_all_vfs(pf, false);
1302
1303         i40e_notify_client_of_vf_enable(pf, num_alloc_vfs);
1304
1305 err_alloc:
1306         if (ret)
1307                 i40e_free_vfs(pf);
1308 err_iov:
1309         /* Re-enable interrupt 0. */
1310         i40e_irq_dynamic_enable_icr0(pf, false);
1311         return ret;
1312 }
1313
1314 #endif
1315 /**
1316  * i40e_pci_sriov_enable
1317  * @pdev: pointer to a pci_dev structure
1318  * @num_vfs: number of VFs to allocate
1319  *
1320  * Enable or change the number of VFs
1321  **/
1322 static int i40e_pci_sriov_enable(struct pci_dev *pdev, int num_vfs)
1323 {
1324 #ifdef CONFIG_PCI_IOV
1325         struct i40e_pf *pf = pci_get_drvdata(pdev);
1326         int pre_existing_vfs = pci_num_vf(pdev);
1327         int err = 0;
1328
1329         if (test_bit(__I40E_TESTING, pf->state)) {
1330                 dev_warn(&pdev->dev,
1331                          "Cannot enable SR-IOV virtual functions while the device is undergoing diagnostic testing\n");
1332                 err = -EPERM;
1333                 goto err_out;
1334         }
1335
1336         if (pre_existing_vfs && pre_existing_vfs != num_vfs)
1337                 i40e_free_vfs(pf);
1338         else if (pre_existing_vfs && pre_existing_vfs == num_vfs)
1339                 goto out;
1340
1341         if (num_vfs > pf->num_req_vfs) {
1342                 dev_warn(&pdev->dev, "Unable to enable %d VFs. Limited to %d VFs due to device resource constraints.\n",
1343                          num_vfs, pf->num_req_vfs);
1344                 err = -EPERM;
1345                 goto err_out;
1346         }
1347
1348         dev_info(&pdev->dev, "Allocating %d VFs.\n", num_vfs);
1349         err = i40e_alloc_vfs(pf, num_vfs);
1350         if (err) {
1351                 dev_warn(&pdev->dev, "Failed to enable SR-IOV: %d\n", err);
1352                 goto err_out;
1353         }
1354
1355 out:
1356         return num_vfs;
1357
1358 err_out:
1359         return err;
1360 #endif
1361         return 0;
1362 }
1363
1364 /**
1365  * i40e_pci_sriov_configure
1366  * @pdev: pointer to a pci_dev structure
1367  * @num_vfs: number of VFs to allocate
1368  *
1369  * Enable or change the number of VFs. Called when the user updates the number
1370  * of VFs in sysfs.
1371  **/
1372 int i40e_pci_sriov_configure(struct pci_dev *pdev, int num_vfs)
1373 {
1374         struct i40e_pf *pf = pci_get_drvdata(pdev);
1375
1376         if (num_vfs) {
1377                 if (!(pf->flags & I40E_FLAG_VEB_MODE_ENABLED)) {
1378                         pf->flags |= I40E_FLAG_VEB_MODE_ENABLED;
1379                         i40e_do_reset_safe(pf,
1380                                            BIT_ULL(__I40E_PF_RESET_REQUESTED));
1381                 }
1382                 return i40e_pci_sriov_enable(pdev, num_vfs);
1383         }
1384
1385         if (!pci_vfs_assigned(pf->pdev)) {
1386                 i40e_free_vfs(pf);
1387                 pf->flags &= ~I40E_FLAG_VEB_MODE_ENABLED;
1388                 i40e_do_reset_safe(pf, BIT_ULL(__I40E_PF_RESET_REQUESTED));
1389         } else {
1390                 dev_warn(&pdev->dev, "Unable to free VFs because some are assigned to VMs.\n");
1391                 return -EINVAL;
1392         }
1393         return 0;
1394 }
1395
1396 /***********************virtual channel routines******************/
1397
1398 /**
1399  * i40e_vc_send_msg_to_vf
1400  * @vf: pointer to the VF info
1401  * @v_opcode: virtual channel opcode
1402  * @v_retval: virtual channel return value
1403  * @msg: pointer to the msg buffer
1404  * @msglen: msg length
1405  *
1406  * send msg to VF
1407  **/
1408 static int i40e_vc_send_msg_to_vf(struct i40e_vf *vf, u32 v_opcode,
1409                                   u32 v_retval, u8 *msg, u16 msglen)
1410 {
1411         struct i40e_pf *pf;
1412         struct i40e_hw *hw;
1413         int abs_vf_id;
1414         i40e_status aq_ret;
1415
1416         /* validate the request */
1417         if (!vf || vf->vf_id >= vf->pf->num_alloc_vfs)
1418                 return -EINVAL;
1419
1420         pf = vf->pf;
1421         hw = &pf->hw;
1422         abs_vf_id = vf->vf_id + hw->func_caps.vf_base_id;
1423
1424         /* single place to detect unsuccessful return values */
1425         if (v_retval) {
1426                 vf->num_invalid_msgs++;
1427                 dev_info(&pf->pdev->dev, "VF %d failed opcode %d, retval: %d\n",
1428                          vf->vf_id, v_opcode, v_retval);
1429                 if (vf->num_invalid_msgs >
1430                     I40E_DEFAULT_NUM_INVALID_MSGS_ALLOWED) {
1431                         dev_err(&pf->pdev->dev,
1432                                 "Number of invalid messages exceeded for VF %d\n",
1433                                 vf->vf_id);
1434                         dev_err(&pf->pdev->dev, "Use PF Control I/F to enable the VF\n");
1435                         set_bit(I40E_VF_STATE_DISABLED, &vf->vf_states);
1436                 }
1437         } else {
1438                 vf->num_valid_msgs++;
1439                 /* reset the invalid counter, if a valid message is received. */
1440                 vf->num_invalid_msgs = 0;
1441         }
1442
1443         aq_ret = i40e_aq_send_msg_to_vf(hw, abs_vf_id,  v_opcode, v_retval,
1444                                         msg, msglen, NULL);
1445         if (aq_ret) {
1446                 dev_info(&pf->pdev->dev,
1447                          "Unable to send the message to VF %d aq_err %d\n",
1448                          vf->vf_id, pf->hw.aq.asq_last_status);
1449                 return -EIO;
1450         }
1451
1452         return 0;
1453 }
1454
1455 /**
1456  * i40e_vc_send_resp_to_vf
1457  * @vf: pointer to the VF info
1458  * @opcode: operation code
1459  * @retval: return value
1460  *
1461  * send resp msg to VF
1462  **/
1463 static int i40e_vc_send_resp_to_vf(struct i40e_vf *vf,
1464                                    enum i40e_virtchnl_ops opcode,
1465                                    i40e_status retval)
1466 {
1467         return i40e_vc_send_msg_to_vf(vf, opcode, retval, NULL, 0);
1468 }
1469
1470 /**
1471  * i40e_vc_get_version_msg
1472  * @vf: pointer to the VF info
1473  *
1474  * called from the VF to request the API version used by the PF
1475  **/
1476 static int i40e_vc_get_version_msg(struct i40e_vf *vf, u8 *msg)
1477 {
1478         struct i40e_virtchnl_version_info info = {
1479                 I40E_VIRTCHNL_VERSION_MAJOR, I40E_VIRTCHNL_VERSION_MINOR
1480         };
1481
1482         vf->vf_ver = *(struct i40e_virtchnl_version_info *)msg;
1483         /* VFs running the 1.0 API expect to get 1.0 back or they will cry. */
1484         if (VF_IS_V10(vf))
1485                 info.minor = I40E_VIRTCHNL_VERSION_MINOR_NO_VF_CAPS;
1486         return i40e_vc_send_msg_to_vf(vf, I40E_VIRTCHNL_OP_VERSION,
1487                                       I40E_SUCCESS, (u8 *)&info,
1488                                       sizeof(struct
1489                                              i40e_virtchnl_version_info));
1490 }
1491
1492 /**
1493  * i40e_vc_get_vf_resources_msg
1494  * @vf: pointer to the VF info
1495  * @msg: pointer to the msg buffer
1496  * @msglen: msg length
1497  *
1498  * called from the VF to request its resources
1499  **/
1500 static int i40e_vc_get_vf_resources_msg(struct i40e_vf *vf, u8 *msg)
1501 {
1502         struct i40e_virtchnl_vf_resource *vfres = NULL;
1503         struct i40e_pf *pf = vf->pf;
1504         i40e_status aq_ret = 0;
1505         struct i40e_vsi *vsi;
1506         int num_vsis = 1;
1507         int len = 0;
1508         int ret;
1509
1510         if (!test_bit(I40E_VF_STATE_INIT, &vf->vf_states)) {
1511                 aq_ret = I40E_ERR_PARAM;
1512                 goto err;
1513         }
1514
1515         len = (sizeof(struct i40e_virtchnl_vf_resource) +
1516                sizeof(struct i40e_virtchnl_vsi_resource) * num_vsis);
1517
1518         vfres = kzalloc(len, GFP_KERNEL);
1519         if (!vfres) {
1520                 aq_ret = I40E_ERR_NO_MEMORY;
1521                 len = 0;
1522                 goto err;
1523         }
1524         if (VF_IS_V11(vf))
1525                 vf->driver_caps = *(u32 *)msg;
1526         else
1527                 vf->driver_caps = I40E_VIRTCHNL_VF_OFFLOAD_L2 |
1528                                   I40E_VIRTCHNL_VF_OFFLOAD_RSS_REG |
1529                                   I40E_VIRTCHNL_VF_OFFLOAD_VLAN;
1530
1531         vfres->vf_offload_flags = I40E_VIRTCHNL_VF_OFFLOAD_L2;
1532         vsi = pf->vsi[vf->lan_vsi_idx];
1533         if (!vsi->info.pvid)
1534                 vfres->vf_offload_flags |= I40E_VIRTCHNL_VF_OFFLOAD_VLAN;
1535
1536         if (i40e_vf_client_capable(pf, vf->vf_id) &&
1537             (vf->driver_caps & I40E_VIRTCHNL_VF_OFFLOAD_IWARP)) {
1538                 vfres->vf_offload_flags |= I40E_VIRTCHNL_VF_OFFLOAD_IWARP;
1539                 set_bit(I40E_VF_STATE_IWARPENA, &vf->vf_states);
1540         }
1541
1542         if (vf->driver_caps & I40E_VIRTCHNL_VF_OFFLOAD_RSS_PF) {
1543                 vfres->vf_offload_flags |= I40E_VIRTCHNL_VF_OFFLOAD_RSS_PF;
1544         } else {
1545                 if ((pf->flags & I40E_FLAG_RSS_AQ_CAPABLE) &&
1546                     (vf->driver_caps & I40E_VIRTCHNL_VF_OFFLOAD_RSS_AQ))
1547                         vfres->vf_offload_flags |=
1548                                         I40E_VIRTCHNL_VF_OFFLOAD_RSS_AQ;
1549                 else
1550                         vfres->vf_offload_flags |=
1551                                         I40E_VIRTCHNL_VF_OFFLOAD_RSS_REG;
1552         }
1553
1554         if (pf->flags & I40E_FLAG_MULTIPLE_TCP_UDP_RSS_PCTYPE) {
1555                 if (vf->driver_caps & I40E_VIRTCHNL_VF_OFFLOAD_RSS_PCTYPE_V2)
1556                         vfres->vf_offload_flags |=
1557                                 I40E_VIRTCHNL_VF_OFFLOAD_RSS_PCTYPE_V2;
1558         }
1559
1560         if (vf->driver_caps & I40E_VIRTCHNL_VF_OFFLOAD_ENCAP)
1561                 vfres->vf_offload_flags |= I40E_VIRTCHNL_VF_OFFLOAD_ENCAP;
1562
1563         if ((pf->flags & I40E_FLAG_OUTER_UDP_CSUM_CAPABLE) &&
1564             (vf->driver_caps & I40E_VIRTCHNL_VF_OFFLOAD_ENCAP_CSUM))
1565                 vfres->vf_offload_flags |= I40E_VIRTCHNL_VF_OFFLOAD_ENCAP_CSUM;
1566
1567         if (vf->driver_caps & I40E_VIRTCHNL_VF_OFFLOAD_RX_POLLING) {
1568                 if (pf->flags & I40E_FLAG_MFP_ENABLED) {
1569                         dev_err(&pf->pdev->dev,
1570                                 "VF %d requested polling mode: this feature is supported only when the device is running in single function per port (SFP) mode\n",
1571                                  vf->vf_id);
1572                         ret = I40E_ERR_PARAM;
1573                         goto err;
1574                 }
1575                 vfres->vf_offload_flags |= I40E_VIRTCHNL_VF_OFFLOAD_RX_POLLING;
1576         }
1577
1578         if (pf->flags & I40E_FLAG_WB_ON_ITR_CAPABLE) {
1579                 if (vf->driver_caps & I40E_VIRTCHNL_VF_OFFLOAD_WB_ON_ITR)
1580                         vfres->vf_offload_flags |=
1581                                         I40E_VIRTCHNL_VF_OFFLOAD_WB_ON_ITR;
1582         }
1583
1584         vfres->num_vsis = num_vsis;
1585         vfres->num_queue_pairs = vf->num_queue_pairs;
1586         vfres->max_vectors = pf->hw.func_caps.num_msix_vectors_vf;
1587         vfres->rss_key_size = I40E_HKEY_ARRAY_SIZE;
1588         vfres->rss_lut_size = I40E_VF_HLUT_ARRAY_SIZE;
1589
1590         if (vf->lan_vsi_idx) {
1591                 vfres->vsi_res[0].vsi_id = vf->lan_vsi_id;
1592                 vfres->vsi_res[0].vsi_type = I40E_VSI_SRIOV;
1593                 vfres->vsi_res[0].num_queue_pairs = vsi->alloc_queue_pairs;
1594                 /* VFs only use TC 0 */
1595                 vfres->vsi_res[0].qset_handle
1596                                           = le16_to_cpu(vsi->info.qs_handle[0]);
1597                 ether_addr_copy(vfres->vsi_res[0].default_mac_addr,
1598                                 vf->default_lan_addr.addr);
1599         }
1600         set_bit(I40E_VF_STATE_ACTIVE, &vf->vf_states);
1601
1602 err:
1603         /* send the response back to the VF */
1604         ret = i40e_vc_send_msg_to_vf(vf, I40E_VIRTCHNL_OP_GET_VF_RESOURCES,
1605                                      aq_ret, (u8 *)vfres, len);
1606
1607         kfree(vfres);
1608         return ret;
1609 }
1610
1611 /**
1612  * i40e_vc_reset_vf_msg
1613  * @vf: pointer to the VF info
1614  * @msg: pointer to the msg buffer
1615  * @msglen: msg length
1616  *
1617  * called from the VF to reset itself,
1618  * unlike other virtchnl messages, PF driver
1619  * doesn't send the response back to the VF
1620  **/
1621 static void i40e_vc_reset_vf_msg(struct i40e_vf *vf)
1622 {
1623         if (test_bit(I40E_VF_STATE_ACTIVE, &vf->vf_states))
1624                 i40e_reset_vf(vf, false);
1625 }
1626
1627 /**
1628  * i40e_getnum_vf_vsi_vlan_filters
1629  * @vsi: pointer to the vsi
1630  *
1631  * called to get the number of VLANs offloaded on this VF
1632  **/
1633 static inline int i40e_getnum_vf_vsi_vlan_filters(struct i40e_vsi *vsi)
1634 {
1635         struct i40e_mac_filter *f;
1636         int num_vlans = 0, bkt;
1637
1638         hash_for_each(vsi->mac_filter_hash, bkt, f, hlist) {
1639                 if (f->vlan >= 0 && f->vlan <= I40E_MAX_VLANID)
1640                         num_vlans++;
1641         }
1642
1643         return num_vlans;
1644 }
1645
1646 /**
1647  * i40e_vc_config_promiscuous_mode_msg
1648  * @vf: pointer to the VF info
1649  * @msg: pointer to the msg buffer
1650  * @msglen: msg length
1651  *
1652  * called from the VF to configure the promiscuous mode of
1653  * VF vsis
1654  **/
1655 static int i40e_vc_config_promiscuous_mode_msg(struct i40e_vf *vf,
1656                                                u8 *msg, u16 msglen)
1657 {
1658         struct i40e_virtchnl_promisc_info *info =
1659             (struct i40e_virtchnl_promisc_info *)msg;
1660         struct i40e_pf *pf = vf->pf;
1661         struct i40e_hw *hw = &pf->hw;
1662         struct i40e_mac_filter *f;
1663         i40e_status aq_ret = 0;
1664         bool allmulti = false;
1665         struct i40e_vsi *vsi;
1666         bool alluni = false;
1667         int aq_err = 0;
1668         int bkt;
1669
1670         vsi = i40e_find_vsi_from_id(pf, info->vsi_id);
1671         if (!test_bit(I40E_VF_STATE_ACTIVE, &vf->vf_states) ||
1672             !i40e_vc_isvalid_vsi_id(vf, info->vsi_id) ||
1673             !vsi) {
1674                 aq_ret = I40E_ERR_PARAM;
1675                 goto error_param;
1676         }
1677         if (!test_bit(I40E_VIRTCHNL_VF_CAP_PRIVILEGE, &vf->vf_caps)) {
1678                 dev_err(&pf->pdev->dev,
1679                         "Unprivileged VF %d is attempting to configure promiscuous mode\n",
1680                         vf->vf_id);
1681                 /* Lie to the VF on purpose. */
1682                 aq_ret = 0;
1683                 goto error_param;
1684         }
1685         /* Multicast promiscuous handling*/
1686         if (info->flags & I40E_FLAG_VF_MULTICAST_PROMISC)
1687                 allmulti = true;
1688
1689         if (vf->port_vlan_id) {
1690                 aq_ret = i40e_aq_set_vsi_mc_promisc_on_vlan(hw, vsi->seid,
1691                                                             allmulti,
1692                                                             vf->port_vlan_id,
1693                                                             NULL);
1694         } else if (i40e_getnum_vf_vsi_vlan_filters(vsi)) {
1695                 hash_for_each(vsi->mac_filter_hash, bkt, f, hlist) {
1696                         if (f->vlan < 0 || f->vlan > I40E_MAX_VLANID)
1697                                 continue;
1698                         aq_ret = i40e_aq_set_vsi_mc_promisc_on_vlan(hw,
1699                                                                     vsi->seid,
1700                                                                     allmulti,
1701                                                                     f->vlan,
1702                                                                     NULL);
1703                         aq_err = pf->hw.aq.asq_last_status;
1704                         if (aq_ret) {
1705                                 dev_err(&pf->pdev->dev,
1706                                         "Could not add VLAN %d to multicast promiscuous domain err %s aq_err %s\n",
1707                                         f->vlan,
1708                                         i40e_stat_str(&pf->hw, aq_ret),
1709                                         i40e_aq_str(&pf->hw, aq_err));
1710                                 break;
1711                         }
1712                 }
1713         } else {
1714                 aq_ret = i40e_aq_set_vsi_multicast_promiscuous(hw, vsi->seid,
1715                                                                allmulti, NULL);
1716                 aq_err = pf->hw.aq.asq_last_status;
1717                 if (aq_ret) {
1718                         dev_err(&pf->pdev->dev,
1719                                 "VF %d failed to set multicast promiscuous mode err %s aq_err %s\n",
1720                                 vf->vf_id,
1721                                 i40e_stat_str(&pf->hw, aq_ret),
1722                                 i40e_aq_str(&pf->hw, aq_err));
1723                         goto error_param;
1724                 }
1725         }
1726
1727         if (!aq_ret) {
1728                 dev_info(&pf->pdev->dev,
1729                          "VF %d successfully set multicast promiscuous mode\n",
1730                          vf->vf_id);
1731                 if (allmulti)
1732                         set_bit(I40E_VF_STATE_MC_PROMISC, &vf->vf_states);
1733                 else
1734                         clear_bit(I40E_VF_STATE_MC_PROMISC, &vf->vf_states);
1735         }
1736
1737         if (info->flags & I40E_FLAG_VF_UNICAST_PROMISC)
1738                 alluni = true;
1739         if (vf->port_vlan_id) {
1740                 aq_ret = i40e_aq_set_vsi_uc_promisc_on_vlan(hw, vsi->seid,
1741                                                             alluni,
1742                                                             vf->port_vlan_id,
1743                                                             NULL);
1744         } else if (i40e_getnum_vf_vsi_vlan_filters(vsi)) {
1745                 hash_for_each(vsi->mac_filter_hash, bkt, f, hlist) {
1746                         aq_ret = 0;
1747                         if (f->vlan >= 0 && f->vlan <= I40E_MAX_VLANID) {
1748                                 aq_ret =
1749                                 i40e_aq_set_vsi_uc_promisc_on_vlan(hw,
1750                                                                    vsi->seid,
1751                                                                    alluni,
1752                                                                    f->vlan,
1753                                                                    NULL);
1754                                 aq_err = pf->hw.aq.asq_last_status;
1755                         }
1756                         if (aq_ret)
1757                                 dev_err(&pf->pdev->dev,
1758                                         "Could not add VLAN %d to Unicast promiscuous domain err %s aq_err %s\n",
1759                                         f->vlan,
1760                                         i40e_stat_str(&pf->hw, aq_ret),
1761                                         i40e_aq_str(&pf->hw, aq_err));
1762                 }
1763         } else {
1764                 aq_ret = i40e_aq_set_vsi_unicast_promiscuous(hw, vsi->seid,
1765                                                              allmulti, NULL,
1766                                                              true);
1767                 aq_err = pf->hw.aq.asq_last_status;
1768                 if (aq_ret) {
1769                         dev_err(&pf->pdev->dev,
1770                                 "VF %d failed to set unicast promiscuous mode %8.8x err %s aq_err %s\n",
1771                                 vf->vf_id, info->flags,
1772                                 i40e_stat_str(&pf->hw, aq_ret),
1773                                 i40e_aq_str(&pf->hw, aq_err));
1774                         goto error_param;
1775                 }
1776         }
1777
1778         if (!aq_ret) {
1779                 dev_info(&pf->pdev->dev,
1780                          "VF %d successfully set unicast promiscuous mode\n",
1781                          vf->vf_id);
1782                 if (alluni)
1783                         set_bit(I40E_VF_STATE_UC_PROMISC, &vf->vf_states);
1784                 else
1785                         clear_bit(I40E_VF_STATE_UC_PROMISC, &vf->vf_states);
1786         }
1787
1788 error_param:
1789         /* send the response to the VF */
1790         return i40e_vc_send_resp_to_vf(vf,
1791                                        I40E_VIRTCHNL_OP_CONFIG_PROMISCUOUS_MODE,
1792                                        aq_ret);
1793 }
1794
1795 /**
1796  * i40e_vc_config_queues_msg
1797  * @vf: pointer to the VF info
1798  * @msg: pointer to the msg buffer
1799  * @msglen: msg length
1800  *
1801  * called from the VF to configure the rx/tx
1802  * queues
1803  **/
1804 static int i40e_vc_config_queues_msg(struct i40e_vf *vf, u8 *msg, u16 msglen)
1805 {
1806         struct i40e_virtchnl_vsi_queue_config_info *qci =
1807             (struct i40e_virtchnl_vsi_queue_config_info *)msg;
1808         struct i40e_virtchnl_queue_pair_info *qpi;
1809         struct i40e_pf *pf = vf->pf;
1810         u16 vsi_id, vsi_queue_id;
1811         i40e_status aq_ret = 0;
1812         int i;
1813
1814         if (!test_bit(I40E_VF_STATE_ACTIVE, &vf->vf_states)) {
1815                 aq_ret = I40E_ERR_PARAM;
1816                 goto error_param;
1817         }
1818
1819         vsi_id = qci->vsi_id;
1820         if (!i40e_vc_isvalid_vsi_id(vf, vsi_id)) {
1821                 aq_ret = I40E_ERR_PARAM;
1822                 goto error_param;
1823         }
1824         for (i = 0; i < qci->num_queue_pairs; i++) {
1825                 qpi = &qci->qpair[i];
1826                 vsi_queue_id = qpi->txq.queue_id;
1827                 if ((qpi->txq.vsi_id != vsi_id) ||
1828                     (qpi->rxq.vsi_id != vsi_id) ||
1829                     (qpi->rxq.queue_id != vsi_queue_id) ||
1830                     !i40e_vc_isvalid_queue_id(vf, vsi_id, vsi_queue_id)) {
1831                         aq_ret = I40E_ERR_PARAM;
1832                         goto error_param;
1833                 }
1834
1835                 if (i40e_config_vsi_rx_queue(vf, vsi_id, vsi_queue_id,
1836                                              &qpi->rxq) ||
1837                     i40e_config_vsi_tx_queue(vf, vsi_id, vsi_queue_id,
1838                                              &qpi->txq)) {
1839                         aq_ret = I40E_ERR_PARAM;
1840                         goto error_param;
1841                 }
1842         }
1843         /* set vsi num_queue_pairs in use to num configured by VF */
1844         pf->vsi[vf->lan_vsi_idx]->num_queue_pairs = qci->num_queue_pairs;
1845
1846 error_param:
1847         /* send the response to the VF */
1848         return i40e_vc_send_resp_to_vf(vf, I40E_VIRTCHNL_OP_CONFIG_VSI_QUEUES,
1849                                        aq_ret);
1850 }
1851
1852 /**
1853  * i40e_vc_config_irq_map_msg
1854  * @vf: pointer to the VF info
1855  * @msg: pointer to the msg buffer
1856  * @msglen: msg length
1857  *
1858  * called from the VF to configure the irq to
1859  * queue map
1860  **/
1861 static int i40e_vc_config_irq_map_msg(struct i40e_vf *vf, u8 *msg, u16 msglen)
1862 {
1863         struct i40e_virtchnl_irq_map_info *irqmap_info =
1864             (struct i40e_virtchnl_irq_map_info *)msg;
1865         struct i40e_virtchnl_vector_map *map;
1866         u16 vsi_id, vsi_queue_id, vector_id;
1867         i40e_status aq_ret = 0;
1868         unsigned long tempmap;
1869         int i;
1870
1871         if (!test_bit(I40E_VF_STATE_ACTIVE, &vf->vf_states)) {
1872                 aq_ret = I40E_ERR_PARAM;
1873                 goto error_param;
1874         }
1875
1876         for (i = 0; i < irqmap_info->num_vectors; i++) {
1877                 map = &irqmap_info->vecmap[i];
1878
1879                 vector_id = map->vector_id;
1880                 vsi_id = map->vsi_id;
1881                 /* validate msg params */
1882                 if (!i40e_vc_isvalid_vector_id(vf, vector_id) ||
1883                     !i40e_vc_isvalid_vsi_id(vf, vsi_id)) {
1884                         aq_ret = I40E_ERR_PARAM;
1885                         goto error_param;
1886                 }
1887
1888                 /* lookout for the invalid queue index */
1889                 tempmap = map->rxq_map;
1890                 for_each_set_bit(vsi_queue_id, &tempmap, I40E_MAX_VSI_QP) {
1891                         if (!i40e_vc_isvalid_queue_id(vf, vsi_id,
1892                                                       vsi_queue_id)) {
1893                                 aq_ret = I40E_ERR_PARAM;
1894                                 goto error_param;
1895                         }
1896                 }
1897
1898                 tempmap = map->txq_map;
1899                 for_each_set_bit(vsi_queue_id, &tempmap, I40E_MAX_VSI_QP) {
1900                         if (!i40e_vc_isvalid_queue_id(vf, vsi_id,
1901                                                       vsi_queue_id)) {
1902                                 aq_ret = I40E_ERR_PARAM;
1903                                 goto error_param;
1904                         }
1905                 }
1906
1907                 i40e_config_irq_link_list(vf, vsi_id, map);
1908         }
1909 error_param:
1910         /* send the response to the VF */
1911         return i40e_vc_send_resp_to_vf(vf, I40E_VIRTCHNL_OP_CONFIG_IRQ_MAP,
1912                                        aq_ret);
1913 }
1914
1915 /**
1916  * i40e_vc_enable_queues_msg
1917  * @vf: pointer to the VF info
1918  * @msg: pointer to the msg buffer
1919  * @msglen: msg length
1920  *
1921  * called from the VF to enable all or specific queue(s)
1922  **/
1923 static int i40e_vc_enable_queues_msg(struct i40e_vf *vf, u8 *msg, u16 msglen)
1924 {
1925         struct i40e_virtchnl_queue_select *vqs =
1926             (struct i40e_virtchnl_queue_select *)msg;
1927         struct i40e_pf *pf = vf->pf;
1928         u16 vsi_id = vqs->vsi_id;
1929         i40e_status aq_ret = 0;
1930
1931         if (!test_bit(I40E_VF_STATE_ACTIVE, &vf->vf_states)) {
1932                 aq_ret = I40E_ERR_PARAM;
1933                 goto error_param;
1934         }
1935
1936         if (!i40e_vc_isvalid_vsi_id(vf, vsi_id)) {
1937                 aq_ret = I40E_ERR_PARAM;
1938                 goto error_param;
1939         }
1940
1941         if ((0 == vqs->rx_queues) && (0 == vqs->tx_queues)) {
1942                 aq_ret = I40E_ERR_PARAM;
1943                 goto error_param;
1944         }
1945
1946         if (i40e_vsi_start_rings(pf->vsi[vf->lan_vsi_idx]))
1947                 aq_ret = I40E_ERR_TIMEOUT;
1948 error_param:
1949         /* send the response to the VF */
1950         return i40e_vc_send_resp_to_vf(vf, I40E_VIRTCHNL_OP_ENABLE_QUEUES,
1951                                        aq_ret);
1952 }
1953
1954 /**
1955  * i40e_vc_disable_queues_msg
1956  * @vf: pointer to the VF info
1957  * @msg: pointer to the msg buffer
1958  * @msglen: msg length
1959  *
1960  * called from the VF to disable all or specific
1961  * queue(s)
1962  **/
1963 static int i40e_vc_disable_queues_msg(struct i40e_vf *vf, u8 *msg, u16 msglen)
1964 {
1965         struct i40e_virtchnl_queue_select *vqs =
1966             (struct i40e_virtchnl_queue_select *)msg;
1967         struct i40e_pf *pf = vf->pf;
1968         i40e_status aq_ret = 0;
1969
1970         if (!test_bit(I40E_VF_STATE_ACTIVE, &vf->vf_states)) {
1971                 aq_ret = I40E_ERR_PARAM;
1972                 goto error_param;
1973         }
1974
1975         if (!i40e_vc_isvalid_vsi_id(vf, vqs->vsi_id)) {
1976                 aq_ret = I40E_ERR_PARAM;
1977                 goto error_param;
1978         }
1979
1980         if ((0 == vqs->rx_queues) && (0 == vqs->tx_queues)) {
1981                 aq_ret = I40E_ERR_PARAM;
1982                 goto error_param;
1983         }
1984
1985         i40e_vsi_stop_rings(pf->vsi[vf->lan_vsi_idx]);
1986
1987 error_param:
1988         /* send the response to the VF */
1989         return i40e_vc_send_resp_to_vf(vf, I40E_VIRTCHNL_OP_DISABLE_QUEUES,
1990                                        aq_ret);
1991 }
1992
1993 /**
1994  * i40e_vc_get_stats_msg
1995  * @vf: pointer to the VF info
1996  * @msg: pointer to the msg buffer
1997  * @msglen: msg length
1998  *
1999  * called from the VF to get vsi stats
2000  **/
2001 static int i40e_vc_get_stats_msg(struct i40e_vf *vf, u8 *msg, u16 msglen)
2002 {
2003         struct i40e_virtchnl_queue_select *vqs =
2004             (struct i40e_virtchnl_queue_select *)msg;
2005         struct i40e_pf *pf = vf->pf;
2006         struct i40e_eth_stats stats;
2007         i40e_status aq_ret = 0;
2008         struct i40e_vsi *vsi;
2009
2010         memset(&stats, 0, sizeof(struct i40e_eth_stats));
2011
2012         if (!test_bit(I40E_VF_STATE_ACTIVE, &vf->vf_states)) {
2013                 aq_ret = I40E_ERR_PARAM;
2014                 goto error_param;
2015         }
2016
2017         if (!i40e_vc_isvalid_vsi_id(vf, vqs->vsi_id)) {
2018                 aq_ret = I40E_ERR_PARAM;
2019                 goto error_param;
2020         }
2021
2022         vsi = pf->vsi[vf->lan_vsi_idx];
2023         if (!vsi) {
2024                 aq_ret = I40E_ERR_PARAM;
2025                 goto error_param;
2026         }
2027         i40e_update_eth_stats(vsi);
2028         stats = vsi->eth_stats;
2029
2030 error_param:
2031         /* send the response back to the VF */
2032         return i40e_vc_send_msg_to_vf(vf, I40E_VIRTCHNL_OP_GET_STATS, aq_ret,
2033                                       (u8 *)&stats, sizeof(stats));
2034 }
2035
2036 /* If the VF is not trusted restrict the number of MAC/VLAN it can program */
2037 #define I40E_VC_MAX_MAC_ADDR_PER_VF 12
2038 #define I40E_VC_MAX_VLAN_PER_VF 8
2039
2040 /**
2041  * i40e_check_vf_permission
2042  * @vf: pointer to the VF info
2043  * @macaddr: pointer to the MAC Address being checked
2044  *
2045  * Check if the VF has permission to add or delete unicast MAC address
2046  * filters and return error code -EPERM if not.  Then check if the
2047  * address filter requested is broadcast or zero and if so return
2048  * an invalid MAC address error code.
2049  **/
2050 static inline int i40e_check_vf_permission(struct i40e_vf *vf, u8 *macaddr)
2051 {
2052         struct i40e_pf *pf = vf->pf;
2053         int ret = 0;
2054
2055         if (is_broadcast_ether_addr(macaddr) ||
2056                    is_zero_ether_addr(macaddr)) {
2057                 dev_err(&pf->pdev->dev, "invalid VF MAC addr %pM\n", macaddr);
2058                 ret = I40E_ERR_INVALID_MAC_ADDR;
2059         } else if (vf->pf_set_mac && !is_multicast_ether_addr(macaddr) &&
2060                    !test_bit(I40E_VIRTCHNL_VF_CAP_PRIVILEGE, &vf->vf_caps) &&
2061                    !ether_addr_equal(macaddr, vf->default_lan_addr.addr)) {
2062                 /* If the host VMM administrator has set the VF MAC address
2063                  * administratively via the ndo_set_vf_mac command then deny
2064                  * permission to the VF to add or delete unicast MAC addresses.
2065                  * Unless the VF is privileged and then it can do whatever.
2066                  * The VF may request to set the MAC address filter already
2067                  * assigned to it so do not return an error in that case.
2068                  */
2069                 dev_err(&pf->pdev->dev,
2070                         "VF attempting to override administratively set MAC address, reload the VF driver to resume normal operation\n");
2071                 ret = -EPERM;
2072         } else if ((vf->num_mac >= I40E_VC_MAX_MAC_ADDR_PER_VF) &&
2073                    !test_bit(I40E_VIRTCHNL_VF_CAP_PRIVILEGE, &vf->vf_caps)) {
2074                 dev_err(&pf->pdev->dev,
2075                         "VF is not trusted, switch the VF to trusted to add more functionality\n");
2076                 ret = -EPERM;
2077         }
2078         return ret;
2079 }
2080
2081 /**
2082  * i40e_vc_add_mac_addr_msg
2083  * @vf: pointer to the VF info
2084  * @msg: pointer to the msg buffer
2085  * @msglen: msg length
2086  *
2087  * add guest mac address filter
2088  **/
2089 static int i40e_vc_add_mac_addr_msg(struct i40e_vf *vf, u8 *msg, u16 msglen)
2090 {
2091         struct i40e_virtchnl_ether_addr_list *al =
2092             (struct i40e_virtchnl_ether_addr_list *)msg;
2093         struct i40e_pf *pf = vf->pf;
2094         struct i40e_vsi *vsi = NULL;
2095         u16 vsi_id = al->vsi_id;
2096         i40e_status ret = 0;
2097         int i;
2098
2099         if (!test_bit(I40E_VF_STATE_ACTIVE, &vf->vf_states) ||
2100             !i40e_vc_isvalid_vsi_id(vf, vsi_id)) {
2101                 ret = I40E_ERR_PARAM;
2102                 goto error_param;
2103         }
2104
2105         for (i = 0; i < al->num_elements; i++) {
2106                 ret = i40e_check_vf_permission(vf, al->list[i].addr);
2107                 if (ret)
2108                         goto error_param;
2109         }
2110         vsi = pf->vsi[vf->lan_vsi_idx];
2111
2112         /* Lock once, because all function inside for loop accesses VSI's
2113          * MAC filter list which needs to be protected using same lock.
2114          */
2115         spin_lock_bh(&vsi->mac_filter_hash_lock);
2116
2117         /* add new addresses to the list */
2118         for (i = 0; i < al->num_elements; i++) {
2119                 struct i40e_mac_filter *f;
2120
2121                 f = i40e_find_mac(vsi, al->list[i].addr);
2122                 if (!f)
2123                         f = i40e_add_mac_filter(vsi, al->list[i].addr);
2124
2125                 if (!f) {
2126                         dev_err(&pf->pdev->dev,
2127                                 "Unable to add MAC filter %pM for VF %d\n",
2128                                  al->list[i].addr, vf->vf_id);
2129                         ret = I40E_ERR_PARAM;
2130                         spin_unlock_bh(&vsi->mac_filter_hash_lock);
2131                         goto error_param;
2132                 } else {
2133                         vf->num_mac++;
2134                 }
2135         }
2136         spin_unlock_bh(&vsi->mac_filter_hash_lock);
2137
2138         /* program the updated filter list */
2139         ret = i40e_sync_vsi_filters(vsi);
2140         if (ret)
2141                 dev_err(&pf->pdev->dev, "Unable to program VF %d MAC filters, error %d\n",
2142                         vf->vf_id, ret);
2143
2144 error_param:
2145         /* send the response to the VF */
2146         return i40e_vc_send_resp_to_vf(vf, I40E_VIRTCHNL_OP_ADD_ETHER_ADDRESS,
2147                                        ret);
2148 }
2149
2150 /**
2151  * i40e_vc_del_mac_addr_msg
2152  * @vf: pointer to the VF info
2153  * @msg: pointer to the msg buffer
2154  * @msglen: msg length
2155  *
2156  * remove guest mac address filter
2157  **/
2158 static int i40e_vc_del_mac_addr_msg(struct i40e_vf *vf, u8 *msg, u16 msglen)
2159 {
2160         struct i40e_virtchnl_ether_addr_list *al =
2161             (struct i40e_virtchnl_ether_addr_list *)msg;
2162         struct i40e_pf *pf = vf->pf;
2163         struct i40e_vsi *vsi = NULL;
2164         u16 vsi_id = al->vsi_id;
2165         i40e_status ret = 0;
2166         int i;
2167
2168         if (!test_bit(I40E_VF_STATE_ACTIVE, &vf->vf_states) ||
2169             !i40e_vc_isvalid_vsi_id(vf, vsi_id)) {
2170                 ret = I40E_ERR_PARAM;
2171                 goto error_param;
2172         }
2173
2174         for (i = 0; i < al->num_elements; i++) {
2175                 if (is_broadcast_ether_addr(al->list[i].addr) ||
2176                     is_zero_ether_addr(al->list[i].addr)) {
2177                         dev_err(&pf->pdev->dev, "Invalid MAC addr %pM for VF %d\n",
2178                                 al->list[i].addr, vf->vf_id);
2179                         ret = I40E_ERR_INVALID_MAC_ADDR;
2180                         goto error_param;
2181                 }
2182         }
2183         vsi = pf->vsi[vf->lan_vsi_idx];
2184
2185         spin_lock_bh(&vsi->mac_filter_hash_lock);
2186         /* delete addresses from the list */
2187         for (i = 0; i < al->num_elements; i++)
2188                 if (i40e_del_mac_filter(vsi, al->list[i].addr)) {
2189                         ret = I40E_ERR_INVALID_MAC_ADDR;
2190                         spin_unlock_bh(&vsi->mac_filter_hash_lock);
2191                         goto error_param;
2192                 } else {
2193                         vf->num_mac--;
2194                 }
2195
2196         spin_unlock_bh(&vsi->mac_filter_hash_lock);
2197
2198         /* program the updated filter list */
2199         ret = i40e_sync_vsi_filters(vsi);
2200         if (ret)
2201                 dev_err(&pf->pdev->dev, "Unable to program VF %d MAC filters, error %d\n",
2202                         vf->vf_id, ret);
2203
2204 error_param:
2205         /* send the response to the VF */
2206         return i40e_vc_send_resp_to_vf(vf, I40E_VIRTCHNL_OP_DEL_ETHER_ADDRESS,
2207                                        ret);
2208 }
2209
2210 /**
2211  * i40e_vc_add_vlan_msg
2212  * @vf: pointer to the VF info
2213  * @msg: pointer to the msg buffer
2214  * @msglen: msg length
2215  *
2216  * program guest vlan id
2217  **/
2218 static int i40e_vc_add_vlan_msg(struct i40e_vf *vf, u8 *msg, u16 msglen)
2219 {
2220         struct i40e_virtchnl_vlan_filter_list *vfl =
2221             (struct i40e_virtchnl_vlan_filter_list *)msg;
2222         struct i40e_pf *pf = vf->pf;
2223         struct i40e_vsi *vsi = NULL;
2224         u16 vsi_id = vfl->vsi_id;
2225         i40e_status aq_ret = 0;
2226         int i;
2227
2228         if ((vf->num_vlan >= I40E_VC_MAX_VLAN_PER_VF) &&
2229             !test_bit(I40E_VIRTCHNL_VF_CAP_PRIVILEGE, &vf->vf_caps)) {
2230                 dev_err(&pf->pdev->dev,
2231                         "VF is not trusted, switch the VF to trusted to add more VLAN addresses\n");
2232                 goto error_param;
2233         }
2234         if (!test_bit(I40E_VF_STATE_ACTIVE, &vf->vf_states) ||
2235             !i40e_vc_isvalid_vsi_id(vf, vsi_id)) {
2236                 aq_ret = I40E_ERR_PARAM;
2237                 goto error_param;
2238         }
2239
2240         for (i = 0; i < vfl->num_elements; i++) {
2241                 if (vfl->vlan_id[i] > I40E_MAX_VLANID) {
2242                         aq_ret = I40E_ERR_PARAM;
2243                         dev_err(&pf->pdev->dev,
2244                                 "invalid VF VLAN id %d\n", vfl->vlan_id[i]);
2245                         goto error_param;
2246                 }
2247         }
2248         vsi = pf->vsi[vf->lan_vsi_idx];
2249         if (vsi->info.pvid) {
2250                 aq_ret = I40E_ERR_PARAM;
2251                 goto error_param;
2252         }
2253
2254         i40e_vlan_stripping_enable(vsi);
2255         for (i = 0; i < vfl->num_elements; i++) {
2256                 /* add new VLAN filter */
2257                 int ret = i40e_vsi_add_vlan(vsi, vfl->vlan_id[i]);
2258                 if (!ret)
2259                         vf->num_vlan++;
2260
2261                 if (test_bit(I40E_VF_STATE_UC_PROMISC, &vf->vf_states))
2262                         i40e_aq_set_vsi_uc_promisc_on_vlan(&pf->hw, vsi->seid,
2263                                                            true,
2264                                                            vfl->vlan_id[i],
2265                                                            NULL);
2266                 if (test_bit(I40E_VF_STATE_MC_PROMISC, &vf->vf_states))
2267                         i40e_aq_set_vsi_mc_promisc_on_vlan(&pf->hw, vsi->seid,
2268                                                            true,
2269                                                            vfl->vlan_id[i],
2270                                                            NULL);
2271
2272                 if (ret)
2273                         dev_err(&pf->pdev->dev,
2274                                 "Unable to add VLAN filter %d for VF %d, error %d\n",
2275                                 vfl->vlan_id[i], vf->vf_id, ret);
2276         }
2277
2278 error_param:
2279         /* send the response to the VF */
2280         return i40e_vc_send_resp_to_vf(vf, I40E_VIRTCHNL_OP_ADD_VLAN, aq_ret);
2281 }
2282
2283 /**
2284  * i40e_vc_remove_vlan_msg
2285  * @vf: pointer to the VF info
2286  * @msg: pointer to the msg buffer
2287  * @msglen: msg length
2288  *
2289  * remove programmed guest vlan id
2290  **/
2291 static int i40e_vc_remove_vlan_msg(struct i40e_vf *vf, u8 *msg, u16 msglen)
2292 {
2293         struct i40e_virtchnl_vlan_filter_list *vfl =
2294             (struct i40e_virtchnl_vlan_filter_list *)msg;
2295         struct i40e_pf *pf = vf->pf;
2296         struct i40e_vsi *vsi = NULL;
2297         u16 vsi_id = vfl->vsi_id;
2298         i40e_status aq_ret = 0;
2299         int i;
2300
2301         if (!test_bit(I40E_VF_STATE_ACTIVE, &vf->vf_states) ||
2302             !i40e_vc_isvalid_vsi_id(vf, vsi_id)) {
2303                 aq_ret = I40E_ERR_PARAM;
2304                 goto error_param;
2305         }
2306
2307         for (i = 0; i < vfl->num_elements; i++) {
2308                 if (vfl->vlan_id[i] > I40E_MAX_VLANID) {
2309                         aq_ret = I40E_ERR_PARAM;
2310                         goto error_param;
2311                 }
2312         }
2313
2314         vsi = pf->vsi[vf->lan_vsi_idx];
2315         if (vsi->info.pvid) {
2316                 aq_ret = I40E_ERR_PARAM;
2317                 goto error_param;
2318         }
2319
2320         for (i = 0; i < vfl->num_elements; i++) {
2321                 i40e_vsi_kill_vlan(vsi, vfl->vlan_id[i]);
2322                 vf->num_vlan--;
2323
2324                 if (test_bit(I40E_VF_STATE_UC_PROMISC, &vf->vf_states))
2325                         i40e_aq_set_vsi_uc_promisc_on_vlan(&pf->hw, vsi->seid,
2326                                                            false,
2327                                                            vfl->vlan_id[i],
2328                                                            NULL);
2329                 if (test_bit(I40E_VF_STATE_MC_PROMISC, &vf->vf_states))
2330                         i40e_aq_set_vsi_mc_promisc_on_vlan(&pf->hw, vsi->seid,
2331                                                            false,
2332                                                            vfl->vlan_id[i],
2333                                                            NULL);
2334         }
2335
2336 error_param:
2337         /* send the response to the VF */
2338         return i40e_vc_send_resp_to_vf(vf, I40E_VIRTCHNL_OP_DEL_VLAN, aq_ret);
2339 }
2340
2341 /**
2342  * i40e_vc_iwarp_msg
2343  * @vf: pointer to the VF info
2344  * @msg: pointer to the msg buffer
2345  * @msglen: msg length
2346  *
2347  * called from the VF for the iwarp msgs
2348  **/
2349 static int i40e_vc_iwarp_msg(struct i40e_vf *vf, u8 *msg, u16 msglen)
2350 {
2351         struct i40e_pf *pf = vf->pf;
2352         int abs_vf_id = vf->vf_id + pf->hw.func_caps.vf_base_id;
2353         i40e_status aq_ret = 0;
2354
2355         if (!test_bit(I40E_VF_STATE_ACTIVE, &vf->vf_states) ||
2356             !test_bit(I40E_VF_STATE_IWARPENA, &vf->vf_states)) {
2357                 aq_ret = I40E_ERR_PARAM;
2358                 goto error_param;
2359         }
2360
2361         i40e_notify_client_of_vf_msg(pf->vsi[pf->lan_vsi], abs_vf_id,
2362                                      msg, msglen);
2363
2364 error_param:
2365         /* send the response to the VF */
2366         return i40e_vc_send_resp_to_vf(vf, I40E_VIRTCHNL_OP_IWARP,
2367                                        aq_ret);
2368 }
2369
2370 /**
2371  * i40e_vc_iwarp_qvmap_msg
2372  * @vf: pointer to the VF info
2373  * @msg: pointer to the msg buffer
2374  * @msglen: msg length
2375  * @config: config qvmap or release it
2376  *
2377  * called from the VF for the iwarp msgs
2378  **/
2379 static int i40e_vc_iwarp_qvmap_msg(struct i40e_vf *vf, u8 *msg, u16 msglen,
2380                                    bool config)
2381 {
2382         struct i40e_virtchnl_iwarp_qvlist_info *qvlist_info =
2383                                 (struct i40e_virtchnl_iwarp_qvlist_info *)msg;
2384         i40e_status aq_ret = 0;
2385
2386         if (!test_bit(I40E_VF_STATE_ACTIVE, &vf->vf_states) ||
2387             !test_bit(I40E_VF_STATE_IWARPENA, &vf->vf_states)) {
2388                 aq_ret = I40E_ERR_PARAM;
2389                 goto error_param;
2390         }
2391
2392         if (config) {
2393                 if (i40e_config_iwarp_qvlist(vf, qvlist_info))
2394                         aq_ret = I40E_ERR_PARAM;
2395         } else {
2396                 i40e_release_iwarp_qvlist(vf);
2397         }
2398
2399 error_param:
2400         /* send the response to the VF */
2401         return i40e_vc_send_resp_to_vf(vf,
2402                                config ? I40E_VIRTCHNL_OP_CONFIG_IWARP_IRQ_MAP :
2403                                I40E_VIRTCHNL_OP_RELEASE_IWARP_IRQ_MAP,
2404                                aq_ret);
2405 }
2406
2407 /**
2408  * i40e_vc_config_rss_key
2409  * @vf: pointer to the VF info
2410  * @msg: pointer to the msg buffer
2411  * @msglen: msg length
2412  *
2413  * Configure the VF's RSS key
2414  **/
2415 static int i40e_vc_config_rss_key(struct i40e_vf *vf, u8 *msg, u16 msglen)
2416 {
2417         struct i40e_virtchnl_rss_key *vrk =
2418                 (struct i40e_virtchnl_rss_key *)msg;
2419         struct i40e_pf *pf = vf->pf;
2420         struct i40e_vsi *vsi = NULL;
2421         u16 vsi_id = vrk->vsi_id;
2422         i40e_status aq_ret = 0;
2423
2424         if (!test_bit(I40E_VF_STATE_ACTIVE, &vf->vf_states) ||
2425             !i40e_vc_isvalid_vsi_id(vf, vsi_id) ||
2426             (vrk->key_len != I40E_HKEY_ARRAY_SIZE)) {
2427                 aq_ret = I40E_ERR_PARAM;
2428                 goto err;
2429         }
2430
2431         vsi = pf->vsi[vf->lan_vsi_idx];
2432         aq_ret = i40e_config_rss(vsi, vrk->key, NULL, 0);
2433 err:
2434         /* send the response to the VF */
2435         return i40e_vc_send_resp_to_vf(vf, I40E_VIRTCHNL_OP_CONFIG_RSS_KEY,
2436                                        aq_ret);
2437 }
2438
2439 /**
2440  * i40e_vc_config_rss_lut
2441  * @vf: pointer to the VF info
2442  * @msg: pointer to the msg buffer
2443  * @msglen: msg length
2444  *
2445  * Configure the VF's RSS LUT
2446  **/
2447 static int i40e_vc_config_rss_lut(struct i40e_vf *vf, u8 *msg, u16 msglen)
2448 {
2449         struct i40e_virtchnl_rss_lut *vrl =
2450                 (struct i40e_virtchnl_rss_lut *)msg;
2451         struct i40e_pf *pf = vf->pf;
2452         struct i40e_vsi *vsi = NULL;
2453         u16 vsi_id = vrl->vsi_id;
2454         i40e_status aq_ret = 0;
2455
2456         if (!test_bit(I40E_VF_STATE_ACTIVE, &vf->vf_states) ||
2457             !i40e_vc_isvalid_vsi_id(vf, vsi_id) ||
2458             (vrl->lut_entries != I40E_VF_HLUT_ARRAY_SIZE)) {
2459                 aq_ret = I40E_ERR_PARAM;
2460                 goto err;
2461         }
2462
2463         vsi = pf->vsi[vf->lan_vsi_idx];
2464         aq_ret = i40e_config_rss(vsi, NULL, vrl->lut, I40E_VF_HLUT_ARRAY_SIZE);
2465         /* send the response to the VF */
2466 err:
2467         return i40e_vc_send_resp_to_vf(vf, I40E_VIRTCHNL_OP_CONFIG_RSS_LUT,
2468                                        aq_ret);
2469 }
2470
2471 /**
2472  * i40e_vc_get_rss_hena
2473  * @vf: pointer to the VF info
2474  * @msg: pointer to the msg buffer
2475  * @msglen: msg length
2476  *
2477  * Return the RSS HENA bits allowed by the hardware
2478  **/
2479 static int i40e_vc_get_rss_hena(struct i40e_vf *vf, u8 *msg, u16 msglen)
2480 {
2481         struct i40e_virtchnl_rss_hena *vrh = NULL;
2482         struct i40e_pf *pf = vf->pf;
2483         i40e_status aq_ret = 0;
2484         int len = 0;
2485
2486         if (!test_bit(I40E_VF_STATE_ACTIVE, &vf->vf_states)) {
2487                 aq_ret = I40E_ERR_PARAM;
2488                 goto err;
2489         }
2490         len = sizeof(struct i40e_virtchnl_rss_hena);
2491
2492         vrh = kzalloc(len, GFP_KERNEL);
2493         if (!vrh) {
2494                 aq_ret = I40E_ERR_NO_MEMORY;
2495                 len = 0;
2496                 goto err;
2497         }
2498         vrh->hena = i40e_pf_get_default_rss_hena(pf);
2499 err:
2500         /* send the response back to the VF */
2501         aq_ret = i40e_vc_send_msg_to_vf(vf, I40E_VIRTCHNL_OP_GET_RSS_HENA_CAPS,
2502                                         aq_ret, (u8 *)vrh, len);
2503         kfree(vrh);
2504         return aq_ret;
2505 }
2506
2507 /**
2508  * i40e_vc_set_rss_hena
2509  * @vf: pointer to the VF info
2510  * @msg: pointer to the msg buffer
2511  * @msglen: msg length
2512  *
2513  * Set the RSS HENA bits for the VF
2514  **/
2515 static int i40e_vc_set_rss_hena(struct i40e_vf *vf, u8 *msg, u16 msglen)
2516 {
2517         struct i40e_virtchnl_rss_hena *vrh =
2518                 (struct i40e_virtchnl_rss_hena *)msg;
2519         struct i40e_pf *pf = vf->pf;
2520         struct i40e_hw *hw = &pf->hw;
2521         i40e_status aq_ret = 0;
2522
2523         if (!test_bit(I40E_VF_STATE_ACTIVE, &vf->vf_states)) {
2524                 aq_ret = I40E_ERR_PARAM;
2525                 goto err;
2526         }
2527         i40e_write_rx_ctl(hw, I40E_VFQF_HENA1(0, vf->vf_id), (u32)vrh->hena);
2528         i40e_write_rx_ctl(hw, I40E_VFQF_HENA1(1, vf->vf_id),
2529                           (u32)(vrh->hena >> 32));
2530
2531         /* send the response to the VF */
2532 err:
2533         return i40e_vc_send_resp_to_vf(vf, I40E_VIRTCHNL_OP_SET_RSS_HENA,
2534                                        aq_ret);
2535 }
2536
2537 /**
2538  * i40e_vc_validate_vf_msg
2539  * @vf: pointer to the VF info
2540  * @msg: pointer to the msg buffer
2541  * @msglen: msg length
2542  * @msghndl: msg handle
2543  *
2544  * validate msg
2545  **/
2546 static int i40e_vc_validate_vf_msg(struct i40e_vf *vf, u32 v_opcode,
2547                                    u32 v_retval, u8 *msg, u16 msglen)
2548 {
2549         bool err_msg_format = false;
2550         int valid_len = 0;
2551
2552         /* Check if VF is disabled. */
2553         if (test_bit(I40E_VF_STATE_DISABLED, &vf->vf_states))
2554                 return I40E_ERR_PARAM;
2555
2556         /* Validate message length. */
2557         switch (v_opcode) {
2558         case I40E_VIRTCHNL_OP_VERSION:
2559                 valid_len = sizeof(struct i40e_virtchnl_version_info);
2560                 break;
2561         case I40E_VIRTCHNL_OP_RESET_VF:
2562                 break;
2563         case I40E_VIRTCHNL_OP_GET_VF_RESOURCES:
2564                 if (VF_IS_V11(vf))
2565                         valid_len = sizeof(u32);
2566                 break;
2567         case I40E_VIRTCHNL_OP_CONFIG_TX_QUEUE:
2568                 valid_len = sizeof(struct i40e_virtchnl_txq_info);
2569                 break;
2570         case I40E_VIRTCHNL_OP_CONFIG_RX_QUEUE:
2571                 valid_len = sizeof(struct i40e_virtchnl_rxq_info);
2572                 break;
2573         case I40E_VIRTCHNL_OP_CONFIG_VSI_QUEUES:
2574                 valid_len = sizeof(struct i40e_virtchnl_vsi_queue_config_info);
2575                 if (msglen >= valid_len) {
2576                         struct i40e_virtchnl_vsi_queue_config_info *vqc =
2577                             (struct i40e_virtchnl_vsi_queue_config_info *)msg;
2578                         valid_len += (vqc->num_queue_pairs *
2579                                       sizeof(struct
2580                                              i40e_virtchnl_queue_pair_info));
2581                         if (vqc->num_queue_pairs == 0)
2582                                 err_msg_format = true;
2583                 }
2584                 break;
2585         case I40E_VIRTCHNL_OP_CONFIG_IRQ_MAP:
2586                 valid_len = sizeof(struct i40e_virtchnl_irq_map_info);
2587                 if (msglen >= valid_len) {
2588                         struct i40e_virtchnl_irq_map_info *vimi =
2589                             (struct i40e_virtchnl_irq_map_info *)msg;
2590                         valid_len += (vimi->num_vectors *
2591                                       sizeof(struct i40e_virtchnl_vector_map));
2592                         if (vimi->num_vectors == 0)
2593                                 err_msg_format = true;
2594                 }
2595                 break;
2596         case I40E_VIRTCHNL_OP_ENABLE_QUEUES:
2597         case I40E_VIRTCHNL_OP_DISABLE_QUEUES:
2598                 valid_len = sizeof(struct i40e_virtchnl_queue_select);
2599                 break;
2600         case I40E_VIRTCHNL_OP_ADD_ETHER_ADDRESS:
2601         case I40E_VIRTCHNL_OP_DEL_ETHER_ADDRESS:
2602                 valid_len = sizeof(struct i40e_virtchnl_ether_addr_list);
2603                 if (msglen >= valid_len) {
2604                         struct i40e_virtchnl_ether_addr_list *veal =
2605                             (struct i40e_virtchnl_ether_addr_list *)msg;
2606                         valid_len += veal->num_elements *
2607                             sizeof(struct i40e_virtchnl_ether_addr);
2608                         if (veal->num_elements == 0)
2609                                 err_msg_format = true;
2610                 }
2611                 break;
2612         case I40E_VIRTCHNL_OP_ADD_VLAN:
2613         case I40E_VIRTCHNL_OP_DEL_VLAN:
2614                 valid_len = sizeof(struct i40e_virtchnl_vlan_filter_list);
2615                 if (msglen >= valid_len) {
2616                         struct i40e_virtchnl_vlan_filter_list *vfl =
2617                             (struct i40e_virtchnl_vlan_filter_list *)msg;
2618                         valid_len += vfl->num_elements * sizeof(u16);
2619                         if (vfl->num_elements == 0)
2620                                 err_msg_format = true;
2621                 }
2622                 break;
2623         case I40E_VIRTCHNL_OP_CONFIG_PROMISCUOUS_MODE:
2624                 valid_len = sizeof(struct i40e_virtchnl_promisc_info);
2625                 break;
2626         case I40E_VIRTCHNL_OP_GET_STATS:
2627                 valid_len = sizeof(struct i40e_virtchnl_queue_select);
2628                 break;
2629         case I40E_VIRTCHNL_OP_IWARP:
2630                 /* These messages are opaque to us and will be validated in
2631                  * the RDMA client code. We just need to check for nonzero
2632                  * length. The firmware will enforce max length restrictions.
2633                  */
2634                 if (msglen)
2635                         valid_len = msglen;
2636                 else
2637                         err_msg_format = true;
2638                 break;
2639         case I40E_VIRTCHNL_OP_RELEASE_IWARP_IRQ_MAP:
2640                 valid_len = 0;
2641                 break;
2642         case I40E_VIRTCHNL_OP_CONFIG_IWARP_IRQ_MAP:
2643                 valid_len = sizeof(struct i40e_virtchnl_iwarp_qvlist_info);
2644                 if (msglen >= valid_len) {
2645                         struct i40e_virtchnl_iwarp_qvlist_info *qv =
2646                                 (struct i40e_virtchnl_iwarp_qvlist_info *)msg;
2647                         if (qv->num_vectors == 0) {
2648                                 err_msg_format = true;
2649                                 break;
2650                         }
2651                         valid_len += ((qv->num_vectors - 1) *
2652                                 sizeof(struct i40e_virtchnl_iwarp_qv_info));
2653                 }
2654                 break;
2655         case I40E_VIRTCHNL_OP_CONFIG_RSS_KEY:
2656                 valid_len = sizeof(struct i40e_virtchnl_rss_key);
2657                 if (msglen >= valid_len) {
2658                         struct i40e_virtchnl_rss_key *vrk =
2659                                 (struct i40e_virtchnl_rss_key *)msg;
2660                         if (vrk->key_len != I40E_HKEY_ARRAY_SIZE) {
2661                                 err_msg_format = true;
2662                                 break;
2663                         }
2664                         valid_len += vrk->key_len - 1;
2665                 }
2666                 break;
2667         case I40E_VIRTCHNL_OP_CONFIG_RSS_LUT:
2668                 valid_len = sizeof(struct i40e_virtchnl_rss_lut);
2669                 if (msglen >= valid_len) {
2670                         struct i40e_virtchnl_rss_lut *vrl =
2671                                 (struct i40e_virtchnl_rss_lut *)msg;
2672                         if (vrl->lut_entries != I40E_VF_HLUT_ARRAY_SIZE) {
2673                                 err_msg_format = true;
2674                                 break;
2675                         }
2676                         valid_len += vrl->lut_entries - 1;
2677                 }
2678                 break;
2679         case I40E_VIRTCHNL_OP_GET_RSS_HENA_CAPS:
2680                 break;
2681         case I40E_VIRTCHNL_OP_SET_RSS_HENA:
2682                 valid_len = sizeof(struct i40e_virtchnl_rss_hena);
2683                 break;
2684         /* These are always errors coming from the VF. */
2685         case I40E_VIRTCHNL_OP_EVENT:
2686         case I40E_VIRTCHNL_OP_UNKNOWN:
2687         default:
2688                 return -EPERM;
2689         }
2690         /* few more checks */
2691         if ((valid_len != msglen) || (err_msg_format)) {
2692                 i40e_vc_send_resp_to_vf(vf, v_opcode, I40E_ERR_PARAM);
2693                 return -EINVAL;
2694         } else {
2695                 return 0;
2696         }
2697 }
2698
2699 /**
2700  * i40e_vc_process_vf_msg
2701  * @pf: pointer to the PF structure
2702  * @vf_id: source VF id
2703  * @msg: pointer to the msg buffer
2704  * @msglen: msg length
2705  * @msghndl: msg handle
2706  *
2707  * called from the common aeq/arq handler to
2708  * process request from VF
2709  **/
2710 int i40e_vc_process_vf_msg(struct i40e_pf *pf, s16 vf_id, u32 v_opcode,
2711                            u32 v_retval, u8 *msg, u16 msglen)
2712 {
2713         struct i40e_hw *hw = &pf->hw;
2714         int local_vf_id = vf_id - (s16)hw->func_caps.vf_base_id;
2715         struct i40e_vf *vf;
2716         int ret;
2717
2718         pf->vf_aq_requests++;
2719         if (local_vf_id >= pf->num_alloc_vfs)
2720                 return -EINVAL;
2721         vf = &(pf->vf[local_vf_id]);
2722         /* perform basic checks on the msg */
2723         ret = i40e_vc_validate_vf_msg(vf, v_opcode, v_retval, msg, msglen);
2724
2725         if (ret) {
2726                 dev_err(&pf->pdev->dev, "Invalid message from VF %d, opcode %d, len %d\n",
2727                         local_vf_id, v_opcode, msglen);
2728                 return ret;
2729         }
2730
2731         switch (v_opcode) {
2732         case I40E_VIRTCHNL_OP_VERSION:
2733                 ret = i40e_vc_get_version_msg(vf, msg);
2734                 break;
2735         case I40E_VIRTCHNL_OP_GET_VF_RESOURCES:
2736                 ret = i40e_vc_get_vf_resources_msg(vf, msg);
2737                 break;
2738         case I40E_VIRTCHNL_OP_RESET_VF:
2739                 i40e_vc_reset_vf_msg(vf);
2740                 ret = 0;
2741                 break;
2742         case I40E_VIRTCHNL_OP_CONFIG_PROMISCUOUS_MODE:
2743                 ret = i40e_vc_config_promiscuous_mode_msg(vf, msg, msglen);
2744                 break;
2745         case I40E_VIRTCHNL_OP_CONFIG_VSI_QUEUES:
2746                 ret = i40e_vc_config_queues_msg(vf, msg, msglen);
2747                 break;
2748         case I40E_VIRTCHNL_OP_CONFIG_IRQ_MAP:
2749                 ret = i40e_vc_config_irq_map_msg(vf, msg, msglen);
2750                 break;
2751         case I40E_VIRTCHNL_OP_ENABLE_QUEUES:
2752                 ret = i40e_vc_enable_queues_msg(vf, msg, msglen);
2753                 i40e_vc_notify_vf_link_state(vf);
2754                 break;
2755         case I40E_VIRTCHNL_OP_DISABLE_QUEUES:
2756                 ret = i40e_vc_disable_queues_msg(vf, msg, msglen);
2757                 break;
2758         case I40E_VIRTCHNL_OP_ADD_ETHER_ADDRESS:
2759                 ret = i40e_vc_add_mac_addr_msg(vf, msg, msglen);
2760                 break;
2761         case I40E_VIRTCHNL_OP_DEL_ETHER_ADDRESS:
2762                 ret = i40e_vc_del_mac_addr_msg(vf, msg, msglen);
2763                 break;
2764         case I40E_VIRTCHNL_OP_ADD_VLAN:
2765                 ret = i40e_vc_add_vlan_msg(vf, msg, msglen);
2766                 break;
2767         case I40E_VIRTCHNL_OP_DEL_VLAN:
2768                 ret = i40e_vc_remove_vlan_msg(vf, msg, msglen);
2769                 break;
2770         case I40E_VIRTCHNL_OP_GET_STATS:
2771                 ret = i40e_vc_get_stats_msg(vf, msg, msglen);
2772                 break;
2773         case I40E_VIRTCHNL_OP_IWARP:
2774                 ret = i40e_vc_iwarp_msg(vf, msg, msglen);
2775                 break;
2776         case I40E_VIRTCHNL_OP_CONFIG_IWARP_IRQ_MAP:
2777                 ret = i40e_vc_iwarp_qvmap_msg(vf, msg, msglen, true);
2778                 break;
2779         case I40E_VIRTCHNL_OP_RELEASE_IWARP_IRQ_MAP:
2780                 ret = i40e_vc_iwarp_qvmap_msg(vf, msg, msglen, false);
2781                 break;
2782         case I40E_VIRTCHNL_OP_CONFIG_RSS_KEY:
2783                 ret = i40e_vc_config_rss_key(vf, msg, msglen);
2784                 break;
2785         case I40E_VIRTCHNL_OP_CONFIG_RSS_LUT:
2786                 ret = i40e_vc_config_rss_lut(vf, msg, msglen);
2787                 break;
2788         case I40E_VIRTCHNL_OP_GET_RSS_HENA_CAPS:
2789                 ret = i40e_vc_get_rss_hena(vf, msg, msglen);
2790                 break;
2791         case I40E_VIRTCHNL_OP_SET_RSS_HENA:
2792                 ret = i40e_vc_set_rss_hena(vf, msg, msglen);
2793                 break;
2794
2795         case I40E_VIRTCHNL_OP_UNKNOWN:
2796         default:
2797                 dev_err(&pf->pdev->dev, "Unsupported opcode %d from VF %d\n",
2798                         v_opcode, local_vf_id);
2799                 ret = i40e_vc_send_resp_to_vf(vf, v_opcode,
2800                                               I40E_ERR_NOT_IMPLEMENTED);
2801                 break;
2802         }
2803
2804         return ret;
2805 }
2806
2807 /**
2808  * i40e_vc_process_vflr_event
2809  * @pf: pointer to the PF structure
2810  *
2811  * called from the vlfr irq handler to
2812  * free up VF resources and state variables
2813  **/
2814 int i40e_vc_process_vflr_event(struct i40e_pf *pf)
2815 {
2816         struct i40e_hw *hw = &pf->hw;
2817         u32 reg, reg_idx, bit_idx;
2818         struct i40e_vf *vf;
2819         int vf_id;
2820
2821         if (!test_bit(__I40E_VFLR_EVENT_PENDING, pf->state))
2822                 return 0;
2823
2824         /* Re-enable the VFLR interrupt cause here, before looking for which
2825          * VF got reset. Otherwise, if another VF gets a reset while the
2826          * first one is being processed, that interrupt will be lost, and
2827          * that VF will be stuck in reset forever.
2828          */
2829         reg = rd32(hw, I40E_PFINT_ICR0_ENA);
2830         reg |= I40E_PFINT_ICR0_ENA_VFLR_MASK;
2831         wr32(hw, I40E_PFINT_ICR0_ENA, reg);
2832         i40e_flush(hw);
2833
2834         clear_bit(__I40E_VFLR_EVENT_PENDING, pf->state);
2835         for (vf_id = 0; vf_id < pf->num_alloc_vfs; vf_id++) {
2836                 reg_idx = (hw->func_caps.vf_base_id + vf_id) / 32;
2837                 bit_idx = (hw->func_caps.vf_base_id + vf_id) % 32;
2838                 /* read GLGEN_VFLRSTAT register to find out the flr VFs */
2839                 vf = &pf->vf[vf_id];
2840                 reg = rd32(hw, I40E_GLGEN_VFLRSTAT(reg_idx));
2841                 if (reg & BIT(bit_idx))
2842                         /* i40e_reset_vf will clear the bit in GLGEN_VFLRSTAT */
2843                         i40e_reset_vf(vf, true);
2844         }
2845
2846         return 0;
2847 }
2848
2849 /**
2850  * i40e_ndo_set_vf_mac
2851  * @netdev: network interface device structure
2852  * @vf_id: VF identifier
2853  * @mac: mac address
2854  *
2855  * program VF mac address
2856  **/
2857 int i40e_ndo_set_vf_mac(struct net_device *netdev, int vf_id, u8 *mac)
2858 {
2859         struct i40e_netdev_priv *np = netdev_priv(netdev);
2860         struct i40e_vsi *vsi = np->vsi;
2861         struct i40e_pf *pf = vsi->back;
2862         struct i40e_mac_filter *f;
2863         struct i40e_vf *vf;
2864         int ret = 0;
2865         int bkt;
2866
2867         /* validate the request */
2868         if (vf_id >= pf->num_alloc_vfs) {
2869                 dev_err(&pf->pdev->dev,
2870                         "Invalid VF Identifier %d\n", vf_id);
2871                 ret = -EINVAL;
2872                 goto error_param;
2873         }
2874
2875         vf = &(pf->vf[vf_id]);
2876         vsi = pf->vsi[vf->lan_vsi_idx];
2877         if (!test_bit(I40E_VF_STATE_INIT, &vf->vf_states)) {
2878                 dev_err(&pf->pdev->dev, "VF %d still in reset. Try again.\n",
2879                         vf_id);
2880                 ret = -EAGAIN;
2881                 goto error_param;
2882         }
2883
2884         if (is_multicast_ether_addr(mac)) {
2885                 dev_err(&pf->pdev->dev,
2886                         "Invalid Ethernet address %pM for VF %d\n", mac, vf_id);
2887                 ret = -EINVAL;
2888                 goto error_param;
2889         }
2890
2891         /* Lock once because below invoked function add/del_filter requires
2892          * mac_filter_hash_lock to be held
2893          */
2894         spin_lock_bh(&vsi->mac_filter_hash_lock);
2895
2896         /* delete the temporary mac address */
2897         if (!is_zero_ether_addr(vf->default_lan_addr.addr))
2898                 i40e_del_mac_filter(vsi, vf->default_lan_addr.addr);
2899
2900         /* Delete all the filters for this VSI - we're going to kill it
2901          * anyway.
2902          */
2903         hash_for_each(vsi->mac_filter_hash, bkt, f, hlist)
2904                 __i40e_del_filter(vsi, f);
2905
2906         spin_unlock_bh(&vsi->mac_filter_hash_lock);
2907
2908         dev_info(&pf->pdev->dev, "Setting MAC %pM on VF %d\n", mac, vf_id);
2909         /* program mac filter */
2910         if (i40e_sync_vsi_filters(vsi)) {
2911                 dev_err(&pf->pdev->dev, "Unable to program ucast filters\n");
2912                 ret = -EIO;
2913                 goto error_param;
2914         }
2915         ether_addr_copy(vf->default_lan_addr.addr, mac);
2916         vf->pf_set_mac = true;
2917         /* Force the VF driver stop so it has to reload with new MAC address */
2918         i40e_vc_disable_vf(pf, vf);
2919         dev_info(&pf->pdev->dev, "Reload the VF driver to make this change effective.\n");
2920
2921 error_param:
2922         return ret;
2923 }
2924
2925 /**
2926  * i40e_ndo_set_vf_port_vlan
2927  * @netdev: network interface device structure
2928  * @vf_id: VF identifier
2929  * @vlan_id: mac address
2930  * @qos: priority setting
2931  * @vlan_proto: vlan protocol
2932  *
2933  * program VF vlan id and/or qos
2934  **/
2935 int i40e_ndo_set_vf_port_vlan(struct net_device *netdev, int vf_id,
2936                               u16 vlan_id, u8 qos, __be16 vlan_proto)
2937 {
2938         u16 vlanprio = vlan_id | (qos << I40E_VLAN_PRIORITY_SHIFT);
2939         struct i40e_netdev_priv *np = netdev_priv(netdev);
2940         struct i40e_pf *pf = np->vsi->back;
2941         struct i40e_vsi *vsi;
2942         struct i40e_vf *vf;
2943         int ret = 0;
2944
2945         /* validate the request */
2946         if (vf_id >= pf->num_alloc_vfs) {
2947                 dev_err(&pf->pdev->dev, "Invalid VF Identifier %d\n", vf_id);
2948                 ret = -EINVAL;
2949                 goto error_pvid;
2950         }
2951
2952         if ((vlan_id > I40E_MAX_VLANID) || (qos > 7)) {
2953                 dev_err(&pf->pdev->dev, "Invalid VF Parameters\n");
2954                 ret = -EINVAL;
2955                 goto error_pvid;
2956         }
2957
2958         if (vlan_proto != htons(ETH_P_8021Q)) {
2959                 dev_err(&pf->pdev->dev, "VF VLAN protocol is not supported\n");
2960                 ret = -EPROTONOSUPPORT;
2961                 goto error_pvid;
2962         }
2963
2964         vf = &(pf->vf[vf_id]);
2965         vsi = pf->vsi[vf->lan_vsi_idx];
2966         if (!test_bit(I40E_VF_STATE_INIT, &vf->vf_states)) {
2967                 dev_err(&pf->pdev->dev, "VF %d still in reset. Try again.\n",
2968                         vf_id);
2969                 ret = -EAGAIN;
2970                 goto error_pvid;
2971         }
2972
2973         if (le16_to_cpu(vsi->info.pvid) == vlanprio)
2974                 /* duplicate request, so just return success */
2975                 goto error_pvid;
2976
2977         /* Locked once because multiple functions below iterate list */
2978         spin_lock_bh(&vsi->mac_filter_hash_lock);
2979
2980         if (le16_to_cpu(vsi->info.pvid) == 0 && i40e_is_vsi_in_vlan(vsi)) {
2981                 dev_err(&pf->pdev->dev,
2982                         "VF %d has already configured VLAN filters and the administrator is requesting a port VLAN override.\nPlease unload and reload the VF driver for this change to take effect.\n",
2983                         vf_id);
2984                 /* Administrator Error - knock the VF offline until he does
2985                  * the right thing by reconfiguring his network correctly
2986                  * and then reloading the VF driver.
2987                  */
2988                 i40e_vc_disable_vf(pf, vf);
2989                 /* During reset the VF got a new VSI, so refresh the pointer. */
2990                 vsi = pf->vsi[vf->lan_vsi_idx];
2991         }
2992
2993         /* Check for condition where there was already a port VLAN ID
2994          * filter set and now it is being deleted by setting it to zero.
2995          * Additionally check for the condition where there was a port
2996          * VLAN but now there is a new and different port VLAN being set.
2997          * Before deleting all the old VLAN filters we must add new ones
2998          * with -1 (I40E_VLAN_ANY) or otherwise we're left with all our
2999          * MAC addresses deleted.
3000          */
3001         if ((!(vlan_id || qos) ||
3002             vlanprio != le16_to_cpu(vsi->info.pvid)) &&
3003             vsi->info.pvid) {
3004                 ret = i40e_add_vlan_all_mac(vsi, I40E_VLAN_ANY);
3005                 if (ret) {
3006                         dev_info(&vsi->back->pdev->dev,
3007                                  "add VF VLAN failed, ret=%d aq_err=%d\n", ret,
3008                                  vsi->back->hw.aq.asq_last_status);
3009                         spin_unlock_bh(&vsi->mac_filter_hash_lock);
3010                         goto error_pvid;
3011                 }
3012         }
3013
3014         if (vsi->info.pvid) {
3015                 /* remove all filters on the old VLAN */
3016                 i40e_rm_vlan_all_mac(vsi, (le16_to_cpu(vsi->info.pvid) &
3017                                            VLAN_VID_MASK));
3018         }
3019
3020         if (vlan_id || qos)
3021                 ret = i40e_vsi_add_pvid(vsi, vlanprio);
3022         else
3023                 i40e_vsi_remove_pvid(vsi);
3024
3025         if (vlan_id) {
3026                 dev_info(&pf->pdev->dev, "Setting VLAN %d, QOS 0x%x on VF %d\n",
3027                          vlan_id, qos, vf_id);
3028
3029                 /* add new VLAN filter for each MAC */
3030                 ret = i40e_add_vlan_all_mac(vsi, vlan_id);
3031                 if (ret) {
3032                         dev_info(&vsi->back->pdev->dev,
3033                                  "add VF VLAN failed, ret=%d aq_err=%d\n", ret,
3034                                  vsi->back->hw.aq.asq_last_status);
3035                         spin_unlock_bh(&vsi->mac_filter_hash_lock);
3036                         goto error_pvid;
3037                 }
3038
3039                 /* remove the previously added non-VLAN MAC filters */
3040                 i40e_rm_vlan_all_mac(vsi, I40E_VLAN_ANY);
3041         }
3042
3043         spin_unlock_bh(&vsi->mac_filter_hash_lock);
3044
3045         /* Schedule the worker thread to take care of applying changes */
3046         i40e_service_event_schedule(vsi->back);
3047
3048         if (ret) {
3049                 dev_err(&pf->pdev->dev, "Unable to update VF vsi context\n");
3050                 goto error_pvid;
3051         }
3052
3053         /* The Port VLAN needs to be saved across resets the same as the
3054          * default LAN MAC address.
3055          */
3056         vf->port_vlan_id = le16_to_cpu(vsi->info.pvid);
3057         ret = 0;
3058
3059 error_pvid:
3060         return ret;
3061 }
3062
3063 #define I40E_BW_CREDIT_DIVISOR 50     /* 50Mbps per BW credit */
3064 #define I40E_MAX_BW_INACTIVE_ACCUM 4  /* device can accumulate 4 credits max */
3065 /**
3066  * i40e_ndo_set_vf_bw
3067  * @netdev: network interface device structure
3068  * @vf_id: VF identifier
3069  * @tx_rate: Tx rate
3070  *
3071  * configure VF Tx rate
3072  **/
3073 int i40e_ndo_set_vf_bw(struct net_device *netdev, int vf_id, int min_tx_rate,
3074                        int max_tx_rate)
3075 {
3076         struct i40e_netdev_priv *np = netdev_priv(netdev);
3077         struct i40e_pf *pf = np->vsi->back;
3078         struct i40e_vsi *vsi;
3079         struct i40e_vf *vf;
3080         int speed = 0;
3081         int ret = 0;
3082
3083         /* validate the request */
3084         if (vf_id >= pf->num_alloc_vfs) {
3085                 dev_err(&pf->pdev->dev, "Invalid VF Identifier %d.\n", vf_id);
3086                 ret = -EINVAL;
3087                 goto error;
3088         }
3089
3090         if (min_tx_rate) {
3091                 dev_err(&pf->pdev->dev, "Invalid min tx rate (%d) (greater than 0) specified for VF %d.\n",
3092                         min_tx_rate, vf_id);
3093                 return -EINVAL;
3094         }
3095
3096         vf = &(pf->vf[vf_id]);
3097         vsi = pf->vsi[vf->lan_vsi_idx];
3098         if (!test_bit(I40E_VF_STATE_INIT, &vf->vf_states)) {
3099                 dev_err(&pf->pdev->dev, "VF %d still in reset. Try again.\n",
3100                         vf_id);
3101                 ret = -EAGAIN;
3102                 goto error;
3103         }
3104
3105         switch (pf->hw.phy.link_info.link_speed) {
3106         case I40E_LINK_SPEED_40GB:
3107                 speed = 40000;
3108                 break;
3109         case I40E_LINK_SPEED_25GB:
3110                 speed = 25000;
3111                 break;
3112         case I40E_LINK_SPEED_20GB:
3113                 speed = 20000;
3114                 break;
3115         case I40E_LINK_SPEED_10GB:
3116                 speed = 10000;
3117                 break;
3118         case I40E_LINK_SPEED_1GB:
3119                 speed = 1000;
3120                 break;
3121         default:
3122                 break;
3123         }
3124
3125         if (max_tx_rate > speed) {
3126                 dev_err(&pf->pdev->dev, "Invalid max tx rate %d specified for VF %d.\n",
3127                         max_tx_rate, vf->vf_id);
3128                 ret = -EINVAL;
3129                 goto error;
3130         }
3131
3132         if ((max_tx_rate < 50) && (max_tx_rate > 0)) {
3133                 dev_warn(&pf->pdev->dev, "Setting max Tx rate to minimum usable value of 50Mbps.\n");
3134                 max_tx_rate = 50;
3135         }
3136
3137         /* Tx rate credits are in values of 50Mbps, 0 is disabled*/
3138         ret = i40e_aq_config_vsi_bw_limit(&pf->hw, vsi->seid,
3139                                           max_tx_rate / I40E_BW_CREDIT_DIVISOR,
3140                                           I40E_MAX_BW_INACTIVE_ACCUM, NULL);
3141         if (ret) {
3142                 dev_err(&pf->pdev->dev, "Unable to set max tx rate, error code %d.\n",
3143                         ret);
3144                 ret = -EIO;
3145                 goto error;
3146         }
3147         vf->tx_rate = max_tx_rate;
3148 error:
3149         return ret;
3150 }
3151
3152 /**
3153  * i40e_ndo_get_vf_config
3154  * @netdev: network interface device structure
3155  * @vf_id: VF identifier
3156  * @ivi: VF configuration structure
3157  *
3158  * return VF configuration
3159  **/
3160 int i40e_ndo_get_vf_config(struct net_device *netdev,
3161                            int vf_id, struct ifla_vf_info *ivi)
3162 {
3163         struct i40e_netdev_priv *np = netdev_priv(netdev);
3164         struct i40e_vsi *vsi = np->vsi;
3165         struct i40e_pf *pf = vsi->back;
3166         struct i40e_vf *vf;
3167         int ret = 0;
3168
3169         /* validate the request */
3170         if (vf_id >= pf->num_alloc_vfs) {
3171                 dev_err(&pf->pdev->dev, "Invalid VF Identifier %d\n", vf_id);
3172                 ret = -EINVAL;
3173                 goto error_param;
3174         }
3175
3176         vf = &(pf->vf[vf_id]);
3177         /* first vsi is always the LAN vsi */
3178         vsi = pf->vsi[vf->lan_vsi_idx];
3179         if (!test_bit(I40E_VF_STATE_INIT, &vf->vf_states)) {
3180                 dev_err(&pf->pdev->dev, "VF %d still in reset. Try again.\n",
3181                         vf_id);
3182                 ret = -EAGAIN;
3183                 goto error_param;
3184         }
3185
3186         ivi->vf = vf_id;
3187
3188         ether_addr_copy(ivi->mac, vf->default_lan_addr.addr);
3189
3190         ivi->max_tx_rate = vf->tx_rate;
3191         ivi->min_tx_rate = 0;
3192         ivi->vlan = le16_to_cpu(vsi->info.pvid) & I40E_VLAN_MASK;
3193         ivi->qos = (le16_to_cpu(vsi->info.pvid) & I40E_PRIORITY_MASK) >>
3194                    I40E_VLAN_PRIORITY_SHIFT;
3195         if (vf->link_forced == false)
3196                 ivi->linkstate = IFLA_VF_LINK_STATE_AUTO;
3197         else if (vf->link_up == true)
3198                 ivi->linkstate = IFLA_VF_LINK_STATE_ENABLE;
3199         else
3200                 ivi->linkstate = IFLA_VF_LINK_STATE_DISABLE;
3201         ivi->spoofchk = vf->spoofchk;
3202         ivi->trusted = vf->trusted;
3203         ret = 0;
3204
3205 error_param:
3206         return ret;
3207 }
3208
3209 /**
3210  * i40e_ndo_set_vf_link_state
3211  * @netdev: network interface device structure
3212  * @vf_id: VF identifier
3213  * @link: required link state
3214  *
3215  * Set the link state of a specified VF, regardless of physical link state
3216  **/
3217 int i40e_ndo_set_vf_link_state(struct net_device *netdev, int vf_id, int link)
3218 {
3219         struct i40e_netdev_priv *np = netdev_priv(netdev);
3220         struct i40e_pf *pf = np->vsi->back;
3221         struct i40e_virtchnl_pf_event pfe;
3222         struct i40e_hw *hw = &pf->hw;
3223         struct i40e_vf *vf;
3224         int abs_vf_id;
3225         int ret = 0;
3226
3227         /* validate the request */
3228         if (vf_id >= pf->num_alloc_vfs) {
3229                 dev_err(&pf->pdev->dev, "Invalid VF Identifier %d\n", vf_id);
3230                 ret = -EINVAL;
3231                 goto error_out;
3232         }
3233
3234         vf = &pf->vf[vf_id];
3235         abs_vf_id = vf->vf_id + hw->func_caps.vf_base_id;
3236
3237         pfe.event = I40E_VIRTCHNL_EVENT_LINK_CHANGE;
3238         pfe.severity = I40E_PF_EVENT_SEVERITY_INFO;
3239
3240         switch (link) {
3241         case IFLA_VF_LINK_STATE_AUTO:
3242                 vf->link_forced = false;
3243                 pfe.event_data.link_event.link_status =
3244                         pf->hw.phy.link_info.link_info & I40E_AQ_LINK_UP;
3245                 pfe.event_data.link_event.link_speed =
3246                         pf->hw.phy.link_info.link_speed;
3247                 break;
3248         case IFLA_VF_LINK_STATE_ENABLE:
3249                 vf->link_forced = true;
3250                 vf->link_up = true;
3251                 pfe.event_data.link_event.link_status = true;
3252                 pfe.event_data.link_event.link_speed = I40E_LINK_SPEED_40GB;
3253                 break;
3254         case IFLA_VF_LINK_STATE_DISABLE:
3255                 vf->link_forced = true;
3256                 vf->link_up = false;
3257                 pfe.event_data.link_event.link_status = false;
3258                 pfe.event_data.link_event.link_speed = 0;
3259                 break;
3260         default:
3261                 ret = -EINVAL;
3262                 goto error_out;
3263         }
3264         /* Notify the VF of its new link state */
3265         i40e_aq_send_msg_to_vf(hw, abs_vf_id, I40E_VIRTCHNL_OP_EVENT,
3266                                0, (u8 *)&pfe, sizeof(pfe), NULL);
3267
3268 error_out:
3269         return ret;
3270 }
3271
3272 /**
3273  * i40e_ndo_set_vf_spoofchk
3274  * @netdev: network interface device structure
3275  * @vf_id: VF identifier
3276  * @enable: flag to enable or disable feature
3277  *
3278  * Enable or disable VF spoof checking
3279  **/
3280 int i40e_ndo_set_vf_spoofchk(struct net_device *netdev, int vf_id, bool enable)
3281 {
3282         struct i40e_netdev_priv *np = netdev_priv(netdev);
3283         struct i40e_vsi *vsi = np->vsi;
3284         struct i40e_pf *pf = vsi->back;
3285         struct i40e_vsi_context ctxt;
3286         struct i40e_hw *hw = &pf->hw;
3287         struct i40e_vf *vf;
3288         int ret = 0;
3289
3290         /* validate the request */
3291         if (vf_id >= pf->num_alloc_vfs) {
3292                 dev_err(&pf->pdev->dev, "Invalid VF Identifier %d\n", vf_id);
3293                 ret = -EINVAL;
3294                 goto out;
3295         }
3296
3297         vf = &(pf->vf[vf_id]);
3298         if (!test_bit(I40E_VF_STATE_INIT, &vf->vf_states)) {
3299                 dev_err(&pf->pdev->dev, "VF %d still in reset. Try again.\n",
3300                         vf_id);
3301                 ret = -EAGAIN;
3302                 goto out;
3303         }
3304
3305         if (enable == vf->spoofchk)
3306                 goto out;
3307
3308         vf->spoofchk = enable;
3309         memset(&ctxt, 0, sizeof(ctxt));
3310         ctxt.seid = pf->vsi[vf->lan_vsi_idx]->seid;
3311         ctxt.pf_num = pf->hw.pf_id;
3312         ctxt.info.valid_sections = cpu_to_le16(I40E_AQ_VSI_PROP_SECURITY_VALID);
3313         if (enable)
3314                 ctxt.info.sec_flags |= (I40E_AQ_VSI_SEC_FLAG_ENABLE_VLAN_CHK |
3315                                         I40E_AQ_VSI_SEC_FLAG_ENABLE_MAC_CHK);
3316         ret = i40e_aq_update_vsi_params(hw, &ctxt, NULL);
3317         if (ret) {
3318                 dev_err(&pf->pdev->dev, "Error %d updating VSI parameters\n",
3319                         ret);
3320                 ret = -EIO;
3321         }
3322 out:
3323         return ret;
3324 }
3325
3326 /**
3327  * i40e_ndo_set_vf_trust
3328  * @netdev: network interface device structure of the pf
3329  * @vf_id: VF identifier
3330  * @setting: trust setting
3331  *
3332  * Enable or disable VF trust setting
3333  **/
3334 int i40e_ndo_set_vf_trust(struct net_device *netdev, int vf_id, bool setting)
3335 {
3336         struct i40e_netdev_priv *np = netdev_priv(netdev);
3337         struct i40e_pf *pf = np->vsi->back;
3338         struct i40e_vf *vf;
3339         int ret = 0;
3340
3341         /* validate the request */
3342         if (vf_id >= pf->num_alloc_vfs) {
3343                 dev_err(&pf->pdev->dev, "Invalid VF Identifier %d\n", vf_id);
3344                 return -EINVAL;
3345         }
3346
3347         if (pf->flags & I40E_FLAG_MFP_ENABLED) {
3348                 dev_err(&pf->pdev->dev, "Trusted VF not supported in MFP mode.\n");
3349                 return -EINVAL;
3350         }
3351
3352         vf = &pf->vf[vf_id];
3353
3354         if (!vf)
3355                 return -EINVAL;
3356         if (setting == vf->trusted)
3357                 goto out;
3358
3359         vf->trusted = setting;
3360         i40e_vc_notify_vf_reset(vf);
3361         i40e_reset_vf(vf, false);
3362         dev_info(&pf->pdev->dev, "VF %u is now %strusted\n",
3363                  vf_id, setting ? "" : "un");
3364 out:
3365         return ret;
3366 }