Lines Matching defs:cached_cons
44 u32 cached_cons;
120 static inline void __xskq_cons_read_addr_unchecked(struct xsk_queue *q, u32 cached_cons, u64 *addr)
123 u32 idx = cached_cons & q->ring_mask;
130 if (q->cached_cons != q->cached_prod) {
131 __xskq_cons_read_addr_unchecked(q, q->cached_cons, addr);
191 return q->cached_cons != q->cached_prod;
209 if (q->cached_cons != q->cached_prod) {
211 u32 idx = q->cached_cons & q->ring_mask;
223 q->cached_cons += cnt;
237 u32 cached_cons = q->cached_cons, nb_entries = 0;
244 while (cached_cons != q->cached_prod && nb_entries < max) {
246 u32 idx = cached_cons & q->ring_mask;
250 cached_cons++;
268 cached_cons -= nr_frags;
270 xskq_cons_release_n(q, cached_cons - q->cached_cons);
278 smp_store_release(&q->ring->consumer, q->cached_cons); /* D, matchees A */
295 u32 entries = q->cached_prod - q->cached_cons;
301 entries = q->cached_prod - q->cached_cons;
313 if (q->cached_prod == q->cached_cons)
322 if (q->cached_prod == q->cached_cons)
333 q->cached_cons++;
338 q->cached_cons -= cnt;
351 u32 free_entries = q->nentries - (q->cached_prod - q->cached_cons);
357 q->cached_cons = READ_ONCE(q->ring->consumer);
358 free_entries = q->nentries - (q->cached_prod - q->cached_cons);