]> git.kernelconcepts.de Git - karo-tx-linux.git/blob - include/net/dst_metadata.h
mm, THP, swap: move anonymous THP split logic to vmscan
[karo-tx-linux.git] / include / net / dst_metadata.h
1 #ifndef __NET_DST_METADATA_H
2 #define __NET_DST_METADATA_H 1
3
4 #include <linux/skbuff.h>
5 #include <net/ip_tunnels.h>
6 #include <net/dst.h>
7
8 enum metadata_type {
9         METADATA_IP_TUNNEL,
10         METADATA_HW_PORT_MUX,
11 };
12
13 struct hw_port_info {
14         struct net_device *lower_dev;
15         u32 port_id;
16 };
17
18 struct metadata_dst {
19         struct dst_entry                dst;
20         enum metadata_type              type;
21         union {
22                 struct ip_tunnel_info   tun_info;
23                 struct hw_port_info     port_info;
24         } u;
25 };
26
27 static inline struct metadata_dst *skb_metadata_dst(struct sk_buff *skb)
28 {
29         struct metadata_dst *md_dst = (struct metadata_dst *) skb_dst(skb);
30
31         if (md_dst && md_dst->dst.flags & DST_METADATA)
32                 return md_dst;
33
34         return NULL;
35 }
36
37 static inline struct ip_tunnel_info *skb_tunnel_info(struct sk_buff *skb)
38 {
39         struct metadata_dst *md_dst = skb_metadata_dst(skb);
40         struct dst_entry *dst;
41
42         if (md_dst && md_dst->type == METADATA_IP_TUNNEL)
43                 return &md_dst->u.tun_info;
44
45         dst = skb_dst(skb);
46         if (dst && dst->lwtstate)
47                 return lwt_tun_info(dst->lwtstate);
48
49         return NULL;
50 }
51
52 static inline bool skb_valid_dst(const struct sk_buff *skb)
53 {
54         struct dst_entry *dst = skb_dst(skb);
55
56         return dst && !(dst->flags & DST_METADATA);
57 }
58
59 static inline int skb_metadata_dst_cmp(const struct sk_buff *skb_a,
60                                        const struct sk_buff *skb_b)
61 {
62         const struct metadata_dst *a, *b;
63
64         if (!(skb_a->_skb_refdst | skb_b->_skb_refdst))
65                 return 0;
66
67         a = (const struct metadata_dst *) skb_dst(skb_a);
68         b = (const struct metadata_dst *) skb_dst(skb_b);
69
70         if (!a != !b || a->type != b->type)
71                 return 1;
72
73         switch (a->type) {
74         case METADATA_HW_PORT_MUX:
75                 return memcmp(&a->u.port_info, &b->u.port_info,
76                               sizeof(a->u.port_info));
77         case METADATA_IP_TUNNEL:
78                 return memcmp(&a->u.tun_info, &b->u.tun_info,
79                               sizeof(a->u.tun_info) +
80                                          a->u.tun_info.options_len);
81         default:
82                 return 1;
83         }
84 }
85
86 void metadata_dst_free(struct metadata_dst *);
87 struct metadata_dst *metadata_dst_alloc(u8 optslen, enum metadata_type type,
88                                         gfp_t flags);
89 struct metadata_dst __percpu *
90 metadata_dst_alloc_percpu(u8 optslen, enum metadata_type type, gfp_t flags);
91
92 static inline struct metadata_dst *tun_rx_dst(int md_size)
93 {
94         struct metadata_dst *tun_dst;
95
96         tun_dst = metadata_dst_alloc(md_size, METADATA_IP_TUNNEL, GFP_ATOMIC);
97         if (!tun_dst)
98                 return NULL;
99
100         tun_dst->u.tun_info.options_len = 0;
101         tun_dst->u.tun_info.mode = 0;
102         return tun_dst;
103 }
104
105 static inline struct metadata_dst *tun_dst_unclone(struct sk_buff *skb)
106 {
107         struct metadata_dst *md_dst = skb_metadata_dst(skb);
108         int md_size;
109         struct metadata_dst *new_md;
110
111         if (!md_dst || md_dst->type != METADATA_IP_TUNNEL)
112                 return ERR_PTR(-EINVAL);
113
114         md_size = md_dst->u.tun_info.options_len;
115         new_md = metadata_dst_alloc(md_size, METADATA_IP_TUNNEL, GFP_ATOMIC);
116         if (!new_md)
117                 return ERR_PTR(-ENOMEM);
118
119         memcpy(&new_md->u.tun_info, &md_dst->u.tun_info,
120                sizeof(struct ip_tunnel_info) + md_size);
121         skb_dst_drop(skb);
122         dst_hold(&new_md->dst);
123         skb_dst_set(skb, &new_md->dst);
124         return new_md;
125 }
126
127 static inline struct ip_tunnel_info *skb_tunnel_info_unclone(struct sk_buff *skb)
128 {
129         struct metadata_dst *dst;
130
131         dst = tun_dst_unclone(skb);
132         if (IS_ERR(dst))
133                 return NULL;
134
135         return &dst->u.tun_info;
136 }
137
138 static inline struct metadata_dst *__ip_tun_set_dst(__be32 saddr,
139                                                     __be32 daddr,
140                                                     __u8 tos, __u8 ttl,
141                                                     __be16 tp_dst,
142                                                     __be16 flags,
143                                                     __be64 tunnel_id,
144                                                     int md_size)
145 {
146         struct metadata_dst *tun_dst;
147
148         tun_dst = tun_rx_dst(md_size);
149         if (!tun_dst)
150                 return NULL;
151
152         ip_tunnel_key_init(&tun_dst->u.tun_info.key,
153                            saddr, daddr, tos, ttl,
154                            0, 0, tp_dst, tunnel_id, flags);
155         return tun_dst;
156 }
157
158 static inline struct metadata_dst *ip_tun_rx_dst(struct sk_buff *skb,
159                                                  __be16 flags,
160                                                  __be64 tunnel_id,
161                                                  int md_size)
162 {
163         const struct iphdr *iph = ip_hdr(skb);
164
165         return __ip_tun_set_dst(iph->saddr, iph->daddr, iph->tos, iph->ttl,
166                                 0, flags, tunnel_id, md_size);
167 }
168
169 static inline struct metadata_dst *__ipv6_tun_set_dst(const struct in6_addr *saddr,
170                                                       const struct in6_addr *daddr,
171                                                       __u8 tos, __u8 ttl,
172                                                       __be16 tp_dst,
173                                                       __be32 label,
174                                                       __be16 flags,
175                                                       __be64 tunnel_id,
176                                                       int md_size)
177 {
178         struct metadata_dst *tun_dst;
179         struct ip_tunnel_info *info;
180
181         tun_dst = tun_rx_dst(md_size);
182         if (!tun_dst)
183                 return NULL;
184
185         info = &tun_dst->u.tun_info;
186         info->mode = IP_TUNNEL_INFO_IPV6;
187         info->key.tun_flags = flags;
188         info->key.tun_id = tunnel_id;
189         info->key.tp_src = 0;
190         info->key.tp_dst = tp_dst;
191
192         info->key.u.ipv6.src = *saddr;
193         info->key.u.ipv6.dst = *daddr;
194
195         info->key.tos = tos;
196         info->key.ttl = ttl;
197         info->key.label = label;
198
199         return tun_dst;
200 }
201
202 static inline struct metadata_dst *ipv6_tun_rx_dst(struct sk_buff *skb,
203                                                    __be16 flags,
204                                                    __be64 tunnel_id,
205                                                    int md_size)
206 {
207         const struct ipv6hdr *ip6h = ipv6_hdr(skb);
208
209         return __ipv6_tun_set_dst(&ip6h->saddr, &ip6h->daddr,
210                                   ipv6_get_dsfield(ip6h), ip6h->hop_limit,
211                                   0, ip6_flowlabel(ip6h), flags, tunnel_id,
212                                   md_size);
213 }
214 #endif /* __NET_DST_METADATA_H */