Chinaunix首页 | 论坛 | 博客
  • 博客访问: 3796039
  • 博文数量: 93
  • 博客积分: 3189
  • 博客等级: 中校
  • 技术积分: 4231
  • 用 户 组: 普通用户
  • 注册时间: 2009-02-02 13:29
个人简介

出没于杭州和青岛的程序猿一枚,对内核略懂一二

文章分类

全部博文(93)

文章存档

2016年(2)

2015年(3)

2014年(11)

2013年(29)

2012年(16)

2011年(5)

2010年(5)

2009年(22)

分类:

2012-11-19 19:26:12

原文地址:Linux内核bridge浅析 作者:luoyan_xy

 

Linux网桥模型:

       Linux内核通过一个虚拟的网桥设备来实现桥接的,这个设备可以绑定若干个以太网接口设备,从而将它们桥接起来。如下图所示:

 

网桥设备br0绑定了eth0eth1。对于网络协议栈的上层来说,只看得到br0,因为桥接是在数据链路层实现的,上层不需要关心桥接的细节。于是协议栈上层需要发送的报文被送到br0,网桥设备的处理代码再来判断报文该被转发到eth0或是eth1,或者两者皆是;反过来,从eth0或从eth1接收到的报文被提交给网桥的处理代码,在这里会判断报文该转发、丢弃、或提交到协议栈上层。
   
而有时候eth0eth1也可能会作为报文的源地址或目的地址,直接参与报文的发送与接收(从而绕过网桥)。

 

相关数据结构

 

   其中最左边的net_device是一个代表网桥的虚拟设备结构,它关联了一个net_bridge结构,这是网桥设备所特有的数据结构。
  
net_bridge结构中,port_list成员下挂一个链表,链表中的每一个节点(net_bridge_port结构)关联到一个真实的网口设备的net_device。网口设备也通过其br_port指针做反向的关联(那么显然,一个网口最多只能同时被绑定到一个网桥)。
net_bridge
结构中还维护了一个hash表,是用来处理地址学习的。当网桥准备转发一个报文时,以报文的目的Mac地址为key,如果可以在hash表中索引到一个net_bridge_fdb_entry结构,通过这个结构能找到一个网口设备的net_device,于是报文就应该从这个网口转发出去;否则,报文将从所有网口转发。

 

网桥数据包的处理流程

  

   接收过程:

   对于数据包的处理流程并没有明显的主线,主要就是根据内核代码中网桥部分的源码进行分析。

   网口设备接收到的报文最终通过net_receive_skb函数被网络协议栈所接收。这个函数主要做三件事情:1、如果有抓包程序需要skb,将skb复制给它们;2、处理桥接;3、将skb提交给网络层。


点击(此处)折叠或打开

  1. int netif_receive_skb(struct sk_buff *skb)
  2. {
  3. ......
  4.  if (handle_bridge(&skb, &pt_prev, &ret, orig_dev))
  5.   goto out;
  6. ......
  7. }
  8. static inline struct sk_buff *handle_bridge(struct sk_buff *skb,
  9.                                        struct packet_type **pt_prev, int *ret,
  10.                                        struct net_device *orig_dev)
  11. {
  12.        struct net_bridge_port *port;
  13.        //对于回环设备以及skb->dev->br_port为空(即不被任何网桥所包含)的数据包直接返回
  14.        if (skb->pkt_type == PACKET_LOOPBACK ||
  15.            (port = rcu_dereference(skb->dev->br_port)) == NULL)
  16.               return skb;
  17.  
  18.        if (*pt_prev) {
  19.               *ret = deliver_skb(skb, *pt_prev, orig_dev);
  20.               *pt_prev = NULL;
  21.        }
  22.        //网桥的基本挂接点处理函数
  23.        return br_handle_frame_hook(port, skb);
  24. }
  25. br_handle_frame_hook在网桥初始化模块br_init(void)函数中被赋值.
  26. br_handle_frame_hook = br_handle_frame;
  27. 所以网桥对于数据包的处理过程是从br_handle_frame开始的。
  28. struct sk_buff *br_handle_frame(struct net_bridge_port *p, struct sk_buff *skb)
  29. {
  30.        const unsigned char *dest = eth_hdr(skb)->h_dest;
  31.        int (*rhook)(struct sk_buff *skb);
  32.  
  33.     //判断是否为有效的物理地址,非全0地址以及非广播地址
  34.        if (!is_valid_ether_addr(eth_hdr(skb)->h_source))
  35.               goto drop;
  36.  
  37.        //判断skb包是否被共享skb->users != 1,若是,则复制一份,否则直接返回
  38.        skb = skb_share_check(skb, GFP_ATOMIC);
  39.        if (!skb)
  40.               return NULL;
  41.  
  42.        //这个函数并非像想象的那样,判断是否为本地地址
  43.        //而是在判断是否为链路本地多播地址,01:80:c2:00:00:0x
  44.        if (unlikely(is_link_local(dest))) {
  45.               /* Pause frames shouldn't be passed up by driver anyway */
  46.               if (skb->protocol == htons(ETH_P_PAUSE))
  47.                      goto drop;
  48.               /* If STP is turned off, then forward */
  49.               if (p->br->stp_enabled == BR_NO_STP && dest[5] == 0)
  50.                      goto forward;
  51.  
  52.               if (NF_HOOK(PF_BRIDGE, NF_BR_LOCAL_IN, skb, skb->dev,
  53.                          NULL, br_handle_local_finish))
  54.                      return NULL; /* frame consumed by filter */
  55.               else
  56.                      return skb; /* continue processing */
  57.        }
  58.  
  59. forward:
  60.        switch (p->state) {
  61.        case BR_STATE_FORWARDING:
  62.        //如果网桥处于forwarding状态,并且该报文必须要走L3层进行转发,则直接返回
  63.        //br_should_route_hook钩子函数在ebtable里面设置为ebt_broute函数,它根据用户的规
  64.     //决定该报文是否要通过L3层来转发;一般rhook为空
  65.        rhook = rcu_dereference(br_should_route_hook);
  66.               if (rhook != NULL) {
  67.                      if (rhook(skb))
  68.                             return skb;
  69.                      dest = eth_hdr(skb)->h_dest;
  70.               }
  71.               /* fall through */
  72.        case BR_STATE_LEARNING:
  73.               //如果数据包的目的mac地址为虚拟网桥设备的mac地址,则标记为host
  74.               if (!compare_ether_addr(p->br->dev->dev_addr, dest))
  75.                      skb->pkt_type = PACKET_HOST;
  76. //调用网桥在NF_BR_PREROUTING处挂载的钩子函数,因为网桥在其钩子函数过//程中嵌套调用了INET层BR_PREROUTING的钩子函数,过程有些曲折,故最后//再分析
  77.               NF_HOOK(PF_BRIDGE, NF_BR_PRE_ROUTING, skb, skb->dev, NULL,
  78.                      br_handle_frame_finish);
  79.               break;
  80.        default:
  81. drop:
  82.               kfree_skb(skb);
  83.        }
  84.        return NULL;
  85. }
  86. FORWARDING以及LEARNING为网桥的状态,网桥端口一般有5种状态:
  87. 1) disable 被管理员禁用
  88. 2) blcok 休息,不参与数据包转发
  89. 3) listening 监听
  90. 4) learning 学习ARP信息,准备向工作状态改变
  91. 5) forwarding 正常工作,转发数据包
  92. /* note: already called with rcu_read_lock (preempt_disabled) */
  93. int br_handle_frame_finish(struct sk_buff *skb)
  94. {
  95.        const unsigned char *dest = eth_hdr(skb)->h_dest;
  96.        struct net_bridge_port *p = rcu_dereference(skb->dev->br_port);
  97.        struct net_bridge *br;
  98.        struct net_bridge_fdb_entry *dst;
  99.        struct sk_buff *skb2;
  100.  
  101.        //判断网桥状态
  102.        if (!p || p->state == BR_STATE_DISABLED)
  103.               goto drop;
  104.  
  105.        /* insert into forwarding database after filtering to avoid spoofing */
  106.        //br为虚拟网桥结构
  107.        br = p->br;
  108.        //根据数据包的源物理地址,更新网桥的转发表
  109.        br_fdb_update(br, p, eth_hdr(skb)->h_source);
  110.  
  111.        if (p->state == BR_STATE_LEARNING)
  112.               goto drop;
  113.  
  114.        /* The packet skb2 goes to the local host (NULL to skip). */
  115.        //skb2数据包用于交付本机,skb数据包则用于forward
  116.        skb2 = NULL;
  117.        //如果网口处于混杂模式,复制一份交付主机
  118.        if (br->dev->flags & IFF_PROMISC)
  119.               skb2 = skb;
  120.  
  121.        dst = NULL;
  122.  
  123.        //如果为广播数据包,增加计数,同样需要发一份给主机
  124.        if (is_multicast_ether_addr(dest)) {
  125.               br->dev->stats.multicast++;
  126.               skb2 = skb;
  127.        }
  128.        /*根据网桥口以及目标地址判断是否为本机数据包*/
  129.        else if ((dst = __br_fdb_get(br, dest)) && dst->is_local) {
  130.               skb2 = skb;
  131.               /* Do not forward the packet since it's local. */
  132.               skb = NULL;
  133.        }
  134.  
  135.        if (skb2 == skb)
  136.               skb2 = skb_clone(skb, GFP_ATOMIC);
  137.  
  138.        if (skb2)
  139.               /*完成将数据包交付给本机的工作*/
  140.               br_pass_frame_up(br, skb2);
  141.  
  142.        if (skb) {
  143.               if (dst)
  144.                      //如果存在目的地址则将其转发
  145.                      br_forward(dst->dst, skb);
  146.               else
  147.                      //否则,flood数据包,向除接收网口外的其余网口发送该数据包
  148.                      br_flood_forward(br, skb);
  149.        }
  150.  
  151. out:
  152.        return 0;
  153. drop:
  154.        kfree_skb(skb);
  155.        goto out;
  156. }
  157.  
  158. //此函数主要实现通过网桥接收发往本机的数据包
  159. static void br_pass_frame_up(struct net_bridge *br, struct sk_buff *skb)
  160. {
  161.        struct net_device *indev, *brdev = br->dev;
  162.  
  163.        //完成数据包的统计计数
  164.        brdev->stats.rx_packets++;
  165.        brdev->stats.rx_bytes += skb->len;
  166.  
  167.        //将skb的dev改变为网桥结构的brdev
  168.        //此时skb的dev选项由实际网络设备eth0等改变为虚拟网桥设备br0
  169.        indev = skb->dev;
  170.        skb->dev = brdev;
  171.  
  172.        //重新走数据包接收流程,netif_receive_skb
  173.        //但因为dev的改变,dev的br_port字段不再为空,不会重走网桥流程,直接交付
  174.        NF_HOOK(PF_BRIDGE, NF_BR_LOCAL_IN, skb, indev, NULL,
  175.               netif_receive_skb);
  176. }
  177.  
  178. 下面看一下转发数据包的流程,对于flood_forward的流程,同样通过br_forward来实现,只不过改为循环遍历hash表中的设备,对于每一个设备都调用一次br_forward流程。
  179. /* called with rcu_read_lock */
  180. void br_forward(const struct net_bridge_port *to, struct sk_buff *skb)
  181. {
  182.        /*如果skb->dev 不等于网桥的dev,同时网桥状态为forwarding,则进行转发*/
  183.        if (should_deliver(to, skb)) {
  184.               __br_forward(to, skb);
  185.               return;
  186.        }
  187.  
  188.        kfree_skb(skb);
  189. }
  190. static void __br_forward(const struct net_bridge_port *to, struct sk_buff *skb)
  191. {
  192.        struct net_device *indev;
  193.  
  194.        if (skb_warn_if_lro(skb)) {
  195.               kfree_skb(skb);
  196.               return;
  197.        }
  198.        //将skb的dev字段改为查找到的出口dev字段
  199.        indev = skb->dev;
  200.        skb->dev = to->dev;
  201.        skb_forward_csum(skb);
  202.        //遍历执行NF_BR_FORWARD钩子函数
  203.        NF_HOOK(PF_BRIDGE, NF_BR_FORWARD, skb, indev, skb->dev,
  204.                      br_forward_finish);
  205. }
  206. int br_forward_finish(struct sk_buff *skb)
  207. {
  208.        //继续跑NF_BR_POST_ROUTING处的钩子函数
  209.        return NF_HOOK(PF_BRIDGE, NF_BR_POST_ROUTING, skb, NULL, skb->dev,
  210.                      br_dev_queue_push_xmit);
  211. }
  212. int br_dev_queue_push_xmit(struct sk_buff *skb)
  213. {
  214.        /* drop mtu oversized packets except gso */
  215.        /*如果skb数据包的长度大于MTU值,则丢弃*/
  216.        if (packet_length(skb) > skb->dev->mtu && !skb_is_gso(skb))
  217.               kfree_skb(skb);
  218.        else {
  219.               /* ip_refrag calls ip_fragment, doesn't copy the MAC header. */
  220.               if (nf_bridge_maybe_copy_header(skb))
  221.                      kfree_skb(skb);
  222.               else {
  223.                      skb_push(skb, ETH_HLEN);
  224.          // 此时skb的dev已经替换成进行转发的dev了,dev_queue_xmit将使
  225. //用该网口设备的发送函数完成数据包的发送
  226.                      dev_queue_xmit(skb);
  227.               }
  228.        }
  229.  
  230.        return 0;
  231. }
  232.  
  233. 发送过程:
  234.        协议栈上层需要发送报文时,调用dev_queue_xmit(skb)函数。如果这个报文需要通过网桥设备来发送,则skb->dev指向一个网桥设备。网桥设备没有使用发送队列(dev->qdisc为空),所以dev_queue_xmit将直接调用dev->hard_start_xmit函数,而网桥设备的hard_start_xmit等于函数br_dev_xmit;
  235. /* net device transmit always called with no BH (preempt_disabled) */
  236. /*br_dev_xmit为网桥设备的数据包发送函数*/
  237. int br_dev_xmit(struct sk_buff *skb, struct net_device *dev)
  238. {
  239.        struct net_bridge *br = netdev_priv(dev);
  240.        const unsigned char *dest = skb->data;
  241.        struct net_bridge_fdb_entry *dst;
  242.  
  243.        dev->stats.tx_packets++;
  244.        dev->stats.tx_bytes += skb->len;
  245.  
  246.        skb_reset_mac_header(skb);
  247.        skb_pull(skb, ETH_HLEN);
  248.  
  249.        /*如果为广播地址,则flood该数据包
  250.        * 如果能够根据skb中的目的mac地址查找到对应的网口,则通过br_deliver发送该数据包
  251.        * 如果查找不到,同样flood该数据包
  252.        */
  253.        if (dest[0] & 1)
  254.               br_flood_deliver(br, skb);
  255.        else if ((dst = __br_fdb_get(br, dest)) != NULL)
  256.               br_deliver(dst->dst, skb);
  257.        else
  258.               br_flood_deliver(br, skb);
  259.  
  260.        return 0;
  261. }
  262. br_flood_deliver函数的实现过程,同样是遍历hash表,对于每一个网口设备都调用一次__br_deliver,所以下面就主要看一下br_deliver函数的流程
  263. void br_deliver(const struct net_bridge_port *to, struct sk_buff *skb)
  264. {
  265.        if (should_deliver(to, skb)) {
  266.               __br_deliver(to, skb);
  267.               return;
  268.        }
  269.  
  270.        kfree_skb(skb);
  271. }
  272. static void __br_deliver(const struct net_bridge_port *to, struct sk_buff *skb)
  273. {
  274.        /*将skb中的dev改成出口设备所对应的dev*/
  275.        skb->dev = to->dev;
  276.        NF_HOOK(PF_BRIDGE, NF_BR_LOCAL_OUT, skb, NULL, skb->dev,
  277.                      br_forward_finish);
  278. }
  279. /*最终仍然通过br_dev_queue_push_xmit完成数据包的发送过程*/
  280. int br_forward_finish(struct sk_buff *skb)
  281. {
  282.        return NF_HOOK(PF_BRIDGE, NF_BR_POST_ROUTING, skb, NULL, skb->dev,
  283.                      br_dev_queue_push_xmit);
  284.  
  285. }
  286. 至此,整个网桥中数据的处理流程已经完全结束了。
  287.  
  288.  
  289. Netfilter:
  290.  
  291. 对于网桥中的netfilter的钩子函数的调度过程有些曲折,对于INET层的钩子函数全部被嵌套进BRIDGE层钩子函数的运行流程中。
  292. 下面首先来看一下网桥一共挂载了哪些钩子函数
  293. static struct nf_hook_ops br_nf_ops[] __read_mostly = {
  294.        { .hook = br_nf_pre_routing,
  295.          .owner = THIS_MODULE,
  296.          .pf = PF_BRIDGE,
  297.          .hooknum = NF_BR_PRE_ROUTING,
  298.          .priority = NF_BR_PRI_BRNF, },
  299.        { .hook = br_nf_local_in,
  300.          .owner = THIS_MODULE,
  301.          .pf = PF_BRIDGE,
  302.          .hooknum = NF_BR_LOCAL_IN,
  303.          .priority = NF_BR_PRI_BRNF, },
  304.        { .hook = br_nf_forward_ip,
  305.          .owner = THIS_MODULE,
  306.          .pf = PF_BRIDGE,
  307.          .hooknum = NF_BR_FORWARD,
  308.          .priority = NF_BR_PRI_BRNF - 1, },
  309.        { .hook = br_nf_forward_arp,
  310.          .owner = THIS_MODULE,
  311.          .pf = PF_BRIDGE,
  312.          .hooknum = NF_BR_FORWARD,
  313.          .priority = NF_BR_PRI_BRNF, },
  314.        { .hook = br_nf_local_out,
  315.          .owner = THIS_MODULE,
  316.          .pf = PF_BRIDGE,
  317.          .hooknum = NF_BR_LOCAL_OUT,
  318.          .priority = NF_BR_PRI_FIRST, },
  319.        { .hook = br_nf_post_routing,
  320.          .owner = THIS_MODULE,
  321.          .pf = PF_BRIDGE,
  322.          .hooknum = NF_BR_POST_ROUTING,
  323.          .priority = NF_BR_PRI_LAST, },
  324. //以上为BRIDGE层挂载的钩子函数,一下为INET层挂载的钩子函数
  325.        { .hook = ip_sabotage_in,
  326.          .owner = THIS_MODULE,
  327.          .pf = PF_INET,
  328.          .hooknum = NF_INET_PRE_ROUTING,
  329.          .priority = NF_IP_PRI_FIRST, },
  330.        { .hook = ip_sabotage_in,
  331.          .owner = THIS_MODULE,
  332.          .pf = PF_INET6,
  333.          .hooknum = NF_INET_PRE_ROUTING,
  334.          .priority = NF_IP6_PRI_FIRST, },
  335. };
  336. 其实在这些钩子函数内部并没有涉及数据包操作的具体流程,大多是一些条件判断和验证的工作,现在就拿发往本机的数据包在作为一个例子,看一下这个数据包在netfilter中的流经过程(自认为还算有代表意义)。
  337. 对于发往本机网桥口的skb包,其skb->dev->br_port不为空,因此会进入网桥的处理流程,br_handler_frame,在此函数的退出处会首先运行NF_BR_PRE_ROUTING的钩子函数
  338. NF_HOOK(PF_BRIDGE, NF_BR_PRE_ROUTING, skb, skb->dev, NULL,
  339.                      br_handle_frame_finish);
  340. 网桥挂载在BR_PRE_ROUTING的函数为br_nf_pre_routing
  341. 在此函数内部首先完成ipv4及ipv6数据的分流,这里只考虑ipv4数据,接着进行ipv4数据正确性的验证,以及网桥标记nf_bridge->mask |= BRNF_NF_BRIDGE_PREROUTING;(下面还要用到此标记)在函数的最后通过NF_HOOK(PF_INET, NF_INET_PRE_ROUTING, skb, skb->dev, NULL,br_nf_pre_routing_finish)完成对于INET层PRE_ROUTING钩子函数的遍历。
  342. 遍历结束后进入br_nf_pre_routing_finish函数,这个函数首先对数据包打标记,nf_bridge->mask ^= BRNF_NF_BRIDGE_PREROUTING;(跟上一个标记对应)主要处理skb包需要进行dnat的情形(貌似,没有细看),在函数的最后
  343.        NF_HOOK_THRESH(PF_BRIDGE, NF_BR_PRE_ROUTING, skb, skb->dev, NULL,
  344.                      br_handle_frame_finish, 1);
  345. 在这里通过NF_HOOK_THRESH而非NF_HOOK的意思是因为,NF_HOOK_THRESH是从当前优先级的下一个函数开始遍历所有的钩子函数,在这里也就是说从br_nf_pre_routing函数的下一个优先级函数开始遍历BR_PRE_ROUTING的后续函数,虽然目前网桥只挂载了这一个函数,但是这属于Netfilter的机制问题。
  346. 接着,在跑完BR_PRE_ROUTING的剩余函数后就进入br_handle_frame_finish函数,对于本机数据包则继续调用br_pass_frame_up函数,在br_pass_frame_up函数中将skb的dev字段修改为虚拟网桥的dev,最后NF_HOOK(PF_BRIDGE, NF_BR_LOCAL_IN, skb, indev, NULL, netif_receive_skb);将数据包重新跑skb的接收流程,由于网桥设备的dev->br_port不为空,因此不会再进入网桥处理流程了。
  347. 那网桥是怎样防止同一个skb包跑两次INET_PRE_ROUTING的流程呢,主要就是通过挂在在INET_PRE_ROUTING出优先级最高的NF_IP_PRI_FIRST处的函数ip_sabotage_in以及上文特殊提到的两个打标记的代码来完成的。
  348. static unsigned int ip_sabotage_in(unsigned int hook, struct sk_buff *skb,
  349.                                const struct net_device *in,
  350.                                const struct net_device *out,
  351.                                int (*okfn)(struct sk_buff *))
  352. {
  353.        /*此钩子函数用于确保发往本机的skb包只跑一次INET_PRE_ROUTING的钩子函数
  354.        * 在第一次进入BR_PRE_ROUTING时打上标记mask,在BR_PRE_ROUTING的钩子函数中遍历INET_PRE_ROUTING的钩子函数
  355.        * 在br_pre_routing结束的时候,异或该mask值,这样就使得发往本机的skb包在第二次交付的时候可以不再跑钩子
  356.        */
  357.        if (skb->nf_bridge &&
  358.            !(skb->nf_bridge->mask & BRNF_NF_BRIDGE_PREROUTING)) {
  359.               return NF_STOP;
  360.        }
  361.  
  362.        return NF_ACCEPT;
  363. }
  364. NF_STOP的意思就是说该skb包就立即结束检查而接受,不再进入链表中后续的hook节点。
  365.  
  366. 整个网桥模块大体就是这个样子,剩下的还有网桥的生成树协议,这周打算把这个搞懂。。。
  367. 第一次写分析,自己给自己加油,继续努力~

阅读(5038) | 评论(0) | 转发(0) |
给主人留下些什么吧!~~