neutron中经常发现vm ping不通网关,我发现很多情况是因为ovs-plugin没有将qvb连接到qbr桥上,所以解决办法也很简单,就是将其连上,即将qbr设为master。
具体的neutron、ovs、veth和iptables等就不展开讲了,具体可以看下图
当一个vm启动或被硬重启之后,tap接口(当使用gre模式时为tap)和qbr桥会被自动创建,而且tap的master为qbr。理论上qvb的master也应该是qbr,但我经常发现这个link的master没有被设置。那么设置脚本就很简单了:
Bash | copy code | ?
01
#!/bin/bash
02
03
LINKS=`ip link|grep qvb |awk '{print $2}' |sed s'/.$//'|sed s'/^...//'`
04
05
for LINK in $LINKS
06
do
07
# a qbr link should appear after hard reboot an instance
08
ip link set "qbr$LINK" up
09
echo ip link set "qvb$LINK" master "qbr$LINK"
10
ip link set "qvb$LINK" master "qbr$LINK"
11
echo ip link set "tap$LINK" master "qbr$LINK"
12
ip link set "tap$LINK" master "qbr$LINK"
13
done
14
此外在SDN环境中还有几种vm连不上可能,比如
br-tun每次在ovs-agent重启后controller就会消失,此时应该在重启脚本中添加: ovs-vsctl set-controller br-tun tcp:30.0.0.1
确定br-int和br-tun没有多余的流,用ovs-ofctl dump-flows br-int/br-tun可看
确定网络控制器正常运行,有时候监控of控制流发现只有packet_in没有packet_out,此时重启一下网络控制器可能会解决问题
如果还是有问题,不妨对照上面的连接图,然后分别用tcpdump监听compute node的tap、qbr、qvb、qvo、br-int、br-tun、br-tun所对应的eth(如果用gre模式监听要加参数proto gre才能解gre包),再到network node的eth、br-tun、br-int、再到namespace的网关接口qr-xxx。
如果发现br-int有数据包,但br-tun没有数据包,不妨监听一下openflow的控制流:ovs-ofctl snoop br-int/br-tun,看看控制器的响应如何,我就遇到上面第三种情况,重启controller搞定。
以上的排错希望对大家有所帮助,也希望openstack和network controller的排错以后做的更容易…
———————-分割线—————————
添加桥的语句可参见nova的virt/libvirt/vif.py
def plug_ovs_hybrid(self, instance, vif):
"""Plug using hybrid strategy
Create a per-VIF linux bridge, then link that bridge to the OVS
integration bridge via a veth device, setting up the other end
of the veth device just like a normal OVS port. Then boot the
VIF on the linux bridge using standard libvirt mechanisms.
"""
super(LibvirtGenericVIFDriver,
self).plug(instance, vif)
iface_id = self.get_ovs_interfaceid(vif)
br_name = self.get_br_name(vif['id'])
v1_name, v2_name = self.get_veth_pair_names(vif['id'])
if not linux_net.device_exists(br_name):
utils.execute('brctl', 'addbr', br_name, run_as_root=True)
utils.execute('brctl', 'setfd', br_name, 0, run_as_root=True)
utils.execute('brctl', 'stp', br_name, 'off', run_as_root=True)
if not linux_net.device_exists(v2_name):
linux_net._create_veth_pair(v1_name, v2_name)
utils.execute('ip', 'link', 'set', br_name, 'up', run_as_root=True)
utils.execute('brctl', 'addif', br_name, v1_name, run_as_root=True)
linux_net.create_ovs_vif_port(self.get_bridge_name(vif),
v2_name, iface_id, vif['address'],
instance['uuid'])
阅读(2933) | 评论(0) | 转发(0) |