1、容器跨主机多子网方案

  网络设计如下:

    主机1:10.110.52.38

      容器1: 192.168.0.1  vlan1

      容器2: 192.168.0.2  vlan2

    主机2:10.110.52.66

      容器3: 192.168.0.3  vlan1

      容器4: 192.168.0.4  vlan2

  本示例采用OVS(Open vSwitch)网桥替代Docker默认的Linux网桥,搭建两个跨主机的vlan。实现跨主机的属于同个vlan互通,不同vlan隔离。

2、搭建步骤

  Host1的网桥配置:

    #创建一个网桥:ovs-vsctl add-br ovs-br0

    #创建一个到10.110.52.66的vxlan tunnel:ovs-vsctl add-port ovs-br0 vxlan-10.110.52.66 -- set interface vxlan-10.110.52.66 type=vxlan option:remote_ip="10.110.52.66"

    #运行docker:docker run -tid --net=none --name=container1 ubuntu:latest /bin/bash

    #获取container1的pid:pid=$(docker inspect -f '{{.State.pid}}' container1)

    #创建可以使用ip netns命令操纵network namespace的项

    #mkdir -p /var/run/netns

    #ln -s /proc/$pid/ns/net /var/run/netns/$pid

    #为container1创建一对虚拟网卡接口

    #ip link add name vethC1Host mtu 1500 type veth peer namevethC1Container mtu 1500

    #将veth pair的一端加入到ovs网桥中,并设置为vlan1,vlan通过tag值划分

    #ovs-vsctl add-port ovs-br0 vethC1Host tag=1

    #启用:ip link set vethC1Host up

    #将veth pair的另一端放入容器所在network namespace

    #ip link set vethC1Container netns $pid

    #进入$pid所在的netns中,配置刚才放入其中的虚拟网卡,改名为eth0,配置IP并启用

    #ip netns exec $pid ip link set dev vethC1Container name eth0

    #ip netns exec $pid ip addr add 192.168.0.1/24 dev eth0

    #ip netns exec $pid ip link set eth0 up

 

    #container2的网络配置与container1类似

    #运行docker:docker run -tid --net=none --name=container2 ubuntu:latest /bin/bash

    #获取container1的pid:pid=$(docker inspect -f '{{.State.pid}}' container2)

    #mkdir -p /var/run/netns

    #ln -s /proc/$pid/ns/net /var/run/netns/$pid

    #ip link add name vethC2Host mtu 1500 type veth peer namevethC2Container mtu 1500

    #ovs-vsctl add-port ovs-br0 vethC1Host tag=2

    #启用:ip link set vethC2Host up

    #ip link set vethC2Container netns $pid

    #ip netns exec $pid ip link set dev vethC2Container name eth0

    #ip netns exec $pid ip addr add 192.168.0.2/24 dev eth0

    #ip netns exec $pid ip link set eth0 up

  Host2网桥配置:  

    #创建一个网桥:ovs-vsctl add-br ovs-br0

    #创建一个到10.110.52.38的vxlan tunnel:ovs-vsctl add-port ovs-br0 vxlan-10.110.52.38 -- set interface vxlan-10.110.52.38 type=vxlan option:remote_ip="10.110.52.38"

    #运行docker:docker run -tid --net=none --name=container3 ubuntu:latest /bin/bash

    #获取container3的pid:pid=$(docker inspect -f '{{.State.pid}}' container3)

    #mkdir -p /var/run/netns

    #ln -s /proc/$pid/ns/net /var/run/netns/$pid

    #ip link add name vethC3Host mtu 1500 type veth peer namevethC3Container mtu 1500

    #将veth pair的一端加入到ovs网桥中,并设置为vlan3,vlan通过tag值划分

    #ovs-vsctl add-port ovs-br0 vethC3Host tag=1

    #启用:ip link set vethC3Host up

    #将veth pair的另一端放入容器所在network namespace

    #ip link set vethC1Container netns $pid

    #进入$pid所在的netns中,配置刚才放入其中的虚拟网卡,改名为eth0,配置IP并启用

    #ip netns exec $pid ip link set dev vethC3Container name eth0

    #ip netns exec $pid ip addr add 192.168.0.3/24 dev eth0

    #ip netns exec $pid ip link set eth0 up

 

    #container4的网络配置与container3类似

    #运行docker:docker run -tid --net=none --name=container4 ubuntu:latest /bin/bash

    #获取container4的pid:pid=$(docker inspect -f '{{.State.pid}}' container4)

    #mkdir -p /var/run/netns

    #ln -s /proc/$pid/ns/net /var/run/netns/$pid

    #ip link add name vethC4Host mtu 1500 type veth peer namevethC4Container mtu 1500

    #ovs-vsctl add-port ovs-br0 vethC4Host tag=2

    #启用:ip link set vethC4Host up

    #ip link set vethC4Container netns $pid

    #ip netns exec $pid ip link set dev vethC4Container name eth0

    #ip netns exec $pid ip addr add 192.168.0.4/24 dev eth0

    #ip netns exec $pid ip link set eth0 up

  配置完成以后可以使用ovs-vsctl show命令查看Host1和Host2网桥及网卡信息。

  此时相同vlan下的容器可跨网段访问。

  

posted on 2017-09-19 21:48  杜先生的博客  阅读(396)  评论(0编辑  收藏  举报