容器原理

  下文的原文来自: http://blog.csdn.net/preterhuman_peak/article/details/40857117

  

采用Namespace的方式
1.全局资源通过命名空间来抽象,将各种全局资源放入容器中,实现隔离,但在容器外将不能为这些全局资源提供唯一性的ID.
2.本质上,命名空间建立了系统的不同视图. 【注:命名空间就是一个容器.】
3.此前的每一项全局资源都必须包装到容器数据结构中,只有资源和包含资源的命名空间构成的二元组仍然是全局唯一的。
4.隔离可让容器间毫无关系,也允许容器间进行适度共享。
5. Chroot就是一种简单的容器隔离机制。


命名空间的实现需要两个部分:每个子系统的命名空间结构,将此前所有的全局组件包装到命名空间中;将给定进程关联到所属各个命名空间的机制。图 2说明了具体情形。

<nsproxy.h>
struct nsproxy {
  atomic_t count;
  struct uts_namespace *uts_ns;
  struct ipc_namespace *ipc_ns;
  struct mnt_namespace *mnt_ns;
  struct pid_namespace *pid_ns;
  struct user_namespace *user_ns;
  struct net *net_ns;
};


PID Namespace  

  

    当调用clone时,设定了CLONE_NEWPID,就会创建一个新的PID Namespace,clone出来的新进程将成为Namespace里的第一个进程。一个PID Namespace为进程提供了一个独立的PID环境,PID Namespace内的PID将从1开始,在Namespace内调用fork,vfork或clone都将产生一个在该Namespace内独立的PID。新创建的Namespace里的第一个进程在该Namespace内的PID将为1,就像一个独立的系统里的init进程一样。该Namespace内的孤儿进程都将以该进程为父进程,当该进程被结束时,该Namespace内所有的进程都会被结束。PID Namespace是层次性,新创建的Namespace将会是创建该Namespace的进程属于的Namespace的子Namespace。子Namespace中的进程对于父Namespace是可见的,一个进程将拥有不止一个PID,而是在所在的Namespace以及所有直系祖先Namespace中都将有一个PID。系统启动时,内核将创建一个默认的PID Namespace,该Namespace是所有以后创建的Namespace的祖先,因此系统所有的进程在该Namespace都是可见的。

IPC Namespace

  当调用clone时,设定了CLONE_NEWIPC,就会创建一个新的IPC Namespace,clone出来的进程将成为Namespace里的第一个进程。一个IPC Namespace有一组System V IPC objects 标识符构成,这标识符有IPC相关的系统调用创建。在一个IPC Namespace里面创建的IPC object对该Namespace内的所有进程可见,但是对其他Namespace不可见,这样就使得不同Namespace之间的进程不能直接通信,就像是在不同的系统里一样。当一个IPC Namespace被销毁,该Namespace内的所有IPC object会被内核自动销毁。

  PID Namespace和IPC Namespace可以组合起来一起使用,只需在调用clone时,同时指定CLONE_NEWPID和CLONE_NEWIPC,这样新创建的Namespace既是一个独立的PID空间又是一个独立的IPC空间。不同Namespace的进程彼此不可见,也不能互相通信,这样就实现了进程间的隔离。
注:
  <1>Uinx IPC
  IPC(Inter-Process Communication)是共享"命名管道"的资源,它是为了让进程间通信而开放的命名管道,通过提供可信任的用户名和口令,连接双方可以建立安全的通道并以此通道进行加密数据的交换,从而实现对远程计算机的访问。
  Uinx IPC包含三种: 信号,命名管道和匿名管道.

  

   <2> System V
  System V和POSIX类似,但POSIX是专注于Linux系统设计的标准化.而System V和BSD则是UNIX设计标准化的一种范本.
  System V它是AT&T公司开发的UNIX系统,是UNIX众多版本中的一种,AT&T共发行了4个版本,System V4是最成功的,它采用SysV初始化脚本(/etc/init.d)来控制启停系统,System V Interface Definition(SVID)是SystemV如何工作的标准定义.

System V IPC指的是AT&T在System V.2发行版中引入的三种进程间通信工具:
  (1)信号量,用来管理对共享资源的访问
  (2)共享内存,用来高效地实现进程间的数据共享
  (3)消息队列,用来实现进程间数据的传递。
  我们把这三种工具统称为System V IPC的对象,每个对象都具有一个唯一的IPC标识符(identifier)。要保证不同的进程能够获取同一个IPC对象,必须提供一个IPC关键字(IPC key),内核负责把IPC关键字转换成IPC标识符。

mount Namespace

  当调用clone时,设定了CLONE_NEWNS,就会创建一个新的mount Namespace。每个进程都存在于一个mount Namespace里面,mount Namespace为进程提供了一个文件层次视图。如果不设定这个flag,子进程和父进程将共享一个mount Namespace,其后子进程调用mount或umount将会影响到所有该Namespace内的进程。如果子进程在一个独立的mount Namespace里面,就可以调用mount或umount建立一份新的文件层次视图。该flag配合pivot_root系统调用,可以为进程创建一个独立的目录空间。

Network Namespace

  当调用clone时,设定了CLONE_NEWNET,就会创建一个新的Network Namespace。一个Network Namespace为进程提供了一个完全独立的网络协议栈的视图。包括网络设备接口,IPv4和IPv6协议栈,IP路由表,防火墙规则,sockets等等。一个Network Namespace提供了一份独立的网络环境,就跟一个独立的系统一样。一个物理设备只能存在于一个Network Namespace中,可以从一个Namespace移动另一个Namespace中。虚拟网络设备(virtual network device)提供了一种类似管道的抽象,可以在不同的Namespace之间建立隧道。利用虚拟化网络设备,可以建立到其他Namespace中的物理设备的桥接。当一个Network Namespace被销毁时,物理设备会被自动移回init Network Namespace,即系统最开始的Namespace。

UTS Namespace

  当调用clone时,设定了CLONE_NEWUTS,就会创建一个新的UTS Namespace。一个UTS Namespace就是一组被uname返回的标识符。新的UTS Namespace中的标识符通过复制调用进程所属的Namespace的标识符来初始化。Clone出来的进程可以通过相关系统调用改变这些标识符,比如调用sethostname来改变该Namespace的hostname。这一改变对该Namespace内的所有进程可见。CLONE_NEWUTS和CLONE_NEWNET一起使用,可以虚拟出一个有独立主机名和网络空间的环境,就跟网络上一台独立的主机一样。

  以上所有clone flag都可以一起使用,为进程提供了一个独立的运行环境。LXC正是通过clone时设定这些flag,为进程创建一个有独立PID,IPC,FS,Network,UTS空间的container。一个container就是一个虚拟的运行环境,对container里的进程是透明的,它会以为自己是直接在一个系统上运行的。一个container就像传统虚拟化技术里面的一台安装了OS的虚拟机,但是开销更小,部署更为便捷。

  Linux Namespaces机制本身就是为了实现 container based virtualizaiton开发的。它提供了一套轻量级、高效率的系统资源隔离方案,远比传统的虚拟化技术开销小,不过它也不是完美的,它为内核的开发带来了更多的复杂性,它在隔离性和容错性上跟传统的虚拟化技术比也还有差距。


下面对Network Namespace在进行实践介绍:
测试拓扑:

  

  创建基本环境:
  (1) 创建虚拟设备:
    ip netns server    #创建虚拟server设备,其实就是创建一个子network namespace.
    ip netns router
    ip netns client

    # ip netns list    #查看创建的Network namespace(虚拟设备)
      router
      server
      client

  (2) 创建虚拟接口并用虚拟网线将其连接:
   # 注:这些虚拟接口默认被添加到默认network namespace中.
   # 默认network namespace就是当前OS的network namespace,
   # 它是所有其他network namespace的父命名空间(容器)。
    ip link add vethS type veth peer name veth-srv
    ip link add vethC type veth peer name veth-cli

    ip link show |grep veth    #查看创建的虚拟接口

  (3) 将虚拟接口绑定到各虚拟设备上:
      ip  link  set   vethS  netns   server  #将vethS绑定到Server上.
      ip  link  set   veth-srv   netns  router #将veth-srv绑定到Router上.
   ip  link  set   vethC  netns   client
      ip  link  set   veth-cli   netns  router

  # 注:
    ip netns exec <NetNamesapce_Name> <Command>    #在指定Network Namespace中执行命令.
    ip netns exec server ip link # 查看Server上绑定的接口状态.
      11: lo: <LOOPBACK> mtu 16436 qdisc noop state DOWN
        link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
      16: vethS: <BROADCAST,MULTICAST> mtu 1500 qdisc noop state DOWN qlen 1000
        link/ether 3a:0f:10:f6:09:eb brd ff:ff:ff:ff:ff:ff

    ip netns exec router ip link    # 查看Router上绑定的接口状态。
      14: lo: <LOOPBACK> mtu 16436 qdisc noop state DOWN
        link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
      15: veth-srv: <BROADCAST,MULTICAST> mtu 1500 qdisc noop state DOWN qlen 1000
        link/ether 2a:81:99:26:1c:15 brd ff:ff:ff:ff:ff:ff
      17: veth-cli: <BROADCAST,MULTICAST> mtu 1500 qdisc noop state DOWN qlen 1000
        link/ether b6:2a:b8:16:d8:b8 brd ff:ff:ff:ff:ff:ff
      # 这里vethS显示对端状态为DOWN.

  (4) 为虚拟接口配置IP并启动接口
    # 为虚拟Server的虚拟接口配置IP并启动
    ip netns exec server ip addr add 10.0.1.2/24 dev vethS
    ip netns exec server ip addr add 1.1.1.1/24 dev lo    #给loopback接口配置IP
    ip netns exec server ip link set dev vethS up      #开启虚拟Server的vethS接口
    ip netns exec server ip link set dev lo up

    ip netns exec server ip a
     11: lo: <LOOPBACK,UP,LOWER_UP> mtu 16436 qdisc noqueue state UNKNOWN
      link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
      inet 127.0.0.1/8 scope host lo
      inet 1.1.1.1/24 scope global lo
      inet6 ::1/128 scope host
      valid_lft forever preferred_lft forever
    # 注: vethS这里需要注意:<...UP:此表示vethS当前已为活动状态>;
    # state DOWN:表示对端当前为不活动,这是因为router还没配IP也没启动.
     16: vethS: <NO-CARRIER,BROADCAST,MULTICAST,UP> mtu 1500 qdisc pfifo_fast state DOWN qlen 1000
      link/ether 3a:0f:10:f6:09:eb brd ff:ff:ff:ff:ff:ff
      inet 10.0.1.2/24 scope global vethS

    # 为虚拟Router的虚拟接口配置IP并启动.
    ip netns exec router ip addr add 10.0.1.1/24 dev veth-srv
    ip netns exec router ip addr add 10.0.2.1/24 dev veth-cli
    ip netns exec router ip link set dev veth-srv up
    ip netns exec router ip link set dev veth-cli up
    ip netns exec router sysctl -w net.ipv4.ip_forward=1    #开启Router的转发功能.以便模拟路由器.

    # 为虚拟Client的虚拟接口配置IP并启动:
    ip netns exec client ip addr add 10.0.2.2/24 dev vethC
    ip netns exec client ip addr add 2.2.2.2/24 dev lo
    ip netns exec client ip link set dev vethC up
    ip netns exec client ip link set dev lo up

  (5) 连通性测试
    ip netns exec server ping -c 2 1.1.1.1 # Server 测试 ping环回口.
      PING 1.1.1.1 (1.1.1.1) 56(84) bytes of data.
      64 bytes from 1.1.1.1: icmp_seq=1 ttl=64 time=0.197 ms

    ip netns exec server ping -c 2 10.0.1.1 # Server测试ping Router的直连接口
      PING 10.0.1.1 (10.0.1.1) 56(84) bytes of data.
      64 bytes from 10.0.1.1: icmp_seq=1 ttl=64 time=0.868 ms

    ip netns exec client ping 10.0.2.1 # Client测试ping Router的直连接口
      PING 10.0.2.1 (10.0.2.1) 56(84) bytes of data.
      64 bytes from 10.0.2.1: icmp_seq=1 ttl=64 time=1.14 ms

    ip netns exec client ping 10.0.1.1 #Client测试ping Server端,不通
      connect: Network is unreachable

  (6) 在虚拟Server和Client上添加默认路由:
   # 上面测试可知Server和Client是无法到达彼此的,它们只能访问到直连的Router.
    ip netns exec client route add default gw 10.0.2.1    #给Client添加默认路由,指向Router.

    ip netns exec client ping 10.0.1.2    # 再次测试ping Server_IP,还是不通,这是因为Server不知道如何到达Client.
      PING 10.0.1.2 (10.0.1.2) 56(84) bytes of data.
      ^C

    ip netns exec server route add default gw 10.0.1.1    #给Server添加默认路由.

    ip netns exec server ping 10.0.2.2     # 再次测试ping Client_IP 已经可以ping通.
      PING 10.0.2.2 (10.0.2.2) 56(84) bytes of data.
      64 bytes from 10.0.2.2: icmp_seq=1 ttl=63 time=3.11 ms

    ip netns exec server ping 2.2.2.2      # 但ping Client的loopback接口还是不通.
      PING 2.2.2.2 (2.2.2.2) 56(84) bytes of data.
      From 10.0.1.1 icmp_seq=1 Destination Net Unreachable

  (7) 为虚拟Router添加静态路由
   #注: 指定到达1.1.1.0/24的网络从接口10.0.1.1发出。
    ip netns exec router ip route add 1.1.1.0/24 via 10.0.1.1
    ip netns exec router ip route add 2.2.2.0/24 via 10.0.2.1

    ip netns exec router ip -s -s route list      #显示虚拟Router上详细的路由表条目.
      10.0.1.0/24 dev veth-srv proto kernel scope link src 10.0.1.1
      2.2.2.0/24 via 10.0.2.1 dev veth-cli
      10.0.2.0/24 dev veth-cli proto kernel scope link src 10.0.2.1
      1.1.1.0/24 via 10.0.1.1 dev veth-srv
    ip netns exec router route -n      #或直接使用route命令来查看路由表
      Kernel IP routing table
      Destination Gateway Genmask Flags Metric Ref Use Iface
      10.0.1.0 0.0.0.0 255.255.255.0 U 0 0 0 veth-srv
      2.2.2.0 10.0.2.1 255.255.255.0 UG 0 0 0 veth-cli
      10.0.2.0 0.0.0.0 255.255.255.0 U 0 0 0 veth-cli
      1.1.1.0 10.0.1.1 255.255.255.0 UG 0 0 0 veth-srv

  #再次从Server上测试
  ip netns exec server ping 2.2.2.2
    PING 2.2.2.2 (2.2.2.2) 56(84) bytes of data.
    64 bytes from 2.2.2.2: icmp_seq=1 ttl=63 time=5.06 ms

  ip netns exec client ping 1.1.1.1
    PING 1.1.1.1 (1.1.1.1) 56(84) bytes of data.
    64 bytes from 1.1.1.1: icmp_seq=1 ttl=63 time=1.87 ms

  (8) 进一步测试SNAT.
   # 注:上面是假设知道怎么去未知网络,因此采用了静态路由。
   # 下面假设不知道怎么去未知网络,因此下面采用NAT的方式让Server访问到Client的2.2.2.0/24的网络。
  《1》先删除Router添加的静态路由
    ip netns exec router ip route del 1.1.1.0/24
    ip netns exec router ip route del 2.2.2.0/24

  《2》在Router上添加一条全局默认路由:
   # 注:这里测试让Server可以ping 通Client的loopback接口.
   # 另注: 默认路由一次只能加一个来测试.
    ip netns exec router ip route add default scope global via 10.0.2.2

    《3》在Router上添加一条iptables的SNAT规则:
    ip netns exec router iptables -t nat -A POSTROUTING -s 10.0.1.0/24 -o veth-cli -j SNAT --to-source 10.0.2.1

    《4》从Server上测试ping Client_Loopback_IP
    ip netns exec server ping 2.2.2.2 -c 2
      PING 2.2.2.2 (2.2.2.2) 56(84) bytes of data.
      64 bytes from 2.2.2.2: icmp_seq=1 ttl=63 time=0.068 ms

    ip netns exec server ip route      #Server上的路由表
      10.0.1.0/24 dev vethS proto kernel scope link src 10.0.1.2
      default via 10.0.1.1 dev vethS

    ip netns exec client ip route      #Client上的路由表
      10.0.2.0/24 dev vethC proto kernel scope link src 10.0.2.2
      default via 10.0.2.1 dev vethC

    ip netns exec router ip route      #Router上的路由表
      10.0.1.0/24 dev veth-srv proto kernel scope link src 10.0.1.1
      10.0.2.0/24 dev veth-cli proto kernel scope link src 10.0.2.1
      default via 10.0.2.2 dev veth-cli    #这是在Router上添加的默认路由,出口是veth-cli.

    ip netns exec router iptables -nL -v -t nat #Router上的SNAT规则查看.
      Chain PREROUTING (policy ACCEPT 4 packets, 336 bytes)
      pkts bytes target prot opt in out source destination

      Chain POSTROUTING (policy ACCEPT 0 packets, 0 bytes)
      pkts bytes target prot opt in out source destination
      # 此为添加的SNAT规则
      1 84 SNAT all -- * veth-cli 10.0.1.0/24 0.0.0.0/0 to:10.0.2.1

      Chain OUTPUT (policy ACCEPT 0 packets, 0 bytes)
      pkts bytes target prot opt in out source destination
  ~]# ip netns exec router iptables -nL -vv -t nat
    Chain PREROUTING (policy ACCEPT 4 packets, 336 bytes)
    pkts bytes target prot opt in out source destination

    Chain POSTROUTING (policy ACCEPT 0 packets, 0 bytes)
    pkts bytes target prot opt in out source destination
    1 84 SNAT all -- * veth-cli 10.0.1.0/24 0.0.0.0/0 to:10.0.2.1

    Chain OUTPUT (policy ACCEPT 0 packets, 0 bytes)
    pkts bytes target prot opt in out source destination
    libiptc vlibxtables.so.4. 800 bytes.
    Table `nat'
    Hooks: pre/in/fwd/out/post = 0/ffffffff/ffffffff/1d8/98
    Underflows: pre/in/fwd/out/post = 0/ffffffff/ffffffff/1d8/140
    Entry 0 (0):
    SRC IP: 0.0.0.0/0.0.0.0
    DST IP: 0.0.0.0/0.0.0.0
    Interface: `'/................to `'/................
    Protocol: 0
    Flags: 00
    Invflags: 00
    Counters: 4 packets, 336 bytes
    Cache: 00000000
    Target name: `' [40]
    verdict=NF_ACCEPT

    Entry 1 (152):
    SRC IP: 10.0.1.0/255.255.255.0
    DST IP: 0.0.0.0/0.0.0.0
    Interface: `'/................to `veth-cli'/XXXXXXXXX.......
    Protocol: 0
    Flags: 00
    Invflags: 00
    Counters: 1 packets, 86 bytes
    Cache: 00000000
    Target name: `SNAT' [56]

    ....... 下面内容省略。

  (9) 清理测试环境
    ip netns del server
    ip netns del router
    ip netns del client

posted @ 2019-08-01 17:22  张朝锋  阅读(1491)  评论(0编辑  收藏  举报