Docker 的插件式设计
http://www.tuicool.com/articles/MnIRZvJ
http://uzhima.com/2016/08/02/what-is-docker-volume-plugin/
在之前的『闲话云计算』一文中曾提到过:构成云计算的『干细胞』是 计算、存储和网络 。Docker 作为云计算领域的新生力量,自然少不了对这三要素的关注,我们来具体看看他是怎么设计的。
众所周知,Docker 提供了容器的运行环境,通过LXC对CPU计算资源进行隔离,运行在每一台OS之上, 计算资源 是他最容易控制和管理的,但对 网络 和 存储 的支持在之前一直不是特别理想,直到1.7之后的版本推出了 插件(Plugin) 的概念才有所改善。有了插件系统提供的能力,开发者可以根据Docker的运行周边环境,定制属于自己的网络和存储方案,对Engine进行扩展,满足自己容器化的需求。比如,阿里云上的 Docker 容器就可以使用 VPC网络插件 ,给容器分配虚拟IP,实现容器在VPC内的网络互联;还可以使用 OSS 存储插件 ,实现容器对 OSS Bucket 的访问,扩展容器的存储能力。
这就是Docker,对『计算』的完全掌控,对『存储』和『网络』的基本支持,同时通过插件扩展存储和网络的边界,与现有云计算的成果无缝融合。 除了有存储Volume、网络Network,Docker还提供了认证Authorization、IP地址管理IPAM等插件类型。
存储插件(Volume Plugin)
下面主要介绍下 Docker存储插件 的设计和实现。
图片来源: slideshare
Docker Plugin 是以Web Service的服务运行在每一台Docker Host上的,通过HTTP协议传输RPC风格的JSON数据完成通信。
Plugin的启动和停止,并不归Docker管理,Docker Daemon依靠在缺省路径下查找Unix Socket文件,自动发现可用的插件。
当客户端与Daemon交互,使用插件创建数据卷时,Daemon会在后端找到插件对应的 socket
文件,建立连接并发起相应的API请求,最终结合Daemon自身的处理完成客户端的请求。
VolumePlugin所定义的 API接口 有8个:
- /VolumeDriver.Create
- /VolumeDriver.Remove
- /VolumeDriver.Mount
- /VolumeDriver.Path
- /VolumeDriver.Unmount
- /VolumeDriver.Get
- /VolumeDriver.List
- /VolumeDriver.Capabilities
在Docker官方文档中列出的Volume Plugins有近 20个 。
OSS存储插件(OSSFS Volume Plugin)
OSS 是阿里云的对象存储服务,解决文件类存储的需求。有一个基于 OSS 的文件系统的实现,叫 ossfs 。可以把某个 OSS Bucket 挂载到OS中的一个分区上,这样就好像访问本地文件一样,访问 OSS 文件。
文件系统 1K-块 已用 可用 已用% 挂载点
ossfs 256T 0 256T 0% /mnt/i/ossfs/mytestbucket
在这个基础上,编写了一个Docker数据卷的插件,使用该插件,可以创建 ossfs 数据卷,并Bind到容器中使用。
认识插件接口(Volume Plugin API)
为了对插件有一个直观的认识,我们从实践出发,拿OSSFS插件举例,追踪接口调用,来帮助我们理解整个过程,加深理解。
OSSFS插件并不是这次的重点,因此它的启动过程以及内部实现细节并不在这次讨论范围,会逐一略过。我用的是阿里云容器服务自带的OSSFS插件,插件启动后会生成一个unix socket文件 /run/docker/plugins/ossfs.sock
。
为了便于监控插件API的日志,我们通过socat搭建一个代理,伪造一个新的socket文件 ossfs2.sock
,对这个代理的请求会被输出到终端上。
sudo socat -t100 -v UNIX-LISTEN:/run/docker/plugins/ossfs2.sock,mode=777,reuseaddr,fork UNIX-CONNECT:/run/docker/plugins/ossfs.sock
这时,在Docker Daemon看来我们就拥有了两个插件,ossfs和ossfs2,不过二者本质上是同一个web service。
创建Volume
下面,使用插件ossfs2创建数据卷 ff001
,目的是为了获取请求日志。
[root@node1 ~]# docker volume create -d ossfs2 --name=ff001 -o bucket=mytestbucket -o ak_id=xxx -o ak_secret=xxxxxx -o url=vpc100-oss-cn-hangzhou.aliyuncs.com
ff001
在刚才的socat命令下,可以看到打印日志,摘取如下:
2016/08/02 17:04:49.780139 length=143 from=0 to=142 POST /Plugin.Activate HTTP/1.1\r Host: \r
User-Agent: Go-http-client/1.1\r
Content-Length: 1\r
Accept: application/vnd.docker.plugins.v1.2+json\r
\r < 2016/08/02 17:04:49.780763 length=165 from=0 to=164
HTTP/1.1 200 OK\r
{"Implements": ["VolumeDriver"]}
2016/08/02 17:04:49.781068 length=162 from=143 to=304 POST /VolumeDriver.Get HTTP/1.1\r {"Name":"ff001"} < 2016/08/02 17:04:49.781364 length=229 from=165 to=393
HTTP/1.1 500 Internal Server Error\r
{"Mountpoint":"","Err":"Invalid ossfs options.","Volumes":null,"Volume":null}
2016/08/02 17:04:49.781708 length=316 from=305 to=620 POST /VolumeDriver.Create HTTP/1.1\r {"Name":"ff001","Opts":{"ak id":"xxxx","ak secret":"xxxxxx","bucket":"mytestbucket","url":"vpc100-oss-cn-hangzhou.aliyuncs.com"}} < 2016/08/02 17:04:49.849440 length=188 from=394 to=581
HTTP/1.1 200 OK\r
{"Mountpoint":"","Err":"","Volumes":null,"Volume":null}
2016/08/02 17:04:49.867860 length=163 from=621 to=783 POST /VolumeDriver.Path HTTP/1.1\r {"Name":"ff001"} < 2016/08/02 17:04:49.872552 length=220 from=582 to=801
HTTP/1.1 200 OK\r
{"Mountpoint":"/mnt/i/ossfs/mytestbucket","Err":"","Volumes":null,"Volume":null}
2016/08/02 17:04:51.984118 length=148 from=784 to=931 POST /VolumeDriver.List HTTP/1.1\r {} < 2016/08/02 17:04:51.985414 length=316 from=802 to=1117
{"Mountpoint":"","Err":"","Volumes":[{"Name":"ff001","Mountpoint":"/mnt/i/ossfs/mytestbucket"}],"Volume":null}
所有的请求都是POST方法,URI、request body和response body我都已经加粗。简单解释下, /Plugin.Activate
接口是Plugin的公共接口,是做第一次Handshake,Plugin会返回类型是Volume还是Network等。一个Volume的创建过程,会先通过 Get
判断名称是否存在,然后执行 Create
做数据卷的初始化,接着通过 Path
接口获取Volume的本地路径。最后的 List
是用来查询这个插件下有哪些Volume的,是被其他客户端发起的,跟这次的创建过程并无关系。
至此,一个Volume就创建完成了,但还没有被容器使用。
使用Volume
下面我们看看,在容器使用Volume时,Plugin提供了哪些接口。执行下面命令:
[root@node1 ~]# docker run -ti --volume-driver=ossfs2 -v ff001:/oss busybox ls /oss
1.jpeg
创建并启动一个容器,挂载数据卷 ff001
到容器内的 /oss
目录,然后执行命令 ls /oss
查看目录下文件,命令退出后容器停止。
在ossfs2.sock处抓取到请求日志如下:
2016/08/02 17:35:18.680407 length=164 from=13610 to=13773 POST /VolumeDriver.Mount HTTP/1.1\r {"Name":"ff001"} < 2016/08/02 17:35:18.680923 length=220 from=24348 to=24567
HTTP/1.1 200 OK\r
{"Mountpoint":"/mnt/i/ossfs/mytestbucket","Err":"","Volumes":null,"Volume":null}
2016/08/02 17:35:19.143549 length=166 from=13774 to=13939 POST /VolumeDriver.Unmount HTTP/1.1\r {"Name":"ff001"} < 2016/08/02 17:35:19.144880 length=188 from=24568 to=24755
HTTP/1.1 200 OK\r
{"Mountpoint":"","Err":"","Volumes":null,"Volume":null}
启动容器时,Daemon会请求Plugin的 Mount
接口,然后与容器内的目录绑定,容器停止时会请求 Unmount
接口。
删除Volume
我们使用以下命令删除Volume
docker volume rm ff001
当有容器在使用Volume时,删除会失败(Daemon中有记录)。成功删除时,会打印以下日志:
2016/08/02 18:29:23.833416 length=162 from=34688 to=34849 POST /VolumeDriver.Get HTTP/1.1\r {"Name":"ff001"} < 2016/08/02 18:29:23.833928 length=249 from=59892 to=60140
HTTP/1.1 200 OK\r
{"Mountpoint":"","Err":"","Volumes":null,"Volume":{"Name":"ff001","Mountpoint":"/mnt/i/ossfs/mytestbucket"}}
2016/08/02 18:29:23.834274 length=165 from=34850 to=35014 POST /VolumeDriver.Remove HTTP/1.1\r {"Name":"ff001"} < 2016/08/02 18:29:24.027498 length=188 from=60141 to=60328
HTTP/1.1 200 OK\r
{"Mountpoint":"","Err":"","Volumes":null,"Volume":null}
一个 Get
,一个 Remove
就完成了删除时的接口调用。
自己写一个?
根据上面的介绍,相比你已经大概清楚一个Volume Plugin需要做哪些事情,提供哪些接口,以及在什么时候使用这些接口了。 如果,你想自己写一个Volume Plugin,也是很简单的事情。Docker已经提供了Go语言的 Plugin SDK 『go-plugins-helpers』 ,内置了基础API接口,你只需要引用它们,并根据自己存储的特征具体实现这些接口就可以了。同样可以参考这些 公开插件 的文档或代码,比如 Flocker , Glusterfs 等。