了解Docker Consul 工具 ,一篇就够了
简介
consul是一个支持多数据中心分布式高可用的服务发现和配置共享的服务软件,由HashiCorp公司用go语言开发,基于Mozilla Public License 2.0 的协议进行开源
特性
- Consul 支持健康检查,并允许HTTP、GRPC和DNS 协议调用API 存储键对值
- 一致性协议采用Raft 算法,用来保证服务的高可用
- 使用 GOSSIP 协议管理成员和广播消息,并且支持ACL访问控制
- consul的实例叫agent,agent有两种运行模式:server和client
- 官方建议每个Consul Cluster数据中心至少有3个或以上的运行在Server Mode的Agent,Client节点不限。
consul使用场景
- Docker 容器的注册与配置共享
- Coreos 实例的注册与配置共享
- saas 应用的配置共享,服务发现和健康检查
- vitess集群
- 与 confd 服务集成,动态生成 nginx 和 haproxy 配置文件
consul优势
市面上现在有很多类似的软件比如:zookeeper、Etcd、doozerd、eureka,Consul
相较于这些软件,consul的优势表现在以下几点
- 使用 Raft 算法来保证一致性,比复杂的Paxoos 算法更直接,相比较而言,zookeeper 采用的是 Paxos,而 etcd 使用的则是 Raft。
- 支持 多数据中心,内外网的服务采用不同的端口进行监听。 多数据中心集群可以避免单数据中心的单点故障,而其部署则需要考虑网络延迟,分片等情况等. zookeeper 和 etcd 均不提供多数据中心功能的支持。
- 支持 健康检查。 etcd 不提供此功能。
- 支持 HTTP、DNS 和 GPRS 协议接口。 zookeeper 的集成较为复杂,etcd 只支持 http 协议
- 官方提供 WEB管理界面,etcd 无此功能。
consul端口
端口 | 说明 |
TCP/8300 | 8300端口用于服务器节点,客户端通过该端口RPC协议调用服务端节点 |
TCP/UDP/8301 | 8301端口用于单个数据中心所有节点之间的互相通信,即对LAN池信息的同步,他使得整个数据中心能够自动发现服务器地址,分布式检测节点故障,时间广播(如领导选举事件) |
TCP/UDP/8302 | 8302端口用于单个或多个数据中心之间的服务器节点的信息同步,即对WAN池信息的同步,它针对互联网的高延迟进行了优化,能够实现跨数据中心请求 |
8500 | 8500端口基于HTP协议,用于API接口或web ui 访问 |
8600 | 8600 端口作为DNS服务器,它使得我们可以通过节点查询节点信息 |
consul参数详解
- –net=host docker参数, 使得docker容器越过了net namespace的隔离,免去手动指定端口映射的步骤
- -server consul支持以server或client的模式运行, server是服务发现模块的核心, client主要用于转发请求
- -advertise 通告地址用于更改我们通告给集群中其他节点的地址。默认情况下,-bind地址是通告的。
- -retry-join 指定要加入的consul节点地址,失败后会重试, 可多次指定不同的地址
- -client Consul将绑定客户端接口的地址,包括HTTP和DNS服务器。默认情况下,这是“127.0.0.1”,只允许回送连接。
- -bind 内部集群通信绑定的地址。这是集群中所有其他节点都应该可以访问的IP地址。默认情况下,这是“0.0.0.0”,集群内的所有节点到地址必须是可达的
- -bootstrap-expect 此标志提供数据中心中预期服务器的数量。不应该提供此值,或者该值必须与群集中的其他服务器一致。指定后,Consul将等待指定数量的服务器可用,然后启动群集。允许自动选举leader,但不能与传统-bootstrap标志一起使用, 需要在server模式下运行。
- -data-dir 此标志为代理存储状态提供了一个数据目录。这对所有代理都是必需的。该目录在重新启动时应该是持久的。这对于在服务器模式下运行的代理尤其重要,因为它们必须能够保持群集状态。此外,该目录必须支持使用文件系统锁定,这意味着某些类型的已装入文件夹(例如VirtualBox共享文件夹)可能不合适
- -node 群集中此节点的名称,这在群集中必须是唯一的,默认情况下是节点的主机名。
- -config-dir 指定配置文件,当这个目录下有 .json 结尾的文件就会被加载
- -enable-script-checks 检查服务是否处于活动状态,类似开启心跳
- -datacenter 数据中心名称。如果未提供,则默认为“dc1”。Consul对多个数据中心拥有一流的支持,但它依赖于正确的配置。同一个数据中心内的节点应该位于单个局域网中。
- -ui - 启用内置的Web UI服务器和所需的HTTP路由。这消除了将Consul Web UI文件与二进制文件分开维护的需要。
- -join 指定ip, 加入到已有的集群中
一、基于Docker的consul服务搭建
1.1、环境准备
服务器 | IP地址 | 安装部署 |
---|---|---|
Consul 服务 | 20.0.0.10 | Docker-ce、Consul、Consul-template模板、nginx服务 |
容器服务 | 20.0.0.20 | Docker-ce |
准备两台虚拟机,都提前部署了Docker-ce。
1.2、部署Consul服务
[root@node1 ~]# mkdir /root/consul [root@node1 ~]# cd /root/consul/ 将压缩包导入此目录
将压缩包解压,并创建代理agent
[root@node1 consul]# unzip consul_0.9.2_linux_amd64.zip Archive: consul_0.9.2_linux_amd64.zip inflating: consul [root@node1 consul]# mv consul /usr/bin/ #使consul命令可以在任何目录下识别 [root@node1 consul]# consul agent \ > -server \ > -bootstrap \ > -ui \ > -data-dir=/var/lib/consul-data \ > -bind=20.0.0.10 \ > -client=0.0.0.0 \ > -node=consul-server01 &> /var/log/consul.log & [1] 64484 [root@node1 consul]# jobs [1]+ 运行中 consul agent -server -bootstrap -ui -data-dir=/var/lib/consul-data -bind=20.0.0.10 -client=0.0.0.0 -node=consul-server01 &>/var/log/consul.log & [root@node1 consul]# netstat -anpt | grep 8500 tcp6 0 0 :::8500 :::* LISTEN 64484/consul
关闭防火墙及核心防护 [root@node1 consul]# systemctl stop firewalld [root@node1 consul]# setenforce 0 #查看集群成员信息 [root@node1 consul]# consul members Node Address Status Type Build Protocol DC consul-server01 20.0.0.10:8301 alive server 0.9.2 2 dc1 [root@node1 consul]# consul info | grep leader leader = true leader_addr = 20.0.0.10:8300
2、 容器自动加入nginx集群
在容器服务器上安装 gliderlabs/registrator
- 检查容器的运行状态
- 自动注册和注销docker容器的服务到服务配置中心
[root@node2 ~]# docker run -d \ > --name=registrator \ > --net=host \ > -v /var/run/docker.sock:/tmp/docker.sock \ > --restart=always \ > gliderlabs/registrator:latest \ > -ip=20.0.0.20 \ #本机的ip地址 > condsul://20.0.0.10:8500 #指向consul服务器 Unable to find image 'gliderlabs/registrator:latest' locally latest: Pulling from gliderlabs/registrator Image docker.io/gliderlabs/registrator:latest uses outdated schema1 manifest format. Please upgrade to a schema2 image for better future compatibility. More information at https://docs.docker.com/registry/spec/deprecated-schema-v1/ c87f684ee1c2: Pull complete a0559c0b3676: Pull complete a28552c49839: Pull complete Digest: sha256:6e708681dd52e28f4f39d048ac75376c9a762c44b3d75b2824173f8364e52c10 Status: Downloaded newer image for gliderlabs/registrator:latest 5c07ea8830b1ed48fe871bf81a691ed1831a084115710d46a96861de633814ed
测试
创建两个容器。查看consul服务发现功能是否正常 docker run -itd -p:83:80 --name test-01 -h test01 nginx docker run -itd -p:84:80 --name test-02 -h test02 nginx
3、验证consul 的服务发现功能
打开浏览器输入http://20.0.0.10:8500,“单击NODES”,然后单击“consurl-server01”,出现3个服务,表示nginx服务已经注册到consul里。
或者通过命令在consul服务器上查看当前提供的容器服务有哪些。
4、部署consul-template和nginx
- Consul-Template 是一个守护进程,用于实时查询Consul 集群信息,并更新文件系统上任意数量的指定模板,生成配置文件。 更新完成以后,可以选择运行shell 命令执行更新操作,重新加载Nginx。
- Consul-Template可以查询 Consul 中的服务目录、Key、Key-values 等。
- 这种强大的抽象功能和查询语言模板可以使Consul-Template 特别适合动态的创建配置文件。
例如:创建Apache/Nginx Proxy Balancers、Haproxy Backends
4.1、准备template的nginx模板文件
vim /root/consul/nginx.ctmpl server { listen 88; server_name localhost 20.0.0.10; access_log /var/log/nginx/aa-access.log; index index.html index.php location / { proxy_set_header HOST $host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header Client-IP $remote_addr; proxy_set_header X-Fprwarded-For $proxy_add_x_forwarded_for; proxy_pass http://http_backend; } ~
4.2、对nginx进行编译安装
yum install -y gcc gcc-c++ pcre-devel zlib-devel tar zxvf nginx-1.12.2.tar.gz -C /opt/ cd /opt/nginx-1.12.2 ./configure --prefix=/usr/local/nginx make && make install vi /usr/local/nginx/conf/nginx.conf
http { include mime.types; include vhost/*.conf #添加 让主配置文件能够读取子配置文件
4.3、创建主机目录和日志文件目录
//创建虚拟主机目录 mkdir /usr/local/nginx/conf/vhost //创建日志文件目录 mkdir /var/log/nginx ln -s /usr/local/nginx/sbin/nginx /usr/bin/ //启动 nginx 服务 /usr/local/nginx/sbin/nginx
4.4 配置consul-template并启动
cd /root/consul //解压 unzip consul-template_0.19.3_linux_amd64.zip //使命令可以在任意目录使用 mv consul-template /usr/bin/ //启动服务,并指明nginx的配置文件名 consul-template -consul-addr 20.0.0.10:8500 \ -template "/root/consul/nginx.ctmpl:/usr/local/nginx/conf/vhost/kgc.conf:/usr/local/nginx/sbin/nginx -s reload" \ --log-level=info
5、验证consul-template的更新功能
测试:浏览器访问http://20.0.0.10:88点击刷新,后查看日志
6、增加一个nginx容器节点,测试监控发现功能
//在registrator服务端注册(容器服务器) docker run -itd -p:90:80 --name test-08 -h test08 nginx
测试 删除83端口容器
查看文件,配置文件自动移除