Nacos高可用集群解决方案-Docker版本,基于Nacos 1.0.1
文章主旨
本文目的是配置高可用的Nacos集群
架构图
整体架构为:Nginx + 3 x Nacos +高可用MySQL
高可用MySQL使用主从复制结构的可以参考Docker搭建MySQL主从集群,基于GTID
文中对应的配置文件已经上传Github,地址:https://github.com/hellxz/nacos-cluster-docker
测试环境
服务器OS | 主机IP | Docker版本 |
---|---|---|
Ubuntu Server 18.04 LTS | 192.168.87.133 | 18.09.6 |
Ubuntu Server 18.04 LTS | 192.168.87.139 | 18.09.7 |
Ubuntu Desktop 18.04 LTS | 192.168.87.135 | 18.09.7 |
为了实现Nacos的高可用,至少需要三台负载较小的服务器,可以与其它服务共存
注意事项
- 这里演示高可用MySQL地址为:
10.2.7.29:3340
,10.2.7.29:3341
,请自行替换- 这里的
10.2.7.29
是局域网,192.168.*
是虚拟机网络,通过虚拟机是可以访问局域网的- Nacos初始化SQL这块使用官方的即可,配置文件中不提供,默认认为高可用MySQL已经执行了初始化nacos.sql,这个SQL请移步nacos.sql Github
配置文件目录结构与说明
目录说明
- init.d/custom.properties - 官方提供的自选功能配置文件,Nacos节点均包含此目录
- nacos-1/docker-compose-nacos1.yml - 第一个Nacos节点的Docker-compose配置文件
- nacos-2/docker-compose-nacos1.yml - 第二个Nacos节点的Docker-compose配置文件
- nacos-3/docker-compose-nacos1.yml - 第三个Nacos节点的Docker-compose配置文件
除些之外,在每个nacos-*
目录下边,使用docker-compose命令启动容器后,会创建出cluster-logs
目录,
我认为最常用的应该是nacos.log
配置文件内容
133服务器的docker-compose-nacos1.yml
version: '3' services: # nacos-server服务注册与发现,配置中心服务 docker-nacos-server: image: nacos/nacos-server:1.0.1 container_name: nacos-server-1 ports: - "8848:8848" - "9555:9555" networks: - nacos_net restart: on-failure privileged: true environment: PREFER_HOST_MODE: ip #如果支持主机名可以使用hostname,否则使用ip,默认也是ip SPRING_DATASOURCE_PLATFORM: mysql #数据源平台 仅支持mysql或不保存empty NACOS_SERVER_IP: 192.168.87.133 #多网卡情况下,指定ip或网卡 NACOS_SERVERS: 192.168.87.133:8848 192.168.87.139:8848 192.168.87.135:8848 #集群中其它节点[ip1:port ip2:port ip3:port] MYSQL_MASTER_SERVICE_HOST: 10.2.7.29 #mysql配置,Master为主节点,Slave为从节点 MYSQL_MASTER_SERVICE_PORT: 3340 MYSQL_MASTER_SERVICE_DB_NAME: nacos MYSQL_MASTER_SERVICE_USER: root MYSQL_MASTER_SERVICE_PASSWORD: password MYSQL_SLAVE_SERVICE_HOST: 10.2.7.29 MYSQL_SLAVE_SERVICE_PORT: 3341 #JVM调优参数 #JVM_XMS: #-Xms default :2g #JVM_XMX: #-Xmx default :2g #JVM_XMN: #-Xmn default :1g #JVM_MS: #-XX:MetaspaceSize default :128m #JVM_MMS: #-XX:MaxMetaspaceSize default :320m #NACOS_DEBUG: n #是否开启远程debug,y/n,默认n #TOMCAT_ACCESSLOG_ENABLED: true #是否开始tomcat访问日志的记录,默认false volumes: - ./cluster-logs/nacos1:/home/nacos/logs #日志输出目录 - ../init.d/custom.properties:/home/nacos/init.d/custom.properties #../init.d/custom.properties内包含很多自定义配置,可按需配置 networks: nacos_net: driver: bridge
139服务器的docker-compose-nacos2.yml
version: '3' services: # nacos-server服务注册与发现,配置中心服务 docker-nacos-server: image: nacos/nacos-server:1.0.1 container_name: nacos-server-2 ports: - "8848:8848" - "9555:9555" networks: - nacos_net restart: - on-failure privileged: true environment: PREFER_HOST_MODE: ip #如果支持主机名可以使用hostname,否则使用ip,默认也是ip SPRING_DATASOURCE_PLATFORM: mysql #数据源平台 仅支持mysql或不保存empty NACOS_SERVER_IP: 192.168.87.139 #多网卡情况下,指定ip或网卡 NACOS_SERVERS: 192.168.87.133:8848 192.168.87.139:8848 192.168.87.135:8848 #集群中其它节点[ip1:port ip2:port ip3:port] MYSQL_MASTER_SERVICE_HOST: 10.2.7.29 #mysql配置,Master为主节点,Slave为从节点 MYSQL_MASTER_SERVICE_PORT: 3340 MYSQL_MASTER_SERVICE_DB_NAME: nacos MYSQL_MASTER_SERVICE_USER: root MYSQL_MASTER_SERVICE_PASSWORD: password MYSQL_SLAVE_SERVICE_HOST: 10.2.7.29 MYSQL_SLAVE_SERVICE_PORT: 3341 #JVM调优参数 #JVM_XMS: #-Xms default :2g #JVM_XMX: #-Xmx default :2g #JVM_XMN: #-Xmn default :1g #JVM_MS: #-XX:MetaspaceSize default :128m #JVM_MMS: #-XX:MaxMetaspaceSize default :320m #NACOS_DEBUG: n #是否开启远程debug,y/n,默认n #TOMCAT_ACCESSLOG_ENABLED: true #是否开始tomcat访问日志的记录,默认false volumes: - ./cluster-logs/nacos2:/home/nacos/logs #日志输出目录 - ../init.d/custom.properties:/home/nacos/init.d/custom.properties #../init.d/custom.properties内包含很多自定义配置,可按需配置 networks: nacos_net: driver: bridge
135服务器的docker-compose-nacos3.yml
version: '3' services: # nacos-server服务注册与发现,配置中心服务 docker-nacos-server: image: nacos/nacos-server:1.0.1 container_name: nacos-server-3 ports: - "8848:8848" - "9555:9555" networks: - nacos_net restart: on-failure privileged: true environment: PREFER_HOST_MODE: ip #如果支持主机名可以使用hostname,否则使用ip,默认也是ip SPRING_DATASOURCE_PLATFORM: mysql #数据源平台 仅支持mysql或不保存empty NACOS_SERVER_IP: 192.168.87.135 #多网卡情况下,指定ip或网卡 NACOS_SERVERS: 192.168.87.133:8848 192.168.87.139:8848 192.168.87.135:8848 #集群中其它节点[ip1:port ip2:port ip3:port] MYSQL_MASTER_SERVICE_HOST: 10.2.7.29 #mysql配置,Master为主节点,Slave为从节点 MYSQL_MASTER_SERVICE_PORT: 3340 MYSQL_MASTER_SERVICE_DB_NAME: nacos MYSQL_MASTER_SERVICE_USER: root MYSQL_MASTER_SERVICE_PASSWORD: password MYSQL_SLAVE_SERVICE_HOST: 10.2.7.29 MYSQL_SLAVE_SERVICE_PORT: 3341 #JVM调优参数 #JVM_XMS: #-Xms default :2g #JVM_XMX: #-Xmx default :2g #JVM_XMN: #-Xmn default :1g #JVM_MS: #-XX:MetaspaceSize default :128m #JVM_MMS: #-XX:MaxMetaspaceSize default :320m #NACOS_DEBUG: n #是否开启远程debug,y/n,默认n #TOMCAT_ACCESSLOG_ENABLED: true #是否开始tomcat访问日志的记录,默认false volumes: - ./cluster-logs/nacos3:/home/nacos/logs #日志输出目录 - ../init.d/custom.properties:/home/nacos/init.d/custom.properties #../init.d/custom.properties内包含很多自定义配置,可按需配置 networks: nacos_net: driver: bridge
Nacos共用的init.d/custom.properties
,与官方保持一致,按需使用
#spring.security.enabled=false #management.security=false #security.basic.enabled=false #nacos.security.ignore.urls=/** #management.metrics.export.elastic.host=http://localhost:9200 # metrics for prometheus management.endpoints.web.exposure.include=* # metrics for elastic search #management.metrics.export.elastic.enabled=false #management.metrics.export.elastic.host=http://localhost:9200 # metrics for influx #management.metrics.export.influx.enabled=false #management.metrics.export.influx.db=springboot #management.metrics.export.influx.uri=http://localhost:8086 #management.metrics.export.influx.auto-create-db=true #management.metrics.export.influx.consistency=one #management.metrics.export.influx.compressed=true
由于现在把所有的配置文件放在一起,并且每个Nacos节点都需要一份
init.d
目录,这里就不单独为每个nacos-*
复制了,直接把文件夹整个复制过来就可以了
启动Nacos集群
复制配置文件
复制nacos-cluster-docker
目录到以上三台主机,上边的配置文件已经修改好了
其对应关系为:
- 192.168.87.133 对应 nacos-1
- 192.168.87.139 对应 nacos-2
- 192.168.87.135 对应 nacos-3
启动容器
分别在各主机上进入各自对应的nacos目录中,启动容器,命令如下:
133服务器
$ cd nacos-cluster-docker/nacos-1 $ docker-compose -f docker-compose-nacos1.yml up -d
139服务器
$ cd nacos-cluster-docker/nacos-2 $ docker-compose -f docker-compose-nacos2.yml up -d
135服务器
$ cd nacos-cluster-docker/nacos-3 $ docker-compose -f docker-compose-nacos3.yml up -d
查看日志
查看日志分别在对应的nacos-*目录下,执行
tail -f cluster-logs/nacos*/nacos.log
访问Nacos UI界面
这里使用133服务器页面进行展示下,
访问http://192.168.87.133:8848/nacos
,进入登录页面,默认的用户名与密码都是nacos
我这里还原的sql是平时测试用的,这里打下码,我们的关注点在 集群管理 > 节点列表 这里
这里我们看到Nacos集群各节点已经正常了,LEADER与FOLLOWER已经选出,一切正常了
配置Nginx
除了Nacos集群配置外,我们在Spring Boot或Spring Cloud项目中使用的时候,只能指定一个URL指向Nacos服务端,这里使用Nginx进行代理负载均衡
如果可以的话,生产环境最佳实践是使用一个域名指向Nginx,之后就算换Nginx主机,客户端也无需修改配置文件,只需要使用域名指向一个新的Nginx的IP
列出最主要的配置
http{ upstream nacos-cluster { server 192.168.87.133:8848; server 192.168.87.139:8848; server 192.168.87.135:8848; } server { listen 8848; location /{ proxy_pass http://nacos-cluster; } } }
启动Nginx,使用代码进行测试连接当前的Nginx所在主机IP:8848
这里已经可以看到服务正常注册到集群中了
遇到的问题
客户端无法注册到集群中
如果遇到有客户端服务无法连接到Nacos集群中,请着重检查下Nacos的堆内存与虚拟机的设置,最初我使用的默认的2G最大堆内存,虚拟机也分的2G内存,然后启动服务时还能正常一小会,然后就开始有的服务显示节点,有的不显示列表,使用客户端进行连接也无法正常连接,提示Down Server response
之类 的提示
解决办法:修改虚拟机内存大小,或修改Nacos堆内存配置
本文到此结束,如果对你有帮助,欢迎评论、推荐、关注三连❤️
本文系Hellxz学习与实践文章,禁止布布扣、码迷、爱码网等第三方爬虫网站爬取,转载请在醒目位置注明出处:https://www.cnblogs.com/hellxz/p/nacos-cluster-docker.html
本文作者:东北小狐狸
本文链接:https://www.cnblogs.com/hellxz/p/nacos-cluster-docker.html
版权声明:本作品采用自由转载-非商用-非衍生-保持署名 (CC BY-NC-ND 3.0)许可协议进行许可。
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】博客园社区专享云产品让利特惠,阿里云新客6.5折上折
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步