随笔 - 1357  文章 - 0  评论 - 1104  阅读 - 1941万

RocketMQ多Master多Slave模式部署

每个 Master 配置一个 Slave,有多对Master-Slave,HA采用同步双写方式,主备都写成功,向应用返回成功。

优点:数据与服务都无单点,Master宕机情况下,消息无延迟,服务可用性与数据可用性都非常高。
缺点:性能比异步复制模式略低,大约低10%左右,发送单个消息的RT会略高。目前主宕机后,备机不能自动切换为主机,后续会支持自动切换功能。

### 先启动 NameServer
### 在机器 A,启动第一个 Master
### 在机器 B,启动第二个 Master
### 在机器 C,启动第一个 Slave
### 在机器 D,启动第二个 Slave
以上 Broker 与 Slave 配对是通过指定相同的brokerName 参数来配对,Master的 BrokerId 必须是 0,Slave 的BrokerId 必须是大与 0 的数。
另外一个 Master 下面可以挂载多个 Slave,同一 Master 下的多个 Slave通过指定不同的 BrokerId来区分。

1. 服务器环境如下图所示,四台机器,IP位7为主节点,149是7的从节点。105是主节点,160是105的从节点

序号    IP                  用户名             角色                          模式
1       192.168.1.7         root               nameServer1,brokerServer1     Master1
2       192.168.1.105       root               nameServer2,brokerServer2     Master2
3       192.168.1.149       root               nameServer3,brokerServer3     Master1-slave1
4       192.168.1.160       root               nameServer4,brokerServer4     Master2-slave1

 

2. Hosts添加信息

复制代码
IP              NAME
192.168.1.7     rocketmq-nameserver1
192.168.1.7     rocketmq-master1
192.168.1.105   rocketmq-nameserver2
192.168.1.105   rocketmq-master2
192.168.1.149   rocketmq-nameserver3
192.168.1.149   rocketmq-master1-slave1
192.168.1.160   rocketmq-nameserver4
192.168.1.160   rocketmq-master2-slave1
复制代码

 

3.编辑hosts文件【4台机器】

# vim /etc/hosts

 

4.上传解压【4台机器】

# 上传alibaba-rocketmq-3.2.6.tar.gz文件至/home/xm6f/dev
# cd /home/xm6f/dev 
# tar -zxvf alibaba-rocketmq-3.2.6.tar.gz 
# mv alibaba-rocketmq rocketmq

 

5.创建存储路径【4台机器】

# mkdir /home/xm6f/dev/rocketmq/store 
# mkdir /home/xm6f/dev/rocketmq/store/commitlog 
# mkdir /home/xm6f/dev/rocketmq/store/consumequeue 
# mkdir /home/xm6f/dev/rocketmq/store/index 


6.RocketMQ配置文件【4台机器】--该文件有点类似于Redis里面的redis.con

# sudo vim /home/xm6f/dev/rocketmq/conf/2m-2s-async/broker-a.properties ##192.168.1.7配置文件 
# sudo vim /home/xm6f/dev/rocketmq/conf/2m-2s-async/broker-a-s.properties ##192.168.1.149配置文件 
# sudo vim /home/xm6f/dev/rocketmq/conf/2m-2s-async/broker-b.properties ##192.168.1.105配置文件 
# sudo vim /home/xm6f/dev/rocketmq/conf/2m-2s-async/broker-b-s.properties ##192.168.1.160配置文件

 

broker-a.properties文件

 

broker-a-s.properties文件

 

broker-b.properties文件

 

broker-b-s.properties文件

 

7. 修改启动脚本参数【4台机器】

# vim /home/xm6f/dev/rocketmq/bin/runbroker.sh
JAVA_OPT="${JAVA_OPT} -server -Xms1g -Xmx1g -Xmn512m -
XX:PermSize=128m -XX:MaxPermSize=320m"

# vim /home/xm6f/dev/rocketmq/bin/runserver.sh 
JAVA_OPT="${JAVA_OPT} -server -Xms1g -Xmx1g -Xmn512m - 
XX:PermSize=128m -XX:MaxPermSize=320m"

注意:启动脚本设置不合理,可能报如下异常:
Error occurred during initialization of VM
Too small new size specified

8.防火墙
默认启动用使用3个端口9876,10911,10912
分别代表名称服务端口,broker端口,broker ha端口。
ha端口haListenPort表示Master监听Slave请求的端口,默认为服务端口+1

添加到/etc/sysconfig/iptables的filter表INPUT链中

-A INPUT -m state --state NEW -m tcp -p tcp --dport 9876 -j ACCEPT
-A INPUT -m state --state NEW -m tcp -p tcp --dport 10911 -j ACCEPT
-A INPUT -m state --state NEW -m tcp -p tcp --dport 10912 -j ACCEPT

添加完成后重启防火墙
service iptables restart

9.启动NameServer【4台机器】

# cd /home/xm6f/dev/rocketmq/bin 
# sudo nohup sh mqnamesrv &

 

10.启动BrokerServer 【4台机器】

注意配置文件需要根据实际配置/broker-X.properties

复制代码
# cd /home/xm6f/dev/rocketmq/bin 
# 192.168.1.7
# sudo nohup sh mqbroker -c /home/xm6f/dev/rocketmq/conf/2m-2s-async/broker-a.properties >/dev/null 2>&1 & 
# 192.168.1.105
# sudo nohup sh mqbroker -c /home/xm6f/dev/rocketmq/conf/2m-2s-async/broker-b.properties >/dev/null 2>&1 & 
# 192.168.1.149
# sudo nohup sh mqbroker -c /home/xm6f/dev/rocketmq/conf/2m-2s-async/broker-a-s.properties >/dev/null 2>&1 & 
# 192.168.1.160
# sudo nohup sh mqbroker -c /home/xm6f/dev/rocketmq/conf/2m-2s-async/broker-b-s.properties >/dev/null 2>&1 & 
复制代码

说明:IP位7为主节点,149是7的从节点。105是主节点,160是105的从节点

输入jps看到如上图所示表示成功

停止服务broker:

# sh mqshutdown broker

 

11.在tomcat中部署rocketmq-console.war
修改rocketmq-console配置文件,找到/tomcat-8082/webapps/rocketmq-console/WEB-INF/classes/config.properties文件,添加如下:

rocketmq.namesrv.addr=192.168.1.7:9876;192.168.1.105:9876;192.168.1.149:9876;192.168.1.160:9876
throwDone=true

启动tomcat,在浏览器输入:http://192.168.1.105:8082/rocketmq-console/

多Master多Slave可以保证实时消费,比如说:我有一主一从,如果主机宕机,那么我从主机上获得的数据如果在没有从节点,那么这些消息将在主节点重启之前将无法被消费,直到主节点启动,如果这个主节点里面有从节点,从节点可以对外提供服务,并且从节点有从主节点同步过来的数据,那么还是可以将这些消息实时地消费掉。这点多Master方式无法做到。

当宕机的主节点起来之后,会和从节点进行数据的同步,不会重复消费刚刚消费过的数据。

12.数据清理

复制代码
# cd /home/xm6f/devrocketmq/bin
# sh mqshutdown broker
# sh mqshutdown namesrv
# --等待停止
# rm -rf /home/xm6f/devrocketmq/store
# mkdir /home/xm6f/devrocketmq/store
# mkdir /home/xm6f/devrocketmq/store/commitlog
# mkdir /home/xm6f/devrocketmq/store/consumequeue
# mkdir /home/xm6f/devrocketmq/store/index
# --按照上面步骤重启NameServer与BrokerServer
复制代码


启动时报错:
注释runserver.sh和runbroker.sh以下,并添加JAVA_HOME地址

#[ ! -e "$JAVA_HOME/bin/java" ] && JAVA_HOME=/home/xm6f/dev/jdk1.7.0_80
#[ ! -e "$JAVA_HOME/bin/java" ] && JAVA_HOME=/home/xm6f/dev/jdk1.7.0_80
#[ ! -e "$JAVA_HOME/bin/java" ] && error_exit "Please set the JAVA_HOME variable in your environment, We need java(x64)!"

export JAVA_HOME="/home/xm6f/dev/jdk1.7.0_80"
export JAVA="$JAVA_HOME/bin/java"
.....

 

posted on   Ruthless  阅读(6570)  评论(0编辑  收藏  举报
编辑推荐:
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· 开发者必知的日志记录最佳实践
阅读排行:
· TypeScript + Deepseek 打造卜卦网站:技术与玄学的结合
· Manus的开源复刻OpenManus初探
· 写一个简单的SQL生成工具
· AI 智能体引爆开源社区「GitHub 热点速览」
· C#/.NET/.NET Core技术前沿周刊 | 第 29 期(2025年3.1-3.9)
历史上的今天:
2016-09-12 Java ServletContextListener用法
2014-09-12 django自动化部署脚本
< 2025年3月 >
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5

点击右上角即可分享
微信分享提示