基于RabbitMQ消息队列的分布式事务解决方案 - MQ分布式消息中间件实战
美团配送系统架构演进实践
1 极速了解MQ
介绍Rabbitmg用于解决分布式事务必须掌握的5个核心概念
一款分布式消息中间件，基于erlang语言开发， 具备语言级别的高并发处理能力。和Spring框架是同一家公司。
支持持久化、高可用
核心5个概念:
- Queue: 真正存储数据的地方
- Exchange: 接收请求，转存数据
- Bind: 收到请求后存储到哪里
- 消息生产者:发送数据的应用
- 消息消费者: 取出数据处理的应用
2、分布式事务问题
分布式事务是一个业务问题，不能脱离具体的场景。
2.1 分布式事务的几种解决方案
● 基于数据库XA/ JTA协议的方式
需要数据库厂商支持; JAVA组件有atomikos等
● 异步校对数据的方式
支付宝、微信支付主动查询支付状态、对账单的形式;
● 基于可靠消息(MQ)的解决方案
异步场景;通用性较强;拓展性较高
● TCC编程式解决方案
严选、阿里、蚂蚁金服自己封装的DTX
本文目标:针对所有人群，学会基于可靠消息来解决分布式事务问题。
分布式事务的解决方案，业务针对性很强，重要的是思路，而不是照搬
- 美团点评系统架构
2.2 多系统间的分布式事务问题
- 用户下单生成订单
- 需要传递订单数据,由此产生两个事务一致性问题
错误的案例
当接口调用失败时，订单系统事务回滚,提示用户操作失败
误以为这样的接口调用写法，就不会有分布式事务问题
接口调用成功或者失败，都会产生分布式事务问题:
- 接口调用成功，订单系统数据库事务提交失败，运单系统没有回滚，产生数据
- 接口调用超时，订单系统数据库事务回滚，运单系统接口继续执行，产生数据
上述两种情况，都会导致数据不一致的问题
3、实现分布式事务 - 五步法
通过MQ解决分布式事务的5个步骤, 以及分布式事务处理中要注意的地方
- 之前都是订单系统发送HTTP请求运单系统的接口,出问题了!
- 因此我们考虑发消息给MQ, 异步暂存!
3.1 整体设计思路
外卖下订单后,可以慢慢等待运单中心数据生成,并非强制要求同时性
- 可靠生产:保证消息一定要发送到Rabitmq服务
- 可靠消费:保证消息取出来一定正确消费掉
最终使多方数据达到一致。
3.2 步骤1 - 可靠的消息生产记录消息发送
- 存在隐患 - 可能消息发送失败呀!
为了确保数据一定成功发送到MQ。
在同一事务中，增加一个记录表的操作, 记录每一条发往MQ的数据以及它的发送状态
于是我们在订单系统中增加一个本地信息表
于是在代码实践中,不再通过HTTP接口调用运单系统接口,而是使用MQ
生成订单时,也保存本地信息表
3.3 步骤2 - 可靠消息生产(修改消息发送状态)
- 利用RabbitMQ事务发布确认机制(confirm)
开启后，MQ准确受理消息会返回回执
- 然后就能知道如何更新本地信息表了
-确保在SB中开启Confirm机制
- 如果出现回执没收到、消息状态修改失败等特殊情况
兜底方案:定时检查消息表，超时没发送成功，再次重发
3.4 步骤3 - 可靠消息处理(正常处理)
- 运单系统收到消息数据后,突然宕机,或者访问运单DB时,DB突然宕机,消息数据不就丢了吗!!!
于是需要以下特性:
幂等性
防止重复消息数据的处理，一次用户操作，只对应一次数据处理
开启手动ACK模式
由消费者控制消息的重发/清除/丢弃
3.5 步骤4 - 可靠消息处理(消息重发)
消费者处理失败，需要MQ再次重发给消费者。
出现异常一般会重试几次，由消费者自身记录重试次数，并进行次数控制(不会永远重试!)
3.6 步骤五 - 可靠消息处理(消息丢弃)
消费者处理失败，直接丢弃或者转移到死信队列(DLQ)重试次数过多、消息内容格式错误等情况，通过线上预警机制通知运维人员
4 总结及扩展
4.1 MQ方案的优点和缺点
口优点
- 通用性强
- 拓展性强
- 方案成熟
口缺点
- 基于消息中间件，只适合异步场景
- 消息处理会有延迟，需要业务上能够容忍
尽量避免分布式事务;
尽量将非核心事务做成异步;
4.2 拓展
分布式事务解决方案的理论依据
CAP理论
BASE理论
2PC协议
3PC协议
Paxos算法.
Raft一致性协议
