组件整合之可靠消息中间件RocketMQ
Spring要使用rocketmq，需要先引入依赖：
<dependency>
<groupId>org.apache.rocketmq</groupId>
<artifactId>rocketmq-client</artifactId>
<version>4.9.2</version>
</dependency>API简单使用
RocketMqConfig类代码如下：
import org.apache.rocketmq.client.consumer.DefaultMQPushConsumer;
import org.apache.rocketmq.client.consumer.MQPushConsumer;
import org.apache.rocketmq.client.consumer.listener.ConsumeConcurrentlyContext;
import org.apache.rocketmq.client.consumer.listener.ConsumeConcurrentlyStatus;
import org.apache.rocketmq.client.consumer.listener.MessageListenerConcurrently;
import org.apache.rocketmq.client.exception.MQClientException;
import org.apache.rocketmq.client.producer.DefaultMQProducer;
import org.apache.rocketmq.client.producer.MQProducer;
import org.apache.rocketmq.common.consumer.ConsumeFromWhere;
import org.apache.rocketmq.common.message.MessageExt;
import org.apache.rocketmq.common.protocol.heartbeat.MessageModel;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import java.util.List;
@Configuration
public class RocketMqConfig {
private static final String ROCKET_MQ_NAMESRV_ADDR = "127.0.0.1:9876";
@Bean(initMethod = "start", destroyMethod = "shutdown")
public MQProducer orderCreatedProducer() {
DefaultMQProducer mqProducer = new DefaultMQProducer("order_created_producer_group");
mqProducer.setRetryTimesWhenSendFailed(2);
mqProducer.setNamesrvAddr(ROCKET_MQ_NAMESRV_ADDR);
return mqProducer;
}
@Bean(initMethod = "start", destroyMethod = "shutdown")
public MQPushConsumer orderCreatedConsumer() throws MQClientException {
DefaultMQPushConsumer pushConsumer = new DefaultMQPushConsumer("order_created_consumer_group");
pushConsumer.setNamesrvAddr(ROCKET_MQ_NAMESRV_ADDR);
pushConsumer.setConsumeFromWhere(ConsumeFromWhere.CONSUME_FROM_LAST_OFFSET);
//默认是集群方式，可以更改为广播，但是广播方式不支持重试
pushConsumer.setMessageModel(MessageModel.CLUSTERING);
pushConsumer.subscribe("order_created_topic", "*");
pushConsumer.registerMessageListener(new MessageListenerConcurrently() {
@Override
public ConsumeConcurrentlyStatus consumeMessage(List<MessageExt> msgs, ConsumeConcurrentlyContext consumeConcurrentlyContext) {
MessageExt msg = msgs.get(0);
try {
System.out.printf("%s Receive New Messages: %s %n", Thread.currentThread().getName(), new String(msgs.get(0).getBody()));
String topic = msg.getTopic();
String body = new String(msg.getBody(), "utf-8");
String tags = msg.getTags();
String keys = msg.getKeys();
System.out.println("topic=" + topic + ", tags=" + tags + ", keys=" + keys + ", msg=" + body);
return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
} catch (Exception e) {
System.out.println("消费异常");
e.printStackTrace();
return ConsumeConcurrentlyStatus.RECONSUME_LATER;
}
}
});
return pushConsumer;
}
}TmOrder类代码如下：
public class TmOrder implements Serializable {
private static final long serialVersionUID = 9217558543582750080L;
private Long orderId;
private String orderNumber;
private Double totalPrice;
private Date createTime;
private String createUser;
public Long getOrderId() {
return orderId;
}
public void setOrderId(Long orderId) {
this.orderId = orderId;
}
public String getOrderNumber() {
return orderNumber;
}
public void setOrderNumber(String orderNumber) {
this.orderNumber = orderNumber;
}
public Double getTotalPrice() {
return totalPrice;
}
public void setTotalPrice(Double totalPrice) {
this.totalPrice = totalPrice;
}
public Date getCreateTime() {
return createTime;
}
public void setCreateTime(Date createTime) {
this.createTime = createTime;
}
public String getCreateUser() {
return createUser;
}
public void setCreateUser(String createUser) {
this.createUser = createUser;
}
}MqController类代码如下：
@RestController
@RequestMapping("/mq")
public class MqController {
@Autowired
private MQProducer orderCreatedProducer;
@GetMapping("createOrder")
public Object createOrder() throws Exception {
TmOrder order = new TmOrder();
order.setOrderId(IdUtil.getSnowflake().nextId());
order.setOrderNumber(IdUtil.fastUUID());
order.setTotalPrice(1050.0d);
order.setCreateTime(new Date());
order.setCreateUser("buqiong");
Message message = new Message("order_created_topic", "order_info", order.getOrderNumber(), JSON.toJSONString(order).getBytes());
SendResult sendResult = orderCreatedProducer.send(message);
return sendResult;
}
}这里使用到的IdUtil需要引入：
<dependency>
<groupId>cn.hutool</groupId>
<artifactId>hutool-core</artifactId>
<version>5.7.3</version>
</dependency>使用浏览器或者postman调用controller接口即可。
自定义@EnableRocket
可以借鉴：Spring整合RocketMQ
事务消息使用
之前我们说到，分布式事务是一个复杂的技术问题。没有通用的解决方案，也缺乏简单高效的手段。
不过，如果我们的系统不追求强一致性，那么最常用的还是最终一致性方案。今天，我们就基于 RocketMQ来实现消息最终一致性方案的分布式事务。
- Half Message，半消息。暂时不能被 Consumer消费的消息。Producer已经把消息发送到 Broker端，但是此消息的状态被标记为不能投递，处于这种状态下的消息称为半消息。事实上，该状态下的消息会被放在一个叫做 RMQ_SYS_TRANS_HALF_TOPIC的主题下。当 Producer端对它二次确认后，也就是 Commit之后，Consumer端才可以消费到；那么如果是Rollback，该消息则会被删除，永远不会被消费到。
- 事务状态回查：我们想，可能会因为网络原因、应用问题等，导致Producer端一直没有对这个半消息进行确认，那么这时候 Broker服务器会定时扫描这些半消息，主动找Producer端查询该消息的状态。RocketMQ事务消息的实现原理就是基于两阶段提交和事务状态回查，来决定消息最终是提交还是回滚的。
RocketMQ事务消息的实现原理就是基于两阶段提交和事务状态回查，来决定消息最终是提交还是回滚的。
在本文，我们的代码就以 订单服务、积分服务 为例。结合上文来看，整体流程如下：
订单服务
在订单服务中，我们接收前端的请求创建订单，保存相关数据到本地数据库。
订单表
CREATE TABLE IF NOT EXISTS `shop_order` (
`order_id` BIGINT UNSIGNED NOT NULL PRIMARY KEY AUTO_INCREMENT COMMENT '订单id',
`amount` DECIMAL(10, 2) NOT NULL DEFAULT '0.00' COMMENT '订单总价',
`status` TINYINT UNSIGNED NOT NULL DEFAULT '0' COMMENT '订单状态',
`express_no` VARCHAR(50) NOT NULL DEFAULT '' COMMENT '快递单号',
`trade_no` VARCHAR(100) NOT NULL DEFAULT '' COMMENT '支付交易号',
`create_time` BIGINT UNSIGNED NOT NULL DEFAULT '0' COMMENT '创建时间',
`update_time` TIMESTAMP NOT NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP COMMENT '更新时间'
) ENGINE = InnoDB CHARSET = utf8 COMMENT '订单表';事务日志表
在订单服务中，除了有一张订单表之外，还需要一个事务日志表。 它的定义如下：
CREATE TABLE `transaction_log` (
`id` varchar(32) CHARACTER SET utf8mb4 COLLATE utf8mb4_bin NOT NULL COMMENT '事务ID',
`business` varchar(32) CHARACTER SET utf8mb4 COLLATE utf8mb4_bin NOT NULL COMMENT '业务标识',
`foreign_key` varchar(32) CHARACTER SET utf8mb4 COLLATE utf8mb4_bin NOT NULL COMMENT '对应业务表中的主键',
PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_bin;这张表专门作用于事务状态回查。当提交业务数据时，此表也插入一条数据，它们共处一个本地事务中。通过事务ID查询该表，如果返回记录，则证明本地事务已提交；如果未返回记录，则本地事务可能是未知状态或者是回滚状态。
TransactionMQProducer
我们知道，通过 RocketMQ发送消息，需先创建一个消息发送者。值得注意的是，如果发送事务消息，在这里我们的创建的实例必须是 TransactionMQProducer。
@Component
public class TransactionProducer {
private String producerGroup = "order_trans_group";
private TransactionMQProducer producer;
//用于执行本地事务和事务状态回查的监听器
@Autowired
OrderTransactionListener orderTransactionListener;
//执行任务的线程池
ThreadPoolExecutor executor = new ThreadPoolExecutor(
5,
10,
60,
TimeUnit.SECONDS,
new ArrayBlockingQueue<>(50)
);
@PostConstruct
public void init() {
producer = new TransactionMQProducer(producerGroup);
producer.setNamesrvAddr("127.0.0.1:9876");
producer.setSendMsgTimeout(Integer.MAX_VALUE);
producer.setExecutorService(executor);
producer.setTransactionListener(orderTransactionListener);
this.start();
}
private void start() {
try {
this.producer.start();
} catch (MQClientException e) {
e.printStackTrace();
}
}
//事务消息发送
public TransactionSendResult send(String data, String topic)
throws MQClientException {
Message message = new Message(topic, data.getBytes());
return this.producer.sendMessageInTransaction(message, null);
}
}上面的代码中，主要就是创建事务消息的发送者。在这里，我们重点关注 OrderTransactionListener，它负责执行本地事务和事务状态回查。
OrderTransactionListener
实现TransactionListener。
- executeLocalTransaction：执行本地事务，一般是将业务数据与消息事务ID记录在日志表中，便于事务状态回查。
- checkLocalTransaction：事务状态回查，根据消息事务ID。
@Component
public class OrderTransactionListener implements TransactionListener {
@Autowired
OrderService orderService;
@Autowired
TransactionLogService transactionLogService;
Logger logger = LoggerFactory.getLogger(this.getClass());
@Override
public LocalTransactionState executeLocalTransaction(Message message,Object o) {
logger.info("开始执行本地事务....");
LocalTransactionState state;
try {
String body = new String(message.getBody());
OrderDTO order = JSONObject.parseObject(body, OrderDTO.class);
orderService.createOrder(order, message.getTransactionId());
state = LocalTransactionState.COMMIT_MESSAGE;
logger.info("本地事务已提交。{}", message.getTransactionId());
} catch (Exception e) {
logger.info("执行本地事务失败。{}", e);
state = LocalTransactionState.ROLLBACK_MESSAGE;
}
return state;
}
@Override
public LocalTransactionState checkLocalTransaction(MessageExt messageExt) {
logger.info("开始回查本地事务状态。{}", messageExt.getTransactionId());
LocalTransactionState state;
String transactionId = messageExt.getTransactionId();
if (transactionLogService.get(transactionId) > 0) {
state = LocalTransactionState.COMMIT_MESSAGE;
} else {
state = LocalTransactionState.UNKNOW;
}
logger.info("结束本地事务状态查询：{}", state);
return state;
}
}在通过 producer.sendMessageInTransaction发送事务消息后，如果消息发送成功，就会调用到这里的executeLocalTransaction方法，来执行本地事务。在这里，它会完成订单数据和事务日志的插入。
该方法返回值 LocalTransactionState 代表本地事务状态，它是一个枚举类。
public enum LocalTransactionState {
//提交事务消息，消费者可以看到此消息
COMMIT_MESSAGE,
//回滚事务消息，消费者不会看到此消息
ROLLBACK_MESSAGE,
//事务未知状态，需要调用事务状态回查，确定此消息是提交还是回滚
UNKNOW;
}那么， checkLocalTransaction 方法就是用于事务状态查询。在这里，我们通过事务ID（消息的一个内部字段）查询transaction_log这张表，如果可以查询到结果，就提交事务消息；如果没有查询到，就返回未知状态。
注意，这里还涉及到另外一个问题。如果是返回未知状态，RocketMQ Broker服务器会以1分钟的间隔时间不断回查，直至达到事务回查最大检测数，如果超过这个数字还未查询到事务状态，则回滚此消息。
当然，事务回查的频率和最大次数，我们都可以配置。在 Broker 端，可以通过这样来配置它：
brokerConfig.setTransactionCheckInterval(10000); //回查频率10秒一次
brokerConfig.setTransactionCheckMax(3); //最大检测次数为3
业务实现类
@Service
public class OrderServiceImpl implements OrderService {
@Autowired
OrderMapper orderMapper;
@Autowired
TransactionLogMapper transactionLogMapper;
@Autowired
TransactionProducer producer;
Logger logger = LoggerFactory.getLogger(this.getClass());
//执行本地事务时调用，将订单数据和事务日志写入本地数据库
@Transactional
@Override
public void createOrder(OrderDTO orderDTO, String transactionId) {
//1.创建订单
Order order = new Order();
BeanUtils.copyProperties(orderDTO, order);
orderMapper.createOrder(order);
//2.写入事务日志
TransactionLog log = new TransactionLog();
log.setId(transactionId);
log.setBusiness("order");
log.setForeignKey(String.valueOf(order.getId()));
transactionLogMapper.insert(log);
logger.info("订单创建完成。{}", orderDTO);
}
//前端调用，只用于向RocketMQ发送事务消息
@Override
public void createOrder(OrderDTO order) throws MQClientException {
order.setId(IdUtil.getSnowflake().nextId());
order.setOrderNo(IdUtil.getSnowflake().nextIdStr);
producer.send(JSON.toJSONString(order), "order");
}
}在订单业务服务类中，我们有两个方法。一个用于向RocketMQ发送事务消息，一个用于真正的业务数据落库。
调用
@RestController
public class OrderController {
@Autowired
OrderService orderService;
Logger logger = LoggerFactory.getLogger(this.getClass());
@PostMapping("/create_order")
public void createOrder(@RequestBody OrderDTO order)
throws MQClientException {
logger.info("接收到订单数据：{}", order.getCommodityCode());
orderService.createOrder(order);
}
}目前已经完成了订单服务的业务逻辑。我们总结流程如下：
一句话，生产者TransactionMQProducer发送消息，TransactionListener监听器执行本地事务和事务状态回查。
考虑到异常情况，这里的要点如下：
- 第一次调用createOrder，发送事务消息。如果发送失败，导致报错，则将异常返回，此时不会涉及到任何数据安全。
- 如果事务消息发送成功，但在执行本地事务时发生异常，那么订单数据和事务日志都不会被保存，因为它们是一个本地事务中。
- 如果执行完本地事务，但未能及时的返回本地事务状态或者返回了未知状态。那么，会由Broker定时回查事务状态，然后根据事务日志表，就可以判断订单是否已完成，并写入到数据库。
基于这些要素，我们可以说，已经保证了订单服务和事务消息的一致性。那么，接下来就是积分服务如何正确的消费订单数据并完成相应的业务操作。
积分服务
在积分服务中，主要就是消费订单数据，然后根据订单内容，给相应用户增加积分。
积分记录表
CREATE TABLE `t_points` (
`id` bigint(16) NOT NULL COMMENT '主键',
`user_id` bigint(16) NOT NULL COMMENT '用户id',
`order_no` bigint(16) NOT NULL COMMENT '订单编号',
`points` int(4) NOT NULL COMMENT '积分',
`remarks` varchar(128) CHARACTER SET utf8mb4 COLLATE utf8mb4_bin NOT NULL COMMENT '备注',
PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_bin;在这里，我们重点关注order_no字段，它是实现幂等消费的一种选择。
启动消费者
@Component
public class Consumer {
String consumerGroup = "consumer-group";
DefaultMQPushConsumer consumer;
@Autowired
OrderListener orderListener;
@PostConstruct
public void init() throws MQClientException {
consumer = new DefaultMQPushConsumer(consumerGroup);
consumer.setNamesrvAddr("127.0.0.1:9876");
consumer.subscribe("order", "*");
consumer.registerMessageListener(orderListener);
consumer.start();
}
}启动一个消费者比较简单，我们指定要消费的 topic 和监听器就好了。
消费者监听器
@Component
public class OrderListener implements MessageListenerConcurrently {
@Autowired
PointsService pointsService;
Logger logger = LoggerFactory.getLogger(this.getClass());
@Override
public ConsumeConcurrentlyStatus consumeMessage(List<MessageExt> list,ConsumeConcurrentlyContext context) {
logger.info("消费者线程监听到消息。");
try {
for (MessageExt message : list) {
logger.info("开始处理订单数据，准备增加积分....");
OrderDTO order = JSONObject.parseObject(
message.getBody(),
OrderDTO.class
);
pointsService.increasePoints(order);
}
return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
} catch (Exception e) {
logger.error("处理消费者数据发生异常。{}", e);
return ConsumeConcurrentlyStatus.RECONSUME_LATER;
}
}
}监听到消息之后，调用业务服务类处理即可。处理完成则返回CONSUME_SUCCESS以提交，处理失败则返回RECONSUME_LATER来重试。
增加积分
在这里，主要就是对积分数据入库。但注意，入库之前需要先做判断，来达到幂等性消费。
@Service
public class PointsServiceImpl implements PointsService {
@Autowired
PointsMapper pointsMapper;
Snowflake snowflake = new Snowflake(1, 1);
Logger logger = LoggerFactory.getLogger(this.getClass());
@Override
public void increasePoints(OrderDTO order) {
//入库之前先查询，实现幂等
if (pointsMapper.getByOrderNo(order.getOrderNo()) > 0) {
logger.info("积分添加完成，订单已处理。{}", order.getOrderNo());
} else {
Points points = new Points();
points.setId(snowflake.nextId());
points.setUserId(order.getUserId());
points.setOrderNo(order.getOrderNo());
Double amount = order.getAmount();
points.setPoints(amount.intValue() * 10);
points.setRemarks(
"商品消费共【" +
order.getAmount() +
"】元，获得积分" +
points.getPoints()
);
pointsMapper.insert(points);
logger.info("已为订单号码{}增加积分。", points.getOrderNo());
}
}
}幂等性消费
实现幂等性消费的方式有很多种，具体怎么做，根据自己的情况来看。
比如，在本例中，我们直接将订单号和积分记录绑定在同一个表中，在增加积分之前，就可以先查询此订单是否已处理过。
或者，我们也可以额外创建一张表，来记录订单的处理情况。
再者，也可以将这些信息直接放到redis缓存里，在入库之前先查询缓存。
不管以哪种方式来做，总的思路就是在执行业务前，必须先查询该消息是否被处理过。那么这里就涉及到一个数据主键问题，在这个例子中，我们以订单号为主键，也可以用事务ID作主键，如果是普通消息的话，我们也可以创建唯一的消息ID作为主键。
消费异常
我们知道，当消费者处理失败后会返回 RECONSUME_LATER ，让消息来重试，默认最多重试16次。
那，如果真的由于特殊原因，消息一直不能被正确处理，那怎么办 ？
我们考虑两种方式来解决这个问题。
第一，在代码中设置消息重试次数，如果达到指定次数，就发邮件或者短信通知业务方人工介入处理。
@Component
public class OrderListener implements MessageListenerConcurrently {
Logger logger = LoggerFactory.getLogger(this.getClass());
@Override
public ConsumeConcurrentlyStatus consumeMessage(List<MessageExt> list,ConsumeConcurrentlyContext context) {
logger.info("消费者线程监听到消息。");
for (MessageExt message : list) {
if (!processor(message)) {
return ConsumeConcurrentlyStatus.RECONSUME_LATER;
}
}
return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
}
/**
* 消息处理，第3次处理失败后，发送邮件通知人工介入
* @param message
* @return
*/
private boolean processor(MessageExt message) {
String body = new String(message.getBody());
try {
logger.info("消息处理....{}", body);
int k = 1 / 0;
return true;
} catch (Exception e) {
if (message.getReconsumeTimes() >= 3) {
logger.error(
"消息重试已达最大次数，将通知业务人员排查问题。{}",
message.getMsgId()
);
sendMail(message);
return true;
}
return false;
}
}
}第二，等待消息重试最大次数后，进入死信队列。
消息重试最大次数默认是16次，我们也可以在消费者端设置这个次数。
consumer.setMaxReconsumeTimes(3);//设置消息重试最大次数死信队列的主题名称是 %DLQ% + 消费者组名称，比如在订单数据中，我们设置了消费者组名：
String consumerGroup = "order-consumer-group";那么这个消费者，对应的死信队列主题名称就是%DLQ%order-consumer-group
如上图，我们还需要点击TOPIC配置，来修改里面的 perm 属性，改为 6 即可。
最后就可以通过程序代码监听这个主题，来通知人工介入处理或者直接在控制台查看处理了。通过幂等性消费和对死信消息的处理，基本上就能保证消息一定会被处理。
|
参考： |
