Spring Cloud异步场景分布式事务怎样做?
小编:管理员 218阅读 2022.08.02
在微服务架构中,我们常常使用异步化的手段来提升系统的 吞吐量 和 解耦 上下游,而构建异步架构最常用的手段就是使用消息队列(MQ),那异步架构怎样才能实现数据一致性呢?本文主要介绍如何使用RocketMQ的事务消息来解决一致性问题。
RocketMQ 是阿里巴巴开源的分布式消息中间件,目前已成为 Apache 的顶级项目。历经多次天猫双十一海量消息考验,具有高性能、低延时和高可靠等特性
PS:同步场景怎样保证一致性?请看文章《Spring Cloud同步场景分布式事务怎样做?试试Seata》
二、MQ选型可以看到在 业务处理 方面来说RocketMQ优于其他对手,而且原生支持 事务消息
PS:业务系统用的是其他MQ产品但是又需要 事务消息 怎么办?学习原理自己开发实现!
三、什么是事务消息例如下图的场景:生成订单记录 -> MQ -> 增加积分
我们是应该先 创建订单记录,还是先 发送MQ消息 呢?
- 先发送MQ消息:这个明显是不行的,因为如果消息发送成功,而订单创建失败的话是没办法把消息收回来的
- 先创建订单记录:如果订单创建成功后MQ消息发送失败 抛出异常,因为两个操作都在本地事务中所以订单数据是可以 回滚 的
上面的 方式二 看似没问题,但是 网络是不可靠的!如果MQ的响应因为网络原因没有收到,所以在面对不确定的结果只好进行回滚;但是MQ端又确实是收到了这条消息的,只是回给客户端的 响应丢失 了! 所以事务消息就是用来保证 本地事务 与 MQ消息发送 的原子性!
四、RocketMQ事务消息原理主要的逻辑分为两个流程:
-
事务消息发送及提交:
- 发送half消息
- MQ服务端响应消息写入结果
- 根据发送结果执行本地事务(如果写入失败,此时half消息对业务 不可见,本地逻辑不执行)
- 根据本地事务状态执行Commit或者Rollback(Commit操作生成消息索引,消息对消费者 可见)
-
回查流程:
- 对于长时间没有Commit/Rollback的事务消息(pending状态的消息),从服务端发起一次 回查
- Producer收到回查消息,检查回查消息对应的本地事务状态
- 根据本地事务状态,重新Commit或者Rollback
逻辑时序图
五、异步架构一致性实现思路从上面的原理可以发现事务消息仅仅只是保证本地事务和MQ消息发送形成整体的原子性,而投递到MQ服务器后,并无法保证消费者一定能消费成功! 如果 消费端消费失败 后的处理方式,建议是记录异常信息然后 人工处理,并不建议回滚上游服务的数据(因为两者是 解耦 的,而且 复杂度 太高) 我们可以利用MQ的两个特性重试和死信队列来协助消费端处理:
- 消费失败后进行一定次数的重试
- 重试后也失败的话该消息丢进死信队列里
- 另外起一个线程监听消费死信队列里的消息,记录日志并且预警!
因为有重试所以消费者需要实现幂等性
六、分布式事务场景样例下面就用刚刚提到的场景:生成订单记录 -> MQ -> 增加积分;来简单讲一下Spring Cloud中应该怎么做,详细代码请 下载demo 查看。 PS:怎样安装部署RocketMQ可以参考《Apache RocketMQ 消息队列部署与可视化界面安装》
6.1. 引入依赖使用spring-cloud-stream框架来访问RocketMQ
6.2. 开启事务消息Spring Cloud Stream 是一个构建消息驱动的框架,通过抽象的定义实现应用与MQ消息队列之间的解耦,目前支持RabbitMQ、kafka和RocketMQ
消息生产者需要添加transactional: true开启 事务消息
6.3. 订单服务发送half消息6.4. 订单服务监听half消息因为开启了事务消息所以这里发送的是half消息对于消费端是不可见的
使用@RocketMQTransactionListener注解监听 半消息,并实现RocketMQLocalTransactionListener接口,该接口有两个方法
- executeLocalTransaction:用于提交本地事务
- checkLocalTransaction:用于事务回查
6.5. 积分服务消费消息如果提交事务消息失败,需等待约1分钟左右 事务回查 方法才会被调用
6.6. 消费死信队列预警注意:因为有 重试 这里如果是真实的业务需要自行实现幂等性
6.7. 测试用例监听并消费死信队列中的消息,用于记录错误日志,并且预警通知运维人员等
demo中提供了3个接口分别测试不同的场景:
-
事务成功
http://localhost:11002/success
流程如下:
- 订单创建 成功
- 提交事务消息 成功
- 消费消息增加积分 成功
-
订单创建成功但提交事务消息失败
http://localhost:11002/produceError
流程如下:
- 订单创建 成功
- 提交事务消息 失败
- 事务回查(等待1分钟左右) 成功
- 提交事务消息 成功
- 消费消息增加积分 成功
-
消费消息失败
http://localhost:11002/consumeError
流程如下:
- 订单创建 成功
- 提交事务消息 成功
- 消费消息增加积分 失败
- 重试消费消息 失败
- 进入死信队列 成功
- 消费死信队列的消息 成功
- 记录日志并发出预警 成功
https://gitee.com/zlt2000/microservices-platform/tree/master/zlt-demo/rocketmq-demo/rocketmq-transactional
相关推荐
- 【RocketMQ系列】RocketMQ集群,RocketMQ-on-DLedger集群 本文RocketMQ系列第四篇,主要介绍RocketMQ集群及如何部署自动容灾切换的 RocketMQ-on-DLedger Group。RocketMQ集群搭建ROcketMQ集群搭建有以下几种方案:「单Master模式」「多Master模式」「多Master多Slave模式-异步复制」「多Master多Slave模式-同步双写」其…
- 3DMAX提示和技巧 本主题标识使用 Civil View 的一些重要提示和技巧。常规使用屏幕分辨率至少为 1280x1024 的 Civil View。低于此分辨率时,一些面板将占用过多屏幕空间。 将视口设置为线框显示以达到最佳性能。 要尽可能简化用户界面,请在单个视口中工作并关闭 3ds Max 命令面…