(重点)如何保证消息的幂等性?(如何保证消息不被重复消费?)

消息重复消费,会造成数据混乱,特别是在涉及消费和财务系统里,此问题的解决显得尤为重要。

以kafka为例

关键字:消费端自动提交offset;写库或者redis时,先去查一下主键、key等是否存在

上图中,最顶上的文本框丢失的文字:并通知kafka当前最大offset;

最右边的文本框丢失的文字:数据传递过来;

幂等性,通俗来说,就是一个数据或者一个请求给你重复来多次,你得确保对应的数据是不会改变的,不能出错。

  例如二次消费的时候,自己判断一下,若已经消费过了,直接扔了,不就保留一条数据了吗

所以重复消费的解决方案是:

方法1,比如消费者拿数据是要写库的,先根据主键查一下,有就不插入或者update,否则就插入

方法2,比如消费者是要写redis,反正每次都是set,天然幂等性

方法3,生产者发送每条数据时,加一个全局的唯一id,类似订单id,到消费者消费的时候,先拿id去比如redis里查一下,之前若没消费过,就处理id写redis,若消费过,就不处理了,保证别重复消费相同 的消息即可;

方法4,或者基于数据库的唯一键来保证重复数据不会重复插入多条,跟方法1类似。

 

posted on   黑子菜园  阅读(854)  评论(0编辑  收藏  举报

编辑推荐:
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· 开发者必知的日志记录最佳实践
· SQL Server 2025 AI相关能力初探
· Linux系列:如何用 C#调用 C方法造成内存泄露
阅读排行:
· 无需6万激活码!GitHub神秘组织3小时极速复刻Manus,手把手教你使用OpenManus搭建本
· Manus爆火,是硬核还是营销?
· 终于写完轮子一部分:tcp代理 了,记录一下
· 别再用vector<bool>了!Google高级工程师:这可能是STL最大的设计失误
· 单元测试从入门到精通

导航

< 2025年3月 >
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5

统计

点击右上角即可分享
微信分享提示