kafka消费读取不了
问题一:
启动storm时,发现kafka一直读取不了数据,但是查询时,仍有数据没有读取:
一直读取不了,看了下代码,是kafka消费时,一直读取不了数据:
查询,很符合kafka重复读取引起的问题。
详情见链接:Kafka重启Consumer后抓不到数据的问题
确实storm读取时是自动提交的,并且修改group,可以正常运行。
因为是在开发环境,所以只是想测试下storm的功能,想让storm程序跑起来,产生数据流。一般这种问题,直接向topic中插入数据即能读取数据。
所以,可以不是问题一一起的问题。
问题二:group存在问题
后来发现一个查询异常,下面的查询偏移量shell命令只有在有程序使用该group时才能正常使用:
bin/kafka-consumer-groups.sh --bootstrap-server 10.100.3.176:9092 --describe --group jobLog
否则,会连接不上。这个问题一直不知道是什么原因。因为后来组中成员吧kafka重新启动了。
只需要重新启动kafka,这个问题就会解决掉。
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· AI与.NET技术实操系列:基于图像分类模型对图像进行分类
· go语言实现终端里的倒计时
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
· 25岁的心里话
· 闲置电脑爆改个人服务器(超详细) #公网映射 #Vmware虚拟网络编辑器
· 基于 Docker 搭建 FRP 内网穿透开源项目(很简单哒)
· 零经验选手,Compose 一天开发一款小游戏!
· 一起来玩mcp_server_sqlite,让AI帮你做增删改查!!