kafka查看数据_Kafka 数据积压情况查看

导述
由于消息消费速度处理慢或是消费端故障会导致数据产生积压。

那怎么查看数据积压量呢?

Consumer-Groups管理
在Kafka 的bin目录下提供了 kafka-consumer-groups.sh 脚本。此脚本用于管理消费情况。

查询消费者组

$KAFKA_DIR/bin/kafka-consumer-groups.sh --bootstrap-server localhost:9092 --list

查询消费者组详情

$KAFKA_DIR/bin/kafka-consumer-groups.sh --bootstrap-server localhost:9092 --describe --group groupname

 

 

消费积压情况分析

LogEndOffset :下一条将要被加入到日志的消息的位移

CurrentOffset :当前消费的位移

LAG :消息堆积量

消息堆积量:消息中间件服务端中所留存的消息与消费掉的消息之间的差值即为消息堆积量也称之为消费滞后量

 

 

LogEndOffset:代表Partition的最高日志位移。简称LEO

 

 

 

消息发送到LeaderA之后会更新LEO的值,Follower1和Fllower2也会实时拉取LeaderA中的消息来更新自己,HW就表示A、B、C三者同时达到的日志位移。也就是A、B、C三者中LEO最小的那个值。由于B、C拉取A消息之间延时问题,所有HW必然不会与Leader的LEO相等,即LEO>=HW

重设消费者组位移

最早处

$KAFKA_DIR/bin/kafka-consumer-groups.sh --bootstrap-server localhost:9092 --group groupname --reset-offsets --all-topics --to-earliest --execute

最新处

$KAFKA_DIR/bin/kafka-consumer-groups.sh --bootstrap-server localhost:9092 --group groupname --reset-offsets --all-topics --to-latest --execute

某个位置

$KAFKA_DIR/bin/kafka-consumer-groups.sh --bootstrap-server localhost:9092 --group groupname --reset-offsets --all-topics --to-offset 2000 --execute

调整到某个时间之后得最早位移

$KAFKA_DIR/bin/kafka-consumer-groups.sh --bootstrap-server localhost:9092 --group groupname --reset-of

 

 

转载自:https://blog.csdn.net/weixin_35978903/article/details/113414175

 

posted @   听&夏  阅读(1378)  评论(0编辑  收藏  举报
相关博文:
阅读排行:
· 25岁的心里话
· 基于 Docker 搭建 FRP 内网穿透开源项目(很简单哒)
· 闲置电脑爆改个人服务器(超详细) #公网映射 #Vmware虚拟网络编辑器
· 一起来玩mcp_server_sqlite,让AI帮你做增删改查!!
· 零经验选手,Compose 一天开发一款小游戏!
点击右上角即可分享
微信分享提示