|NO.Z.00052|——————————|BigDataEnd|——|Hadoop&Flink.V07|——|Flink.v07|Flink Connector|kafka|消费策略|
一、消费策略
### --- 消费策略
~~~ # setStartFromGroupOffsets()【默认消费策略】
~~~ 默认读取上次保存的offset信息
~~~ 如果是应用第一次启动,读取不到上次的offset信息,
~~~ 则会根据这个参数auto.offset.reset的值来进行消费数据
~~~ # setStartFromEarliest()
~~~ 从最早的数据开始进行消费,忽略存储的offset信息
~~~ # setStartFromLatest()
~~~ 从最新的数据进行消费,忽略存储的offset信息
~~~ # setStartFromSpecificOffsets(Map<KafkaTopicPartition, Long>)
~~~ 从指定位置进行消费
~~~ 当checkpoint机制开启的时候,
~~~ KafkaConsumer会定期把kafka的offset信息还有其他operator的状态信息一块保存起来。
~~~ 当job失败重启的时候,Flink会从最近一次的checkpoint中进行恢复数据,重新消费kafka中的数据。
~~~ 为了能够使用支持容错的kafka Consumer,
~~~ 需要开启checkpointenv.enableCheckpointing(5000); // 每5s checkpoint一次
Walter Savage Landor:strove with none,for none was worth my strife.Nature I loved and, next to Nature, Art:I warm'd both hands before the fire of life.It sinks, and I am ready to depart
——W.S.Landor
分类:
bdv020-flink
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 全程不用写代码,我用AI程序员写了一个飞机大战
· MongoDB 8.0这个新功能碉堡了,比商业数据库还牛
· 记一次.NET内存居高不下排查解决与启示
· 白话解读 Dapr 1.15:你的「微服务管家」又秀新绝活了
· DeepSeek 开源周回顾「GitHub 热点速览」