摘要: spark streaming中维护kafka偏移量到外部介质 以kafka偏移量维护到redis为例。 redis存储格式 使用的数据结构为 ,其中key为 ,value为 。 例如 这个 下有3个分区,则key value结构如下: 的偏移量为x 的偏移量为y 的偏移量为z 消费时指定offse 阅读全文
posted @ 2019-04-03 19:48 bener 阅读(1626) 评论(0) 推荐(0) 编辑