06 2017 档案

摘要:Apache Kafka近日推出0.11版本。这是一个里程碑式的大版本,特别是Kafka从这个版本开始支持“exactly-once”语义(下称EOS, exactly-once semantics)。本文简要介绍一下0.11版本主要的功能变更,下面中的每一项都值得专门写篇文章好好聊聊。 一、修改u 阅读全文
posted @ 2017-06-30 14:16 huxihx 阅读(2492) 评论(1) 推荐(1) 编辑
摘要:在上一篇《Kafka Consumer多线程实例》中我们讨论了KafkaConsumer多线程的两种写法:多KafkaConsumer多线程以及单KafkaConsumer多线程。在第二种用法中我使用的是自动提交的方式,省去了多线程提交位移的麻烦。很多人跑来问如果是手动提交应该怎么写?由于Kafka 阅读全文
posted @ 2017-06-28 15:33 huxihx 阅读(11576) 评论(6) 推荐(4) 编辑
摘要:Producer拦截器(interceptor)是个相当新的功能,它和consumer端interceptor是在Kafka 0.10版本被引入的,主要用于实现clients端的定制化控制逻辑。 对于producer而言,interceptor使得用户在消息发送前以及producer回调逻辑前有机会 阅读全文
posted @ 2017-06-24 08:37 huxihx 阅读(10464) 评论(0) 推荐(0) 编辑
摘要:前段时间在Kafka QQ群中有人问及此事——关于Java consumer如何动态修改topic订阅的问题。仔细一想才发现这的确是个好问题,因为如果简单地在另一个线程中直接持有consumer实例然后调用subscribe进行修改,consumer端必然会抛出异常ConcurrentModific 阅读全文
posted @ 2017-06-17 16:55 huxihx 阅读(15708) 评论(6) 推荐(0) 编辑
摘要:本文主要参考社区0.11版本Controller的重设计方案,试图给大家梳理一下Kafka controller这个组件在设计上的一些重要思考。众所周知,Kafka中有个关键组件叫controller,负责管理和协调Kafka集群。网上关于controller的源码分析也有很多,本文就不再大段地列出 阅读全文
posted @ 2017-06-10 21:39 huxihx 阅读(6853) 评论(9) 推荐(2) 编辑
摘要:今天带来一篇译文“调优Apache Kafka集群”,里面有一些观点并无太多新颖之处,但总结得还算详细。该文从四个不同的目标出发给出了各自不同的参数配置,值得大家一读~ 原文地址请参考:https://www.confluent.io/blog/optimizing-apache-kafka-dep 阅读全文
posted @ 2017-06-03 11:44 huxihx 阅读(3493) 评论(0) 推荐(2) 编辑