随笔分类 - Kafka
摘要:摘要 在这一篇文章中,我将向你介绍消费者的一些参数。 这些参数影响了每次poll()请求的数据量,以及等待时间。 在这之后,我将向你介绍Kafka用来保证消费者扩展性以及可用性的设计——消费者组。 在消费者组的介绍中,我将重点放在了Rebalance的过程上,因为这是一个很重要又经常发生,还会导致消
阅读全文
摘要:摘要 在这一篇的文章中,我将从Sarama的同步生产者和异步生产者怎么创建开始讲起,然后我将向你介绍生产者中的各个参数是什么,怎么使用。 然后我将从创建生产者的代码开始,按照代码的调用流程慢慢深入,直到发送消息并接收到响应。 这个过程跟上面的文章说到的kafka各个层次其实是有对应关系的。 1.如何
阅读全文
摘要:摘要 在这篇文章中,我将从消息在Kafka中的物理存储方式讲起,介绍分区-日志段-日志的各个层次。 然后我将接着上一篇文章的内容,把消费者的内容展开讲一讲,区分消费者与消费者组,以及这么设计有什么用。 根据消费者的消费可能引发的问题,我将介绍Kafka中的位移主题,以及消费者要怎么提交位移到这个位移
阅读全文
摘要:摘要 在本文中,我将从为什么需要消息队列开始讲起,举两个小例子,跟你聊聊目前消息队列的一些使用场景。 比如消息队列在复杂系统中的解耦,又比如消息队列在高并发下的场景如果让流量变得更平缓。 随后我会跟你介绍一下Kafka中的一些重要的名词,比如主题、Broker、分区等。 注意,Kafka不仅仅是消息
阅读全文