随笔分类 - Kafka
摘要:转自:http://blog.csdn.net/honglei915/article/details/49683065 Kafka将数据持久化到了硬盘上,允许你配置一定的策略对数据清理,清理的策略有两个,删除和压缩。 数据清理的方式 删除 log.cleanup.policy=delete启用删除策
阅读全文
摘要:转自:http://blog.csdn.net/haoyifen/article/details/54692503 kafka与其他消息队列不同的是, kafka的消费者状态由外部( 消费者本身或者类似于Zookeeper之类的外部存储 )进行维护, 所以kafka的消费就更加灵活, 但是也带来了很
阅读全文
摘要:Kafka 协议实现中的内存优化 Jusfr 原创,转载请注明来自博客园 Request 与 Response 的响应格式 Request 与 Response 都是以 长度+内容 形式描述, 见于 A Guide To The Kafka Protocol Request 除了 Size+ApiK
阅读全文
摘要:转自:http://www.cnblogs.com/f1194361820/p/6108025.html Kafka Connect 简介 Kafka Connect 是一个可以在Kafka与其他系统之间提供可靠的、易于扩展的数据流处理工具。使用它能够使得数据进出Kafka变得很简单。Kafka C
阅读全文
摘要:转自:http://www.cnblogs.com/f1194361820/p/6054148.html Kafka Consumer 通过之前的架构介绍,对Consumer有了一个初步的了解。这里再深入一点来了解一下Consumer。 1、Consumer Group与Topic订阅 1.1 Co
阅读全文
摘要:转自:http://www.cnblogs.com/f1194361820/p/6048429.html 通过前面的架构简述,知道了Producer是用来产生消息记录,并将消息以异步的方式发送给指定的topic的某个partition的。另外还知道,它保证了消息的有序的发送。那么它是如何做到这些的呢
阅读全文
摘要:转:http://www.cnblogs.com/f1194361820/p/6026313.html Kafka 架构简介 Kafka是一个开源的、分布式的、可分区的、可复制的基于日志提交的发布订阅消息系统。它具备以下特点: ·消息持久化: 为了从大数据中获取有价值的信息,任何信息的丢失都是负担不
阅读全文
摘要:原文档地址:http://kafka.apache.org/documentation.html ############################# System ##############################唯一标识在集群中的ID,要求是正数。broker.id=0#服务端口
阅读全文