06 2020 档案

Kafka-分区日志文件的索引
摘要:Kafka-分区日志文件的索引 消费者可以从kafka的任意可用偏移量位置开始读取消息。假设消费者要读取从偏移量100开始的1MB消息,那么broker必须立即定位到偏移量100(可能是在分区的任意一个片段里),然后开始从这个位置读取消息。为了帮助broker更快地定位到指定的偏移量,kafka为每 阅读全文

posted @ 2020-06-29 22:35 嘣嘣嚓 阅读(378) 评论(0) 推荐(0) 编辑

Kafka-分区日志文件的清理原理
摘要:Kafka-分区日志文件的清理原理 清理 一般情况下,kafka会根据设置的时间保留数据,把熬过时效的旧数据删除掉。 早于保留时间的旧事件会被删除,为每个键保留最新的值,从而达到清理的效果。只有当应用程序生成的事件里包含了键值对时,为这些主题设置compact策略才有意义。如果主题包含null键,清 阅读全文

posted @ 2020-06-29 22:34 嘣嘣嚓 阅读(740) 评论(0) 推荐(0) 编辑

Kafka-查看分片文件内容(分片日志文件存储格式)
摘要:kafka-文件存储格式 kafka的消息和偏移量保存在文件里。保存在磁盘上的数据格式与从生产者发送过来或者发送给消费者的消息格式是一样的。因为使用了相同的消息格式进行磁盘存储和网络传输,kafka可以使用零复制技术给消费者发送消息,同时避免了对生产者已经压缩过的消息进行解压和再压缩。 除了键、值和 阅读全文

posted @ 2020-06-28 22:52 嘣嘣嚓 阅读(1645) 评论(0) 推荐(0) 编辑

Kafka-文件管理
摘要:Kafka-文件管理 文件管理 保留数据是kafka的一个基本特性,kafaka不会一直保留数据,也不会等到所有消费者都读取了消息之后才删除消息。相反,kafka为每个主题配置了数据保留期限,规定数据被删除之前可以保留多长时间,或者清理数据之前可以保留的数据量大小。 因为在一个大文件里查找和删除消息 阅读全文

posted @ 2020-06-23 22:49 嘣嘣嚓 阅读(248) 评论(0) 推荐(0) 编辑

Kafka-分区分配规则
摘要:Kafka-分区分配规则 kafka的基本存储单元是分区。分区无法在多个broker间进行再细分,也无法在同一个broker的多个磁盘上进行再细分。所以,分区的大小受到单个挂载点可用空间的限制。 在配置kafka的时候,使用log.dirs参数来配置用于存储分区的目录清单。 分区分配 在创建主题时, 阅读全文

posted @ 2020-06-23 22:47 嘣嘣嚓 阅读(2315) 评论(0) 推荐(0) 编辑

导航

< 2025年2月 >
26 27 28 29 30 31 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 1
2 3 4 5 6 7 8
点击右上角即可分享
微信分享提示