李志涛

导航

Topics类型配置

配置项
备注
segment.bytes 分段文件大小,最大2GB
segment.ms 强制新建段文件间隔阀值时间
segment.jitter.ms

段文件抖动时间

segment.index.bytes 段索引文件大小
flush.messages

此项配置指定时间间隔:强制进行fsync日志

flush.ms 消息刷新磁盘的间隔时间
retention.bytes

topic每个分区的最大文件大小,一个topic的大小限制 = 分区数 * retention.bytes

retention.ms

如果使用“delete”的retention策略,这项配置就是指删除日志前日志保存的时间。

index.interval.bytes

当执行一个fetch操作后,需要一定的空间来扫描最近的offset大小,设置越大,代表扫描速度越快,但是也更耗内存,一般情况下不需要改变这个参数。

delete.retention.ms

日志清理的频率控制,单位为毫秒

min.compaction.lag.ms

消息在日志中保持未压缩的最短时间。 仅适用于正在压缩的日志。

min.cleanable.dirty.ratio

此配置控制日志压缩程序将尝试清除日志的频率

cleanup.policy

此配置可以设置成delete或compact。如果设置为delete,当log segment文件的大小达到上限,或者roll时间达到上限,文件将会被删除。如果设置成compact,则此文件会被清理,标记成已过时状态

file.delete.delay.ms

从文件系统中删除文件之前等待的时间

unclean.leader.election.enable

是否将不在ISR中的副本作为最后的手段选举为leader,即使这样做可能会导致数据丢失。

min.insync.replicas

当生产者设置应答为"all"(或“-1”)时,此配置指定了成功写入的副本应答的最小数。

max.message.bytes

kafka允许的最大的消息批次大小。如果增加此值,并且消费者的版本比0.10.2老,那么消费者的提取的大小也必须增加,以便他们可以获取大的消息批次。

compression.type

针对指定的topic设置最终的压缩方式。标准的压缩格式有gzip,snappy, lz4。还可以设置uncompressed,就是不压缩;设置为producer这意味着保留生产者设置的原始压缩编解码。

preallocate

创建新的日志段时在磁盘上预分配该文件,那么设为True。

message.format.version 指定消息附加到日志的消息格式版本。该值应该是一个有效的ApiVersion。例如:0.8.2, 0.9.0.0, 0.10.0,更多细节检查ApiVersion。通过设置特定的消息格式版本,并且磁盘上的所有现有消息都小于或等于指定版本。不正确地设置此值将导致消费者使用旧版本,因为他们将接收到“不认识”的格式的消息。
message.timestamp.type

定义消息中的时间戳是消息创建时间还是日志追加时间,该值应该是“CreateTime”或“LogAppendTime”

message.timestamp.difference.max.ms

broker收到消息时的时间戳和消息中指定的时间戳之间允许的最大差异。 如果log.message.timestamp.type = CreateTime,如果时间戳的差值超过此阈值,则会拒绝接受这条消息。 如果log.message.timestamp.type = LogAppendTime,则忽略此配置。允许的最大时间戳差异不应大于log.retention.ms,以避免不必要地频繁进行日志滚动。

message.downconversion.enable 此配置控制是否启用消息格式的下转换以满足消费请求。
leader.replication.throttled.replicas 在leader方面进行限制的副本列表。该列表设置以[PartitionId]的形式描述限制副本:[PartitionId]:[BrokerId],[PartitionId]:[BrokerId]:...或使用通配符‘*’限制该topic的所有副本。
follower.replication.throttled.replicas follower复制限流列表。该列表设置以[PartitionId]的形式描述限制副本:[PartitionId]:[BrokerId],[PartitionId]:[BrokerId]:...或使用通配符‘*’限制该topic的所有副本。

 

引用博客来自李志涛:https:////www.cnblogs.com/lizherui/p/12056792.html

posted on 2019-12-17 20:53  李志涛  阅读(301)  评论(0编辑  收藏  举报