|NO.Z.00044|——————————|BigDataEnd|——|Hadoop&kafka.V29|——|kafka.v29|增加分区.v02|
一、必要参数配置
1、必要参数配置
kafka-topics.sh --config xx=xx --config yy=yy
二、配置给主题的参数。
属性 | 默认值 | 服务器默认属性 | 说明 |
cleanup.policy | delete | log.cleanup.policy | 要么是”delete“要么是”compact“; 这个字符串指明了针对旧日志部分的利用方式; 默认方式("delete")将会丢弃旧的部分当他们的回收时间或者尺寸限制到达时。 ”compact“将会进行日志压缩 |
compression.type | none | producer用于压缩数据的压缩类型。 默认是无压缩。 正确的选项值是none、gzip、snappy、lz4。 压缩最好用于批量处理,批量处理消息越多,压缩性能越好。 |
|
max.message.bytes | 1000000 | max.message.bytes | kafka追加消息的最大字节数。 注意如果你增大这个字节数, 也必须增大consumer的fetch字节数, 这样consumer才能fetch到这些最大字节数的消息。 |
min.cleanable.dirty.ratio | 0.5 | min.cleanable.dirty.ratio | 此项配置控制log压缩器试图进行清除日志的频率。 默认情况下,将避免清除压缩率超过50%的日志。 这个比率避免了最大的空间浪费 |
min.insync.replicas | 1 | min.insync.replicas | 当producer设置request.required.acks为-1时, min.insync.replicas指定replicas的最小数目 (必须确认每一个repica的写数据都是成功的), 如果这个数目没有达到,producer会产生异常。 |
retention.bytes | None | log.retention.bytes | 如果使用“delete”的retention策略, 这项配置就是指在删除日志之前,日志所能达到的最大尺寸。 默认情况下,没有尺寸限制而只有时间限制 |
retention.ms | 7 days | log.retention.minutes | 如果使用“delete”的retention策略, 这项配置就是指删除日志前日志保存的时间。 segment.bytes 1GB log.segment.bytes kafka中log 日志是分成一块块存储的,此配置是指log日志划分成块的大小 |
segment.index.bytes | 10MB | log.index.size.max.bytes | 此配置是有关offsets和文件位置之间映射的索引文件的大小; 一般不需要修改这个配置 |
segment.jitter.ms | 0 | log.roll.jitter.{ms,hours} | The maximum jitter to subtract from logRollTimeMillis. |
segment.ms | 7 days | log.roll.hours | 即使log的分块文件没有达到需要删除、 压缩的大小,一旦log的时间达到这个上限, 就会强制新建一个log分块文件 |
unclean.leader.election.enable | true | 指明了是否能够使不在ISR中replicas设置用来作为leader |
Walter Savage Landor:strove with none,for none was worth my strife.Nature I loved and, next to Nature, Art:I warm'd both hands before the fire of life.It sinks, and I am ready to depart
——W.S.Landor
分类:
bdv013-kafka
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 无需6万激活码!GitHub神秘组织3小时极速复刻Manus,手把手教你使用OpenManus搭建本
· Manus爆火,是硬核还是营销?
· 终于写完轮子一部分:tcp代理 了,记录一下
· 别再用vector<bool>了!Google高级工程师:这可能是STL最大的设计失误
· 单元测试从入门到精通