摘要:
2016年5月8日 19:46 | 阅读140 今天,2016年5月8日,我人生第一次握手会,也是wuli源源的第一次握手会。虽然人气没有旁边的阿黄家高,但前期还是一波势头蛮足的。一点左右入的场,在外面找组织找了我十分钟愣是没找到,后来和四不像supu一起在源源的队列外等若组织,结果因为不能在过道里 阅读全文
摘要:
4.1 程序入口 Kafka.scala def main(args: Array[String]): Unit = { try { // 获取参数相关信息 val serverProps = getPropsFromArgs(args) // 配置服务 val server = buildServ 阅读全文
摘要:
3.1 初始化 3.1.1 程序入口 1)从用户自己编写的 main 方法开始阅读 package com.atguigu.kafka.consumer; import org.apache.kafka.clients.consumer.*; import org.apache.kafka.comm 阅读全文
摘要:
2.1 初始化 2.1.1 程序入口 从用户自己编写的 main 方法开始阅读 package com.atguigu.kafka.producer; import org.apache.kafka.clients.producer.KafkaProducer; import org.apache. 阅读全文
摘要:
5.1 如何提升吞吐量 如何提升吞吐量? 1)提升生产吞吐量 buffer.memory:发送消息的缓冲区大小,默认值是 32m,可以增加到 64m。 batch.size:默认是 16k。如果 batch 设置太小,会导致频繁网络请求,吞吐量下降; 如果 batch 太大,会导致一条消息需要等待很 阅读全文
摘要:
4.1 Kafka 消费者核心参数配置 参数名称 描述 bootstrap.servers。 向 Kafka 集群建立初始连接用到的 host/port 列表 key.deserializer 和 value.deserializer 指定接收消息的 key 和 value 的反序列化类型。一定要写 阅读全文
摘要:
3.1 Broker 核心参数配置 参数名称 描述 replica.lag.time.max.ms ISR 中,如果 Follower 长时间未向 Leader 发送通 信请求或同步数据,则该 Follower 将被踢出 ISR。 该时间阈值,默认 30s。 auto.leader.rebalanc 阅读全文
摘要:
3.1.1 Updating Broker Configs From Kafka version 1.1 onwards, some of the broker configs can be updated without restarting the broker. See the Dynamic 阅读全文
摘要:
1.1 场景说明 100 万日活,每人每天 100 条日志,每天总共的日志条数是 100 万 * 100 条 = 1 亿条。 1 亿/24 小时/60 分/60 秒 = 1150 条/每秒钟。 每条日志大小:0.5k - 2k(取 1k)。 1150 条/每秒钟 * 1k ≈ 1m/s 。 高峰期每 阅读全文
摘要:
SpringBoot 是一个在 JavaEE 开发中非常常用的组件。可以用于 Kafka 的生产者,也可以 用于 SpringBoot 的消费者。 1)在 IDEA 中安装 lombok 插件 在 Plugins 下搜索 lombok 然后在线安装即可,安装后注意重启 2)SpringBoot 环境 阅读全文
摘要:
7.1 Kafka-Kraft 架构 左图为 Kafka 现有架构,元数据在 zookeeper 中,运行时动态选举 controller,由 controller 进行 Kafka 集群管理。右图为 kraft 模式架构(实验性),不再依赖 zookeeper 集群, 而是用三台 controll 阅读全文