|NO.Z.00007|——————————|BigDataEnd|——|Hadoop&kafka.V07|——|kafka.v07|生产与消费.v02|
一、Kafka开发实战
### --- [kafka架构与实战]
~~~ [kakfa开发实战_消息发送]
~~~ [kafka开发实战_消息消费]
### --- 消息的发送与接收
~~~ 生产者主要的对象有: KafkaProducer , ProducerRecord 。
~~~ 其中KafkaProducer 是用于发送消息的类, ProducerRecord 类用于封装Kafka的消息。

二、KafkaProducer 的创建需要指定的参数和含义:
### --- KafkaProducer 的创建需要指定的参数和含义:
~~~ 其他参数可以从org.apache.kafka.clients.producer.ProducerConfig
~~~ 中找到我们后面的内容会介绍到。
~~~ 消费者生产消息后,需要broker端的确认,可以同步确认,也可以异步确认。
~~~ 同步确认效率低,异步确认效率高,但是需要设置回调对象。
参数 | 说明 |
bootstrap.servers | 配置生产者如何与broker建立连接。该参数设置的是初始化参数。 如果生产者需要连接的是Kafka集群,则这里配置集群中几个broker的地址,而不是全部, 当生产者连接上此处指定的broker之后,在通过该连接发现集群中的其他节点。 |
key.serializer | 要发送信息的key数据的序列化类。 设置的时候可以写类名,也可以使用该类的Class对象。 |
value.serilizeracks | 要发送消息的alue数据的序列化类。 设置的时候可以写类名,也可以使用该类的Class对象。 |
acks | 默认值:all。acks=0: 生产者不等待broker对消息的确认,只要将消息放到缓冲区,就认为消息已经发送完成。 该情形不能保证broker是否真的收到了消息,retries配置也不会生效。 发送的消息的返回的消息偏移量永远是-1。 acks=1 表示消息只需要写到主分区即可,然后就响应客户端,而不等待副本分区的确认。 在该情形下,如果主分区收到消息确认之后就宕机了, 而副本分区还没来得及同步该消息,则该消息丢失。 acks=all 首领分区会等待所有的ISR副本分区确认记录。 该处理保证了只要有一个ISR副本分区存活,消息就不会丢失。 这是Kafka最强的可靠性保证,等效于acks=-1 |
retries | retries重试次数 当消息发送出现错误的时候,系统会重发消息。跟客户端收到错误时重发一样。 如果设置了重试,还想保证消息的有序性,需要设置 MAX_IN_FLIGHT_REQUESTS_PER_CONNECTION=1 否则在重试此失败消息的时候,其他的消息可能发送成功了 |
Walter Savage Landor:strove with none,for none was worth my strife.Nature I loved and, next to Nature, Art:I warm'd both hands before the fire of life.It sinks, and I am ready to depart
——W.S.Landor
分类:
bdv013-kafka
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 无需6万激活码!GitHub神秘组织3小时极速复刻Manus,手把手教你使用OpenManus搭建本
· Manus爆火,是硬核还是营销?
· 终于写完轮子一部分:tcp代理 了,记录一下
· 别再用vector<bool>了!Google高级工程师:这可能是STL最大的设计失误
· 单元测试从入门到精通