|NO.Z.00007|——————————|BigDataEnd|——|Hadoop&kafka.V07|——|kafka.v07|生产与消费.v02|

一、Kafka开发实战
### --- [kafka架构与实战]

~~~     [kakfa开发实战_消息发送]
~~~     [kafka开发实战_消息消费] 
### --- 消息的发送与接收

~~~     生产者主要的对象有: KafkaProducer , ProducerRecord 。
~~~     其中KafkaProducer 是用于发送消息的类, ProducerRecord 类用于封装Kafka的消息。
二、KafkaProducer 的创建需要指定的参数和含义:
### --- KafkaProducer 的创建需要指定的参数和含义:

~~~     其他参数可以从org.apache.kafka.clients.producer.ProducerConfig 
~~~     中找到我们后面的内容会介绍到。
~~~     消费者生产消息后,需要broker端的确认,可以同步确认,也可以异步确认。
~~~     同步确认效率低,异步确认效率高,但是需要设置回调对象。
参数 说明
bootstrap.servers 配置生产者如何与broker建立连接。该参数设置的是初始化参数。
如果生产者需要连接的是Kafka集群,则这里配置集群中几个broker的地址,而不是全部,
当生产者连接上此处指定的broker之后,在通过该连接发现集群中的其他节点。
key.serializer 要发送信息的key数据的序列化类。
设置的时候可以写类名,也可以使用该类的Class对象。
value.serilizeracks 要发送消息的alue数据的序列化类。
设置的时候可以写类名,也可以使用该类的Class对象。
acks 默认值:all。acks=0:
生产者不等待broker对消息的确认,只要将消息放到缓冲区,就认为消息已经发送完成。
该情形不能保证broker是否真的收到了消息,retries配置也不会生效。
发送的消息的返回的消息偏移量永远是-1。
acks=1
表示消息只需要写到主分区即可,然后就响应客户端,而不等待副本分区的确认。
在该情形下,如果主分区收到消息确认之后就宕机了,
而副本分区还没来得及同步该消息,则该消息丢失。
acks=all
首领分区会等待所有的ISR副本分区确认记录。
该处理保证了只要有一个ISR副本分区存活,消息就不会丢失。
这是Kafka最强的可靠性保证,等效于acks=-1
retries retries重试次数
当消息发送出现错误的时候,系统会重发消息。跟客户端收到错误时重发一样。
如果设置了重试,还想保证消息的有序性,需要设置
MAX_IN_FLIGHT_REQUESTS_PER_CONNECTION=1
否则在重试此失败消息的时候,其他的消息可能发送成功了

 
 
 
 
 
 
 
 
 

Walter Savage Landor:strove with none,for none was worth my strife.Nature I loved and, next to Nature, Art:I warm'd both hands before the fire of life.It sinks, and I am ready to depart
                                                                                                                                                   ——W.S.Landor

 

posted on   yanqi_vip  阅读(24)  评论(0编辑  收藏  举报

相关博文:
阅读排行:
· 无需6万激活码!GitHub神秘组织3小时极速复刻Manus,手把手教你使用OpenManus搭建本
· Manus爆火,是硬核还是营销?
· 终于写完轮子一部分:tcp代理 了,记录一下
· 别再用vector<bool>了!Google高级工程师:这可能是STL最大的设计失误
· 单元测试从入门到精通
< 2025年3月 >
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5

导航

统计

点击右上角即可分享
微信分享提示