spring boot kafak 自动配置类为 org.springframework.boot.autoconfigure.kafka.KafkaProperties

@ConfigurationProperties(prefix = "spring.kafka")
public class KafkaProperties {
}

1:spring.kafka.bootstrap-servers 配置kafak的broker地址,格式为 host:port,可以配置多个,用“,”隔开;

2:spring.kafka.client-id 发出请求时传递给服务器的ID,用于服务器端日志记录;

 

消费者配置:

3:spring.kafka.consumer.bootstrap-servers   配置kafak customer 的broker地址,格式为 host:port,可以配置多个,用“,”隔开;优先级比spring.kafka.bootstrap-servers高,当不设置时,使用spring.kafka.bootstrap-servers的值;

4:spring.kafka.consumer.client-id  发出请求时传递给服务器的ID,用于服务器端日志记录,不设置时,系统会自动生成;

5:spring.kafka.consumer.group-id  设置当前消费者所在组的名称;

6:spring.kafka.consumer.enable-auto-commit  消费者的消费记录offset是否后台自动提交;

7:spring.kafka.consumer.auto-commit-interval  当消费者的消费记录offset是否后台自动提交时,多长时间自动提交一次;

8:spring.kafka.consumer.auto-offset-reset  当Kafka中没有初始偏移量或服务器上不再存在当前偏移量时该怎么办,

  earliest:自动将偏移量重置为最早的偏移量;

  latest:自动将偏移量重置为最迟的偏移量;

  none:如果未找到消费者组的先前偏移量,则将异常抛出给消费者;

  exception:向消费者抛出异常;

9:spring.kafka.consumer.max-poll-records  一次调用poll()返回的最大记录数,默认是500;

10:spring.kafka.consumer.fetch-max-wait  当没有足够的数据(数据的大小不小于 fetch.min.bytes)返回给客户端时,服务器最大阻塞时间;

11:spring.kafka.consumer.fetch-min-size  服务器应为获取请求返回的最小数据量(以字节为单位)

12:spring.kafka.consumer.heartbeat-interval    消费者协调员之间心跳的预期时间(单位是毫秒)

13:spring.kafka.consumer.key-deserializer   消费者所有keys的序列化类,默认是 org.apache.kafka.common.serialization.StringDeserializer

14:spring.kafka.consumer.value-deserializer   消费者所有values的序列化类,默认是 org.apache.kafka.common.serialization.StringDeserializer 

15:spring.kafka.consumer.properties    消费者其他属性配置,类型 java.util.Map<java.lang.String,java.lang.String>;

 

生产者配置:

1:spring.kafka.producer.bootstrap-servers   配置kafak produce的broker地址,格式为 host:port,可以配置多个,用“,”隔开;优先级比spring.kafka.bootstrap-servers高,当不设置时,使用spring.kafka.bootstrap-servers的值;

2:spring.kafka.producer.client-id   发出请求时传递给服务器的ID,用于服务器端日志记录,不设置时,系统会自动生成;

3:spring.kafka.producer.acks  生产者要求数据有多少个副本接收到数据才算发送成功,类型是java.lang.String,

  “0” :表示生产者数据发送到leader就算写入成功,但是如果leader在把数据写到本地磁盘时报错,就会数据丢失,akcs设置为0时,kafka可以达到最大的吞吐量;

  “1":表示生产者数据发送到leader并写入到磁盘才算写入成功,但是如果数据在同步到其他副本时,leader挂了,其他副本被选举为新leader,那么就会有数据丢失;

  “-1”, “all“:表示生产者把数据发送到leader,并同步到其他副本,才算数据写入成功,这种模式一般不会产生数据丢失,但是kafka的吞吐量会很低;

4:spring.kafka.producer.batch-size   默认批处理大小(以字节为单位)。 小批量将使分批变得不那么普遍,并且可能会降低吞吐量(零批量将完全禁用批处理)。

5:spring.kafka.producer.buffer-memory   生产者可以用来缓冲等待发送到服务器的记录的内存总字节数。

6:spring.kafka.producer.compression-type   生产者生成的所有数据的压缩类型

7:spring.kafka.producer.key-deserializer   生产者所有keys的序列化类,默认是 org.apache.kafka.common.serialization.StringDeserializer

8:spring.kafka.producer.value-deserializer   生产者所有values的序列化类,默认是 org.apache.kafka.common.serialization.StringDeserializer 

9:spring.kafka.producer.retries   当数据发送失败时,可以重试发送的次数

10:spring.kafka.producer.transaction-id-prefix   不为空时,为生产者启用事务支持

11:spring.kafka.producer.properties   生产者其他属性配置,类型 java.util.Map<java.lang.String,java.lang.String>;

 

spring-kafka 消费者监听器:

1:spring.kafka.listener.type  监听类型,类型 Listener.Type,

  Type.SINGLE:一次调用一个ConsumerRecord的端点,默认

  Type.BATCH:用一批ConsumerRecords调用端点。

2:spring.kafka.listener.ack-mode   当 auto.commit.enable 设置为false时,表示kafak的offset由customer手动维护,spring-kafka提供了通过ackMode的值表示不同的手动提交方式;

  AckMode.RECORD   当每一条记录被消费者监听器(ListenerConsumer)处理之后提交

  AckMode.BATCH   当每一批poll()的数据被消费者监听器(ListenerConsumer)处理之后提交 

  AckMode.TIME   当每一批poll()的数据被消费者监听器(ListenerConsumer)处理之后,距离上次提交时间大于TIME时提交

  AckMode.COUNT  当每一批poll()的数据被消费者监听器(ListenerConsumer)处理之后,被处理record数量大于等于COUNT时提交

  AckMode.COUNT_TIME   上述 TIM 或 COUNT 有一个条件满足时提交

  AckMode.MANUAL    当每一批poll()的数据被消费者监听器(ListenerConsumer)处理之后, 手动调用Acknowledgment.acknowledge()后提交

  AckMode.MANUAL_IMMEDIATE    手动调用Acknowledgment.acknowledge()后立即提交 

3:spring.kafka.listener.client-id    监听器的使用者的client.id属性的前缀

4:spring.kafka.listener.concurrency   在监听器容器中运行的线程数,表示启动多少个并发的消费者,这个值不能大于实际消费的主题的分区数

5:spring.kafka.listener.poll-timeout   消费者一次poll方法的超时时间,当在一次poll方法中,如果一次请求不到数据或者请求的数据小于设定的值,那么poll方法会继续执行请求,直到超时或者满足设置的条件

6:spring.kafka.listener.no-poll-threshold  

7:spring.kafka.listener.ack-count   当 spring.kafka.listener.ack-mode 设置为 AckMode.COUNT 或者 AckMode.COUNT_TIME 时生效,表示当一个poll数据消费后,处理的记录数大于多少时,触发提交

8:spring.kafka.listener.ack-time   当 spring.kafka.listener.ack-mode 设置为 AckMode.TIME  或者 AckMode.COUNT_TIME 时生效,表示当一个poll数据消费后,距离上次提交时间大于 ack-time 时提交

9:spring.kafka.listener.idle-event-interval   发布空闲的消费者事件之间的时间(未接收到数据)

10:spring.kafka.listener.monitor-interval   无反应的消费者检查之间的时间。 如果未指定持续时间后缀,则将使用秒

 

posted on 2020-03-26 16:00  布咚嘞  阅读(2713)  评论(0编辑  收藏  举报