摘要: 应用程序使用KafkaConsumer向Kafka订阅主题,并从订阅的主题上接收消息。Kafka消费者从属于消费者群组,一个群组里的消费者订阅的是同一个主题,每个消费者接收主题的一部分分区的消息。 一个分区不能被一个消费者群组里的多个消费者消费,因此如果消费者超过主题的分区数量,那么就有一部分消费者 阅读全文
posted @ 2019-02-03 22:23 Mars.wang 阅读(182) 评论(0) 推荐(0) 编辑
摘要: 向Kafka写入消息从创建一个ProducerRecord对象开始,ProducerRecord需要包含目标主题和要发送的内容,我们还可以指定键或分区,在发送ProducerRecord对象时,生产者要先把键和值对象序列化成字节数组。 接下来数据被传给分区器,如果ProducerRecord指定了分 阅读全文
posted @ 2019-02-03 18:21 Mars.wang 阅读(187) 评论(0) 推荐(0) 编辑
摘要: Kafka是使用java开发的程序,所以它可以运行在多种操作系统上,安装Kafka之前,需要先安装Java环境,再安装zookeeper broker常规配置 1.broker.id 每个broker都需要有一个标识符,使用broker.id来表示,在整个集群上必须唯一,建议把他们设置成与机器名具有 阅读全文
posted @ 2019-02-03 16:55 Mars.wang 阅读(136) 评论(0) 推荐(0) 编辑
摘要: Kafka是一款基于发布和订阅的消息系统。一般被称为分布式提交日志或分布式流平台。 Kafka系统是按照一定的顺序持久化保存的,可以按需读取。 Kafka的数据单元被称为消息。类似于数据库中表的一行记录,消息由字节组成,所以没有特别的格式和含义。 消息有一个可选的元数据,就是键,键也是一个字节数组。 阅读全文
posted @ 2019-02-03 16:32 Mars.wang 阅读(265) 评论(0) 推荐(0) 编辑