kafka安装和使用

简介

Kafka 是一种高吞吐的分布式发布订阅消息系统，能够替代传统的消息队列用于解耦合数据处理，缓存未处理消息等，同时具有更高的吞吐率，支持分区、多副本、冗余，因此被广泛用于大规模消息数据处理应用。Kafka 支持Java 及多种其它语言客户端，可与Hadoop、Storm、Spark等其它大数据工具结合使用。

安装JDK

Kafka 使用Zookeeper 来保存相关配置信息，Kafka及Zookeeper 依赖Java 运行环境，从oracle网站下载JDK 安装包，解压安装：

具体见：http://www.cnblogs.com/JThinking/p/9408214.html

也可以选择yum install安装，相应设置环境变量。

安装kafka

从官网下载Kafka 安装包，解压安装：

tar zxvf kafka_2.11-2.0.0.tgz
mv kafka_2.11-2.0.0 kafka
cd kafka

1.启动Zookeeper
使用安装包中的脚本启动单节点Zookeeper实例：
bin/zookeeper-server-start.sh -daemon config/zookeeper.properties
2.启动Kafka 服务
使用kafka-server-start.sh 启动kafka 服务：
bin/kafka-server-start.sh -daemon config/server.properties

3.创建topic
使用kafka-topics.sh 创建单分区单副本的topic test：
bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test
查看topic：
bin/kafka-topics.sh --list --zookeeper localhost:2181
test
4.产生消息
使用kafka-console-producer.sh 发送消息：
bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test
Hello Kafka！
5.消费消息
使用kafka-console-consumer.sh 接收消息并在终端打印：
bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --from-beginning
Hello Kafka!

Kafka基本配置

Kafka在config目录下提供了一个基本的配置文件。为了保证可以远程访问Kafka，我们需要修改两处配置。
打开config/server.properties文件，在很靠前的位置有listeners和 advertised.listeners两处配置的注释，去掉这两个注释，并且根据当前服务器的IP修改如下：

# The address the socket server listens on. It will get the value returned from
# java.net.InetAddress.getCanonicalHostName() if not configured.
# FORMAT:
# listeners = listener_name://host_name:port
# EXAMPLE:
# listeners = PLAINTEXT://your.host.name:9092
listeners=PLAINTEXT://192.168.1.247:9092

# Hostname and port the broker will advertise to producers and consumers. If not set,
# it uses the value for "listeners" if configured. Otherwise, it will use the value
# returned from java.net.InetAddress.getCanonicalHostName().
advertised.listeners=PLAINTEXT://192.168.1.247:9092

当前服务器IP为192.168.1.247，你需要修改为外网或局域网可以访问到的服务器IP。

重启kafka即可。