【搬运】kafka相关

原文地址【侵删】：https://blog.51cto.com/fengyuzaitu/2496201

 

以下为搬运内容：

 

1）环境软件版本2.0.0

        Released July 30, 2018

        Release Notes

        Source download: kafka-2.0.0-src.tgz (asc, sha512)

        Binary downloads:We build for multiple versions of Scala. This only matters if you are using Scala and you want a version      built for the same Scala version you use. Otherwise any version should work (2.11 is recommended).

Scala 2.11  - kafka_2.11-2.0.0.tgz (asc, sha512)

Scala 2.12  - kafka_2.12-2.0.0.tgz (asc, sha512)


软件下载地址    http://kafka.apache.org/downloads.html

下载安装包      kafka_2.11-2.0.0.tgz


2）部署

cd  kafka_2.11-2.0.0

chmod a+x  bin/*  //赋予服务器脚本运行需要的执行权限

vi config/server.properties  //配置服务器的IP地址，如果是默认的localhost只能够在本机器使用，其他的外网链接不上

listeners=PLAINTEXT://192.168.11.173:9092  //修改内容如左

firewall-cmd --zone=public --add-port=9092/tcp --permanent   # 开放9092端口

firewall-cmd --reload   # 配置立即生效


3）启动

bin/zookeeper-server-start.sh config/zookeeper.properties &

bin/kafka-server-start.sh config/server.properties

可能出现以下错误/opt/kafka_2.11-2.0.0/bin/kafka-run-class.sh: line 306: exec: java not found 解决方案 yum install java（原因为Linux缺少java）


//另外启动两个控制台程序，作为生成者发送数据

 bin/kafka-console-producer.sh --broker-list 192.168.11.173:9092 --topic test//生产者往主题test发送数据,出现>可以输入发送数据

>


//消费者消费数据

bin/kafka-console-consumer.sh --bootstrap-server 192.168.11.173:9092 --topic test --from-beginning //接收数据



注意：

1）

[2020-05-18 11:52:07,986] WARN [Producer clientId=console-producer] Connection to node 0 could not be established. Broker may not be available. (org.apache.kafka.clients.NetworkClient)

本地环境测试启动生产者说明服务broker没有启动


2）检测服务器是否配置正确的IP地址和开放端口

%3|1589772697.411|FAIL|rdkafka#consumer-1| [thrd:192.168.11.173:9092/bootstrap]: 192.168.58.121:9092/bootstrap: Connect to ipv4#192.168.11.173:9092 failed: 由于连接方在一段时间后没有正确答复或连接的主机没有反应，连接尝试失败。

%3|1589772699.528|ERROR|rdkafka#consumer-1| [thrd:192.168.58.121:9092/bootstrap]: 1/1 brokers are down


3）bin/kafka-console-consumer.sh --zookeeper localhost:2181 --topic test --from-beginning

zookeeper is not a recognized option

Kafka 从 2.2 版本开始将 kafka-topic.sh 脚本中的 −−zookeeper 参数标注为 “过时”，推荐使用 −−bootstrap-server 参数。若读者依旧使用的是 2.1 及以下版本，请将下述的 --bootstrap-server 参数及其值手动替换为 --zookeeper zk1:2181,zk2:2181,zk:2181。一定要注意两者参数值所指向的集群地址是不同的。
-----------------------------------
©著作权归作者所有：来自51CTO博客作者fengyuzaitu的原创作品，请联系作者获取转载授权，否则将追究法律责任
kafka2.0.0第一课 部署配置启动
https://blog.51cto.com/fengyuzaitu/2496201