centos 安装kafka
前言
Apache Kafka是一个流行的分布式消息代理,旨在有效地处理大量的实时数据。Kafka集群不仅具有高度的可伸缩性和容错能力,而且与ActiveMQ和RabbitMQ等其他消息代理相比,它还具有更高的吞吐量。尽管它通常用作发布/订阅消息传递系统,但许多组织也将其用于日志聚合,因为它为发布的消息提供了持久存储。
发布/订阅消息传递系统允许一个或多个生产者发布消息,而无需考虑使用者的数量或他们将如何处理消息。订阅的客户端会自动收到更新和创建新消息的通知。与客户端定期轮询以确定是否有新消息可用的系统相比,此系统更高效、可伸缩。
工欲善其事必先利其器,接下来看一下在centos上如何安装kafka。
安装步骤
一,更新系统
对centos系统的软件进行一些更新或者升级,从而在进行安装的时候可以很快的找到安装包。
sudo yum install epel-release -y sudo yum update -y
二,安装jdk
安装jdk有两种方式,一种方式安装oracle jdk得下载安装包,第二种方式不用下载安装包,直接通过命令执行就完成安装了,安装的是openjdk。
(1) jdk安装的第一种方式
首先到Oracle官网上下载jdk,jdk 下载地址是:https://www.oracle.com/java/technologies/javase/javase-jdk8-downloads.html 下载之后上传到centos上,接着执行本地安装jdk。
下载完成之后上传到centos,接着输入以下命令进行安装。
sudo yum -y localinstall jdk-8u241-linux-x64.rpm
安装完成之后,接着检查一下jdk是否安装成功。
(2)jdk安装的第二种方式
使用以下得方式进行安装,就不用下载安装包,直接在centos输入命令即可完成安装。输入的命令是:
sudo yum install -y java-1.8.0-openjdk
安装完成之后检查是否安装成功。
java -version
由于执行kafka需要配置jdk环境变量,那接下来看一下如何配置jdk变量。
三,配置Java环境变量
如何配置Java变量呢?首先我们得检查一下环境种是否有Java变量。
echo $JAVA_HOME
检查完没有配置,我们接着来配置一下环境变量,把jdk的安装路径找到,把这个路径赋值给JAVA_HOME,写入到用户主目录下的.bash_profile中或者放到/etc/profile中。通过如下命令来进行配置。
echo "JAVA_HOME=$(readlink -f /usr/bin/java | sed "s:bin/java::")" | sudo tee -a /etc/profile
接着让配置文件生效。
source /etc/profile
配置完成之后,接下来进行kafka的安装。
四,安装kafka
从kafka官网上下载kafka的二进制安装包,下载地址是:https://mirrors.tuna.tsinghua.edu.cn/apache/kafka/2.4.0/kafka_2.12-2.4.0.tgz,下载下来之后进行解压。
wget https://mirrors.tuna.tsinghua.edu.cn/apache/kafka/2.4.0/kafka_2.12-2.4.0.tgz
接着对文件进行解压。
sudo tar -zvxf kafka_2.12-2.4.0.tgz -C /opt/
提取文件成功之后,接着创建一个文件的软连接,这样可以方便进行kafka的升级。
sudo ln -s /opt/kafka_2.12-2.4.0 /opt/kafka
接下来,进入到kafka目录下,启动kafka,启动kafka之前得先启动zookeeper。
sudo ./zookeeper-server-start.sh ../config/zookeeper.properties
接着在开启一个shell进行启动kafka。
sudo ./kafka-server-start.sh ../config/server.properties
由于通过上面的方式启动不是很方便,接下来就配置系统单元服务进行启动kafka和zookeeper。
按照以下方式创建zookeeper.service系统服务单元。
[sharplee@localhost ~]$sudo vi /etc/systemd/system/zookeeper.service [Unit] Description=Apache Zookeeper server Documentation=http://zookeeper.apache.org Requires=network.target remote-fs.target After=network.target remote-fs.target [Service] Type=simple ExecStart=/opt/kafka/bin/zookeeper-server-start.sh /opt/kafka/config/zookeeper.properties ExecStop=/opt/kafka/bin/zookeeper-server-stop.sh Restart=on-abnormal User=root Group=root [Install] WantedBy=multi-user.target
保存完成之后,来启动验证一下是否配置成功。
sudo systemctl start zookeeper sudo systemctl status zookeeper sudo systemctl start zookeeper
接着在配置一下kafka服务器的系统服务单元。
[sharplee@localhost ~]$ sudo vi /etc/systemd/system/kafka.service [Unit] Description=Apache Kafka Server Documentation=http://kafka.apache.org/documentation.html Requires=zookeeper.service [Service] Type=simple ExecStart=/opt/kafka/bin/kafka-server-start.sh /opt/kafka/config/server.properties ExecStop=/opt/kafka/bin/kafka-server-stop.sh Restart=on-abnormal [Install] WantedBy=multi-user.target
配置完成之后,接着来启动kafka。
sudo systemctl start kafka sudo systemctl status kafka sudo systemctl stop kafka
创建成功之后,接下来,测试一下是否安装成功。
测试之前先通过kafka创建一个topic。进入到kafka目录下,接着通过下面命令创建一个kafka topic。
bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic testTopic
查看创建了多少个topic,可以使用以下命令进行查看。
bin/kafka-topics.sh --list --zookeeper localhost:2181
接下来通过生产者进行发送消息。
bin/kafka-console-producer.sh --broker-list localhost:9092 --topic testTopic
接着创建一个消费者来进行接收消息。
bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic testTopic --from-beginning
通过以上步骤,就成功安装kafka了,这个时候就可以通过java开发工具连接进行开发了。
![微信公众号](https://files.cnblogs.com/files/Hackerman/%E9%BB%98%E8%AE%A4%E6%A0%87%E9%A2%98_%E6%A8%AA%E7%89%88%E4%BA%8C%E7%BB%B4%E7%A0%81_2020.gif)
出处:http://www.cnblogs.com/Hackerman/