Centos 7.X 上安装Kafka及一些常用命令

                Centos 7.X 上安装Kafka及常用命令

 

1、下载

  下载地址:http://kafka.apache.org/downloads.html  或百度网盘自取

  链接:https://pan.baidu.com/s/1qIs3iehi56Qg7Wahj66VVQ
  提取码:qmdb

2、安装

  首先在进行kafka安装时需要依赖于zookeeper,这儿我事先准备好了三个节点的Zookeeper环境,

  Zookeeper的搭建可参考https://www.cnblogs.com/ysocean/p/9860529.html

  我事先搭建好的Zookeeper信息如下:

  192.168.232.3:2181,192.168.232.4:2181(master),192.168.232.5:2181

  上传到Linux服务器之上

  

    1. 解压:

      tar -zxvf kafka_2.12-2.6.0.tgz -C /usr/local/

      

    2. 进入到解压时指定的目录之下,重命名一下kafka文件夹

      mv kafka_2.12-2.6.0/ kafka_2.12

      

    3. 进入解压后的目录,修改server.properties文件:

     vim /usr/local/kafka_2.12/config/server.properties 

     修改信息如下:

     broker.id=0

     port=9092

     host.name=192.168.232.3

     advertised.host.name=192.168.232.3

        log.dirs=/usr/local/kafka_2.12/kafka-logs

        num.partitions=2

     zookeeper.connect=192.168.232.3:2181,192.168.232.4:2181,192.168.232.5:2181

        保存退出

     然后创建kafka的日志文件目录,上述配置文件所指定的目录/usr/local/kafka_2.12/kafka-logs

     mkdir /usr/local/kafka_2.12/kafka-logs

     

    4. 启动kafka

      /usr/local/kafka_2.12/bin/kafka-server-start.sh /usr/local/kafka_2.12/config/server.properties &

       

     kafka启动完成

             

 3、常用命令

    (1)创建topic主题命令(创建一个名为test的topic) 进入kafka的bin目录下使用

        ./kafka-topics.sh --zookeeper 192.168.232.3:2181 --create --topic test --partitions 1 

        --replication-factor 1

        ## --zookeeper 为zk服务列表

        ## --create 命令后 --topic 为创建topic 并指定 topic name

        ## --partitions 为指定分区数量

        ## --replication-factor 为指定副本集数量

        

    (2)查看topic列表命令

        ./kafka-topics.sh --zookeeper 192.168.232.3:2181 --list

    (3)删除topic命令

        ./kafka-topics.sh --zookeeper 192.168.232.3:2181 --delete --topic test

    (4)kafka命令发送数据

        ./kafka-console-producer.sh --broker-list 192.168.232.3:9092 --topic test

    (5)kafka命令接受数据

        ./kafka-console-consumer.sh --bootstrap-server 192.168.232.3:9092 --topic test

        --from-beginning

    (6)kafka查看消费进度(若要查看一个消费者组的消费进度时,则使用如下命令进行查看)

        ./kafka-consumer-groups.sh --bootstrap-server 192.168.232.3:9092 --describe --group group

 

 

 

 

          

posted @ 2020-09-21 22:12  tianjh  阅读(5706)  评论(0编辑  收藏  举报