第六章 Kafka消息队列
主要内容：
- Kafka概述
- Kafka集群部署
- Kafka与Flume比较
6.1 Kafka概述
6.1.1 消息队列
消息系统负责将数据从一个应用程序传输到另一个应用程序，因此应用程序可以专注于数据本身，而不用担心如何共享它。
消息系统有两种消息模式可用
- 点对点消息系统
- 发布 - 订阅(pub-sub)消息系统
（1）点对点模式（一对一，消费者主动拉取数据，消息收到后消息清除）
点对点模型通常是一个基于拉取或者轮询的消息传送模型，这种模型从队列中请求信息，而不是将消息推送到客户端。这个模型的特点是发送到队列的消息被一个且只有一个接收者接收处理，即使有多个消息监听者也是如此。
（2）发布/订阅模式（一对多）
发布订阅模型则是另一个消息传送模型。发布订阅模型可以有多种不同的订阅者，临时订阅者只在主动监听主题时才接收消息，而持久订阅者则监听主题的所有消息，即使当前订阅者不可用，处于离线状态。
6.1.2 为什么需要消息队列
1）解耦：
允许你独立的扩展或修改两边的处理过程，只要确保它们遵守同样的接口约束。
2）冗余：
消息队列把数据进行持久化直到它们已经被完全处理，通过这一方式规避了数据丢失风险。许多消息队列所采用的"插入-获取-删除"范式中，在把一个消息从队列中删除之前，需要你的处理系统明确的指出该消息已经被处理完毕，从而确保你的数据被安全的保存直到你使用完毕。
3）扩展性：
因为消息队列解耦了你的处理过程，所以增大消息入队和处理的频率是很容易的，只要另外增加处理过程即可。
4）灵活性 & 峰值处理能力：
在访问量剧增的情况下，应用仍然需要继续发挥作用，但是这样的突发流量并不常见。如果为以能处理这类峰值访问为标准来投入资源随时待命无疑是巨大的浪费。使用消息队列能够使关键组件顶住突发的访问压力，而不会因为突发的超负荷的请求而完全崩溃。
5）可恢复性：
系统的一部分组件失效时，不会影响到整个系统。消息队列降低了进程间的耦合度，所以即使一个处理消息的进程挂掉，加入队列中的消息仍然可以在系统恢复后被处理。
6）顺序保证：
在大多使用场景下，数据处理的顺序都很重要。大部分消息队列本来就是排序的，并且能保证数据会按照特定的顺序来处理。（Kafka保证一个Partition内的消息的有序性）
7）缓冲：
有助于控制和优化数据流经过系统的速度，解决生产消息和消费消息的处理速度不一致的情况。
8）异步通信：
很多时候，用户不想也不需要立即处理消息。消息队列提供了异步处理机制，允许用户把一个消息放入队列，但并不立即处理它。想向队列中放入多少消息就放多少，然后在需要的时候再去处理它们。
6.1.3 什么是Kafka
在流式计算中，Kafka一般用来缓存数据，Spark通过消费Kafka的数据进行计算。
1）Apache Kafka是一个开源消息系统，由Scala写成。是由Apache软件基金会开发的一个开源消息系统项目。
2）Kafka最初是由LinkedIn公司开发，并于2011年初开源。2012年10月从Apache Incubator毕业。该项目的目标是为处理实时数据提供一个统一、高通量、低等待的平台。
3）Kafka是一个分布式消息队列。Kafka对消息保存是根据Topic进行归类，发送消息者称为Producer，消息接受者称为Consumer，此外kafka集群有多个kafka实例组成，每个实例(server)称为broker。
4）无论是kafka集群，还是consumer都依赖于zookeeper集群保存一些meta信息，来保证系统可用性。
6.1.4 Kafka架
Kafka整体架构图
Kafka详细架构图
1）Producer ：消息生产者，就是向kafka broker发消息的客户端；
2）Consumer ：消息消费者，向kafka broker取消息的客户端；
其中的offset（记录着下一条将要发送给Consumer的消息的序号）需要存在其他位置，低版本0.9之前将offset保存在Zookeeper中，0.9及之后保存在Kafka的“__consumer_offsets”主题中。
3）Topic ：可以理解为一个队列；
4） Consumer Group （CG）：这是kafka用来实现一个topic消息的广播（发给所有的consumer）和单播（发给任意一个consumer）的手段。
一个topic可以有多个CG。topic的消息会复制（不是真的复制，是概念上的）到所有的CG，但每个partion只会把消息发给该CG中的一个consumer。
如果需要实现广播，只要每个consumer有一个独立的CG就可以了。要实现单播只要所有的consumer在同一个CG。用CG还可以将consumer进行自由的分组而不需要多次发送消息到不同的topic；
5）Broker ：一台kafka服务器就是一个broker。一个集群由多个broker组成。一个broker可以容纳多个topic；
6）Partition：为了实现扩展性，一个非常大的topic可以分布到多个broker（即服务器）上，一个topic可以分为多个partition，每个partition是一个有序的队列。
partition中的每条消息都会被分配一个有序的id（offset）。kafka只保证按一个partition中的顺序将消息发给consumer，不保证一个topic的整体（多个partition间）的顺序；
6.2 Kafka集群部署
6.2.1 环境准备
1 集群规划
01node 02node 03node
zk zk zk
kafka kafka kafka
2 jar包下载
http://kafka.apache.org/downloads.ht
6.2.2 Kafka集群部署
1）解压安装包，当前案例中使用的是2.4.0版本
# tar -zxvf kafka_2.11-2.4.0.tgz
2）修改解压后的文件名称
[root@01node local]# mv kafka_2.11-2.4.0 kafka
3）修改配置文件
[root@01node local]# cd kafka/config
[root@01node config]# vi server.properties
修改以下内容：
#broker的全局唯一编号，不能重复
broker.id=0
#kafka运行日志存放的路径
log.dirs=/usr/local/kafka/logs
#配置连接Zookeeper集群地址
zookeeper.connect=01node:2181,02node:2181,03node:2181
4）配置环境变量
[root@01node config]$ vi /etc/profile
#KAFKA_HOME
export KAFKA_HOME=/usr/local/kafka
export PATH=$KAFKA_HOME/bin:$PATH
[root@01node config]# source /etc/profile
5）分发安装包
[root@01node local]# scp -r kafka root@02node:/usr/local/
[root@01node local]# scp -r kafka root@03node:/usr/local/
[root@01node local]# scp /etc/profile root@02node:/etc/profile
[root@01node local]# scp /etc/profile root@03node:/etc/profile
记得刷新02和03节点的配置文件
6）分别在02node和03node上修改配置文件server.properties中的broker.id=1、broker.id=2
注：broker.id不得重复
7）在三个节点上启动zookeeper集群
[root@01node local]# cd zookeeper/
[root@01node zookeeper]# bin/zkServer.sh start
8）启动kafka集群
依次在01node、02node、03node节点上启动kafka
[root@01node kafka]# bin/kafka-server-start.sh config/server.properties
[root@02node kafka]# bin/kafka-server-start.sh config/server.properties
[root@03node kafka]# bin/kafka-server-start.sh config/server.properties
9）关闭集群
[root@01node kafka]$ bin/kafka-server-stop.sh stop
[root@02node kafka]$ bin/kafka-server-stop.sh stop
[root@03node kafka]$ bin/kafka-server-stop.sh stop
同时记得关闭zookeeper
6.2.3 Kafka命令行操作
1）查看当前服务器中的所有topic
[root@01node kafka]$ bin/kafka-topics.sh --zookeeper 01node:2181 –list
2）创建topic
[root@01node kafka]$ bin/kafka-topics.sh --zookeeper 01node:2181 --create --replication-factor 3 --partitions 1 --topic first
选项说明：
--topic 定义topic名
--replication-factor 定义副本数
--partitions 定义分区数
3）删除topic
[root@01node kafka]$ bin/kafka-topics.sh --zookeeper 01node:2181 --delete --topic first
需要server.properties中设置delete.topic.enable=true否则只是标记删除或者直接重启。
4）发送消息
[root@01node kafka]$ bin/kafka-console-producer.sh --broker-list 01node:9092 --topic first
>hello world
>root root
5）消费消息
[root@02node kafka]$ bin/kafka-console-consumer.sh --bootstrap-server 01node:9092 --from-beginning --topic first
--from-beginning：会把主题中以往所有的数据都读取出来。
6）查看某个Topic的详情
[root@01node kafka]$ bin/kafka-topics.sh --zookeeper 01node:2181 --describe --topic first
6.3 Kafka与Flume比较
在企业中必须要清楚流式数据采集框架flume和kafka的定位是什么：
flume：cloudera公司研发:
适合多个生产者；
适合下游数据消费者不多的情况；
适合数据安全性要求不高的操作；
适合与Hadoop生态圈对接的操作。
kafka：linkedin公司研发:
适合数据下游消费众多的情况；
适合数据安全性要求较高的操作，支持replication。
因此我们常用的一种模型是：
线上数据 --> flume --> kafka --> flume(根据情景增删该流程) --> HDFS
