kafka学习笔记01

  类似于京东商城这种电商系统，一般会在前端页面进行埋点记录仪用户的行为数据，包括浏览、点赞、收藏、评论等。这些行为会被记录到日志服务器中，使用Flume进行采集，然后传入Hadoop中。

  Flume采集的数据，在日常中一般是小于每秒100M的，Hadoop的上传速度一般也是每秒100M左右，但是一旦出现双十一这种类似的活动的话，那么就有可能会出现问题，Flume的采集速度就会大于每秒200M，那么我们的Hadoop的上传速度已经跟不上了，所以我们就需要一个方式来讲采集到的日志信息进行一个缓冲，kafka就这样诞生了。

  在Flume和Hadoop中间加一个kafka集群来进行处理数据， 大kafka是专门用来处理大量的数据用的，所以将大量的数据存入kafka中，然后Hadoop来进行慢慢的消费上传。

  kafka的定义：分布式、发布订阅模式、消息队列，多用于处理大数据实时处理领域。

  什么是发布订阅：在kafka中不会将消息发送给特定的订阅者，而是将消息分为不同的类别，消费者只需要去对应的类别进行消息的消费即可，下面已一张图来展示：