Flume

Flume官网:http://flume.apache.org/ 

 

Flume和Kafaka使用上的区别:

  采集的数据放到HDFS为MR进行使用,选择Flume

 

 

Flume分布式系统中最核心的角色是agent,flume采集系统就是由一个个agent所连接起来形成

 每一个agent相当于一个数据传递员,内部有三个组件:

a)         Source:采集源,用于跟数据源对接,以获取数据

b)         Sink:下沉地,采集数据的传送目的,用于往下一级agent传递数据或者往最终存储系统传递数据

c)         Channel:angent内部的数据传输通道,用于从source将数据传递到sink

Source 到 Channel 到 Sink之间传递数据的形式是Event事件;Event事件是一个数据流单元。

 

单级agent采集数据:

 

多级agent串联: 

 

 

 

 

posted @ 2017-04-24 14:06  0xcafedaddy  阅读(110)  评论(0编辑  收藏  举报