Flume 事务与传输流程

一、Flume 事务

流程图

Put 事务流程

doPut：将批数据先写入临时缓冲区 putList

doCommit：检查 channel 内存队列是否足够合并

doRollback：channel 内存队列空间不足，回滚数据

Take 事务流程

doTake：将数据取到临时缓冲区 takeList，并将数据发送到 HDFS

doCommit：如果数据全部发送成功，则清除临时缓冲区 takeList

doRollback：数据发送过程中如果出现异常，rollback 将临时缓冲区 takeList 中的数据归还给 channel 内存队列

 

二、Flume 传输流程

流程图

重要组件：

4）Channel Selector

Channel Selector 的作用就是选出 Event 将要被发往哪个 Channel。共有两种类型，分别是 Replicating Channel Selector (default)（复制）和 Multiplexing Channel Selector（多路复用）。

Replicating Selector 会将 source 过来的每一个 Event 发往所有的 Channel，Multiplexing 会根据相应的原则，将不同的 Event 发往不同的 Channel。

7）Sink Processor

Sink Processor 共有三种类型，分别是 Default Sink Processor、Load Balancing Sink Processor 和 Failover Sink Processor。

Default Sink Processor 对应的是单个的 Sink，Load Balancing Sink Processor 和 Failover Sink Processor 对应的是 Sink Group。

Load Balancing Sink Processor 可以实现负载均衡的功能，Failover Sink Processor 可以实现故障转移的功能。