Flume的Collector
Collector的作用是将多个Agent的数据汇总后,加载到Storage中。它的source和sink与agent类似。
数据源(source),如:
collectorSource[(port)]:Collector source,监听端口汇聚数据。
autoCollectorSource:通过master协调物理节点自动汇聚数据。
logicalSource:逻辑source,由master分配端口并监听rpcSink。
sink,如:
collectorSink( “fsdir”,”fsfileprefix”,rollmillis):collectorSink,数据通过collector汇聚之后发送到hdfs, fsdir 是hdfs目录,fsfileprefix为文件前缀码。
customdfs(“hdfspath”[, "format"]):自定义格式dfs。
作者:大数据和人工智能躺过的坑
出处:http://www.cnblogs.com/zlslch/
本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文链接,否则保留追究法律责任的权利。
如果您认为这篇文章还不错或者有所收获,您可以通过右边的“打赏”功能 打赏我一杯咖啡【物质支持】,也可以点击右下角的【好文要顶】按钮【精神支持】,因为这两种支持都是我继续写作,分享的最大动力!