flume指定HDFS类型的Sink时,采集数据至HDFS指定目录,会产生大量小文件。
解决方案:
去掉round时间系列参数,并将rollSize和rollCount置0,
表示不根据临时文件大小和event数量来滚动文件(滚动文件即指将HDFS上生成的以.tmp结尾的临时文件转换为实际存储文件)。
当然,也可以调大rollSize参数(如调至100000000,表示100MB滚动文件,单位是bytes);
#Describe the sink 添加:
1 2 | a1.sinks.k1.hdfs.rollSize=0 a1.sinks.k1.hdfs.rollCount=0 |
rollSize
默认值:1024,当临时文件达到该大小(单位:bytes)时,滚动成目标文件。如果设置成0,则表示不根据临时文件大小来滚动文件。
rollCount
默认值:10,当events数据达到该数量时候,将临时文件滚动成目标文件,如果设置成0,则表示不根据events数据来滚动文件。
解决Flume将kafka中的数据传到HDFS中中文有乱码问题
翻看Flume文档,发现,HdfsEventSink中,hdfs.fileType默认为SequenceFile,将其改为DataStream就可以按照采集的文件原样输入到hdfs,加一行
1 2 3 | a1.sinks.k1.hdfs.fileType=DataStream a1.sinks.k1.hdfs.fileType=DataStream |
原文链接:https://blog.csdn.net/Mirror_w/article/details/93773713
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】博客园社区专享云产品让利特惠,阿里云新客6.5折上折
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步