会员
周边
众包
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
季昂
博客园
首页
新随笔
联系
订阅
管理
2021年9月23日
自定义InputFormat合并小文件
摘要: 1.1 需求 无论hdfs还是mapreduce,对于小文件都有损效率,实践中,又难免面临处理大量小文件的场景,此时,就需要有相应解决方案 1.2 分析 小文件的优化无非以下几种方式: 1、 在数据采集的时候,就将小文件或小批数据合成大文件再上传HDFS 2、 在业务处理之前,在HDFS上使用map
阅读全文
posted @ 2021-09-23 22:06 季昂
阅读(95)
评论(0)
推荐(0)
编辑