duan2

导航

 

2017年9月18日

摘要: 1. 自定义inputFormat 1.1 需求 无论hdfs还是mapreduce,对于小文件都有损效率,实践中,又难免面临处理大量小文件的场景,此时,就需要有相应解决方案 1.2 分析 小文件的优化无非以下几种方式: 1、 在数据采集的时候,就将小文件或小批数据合成大文件再上传HDFS 2、 在 阅读全文
posted @ 2017-09-18 20:48 duan2 阅读(686) 评论(0) 推荐(0) 编辑