2014年11月12日
摘要: Map输出后进行combine操作;这样可以减少网络传输带来的开销,同时减轻了reduce任务的负担。在MapReduce中,当map生成的数据过大时,带宽就成了瓶颈,怎样精简压缩传给Reduce的数据,有不影响最终的结果呢。有一种方法就是使用Combiner,Combiner号称本地的Reduce... 阅读全文
posted @ 2014-11-12 22:24 转折点人生 阅读(795) 评论(0) 推荐(0) 编辑
摘要: 学习hadoop常去网址;hadoop邮件列表信息查询http://www.search-hadoop.com简介:hadoop邮件列表都是hadoop用户和开发者的提问和讨论的邮件列表,里面大量问题,和解决方案,可以帮助自己解决工作中遇到的大量问题。hadoop in chinahttp://www.hadooper.cn/dct/page/65750简介:由中国科学院计算技术研究所 网络科学与... 阅读全文
posted @ 2014-11-12 22:19 转折点人生 阅读(413) 评论(0) 推荐(0) 编辑