摘要: MapReduce相关配置参数分为两部分,分别是JobHistory Server和应用程序参数,Job History可运行在一个独立节点上,而应用程序参数则可存放在mapred-site.xml中作为默认参数,也可以在提交应用程序时单独指定,注 意,如果用户指定了参数,将覆盖掉默认参数。以下这些... 阅读全文
posted @ 2014-12-08 20:11 JamesFan 阅读(213) 评论(0) 推荐(0) 编辑
摘要: name说明mapred.task.profile是否对任务进行profiling,调用java内置的profile功能,打出相关性能信息mapred.task.profile.{maps|reduces}对几个map或reduce进行profiling。非常影响速度,建议在小数据量上尝试mapre... 阅读全文
posted @ 2014-12-08 19:56 JamesFan 阅读(310) 评论(0) 推荐(0) 编辑
摘要: hadoop作业调优参数整理及原理10/22. 20131 Map side tuning参数1.1 MapTask运行内部原理当map task开始运算,并产生中间数据时,其产生的中间结果并非直接就简单的写入磁盘。这中间的过程比较复杂,并且利用到了内存buffer来进行已经产生的部分结果的缓存,并... 阅读全文
posted @ 2014-12-08 19:52 JamesFan 阅读(268) 评论(0) 推荐(0) 编辑