摘要: MapReduce作业可以细分为map task和reduce task,而MRAppMaster又将map task和reduce task分为四种状态: 1、pending:刚启动但尚未向resourcemanager发送资源请求; 2、scheduled:已经向resourceManager发 阅读全文
posted @ 2016-08-13 22:21 大葱拌豆腐 阅读(1242) 评论(0) 推荐(0) 编辑
摘要: Spark目前被越来越多的企业使用,和Hadoop一样,Spark也是以作业的形式向集群提交任务,那么在内部实现Spark和Hadoop作业模型都一样吗?答案是不对的。 熟悉Hadoop的人应该都知道,用户先编写好一个程序,我们称为Mapreduce程序,一个Mapreduce程序就是一个Job,而 阅读全文
posted @ 2016-08-13 22:09 大葱拌豆腐 阅读(552) 评论(0) 推荐(0) 编辑