2014年4月3日

python 文档

摘要: python 文档 https://docs.python.org/2/library/index.html 阅读全文

posted @ 2014-04-03 17:13 雨渐渐 阅读(260) 评论(0) 推荐(0) 编辑

分布式执行脚本

摘要: 这东西能用于分布式部署东东么??bin/hadoop jar share/hadoop/yarn/hadoop-yarn-applications-distributedshell-2.2.0.jar org.apache.hadoop.yarn.applications.distributedshell.Client --jar share/hadoop/yarn/hadoop-yarn-applications-distributedshell-2.2.0.jar --shell_command ls --shell_args /tmp --num_containers 3 --conta 阅读全文

posted @ 2014-04-03 14:20 雨渐渐 阅读(310) 评论(0) 推荐(0) 编辑

Yarn应用程序编程实例

摘要: Yarn自带的Application示例程序:DistributedShell 和 UnManaged AM1 DistributedShell ,故名思意,是一个分布式运行shell命令的应用程序,它可以并行执行用户提供的shell命令或者shell脚本2 unManaged AM 演示了如何将ApplicationMaster运行在客户端,而不是由RM启动和管理。 阅读全文

posted @ 2014-04-03 11:16 雨渐渐 阅读(839) 评论(0) 推荐(0) 编辑

切切切切切切切

摘要: 10.0分阅读Distributedshell实例的Client和ApplicationMaster代码实现,回答以下问题:(1)在Client代码实现中,Client将应用程序提交到ResourceManager之前,将ApplicationMaster的jar包上传到了什么地方?HDFS(2)在ApplicationMaster代码实现中,如果一个task运行失败了,ApplicationMaster是怎么做的? 重新向Resourcemanager不断申请资源,直到资源足够,再与NodeManager通信,NodeManager会启动一个Container来重新运行task310.... 阅读全文

posted @ 2014-04-03 09:38 雨渐渐 阅读(262) 评论(0) 推荐(0) 编辑

导航