瞌睡中的葡萄虎

博客园 首页 新随笔 联系 订阅 管理

今天测试过程中发现YARN Node变成Unhealthy了,后来定位到硬盘空间不够。。。。。

通过查找大于100M的文件时发现有N多个spark-assembly-1.4.0-SNAPSHOT-hadoop2.5.0-cdh5.3.1.jar包,大小为170多M,

每提交一个application到yarn上执行,就会上传一个assembly包,application个数一多,磁盘就本占用了N多空间。。。。

解决方法参见【Spark On Yarn中spark.yarn.jar属性的使用

posted on 2015-03-24 16:22  瞌睡中的葡萄虎  阅读(833)  评论(0编辑  收藏  举报