寒假学习进度7

 配置Job History Server【Standalone】

进入到Spark安装目录 
cd /opt/modules/spark-2.1.1-bin-hadoop2.7/conf

 

将spark-default.conf.template复制为spark-default.conf

修改spark-default.conf文件,开启Log:

 

【注意:HDFS上的目录需要提前存在】

修改spark-env.sh文件,添加如下配置:

 

在HDFS上创建好你所指定的eventLog日志目录。

spark-defaults.conf

启动后执行:【别忘了启动HDFS】

/opt/modules/spark-2.1.1-bin-hadoop2.7/sbin/start-history-server.sh

 到此为止,Spark History Server安装完毕.

posted @   庞司令  阅读(2)  评论(0编辑  收藏  举报
相关博文:
阅读排行:
· 无需6万激活码!GitHub神秘组织3小时极速复刻Manus,手把手教你使用OpenManus搭建本
· Manus爆火,是硬核还是营销?
· 终于写完轮子一部分:tcp代理 了,记录一下
· 别再用vector<bool>了!Google高级工程师:这可能是STL最大的设计失误
· 单元测试从入门到精通
点击右上角即可分享
微信分享提示