寒假学习进度7
配置Job History Server【Standalone】
进入到Spark安装目录 cd /opt/modules/spark-2.1.1-bin-hadoop2.7/conf
将spark-default.conf.template复制为spark-default.conf
修改spark-default.conf文件,开启Log:
【注意:HDFS上的目录需要提前存在】
修改spark-env.sh文件,添加如下配置:
在HDFS上创建好你所指定的eventLog日志目录。
spark-defaults.conf
启动后执行:【别忘了启动HDFS】
/opt/modules/spark-2.1.1-bin-hadoop2.7/sbin/start-history-server.sh
到此为止,Spark History Server安装完毕.
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 无需6万激活码!GitHub神秘组织3小时极速复刻Manus,手把手教你使用OpenManus搭建本
· Manus爆火,是硬核还是营销?
· 终于写完轮子一部分:tcp代理 了,记录一下
· 别再用vector<bool>了!Google高级工程师:这可能是STL最大的设计失误
· 单元测试从入门到精通