spark提交文件支持路径类型
spark-submit 提交文件支持的路径类型
类似以下参数
--files --jars --archives --conf spark.yarn.jars --conf spark.yarn.archive --conf spark.yarn.dist.archives --conf spark.yarn.dist.files --conf spark.yarn.dist.jars
-
本地文件系统路径:
spark-submit --files file:/path/to/your/local/file
-
HDFS 路径
spark-submit --files hdfs:///path/to/your/hdfs/file
-
HTTP/HTTPS URL:
spark-submit --files https://example.com/path/to/your/remote/file 或 spark-submit --files http://example.com/path/to/your/remote/file
注意:使用 HTTP/HTTPS URL 需要确保集群节点能够访问这个 URL。
-
本地 Maven 仓库依赖项:
spark-submit --files maven://groupId:artifactId:version
这样 Spark 将尝试从 Maven 仓库下载指定的依赖项。
本文作者:MuXinu
本文链接:https://www.cnblogs.com/MuXinu/p/17868285.html
版权声明:本作品采用知识共享署名-非商业性使用-禁止演绎 2.5 中国大陆许可协议进行许可。
分类:
ChatGPT
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步