始于足下|

MuXinu

园龄:2年7个月粉丝:3关注:1

spark提交文件支持路径类型

spark-submit  提交文件支持的路径类型

类似以下参数

复制代码
--files
--jars
--archives

--conf spark.yarn.jars
--conf spark.yarn.archive
--conf spark.yarn.dist.archives
--conf spark.yarn.dist.files
--conf spark.yarn.dist.jars
复制代码
  1. 本地文件系统路径

    spark-submit --files file:/path/to/your/local/file
  2. HDFS 路径 

    spark-submit --files hdfs:///path/to/your/hdfs/file
  3. HTTP/HTTPS URL

    spark-submit --files https://example.com/path/to/your/remote/file
    或
    spark-submit --files http://example.com/path/to/your/remote/file

    注意:使用 HTTP/HTTPS URL 需要确保集群节点能够访问这个 URL。

  4. 本地 Maven 仓库依赖项

    spark-submit --files maven://groupId:artifactId:version

    这样 Spark 将尝试从 Maven 仓库下载指定的依赖项。

本文作者:MuXinu

本文链接:https://www.cnblogs.com/MuXinu/p/17868285.html

版权声明:本作品采用知识共享署名-非商业性使用-禁止演绎 2.5 中国大陆许可协议进行许可。

posted @   MuXinu  阅读(67)  评论(0编辑  收藏  举报
点击右上角即可分享
微信分享提示
评论
收藏
关注
推荐
深色
回顶
收起