IDEA里如何多种方式打jar包,然后上传到集群

关于IDEA里如何多种方式打jar包,然后上传到集群的问题?

  前期准备,就是在,IDEA里,maven来创建项目。这里不多赘述。

 

  1)用maven项目来打包,我推荐这个。 (强烈推荐,简单又快速)

Spark编程环境搭建(基于Intellij IDEA的Ultimate版本)

  而且,还可以改名。比如我这篇博客里最后打好需要包括MyJavaWordCount.java和MyScalaWordCout.scala,默认名为test-spark-1.0-SNAPSHOT.jar,你自己可以更改,这个不是重点。

 

 

      2)如下,以下这种方式,看看就好,显得有点冗长。

 

 

 

 

 

 

 

 

 

 

 

 

  一般,我们,习惯将默认的D:\Code\IntelliJIDEACode\spark-helloworld\src\main\scala

 改为 D:\Code\IntelliJIDEACode\spark-helloworld\src

 

 

  如下,不是maven创建出来的项目,到了这一步,需要如下。(我这里是manven,所以不需)

 

 

 

 

 

 

 name:spark-helloworld:jar

 Output directory: D:\Code\IntelliJIDEACode\spark-helloworld\out\artifacts\spark-helloworld_jar

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

   比如,我这里

[spark@sparksinglenode testspark]$ $HADOOP_HOME/bin/hadoop fs -copyFromLocal /home/spark/testspark/words.txt hdfs://sparksinglenode:9000/

posted on   Hi,王松柏  阅读(1132)  评论(0编辑  收藏  举报

编辑推荐:
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· 开发者必知的日志记录最佳实践
· SQL Server 2025 AI相关能力初探
· Linux系列:如何用 C#调用 C方法造成内存泄露
阅读排行:
· 震惊!C++程序真的从main开始吗?99%的程序员都答错了
· 【硬核科普】Trae如何「偷看」你的代码?零基础破解AI编程运行原理
· 单元测试从入门到精通
· 上周热点回顾(3.3-3.9)
· winform 绘制太阳,地球,月球 运作规律

导航

< 2025年3月 >
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5
点击右上角即可分享
微信分享提示