Spark 跑 java 示例代码

一、下载示例代码:

git clone https://github.com/melphi/spark-examples.git

从示例代码中可以看到 pox中引入了 Spark开发所需要的依赖。

二、把代码导入 IDE

IDE应该会识别这是 Maven项目,在IDE中打包:

打包后,在项目根目录中,target文件夹内会生成文件 first-example-1.0-SNAPSHOT.jar

运行该程序

命令为:
bin/spark-submit --class org.sparkexample.WordCount --master local[2] D:\first-example\target\spark-examples-1.0-SNAPSHOT.jar F:\test\input.txt F:\NJU\test\output

具体语法请见:http://spark.apache.org/docs/latest/submitting-applications.html

查看结果

F:\test\output\ 中能看到词频统计的结果

本文来源:https://github.com/melphi/spark-examples, 谢谢

posted @   Tong Zeng  阅读(2349)  评论(0编辑  收藏  举报
编辑推荐:
· Linux系列:如何用 C#调用 C方法造成内存泄露
· AI与.NET技术实操系列(二):开始使用ML.NET
· 记一次.NET内存居高不下排查解决与启示
· 探究高空视频全景AR技术的实现原理
· 理解Rust引用及其生命周期标识(上)
阅读排行:
· 阿里最新开源QwQ-32B,效果媲美deepseek-r1满血版,部署成本又又又降低了!
· 单线程的Redis速度为什么快?
· SQL Server 2025 AI相关能力初探
· 展开说说关于C#中ORM框架的用法!
· AI编程工具终极对决:字节Trae VS Cursor,谁才是开发者新宠?
点击右上角即可分享
微信分享提示