会员
周边
新闻
博问
闪存
赞助商
YouClaw
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
博客园
首页
私信博主
显示目录
隐藏目录
管理
动画
JulyBgm
博客园
首页
新随笔
联系
订阅
管理
2020年11月5日
SparkRdd实现单词统计 源码分析
摘要: SparkRdd实现单词统计 源码分析 1 手写单词统计 //设置任务名字 local本地模式 val conf=new SparkConf().setAppName("WC").setMaster("local") //通向spark集群的入口 val sc =new SparkContext(c
阅读全文
posted @ 2020-11-05 11:54 JulyBgm
阅读(136)
评论(0)
推荐(0)
2020年10月29日
spak 单词统计简单例子
摘要: spark默认页面UI 对应配置文件 sh start-all.sh 启动命令 spark-shell启动 jps看下多了一个sparksubmit进程 启动后后台日志启动了job的页面 --编写个本地文件 为了后面测试 装载到rdd中 单词统计第一种写法 sc.textFile("/home/ha
阅读全文
posted @ 2020-10-29 17:31 JulyBgm
阅读(72)
评论(0)
推荐(0)
公告