会员
周边
众包
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
大数据开发程序猿
做有态度的码农,欢迎各位朋友光临,本博客长期更新,需要学习讨论找工作面试的同学可以加qq群:694117549,交个朋友相互交流。
博客园
首页
新随笔
联系
订阅
管理
2018年11月18日
spark浅谈(3):
摘要: 一、shuffle操作 1.spark中特定的操作会触发我们都知道的shuffle事件,shuffle是spark进行数据重新分布的机制,这通常涉及跨执行程序和机器来赋值数据,使得混洗称为复杂而且昂贵的操作。 2.为了理解shuffle过程中所发生的事情,我们先来关注reduceByKey操作的例子
阅读全文
posted @ 2018-11-18 14:25 stone1234567890
阅读(193)
评论(0)
推荐(0)
编辑
公告