会员
周边
众包
新闻
博问
闪存
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
Queenie攀
博客园
首页
新随笔
联系
订阅
管理
2020年8月20日
shuffle调优
摘要: shuffle调优 调优概述 大多数Spark作业的性能主要就是消耗在了shuffle环节,因为该环节包含了大量的磁盘IO、序列化、网络数据传输等操作。因此,如果要让作业的性能更上一层楼,就有必要对shuffle过程进行调优。但是也必须提醒大家的是,影响一个Spark作业性能的因素,主要还是代码开发
阅读全文
posted @ 2020-08-20 19:00 Queenie攀
阅读(148)
评论(0)
推荐(0)
编辑
公告