spark性能优化(包括优化原理及基本方法)
摘要:
https://www.jianshu.com/p/b8841a8925fb spark性能优化 1.诊断内存的消耗 2. 高性能序列化类库 3. 优化数据结构 4. 对多次使用的rdd进行持久化或者checkpoint 5. 使用序列化的持久化级别 6. java虚拟机垃圾回收调优 7. 提高并行 阅读全文
posted @ 2018-05-06 16:44 moonlight.ml 阅读(361) 评论(0) 推荐(0) 编辑