2024年12月3日
详解 Spark 数据倾斜及解决方案
摘要： 一、调优概述 有的时候，我们可能会遇到大数据计算中一个最棘手的问题——数据倾斜，此时Spark作业的性能会比期望差很多。数据倾斜调优，就是使用各种技术方案解决不同类型的数据倾斜问题，以保证Spark作业的性能。 二、数据倾斜发生时的现象 绝大多数task执行得都非常快，但个别task执行极慢。比如， 阅读全文
posted @ 2024-12-03 15:13 业余砖家 阅读(29) 评论(0) 推荐(0) 编辑