摘要: spark 调优 三个方面: 代码的优化 参数的优化 数据倾斜的优化 spark 代码的优化 加粗的为重点 1、避免创建重复的RDD 2、尽可能复用同一个RDD 3、对多次使用的RDD进行持久化 4、尽量避免使用shuffle类算子 5、使用map-side预聚合的shuffle操作 6、使用高性能 阅读全文
posted @ 2022-03-15 22:00 赤兔胭脂小吕布 阅读(76) 评论(0) 推荐(0) 编辑
摘要: Spark MLlib Spark 机器学习 机器学习是人工智能的一个分支 注意:我们学习一个框架的时候一定要学会看官网 导入依赖 <dependency> <groupId>org.apache.spark</groupId> <artifactId>spark-mllib_2.11</artif 阅读全文
posted @ 2022-03-15 11:38 赤兔胭脂小吕布 阅读(78) 评论(0) 推荐(0) 编辑