Pyspark 对DataFrame做随机打乱操作
需求:从hive下拉数据,要合并多个数据(每组数据类别不同),如果要在构造数据集最终阶段随机打乱,可以使用pyspark的orderBy随机打乱
from pyspark.sql.functions import rand sql = "select * from abc.table1 limit 10;" df1 = spark.sql(sql) sql = "select * from abc.table2 limit 5;" df2 = spark.sql(sql) # 合并两组数据,列名顺序要一致 res = df1.unionAll(df2) res.show() # shuffle data = res.orderBy(rand()) data.show()
但是,这将带来巨额消耗,因为其实一个全局shuffle
时刻记着自己要成为什么样的人!
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】博客园社区专享云产品让利特惠,阿里云新客6.5折上折
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· DeepSeek “源神”启动!「GitHub 热点速览」
· 我与微信审核的“相爱相杀”看个人小程序副业
· 微软正式发布.NET 10 Preview 1:开启下一代开发框架新篇章
· 如何使用 Uni-app 实现视频聊天(源码,支持安卓、iOS)
· C# 集成 DeepSeek 模型实现 AI 私有化(本地部署与 API 调用教程)