博客园  :: 首页  :: 新随笔  :: 联系 :: 订阅 订阅  :: 管理

2022年4月6日

摘要: 根据业务需求,需要对pyspark内存资源进行限制 本文使用的环境为pyspark 3.1.2,standalone模式 不足之处还请指出 pyspark进程说明 首先我们需要知道对pyspark进行内存限制,是限制哪部分的内存。 先看一下执行pyspark任务需要启动哪些进程 pyspark与原版 阅读全文

posted @ 2022-04-06 16:37 Antel 阅读(871) 评论(0) 推荐(0) 编辑