摘要:根据业务需求,需要对pyspark内存资源进行限制 本文使用的环境为pyspark 3.1.2,standalone模式 不足之处还请指出 pyspark进程说明 首先我们需要知道对pyspark进行内存限制,是限制哪部分的内存。 先看一下执行pyspark任务需要启动哪些进程 pyspark与原版
阅读全文
posted @ 2022-04-06 16:37
04 2022 档案
摘要:根据业务需求,需要对pyspark内存资源进行限制 本文使用的环境为pyspark 3.1.2,standalone模式 不足之处还请指出 pyspark进程说明 首先我们需要知道对pyspark进行内存限制,是限制哪部分的内存。 先看一下执行pyspark任务需要启动哪些进程 pyspark与原版
阅读全文
posted @ 2022-04-06 16:37
|
||