yetang307

  博客园  :: 首页  :: 新随笔  :: 联系 :: 订阅 订阅  :: 管理
2. 为什么要在全部的服务器安装jieba库?
因为YARN是集群运行, Executor可以在所有服务器上执行, 所以每个服务器都需要有jieba库提供支
3. 如何尽量提高任务计算的资源?
计算CPU核心和内存量, 通过--executor-memory 指定executor内存, 通过--executor-cores 指定
executor的核心数
通过--num-executors 指定总executor数量
posted on 2024-01-18 23:09  椰糖  阅读(5)  评论(0编辑  收藏  举报