drill 学习 五 配置说明- 多租户

drill 支持多用户共享同一个drillbit以及运行在独立drillbit节点的集群模式
drill可以与以下大数据工具运行在一起:

  • mapreduce
  • yarn
  • hbase
  • hive && pig
  • spark
    当我们与其他工具一起运行的时候需要关注:内存,cpu,以及磁盘的配置
    当用户共享drillbit的时候,我们同时需要配置队列以及并行

多租户模式的资源配置

主要的配置文件是drill-env.sh,具体的配置可以结合官方文档以及各种工具的实践说明,但是对于cpu
资源的配额管理推荐使用linux 的cgroup

共享drillbit 模式

我们需要关注查询队列,包含的配置选项(通过sys.options)

 
exec.queue.large
exec.queue.small
exec.queue.threshold

并行配置,相关的参数(通过sys.options):

planner.width.max_per_node
跨核心和群集节点的查询的最大分布程度。
planner.width.max_per_query
与每个节点的最大值相同,但适用于整个集群执行的查询

说明

以上是一个简单的说明,详细的可以参考官方文档

参考资料

https://drill.apache.org/docs/configuration-options-introduction/
https://drill.apache.org/docs/performance-tuning-introduction/
https://drill.apache.org/docs/configuring-resources-for-a-shared-drillbit/
https://drill.apache.org/docs/configuring-cgroups-to-control-cpu-usage/

posted on   荣锋亮  阅读(317)  评论(0编辑  收藏  举报

编辑推荐:
· 记一次.NET内存居高不下排查解决与启示
· 探究高空视频全景AR技术的实现原理
· 理解Rust引用及其生命周期标识(上)
· 浏览器原生「磁吸」效果!Anchor Positioning 锚点定位神器解析
· 没有源码,如何修改代码逻辑?
阅读排行:
· 全程不用写代码,我用AI程序员写了一个飞机大战
· DeepSeek 开源周回顾「GitHub 热点速览」
· 记一次.NET内存居高不下排查解决与启示
· MongoDB 8.0这个新功能碉堡了,比商业数据库还牛
· .NET10 - 预览版1新功能体验(一)
历史上的今天:
2019-10-05 cloudevents 通用event 描述指南
2017-10-05 fn project 试用之后的几个问题的解答
2017-10-05 fn project 扩展
2017-10-05 fn project 生产环境使用
2017-10-05 fn project 对象模型
2017-10-05 fn project AWS Lambda 格式 functions
2017-10-05 fn project 打包Function

导航

< 2025年3月 >
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5
点击右上角即可分享
微信分享提示