使用ambari安装dolphinscheduler服务
ambari服务集成dolphinscheduler服务
1.将需要集成到ambari的服务安装包放到该目录下
/var/lib/ambari-server/resources/stacks/HDP/3.1/services
2.重启ambari-server服务
sudo ambari-server restart
继承完之后在ambari页面上进行服务安装
1.添加服务选择dolphinscheduler
2.dolphinscheduler服务配置
这个选择使用mysql数据作为dolphinscheduler服务的元数据库
3.服务选择进行安装
选择两个DS-master,至少两个DS-ALTERS,DS-APIS,其余节点都部署DS-worker节点
4.如果在安装dolphinscheduler之前做了namenode-ha则可能会报'hue-desktop-ini'相关报错,则需要对params.py脚本进行修改
脚本位置 /var/lib/ambari-server/resources/stacks/HDP/3.3/services/DOLPHINSCHEDULER/package/scripts/params.py 修改内容 #hdfs_httpfs_host = config['configurations']['hue-desktop-ini']['hdfs_httpfs_host'] hdfs_httpfs_host = "dfs_ha_enabled" 注释#hdfs_httpfs_host = config['configurations']['hue-desktop-ini']['hdfs_httpfs_host'] 给hdfs_httpfs_host 任意赋值一个参数让下边的webhdfs_url直接取第一个namenode_hosts[0]
修改完之后保存重启ambari-server服务重新安装dolphinscheduler
5.拷贝mysql驱动到所有节点libs目录下
cp /tmp/mysql-connector-j-8.0.33.jar /usr/hdp/current/dolphinscheduler/alert-server/libs/ cp /tmp/mysql-connector-j-8.0.33.jar /usr/hdp/current/dolphinscheduler/api-server/libs/ cp /tmp/mysql-connector-j-8.0.33.jar /usr/hdp/current/dolphinscheduler/master-server/libs/ cp /tmp/mysql-connector-j-8.0.33.jar /usr/hdp/current/dolphinscheduler/worker-server/libs/ cp /tmp/mysql-connector-j-8.0.33.jar /usr/hdp/3.3.1.0-004/dolphinscheduler/tools/libs/
6.因为第二步配置的用户为hdfs用户所以需要将所有服务所属组改为hdfs
/var/log/dolphinscheduler /usr/hdp/3.3.1.0-004/dolphinscheduler /etc/dolphinscheduler/ chown -R hdfs:hdfs dolphinscheduler sdo ln -s /usr/hdp/3.1.4.0-315/dolphinscheduler dolphinscheduler
修改完之后ambari管理平台上启动dolphinscheduler,启动过程中元数据会自动初始化建表
本文来自博客园,作者:whiteY,转载请注明原文链接:https://www.cnblogs.com/whiteY/p/18046586
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】博客园社区专享云产品让利特惠,阿里云新客6.5折上折
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· [翻译] 为什么 Tracebit 用 C# 开发
· Deepseek官网太卡,教你白嫖阿里云的Deepseek-R1满血版
· 2分钟学会 DeepSeek API,竟然比官方更好用!
· .NET 使用 DeepSeek R1 开发智能 AI 客户端
· 刚刚!百度搜索“换脑”引爆AI圈,正式接入DeepSeek R1满血版