Ambari-Ambari2.7.4+HDP3.1.4安装 Centos7离线安装
1|0一、安装介绍
1|11.1Ambari
Ambari是一种基于Web的工具,支持Apache Hadoop集群的创建 、管理和监控。
Ambari已支持大多数Hadoop组件,包括HDFS、MapReduce、Hive、Pig、 Hbase、Zookeeper、Sqoop和Hcatalog等。Apache Ambari 支持HDFS、MapReduce、Hive、Pig、Hbase、Zookeepr、Sqoop和Hcatalog等的集中管理。也是5个顶级hadoop管理工具之一。
Ambari 自身也是一个分布式架构的软件,主要由两部分组成:Ambari Server 和 Ambari Agent。简单来说,用户通过 Ambari Server 通知 Ambari Agent 安装对应的软件;Agent 会定时地发送各个机器每个软件模块的状态给 Ambari Server,最终这些状态信息会呈现在 Ambari 的 GUI,方便用户了解到集群的各种状态,并进行相应的维护。
1|21.2 HDP
HDP是hortonworks的软件栈,里面包含了hadoop生态系统的所有软件项目,比如HBase,Zookeeper,Hive,Pig等等。
1|31.3 HDP-UTILS
HDP-UTILS是工具类库。
2|0二、 Ambari搭建前环境准备
2|12.1 版本介绍
截止到2020.03.03,Ambari的最新版本为2.7.5,HDP的最新版本为3.1.5
通过 https://supportmatrix.hortonworks.com/ 可以查询Ambari和HDP各个版本支持情况
我这里选择的是2.7.4版本,所以使用的HDP对应版本为3.1.4
2|22.2 搭建环境
2.2.1 所用到的环境列表
环境 | 版本 |
---|---|
Linux | Centos7物理机*4(英文系统) |
Ambari | 2.7.4 |
HDP | 3.1.4 |
HDP-UTILS | 1.1.0.2 |
MySQL-MariaDB/ MySQL | 10.4.12/5.7 |
OracleJDK8 | 1.8.0_201 |
Nginx | 1.17.8(已有环境,选用,可不用) |
2.2.2 环境下载
Ambari在线安装特别慢,所以使用离线安装,建议使用迅雷下载
(2021.06.19更新)鉴于有很多用户反映离线包已收费,这里提供一下白度云地址:链接: https://pan.baidu.com/s/1obECabArXjHmZXVuxxpdYQ 提取码: ma4e
JDK8环境
2|32.4 集群节点划分
节点名称 | 局域网ip地址 | 服务 | 内存 | 硬盘 |
---|---|---|---|---|
master(主节点) | 192.168.105.137 | Ambari/HDP Ambari Server MariaDB /MySql | 4G | 450G |
slave1(子节点) | 192.168.105.191 | Compute node | 4G | 450G |
slave2(子节点) | 192.168.105.192 | Compute node | 4G | 450G |
slave3(子节点) | 192.168.105.193 | Compute node | 4G | 450G |
2|42.5 修改网络配置(所有节点)
用putty或者xshell连接执行
找到ifcfg-en开头,后面的数字由每台机器生成各有不同,直接vi编辑即可
修改前:
修改后:
重启网络服务:# service network start
ping一下局域网其他机器 通了即可
3|0三、系统环境配置
3|13.1 安装 JDK(所有节点)
Linux自带的jdk或者是通过yum安装的jdk都是openjdk
最好是使用开源的oracle jdk,缺失部分功能,如果直接安装oracle的jdk,第三方的依赖包不会安装,我们这里是通过yum安装openjdk,并同时安装了第三方依赖包,然后卸载openjdk,通过自己来安装oracle的jdk,就能解决依赖问题。
3.1.1 安装openjdk
3.1.2卸载OpenJDK
安装和卸载的时候注意一下open jdk的版本号
3.1.3安装之前下好的 OracleJDK (注意文件位置)
3|23.2 修改节点名称(所有节点)
3.2.1 修改/etc/hosts文件(所有节点)
方便通过名称来查找相应节点
3.2.2 修改/etc/sysconfig/network(所有节点)
各节点改成相对应的节点名即可
接下来通过测试ping各个节点名称是否调通
3|33.3 更换所有节点为阿里巴巴yum源(所有节点)
阿里巴巴开发者社区url: https://developer.aliyun.com/mirror/
选择Centos
可直接运行如下
3|43.4 同步时间ntp
3.4.1 安装ntp服务(所有节点)
启动服务,查看状态并设置开机自启
3|53.5 关闭防火墙(所有节点)
查看防火墙状态
关闭防火墙
设置开机不启动
查看是否成功
3|63.6 关闭Selinux和THP(所有节点)
3.6.1关闭Selinux
查看Selinux状态
关闭Selinux,提示没有vim用yum装一个咯或者用vi
3.6.2关闭THP
查看状态
关闭THP并给予文件权限
3|73.7 修改文件打开最大限制(所有节点)
设置并查看
3|83.8 SSH无密码登陆(主节点)
回车通过,输入密码等确认通过即可
测试是否实现无密码登录 ,无输入密码即可通过
将刚刚创建的秘钥拷出来,后面ambari安装的时候需要上传这个秘钥。创建秘钥是在隐藏文件夹/root/.ssh/下面的,所以需要先把秘钥拷贝到可见区域,然后拷贝到本机上。
到这里我们先reboot重启一下
4|0四、实现离线安装,更换yum源
4|14.1 文件目录展示
由于我这里主机已经安装了Nginx,所以文件目录的方式我这里写了两种展示目录的方式 ,4.1.1和4.1.2选择一种即可
4.1.1 http服务方式
安装完成后,会生成 /var/www/html目录(相当于Tomcat的webapps目录)
将之前下的Ambari、HDP、HDP-UTILS三个包放到 /var/www/html 下
4.1.2 nginx服务方式
找到nginx的配置, 在nginx server中的location中增加:
参数说明:
root /data/image/
你需要开启浏览的目录,放访问
http://IP 时候显示的就是/data/image目录下的内容
autoindex_localtime on;
默认为off,显示的文件时间为GMT时间。
改为on后,显示的文件时间为文件的服务器时间
autoindex_exact_size off;
默认为on,显示出文件的确切大小,单位是bytes。
改为off后,显示出文件的大概大小,单位是kB或者MB或者GB
listen 8001;
访问端口号,
访问 http://192.168.105.137/ambari/ 看是否能访问
4|24.2 制作本地源
4.2.1 安装本地源制作相关工具(主节点)
4.2.2 修改文件里面的源地址(主节点)
注意文件路径,以自己为准
以上就已经创建好了
使用yum的命令清一下缓存
4.2.3 将创建好的源文件拷贝到子节点(主节点)
5|0五、安装ambari-server
这里介绍两种模式,一种是默认postgresql数据库的安装方式,还有就是mysql方式,这里我们用到的是mysql,大家根据自身选一种即可
无论是用哪种,首先都要安装ambari-server
5|15.1默认数据库PostgreSQL安装方式(主节点)
启动ambari
成功启动后在浏览器输入Ambari地址:
http://192.168.105.137:8080 即可看到
5|25.2 MySql安装方式(主节点)
5.2.1 安装MySql
5.2.2 启动mysql,设置开机启动
5.2.3 登录进mysql,初始化设置root密码
5.2.4登录mysql,执行以下的语句
5.2.5 建立mysql与ambari-server的jdbc连接
5|35.2.6设置ambari-server
如果启动失败 建议查看
日志在/var/log/ambari-server/ambari-server.log里面
重置 ambari-server
如果选择的是mysql方式,就需要先执行上面的语句,然后手动将mysql里面创建的数据库进行删除
如果在安装的过程中出现了错误,又想重新安装,可以在ambari-server开启的情况下,执行下面的语句来移除已安装的包,然后再通过不同的情况选择上面两种方式的一种对ambari-server进行重置
6|0六、 安装配置部署HDP集群
6|16.1 登录过程
如果你以上安装成功
输入主机ip:8080则会看到如下界面
账户:admin 密码:admin
6|25.2 安装向导
登录后点击进入流程
6.2.1 配置及群名字
我这用到的是hadoop
6.2.2 选择版本并修改为本地源地址
放一张机翻的配置
ambari确认过了就next继续了
6.2.3 安装配置
上传之前存好的秘钥文件id_rsa
机翻页面
6.2.4 确认安装ambari的agent
确认安装ambari的agent,并检查出现的问题,这个地方经常出现错误
如图就出现了错误,点击Failed的查看错误日志
像我这里的错误是ambari的8040等端口无法访问的问题,我放开了8000-9000的端口就可以了,我之前也遇到很多其他的问题,具体问题具体分析,多查谷歌,百度,国外的网站更容易解决问题
机翻
检查主机可能会发现之前漏下的问题,比如说我这里防火墙没关他就会出现提示
检查无误,NEXT→通过即可
如果这个步骤失败了错误,记得多看日志,多找问题,如果还不行的话,回档咯
6.2.5 大数据服务组件安装
勾选你所需要的
6.2.6 节点分配
6.2.7 分配主从
6.2.8 安装配置
hive和oozie的数据库用户密码填上之前创建好的
如果安装了hive,ooize等,需要修改成我们本地建好的库,jdbc-mysql也要配置好
6.2.9 概况部署
警告这里我这就忽略掉了,后期我们再修复
哈哈,这红的心慌,把他们变绿吧
__EOF__

本文链接:https://www.cnblogs.com/shook/p/12409759.html
关于博主:评论和私信会在第一时间回复。或者直接私信我。
版权声明:本博客所有文章除特别声明外,均采用 BY-NC-SA 许可协议。转载请注明出处!
声援博主:如果您觉得文章对您有帮助,可以点击文章右下角【推荐】一下。您的鼓励是博主的最大动力!
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 开发者必知的日志记录最佳实践
· SQL Server 2025 AI相关能力初探
· Linux系列:如何用 C#调用 C方法造成内存泄露
· AI与.NET技术实操系列(二):开始使用ML.NET
· 记一次.NET内存居高不下排查解决与启示
· 被坑几百块钱后,我竟然真的恢复了删除的微信聊天记录!
· 没有Manus邀请码?试试免邀请码的MGX或者开源的OpenManus吧
· 【自荐】一款简洁、开源的在线白板工具 Drawnix
· 园子的第一款AI主题卫衣上架——"HELLO! HOW CAN I ASSIST YOU TODAY
· Docker 太简单,K8s 太复杂?w7panel 让容器管理更轻松!