Cloudera安装攻略:让你的数据管理更高效!

引言:之前文章《深度挖掘|Cloudera安装不再难!基础环境搭建全解析》中,我们深入探讨了如何在企业环境中精心准备系统环境,为大数据平台Cloudera 搭建奠定坚实基础。今天,我们将正式进行Cloudera Manager的下载安装与部署。

Cloudera Manager下载

步骤一:环境检查与准备确保系统环境已按照《深度挖掘|Cloudera安装不再难!基础环境搭建全解析》指导完成准备,包括操作系统版本、网络配置、防火墙设置等。同时,检查Java环境是否满足Cloudera Manager的要求。

 

步骤二:下载Cloudera Manager安装包访问Cloudera官网,根据您的需求选择合适的Cloudera Manager版本进行下载。注意检查下载链接的安全性,避免从非官方渠道下载。

Cloudera manager 安装

1. 创建安装目录 

在三台节点 cm1,cm2,cm3 中执行命令“mkdir /opt/cloudera-manager”创 建安装目录。 

并且将“cloudera-manager-el6-cm5.4.3_x86_64.tar.gz”上传至 cm1 节点的目录“/software”下,并且解压到目录“/opt/cloudera-manager” 下,在 cm1 节点执行命令如下: 

 

1.[root@cm1 software]# tar
-zxvf ./cloudera-manager-el6-cm5.4.3_x86_64.tar.gz -C /opt/cloudera-manager/

 

2. 配置 CM Agent 的 server host 

在cm1节点上修改路径 /opt/cloudera-manager/cm-5.4.3/etc/cloudera-scm-agent 下的 config.ini 文件,将 server_host=localhost 改成 server_host=cm1。 

 

3. 创建用户cloudera-scm

在三台节点 cm1,cm2,cm3 上创建用户“cloudera-scm”,在每台节点上执行如下命令: 

1.useradd--system--no-create-home--shell=/bin/false--comment"ClouderaSCM User" cloudera-scm

 

其中: --system 创建一个系统用户。--no-create-home 强制不创建家目录。 --shell 指定用户的 shell。--comment 用户说明。 

 

4. 创建Parcel目录在 Server 节点创建目录并修改权限: 

在 cm1 节点执行如下命令:

1.[root@cm1 cloudera-scm-agent]# mkdir -p /opt/cloudera/parcel-repo 
2.[root@cm1 cloudera-scm-agent]# chown cloudera-scm:cloudera-scm     /opt/cloudera/parcel-repo

 

在 Agent 节点创建目录并修改权限: 

在 cm1,cm2,cm3 节点上执行如下命令:

1.mkdir -p /opt/cloudera/parcels
2.chown cloudera-scm:cloudera-scm /opt/cloudera/parcels

 

5. 配置CM Server数据库

将 “ mysql-connector-java-5.1.26-bin.jar ” 上传至 cm1 节 点的 /usr/share/java/目录下,如果没有目录需要先创建目录,并且修改 jar 包名称为“mysql-connector-java.jar” 

登录mysql数据库,给用户temp【这里使用temp用户,也可以是其他用户名称】赋权限,在 cm1 执行如下命令: 

1.[root@cm1 ~]# mysql -u root -p123456
2.mysql>grantallon*.*to'temp'@'%'identifiedby'temp'withgrantoption;

在 cm1 节点中指定数据库,执行如下命令:

1.[root@cm1 ~]# cd /opt/cloudera-manager/cm-5.4.3/share/cmf/schema/
2.[root@cm1schema]#./scm_prepare_database.shmysqltemp-hcm1-utemp-ptemp --scm-host cm1 scm scm scm

 

以上执行命令参数的解释如下:

数据库类型、数据库、数据库服务器、用户名、密码、cm server 服务器

 

6. 制作CDH本地源 

将下载好的文件 “ CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel ” 和 “ manifest.json ” 两个文件,以及制作的 “CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel.sha”文件上传至 cm1 节点的/opt/cloudera/parcel-repo/目录下。 

以上这个步骤就是模拟安装 CDH 时,已经在 Cloudera Manager 的仓库中下载了CDH 的镜像文件。 

然后将 cm1 节点/opt/cloudera-manager 路径下的所有目录文件发送到 cm2、cm3节点。在 cm1 上执行如下命令:

1.[root@cm1 ~]# cd /opt/cloudera-manager/
2.[root@cm1 cloudera-manager]# scp -r ./* cm2:`pwd` 
3.[root@cm1 cloudera-manager]# scp -r ./* cm3:`pwd`

 

7. 启动CM Server、Agent在 cm1 节点上启动 CM Server: 

进入 cm1 路径:/opt/cloudera-manager/cm-5.4.3/etc/init.d,执行 如下命令: 

1 [root@cm1~]#cd/opt/cloudera-manager/cm-5.4.3/etc/init.d/ 
2 [root@cm1init.d]#./cloudera-scm-serverstart

 

注意: Sever首次启动会自动创建表以及数据,不要立即关闭或重启,否则需要删除所有表及数据重新安装。至少等待 2-3 分钟,视机器性能而定。可以在路径/opt/cloudera-manager/cm-5.4.3/log/cloudera-scm-server 下观察日志是否启动成功。 

在 cm1cm2cm3 节点上启动 Agent: 

进入 cm1,cm2,cm3 节点路径: 

/opt/cloudera-manager/cm-5.4.3/etc/init.d,执行如下命令: 

1 cd/opt/cloudera-manager/cm-5.4.3/etc/init.d/
2 ./cloudera-scm-agentstart

至此,Cloudera Manager 的安装完成。 


以上就是今天分享的全部内容。

如果你想了解更多关于:Cloudera系统环境准备、基础环境安装、集群部署以及应用组件安装等全方位的技术的问题,可以后台联系我们在线咨询,我们团队提供7x24小时不间断的技术支持服务,确保大家在任何时间遇到问题都能得到及时响应。

感谢你的阅读,如果喜欢我的文字,可以持续关注我,会陆续为你更新更多干货小知识。

 

 
如果你想深入探讨了解 Cloudera大数据技术的(内存扩容/缩容策略,故障诊断与问题排查)的方法论,欢迎撩我,觉得内容有帮助,可以右下角帮我点 “点赞” 、点亮 “在看” 分享朋友圈,非常感谢你的支持,祝财源滚滚。
posted @ 2024-09-25 14:55  ETL批量调度—Taskctl  阅读(3)  评论(0编辑  收藏  举报