docker Hadoop HA高可用性分布式集群搭建

自学hadoop,不求甚解的过了一遍相关<<Hadoop权威指南>>, 然后开启了满是坎坷的环境搭建之旅。得益于网友无私分享初步实现Hadoop HA 高可用分布式集群,现略作小结。

环境模拟:VMware Workstation上安装centos7,centos7上安装docker,通过docker镜像创建多个centos7容器,以此模拟真实环境建设集群。

 

1.docker生成centos7镜像,基础建设:ssh、ifconfig、vi、ping、hadoop、java

 

2.在第一步的基础上, 生成六台服务器(docker 容器),安全按照步骤3的机器规划

docker run --name node01 --hostname node01 --add-host node01:172.17.0.2 --add-host node02:172.17.0.3 --add-host node03:172.17.0.4 --add-host node04:172.17.0.5 --add-host node05:172.17.0.6 --add-host node06:172.17.0.7 -d hadoop_me:v1.3
docker run --name node02 --hostname node02 --add-host node01:172.17.0.2 --add-host node02:172.17.0.3 --add-host node03:172.17.0.4 --add-host node04:172.17.0.5 --add-host node05:172.17.0.6 --add-host node06:172.17.0.7 -d hadoop_me:v1.3
docker run --name node03 --hostname node03 --add-host node01:172.17.0.2 --add-host node02:172.17.0.3 --add-host node03:172.17.0.4 --add-host node04:172.17.0.5 --add-host node05:172.17.0.6 --add-host node06:172.17.0.7 -d hadoop_me:v1.3
docker run --name node04 --hostname node04 --add-host node01:172.17.0.2 --add-host node02:172.17.0.3 --add-host node03:172.17.0.4 --add-host node04:172.17.0.5 --add-host node05:172.17.0.6 --add-host node06:172.17.0.7 -d hadoop_me:v1.3
docker run --name node05 --hostname node05 --add-host node01:172.17.0.2 --add-host node02:172.17.0.3 --add-host node03:172.17.0.4 --add-host node04:172.17.0.5 --add-host node05:172.17.0.6 --add-host node06:172.17.0.7 -d hadoop_me:v1.3
docker run --name node06 --hostname node06 --add-host node01:172.17.0.2 --add-host node02:172.17.0.3 --add-host node03:172.17.0.4 --add-host node04:172.17.0.5 --add-host node05:172.17.0.6 --add-host node06:172.17.0.7 -d hadoop_me:v1.3

# 集群内免密码
ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
chmod 0600 ~/.ssh/authorized_keys
ssh-copy-id hostname

# windows连接LInux虚拟机里面的Docker容器,本地使用CRT连接docker 虚拟出来的节点,用于模拟多台服务器环境

 https://www.cnblogs.com/qingyunzong/p/9021140.html

 

3.集群搭建: https://blog.51cto.com/13003060/2123368

 

注意事项:

  1.docker容器启动遵循节点从小到大的顺序

  2.格式hdfs时,如果core-site.xml中的hadoop.tmp.dir配置的目录存在文件需要清空

  3.zookeeper所有节点需要一起启动,否则会报错。可采用C额cureCRT发送交互到所有会话功能

posted @ 2019-08-22 17:18  卿祛病  阅读(407)  评论(0编辑  收藏  举报