如何在集群里服役新节点、退役旧节点(DataNode)
准备好新的数据节点(DataNode)
①准备机器,配置好JDK、hadoop的环境变量,在hdfs-site.xml
和yarn-site.xml
文件中分别配置NameNode
和ResourceManager
所在主机名
②待服役成功后,启动datanode
和nodemanager
进程即可
③服役了新的DN节点后,可以执行再平衡的命令,这个命令可以将集群中块进行重新平衡分配,实现负载均衡:
./start-balancer.sh
方法一:白名单
- 白名单之外的机器,无法进入集群
- 编写一个文件,添加要服役的主机名
- 通过
hdfs-site.xml
中的dfs.hosts
配置,value
即白名单文件的路径位置 - 可以使用
hdfs dfsadmin -refreshNodes
刷新配置,读取此配置信息!
方法二:黑名单
- 黑名单里的机器,无法进入集群
- 编写一个文件,添加要退役的主机名
- 通过
hdfs-site.xml
中的dfs.hosts.exclude
配置,value
即黑名单文件的路径位置 - 黑名单中的机器在最后一次启动时,会将当前机器的块移动到其他节点!
- 注意:如果当前集群中在线的DN节点不满足某些文件的副本数要求,当前退役节点是无法退役完成!
如果真的不知道做什么 那就做好眼前的事情吧 你所希望的事情都会慢慢实现...