Hadoop概念学习系列之Hadoop集群动态增加新节点或删除已有某节点及复制策略导向
hadoop-2.6.0动态添加新节点
https://blog.csdn.net/baidu_25820069/article/details/52225216
Hadoop集群动态增加新节点
一、在新增节点配置运行环境
1、安装和其他节点相同的java环境,jdk版本要相同。
2、修改/etc/hosts配置文件,添加ip与hostname的对应关系并分发到集群各个节点。
3、关闭防火墙、相关软件工具的安装等。
4、配置ssh免密码登录,使新增节点和集群其他节点能实现免密码登录。
5、修改slaves文件并分发到集群各个节点。
二、在新增节点上部署Hadoop
把集群的Hadoop安装包copy到新增节点,安装目录最好一致,便于管理
三、单独启动新增节点
无需关闭集群再重启
四、验证是否启动成功
(1)通过WEB界面查看Live Node
(2)通过命令查看: bin/hadoop dfsadmin -report
五、集群负载均衡
运行start-balancer.sh进行数据负载均衡。(如果不进行balance,新数据一般会被插入到新节点中)
Hadoop集群动态删除某节点
注意提前做好删除节点数据的备份
推荐
http://www.aboutyun.com/thread-7532-1-1.html(运行Hadoop的集群如何动态增加与删除节点)(推荐)
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· 开发者必知的日志记录最佳实践
· SQL Server 2025 AI相关能力初探
· Linux系列:如何用 C#调用 C方法造成内存泄露
· 震惊!C++程序真的从main开始吗?99%的程序员都答错了
· 【硬核科普】Trae如何「偷看」你的代码?零基础破解AI编程运行原理
· 单元测试从入门到精通
· 上周热点回顾(3.3-3.9)
· winform 绘制太阳,地球,月球 运作规律