Hadoop 启动/停止集群和节点的命令
一、集群
1.启动/停止Hadoop集群:start-all.sh stop-all.sh
1) 启动NameNode, DataNode
2) 启动JournalNode, JournalNode在hdfs-site.xml中指定edits log存储的位置,主备NameNode共享数据,方便同步
3) 启动DFSZKFailoverController, HA会启用ZooKeeper Failover Controller
4) 启动YARN守护进程ResourceManager, NodeManager
2.启动/停止HDFS集群:start-dfs.sh stop-dfs.sh
1) 启动NameNode, DataNode
2) 启动JournalNode, JournalNode在hdfs-site.xml中指定edits log存储的位置,主备NameNode共享数据,方便同步
3) 启动DFSZKFailoverController, HA会启用ZooKeeper Failover Controller
3.启动/停止YARN集群:start-yarn.sh stop-yarn.sh
据说如果ResourceManager和NameNode不在同一台机器上,那NameNode上无法直接使用start-yarn.sh启动ResourceManager,但NodeManager可以启动,ResourceManager需要在ResourceManager节点上启动,这一点待考证
二、节点
启动NameNode: hadoop-daemon.sh start namenode
启动DataNode: hadoop-daemon.sh start datanode
启动JournalNode节点: hadoop-daemon.sh start journalnode
启动zkfc节点:hadoop-daemon.sh start zkfc
启动ResourceManager: yarn-daemon.sh start resourcemanager
启动NodeManager: yarn-daemon.sh start nodemanager
启动ZooKeeper节点:zkServer.sh start 启动QuorumPeerMain进程
三、查看ZooKeeper节点状态:zkServer.sh status 查看leader和follower状态
格式化HDFS: hdfs namenode -format
格式化ZKFC:hdfs zkfc -formatZK
查看NameNode和DataNode信息: hdfs dfsadmin -report
查看高可用NameNode状态: hdfs haadmin -getServiceState nn1 (active/standby)
四、Web界面端口
NameNode 50070
DataNode 50075
ResourceManager 8088
NodeManager 8042
五、更多端口参考
安装,查看等常用命令
查看进程:jps
kill进程:kill -9 pid
内容追加到文件:echo content > file, 如 echo 1 > myid
SSH拷贝:scp,如scp -r /usr/local/hadoop master:/usr/local
关闭防火墙:
查看状态systemctl status firewalld
关闭防火墙systemctl stop firewalld
开机禁用防火墙systemctl disable firewalld
配置免登录:
ssh-keygen -t rsa
ssh-copy-id -i host01
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 地球OL攻略 —— 某应届生求职总结
· 周边上新:园子的第一款马克杯温暖上架
· Open-Sora 2.0 重磅开源!
· 提示词工程——AI应用必不可少的技术
· .NET周刊【3月第1期 2025-03-02】