b0106 大数据集群-2021分布式B(服务器)-环境搭建
环境
HP GL360 D6 服务器 安装 vmware 12, 虚拟机装 centos7.9
大数据 6台主机 作为服务器, 另外一台主机 做 客户机 (hc2150
参考 b0105 大数据搭建,复制其3台机器,然后拓展
集群规
描述 | hc2151 | hc2152 | hc2153 | hc2154 | hc2155 | hc2156 | 启动方式 | |
ip1 (NAT) | 192.168.25.51 | 192.168.25.52 | 192.168.25.53 | 192.168.25.54 | 192.168.25.55 | 192.168.25.56 | ||
ip2 (桥接) | 192.168.1.51 | 192.168.1.52 | 192.168.1.53 | 192.168.1.54 | 192.168.1.55 | 192.168.1.56 | ||
HDFS |
NameNode DataNode |
Second NameNode DataNode |
DataNode | DataNode | DataNode | DataNode | start-dfs.sh (任意) | |
YARN | NodeManager |
NodeManager |
ResourceManager NodeManager |
NodeManager | NodeManager | NodeManager | ||
zookeeper | ✔ | ✔ | ✔ | |||||
kafka | ✔ | ✔ | ✔ | |||||
flink(standalone) | taskmanager | taskmanager | taskmanager |
jobmanasger taskmanager |
taskmanager | taskmanager | start-cluster.sh(jm节点) | |
spark(standlone) | worker | worker | worker |
worker |
master worker |
worker | ||
hbase | ✔ | ✔ | ✔ |
✔ |
✔ |
✔ |
客户端
hc2150, ip 192.168.1.50, 桥接模式
spark standlone master
http://192.168.1.55:8080/
写满200篇博文再说
分类:
2. 大数据、云和大规模处理
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· 开发者必知的日志记录最佳实践
· SQL Server 2025 AI相关能力初探
· Linux系列:如何用 C#调用 C方法造成内存泄露
· AI与.NET技术实操系列(二):开始使用ML.NET
· 被坑几百块钱后,我竟然真的恢复了删除的微信聊天记录!
· 没有Manus邀请码?试试免邀请码的MGX或者开源的OpenManus吧
· 【自荐】一款简洁、开源的在线白板工具 Drawnix
· 园子的第一款AI主题卫衣上架——"HELLO! HOW CAN I ASSIST YOU TODAY
· Docker 太简单,K8s 太复杂?w7panel 让容器管理更轻松!