摘要: 1 YARN-HA 工作机制 1. 官方文档: http://hadoop.apache.org/docs/r2.7.2/hadoop-yarn/hadoop-yarn-site/ResourceManagerHA.html 2. YARN-HA 工作机制,如图 3-23 所示 2 配置 YARN- 阅读全文
posted @ 2020-07-21 15:51 秋华 阅读(368) 评论(0) 推荐(0) 编辑
摘要: 1 环境准备 1. 修改 IP 2. 修改主机名及主机名和 IP 地址的映射 3. 关闭防火墙 4. ssh 免密登录 5. 安装 JDK,配置环境变量等 2 规划集群 3 配置 Zookeeper 集群 1. 集群规划 在 hadoop102、hadoop103 和 hadoop104 三个节点上 阅读全文
posted @ 2020-07-21 15:27 秋华 阅读(245) 评论(0) 推荐(0) 编辑
摘要: 1 HA 概述 1)所谓 HA(High Available),即高可用(7*24 小时不中断服务)。 2)实现高可用最关键的策略是消除单点故障。HA 严格来说应该分成各个组件的 HA 机制: HDFS 的 HA 和 YARN 的 HA。 3)Hadoop2.0 之前,在 HDFS 集群中 Name 阅读全文
posted @ 2020-07-21 12:33 秋华 阅读(221) 评论(0) 推荐(0) 编辑
摘要: 1 节点类型 2 Stat 结构体 1)czxid-创建节点的事务 zxid 每次修改 ZooKeeper 状态都会收到一个 zxid 形式的时间戳,也就是 ZooKeeper 事务 ID。 事务 ID 是 ZooKeeper 中所有修改总的次序。每个修改都有唯一的 zxid,如果 zxid1 小于 阅读全文
posted @ 2020-07-21 11:57 秋华 阅读(191) 评论(0) 推荐(0) 编辑
摘要: 1.需求 某分布式系统中,主节点可以有多台,可以动态上下线,任意一台客户端都能实时感知到主节点服务器的上下线。 2.需求分析,如图 5-12 所示 3.具体实现 (0)先在集群上创建/servers 节点 [zk: localhost:2181(CONNECTED) 10] create /serv 阅读全文
posted @ 2020-07-21 11:56 秋华 阅读(348) 评论(0) 推荐(0) 编辑
摘要: 1 Vscode 环境搭建 1.1.创建一个 Maven 工程 参照Maven 专题(二):vscode 创建一个java Maven项目(vscode)以HdfsClientDemo 为例 1.2.添加 pom 文件 <dependencies> <dependency> <groupId>jun 阅读全文
posted @ 2020-07-21 10:37 秋华 阅读(210) 评论(0) 推荐(0) 编辑