大数据之hadoop集群安全模式

集群安全模式
1.概述
(1)NameNode启动
NameNode启动时,首先将镜像文件(Fsimage)载入内存,并执行编辑日志(Edits)中的各项操作。-旦在内存中成功建立文件系统元数据的影像,则创建一个新的Fsimage文件和一个空的编辑日志。此时,NameNode开始监听DataNode请求。这个过程期间,NameNode一直运行在安全模式,即NameNode的文件系统对于客户端来说是只读的
(2)DataNode启动
系统中的数据块的位置并不是由NameNode维护的,而是以块列表的形式存储在DataNode中,在系统的正常操作期间,NameNode会在内存中保留所有块位置的映射信息。在安全模式下,各个DataNode会向NameNode发送最新的块列表信息,NameNode了解到足够多的块位置信息之后,即可高效运行文件系统。
(3)安全模式退出判断
如果满足“最小副本条件”,NameNode会在30秒钟之后就退出安全模式。所谓的最小副本条件指的是在整个文件系统99.9%的块满足最小副本级别(默认值:dfs.replication=1)。在启动一个刚刚格式化的HDFS集群时,因为系统中还没有任何块,所以NameNode不会进入安全模式。
2.基本语法
集群处于安全模式,不能执行重要操作(写操作)。集群启动完成后,自动退出安全模式。

1)bin/hdfs dfsadmin -safemode get    (功能描述:查看安全模式状态)
(2)bin/hdfs dfsadmin -safemode enter (功能描述:进入安全模式状态)
(3)bin/hdfs dfsadmin -safemode leave    (功能描述:离开安全模式状态)
(4)bin/hdfs dfsadmin -safemode wait    (功能描述:等待安全模式状态)

3.案例
模拟等待安全模式
(1)查看当前模式

[linyouyi@hadoop01 hadoop-2.7.7]$ hdfs dfsadmin -safemode get
Safe mode is OFF

(2)先进入安全模式

[linyouyi@hadoop01 hadoop-2.7.7]$ bin/hdfs dfsadmin -safemode enter

(3)创建并执行下面的脚本
在/hadoop/module/hadoop-2.7.7路径上,编辑一个脚本safemode.sh

[linyouyi@hadoop01 hadoop-2.7.7]$ touch safemode.sh
[linyouyi@hadoop01 hadoop-2.7.7]$ vim safemode.sh
#!/bin/bash
hdfs dfsadmin -safemode wait
hdfs dfs -put /hadoop/module/hadoop-2.7.7/README.txt /

[linyouyi@hadoop01 hadoop-2.7.7]$ chmod 777 safemode.sh
[linyouyi@hadoop01 hadoop-2.7.7]$ ./safemode.sh 

(4)再打开一个窗口,执行

[linyouyi@hadoop01 hadoop-2.7.7]$ bin/hdfs dfsadmin -safemode leave

(5)观察
(a)再观察上一个窗口

[linyouyi@hadoop01 hadoop-2.7.7]$ bin/hdfs dfsadmin -safemode get
Safe mode is OFF

(b)HDFS集群上已经有上传的数据了。

posted @ 2019-08-09 16:43  linyouyi  阅读(1205)  评论(0编辑  收藏  举报