摘要:
1 NN和2NN工作机制
2 Fsimage和Edits解析
3 CheckPoint时间设置
4 NameNode故障处理
5 集群安全模式
6 NameNode多目录配置 阅读全文
摘要:
1 HDFS写数据流程 1.1 剖析文件写入 HDFS写数据流程,如图所示 1)客户端通过Distributed FileSystem模块向NameNode请求上传文件,NameNode检查目标文件是否已存在,父目录是否存在。 2)NameNode返回是否可以上传。 3)客户端请求第一个 Block 阅读全文
摘要:
2 HDFS的API操作 2.1 HDFS文件上传(测试参数优先级) 1.编写源代码 2.将hdfs-site.xml拷贝到项目的根目录下 3.参数优先级 参数优先级排序:(1)客户端代码中设置的值 >(2)ClassPath下的用户自定义配置文件 >(3)然后是服务器的默认配置 2.2 HDFS文 阅读全文
摘要:
HDFS客户端操作 1.HDFS客户端环境准备 1.根据自己电脑的操作系统拷贝对应的编译后的hadoop jar包到非中文路径(例如:D:\Develop\hadoop-2.7.2),如图所示。 图 编译后的hadoop jar包 2.配置HADOOP_HOME环境变量,如图所示。 图 配置HADO 阅读全文
摘要:
大数据技术之Hadoop(HDFS) 第一章 HDFS概述 HDFS组成架构 HDFS文件块大小 第二章 HDFS的Shell操作(开发重点) 1.基本语法 bin/hadoop fs 具体命令 OR bin/hdfs dfs 具体命令 dfs是fs的实现类。 2.命令大全 3.常用命令实操 (0) 阅读全文