大数据学习07_HDFS1

  1. HDFS概述

       HDFS（Hadoop Distributed File System）是 Apache Hadoop 项目的一个子项目. Hadoop 非常 适于存储大型数据 (比如 TB 和 PB), 其就是使用 HDFS 作为存储系统. HDFS 使用多台计算机存 储文件, 并且提供统一的访问接口, 像是访问一个普通文件系统一样使用分布式文件系统.

       2.HDFS应用场景

  •  存储非常大的文件：这里非常大指的是几百M、G、或者TB级别，需要高吞吐量，对延时 没有要求。
  • 采用流式的数据访问方式: 即一次写入、多次读取，数据集经常从数据源生成或者拷贝一 次，然后在其上做很多分析工作 。
  • 运行于商业硬件上: Hadoop不需要特别贵的机器，可运行于普通廉价机器，可以处节约成 本
  • 需要高容错性
  • 为数据存储提供所需的扩展能力

       3.HDFS架构

          3.1HDFS是一个 主/从（Mater/Slave）体系结构 ， HDFS由四部分组成，HDFS Client、NameNod e、DataNode和Secondary NameNode。

  • Client：就是客户端。 文件切分。文件上传 HDFS 的时候，Client 将文件切分成 一个一个的Block，然后进行存 储。 与 NameNode 交互，获取文件的位置信息。 与 DataNode 交互，读取或者写入数据。 Client 提供一些命令来管理 和访问HDFS，比如启动或者关闭HDFS。
  • NameNode：就是 master，它是一个主管、管理者。 管理 HDFS 的名称空间 管理数据块（Block）映射信息 配置副本策略 处理客户端读写请求。
  • DataNode：就是Slave。NameNode 下达命令，DataNode 执行实际的操作。 存储实际的数据块。 执行数据块的读/写操作。
  • Secondary NameNode：并非 NameNode 的热备。当NameNode 挂掉的时候，它并不 能马上替换 NameNode 并提供服务。 辅助 NameNode，分担其工作量。 定期合并 fsimage和fsedits，并推送给NameNode。 在紧急情况下，可辅助恢复 NameNode。

         3.2namenode的作用

  • NameNode在内存中保存着整个文件系统的名称 空间和文件数据块的地址映射 整个HDFS可存储的文件数受限于NameNode的内存大小。
  • NameNode元数据信息 文件名，文件目录结构，文件属性(生成时间，副本数，权限)每个 文件的块列表。 以及列表中的块与块所在的DataNode之间的地址映射关系 在内存中加载文件 系统中每个文件和每个数据块的引用关系(文件、block、datanode之间的映射信息) 数据会定 期保存到本地磁盘（fsImage文件和edits文件）
  • NameNode文件操作 NameNode负责文件元数据的操作 DataNode负责处理文件内容的读写 请求，数据流不经过NameNode，会询问它跟那个DataNode联系
  • NameNode副本 文件数据块到底存放到哪些DataNode上，是由NameNode决定的，NN根 据全局情况做出放置副本的决定
  • NameNode心跳机制 全权管理数据块的复制，周期性的接受心跳和块的状态报告信息（包 含该DataNode上所有数据块的列表） 若接受到心跳信息，NameNode认为DataNode工作正 常，如果在10分钟后还接受到不到DN的心跳，那么NameNode认为DataNode已经宕机 ,这时候 NN准备要把DN上的数据块进行重新的复制。 块的状态报告包含了一个DN上所有数据块的列 表，blocks report 每个1小时发送一次.

          3.3datenode的作用

  • 提供真实文件数据的存储服务。
  • Data Node以数据块的形式存储HDFS文件
  • Data Node 响应HDFS 客户端读写请求
  • Data Node 周期性向NameNode汇报心跳信息
  • Data Node 周期性向NameNode汇报数据块信息
  • Data Node 周期性向NameNode汇报缓存数据块信息

         3.4俩张图看懂namenode与datenode

 

 

       4.hdfs的命令行使用

  1. 格式：  hdfs dfs -ls URI 作用：类似于Linux的ls命令，显示文件列表 hdfs dfs   -ls /   hdfs dfs   -ls /
  2. 格式 ： hdfs dfs [-p] -mkdir 作用 :   以中的URI作为参数，创建目录。使用-p参数可以递归创建目录
  3. 格式   ： hdfs dfs -put ... 作用 ： 将单个的源文件src或者多个源文件srcs从本地文件系统拷贝到目标文件系统中（ 对应的路径）。也可以从标准输入中读取输入，写入目标文件系统中
  4. 格式： hdfs dfs -moveFromLocal   作用:   和put命令类似，但是源文件localsrc拷贝之后自身被删除
  5. 格式   hdfs dfs  -get [-ignorecrc ] [-crc] 作用：将文件拷贝到本地文件系统。 CRC 校验失败的文件通过-ignorecrc选项拷贝。 文件和CRC 校验和可以通过-CRC选项拷贝 
  6. 格式 ： hdfs dfs -mv URI   作用： 将hdfs上的文件从原路径移动到目标路径（移动之后文件删除），该命令不能夸文件系统
  7. 格式： hdfs dfs -rm [-r] 【-skipTrash】 URI 【URI 。。。】 作用：   删除参数指定的文件，参数可以有多个。   此命令只删除文件和非空目录。 如果指定-skipTrash选项，那么在回收站可用的情况下，该选项将跳过回收站而直接删除文件； 否则，在回收站可用时，在HDFS Shell 中执行此命令，会将文件暂时放到回收站中。
  8. 格式:     hdfs  dfs  -cp URI [URI ...] 作用：    将文件拷贝到目标路径中。如果  为目录的话，可以将多个文件拷贝到该目录 下。 -f 选项将覆盖目标，如果它已经存在。 -p 选项将保留文件属性（时间戳、所有权、许可、ACL、XAttr）。
  9. hdfs dfs  -cat URI [uri ...] 作用：将参数所指示的文件内容输出到stdout
  10. 格式:      hdfs   dfs  -chmod  [-R]  URI[URI  ...] 作用：    改变文件权限。如果使用  -R 选项，则对整个目录有效递归执行。使用这一命令的用户 必须是文件的所属用户，或者超级用户。
  11. 格式:      hdfs   dfs  -chmod  [-R]  URI[URI  ...] 作用：    改变文件的所属用户和用户组。如果使用  -R 选项，则对整个目录有效递归执行。使用 这一命令的用户必须是文件的所属用户，或者超级用户。
  12. 格式: hdfs dfs -appendToFile ... 作用: 追加一个或者多个文件到hdfs指定文件中.也可以从命令行读取输入.      hdfs dfs -appendToFile a.xml b.xml /big.xml

 

posted @ 2020-08-28 11:32  17_Xtreme  阅读(130)  评论(0)  编辑  收藏  举报