HDFS架构

  HDFS 采用Master/Slave的架构来存储数据,这种架构主要由四个部分组成,分别为HDFS Client、NameNode、DataNode和Secondary NameNode。下面我们分别介绍这四个组成部分

  • Client:客户端

    • 文件切分。文件上传 HDFS 的时候,Client 将文件切分成 一个一个的Block,然后进行存储

    • 与 NameNode 交互,获取文件的位置信息

    • 与 DataNode 交互,读取或者写入数据

    • Client 提供一些命令来管理 HDFS,比如启动或者关闭HDFS

    • Client 可以通过一些命令来访问 HDFS

  • NameNode:master

    • 管理 HDFS 的名称空间

    • 管理数据块(Block)映射信息

    • 配置副本策略

    • 处理客户端读写请求

  • DataNode:Slave

    • 存储实际的数据块

    • 执行数据块的读/写操作

  • Secondary NameNode:并非 NameNode 的热备。当NameNode 挂掉的时候,它并不能马上替换 NameNode 并提供服务

    • 定期合并 fsimage和fsedits,并推送给NameNode

    • 在紧急情况下,可辅助恢复 NameNode

posted @ 2019-08-15 14:31  北漂屌丝  阅读(150)  评论(0编辑  收藏  举报