随笔分类 -  Hadoop

摘要：Configuration做为Hadoop的一个基础功能承担着重要的责任，为Yarn、HSFS、MapReduce、NFS、调度器等提供参数的配置、配置文件的分布式传输(实现了Writable接口)等重要功能。 Hadoop的加载配置文件的功能没有采用Java自己的java.util.Propert 阅读全文

摘要：（一）HDFS简介及其基本概念 HDFS（Hadoop Distributed File System）是hadoop生态系统的一个重要组成部分，是hadoop中的的存储组件，在整个Hadoop中的地位非同一般，是最基础的一部分，因为它涉及到数据存储，MapReduce等计算模型都要依赖于存储在HD 阅读全文

摘要：NameNode&Secondary NameNode 工作机制 NameNode: 1.启动时，加载编辑日志和镜像文件到内存 2.当客户端对元数据进行增删改，请求NameNode 3.NameNode记录操作日志，更新滚动日志 4.日志记录完成，在NameNode内存中对元数据进行操作 edits 阅读全文