摘要: DataNode工作机制 1)一个数据块在datanode上以文件形式存储在磁盘上,包括两个文件,一个是数据本身,一个是元数据包括数据块的长度,块数据的校验和,以及时间戳。 2)DataNode启动后向namenode注册,通过后,周期性(1小时)的向namenode上报所有的块信息。 3)心跳是每 阅读全文
posted @ 2019-07-09 17:02 孤身! 阅读(395) 评论(0) 推荐(0) 编辑
摘要: NameNode&Secondary NameNode工作机制 1)第一阶段:namenode启动 (1)第一次启动namenode格式化后,创建fsimage和edits文件。如果不是第一次启动,直接加载编辑日志和镜像文件到内存。 (2)客户端对元数据进行增删改的请求 (3)namenode记录操 阅读全文
posted @ 2019-07-09 16:55 孤身! 阅读(1863) 评论(0) 推荐(0) 编辑
摘要: HDFS客户端 通过IO流操作HDFS HDFS文件上传 @Test public void putFileToHDFS() throws Exception{ // 1 创建配置信息对象 Configuration configuration = new Configuration(); File 阅读全文
posted @ 2019-07-09 16:41 孤身! 阅读(226) 评论(0) 推荐(0) 编辑