2020年3月20日
摘要: HDFS写数据流程 1.客户端通过Distributed FileSystem模块向NameNode请求上传文件,NameNode检查目标文件是否已经存在,父目录是否存在; 2.NameNode返回是否可以上传文件; 3.客户端请求一个block上传到指定的那个DataNode服务器上; 4.Nam 阅读全文
posted @ 2020-03-20 19:31 wnwn 阅读(121) 评论(0) 推荐(0) 编辑
摘要: API操作HDFS 1.上传文件 /*上传文件*/ @Test public void put() throws IOException, URISyntaxException, InterruptedException { //用于配置HDFS相关的参数 Configuration configu 阅读全文
posted @ 2020-03-20 18:52 wnwn 阅读(210) 评论(0) 推荐(0) 编辑
摘要: 1.基本语法 bin/hadoop fs 具体命令 bin/hdfs dfs 具体命令 2.命令大全 [root@master hadoop]# bin/hadoop fs Usage: hadoop fs [generic options] [-appendToFile <localsrc> .. 阅读全文
posted @ 2020-03-20 16:02 wnwn 阅读(220) 评论(0) 推荐(0) 编辑
摘要: HDFS产生背景 随着数据量越来越大,在一个操作系统存不下所有的数据,那么就分配到更多的操作系统管理的磁盘中中,但是不方便管理和维护,迫切需要一种系统来管理多台机器上的文件,这就是分布式文件管理。HDFS只是分布式文件管理系统中的一种; HDFS是什么 HDFS是基于java的分布式文件系统,允许您 阅读全文
posted @ 2020-03-20 11:42 wnwn 阅读(177) 评论(0) 推荐(0) 编辑