上一页 1 ··· 7 8 9 10 11 12 13 14 15 ··· 19 下一页
摘要: MapReduce是什么 HDFS:分布式存储系统 MapReduce:分布式计算系统 YARN:hadoop 的资源调度系统 Common:以上三大组件的底层支撑组件,主要提供基础工具包和 RPC 框架等 MapReduce 是一个分布式运算程序的编程框架,是用户开发“基于 Hadoop 的数据分 阅读全文
posted @ 2019-11-29 15:44 花未全开*月未圆 阅读(155) 评论(0) 推荐(0) 编辑
摘要: HDFS中的NameNode的HA怎么实现?(一言以蔽之) 在Hadoop集群中配置并启动两个NameNode进程,一个作为Active节点对外提供服务,另一个作为Standby的节点,两个NameNode启动的时候都会在Zookeeper中创建一个临时有序的节点,Zookeeper会取最小的节点对 阅读全文
posted @ 2019-11-29 15:02 花未全开*月未圆 阅读(966) 评论(0) 推荐(0) 编辑
摘要: 版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。本文链接:https://blog.csdn.net/qq_35641192/article/details/80303879 版权声明:本文为CSDN博主「JokerDa」的原创文章,遵循 CC 阅读全文
posted @ 2019-11-29 14:48 花未全开*月未圆 阅读(256) 评论(0) 推荐(0) 编辑
摘要: 版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。本文链接:https://blog.csdn.net/weixin_37838429/article/details/81674765————————————————版权声明:本文为CSDN博主「 阅读全文
posted @ 2019-11-29 14:31 花未全开*月未圆 阅读(340) 评论(0) 推荐(0) 编辑
摘要: 创建文件 import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.FileStatus; import org.apache.hadoop.fs.FileSystem; import org.apache.ha 阅读全文
posted @ 2019-11-29 14:18 花未全开*月未圆 阅读(433) 评论(0) 推荐(0) 编辑
摘要: HDFS的Shell操作 1.基本语法 bin/hadoop fs 具体命令 OR bin/hdfs dfs 具体命令 dfs是fs的实现类。 2.命令大全 [Tesla@hadoop102 hadoop-2.7.2]$ bin/hadoop fs [-appendToFile <localsrc> 阅读全文
posted @ 2019-11-29 14:13 花未全开*月未圆 阅读(336) 评论(0) 推荐(0) 编辑
摘要: 1、2、 客户端向NameNode发起创建文件的请求,在NameNode上创建一个文件名,并且返回一个输出流 3、客户端向输出流发起写入数据的请求 4、输出流向NameNode请求写数据,NameNode根据请求的数据的大小,给数据分块,并且返回指定数据块对应的DataNode 5、 6、客户端拿到 阅读全文
posted @ 2019-11-29 13:49 花未全开*月未圆 阅读(175) 评论(0) 推荐(0) 编辑
摘要: hdfs产生背景: 随着数据量越来越大,在一个操作系统存不下所有的数据,那么就分配到更多的操作系统管理的磁盘中,但是不方便管理和维护,迫切需要一种系统来管理多台机器上的文件,这就是分布式文件管理系统。HDFS只是分布式文件管理系统中的一种。 HDFS定义 Hdfs(hadoop distribute 阅读全文
posted @ 2019-11-29 13:48 花未全开*月未圆 阅读(194) 评论(0) 推荐(0) 编辑
摘要: order by order by 会对输入做全局排序,因此只有一个reducer(多个reducer无法保证全局有序) 只有一个reducer,会导致当输入规模较大时,需要较长的计算时间。 set hive.mapred.mode=nonstrict; (default value / 默认值) 阅读全文
posted @ 2019-11-22 14:58 花未全开*月未圆 阅读(221) 评论(0) 推荐(0) 编辑
摘要: HDFS是英文Hadoop Distributed File System的缩写,中文翻译为Hadoop分布式文件系统,它是实现分布式存储的一个系统,所以分布式存储有的特点,HDFS都会有,HDFS的架构图: 上图中HDFS的NameNode其实就是对应着分布式存储的Storage master,主 阅读全文
posted @ 2019-10-28 09:47 花未全开*月未圆 阅读(12988) 评论(0) 推荐(2) 编辑
上一页 1 ··· 7 8 9 10 11 12 13 14 15 ··· 19 下一页