返回顶部 Fork me on GitHub
摘要: 一 Hadoop数据压缩 1.1 概述 压缩技术能够有效减少底层存储系统(HDFS)读写字节数。压缩提高了网络带宽和磁盘空间的效率。在Hadood下,尤其是数据规模很大和工作负载密集的情况下,使用数据压缩显得非常重要。在这种情况下,I/O操作和网络数据传输要花大量的时间。还有,Shuffle与Mer 阅读全文
posted @ 2018-05-27 22:23 Frankdeng 阅读(2786) 评论(0) 推荐(0) 编辑
摘要: 一、YARN 概述 YARN 是一个资源调度平台,负责为运算程序提供服务器运算资源,相当于一个分布式的操 作系统平台,而 MapReduce 等运算程序则相当于运行于操作系统之上的应用程序 YARN 是 Hadoop2.x 版本中的一个新特性。它的出现其实是为了解决第一代 MapReduce 编程 阅读全文
posted @ 2018-05-27 13:02 Frankdeng 阅读(9074) 评论(0) 推荐(0) 编辑