大数据与Hadoop
大数据是做什么的
• 大数据
– 随着计算机技术的发展,互联网的普及,信息的积累已经到了一个非常庞大的地步,信息的增长也在不断
的加快,随着互联网、物联网建设的加快,信息更是爆炸是增长,收集、检索、统计这些信息越发困难,
必须使用新的技术来解决这些问题
• 大数据的定义：
1、 大数据由巨型数据集组成,这些数据集大小常超出人类在可接受时间下的收集、庋用、管理和处理能力。
2、大数据指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合,是需要新处理模式
才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。
3、大数据是指无法在一定时间内用常规软件工具对其内容进行抓取、管理和处理的数据集合。大数据技术,
是指从各种各样类型的数据中,快速获得有价值信息的能力。适用于大数据的技术,包括大规模并行处理
数据库,数据挖掘电网,分布式文件系统,分布式数据库,云计算平台,互联网,和可扩展的存储系统。
• 大数据能做什么?
1、把数据集合并后进行分析可得出许多额外的信息和数据关系性,可用来察觉商业趋势、判定研究质量、避
免疾病扩散、打击犯罪戒测定即时交通路况等;这样的用途正是大型数据集盛行的原因
2、企业组织利用相关数据和分析可以帮劣它们降低成本、提高效率、开发新产品、做出更明智的业务决策等等。
大数据的特性
大数据特性
• 大数据的 5V 特性是什么?
– (V)olume (大体量)
即可从数百TB到数十数百PB、甚至EB的规模。
– (V)ariety(多样性)
即大数据包括各种格式和形态的数据。
– (V)elocity(时效性)
即很多大数据需要在一定的时间限度下得到及时处理。
– (V)eracity(准确性)
即处理的结果要保证一定的准确性。
– (V)alue(大价值)
即大数据包含很多深度的价值,大数据分析挖掘和利用将带来巨大的商业价值。
大数据与Hadoop
• Hadoop 是什么
– Hadoop 是一种分析和处理海量数据的软件平台
– Hadoop 是一款开源软件,使用 JAVA 开发
– Hadoop 可以提供一个分布式基础架构
• Hadoop 特点
– 高可靠性、高扩展性、高效性、高容错性、低成本
Hadoop 起源
• 2003 年开始 google 陆续发表了几篇论文:
– GFS, MapReduce, BigTable
– GFS是一个可扩展的分布式文件系统,用于大型的、分布式的、对大量数据进行访问的应用。它运行于廉价的普通硬件上,提供容错功能。
– Mapreduce 是针对分布式幵行计算的一套编程模型
– Mapreduce是由Map和reduce组成,Map是影射,把指令分发到多个worker上去,reduce是规约,把Map的worker计算出来的结果合并
– GFS, MapReduce, BigTable
– BigTable 存储结构化数据。
– BigTable 是建立在 GFS ,Scheduler ,Lock Service和 MapReduce 之上的。
– 每个 Table 都是一个多维的稀疏图
• 这三大技术被称为 Google 的三驾马车。
• 虽然Google没有公布这三个产品的源码,但是他发布了这三个产品的详细设计论文。
• Yahoo 资劣的 Hadoop 按照这三篇论文的开源Java实现,不过在性能上 Hadoop 比 Google 要差很多。
– GFS - - -> HDFS
– Mapreduce - - -> Mapreduce
– Bigtable - - -> Hbase
Hadoop 核心组件
• HDFS
– 分布式文件系统
• MapReduce
– 分布式计算框架
• Yarn
– 集群资源管理系统
Hadoop 生态系统
Hadoop 常用组件
• HDFS (Hadoop分布式文件系统)
• Mapreduce (分布式计算框架)
• Zookeeper (分布式协作服务)
• Hbase (分布式列存数据库)
• Hive (基于Hadoop的数据仓库)
• Sqoop (数据同步工具)
• Pig (基于Hadoop的数据流系统)
• Mahout (数据挖掘算法库)
• Flume (日志收集工具)
HDFS 结构
HDFS 角色及概念
• 是Hadoop体系中数据存储管理的基础。它是一个高度容错的系统,用于在低成本的通用硬件上运行。
• 角色和概念
– Client
– Namenode
– Secondarynode
– Datanode
• NameNode
– Master节点,管理HDFS的名称空间和数据块映射信息,配置副本策略,处理所有客户端请求。
• Secondary NameNode
– 定期合并 fsimage 和fsedits,推送给NameNode
– 紧急情况下,可辅劣恢复NameNode,
• 但Secondary NameNode并非NameNode的热备。
• DataNode
– 数据存储节点,存储实际的数据
– 汇报存储信息给NameNode。
• Client
– 切分文件
– 访问HDFS
– 与NameNode交互,获取文件位置信息
– 与DataNode交互,读取和写入数据。
• Block
– 每块缺省64MB大小
– 每块可以多个副本
MapReduce 结构
Mapreduce 角色及概念
• 源自于google的MapReduce论文,JAVA实现的分
布式计算框架
• 角色和概念
– JobTracker
– TaskTracker
– Map Task
– Reducer Task
• JobTracker
– Master节点,只有一个
– 管理所有作业
– 作业 / 任务的监控、错误处理等
– 将任务分解成一系列任务,并分派给TaskTracker。
• TaskTracker
– Slave节点,一般是多台
– 运行Map Task和Reduce Task
– 并与JobTracker交互,汇报任务状态。
• Map Task:解析每条数据记录,传递给用户编写的map(),幵执行,将输出结果写入本地磁盘
(如果为map-only作业,直接写入HDFS)。
• Reducer Task:从Map Task的执行结果中,远程读取输入数据,对数据进行排序,将数据按照分组传递
给用户编写的reduce凼数执行。
Yarn 结构
Yarn 角色及概念
• Yarn 是 Hadoop 的一个通用的资源管理系统
• Yarn 角色
– Resourcemanager
– Nodemanager
– ApplicationMaster
– Container
– Client
• ResourceManager
– 处理客户端请求
– 启动 / 监控 ApplicationMaster
– 监控 NodeManager
– 资源分配与调度
• NodeManager
– 单个节点上的资源管理
– 处理来自 ResourceManager 的命令
– 处理来自 ApplicationMaster 的命令
• Container
– 对任务运行行环境的抽象,封装了 CPU 、内存等
– 多维资源以及环境变量、启劢命令等仸务运行相关的信息资源分配不调度
• ApplicationMaster
– 数据切分
– 为应用程序申请资源,并分配给内部任务
– 任务监控与容错
• Client
– 用户与 YARN 交互的客户端程序
– 提交应用程序、监控应用程序状态,杀死应用程序等
• YARN 的核心思想
• 将 JobTracker 和 TaskTacker 进行分离,它由下面几大构成组件:
– ResourceManager 一个全局的资源管理器
– NodeManager 每个节点(RM)代理
– ApplicationMaster 表示每个应用
– 每一个 ApplicationMaster 有多个 Container 在NodeManager 上运行
