上一页 1 ··· 13 14 15 16 17 18 19 20 21 ··· 33 下一页
  2018年8月23日
摘要: 在执行一个Job的时候,Hadoop会将输入数据划分成N个Split,然后启动相应的N个Map程序来分别处理它们。数据如何划分?Split如何调度(如何决定处理Split的Map程序应该运行在哪台TaskTracker机器上)?划分后的数据又如何读取?这就是本文所要讨论的问题。先从一张经典的MapR 阅读全文
posted @ 2018-08-23 11:08 裸睡的猪 阅读(293) 评论(0) 推荐(0) 编辑
摘要: Hadoop2.0 Namenode HA实现方案介绍及汇总 Hadoop2.0 Namenode HA实现方案介绍及汇总 Hadoop2.0 Namenode HA实现方案介绍及汇总 Hadoop2.0 Namenode HA实现方案介绍及汇总 基于社区最新release的Hadoop2.2.0版 阅读全文
posted @ 2018-08-23 10:28 裸睡的猪 阅读(368) 评论(0) 推荐(0) 编辑
摘要: Hadoop中NameNode单点故障解决方案 Hadoop 1.0内核主要由两个分支组成:MapReduce和HDFS,这两个系统的设计缺陷是单点故障,即MR的JobTracker和HDFS的NameNode两个核心服务均存在单点问题,这里只讨论HDFS的NameNode单点故障的解决方案。 需求 阅读全文
posted @ 2018-08-23 10:26 裸睡的猪 阅读(465) 评论(0) 推荐(0) 编辑
摘要: HDFS介绍 HDFS(Hadoop Distributed File System )Hadoop分布式文件系统。是根据google发表的论文翻版的。 什么是分布式文件系统 分布式文件系统(Distributed File System)是指文件系统管理的物理存储资源不一定直接连接在本地节点上,而 阅读全文
posted @ 2018-08-23 10:22 裸睡的猪 阅读(638) 评论(0) 推荐(0) 编辑
摘要: 什么是Zookeeper,Zookeeper的作用是什么,在Hadoop及hbase中具体作用是什么 一、什么是Zookeeper ZooKeeper 顾名思义 动物园管理员,他是拿来管大象(Hadoop) 、 蜜蜂(Hive) 、 小猪(Pig) 的管理员, Apache Hbase和 Apach 阅读全文
posted @ 2018-08-23 09:21 裸睡的猪 阅读(2033) 评论(0) 推荐(0) 编辑
  2018年8月22日
摘要: hadoop 管理命令dfsadmin hadoop 管理命令dfsadmin hadoop 管理命令dfsadmin hadoop 管理命令dfsadmin dfsadmin 命令用于管理HDFS集群,这些命令常用于管理员。 1. (Safemode)安全模式 动作 命令 把集群切换到安全模式 b 阅读全文
posted @ 2018-08-22 16:28 裸睡的猪 阅读(1067) 评论(0) 推荐(0) 编辑
  2018年8月21日
摘要: 1.map和reduce的数量过多会导致什么情况?2.Reduce可以通过什么设置来增加任务个数?3.一个task的map数量由谁来决定?4.一个task的reduce数量由谁来决定?一般情况下,在输入源是文件的时候,一个task的map数量由splitSize来决定的,那么splitSize是由以 阅读全文
posted @ 2018-08-21 10:43 裸睡的猪 阅读(5445) 评论(0) 推荐(0) 编辑
  2018年8月13日
摘要: Spark 数据倾斜解决方案 2017年03月29日 17:09:58 阅读数:382 Spark 数据倾斜解决方案 2017年03月29日 17:09:58 阅读数:382 Spark 数据倾斜解决方案 Spark 数据倾斜解决方案 2017年03月29日 17:09:58 阅读数:382 201 阅读全文
posted @ 2018-08-13 09:09 裸睡的猪 阅读(267) 评论(0) 推荐(0) 编辑
  2018年8月10日
摘要: Zookeeper leader选举 Zookeeper leader选举 Zookeeper leader选举 让我们分析如何在ZooKeeper集合中选举leader节点。考虑一个集群中有N个节点。leader选举的过程如下: 所有节点创建具有相同路径 /app/leader_election/ 阅读全文
posted @ 2018-08-10 20:27 裸睡的猪 阅读(652) 评论(0) 推荐(0) 编辑
  2018年8月6日
摘要: 1、安装MYSQL simon@simon-Lenovo-G400:~$ sudo apt-get install mysql-server simon@simon-Lenovo-G400:~$ sudo apt install mysql-client simon@simon-Lenovo-G40 阅读全文
posted @ 2018-08-06 16:09 裸睡的猪 阅读(231) 评论(0) 推荐(0) 编辑
上一页 1 ··· 13 14 15 16 17 18 19 20 21 ··· 33 下一页