会员
周边
众包
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
欲速则不达
积土成山,风雨兴焉;积水成渊,蛟龙生焉;积善成德,而神明自得,圣心备焉。故不积跬步,无以至千里;不积小流,无以成江海。骐骥一跃,不能十步;驽马十驾,功在不舍。锲而舍之,朽木不折;锲而不舍,金石可镂。蚓无爪牙之利,筋骨之强,上食埃土 ,下饮黄泉 ,用心一也。蟹六跪而二螯,非蛇鳝之穴无可寄托者,用心躁也。
博客园
首页
新随笔
联系
订阅
管理
上一页
1
2
2015年2月12日
hbase伪分布式安装
摘要: 首先下载与hadoop-1.1.2对应的HBase版本,这里下载的是HBase0.96.2.如图。这个版本已经包含了hadoop-core-1.1.2.jar包,即不用做覆盖核心jar包的一步。然后对hbase进行配置。具体有hbase-env.sh以及hbase-site.xml如图。接下来即可启...
阅读全文
posted @ 2015-02-12 11:36 Uber
阅读(164)
评论(0)
推荐(0)
编辑
2015年2月10日
按照《权威指南》的例子求最低温度并且修改默认调度器为FairScheduler
摘要: 首先我只是下载了2003年的数据,因为网络较慢……然后把数据整合到test.txt中,upload到hdfs文件系统中。如图。已有一个test.txt。数据准备好之后,开始搞代码。代码如图。然后把它们打包成一个jar包,运行。结果求得2003年的最低温度是-807。如图。搞掂!!接下来是实现hado...
阅读全文
posted @ 2015-02-10 11:11 Uber
阅读(812)
评论(0)
推荐(1)
编辑
2015年2月8日
利用hadoop1.x集群进行探索性实验(四)~(五)【重复格式化NN后,DN不能启动】【控制namenode检查点发生的频率】
摘要: 多次重复格式化namenode后,datanode不能启动,重新将datanode加入集群。解决办法是用namenode的version文件中的namespaceID替换掉datanode的namespaceID,使到两个的namespaceID一致,就能重新加入datanode。如图。(names...
阅读全文
posted @ 2015-02-08 21:44 Uber
阅读(521)
评论(0)
推荐(0)
编辑
利用hadoop1.x集群进行探索性实验(三)【修改HDFS块大小】
摘要: 首先看一下当前块大小。如图,使用命令hadoop fs -stat "%o" /目录/文件 由于hadoop是按照块来存储文件的,故不管文件是否有一个块大小的容量也会占用一个块。关闭集群,进入hdfs-site.xml,添加属性dfs.block.size.如图。改成128MB。重启集群,查看块大小...
阅读全文
posted @ 2015-02-08 20:22 Uber
阅读(312)
评论(0)
推荐(0)
编辑
2015年2月7日
利用hadoop1.x集群进行探索性实验(二)【模拟namenode崩溃,通过secondary namenode恢复namenode】
摘要: 启动集群之后,删除name目录,模拟集群namenode节点崩溃。再次启动发现namenode启动不了。如图。做法是:关闭集群,然后重新格式化HDFS以再次产生name目录。进入data目录中,打开datanode的version文件,将datanode的namespaceID复制,然后覆盖掉nam...
阅读全文
posted @ 2015-02-07 22:23 Uber
阅读(540)
评论(0)
推荐(0)
编辑
2015年2月6日
利用hadoop1.x集群进行探索性实验(一)【对WEB监控界面增加安全机制】
摘要: 这个实验我选择了简单的做法,并没有用到kerkeros。本人会努力,尽快学会用到kerkeros给hadoop增加安全机制,使我的小象不再“裸奔”。首先是打开hdfs-site.xml,然后加入如下属性。最后设置登录用户名。就是在设置hadoop.http.authentication.signat...
阅读全文
posted @ 2015-02-06 23:38 Uber
阅读(601)
评论(0)
推荐(0)
编辑
2015年2月5日
本地编译64位hadoop并进行部署。
摘要: 我是接着用上次已经部署好的环境,故已经有ssh以及java。没有安装这两个的朋友可以看本人关于伪分布式安装的博文。首先是输入命令sudo apt-get install g++ autoconf automake libtool make cmake zlib1g-dev pkg-config li...
阅读全文
posted @ 2015-02-05 23:07 Uber
阅读(917)
评论(0)
推荐(0)
编辑
2015年2月4日
hadoop完全分布式安装
摘要: 1、安装环境是vmware workstation10.0模拟出三个虚拟节点,每一个节点安装Ubuntu12.04 LTS操作系统,主机名分别是hadoop1、hadoop2以及hadoop3.同时在每一个节点安装好java。安装方法同之前介绍的伪分布式安装方法一样。2、接着是对三个节点的hosts...
阅读全文
posted @ 2015-02-04 22:41 Uber
阅读(1081)
评论(0)
推荐(1)
编辑
2015年2月2日
win7+Ubuntu双系统安装以及hadoop伪分布式安装
摘要: 首先安装双系统进行伪分布式实验,安装win7+ubuntu双系统:1、右键单击“我的电脑”进入“管理”,双击“存储”,再双击“磁盘管理”,在D盘位置右击“压缩卷”,分出一个大小为50G的磁盘空间,然后格式化,之后再删除卷,作为安装ubuntu系统所用。2、下载安装easyBCD软件,新建一个Neo ...
阅读全文
posted @ 2015-02-02 21:47 Uber
阅读(547)
评论(0)
推荐(0)
编辑
storm集群和zookeeper集群的部署过程
摘要: 本次实验的环境为VM station 10 安装三个虚拟机,系统为centOS6.5。IP分别如下图。如下图,三个虚拟机均安装了Java1.7以及配置好了hosts文件。接着是下载zookeeper-3.4.6(这里推荐使用此版本),进入conf目录下,将zoo_sample.cfg复制成zoo.c...
阅读全文
posted @ 2015-02-02 19:26 Uber
阅读(2011)
评论(0)
推荐(0)
编辑
上一页
1
2