随笔分类 -  hadoop部署

Hadoop 学习笔记 (十) hadoop2.2.0 生产环境部署 HDFS HA Federation 含Yarn部署
摘要:其他的配置跟HDFS-HA部署方式完全一样。但JournalNOde的配置不一样》hadoop-cluster1中的nn1和nn2和hadoop-cluster2中的nn3和nn4可以公用同样的journalnode但dfs.namenode.shared.edits.dir配置不能相同。hadoo... 阅读全文

posted @ 2014-03-19 16:22 雨渐渐 阅读(658) 评论(1) 推荐(0) 编辑

Hadoop 学习笔记 (九) hadoop2.2.0 生产环境部署 HDFS HA部署方法
摘要:step1:将安装包hadoop-2.2.0.tar.gz存放到某一个目录下,并解压step2:修改解压后的目录中的文件夹/etc/hadoop下的xml配置文件(如果文件不存在,则自己创建) 包括hadoop-env.sh mapred-site.xml core-site.xml hd... 阅读全文

posted @ 2014-03-18 13:48 雨渐渐 阅读(740) 评论(0) 推荐(0) 编辑

Hadoop 学习笔记 (八) hadoop2.2.0 测试环境部署 及两种启动方式
摘要:1基本流程步骤1:准备硬件(linux操作系统)步骤2:准备软件安装包,并安装基础软件(主要是JDK)步骤3:修改配置文件步骤4:分发hadoop步骤5:启动服务步骤6:验证是否启动成功!2硬件配置要求 1测试环境: 一台pc机或者服务器 建议内存不少于4G(2G也行)---------越高越流... 阅读全文

posted @ 2014-03-18 11:39 雨渐渐 阅读(358) 评论(0) 推荐(0) 编辑

hadoop 2.2.0 集群部署 坑
摘要:注意fs.defaultFS为2.2.0新的变量,代替旧的:fs.default.namehadoop 2.2.0 集群启动命令:bin/hdfs namenode -formatsbin/start-dfs.shsbin/start-yarn.sh bin/hdfs -put input in... 阅读全文

posted @ 2014-02-25 16:13 雨渐渐 阅读(285) 评论(0) 推荐(0) 编辑

hbase 0.96 单机伪分布式配置文件及遇到的问题 find命令
摘要:http://www.apache.org/dyn/closer.cgi/hbase/国外的站点下载速度慢,可以考虑国内的镜像网站~前面已经部署好了hadoop2.2.0单机伪分布式。必须先安装hadoop环境。vim hbase-env.sh # The java implementation t... 阅读全文

posted @ 2014-02-19 10:57 雨渐渐 阅读(283) 评论(0) 推荐(0) 编辑

hadoop 2.2.0 eclipse 插件编译 及相关eclipse配置图解
摘要:https://github.com/winghc/hadoop2x-eclipse-plugin官网http://kangfoo.github.io/article/2013/12/build-hadoop2x-eclipse-plugin/私人整理hadoop 2.x eclipse 开发环境的... 阅读全文

posted @ 2014-02-14 14:28 雨渐渐 阅读(431) 评论(0) 推荐(0) 编辑

hadoop2.2.0 单机伪分布式(含64位hadoop编译) 及 eclipse hadoop开发环境搭建
摘要:hadoop中文镜像地址:http://mirrors.hust.edu.cn/apache/hadoop/core/hadoop-2.2.0/第一步,下载wget 'http://archive.apache.org/dist/hadoop/core/hadoop-2.2.0/hadoop-2.2... 阅读全文

posted @ 2014-02-13 15:05 雨渐渐 阅读(1646) 评论(0) 推荐(0) 编辑

HBase eclipse开发环境搭建
摘要:伪分布式环境安装事先本机必须部署好了伪分布式hadoop开发环境将Hbase/lib下的 hadoop-core-*.jar 与 hadoop保持一致。 将hadoop下的复制到hbase下将hadoop开发相关的包add build path,将hbase-0.92.1.jar和zookeeper... 阅读全文

posted @ 2014-02-09 15:08 雨渐渐 阅读(709) 评论(0) 推荐(0) 编辑

nutch-2.2.1 hadoop-1.2.1 hbase-0.92.1 集群部署
摘要:参考网站:http://blog.csdn.net/weijonathan/article/details/10178919 一个完整的部署过程,只是版本有所区别http://m.blog.csdn.net/blog/WeiJonathan/9251597 杨尚川的博客(nutch 分布... 阅读全文

posted @ 2014-02-08 14:02 雨渐渐 阅读(1718) 评论(0) 推荐(0) 编辑

linux ssh 无密码登陆
摘要:要点:有时候ssh localhost 无法登陆本机,但各种设置都正确。重启下就好了。。。。。。参考地址:http://bbs.csdn.net/topics/370109654 三台机器实现互相之间ssh无密码登陆:10.0.0.510.0.0.22410.0.0.93第一步,在每台机器执行如下命... 阅读全文

posted @ 2014-01-08 11:14 雨渐渐 阅读(320) 评论(0) 推荐(0) 编辑

linux hadoop 集群安装步骤
摘要:http://blog.csdn.net/xjavasunjava/article/details/120136771,时间同步hadoop集群的每台机器的时间不能相差太大。安装集群前最好进行一下时间同步:ntpdate stdtime.gov.hk 跟标准时间同步date 查看本机时间2,无... 阅读全文

posted @ 2014-01-06 10:11 雨渐渐 阅读(192) 评论(0) 推荐(0) 编辑

windows下基于cygwin,eclipse搭建hadoop开发环境
摘要:一 java jdk安装(略)二 cygwin安装:1 下载cygwin安装包2 单机setup.exe3 选择 install from local directory4 完全安装(单机 all 后面的 default 使default变为install)注解:弄不懂装哪个包,就完全安装了5 配置... 阅读全文

posted @ 2012-08-31 16:20 雨渐渐 阅读(841) 评论(0) 推荐(0) 编辑

导航