摘要: 1. Zookeeper的设计目标 应用于分布式应用的协作服务,通过一些简单的操作,使得分布式应用可以基于这些接口实现诸如同步、配置维护和分集群或者命名的服务; Zookeeper通过一种和文件系统很像的层级命名空间来让分布式进程互相协同工作。这些命名空间由一系列数据寄存器组成,我们也叫这些数据寄存器为znodes。这些znodes就有点像是文件系统中的文件和文件夹。和文件系统不一样的是,文件系统的文件是存储在存储区上的,而zookeeper的数据是存储在内存上的。同时,这就意味着zookeeper有着高吞吐和低延迟。Zookeeper实现了高性能,高可靠性,和有序的访问。高性能保证了zook 阅读全文
posted @ 2012-12-13 14:35 shileiw 阅读(650) 评论(0) 推荐(0) 编辑
摘要: 1. 解压Zookeeper2. 修改conf/zoo.cfg, 加入下面的内容 :syncLimit=5 #用于一个follower与leader进行同步的时间,如果在时间内follower没有同步完成,follower自己会重启initLimit=10 #follower和leader之间同步的时间(秒),如果时间内不能达到半数follower的同步,则leader自动放弃leaderdataDir=/root/zookeeper-3.4.3/dataclientPort=2181 #该接口用于客户端连接dataLogDir=/root/zookeeper-3.4.3/logs serve 阅读全文
posted @ 2012-12-13 14:10 shileiw 阅读(242) 评论(0) 推荐(1) 编辑
摘要: HBase – Hadoop Database,是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统,利用HBase技术可在廉价PC Server上搭建起大规模结构化存储集群。HBase是Google Bigtable的开源实现,类似Google Bigtable利用GFS作为其文件存储系统,HBase利用Hadoop HDFS作为其文件存储系统;Google运行MapReduce来处理Bigtable中的海量数据,HBase同样利用Hadoop MapReduce来处理HBase中的海量数据;Google Bigtable利用 Chubby作为协同服务,HBase利用Zookeeper作为 阅读全文
posted @ 2012-12-13 13:26 shileiw 阅读(144) 评论(0) 推荐(0) 编辑
摘要: HBase命令行启动: hbase shelllist: 列出所有的表status:查看状态create ‘tablename’,‘columnName’: 创建表describe 'tableName' 列出表结构disable ‘tablename’alter 'member',{NAME=>'member_id',METHOD=>'delete'} :修改表结构drop ‘tablename': 删除表enable ‘tablename’put 'test2','row1' 阅读全文
posted @ 2012-12-13 13:18 shileiw 阅读(215) 评论(0) 推荐(1) 编辑
摘要: (1) 编辑$HBASE_HOME/conf/hbase-env.sh文件,设置JAVA_HOME和HBASE_CLASSPATH变量 export JAVA_HOME=/usr/java/jdk1.6.0_31 export HBASE_CLASSPATH=/root/hadoop/conf (Hadoop目录) export HBASE_MANAGES_ZK=false #不使用自带的ZooKeeper(2) 编辑$HBASE_HOME/conf/hbase-site.xml文件,增加以下内容 <property> <name>hbase.rootdir</n 阅读全文
posted @ 2012-12-13 13:09 shileiw 阅读(388) 评论(0) 推荐(0) 编辑
摘要: step1. 在四台机器上实现SSH互通。 这一步是对搭建Hadoop平台至关重要的一步。没有平台各个节点间的通信,就谈不上分布式计算。 整个配置过程细节如下:1, 建立新用户:a) user add ____b) passwd _____c) 切换用户:su ____2, 生成公钥(/root/.ssh/)a) ssh-keygen –t rsa3, 拷贝公钥a) 对自己:cp id_rsa.pub authorized_keysb) 对其他机器:scp authorized_keys 机器名:/home/___/.ssh/此步建议所有机器密钥生成时均先复制到一台机器,待所有完成后,把这台机 阅读全文
posted @ 2012-12-13 12:52 shileiw 阅读(305) 评论(0) 推荐(0) 编辑