摘要: HDFS 的备份功能不是给 基于 HBase 等 基于HDFS 的项目做备份的。 如果 HBase 需要备份,那么久需要设置 备份(快照 )功能。 HMaster 、 kafka 等无主结构并不是自我实现的选举, 而是基于 ZooKeeper 的选举策略决策出新的 master HBase 创建表的 Region 极大的影响插入等性能 HFile写入的时候,是分一个块一个块的写入的,每个B... 阅读全文
posted @ 2016-03-30 15:50 rocky_24 阅读(512) 评论(0) 推荐(0) 编辑
摘要: 下面介绍Hbase的缓存机制: a.HBase在读取时,会以Block为单位进行cache,用来提升读的性能 b.Block可以分类为DataBlock(默认大小64K,存储KV)、BloomBlock(默认大小128K,存储BloomFilter数据)、IndexBlock(默认大小128K,索引数据,用来加快Rowkey所在DataBlock的定位) c.对于一次随机读,Block... 阅读全文
posted @ 2016-03-30 15:46 rocky_24 阅读(418) 评论(0) 推荐(0) 编辑
摘要: 这一章讲hbase的缓存机制,这里面涉及的内容也是比较多,呵呵,我理解中的缓存是保存在内存中的特定的便于检索的数据结构就是缓存。之前在讲put的时候,put是被添加到Store里面,这个Store是个接口,实现是在HStore里面,MemStore其实是它底下的小子。那它和Region Server、Region是什么关系?Region Server下面有若干个Region,每个Region下面有... 阅读全文
posted @ 2016-03-30 15:39 rocky_24 阅读(493) 评论(0) 推荐(0) 编辑
摘要: HBase 系统架构图 组成部件说明 Client: 使用HBase RPC机制与HMaster和HRegionServer进行通信 Client与HMaster进行通信进行管理类操作 Client与HRegionServer进行数据读写类操作 Zookeeper: Zookeeper Quorum存储-ROOT-表地址、HMaster地址 HRegionServ... 阅读全文
posted @ 2016-03-30 15:18 rocky_24 阅读(238) 评论(0) 推荐(0) 编辑
摘要: zookeeper压力测试:性能对比(3个节点,5个节点,7个节点 创建节点、删除节点、设置节点数据、读取节点数据性能及并发性能) 测试结果如下: <!--more--> 五次测试三节点结果: 创建100W节点用时:15.0秒。 66'666/s 删除100W节点用时:13.8秒。 72'500/s 阅读全文
posted @ 2016-03-30 15:17 rocky_24 阅读(11927) 评论(0) 推荐(1) 编辑
摘要: hbase源码系列(十一)Put、Delete在服务端是如何处理? <!--more--> 在讲完之后HFile和HLog之后,今天我想分享是Put在Region Server经历些了什么?相信前面看了《HTable探秘》的朋友都会有印象,没看过的建议回去先看看,Put是通过MultiServerC 阅读全文
posted @ 2016-03-30 14:54 rocky_24 阅读(413) 评论(0) 推荐(0) 编辑
摘要: hbase源码系列(十二)Get、Scan在服务端是如何处理?<!--more--> 继上一篇讲了Put和Delete之后,这一篇我们讲Get和Scan, 因为我发现这两个操作几乎是一样的过程,就像之前的Put和Delete一样,上一篇我本来只打算写Put的,结果发现Delete也可以走这个过程,所 阅读全文
posted @ 2016-03-30 14:54 rocky_24 阅读(712) 评论(0) 推荐(0) 编辑
摘要: hbase源码系列(九)StoreFile存储格式 <!--more--> 从这一章开始要讲Region Server这块的了,但是在讲Region Server这块之前得讲一下StoreFile,否则后面的不好讲下去,这块是基础,Region Sever上面的操作,大部分都是基于它来进行的。 HF 阅读全文
posted @ 2016-03-30 14:53 rocky_24 阅读(451) 评论(0) 推荐(0) 编辑
摘要: hbase源码系列(十)HLog与日志恢复<!--more--> HLog概述 hbase在写入数据之前会先写入MemStore,成功了再写入HLog,当MemStore的数据丢失的时候,还可以用HLog的数据来进行恢复,下面先看看HLog的图。 旧版的HLog是实际上是一个SequceneFile 阅读全文
posted @ 2016-03-30 14:53 rocky_24 阅读(920) 评论(0) 推荐(0) 编辑
希望祖国繁荣,富强! God has given me a gift. Only one. I am the most complete fighter in the world. My whole life, I have trained. I must prove I am worthy of someting. rocky_24