hbase写数据 和 读数据过程

一:获取region存储位置信息

写数据和读数据一般都会获取hbase的region的位置信息。大概步骤为:

1- 从zookeeper中获取.ROOT.表的位置信息,在zookeeper的存储位置为/hbase/root-region-server;

2- 根据.ROOT.表中信息,获取.META.表的位置信息;

3- .META.表中存储的数据为每一个region存储位置;

 

二: 向hbase表中插入数据

hbase中缓存分为两层:memstore和blockcache。

1- 首先写入到WAL文件中,目的是为了数据不丢失;

2- 再把数据插入到memstore缓存中,当memstore达到设置大小阈值时,会进行flush进程;

3- flush过程中,需要获取每一个region存储的位置。

 

三:从hbase中读取数据

 blockcache主要提供给读使用。读请求先到memstore中查数据,查不到就到blockcache中查,再查不到就会到磁盘上读,并把读的结果放入blockcache。

blockcache采用的算法为LRU(最近最少使用算法),因此当blockcache达到上限后,会启动淘汰机制,淘汰掉最老的一批数据。

   一个regionserver上有一个blockcache和N个memstore,它们的大小之和不能大于等于heapsize * 0.8,否则hbase不能启动。默认blockcache为0.2,而memstore为0.4。对于注重读响应时间的系统,应该将blockcache设大些,比如设置blockcache=0.4,memstore=0.39。这会加大缓存命中率。

posted @ 2019-05-20 17:28  上海小墨子  阅读(1650)  评论(0编辑  收藏  举报