hbase写数据 和 读数据过程
一:获取region存储位置信息
写数据和读数据一般都会获取hbase的region的位置信息。大概步骤为:
1- 从zookeeper中获取.ROOT.表的位置信息,在zookeeper的存储位置为/hbase/root-region-server;
2- 根据.ROOT.表中信息,获取.META.表的位置信息;
3- .META.表中存储的数据为每一个region存储位置;
二: 向hbase表中插入数据
hbase中缓存分为两层:memstore和blockcache。
1- 首先写入到WAL文件中,目的是为了数据不丢失;
2- 再把数据插入到memstore缓存中,当memstore达到设置大小阈值时,会进行flush进程;
3- flush过程中,需要获取每一个region存储的位置。
三:从hbase中读取数据
blockcache主要提供给读使用。读请求先到memstore中查数据,查不到就到blockcache中查,再查不到就会到磁盘上读,并把读的结果放入blockcache。
blockcache采用的算法为LRU(最近最少使用算法),因此当blockcache达到上限后,会启动淘汰机制,淘汰掉最老的一批数据。
一个regionserver上有一个blockcache和N个memstore,它们的大小之和不能大于等于heapsize * 0.8,否则hbase不能启动。默认blockcache为0.2,而memstore为0.4。对于注重读响应时间的系统,应该将blockcache设大些,比如设置blockcache=0.4,memstore=0.39。这会加大缓存命中率。