hbase写数据 和 读数据过程

一:获取region存储位置信息

写数据和读数据一般都会获取hbase的region的位置信息。大概步骤为:

1- 从zookeeper中获取.ROOT.表的位置信息,在zookeeper的存储位置为/hbase/root-region-server;

2- 根据.ROOT.表中信息,获取.META.表的位置信息;

3- .META.表中存储的数据为每一个region存储位置;

 

二: 向hbase表中插入数据

hbase中缓存分为两层:memstore和blockcache。

1- 首先写入到WAL文件中,目的是为了数据不丢失;

2- 再把数据插入到memstore缓存中,当memstore达到设置大小阈值时,会进行flush进程;

3- flush过程中,需要获取每一个region存储的位置。

 

三:从hbase中读取数据

 blockcache主要提供给读使用。读请求先到memstore中查数据,查不到就到blockcache中查,再查不到就会到磁盘上读,并把读的结果放入blockcache。

blockcache采用的算法为LRU(最近最少使用算法),因此当blockcache达到上限后,会启动淘汰机制,淘汰掉最老的一批数据。

   一个regionserver上有一个blockcache和N个memstore,它们的大小之和不能大于等于heapsize * 0.8,否则hbase不能启动。默认blockcache为0.2,而memstore为0.4。对于注重读响应时间的系统,应该将blockcache设大些,比如设置blockcache=0.4,memstore=0.39。这会加大缓存命中率。

posted @   上海小墨子  阅读(1664)  评论(0编辑  收藏  举报
编辑推荐:
· AI与.NET技术实操系列:基于图像分类模型对图像进行分类
· go语言实现终端里的倒计时
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
阅读排行:
· 25岁的心里话
· 闲置电脑爆改个人服务器(超详细) #公网映射 #Vmware虚拟网络编辑器
· 基于 Docker 搭建 FRP 内网穿透开源项目(很简单哒)
· 零经验选手,Compose 一天开发一款小游戏!
· 一起来玩mcp_server_sqlite,让AI帮你做增删改查!!
点击右上角即可分享
微信分享提示