rowkey设计原则

rowkey是什么?

rowkey相当于mysql、orcale中的主键,用于标识唯一的行,是完全由用户指定的一串不重复的字符串,hbase的数据永远都是根据rowkey的字典顺序排序的。

Rowkey的作用

1)读写数据时通过rowkey找到对应region;2)MenStore中数据按rowkey排序;3)HFile中数据按rowkey排序。

rowkey对region的影响:

hbase的表数据是根据rowkey划分到不同的region,不合理的rowkey会导致热点问题。热点问题就是大量的Client直接访问集群上的某一个节点雄极少数节点,而其它节点却处于空闲状态。如果某个region的访问频率过高,会影响这个region所在机器的其他region。

rowkey设计技巧

1)Salting(加盐):rowkey前面加随机数,使它和之前的排序不同。

2)Hashing:把rowkey哈希后,将哈希后的部分字符当成rowkey的头部和原来的rowkey进行拼接。

3)Reversing:反转一段固定长度和全部的键作为rowkey。(适用于,数据太分散,但rowkey后面的字符相同,如url,后缀均为.com)

rowkey长度:

rowkey可以是任意的字符串,最大长度为64k,建议越短越好。

1)数据储存到HFile是按key-value存储的,如果rowkey过长,会影响HFile的存储效率。

2)MenStore会存储部分数据到内存,如果rowkey过长,内存利用率就会下降,系统不能存储更多的数据,还会降低检索效率。

posted @ 2019-09-10 11:25  www555  阅读(1472)  评论(0编辑  收藏  举报