mysql和hbase对比学习

  关系数据库大家都不陌生,使用一个RDBMS和HBase例子来说明。

  RDBMS例子:

  

 

  数据:

  

 

对比:  

  那HBASE是什么样的了?

  表设计:

  

 

  数据:

  

 

  

HBASE表的基本概念

  Row key:行主键, HBase不支持条件查询和Order by等查询,读取记录只能按Row key(及其range)或全表扫描,因此Row key需要根据业务来设计以利用其存储排序特性(Table按Row key字典序排序如1,10,100,11,2)提高性能。

    Column Family(列族):在表创建时声明,每个Column Family为一个存储单元。在上例中表有两个列族:article和author。

  Column(列):HBase的每个列都属于一个列族,以列族名为前缀,如列article:title和article:content属于article列族。Column不用创建表时定义即可以动态新增,同一Column Family的Columns会群聚在一个存储单元上,并依Column key排序,因此设计时应将具有相同I/O特性的Column设计在一个Column Family上以提高性能。同时这里需要注意的是:这个列是可以增加和删除的,这和我们的传统数据库很大的区别。所以他适合非结构化数据

  Timestamp:HBase通过row和column确定一份数据,这份数据的值可能有多个版本,不同版本的值按照时间倒序排序,即最新的数据排在最前面,查询时默认返回最新版本。

  Value:每个值通过4个键唯一索引,tableName+RowKey+ColumnKey+Timestamp=>value,例如上例中{tableName=’blog’,RowKey=’1’,ColumnName=’author:nickname’, Timestamp=’ 1317180718830’} 索引到的唯一值是“yedu”。

 

存储类型

  HBase 在 HDFS 之上提供,可以完全不要考虑 HDFS,把它当作是一个分布式高并发 k-v 存储系统,只不过它底层的文件系统是通过 HDFS 来支持的罢了:

    高并发实时随机写,通过 LSM(内存+顺序写磁盘)的方式提供了 HDFS 所不拥有的实时随机写及修改功能。

 

  TableName 是字符串
  RowKey 和 ColumnName 是二进制值(Java 类型 byte[])
  Timestamp 是一个 64 位整数(Java 类型 long)
  value 是一个字节数组(Java类型 byte[])。

 

HBase使用场景

  半结构化或非结构化数据:对于数据结构字段不够确定或杂乱无章很难按一个概念去进行抽取的数据适合用HBase。以上面的例子为例,当业务发展需要存储author的email,phone,address信息时RDBMS需要停机维护,而HBase支持动态增加。

  记录非常稀疏:RDBMS的行有多少列是固定的,为null的列浪费了存储空间。而如上文提到的,HBase为null的Column不会被存储,这样既节省了空间又提高了读性能。

  多版本数据:上文提到的根据Row key和Column key定位到的Value可以有任意数量的版本值,因此对于需要存储变动历史记录的数据,用HBase就非常方便了。比如上例中的author的Address是会变动的,业务上一般只需要最新的值,但有时可能需要查询到历史值。

  超大数据量:当数据量越来越大,RDBMS数据库撑不住了,需要分库分表。大数据的HBase就简单了,只需要加机器即可,HBase会自动水平切分扩展,跟Hadoop的无缝集成保障了其数据可靠性(HDFS)和海量数据分析的高性能(MapReduce)

 

posted @ 2021-08-23 19:47  修心而结网  阅读(662)  评论(0编辑  收藏  举报