数据库索引

索引问题就是一个查找问题。数据库索引,是数据库管理系统中一个排序的数据结构,以协助快速查询、更新数据库表中数据。索引的实现通常使用B树及其变种B+树。在数据之外,数据库系统还维护着满足特定查找算法的数据结构,这些数据结构以某种方式引用(指向)数据,这样就可以在这些数据结构上实现高级查找算法。这种数据结构,就是索引。为表设置索引要付出代价的:一是增加了数据库的存储空间,二是在插入和修改数据时要花费较多的时间(因为索引也要随之变动)。

屏幕快照 2017-04-21 上午8.33.38

上图展示了一种可能的索引方式: 左边是数据表,一共有两列七条记录。 最左边的是数据记录的物理地址(注意逻辑上相邻的记录在磁盘上也并不是一定物理相邻的)。 为了加快 \(Col2\) 的查找,可以维护一个右边所示的二叉查找树,每个节点分别包含索引键值和一个指向对应数据记录物理地址的指针。这样就可以运用二叉查找在\( O(log_2n) \)的复杂度内获取到相应数据。 索引的结构也有B树与B+树,如下图所示:

屏幕快照 2017-04-21 下午6.28.52

屏幕快照 2017-04-21 下午6.29.05


创建数据库索引的好处:

  1. 通过创建唯一性索引,可以保证数据库表中每一行数据的唯一性。

  2. 可以大大加快数据的检索速度,这也是创建索引的最主要的原因。

  3. 可以加速表和表之间的连接,特别是在实现数据的参考完整性方面特别有意义。

  4. 在使用分组和排序子句进行数据检索时,同样可以显著减少查询中分组和排序的时间。

  5. 通过使用索引,可以在查询的过程中,使用优化隐藏器,提高系统的性能。


创建数据库索引的代价:

  1. 创建索引和维护索引要耗费时间,这种时间随着数据量的增加而增加。

  2. 索引需要占物理空间,除了数据表占数据空间之外,每一个索引还要占一定的物理空间,如果要建立聚簇索引,那么需要的空间就会更大

  3. 当对表中的数据进行增加、删除和修改的时候,索引也要动态的维护,这样就降低了数据的维护速度


应该创建索引的列:

  1. 在经常需要搜索的列上,可以加快搜索的速度

  2. 在作为主键的列上,强制该列的唯一性和组织表中数据的排列结构

  3. 在经常用在连接的列上,这些列主要是一些外键,可以加快连接的速度

  4. 在经常需要根据范围进行搜索的列上创建索引,因为索引已经排序,其指定的范围是连续的

  5. 在经常需要排序的列上创建索引,因为索引已经排序,这样查询可以利用索引的排序,加快排序查询时间

  6. 在经常使用在WHERE子句中的列上面创建索引,加快条件的判断速度。


不应该创建索引的列:

  1. 对于那些在查询中很少使用或者参考的列不应该创建索引

  2. 对于那些只有很少数据值的列也不应该增加索引

  3. 对于那些定义为text, image和bit数据类型的列不应该增加索引。这是因为,这些列的数据量要么相当大,要么取值很少

  4. 当修改性能远远大于检索性能时,不应该创建索引。这是因为,修改性能和检索性能是互相矛盾的。当增加索引时,会提高检索性能,但是会降低修改性能。当减少索引时,会提高修改性能,降低检索性能。因此,当修改性能远远大于检索性能时,不应该创建索引


  1. 为什么要给表加上主键?

  2. 为什么加索引后会使查询变快?

  3. 为什么加索引后会使写入、修改、删除变慢?

  4. 什么情况下要同时在两个字段上建索引?


想要理解索引原理必须清楚一种数据结构平衡树(非二叉),也就是 b 树或者 b+ 树,有的数据库也使用哈希桶作用索引的数据结构。 然而, 主流的RDBMS都是把平衡树当做数据表默认的索引数据结构的。

我们平时建表的时候都会为表加上主键。 事实上, 一个加了主键的表,并不能被称之为表。 一个没加主键的表,它的数据无序的放置在磁盘存储器上,一行一行的排列的很整齐, 跟我认知中的表很接近。 如果给表上了主键,那么表在磁盘上的存储结构就由整齐排列的结构转变成了树状结构,也就是上面说的平衡树结构。换句话说,就是整个表就变成了一个索引,也就是所谓的聚集索引。 这就是为什么一个表只能有一个主键, 一个表只能有一个聚集索引,因为主键的作用就是把表的数据格式转换成索引(平衡树)的格式放置。

屏幕快照 2017-04-21 下午5.35.08

上图就是带有主键的表(聚集索引)的结构图。其中树的所有结点(底部除外)的数据都是由主键字段中的数据构成,也就是通常我们指定主键的 \(id\) 字段。最下面部分是真正表中的数据。

索引能让数据库查询数据的速度上升, 而使写入数据的速度下降。因为平衡树这个结构必须一直维持在一个正确的状态, 增删改数据都会改变平衡树各节点中的索引数据内容,破坏树结构。 因此,在每次数据改变时, DBMS必须去重新梳理树(索引)的结构以确保它的正确,这会带来不小的性能开销,也就是为什么索引会给查询以外的操作带来副作用的原因。

非聚集索引和聚集索引一样, 同样是采用平衡树作为索引的数据结构。索引树结构中各节点的值来自于表中的索引字段。 假如给user表的name字段加上索引 , 那么索引就是由name字段中的值构成,在数据改变时, DBMS需要一直维护索引结构的正确性。如果给表中多个字段加上索引 , 那么就会出现多个独立的索引结构,每个索引(非聚集索引)互相之间不存在关联。
屏幕快照 2017-04-21 下午5.46.53

非聚集索引和聚集索引的区别在于, 通过聚集索引可以查到需要查找的数据, 而通过非聚集索引可以查到记录对应的主键值 , 再使用主键的值通过聚集索引查找到需要的数据。如下图
屏幕快照 2017-04-21 下午5.48.45

不管以任何方式查询表, 最终都会利用主键通过聚集索引来定位到数据, 聚集索引(主键)是通往真实数据所在的唯一路径。然而, 有一种例外可以不使用聚集索引就能查询出所需要的数据, 这种非主流的方法 称之为 覆盖索引查询,也就是平时所说的复合索引或者多字段索引查询。 当为字段建立索引以后, 字段中的内容会被同步到索引之中, 如果为一个索引指定两个字段, 那么这个两个字段的内容都会被同步至索引之中。

先看下面这个SQL语句

屏幕快照 2017-04-21 下午7.27.30

这句SQL语句的执行过程如下:

  • 首先,通过非聚集索引 \(index\_birthday\) 查找 \(birthday\) 等于 1991-11-1 的所有记录的主键ID值

  • 然后,通过得到的主键ID值执行聚集索引查找,找到主键ID值对就的真实数据(数据行)存储的位置

  • 最后, 从得到的真实数据中取得 \(user\_name\) 字段的值返回, 也就是取得最终的结果

把 \(birthday\) 字段上的索引改成双字段的覆盖索引

屏幕快照 2017-04-21 下午7.27.38

这句SQL语句的执行过程就会变为: 通过非聚集索引 \(index\_birthday\_and\_user\_name\) 查找 \(birthday\) 等于1991-11-1的叶节点的内容,然而, 叶节点中除了有 \(user\_name\)表主键ID的值以外, \(user\_name\) 字段的值也在里面, 因此不需要通过主键ID值的查找数据行的真实所在, 直接取得叶节点中user_name的值返回即可。 通过这种覆盖索引直接查找的方式, 可以省略不使用覆盖索引查找的后面两个步骤, 大大的提高了查询性能。如下图
屏幕快照 2017-04-21 下午6.00.59

参考文献1
参考文献2


Hash索引

哈希索引采用哈希算法,把键值换算成哈希值,检索时不需要类似B+树那样从根节点到叶子节点逐级查找,只需一次哈希算法即可立刻定位到相应的位置,速度非常快

屏幕快照 2017-04-21 下午7.13.13

从上面的图来看,B+树索引和哈希索引的明显区别是:

  1. 如果是等值查询,那么哈希索引明显有绝对优势。 因为只需要经过一次算法即可找到相应的键值;当然了,这个前提是,键值都是唯一的。 如果键值不是唯一的,就需要先找到该键所在位置,然后再根据链表往后扫描,直到找到相应的数据;

  2. 如果是范围查询检索,这时候哈希索引就毫无用武之地了。 因为原先是有序的键值,经过哈希算法后,有可能变成不连续的了,就没办法再利用索引完成范围查询检索; 哈希索引也没办法利用索引完成排序,以及like ‘xxx%’ 这样的部分模糊查询(这种部分模糊查询,其实本质上也是范围查询);

  3. 哈希索引也不支持多列联合索引的最左匹配规则。B+树索引的关键字检索效率比较平均,不像B树那样波动幅度大,在有大量重复键值情况下,哈希索引的效率也是极低的,因为存在所谓的哈希碰撞问题。

参考文献1


索引的存储:

MySql使用的是B+树与Hash索引,Oracle使用的是B树

一条索引记录中包含的基本信息包括:键值(即你定义索引时指定的所有字段的值)+ 逻辑指针(指向数据页或者另一索引页)。

屏幕快照 2017-04-21 下午7.40.52
当你为一张空表创建索引时,数据库系统将为你分配一个索引页,该索引页在你插入数据前一直是空的。此页此时既是根结点,也是叶结点。每当你往表中插入一行数据,数据库系统即向此根结点中插入一行索引记录。当根结点满时,数据库系统大抵按以下步骤进行分裂:

  1. 创建两个儿子结点
  2. 将原根结点中的数据近似地拆成两半,分别写入新的两个儿子结点
  3. 根结点中加上指向两个儿子结点的指针

通常状况下,由于索引记录仅包含索引字段值(以及4-9字节的指针),索引实体比真实的数据行要小许多,索引页相较数据页来说要密集许多。一个索引页可以存储数量更多的索引记录,这意味着在索引中查找时在I/O上占很大的优势,理解这一点有助于从本质上了解使用索引的优势。

聚集索引:

表数据按照索引的顺序来存储的。对于聚集索引,叶子结点即存储了真实的数据行,不再有另外单独的数据页。

屏幕快照 2017-04-21 下午7.52.14

  • 聚集索引的查找: 如上图,我们在名字字段上建立聚集索引,当需要在根据此字段查找特定的记录时,数据库系统会根据特定的系统表查找的此索引的根,然后根据指针查找下一个,直到找到。例如我们要查询“Green”,由于它介于[Bennet,Karsen],据此我们找到了索引页1007,在该页中“Green”介于[Greane, Hunter]间,据此我们找到叶结点1133(也即数据结点),并最终在此页中找以了目标数据行。

    此次查询的IO包括3个索引页的查询(其中最后一次实际上是在数据页中查询)。这里的查找可能是从磁盘读取(Physical Read)或是从缓存中读取(Logical Read),如果此表访问频率较高,那么索引树中较高层的索引很可能在缓存中被找到。所以真正的IO可能小于上面的情况。

  • 聚集索引与插入操作:最简单的情况下,插入操作根据索引找到对应的数据页,然后通过挪动已有的记录为新数据腾出空间,最后插入数据。

    如果数据页已满,则需要拆分数据页(页拆分是一种耗费资源的操作,一般数据库系统中会有相应的机制要尽量减少页拆分的次数,通常是通过为每页预留空间来实现):

    • 在该使用的数据段(extent)上分配新的数据页,如果数据段已满,则需要分配新段。

    • 调整索引指针,这需要将相应的索引页读入内存并加锁。

    • 大约有一半的数据行被归入新的数据页中。

    • 如果表还有非聚集索引,则需要更新这些索引指向新的数据页。

    特殊情况:

    • 如果新插入的一条记录包含很大的数据,可能会分配两个新数据页,其中之一用来存储新记录,另一存储从原页中拆分出来的数据。

    • 通常数据库系统中会将重复的数据记录存储于相同的页中。

    • 类似于自增列为聚集索引的,数据库系统可能并不拆分数据页,页只是简单的新添数据页。

    聚集索引与删除操作: 删除行将导致其下方的数据行向上移动以填充删除记录造成的空白。

    • 如果删除的行是该数据页中的最后一行,那么该数据页将被回收,相应的索引页中的记录将被删除。

    • 如果回收的数据页位于跟该表的其它数据页相同的段上,那么它可能在随后的时间内被利用。如果该数据页是该段的唯一一个数据页,则该段也被回收。

    • 对于数据的删除操作,可能导致索引页中仅有一条记录,这时,该记录可能会被移至邻近的索引页中,原索引页将被回收,即所谓的“索引合并”。

聚集索引是一种稀疏索引,数据页上一级的索引页存储的是页指针,而不是行指针。而对于非聚集索引,则是密集索引,在数据页的上一级索引页它为每一个数据行存储一条索引记录。

非聚集索引与聚集索引相比:

  1. 叶子结点并非数据结点
  2. 叶子结点为每一真正的数据行存储一个“键-指针”对
  3. 叶子结点中还存储了一个指针偏移量,根据页指针及指针偏移量可以定位到具体的数据行。
  4. 类似的,在除叶结点外的其它索引结点,存储的也是类似的内容,只不过它是指向下一级的索引页的。

对于根与中间级的索引记录,它的结构包括:

  • 索引字段值

  • RowId(即对应数据页的页指针+指针偏移量)。在高层的索引页中包含RowId是为了当索引允许重复值时,当更改数据时精确定位数据行。

  • 下一级索引页的指针

对于叶子层的索引对象,它的结构包括:

  • 索引字段值

  • RowId

屏幕快照 2017-04-21 下午8.18.08

  • 非聚集索引与查询操作: 针对上图,如果我们同样查找“Green”,那么一次查询操作将包含以下IO:3个索引页的读取+1个数据页的读取。同样,由于缓存的关系,真实的IO实际可能要小于上面列出的。

  • 非聚集索引与插入操作: 如果一张表包含一个非聚集索引但没有聚集索引,则新的数据将被插入到最末一个数据页中,然后非聚集索引将被更新。如果也包含聚集索引,该聚集索引将被用于查找新行将要处于什么位置,随后,聚集索引、以及非聚集索引将被更新。

  • 非聚集索引与删除操作:

    • 如果在删除命令的 \(where\) 子句中包含的列上,建有非聚集索引,那么该非聚集索引将被用于查找数据行的位置,数据删除之后,位于索引叶子上的对应记录也将被删除。
    • 如果该表上有其它非聚集索引,则它们叶子结点上的相应数据也要删除。
    • 如果删除的数据是该数所页中的唯一一条,则该页也被回收,同时需要更新各个索引树上的指针。

参考文献2

posted @ 2017-04-20 22:57  I呆呆  阅读(515)  评论(0编辑  收藏  举报