深入理解 index merge 是使用索引进行优化的重要基础之一。

index merge
       当where谓词中存在多个条件(或者join)涉及到多个字段,它们之间进行 AND 或者 OR,那么此时就有可能会使用到 index merge 技术。简单的说,index merge 技术其实就是:对多个索引分别进行条件扫描,然后将它们各自的结果进行合并(intersect/union)。
       MySQL5.0之前,一个表一次只能使用一个索引,无法同时使用多个索引分别进行条件扫描。但是从5.1开始,引入了 index merge 优化技术,对同一个表可以使用多个索引分别进行条件扫描。

       index merge: 同一个表的多个索引的范围扫描可以对结果进行合并,合并方式分为三种:union, intersection, 以及它们的组合sort_union(先内部intersect然后在外面union)。

 

  • index merge 之 intersect

        The Index Merge intersection algorithm performs simultaneous scans on all used indexes and produces the intersection of row sequences that it receives from the merged index scans. (intersect merge运行方式:多个索引同时扫描,然后结果取交集)  

        If one of the merged conditions is a condition over a primary key of an InnoDB table, it is not used for row retrieval, but is used to filter out rows retrieved using other conditions.

       简单而言,index intersect merge就是多个索引条件扫描得到的结果进行交集运算。显然在多个索引提交之间是 AND 运算时,才会出现 index intersect merge. 下面两种where条件或者它们的组合时会进行 index intersect merge:
       1) 条件使用到复合索引中的所有字段或者左前缀字段(对单字段索引也适用)
           key_part1=const1 AND key_part2=const2 ... AND key_partN=constN
       2) 主键上的任何范围条件
           例子:
          SELECT * FROM innodb_table WHERE primary_key < 10 AND key_col1=20;
          SELECT * FROM tbl_name WHERE (key1_part1=1 AND key1_part2=2) AND key2=2;
       上面只说到复合索引,但是其实单字段索引显然也是一样的。比如 select * from tab where key1=xx and key2 =xxx; 也是有可能进行index intersect merge的。另外上面两种情况的 AND 组合也一样可能会进行 index intersect merge.   

        If all columns used in the query are covered by the used indexes, full table rows are not retrieved (EXPLAIN output contains Using index in Extra field in this case). Here is an example of such a query:(索引覆盖扫描,无需回表)

       If the used indexes do not cover all columns used in the query, full rows are retrieved only when the range conditions for all used keys are satisfied.(索引不能覆盖,则对满足条件的再进行回表)  eg:SELECT COUNT(*) FROM t1 WHERE key1=1 AND key2=1;

 

  • index merge 之 union

       简单而言,index uion merge就是多个索引条件扫描,对得到的结果进行并集运算,显然是多个条件之间进行的是 OR 运算。

       下面几种类型的 where 条件,以及他们的组合可能会使用到 index union merge算法:

  1.  条件使用到复合索引中的所有字段或者左前缀字段(对单字段索引也适用)
  2.  主键上的任何范围条件
  3.  任何符合 index intersect merge 的where条件;

       上面三种 where 条件进行 OR 运算时,可能会使用 index union merge算法。

       例子:

        SELECT * FROM t1 WHERE key1=1 OR key2=2 OR key3=3;
        SELECT * FROM innodb_table WHERE (key1=1 AND key2=2) OR (key3='foo' AND key4='bar') AND key5=5;

  • index merge 之 sort_union

      This access algorithm is employed when the WHERE clause was converted to several range conditions combined by OR, but for which the Index Merge method union algorithm is not applicable.(多个条件扫描进行 OR 运算,但是不符合 index union merge算法的,此时可能会使用 sort_union算法)

      The difference between the sort-union algorithm and the union algorithm is that the sort-union algorithm must first fetch row IDs for all rows and sort them before returning any rows.(sort-union合并算法和union合并算法的不同点,在于返回结果之前是否排序)

 

  • index merge的局限

      1)If your query has a complex WHERE clause with deep AND/OR nesting and MySQL does not choose the optimal plan, try distributing terms using the following identity laws(如果我们的条件比较复杂,用到多个 and / or 条件运算,而MySQL没有使用最优的执行计划,那么可以使用下面的两个等式将条件进行转换一下)
           (x AND y) OR z = (x OR z) AND (y OR z)
           (x OR y) AND z = (x AND z) OR (y AND z)
      2)Index Merge is not applicable to full-text indexes. We plan to extend it to cover these in a future MySQL release.(全文索引没有index merge)
      3)Before MySQL 5.6.6, if a range scan is possible on some key, the optimizer will not consider using Index Merge Union or Index Merge Sort-Union algorithms. For example, consider this query:
           SELECT * FROM t1 WHERE (goodkey1 < 10 OR goodkey2 < 20) AND badkey < 30;
           For this query, two plans are possible:
           An Index Merge scan using the (goodkey1 < 10 OR goodkey2 < 20) condition.
           A range scan using the badkey < 30 condition.
           However, the optimizer considers only the second plan.
           这一点对以低版本的MySQL是一个很大的缺陷。就是如果where条件中有 >, <, >=, <=等条件,那么优化器不会使用 index merge,而且还会忽略其他的索引,不会使用它们,哪怕他们的选择性更优。

 

  • 对 index merge 的进一步优化

       index merge使得我们可以使用到多个索引同时进行扫描,然后将结果进行合并。听起来好像是很好的功能,但是如果出现了 index intersect merge,那么一般同时也意味着我们的索引建立得不太合理,因为 index intersect merge 是可以通过建立 复合索引进行更一步优化的。

       比如下面的select:

          SELECT * FROM t1 WHERE key1=1 AND key2=2 AND key3=3;
       显然我们是可以在这三个字段上建立一个复合索引来进行优化的,这样就只需要扫描一个索引一次,而不是对三个所以分别扫描一次。

 

  • 复合索引的最左前缀原则

       对复合索引的非最左前缀字段进行 OR 运算,是无法使用到复合索引的。比如:

             SELECT * FROM tbl_name WHERE (key_col1 > 10 OR key_col2 = 20) AND nonkey_col=30;
       原因是,MySQL中的索引,使用的是B+tree, 也就是说他是:先按照复合索引的 第一个字段的大小来排序,插入到 B+tree 中的,当第一个字段值相同时,在按照第二个字段的值比较来插入的。那么如果我们需要对: OR key_col2 = 20 这样的条件也使用复合索引,那么该怎么操作呢?应该要对复合索引进行全扫描,找出所有 key_col2 =20 的项,然后还要回表去判断 nonkey_col=30,显然代价太大了。所以一般而言 OR key_col2 = 20 这样的条件是无法使用到复合索引的。如果一定要使用索引,那么可以在 col2 上单独建立一个索引。      

       创建复合索引,哪个字段放在最前面,并不需要按照where谓词出现的顺序来建立,而是根据哪个字段经常出现在where条件中以及字段的选择性好坏来判断。

 

posted on 2017-08-21 11:30  王彦军  阅读(330)  评论(0编辑  收藏  举报