【MySQL】Explain详解与索引最佳实践

【MySQL】Explain详解与索引最佳实践

Explain使用与详解

前期准备

Explain工具介绍 

(1)Explain的基本使用

(2)partitions 与 filtered

(3)show warnings 命令

使用Explain各个字段的含义 

(1)id列

(2)select_type列

(3)table列

(4)type列

(5)possible_keys列 与 key列

(6)key_len列

(7)ref列

(8)rows列

(9)Extra列

MySQL索引最佳实践

前期准备

SQL索引优化法则 

(1)最左前缀法则

(2)全值匹配

(3)尽量不要在索引列上做任何操作

(4)存储引擎不能使用索引中范围条件右边的列

(5)尽量使用覆盖索引,减少 select * 语句

(6)使用不等于(!= 或者 <>),not in,not exists 的时候无法使用索引

(7)is null,is not null 一般情况下也无法使用索引

(8)like以通配符开头('$abc...'),索引失效会变成全表扫描操作

(9)字符串不加单引号索引失效

(10)少用 or 或 in

(11)范围太大查询,不走索引

索引总结

下一节——SQL底层执行原理详解


Explain使用与详解

前期准备

在开始之前,我们先准备一下所需要的数据,创建3个表——actor、film、film_actor

actor 表

只有一个主键

CREATE TABLE `actor` (
  `id` int(11) NOT NULL,
  `name` varchar(45) DEFAULT NULL,
  `update_time` datetime DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;

INSERT INTO `actor` (`id`, `name`, `update_time`) 
VALUES  (1,'a','2017-12-22 15:27:18'), 
        (2,'b','2017-12-22 15:27:18'), 
        (3,'c','2017-12-22 15:27:18');

film 表

有一个主键id,还有一个普通索引name

CREATE TABLE `film` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `name` varchar(10) DEFAULT NULL,
  PRIMARY KEY (`id`),
  KEY `idx_name` (`name`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;

INSERT INTO `film` (`id`, `name`) 
VALUES  (3,'film0'),
        (1,'film1'),
        (2,'film2');

film_actor 表

有一个主键 ,还有一个联合索引

CREATE TABLE `film_actor` (
  `id` int(11) NOT NULL,
  `film_id` int(11) NOT NULL,
  `actor_id` int(11) NOT NULL,
  `remark` varchar(255) DEFAULT NULL,
  PRIMARY KEY (`id`),
  KEY `idx_film_actor_id` (`film_id`,`actor_id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;

INSERT INTO `film_actor` (`id`, `film_id`, `actor_id`) 
VALUES (1,1,1),(2,1,2),(3,2,1);

Explain工具介绍 

使用EXPLAIN关键字可以模拟优化器执行SQL语句,分析你的查询语句 或 是结构的性能瓶颈。

在 select 语句之前增加 explain 关键字,MySQL 会在查询上设置一个标记,执行查询会返回执行计划的信息,而不是执行这条SQL。

注意:如果 from 中包含子查询,仍会执行该子查询,将结果放入临时表中

Explain官方文档:MySQL :: MySQL 8.0 Reference Manual :: 8.8.2 EXPLAIN Output Format

(1)Explain的基本使用

explain select * from actor;

结果如下:

当然有一点要注意一下,这里使用的是MySQL8.0版本的。

如果你使用的是MySQL5.7或者MySQL5.7以下的版本,可能不会出现partitions filtered的字段(红色框框) 

如果想实现和上面一样的效果,就要使用 extended关键字!用法如下

explain extended select * from actor;

(2)partitions 与 filtered

filtered 字段

filtered 是一个半分比的值,rows * filtered/100 可以估算出将要和 explain 中前一个表进行连接的行数(前一个表指 explain 中的id值比当前表id值小的表)

partitions 字段(基本没有用!)

如果查询是基于分区表的话,会显示查询将访问的分区

(3)show warnings 命令

在我们自己编写的SQL后通过 show warnings 命令可以得到优化后的查询语句,从而看出优化器优化了什么。

我们选中两条SQL语句一起执行 

explain select id from actor;
show warnings;

运行结果如下

使用Explain各个字段的含义 

接下来我们将展示 explain 中每个列的信息

(1)id列

id列的编号是 select 的序列号,有几个 select 就有几个id,并且id的顺序是按 select 出现的顺序增长的。

id列越大执行优先级越高(越大越先执行),id相同则从上往下执行,id为NULL最后执行;如果出现id相等的情况,那么谁排在前面就谁先执行

具体可以看在 select_type列 里面举的例子。

(2)select_type列

select_type列 表示对应行是简单还是复杂的查询

a. simple:简单查询。查询不包含子查询和union

b. primary:复杂查询中最外层的 select

c. subquery:包含在 select 中的子查询(不在 from 子句中)

d. derived:包含在 from 子句中的子查询(衍生查询)。MySQL会将结果存放在一个临时表中,也称为派生表(derived的英文含义)

请看下面的这个例子:

开始前我们要先关闭掉 MySQL5.7的新特性 对衍生表的合并优化

select @@optimizer_switch;

#关闭mysql5sq.7新特性对衍生表的合并优化
set session optimizer_switch='derived_merge=off';   

explain select (select 1 from actor where id = 1) from (select * from film where id = 1) der;

查询结果如下

e .union:在 union 中的第二个和随后的 select

explain select 1 union all select 1;

(3)table列

table列 表示这一列表示 explain 的一行正在访问哪个表

该字段在上面一个例子里面应该已经说明清楚了! 

当 from 子句中有子查询时,table列是 <derivedN> 格式,表示当前查询依赖 id=N 的查询,于是先执行 id=N 的查询。

(4)type列

type列 表示关联类型或访问类型,即MySQL决定如何查找表中的行,查找数据行记录的大概范围

依次从最优到最差分别为

system > const > eq_ref > ref > range > index > ALL

一般来说,得保证查询达到range级别,最好达到ref

我们先看一下下面的这一条SQL 

explain select min(id) from film;

会发现,执行后结果为NULL 

那么我们刚刚提到了7种类型,但是好像没有NULL,NULL到底是什么意思呢??? 

A. NULL

MySQL能够在优化阶段分解查询语句,在执行阶段用不着再访问表或索引,换句话说就是不用查就可以知道结果

例如:在索引列中选取最小值,在上一个章节中我们提到过MySQL索引是用B+树来存储的,是有序的,所以直接取B+树的根结点的最左边的一个即可,在SQL的优化阶段就可以直接拿到结果!!!

B. const, system

MySQL 能对查询的某部分进行优化并将其转化成一个常量(可以看show warnings 的结果)。

用于 primary key(主键) unique key(唯一索引) 的所有列与常数比较时,所以表最多有一个匹配行,读取1次,速度比较快。

system 是 const 的特例,表里只有一条元组匹配时为system。

explain select * from (select * from film where id = 1) tmp;

C. eq_ref

primary key 或 unique key 索引的所有部分被连接使用 ,最多只会返回一条符合条件的记录

这可能是在 const 之外最好的联接类型了,简单的 select 查询不会出现这种 type。

所以如果查出来的 typeeq_ref 这种类型,查询效率是很高的,是不需要做优化的!

explain select * from film_actor left join film on film_actor.film_id = film.id;

D. ref

相比 eq_ref,不使用唯一索引,而是使用普通索引或者唯一性索引的部分前缀,索引要和某个值相比较,可能会找到多个符合条件的行。

explain select * from film where name = 'film1';

使用的是普通索引 (走了索引,但是不是唯一索引)

explain 
select film_id from film 
left join film_actor 
on film.id = film_actor.film_id;

E. range 

范围扫描通常出现在 in(), between ,> ,= 等操作中(取范围的字段要是索引!

explain select * from actor where id > 1;

F. index 

扫描全索引就能拿到结果,一般是扫描某个二级索引,这种扫描不会从索引树根节点开始快速查找,而是直接对二级索引的叶子节点遍历和扫描,速度还是比较慢的。

这种查询一般为使用覆盖索引,二级索引一般比较小,所以这种通常比ALL快一些。

explain select * from film;

MySQL有一个优化原则,MySQL会分析出我们要查找的几个字段,如果这些字段在所有索引里面都有,它会优先选择二级索引

这是因为,二级索引占用的空间小,而主键索引是一个聚簇索引,下面叶子节点携带着整行数据,数据量大;所以MySQL会优先选择占用空间小的!

G. ALL(必须要优化!)

全表扫描,扫描你的聚簇索引的所有叶子节点。通常情况下这需要增加索引来进行优化了。

explain select * from actor;

ALL 与 index的区别 

两者其实都是会扫描整棵索引树

但是前者是扫描主键索引,其叶子节点的数据量大,所以耗时长一点,而后者大概率是扫描二级索引,其叶子节点的存放主键值,数据量小,所以快一点。

(5)possible_keys列 与 key列

possible_keys列 显示查询可能使用哪些索引来查找。 

explain 时可能出现 possible_keys 有列,而 key 显示 NULL 的情况,这种情况是因为表中数据不多,mysql认为索引对此查询帮助不大,选择了全表查询。 

key列 显示MySQL实际采用哪个索引来优化对该表的访问。

如果没有使用索引,则该列是 NULL

如果想强制MySQL使用或忽视possible_keys列中的索引,在查询中使用 force index、ignore index

(6)key_len列

这一列显示了MySQL在索引里使用的字节数,通过这个值可以算出具体使用了索引中的哪些列。 

举例来说,film_actor的联合索引 idx_film_actor_id 由 film_id 和 actor_id 两个int列组成,并且每个int是4字节。

通过结果中的key_len=4可推断出查询使用了第一个列:film_id列来执行索引查找。

explain select * from film_actor where film_id = 2;

explain select * from film_actor where film_id = 2 and actor_id = 1;

也就是说,在联合索引,可能有部分字段会被用到,可以通过计算key_len列知道用到了那些字段

key_len计算规则如下

字符串

char(n) 和 varchar(n),5.0.3以后版本中,n均代表字符数,而不是字节数。如果是utf-8,一个数字或字母占1个字节,一个汉字占3个字节

  • char(n):如果存汉字长度就是 3n 字节
  • varchar(n):如果存汉字则长度是 3n + 2 字节,加的2字节用来存储字符串长度,因为varchar是变长字符串

数值类型

  • tinyint:1字节
  • smallint:2字节
  • int:4字节
  • bigint:8字节  

时间类型 

  • date:3字节
  • timestamp:4字节
  • datetime:8字节

如果字段允许为 NULL,需要1字节记录是否为 NULL

索引最大长度是768字节,当字符串过长时,MySQL会做一个类似左前缀索引的处理,将前半部分的字符提取出来做索引。

(7)ref列

这一列显示了在key列记录的索引中,表查找值所用到的列或常量

常见的有:const(常量),字段名(例:film.id)

例子可以见key_len的第二个样例,

(8)rows列

这一列是mysql估计要读取并检测的行数,注意这个不是结果集里的行数。

(9)Extra列

这一列展示的是额外信息。它的取值有很多种情况,常见的如下所示:

A. Using index

表示的是使用覆盖索引(我们要查询的字段“select后面的东西”,被索引树全部包含

MySQL执行计划explain结果里的key有使用索引,如果select后面查询的字段都可以从这个索引的树中获取,这种情况一般可以说是用到了覆盖索引,extra里一般都有using index;

覆盖索引一般针对的是辅助索引,整个查询结果只通过辅助索引就能拿到结果,不需要通过辅助索引树找到主键,再通过主键去主键索引树里获取其它字段值(不用回表!)

explain select film_id from film_actor where film_id = 1;

film_actor表里面有联合索引,且包含了select后面的 film_id 字段 ,所以其 extra值为using index

film_actor表结构如下所示

我们把上面的语句改为 “select *” ,这样的话,表中的remark是没有索引的,所以在二级索引idx_film_actor_id 中是查不到remark的数据,需要回表!效率低!

explain select * from film_actor where film_id = 1;

可以简单粗暴的这样理解:不要回表的就是覆盖索引!!!

B. Using where

使用 where 语句来处理结果,并且查询的列未被索引覆盖(本身就没有走索引

explain select * from actor where name = 'a';

C. Using index condition

查询的列不完全被索引覆盖,where条件中是一个前导列的范围

前导列idx_film_actor_id 是一个联合索引(film_id,actor_id),其中film_id就是前导列。

explain select * from film_actor where film_id > 1;

D. Using temporary

MySQL需要创建一张临时表来处理查询。出现这种情况一般是要进行优化的,首先是想到用索引来优化。

-- actor.name没有索引,此时创建了张临时表来distinct
explain select distinct name from actor;

如果要对它进行优化,只要给待去重字段加上一个普通索引就行了!

-- film.name建立了idx_name索引,此时查询时extra是using index,没有用临时表
explain select distinct name from film;

原因如下:索引树是有序的,如果待去重的字段是一个索引,那么去重就像一个有字典序的字符串去重一样简单,遍历一遍即可,不需要额外的空间!

E. Using filesort

将用外部排序而不是索引排序,数据较小时从内存排序,否则需要在磁盘完成排序。这种情况下一般也是要考虑使用索引来优化的。

-- actor.name未创建索引,会浏览actor整个表,保存排序关键字name和对应的id,
-- 然后排序name并检索行记录
explain select * from actor order by name;

优化方案

-- film.name建立了idx_name索引,此时查询时extra是using index
explain select * from film order by name;sql

索引树是有序的,只需要按照索引树的顺序输出即可!不需要排序这个动作;

如果select后面的字段,在该二级索引中没有全部涵盖,只需要再做一次回表即可!

F. Select tables optimized away

使用某些聚合函数(比如 max、min)来访问存在索引的某个字段是 

explain select min(id) from film;

效率也是很高的,主要也是因为索引树有序这个特性!

MySQL索引最佳实践

前期准备

CREATE TABLE `employees` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `name` varchar(24) NOT NULL DEFAULT '' COMMENT '姓名',
  `age` int(11) NOT NULL DEFAULT '0' COMMENT '年龄',
  `position` varchar(20) NOT NULL DEFAULT '' COMMENT '职位',
  `hire_time` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT '入职时间',
  PRIMARY KEY (`id`),
  KEY `idx_name_age_position` (`name`,`age`,`position`) USING BTREE
) ENGINE=InnoDB AUTO_INCREMENT=4 DEFAULT CHARSET=utf8 COMMENT='员工记录表';

INSERT INTO employees(name,age,position,hire_time) VALUES('LiLei',22,'manager',NOW());
INSERT INTO employees(name,age,position,hire_time) VALUES('HanMeimei', 23,'dev',NOW());
INSERT INTO employees(name,age,position,hire_time) VALUES('Lucy',23,'dev',NOW());

该表中含有一个主键索引 id 联合索引  (name,age,position) 

SQL索引优化法则 

(1)最左前缀法则

如果索引了多列,要遵守最左前缀法则。指的是查询从索引的最左前列开始并且不跳过索引中的列

-- KEY `idx_name_age_position` (`name`,`age`,`position`) USING BTREE
-- ref
EXPLAIN SELECT * FROM employees WHERE name = 'Bill' and age = 31;
-- ALL
EXPLAIN SELECT * FROM employees WHERE age = 30 AND position = 'dev';
-- ALL
EXPLAIN SELECT * FROM employees WHERE position = 'manager';

显然只有第一条SQL才会走索引。

(2)全值匹配

EXPLAIN SELECT * FROM employees WHERE name= 'LiLei';
EXPLAIN SELECT * FROM employees WHERE name= 'LiLei' AND age = 22;
EXPLAIN SELECT * FROM employees WHERE name= 'LiLei' AND  age = 22 AND position ='manager';

在我们编写SQL的时候,可以尽可能多的包含索引中的列,且要遵循最左前缀法则!

但是有人会问了

如果这些列都包含了,但是顺序没有按照联合索引指定的顺序,那么会不会走索引???

答案是!因为MySQL底层在执行一条SQL前会对其做优化,这种简单的顺序问题MySQL底层会帮忙进行处理的。

(3)尽量不要在索引列上做任何操作

这些操作指的是(计算、函数、(自动or手动)类型转换),会导致索引失效而转向全表扫描

-- ref
EXPLAIN SELECT * FROM employees WHERE name = 'LiLei';
-- ALL
EXPLAIN SELECT * FROM employees WHERE left(name,5) = 'LiLei';

注:MySQL的 LEFT()函数是一个字符串函数,它返回具有指定长度的字符串的左边部分

再如时间处理函数

我们先给 employees表 的 hire_time字段设定一个普通索引,再对该字段使用date函数。

-- 添加 hire_time列 的普通索引
ALTER TABLE `employees` ADD INDEX `idx_hire_time` (`hire_time`) USING BTREE ;
-- ALL
EXPLAIN  select * from employees where date(hire_time) ='2018-09-30';

-- 删除该索引 
ALTER TABLE `employees` DROP INDEX `idx_hire_time`;

可以发现就算给它单独添加了一个索引,只要它使用了函数还是不会走索引

如何优化???

那就直接不使用函数呗!我们可以采用时间范围来定位 

EXPLAIN  
select * from employees 
where hire_time >='2018-09-30 00:00:00' 
and hire_time <='2018-09-30 23:59:59';

(4)存储引擎不能使用索引中范围条件右边的列

-- KEY `idx_name_age_position` (`name`,`age`,`position`) USING BTREE
-- ref
EXPLAIN SELECT * FROM employees WHERE name= 'LiLei' AND age = 22 AND position ='manager';
-- range
EXPLAIN SELECT * FROM employees WHERE name= 'LiLei' AND age > 22 AND position ='manager';

通过key_len可以知道 position 不走索引!这是因为当一个字段是范围查找的时候,那么它的下一个字段不一定是有序的!所以它的下一个字段不会走索引!!!

(5)尽量使用覆盖索引,减少 select * 语句

就是只访问索引的查询(索引列包含查询列)

(6)使用不等于(!= 或者 <>),not in,not exists 的时候无法使用索引

使用这些符号,可能会导致全表扫描!MySQL内部优化器会根据检索比例、表大小等多个因素整体评估是否使用索引

EXPLAIN SELECT * FROM employees WHERE name != 'LiLei';

注意:这里面都不是绝对的,MySQL底层在这方面还有一些很细节的东西,这里不过多赘述,在后续的章节中会讲!!! 

(7)is null,is not null 一般情况下也无法使用索引

EXPLAIN SELECT * FROM employees WHERE name is null;

但是MySQL一般会把一堆的NULL放在一起。 

(8)like以通配符开头('$abc...'),索引失效会变成全表扫描操作

-- ALL
EXPLAIN SELECT * FROM employees WHERE name like '%Lei';
-- range
EXPLAIN SELECT * FROM employees WHERE name like 'Lei%';

这是为啥?为什么第一条SQL不走索引?

相信看来前面内容的小伙伴都知道为什么了!其实这个问题,也是字符串字典序的问题!B+树中对于索引字段(字符串)是用字典序来排序的。如果通配符在前面,也就是“Lei”前面还有其它的字符串,所以不能保证 “%Lei” 在索引树中是有序的

如果我必须要使用%在前的怎么办??

方案一:  

使用覆盖索引,查询字段必须是建立覆盖索引字段

EXPLAIN SELECT name,age,position FROM employees WHERE name like '%Lei%';

方案二: 

如果不能使用覆盖索引则可能需要借助搜索引擎

(9)字符串不加单引号索引失效

实际上这么描述不太清楚,应该是待查询的类型必须要是表字段定义的类型!!!

-- ref
EXPLAIN SELECT * FROM employees WHERE name = '1000';
-- ALL
EXPLAIN SELECT * FROM employees WHERE name = 1000;

如同上面的SQL,假如我们有一个人的名字name值是1000name字段是varchar类型,但是在我们编写SQL的时候,写成了 “  WHERE name = 1000; ” 虽然都是可以查询出来(内部帮我们做了自动转型),但是这样就不走索引了。

(10)少用 or 或 in

用它查询时,MySQL不一定使用索引,MySQL内部优化器会根据检索比例、表大小等多个因素整体评估是否使用索引,这里先不做详解,后续章节会讲!

EXPLAIN SELECT * FROM employees WHERE name = 'LiLei' or name = 'HanMeimei';

(11)范围太大查询,不走索引

我们给age字段加一个普通索引,对age进行范围查找,但是我们会发现下面的SQL居然不走索引!

-- age字段加普通索引
ALTER TABLE `employees` ADD INDEX `idx_age` (`age`) USING BTREE;
-- ALL(不一定)
explain select * from employees where age >=1 and age <=1000;

-- 还原
ALTER TABLE `employees` DROP INDEX `idx_age`;

优化方法 

我们不妨将查询范围缩小

explain select * from employees where age >=1001 and age <=2000;

注意: 该案例比较特殊!不同的MySQL版本,数据表容量的大小等等,都有可能对结果造成影响!!!

索引总结

like KK%相当于=常量%KK和%KK% 相当于范围 

例如最后一条,相当于:a = 3 and b = k and c= 4

下一节——SQL底层执行原理详解

【图灵MySQL】SQL底层执行原理详解_面向鸿蒙编程的博客-CSDN博客大体来说,MySQL 可以分为 Server层和存储引擎层(支持 “插拔”)两部分。Server层。主要包括连接器、查询缓存、分析器、优化器、执行器等,涵盖 MySQL 的大多数核心服务功能。Store层。存储引擎层负责数据的存储和提取。其架构模式是插件式的,支持 InnoDB、MyISAM、Memory 等多个存储引擎。现在最常用的存储引擎是 InnoDB,它从 MySQL 5.5.5 版本开始成为了默认存储引擎。https://blog.csdn.net/weixin_43715214/article/details/127190252

posted @ 2022-10-01 19:15  金鳞踏雨  阅读(74)  评论(0编辑  收藏  举报  来源