【MySQL】Explain详解与索引最佳实践
(6)使用不等于(!= 或者 <>),not in,not exists 的时候无法使用索引
(7)is null,is not null 一般情况下也无法使用索引
(8)like以通配符开头('$abc...'),索引失效会变成全表扫描操作
Explain使用与详解
前期准备
在开始之前,我们先准备一下所需要的数据,创建3个表——actor、film、film_actor
actor 表
只有一个主键
CREATE TABLE `actor` (
`id` int(11) NOT NULL,
`name` varchar(45) DEFAULT NULL,
`update_time` datetime DEFAULT NULL,
PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;
INSERT INTO `actor` (`id`, `name`, `update_time`)
VALUES (1,'a','2017-12-22 15:27:18'),
(2,'b','2017-12-22 15:27:18'),
(3,'c','2017-12-22 15:27:18');
film 表
有一个主键id,还有一个普通索引name
CREATE TABLE `film` (
`id` int(11) NOT NULL AUTO_INCREMENT,
`name` varchar(10) DEFAULT NULL,
PRIMARY KEY (`id`),
KEY `idx_name` (`name`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;
INSERT INTO `film` (`id`, `name`)
VALUES (3,'film0'),
(1,'film1'),
(2,'film2');
film_actor 表
有一个主键 ,还有一个联合索引
CREATE TABLE `film_actor` (
`id` int(11) NOT NULL,
`film_id` int(11) NOT NULL,
`actor_id` int(11) NOT NULL,
`remark` varchar(255) DEFAULT NULL,
PRIMARY KEY (`id`),
KEY `idx_film_actor_id` (`film_id`,`actor_id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;
INSERT INTO `film_actor` (`id`, `film_id`, `actor_id`)
VALUES (1,1,1),(2,1,2),(3,2,1);
Explain工具介绍
使用EXPLAIN关键字可以模拟优化器执行SQL语句,分析你的查询语句 或 是结构的性能瓶颈。
在 select 语句之前增加 explain 关键字,MySQL 会在查询上设置一个标记,执行查询会返回执行计划的信息,而不是执行这条SQL。
注意:如果 from 中包含子查询,仍会执行该子查询,将结果放入临时表中
Explain官方文档:MySQL :: MySQL 8.0 Reference Manual :: 8.8.2 EXPLAIN Output Format
(1)Explain的基本使用
explain select * from actor;
结果如下:
当然有一点要注意一下,这里使用的是MySQL8.0版本的。
如果你使用的是MySQL5.7或者MySQL5.7以下的版本,可能不会出现partitions 和 filtered的字段(红色框框)
如果想实现和上面一样的效果,就要使用 extended关键字!用法如下
explain extended select * from actor;
(2)partitions 与 filtered
filtered 字段
filtered 是一个半分比的值,rows * filtered/100 可以估算出将要和 explain 中前一个表进行连接的行数(前一个表指 explain 中的id值比当前表id值小的表)
partitions 字段(基本没有用!)
如果查询是基于分区表的话,会显示查询将访问的分区
(3)show warnings 命令
在我们自己编写的SQL后通过 show warnings 命令可以得到优化后的查询语句,从而看出优化器优化了什么。
我们选中两条SQL语句一起执行
explain select id from actor;
show warnings;
运行结果如下
使用Explain各个字段的含义
接下来我们将展示 explain 中每个列的信息
(1)id列
id列的编号是 select 的序列号,有几个 select 就有几个id,并且id的顺序是按 select 出现的顺序增长的。
id列越大执行优先级越高(越大越先执行),id相同则从上往下执行,id为NULL最后执行;如果出现id相等的情况,那么谁排在前面就谁先执行!
具体可以看在 select_type列 里面举的例子。
(2)select_type列
select_type列 表示对应行是简单还是复杂的查询
a. simple:简单查询。查询不包含子查询和union
b. primary:复杂查询中最外层的 select
c. subquery:包含在 select 中的子查询(不在 from 子句中)
d. derived:包含在 from 子句中的子查询(衍生查询)。MySQL会将结果存放在一个临时表中,也称为派生表(derived的英文含义)
请看下面的这个例子:
开始前我们要先关闭掉 MySQL5.7的新特性 对衍生表的合并优化
select @@optimizer_switch;
#关闭mysql5sq.7新特性对衍生表的合并优化
set session optimizer_switch='derived_merge=off';
explain select (select 1 from actor where id = 1) from (select * from film where id = 1) der;
查询结果如下
e .union:在 union 中的第二个和随后的 select
explain select 1 union all select 1;
(3)table列
table列 表示这一列表示 explain 的一行正在访问哪个表
该字段在上面一个例子里面应该已经说明清楚了!
当 from 子句中有子查询时,table列是 <derivedN> 格式,表示当前查询依赖 id=N 的查询,于是先执行 id=N 的查询。
(4)type列
type列 表示关联类型或访问类型,即MySQL决定如何查找表中的行,查找数据行记录的大概范围
依次从最优到最差分别为
system > const > eq_ref > ref > range > index > ALL
一般来说,得保证查询达到range级别,最好达到ref
我们先看一下下面的这一条SQL
explain select min(id) from film;
会发现,执行后结果为NULL
那么我们刚刚提到了7种类型,但是好像没有NULL,NULL到底是什么意思呢???
A. NULL
MySQL能够在优化阶段分解查询语句,在执行阶段用不着再访问表或索引,换句话说就是不用查就可以知道结果!
例如:在索引列中选取最小值,在上一个章节中我们提到过MySQL索引是用B+树来存储的,是有序的,所以直接取B+树的根结点的最左边的一个即可,在SQL的优化阶段就可以直接拿到结果!!!
B. const, system
MySQL 能对查询的某部分进行优化并将其转化成一个常量(可以看show warnings 的结果)。
用于 primary key(主键) 或 unique key(唯一索引) 的所有列与常数比较时,所以表最多有一个匹配行,读取1次,速度比较快。
system 是 const 的特例,表里只有一条元组匹配时为system。
explain select * from (select * from film where id = 1) tmp;
C. eq_ref
primary key 或 unique key 索引的所有部分被连接使用 ,最多只会返回一条符合条件的记录。
这可能是在 const 之外最好的联接类型了,简单的 select 查询不会出现这种 type。
所以如果查出来的 type 是 eq_ref 这种类型,查询效率是很高的,是不需要做优化的!
explain select * from film_actor left join film on film_actor.film_id = film.id;
D. ref
相比 eq_ref,不使用唯一索引,而是使用普通索引或者唯一性索引的部分前缀,索引要和某个值相比较,可能会找到多个符合条件的行。
explain select * from film where name = 'film1';
使用的是普通索引 (走了索引,但是不是唯一索引)
explain
select film_id from film
left join film_actor
on film.id = film_actor.film_id;
E. range
范围扫描通常出现在 in(), between ,> ,= 等操作中(取范围的字段要是索引!)
explain select * from actor where id > 1;
F. index
扫描全索引就能拿到结果,一般是扫描某个二级索引,这种扫描不会从索引树根节点开始快速查找,而是直接对二级索引的叶子节点遍历和扫描,速度还是比较慢的。
这种查询一般为使用覆盖索引,二级索引一般比较小,所以这种通常比ALL快一些。
explain select * from film;
MySQL有一个优化原则,MySQL会分析出我们要查找的几个字段,如果这些字段在所有索引里面都有,它会优先选择二级索引!
这是因为,二级索引占用的空间小,而主键索引是一个聚簇索引,下面叶子节点携带着整行数据,数据量大;所以MySQL会优先选择占用空间小的!
G. ALL(必须要优化!)
即全表扫描,扫描你的聚簇索引的所有叶子节点。通常情况下这需要增加索引来进行优化了。
explain select * from actor;
ALL 与 index的区别
两者其实都是会扫描整棵索引树!
但是前者是扫描主键索引,其叶子节点的数据量大,所以耗时长一点,而后者大概率是扫描二级索引,其叶子节点的存放主键值,数据量小,所以快一点。
(5)possible_keys列 与 key列
possible_keys列 显示查询可能使用哪些索引来查找。
explain 时可能出现 possible_keys 有列,而 key 显示 NULL 的情况,这种情况是因为表中数据不多,mysql认为索引对此查询帮助不大,选择了全表查询。
key列 显示MySQL实际采用哪个索引来优化对该表的访问。
如果没有使用索引,则该列是 NULL。
如果想强制MySQL使用或忽视possible_keys列中的索引,在查询中使用 force index、ignore index。
(6)key_len列
这一列显示了MySQL在索引里使用的字节数,通过这个值可以算出具体使用了索引中的哪些列。
举例来说,film_actor的联合索引 idx_film_actor_id 由 film_id 和 actor_id 两个int列组成,并且每个int是4字节。
通过结果中的key_len=4可推断出查询使用了第一个列:film_id列来执行索引查找。
explain select * from film_actor where film_id = 2;
explain select * from film_actor where film_id = 2 and actor_id = 1;
也就是说,在联合索引,可能有部分字段会被用到,可以通过计算key_len列知道用到了那些字段。
key_len计算规则如下
字符串
char(n) 和 varchar(n),5.0.3以后版本中,n均代表字符数,而不是字节数。如果是utf-8,一个数字或字母占1个字节,一个汉字占3个字节
- char(n):如果存汉字长度就是 3n 字节
- varchar(n):如果存汉字则长度是 3n + 2 字节,加的2字节用来存储字符串长度,因为varchar是变长字符串
数值类型
- tinyint:1字节
- smallint:2字节
- int:4字节
- bigint:8字节
时间类型
- date:3字节
- timestamp:4字节
- datetime:8字节
如果字段允许为 NULL,需要1字节记录是否为 NULL
索引最大长度是768字节,当字符串过长时,MySQL会做一个类似左前缀索引的处理,将前半部分的字符提取出来做索引。
(7)ref列
这一列显示了在key列记录的索引中,表查找值所用到的列或常量。
常见的有:const(常量),字段名(例:film.id)
例子可以见key_len的第二个样例,
(8)rows列
这一列是mysql估计要读取并检测的行数,注意这个不是结果集里的行数。
(9)Extra列
这一列展示的是额外信息。它的取值有很多种情况,常见的如下所示:
A. Using index
表示的是使用覆盖索引(我们要查询的字段“select后面的东西”,被索引树全部包含)
MySQL执行计划explain结果里的key有使用索引,如果select后面查询的字段都可以从这个索引的树中获取,这种情况一般可以说是用到了覆盖索引,extra里一般都有using index;
覆盖索引一般针对的是辅助索引,整个查询结果只通过辅助索引就能拿到结果,不需要通过辅助索引树找到主键,再通过主键去主键索引树里获取其它字段值(不用回表!)
explain select film_id from film_actor where film_id = 1;
film_actor表里面有联合索引,且包含了select后面的 film_id 字段 ,所以其 extra值为using index。
film_actor表结构如下所示
我们把上面的语句改为 “select *” ,这样的话,表中的remark是没有索引的,所以在二级索引idx_film_actor_id 中是查不到remark的数据,需要回表!效率低!
explain select * from film_actor where film_id = 1;
可以简单粗暴的这样理解:不要回表的就是覆盖索引!!!
B. Using where
使用 where 语句来处理结果,并且查询的列未被索引覆盖(本身就没有走索引)
explain select * from actor where name = 'a';
C. Using index condition
查询的列不完全被索引覆盖,where条件中是一个前导列的范围;
前导列:idx_film_actor_id 是一个联合索引(film_id,actor_id),其中film_id就是前导列。
explain select * from film_actor where film_id > 1;
D. Using temporary
MySQL需要创建一张临时表来处理查询。出现这种情况一般是要进行优化的,首先是想到用索引来优化。
-- actor.name没有索引,此时创建了张临时表来distinct
explain select distinct name from actor;
如果要对它进行优化,只要给待去重字段加上一个普通索引就行了!
-- film.name建立了idx_name索引,此时查询时extra是using index,没有用临时表
explain select distinct name from film;
原因如下:索引树是有序的,如果待去重的字段是一个索引,那么去重就像一个有字典序的字符串去重一样简单,遍历一遍即可,不需要额外的空间!
E. Using filesort
将用外部排序而不是索引排序,数据较小时从内存排序,否则需要在磁盘完成排序。这种情况下一般也是要考虑使用索引来优化的。
-- actor.name未创建索引,会浏览actor整个表,保存排序关键字name和对应的id,
-- 然后排序name并检索行记录
explain select * from actor order by name;
优化方案
-- film.name建立了idx_name索引,此时查询时extra是using index
explain select * from film order by name;sql
索引树是有序的,只需要按照索引树的顺序输出即可!不需要排序这个动作;
如果select后面的字段,在该二级索引中没有全部涵盖,只需要再做一次回表即可!
F. Select tables optimized away
使用某些聚合函数(比如 max、min)来访问存在索引的某个字段是
explain select min(id) from film;
效率也是很高的,主要也是因为索引树有序这个特性!
MySQL索引最佳实践
前期准备
CREATE TABLE `employees` (
`id` int(11) NOT NULL AUTO_INCREMENT,
`name` varchar(24) NOT NULL DEFAULT '' COMMENT '姓名',
`age` int(11) NOT NULL DEFAULT '0' COMMENT '年龄',
`position` varchar(20) NOT NULL DEFAULT '' COMMENT '职位',
`hire_time` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT '入职时间',
PRIMARY KEY (`id`),
KEY `idx_name_age_position` (`name`,`age`,`position`) USING BTREE
) ENGINE=InnoDB AUTO_INCREMENT=4 DEFAULT CHARSET=utf8 COMMENT='员工记录表';
INSERT INTO employees(name,age,position,hire_time) VALUES('LiLei',22,'manager',NOW());
INSERT INTO employees(name,age,position,hire_time) VALUES('HanMeimei', 23,'dev',NOW());
INSERT INTO employees(name,age,position,hire_time) VALUES('Lucy',23,'dev',NOW());
该表中含有一个主键索引 id 和 联合索引 (name,age,position)
SQL索引优化法则
(1)最左前缀法则
如果索引了多列,要遵守最左前缀法则。指的是查询从索引的最左前列开始并且不跳过索引中的列
-- KEY `idx_name_age_position` (`name`,`age`,`position`) USING BTREE
-- ref
EXPLAIN SELECT * FROM employees WHERE name = 'Bill' and age = 31;
-- ALL
EXPLAIN SELECT * FROM employees WHERE age = 30 AND position = 'dev';
-- ALL
EXPLAIN SELECT * FROM employees WHERE position = 'manager';
显然只有第一条SQL才会走索引。
(2)全值匹配
EXPLAIN SELECT * FROM employees WHERE name= 'LiLei';
EXPLAIN SELECT * FROM employees WHERE name= 'LiLei' AND age = 22;
EXPLAIN SELECT * FROM employees WHERE name= 'LiLei' AND age = 22 AND position ='manager';
在我们编写SQL的时候,可以尽可能多的包含索引中的列,且要遵循最左前缀法则!
但是有人会问了
如果这些列都包含了,但是顺序没有按照联合索引指定的顺序,那么会不会走索引???
答案是会!因为MySQL底层在执行一条SQL前会对其做优化,这种简单的顺序问题MySQL底层会帮忙进行处理的。
(3)尽量不要在索引列上做任何操作
这些操作指的是(计算、函数、(自动or手动)类型转换),会导致索引失效而转向全表扫描
-- ref
EXPLAIN SELECT * FROM employees WHERE name = 'LiLei';
-- ALL
EXPLAIN SELECT * FROM employees WHERE left(name,5) = 'LiLei';
注:MySQL的 LEFT()
函数是一个字符串函数,它返回具有指定长度的字符串的左边部分。
再如时间处理函数
我们先给 employees表 的 hire_time字段设定一个普通索引,再对该字段使用date函数。
-- 添加 hire_time列 的普通索引
ALTER TABLE `employees` ADD INDEX `idx_hire_time` (`hire_time`) USING BTREE ;
-- ALL
EXPLAIN select * from employees where date(hire_time) ='2018-09-30';
-- 删除该索引
ALTER TABLE `employees` DROP INDEX `idx_hire_time`;
可以发现就算给它单独添加了一个索引,只要它使用了函数还是不会走索引!
如何优化???
那就直接不使用函数呗!我们可以采用时间范围来定位
EXPLAIN
select * from employees
where hire_time >='2018-09-30 00:00:00'
and hire_time <='2018-09-30 23:59:59';
(4)存储引擎不能使用索引中范围条件右边的列
-- KEY `idx_name_age_position` (`name`,`age`,`position`) USING BTREE
-- ref
EXPLAIN SELECT * FROM employees WHERE name= 'LiLei' AND age = 22 AND position ='manager';
-- range
EXPLAIN SELECT * FROM employees WHERE name= 'LiLei' AND age > 22 AND position ='manager';
通过key_len可以知道 position 不走索引!这是因为当一个字段是范围查找的时候,那么它的下一个字段不一定是有序的!所以它的下一个字段不会走索引!!!
(5)尽量使用覆盖索引,减少 select * 语句
就是只访问索引的查询(索引列包含查询列)
(6)使用不等于(!= 或者 <>),not in,not exists 的时候无法使用索引
使用这些符号,可能会导致全表扫描!MySQL内部优化器会根据检索比例、表大小等多个因素整体评估是否使用索引
EXPLAIN SELECT * FROM employees WHERE name != 'LiLei';
注意:这里面都不是绝对的,MySQL底层在这方面还有一些很细节的东西,这里不过多赘述,在后续的章节中会讲!!!
(7)is null,is not null 一般情况下也无法使用索引
EXPLAIN SELECT * FROM employees WHERE name is null;
但是MySQL一般会把一堆的NULL放在一起。
(8)like以通配符开头('$abc...'),索引失效会变成全表扫描操作
-- ALL
EXPLAIN SELECT * FROM employees WHERE name like '%Lei';
-- range
EXPLAIN SELECT * FROM employees WHERE name like 'Lei%';
这是为啥?为什么第一条SQL不走索引?
相信看来前面内容的小伙伴都知道为什么了!其实这个问题,也是字符串字典序的问题!B+树中对于索引字段(字符串)是用字典序来排序的。如果通配符在前面,也就是“Lei”前面还有其它的字符串,所以不能保证 “%Lei” 在索引树中是有序的!
如果我必须要使用%在前的怎么办??
方案一:
使用覆盖索引,查询字段必须是建立覆盖索引字段
EXPLAIN SELECT name,age,position FROM employees WHERE name like '%Lei%';
方案二:
如果不能使用覆盖索引则可能需要借助搜索引擎
(9)字符串不加单引号索引失效
实际上这么描述不太清楚,应该是待查询的类型,必须要是表字段定义的类型!!!
-- ref
EXPLAIN SELECT * FROM employees WHERE name = '1000';
-- ALL
EXPLAIN SELECT * FROM employees WHERE name = 1000;
如同上面的SQL,假如我们有一个人的名字name值是1000,name字段是varchar类型,但是在我们编写SQL的时候,写成了 “ WHERE name = 1000; ” 虽然都是可以查询出来(内部帮我们做了自动转型),但是这样就不走索引了。
(10)少用 or 或 in
用它查询时,MySQL不一定使用索引,MySQL内部优化器会根据检索比例、表大小等多个因素整体评估是否使用索引,这里先不做详解,后续章节会讲!
EXPLAIN SELECT * FROM employees WHERE name = 'LiLei' or name = 'HanMeimei';
(11)范围太大查询,不走索引
我们给age字段加一个普通索引,对age进行范围查找,但是我们会发现下面的SQL居然不走索引!
-- age字段加普通索引
ALTER TABLE `employees` ADD INDEX `idx_age` (`age`) USING BTREE;
-- ALL(不一定)
explain select * from employees where age >=1 and age <=1000;
-- 还原
ALTER TABLE `employees` DROP INDEX `idx_age`;
优化方法
我们不妨将查询范围缩小
explain select * from employees where age >=1001 and age <=2000;
注意: 该案例比较特殊!不同的MySQL版本,数据表容量的大小等等,都有可能对结果造成影响!!!
索引总结
like KK%相当于=常量,%KK和%KK% 相当于范围
例如最后一条,相当于:a = 3 and b = k and c= 4