第二百八十八节，MySQL数据库-索引、limit分页、执行计划、慢日志查询
MySQL数据库-索引、limit分页、执行计划、慢日志查询
索引，是数据库中专门用于帮助用户快速查询数据的一种数据结构。类似于字典中的目录，查找字典内容时可以根据目录查找到数据的存放位置，然后直接获取即可。
如果没有创建索引查找数据时，是全表扫描的，也就是向查字典一样没有目录，靠一页一页的翻到目标数据位置，这样如果数据量大会相当耗时，
索引就是快速帮助用户找到目标数据，节省时间
索引简介
索引是以B+tree方式的树形结构存放数据的
详情，可以网上搜索一下B+tree
MySQL中常见索引有：
普通索引
唯一索引
主键索引
组合索引
全文索引
1、普通索引
普通索引仅有一个功能：加速查询
创建表时创建普通索引
index(创建普通索引) 索引名称 (创建索引的字段、可以是多个字段)
create table in1( -- 创建表 nid int not null auto_increment primary key, -- 创建nid字段，自增，主键 name varchar(32) not null, -- 创建字段 email varchar(64) not null, -- 创建字段 extra text, index ix_name (name) -- 创建普通索引 ) -- index(创建普通索引) 索引名称 (创建索引的字段、可以是多个字段)
向已有表创建普通索引
create(创建) index(索引) 索引名称 on 表名称(字段)
-- create(创建) index(索引) 索引名称 on 表名称(字段) create index index_name on table_name(column_name)
删除表的普通索引
drop(删除) INDEX(索引) 索引名称 on 表名称
-- drop(删除) INDEX(索引) 索引名称 on 表名称; drop INDEX index_name on table_name;
查看索引
show(查看) index(索引) 表名称;
-- show(查看) index(索引) 表名称; show index from usr;
当创建索引后，执行一个sql查询语句，用执行计划验证这个查询语句是否使用索引找到的数据【重点】
EXPLAIN表示执行计划，后面跟sql查询语句，返回的type的值如果是ref表示当前查询使用索引查询的，如果值是ALL表示当前查询使用的全表扫描
EXPLAIN执行计划返回ref
EXPLAIN SELECT * FROM usr WHERE nl = 19;
如果是全表扫描
注意：对于创建索引时如果是BLOB 和 TEXT 类型，必须指定length。
create index ix_extra on in1(extra(32));
2、唯一索引
唯一索引有两个功能：加速查询 和 唯一约束（可含null），也就是约束此列类容不允许重复
创建表时创建唯一索引
unique唯一索引
create table in1( nid int not null auto_increment primary key, name varchar(32) not null, email varchar(64) not null, extra text, unique ix_name (name) -- 创建字段 ) -- unique(唯一) 索引名称 (索引字段)
向已有表创建唯一索引
-- create unique index 索引名 on 表名(字段、多个字段,隔开) create unique index index_usr on usr(nl,zij);
删除唯一索引
-- drop INDEX 索引名 on 表名 drop INDEX index_usr on usr;
3、主键索引
主键有两个功能：加速查询 和 唯一约束（不允许有null），也就是约束此列类容不允许重复，一张表只能有一个主键
primary key(字段名称,多个字段将组合成一个主键索引)
CREATE TABLE `usr` ( `id` int(20) NOT NULL AUTO_INCREMENT COMMENT 'id', `yhm` char(255) NOT NULL COMMENT '用户名', `xb` char(255) NOT NULL COMMENT '性别', `nl` int(255) NOT NULL COMMENT '年龄', `zij` int(255) unsigned NOT NULL, PRIMARY KEY (`id`) ) ENGINE=InnoDB AUTO_INCREMENT=17 DEFAULT CHARSET=utf8 COMMENT='用户表';
给已有表创建主键索引
alter table 表名 add primary key(列名);
-- alter table 表名 add primary key(列名); alter table usr add primary key(id);
删除主键索引
-- alter table 表名 modify 主键索引字段 字段数据类型, drop primary key; alter table usr modify id int, drop primary key;
4、组合索引
组合索引是将n个列组合成一个索引
其应用场景为：频繁的同时使用n列来进行查询，如：where n1 = 'alex' and n2 = 666。
index 索引名称 (字段1,字段2)组合普通索引
unique 索引名称 (字段1,字段2)组合唯一索引
PRIMARY KEY (字段1,字段2)组合主键索引
-- index 索引名称 (字段1,字段2)组合普通索引 index ix_name (n1,n2)
create index index_name on table_name(n1,n2) -- unique 索引名称 (字段1,字段2)组合唯一索引 unique ix_name (n1,n2)
create unique index index_usr on usr(n1,n2) -- PRIMARY KEY (字段1,字段2)组合主键索引 PRIMARY KEY (n1,n2)
alter table usr add primary key(n1,n2);
组合索引注意事项，最左前缀【重点】
1、也就是说如果是多个字段组合成一个索引，当查询字段时只查询的组合字段的左边第一个字段，是走索引的。
2、如果查询的组合字段的所有字段，也是走索引的
3、如果查询的不是索引组合字段，也不是只查询的左边第一个字段，是不走索引的
如：
create index index_usr on usr(n1,n2); -- 创建组合普通索引 SELECT * FROM usr WHERE n1 = 'x'; -- 走索引 SELECT * FROM usr WHERE n1 = 'x' AND n2 = 'x'; -- 走索引 SELECT * FROM usr WHERE n2 = 'x'; -- 不走索引
5、全文索引
全文索引，也就是向搜索引擎那样，根据一个关键词，搜索出所有数据里包含此关键词的数据，但是对中文支持不好，因为是根据空格或者分隔符分词的，所以一般我们不用这个方案
全文索引对中文起不了什么作用，索引就不说了
索引补充
1、索引
索引是表的目录，在查找内容之前可以先在目录中查找索引位置，以此快速定位查询数据。对于索引，会保存在额外的文件中。
2、索引种类
普通索引：仅加速查询
唯一索引：加速查询 + 列值唯一（可以有null）
主键索引：加速查询 + 列值唯一 + 表中只有一个（不可以有null）
组合索引：多列值组成一个索引，组合索引要比索引合并效率高
专门用于组合搜索，其效率大于索引合并
全文索引：对文本的内容进行分词，进行搜索
索引合并，使用多个单列索引组合搜索
覆盖索引，select的数据列只用从索引中就能够取得，不必读取数据行，换句话说查询列要被所建的索引覆盖
3、相关命令
- 查看表结构 desc 表名 - 查看生成表的SQL show create table 表名 - 查看索引 show index from 表名 - 查看执行时间 set profiling = 1; SQL... show profiles;
4、使用索引和不使用索引
由于索引是专门用于加速搜索而生，所以加上索引之后，查询效率会快到飞起来。 # 有索引 mysql> select * from tb1 where name = 'wupeiqi-888'; +-----+-------------+---------------------+----------------------------------+---------------------+ | nid | name | email | radom | ctime | +-----+-------------+---------------------+----------------------------------+---------------------+ | 889 | wupeiqi-888 | wupeiqi888@live.com | 5312269e76a16a90b8a8301d5314204b | 2016-08-03 09:33:35 | +-----+-------------+---------------------+----------------------------------+---------------------+ 1 row in set (0.00 sec) # 无索引 mysql> select * from tb1 where email = 'wupeiqi888@live.com'; +-----+-------------+---------------------+----------------------------------+---------------------+ | nid | name | email | radom | ctime | +-----+-------------+---------------------+----------------------------------+---------------------+ | 889 | wupeiqi-888 | wupeiqi888@live.com | 5312269e76a16a90b8a8301d5314204b | 2016-08-03 09:33:35 | +-----+-------------+---------------------+----------------------------------+---------------------+ 1 row in set (1.23 sec)
5、正确使用索引
数据库表中添加索引后确实会让查询速度起飞，但前提必须是正确的使用索引来查询，如果以错误的方式使用，则即使建立索引也会不奏效。
即使建立索引，索引也不会生效：
-- like '%xx' 模糊查询 select * from tb1 where name like '%cn'; -- 表示查询tb1表里name字段里，前面可以是多个任意字符后面包含cn的所有数据，%写在前面不走索引 select * from tb1 where name like 'cn%'; -- 表示查询tb1表里name字段里，后面可以是多个任意字符前面包含cn的所有数据，%写在后面走索引 -- 使用函数 select * from tb1 where reverse(name) = 'wupeiqi'; -- 在查询条件里，对索引字段使用了函数，不走索引 -- or 条件或 select * from tb1 where nid = 1 or email = 'seven@live.com'; -- 条件或，如果两个字段都建了索引，那就走索引。如果只有一个字段建了索引，那就不走索引 -- 特别的：当or条件中有未建立索引的列才失效，以下会走索引 select * from tb1 where nid = 1 or name = 'seven'; -- 如果两个字段都建了索引，那就走索引 select * from tb1 where nid = 1 or email = 'seven@live.com' and name = 'alex' -- 如果只有email没建索引，其他字段都建了索引，这样是走索引的 -- 类型不一致 -- 如果列是字符串类型，传入条件是必须用引号引起来，不然也不走索引 select * from tb1 where name = 999; -- != select * from tb1 where name != 'alex' -- 不等于、因为取反全部，所以不走索引 -- 特别的：如果是主键，则还是会走索引 select * from tb1 where nid != 123 -- 如果不等于，取反主键索引，会走索引的 -- > select * from tb1 where name > 'alex' -- 这种大于，不走索引 -- 特别的：如果是主键或索引是整数类型，则还是会走索引 select * from tb1 where nid > 123 -- 主键大于，走索引 select * from tb1 where num > 123 -- 索引字段整数类型，走索引 -- order by 排序 select email from tb1 order by name desc; -- 当根据索引排序时候，选择的映射如果不是索引，则不走索引 select * from tb1 order by nid desc; -- 特别的：如果对主键排序，则还是走索引： -- 组合索引最左前缀 -- 如果组合索引为：(name,email) 将这两个字段组合成一个索引 name and email -- 使用索引 name -- 使用索引 email -- 不使用索引
6、其他注意事项
避免使用select * -- 避免使用*，在取字段时能少就少取字段 count(1)或count(列) 代替 count(*) -- 因为*效率低 创建表时尽量时 char 代替 varchar -- 因为char效率高查询快 表的字段顺序固定长度的字段优先前放 -- 这样效率高点 组合索引代替多个单列索引（经常使用多个条件查询时）-- 因为组合索引要比，多个单列索引合并查询效率高 尽量使用短索引 -- 如果只有前8位字符不一样，后面都是一样的，就没必要将整个字段全部键索引，只需要将字段里的前8位建索引即可 create index index_name on table_name(nl(8)); 使用连接（JOIN）来代替子查询(Sub-Queries) -- JOIN链表查询效率高 连表时注意条件类型需一致 -- 也就是条件的数据类型一致效率高 索引散列值（重复多）不适合建索引，例：性别不适合 -- 一共就两个值男、女，基本都是重复的，建索引也不起作用 避免过度创建索引 如果大数据表导入另外的数据库时，建议先将索引去掉，导入后重建索引
7、limit分页
无论是否有索引，limit分页是一个值得关注的问题
假如一张表有5000000条数据
-- 不可取 SELECT * FROM usr LIMIT 2000000,5; -- 从两百万条，开始取5条，那么会全表扫描到两百万条的位置开始取5条，效率很低 -- 这个办法也不可取，比上面好 SELECT * FROM usr id > (SELECT id FROM usr LIMIT 2000000,1) LIMIT 5; -- 先从ID找两百万条的位置取一条id，id有索引只查ID会走索引到两百万的位置，得到ID后将ID作为查询条件，会直接从这个ID查找，不在全表扫描
分页优化方案
每页显示10条： 当前 118 120， 125 倒序： 大 小 980 970 7 6 6 5 54 43 32 21 19 98 下一页： -- 有页面 select * from tb1 where nid < (select nid from (select nid from tb1 where nid < 当前页最小值 order by nid desc limit 每页数据 *【页码-当前页】) A order by A.nid asc limit 1) order by nid desc limit 10; -- 无页面 select * from tb1 where nid < (select nid from (select nid from tb1 where nid < 970 order by nid desc limit 40) A order by A.nid asc limit 1) order by nid desc limit 10; 上一页： -- 有页面 select * from tb1 where nid < (select nid from (select nid from tb1 where nid > 当前页最大值 order by nid asc limit 每页数据 *【当前页-页码】) A order by A.nid asc limit 1) order by nid desc limit 10; -- 无页面 select * from tb1 where nid < (select nid from (select nid from tb1 where nid > 980 order by nid asc limit 20) A order by A.nid desc limit 1) order by nid desc limit 10;
8、执行计划
explain + 查询SQL - 用于显示SQL执行信息参数，根据参考信息可以进行SQL优化
mysql> explain select * from tb2; +----+-------------+-------+------+---------------+------+---------+------+------+-------+ | id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra | +----+-------------+-------+------+---------------+------+---------+------+------+-------+ | 1 | SIMPLE | tb2 | ALL | NULL | NULL | NULL | NULL | 2 | NULL | +----+-------------+-------+------+---------------+------+---------+------+------+-------+ 1 row in set (0.00 sec)
执行计划详情
id 查询顺序标识 如：mysql> explain select * from (select nid,name from tb1 where nid < 10) as B; +----+-------------+------------+-------+---------------+---------+---------+------+------+-------------+ | id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra | +----+-------------+------------+-------+---------------+---------+---------+------+------+-------------+ | 1 | PRIMARY | <derived2> | ALL | NULL | NULL | NULL | NULL | 9 | NULL | | 2 | DERIVED | tb1 | range | PRIMARY | PRIMARY | 8 | NULL | 9 | Using where | +----+-------------+------------+-------+---------------+---------+---------+------+------+-------------+ 特别的：如果使用union连接气值可能为null select_type 查询类型 SIMPLE 简单查询 PRIMARY 最外层查询 SUBQUERY 映射为子查询 DERIVED 子查询 UNION 联合 UNION RESULT 使用联合的结果 ... table 正在访问的表名 type 查询时的访问方式，性能：all < index < range < index_merge < ref_or_null < ref < eq_ref < system/const ALL 全表扫描，对于数据表从头到尾找一遍 select * from tb1; 特别的：如果有limit限制，则找到之后就不在继续向下扫描 select * from tb1 where email = 'seven@live.com' select * from tb1 where email = 'seven@live.com' limit 1; 虽然上述两个语句都会进行全表扫描，第二句使用了limit，则找到一个后就不再继续扫描。 INDEX 全索引扫描，对索引从头到尾找一遍 select nid from tb1; RANGE 对索引列进行范围查找 select * from tb1 where name < 'alex'; PS: between and in > >= < <= 操作 注意：!= 和 > 符号 除外 INDEX_MERGE 合并索引，使用多个单列索引搜索 select * from tb1 where name = 'alex' or nid in (11,22,33); REF 根据索引查找一个或多个值 select * from tb1 where name = 'seven'; EQ_REF 连接时使用primary key 或 unique类型 select tb2.nid,tb1.name from tb2 left join tb1 on tb2.nid = tb1.nid; CONST 常量 表最多有一个匹配行,因为仅有一行,在这行的列值可被优化器剩余部分认为是常数,const表很快,因为它们只读取一次。 select nid from tb1 where nid = 2 ; SYSTEM 系统 表仅有一行(=系统表)。这是const联接类型的一个特例。 select * from (select nid from tb1 where nid = 1) as A; possible_keys 可能使用的索引 key 真实使用的 key_len MySQL中使用索引字节长度 rows mysql估计为了找到所需的行而要读取的行数 ------ 只是预估值，表示扫描了多少行 extra 该列包含MySQL解决查询的详细信息 “Using index” 此值表示mysql将使用覆盖索引，以避免访问表。不要把覆盖索引和index访问类型弄混了。 “Using where” 这意味着mysql服务器将在存储引擎检索行后再进行过滤，许多where条件里涉及索引中的列，当（并且如果）它读取索引时，就能被存储引擎检验，因此不是所有带where子句的查询都会显示“Using where”。有时“Using where”的出现就是一个暗示：查询可受益于不同的索引。 “Using temporary” 这意味着mysql在对查询结果排序时会使用一个临时表。 “Using filesort” 这意味着mysql会对结果使用一个外部索引排序，而不是按索引次序从表里读取行。mysql有两种文件排序算法，这两种排序方式都可以在内存或者磁盘上完成，explain不会告诉你mysql将使用哪一种文件排序，也不会告诉你排序会在内存里还是磁盘上完成。 “Range checked for each record(index map: N)” 这个意味着没有好用的索引，新的索引将在联接的每一行上重新估算，N是显示在possible_keys列中索引的位图，并且是冗余的。
9、慢日志查询
慢日志查询，就是用一个日志文件记录，sql语句查询数据库时，耗时比较长的，或者没有使用索引的情况记录一下，我们可以根据这个日志记录情况来对数据库进行优化。
数据库自带记录慢日志功能，默认没有开启，需要我们手动开启一下
开启慢日志相关全局变量
slow_query_log = OFF -- 是否开启慢日志记录 long_query_time = 2 -- 时间限制，sql查询超过此时间，则记录，默认是10秒 slow_query_log_file = /usr/slow.log -- 日志文件，日志文件路径 log_queries_not_using_indexes = OFF -- 未使用索引的搜索是否记录
开启记录慢日志功能有两种方法：
1、在数据库配置文件my-default.ini文件里配置，在文件里写入相关全局变量，保存后需要重启数据库【推荐】
my-default.ini文件在安装的数据库目录里
# For advice on how to change settings please see # http://dev.mysql.com/doc/refman/5.7/en/server-configuration-defaults.html # *** DO NOT EDIT THIS FILE. It's a template which will be copied to the # *** default location during install, and will be replaced if you # *** upgrade to a newer version of MySQL. [mysqld] # Remove leading # and set to the amount of RAM for the most important data # cache in MySQL. Start at 70% of total RAM for dedicated server, else 10%. # innodb_buffer_pool_size = 128M # Remove leading # to turn on a very important data integrity option: logging # changes to the binary log between backups. # log_bin # These are commonly set, remove the # and set as required. # basedir = ..... # datadir = ..... # port = ..... # server_id = ..... slow_query_log = ON long_query_time = 1 slow_query_log_file = /usr/slow.log log_queries_not_using_indexes = ON # Remove leading # to set options mainly useful for reporting servers. # The server defaults are faster for transactions and fast SELECTs. # Adjust sizes as needed, experiment to find the optimal values. # join_buffer_size = 128M # sort_buffer_size = 2M # read_rnd_buffer_size = 2M sql_mode=NO_ENGINE_SUBSTITUTION,STRICT_TRANS_TABLES
2、使用命令开启，记录日志，不需要重启数据库
首先使用命令查看相关的全局变量是否开始
SHOW GLOBAL VARIABLES LIKE '%query%'; -- 使用模糊查询全局变量情况
查看未使用索引的搜索是否记录
SHOW GLOBAL VARIABLES LIKE 'log_queries_not_using_indexes'; -- 未使用索引的搜索是否记录
使用命令开启慢日志记录相关全局变量，注意使用命令开启的全局变量数据库重启后变量将恢复默认
如果想要数据库重启后慢日志变量也是开启的，建议在my-default.ini文件里配置
SET GLOBAL slow_query_log = on; -- 开启慢日志记录 SET GLOBAL long_query_time = 1; -- 设置sql语句查询耗时超过1秒的记录 SET GLOBAL log_queries_not_using_indexes = on; -- 开启记录没有使用索引的sql查询记录
查看MySQL慢日志文件
win版本没有mysqldumpslow解释器来执行mysqldumpslow.pl文件，索引需要安装ActivePerl_5.16.2.3010812913.msi，软件来执行mysqldumpslow.pl文件
双击下一步，下一步安装好ActivePerl_5.16.2.3010812913.msi，软件
linu版本就不需要了，linu版本自带了mysqldumpslow解释器
安装好ActivePerl_5.16.2.3010812913.msi，软件后，管理员方式运行cmd命令
cd E:\mysql-5.7.16-winx64\bin #进入mysql安装目录的bin目录里
注意：以下操作，linu版本不需要加perl，win版本加perl表示用安装的ActivePerl来执行mysqldumpslow.pl文件
查看解析慢日志文件的mysqldumpslow.pl文件说明
perl mysqldumpslow.pl --help #查看解析慢日志文件的mysqldumpslow.pl文件说明
mysqldumpslow.pl文件说明
"""
--verbose 版本
--debug 调试
--help 帮助
-v 版本
-d 调试模式
-s ORDER 排序方式
what to sort by (al, at, ar, c, l, r, t), 'at' is default
al: average lock time -- 平均锁时间
ar: average rows sent -- 返回值时间
at: average query time -- sql查询时间
c: count
l: lock time
r: rows sent
t: query time
-r 反转顺序，默认文件倒序拍。reverse the sort order (largest last instead of first)
-t NUM 显示前N条just show the top n queries -- 显示多少条数据
-a 不要将SQL中数字转换成N，字符串转换成S。don't abstract all numbers to N and strings to 'S' -- 默认会转换数字和字符串，-a表示不转换
-n NUM abstract numbers with at least n digits within names
-g PATTERN 正则匹配；grep: only consider stmts that include this string -g表示支持正则匹配，后面就可以跟正则
-h HOSTNAME mysql机器名或者IP；hostname of db server for *-slow.log filename (can be wildcard),
default is '*', i.e. match all
-i NAME name of server instance (if using mysql.server startup script)
-l 总时间中不减去锁定时间；don't subtract lock time from total time
"""
下面我们开始查看日志
CHCP 65001 -- 设置cmd为utf-8变量，因为可能有中文，65001为utf-8编码号
CHCP 65001 -- 设置cmd为utf-8变量，因为可能有中文，65001为utf-8编码号
输入查看日志命令
注意：组合命令时按照上面的说明顺序进行
-- mysqldumpslow.pl -s(排序方式) at(按照sql查询时间) -t 5 -a(转换数字和字符串) 日志路径 mysqldumpslow.pl -s at -t 5 -a E:\mysql-5.7.16-winx64\data\SKY-20160816NYP-slow.log
这样就可以根据查询数据，和扫描了多少行来进行数据库表优化
