慢日志查询与分析

造成慢查询的原因

1、没有索引或者没有用到索引(这是查询慢最常见的问题,是程序设计的缺陷) 
2、I/O吞吐量小,形成了瓶颈效应。 
3、没有创建计算列导致查询不优化。 
4、内存不足 
5、网络速度慢 
6、查询出的数据量过大(可以采用多次查询或其他的方法降低数据量) 
7、锁或者死锁(这也是查询慢最常见的问题,是程序设计的缺陷)sp_lock,sp_who,活动的用户查看,原因是读写竞争资源。 
9、返回了不必要的行和列

10、查询语句不好,没有优化 

可以通过如下方法来优化查询 : 
1、 把数据、日志、索引放到不同的I/O设备上,增加读取速度,以前可以将Tempdb应放在RAID0上,SQL2000不在支持。数据量(尺寸)越大,提 高I/O越重要. 
2、纵向、横向分割表,减少表的尺寸(sp_spaceuse) 
3、升级硬件 
4、根据查询条件,建立索引,优化 索引、优化访问方式,限制结果集的数据量。注意填充因子要适当(最好是使用默认值0)。索引应该尽量小,使用字节数小的列建索引好(参照索引的创建),不 要对有限的几个值的字段建单一索引如性别字段 
5、提高网速; 

6、扩大服务器的内存。 

7、增加 服务器CPU个数;但是必须明白并行处理串行处理更需要资源例如内存。使用并行还是串行程是MsSQL自动评估选择的。单个任务分解成多个任务,就可以在 处理器上运行。例如耽搁查询的排序、连接、扫描和GROUP BY字句同时执行,SQL SERVER根据系统的负载情况决定最优的并行等级,复杂的需要消耗大量的CPU的查询最适合并行处理。但是更新操作 UPDATE,INSERT,DELETE还不能并行处理。 

8、如果是使用like进行查询的话,简单的使用index是不行的,但是全文索引,耗空间。 

定位慢查询的两种方法

1.使用explain等工具分析sql

2.慢查询日志操作

查看慢日志是否开启ON为开启,OFF为关闭

show variables like 'slow_query%';

开启慢日志查询

set global slow_query_log='ON';

 

各参数代表含义

slow_query_log    :是否开启慢查询日志,1表示开启,0表示关闭;
log-slow-queries  :旧版(5.6以下版本)MySQL数据库慢查询日志存储路径。可以不设置该参数,系统则会默认给一个缺省的文件host_name-slow.log
slow-query-log-file:新版(5.6及以上版本)MySQL数据库慢查询日志存储路径。可以不设置该参数,系统则会默认给一个缺省的文件host_name-slow.log
long_query_time :慢查询阈值,当查询时间多于设定的阈值时,记录日志。
log_queries_not_using_indexes:未使用索引的查询也被记录到慢查询日志中(可选项)。
log_output:日志存储方式。
log_output='FILE'表示将日志存入文件,默认值是'FILE'。
log_output='TABLE'表示将日志存入数据库,这样日志信息就会被写入到mysql.slow_log表中。
MySQL数据库支持同时两种日志存储方式,配置的时候以逗号隔开即可,如:log_output='FILE,TABLE'。日志记录到系统的专用日志表中,要比记录到文件耗费更多的系统资源,因此对于需要启用慢查询日志,又需要能够获得更高的系统性能,那么建议优先记录到文件。

那么开启了慢查询日志后,什么样的SQL才会记录到慢查询日志里面呢?
这个是由参数long_query_time控制,默认情况下long_query_time的值为10秒,可以使用命令修改,也可以在my.cnf参数里面修改。
关于运行时间正好等于long_query_time的情况,并不会被记录下来。
也就是说,在mysql源码里是判断大于long_query_time,而非大于等于。
从MySQL 5.1开始,long_query_time开始以微秒记录SQL语句运行时间,之前仅用秒为单位记录。
如果记录到表里面,只会记录整数部分,不会记录微秒部分。
 show variables like 'long_query_time';
set global long_query_time=5;

如上所示,我修改了变量long_query_time,但是查询变量long_query_time的值还是10,难道没有修改到呢?
注意:使用命令 set global long_query_time=5修改后,需要重新连接或新开一个会话才能看到修改值。你用show variables like 'long_query_time'查看是当前会话的变量值,你也可以不用重新连接会话,而是用show global variables like 'long_query_time'; 如下所示:

 

log_output 参数是指定日志的存储方式。
log_output='FILE'表示将日志存入文件,默认值是'FILE'。
log_output='TABLE'表示将日志存入数据库,这样日志信息就会被写入到mysql.slow_log表中。
MySQL数据库支持同时两种日志存储方式,配置的时候以逗号隔开即可,如:log_output='FILE,TABLE'。
日志记录到系统的专用日志表中,要比记录到文件耗费更多的系统资源,因此对于需要启用慢查询日志,又需要能够获得更高的系统性能,那么建议优先记录到文件. 
show variables like '%log_output%';

系统变量log-queries-not-using-indexes:未使用索引的查询也被记录到慢查询日志中(可选项)。
如果调优的话,建议开启这个选项。另外,开启了这个参数,其实使用full index scan的sql也会被记录到慢查询日志。 
show variables like 'log_queries_not_using_indexes'; 查询
set global log_queries_not_using_indexes=1; 开启

 

#以上所有命令行操作MySQL重启后则会失效。如果要永久生效,就必须修改配置文件my.ini(其它系统变量也是如此)举栗子使用set global slow_query_log='ON'开启了慢查询日志只对当前数据库生效,永久生效需要

在my.ini内修改或添加

global slow_query_log = 1

slow_query_log_file = C:\phpStudy\PHPTutorial\MySQL\data\DESKTOP-AFSBV9C-slow.log

 

想查询有多少条慢查询记录,可以使用系统变量。

show global status like '%slow_queries%';

日志分析工具mysqldumpslow(以windows下的为例)
在实际生产环境中,如果要手工分析日志,查找、分析SQL,显然是个体力活,MySQL提供了日志分析工具mysqldumpslow
查看mysqldumpslow的帮助信息:

1.在 windows 下可以在mysql/bin目录下可以找到 mysqldumpslow.pl 文件(如果没有可以下载一个),是一个 perl 格式的文件;
这种格式的文件在windows下是不能直接执行的,若要使用,得先安装 perl 支持,我们可以在 Perl 的官网下载对应平台的安装包:https://www.perl.org/get.html,为了使用方便,安装完成后最好配置环境变量。

2.进入mysqldumpslow.pl 文件所在的存储目录,我的在C:\phpStudy\PHPTutorial\MySQL\bin,运行命令:perl mysqldumpslow.pl -h可看到运行结果,展示了一些选项的使用方法;
perl mysqldumpslow.pl -h;

-s, 是表示按照何种方式排序
c: 访问计数

l: 锁定时间

r: 返回记录

t: 查询时间

al:平均锁定时间

ar:平均返回记录数

at:平均查询时间

-t, 是top n的意思,即为返回前面多少条的数据;
-g, 后边可以写一个正则匹配模式,大小写不敏感的;

比如:
得到返回记录集最多的10个SQL。
perl mysqldumpslow.pl -s r -t 10 C:\phpStudy\PHPTutorial\MySQL\data\DESKTOP-AFSBV9C-slow.log
 
得到访问次数最多的10个SQL
perl mysqldumpslow.pl -s c -t 10 C:\phpStudy\PHPTutorial\MySQL\data\DESKTOP-AFSBV9C-slow.log
 
得到按照时间排序的前10条里面含有左连接的查询语句。
perl mysqldumpslow.pl -s t -t 10 -g “left join” C:\phpStudy\PHPTutorial\MySQL\data\DESKTOP-AFSBV9C-slow.log
 
另外建议在使用这些命令时结合 | 和more 使用 ,否则有可能出现刷屏的情况。
perl mysqldumpslow.pl -s r -t 20 C:\phpStudy\PHPTutorial\MySQL\data\DESKTOP-AFSBV9C-slow.log | more

 

 

 


 


 


 



 


 

posted @ 2019-03-25 14:10  侯蜀黍  阅读(3949)  评论(0编辑  收藏  举报