天兔 -Lepus 慢查询分析平台配置

想要实现慢查询查询分析,需要在被监控端安装percona-toolkit工具
 
1、被监控端安装软件包
yum -y install perl-IO-Socket-SSL
yum -y install perl-DBI
yum -y install perl-DBD-MySQL
yum -y install perl-Time-HiRes
 
2、被监控端解压percona-toolkit工具包
[root@node1 src]# pwd
/usr/local/src
[root@node1 src]# tar -xzf percona-toolkit-2.2.12.tar.gz
[root@node1 src]# ll
drwxrwxr-x 6 1000 1000 4096 Aug 17 16:19 percona-toolkit-2.2.12
-rw-r--r-- 1 root root 1392691 Aug 17 16:17 percona-toolkit-2.2.12.tar.gz
[root@node1 src]# ll
[root@node1 src]# cd percona-toolkit-2.2.12
[root@node1 percona-toolkit-2.2.12]# perl Makefile.PL
[root@node1 percona-toolkit-2.2.12]# make && make install
安装好之后,pt工具会在/usr/local/bin目录下(不同的pt版本安装的位置可能不同)
 
3、从监控端的/usr/local/lepus/client/mysql目录下把lepus_slowquery.sh脚本拷贝到被监控端(存放的位置没有要求,可以放在/usr/local/sbin目录下)
[root@node9 mysql]# scp lepus_slowquery.sh 192.168.2.225:/usr/local/sbin
 
4、在被监控端编辑scp过来的lepus_slowquery.sh脚本
[root@node1 sbin]# pwd
/usr/local/sbin
[root@node1 sbin]# vim lepus_slowquery.sh         #下面蓝色字体是需要修改的,其他不用修改。
#config lepus database server         #监控机配置
lepus_db_host="192.168.2.33"     #监控机的IP
lepus_db_port=3306     #监控机的端口号
lepus_db_user="lepus_user"     #监控机的用户名
lepus_db_password="123456"     #监控机的密码
lepus_db_database="lepus"     #使用的库
 
#config mysql server         #被监控端配置
mysql_client="/usr/local/mysql/bin/mysql"     #mysql软件安装目录下,这个就是平时所用的mysql -uroot -proot123的那个mysql。
mysql_host="192.168.2.201"     #被监控端的IP
mysql_port=3306     #被监控端的端口号,生产中不要用这个,用别的
mysql_user="lepus_monitor"     #远程登录用户名
mysql_password="123456"     #密码
 
#config slowqury         #被监控端慢查询日志配置(存放目录)
slowquery_dir="/log/mysql/"         #MySQL慢日志存放目录,也是被监控端存放lepus分析出来的慢查询日志存放目录
slowquery_long_time=1         #慢查询时间
slowquery_file=`$mysql_client -h$mysql_host -P$mysql_port -u$mysql_user -p$mysql_password -e "show variables like 'slow_query_log_file'"|grep log|awk '{print $2}'`
pt_query_digest="/usr/local/bin/pt-query-digest"         #pt工具软件的安装目录下,安装的时候关注一下安装到的位置。
 
#config server_id
lepus_server_id=271         #这个server_id指的是lepus监控平台所分配的id,需要通过下面的方式来查看,参考截图:
注意:
lepus_server_id,该值需要从系统中获取。进入MySQL服务器配置,在部署脚本的主机前查询到当前ID即为主机的server_id。
lepus_server_id必须和MySQL服务器配置里的对应服务器ID一一对应,否则您可能将无法查询到该主机的慢查询。
 
#collect mysql slowquery log into lepus database
$pt_query_digest --user=$lepus_db_user --password=$lepus_db_password --port=$lepus_db_port --review h=$lepus_db_host,D=$lepus_db_database,t=mysql_slow_query_review --history h=$lepus_db_host,D=$lepus_db_database,t=mysql_slow_query_review_history --no-report --limit=100% --filter=" \$event->{add_column} = length(\$event->{arg}) and \$event->{serverid}=$lepus_server_id " $slowquery_file > /tmp/lepus_slowquery.log
 
##### set a new slow query log ###########
tmp_log=`$mysql_client -h$mysql_host -P$mysql_port -u$mysql_user -p$mysql_password -e "select concat('$slowquery_dir','slowquery_',date_format(now(),'%Y%m%d%H'),'.log');"|grep log|sed -n -e '2p'`
 
#config mysql slowquery
$mysql_client -h$mysql_host -P$mysql_port -u$mysql_user -p$mysql_password -e "set global slow_query_log=1;set global long_query_time=$slowquery_long_time;"
$mysql_client -h$mysql_host -P$mysql_port -u$mysql_user -p$mysql_password -e "set global slow_query_log_file = '$tmp_log'; "
 
#delete log before 7 days
cd $slowquery_dir
/usr/bin/find ./ -name 'slowquery_*' -mtime +7|xargs rm -rf ;
 
####END####
说明:
vim编辑结束保存之后需要变更脚本格式
显示当前的格式(默认为dos,这是不能执行的):set ff?
修改为Unix(变更为unix之后,脚本才可以成功执行):set fileformat=unix
:wq退出vim编辑器
 
5、测试,使用存储过程插入1万条数据或者查询一个数十万行的表,查询结束之后手动执行一下这个脚本,这样在监控界面上就可以看到结果了。(测试SQL参见文档底部)
[root@node1 sbin]# sh lepus_slowquery.sh
 
6、测试成功之后,加入计划任务。因为慢查询做了按小时的切割,建议计划任务时间间隔在1小时之内。
[root@node1 sbin]# crontab -e
crontab: installing new crontab
[root@node1 sbin]# crontab -l
*/5 * * * * /bin/sh /usr/local/sbin/lepus_slowquery.sh > /dev/null 2>&1
 
7、开启慢查询分析
在MySQL服务器管理里面电击右侧的编辑按钮,进入服务器编辑界面。
配置slowquery为打开状态
配置完成后,稍等片刻,即可在慢查询分析平台查看该库的慢查询日志。
 
 
8、开启慢查询自动邮件推送
慢查询自动推送是指定时将系统收集到的慢查询TOP数据定时推送给相应开发人员或者DBA进行优化,不需要在每台数据库上部署脚本。
MySQL慢查询自动推送通过计划任务(crontab)完成。如果需要推送,则需要在监控机(lepus所在主机)部署如下计划任务。
——注1:www.xxx.com请替换成您自己的lepus监控WEB访问地址,以下只是做一个示范,请勿照搬。
——注2:若没有links命令,需要安装:yum -y install links
示例:
lepus所在的监控机执行:links http://118.178.191.219:81/index.php/task/send_mysql_slowquery_mail
此时会在你配置的邮件中收到慢查询的推送信息。
crontab中的示例:
00 08 * * * links http://www.xxxx.com/index.php/task/send_mysql_slowquery_mail > /dev/null 2>&1
我的crontab内容:
*/5 * * * * /usr/bin/links http://118.178.191.219:81/index.php/lp_mysql/slowquery > /dev/null 2>&1
计划任务部署完成后,则会按照计划任务配置的时间将慢查询推送给对应人员。
慢查询推送的邮件人员需要在MySQL主机配置里面设置即可,邮箱留空则该数据库主机不会发送慢查询推送。
部署完成后,在计划任务的时间到达,您就可以看到推送的慢查询邮件了。
邮件格式和内容如下所示:
 
参考计划任务的书写:0 8 * * * curl http://118.178.191.219:81/index.php/task/send_mysql_slowquery_mail >/dev/null 2>&1
 
测试SQL:
1、创建两张表: part_tab(分区表)、no_part_tab(普通表)
DROP TABLE IF EXISTS part_tab;
CREATE TABLE part_tab(
c1 int default NULL,
c2 varchar(30) default NULL,
c3 date not null)
PARTITION BY RANGE(year(c3))
(PARTITION p0 VALUES LESS THAN (1995) ,
PARTITION p1 VALUES LESS THAN (1996) ,
PARTITION p2 VALUES LESS THAN (1997) ,
PARTITION p3 VALUES LESS THAN (1998) ,
PARTITION p4 VALUES LESS THAN (1999) ,
PARTITION p5 VALUES LESS THAN (2000) ,
PARTITION p6 VALUES LESS THAN (2001) ,
PARTITION p7 VALUES LESS THAN (2002) ,
PARTITION p8 VALUES LESS THAN (2003) ,
PARTITION p9 VALUES LESS THAN (2004) ,
PARTITION p10 VALUES LESS THAN (2010) ,
PARTITION p11 VALUES LESS THAN (MAXVALUE));
 
DROP TABLE IF EXISTS no_part_tab;
CREATE TABLE no_part_tab(
c1 int default NULL,
c2 varchar(30) default NULL,
c3 date not null);
 
2、用存储过程插入800万条数据
delimiter $$
drop procedure if exists `load_part_tab` $$
CREATE PROCEDURE load_part_tab()
begin
declare v int default 0;
while v < 8000000
do
insert into part_tab
values (v,'testingpartitions',adddate('1995-01-01',(rand(v)*36520)mod 3652));
set v = v + 1;
end while;
end$$
delimiter ;
 
call load_part_tab();
posted @ 2019-10-28 17:50  Javis的BLOG  阅读(654)  评论(0编辑  收藏  举报