mysql 三种日志

1. MySQL日志之binlog日志

1.1 mysql工具mysqlbinlog

mysqbinlog工具的作用是解析mysql的二进制binlog日志内容,把二进制的日志解析成可以在MySQL数据库里执行的SQL语句。

1.2 MySQL的·binlog日志是什么?

MySQL数据目录下的如下文件就是mysql的binlog日志

 

mysql-bin.000001
mysql-bin.000002
mysql-bin.000003
mysql-bin.000004
mysql-bin.000005
mysql-bin.000006
mysql-bin.000007
mysql-bin.000008
  . . . . . .. .
提示:要想生成binlog必须在配置文件中打开log-bin功能
[root@db01 3306]# greplog-bin /data/3306/my.cnf
log-bin =/data/3306/mysql-bin

1.3 mysql binlog日志功能开启

[root@db01 3306]# vim /data/3306/my.cnf
log-bin = /data/3306/mysql-bin

 

1.4 mysql的binlog日志作用是什么?

       mysql的binlog日志作用是用来记录mysql内部增删等对mysql数据库有更新的内容的记录(对数据的改动),对数据库查询的语句如show,select开头的语句,不会被binlog日志记录。用于数据库的主从复制,以及增量恢复

 

测试题:

在MySQL数据库中,关于binlog日志,下列说法正确的是-----------(A

A:依靠足够长度的binlog日志和定期的全备,我们可以恢复任何时间点的单表数据。

B:以mysql主从同步为例,binlog中会记录主数据库的所有操作。

C:以mysql主从同步为例,binlog中会记录主数据库的所有查询操作。

D:binlog通过cat和vi无法查看,但可以通过gedit查看。

 

1.5 mysqlbinlog工具解析binlog日志实践

默认情况binlog日志是二进制格式的,不能使用查看文本工具的命令查看,例如:cat、vi

 

[root@db01 3306]# file /data/3306/mysql-bin.000001
/data/3306/mysql-bin.000001: MySQL replication log

 

解析指定库的binlog日志

范例:利用mysqlbinlog-d参数解析指定库的binlog日志

 

[root@db01 3306]#  oldboy /data/3306/mysql-bin.000001 -r oldboy.sql
[root@db01 3306]# ll oldboy.sql    
          
-rw-r--r-- 1 root root 4731 Aug 31 04:36 oldboy.sql
[root@db01 3306]# cat oldboy.sql

结论:mysqlbinlog工具分库导出binlog,如果使用-d参数,那更新数据时,必须有usedatabase,才能分出指定库的binlog,例如:

 

use oldboy;
insert into test values(1,’oldboy’)

 

下面的写法就不行

nsert into oldboy.test values(1,’oldboy’)

官方资料

wKioL1fJldfThXlaAACp8nGMTOc403.png

 

按照位置截取:精确

 

mysqlbinlog mysql-bin.000003 365 456 pos.sql

# 说明:指定文件的第365到456结束,是binlog文件中的“# at 365”---“# at 456”;-r是指定文件,相当于重定向,如果命令中指定开始不指定结尾就是到文件的结尾,如果不指定开始则是从文件开头开始。

 

按照时间截取:模糊,不准

 

mysqlbinlog mysql-bin.000003 -'2016-10-8 12:12:12' '2016-10-8 12:20:20' -r time.sql

# 说明:时间在该binlog文件中的 # at456 下面即使,只指定开始时间就是到文件结尾,只指定结尾,则是从开头开始;-r是指定文件

1.6 mysqlbinlog命令小结

mysqlbinlog命令:

1. 把binlog日志解析为SQL语句(包含位置和时间点)。

2. -d参数根据指定库拆分binlog(拆分单表binlog可通过SQL关键字过滤)。

3. 通过位置参数截取部分binlog:--syart-position=365  --stop-position=456,;精确定位取部分内容。

4. 通过时间参数截取部分binlog:-stsrt-datetime='2016-10-8 12:12:12' --stop-deter=time='2016-10-8 12:20:20',模糊截取部分内容,会丢数据。

5. -r指定文件名,相当于重定向。

6. 解析ROW级别binlog日志的方法

wKiom1fJliPx3uIgAAB28hGCHPI441.png


2. MySQL数据库服务日志

2.1 错误日志(error.log)介绍与调整

1. 错误日志(error.log)介绍

  MySQL的错误日志记录MySQL服务进程mysql在启动/关闭或运行过程中遇到的错误信息。

 

2. 错误日志(error.log)实践

 

法1:在配置文件中调整方法,当然可以在启动时加入启动参数

 

[mysqld_safe]           
log-error=/data/3306/mysql_oldboy3306.err

 

法2:启动MySQL命令里加入:

 

mysql_safe --detaults-file=/data/3306/my.cnf  &

 

在数据库里也可以看到

 

mysql> show variables like '%log_error%';
+---------------+---------------------------------+
| Variable_name |      Value                      |
+---------------+---------------------------------+
| log_error     |  |
+---------------+---------------------------------+
1 row in set (0.00 sec)

 

如果mysql数据库起不起来排查步骤

wKiom1fJmPTQKFxiAACf2t574eE492.png

1. 将日志文件备份,然后清空日志文件,并重启数据库,查看报错。

2. 如果是多实例的话讲多实例目录下的目录权限chown -R mysql.....。

3. 查看是否有管理mysql数据库的用户。

2.2 普通查询日志(genera log)介绍与调整(工作中不用)

1. 普通查询日志(generalquery log)介绍

   普通查询日志(general querylog),记录客户端连接信息和执行的SQL语句信息(增删改查,全部记录)。工作中不用,会消耗IO性能,

 

2. 普通查询日志generalquery log)调整

 

mysql> show variables like 'general_log%';              
+-------------------------+--------------------------+
| Variable_name           |Value                     |
+-------------------------+--------------------------+
| general_log             | ON                       |
| general_log_file        | /data/3306/data/db01.log |
+-------------------------+--------------------------+
2 rows in set (0.00 sec)

 

临时生效:

 

mysql> set global general_log_file ='/data/3306/data/db01.log';            
Query OK, 0 rows affected (0.00 sec)

mysql> show variables like 'general_log%';              
+-------------------------+--------------------------+
| Variable_name           |Value                     |
+-------------------------+--------------------------+
| general_log             | OFF                      |
| general_log_file        | /data/3306/data/db01.log |
+-------------------------+--------------------------+
2 rows in set (0.00 sec)

 

永久生效(配置文件中配置):

 

[root@db01 3306]# grep gene /data/3306/my.cnf
general_log = on                                 
general_log_file = /data/3306/data/db01.log

 

实际的普通查询日志示例:

wKiom1fJmh7jXoCmAAEHp9R8rKY427.png

 

2.3 慢查询日志(slow query log)介绍与调整 *****

1. 慢查询日志介绍:

  慢查询日志,记录执行时间超出指定值的SQL语句

 

2. 慢查询日志的调整

 

long_query_time = 1                             
log-slow-queries = /data/3306/slow.log          
log_queries_not_using_indexes

 

慢查询的设置,对于数据库SQL的优化非常重要

 

[root@db01 /]# egrep "quer"/data/3306/my.cnf|tail -3
long_query_time = 1
log-slow-queries = /data/3306/slow.log
log_queries_not_using_indexes

 

利用慢查询进行优化解决方案

1. 开启慢查询参数

long_query_time = 1                                  
log-slow-queries = /data/3306/slow.log
log_queries_not_using_indexes

 

 

2. 慢查询日志切割脚本

 

[root@db01 /]# vim /server/scripts/cut_slow_log.sh
#!/bin/bash
cd /data/3306 &&\
/bin/mv slow.log slow.log.$(date +%F) &&\
mysqladmin -uroot -poldboy123 -S/data/3306/mysql.sock flush-log

[root@db01 scripts]# tail -2 /var/spool/cron/root
# cut mysql slow log
00 00 * * * /bin/sh /server/scripts/cut_slow_log.sh>/dev/null 2>&1

 

 

3. 使用工具mysqlsla分析慢查询,定时给相关人员信箱

 

使用explain优化SQL语句(select语句)的基本流程  * * * * *

 

原因:当网站出现问题,到会访问慢,在数据库中超过2秒就是很慢的查询了!

 

思路当用户访问数据慢时,就要想到是不是满查询引起的,所以我们要查找慢查询,而找找慢查询分两种情况,第一种是比较紧急情况下使用下面紧急处理的现场抓取的方法,进入mysql数据库将慢查询找到,然后建立索引,这起见借助explain可以查看慢查询语句是否经过索引,如果没有经过索引就建立索引,第二种则是不那么紧急的情况,可以在平时就关注负载、cpu等信息,当发现有异常时时就进行检查,这些都是可以通过修改配置文件来将慢查询的语句输入到sllow.log里面,然后通过分析工具进行分析,以邮件的形式发给开发人员和dba人员让他们来介入处理。

 

排查方法:首先查看web负载高不高,存储压力大不大,还有数据库负载和磁盘IO,还有cpu等原因。负载高的话常规情况下是数据库慢查询导致的,下面是查询数据库慢查询如下:

 

(1) 抓慢查询SQL语句方法

在数据库查找慢查询(紧急处理)

 

mysql> show full processlist;                            
+----+------+-----------+--------+---------+------+-------+-----------------------+
| Id | User | Host      | db     | Command | Time | State |Info                   |
+----+------+-----------+--------+---------+------+-------+-----------------------+
|  9 | root | localhost | oldboy | Query   |    0 | NULL  | show full processlist |
+----+------+-----------+--------+---------+------+-------+-----------------------+
1 row in set (0.00sec)

说明:如果数据库正在对外提供访问,访问量大时。连续执行此命令会有很多语句,建议每隔两秒执行两次,当发现同一个命令连续出现时,就可能是慢查询语句。

 

在命令行查询慢查询(日常处理)

 

[root@db01 ~]# mysql -uroot -poldboy123 -S /data/3306/mysql.sock -e "showfull processlist;"|egrep -vi "sleep"
Id   User   Host       db    Command  Time    State  Info
11   root   localhost   NULL   Query      0     NULL    show full processlist

说明:此命令可以说是未雨绸缪;重要不紧急,分析慢查询日志

 

配置参数记录慢查询语句

 

long_query_time = 2                          
log_queries_not_using_indexes                 
log-slow-queries = /data/3306/slow.log

 

(2) 抓到慢查询后,使用explain语句检查索引执行情况(看下有没有走索引)

 

explain select * from test where name='oldgirl'\G
explain select * from test where name='oldgirl'\G

提示:这两条命令是查询的结果是一样的!SQL_NO_CACHE是防止有缓存

 

(3)对需要建索引的条件列建立索引

  大表不能高峰期建立索引,300万记录就是达标

 

(4)分析man查询工具mysqlsla(每天早晨发邮件)。

切割慢查询日志

1.mv切割、reload进程(和mginx日志切割一个原理)

[root@db01 3306]# vim /data/3306/my.cnf       
log-slow-queries = /data/3306/slow.log        
 
[root@db01 3306]# /data/3306/mysql restart    
Restarting MySQL...
Stoping MySQL...
Starting MySQL...
 
[root@db01 3306]# ll slow.log                 
-rw-rw---- 1 mysqlmysql 380 Aug 27 15:59 slow.log
 
[root@db01 3306]# mv /data/3306/slow.log /opt/$(date +%F)_slow.log      
 
[root@db01 3306]# ll /opt/                                              
-rw-rw----  1 mysql mysql 190 Aug 27 16:26 2016-08-27_slow.log
 
[root@db01 3306]# mysqladmin -uroot -poldboy123 -S /data/3306/mysql.sock flush-logs
                                     
[root@db01 3306]# ll /data/3306/slow.log
-rw-rw---- 1 mysqlmysql 190 Aug 27 16:28 /data/3306/slow.log

 

2. 写成脚本(定时任务)

 

mv /data/3306/slow.log/opt/$(date +%F)_slow.log
mysqladmin -uroot -poldboy123 -S/data/3306/mysql.sock flush-logs

 

提示:可以将以上命令写成脚本,每天进行切割,在使用相应的工具进行分析

 

切割完之后可能会有很多数据,所以需要工具来帮我们分析

posted @ 2017-05-12 10:14  靠岸啊啊  阅读(510)  评论(0编辑  收藏  举报