Loading

13-技巧&工具&日志

1. 常用 SQL 技巧

1.1 SQL 执行顺序

1.2 正则表达式使用

正则表达式(Regular Expression)是指一个用来描述或者匹配一系列符合某个句法规则的字符串的单个字符串。

select * from emp where name regexp '^T';
select * from emp where name regexp '2$';
select * from emp where name regexp '[uvw]';

1.3 MySQL 常用函数

a. 数字函数

b. 字符串函数

c. 日期函数

d. 聚合函数

2. MySQL 常用工具

2.1 mysql

该 mysql 不是指 mysql 服务,而是指 mysql 的客户端工具。

# 语法
mysql [options] [database]

# 参数
-u, --user=name         # 指定用户名
-p, --password[=name]   # 指定密码
-h, --host=name         # 指定服务器IP或域名
-P, --port=             # 指定连接端口

# 示例
mysql -h 127.0.0.1 -P 3306 -u root -p
mysql -h127.0.0.1 -P3306 -uroot -p2143

执行选项 ↓ 此选项可以在 MySQL 客户端执行 SQL 语句,而不用连接到 MySQL 数据库再执行。对于一些批处理脚本,这种方式尤其方便。

-e, --execute=name # 执行SQL语句并退出

2.2 mysqladmin

mysqladmin 是一个执行管理操作的客户端程序。可以用它来检查服务器的配置和当前状态、创建并删除数据库等。可以通过 : mysqladmin --help 指令查看帮助文档。

示例:

mysqladmin -uroot -proot create 'test01';
mysqladmin -uroot -proot drop 'test01';
mysqladmin -uroot -proot version;

2.3 mysqlbinlog

由于服务器生成的二进制日志文件以二进制格式保存,所以如果想要检查这些文本的文本格式,就会使用到 mysqlbinlog 日志管理工具。

语法:

mysqlbinlog [options] log-files1 log-files2 ...

选项:

-d,                       -- database=name        指定数据库名称,只列出指定的数据库相关操作。
-o,                       -- offset=n             忽略掉日志中的前n行命令。
-r,                       -- result-file=name     将输出的文本格式日志输出到指定文件。
-s,                       -- short-form           显示简单格式,省略掉一些信息。
--start-datatime=date1    -- stop-datetime=date2  指定日期间隔内的所有日志。
--start-position=pos1     -- stop-position=pos2   指定位置间隔内的所有日志。

2.4 mysqldump

mysqldump 客户端工具用来备份数据库或在不同数据库之间进行数据迁移。备份内容包含创建表及插入表的 SQL 语句。

语法:

mysqldump [options] db_name [tables]
mysqldump [options] --database/-B db1 [db2 db3...]
mysqldump [options] --all-databases/-A

连接选项:

-u, --user=name 指定用户名
-p, --password[=name] 指定密码
-h, --host=name 指定服务器IP或域名
-P, --port=# 指定连接端口

输出内容选项:

--add-drop-database
    在每个数据库创建语句前加上Drop database语句
--add-drop-table
    在每个表创建语句前加上Drop table语句(默认开启),不开启:--skip-add-drop-table
-n, --no-create-db
    不包含数据库的创建语句
-t, --no-create-info
    不包含数据表的创建语句
-d, --no-data
    不包含数据
-T, --tab=name
    自动生成两个文件:一个.sql存创建表结构的语句;一个.txt是数据文件,相当于select into outfile

示例:

mysqldump -uroot -proot db01 tb_book --add-drop-database --add-drop-table > a.sql
mysqldump -uroot -proot db01 --skip-add-drop-table > b.sql
mysqldump -uroot -proot -T /tmp demo_03 tb_book

2.5 mysqlimport/source

mysqlimport 是客户端数据导入工具,用来导入 mysqldump 加 -T 参数后导出的 txt 文件。

语法:

mysqlimport [options] db_name textfile1 [textfile2...]

示例:

mysqlimport -uroot -proot demo_03 /tmp/tb_book.txt

如果需要导入 sql 文件,可以使用 mysql 中的 source 指令:

source /root/tb_book.sql

2.6 mysqlshow

mysqlshow 客户端对象查找工具,用来很快地查找存在哪些数据库、数据库中的表、表中的列或者索引。

语法:

mysqlshow [options] [db_name [table_name [col_name]]]

参数:

--count    显示数据库及表的统计信息 (数据库、表均可以不指定)
-i         显示指定数据库或者指定表的状态信息

示例:

2.7 mysqldumpslow

详见 #3.4 慢查询日志

3. MySQL 日志

在任何一种数据库中,都会有各种各样的日志,记录着数据库工作的方方面面,以帮助数据库管理员追踪数据库曾经发生过的各种事件。MySQL 也不例外,在 MySQL 中,有 4 种不同的日志,分别是错误日志、二进制日志(BINLOG 日志)、查询日志和慢查询日志,这些日志记录着数据库在不同方面的踪迹。

3.1 错误日志

错误日志是 MySQL 中最重要的日志之一,它记录了当 mysqld 启动和停止时,以及服务器在运行过程中发生任何严重错误时的相关信息。当数据库出现任何故障导致无法正常使用时,可以首先查看此日志。

该日志是默认开启的,查看日志位置指令:show variables like 'log_error%';

3.2 二进制日志

a. 概述

二进制日志(BINLOG)记录了所有的 DDL(数据定义语言)语句和 DML(数据操纵语言)语句,但是不包括数据查询语句。此日志对于灾难时的数据恢复起着极其重要的作用,MySQL 的主从复制, 就是通过该 binlog 实现的。

二进制日志,默认情况下是没有开启的,需要到 MySQL 的配置文件中开启,并配置 MySQL 日志的格式。

# 配置开启binlog日志,日志的文件前缀为 mysqlbin,如:mysqlbin.000001、mysqlbin.000002
log_bin=mysqlbin

# 配置二进制日志的格式 (STATEMENT, ROW, MIXED)
binlog_format=STATEMENT
  • 配置文件位置:/etc/my.cnf
  • 日志存放位置:配置时给定了文件名但是没有指定路径,日志默认写入 MySQL 的数据目录,即 /var/lib/mysql。

b. 日志格式

STATEMENT

该日志格式在日志文件中记录的都是 SQL 语句(statement),每一条对数据进行修改的 SQL 都会记录在日志文件中,通过 MySQL 提供的 mysqlbinlog 工具,可以清晰的查看到每条语句的文本。主从复制的时候,从库(slave)会将日志解析为原文本,并在从库重新执行一次。

ROW

该日志格式在日志文件中记录的是每一行的数据变更,而不是记录 SQL 语句。比如,执行 SQL 语句: update tb_book set status='1',如果是 STATEMENT 日志格式,在日志中会记录一行 SQL 文件;如果是 ROW,由于是对全表进行更新,也就是每一行记录都会发生变更,ROW 格式的日志中会记录每一行的数据变更。

MIXED

这是目前 MySQL 默认的日志格式,即混合了 STATEMENT 和 ROW 两种格式。默认情况下采用 STATEMENT,但是在一些特殊情况下采用 ROW 来进行记录。MIXED 格式能尽量利用两种模式的优点,而避开他们的缺点。

c. 日志读取

由于日志以二进制方式存储,不能直接读取,需要用 mysqlbinlog 工具来查看:mysqlbinlog log-file-name;

查看 STATEMENT 日志格式

查看 ROW 日志格式(加参数 -vv)

d. 删除日志

对于比较繁忙的系统,由于每天生成日志量大,这些日志如果长时间不清楚,将会占用大量的磁盘空间。下面我们将会讲解几种删除日志的常见方法:

  1. 通过 Reset Master 指令删除全部 binlog 日志,删除之后,日志编号将从 xxxx.000001 重新开始;
  2. 执行指令 purge master logs to 'mysqlbin.******',该命令将删除 ****** 编号之前的所有日志;
  3. 执行指令 purge master logs before 'yyyy-mm-dd hh24:mi:ss',该命令将删除日志为 "yyyy-mm-dd hh24:mi:ss" 之前产生的所有日志;
  4. 设置参数 --expire_logs_days=#,此参数的含义是设置日志的过期天数,过了指定的天数后日志将会被自动删除,这样将有利于减少 DBA 管理日志的工作量。

3.3 查询日志

查询日志中记录了客户端的所有操作语句,而二进制日志不包含查询数据的 SQL 语句。默认情况下,查询日志是未开启的。如果需要开启查询日志,可以设置以下配置:

# 该选项用来开启查询日志,可选值:0 代表关闭、1 代表开启
general_log=1

# 设置日志的文件名,如果没有指定,默认的文件名为 host_name.log
general_log_file=file_name

在 MySQL 的配置文件 /etc/my.cnf 中配置如下内容:

配置完毕之后,在数据库执行一些 CRUD 操作,然后再次来查询日志文件:

3.4 慢查询日志

慢查询日志记录了所有执行时间超过参数 long_query_time 设置值并且扫描记录数不小于 min_examined_row_limit 的所有的 SQL 语句的日志。long_query_time 默认为 10 秒,最小为 0,精度可以到微秒。

默认情况下,MySQL 没有打开慢查询日志默认是关闭,需要我们手动来设置这个参数。

通过命令 set global slow_query_log=1; 开启慢查询日志,但它只对当前数据库生效,如果 MySQL 重启则会失效。

如果不是调优需要的话,一般不建议开启,因为这或多或少带来一定的性能影响(将日志记录写入文件)。

和错误日志、查询日志一样,慢查询日志记录的格式也是纯文本,可以被直接读取。执行几个长执行时间的 SQL,然后直接通过 cat 指令查询该日志文件:

如果慢查询日志内容很多, 直接查看文件,比较麻烦, 这个时候可以借助于 MySQL 自带的 mysqldumpslow 工具, 来对慢查询日志进行分类汇总。

mysqldumpslow --help 查看帮助信息:

使用参考如下,建议在使用这些命令时结合 |more 使用,否则有可能出现爆屏现象。

# 得到返回记录集最多的10个SQL
mysqldumpslow -s r -t 10 /var/lib/mysql/xxx-slow.log
# 得到访问次数最多的10个SQL
mysqldumpslow -s c -t 10 /var/lib/mysql/xxx-slow.log
# 得到按照时间排序的前10条里面含有左连接的查询SQL
mysqldumpslow -s t -t 10 -g "left join" /var/lib/mysql/xxx-slow.log
posted @ 2020-11-12 12:19  tree6x7  阅读(154)  评论(0编辑  收藏  举报