mysql性能优化
1.MySQL性能优化目的和优化项目
- 一方面是找出系统的瓶颈,提高数据库整体的性能
- 另一方面需要合理的结构设计和参数调整,以提高用户操作响应的速度;同时还要尽可能节省系统资源,以便系统可以提供更大负荷的服务。
性能优化包含:查询速度优化、数据库结构优化、MySQL服务器优化等。
2.优化查询
(1)分析查询语句-执行计划
explain [extended] select select_options
all < index < range < index_merge < ref_or_null < ref < eq_ref < system/const id select 识别符(查询序列号) 查询顺序标识 如:mysql> explain select * from (select nid,name from tb1 where nid < 10) as B; +----+-------------+------------+-------+---------------+---------+---------+------+------+-------------+ | id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra | +----+-------------+------------+-------+---------------+---------+---------+------+------+-------------+ | 1 | PRIMARY | <derived2> | ALL | NULL | NULL | NULL | NULL | 9 | NULL | | 2 | DERIVED | tb1 | range | PRIMARY | PRIMARY | 8 | NULL | 9 | Using where | +----+-------------+------------+-------+---------------+---------+---------+------+------+-------------+ 特别的:如果使用union连接气值可能为null select_type 查询类型 SIMPLE 简单查询 PRIMARY 最外层查询 SUBQUERY 映射为子查询 DERIVED 导出表的select(from子句的子查询) DEPENDENT SUBQUERY 子查询,取决于外面的查询 UNION 联合 UNION RESULT 使用联合的结果 ... table 正在访问的表名 type 查询时的访问方式,性能:all < index < range < index_merge < ref_or_null < ref < eq_ref < system/const ALL 全表扫描,对于数据表从头到尾找一遍 select * from tb1; 特别的:如果有limit限制,则找到之后就不在继续向下扫描 select * from tb1 where email = 'seven@live.com' select * from tb1 where email = 'seven@live.com' limit 1; 虽然上述两个语句都会进行全表扫描,第二句使用了limit,则找到一个后就不再继续扫描。 INDEX 全索引扫描,对索引从头到尾找一遍 select nid from tb1; RANGE 对索引列进行范围查找 select * from tb1 where name < 'alex'; PS: between and in > >= < <= 操作 注意:!= 和 > 符号 INDEX_MERGE 合并索引,使用多个单列索引搜索 select * from tb1 where name = 'alex' or nid in (11,22,33); REF 根据索引查找一个或多个值 select * from tb1 where name = 'seven'; EQ_REF 连接时使用primary key 或 unique类型 select tb2.nid,tb1.name from tb2 left join tb1 on tb2.nid = tb1.nid; CONST 常量 表最多有一个匹配行,因为仅有一行,在这行的列值可被优化器剩余部分认为是常数,const表很快,因为它们只读取一次。 select nid from tb1 where nid = 2 ; SYSTEM 系统 表仅有一行(=系统表)。这是const联接类型的一个特例。 select * from (select nid from tb1 where nid = 1) as A; possible_keys 可能使用的索引 key 真实使用的 key_len MySQL中使用索引字节长度 rows mysql估计为了找到所需的行而要读取的行数 ------ 只是预估值 extra 该列包含MySQL解决查询的详细信息 “Using index” 此值表示mysql将使用覆盖索引,以避免访问表。不要把覆盖索引和index访问类型弄混了。 “Using where” 这意味着mysql服务器将在存储引擎检索行后再进行过滤,许多where条件里涉及索引中的列,当(并且如果)它读取索引时,就能被存储引擎检验,因此不是所有带where子句的查询都会显示“Using where”。有时“Using where”的出现就是一个暗示:查询可受益于不同的索引。 “Using temporary” 这意味着mysql在对查询结果排序时会使用一个临时表。 “Using filesort” 这意味着mysql会对结果使用一个外部索引排序,而不是按索引次序从表里读取行。mysql有两种文件排序算法,这两种排序方式都可以在内存或者磁盘上完成,explain不会告诉你mysql将使用哪一种文件排序,也不会告诉你排序会在内存里还是磁盘上完成。 “Range checked for each record(index map: N)” 这个意味着没有好用的索引,新的索引将在联接的每一行上重新估算,N是显示在possible_keys列中索引的位图,并且是冗余的。
(2)正确使用索引
数据库表中添加索引后确实会让查询速度起飞,但前提必须是正确的使用索引来查询,如果以错误的方式使用,则即使建立索引也会不奏效。即使建立索引,索引也不会生效:
- like '%xx' select * from tb1 where name like '%cn'; - 使用函数 select * from tb1 where reverse(name) = 'wupeiqi'; - or select * from tb1 where nid = 1 or email = 'seven@live.com'; 特别的:当or条件中有未建立索引的列才失效,以下会走索引 select * from tb1 where nid = 1 or name = 'seven'; select * from tb1 where nid = 1 or email = 'seven@live.com' and name = 'alex' - 类型不一致 如果列是字符串类型,传入条件是必须用引号引起来,不然... select * from tb1 where name = 999; - != select * from tb1 where name != 'alex' 特别的:如果是主键,则还是会走索引 select * from tb1 where nid != 123 - > select * from tb1 where name > 'alex' 特别的:如果是主键或索引是整数类型,则还是会走索引 select * from tb1 where nid > 123 select * from tb1 where num > 123 - order by select email from tb1 order by name desc; 当根据索引排序时候,选择的映射如果不是索引,则不走索引 特别的:如果对主键排序,则还是走索引: select * from tb1 order by nid desc; - 组合索引最左前缀 如果组合索引为:(name,email) name and email -- 使用索引 name -- 使用索引 email -- 不使用索引 其他注意事项 - 避免使用select * - count(1)或count(列) 代替 count(*) - 创建表时尽量时 char 代替 varchar - 表的字段顺序固定长度的字段优先 - 组合索引代替多个单列索引(经常使用多个条件查询时) - 尽量使用短索引 - 使用连接(JOIN)来代替子查询(Sub-Queries) - 连表时注意条件类型需一致 - 索引散列值(重复少)不适合建索引,例:性别不适合
3.优化数据库结构
(1)将字段很多的表分解成多个表
对于字段较多的表,如果有些字段的使用频率很低,可以将这些字段分离出来形成新表,因为当一个表的数据量很大时,会由于使用频率低的字段的存在而变慢
(2)增加中间表
对于需要经常联合查询的表,可以建立中间表以提高查询速度。即通过建立中间表,把需要经常联合查询的数据插入到中间表中,然后将原来的联合查询改为对中间表的查询。
(3)增加冗余字段
设计数据表时应尽量遵循范式理论的规约,尽可能减少冗余字段,让数据库精致、优雅。但合理的加入冗余字段可以调高查询速度。
(4)优化插入记录的速度
插入记录时,影响插入速度的主要是索引、唯一性校验、一次插入记录条数等
对应myisam存储引擎,常见优化方法:
- 禁言索引 alter table table_name disable keys;
- 禁用唯一性检查 set unique_check = 0 ; 开启 set unique_check = 1;
- 使用批量插入
- 使用load data infile 批量导入
对应innodb存储引擎,常见优化方法:
- 禁言唯一性检查 set unique_check = 0 ; 开启 set unique_check = 1;
- 禁言外键检查 set foreign_key_checks = 0; 开启 set foreign_key_checks = 1;
- 禁言自动提交 set autocommit = 0; 开启 set autocommit = 1;
(5).分析表、检查表和优化表
- 分析表 analyze [local | no_write_to_binlog] table tb1_name[,tb1_name]... local关键字是no_write_to_binlog关键字的别名,二者都是执行过程不写入二进制日志;使用analyze table分析表的过程中,数据库会自动对表加一个只读锁。 mysql> analyze table hjx_data; +--------------+---------+----------+----------+ | Table | Op | Msg_type | Msg_text | +--------------+---------+----------+----------+ | hjx.hjx_data | analyze | status | OK | +--------------+---------+----------+----------+ 1 row in set (0.02 sec) 说明: Op 表示执行的操作,analyze表示进行分析操作 Msg_type 表示信息类型,状态(status)、信息(info)、注意(note)、警告(warning)和错误(error) Msg_text 显示信息 - 检查表 check table 语句能够检查innodb和myisam类型的表是否存在错误。对应myisam类型:还会更新关键字统计数据;而且也可以检查视图是否有错误。 check table tb_name [,tb_name] ... [option] ... option = {quick | fast | medium | extended | changed} 说明: option参数5个取值: quick 不扫描行,不检查错误的连接 fast 只检查没有被正确关闭的表 changed 只检查上次检查后被更新的表和没有被正确关闭的表。 medium 扫描行,以验证被删除的连接是否是有效的,也可以计算各行的关键字校验和,并使用计算出的校验和验证这一点。 extended 对每行的所有关键字进行一个全面的关键字查找 注意:option只对myisam类型的表有效,对innodb类型的表无效。 - 优化表 使用optimize table 语句来优化表,对innodb和myisam类型表都有效,但只能优化表中varchar、blog或text类型的字段 optimize [local | no_write_to_binlog] table tb_name[,tb_name]... 通过optimize table语句可以消除删除和更新造成的文件碎片。
4.优化mysql服务器
(1)优化服务器硬件
- 配置较大的内存。
- 配置高速磁盘系统,以减少读盘的等待时间,提高响应速度。
- 合理分布磁盘I/O,把磁盘I/O分散在多个设备上,以减少资源竞争,提高并行操作能力
- 配置多处理器,mysql是多线程的数据库,多处理器可同时执行过个线程。
(2)优化mysql的参数
配置参数文件:my.cnf或者 my.ini
key_buffer_size 表示索引缓冲区的大小 索引缓冲区所有的线程共享,这个值也不是越大越好,大小取决于内存的大小 table_cache 表示同时打开数据库的个数 query_cache_size 表示查询缓存区的大小 sort_buffer_size 表示排序缓存区的大小,值越大,进行排序的速度越快 read_buffer_size 表示每个线程连续扫描时为扫描的每个表分配的缓冲区的大小,set session read_buffer_size=n 临时设置 read_rnd_buffer_size 表示为每个线程保留的缓冲区的大小,与read_buffer_size相似,但主要用于存储按特定顺序读取出来的记录 innodb_buffer_pool_size 表示innodb类型的表和索引的最大缓存,值越大查询的速度会越快,但值太大会影响操作系统的性能 max_connections 表示数据库的最大连接数 innodb_flush_log_at_trx_commit 表示何时将缓存区的数据写入日志文件,并将日志文件写入磁盘。 对innodb引擎非常重要,参数有3个值:0、1、2,默认值为1安全性最高 0 每隔1秒将数据写入日志文件并将日志文件写入磁盘 1 表示每次提交事务时将数据写入日志文件并将日志文件写入磁盘 2 表示每次提交事务时将数据写入日志文件,每隔1秒将日志文件写入磁盘 back_log 表示在mysql暂时停止回答前新请求之前的短时间内,多少个请求可以被存在堆栈中。 interactive_timeout 表示服务器在关闭连接前等待行动的秒数 sort_buffer_size 表示每个需要进行排序的线程分配的缓冲区的大小,可以提高order by 或group by 操作的速度,默认数值 2097144(2MB) thread_cacha_size 表示可以复用的线程的数量 wait_timeout 表示服务器在关闭一个连接时等待行动的秒数,默认值28800
5.其他
show variables;查询变量信息
show variables like '%query%';
mysql> show variables like '%query%';
+------------------------------+------------------------------------------------
-------+
| Variable_name | Value
|
+------------------------------+------------------------------------------------
-------+
| binlog_rows_query_log_events | OFF
|
| ft_query_expansion_limit | 20
|
| have_query_cache | YES
|
| long_query_time | 10.000000
|
| query_alloc_block_size | 8192
|
| query_cache_limit | 1048576
|
| query_cache_min_res_unit | 4096
|
| query_cache_size | 1048576
|
| query_cache_type | OFF
|
| query_cache_wlock_invalidate | OFF
|
| query_prealloc_size | 8192
|
| slow_query_log | OFF
|
| slow_query_log_file | D:\Mysql\mysql-5.7.23-winx64\data\CCHNCQL008-sl
ow.log |
+------------------------------+------------------------------------------------
-------+
13 rows in set, 1 warning (0.01 sec)
a、配置MySQL自动记录慢日志
slow_query_log = OFF 是否开启慢日志记录
long_query_time = 2 时间限制,超过此时间,则记录
slow_query_log_file = /usr/slow.log 日志文件
log_queries_not_using_indexes = OFF 为使用索引的搜索是否记录
修改配置
set global 变量名 = 值
set session 变量名 = 值
b、查看MySQL慢日志
mysqldumpslow -s at -a /usr/local/var/mysql/MacBook-Pro-3-slow.log
········
--verbose 版本
--debug 调试
--help 帮助
-v 版本
-d 调试模式
-s ORDER 排序方式
what to sort by (al, at, ar, c, l, r, t), 'at' is default
al: average lock time
ar: average rows sent
at: average query time
c: count
l: lock time
r: rows sent
t: query time
-r 反转顺序,默认文件倒序拍。reverse the sort order (largest last instead of first)
-t NUM 显示前N条just show the top n queries
-a 不要将SQL中数字转换成N,字符串转换成S。don't abstract all numbers to N and strings to 'S'
-n NUM abstract numbers with at least n digits within names
-g PATTERN 正则匹配;grep: only consider stmts that include this string
-h HOSTNAME mysql机器名或者IP;hostname of db server for *-slow.log filename (can be wildcard),
default is '*', i.e. match all
-i NAME name of server instance (if using mysql.server startup script)
-l 总时间中不减去锁定时间;don't subtract lock time from total time