SQL高性能优化
SQL 的书写规范
在介绍一些技巧之前,有必要强调一下规范,这一点我发现工作中经常被人忽略,其实遵循好的规范可读性会好很多,应该遵循哪些规范呢
1、 表明要有意义,且标准 SQL 中规定表名的第一个字符应该是字母。
2、注释,有单行注释和多行注释,如下
多行注释很多人不知道,这种写法不仅可以用来添加真正的注释,也可以用来注释代码,非常方便
3、缩进
就像写 Java,Python 等编程语言一样 ,SQL 也应该有缩进,良好的缩进对提升代码的可读性帮助很大,以下分别是好的缩进与坏的缩进示例
以上第一个 SQL 在索引列上进行了运算, 第二个 SQL 对索引列使用了函数,均无法用到索引,正确方式是把列单独放在左侧,如下:
当然如果需要对此列使用函数,则无法避免在左侧运算,可以考虑使用函数索引,不过一般不推荐随意这么做。
6、尽量避免使用否定形式
如下的几种否定形式不能用到索引:
- <>
- !=
- NOT IN
所以以下 了SQL 语句会导致全表扫描
SELECT *
FROM SomeTable
WHERE col_1 <> 100;
可以改成以下形式
SELECT *
FROM SomeTable
WHERE col_1 > 100 or col_1 < 100;
7、进行默认的类型转换
假设 col 是 char 类型,则推荐使用以下第二,三条 SQL 的写法,不推荐第一条 SQL 的写法
× SELECT * FROM SomeTable WHERE col_1 = 10;
○ SELECT * FROM SomeTable WHERE col_1 = '10';
○ SELECT * FROM SomeTable WHERE col_1 = CAST(10, AS CHAR(2));
虽然第一条 SQL 会默认把 10 转成 '10',但这种默认类型转换不仅会增加额外的性能开销,还会导致索引不可用,所以建议使用的时候进行类型转换。
8、减少中间表
在 SQL 中,的查询的结果会产生一张新表,不过如果不加限制大量使用中间表的话,会带来两个问题,一是展示数据需要消耗内存资源,二是原始表中的索引不容易用到,所以尽量减少中间表也可以提升性能。
9、灵活使用 HAVING 子句
这一点与上面第八条相呼应,对聚合结果指定筛选条件时,使用 HAVING 是基本的原则,可能一些工程师会倾向于使用下面这样的写法:
SELECT *
FROM (SELECT sale_date, MAX(quantity) AS max_qty
FROM SalesHistory
GROUP BY sale_date) TMP
WHERE max_qty >= 10;
虽然上面这样的写法能达到目的,但会生成 TMP 这张临时表,所以应该使用下面这样的写法:
SELECT sale_date, MAX(quantity)
FROM SalesHistory
GROUP BY sale_date
HAVING MAX(quantity) >= 10;
HAVING 子句和聚合操作是同时执行的,所以比起生成中间表后再执行 HAVING 子句,效率会更高,代码也更简洁
10、需要对多个字段使用 IN 谓词时,将它们汇总到一处
一个表的多个字段可能都使用了 IN 谓词,如下:
SELECT id, state, city
FROM Addresses1 A1
WHERE state IN (SELECT state
FROM Addresses2 A2
WHERE A1.id = A2.id)
AND city IN (SELECT city
FROM Addresses2 A2
WHERE A1.id = A2.id);
这段代码用到了两个子查询,也就产生了两个中间表,可以像下面这样写
SELECT *
FROM Addresses1 A1
WHERE id || state || city
IN (SELECT id || state|| city
FROM Addresses2 A2);
这样子查询不用考虑关联性,没有中间表产生,而且只执行一次即可。
11、 使用延迟查询优化 limit [offset], [rows]
经常出现类似以下的 SQL 语句:
SELECT * FROM film LIMIT 100000, 10
offset 特别大!
这是我司出现很多慢 SQL 的主要原因之一,尤其是在跑任务需要分页执行时,经常跑着跑着 offset 就跑到几十万了,导致任务越跑越慢。
LIMIT 能很好地解决分页问题,但如果 offset 过大的话,会造成严重的性能问题,原因主要是因为 MySQL 每次会把一整行都扫描出来,扫描 offset 遍,找到 offset 之后会抛弃 offset 之前的数据,再从 offset 开始读取 10 条数据,显然,这样的读取方式问题。
可以通过延迟查询的方式来优化
假设有以下 SQL,有组合索引(sex, rating)
SELECT <cols> FROM profiles where sex='M' order by rating limit 100000, 10;
则上述写法可以改成如下写法
SELECT <cols>
FROM profiles
inner join
(SELECT id form FROM profiles where x.sex='M' order by rating limit 100000, 10)
as x using(id);
这里利用了覆盖索引的特性,先从覆盖索引中获取 100010 个 id,在丢充掉前 100000 条 id,保留最后 10 个 id 即可,丢掉 100000 条 id 不是什么大的开销,所以这样可以显著提升性能
12、 利用 LIMIT 1 取得唯一行
数据库引擎只要发现满足条件的一行数据则立即停止扫描,,这种情况适用于只需查找一条满足条件的数据的情况
13、 注意组合索引,要符合最左匹配原则才能生效
假设存在这样顺序的一个联合索引“col_1, col_2, col_3”。这时,指定条件的顺序就很重要。
○ SELECT * FROM SomeTable WHERE col_1 = 10 AND col_2 = 100 AND col_3 = 500;
○ SELECT * FROM SomeTable WHERE col_1 = 10 AND col_2 = 100 ;
× SELECT * FROM SomeTable WHERE col_2 = 100 AND col_3 = 500 ;
前面两条会命中索引,第三条由于没有先匹配 col_1,导致无法命中索引, 另外如果无法保证查询条件里列的顺序与索引一致,可以考虑将联合索引 拆分为多个索引。
14、使用 LIKE 谓词时,只有前方一致的匹配才能用到索引(最左匹配原则)
× SELECT * FROM SomeTable WHERE col_1 LIKE '%a';
× SELECT * FROM SomeTable WHERE col_1 LIKE '%a%';
○ SELECT * FROM SomeTable WHERE col_1 LIKE 'a%';
上例中,只有第三条会命中索引,前面两条进行后方一致或中间一致的匹配无法命中索引
15、 简单字符串表达式
模型字符串可以使用 _ 时, 尽可能避免使用 %, 假设某一列上为 char(5)
不推荐
SELECT
first_name,
last_name,
homeroom_nbr
FROM Students
WHERE homeroom_nbr LIKE 'A-1%';
推荐
SELECT first_name, last_name
homeroom_nbr
FROM Students
WHERE homeroom_nbr LIKE 'A-1__'; --模式字符串中包含了两个下划线
16、尽量使用自增 id 作为主键
比如现在有一个用户表,有人说身份证是唯一的,也可以用作主键,理论上确实可以,不过用身份证作主键的话,一是占用空间相对于自增主键大了很多,二是很容易引起频繁的页分裂,造成性能问题(什么是页分裂,请参考这篇文章)
主键选择的几个原则:自增,尽量小,不要对主键进行修改
17、在无 WHERE 条件下要计算表的行数,优先使用 count(*)
优先使用以下语句来统计行数, innoDB 5.6之后已经对此语句进行了优化
SELECT COUNT(*) FROM SomeTable
按照效率排序的话,count(字段)<count(主键 id)<count(1)≈count(*),count(*) 会选用性能最好的索引来进行排序
18、避免使用 SELECT * ,尽量利用覆盖索引来优化性能
SELECT *会提取出一整行的数据,如果查询条件中用的是组合索引进行查找,还会导致回表(先根据组合索引找到叶子节点,再根据叶子节点上的主键回表查询一整行),降低性能,而如果我们所要的数据就在组合索引里,只需读取组合索引列,这样网络带宽将大大减少,假设有组合索引列 (col_1, col_2)
推荐用
SELECT col_1, col_2
FROM SomeTable
WHERE col_1 = xxx AND col_2 = xxx
不推荐用
SELECT *
FROM SomeTable
WHERE col_1 = xxx AND col_2 = xxx
19、 如有必要,使用 force index() 强制走某个索引
业务团队曾经出现类似以下的慢 SQL 查询
SELECT *
FROM SomeTable
WHERE `status` = 0
AND `gmt_create` > 1490025600
AND `gmt_create` < 1490630400
AND `id` > 0
AND `post_id` IN ('67778', '67811', '67833', '67834', '67839', '67852', '67861', '67868', '67870', '67878', '67909', '67948', '67951', '67963', '67977', '67983', '67985', '67991', '68032', '68038'/*... omitted 480 items ...*/)
order by id asc limit 200;
post_id 也加了索引,理论上走 post_id 索引会很快查询出来,但实现了通过 EXPLAIN 发现走的却是 id 的索引(这里隐含了一个常见考点,在多个索引的情况下, MySQL 会如何选择索引),而 id > 0 这个查询条件没啥用,直接导致了全表扫描, 所以在有多个索引的情况下一定要慎用,可以使用 force index 来强制走某个索引,以这个例子为例,可以强制走 post_id 索引,效果立竿见影。
这种由于表中有多个索引导致 MySQL 误选索引造成慢查询的情况在业务中也是非常常见,一方面是表索引太多,另一方面也是由于 SQL 语句本身太过复杂导致, 针对本例这种复杂的 SQL 查询,其实用 ElasticSearch 搜索引擎来查找更合适,有机会到时出一篇文章说说。
20、 使用 EXPLAIN 来查看 SQL 执行计划
上个点说了,可以使用 EXPLAIN 来分析 SQL 的执行情况,如怎么发现上文中的最左匹配原则不生效呢,执行 「EXPLAIN + SQL 语句」可以发现 key 为 None ,说明确实没有命中索引
我司在提供 SQL 查询的同时,也贴心地加了一个 EXPLAIN 功能及 sql 的优化建议,建议各大公司效仿 ^_^,如图示
21、 批量插入,速度更快
当需要插入数据时,批量插入比逐条插入性能更高
推荐用
-- 批量插入
INSERT INTO TABLE (id, user_id, title) VALUES (1, 2, 'a'),(2,3,'b');
不推荐用
INSERT INTO TABLE (id, user_id, title) VALUES (1, 2, 'a');
INSERT INTO TABLE (id, user_id, title) VALUES (2,3,'b');
批量插入 SQL 执行效率高的主要原因是合并后日志量 MySQL 的 binlog 和 innodb 的事务让日志减少了,降低日志刷盘的数据量和频率,从而提高了效率
22、 慢日志 SQL 定位
前面我们多次说了 SQL 的慢查询,那么该怎么定位这些慢查询 SQL 呢,主要用到了以下几个参数
8个SQL错误:
1)LIMIT语句
分页查询是最常见的情况之一,但也是一个非常普遍的问题。 例如,对于以下简单语句,DBA通常为type,name和create_time字段添加复合索引。 这种条件排序可有效使用索引并快速提高性能。 这是90%以上的DBA解决此问题的常用方法。 但是,当LIMIT子句更改为" LIMIT 1000000,10"时,程序员经常抱怨仅检索10条记录会花费太长时间。 发生这种情况是因为数据库不知道第1,000,000条记录从何处开始。 因此,即使索引可用,也必须从头开始计算。 通常由于程序员的懒惰而导致出现此性能问题。 在前端数据浏览和分页或大数据的批量导出之类的方案中,可以将上一页的最大值用作查询条件。 重写SQL代码,如下所示:
使用新设计,查询时间基本上是固定的,并且不会随着数据量的增加而改变。
2)隐式转换
当查询变量与SQL语句中的字段定义类型不匹配时,会发生另一种常见错误。 以下语句就是这样的一个例子:
bpn字段定义为varchar(20),MySQL策略是在比较之前将字符串转换为数字。 当函数作用于表字段时,索引变为无效。 前面的问题可能是由应用程序框架自动完成的参数引起的,而不是由于程序员的有意识的错误。 当前,许多应用程序框架都很复杂。 尽管它们使用起来非常方便,但是您还必须意识到它们可能引起的潜在问题。
3)更新和删除加入
尽管实例化功能是MySQL 5.6中引入的,但是请注意,目前仅针对查询语句进行了优化。 手动将UPDATE或DELETE语句重写为JOIN语句。
例如,在下面的UPDATE语句中,MySQL实际上运行循环或嵌套子查询(DEPENDENT SUBQUERY),并且执行时间相对较长。
考虑以下执行计划。
4)混合排序
MySQL不能将索引用于混合排序。 但是,在某些情况下,用户仍然可以使用特殊方法来提高性能。
执行计划以全表扫描形式呈现。
由于is_reply在按照方法重写后仅具有状态0和1,因此执行时间从1.58秒减少到2毫秒。
5)EXISTS 陈述
MySQL仍然使用嵌套子查询来处理EXISTS子句。 例如,考虑下面的SQL语句:
请参考以下执行计划。
将EXISTS语句更改为JOIN语句可避免嵌套子查询,并将执行时间从1.93秒减少到1毫秒。
考虑下面的新执行计划。
6)有条件下推
在以下情况下,无法将外部查询条件下推到复杂视图或子查询:
· 汇总子查询
· LIMIT个子查询
· UNION或UNION ALL子查询
· 输出字段中的子查询
在以下语句的执行计划中,请注意,条件在聚集子查询之后起作用。
7)提前缩小范围
从初始SQL语句开始,如下所示。
数量为900,000,执行时间为12秒。
由于最后一个WHERE条件和排序是在最左边的主表上执行的,因此在执行左连接之前,首先要缩小数据量以进行my_order排序。 如下所示重写SQL语句后,执行时间减少到大约1毫秒。
查看执行计划。 实现子查询后,select_type = DERIVED参与JOIN操作。 尽管估计要扫描的行数仍为900,000,但在应用索引和LIMIT子句后,实际的执行时间会减少。
8)下推中间结果集
让我们看一下以下最初优化的示例(查询条件首先作用于左联接中的主表):
此声明还有其他问题吗? 不难看出,子查询c是全表聚合查询。 因此,当表的数量特别多时,整个语句的性能会下降。
实际上,对于子查询c,左联接的最终结果集仅与匹配主表resourceid的数据有关。 因此,按如下所示重写该语句,以将执行时间从2秒减少到2毫秒。
但是,子查询多次出现在SQL语句中。 此方法不仅会导致额外的开销,而且会使整个语句更加复杂。 使用WITH语句再次重写该语句。
posted on 2020-07-01 16:55 UnmatchedSelf 阅读(536) 评论(0) 编辑 收藏 举报