MySql进阶技巧&查询优化

来源

转载自以下两篇文章（重新整理、排版，部分删改）：

总结

进阶技巧的目的是为了提高sql查询性能，总的来说归结为两大要点：

确保索引的使用
尽可能避免使用中间表

以下为原文（略有修改）

SQL 的书写规范

在介绍一些技巧之前，有必要强调一下规范，这一点我发现工作中经常被人忽略，其实遵循好的规范可读性会好很多，应该遵循哪些规范呢

表名要有意义，且标准 SQL 中规定表名的第一个字符应该是字母。
注释，有单行注释和多行注释，如下

-- 单行注释
-- 从SomeTable中查询col_1 
SELECT col_1
  FROM SomeTable;

/*
多行注释
从 SomeTable 中查询 col_1 
*/
SELECT col_1
  FROM SomeTable;

多行注释很多人不知道，这种写法不仅可以用来添加真正的注释，也可以用来注释代码，非常方便
3. 缩进

就像写 Java，Python 等编程语言一样，SQL 也应该有缩进，良好的缩进对提升代码的可读性帮助很大，以下分别是好的缩进与坏的缩进示例

-- 好的缩进
SELECT col_1, 
    col_2, 
    col_3,
    COUNT(*) 
  FROM tbl_A
 WHERE col_1 = 'a'
   AND col_2 = ( SELECT MAX(col_2)
                   FROM tbl_B
                  WHERE col_3 = 100 )
 GROUP BY col_1,
          col_2,
          col_3


-- 坏的示例
SELECT col1_1, col_2, col_3, COUNT(*)
FROM   tbl_A
WHERE  col1_1 = 'a'
AND    col1_2 = (
SELECT MAX(col_2)
FROM   tbl_B
WHERE  col_3 = 100
) GROUP BY col_1, col_2, col_3

空格

代码中应该适当留有一些空格，如果一点不留，代码都凑到一起，逻辑单元不明确，阅读的人也会产生额外的压力，以下分别是是好的与坏的示例

-- 好的示例
SELECT col_1
  FROM tbl_A A, tbl_B B
 WHERE ( A.col_1 >= 100 OR A.col_2 IN ( 'a', 'b' ) )
   AND A.col_3 = B.col_3;

-- 坏的示例
SELECT col_1
  FROM tbl_A A,tbl_B B
 WHERE (A.col_1>=100 OR A.col_2 IN ('a','b'))
   AND A.col_3=B.col_3;

大小写

关键字使用大小写，表名列名使用小写，如下

SELECT col_1, col_2, col_3,
    COUNT(*)
  FROM tbl_A
 WHERE col_1 = 'a'
   AND col_2 = ( SELECT MAX(col_2)
                   FROM tbl_B
                  WHERE col_3 = 100 )
 GROUP BY col_1, col_2, col_3

花了这么多时间强调规范，有必要吗，有！好的规范让代码的可读性更好，更有利于团队合作，之后的 SQL 示例都会遵循这些规范。

SQL 的一些进阶使用技巧

巧用 `CASE WHEN` 进行统计

图示.img

SELECT CASE pref_name
      WHEN '长沙' THEN '湖南' 
      WHEN '衡阳' THEN '湖南'
      WHEN '海口' THEN '海南' 
      WHEN '三亚' THEN '海南'
    ELSE '其他' END AS district,
    SUM(population) 
FROM PopTbl
GROUP BY district;

巧用 `CASE WHEN` 进行更新

图示.img

现在公司出台了一个奇葩的规定:

对当前工资为 1 万以上的员工，降薪 10%。
对当前工资低于 1 万的员工，加薪 20%。
一些人不假思索可能写出了以下的 SQL:

--条件1
UPDATE Salaries
SET salary = salary * 0.9 WHERE salary >= 10000;
--条件2
UPDATE Salaries
SET salary = salary * 1.2
WHERE salary < 10000;

这么做其实是有问题的，什么问题，对小明来说，他的工资是 10500，执行第一个 SQL 后，工资变为 10500 * 0.9 = 9450, 紧接着又执行条件 2，工资变为了 9450 * 1.2 = 11340，反而涨薪了！

如果用 CASE WHEN 可以解决此类问题，如下：

UPDATE Salaries
SET salary = CASE WHEN salary >= 10000 THEN salary * 0.9
WHEN salary < 10000 THEN salary * 1.2
ELSE salary END;

巧用 `HAVING` 子句

一般 HAVING 是与 GROUP BY 结合使用的，但其实它是可以独立使用的，假设有一个表，第一列 seq 叫连续编号，但其实有些编号是缺失的，怎么知道编号是否缺失呢:

SELECT '存在缺失的编号' AS gap
  FROM SeqTbl
HAVING COUNT(*) <> MAX(seq);

自连接

删除重复行

SELECT '存在缺失的编号' AS gap
  FROM SeqTbl
HAVING COUNT(*) <> MAX(seq);

排序

在 db 中，我们经常需要按分数，人数，销售额等进行排名，有 Oracle, DB2 中可以使用 RANK 函数进行排名，不过在 MySQL 中 RANK 函数未实现，这种情况我们可以使用自连接来实现, 如对以下 Products 表按价格高低进行排名:

name price 
----- ------ 
苹果     50     
葡萄     50  
橘子    100     
西瓜     80      
柠檬     30     
香蕉     50

使用自连接：

-- 排序从 1 开始。如果已出现相同位次，则跳过之后的位次 
SELECT P1.name,
       P1.price,
       (SELECT COUNT(P2.price)
          FROM Products P2
         WHERE P2.price > P1.price) + 1 AS rank_1
  FROM Products P1 
  ORDER BY rank_1;

结果：

name price rank 
----- ------ ------ 
橘子    100     1 
西瓜     80     2 
苹果     50     3 
葡萄     50     3 
香蕉     50     3 
柠檬     30     6

巧用 COALESCE 函数

此函数作用返回参数中的第一个非空表达式，当我们在展示结果的时候不想展示 null，而想展示'N/A', 可以这么做:

SELECT 
    COALESCE(col, 'N/A')
  FROM
    tb;

SQL 性能优化技巧

参数是子查询时，使用 `EXISTS` 代替 `IN`

如果 IN 的参数是（1，2，3）这样的值列表时，没啥问题，但如果参数是子查询时，就需要注意了。比如，现在有如下两个表：
图示.img

现在我们要查出同时存在于两个表的员工，即田中和铃木，则以下用 IN 和 EXISTS 返回的结果是一样，但是用 EXISTS 的 SQL 会更快:

-- 慢
SELECT * 
  FROM Class_A
WHERE id IN (SELECT id 
               FROM  CLASS_B);

-- 快
SELECT *
  FROM Class_A A 
 WHERE EXISTS
(SELECT * 
   FROM Class_B  B
  WHERE A.id = B.id);

为啥使用 EXISTS 的 SQL 运行更快呢，有两个原因:

可以用到索引，如果连接列 (id) 上建立了索引，那么查询 Class_B 时不用查实际的表，只需查索引就可以了。
如果使用 EXISTS，那么只要查到一行数据满足条件就会终止查询，不用像使用 IN 时一样扫描全表。在这一点上 NOT EXISTS 也一样。

另外如果 IN 后面如果跟着的是子查询，由于 SQL 会先执行 IN 后面的子查询，会将子查询的结果保存在一张临时的工作表里（内联视图），然后扫描整个视图，显然扫描整个视图这个工作很多时候是非常耗时的，而用 EXISTS 不会生成临时表。

当然了，如果 IN 的参数是子查询时，也可以用连接来代替，如下：

-- 使用连接代替 IN SELECT A.id, A.name
FROM Class_A A INNER JOIN Class_B B ON A.id = B.id;

用到了「id」列上的索引，而且由于没有子查询，也不会生成临时表

避免排序

SQL 是声明式语言，即对用户来说，只关心它能做什么，不用关心它怎么做。这样可能会产生潜在的性能问题：排序，会产生排序的代表性运算有下面这些:

GROUP BY 子句
ORDER BY 子句聚合函数 (SUM、COUNT、AVG、MAX、MIN)
DISTINCT
集合运算符 (UNION、INTERSECT、EXCEPT)
窗口函数 (RANK、ROW_NUMBER 等)

如果在内存中排序还好，但如果内存不够导致需要在硬盘上排序上的话，性能就会急剧下降，所以我们需要减少不必要的排序。怎样做可以减少排序呢。

使用集合运算符的 `ALL` 可选项

SQL 中有 UNION，INTERSECT，EXCEPT 三个集合运算符，默认情况下，这些运算符会为了避免重复数据而进行排序，对比一下使用 UNION 运算符加和不加 ALL 的情况:
图示.img

注意：加 ALL 是优化性能非常有效的手段，不过前提是不在乎结果是否有重复数据。

使用 `EXISTS` 代表 `DISTINCT`

为了排除重复数据， DISTINCT 也会对结果进行排序，如果需要对两张表的连接结果进行去重，可以考虑用 EXISTS 代替 DISTINCT，这样可以避免排序。

如何找出有销售记录的商品，使用如下 DISTINCT 可以：

SELECT DISTINCT I.item_no
FROM Items I INNER JOIN SalesHistory SH
ON I. item_no = SH. item_no;

不过更好的方式是使用 EXISTS:

SELECT item_no FROM Items I
WHERE EXISTS 
        (SELECT *
           FROM SalesHistory SH
          WHERE I.item_no = SH.item_no);

既用到了索引，又避免了排序对性能的损耗。

在极值函数中使用索引（`MAX`/`MIN`）

使用 MAX/ MIN 都会对进行排序，如果参数字段上没加索引会导致全表扫描，如果建有索引，则只需要扫描索引即可，对比如下

-- 这样写需要扫描全表 
SELECT MAX(item)
  FROM Items;

-- 这样写能用到索引 
SELECT MAX(item_no)
  FROM Items;

注意：极值函数参数推荐为索引列中并不是不需要排序，而是优化了排序前的查找速度（毕竟索引本身就是有序排列的）。

能写在 `WHERE` 子句里的条件不要写在 `HAVING` 子句里

下列 SQL 语句返回的结果是一样的:

-- 聚合后使用 HAVING 子句过滤
SELECT sale_date, SUM(quantity)
  FROM SalesHistory GROUP BY sale_date
HAVING sale_date = '2007-10-01';

-- 聚合前使用 WHERE 子句过滤
SELECT sale_date, SUM(quantity)
  FROM SalesHistory
 WHERE sale_date = '2007-10-01' 
 GROUP BY sale_date;

使用第二条语句效率更高，原因主要有两点:

使用 GROUP BY 子句进行聚合时会进行排序，如果事先通过 WHERE 子句能筛选出一部分行，能减轻排序的负担
在 WHERE 子句中可以使用索引，而 HAVING 子句是针对聚合后生成的视频进行筛选的，但很多时候聚合后生成的视图并没有保留原表的索引结构

在 `GROUP BY` 子句和 `ORDER BY` 子句中使用索引

GROUP BY 子句和 ORDER BY 子句一般都会进行排序，以对行进行排列和替换，不过如果指定带有索引的列作为这两者的参数列，由于用到了索引，可以实现高速查询，由于索引是有序的，排序本身都会被省略掉

使用索引时，条件表达式的左侧应该是原始字段

假设我们在 col 列上建立了索引，则下面这些 SQL 语句无法用到索引:

SELECT *
  FROM SomeTable
 WHERE col * 1.1 > 100;

SELECT *
  FROM SomeTable
 WHERE SUBSTR(col, 1, 1) = 'a';

以上第一个 SQL 在索引列上进行了运算, 第二个 SQL 对索引列使用了函数，均无法用到索引，正确方式是把列单独放在左侧, 如下:

SELECT *
  FROM SomeTable
 WHERE col_1 > 100 / 1.1;

当然如果需要对此列使用函数，则无法避免在左侧运算，可以考虑使用函数索引，不过一般不推荐随意这么做。

尽量避免使用否定形式

如下的几种否定形式不能用到索引：

<>
!=
NOT IN

所以以下了 SQL 语句会导致全表扫描

SELECT *
  FROM SomeTable
 WHERE col_1 <> 100;

可以改成以下形式

SELECT *
  FROM SomeTable
 WHERE col_1 > 100 or col_1 < 100;

进行默认的类型转换

假设 col 是 char 类型，则推荐使用以下第二，三条 SQL 的写法，不推荐第一条 SQL 的写法

× SELECT * FROM SomeTable WHERE col_1 = 10;
○ SELECT * FROM SomeTable WHERE col_1 = '10';
○ SELECT * FROM SomeTable WHERE col_1 = CAST(10, AS CHAR(2));

虽然第一条 SQL 会默认把 10 转成 '10'，但这种默认类型转换不仅会增加额外的性能开销，还会导致索引不可用，所以建议使用的时候进行类型转换。

减少中间表

在 SQL 中，子查询的结果会产生一张新表，不过如果不加限制大量使用中间表的话，会带来两个问题，一是展示数据需要消耗内存资源，二是原始表中的索引不容易用到，所以尽量减少中间表也可以提升性能。

灵活使用 HAVING 子句

这一点与上面第八条相呼应，对聚合结果指定筛选条件时，使用 HAVING 是基本的原则，可能一些工程师会倾向于使用下面这样的写法:

SELECT *
  FROM (SELECT sale_date, MAX(quantity) AS max_qty
          FROM SalesHistory 
         GROUP BY sale_date) TMP
         WHERE max_qty >= 10;

虽然上面这样的写法能达到目的，但会生成 TMP 这张临时表，所以应该使用下面这样的写法:

SELECT sale_date, MAX(quantity) 
  FROM SalesHistory
 GROUP BY sale_date
HAVING MAX(quantity) >= 10;

HAVING 子句和聚合操作是同时执行的，所以比起生成中间表后再执行 HAVING 子句，效率会更高，代码也更简洁

使用延迟查询优化 `limit [offset], [rows]`

经常出现类似以下的 SQL 语句:

SELECT * FROM film LIMIT 100000, 10

offset 特别大!

这是很多慢 SQL 的主要原因之一，尤其是在跑任务需要分页执行时，经常跑着跑着 offset 就跑到几十万了，导致任务越跑越慢。

LIMIT 能很好地解决分页问题，但如果 offset 过大的话，会造成严重的性能问题，这句 SQL 的执行逻辑是

从数据表中读取第N条数据添加到数据集中
重复第一步直到 N = 10000 + 10
根据 offset 抛弃前面 10000 条数
返回剩余的 10 条数据

显然，导致这句 SQL 速度慢的问题出现在第二步！这前面的 10000 条数据完全对本次查询没有意义，但是却占据了绝大部分的查询时间！

可以通过延迟查询的方式来优化

假设有以下 SQL,有组合索引（sex, rating）

SELECT <cols> FROM profiles where sex='M' order by rating limit 100000, 10;

则上述写法可以改成如下写法

SELECT <cols> 
  FROM profiles 
inner join
(SELECT id form FROM profiles where x.sex='M' order by rating limit 100000, 10)
as x using(id);

这里利用了覆盖索引的特性，先从覆盖索引中获取 100010 个 id，再丢充掉前 100000 条 id，保留最后 10 个 id 即可，丢掉 100000 条 id 不是什么大的开销，所以这样可以显著提升性能。

注意组合索引，要符合最左匹配原则才能生效

假设存在这样顺序的一个联合索引“col_1, col_2, col_3”。这时，指定条件的顺序就很重要。

○ SELECT * FROM SomeTable WHERE col_1 = 10 AND col_2 = 100 AND col_3 = 500;
○ SELECT * FROM SomeTable WHERE col_1 = 10 AND col_2 = 100 ;
× SELECT * FROM SomeTable WHERE col_2 = 100 AND col_3 = 500 ;

前面两条会命中索引，第三条由于没有先匹配 col_1，导致无法命中索引，另外如果无法保证查询条件里列的顺序与索引一致，可以考虑将联合索引拆分为多个索引。

使用 `LIKE` 谓词时，只有前方一致的匹配才能用到索引（最左匹配原则）

× SELECT * FROM SomeTable WHERE col_1 LIKE '%a';
× SELECT * FROM SomeTable WHERE col_1 LIKE '%a%';
○ SELECT * FROM SomeTable WHERE col_1 LIKE 'a%';

上例中，只有第三条会命中索引，前面两条进行后方一致或中间一致的匹配无法命中索引

简单字符串表达式

模型字符串可以使用 _ 时，尽可能避免使用 %, 假设某一列上为 char(5)

不推荐

SELECT 
    first_name, 
    last_name,
    homeroom_nbr
  FROM Students
 WHERE homeroom_nbr LIKE 'A-1%';

尽量使用自增 id 作为主键

比如现在有一个用户表，有人说身份证是唯一的，也可以用作主键，理论上确实可以，不过用身份证作主键的话，一是占用空间相对于自增主键大了很多，二是很容易引起频繁的页分裂，造成性能问题。

主键选择的几个原则：自增，尽量小，不要对主键进行修改.

如何优化 `count(*)`

使用以下 sql 会导致慢查询

SELECT COUNT(*) FROM SomeTable
SELECT COUNT(1) FROM SomeTable

原因是会造成全表扫描，有人说 COUNT(*) 不是会利用主键索引去查找吗，怎么还会慢，这就要谈到 MySQL 中的聚簇索引和非聚簇索引了，聚簇索引叶子节点上存有主键值+整行数据，非聚簇索叶子节点上则存有辅助索引的列值 + 主键值，如下

图示.img

所以就算对 COUNT(*) 使用主键查找，由于每次取出主键索引的叶子节点时，取的是一整行的数据，效率必然不高，但是非聚簇索引叶子节点只存储了「列值 + 主键值」,这也启发我们可以用非聚簇索引来优化，假设表有一列叫 status, 为其加上索引后，可以用以下语句优化:

SELECT COUNT(status) FROM SomeTable

有人曾经测过，假设有 100 万行数据，使用聚簇索引来查找行数的，比使用 COUNT(*) 查找速度快 10 几倍。不过需要注意的是通过这种方式无法计算出 status 值为 null 的那些行。

如果主键是连续的，可以利用 MAX(id) 来查找，MAX 也利用到了索引，只需要定位到最大 id 即可，性能极好，如下，秒现结果

SELECT MAX(id) FROM SomeTable

说句题句话，有人说用 MyISAM 引擎调用 COUNT(*) 非常快，那是因为它提前把行数存在磁盘中了，直接拿，当然很快，不过如果有 WHERE 的限制,用 COUNT(*) 还是很慢!

避免使用 `SELECT *` ，尽量利用覆盖索引来优化性能

SELECT * 会提取出一整行的数据，如果查询条件中用的是组合索引进行查找，还会导致回表（先根据组合索引找到叶子节点，再根据叶子节点上的主键回表查询一整行），降低性能，而如果我们所要的数据就在组合索引里，只需读取组合索引列，这样网络带宽将大大减少,假设有组合索引列 (col_1, col_2)

推荐用

SELECT col_1, col_2 
  FROM SomeTable 
 WHERE col_1 = xxx AND col_2 = xxx

不推荐用

SELECT *
  FROM SomeTable 
 WHERE col_1 = xxx AND  col_2 = xxx

如有必要，使用 `force index()` 强制走某个索引

业务团队曾经出现类似以下的慢 SQL 查询

SELECT *
  FROM  SomeTable
 WHERE `status` = 0
   AND `gmt_create` > 1490025600
   AND `gmt_create` < 1490630400
   AND `id` > 0
   AND `post_id` IN ('67778', '67811', '67833', '67834', '67839', '67852', '67861', '67868', '67870', '67878', '67909', '67948', '67951', '67963', '67977', '67983', '67985', '67991', '68032', '68038'/*... omitted 480 items ...*/)
order by id asc limit 200;

post_id 也加了索引，理论上走 post_id 索引会很快查询出来，但实际通过 EXPLAIN 发现走的却是 id 的索引（这里隐含了一个常见考点，在多个索引的情况下, MySQL 会如何选择索引），而 id > 0 这个查询条件没啥用，直接导致了全表扫描，所以在有多个索引的情况下一定要慎用，可以使用 force index 来强制走某个索引，以这个例子为例，可以强制走 post_id 索引，效果立杆见影。

这种由于表中有多个索引导致 MySQL 误选索引造成慢查询的情况在业务中也是非常常见，一方面是表索引太多，另一方面也是由于 SQL 语句本身太过复杂导致，针对本例这种复杂的 SQL 查询，其实用 ElasticSearch 搜索引擎来查找更合适。

使用 EXPLAIN 来查看 SQL 执行计划

上个点说了，可以使用 EXPLAIN 来分析 SQL 的执行情况，如怎么发现上文中的最左匹配原则不生效呢，执行「EXPLAIN + SQL 语句」可以发现 key 为 None ,说明确实没有命中索引

批量插入，速度更快

当需要插入数据时，批量插入比逐条插入性能更高

推荐用

-- 批量插入
INSERT INTO TABLE (id, user_id, title) VALUES (1, 2, 'a'),(2,3,'b');

不推荐用

INSERT INTO TABLE (id, user_id, title) VALUES (1, 2, 'a');
INSERT INTO TABLE (id, user_id, title) VALUES (2,3,'b');

批量插入 SQL 执行效率高的主要原因是合并后日志量 MySQL 的 binlog 和 innodb 的事务让日志减少了，降低日志刷盘的数据量和频率，从而提高了效率

慢日志 SQL 定位

前面我们多次说了 SQL 的慢查询，那么该怎么定位这些慢查询 SQL 呢，主要用到了以下几个参数
图示.img
这几个参数一定要配好，再根据每条慢查询对症下药。

参考资料

posted @ 2020-05-28 21:38 holm 阅读(378) 评论(0) 编辑收藏举报

刷新页面返回顶部

holm

MySql进阶技巧&查询优化

来源

总结

SQL 的书写规范

SQL 的一些进阶使用技巧

巧用 CASE WHEN 进行统计

巧用 CASE WHEN 进行更新

巧用 HAVING 子句

自连接

删除重复行

排序

巧用 COALESCE 函数

SQL 性能优化技巧

参数是子查询时，使用 EXISTS 代替 IN

避免排序

使用集合运算符的 ALL 可选项

使用 EXISTS 代表 DISTINCT

在极值函数中使用索引（MAX/MIN）

能写在 WHERE 子句里的条件不要写在 HAVING 子句里

在 GROUP BY 子句和 ORDER BY 子句中使用索引

使用索引时，条件表达式的左侧应该是原始字段

尽量避免使用否定形式

进行默认的类型转换

减少中间表

灵活使用 HAVING 子句

使用延迟查询优化 limit [offset], [rows]

注意组合索引，要符合最左匹配原则才能生效

使用 LIKE 谓词时，只有前方一致的匹配才能用到索引（最左匹配原则）

简单字符串表达式

尽量使用自增 id 作为主键

如何优化 count(*)

避免使用 SELECT * ，尽量利用覆盖索引来优化性能

如有必要，使用 force index() 强制走某个索引

使用 EXPLAIN 来查看 SQL 执行计划

批量插入，速度更快

慢日志 SQL 定位

参考资料

公告

巧用 `CASE WHEN` 进行统计

巧用 `CASE WHEN` 进行更新

巧用 `HAVING` 子句

参数是子查询时，使用 `EXISTS` 代替 `IN`

使用集合运算符的 `ALL` 可选项

使用 `EXISTS` 代表 `DISTINCT`

在极值函数中使用索引（`MAX`/`MIN`）

能写在 `WHERE` 子句里的条件不要写在 `HAVING` 子句里

在 `GROUP BY` 子句和 `ORDER BY` 子句中使用索引

使用延迟查询优化 `limit [offset], [rows]`

使用 `LIKE` 谓词时，只有前方一致的匹配才能用到索引（最左匹配原则）

如何优化 `count(*)`

避免使用 `SELECT *` ，尽量利用覆盖索引来优化性能

如有必要，使用 `force index()` 强制走某个索引