高性能Mysql

索引及数据库高性能基础作为最核心的内功知识，也是面试中我对应聘者的重点考察项之一。迄今为止，在这方面能让我完全满意的应聘者寥寥无几。

注意：这里介绍的技能对Mysql、SqlServer、Oracle等关系型数据库基本通用，比较而言，Mysql索引机制更加简单，为了排除更高级的数据库特性带来的复杂性，本文采用Mysql作为性能分析案例。

另外Mysql常见的存储引擎：MyISAM、InnoDB，实际项目中极少采用MyISAM，大多采用InnoDB。
InnoDB的索引类型：BTREE、HASH，实际项目中很少使用HASH索引，基本都采用BTREE
故采用InnoDB和BTREE作为案例分析更具有普遍性。以下介绍的基础知识可能随着Mysql的版本发展会有少许变化。

I 关于索引

数据准备
建测试表：

CREATE TABLE `user_info` (
  `user_id` bigint(20) NOT NULL AUTO_INCREMENT,
  `name` varchar(20) NOT NULL,
  `age` int(18) NOT NULL,
  PRIMARY KEY (`user_id`)
) ENGINE=InnoDB AUTO_INCREMENT=10000001 DEFAULT CHARSET=utf8

生成测试数据：

public class FileGen {
      public static void main(String[] args) throws Exception {
           List<String> lines = new ArrayList<String>();
           for(int i=1; i<=10000000; i++) {
                 lines.add(i+"," + "peng" + i +"," + RandomUtils.nextInt(1, 100));
           }
           File file = new File("C:\\ProgramData\\MySQL\\MySQL Server 5.7\\Uploads\\upload.txt");
           FileUtils.writeLines(file, lines);
      }
}

导入测试数据：

load data infile "C:/ProgramData/MySQL/MySQL Server 5.7/Uploads/upload.txt" into table user_info fields terminated by ',';

无索引：

1、ALL

单索引：

CREATE TABLE `user_info_idx` (
  `user_id` bigint(20) NOT NULL AUTO_INCREMENT,
  `name` varchar(20) NOT NULL,
  `age` int(18) NOT NULL,
  PRIMARY KEY (`user_id`),
  KEY `idx_name` (`name`) USING BTREE
) ENGINE=InnoDB AUTO_INCREMENT=10000001 DEFAULT CHARSET=utf8

1、=、IN、前缀LIKE、后缀LIKE、模糊LIKE

** 2、<、>、>=、<=、<>**

3、覆盖索引

4、函数或运算对索引的影响

5、不同字符集对索引的影响

CREATE TABLE `user_info_idx_join` (
  `user_id` bigint(20) NOT NULL AUTO_INCREMENT,
  `name` varchar(20) NOT NULL,
  `age` int(18) NOT NULL,
  PRIMARY KEY (`user_id`),
  KEY `idx_name` (`name`) USING BTREE
) ENGINE=InnoDB AUTO_INCREMENT=10000001 DEFAULT CHARSET=utf8

CREATE TABLE `user_info_idx_join_collate` (
  `user_id` bigint(20) NOT NULL AUTO_INCREMENT,
  `name` varchar(20) CHARACTER SET gb2312 NOT NULL,
  `age` int(18) NOT NULL,
  PRIMARY KEY (`user_id`),
  KEY `idx_name` (`name`) USING BTREE
) ENGINE=InnoDB AUTO_INCREMENT=10000001 DEFAULT CHARSET=utf8

联合索引：

1、索引顺序

CREATE TABLE `people` (
  `id` bigint(18) NOT NULL,
  `name` varchar(20) DEFAULT NULL,
  `age` int(18) DEFAULT NULL,
  `job` varchar(20) DEFAULT NULL,
  `remark` varchar(50) DEFAULT NULL,
  PRIMARY KEY (`id`),
  KEY `idx_name_age` (`name`,`age`) USING BTREE
) ENGINE=InnoDB DEFAULT CHARSET=utf8

2、条件顺序

3、联合索引前字段范围查找对索引的影响

4、联合索引后字段范围查找

对InnoDB而言，二级索引最后面会自动带上主键，也就是说
idx_name_age(name, age)
idx_name_age(name, age, id)
是互相等价的

于开发而言，一般来说性能从好到差依次有
1、索引覆盖查询，即一般所说的不回表（目录里能找到的，就不要再翻正文找了）
2、回表查询，走索引（主键>惟一索引>普通索引）
3、全表扫描

索引结论：

无论是单索引还是联合索引均遵循左匹配
SQL语句中条件的先后顺序对索引选择无影响
不同字符集的表或字段对索引选择有影响
对索引字段的函数及计算会影响索引选择
索引顺序很重要，需要根据业务及区分度选择好合适的索引顺序
联合索引中，前一个索引字段的范围查找会导致后面的字段无法继续匹配

以上索引的种种行为只是现象，这些现象背后的本质在于Mysql的InnoDB索引（默认）是BTree，B+树的结构请自行Google。当你建立了一个B+树模型，你也就掌握了Mysql的索引，进而了解索引这些现象背后的根因。

如何选择合适的主键：

1、自增
优点是简单直接
缺点是要避免使用自增ID作为业务关联字段，否则易造成数据迁移问题。另外在极高并发时也存在自增锁开销。
尽管如此，一般情况下笔者还是建议使用自增，表设计时避免使用自增ID作为业务键以避免数据迁移问题。
2、UUID或其它无规律随机数
优点是实现简单
缺点是UUID对于BTREE而言极不友好，索引搜索及重建代价极高，不建议使用UUID作为主键或惟一索引键，会极大的影响性能（过长且随机）。
3、SnowFlake或其它趋势递增ID生成算法
趋势递增对BTREE友好，索引查找效率高，分布式ID生成算法也避免了数据迁移问题，生成的ID可作为业务键使用。
缺点是不如自增严格有序，也没有自增直观，一般建议给需要预留水平扩展的表使用。

II、关于行锁

存储引擎有MyISAM、InnoDB等，其中以InnoDB最为广泛使用。
锁、事务都工作在存储引擎层，锁的实现与具体的存储引擎密切相关。
索引工作在存储引擎层，不同的存储引擎甚至可以用不同的索引实现结构，InnoDB常用的索引结构有BTree、Hash，其中以BTree最为常用。
InnoDB行锁是通过给索引加锁实现的，如果无合适索引，则相当于表锁。
举个粟子：

CREATE TABLE `people` (
  `id` bigint(18) NOT NULL,
  `name` varchar(20) DEFAULT NULL,
  `age` int(18) DEFAULT NULL,
  `job` varchar(20) DEFAULT NULL,
  `remark` varchar(50) DEFAULT NULL,
  KEY `idx_name` (`name`) USING BTREE
) ENGINE=InnoDB DEFAULT CHARSET=utf8

update people set remark = '20岁' where name = 'moext' and age = 20;
update people set remark = '10岁' where name = 'moext' and age = 10;

通过多次测试，证实确会发生死锁，这也从侧面印证了Mysql的行锁并不真正是基于"行"的。

与Java中的一般锁实现不同，Mysql用了多版本并发控制MVCC来提高读操作的性能。核心是通过版本号来减少锁的争用。注: 只有read-committed和 repeatable-read 两种事务隔离级别才能使用MVCC。MVCC的更详细知识请自行Google。

III、开发原则

笔者认为这部分的功底也是目前最能体现Java程序员技术差异之一，开发5万用户的系统与开发500万用户的系统技术是完全不同的。一般来说传统行业的程序员，由于使用了Oracle或者限于数据量的原因，会倾向于使用贫血模型+sql来解决大部分业务。而互联网行业，尤其是有一定数据量并使用了Mysql作为核心系统的，大多倾向于只把数据库（仅）做为存储的中间件之一、辅于分布式缓存、消息中间件完成业务。由于要实现高并发、高性能、可伸缩，根据具体场景甚至会有反范式设计、放弃强事务一致追求最终一致等设计。实质是通过各种中间件及Java业务代码分担了Mysql（能做但不擅长的）压力。
具体到操作手法上，主要有以下细节差异：
1、放弃多表Join，改为由Java实现多表Join，留有分库分表问余地（预留将来系统垂直和水平拆分）
2、(如果可能) Update转Insert
3、高并发场景使用Nosql，异步更新回Mysql

IV、设计原则

出于保密原因，笔者不便公开曾任职过的公司使用的数据库设计规范。他山之石，可以攻玉，以下是58到家的数据库30条军规及解读供参考（注意：58到家的数据库30条军规已在互联网上公开）。
一、基础规范
（1）必须使用InnoDB存储引擎
解读：支持事务、行级锁、并发性能更好、CPU及内存缓存页优化使得资源利用率更高

（2）必须使用UTF8字符集
解读：万国码，无需转码，无乱码风险，节省空间

（3）数据表、数据字段必须加入中文注释
解读：N年后谁tm知道这个r1,r2,r3字段是干嘛的

（4）禁止使用存储过程、视图、触发器、Event
解读：高并发大数据的互联网业务，架构设计思路是“解放数据库CPU，将计算转移到服务层”，并发量大的情况下，这些功能很可能将数据库拖死，业务逻辑放到服务层具备更好的扩展性，能够轻易实现“增机器就加性能”。数据库擅长存储与索引，CPU计算还是上移吧

（5）禁止存储大文件或者大照片
解读：为何要让数据库做它不擅长的事情？大文件和照片存储在文件系统，数据库里存URI多好

二、命名规范
（6）只允许使用内网域名，而不是ip连接数据库

（7）线上环境、开发环境、测试环境数据库内网域名遵循命名规范
业务名称：xxx
线上环境：dj.xxx.db
开发环境：dj.xxx.rdb
测试环境：dj.xxx.tdb
从库在名称后加-s标识，备库在名称后加-ss标识
线上从库：dj.xxx-s.db
线上备库：dj.xxx-sss.db

（8）库名、表名、字段名：小写，下划线风格，不超过32个字符，必须见名知意，禁止拼音英文混用

（9）表名t_xxx，非唯一索引名idx_xxx，唯一索引名uniq_xxx

三、表设计规范
（10）单实例表数目必须小于500

（11）单表列数目必须小于30

（12）表必须有主键，例如自增主键
解读：
a）主键递增，数据行写入可以提高插入性能，可以避免page分裂，减少表碎片提升空间和内存的使用
b）主键要选择较短的数据类型， Innodb引擎普通索引都会保存主键的值，较短的数据类型可以有效的减少索引的磁盘空间，提高索引的缓存效率
c）无主键的表删除，在row模式的主从架构，会导致备库夯住

（13）禁止使用外键，如果有外键完整性约束，需要应用程序控制
解读：外键会导致表与表之间耦合，update与delete操作都会涉及相关联的表，十分影响sql 的性能，甚至会造成死锁。高并发情况下容易造成数据库性能，大数据高并发业务场景数据库使用以性能优先

四、字段设计规范
（14）必须把字段定义为NOT NULL并且提供默认值
解读：
a）null的列使索引/索引统计/值比较都更加复杂，对MySQL来说更难优化
b）null 这种类型MySQL内部需要进行特殊处理，增加数据库处理记录的复杂性；同等条件下，表中有较多空字段的时候，数据库的处理性能会降低很多
c）null值需要更多的存储空，无论是表还是索引中每行中的null的列都需要额外的空间来标识
d）对null 的处理时候，只能采用is null或is not null，而不能采用=、in、<、<>、!=、not in这些操作符号。如：where name!=’shenjian’，如果存在name为null值的记录，查询结果就不会包含name为null值的记录

（15）禁止使用TEXT、BLOB类型
解读：会浪费更多的磁盘和内存空间，非必要的大量的大字段查询会淘汰掉热数据，导致内存命中率急剧降低，影响数据库性能

（16）禁止使用小数存储货币
解读：使用整数吧，小数容易导致钱对不上

（17）必须使用varchar(20)存储手机号
解读：
a）涉及到区号或者国家代号，可能出现+-()
b）手机号会去做数学运算么？
c）varchar可以支持模糊查询，例如：like“138%”

（18）禁止使用ENUM，可使用TINYINT代替
解读：
a）增加新的ENUM值要做DDL操作
b）ENUM的内部实际存储就是整数，你以为自己定义的是字符串？

五、索引设计规范
（19）单表索引建议控制在5个以内

（20）单索引字段数不允许超过5个
解读：字段超过5个时，实际已经起不到有效过滤数据的作用了

（21）禁止在更新十分频繁、区分度不高的属性上建立索引
解读：
a）更新会变更B+树，更新频繁的字段建立索引会大大降低数据库性能
b）“性别”这种区分度不大的属性，建立索引是没有什么意义的，不能有效过滤数据，性能与全表扫描类似

（22）建立组合索引，必须把区分度高的字段放在前面
解读：能够更加有效的过滤数据

六、SQL使用规范
（23）禁止使用SELECT *，只获取必要的字段，需要显示说明列属性
解读：
a）读取不需要的列会增加CPU、IO、NET消耗
b）不能有效的利用覆盖索引
c）使用SELECT *容易在增加或者删除字段后出现程序BUG

（24）禁止使用INSERT INTO t_xxx VALUES(xxx)，必须显示指定插入的列属性
解读：容易在增加或者删除字段后出现程序BUG

（25）禁止使用属性隐式转换
解读：SELECT uid FROM t_user WHERE phone=13812345678 会导致全表扫描，而不能命中phone索引，猜猜为什么？（这个线上问题不止出现过一次）

（26）禁止在WHERE条件的属性上使用函数或者表达式
解读：SELECT uid FROM t_user WHERE from_unixtime(day)>='2017-02-15' 会导致全表扫描
正确的写法是：SELECT uid FROM t_user WHERE day>= unix_timestamp('2017-02-15 00:00:00')

（27）禁止负向查询，以及%开头的模糊查询
解读：
a）负向查询条件：NOT、!=、<>、!<、!>、NOT IN、NOT LIKE等，会导致全表扫描
b）%开头的模糊查询，会导致全表扫描

（28）禁止大表使用JOIN查询，禁止大表使用子查询
解读：会产生临时表，消耗较多内存与CPU，极大影响数据库性能

（29）禁止使用OR条件，必须改为IN查询
解读：旧版本Mysql的OR查询是不能命中索引的，即使能命中索引，为何要让数据库耗费更多的CPU帮助实施查询优化呢？

（30）应用程序必须捕获SQL异常，并有相应处理

总结： 本文先使用EXPLAIN分析单索引和联合索引下的执行计划，得到常见情况下索引选择的现象，而这些现象的本质是因为InnoDB的BTREE索引。再通过简化的Mysql逻辑架构，先得到两个前堤：
1、锁工作在存储引擎层；
2、索引工作在存储引擎层。
继而分析Mysql的行锁并不是真正的“行”锁，而是基于对索引加锁的实现。
开发原则无绝对对错，开发5w用户的系统与开发500w用户的系统对数据库的使用方式差异极大。
设计原则中以58到家的数据库军规作为参考解读，希望读者能对并发量大、数据量大的互联网业务下的数据库设计有个初步了解。

最后笔者强烈推荐：《高性能Mysql》

posted @ 2018-04-26 13:10 彭彭（moext.com）阅读(273) 评论(0) 编辑收藏举报

刷新页面返回顶部