架构与思维：高并发下解决主从延时的一些思路
1 回顾下MySQL主从复制
主从复制，是指建立一个和主数据库完全一样的数据库环境（称为从数据库），并将主库的操作行为进行复制的过程：将主数据库的DDL和DML的操作日志同步到从数据库上，
然后在从数据库上对这些日志进行重新执行，来保证从数据库和主数据库的数据的一致性。
1.1 为什么要做主从复制
1、在复杂的业务操作中，经常会有操作导致锁行甚至锁表的情况，如果读写不解耦，会很影响运行中的业务，使用主从复制，让主库负责写，从库负责读。
即使主库出现了锁表的情景，通过读从库也可以保证业务的正常运行。
2、保证数据的热备份，主库宕机后能够及时替换主库，保障业务可用性。
3、架构的演进：业务量扩大，I/O访问频率增高，单机无法满足，主从复制可以做多库方案，降低磁盘I/O访问的频率，提高单机的I/O性能。
4、本质上也是分治理念，主从复制、读写分离即是压力分拆的过程。
5、读写比也影响整个拆分方式，读写比越高，主从库比例应越高，才能保证读写的均衡，才能保证较好的运行性能。读写比下的主从分配方法下：
| 读写比（大约） | 主库 | 从库 |
| 50：50 | 1 | 1 |
| 66.6：33.3 | 1 | 2 |
| 80：20 | 1 | 4 |
| -- -- | -- -- | -- -- |
1.2 主从复制的原理
当在从库上启动复制时，首先创建I/O线程连接主库，主库随后创建Binlog Dump线程读取数据库事件并发送给I/O线程，I/O线程获取到事件数据后更新到从库的中继日志Relay Log中去，之后从库上的SQL线程读取中继日志Relay Log中更新的数据库事件并应用，
如下图所示：
细化一下有如下几个步骤：
1、MySQL主库在事务提交时把数据变更（insert、delet、update）作为事件日志记录在二进制日志表（binlog）里面。
2、主库上有一个工作线程 binlog dump thread，把binlog的内容发送到从库的中继日志relay log中。
3、从库根据中继日志relay log重做数据变更操作，通过逻辑复制来达到主库和从库的数据一致性。
4、MySQL通过三个线程来完成主从库间的数据复制，其中binlog dump线程跑在主库上，I/O线程和SQL线程跑在从库上。拥有多个从库的主库会为每一个连接到主库的从库创建一个binlog dump线程。
1.3 主从延迟的原因
MySQL主从复制，读写分离是我们常用的数据库架构，但是在并发量较大、数据变化大的场景下，主从延时会比较严重。
延迟的本质原因是：系统TPS并发较高时，主库产生的DML（也包含一部分DDL）数量超过Slave一个Sql线程所能承受的范围，效率就降低了。
2 几种解决方案
2.1 最优的系统配置
优化系统配置（系统级、链接层、存储引擎层），让数据库处在最优状态：最大连接数、允许错误数、允许超时时间、pool_size、log_size等，保证内存、CPU、存储空间的扩容（硬件部分）。
1 # TIME_WAIT超时时间，默认是60s 2 net.ipv4.tcp_fin_timeout = 30 3 # 增加tcp支持的队列数，加大队列长度可容纳更多的等待连接 4 net.ipv4.tcp_max_syn_backlog = 65535 5 # 减少断开连接时 ，资源回收 6 net.ipv4.tcp_max_tw_buckets = 8000 7 net.ipv4.tcp_tw_reuse = 1 8 net.ipv4.tcp_tw_recycle = 1 9 net.ipv4.tcp_fin_timeout = 10 10 # 打开文件的限制 11 *soft nofile 65535 12 *hard nofile 65535
公共参数默认值：
1 max_connections = 151 2 # 同时处理最大连接数，建议设置最大连接数是上限连接数的80%左右,一般默认值为151，可以做适当调整。 3 sort_buffer_size = 2M 4 # 查询排序时缓冲区大小，只对order by和group by起作用，建议增大为16M 5 open_files_limit = 1024 6 # 打开文件数限制，如果show global status like 'open_files'查看的值等于或者大于open_files_limit值时，程序会无法连接数据库或卡死
InnoDB参数默认值：
1 innodb_buffer_pool_size = 128M 2 # 索引和数据缓冲区大小，建议设置物理内存的70%左右（这个前提是这个服务器只用做Mysql数据库服务器） 3 innodb_buffer_pool_instances = 1 4 # 缓冲池实例个数，推荐设置4个或8个 5 innodb_flush_log_at_trx_commit = 1 6 # 关键参数，0代表大约每秒写入到日志并同步到磁盘，数据库故障会丢失1秒左右事务数据。1为每执行一条SQL后写入到日志并同步到磁盘，I/O开销大，执行完SQL要等待日志读写，效率低。2代表只把日志写入到系统缓存区，再每秒同步到磁盘，效率很高，如果服务器故障，才会丢失事务数据。对数据安全性要求不是很高的推荐设置2，性能高，修改后效果明显。 7 sync_binlog=1 8 9 innodb_file_per_table = ON 10 # 是否共享表空间，5.7+版本默认ON，共享表空间idbdata文件不断增大，影响一定的I/O性能。建议开启独立表空间模式，每个表的索引和数据都存在自己独立的表空间中，可以实现单表在不同数据库中移动。 11 innodb_log_buffer_size = 8M 12 # 日志缓冲区大小，由于日志最长每秒钟刷新一次，所以一般不用超过16M
2.2 数据库层做合理分治
数据库分区是永恒的话题，主从延迟一定程度上是单台数据库主服务操作过于频繁，使得单线程的SQL thread 疲于应付。可以适当的从功能上对数据库进行拆分，分担压力。
数据库拆分可以参考我的这篇文章《分库分表》，这边就不赘述。
2.3 从库同步完成后响应
假如你的业务时间允许，你可以在写入主库的时候，确保数据都同步到从库了之后才返回这条数据写入成功，当然如果有多个从库，你也必须确保每个从库都写入成功。当然，这个方案对性能和时间的消耗是极大的，会直接降低你的系统吞吐量，不推荐。
2.4 适当引入缓存
可以引入redis或者其他nosql数据库来存储我们经常会产生主从延迟的业务数据。当我在写入数据库的同时，我们再写入一份到redis中。
读取数据的时候，我们可以先去查看redis中是否有这个数据，如果有我们就可以直接从redis中读取这个数据。当数据真正同步到数据库中的时候，再从redis中把数据删除。如下图：
这边还需注意两点，很重要哟，面试必问：
1、虽然一定程度上缓解延迟的问题，但如果遇到高并发的情况，对Redis的频繁删除也不合理，所以需要结合场景综合考虑，比如定期删除缓存。
2、高并发情况下可能存在slave还没同步，又有新的值写进来了，这时候Master --> Slave 还在排队中，但是Cache已经被更新了。所以如果对Redis进行删除，可能会误删除最新的缓存值，导致读取到的数据是旧的。
如上图情况，对一个值分别更新 1，2，3，主从同步按照顺序进行，刚同步完1，Cache就更新到3了，这时候如果把Cache删除了，读请求就会走到从库去读，读到了1，数据就会出现短暂不一致了。
所以这个地方也需要注意，可以同时将唯一键（比如主键）也做保存，删除之前做一个判断，避免误删。或者干脆不实时删除缓存，低峰值期再来处理。
2.5 多线程重放RelayLog
MySQL使用单线程重放RelayLog，那能不能在这上面做解法呢，比如使用多线程并行重放RelayLog，就可以缩短时间。但是这个对数据一致性是个考验。
需要考虑如何分割RelayLog，才能够让多个数据库实例，多个线程并行重放RelayLog，不会出现不一致。比如RelayLog包含这三条语句给学生授予学分的记录，你就不知道结果会变成什么。可能是806甚至是721。
1 update t_score set score = 721 where stu_code=374532; 2 update t_score set score = 806 where stu_code=374532; 3 update t_score set score = 899 where stu_code=374532;
解法就是：
相同库表上的写操作，用相同的线程来重放RelayLog；不同库表上的写操作，可以并发用多个线程并发来重放RelayLog。
设计一个哈希算法，hash(db-name) % thread-num，表名称hash之后再模上线程数，就能很轻易做到，同一个库表上的写操作，被同一个重放线程串行执行，做到提效的目的。
这其实也是一种分治的思维，类似上面直接对数据库进行拆分。
2.6 少量读业务直连主库
2.7 适当的限流、降级
3 总结
上面提到了多种方案都是可以讨论，每个方法都有弊端和优势，根据实际情况进行选型。在面试的过程中，也经常遇到候选人跟我讨论的。
另外，mysql5.6之后，可以按照库并行复制。mysql5.7之后，提供了基于GTID并行复制的能力。可以参考学习下。
