MYSQL高级第三天

1、应用优化:

1.1、使用连接池:

  对于访问数据库来说,建立连接的代价是比较昂贵的,因为我们频繁的创建关闭连接,是比较耗费资源的,我们有必要建立数据库连接池,以提高访问的性能。

 

1.2、减少对MYSQL的访问

1.2.1、避免对数据进行重复操作:

  在编写应用代码时,需要能够理清对数据库的访问逻辑。能够一次连接就获取到结果的,就不用两次连接,这样可以大大减少对数据库无用的重复请求。

 

1.2.1、增加cache层:

  在应用中,我们可以在应用上增加缓存层来达到减轻数据库负担的目的,缓存层有多种,也有很多实现方式,只要能达到降低数据库的负担,又能满足应用于需求就可以。

  因此可以部分数据从数据库中抽取出来放到应用端以文本方式存储,或者使用框架(Mybatis,Hivernate)提供的一级缓存/二级缓存,或者使用redis数据库来缓存数据。

 

1.3、负载均衡:

  负载均衡是应用中非常普通的一种优化方法,它的机制就是利用某种均衡算法,将固定的负载量分布到不同的服务器上,以此来降低单台服务器的负载,达到优化的效果。

 

1.3.1、使用mysql复制分流查询

  通过mysql的主从复制,实现读写分离,使增删改操作走主节点,查询操作走从节点,从而可以降低单台服务器的读写压力。

1.3.2、分布式数据库架构

  分布式数据库架构适合大数据量、负载高的情况,它有情况的拓展性和高可用性。通过在多台服务器之间分布数据,可以实现在多台服务器之间的负载均衡,提高访问效率。

 

2、查询缓存优化:

2.1、概述:

  开启mysql的查询缓存,当执行完全相同的SQL语句的时候,服务器就会直接从缓存中读取结果,当数据被修改,之前的缓存失效,修改比较频繁的表不适合做查询缓存。

2.2、操作流程

2.3、查询缓存配置

1、查看当前的mysql数据库是否支持查询缓存

2、查看当前的mysql是否开启了查询缓存

3、查看查询缓存的占用大小

4、查看查询缓存的状态变量

  Qcache_free_blocks 可用的内存块个数

  Qcache_free_memory 可用的内存空间

  Qcache_hits 查询缓存的命中次数(统计的是查询缓存的次数,数据库搜索引擎查询的不算)

  Qcache_insert 添加查询缓存的次数

  Qcache_lowmem_pruncs 当内存空间不足,将数据移除缓存的次数

  Qcache_not_cached 未走缓存次数

2.4、开启缓存

mysq查询缓存默认是关闭的,需要手动配置参数query_cache_type,来开启查询缓存,

query_cache_type该参数的可取值有三个:

OFF或0  查询缓存功能关闭

ON或1  查询缓存功能打开,SELECT的结果符合缓存条件即会缓存,否则,不予缓存,显示指定SQL_NO_CACHE,不予缓存

DEMAND或2  查询缓存功能按需进行,显示指定SQL_CACHE的SELECT语句才会缓存;其它均不予缓存

在/etc/my.cnf配置中,增加以下配置:

query_cache_type=1

配置完毕之后,重启服务器既可生效:

  然后就可以在命令行执行SQL语句进行验证,执行一条比较耗时的SQL语句,然后再多执行几次,查看执行时间表,查询缓存的缓存命中数,来判定是否走查询缓存。

2.5、查询缓存SELECT选项

  可以在SELECT语句中指定两个与查询缓存相关的选项:

  SQL_CACHE:如果查询结果是可缓存的,并且query_cache_type系统变量的值为ON或DEMAND,则缓存查询结果。

  SQL_NO_CACHE:服务器不使用查询缓存。它既不检查查询缓存,也不检查结果是否已缓存,也不缓存查询结果。

2.6、查询缓存失效的情况:

1)SQL语句不一致的情况,要想命中查询缓存,查询的SQL语句必须一致。

  1、查询语句不一致时,不会使用缓存。

2)当查询语句中有一些不确定的时候,则不会缓存,如:now(),current_date(),curdate()。

3)不使用任何表查询语句。

4)查询mysql,information_schema或performance_schema数据库中的表时,不会走查询缓存。

5)在存储的函数,触发器或事件的主体内执行的查询。

6)如果表更改,则使用该表的所有高速缓存查询都将变为无效并从高速缓存中删除。这包括使用MEGRE映射到已更改表的表查询。一个表可以被许多类型的语句,如:被改变INSERT,UPDATE,DELETE,TRUNCATE TABLE,ALTER TABLE,DROP TABLE,或DROP DATABASE。

3、内存管理优化

3.1、内存优化原则

1)将尽量多的内存分配给mysql做缓存,但要给操作系统和其它程序预留足够内存。

2)myisam存储引擎的数据文件读取依赖于操作系统自身的IO缓存,因此,如果有myisam表,就要预留更多 的内存在给操作系统做IO缓存。

3)排序区、连接区等缓存是分配给每个数据库会话(session)专用的,其默认值的设置是根据最大连接数合理分配,如果设置太大,不但浪费资源,而且在并发连接较高时会导致物理内存耗尽。

3.2、myisam内在优化

  myisam存储引擎使用key_buffer缓存索引块,加速myisam索引的读写速度,对于myisam表的数据块,mysql没有特别的缓存机制,完全依赖于操作系统的IO缓存。

查看索引块缓存区的大小

key_buffer_size  决定myisam索引块缓存区的大小,直接影响到myisam表的存取效率。可以在mysql参数文件中设置key_buffer_size的值,对于一般myisam数据库,建议至少将1/4可用内存分配给key_buffer_size。

  在/etc/my.cnf中做如下配置:

  key_buffer_size=512M

read_buffer_size  如果需要经常顺序扫描myisam表,可以通过增大read_buffer_size的值来改善性能。但需要注意的是read_buffer_size是每个session独占的,如果默认值太大,就会造成内在浪费。

 

read_rnd_buffer_size  对于需要做排序的myisam表的查询,如带有order by子句的sql,适当增加read_rnd_buffer_size的值,可以改善此类的SQL性能。但需要注意的是read_rnd_buffer_size是每个session独占的,如果默认值设置太大,就会造成内存浪费。

3.3、innodb内存优化

innodb用一块内存区做IO缓存池,该缓存池不仅用来缓存innodb的索引块,而且也用来缓存innodb的数据块。

innodb_buffer_pool_size  该变量决定了innodb存储引擎表数据和索引数据的最大缓存区大小。在保证操作系统及其它程序有足够内存可用的情况下,innodb_buffer_pool_size的值越大,缓存命中率越高,访问innodb表需要的磁盘I/O就越少,性能也就越高。

innodb_buffer_pool_size=512M

日志缓存大小

innodb_log_buffer_size  决定了innodb重做日志缓存的大小,对于可能产生大量更新记录的大事务,增加innodb_log_buffer_size的大小,可以避免innodb在事务提交前就执行不必要的日志写入磁盘操作。

 

4、并发参数调整

  从实现上来说,mysql server是多线程结构,包括后台线程和客户服务线程。多线程可以有效利用服务器资源,提高数据库的并发性能。在mysql中,控制并发连接和线程的主要参数包括max_connections、back_log、thread_cache_size、table_open_cache。

4.1、max_connections

  采用max_connections控制允许连接到mysql数据库的最大数量,默认值是151,如果状态变量connection_error_max_connections不为零,并且一直增长,则说明不断有连接请求因数据库连接数已达到允许最大值而失败,这是可以考虑增大max_connections的值。

  mysql最大可支持的连接数,取决于很多因素,包括给定的操作系统平台的线程库的质量、内存大小、每个连接的负荷、CPU的处理速度、期望的响应时间等。在linux平台下,性能好的服务器,支持500-1000个连接不是难事,需要根据服务器性能进行评估设定。

  默认值151

4.2、back_log

  back_log参数控制mysql监听TCP端口时设置的积压请求栈大小。如果mysql的连接数达到max_connections时,新来的请求将会被存在堆栈中,以等待某一连接释放资源,该堆栈的数量即back_log,如果等待连接的数量超过back_log,将不被授予连接资源,将会报错。5.6.6版本之前默认值50,之后的版本默认为50+(max_connections/5),但最大不超过900。

  如果需要数据库在较短的时间内处理大量连接请求,可以考虑适当增大back_log的值。

4.3、table_open_cache

  针对所有客户端

  该参数用来控制所有SQL语句执行线程可打开表缓存的数量,而在执行SQL语句时,每一个SQL执行线程至少要打开1个表缓存。。该参数的值应该根据设置的最大连接数max_connections以及每个连接执行关联查询中涉及的表的最大数量来设定:

默认值:2000

4.4、thread_cache_size

  为了加快连接数据库的速度,mysql会缓存一定数量的客户服务线程以备用,通过参数thread_cache_size可控制mysql缓存服务线程的数量。

默认值:9

4.5、innodb_lock_wait_timeout

  该参数是用来设置innodb事务等待行锁的时间,默认值是50ms,可以根据需要进行动态设置。对于需要快速反馈的业务系统来说,可以将行锁的等待时间调小,以避免事务长时间挂起;对于后台运行的批量处理程序来说,可以将行锁的等待时间调大,以避免发生大的回滚操作。

默认值:50ms

 

5、锁的问题

5.1、概述

  锁是计算机协调多个进程或线程并发访问某一资源的机制。

  在数据库中,除传统的计算资源(如CPU、ARM、I/O等)的争用以外,数据也是一种供许多用户共享的资源。如何保证数据并发访问的一致性、有效性是所有数据库必须解决的一个问题,锁冲突也是影响数据库并发访问性能的一个重要因素。从这个角度来说,锁对数据库而言显得尤其重要,也更加复杂。

5.2、分类

从对数据操作的粒度分:

1)表锁:操作时,会锁定整个表。

2)行锁:操作时,会锁定当前操作行。

从对数据操作的类型分:

1)读锁(共享锁):针对同一份数据,多个读操作可以同时进行而不会互相影响。

2)写锁(排它锁):当前操作没有完成之前,它会阻断其它写锁和读锁。

 

5.3、mysql锁

 
存储引擎 表级锁 行级锁 页面锁
myisam 支持 不支持 不支持
innodb 支持 支持 不支持
memory 支持 不支持 不支持
bdb 支持 不支持 支持

mysql这3种锁的特性可大致归纳如下:

表级锁  偏向myisam存储引擎,开销小,加锁快;不会出现死锁;锁定粒度大,发生锁冲突的概率最高,并发度最低。

行级锁  偏向innodb存储引擎,开销大,加锁慢;会出现死锁;锁定粒度最小,发生锁冲突的概率最低,并发度也最高。

页面锁  开销和加锁时间界于表锁和行锁之间;会出现死锁;锁定粒度界于表锁和行锁之间,并发度一般。

 

  从上述特点可见,很难笼统地说哪种锁更好,只能就具体应用的特点来说哪种锁更合适!仅从锁的角度来说:表级锁更适合于以查询为主,只有少量按索引条件更新数据的应用,如web应用;而行级锁更适合于有大量按索引条件并发更新少量不同数据,同时又有并查询的应用,如一些在线事务处理(OLTP)系统。

5.4、myisam锁

  myisam存储引擎只支持表锁,这也是mysql开始几个版本中唯一支持的锁类型

5.4.1、如果加表锁

  自动加

  myisam在执行查询语句(SELECT)前,会自动给涉及的所有表加读锁,在执行更新操作(UPDATE、DELETE、INSERT等)前,会自动给涉及的表加写锁,这个过程并不需要用户干预,因此,用户一般不需要直接用LOCK TABLE命令给myisam表显示加锁。

  手动加

  加读锁:lock table table_name read;

  加写锁:lock table table_name write;

  读锁:(不会阻碍其它线程的读操作,但会阻碍其它线程的写操作)

  写锁:(释放锁之前,其它纯种操作一率禁止)

5.4.2、结论

  锁模式的相互兼容性如表所示:

 
  NONE 读锁 写锁
读锁
写锁

 

 

 

 

由上表可见:

1)对myisam表的读操作,不会阻塞其它用户对同一表的读请求,但会阻塞对同一表的写请求;

2)对myisam表的写操作,则会阻塞其它用户对同一表的读和写操作;

简而言之,就是读锁会阻塞写,但是不会阻塞读。而写锁,则既会阻塞读,又会阻塞写。

myisam只适合做读表的存储引擎

5.4.3、查看锁的争用情况

查看正在使用的锁(in_use):

1:正使用,0:未使用

in_use:表当前被查询使用的次数,如果该数为零,则表是打开的,但是当前没有被使用。

name_locked:表名称是否被锁定,名称锁定用于取消表或对表进行重命名等操作。

 

解锁:

mysql>unlock tables;

查看表的锁定情况:

mysql> show status like 'Table_locks%';

table_locks_immediate:指的是能够立即获得表级锁的次数,每立即获取锁,值加1;

table_locks_waited:指的是不能立即获取表级锁而需要等待的次数,每等待一次,该值加入1,此值高说明存在着较为严重的表级锁争用情况。

 

5.5、innodb锁的问题

5.5.1、innodb行锁

  行锁的特点:偏向innodb存储引擎,开销大,加锁慢;会出现死锁;锁定粒度最小,发生锁冲突的概率最低,并发度也最高。

  innodb与myisam的最大不同有两点:一是支持事务;二是采用了行级锁。

  myisam默认是表锁,innodb默认是行锁。

 

  事务具有以下4个特性,简称为事务ACID属性

 
ACID属性 含义
原子性(atomicity) 事务是一个原子操作单元,其对数据的修改,要么全部成功,要么全部失败
一致性(consistent) 在事务开始和完成时,数据都必须保持一致状态。
隔离性(isolation) 数据库系统提供一定的隔离机制,保证事务在不受外部并发操作影响的独立环境下运行。
持久性(durable) 事务完成之后,对于数据的修改是永久的。

并发事务处理带来的问题

 
问题 含义
丢失更新(lost update) 当两个或多个事务选择同一行,最初的事务修改的值,会被后面的事务修改的值覆盖。
脏读(dirty reads) 当一个事务正在访问数据,并且对数据进行了修改,而这种修改还没有提交到数据库中,这里,另外一个事务也访问这个数据,然后使用了这个数据。
不可重复读(non-repeatable reads) 一个事务在读取某些数据后的某个时间,再次读取以前读过的数据,却发现和以前读出的数据不一致。
幻读(phantom reads) 一个事务按照相同的查询条件重新读取以前查询过的数据,却发现其它事务插入了满足其查询条件的新数据。
 
隔离级别 丢失更新 脏读 不可重复读 幻读
read uncommitted ×
read committed × ×
repeatable read(默认) × × ×
serializable × × × ×

备注:√代表可能出现,×代表不会出现。

mysql的数据库的默认隔离级别为repeatable read,查看方式:

查看隔离级别:

mysql> show variables like 'tx_isolation';

5.5.3、无索引行锁升级为表锁

  如果不通过索引条件检索数据,那么innodb将对表中的所有记录加锁,实际效果跟表锁一样。

 

5.5.4、间隙锁的危害

  当我们用范围条件,而不是使用相等条件检索数据,并请求共享或排他锁时,innodb会给符合条件的已有数据进行加锁;对于键值在条件范围内但并不存在的记录,叫做“间隙(GAP)”,innodb也会对这个“间隙”加锁,这种锁机制就是所谓的间隙锁(Next-key锁)。

5.5.5、innodb行锁争用情况

查看innodb行锁:

mysql> show status like 'innodb_row_lock%';

 

5.5.6、总结

  innodb存储引擎由于实现了行级锁定,虽然在锁定机制的实现方面带来了性能损耗可能比表锁会更高一些,但是在整体并发处理能力方面要远远由于myisam的表锁的。当系统并发最较高的时候,innodb的整体性能和myisam相比就会有比较明显的优势。

  但是,innodb的行级同样也有其脆弱的一面,当我们使用不当的时候,可能会让innodb的整体性能表现不仅不能比myisam高,甚至可能会更差。

 

优化建议:

  • 尽可能让所有数据检索都能通过索引来完成,避免无索引行锁升级为表锁。
  • 合理设计索引,尽量缩小锁的范围
  • 尽可能减少条件,及索引范围,避免间隙锁
  • 尽量控制事务大小,减小锁定资源量和时间长度
  • 尽可使用低级别事务隔离(但是需要业务层面满足要求)
posted @ 2022-08-06 21:25  哆啦阿梦  阅读(23)  评论(0编辑  收藏  举报