优化mysql
- 数据库设计和表创建时就要考虑性能
- sql的编写需要注意优化
- 分区
- 分表
- 分库
1.数据库设计和表创建时就要考虑性能
mysql数据库本身高度灵活,造成性能不足,严重依赖开发人员能力。也就是说开发人员能力高,则mysql性能高。这也是很多关系型数据库的通病,所以公司的DBA工作通常巨高。
设计表时要注意:
- 表字段避免 null 值出现,null 值很难查询优化且占额外的索引空间,推荐默认数字0代替 null
- 尽量使用 INT 而非 BIGINT,如果非负则加上 UNSIGNED(这样数值容量会扩大一倍),当然能使用 TINYINT、SMALLINT、MEDIUM_INT 更好
- 使用枚举或整数代替字符串类型
- 尽量使用 TIMESTAMP 而非 DATETIME
- 单表不要有太多字段,建议在20以内
- 用整型来存 IP
索引
- 索引并不是越多越好,要根据查询有针对性的创建,考虑在 WHERE 和 ORDER BY 命令上涉及的列建立索引,可根据 EXPLAIN 来查看是否用了索引还是全表扫描
- 应尽量避免在 WHERE 子句中对字段进行 NULL 值判断,否则将导致引擎放弃使用索引而进行全表扫描
- 值分布很稀少的字段不适合建索引,例如:“性别”这种只有两三个值得字段
- 字符字段只建前缀索引
- 字符字段最好不要做主键
- 不用外键,由程序保证约束
- 尽量不用 UNIQUE,由程序保证约束
- 使用多列索引时注意顺序和查询条件保持一致,同时删除不必要的单列索引
简言之就是使用合适的数据类型,选择合适的索引
# 选择合适的数据类型
(1)使用可存下数据的最小的数据类型,整型 < date , time < char , varchar < blob
(2)使用简单的数据类型,整型比字符处理开销更小,因为字符串比较复杂。如,int 类型存储时间类型,bigint 类型转 ip 函数
(3)使用合理的字段属性长度,固定长度的表会更快。使用 ENUM、char 而不是 varchar
(4)尽可能使用 not null 定义字段
(5)尽量少用 text ,非用不可最好分表
# 选择合适的索引列
(1)查询频繁的列,在 where,group by,order by ,on 从句中出现的列
(2)where 条件中 <,<=,=,>,>=,between,in,以及 like 字符串+通配符(%)出现的列
(3)长度小的列,索引字段越小越好,因为数据库的存储单位是页,一页中能存下的数据越多越好
(4)离散度大(不同的值多)的列,放在联合索引前面。查看离散度,通过统计不同的列值来实现,count 越大,离散程度越高
2.sql的编写需要注意优化
- 使用 limit 对查询结果的记录进行限定
- 避免 select *,将需要查找的字段列出来
- 使用连接(join)来代替子查询
- 拆分大的 delete 或 insert 语句
- 可通过开启慢查询日志来找出较慢的SQL
- 不做列运算:select id where age + 1 = 10 ,任何对列的操作都将导致表扫描,它包括数据库教程函数、计算表达式等等,查询时要尽可能将操作移至等号右边
- sql 语句尽可能简单:一条 sql 只能在一个 cpu 运算,大语句拆小语句,减少锁时间,一条大 sql 可以堵死整个库
- or 改写成 in :or 的效率是 n 级别,in 的效率是 log(n) 级别,in 的个数建议控制在 200 以内
- 不用函数和触发器,在应用程序实现
- 避免 %XXX 式查询
- 少用 join
- 使用同类型进行比较,比如用'123'和'123'比,123和123比
- 尽量避免在 where 子句中使用 != 或 <> 操作符,否则将引擎放弃使用索引而进行全表扫描
- 对于连续数值,使用 between 不用 in :select id from t where num between 1 and 5
- 列表数据不要拿全表,要使用 limit 来分页,每页数据也不要太大
引擎
目前广泛使用的是 myisam 和 innodb 两种引擎:
- myisam
- myisam 引擎是 mysql5.1及之前版本的默认引擎,它的特点是:
- 不支持行锁,读取时对需要读到的所有表加锁,写入时则对表加排它锁
- 不支持事务
- 不支持外键
- 不支持崩溃后的安全恢复
- 在表有读取查询的同时,支持往表中插入新纪录
- 支持 blob 和 text 的前 500 个字符索引,支持全文索引
- 支持延迟更新索引,极大提升写入性能
- 对于不会进行修改的表,支持压缩表,极大减少磁盘空间占用
- innodb
- innodb 在 mysql5.5 之后成为默认引擎,它的特点是:
- 支持行锁,采用 mvcc 来支持高并发
- 支持事务
- 支持外键
- 支持崩溃后的安全恢复
- 不支持全文索引
总体来讲,myisam 适合 select 密集型的表,而 innodb 适合 insert 和 update 密集型的表
myisam速度可能超快,占用存储空间也小,但是程序要求事务支持,故 innodb 是必须的。
3.分区
MySQL 在 5.1 版引入的分区是一种简单的水平拆分,用户需要在建表的时候加上分区参数,对应用是透明的无需修改代码
对于用户来说,分区表是一个独立的逻辑表,但是底层由多个物理子表组成,实现分区的代码实际是通过对一组底层表的对象封装,但对 SQL 层来说是一个完全封装底层的黑盒子。MySQL实现分区的方式也意味着索引也是按照分区的子表定义,没有全局索引
用户的 SQL 语句是需要针对分区表做优化,SQL 条件中要带上分区条件的列,从而使查询定位至少量的分区上,否则就会扫描全部分区,可以通过 explain partitions 来查看某条 SQL语句会落在那些分区上,从而进行 SQL 优化,我测试,查询不带分区条件的列,也会提高速度,故该措施值得一试。
分区的好处是:
- 可以让单表存储更多的数据
- 分区表的数据更容易维护,可以通过清楚整个分区批量删除大量数据,也可以增加新的分区来支持新插入的数据。另外,还可以对一个独立分区进行优化、检查、修复等操作
- 部分查询能够从查询条件确定只落在少数分区上,速度会很快
- 分区表的数据还可以分布在不同的物理设备上,从而搞笑利用多个硬件设备
- 可以使用分区表避免某些特殊瓶颈,例如 innodb 单个索引的互斥访问、ext3文件系统的 innodb 锁竞争
- 可以备份和恢复单个分区
分区的限制和缺点:
- 一个表最多只能有 1024 个分区
- 如果分区字段中有主键或唯一索引的列,那么所有主键列和唯一索引列都必须包含进来
- 分区表无法使用外键约束
- NULL 值会使分区过滤无效
- 所有分区必须使用相同的存储引擎
分区的类型:
- RANGE分区:基于属于一个给定连续区间的列值,把多行分配给分区
- LIST分区:类似于按RANGE分区,区别在于LIST分区是基于列值匹配一个离散值集合中的某个值来进行选择
- HASH分区:基于用户定义的表达式的返回值来进行选择的分区,该表达式使用将要插入到表中的这些行的列值进行计算。这个函数可以包含MySQL中有效的、产生非负整数值的任何表达式
- KEY分区:类似于按HASH分区,区别在于KEY分区只支持计算一列或多列,且MySQL服务器提供其自身的哈希函数。必须有一列或多列包含整数值
- 具体关于mysql分区的概念请自行google或查询官方文档,我这里只是抛砖引玉了。
4.分表
分表就是把一张大表,按照如上过程都优化了,还是查询卡死,那就把这个表分成多张表,把一次查询分成多次查询,然后把结果组合返回给用户。
分表分为垂直拆分和水平拆分,通常以某个字段作为拆分项。比如以 id 字段拆分为 100 张表:表名为 tableName_id%100
但:分表需要修改源程序代码,会给开发带来大量工作,极大的增加了开发成本,故:只适合在初期就考虑到了大量数据存在,做好分表处理,不适合应用上线了再做修改,成本太高
5.分库
把一个数据库分成多个,建议做个读写分离就行了,真正的做分库也会带来大量的开发成本!不推荐使用