MySQL索引优化

一、Btree索引和Hash索引

索引是在存储引擎层实现的,因此不同存储引擎的索引其底层实现不同。

1.1 B-tree索引

特点:

  • 以B+树的结构存储数据
  • 更适合进行范围查找

使用场景:

  • 全值匹配 order_sn = '982222121'
  • 匹配最左前缀的查询 联合索引,最左列
  • 匹配列前缀
  • 匹配范围值的查询 order_sn > '999111'
  • 精确匹配左前列并范围匹配另外一列
  • 只访问索引的查询

使用限制:

  • 如果不是按照索引最左列开始查找,则无法使用索引
  • 使用索引时不能跳过索引中的列
  • not in 和<>操作无法使用索引
  • 如果查询中有某个列的范围查询,则其右边所有列都无法使用索引

1.2 Hash索引

特点:

  • 基于hash表实现的,只有查询条件精确匹配Hash索引中的所有列时,才能够使用到Hash索引。
  • 对于Hash索引中的所有列,存储引擎都会为每一行计算一个Hash码,Hash索引中存储的就是Hash码。

使用限制:

  • 必须进行二次查找
  • 无法使用排序
  • 不支持部分索引查找也不支持范围查找
  • Hash码的计算也可能存在Hash冲突

1.3 为什么要使用索引

  • 索引大大减少了存储引擎需要扫描的数据量
  • 索引可以帮助我们进行排序以避免使用临时表
  • 索引可以把随机I/O变为顺序I/O

1.4 索引不是越多越好

  • 索引会增加写操作的成本
  • 太多的索引会增加查询优化器的选择时间

二、安装演示数据库

sakila文档:https://dev.mysql.com/doc/sakila/en/

下载页面:https://dev.mysql.com/doc/index-other.html

# 下载
wget http://downloads.mysql.com/docs/sakila-db.tar.gz
# 解压
tar -xzvf sakila-db.tar.gz 
cd sakila-db/
# 导入
mysql < sakila-schema.sql 
mysql < sakila-data.sql 

三、索引优化策略

3.1 索引列上不能使用表达式或函数

3.2 前缀索引和索引列的选择性

create index index_name on table(col_name(n))
索引的选择性是不重复的索引值和表的记录数的比值
记录数为4,n为2时选择性为2/4,n为3时选择性为4/4

3.3 联合索引

如何选择索引列的顺序:

  • 经常会被使用到的列优先
  • 选择性高的列优先
  • 宽度小的列优先

3.4 覆盖索引

查询语句中的所有列都在索引中

覆盖索引优点:

  • 可以优化缓存,减少磁盘I/O操作
  • 可以减少随机I/O,变随机I/O操作为顺序I/O操作
  • 可以避免对InnoDB主键索引的二次查询
  • 可以避免MyISAM表进行系统调用

覆盖索引,无法使用情况:

  • 有的存储引擎不支持覆盖索引,如Memory
  • 查询中使用了太多的列
  • 使用了双%号的like查询

举例:

# 使用覆盖索引
explain select language_id from film where language_id=1\G
# 未使用索引
explain select * from film where language_id=1\G

explain select actor_id, last_name from actor where last_name='Joe'\G
# actor_id未建索引,该查询语句却使用了索引,因为InnoDB为主键自动创建了索引

3.5 使用索引扫描来优化排序

  • 索引的列顺序和Order By子句的顺序完全一致
  • 索引中所有列的方向(长降)和Order by子句完全一致
  • Order by中的字段全部在关联表中的第一张表中
# 复制rental表
# create table rental_myisam select * from rental;
create table rental_myisam like rental;
# 将其引擎改为MyISAM
alter table rental_myisam engine=myisam;
# 插入数据
insert into rental_myisam select * from rental;

explain select * from rental_myisam where rental_date>'2005-01-01' order by rental_id\G
explain select * from rental where rental_date>'2005-01-01' order by rental_id\G
explain select * from rental where rental_date>'2015-01-01' order by rental_id\G

3.6 模拟Hash索引优化查询

# 新增一列用来存储title的md5值
alter table film add title_md5 varchar(32);
# 更新title_md5,实际运行中可以通过触发器来更新
update film set title_md5=md5(title);
# 为title_md5创建索引
create index idx_md5 on film(title_md5);

# 注意查询时同时查询title_md5和title以避免Hash冲突
explain select * from film where title_md5=md5('EGG_IGBY') and title='EGG IGBY'\G

模拟Hash索引的限制

  • 只能处理键值的全值匹配查找
  • 所使用的Hash函数决定着索引键的大小

3.7 利用索引优化锁

  • 索引可以减少锁定的行数
  • 索引可以加快处理速度,同时也加快了锁的释放

actor建表语句

演示没有索引情况下带来的锁表问题:

# 删除索引idx_actor_last_name
drop index idx_actor_last_name on actor;

# 使用两个mysql命令行演示
# ---------------命令行1 session1---------------
# 启动一个事务
begin;
# 查询并添加一个排他锁
select * from actor where last_name='WOOD' for update;
# ---------------命令行2 session2---------------
# 启动事务
begin;
# 查询并添加一个排他锁
select * from actor where last_name='Wills' for update;
# 阻塞了

# 添加索引后再执行上述操作,session2就不会阻塞了
create index idx_actor_last_name on actor(last_name);
# session1释放锁
rollback;

四、索引的维护和优化

4.1 删除重复和冗余的索引

下图是重复索引

下图是冗余索引

4.2 pt-duplicate-key-checker

待研究。。。

https://www.percona.com/downloads/

检查重复的冗余的索引

pt-duplicate-key-checker这款工具也是percona-toolkit中一款非常适用的工具,它可以帮助你检测表中重复的索引或者主键

pt-duplicate-key-checker h=127.0.0.1

4.3 查找未被使用过的索引

select object_schema, object_name, index_name, b.table_rows
from performance_schema.table_io_waits_summary_by_index_usage a
join information_schema.tables b on a.object_schema = b.table_schema
and a.object_name = b.table_name
where index_name is not null
and count_star = 0
order by object_schema, object_name;

SELECT t.TABLE_SCHEMA, t.TABLE_NAME, INDEX_NAME, s.CARDINALITY, t.TABLE_ROWS
    , s.CARDINALITY / t.TABLE_ROWS AS SELECTIVITY
FROM information_schema.TABLES t, (SELECT t1.database_name, t1.table_name, t1.index_name, t2.stat_value AS CARDINALITY
    FROM (SELECT database_name, table_name, index_name, MAX(substring(stat_name, 11)) AS max_stat_name
        FROM mysql.innodb_index_stats
        WHERE stat_name LIKE 'n_diff_pfx%'
        GROUP BY database_name, table_name, index_name
        ) t1, mysql.innodb_index_stats t2, (SELECT database_name, table_name, group_concat(index_name) AS all_indexs
        FROM mysql.innodb_index_stats
        WHERE stat_name LIKE 'n_diff_pfx%'
        GROUP BY database_name, table_name
        ) t3
    WHERE t2.database_name = t1.database_name
        AND t2.table_name = t1.table_name
        AND t2.index_name = t1.index_name
        AND t2.stat_name LIKE 'n_diff_pfx%'
        AND t2.database_name = t3.database_name
        AND t2.table_name = t3.table_name
        AND t3.all_indexs REGEXP '^PRIMARY,'
        AND t2.index_name != 'PRIMARY'
        AND substring(t2.stat_name, 11) = t1.max_stat_name - 1
    UNION ALL
    SELECT t1.database_name, t1.table_name, t1.index_name, t2.stat_value AS CARDINALITY
    FROM (SELECT database_name, table_name, index_name, MAX(substring(stat_name, 11)) AS max_stat_name
        FROM mysql.innodb_index_stats
        WHERE stat_name LIKE 'n_diff_pfx%'
        GROUP BY database_name, table_name, index_name
        ) t1, mysql.innodb_index_stats t2, (SELECT database_name, table_name, group_concat(index_name) AS all_indexs
        FROM mysql.innodb_index_stats
        WHERE stat_name LIKE 'n_diff_pfx%'
        GROUP BY database_name, table_name
        ) t3
    WHERE t2.database_name = t1.database_name
        AND t2.table_name = t1.table_name
        AND t2.index_name = t1.index_name
        AND t2.stat_name LIKE 'n_diff_pfx%'
        AND t2.database_name = t3.database_name
        AND t2.table_name = t3.table_name
        AND t3.all_indexs REGEXP '^PRIMARY'
        AND t2.index_name = 'PRIMARY'
        AND substring(t2.stat_name, 11) = t1.max_stat_name
    UNION ALL
    SELECT t1.database_name, t1.table_name, t1.index_name, t2.stat_value AS CARDINALITY
    FROM (SELECT database_name, table_name, index_name, MAX(substring(stat_name, 11)) AS max_stat_name
        FROM mysql.innodb_index_stats
        WHERE stat_name LIKE 'n_diff_pfx%'
        GROUP BY database_name, table_name, index_name
        ) t1, mysql.innodb_index_stats t2, (SELECT database_name, table_name, group_concat(index_name) AS all_indexs
        FROM mysql.innodb_index_stats
        WHERE stat_name LIKE 'n_diff_pfx%'
        GROUP BY database_name, table_name
        ) t3
    WHERE t2.database_name = t1.database_name
        AND t2.table_name = t1.table_name
        AND t2.index_name = t1.index_name
        AND t2.stat_name LIKE 'n_diff_pfx%'
        AND t2.database_name = t3.database_name
        AND t2.table_name = t3.table_name
        AND t3.all_indexs NOT REGEXP '^PRIMARY'
        AND t2.index_name != 'PRIMARY'
        AND substring(t2.stat_name, 11) = t1.max_stat_name
    ) s
WHERE t.table_schema = s.database_name
    AND t.table_name = s.table_name
    AND t.table_rows != 0
    AND t.table_schema NOT IN ('mysql', 'performance_schema', 'information_schema')
HAVING SELECTIVITY <=0.4
ORDER BY SELECTIVITY ;

4.4 更新索引统计信息及减少索引碎片

# 对索引
analyze table table_name;

# 对表 使用不当会导致锁表
optimize table table_name;
posted @ 2018-03-21 23:53  okokabcd  阅读(265)  评论(0编辑  收藏  举报