暂无图片
暂无图片
暂无图片
暂无图片
暂无图片

学习笔记-Mysql索引优化

491

前言

接着上篇,继续学习索引优化


索引原则

    -- 联合索引
    KEY `idx_name_age_position` (`name`,`age`,`position`) USING BTREE

    索引最左前缀法则

    如果索引了多列,要遵守最左前缀法则。指的是查询从索引的最左前列开始并且不跳过索引中的列

    1. 正确操作

    2. 错误操作

    避免使用函数

    1. 正确操作

    2. 在索引字段上计算、使用函数等,会导致索引失效


    联合索引前一个字段用范围,后面的字段不会走索引

    可以看出第二个sql使用到的索引长度比第一个小,说明position字段没有使用到索引。因为age使用了范围查找后,position可能不是有序的了(索引是有序的结构)


    字符串不加单引号

    1. 正确操作

    2. 错误操作


    like KK% 一般情况都会走索引

    mysql在使用不等于(!=或者<>),notin,not exists,like以通配符开头('%abc')的时候无法使用索引会导致全表扫描

    索引下推

    对于辅助的联合索引(name,age,position),正常情况按照最左前缀原则,SELECT * FROM employees WHERE name like 'LiLei%' AND age = 22 AND position ='manager'  这种情况只会走name字段索引,因为根据name字段过滤完,得到的索引行里的age和position是无序的,无法很好的利用索引。

    在MySQL5.6之前的版本,这个查询只能在联合索引里匹配到名字是 'LiLei' 开头的索引,然后拿这些索引对应的主键逐个回表,到主键索引上找出相应的记录,再比对ageposition这两个字段的值是否符合。

    MySQL 5.6引入了索引下推优化,可以在索引遍历过程中,对索引中包含的所有字段先做判断,过滤掉不符合条件的记录之后再回表,可以有效的减少回表次数。使用了索引下推优化后,上面那个查询在联合索引里匹配到名字是 'LiLei' 开头的索引之后,同时还会在索引里过滤ageposition这两个字段,拿着过滤完剩下的索引对应的主键id再回表查整行数据。

    索引下推会减少回表次数,对于innodb引擎的表索引下推只能用于二级索引,innodb的主键索引(聚簇索引)树叶子节点上保存的是全行数据,所以这个时候索引下推并不会起到减少查询全行数据的效果。

    为什么范围查找Mysql没有用索引下推优化?

    估计应该是Mysql认为范围查找过滤的结果集过大,like KK% 在绝大多数情况来看,过滤后的结果集比较小,所以这里Mysql选择给 like KK% 用了索引下推优化,当然这也不是绝对的,有时like KK% 也不一定就会走索引下推

    Order by与Group by优化

    Case1:

    分析:

    利用最左前缀法则:中间字段不能断,因此查询用到了name索引,从key_len=74也能看出,age索引列用在排序过程中,因为Extra字段里没有using filesort


    Case 2:

    分析:

    从explain的执行结果来看:key_len=74,查询使用了name索引,由于用了position进行排序,跳过了age,出现了Using filesort


    Case 3:

    分析:

    虽然排序的字段列与索引顺序一样,且order by默认升序,这里position desc变成了降序,导致与索引的排序方式不同,从而产生Using filesort。Mysql8以上版本有降序索引可以支持该种查询方式。


    Case 4:

    分析:

    对于排序来说,多个相等条件也是范围查询

    优化总结:

    1、MySQL支持两种方式的排序filesortindex,Using index是指MySQL扫描索引本身完成排序。index效率高,filesort效率低。

    2、order by满足两种情况会使用Using index。

    1) order by语句使用索引最左前列

    2) 使用where子句与order by子句条件列组合满足索引最左前列。

    3、尽量在索引列上完成排序,遵循索引建立(索引创建的顺序)时的最左前缀法则。

    4、如果order by的条件不在索引列上,就会产生Using filesort。

    5、能用覆盖索引尽量用覆盖索引

    6、group by与order by很类似,其实质是先排序后分组,遵照索引创建顺序的最左前缀法则。对于group by的优化如果不需要排序的可以加上order by null禁止排序。注意,where高于having,能写在where中的限定条件就不要去having限定了。


    分页查询优化

    很多时候我们业务系统实现分页功能可能会用如下sql实现

      select * from employees limit 10000,10;

      表示从表 employees 中取出从 10001 行开始的 10 行记录。看似只查询了 10 条记录,实际这条 SQL 是先读取 10010 条记录,然后抛弃前 10000 条记录,然后读到后面 10 条想要的数据。因此要查询一张大表比较靠后的数据,执行效率是非常低的。

      1、根据自增且连续的主键排序的分页查询

      首先来看一个根据自增且连续主键排序的分页查询的例子:

      该 SQL 表示查询从第 90001开始的五行数据,没添加单独 order by,表示通过主键排序。我们再看表 employees ,因为主键是自增并且连续的,所以可以改写成按照主键去查询从第 90001开始的五行数据,如下:

        select * from employees where id > 90000 limit 5;

        查询的结果是一致的。我们再对比一下执行计划:

        显然改写后的 SQL 走了索引,而且扫描的行数大大减少,执行效率更高。

        但是,这条改写的SQL 在很多场景并不实用,因为表中可能某些记录被删后,主键空缺,导致结果不一致

        所以这种改写得满足以下两个条件:

        • 主键自增且连续

        • 结果是按照主键排序的

        适合没有删除的日志查询


        2、根据非主键索引字段排序的分页查询

        再看一个根据非主键字段排序的分页查询,SQL 如下:

          select * from employees ORDER BY name limit 90000,5;

          发现并没有使用 name 字段的索引(key 字段对应的值为 null),具体原因上节课讲过:扫描整个索引并查找到没索引的行(可能要遍历多个索引树)的成本比扫描全表的成本更高,所以优化器放弃使用索引

          知道不走索引的原因,那么怎么优化呢?

          其实关键是让排序时返回的字段尽可能少,所以可以让排序和分页操作先查出主键,然后根据主键查到对应的记录,SQL改写如下

            select * from employees e inner join (select id from employees order by name limit 90000,5) ed on e.id = ed.id;

            需要的结果与原 SQL 一致,执行时间减少了一半以上,我们再对比优化前后sql的执行计划:

            原 SQL 使用的是 filesort 排序,而优化后的 SQL 使用的是索引排序


            Join关联查询优化

            mysql的表关联常见有两种算法

            • Nested-Loop Join 算法

            • Block Nested-Loop Join 算法

            1、 嵌套循环连接 Nested-Loop Join(NLJ) 算法

            一次一行循环地从第一张表(称为驱动表)中读取行,在这行数据中取到关联字段,根据关联字段在另一张表(被驱动表)里取出满足条件的行,然后取出两张表的结果合集。

              EXPLAIN select * from t1 inner join t2 on t1.a= t2.a;

              从执行计划中可以看到这些信息:

              • 驱动表是 t2,被驱动表是 t1。先执行的就是驱动表(执行计划结果的id如果一样则按从上到下顺序执行sql);优化器一般会优先选择小表做驱动表,用where条件过滤完驱动表,然后再跟被驱动表做关联查询。所以使用 inner join 时,排在前面的表并不一定就是驱动表。

              • 当使用left join时,左表是驱动表,右表是被驱动表,当使用right join时,右表时驱动表,左表是被驱动表,当使用join时,mysql会选择数据量比较小的表作为驱动表,大表作为被驱动表。

              • 使用了 NLJ算法。一般 join 语句中,如果执行计划 Extra 中未出现 Using join buffer 则表示使用的 join 算法是 NLJ。

              上面sql的大致流程如下:

              1. 从表 t2 中读取一行数据(如果t2表有查询过滤条件的,用先用条件过滤完,再从过滤结果里取出一行数据);

              2. 从第 1 步的数据中,取出关联字段 a,到表 t1 中查找;

              3. 取出表 t1 中满足条件的行,跟 t2 中获取到的结果合并,作为结果返回给客户端;

              4. 重复上面 3 步。

              整个过程会读取 t2 表的所有数据(扫描100行),然后遍历这每行数据中字段 a 的值,根据 t2 表中 a 的值索引扫描 t1 表中的对应行(扫描100次 t1 表的索引,1次扫描可以认为最终只扫描 t1 表一行完整数据,也就是总共 t1 表也扫描了100行)。因此整个过程扫描了 200 行

              如果被驱动表的关联字段没索引,使用NLJ算法性能会比较低(下面有详细解释),mysql会选择Block Nested-Loop Join算法。


              2、 基于块的嵌套循环连接 Block Nested-Loop Join(BNL)算法

              驱动表的数据读入到 join_buffer 中,然后扫描被驱动表,把被驱动表每一行取出来跟 join_buffer 中的数据做对比。

                EXPLAIN select * from t1 inner join t2 on t1.b= t2.b;

                Extra 中 的Using join buffer (Block Nested Loop)说明该关联查询使用的是 BNL 算法。

                上面sql的大致流程如下:

                1. 把 t2 的所有数据放入到 join_buffer

                2. 把表 t1 中每一行取出来,跟 join_buffer 中的数据做对比

                3. 返回满足 join 条件的数据

                整个过程对表 t1 和 t2 都做了一次全表扫描,因此扫描的总行数为10000(表 t1 的数据总量) + 100(表 t2 的数据总量) = 10100。并且 join_buffer 里的数据是无序的,因此对表 t1 中的每一行,都要做 100 次判断,所以内存中的判断次数是 100 * 10000= 100 万次

                这个例子里表 t2 才 100 行,要是表 t2 是一个大表,join_buffer 放不下怎么办呢?

                join_buffer 的大小是由参数 join_buffer_size 设定的,默认值是 256k。如果放不下表 t2 的所有数据话,策略很简单,就是分段放

                比如 t2 表有1000行记录,join_buffer 一次只能放800行数据,那么执行过程就是先往join_buffer 里放800行记录,然后从 t1 表里取数据跟 join_buffer 中数据对比得到部分结果,然后清空  join_buffer ,再放入 t2 表剩余200行记录,再次从 t1 表里取数据跟 join_buffer 中数据对比。所以就多扫了一次 t1 表。


                被驱动表的关联字段没索引为什么要选择使用 BNL 算法而不使用 Nested-Loop Join 呢?

                如果上面第二条sql使用 Nested-Loop Join,那么扫描行数为 100 * 10000 = 100万次,这个是磁盘扫描

                很显然,用BNL磁盘扫描次数少很多,相比于磁盘扫描,BNL的内存计算会快得多。

                因此MySQL对于被驱动表的关联字段没索引的关联查询,一般都会使用 BNL 算法。如果有索引一般选择 NLJ 算法,有索引的情况下 NLJ 算法比 BNL算法性能更高


                对于关联sql的优化

                • 关联字段加索引,让mysql做join操作时尽量选择NLJ算法,驱动表因为需要全部查询出来,所以过滤的条件也尽量要走索引,避免全表扫描,总之,能走索引的过滤条件尽量都走索引

                • 小表驱动大表,写多表连接sql时如果明确知道哪张表是小表可以用straight_join写法固定连接驱动方式,省去mysql优化器自己判断的时间


                in和exsits优化

                原则:小表驱动大表,即小的数据集驱动大的数据集

                in:当B表的数据集小于A表的数据集时,in优于exists 

                  select * from A where id in (select id from B);

                  exists:当A表的数据集小于B表的数据集时,exists优于in

                    select * from A where exists (select 1 from B where B.id = A.id);


                    count(*)查询优化

                    字段有索引

                    count(*)≈count(1)>count(字段)>count(主键 id)   

                    字段有索引,count(字段)统计走二级索引,二级索引存储数据比主键索引少,所以count(字段)>count(主键 id)

                    字段无索引

                    count(*)≈count(1)>count(主键 id)>count(字段)    

                    字段没有索引count(字段)统计走不了索引,count(主键 id)还可以走主键索引,所以count(主键 id)>count(字段)

                    count(1)跟count(字段)执行过程类似,不过count(1)不需要取出字段统计,就用常量1做统计,count(字段)还需要取出字段,所以理论上count(1)比count(字段)会快一点。

                    count(*) 是例外,mysql并不会把全部字段取出来,而是专门做了优化,不取值,按行累加,效率很高,所以不需要用count(列名)或count(常量)来替代 count(*)。

                    为什么对于count(id),mysql最终选择辅助索引而不是主键聚集索引?因为二级索引相对主键索引存储数据更少,检索性能应该更高


                    索引设计思想

                    1、代码先行,索引后上

                    2、联合索引尽量覆盖条件

                    3、不要在小基数字段上建立索引

                    4、长字符串我们可以采用前缀索引

                    5、where与order by冲突时优先where

                    ...

                    文章转载自yu同学的java之旅,如果涉嫌侵权,请发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

                    评论