解决MySQL中IN子查询会导致无法使用索引问题

  • 更新时间:2022-07-11 08:22:59
  • 编辑:衡妙海

今天看到一篇关于MySQL的IN子查询优化的案例,

一开始感觉有点半信半疑(如果是换做在SQL Server中,这种情况是绝对不可能的,后面会做一个简单的测试。)

随后动手按照他说的做了一个表来测试验证,发现MySQL的IN子查询做的不好,确实会导致无法使用索引的情况(IN子查询无法使用所以,场景是MySQL,截止的版本是5.7.18)

MySQL的测试环境

解决MySQL中IN子查询会导致无法使用索引问题

测试表如下

create table test_table2
(
  id int auto_increment primary key,
  pay_id int,
  pay_time datetime,
  other_col varchar(100)
)

建一个存储过程插入测试数据,测试数据的特点是pay_id可重复,这里在存储过程处理成,循环插入300W条数据的过程中,每隔100条数据插入一条重复的pay_id,时间字段在一定范围内随机

CREATE DEFINER=`root`@`%` PROCEDURE `test_insert`(IN `loopcount` INT)
  LANGUAGE SQL
  NOT DETERMINISTIC
  CONTAINS SQL
  SQL SECURITY DEFINER
  COMMENT ''
BEGIN
  declare cnt int;
  set cnt = 0;
  while cnt< loopcount do
    insert into test_table2 (pay_id,pay_time,other_col) values (cnt,date_add(now(), interval floor(300*rand()) day),uuid());
    if (cnt mod 100 = 0) then
      insert into test_table2 (pay_id,pay_time,other_col) values (cnt,date_add(now(), interval floor(300*rand()) day),uuid());
    end if;
    set cnt = cnt + 1;  
  end while;
END

  执行 call test_insert(3000000); 插入303000行数据

解决MySQL中IN子查询会导致无法使用索引问题

两种子查询的写法

查询大概的意思是查询某个时间段之内的业务Id大于1的数据,于是就出现两种写法。

第一种写法如下:IN子查询中是某段时间内业务统计大于1的业务Id,外层按照IN子查询的结果进行查询,业务Id的列pay_id上有索引,逻辑也比较简单,这种写法,在数据量大的时候确实效率比较低,用不到索引

select * from test_table2 force index(idx_pay_id)
where pay_id in (
  select pay_id from test_table2 
  where pay_time>="2016-06-01 00:00:00" 
    AND pay_time<="2017-07-03 12:59:59" 
  group by pay_id 
  having count(pay_id) > 1
);

执行结果:2.23秒

解决MySQL中IN子查询会导致无法使用索引问题

第二种写法,与子查询进行join关联,这种写法相当于上面的IN子查询写法,下面测试发现,效率确实有不少的提高

select tpp1.* from test_table2 tpp1, 
(
   select pay_id 
   from test_table2 
   WHERE pay_time>="2016-07-01 00:00:00" 
   AND pay_time<="2017-07-03 12:59:59" 
   group by pay_id 
   having count(pay_id) > 1
) tpp2 
where tpp1.pay_id=tpp2.pay_id

  执行结果:0.48秒

解决MySQL中IN子查询会导致无法使用索引问题

  In子查询的执行计划,发现外层查询是一个全表扫描的方式,没有用到pay_id上的索引

解决MySQL中IN子查询会导致无法使用索引问题

   join自查的执行计划,外层(tpp1别名的查询)是用到pay_id上的索引的。

解决MySQL中IN子查询会导致无法使用索引问题

  后面想对第一种查询方式使用强制索引,虽然是不报错的,但是发现根本没用

解决MySQL中IN子查询会导致无法使用索引问题

   如果子查询是直接的值,则是可以正常使用索引的。

解决MySQL中IN子查询会导致无法使用索引问题

  可见MySQL对IN子查询的支持,做的确实不怎么样。

  另外:加一个使用临时表的情况,虽然比不少join方式查询的,但是也比直接使用IN子查询效率要高,这种情况下,也是可以使用到索引的,不过这种简单的情况,是没有必要使用临时表的。

解决MySQL中IN子查询会导致无法使用索引问题

  下面是类似案例在sqlserver 2014中的测试,几万完全一样的测试表结构和数量,可见这种情况下,两种写法,在SQL Server中可以认为是完全一样的(执行计划+效率),这一点SQL Server要比MySQL强不少

解决MySQL中IN子查询会导致无法使用索引问题

   下面是sqlserver中的测试环境脚本。

create table test_table2
(
  id int identity(1,1) primary key,
  pay_id int,
  pay_time datetime,
  other_col varchar(100)
)
begin tran
declare @i int = 0
while @i<300000
begin
  insert into test_table2 values (@i,getdate()-rand()*300,newid());
  if(@i%1000=0)
  begin
    insert into test_table2 values (@i,getdate()-rand()*300,newid());
  end
  set @i = @i + 1
end
COMMIT
GO
create index idx_pay_id on test_table2(pay_id);
create index idx_time on test_table2(pay_time);
GO
select * from test_table2 
where pay_id in (
          select pay_id from test_table2 
          where pay_time>='2017-01-21 00:00:00' 
          AND pay_time<='2017-07-03 12:59:59' 
          group by pay_id 
          having count(pay_id) > 1
        );
select tpp1.* from test_table2 tpp1, 
(
   select pay_id 
   from test_table2 
   WHERE pay_time>='2017-01-21 00:00:00'
   AND pay_time<='2017-07-30 12:59:59' 
   group by pay_id having 
   count(pay_id) > 1
) tpp2 
where tpp1.pay_id=tpp2.pay_id

总结:在MySQL数据中,截止5.7.18版本,对IN子查询,仍要慎用

 

相关教程

  • 分享mysql简单实现查询结果添加序列号的代码

    这篇文章主要介绍了mysql简单实现查询结果添加序列号的方法,结合实例形式演示了2种查询结果添加序列号的技巧,具有一定参考借鉴价值,需要的朋友可以参考下

    发布时间:2020-02-16

  • MySQL下常见的启动失败与备份失败问题的解决教程

    给网友朋友们带来一篇关于MySQL的教程,这篇文章主要介绍了MySQL下常见的启动失败与备份失败问题的解决教程,示例环境基于Linux系统,需要的朋友可以参考下

    发布时间:2022-06-18

  • MySql登录时闪退的快速解决办法

    这篇文章主要介绍了MySql登录时闪退的快速解决办法的相关资料,需要的朋友可以参考下

    发布时间:2022-04-02

  • MySQL 5.0.96 for Windows x86 32位绿色精简版安装方法

    这篇文章主要介绍了MySQL 5.0.96 for Windows x86 32位绿色精简版安装教程,需要的朋友可以参考下

    发布时间:2020-07-17

  • mysql免安装没有任何root权限浅析

    这篇文章主要介绍了mysql免安装没有任何root权限的安装与配置教程,本文图文并茂给大家介绍的非常详细,需要的朋友参考下

    发布时间:2020-02-21

  • MySQL 存储过程传参数实现where id in(1,2,3,...)实例效果

    一个MySQL 存储过程传参数的问题想实现例如筛选条件为:where id in(1,2,3,...),下面有个不错的示例,感兴趣的朋友可以参考下

    发布时间:2020-01-29

  • mysql中数字进行格式化方法总结

    格式化在我们日常开发中必不可少,最近在遇到了关于mysql格式化数字的需求,所以下面这篇文章主要给大家介绍了关于mysql中格式化数字的相关资料,分别介绍了format函数和rpad 和 lpad 给定位数

    发布时间:2019-06-10

  • CentOS系统下设置mysql自动备份的方法

    备份是容灾的基础,是指为防止系统出现操作失误或系统故障导致数据丢失,而将全部或部分数据集合从应用主机的硬盘或阵列复制到其它的存储介质的过程。本文将详细介绍在CentOS系统下如何

    发布时间:2019-11-23

  • 实例解析Mysql开启慢SQL

    今天小编就为大家分享一篇关于Mysql开启慢SQL并分析原因,小编觉得内容挺不错的,现在分享给大家,具有很好的参考价值,需要的朋友一起跟随小编来看看吧

    发布时间:2020-01-10

用户留言