mysql查询重复的数据的SQL优化方案

在mysql中查询不区分大小写重复的数据，往往会用到子查询，并在子查询中使用upper函数来将条件转化为大写。如： 代码如下:

select * from staticcatalogue WHERE UPPER(Source) IN (SELECT UPPER(Source) FROM staticcatalogue GROUP BY UPPER(Source) havin



 
 在mysql中查询不区分大小写重复的数据，往往会用到子查询，并在子查询中使用upper函数来将条件转化为大写。如：

代码如下:


select * from staticcatalogue WHERE UPPER(Source) IN (SELECT UPPER(Source) FROM staticcatalogue GROUP BY UPPER(Source) having count(UPPER(Source))>1) ORDER BY upper(Source) DESC;

这条语句的执行效率是非常低的，，特别是Source字段没有加索引。尤其是最忌讳的在查询条件中使用了函数，这将极大的降低查询速度，如果查询十万条数据以内的10分钟内还能获取到数据，如果是查询几十万条的话，会直接把服务器跑死的，此时可以通过一个临时表，并且加索引，再查询。这样可以提高很多的速度

代码如下:


CREATE TABLE staticcatalogue_tmp SELECT UPPER(Source) AS Source FROM staticcatalogue GROUP BY UPPER(Source) having count(UPPER(Source))>1;

ALTER TABLE staticcatalogue_tmp add INDEX TX_1 (Source);

select s.* from staticcatalogue s WHERE UPPER(s.Source) IN (SELECT st.Source FROM staticcatalogue_tmp st) ORDER BY UPPER(s.Source) DESC ;