mysql数据库删除重复的数据保留一条[转帖]

原帖地址:https://blog.csdn.net/qq_38923792/article/details/95240733

 

本来减少数据库压力，本人在新建表的时候，对于重复数据很少去做unique，由数据库去做去重操作。

这样的好处第一可以发现数据插入过程中的逻辑错误，

第二可以减少数据库的计算。

坏处是：

在调试或者项目运行过程中，经常会碰到重复数据。

 

1.问题引入
假设一个场景，一张用户表，包含3个字段。id，identity_id，name。现在身份证号identity_id和姓名name有很多重复的数据，需要删除只保留一条有效数据。

2.模拟环境
1.登入mysql数据库，创建一个单独的测试数据库mysql_exercise
create database mysql_exercise charset utf8;
1
2.创建用户表users
create table users(
id int auto_increment primary key,
identity_id varchar(20),
name varchar(20) not null
);
1
2
3
4
5

3.插入测试数据
insert into users values(0,'620616199409206512','张三'),
(0,'620616199409206512','张三'),
(0,'62062619930920651X','李四'),
(0,'62062619930920651X','李四'),
(0,'620622199101206211','王五'),
(0,'620622199101206211','王五'),
(0,'322235199909116233','赵六');
1
2
3
4
5
6
7
可以多执行几次，生成较多重复数据。

4.解决思路
（1）根据身份证号和name进行分组；
（2）取出分组后的最大id（或最小id）；
（3）删除除最大（或最小）id以外的其他字段；

5.第一次尝试(失败!!!)

delete from users where id not in (select max(id) from users group by identity_id,name);
1
报错：

1093 (HY000): You can't specify target table 'users' for update in FROM clause
1

因为在MYSQL里，不能先select一个表的记录，再按此条件进行更新和删除同一个表的记录。
解决办法是，将select得到的结果，再通过中间表select一遍，这样就规避了错误，
这个问题只出现于mysql，mssql和oracle不会出现此问题。

所以我们可以先将括号里面的sql语句先拿出来，先查到最大（或最小）id。

select max_id from (select max(id) as max_id from users group by identity_id,name);
1
接着，又报错了！！！

ERROR 1248 (42000): Every derived table must have its own alias
1
意思是说：提示说每一个衍生出来的表，必须要有自己的别名！

执行子查询的时候，外层查询会将内层的查询当做一张表来处理，所以我们需要给内层的查询加上别名

继续更正：
给查询到的最大（或最小id）结果当做一张新的表，起别名t，并查询t.mix_id。

select t.max_id from (select max(id) as max_id from users group by identity_id,name) as t;
1
可以成功查到最大（或最小）id了，如下图：

6.第二次尝试（成功！！！）
delete from users where id not in (
select t.max_id from
(select max(id) as max_id from users group by identity_id,name) as t
);
1
2
3
4
执行结果：

成功将重复的数据删除，只保留了最后一次增加的记录。同理也可以保留第一次添加的记录（即删除每个分组里面除最小id以外的其他条记录）

3.知识拓展一：更新数据
其他场景应用：要将用户表user_info里名字(name)为空字符串("")的用户的状态(status)改成"0"

update user_info set status='0' where user_id in (select user_id from user_info where name='')
1
同样报了如下错误：

You can’t specify target table ‘user_info’ for update in FROM clause

因为在MYSQL里，不能先select一个表的记录，再按此条件进行更新和删除同一个表的记录，解决办法是，将select得到的结果，再通过中间表select一遍，这样就规避了错误。
以下两种均可！！！

update user_info set status='0' where user_id in
(select user_id from (select user_id from user_info where name = '') t1);
1
2
下面这种也可，细微差别，别名可带as可不带，t1.user_id 直接和内层的user_id对应也可以。

update user_info set status='0' where user_id in
(select t1.user_id from (select user_id from user_info where name='') as t1);
1
2
3.1 分步骤解析
（1）将以下查询结果作为中间表：

select user_id from user_info where name='';
1
（2）再查询一遍中间表作为结果集：

select user_id from (select user_id from user_info where name='') as t;
1
（3）更新数据

update user_info set status='0' where user_id in
(select user_id from (select user_id from user_info where name='') as t1);
1
2
4.拓展练习：删除重复数据
编写一个 SQL 查询，来删除 Person 表中所有重复的电子邮箱，重复的邮箱里只保留 Id 最小 的那个。

+----+------------------+
| Id | Email |
+----+------------------+
| 1 | john@example.com |
| 2 | bob@example.com |
| 3 | john@example.com |
+----+------------------+
1
2
3
4
5
6
7
Id 是这个表的主键。
例如，在运行你的查询语句之后，上面的 Person 表应返回以下几行:

+----+------------------+
| Id | Email |
+----+------------------+
| 1 | john@example.com |
| 2 | bob@example.com |
+----+------------------+

1
2
3
4
5
6
7
解答一：
delete from Person where Id not in (
select t.min_id from (
select min(Id) as min_id from Person group by Email
) as t
);
1
2
3
4
5
解答二：
delete p1 from
Person as p1,Person as p2
where p1.Email=p2.Email and p1.Id > p2.Id;
————————————————
版权声明：本文为CSDN博主「生有涯，知无涯」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/qq_38923792/article/details/95240733

 

上文的博主，通过了非常简短直白的方式，去除了数据库的重复字段，对于order by其实真的是一个非常好用的聚合函数，

它不仅可以给单一字段聚合，还可以给不同的字段聚合，效果就好比联合唯一的效果。

其实在pandas里面也有group by的方法，实际用起来都差不多。

配个聚合函数,count,avg,max,min,sun等等让人用的真心很爽。

一段时间的MySQL玩起来，确实让我感觉，有意思，忒有意思了。