卧槽,线上数据删错了,差点被老板开除
前言
无论是开发、测试,还是DBA,都难免会涉及到数据库的操作,比如:创建某张表,添加某个字段、添加数据、更新数据、删除数据、查询数据等等。
正常情况下还好,但如果操作数据库时出现失误,比如:
- 删除订单数据时where条件写错了,导致多删了很多用户订单。
- 更新会员有效时间时,一次性把所有会员的有效时间都更新了。
- 修复线上数据时,改错了,想还原。
还有很多很多场景,我就不一一列举了。
如果出现线上环境数据库误操作怎么办?有没有后悔药?
答案是有的,请各位看官仔细往下看。
1.不要用聊天工具发sql语句
通常开发人员写好sql语句之后,习惯通过聊天工具,比如:qq、钉钉、或者腾讯通等,发给团队老大
或者DBA
在线上环境执行。但由于有些聊天工具,对部分特殊字符
会自动转义,而且有些消息由于内容太长
,会被自动分成多条消息。
这样会导致团队老大或者DBA复制出来的sql不一定是正确的。
他们需要手动拼接成一条完整的sql
,有时甚至需要把转义后的字符替换回以前的特殊字符,无形之中会浪费很多额外的时间。即使最终sql拼接好了,真正执行sql的人,心里一定很虚。
所以,强烈建议你把要在线上执行的sql语句用邮件
发过去,可以避免使用聊天工具的一些弊端,减少一些误操作的机会。而且有个存档,方便今后有问题的时候回溯原因。很多聊天工具只保留最近7天
的历史记录,邮件会保留更久一些。
别用聊天工具发sql语句!
别用聊天工具发sql语句!
别用聊天工具发sql语句!
重要的事情说三遍,它真的能减少一些误操作。
2.把sql语句压缩成一行
有些时候,开发人员写的sql语句很长,使用了各种join
和union
,而且使用美化工具,将一条sql变成了多行。在复制sql的时候,自己都无法确定sql是否完整。(为了装逼,把自己也坑了,哈哈哈)
线上环境有时候需要通过命令行连接数据库,比如:mysql,你把sql语句复制过来后,在命令行界面执行,由于屏幕滚动太快,这时根本无法确定sql是否都执行成功。
针对这类问题,强烈建议把sql语句压缩成一行
,去掉多余的换行符
和空格
,可以有效的减少一些误操作。
sql压缩工具
推荐使用:https://tool.lu/sql/
3.操作数据之前先select一下
需要特别说明的是:本文的操作数据主要指修改
和删除
数据。
很多时候,由于我们人为失误,把where条件写错了。但没有怎么仔细检查,就把sql语句直接执行了。影响范围小还好,如果影响几万、几十万,甚至几百万行数据,我们可能要哭了。
针对这种情况,在操作数据之前,把sql先改成select count(*)
语句,比如:
update order set status=1 where status=0;
改成:
select count(*) from order where status=0;
查一下该sql执行后影响的记录行数,做到自己心中有数。也给自己一次测试sql是否正确,确认是否执行的机会。
4.操作数据sql加limit
即使通过上面的select
语句确认了sql语句没有问题,执行后影响的记录行数是对的。
也建议你不要立刻执行,建议在正在执行的时候,加上limit
+ select出的记录行数
。例如:
update order set status=1 where status=0 limit 1000;
假设有一次性更新的数据太多,所有相关记录行都会被锁住,造成长时间的锁等待,而造成用户请求超时。
此外,加limit
可以避免一次性操作太多数据,对服务器的cpu造成影响。
还有一个最重要的原因:加limit
后,操作数据的影响范围是完全可控的。
5.update时更新修改人和修改时间
很多人写update
语句时,如果要修改状态,就只更新状态,不管其他的字段。比如:
update order set status=1 where status=0;
这条sql会把status
等于0的数据,全部更新成1。
后来发现业务逻辑有问题,不应该这么更新,需要把status
状态回滚。
这时你可能会很自然想到这条sql:
update order set status=0 where status=1;
但仔细想想又有些不对。
这样不是会把有部分以前status
就是1的数据更新成0?
这回真的要哭了,呜呜呜。
这时,送你一个好习惯:在更新数据的时候,同时更新修改人
和修改时间
字段。
update order set status=1,edit_date=now(),edit_user='admin' where status=0;
这样在恢复数据时就能通过修改人
和修改时间
字段过滤数据了。
后面需要用到的修改时间
通过这条sql语句可以轻松找到:
select edit_user ,edit_date from `order` order by edit_date desc limit 50;
当然,如果是高并发系统不建议这种批量更新方式,可能会锁表一定时间,造成请求超时。
有些同学可能会问:为什么要同时更新修改人,只更新修改时间不行吗?
主要有如下的原因:
- 为了标识非正常用户操作,方便后面统计和定位问题。
- 有些情况下,在执行sql语句的过程中,正常用户产生数据的修改时间跟你的可能一模一样,导致回滚时数据查多了。
6.多用逻辑删除,少用物理删除
在业务开发中,删除数据是必不可少的一种业务场景。
有些人开发人员习惯将表设计成物理删除
,根据主键只用一条delete
语句就能轻松搞定。
他们给出的理由是:节省数据库的存储空间
。
想法是好的,但是现实很残酷。
如果有条极重要的数据删错了,想恢复怎么办?
此时只剩八个字:没有数据,恢复不了。(PS:或许通过binlog二进制文件可以恢复)
如果之前设计表的时候用的逻辑删除
,上面的问题就变得好办了。删除数据时,只需update
删除状态即可,例如:
update order set del_status=1,edit_date=now(),edit_user='admin' where id=123;
假如出现异常,要恢复数据,把该id的删除状态还原即可,例如:
update order set del_status=0,edit_date=now(),edit_user='admin' where id=123;
7.操作数据之前先做备份
如果只是修改了少量的数据,或者只执行了一两条sql语句,通过上面的修改人
和修改时间
字段,在需要回滚时,能快速的定位到正确的数据。
但是如果修改的记录行数很多,并且执行了多条sql,产生了很多修改时间
。这时,你可能就要犯难了,没法一次性找出哪些数据需要回滚。
为了解决这类问题,可以将表做备份。
可以使用如下sql备份:
create table order_bak_2021031721 like`order`;
insert into order_bak_2021031721 select * from`order`;
先创建一张一模一样的表,然后把数据复制到新表中。
也可以简化成一条sql:
create table order_bak_2021031722 select * from`order`;
创建表的同时复制数据到新表中。
此外,建议在表名中加上
bak
和时间
,一方面是为了通过表名快速识别出哪些表是备份表,另一方面是为了备份多次时好做区分。因为有时需要执行多次sql才能把数据修复好,这种情况建议把表备份多次,如果出现异常,把数据回滚到最近的一次备份,可以节省很多重复操作的时间。
恢复数据时,把sql语句改成select
语句,先在备份库找出相关数据,每条数据对应一条update
语句,还原到老表中。
8.中间结果写入临时表
有时候,我们要先用一条sql查询出要更新的记录的id,然后通过这些id更新数据。
批量更新之后,发现不对,要回滚数据。但由于有些数据已更新,此时使用相同的sql相同的条件,却查不出上次相同的id了。
这时,我们开始慌了。
针对这种情况,我们可以先将第一次查询的id存入一张临时表
,然后通过临时表
中的id作为查询条件更新数据。
如果要恢复数据,只用通过临时
表中的id作为查询条件更新数据即可。
修改完,3天之后,如果没有出现问题,就可以把临时表
删掉了。
9.表名前面一定要带库名
我们在写sql时为了方便,习惯性不带数据库名称。比如:
update order set status=1,edit_date=now(),edit_user='admin' where status=0;
假如有多个数据库中有相同的表order
,表结构一模一样,只是数据不一样。
由于执行sql语句的人一个小失误,进错数据库了。
use trade1;
然后执行了这条sql语句,结果悲剧了。
有个非常有效的预防这类问题的方法是加数据库名
:
update `trade2`.`order` set status=1,edit_date=now(),edit_user='admin' where status=0;
这样即使执行sql语句前进错数据库了,也没什么影响。
10.字段增删改的限制
很多时候,我们少不了对表字段的操作,比如:新加、修改、删除字段,但每种情况都不一样。
新加的字段一定要允许为空
新加的字段一定要允许为空。为什么要这样设计呢?
正常情况下,如果程序新加了字段,一般是先在数据库中加字段,然后再发程序的最新代码。
为什么是这种顺序?
因为如果先发程序,然后在数据库中加字段。在该程序刚部署成功,但数据库新字段还没来得及加的这段时间内,最新程序中,所有使用了新加字段的增删改查sql都会报字段不存在的异常。
好了,就按先在数据库中加字段,再发程序的顺序。
如果数据库中新加的字段非空,最新的程序还没发,线上跑的还是老代码,这时如果有insert
操作,就会报字段不能为空的异常。因为新加的非空字段,老代码是没法赋值的。
所以说新加的字段一定要允许为空。
除此之外,这种设计更多的考虑是为了程序发布失败时的回滚操作。如果新加的字段允许为空,则可以不用回滚数据库,只需回滚代码即可,是不是很方便?
不允许删除字段
删除字段是不允许的,特别是必填字段一定不能删除。
为什么这么说?
假设开发人员已经把程序改成不使用删除字段了,接下来如何部署呢?
- 如果先把程序部署好了,还没来得及删除数据库相关表字段。当有
insert
请求时,由于数据库中该字段是必填的,会报必填字段不能为空的异常。 - 如果先把数据库中相关表字段删了,程序还没来得及发。这时所有涉及该删除字段的
增删改查
,都会报字段不存在的异常。
所以,线上环境必填字段一定不能删除的。
根据实际情况修改字段
修改字段要分为这三种情况:
1.修改字段名称
修改字段名称也不允许,跟删除必填字段的问题差不多。
- 如果把程序部署好了,还没来得及修改数据库中表字段名称。这时所有涉及该字段的
增删改查
,都会报字段不存在的异常。 - 如果先把数据库中字段名称改了,程序还没来得及发。这时所有涉及该字段的
增删改查
,同样也会报字段不存在的异常。
所以,线上环境字段名称一定不要修改。
2.修改字段类型
修改字段类型时一定要兼容之前的数据。例如:
- tinyint改成int可以,但int改成tinyint要仔细衡量一下。
- varchar改成text可以,但text改成varchar要仔细衡量一下。
3.修改字段长度
字段长度建议改大,通常情况下,不建议改小。如果一定要改小,要先确认该字段可能会出现的最大长度,避免insert
操作时出现字段太长的异常。
此外,建议改大也需要设置一个合理的长度,避免数据库资源浪费。
总结
本文分享了10种减少数据库误操作的方法,并非所有场景都适合你。特别是在一些高并发,或者单表数据量非常大的场景,你需要根据实际情况酌情选择。但我敢肯定的是读完这篇文章,你一定会有一些收获,因为大部分方法对你来说是适用的,可能会让你少走很多弯路,强烈建议收藏。
最后说一句(求关注,别白嫖我)
如果这篇文章对您有所帮助,或者有所启发的话,帮忙关注一下,您的支持是我坚持写作最大的动力。
求一键三连:点赞、转发、在看。
关注公众号:【苏三说技术】,在公众号中回复:面试、代码神器、开发手册、时间管理有超赞的粉丝福利,另外回复:加群,可以跟很多BAT大厂的前辈交流和学习。