线上出问题了,怎么办?

出了问题,不要慌!打开手机,发个朋友圈!

然后,顺便打包好个人物品,抱着出去就行了!

哦哦!

上线前拜四阿哥,假期前拜佛祖,天灵灵地灵灵!

家人们,这不是危言耸听。线上无小事,开不得玩笑的啊!

一、快速恢复

还是那句话,出了问题不要慌,冷静,保持冷静。

首要记住一个原则:快速恢复。

image

时至如今,有一定规模的公司,后台服务状态监控各方面都做得很完善。日志系统、监控系统什么的,一般情况下,异常信息能很快速的展现在开发者眼前。

因此,赶紧马不停蹄的根据现象快速界定问题范围。然后,找到功能负责人,由负责人具体处理。毕竟没有谁比负责人更熟悉相关的业务逻辑。当然,可能你就是那个负责人,自己发现,自己解决,呕吐啊!

周知业务各个关联方:产品悉知产品状态;测试就位协助问题再现及后续验证;上一级负责人做好随时协调外部支持资源,沟通应对上层(尤为重要啊,不要试图掩盖,不声不响,消弭于无声是不可能的!)。

确定下是不是因为线上变动引起的问题,比如上线啊,配置变动,数据变动啥的。对于研发流程不甚规范的公司来说,不测试就上线,随意变动线上配置,后台修改线上数据库数据等等都是很常见的。

如果是,那么立刻做状态恢复,回滚变动。这样算是最快速高效解决办法了。也算是最容易解决的问题。

这种前提下,还有一种情况是是,因为涉及很多关联方的需求,不能回滚恢复!天啦撸,不回滚被骂死,回滚被揍死有没有。肿么办呢,还能怎么办,赶紧加补丁,快速验证快速上线修复。

如果不是变动引起的问题,那么就需要具体问题,具体分析,找问题原因了。

  • 流量变大,服务能力不足了:加节点、加节点,横向扩展堆机器。

  • 消息堆积,消费能力不足了:加消费者,加消费者,多张嘴就好了。

  • 服务网络风暴了,抖动了:不是业务服务的问题,找 SRE,拼命催它们。大群拼命 @ 它们。

  • ... ...

二、问题定位

上面所说的快速恢复都是针对能够快速界定问题原因的情景。但是,很多时候你会发现,那些原因都排除了,问题还在,还在。

还在不是回声,是抓耳挠腮,我很无奈啊!

好吧,一套流程走起来:保留现场,查资源占用,查堆栈信息、查 gc 等等。

1、找到进程 id

jps:jps

ps aux | grep java

ps

top:

top

2、找到线程 pid

top -Hp 进程pid

top

快捷键“R”进行排序,可以通过快捷键“H”查看帮助信息。

快捷键“1” 查看每个cpu使用情况:

topx

3、查看 gc 情况

jstat -gc 进程pid

jstat

也可以加额外的参数循环输出:jstat -gc 进程pid 间隔时间 输出次数

jstatx

4、线程 pid 转化为进制

printf '0x%x' 线程pid

printf

5、查看线程堆栈

jstack 进程pid | grep 转化后的线程pid

jstack

6、io 情况查看:

vmstat:

vmstat

“r”:运行中;“b”:io block等待。

7、查看 jvm 信息

jinfo 进程 pid

jinfo

8、old 区实例查询:

jmap -histo pid | sort -n -r -k 2 | head -10

jmap

三、关于研发流程

其实最好的问题解决方法就是避免问题的出现。

不要去依赖每个人自己的自律性,也不要相信人性。有时候冷酷的规定,制度、流程反而是规避问题的最佳手段。

或许你也听过,每个看似荒唐的规定背后,都有一段不堪回首的往事。

image

四、附加订阅

订阅

posted @ 2023-06-17 09:14  WindWant  阅读(464)  评论(0编辑  收藏  举报
文章精选列表