线上服务内存OOM问题定位
【转载于58同城沈剑】
相信大家都有感触,线上服务内存OOM的问题,是最难定位的问题,不过归根结底,最常见的原因:
-
本身资源不够
-
申请的太多
-
资源耗尽
58到家架构部,运维部,58速运技术部联合进行了一次线上服务内存OOM问题排查实战演练,将内存OOM问题定位三板斧分享出来,希望对大家也有帮助。
题目
某服务器上部署了Java服务一枚,出现了OutOfMemoryError,请问有可能是什么原因,问题应该如何定位?
不妨设服务进程PID为10765(没错,就是CPU占用高的那个倒霉的进程《线上服务CPU100%问题快速定位实战》)。
解决思路
Java服务OOM,最常见的原因为:
-
有可能是内存分配确实过小,而正常业务使用了大量内存
-
某一个对象被频繁申请,却没有释放,内存不断泄漏,导致内存耗尽
-
某一个资源被频繁申请,系统资源耗尽,例如:不断创建线程,不断发起网络连接
更具体的,可以使用以下的一些工具逐一排查。
一、确认是不是内存本身就分配过小
方法:jmap -heap 10765
如上图,可以查看新生代,老生代堆内存的分配大小以及使用情况,看是否本身分配过小。
二、找到最耗内存的对象
方法:jmap -histo:live 10765 | more
图示:
如上图,输入命令后,会以表格的形式显示存活对象的信息,并按照所占内存大小排序:
-
实例数
-
所占内存大小
-
类名
是不是很直观?对于实例数较多,占用内存大小较多的实例/类,相关的代码就要针对性review了。
上图中占内存最多的对象是RingBufferLogEvent,共占用内存18M,属于正常使用范围。
如果发现某类对象占用内存很大(例如几个G),很可能是类对象创建太多,且一直未释放。例如:
-
申请完资源后,未调用close()或dispose()释放资源
-
消费者消费速度慢(或停止消费了),而生产者不断往队列中投递任务,导致队列中任务累积过多
三、确认是否是资源耗尽
工具:
-
pstree
-
netstat
查看进程创建的线程数,以及网络连接数,如果资源耗尽,也可能出现OOM。
这里介绍另一种方法,通过
-
/proc/${PID}/fd
-
/proc/${PID}/task
可以分别查看句柄详情和线程数。
例如,某一台线上服务器的sshd进程PID是9339,查看
-
ll /proc/9339/fd
-
ll /proc/9339/task
如上图,sshd共占用了四个句柄
-
0 -> 标准输入
-
1 -> 标准输出
-
2 -> 标准错误输出
-
3 -> socket(容易想到是监听端口)
sshd只有一个主线程PID为9339,并没有多线程。
所以,只要
-
ll /proc/${PID}/fd | wc -l
-
ll /proc/${PID}/task | wc -l (效果等同pstree -p | wc -l)
就能知道进程打开的句柄数和线程数。
jmap -histo:live pid
1、执行该命令会强制执行一次fgc,要关注对fgc敏感的业务
2、很多时候无法直接找到哪些对象耗内存比较多,可以执行该命令后dump内存,通过mat分析
用MAT JProfiler这些工具
VisualVm ,JProfiler,Perfino,Yourkit,Perf4J,JProbe