linux主机宕机排查思路

linux主机宕机排查思路
原因分析

服务器分类，web服务器，数据库服务器，文件服务器，中间件，其它服务器。

web服务器分析：常见的web应用apache，nginx，IIS等。

宕机原因很多，cpu，内存，IO磁盘，应用BUG，内核BUG，硬件等

系统和内核版本

流程

1.查看宕机的时间记录和历史登陆还有重启时间

last reboot

last -F |grep crash

查看历史登陆有没有异常的用户

last

2.首先查看系统日志。如linux下的/var/log/下的log日志，包括message，内核报错日志demsg等等，sa记录，是记录cpu，内存等运行的性能文件，记录着运行时的cpu的运行状态如图所示。

利用sa文件查看宕机时CPU情况

利用sa文件查看宕机时内存情况

日志量往往很大

还可以进行模糊查询，如

查看报错

tail -200 /var/log/messages |grep "Error"

cat /var/log/dmesg |grep "Error"

查看内核崩溃日志

tail -200 /car/log/messages |grep "crash"

查看是否出现OOM,一般会出现kill杀死进程的情况

cat /var/log/messages |grep -i "kill"

还可以查看宕机时间段的日志,查看12月11日15点的日志

cat /vat/log/messages |grep "Feb 11 15*"

3.查看内存使用

free -m，查看swap的使用和内存剩余情况和缓存。如果swap用了，且available也不够了，具体还要查看参数cat /proc/sys/vm/swappiness，如果设置为0，说明内存不够了。

4.查看io和文件系统使用

观察idle和iowait。磁盘读写时会用到缓存，一般为系统内存的40%，但是中间有一个缓冲时间120秒，将要用完这个缓存时，且会等待120秒，才会写入磁盘，在读写频繁的时候容易造成hang住的情况。

查看IO的读写速度，如果很慢说明磁盘性能出现瓶颈。

文件系统使用

5.查看安全日志

安全日志为/var/log/secure,查看history记录，查看是否有人登陆主机并做了恶意动作，例如关机。

6．利用kdump和crash工具分析内核

检查服务器开启了kdump服务，并在/var/crash目录找到了当天生成的vmcore文件,使用crash工具分析vmcore文件。

Kdump 用于对内存镜像的转储，它不但可以转储内存镜像到本地硬盘，还可以将内存镜像通过NFS，SSH 等协议转储到不同机器的设备上。

Kdump 分为两个组件：Kexec 和Kdump。

Kexec 是一种内核的快速启动工具，可以使新的内核在正在运行的内核（生产内核）的上下文中启动，而不需要通过耗时的BIOS 检测，方便内核开发人员对内核进行调试。

Kdump 是一种有效的内存转储工具，启用 Kdump 后，生产内核将会保留一部分内存空间，用于在内核崩溃时通过 Kexec 快速启动到新的内核，这个过程不需要重启系统，因此可以转储崩溃的生产内核的内存镜像。

7.查看服务日志和监控软件

如果在能找到宕机时进程的占用情况，可以根据占用异常的服务查看其日志。

服务日志一般有数据库和web服务，中间件，框架等。

还可以查看监控软件的历史记录图像，找到峰值点和宕机时间点的图像分析如下图。

8.总结

系统宕机的原因很多，需要我们细心的按照流程分析，