谈服务可用性监控

谈服务可用性监控

一个服务的监控从整体考虑，要达到哪些才能算是完善的？我想，如果没有一个全局性的监控思考，一个服务的监控即使加的再多也是会有监控盲区的。

监控的层次

从基础机器到上层业务，分为三个不同层次：系统，应用，业务。不同的层次都应该有其不同的监控目的。

系统监控

这个层次监控服务所在服务器的可用性。服务器的各项基本指标是否正常。包括服务器的CPU，服务器的磁盘，服务器的内存等。

有的服务器会进行服务混布，这种监控更为重要。因为其他服务导致的服务器问题只能通过系统监控层面得到反馈。

操作系统层面的监控也是最为基础的了。如果我们购买云服务器，阿里云或者腾讯云上都会有对应的监控设置，但如果是自有的虚拟化集群，集群管理也有对应的开源实现，比如 prometheus + node_exporter 的形式。

这类监控报警通常关注的就是机器CPU负载，空闲内存，网络带宽，磁盘空间等。

应用监控

这个层次监控当前服务进程的可用性。分析当前服务进程与业务无关的各项指标。把一个应用（进程）当作是黑盒，不管其中的业务逻辑正确与否，只观察这个应用的健康状态。大致应用状态包含：

• 进程数
• CPU占用
• 内存占用
• Coredump情况
• fd打开数

对于这个级别的监控，prometheus 也有一个 process_exporter 是专门做这个事情的。

在应用监控的时候，对于 Golang 项目，需要监控进程的runtime信息。

这个runtime信息包括：

• gorutine个数
• gc暂停时间
• gc次数
• 内存分配

Go 的 runtime 的基本监控方法都是在 Golang 的进程中插入一个包，这个包负责监控 runtime， 并且打点到 metric 系统。

prometheus 也提供了这样一个库： github.com/prometheus/client_golang

能打出这样一些关于runtime的数据：

go_gc_duration_seconds{quantile="0"} 0
go_gc_duration_seconds{quantile="0.25"} 0
go_gc_duration_seconds{quantile="0.5"} 0
go_gc_duration_seconds{quantile="0.75"} 0
go_gc_duration_seconds{quantile="1"} 0
go_gc_duration_seconds_sum 0
go_gc_duration_seconds_count 0
# HELP go_goroutines Number of goroutines that currently exist.
# TYPE go_goroutines gauge
go_goroutines 8
# HELP go_info Information about the Go environment.
# TYPE go_info gauge
go_info{version="go1.14.2"} 1
# HELP go_memstats_alloc_bytes Number of bytes allocated and still in use.
# TYPE go_memstats_alloc_bytes gauge
go_memstats_alloc_bytes 2.563056e+06

业务监控

这个层次监控具体的业务了。这个层次的监控关注的是业务是否可用，业务是否有走入异常分支，业务哪些服务是比较慢的。

关于业务监控，个人的感觉是尽量不要使用metric监控，因为业务的问题一旦报警，排查是需要分析的，这个时候如果仅仅是告诉开发有异常了，但是没有对应的日志，或者查找日志需要去线上机器一个个捞，是一件很痛苦的事情。

所以业务监控的实现方式，基本上都是落盘日志 + 日志文件采集 + 结构化处理 + 分布式日志存储 + 分析报警。

标准的 ELK 三件套非常适合进行实操部署这套。

业务监控应该从三个方面进行报警：

性能监控

监控每个业务请求的性能指标，可以对具体的业务请求的性能进行完整的展示。

我们应该对整体请求的请求时长，所有网络调用的请求时长，所有数据操作的网络时长，以及关键函数的请求时长都有记录。最后在具体分析的时候就能有所抓手。

链路监控

监控每个业务请求的完成链路，这个包括对上游和下游的链路日志，也包括在当前业务中各个模块的日志记录。

对于微服务架构，链路监控是非常重要的。服务与服务间的链路需要通过一个 trace 进行串联。

关于链路监控，已经有很多开源成熟方案可以部署，大都都是基于 Dapper 理论进行实现的。

错误监控

业务中不仅仅只有正常流程的逻辑，也有很多各种各样的错误分支逻辑。对于这些务请求中非正常的错误信息。往往是很有用的。特别是能弥补测试人员没有测试到的一些分支异常。

错误信息必须要保留的应该有错误请求体、错误堆栈、错误触发条件等信息。

监控的数据源

关于监控的数据源，无非就分为两类：日志 和 metric(统计)

日志数据源比metric数据源的优势是能有更强大的数据结构，可以进行更为复杂的日志搜索，可以存储更多的信息。缺点则是存储量比metric数据大很多，在大流量业务场景下，很难做到全量采集。很经常采用的是抽样采集记录。这里面就有一个抽样采集策略。

另一方面 metric 数据源理论上比日志数据源有更强的实时性。也可以通过各种环比来得出趋势的变化。

日志又分为几个类型的日志

• 错误日志：记录错误信息
• 运行日志：记录内部运行和数据流转的各种日志记录
• 访问日志：记录请求进出服务的访问入口日志

如何衡量监控系统的完整性？

摘抄自 Google SRE:

监控系统的衡量指标:

• 速度：需要保证数据的新鲜度和数据获取速度。需要很快获取到最新的数据指标。
• 计算：对数据进行计算可以支持各种复杂的查询需求。
• 接口：既有精确的图表展示，又提供开放的接口查询。
• 告警：灵活的告警系统，可以消除不必要的噪音。

总结

感觉基本每个公司差不多都是这些思路，只是在每个具体实现上，可能会针对不同的业务进行不同的定制化。

基本上从不同层面，不同数据源，对某个服务搭建起来完整的监控链路，这个服务的可用性就能得到很好的保证了。