一、服务发现
static_configs
来配置静态的抓取任务,但是在云环境下,特别是容器环境下,抓取目标地址是经常变动的,所以用静态的方式就不能满足这些场景了,还有特别在很多服务器需要监控时。所以我们需要监控系统能够动态感知这个变化,不可能每次变动都去手动重新配置的,为了应对复杂的动态环境,Prometheus 也提供了与基础设施中的服务发现集成的功能。Prometheus 已经支持多种内置的服务发现机制:
● 发现云服务商的 VM 虚拟机
● Kubernetes 上的自动发现
● 通用的服务查找,例如 DNS、Consul、Zookeeper 或自定义发现机制
可以通过 Prometheus 配置文件中的 scrape_config 部分进行配置,Prometheus 会不断更新动态的抓取目标列表,自动停止抓取旧的实例,
开始抓取新的实例,Prometheus 特别适合运行于 Kubernetes 集群下面,可以自动发现监控目标。
此外大部分服务发现机制还会提供目标的一些元数据,通常都是带有 __ 的前缀, 比如标签、注解、服务名等等,可以在 relabeling 阶段使用这些
元数据来过滤修改目标,这些元信息标签在重新标记阶段后被删除。
二、基于文件的服务发现
基于文件的服务发现提供了一种更通用的方式来配置静态目标,并作为一个接口插入自定义服务发现机制。
它读取一组包含零个或多个 <static_config>
列表的文件,对所有定义的文件的变更通过磁盘监视被检测到并立即应用,文件可以以 YAML 或 JSON 格式提供。文件必须包含一个静态配置的列表:
当然该文件也可以使用 JSON 格式进行配置:
[ { "targets": [ "<host>", ... ], "labels": { "<labelname>": "<labelvalue>", ... } }, ... ]
如果是 YAML 文件则格式为:
- targets: [ - '<host>' ] labels: [ <labelname>: <labelvalue> ... ]
文件内容也会在指定的刷新间隔时间内定期重新读取。
# Patterns for files from which target groups are extracted. files: [ - <filename_pattern> ... ] # Refresh interval to re-read the files. [ refresh_interval: <duration> | default = 5m ]
其中 <filename*pattern>
可以是一个以 .json
、.yml
或 .yaml
结尾的路径,最后一个路径段可以包含一个匹配任何字符序列的 *
,例如:my/path/tg_*.json
。
3.1 创建文件
prometheus.yml
文件相同目录下面创建一个名为 targets.yml
的文件,内容如下所示:cd /data/docker-prometheus mkdir prometheus/targets cat > prometheus/targets/targets.yml<<"EOF" - targets: ['localhost:9090'] labels: job: prometheus - targets: ['cadvisor:8080'] labels: instance: Prometheus服务器 job: cadvisor - targets: ['192.168.10.100:8080'] labels: instance: test服务器 job: cadvisor - targets: ['node_exporter:9100'] labels: instance: Prometheus服务器 job: node-exporter - targets: ['192.168.10.100:9100'] labels: instance: test服务器 job: node-exporter - targets: ['192.168.10.100:9113'] labels: instance: test服务器 job: nginx_exporter - targets: ['192.168.10.100:9121'] labels: instance: test服务器 job: redis_exporter - targets: ['192.168.10.100:9419'] labels: instance: test服务器 job: rabitmq_exporter - targets: ['192.168.10.100:9216'] labels: instance: test服务器 job: mongodb_exporter - targets: ['192.168.10.100:9104'] labels: instance: test服务器 job: mysqld_exporter - targets: ['192.168.10.100:9256'] labels: instance: test服务器 job: process EOF
springboot.yaml
cat >prometheus/targets/springboot.yml<<"EOF" - targets: - 192.168.10.100:8081 EOF
blackbox-exporter-http.yml
cat >prometheus/targets/blackbox-exporter-http.yml<<"EOF" - targets: - https://www.baidu.com - https://www.jd.com EOF
blackbox-exporter-tcp.yml
cat >prometheus/targets/blackbox-exporter-tcp.yml<<"EOF" - targets: - 192.168.0.14:22 - 192.168.10.14:9090 EOF
blackbox-exporter-icmp.yml
cat >prometheus/targets/blackbox-exporter-icmp.yml<<"EOF" - targets: - 192.168.10.14 - 192.168.10.100 EOF
cat >prometheus/targets/domain.yml<<"EOF" - targets: - qq.com - baidu.com EOF
3.2 配置文件服务发现
用于发现的目标文件创建完成后,要让 Prometheus 能够从上面的 targets.yml
文件中自动读取抓取目标,需要在 prometheus.yml
配置文件中的 scrape_configs
部分添加如下所示的抓取配置:
备份文件
cp -a prometheus/prometheus.yml{,.bak} ls -l promethues/prometheus.yml.bak
使用新的prometheus.yaml文件
cat >prometheus/prometheus.yml<<"EOF" # 全局配置 global: scrape_interval: 15s # 将搜刮间隔设置为每15秒一次。默认是每1分钟一次。 evaluation_interval: 15s # 每15秒评估一次规则。默认是每1分钟一次。 # Alertmanager 配置 alerting: alertmanagers: - static_configs: - targets: ['alertmanager:9093'] # 报警(触发器)配置 rule_files: - "alert.yml" - "rules/*.yml" # 搜刮配置 scrape_configs: - job_name: "file-sd-test" file_sd_configs: - refresh_interval: 10s files: - "targets/targets.yml" # Spring Boot 2.x 应用数据采集配置 - job_name: 'file-springboot-demo' metrics_path: '/actuator/prometheus' file_sd_configs: - refresh_interval: 10s files: - targets/springboot.yml #http配置 - job_name: "file-blackbox_http" metrics_path: /probe params: module: [http_2xx] file_sd_configs: - refresh_interval: 10s files: - targets/blackbox-exporter-http.yml relabel_configs: - source_labels: [__address__] target_label: __param_target - source_labels: [__param_target] target_label: instance - target_label: __address__ replacement: 192.168.10.100:9115 #tcp检查配置 - job_name: "file-blackbox_tcp" metrics_path: /probe params: module: [tcp_connect] file_sd_configs: - refresh_interval: 10s files: - targets/blackbox-exporter-tcp.yml relabel_configs: - source_labels: [__address__] target_label: __param_target - source_labels: [__param_target] target_label: instance - target_label: __address__ replacement: 192.168.10.100:9115 #icmp检查配置 ping - job_name: "blackbox_icmp" metrics_path: /probe params: module: [icmp] file_sd_configs: - refresh_interval: 10s files: - targets/blackbox-exporter-http.yml relabel_configs: - source_labels: [__address__] target_label: __param_target - source_labels: [__param_target] target_label: instance - target_label: __address__ replacement: 192.168.10.100:9115 - job_name: domain #scrape_interval: 1h scrape_interval: 15s metrics_path: /probe relabel_configs: - source_labels: [__address__] target_label: __param_target - target_label: __address__ replacement: 192.168.10.100:9222 # domain_exporter address file_sd_configs: - refresh_interval: 10s files: - targets/domain.yml EOF
重新载入:curl -X POST http://localhost:9090/-/reload
重新 reload 或者重启下 Prometheus 让其重新读取配置文件信息,然后同样前往 Prometheus UI 的 targets
页面下面查看
http://192.168.10.14:9090/targets?search=
然后我们可以尝试改变 targets.yml
的内容,比如为192.168.10.100:8080
实例nginx_exporter增加一个 env: test的标签,不用重新加载 Prometheus 配置,Prometheus 将 watch 该文件,并自动接收任何变化。
注意:当在生产环境 Prometheus 服务器中改变 file_sd 目标文件时,确保改变是原子的,以避免重新加载出现错误,最好的方法是在一个单独的位置创建更新的文件,然后将其重命名为目标文件名(使用 mv 命令或 rename() 系统调用)