prometheus.(7).基于exporter模块源代码示例
基于exporter模块源代码示例
作者声明:本博客内容是作者在学习以及搭建过程中积累的内容,内容采自网络中各位老师的优秀博客以及视频,并根据作者本人的理解加以修改(由于工作以及学习中东拼西凑,如何造成无法提供原链接,在此抱歉!!!)
作者再次声明:作者只是一个很抠脚的IT工作者,希望可以跟那些提供原创的老师们学习
原文:大米运维
一. 编写⼀个exporter的流程
官网有介绍 编写exporter的详细内容我们这里给大家做⼀个简单的归纳首先 不同于pushgateway, exporter是⼀个独立运行的采集程序
其中的功能需要有这三个部分
1)自身是HTTP 服务器,可以响应 从外发过来的 HTTP GET 请求
2)自身需要运行在后台,并可以定期触发 抓取本地的监控数据
3)返回给prometheus_server 的内容是需要符合prometheus规定的metrics类型(Key-Value)
- key-value -> prometheus(TS) 需要接受 values( float int ) 不可以 return string * 否则会是空值
二.基于go开发exporter的源代码及讲解
package main
import (
"fmt"
_ "net/http/pprof"
"sync"
// "github.com/hpcloud/tail"
"github.com/prometheus/client_golang/prometheus"
"github.com/prometheus/common/log"
"github.com/prometheus/common/version"
// //"net"
"net/http"
// "net/url"
// "errors"
"flag"
"os"
"os/exec"
"io/ioutil"
// "regexp"
// "strconv"
// "strings"
"time"
)
const (
namespace = "my_exporter"
)
type Exporter struct {
cmd string
mutex sync.RWMutex
up,freeRam,TotalRam prometheus.Gauge
Debug bool
upstreamResponseTimes *prometheus.HistogramVec
}
func (e *Exporter) scrape() {
log.Infoln("--------")
e.up.Set(1)
}
func (e *Exporter) Describe(ch chan<- *prometheus.Desc) {
e.upstreamResponseTimes.Describe(ch)
}
func (e *Exporter) Collect(ch chan<- prometheus.Metric) {
e.mutex.Lock() // To protect metrics from concurrent collects
defer e.mutex.Unlock()
e.scrape()
e.upstreamResponseTimes.Collect(ch)
e.up.Collect(ch)
}
func NewExporter(cmd string, timeout time.Duration) (*Exporter,
error) {
return &Exporter{
cmd: cmd,
up: prometheus.NewGauge(prometheus.GaugeOpts{
Namespace: namespace,
Name: "up",
Help: "Was the last scrape of nginx exporter successful.",
}),
upstreamResponseTimes: prometheus.NewHistogramVec(
prometheus.HistogramOpts{
Namespace: namespace,
Name: "http_upstream_request_times",
Help: "Response times from backends/upstreams",
},
[]string{"method", "endpoint", "response_code",
"client_type"},
),
}, nil
}
func run() {
cmd := exec.Command("/bin/sh", "-c", `free -m `)
stdout , err := cmd.StdoutPipe()
if err != nil {
panic(err.Error())
}
if err != nil {
fmt.Println("Stdoutpipe error", err.Error())
}
stderr , err := cmd.StderrPipe()
if err != nil {
fmt.Println("Stderrpipe error", err.Error())
}
if err := cmd.Start(); err != nil {
fmt.Println("error start", err )
}
bytesErr, err := ioutil.ReadAll(stderr)
if err != nil {
fmt.Println("ReadAll stderr: ", err.Error())
return
}
if len(bytesErr) != 0 {
fmt.Printf("stderr is not nil: %s", bytesErr)
return
}
bytes, err := ioutil.ReadAll(stdout)
if err != nil {
fmt.Println("ReadAll stdout: ", err.Error())
return
}
if err := cmd.Wait(); err != nil {
fmt.Println("Wait: ", err.Error())
return
}
fmt.Printf("stdout: %s", string(bytes))
}
func main() {
var (
listenAddress = flag.String("web.listen-address", ":9101",
"Address to listen on for web interface and telemetry.")
metricsPath = flag.String("web.telemetry-path", "/metrics",
"Path under which to expose metrics.")
cmd = flag.String("free", "", "command to run")
nginxTimeout = flag.Duration("nginx.timeout",
5*time.Second, "Timeout for trying to get stats from HA.")
showVersion = flag.Bool("version", false, "Print version
information.")
// debug = flag.Bool("debug", false, "Print debug
information.")
)
flag.Parse()
if *showVersion {
fmt.Println(os.Stdout, version.Print("shannon_exporter"))
os.Exit(0)
}
log.Infoln("Starting shannon_exporter", version.Info())
log.Infoln("Build context", version.BuildContext())
run()
exporter, _ := NewExporter(*cmd, *nginxTimeout)
prometheus.MustRegister(exporter)
prometheus.MustRegister(version.NewCollector("nginx_exporte
r"))
http.Handle(*metricsPath, prometheus.Handler())
http.HandleFunc("/", func(w http.ResponseWriter, r
*http.Request) {
w.Write([]byte(`<html>
<head><title>Haproxy Exporter</title></head>
<body>
<h1>Haproxy Exporter</h1>
<p><a href='` + *metricsPath + `'>Metrics</a></p>
</body>
</html>`))
})
log.Fatal(http.ListenAndServe(*listenAddress, nil))
}
//前面的 scrape describeCollect 是struct类型的成员函数,这⼏个函数并没有直接在这个go里被调用,而是MustRegister注册进去了它们。
// http.Handle里的prometheus.Handler 将上⼀部2个Mustregister的注册 关联进⼊http.handle. 也就进⼀步注册进入了httpserver-listerner
// http.lister是组赛程序,只有启动后被curl的时候 才会执行。并且由于之前经过2步的注册,跟exporter的成员函数简历了关联(其实是指针关联) 所以,每次被curl的时候所有上面的成员函数都会被调用//例如上⾯的up.set(1) 就是只有被curl的时候才会被调用,成员函数是作为生成metrics的入口
注: 本Go exporter 源代码 是半年前写的了 其中⼀些地方可能需要进⼀步修改才可以正常使用(本人go开发能力也比较菜 - _ -)
三.个人建议
通过上面的对⼀个exporter源代码的讲解,我们也看得出来编写⼀个 exporter 远比写⼀个pushgateway脚本要复杂的多
个人呢建议:除非是工作中真的有需要(例如:社区的exporters都不能满足需求,且对于监控客户端的规范化比较严格) 且
对自己的编程能力有自信,那么可以自行开发new exporter
exporter-prometheus 5s GET => exporter Handler-> handler-lister 开发的过程中 要特别注意 各种文件句柄等等资源的 完整回
收。因为⼀个非常被频繁调用的后台程序中 ⼀旦循环中出现资源泄漏那么后果是很严重的(之前其实就遇到过⼀次 资源没有正确回收 导致每⼀次promethue_server访问过来 都造成僵尸进程 最终服务器被拖垮的窘境 …囧 当然了 如果是 开发高手的话 相信我的担心也就多余啦~~)所以 如果企业中 运维开发的实力不够过硬,我还是尽量建议大家 使用现成的社区exporters, 配合自行开发pushgateway脚本 。