Kubernetes Pod 健康检查
参考文档: https://jimmysong.io/kubernetes-handbook/guide/configure-liveness-readiness-probes.html
一、Pod的liveness和readiness探针
当你使用kuberentes的时候,有没有遇到过Pod在启动后一会就挂掉然后又重新启动这样的恶性循环?你有没有想过kubernetes是如何检测pod是否还存活?虽然容器已经启动,但是kubernetes如何知道容器的进程是否准备好对外提供服务了呢?
Kubelet使用liveness probe(存活探针)来确定何时重启容器。例如,当应用程序处于运行状态但无法做进一步操作,liveness探针将捕获到deadlock,重启处于该状态下的容器,使应用程序在存在bug的情况下依然能够继续运行下去
Kubelet使用readiness probe(就绪探针)来确定容器是否已经就绪可以接受流量。只有当Pod中的容器都处于就绪状态时kubelet才会认定该Pod处于就绪状态。该信号的作用是控制哪些Pod应该作为service的后端。如果Pod处于非就绪状态,那么它们将会被从service的load balancer中移除。
Probe支持以下三种检查方法:
- httpGet:发送HTTP请求,返回200-400范围内状态码为成功
- exec:执行shell命令,返回状态码0为成功
- tcpSocket:发起TCP Socket建立则成功
二、定义liveness命令(exec)
许多长时间运行的应用程序最终会转换到broken状态,除非重新启动,否则无法恢复。Kubernetes提供了liveness probe来检测和补救这种情况。
apiVersion: v1 kind: Pod metadata: labels: test: liveness name: liveness-exec spec: containers: - name: liveness args: - /bin/sh - -c - touch /tmp/healthy; sleep 30; rm -rf /tmp/healthy; sleep 600 image: busybox livenessProbe: exec: command: - cat - /tmp/healthy initialDelaySeconds: 5 periodSeconds: 5
该配置文件给Pod配置了一个容器。periodSeconds
规定kubelet要每隔5秒执行一次liveness probe。initialDelaySeconds
告诉kubelet在第一次执行probe之前要的等待5秒钟。探针检测命令是在容器中执行 cat /tmp/healthy
命令。如果命令执行成功,将返回0,kubelet就会认为该容器是活着的并且很健康。如果返回非0值,kubelet就会杀掉这个容器并重启它。
容器启动时,执行该命令:
/bin/sh -c "touch /tmp/healthy; sleep 30; rm -rf /tmp/healthy; sleep 600"
在容器生命的最初30秒内有一个 /tmp/healthy
文件,在这30秒内 cat /tmp/healthy
命令会返回一个成功的返回码。30秒后, cat /tmp/healthy
将返回失败的返回码。
创建Pod
kubectl create -f exec-lineness.yaml
在30秒内,查看Pod的event:
kubectl describe pod liveness-exec # 显示正常 Normal Pulled 34s (x3 over 3m) kubelet, node-01 Successfully pulled image "busybox" Normal Created 34s (x3 over 3m) kubelet, node-01 Created container Normal Started 33s (x3 over 3m) kubelet, node-01 Started container
启动35秒后,再次查看pod的event:
kubectl describe pod liveness-exec # 显示查询不到/tmp/healthy Normal Scheduled 1m default-scheduler Successfully assigned liveness-exec to master-01 Normal SuccessfulMountVolume 1m kubelet, master-01 MountVolume.SetUp succeeded for volume "default-token-v5vw9" Normal Pulled 1m kubelet, master-01 Successfully pulled image "busybox" Normal Created 1m kubelet, master-01 Created container Normal Started 1m kubelet, master-01 Started container Warning Unhealthy 40s (x3 over 50s) kubelet, master-01 Liveness probe failed: cat: can't open '/tmp/healthy': No such file or directory Normal Pulling 10s (x2 over 1m) kubelet, master-01 pulling image "busybox" Normal Killing 10s kubelet, master-01 Killing container with id docker://liveness:Container failed liveness probe.. Container will be killed and recreated
然后就会将这个Pod删掉重建
[root@master-01 healthy]# kubectl get pod NAME READY STATUS RESTARTS AGE liveness-exec 1/1 Running 1 2m # RESTARTS 已经为1了
三、定义一个liveness HTTP请求
我们还可以使用HTTP GET请求作为liveness probe。
apiVersion: v1 kind: Pod metadata: labels: test: liveness name: liveness-http spec: containers: - name: liveness args: - /server image: tomtsang/dockerlibraryk8s-liveness livenessProbe: httpGet: path: /healthz port: 8080 httpHeaders: - name: X-Custom-Header value: Awesome initialDelaySeconds: 3 periodSeconds: 3
该配置文件只定义了一个容器,livenessProbe
指定kubelete需要每隔3秒执行一次liveness probe。initialDelaySeconds
指定kubelet在该执行第一次探测之前需要等待3秒钟。该探针将向容器中的server的8080端口发送一个HTTP GET请求。如果server的/healthz
路径的handler返回一个成功的返回码,kubelet就会认定该容器是活着的并且很健康。如果返回失败的返回码,kubelet将杀掉该容器并重启它。
任何大于200小于400的返回码都会认定是成功的返回码。其他返回码都会被认为是失败的返回码。
查看该server的源码:server.go.
最开始的10秒该容器是活着的, /healthz
handler返回200的状态码。这之后将返回500的返回码。
http.HandleFunc("/healthz", func(w http.ResponseWriter, r *http.Request) { duration := time.Now().Sub(started) if duration.Seconds() > 10 { w.WriteHeader(500) w.Write([]byte(fmt.Sprintf("error: %v", duration.Seconds()))) } else { w.WriteHeader(200) w.Write([]byte("ok")) } })
容器启动3秒后,kubelet开始执行健康检查。第一次健康监测会成功,但是10秒后,健康检查将失败,kubelet将杀掉和重启容器。
创建Pod:
kubectl create -f http-liveness.yaml
10秒后,查看Pod的event,确认liveness probe失败并重启了容器。
Normal Scheduled 24s default-scheduler Successfully assigned liveness-http to master-01 Normal SuccessfulMountVolume 24s kubelet, master-01 MountVolume.SetUp succeeded for volume "default-token-v5vw9" Normal Pulled 19s kubelet, master-01 Successfully pulled image "tomtsang/dockerlibraryk8s-liveness" Normal Created 19s kubelet, master-01 Created container Normal Started 19s kubelet, master-01 Started container Warning Unhealthy 2s (x3 over 8s) kubelet, master-01 Liveness probe failed: HTTP probe failed with statuscode: 500 Normal Pulling 1s (x2 over 23s) kubelet, master-01 pulling image "tomtsang/dockerlibraryk8s-liveness" Normal Killing 1s kubelet, master-01 Killing container with id docker://liveness:Container failed liveness probe..
四、定义TCP liveness探针
第三种liveness probe使用TCP Socket。 使用此配置,kubelet将尝试在指定端口上打开容器的套接字。 如果可以建立连接,容器被认为是健康的,如果不能就认为是失败的。
apiVersion: v1 kind: Pod metadata: name: goproxy labels: app: goproxy spec: containers: - name: goproxy image: gcr.io/google_containers/goproxy:0.1 ports: - containerPort: 8080 readinessProbe: tcpSocket: port: 8080 initialDelaySeconds: 5 periodSeconds: 10 livenessProbe: tcpSocket: port: 8080 initialDelaySeconds: 15 periodSeconds: 20
如您所见,TCP检查的配置与HTTP检查非常相似。 此示例同时使用了readiness和liveness probe。 容器启动后5秒钟,kubelet将发送第一个readiness probe。 这将尝试连接到端口8080上的goproxy容器。如果探测成功,则该pod将被标记为就绪。Kubelet将每隔10秒钟执行一次该检查。
除了readiness probe之外,该配置还包括liveness probe。 容器启动15秒后,kubelet将运行第一个liveness probe。 就像readiness probe一样,这将尝试连接到goproxy容器上的8080端口。如果liveness probe失败,容器将重新启动。
五、使用命名端口
可以使用命名的ContainerPort作为HTTP或TCP liveness检查:
ports: - name: liveness-port containerPort: 8080 hostPort: 8080 livenessProbe: httpGet: path: /healthz port: liveness-port
六、定义readiness探针
有时,应用程序暂时无法对外部流量提供服务。 例如,应用程序可能需要在启动期间加载大量数据或配置文件。 在这种情况下,你不想杀死应用程序,但你也不想发送请求。 Kubernetes提供了readiness probe来检测和减轻这些情况。 Pod中的容器可以报告自己还没有准备,不能处理Kubernetes服务发送过来的流量。
Readiness probe的配置跟liveness probe很像。唯一的不同是使用 readinessProbe
而不是livenessProbe
。
readinessProbe: exec: command: - cat - /tmp/healthy initialDelaySeconds: 5 periodSeconds: 5
Readiness probe的HTTP和TCP的探测器配置跟liveness probe一样。
Readiness和livenss probe可以并行用于同一容器。 使用两者可以确保流量无法到达未准备好的容器,并且容器在失败时重新启动。
七、配置Probe
Probe中有很多精确和详细的配置,通过它们你能准确的控制liveness和readiness检查:
initialDelaySeconds
:容器启动后第一次执行探测是需要等待多少秒。periodSeconds
:执行探测的频率。默认是10秒,最小1秒。timeoutSeconds
:探测超时时间。默认1秒,最小1秒。successThreshold
:探测失败后,最少连续探测成功多少次才被认定为成功。默认是1。对于liveness必须是1。最小值是1。failureThreshold
:探测成功后,最少连续探测失败多少次才被认定为失败。默认是3。最小值是1。
HTTP probe中可以给 httpGet
设置其他配置项:
host
:连接的主机名,默认连接到pod的IP。你可能想在http header中设置"Host"而不是使用IP。scheme
:连接使用的schema,默认HTTP。path
: 访问的HTTP server的path。httpHeaders
:自定义请求的header。HTTP运行重复的header。port
:访问的容器的端口名字或者端口号。端口号必须介于1和65525之间。
对于HTTP探测器,kubelet向指定的路径和端口发送HTTP请求以执行检查。 Kubelet将probe发送到容器的IP地址,除非地址被httpGet
中的可选host
字段覆盖。 在大多数情况下,你不想设置主机字段。 有一种情况下你可以设置它。 假设容器在127.0.0.1上侦听,并且Pod的hostNetwork
字段为true。 然后,在httpGet
下的host
应该设置为127.0.0.1。 如果你的pod依赖于虚拟主机,这可能是更常见的情况,你不应该是用host
,而是应该在httpHeaders
中设置Host
头。