摘要:
现象 构建python服务镜像。在使用k8s pod部署时,kubectl logs不显示日志,而过段时间kubectl logs又能够看到日志。 其中,容器内通过 python main.py 启动python服务所有的日志使用print打印。 在使用docker run 启动容器时,docker 阅读全文
摘要:
查看占用资源数以及调整副本数 kc get HorizontalPodAutoscaler -n istio-system istio-ingressgateway Deployment/istio-ingressgateway 21%/80% 1 5 3 126d istiod Deploymen 阅读全文
摘要:
背景 kserve在kubeflow0.6之后独立出来,在kfserving的基础上做了大量的重构。其重度依赖knative和istio。本文记录kserve启动后,流量如何一步一步通过istio转发给最终的serving的。 开始 首先启动一个pmml服务,为了方便理解,该pmml同时启动两个版本 阅读全文
摘要:
背景 在某些场景中,我需要使用一个应用中去动态的构建一个docker镜像。而一般VM基础设施比较健全时,应用程序理论上也会运行在虚拟容器中。所以这时会产生一个需求,就是在容器中创建镜像。最常见的就是在k8s的pod中创建、发布镜像 序 参考:https://devopscube.com/build- 阅读全文
摘要:
安装 官方教程: https://kserve.github.io/website/admin/kubernetes_deployment/ 首先安装istio、cert manager 安装 istio wget [https://github.com/istio/istio/releases/d 阅读全文
摘要:
lightgbm 启动脚本: apiVersion: "serving.kserve.io/v1beta1" kind: "InferenceService" metadata: name: "lightgbm-iris" spec: predictor: lightgbm: storageUri: 阅读全文
摘要:
集群加入token遗忘或过期 执行命令:kubeadm token create --print-join-command 修改默认的namespace kubectl config set-context --current --namespace=kubeflow 开启匿名访问 kubectl 阅读全文
摘要:
概述 tensorflow-serving支持rpc和rest,本文基于rest编写。构建k8s的pod 部署 单模型部署,dockerfile如下: FROM tensorflow/serving MAINTAINER zhouwenyang ADD model /models/${model_n 阅读全文
摘要:
前言 安装教程参考https://blog.csdn.net/qq_21187515/article/details/110097982 其中网络配置: kubeadm init --kubernetes-version=1.18.0 \ --apiserver-advertise-address= 阅读全文
摘要:
序 补充上一篇没有讲到的内容。 k8s节点之间的通信 k8s有一个名为kube-apiserver的进程,该进程运行在Master上。这个进程提供了一个rest服务,所有的操作例如pod、service的增删改查watch的操作都是基于此接口执行的。agent机器上的kubectl其实也是基于该re 阅读全文