摘要: 查看占用资源数以及调整副本数 kc get HorizontalPodAutoscaler -n istio-system istio-ingressgateway Deployment/istio-ingressgateway 21%/80% 1 5 3 126d istiod Deploymen 阅读全文
posted @ 2022-03-22 15:59 周周周文阳 阅读(42) 评论(0) 推荐(0) 编辑
摘要: 背景 kserve在kubeflow0.6之后独立出来,在kfserving的基础上做了大量的重构。其重度依赖knative和istio。本文记录kserve启动后,流量如何一步一步通过istio转发给最终的serving的。 开始 首先启动一个pmml服务,为了方便理解,该pmml同时启动两个版本 阅读全文
posted @ 2021-12-28 13:41 周周周文阳 阅读(703) 评论(0) 推荐(2) 编辑
摘要: 背景 在某些场景中,我需要使用一个应用中去动态的构建一个docker镜像。而一般VM基础设施比较健全时,应用程序理论上也会运行在虚拟容器中。所以这时会产生一个需求,就是在容器中创建镜像。最常见的就是在k8s的pod中创建、发布镜像 序 参考:https://devopscube.com/build- 阅读全文
posted @ 2021-12-08 20:45 周周周文阳 阅读(2434) 评论(1) 推荐(0) 编辑
摘要: 安装 官方教程: https://kserve.github.io/website/admin/kubernetes_deployment/ 首先安装istio、cert manager 安装 istio wget [https://github.com/istio/istio/releases/d 阅读全文
posted @ 2021-11-23 17:01 周周周文阳 阅读(875) 评论(0) 推荐(0) 编辑
摘要: lightgbm 启动脚本: apiVersion: "serving.kserve.io/v1beta1" kind: "InferenceService" metadata: name: "lightgbm-iris" spec: predictor: lightgbm: storageUri: 阅读全文
posted @ 2021-11-04 14:38 周周周文阳 阅读(1418) 评论(0) 推荐(0) 编辑
摘要: 集群加入token遗忘或过期 执行命令:kubeadm token create --print-join-command 修改默认的namespace kubectl config set-context --current --namespace=kubeflow 开启匿名访问 kubectl 阅读全文
posted @ 2021-09-29 13:42 周周周文阳 阅读(79) 评论(0) 推荐(0) 编辑
摘要: 概述 tensorflow-serving支持rpc和rest,本文基于rest编写。构建k8s的pod 部署 单模型部署,dockerfile如下: FROM tensorflow/serving MAINTAINER zhouwenyang ADD model /models/${model_n 阅读全文
posted @ 2021-09-22 18:19 周周周文阳 阅读(822) 评论(0) 推荐(0) 编辑
摘要: 前言 安装教程参考https://blog.csdn.net/qq_21187515/article/details/110097982 其中网络配置: kubeadm init --kubernetes-version=1.18.0 \ --apiserver-advertise-address= 阅读全文
posted @ 2021-09-19 15:15 周周周文阳 阅读(2260) 评论(0) 推荐(0) 编辑
摘要: 序 补充上一篇没有讲到的内容。 k8s节点之间的通信 k8s有一个名为kube-apiserver的进程,该进程运行在Master上。这个进程提供了一个rest服务,所有的操作例如pod、service的增删改查watch的操作都是基于此接口执行的。agent机器上的kubectl其实也是基于该re 阅读全文
posted @ 2021-08-20 09:10 周周周文阳 阅读(598) 评论(0) 推荐(0) 编辑
摘要: 出现异常栈: Caused by: org.apache.spark.sql.catalyst.errors.package$TreeNodeException: execute, tree: SortAggregate(key=[template_id#166], functions=[last( 阅读全文
posted @ 2021-08-19 16:23 周周周文阳 阅读(135) 评论(0) 推荐(0) 编辑