随笔分类 -  k8s

knative/kubernetes/kfserving/lstio
k8s pod 抓包 tcpdump结果详解
摘要:首先安装tcpdump: yum install tcpdump kubectl get pod -o wide查看pod在哪个节点上 docker ps 查看container的id 查看pid: docker inspect -f {{.State.Pid}} $containerid pod是 阅读全文

posted @ 2023-01-17 15:50 MissSimple 阅读(490) 评论(0) 推荐(0)

kubectl --v日志级别
摘要:Kubectl 日志输出详细程度是通过 -v 或者 --v 来控制的,参数后跟了一个数字表示日志的级别。Kubernetes 通用的日志习惯和相关的日志级别在 这里 有相应的描述。 详细程度 描述--v=0 通常对此有用,*始终*对运维人员可见。--v=1 如果您不想要详细程度,则为合理的默认日志级 阅读全文

posted @ 2022-06-13 15:51 MissSimple 阅读(692) 评论(0) 推荐(0)

安装helm
摘要:直接下载一个二级制,然后解压到/usr/local下就行: 下载地址: https://github.com/helm/helm/releases Download your desired version Unpack it (tar -zxvf helm-v3.0.0-linux-amd64.t 阅读全文

posted @ 2022-05-25 16:25 MissSimple 阅读(148) 评论(0) 推荐(0)

kubebuilder入门
摘要:1、在go/src下创建一个test-builder文件夹,注意文件夹名中不能用下划线 go/src/test-kubebuilder 2、 kubebuilder init --domain test.io 3、 kubebuilder create api --group testnew --v 阅读全文

posted @ 2022-05-24 10:45 MissSimple 阅读(61) 评论(0) 推荐(0)

go升级
摘要:安装go: yum install epel-release yum install golang 设置环境变量: vim /etc/profile export GOROOT=/usr/local/go export GOPATH=you code path source /etc/profile 阅读全文

posted @ 2022-05-16 15:36 MissSimple 阅读(1003) 评论(0) 推荐(0)

更新k8s资源:patch,update
摘要:update方法: 创建和更新方法: func Create() { namespace := "wm" restConfig, err := clientcmd.BuildConfigFromFlags("", "/home/wm/config") if err != nil { return } 阅读全文

posted @ 2022-05-07 18:01 MissSimple 阅读(269) 评论(0) 推荐(0)

GPU虚拟化:MIG和vGPU对比
摘要:在 vGPU 模式下,GPU 上的内存是静态分区的,但计算能力在共享 GPU 的 VM 之间分时共享。在这种模式下,当虚拟机在 GPU 上运行时,它“拥有” GPU 的所有计算能力,但只能访问其共享的 GPU 内存。 在 MIG 模式下,内存和计算能力是静态划分的。当 VM 在 MIG 模式下使用 阅读全文

posted @ 2022-05-06 09:27 MissSimple 阅读(3660) 评论(0) 推荐(0)

将指标push到pushgateway
摘要:使用push 方式把数据推送到pushgateway。 # cat client.py #!/usr/bin/python3 from prometheus_client import CollectorRegistry, Gauge, push_to_gateway registry = Coll 阅读全文

posted @ 2022-04-07 16:19 MissSimple 阅读(192) 评论(0) 推荐(0)

prometheus四种metric类型
摘要:prometheus中存储的数据都是时序型,其数据模型都是如下:metric_name{label=value,…} value timestamp下文中说的数据类型只是客户端的封装 prometheus 的4种metricprometheus的客户端中提供了4种metric,对于服务端来说并没有使 阅读全文

posted @ 2022-04-07 14:49 MissSimple 阅读(721) 评论(0) 推荐(0)

SLI、SLO、SLA
摘要:SLA (service level agreement):服务等级协议 指的是整个协议,协议的内容包含了SLI,SLO以及恢复的方式和时间等等一系列所构成的协议 SLI(service level indicator):服务等级对象 指的是对象,例如:qps,响应时间,准确性等 SLO(servi 阅读全文

posted @ 2022-04-07 14:46 MissSimple 阅读(1449) 评论(0) 推荐(0)

knativeport, gunicorn port,k8s port的联系
摘要:1、Gunicorn启动server时如何选定端口? 如图这是一个用flask定义的简单的web server,我们平时在本地开发时,一般会受用flask自带的server启动app,那么其会采用__main__中定义的port、host来启动。 但是因为自带的server性能不好,在上线时一般会选 阅读全文

posted @ 2021-11-26 11:17 MissSimple 阅读(288) 评论(0) 推荐(0)

K8s的probe有哪些类型?如何用probe进行探测?容器的默认probe是什么?
摘要:容器启动后,kubelet会调用container的handler对container的状态进行诊断, Handler有三种: ExecAction、TcpSockerAction、HttpGetAction,诊断结果有三种:Succees、Failure、Unknown。 (1) ExecActi 阅读全文

posted @ 2021-11-26 10:48 MissSimple 阅读(302) 评论(0) 推荐(0)

list-watch理解
摘要:kube-controller-manager(运行在Master),kube-scheduler(运行在 Master),kublete(运行在 Node)在启动后会一直watch APIServer发出来的事件。 kubectl创建rs时,会发送请求到api-server,api-server经 阅读全文

posted @ 2021-11-24 17:21 MissSimple 阅读(299) 评论(0) 推荐(0)

OCI Open Container Initiative标准
摘要:Open Container Initiative(OCI)目前有2个标准:runtime-spec以及image-spec。OCI规定了images和runtime协议,只要实现了OCI的容器就可以实现其兼容性和可移植性。 看一下image-spec中的一句话: The OCI Image For 阅读全文

posted @ 2021-11-23 13:21 MissSimple 阅读(563) 评论(0) 推荐(0)

runc和bundle
摘要:runC 是 Docker 公司按照 OCI 标准规范编写的一个操作容器的命令行工具,其前身是 libcontainer 项目演化而来,runC 实际上就是 libcontainer 配上了一个轻型的客户端,是一个命令行工具端,根据 OCI(开放容器组织)的标准来创建和运行容器,实现了容器启停、资源 阅读全文

posted @ 2021-11-23 13:09 MissSimple 阅读(595) 评论(0) 推荐(0)

k8s的patch和replace有什么区别?
摘要:patch:当A和B两个用户或进程同时更新同一个资源时,谁更新的快用谁的,另一个就被覆盖了。 replace:当A和B同时更新同一个资源时,谁更新的快用谁的,另一个的更新请求就被拒绝了。 https://blog.atomist.com/kubernetes-apply-replace-patch/ 阅读全文

posted @ 2021-11-08 15:35 MissSimple 阅读(639) 评论(0) 推荐(0)

推理server 一
摘要:kserve 关于pytorch模型的支持: V1使用kserve的pytorchserver: https://github.com/kserve/kserve/tree/master/python/pytorchserver V2 torchserve适配kserve: https://gith 阅读全文

posted @ 2021-11-05 16:12 MissSimple 阅读(127) 评论(0) 推荐(0)

knative 配置https
摘要:1、部署istio (当前的istio 1.12.0 不用这样整了,直接进入第2步) 首先按照正常部署istio,部署时开启SDS 2、创建secret 首先根据域名创建证书和密匙: openssl req -x509 -nodes -days 3650 -newkey rsa:2048 -keyo 阅读全文

posted @ 2021-11-02 14:15 MissSimple 阅读(94) 评论(0) 推荐(0)

kubectl apply -f service.yaml
摘要:错误1: Error from server (InternalError): error when creating "service.yaml": Internal error occurred: failed calling webhook "webhook.serving.knative.d 阅读全文

posted @ 2020-07-09 14:53 MissSimple 阅读(1246) 评论(0) 推荐(0)

导航