MissSimple - 博客园

更新k8s资源：patch，update

摘要： update方法：创建和更新方法： func Create() { namespace := "wm" restConfig, err := clientcmd.BuildConfigFromFlags("", "/home/wm/config") if err != nil { return } 阅读全文

posted @ 2022-05-07 18:01 MissSimple 阅读(244) 评论(0) 推荐(0) 编辑

GPU虚拟化：MIG和vGPU对比

摘要：在 vGPU 模式下，GPU 上的内存是静态分区的，但计算能力在共享 GPU 的 VM 之间分时共享。在这种模式下，当虚拟机在 GPU 上运行时，它“拥有” GPU 的所有计算能力，但只能访问其共享的 GPU 内存。在 MIG 模式下，内存和计算能力是静态划分的。当 VM 在 MIG 模式下使用阅读全文

posted @ 2022-05-06 09:27 MissSimple 阅读(3029) 评论(0) 推荐(0) 编辑

AB测试系统是什么？应该包含哪些功能？

摘要： AB测试就是抽样检测，AB测试最重要的一个概念就是“数据驱动”，即利用用户数据，决定哪种方案好，这比领导/产品经理一拍脑袋决定要靠谱的多。 A/B实验的基本思想就是：我们在线上流量中取出一小部分（较低风险），完全随机地分给原策略A和新策略B（排除干扰），再结合一定的统计方法，得到对于两种策略相对效果阅读全文

posted @ 2022-04-26 16:04 MissSimple 阅读(831) 评论(0) 推荐(0) 编辑

推理serving框架

摘要： 1、AI-Serving AI-Serving是一款开源的机器学习和深度学习模型部署推理（inference）系统，支持标准的PMML和ONNX格式，同时提供HTTP（REST API）和gRPC两种接口，方便在不同的生产环境中使用。 AI-Serving主要关注在标准交换格式的模型部署，目前PMM 阅读全文

posted @ 2022-04-12 20:18 MissSimple 阅读(121) 评论(0) 推荐(0) 编辑

windows安装pytorch

摘要：首先安装anaconda：https://www.anaconda.com/ ，安装完后，创建一个虚拟环境，conda三命令： conda create -n pytorch conda activate pytorch conda deactivate 然后在安装pytorch，https://p 阅读全文

posted @ 2022-04-11 19:00 MissSimple 阅读(48) 评论(0) 推荐(0) 编辑

将指标push到pushgateway

摘要：使用push 方式把数据推送到pushgateway。 # cat client.py #!/usr/bin/python3 from prometheus_client import CollectorRegistry, Gauge, push_to_gateway registry = Coll 阅读全文

posted @ 2022-04-07 16:19 MissSimple 阅读(163) 评论(0) 推荐(0) 编辑

prometheus四种metric类型

摘要： prometheus中存储的数据都是时序型，其数据模型都是如下：metric_name{label=value,…} value timestamp下文中说的数据类型只是客户端的封装 prometheus 的4种metricprometheus的客户端中提供了4种metric，对于服务端来说并没有使阅读全文

posted @ 2022-04-07 14:49 MissSimple 阅读(628) 评论(0) 推荐(0) 编辑

SLI、SLO、SLA

摘要： SLA （service level agreement）:服务等级协议指的是整个协议，协议的内容包含了SLI，SLO以及恢复的方式和时间等等一系列所构成的协议 SLI（service level indicator）:服务等级对象指的是对象，例如：qps，响应时间，准确性等 SLO（servi 阅读全文

posted @ 2022-04-07 14:46 MissSimple 阅读(1133) 评论(0) 推荐(0) 编辑

常用命令

摘要： 1、查找某个目录下的文件是否使用了关键字： grep -m "key" ./* 2、回退当前分支到某个版本： git reset --hard 139dcfaa558e3276b30b6b2e5cbbb9c00bbdca96 3、此时只是本地回退了，想要远端回退用： git push -f -u o 阅读全文

posted @ 2022-03-08 19:28 MissSimple 阅读(30) 评论(0) 推荐(0) 编辑

LLVM架构

摘要：典型的编译器架构包括： Frontend:前端功能包括词法分析、语法分析、语义分析、生成中间代码 Optimizer:优化器中间代码优化 Backend:后端生成机器码 LLVM架构：不同的前端后端使用统一的中间代码LLVM Intermediate Representation (LLVM 阅读全文

posted @ 2022-01-07 17:12 MissSimple 阅读(186) 评论(0) 推荐(0) 编辑