MissSimple - 博客园

docker创建容器时发生了什么？

摘要：这个系列有四篇文章，从nvidia的mount plugin开始，一直了解到runc。第一篇是nvidia jetson mount plugin，是讲nvidia jetson的libnvidia-container的mount技术的，第二篇介绍nvidia-docker做了什么？第三篇介绍阅读全文

posted @ 2021-11-23 16:21 MissSimple 阅读(90) 评论(0) 推荐(0) 编辑

OCI Open Container Initiative标准

摘要： Open Container Initiative(OCI)目前有2个标准：runtime-spec以及image-spec。OCI规定了images和runtime协议，只要实现了OCI的容器就可以实现其兼容性和可移植性。看一下image-spec中的一句话： The OCI Image For 阅读全文

posted @ 2021-11-23 13:21 MissSimple 阅读(466) 评论(0) 推荐(0) 编辑

runc和bundle

摘要： runC 是 Docker 公司按照 OCI 标准规范编写的一个操作容器的命令行工具，其前身是 libcontainer 项目演化而来，runC 实际上就是 libcontainer 配上了一个轻型的客户端，是一个命令行工具端，根据 OCI（开放容器组织）的标准来创建和运行容器，实现了容器启停、资源阅读全文

posted @ 2021-11-23 13:09 MissSimple 阅读(348) 评论(0) 推荐(0) 编辑

nvidia-docker做了什么？

摘要：在nvidia jetson mount plugin中提到默认的docker和nvidia-docker打开容器的流程不同： docker打开容器流程：docker --> dockerd -rpc-> containerd--> containerd-shim -->runc --> conta 阅读全文

posted @ 2021-11-23 12:53 MissSimple 阅读(280) 评论(0) 推荐(0) 编辑

nvidia jetson mount plugin

摘要： libnvidia-container有专门的jetson分支，其中提到https://github.com/NVIDIA/libnvidia-container/blob/jetson/design/mount_plugins.md提到mount plugin技术，简单来说，就是在裸机上安装ten 阅读全文

posted @ 2021-11-22 16:54 MissSimple 阅读(629) 评论(0) 推荐(0) 编辑

推理server 三 torchserve示例

摘要： kserve在用torchserve时，需要按照这个文档中指示，将torchserve重新build一下：https://github.com/pytorch/serve/tree/master/kubernetes/kfserving docker run -it --network=host - 阅读全文

posted @ 2021-11-09 11:25 MissSimple 阅读(166) 评论(0) 推荐(0) 编辑

推理server 二 tensorflow serving使用示例

摘要： docker run --network=host -v /home/test/models/:/mnt/models tensorflow-serving:v1.14.0 --port=9045 --rest_api_port=8040 --model_name="flowers" --model 阅读全文

posted @ 2021-11-09 11:02 MissSimple 阅读(70) 评论(0) 推荐(0) 编辑

k8s的patch和replace有什么区别？

摘要： patch：当A和B两个用户或进程同时更新同一个资源时，谁更新的快用谁的，另一个就被覆盖了。 replace：当A和B同时更新同一个资源时，谁更新的快用谁的，另一个的更新请求就被拒绝了。 https://blog.atomist.com/kubernetes-apply-replace-patch/ 阅读全文

posted @ 2021-11-08 15:35 MissSimple 阅读(579) 评论(0) 推荐(0) 编辑

推理server 一

摘要： kserve 关于pytorch模型的支持： V1使用kserve的pytorchserver： https://github.com/kserve/kserve/tree/master/python/pytorchserver V2 torchserve适配kserve： https://gith 阅读全文

posted @ 2021-11-05 16:12 MissSimple 阅读(117) 评论(0) 推荐(0) 编辑

knative 配置https

摘要： 1、部署istio （当前的istio 1.12.0 不用这样整了，直接进入第2步）首先按照正常部署istio，部署时开启SDS 2、创建secret 首先根据域名创建证书和密匙： openssl req -x509 -nodes -days 3650 -newkey rsa:2048 -keyo 阅读全文

posted @ 2021-11-02 14:15 MissSimple 阅读(62) 评论(0) 推荐(0) 编辑