docker安装
1.安装docker
TensorFlow Serving的安装推荐使用docker,所以必须先安装docker。docker安装命令请参考官网页面。
Install Docker Engine on Ubuntu | Docker Documentation
2.安装nvidia-docker
接着,我们需要安装docker的nvidia插件,nvidia-docker能够使你的应用在GPU上运行,安装nvidia-docker请参考官方页面。
安装命令最后一句是用于验证nvidia-docker是否安装成功,如果你能看见nvidia-smi输出的显卡信息,证明已经安装成功。如果想了解更多Docker的基础知识,可以阅读Docker Documentation或者Docker -- 从入门到实践这些教程文章。
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 震惊!C++程序真的从main开始吗?99%的程序员都答错了
· 【硬核科普】Trae如何「偷看」你的代码?零基础破解AI编程运行原理
· 单元测试从入门到精通
· 上周热点回顾(3.3-3.9)
· Vue3状态管理终极指南:Pinia保姆级教程