2020年2月18日
深度学习模型部署的一些问题
摘要： 目前一般使用tf-serving部署深度学习模型，使用tf-serving部署一般要先安装docker，然后使用docker构建serving镜像。 在部署的时候服务默认使用全部的gpu资源，可以指定镜像使用的某一块gpu显卡编号，但是不能指定服务占用gpu资源的百分比。 模型的推理过程还需要进行数 阅读全文
posted @ 2020-02-18 22:43 xiaonezha 阅读(535) 评论(0) 推荐(0) 编辑