kserve 1
摘要:
kserve是为了解决训练过后的模型,如何上线服务的问题。其实,各大深度学习平台也注意到训练到上线服务这个gap,所以tensorflow、pytorch对应出了 TFServing、torchserve, nvidia出了triton。这些推理平台满足了基本的推理服务上线要求,而 kserve依托 阅读全文
posted @ 2021-12-09 16:24 MissSimple 阅读(755) 评论(0) 推荐(0) 编辑