摘要: 作者 郭云龙,腾讯云高级工程师,目前就职于 CSIG 云产品三部-AI 应用产品中心,现负责中心后台业务框架开发。 导语 为了满足 AI 能力在公有云 SaaS 场景下,服务和模型需要快速迭代交付的需求,保障服务在不稳定高并发时的高成功率,以及进一步提升资源利用率,AI 应用产品中心进行了一系列的调 阅读全文
posted @ 2021-09-22 18:03 腾讯云原生 阅读(420) 评论(0) 推荐(0) 编辑
摘要: 背景 qGPU 是腾讯云推出的 GPU 共享技术,支持在多个容器间共享 GPU卡,并提供容器间显存、算力强隔离的能力,从而在更小粒度的使用 GPU 卡的基础上,保证业务安全,达到提高 GPU 使用率、降低客户成本的目的。 qGPU on TKE 依托腾讯云 TKE 对外开源的 Nano GPU 调度 阅读全文
posted @ 2021-09-22 15:57 腾讯云原生 阅读(1600) 评论(0) 推荐(0) 编辑