2020年4月20日
深度学习推理加速TensorRT简介
摘要： 一、概括 TensorRT作为英伟达深度学习系列SDK的一部分，是一个高性能(HP)的深度学习推理优化器，可以为深度学习应用提供一个低延迟、高吞吐量的推理部署。基于TensorRT的应用推理性能上是只用CPU时的40多倍（版本TensorRT 7.0）。使用TensorRT，你可以优化现在几乎所有主 阅读全文
posted @ 2020-04-20 23:14 卡冈图雅blackhole 阅读(1148) 评论(0) 推荐(0) 编辑