摘要: 深度学习 - Torch-TensorRT 推理加速 Torch-TensorRT 作为 TorchScript 的扩展。 它优化并执行兼容的子图,让 PyTorch 执行剩余的图。 PyTorch 全面而灵活的功能集与 Torch-TensorRT 一起使用,解析模型并将优化应用于图的 Tenso 阅读全文
posted @ 2023-07-11 16:23 gaobowen 阅读(532) 评论(0) 推荐(0) 编辑