2023年10月8日
ControlNet-trt优化总结3：使用multi-stream和cuda-graph构建并行流水线
摘要： ControlNet-trt优化总结3：使用multi-stream和cuda-graph构建并行流水线 上节谈到使用TRT-API来构建网络，在这一节中总结一些trick来提升模型的运行效率，这些trick在所有的trt优化中均可使用，主要有以下几点： 使用cuda_graph减少kernel间的 阅读全文
posted @ 2023-10-08 16:16 wildkid1024 阅读(816) 评论(0) 推荐(0) 编辑