随笔分类 - 模型优化
摘要:
阅读全文
摘要:
阅读全文
摘要:
阅读全文
摘要:
阅读全文
摘要:
阅读全文
摘要:先介绍TensorRT、Triton的关系和区别: TensorRT:为inference(推理)为生,是NVIDIA研发的一款针对深度学习模型在GPU上的计算,显著提高GPU上的模型推理性能。即一种专门针对高性能推理的模型框架,也可以解析其他框架的模型如tensorflow、torch。 主要优化
阅读全文
摘要:将YOLOv5与TensorRT结合使用可以显著提高推理速度, 特别是在NVIDIA GPU上。 下面是一个基本的步骤指南, 帮助你了解YOLOv5与TensorRT结合使用的步骤。 人脸检测是一种常见的计算机视觉任务, 下面将详细介绍从模型训练到模型部署的完整流程, 包括使用YOLOv5进行人脸检
阅读全文