随笔分类 - TensorRT-Alpha
基于CUDA+TensorRT实现深度学习加速,支持前处理、后处理、推理在GPU上运行,支持win/linux系统
摘要:win10下亲测有效!(如果想在tensorrt+cuda下部署yolov8,直接看第五5章) yolov8 官方仓库: https://github.com/ultralytics/ultralytics 【Win10下yolov8 tensorrt模型加速部署【实战】】:https://www.
阅读全文
摘要:0. linux环境配置 基于tensorrt+cuda c++实现模型end2end的gpu加速,支持win10、linux,在2023年已经更新模型:YOLOv8, YOLOv7, YOLOv6, YOLOv5, YOLOv4, YOLOv3, YOLOX, YOLOR,pphumanseg,u
阅读全文
摘要:ubuntu18.04 yolov8 tensorrt模型加速部署【实战】 TensorRT-Alpha基于tensorrt+cuda c++实现模型end2end的gpu加速,支持win10、linux,在2023年已经更新模型:YOLOv8, YOLOv7, YOLOv6, YOLOv5, YO
阅读全文
摘要: 测试信息 测试平台:linux+docker 硬件:NVIDIA 3070 模型输入:batchx3x640x640(测试设置batch为8) 测试模型:yolov8n,yolov8s,yolov8n,更多模型测试可以去网盘下载:文件分享 测试仓库 yolov8相关tensrrt+cuda部署代
阅读全文