2021年12月30日

模型部署工程师与模型训练工程师各应该掌握的技术

摘要: 现在算法行业有这样几类从业者: 训练阶段: 提升算法精度的,工作职责就是紧跟最新研究工作,从论文中复现模型,用于自己公司的数据上,并调整模型结构、参数,让其更适用于自己公司的数据集。这类工作的招聘要求,大概有熟悉CV、NLP等领域内的算法,熟悉tensorflow、pytorch等框架,能熟练阅读论 阅读全文

posted @ 2021-12-30 16:10 MissSimple 阅读(482) 评论(0) 推荐(0) 编辑

tensorrt与tvm

摘要: tensorrt 和tvm都是用于训练后模型的部署的,它们能够多模型进行量化、算子融合等,使模型运行更快。 如果采用GPU硬件平台,一般会使用TensorRT方式部署,因为TensorRT能够充分发挥GPU平台的性能,同时也做了很多的优化(算子融合,量化等),所以在性能上有比较大的优势。不过,Ten 阅读全文

posted @ 2021-12-30 10:46 MissSimple 阅读(512) 评论(0) 推荐(0) 编辑

导航