2023年8月13日
【Tensorflow】深度模型推理性能优化-初步
摘要： 序 说到深度模型优化，可能想到最多的就是上GPU，对于CV、NLP这一类模型效果非常明显，一般RT能下降到原来的1/10。但是在实际中，会遇到一些排序类的模型 例如推荐模型DSMM、ESMM、DIN等模型，这些模型深度一般只有4、5层，上GPU后性能、RT反而下降，猜测原因可能是模型网络简单，导致反 阅读全文
posted @ 2023-08-13 23:31 周周周文阳 阅读(351) 评论(0) 推荐(0) 编辑