CPU深度学习模型推理性能抖动问题
摘要：
问题 客户在其环境中发现推理延时毛刺问题，如下： 模型为ResNet-152 v1 FP32推理。 从log可见，抖动出现的频率还比较高，且双路时抖动时延高达平均时延的20倍左右，已经会影响客户的SLA(Service Level Agreement)。 初步排查 环境是裸机还是云主机? 裸机 绑核 阅读全文
posted @ 2020-06-23 14:43 姚伟峰 阅读(820) 评论(3) 推荐(1) 编辑
