摘要: 看这个图,就知道现在知识蒸馏的大致做法了。差不多就是在做模型裁剪,有时候我也觉得奇怪,按理说老师教学生不应该青出于蓝而胜于蓝吗?从这里看,student模型除了性能有优势,精确率是没有优势的。 万字综述 | 一文读懂知识蒸馏 2020-12-22阅读 5.4K0 知识蒸馏综述 本文梳理了用于简单分类 阅读全文
posted @ 2022-03-25 15:07 bonelee 阅读(1335) 评论(0) 推荐(0) 编辑