2020年6月15日
深度学习--知识蒸馏介绍
摘要： 以前理解的模型蒸馏就是模型“提纯”，这样说太宽泛了，应该说 蒸馏是“提纯”的一种手段而已。 知识蒸馏具体指：让小模型去学到大模型的知识。通俗的说，让student模型的输出接近(拟合)teacher模型的输出。知识蒸馏的重点在于拟合二字，即我们要定义一个方法去衡量student模型和teacher模 阅读全文
posted @ 2020-06-15 14:21 我们都是大好青年 阅读(3814) 评论(0) 推荐(0) 编辑