NebulaDun

导航

2020年3月8日 #

知识蒸馏入门、实践和相关库的介绍及使用

摘要: 本文已经过时,请前往: https://www.cnblogs.com/infgrad/p/13767918.html 查看知识蒸馏的最新文章 1 前言 知识蒸馏,其目的是为了让小模型学到大模型的知识,通俗说,让student模型的输出接近(拟合)teacher模型的输出。所以知识蒸馏的重点在于拟合 阅读全文

posted @ 2020-03-08 16:17 NebulaDun 阅读(2576) 评论(3) 推荐(0) 编辑