摘要：
十岁的小男孩 本文为终端移植的一个小章节。 目录 引言 论文 A. MobileNets B. ShuffleNet C. Squeezenet D. Xception E. ResNeXt 引言 在保证模型性能的前提下尽可能的降低模型的复杂度以及运算量。除此之外，还有很多工作将注意力放在更小、更高 阅读全文
摘要：
十岁的小男孩 本文为终端移植的一个小章节。 引言 蒸馏神经网络，是Hinton在上面这篇论文提出来的一个概念。文章开篇用一个比喻来引入网络蒸馏： 昆虫作为幼虫时擅于从环境中汲取能量，但是成长为成虫后确是擅于其他方面，比如迁徙和繁殖等。 同理神经网络训练阶段从大量数据中获取网络模型，训练阶段可以利用大 阅读全文
摘要：
十岁的小男孩 本文为终端移植的一个小章节。 目录 概念 论文 概念 教师--学生网络的方法，属于迁移学习的一种。迁移学习也就是将一个模型的性能迁移到另一个模型上，而对于教师--学生网络，教师网络往往是一个更加复杂的网络，具有非常好的性能和泛化能力，可以用这个网络来作为一个soft target来指导 阅读全文
摘要：
十岁的小男孩 本文为终端移植的一个小章节。 目录 背景 理论 实践 很感谢这位博主，他做了超级详细的关于迁移学习的归纳整理，从最新文章到可以上手的代码，应有尽有：Transfer Learning 经典论文：A Survey on Deep Transfer Learning 背景 吴恩达（Andr 阅读全文
摘要：
十岁的小男孩 本文为终端移植的一个小章节。 目录 概念 Regular法 Irregular法 论文 A. Learning Structured Sparsity in Deep Neural Networks B. Dynamic Network Surgery for Efficient DN 阅读全文