轻量模型之SequeezeNet

课程笔记

1.知识树

 

 

 2.结构设计

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 3. Fire module

 

 

 

 

 

 

 

 

 4. SqueezeNet结构设计

 

 

 

 

 

 

 

 

 

 

 

 5.空间设计上的探索

 

 

 

 

 

 

 

 

 

 总结

 

 

 

 

作业题

1：文字回答：Fire Module内部可以分为几部分？每部分的作用是什么？

Squeeze Layer压缩层、Expand Layer扩展层：

Squeeze Layer：全部由1*1卷积核组成，旨在压缩特征通道数。设S_1x1为压缩层的卷积核个数，也是经压缩层后的输出特征通道数；

Expand Layer：由部分1*1卷积和部分3*3卷积组成，将压缩层输出特征作为输入，设e_1x1,e_3x3分别为在扩展层中1x1卷积核和3x3卷积核的个数。这样在实际应用中，S_1x1<(e_1x1+e_3x3)

这样就降低了输入特征通道数

2：代码实践：利用pytorch复现SqueezeNet网络结构

 

程序结果：

迭代100次后，实验精度为：

Training Epoch: 99 [50000/50000]    Loss: 0.1506    top-1 accuracy: 97.5000    top_5 accuracy:100.0000
Test set: Average loss: 0.0034, Accuracy: 87.9800