摘要: 1.ResNet+Inception 有着最高的Accuracy 2.VGG最占内存,最多的操作数 3. GoogleNet最efficient , 这里的效率怎么计算的? 4.AlexNet 最少的操作数,但内存大,accuracy低 5. Resnet 效率适中,accuracy最高 6. VG 阅读全文
posted @ 2020-05-28 18:45 ChevisZhang 阅读(212) 评论(0) 推荐(0) 编辑
摘要: ResNet 其他不带残差的网络(plain-CNN)中: 56层的网络比20层的网络,无论是trainning set 还是test set都要表现差 问题: 1) 优化问题,梯度在传播过程中出现梯度消失,或者梯度爆炸 2) weight_matrix_decay 1. Batch Normali 阅读全文
posted @ 2020-05-28 18:38 ChevisZhang 阅读(235) 评论(0) 推荐(0) 编辑
摘要: 1. 22层神经网络,一层inception算两层 2. 使用了高效的inception结构 3.没有全连接层 4.只有5millon参数,比AlexNet的60M,VGG16的138M Inception Module 的好处: 解释1:在直观感觉上在多个尺度上同时进行卷积,能提取到不同尺度的特征 阅读全文
posted @ 2020-05-28 16:34 ChevisZhang 阅读(165) 评论(0) 推荐(0) 编辑
摘要: Conv层 Only 3x3 CONV stride 1, pad 1 and 2x2 MAX POOL stride 2,使得网络deeper,更多non-linearities,更少的parameters VGG16在forward计算中,对单个图片需要存储 96MB,有136Million的参 阅读全文
posted @ 2020-05-28 12:07 ChevisZhang 阅读(214) 评论(0) 推荐(0) 编辑