resnet系列网络(BottelNeck、BasicBlock)

 

 

一、resnet18整体网络结构

我们观察,实际可以将ResNet18分成6个部分:

1. Conv1:也就是第一层卷积,没有shortcut机制。
2. Conv2:第一个残差块,一共有2个。
3. Conv3:第二个残差块,一共有2个。
4. Conv4:第三个残差块,一共有2个。
5. Conv5:第四个残差块,一共有2个。
6. fc:全连阶层。


可以看到有8个箭头,第一层卷机没有shortcut机制

 

二、basicblock和bottleneck

网络由两种不同的基本单元堆叠即可:

 

 

左边是BasicBlock,ResNet18和ResNet34就由其堆叠。

右边BottleNeck,多了一层,用1x1的卷积先降通道再升通道,ResNet50、ResNet101、ResNet152就由其堆叠。当要降维的时候,上面的第一个3x3卷积使用stride 2(同时旁边的shortcut也需要一个1x1的stride 2卷积,而非identity,使得后面相加的时候尺寸一致),平时卷积都是stride 1。

使用1x1卷积,对稀疏信息进行压缩,有效利用计算力,所以效率更高。

 

 

 

 

 https://blog.csdn.net/sazass/article/details/116864275

 

 

 

 

 

 

 

posted @ 2022-03-09 17:00  Tomorrow1126  阅读(1787)  评论(0编辑  收藏  举报