深度学习-瓶颈结构(Bottleneck)

1. 简介
论文:Deep Residual Learning for Image Recognition
ResNet的核心内容之一即“Deeper Bottleneck Architectures”(简称DBA),一言概之,bottleneck是一种特殊的残差结构。

Resnet论文里的原图如上(即Bottleneck V1 ),左图是普通的残差结构,右图是瓶颈结构。具体而言,block的输入和输出channel_num是一样的(上右图中是256,左图为64),

而在block结构中的channel_num(上右图中是64)是小于输入/输出channel_num(256),很形象。也就是先降维再升维。

2. 作用
换成bottleneck design以后,网络的参数减少了很多,深度也加深了,训练也就相对容易一些。

参考:
深度学习基础–Bottleneck(瓶颈) Architectures

文章出处登录后可见!

已经登录?立即刷新

共计人评分,平均

到目前为止还没有投票!成为第一位评论此文章。

(0)
乘风的头像乘风管理团队
上一篇 2023年9月2日
下一篇 2023年9月2日

相关推荐