Transformer Vision(二)|| ViT-B/16 网络结构

1. 原理图

​ 将一张图片拆分开来如下图所示,下图的 0,1,2,…,8,9 是用于记录图片的位置信息

image-20220513160536511

image-20220513160953622

2.Transformer Encoder结构图 (L× 指重复堆叠L次)

image-20220513161059924

3.实现过程:

image-20220513180934822

更为详细的Encoder Block图

image-20220513181959875

​ 上图中的 MLP Block 图解为

image-20220513182200573

4.MLP Head层

image-20220513183030719

注意:在Transformer Encoder 前有一个Dropout层,后有一个Layer Norm层

训练自己的网络时,可简单将MLP Head层看作一个全连接层

5. 总结ViT-B/16 网络结构

image-20220513183459106

其中:Encoder Block

image-20220513181959875

其中:MLP Block

image-20220513182200573

文章出处登录后可见!

已经登录?立即刷新

共计人评分,平均

到目前为止还没有投票!成为第一位评论此文章。

(0)
乘风的头像乘风管理团队
上一篇 2023年8月8日
下一篇 2023年8月8日

相关推荐