SwiftFormer：基于Transformer的高效加性注意力用于实时移动视觉应用的模型

文章目录

• 摘要
• 1、简介
• 2、相关研究
• 3、方法
• • 3.1、注意力模块概述
  • 3.2、高效的加性注意力
  • 3.3、SwiftFormer 架构
• 4、实验
• • 4.1、实现细节
  • 4.2、基线比较
  • 4.3、图像分类
  • 4.4、目标检测和实例分割
  • 4.5、语义分割
• 5、结论
• 6、补充材料
• • A、SwiftFormer的架构细节