残差学习大大增加了前馈神经元网络的深度。使用注意机制捕获两个信息源 (查询和查询上下文)，以相互帮助。在我们的工作中，单个信息源 (图像) 被分成两个不同的信息源并反复组合。并应用残差学习来缓解反复拆分组合带来的问题。
然而，图像分类的最新进展集中在使用 “非常深” 的结构训练前馈卷积神经网络 [27,444，10]。前馈卷积网络模仿了人类皮层的自下而上的路径。已经提出了各种方法来进一步提高深度卷积神经网络的判别能力。提出了VGG [27]，Inception [444] 和残差学习 [10] 来训练非常深的神经网络。随机深度 [14]，批归一化 [15] 和Dropout [28] 利用正则化进行收敛并避免过拟合和退化
我们的残差注意力网络中软注意力结构的设计受到了面向定位的任务的最新发展的启发，即分割 [22,25，1] 和人类姿势估计 [24]。这些任务促使研究人员探索具有细粒度特征图的结构。框架倾向于级联自下而上和自上而下的结构。自下而上的前馈结构产生具有强语义信息的低分辨率特征图。之后，自上而下的网络会产生密集的特征以在每个像素上进行推断。在底部和顶部特征图之间采用了跳过连接 [22]，并在图像分割中获得了最新的结果。最近的堆叠沙漏网络 [24] 融合了来自多个尺度的信息来预测人类姿势，并受益于编码全局和本地信息。
我们的残差注意力网络是通过堆叠多个注意力模块来构建的。每个注意模块分为两个分支: 掩膜分支和主干分支。主干分支执行特征处理，并且可以适应任何最先进的网络结构。在这项工作中，我们