GoogLeNet 网络简介

GoogLeNet 网络简介

目录：

• GoogLeNet 历史
• 网络亮点
• Inception结构
• 辅助分类器（Auxiliary Classifier）
• 网络结构
• 模型参数对比

参考资料：

• 5.1 GoogLeNet网络详解 https://www.bilibili.com/video/BV1z7411T7ie
• 深入解读GoogLeNet网络结构（附代码实现） https://blog.csdn.net/qq_37555071/article/details/108214680

---

GoogLeNet 历史

GoogLeNet 在2014年由Google团队提出，获得2014年ImageNet中Classification任务第一名，下为它的原论文https://arxiv.org/pdf/1409.4842.pdf

网络亮点

GoogLeNet主要具有以下四个方面的创新：

• 引入Inception结构，融合不同尺度的特征信息（height，width相同，在channel深度方面进行拼接）
• 使用1x1的卷积核进行降维以及映射处理
• 添加两个辅助分类器帮助训练
• 丢弃全连接层，使用平均池化层，大大减少模型参数

Inception结构

Inception结构的核心思想是将输入特征矩阵进行卷积，使得多个输出特征矩阵的高和宽相同，再将多个输出特征矩阵在深度方向进行拼接。而如图b则是引入了1x1卷积核进行降维（为了减少训练所需参数）的Inception结构。

使用1x1的卷积核能够有效地降低训练所需要的参数，下图中，上面是不适用卷积核进行降维的操作，我们需要parameters位819k+，而下面是降维后所需参数，我们需要的parameters为50k+，如下：

辅助分类器（Auxiliary Classifier）

根据实验数据，发现神经网络的中间层也具有很强的识别能力，为了利用中间层抽象的特征，在某些中间层中添加含有多层的分类器。如下图所示，红色边框内部代表添加的辅助分类器。GoogLeNet中共增加了两个辅助的softmax分支，作用有两点，一是为了避免梯度消失，用于向前传导梯度。反向传播时如果有一层求导为0，链式求导结果则为0。二是将中间某一层输出用作分类，起到模型融合作用。最后的$loss=los{s}_2+0.3\ast los{s}_1+0.3\ast los{s}_0$。实际测试时，这两个辅助softmax分支会被去掉。

网络结构

模型参数对比