CNN基础与LeNet框架

​

活动地址：CSDN21天学习挑战赛

一、CNN基础

1.

 

输入层：将数据输入到训练网络。

卷积层：提取图片特征。

池化层：下采样，降低了每个特征映射的维度，但是保留了最重要的信息。最大池化成效最好。

全连接层：卷积层和池化层的输出代表了输入图像的高级特征，全连接层的目的就是类别基于训练集用这些特征进行分类。除了分类以外，加入全连接层也是学习特征之间非线性组合的有效办法。使用softmax激励函数作为输出层的多层感知机。

卷积+池化=特征提取器

全连接层=分类器

输出层：输出结果

2.输入层

 

 

 

3.卷积

 卷积可用于描述过去作用对当前的影响，即卷积就是一个时空响应的叠加。通俗来讲：你在过去不同时刻惹女朋友生气的叠加，对女朋友现在坏心情的贡献就是卷积。（参考什么是卷积(convolution) - 知乎

 ）

 

 

 

• 步长如果太大，比如大于卷积核的长度，则会遗漏一些像素点，导致特征损失
• 步长如果太小，比如为1，则效率太低。

 

 

 

 

 

3.池化

池化的大致过程：选取输入图中某个区域的最大值或均值来代替整个区域。在一幅图像中提取最大值可能意味着提取了某些特定特征，如垂直边缘等。

 

 

 4.Padding

 

 

 5.输出

 

 

 

二、LeNet框架

 

 

 

输入层——卷积层——池化层——卷积层——池化层——全连接层——输出层

参数数目：（5*5+1）*6，其中1是偏置

第一个卷积层输出为6*28*28

 

权重总数=参数数目

 

（6*28*28）➗（2*2）=6*14*14

参数数目：（1+1）*6，其中第一个1是指每个特征共享参数，第二个1是指偏置

 

 

 

 第二个卷积层，多通道卷积，所以参数数目看右上图。

 （16*10*10）➗（2*2）=16*5*5

池化层参数数目：（1+1）*16 

 

 

 FC1：（16*5*5）*120+120