老饼告诉你-神经网络怎么入门才更高效

 原创文章，转载请说明来自《老饼讲解神经网络》:bp.bbbdata.com

关于《老饼讲解神经网络》：

本网结构化讲解神经网络的知识，原理和代码。

重现matlab神经网络工具箱的算法，是学习神经网络的好助手。 

---

---

对于新人，搜出的神经网络资料一大堆，往往不知从何下手，又不知哪里是终点，

本文笔者给出自己的建议，希望能给到新人一些帮助。

  一、学习的内容  

---

学习神经网络要学习哪些内容？

  （一）明确学习方向 

---

人们概念中的神经网络大概指三块：

1、传统经典神经网络 
2、BP神经网络         
3、深度学习              

如果要搞图象、音频、文本这三大块，那就要学BP神经网络+深度学习，         
如果不搞图象、音频、文本这三大块，那就是BP神经网络+传统经典神经网络  

也可以理解为，
如果只是用BP辅助解决一些不涉及图象音频文本的专业问题，那就走BP神经网络+传统经典神经网络方向。
如果需要解决图象音频文本或人工智能等问题，就需要走深度学习方向。
两者的焦点、学习方法、所需基础知识和学习成本是极大地不同的，不可混为一谈。

---

而本站，则是BP神经网络+传统经典神经网络这一方向。

如果需要学习深度学习，那需要去深度学习的专业网站，这样更有效率。

（二）明确学习内容  

---

好，如果确定学习的是BP神经网络+传统经典神经网络，

那我们就只需捊清共有多少个传统经典神经网络算法就可以了。

传统经典神经网络算法：

---

径向基神经网络：精确径向基、径向基、广义神经网络、概率神经网络
竞争神经网络：LVQ、SOM                                                                   
其它：感知机、Hopfield、Elman                                                         

---

这里列的并不是100%全面，没办法100%全面，太多了，我们只挑出必学的经典代表。

---

  算法学习路线  

---

1、从BP开始学习

---

BP的重要性
首先，我们的目标，肯定是要学习BP神经网络的，
它是最有代表性，也最为实用的神经网络，也是过渡到深度学习的基础。
或者说，如果你没学会BP，都不好说自己懂神经网络。

所以，已经锁定了目标，学习神经网络=学习BP神经网络。

---

为什么直接学习BP
有很多书本的介绍，是从感知机开始，由简到易，
但笔者并不这样建议。
BP并不是那么难以入手，
如果按照历史发展，由简到易地去学，要耗费非常多的时间，
很可能在还没学到BP，就已经耗尽了激情。

反而一开始就着手学习BP，会非常有成就感，反而能激发着自己不断继续学习。
更重要的是，其它神经网络与BP并没有太大关系，
笔者看不到先学习其它神经网络对学习BP有什么好处，仅仅是为了给脑袋预热？

---

  

2、传统经典神经网络的学习顺序

---

传统神经网络有感知机、LVQ、SOM、径向基等等。
学习哪一个都没有太大关系，这些算法都是很小的一个算法，
它们之间没有太大的关联，找时间不断逐个击破即可。

---

但如果一定要给个优先度，那笔者建议如下学习：

径向基-->LVQ-->SOM-->感知机-->Hopfield-->Elman

这样的排序主要基于学习难度与算法实用程度的综合性价比。

---

  BP路线  

---

BP学习的路线建议如下

---

1、先掌握一些基础理论，调用工具箱实现一些DEMO。
基础理论key word有：归一化、过拟合、梯度下降等
2、将BP神经网络应用于自己的项目。                          
3、学习梯度下降法重写BP神经网络。                          
4、学习LM算法重写BP神经网络。                               

---

在理论学习的同时，更多的是实践中积累的经验，

只有在实践中不断发现问题，解决问题，才能更加深入的理解和应用好算法。

---

相关文章

​《BP神经网络梯度推导》

​​​​​​《BP神经网络提取的数学表达式》

《一个BP的完整建模流程》