仅学习使用~
在识别图像时,输入的每张图片都是孤立的。认出这张图片是苹果并不会对认出下一张图片是梨造成影响。
但是,对于 语言 来说
,顺序
是十分重要的,【我吃苹果】和【苹果吃我】,词语顺序的改变表达了完全不同的意义。顺序也提供了一定的信息
,比如 吃
后面大概率是代表食物的名词。
为了 捕捉 数据的这种关联
,人们找到了 RNN
,一个高度重视 序列信息
的网络。序列就是数据的前后关系
,RNN的基础结构仍然是神经网络,只不过它多了一个小盒子,用来记录数据输入时网络的状态
。在下一次输入数据时,网络必须要 考虑小盒子中保存的信息。随着数据的一次次输入,存储的信息也在不断更新
。
盒子中的信息被称为隐状态
。和开始举出的例子一样,RNN最常见的应用领域就是【自然语言处理
】,机器翻译 是寻找相同的意义序列 在不同语言中的表达。例如 诗歌生成
是基于一个主题
按照一定的规则
输