【数之道 05】走进神经网络模型、机器学习的世界

神经网络（ANN）

最简单的例子，视频的推送，就是神经网络作用的结果
在这里插入图片描述

人造神经元是整个网络系统的最小单位，不同神经元按照权重不同连接
输入层：起到传递数据的作用
隐藏层：部分神经元被激活，这里涉及到激活函数，根据相应权重流入输出层
输出层：神经元根据激活函数产生最终的输出值

在这里插入图片描述

在这里插入图片描述
拿其中一个神经元来说，信号强度是由之前的加权和决定，激活函数将输入信号转换成该神经元的输出值

这里如果激活函数为分段函数，输出值会产生突变 0突变为1
为了平滑神经元输出值，选择不同的激活函数

在这里插入图片描述
训练的结果是不断调整w1,w2，让Y,E集合的误差平方和最小

具体调整过程中需要借助

核心：
为了求得误差平方和的最小值，将w从初始值逐渐移动到s(w)导数为0处

在这里插入图片描述
每次移动的幅度由s,w的导数和学习系数常数值eta决定
这里导数为正时，步幅为负
这里学习系数太小了学习速度慢，太大了可能会跳过极值点

在这里插入图片描述

这里对s,w的求导过程中需要使用链式法则
在这里插入图片描述

依然可以套用之前的结果
在这里插入图片描述

相关阅读:
【Cherno的C++视频】Static analysis in C++
计算一共有多少种移除方案可以使s变为回文串
猿创征文｜Java后端开发，从小白到入门的成长经历
C#区域医院云LIS信息管理系统源码标本管理、两癌筛查、数据分析、试剂管理
C++从0到1手写一个哈希表
【无标题】
LeetCode 0179. 最大数
PAT 乙级1090危险品装箱
macOS文件差异比较最佳工具：Beyond Compare 4
22-06-22 ssm终章 ssm整合、实现分页功能

原文地址：https://blog.csdn.net/weixin_46050242/article/details/133907375