【数之道 05】走进神经网络模型、机器学习的世界

神经网络（ANN）

最简单的例子，视频的推送，就是神经网络作用的结果
在这里插入图片描述

人造神经元是整个网络系统的最小单位，不同神经元按照权重不同连接
输入层：起到传递数据的作用
隐藏层：部分神经元被激活，这里涉及到激活函数，根据相应权重流入输出层
输出层：神经元根据激活函数产生最终的输出值

在这里插入图片描述

在这里插入图片描述
拿其中一个神经元来说，信号强度是由之前的加权和决定，激活函数将输入信号转换成该神经元的输出值

这里如果激活函数为分段函数，输出值会产生突变 0突变为1
为了平滑神经元输出值，选择不同的激活函数

在这里插入图片描述
训练的结果是不断调整w1,w2，让Y,E集合的误差平方和最小

具体调整过程中需要借助

核心：
为了求得误差平方和的最小值，将w从初始值逐渐移动到s(w)导数为0处

在这里插入图片描述
每次移动的幅度由s,w的导数和学习系数常数值eta决定
这里导数为正时，步幅为负
这里学习系数太小了学习速度慢，太大了可能会跳过极值点

在这里插入图片描述

这里对s,w的求导过程中需要使用链式法则
在这里插入图片描述

依然可以套用之前的结果
在这里插入图片描述

相关阅读:
【JavaScript】判断变量类型是否是字符串
macOS Sonoma 14.1beta3（23B5067a）发布
Java对比对象修改前与修改后字段发生的变化
【无标题】
Spring概述
代码随想录算法训练营第20天|二叉树
拥抱 Spring 全新 OAuth 解决方案
Linux常用命令——colrm命令
数据结构与算法训练：第十二弹
【POJ No. 2431】丛林探险 Expedition

原文地址：https://blog.csdn.net/weixin_46050242/article/details/133907375