许老师 2017年 计算神经科学 博士后,转行做deep learning
神经元只是区分信号有无
单层神经网络
线性拟合:
数据、有模型、算未知参数a,b
定义 损失函数, 没有平方无法真正表征距离
求β, 方法一、最小化损失函数
方法二:
统计角度:告诉我们 什么样的模型可用,
机器学习面临的最大困难:不知道什么时候可用,
只知道四个点 没有办法判断, ①②哪个好
没有免费的午餐,没有一个算法比另一个绝对的好,
一般生活中的数据相对光滑,所以我们会觉得②泛化性好,
机器学习和统计的区别:统计需要理解 模型适用范围
机器学习:把数据拟合好
我们希望淡化这两者的区别
以线性拟合为例,讲解机器学习的基本概念:
我们其实并不关心训练集的误差等于0,而是关心我们的model和真实模型匹配上
两层神经网络
写成更一般的形式:
n代表 数据个数, m代表 神经元数目
b:m x 1 ,广播成B:m x n