机器学习——学习路线

根据吴恩达机器学习课程改写的学习路线（可能不够完整，后面会看情况继续更改）

一、基础框架下载

• Pytorch安装

二、机器学习

1、监督学习

基于线性回归

• 均方差损失推导
• 梯度下降法
• 多维特征工程
  • 矢量化&用于多元线性回归的梯度下降法

基于线性分类

• 特征工程-归一化
• 动机与目的
• 逻辑回归
  • 决策边界
  • 逻辑回归中的代价函数
  • 简化逻辑回归代价函数
  • 实现梯度下降
  • 过拟合问题及其解决方法

正则化（优化模型的方法）

• 用于线性回归的正则化
• 用于逻辑回归的正则化

神经网络

• 什么是神经网络
• 神经网络中的网络层
• 更复杂的神经网络
• 神经网络向前传播
• 代码实现推理
• Tensorflow
• 搭建神经网络
• 实践内容
  • 矩阵乘法
  • Tensorflow实现
  • 激活函数
• 多分类问题
  • Softmax
  • 神经网络中的Softmax
  • Softmax的改进实现
  • 多个输出的分类
  • 高级优化方法
  • 其他的网络层类型
• 模型评估&模型选择&交叉验证测试集的训练方法
  • 通过偏差与方法进行诊断
  • 正则化、偏差、方差
  • 评估基准
  • 学习曲线
  • 方差与偏差
  • 综合素养

决策树

• 纯度
• 选择拆分信息增益
• 整合
• 独热编码One-hot
• 连续有价值的功能
• 回归树
• 决策树与随机森林
• XGBoost

2、无监督学习

聚类

• K-means算法
• 协同过滤算法
  • 二进制标签
• 均值归一化
  • 协同过滤TensorFlow实现
• PCA算法

3、强化学习

• 状态-动作价值函数
• 贝尔曼方差
• 学习状态值函数
• 算法改进