【机器学习】线性回归【下】正则化最小二乘估计

有任何的书写错误、排版错误、概念错误等，希望大家包含指正。

由于字数限制，分成两篇博客。
【机器学习】线性回归【上】朴素最小二乘估计
【机器学习】线性回归【下】正则化最小二乘估计

2.4. 正则化

正则化是指通过修改学习算法，使模型降低泛化误差而非训练误差。通俗地理解为，凡是能缓解过拟合的方法都称为正则化。

正则化有很多种，常见的有 L1 正则化、L2 正则化、Dropout 正则化等等。下面我们仅介绍 L1、L2 正则化。

式 $(4)$