pytorch-过拟合&欠拟合

1. 函数表达能力

如下图：不同次方的函数的复杂度是不一样的，越复杂的函数表达能力越强

2. 模型表达能力

如下图：有三种复杂度的模型，分别是8层、19层和152层，那么他们表达能力也是不一样的，层数越多表达能力就越强

3. 欠拟合

欠拟合又被称为under-fitting，也就是模型的复杂度小于真实数据的复杂度，模型表达能力不够，不足以表达真实数据。
下图就是使用一个简单的模型来训练的数据，结果训练的准确率和loss都不好。
欠拟合的特征：

• 训练准确率和loss都差
• 测试准确率也不好
  欠拟合可以通过增加模型复杂度来改善
  

4. 过拟合

如下图：
train曲线试图穿过每个点，包括每个噪声点，这种情况就是过拟合，也称为over-fitting
过拟合的特征：

• train的准确率很好
• test的准确率差
• 泛化能力比较差
  

5 总结

下图中有三种曲线，分别是欠拟合、好的拟合和欠拟合。