学习到的模型和真实模型之间存在一定的差距，这份差异来自两个方面：方差和偏差。
方差：相同数量，不同数据的训练集上，多个训练模型的输出结果之间的差异。
度量同样大小，但是数据变化所导致的模型性能的变化，刻画了数据变化带来的影响。
偏差：所有可能训练数据得到的所有模型输出结果的平均值和真实结果之间的差异。
度量算法的期望预测和真实预测值的偏离程度，刻画模型本身的拟合能力。
偏差小，训练集和测试集上的方差比较大，代表模型过拟合。即模型只在一组数据上表现好，换了数据就比较差。
偏差大，训练集和测试集上的方差比较小，代表模型欠拟合。
一般模型越简单，学习能力有限，偏差容易比较大，方差比较小。而模型越复杂，学习能力强，偏差比较小，但是容易发生过拟合，导致在其他数据集上的表现比较差，即方差比较大。
