人工智能模型的误差=偏差（Bias）+方差（Variance）+不可避...

东方耀

人工智能模型的误差=偏差（Bias）+方差（Variance）+不可避免的误差


导致偏差的主要原因：对问题本身的假设不正确 欠拟合


通常原因，使用的模型太复杂 会导致高的方差 学到了很多噪音数据 过拟合


偏差误差和方差误差是相互矛盾的，降低一个，另一个则会提高！ 需要平衡


有一些算法天生是高方差的算法 比如KNN
非参数学习算法通常都是高方差算法，因为不对数据进行任何假设 高度依赖数据


有一些算法天生的高偏差算法，如线性回归
参数学习算法通常是高偏差算法，因为对数据具有极强的假设


从算法层面来说，机器学习的主要挑战：来自于方差误差


解决高方差的通常手段：
1、降低模型复杂度
2、减少数据维度，降噪
3、增加样本数
4、使用验证集 cv交叉验证等
5、模型正则化