机器学习-机器学习基本方法

统计基础议程统计基础议程?均值、标准差、方差、协方差

–均值描述的是样本集合的平均值

–标准差描述是样本集合的各个样本点到均值的距离分布，描述的是样本集的分散程度

–在机器学习中的方差就是估计值与其期望值的统计方差。如果进行多次重复验证的过程，就

会发现模型在训练集上的表现并不固定，会出现波动，这些波动越大，它的方差就越大–协方差主要用来度量两个随机变量关系，如果结果为正值，则说明两者是正相关的；结果为

负值，说明两者是负相关的；如果为0，就是统计上的“相互独立”

?超参数

–超参数是机器学习算法的调优参数，常应用于估计模型参数的过程中，由用户直接指定，可

以使用启发式方法来设置，并能依据给定的预测问题而调整

–超参数与模型参数不同，模型参数是学习算法拟合训练数据获得的参数，即这些参数是作为

模型本司身的参数而存在的

统计基础议程统计基础议程?正则化与交叉验证

–

––––––

L0正则化L1正则化L2正则化HoldOut检验简单交叉检验K折交叉检验留一交叉检验

常见概率分布议程