偏差和方差
期望
在概率论和统计学中,数学期望(mean)(或均值,亦简称期望)是试验中每次可能结果的概率乘以其结果的总和。它反映随机变量平均取值的大小。 大数定律规定,随着重复次数接近无穷大,数值的算术平均值几乎肯定地收敛于期望值。
方差(variance)
方差用来衡量随机变量或一组数据的离散程度。概率论中方差用来度量随机变量和其数学期望(即均值)之间的偏离程度。统计中的方差(样本方差)是每个样本值与全体样本值的平均数之差的平方值的平均数。描述的是预测值的变化范围,离散程度,也就是离其期望值的距离。方差越大,数据的分布越分散。
其中x为该组数据的平均值
离散型:
连续型:
偏差bias
学习能力不行造成的误差是偏差,学习能力太强造成的误差是方差。方差,是形容数据分散程度的,算是“无监督的”,客观的指标,偏差,形容数据跟我们期望的中心差得有多远,算是“有监督的”,有人的知识参与的指标。