均方误差(mean-square error, MSE)是反映
估计量与被估计量之间
差异程度的一种度量。设t是根据子样确定的总体参数θ的一个估计量,(θ-t)2的
数学期望,称为估计量t的均方误差。它等于σ2+b2,其中σ2与b分别是t的
方差与
偏倚。
相合估计(或一致估计)是在大样本下评价估计量的标准,在样本量不是很多时,人们更加倾向于基于小样本的评价标准,此时,对
无偏估计使用
方差,对
有偏估计使用均方误差。
一般地,在
样本量一定时,评价一个点估计的好坏标准使用的指标总是点估计 与参数真值 的距离的函数,最常用的函数是距离的平方,由于估计量 具有随机性,可以对该函数求
期望,这就是下式给出的均方误差:
均方误差是评价
点估计的最一般的标准,自然,我们希望估计的均方误差越小越好,注意到
定义1 设有样本 对待估参数θ,有一个估计类,称 是该类中θ的一致最小均方误差估计,如果对该类估计中另外任意一个θ的估计 ,在
参数空间 上都有
既然一致最小均方误差估计一般是不存在的,人们通常就对估计提出一些合理性要求,如
无偏性就是一个常见的合理性要求。