总体最小二乘法是一种较为先进的最小二乘法结构,总体最小二乘法认为回归矩阵存在干扰,在计算最小二乘解时考虑了这个因素,而在一般最小二乘法时没有考虑该因素的影响。总体最小二乘法应用广泛,得到效果也比较好。
原理
求解Ax=b的最小二乘法只认为b含有误差,但实际上系数矩阵A也含有误差。总体最小二乘法就是同时考虑A和b二者的误差和扰动,令A矩阵 的误差扰动为E,向量b的误差向量为e,即考虑矩阵方程:
(A+E)x=b+e (1)
的最小二乘解。
上式(1)可写作:
(B+D)z=0 (2)
式中B=[-b|A],D=[-e|E],z=[1|x]。求解方程组的总体最小二乘法(TLS)就是求解向量z,使得扰动矩阵D的F-范数最小。