最大熵谱估计
通信术语
最大熵谱估计(maximum entropy spectral estimation)信号功率谱密度估计的一种方法。1967年,由J.P.伯格提出。
定义
最大熵谱估计是根据信号在已知有限延迟点上的自相关函数值保持不变,而按最大熵准则将未知延迟点的自相关函数进行外推后而获其功率谱密度估计的方法。这种方法是一种可获得高分辨率的非线性谱估计方法,特别适用于短数据序列的谱估计。
熵在信息论中是反映信息度量的一个量。某随机事件的随机性越大,即不确定性越高,则熵值也越大,所携带的信息量亦越大。因此,根据熵量最大的准则,由已知自相关函数,外推未知自相关函数后获得信号 谱估计,亦即可保证已知信息量不变化,而获得估计已知信息量最大的一种谱估计方法。利用最大熵提高谱估计的分辨率,获得明显的效果。
最大熵功率谱估计表达式:若某随机信号x(n)在时延为1到M点上的自相关函数值rxx(m)(m=l…M)为已知时,则其最大熵谱估计的表达式为图1。
式中PM为M阶预测误差滤波器的输出功率;△t是抽样周期;am(m=l,2…M)是模型参数,由图2,3式决定。
式中的rxx(M)为已知的随机过程的自相关函数值。
从最大熵功率谱估计的表达式可以看出,最大熵法与自回归(AR)信号模型分析法以及线性预测误差滤波法是等价的,只是从不同的观点出发得到了相同的结果。
由已知信号计算功率谱估值的递推算法 应用上述的谱估值表达式进行计算时,需要知道有限个自相关函数值。但是,实际的情况往往是只知道有限长的时间信号序列,而不知道其自相关函数值。为了解决这个问题,J.P.伯格提出了一种直接由已知时间信号序列计算功率谱估值的递推算法,称为伯格算法。因此使最大熵法得到广泛的应用。
在统计学中,熵是对各种随机试验不确定程度的一种度量。概率分布的熵越大、试验的可能结果越不确定。伯格的思想是要在外推相关函数的每一步,都既能保证相关函数的已知部分不变,又能在新增加外推值之后使概率分布具有最大的熵;也就是在每步外推时不对未知点处自相关函数取值施加任何限制(即其取值具有最大统计自由度,不对它强加任何条件)。极大熵谱估计的这种特点能克服传统的功率谱估计方法分辨率不高的弱点。在理论上,过程的功率谱是自相关函数的傅里叶变换。传统的功率谱估计方法是将样本自相关函数乘以某种窗函数(即对自相关函数加权),然后再作傅里叶变换。窗函数可以增加谱估计的稳定性并减少谱的泄漏,但窗函数会限制谱的分辨力。传统方法存在的问题实际上是由于它把没有观测到的数据(或其自相关函数)都看作为零,同时对已知部分的信息加以人为修改(加权)而引起的。而极大熵谱估计对已知的最大迟延以外的自相关函数进行合理的外推,因而能提高所求功率谱的分辨力,特别是在已知数据量较少时,其效果比传统方法更优。
假设一个平稳正态过程自相关函数的前N+1个迟延点的值r(0),r(1),…,r(N)已确知,需要求r(N+1)的值。以r(0),r(1),…,r(N+1)作为相关函数,则对应的N+2维正态分布的熵为图4。
其中R(N+1)为相关阵。
因此使熵为最大就相当于使行列式 det【R(N+1)】为最大。可以使det【R(N+1)】对r(N+1)的偏导数为零,求出r(N+1)。将得到的r(N+1)代入R(N+2),同理可根据使det【R(N+2)】为最大的条件求出r(N+2)。再把求到的r(N+1)和r(N+2)代入R(N+3)中的相应元素,对det【R(N+3)】求极大可得到r(N+3),依此类推。与这种方法得到的自相关函数所对应的功率谱为图5:
式中i=刧,Δt是x(t)的采样间隔,ω为频率,M+1为递推次数,而A屌(a0,…,aM)T中各元素可由R(M)A=(1,0,…,0)T 求得,T表示转置。  实际计算时,由于只掌握x(t)的有限记录而无法得知自相关函数的精确值,因此只能用它的估计值替代。伯格在求取r和A(参数向量)的估值方面还提出一种递推算法,它可以避免矩阵求逆,充分利用数据所提供的信息,而且递推过程每步所对应的行列式detR都是非负定的。后来又有其他学者提出新的算法,克服伯格算法中的缺点(如所谓谱线分裂和谱峰漂移),但算法的变化并不改变极大熵的原则。
参考资料
最新修订时间:2023-12-24 12:01
目录
概述
定义
参考资料