自适应滤波及信号处理

(7-32)

最小均方误差对应的权矢量称为最佳权矢量或维纳解，用度等于零，即

表示。在性能曲面上，该点梯

(7-33)

由此解出

(7-34)

式(7-34)称为维纳—霍夫方程。将上式代入式(7-31)，即可得到自适应滤波器的最小均方误差为

(7-35)

利用矩阵运算规则，可以将上式简化为

(7-36)

由式(7-17)可知，只要知道了输入信号的自相关矩阵R和期望响应与输入信号的互相关矢量P，就可以由该式直接得出最佳权矢量。但是在实际应用中，这种方法往往是难以实现的。一方面，我们通常很难得到有关信号和噪声的统计先验知识；另一方面，当R的阶数较高时，直接计算R的逆矩阵有一定的困难。因此，最佳权矢量的实现一般都采用迭代方法，一步一步地在性能表面上搜索，并最终达到最小均方值和实现最佳权矢量。

最速下降法是一种古老而又非常有用的通过迭代寻找极值的方法。从几何意义上来说，迭代调整权矢量的结果是使系统的均方误差沿性能曲面最陡的方向向下搜索曲面的最低点，曲面的最速下降方向是曲面的负梯度方向，或性能函数

的梯度

的反方向连续调整滤波器的权矢量

w(n)，梯度矢量可以表示为

(7-37)

这样，最速下降法可以表示为

(7-38)

式中，是正值常数，称为收敛因子，用于调整自适应迭代的步长。

为了证明最速下降法满足降，将性能函数在

，即在迭代的每一步都满足在性能表面上下

处进行一阶泰勒展开，并利用式(7-38)，得到

(7-39)

由于收敛因子μ是正值常数，因此，随着的增加，性能函数

能函数趋于最小值

。

不断减小，当

时，性

最速下降法的自适应迭代公式可以通过把式(7-32)代入式(7-38)得到，即

(7-40)

最速下降法的稳定性取决于两个因素，一是收敛因子μ的取值，二是自相关矩阵R的特性。定义权误差矢量v(n)为

(7-41)

利用上式和，消去式(7-40)中的互相关矢量，有

(7-42)

式中，为单位阵。式(7-42)再次强调了最速下降法的稳定性是由似变换，可以将自相关阵

表示为

和控制的。利用正交相

(7-43)

式中，Q为正交矩阵，矩阵Q的各个列矢量为自相关矩阵R的特征值相对应的特征矢量。为一

对角阵，其对角元素为矩阵R的特征值。通常将这些特征值表示为，且均为正实值。每一个特征值对应矩阵Q中一列特征矢量。将式(7-43)代入式(7-42)，有

上式两边左乘，并利用正交矩阵的性质，有

定义

有

设的初始值为

再假定自适应滤波器权矢量的初始值为，则上式简化为

考虑矢量的第个模式，则式(7-30)所示的最速下降法的迭代公式变为

(7-44)

(7-45)

(7-46)

(7-47)

(7-48)

(7-49)

(7-50)

式中，为自相关矩阵R的第个特征值，为矢量的第个元素。上式为

的一阶齐次方程。若设的初始值为，则该差分方程的解为

(7-51)

由于矩阵R为正定阵，其特征值均为正实值。这样，公比为

。为了保证最速下降法稳定收敛，必须有

构成了一个等比级数，其

(7-52)

即保证的幅值小于1。当迭代次数时，最速下降法的各个模式均趋于0，而与初

。将式(7-51)

始状态无关。这意味着当

写成矢量形式，有

时，自适应滤波器的权矢量趋于最佳权矢量

(7-53)

由式(7-52)可以得到最速下降法收敛因子的限制条件：

(7-54)

式中，为自相关矩阵R的最大的特征值。

最速下降法的主要优点是它的简单性，然而，这种方法需要大量的迭代，才能使算法收敛于充分接近最优解的点。这个性能是由于最速下降法是以围绕当前点的性能表面的一阶近似为基础的。在实际应用中，如果计算的简单性相对重要，则选择最速下降法是合适的。然而，如果收敛速度是更重要的，可以选用牛顿法及其改进方法，这里就不再讨论了。 【例7-2】均方误差性能函数为

μ=0.05，给出最速下降法的学习曲线。 已知

，初值权值为0，