标准文档
在很多应用场合都非常适用。
[16]
令N阶FIR滤波器的抽头系数为wi(n)，滤波器的输入和输出分别为
x(n)和y(n)，则FIR横向滤波器方程可表示为：
y(n)??wi(n)x(n?i)i?1N(3-1)
令d(n)代表“所期望的响应”，并定义误差信号：
Ni?1e(n)?d(n)?y(n)?d(n)??wi(n)x(n?i) (3-2)
采用向量形式表示权系数及输入w和X(n)，可以将误差信号e(n)写作
e(n)?d(n)?WTX(n)?d(n)?XT(n)W (3-3)
误差的平方为：
e2(n)?d2(n)?2d(n)XT(n)W?WTX(n)XT(n)W (3-4)
上式两边取数学期望后，得均方误差：
E{e2(n)}?E{d2(n)}?2E{d(n)XT(n)}W?WTE{X(n)XT(n)}W
(3-5) 定义互相关函数向量：
TRXd??Ed(n)XT(n)? (3-6)
和自相关函数矩阵：
(3-7)
所以均方误差可表述为：
TE{e2(n)}?E{d2(n)}?2RXdW?WTRXXW (3-8)
RXX?E{X(n)XT(n)}
这表明均方误差是权系数向量W的二次函数，它是一个凹的抛物形曲面，是具有唯一最小值的函数。调节权系数使均方误差为最小，相当于沿抛物形曲面下降找最小值。可以用梯度法来求该最小值。
将式(3-8)对权系数W求导数，得到均方误差函数的梯度：
??E{e2(n)}?E{e2(n)}?2?(n)??E{e(n)}??,...,???2RXd?2RXXW?WN? (3-9) ??W1令?(n)=0，即可以求出最佳权系数向量：
实用文案
T标准文档
?1Wopt?RXXRXd
(3-10)
将Wopt代入式(3-8)，得最小均方误差：
TE{e2(n)}min?E{d2(n)}?RXdWopt (3-11)
利用式(3-11)求最佳权系数向量的精确解需要知道Rxx和Rxd的先验统计知识，而且还需要进行矩阵求逆等运算。Widrow和Hoff提出了一种在这些先验统计知识未知时求Wopt的近似值的方法，习惯上称之为Widrow-Hoff LMS算法。这种算法的根据是最优化方法中的最速下降法。根据这个最速下降法，“下一时刻” 权系数向量W(n?1)应该等于“现时刻”权系数向量W(n)加上一个负均方误差梯度??(n)的比例项，即
(3-12)
式中的?是一个控制收敛速度与稳定性的常数，称之为收敛因子。
不难看出，LMS算法有两个关键：梯度?(n)的计算以及收敛因子?的选择。
精确计算梯度?(n)是十分困难的。一种粗略的但是却十分有效的计算
?(n)的近似方法是：直接取e2(n)作为均方误差E{e2(n)}的估计值，即
W(n?1)?W(n)???(n)
式中的??e(n)?为：
????e?2(n)?2e(n)??e(n)? (3-13)
???e(n)???d(n)?WT(n)X(n)??X(n)
??(3-14)
将(4-14)代入式(4-13)中，得到梯度估值：
?(n)??2e(n)X(n) (3-15)
于是，Widrow-Hoff LMS算法最终为：
(3-16)
?W(n?1)?W(n)?2?e(n)X(n)
3.3 最小均方差(LMS)算法的性能分析
LMS算法的性能准则是采用瞬时平方误差性能函数|e(k)|2代替均方误
实用文案
标准文档
差性能函数E{|e(k)|2}，其实质是以当前输出误差、当前参考信号和当前权系数求得下个时刻的权系数。
其输出信号y(k)、输出误差e(k)及权系数W(k)的计算公式为：
[17]
y(k)?W(k)XT(k)e(k)?d(k)?y(k)W(k?1)?W(n)?2?e(k)X(k)d(k)?x(k)?n(k)k为迭代次数，M为滤波器的阶数。d(k)表示第k时刻的输入信号矢量式中，式中，X(k)表示参考信号的信号矢量：
(3-18)
y(k)、e(k)分别表示第k时刻的输出信号与输出误差，W(k)表示k时刻
(3-17)
X(k)?[n(k),n(k?1)???n(k?M?1)]
权系数矢量：
(3-19)
W(k)??W(k,0),W(k,1)......W(k,M?1)?
?表示LMS算法步长收敛因子。自适应滤波器收敛的条件是：
0???1?max(3-20)
其中?max是输入信号的自相关矩阵R的最大特征值。?的选取必须在收敛速度和失调之间取得较好的折中，既要具有较快的收敛速度,又要使稳态误差最小。它控制了算法稳定性和自适应速度，如果?很小，算法的自适应速度会很慢；如果?很大，算法会变得不稳定。由于LMS算法结构简单、计算量小、稳定性好，因此被广泛应用于系统辨识、信号增强、自适应波束形成、噪声消除以及控制领域等。
在最小均方差(LMS)算法中，步长因子?的取值对算法的性能有着非常重要的影响，这些影响包括：算法的稳定性、算法的收敛速度、算法的扰动和失调。以下我们针对?在这三方面的影响分别进行讨论。为减小失调，需要设置较小的步长因子，这会使算法的收敛速度降低，这构成了一对矛盾。因此在考虑算法的总体性能时，必须在这两个性能之间加以折中。从收敛速
实用文案
标准文档
度的角度考虑，步长因子?应该尽可能大，但较大的?取值却会加重算法的失调。LMS算法采用瞬时的采样值对梯度进行估计，由于噪声的影响，总会是会伴随着估计的误差，这将对算法带来直接的影响。这些影响主要表现为算法的失调，而失调的严重程度，则和?的取值存在直接关系。失调是指由于梯度估计偏差的存在，在算法收敛后，均方误差并不无穷趋近于最小值，而是呈现出在最小值附近随机的波动特性，而权值亦不无穷趋近于最优权值，而是在最优权值附近呈现随机的波动。
关于LMS算法的收敛速度，将讨论两点：第一，对一个特定的信号环境，收敛速度和步长因子?有何关系。第二，信号环境本身的特性，对收敛速度有何影响。从收敛速度的角度考虑，步长因子?应该尽可能大，再看信号环境，即Rxx的特性对算法收敛性能的影响如果当特征值的分布范围较大，即最大特征值和最小特征值之比较大时，公比的取值幅度也将比较大，算法的总的收敛速度将会变得比较慢。
传统的LMS算法确实结构简单、计算量小且稳定性好，因此被广泛地应用于自适应控制、雷达、系统辨识及信号处理等领域。但是固定步长的LMS自适应算法在收敛速率、跟踪速率及权失调噪声之间的要求是相互矛盾的，为了克服这一缺点，人们研究出了各种各样的变步长LMS的改进算法。尽管各种改进算法的原理不同，但变步长LMS自适应算法基本上遵循如下调整原则：即在初始收敛阶段或未知系统参数发生变化时，步长应比较大，以便有较快的收敛速度或对时变系统的跟踪速度；而在算法收敛后，不管主输人端干扰信号有多大，都应保持很小的调整步长以达到很小的稳态失调噪声。
第4章 RLS自适应滤波算法分析
4.1 引言
最小二乘(LS，Least-square)算法旨在期望信号与模型滤波器输出之差的平方和达到最小。当每次迭代中接受到输入好的新采样值时，可以采用递归形式求解最小二乘问题，得到递归最小二乘(RLS，recursive least-square)算法。RLS算法能实现快速收敛，即使是在输入信号相关矩阵的特征值扩展比较大的情况下。当工作与变换环境中时，这类算法具有极好
实用文案
标准文档
的性能，但其实现都以增加计算复杂度和稳定问题为代价。
4.2 递归最小二乘(RLS)算法
这一节主要介绍递归最小二乘法(RLS)算法是一种快速收敛的算法，该算法判决依据是直接处理接受数据，使其二次性能指数函数最小，而前面所述的LMS算法则是使平方误差的期望值最小。
设计出的自适应滤波器，通过调节滤波器参数Wi，使得基于过去的观测样本而得到的观测信号s(n)在某种意义上最逼近原信号s(n)。此时，一方面，恢复误差：
?
?(n)?s(n)?WTX(n) (4-1)
另一方面，可以将WTX(n)视作为x(n)的预测。因此可定义预测误差：
e(n)?x(n)?WTX(n) (4-2) 设计自适应滤波器的目的自然是希望使恢复误差?(n)最小。但是由于真实信号s(n)未知，故?(n)是不可观测的或无法计算的。与此相反，预测误差
e(n)却是可观测的，它与恢复误差的关系为：
e(n)??(n)?n(n) (4-3)
而噪声序列n(n)是独立的，因此不可观测的恢复误差?(n)的最小化等价于可观测的预测误差e(n)的最小化。
具体的，考虑到
?(n,W)???n?ie(i) (4-4)
i?1n2的最小化。式中，?为遗忘因子，通常取0???1。由
n2??(n,W)?nn?iT??x(i)?WX(i)??2??n?ix(i)?WTX(i)X(i)?0 ??W?Wi?1i?1 (4-5)
????可得到等价关系式：
??i?1nn?iX(i)X(i)W???n?ix(i)X(i) (4-6)
Tn若令： R(n)???n?iX(i)XT(i) (4-7)
U(n)???n?ix(i)X(i) (4-8)
i?1ni?1i?1n实用文案
自适应滤波算法地研究
