
高 鹰,谢胜利
(华南理工大学电子与通信工程系,广东广州5101)
摘 要: 本文对变步长自适应滤波算法进行了讨论,建立了步长因子μ与误差信号e (n )之间另一种新的非线
性函数关系.该函数比已有的S igm oid 函数简单,且在误差e (n )接近零处具有缓慢变化的特性,克服了S igm oid 函数在自适应稳态阶段步长调整过程中的不足.由此函数本文得出了另一种新的变步长自适应滤波算法,并且分析了参数α,β的取值原则及对算法收敛性能的影响.该算法有较好的收敛性能且计算量少.计算机仿真结果与理论分析相一致,证实了该算法的收敛性能优于已有的算法.
关键词: 自适应滤波;变步长自适应滤波算法;LMS 算法中图分类号: T N911172 文献标识码: A 文章编号: 037222112(2001)0821094204
A Variable Step Size LMS Adaptive Filtering
Algorithm and I ts Analysis
G AO Y ing ,XIE Sheng 2li
(Dept.o f Electronic and Communication Engineering ,South China University o f Technology ,Guangzhou ,Guangdong 5101,China )
Abstract : This paper discusses about s ome alg orithms of variable step size LMS adaptive filtering and establishes another new
non 2linear functional relationship between μand e (n ).The functional relationship is not only simpler than S igm oid functional relation 2ship ,but als o has the property of slight change e (n )near to zero.Therefore it is superior to S igm oid functional relationship in the pro 2cess of step size change of adaptive steady state.On the basis of the functional relationship ,The author presents the new alg orithm of
variable step size LMS adaptive filtering and analyses the alg orithm with various
αand β.the alg orithm has less computational complex 2ity than the former alg orithms ,besides g ood convergence properties.C omputer simulation results con firms the theoretical analysis and shows the alg orithm performance is better than that of former alg orithms.
K ey words : adaptive filtering ;variable step size adaptive filtering alg orithm ;LMS alg orithm
1 引言
自适应技术广泛地应用于自适应控制、雷达、系统辩识和 图1 为自适应滤波器原理框图
信号处理等领域.由Widrow
和H off 提出的最小均方误差(LMS )算法,因其具有计算量小、易于实现等优点而被广泛采用.图1为自适应滤波器原理框图.
基于最速下降法的最
小均方误差(LMS )算法的迭代公式如下:
e (n )=d (n )-X T
(n )W (n );W (n +1)=W (n )+2μe (n )X (n )其中:W (n )为自适应滤波器在时刻n 的权矢量,X (n )为时
刻n 的输入信号矢量,d (n )为期望输出值,v (n )为干扰信号,e (n )是误差信号,L 是自适应滤波器的长度,μ是步长因
子.LMS 算法收敛的条件为:0<μ<1/λmax ,λmax 是输入信号自相关矩阵的最大特征值.
初始收敛速度、时变系统跟踪能力及稳态失调是衡量自适应滤波算法优劣的三个最重要的技术指标.文献[1][6]分析了最小均方误差(LMS )算法的收敛性能.由于主输入端不可避免地存在干扰噪声,LMS 算法将产生参数失调噪声.干扰噪声v (n )越大,则引起的失调噪声就越大.减少步长因子μ可减少自适应滤波算法的稳态失调噪声,提高算法的收敛精度.然而步长因子μ的减少将降低算法的收敛速度和跟踪速度.因此,固定步长的自适应滤波算法在收敛速度、时变系统跟踪速度与收敛精度方面对算法调整步长因子μ的要求是相互矛盾的.为了克服这一矛盾,人们提出了许多变步长自适应滤波算法.R.D.G itlin [2]曾提出了一种变步长自适应滤波算法,其步长因子μ(n )随迭代次数n 的增加而逐渐减小.文[3]提出了使步长因子μ正比于误差信号e (n )的大小.而文
收稿日期:2000204212;修回日期:2000208222基金项目:国家自然科学基金(N o.69972016)、广东省自然科学基金(N o.9902);广东省优秀人才基金(教研[2000]69号)
第8期2001年8月
电 子 学 报
ACT A E LECTRONICA SINICA V ol.29 N o.8
August 2001
[4]提出了一种时间平均估值梯度的自适应滤波算法.文[5]
提出了另一种变步长自适应滤波算法,步长因子μ与e (n )和
x (n )的互相关函数的估值成正比.
在分析了上述变步长自适应滤波算法之后,文[6]提出了变步长自适应滤波算法的步长调整原则:即在初始收敛阶段或未知系统参数发生变化时,步长应比较大,以便有较快的收敛速度和对时变系统的跟踪速度;而在算法收敛后,不管主输入端干扰信号v (n )有多大,都应保持很小的调整步长以达到很小的稳态失调噪声.根据这一步长调整原则,该文给出了S igm oid 函数变步长LMS 算法(S VS LMS ):
e (n )=d (n )-X T (n )W (n );μ(n )=β(1/(1+exp (-α|e (n )|))-015);W (n +1)=W (n )+2μ(n )e (n )X (n ).
其变步长μ是e (n )的S igm oid 函数:
μ(n )=β(1/(1+exp (-α|e (n )))-015)该算法能同时获得较快的收敛速度、跟踪速度和较小的稳态
误差.然而,该S igm oid 函数过于复杂,且在误差e (n )接近零处变化太大,不具有缓慢变化的特性,使得S VS LMS 算法在自适应稳态阶段仍有较大的步长变化,这是该算法的不足.本文给出另一满足步长调整原则的函数:即变步长μ是e (n )的如下函数:μ(n )=β(1-exp (-α|e (n )|2)),其中,参数α>0控制函数的形状,参数β>0控制函数的取值范围;μ(n )和e (n )的函数曲线如图2,图3所示.该函数比S igm oid 函数简单,且在误差e (n )接近零处具有缓慢变化的特性,克服了S igm oid 函数在自适应稳态阶段步长调整过程中的不足.同时,本文还分析了参数α,β取值原则及对算法收敛性能的影响.
2 新的变步长LMS 自适应滤波算法及分析
根据文[6]提出的变步长自适应滤波算法的步长调整原
则,本文提出的变步长自适应滤波算法如下:
e (n )=d (n )-X T
(n )W (n );μ(n )=β(1-exp (-α|e (n )|2));W (n +1)=W (n )+2μ(n )e (n )X (n )
图2 μ(e )与e (n )的关系曲线(α不同,β相同)
由μ(n )和e (n )的函数关系曲线图2,图3可知:初始收敛阶段|e (n )|较大,对应μ(n )较大,算法收敛速度较快.当算法进入稳态时,|e (n )|达到最小,此
时μ(n )也达到最小,由此得到最佳Wiener 解.
我们知道,LMS 自适应滤波算法的收敛条件是:0<μ<1/λmax ,λmax 是输入信号自相关矩阵的最大特征值.因此μ(n )应满足:0<μ(n )<1/λmax ,由此可得β<1/λmax .在此条件下,
算法一定收敛.但并不是满足β<1/λmax 条件的任意α、
β都能使算法在初始收敛阶段μ(n )较大而在算法收敛后μ(n )较
小.例如:假设初始收敛阶段|e (n )|的值为015左右,若选择α=013,β=012(见图2)或α=8,β=0102(见图3),则|e (n )|对应的μ(n )小,此时算法起不到在初始收敛阶段步长应比较大加速收敛的作用;而选择α=7,β=012(见图2)或α=8,β=012(见图3),则|e (n )|对应的μ(n )大,此时μ(n )满足变步长自适应滤波算法在初始收敛阶段应有较大的步长这一要
求,起到加速收敛的作用.因此,α、
β值的选取应遵循以下原则:根据初始误差|e (n )|值的大小来选择α、
β的值使得初始误差|e (n )|所对应的μ(n )的值尽可能大些(当然是在满足算法收敛的前提下).
由图2还可知:对于相同的初始误差,固定β(<1/λmax ),此时算法收敛,选择较大的α值算法的收敛速度比选择较小的α值快.如果选取的α值过大,算法的收敛速度提高了,但是算法收敛后的误差|e (n )|所对应的μ(n )可能还较大,此时算法的稳态误差较大.如果对收敛速度有较高要求的话,应
图3 μ(n )与e (n )的关系曲线(α相同,β不同)
选择大的α值;如果对稳态误差有较高要求的话,选择的α值不能过大.在具体的实际应用中,可通过实验来确定α的最优值.
由图3可知:对
于相同的初始误差,固定α,选择较大的
β值算法的收敛速度比选择较小的β值快(β<1/λmax ).
下面的计算机模拟仿真结果证实了以上分析.
3 计算机模拟仿真结果及分析
下面通过计算机模拟来检验和分析我们给出的变步长
LMS 自适应滤波算法的收敛性能以及α、
β值对算法收敛性能的影响.仍然采用文[6]中的计算机模拟条件:(1)自适应滤波器阶数L =2;(2)未知系统的FIR 系数为W 3=[018,015]T ,在第500个采样点时刻未知系统发生时变,系数矢量变为W 3=[014,012]T ;(3)参考输入信号x (n )是零均值,方差为1的高斯白噪声;(4)v (n )为与x (n )不相关的高斯白噪
声,其均值是零,方差为σ2
v =0104.分别做200次的仿真,采样点数为1000,然后求其统计平均,得出学习曲线.
图4 β固定,不同值α的算法收敛曲线图4是β=011固定,不同α值的算法收敛曲线,从上到下的四条曲线对应的α值依此为:1,10,100,300;随着α
的增大,算法的收敛速度逐渐提高.
图5是β=011固定,α=300和20000的算法收敛曲线,从曲线右边看,下面一条曲线对应α=300,上面一条曲线对应α=20000.这表明
5
901第 8 期高 鹰:一种变步长LMS 自适应滤波算法及分析
图5
β固定,α=300,20000的算法收敛曲线虽然β=011固定,随着α的增大,算法的收敛速度逐渐提高,
但过大的α值增加了算法的稳态误差.在实际应用中,为了获得较快的收敛速度,应选择较大的α值;为了使收敛精度较高,则选择的α值不能过大.在本文的实验条件下,最优α值约为300.
图6 α固定,不同值β的算法收敛曲线图6是α=300固定,不同值β的算法收敛曲线,从上到下的四条曲线对应β的值依此为:0101,0102,0105,012,随着β的增大(β<1/λmax ),算法的收敛速度逐渐提高.在本文的实验条件下,若选择的β值
大于013,算法发散;若选择的β值在(012,013]之间,算法有时侯会出现不收敛的情况,最优β值约为012.
图7 两组不同的α,β值的算法收敛
曲线
图7是两组不同的α,β值的算法收敛曲线,上面一条曲线对应的α=015,β=011,
由于选取的α、β使得初始误差|e (n )|所对
应的μ(n )的值太小,
故算法收敛缓慢.下面一条曲线对应的α=9,β=013,此时选取的α、β值使得初始误差|e (n )|所对应的μ(n )的值较大,满足变步长自适应滤波算法的步长调整原则.故算法有较好的收敛性能.这也与上面的分析相一致.
4 和其它变步长算法的收敛曲线比较
文[6]提出了变步长自适应滤波算法的步长调整原则,根
据这一步长调整原则,该文给出了S igm oid 函数变步长LMS 算
法(S VS LMS ),但该文没有分析α、
β如何取值.图8是本文算法和S VS LMS 算法收敛曲线比较(该文实验条件下),上面一条曲线是α=110,β=115(该文算法最佳值)时的S VS LMS 算法收敛曲线,下面一条曲线是α=20,β=0.2时的本文算法收敛曲线.由此图知本文算法优于S VS LMS 算法.
图8 本文算法和S VS LMS 算法收敛曲线
比较文[5]提出的变
步长自适应滤波算法(VS 2N LMS ),其步长因子μ与e (n )和
x (n )的互相关函数
的估值成正比.该算法须用指数加权递推公式更新计算平均互相关,计算量较大.图9是本文算法
图9 本文算法的VS 2N LMS 算法收敛
曲线比较 图10 本文算法的LE 2LMS 算法收敛
曲线比较
和VS 2N LMS 算法收敛曲线的比较(采样点数为3000,50次仿真的统计平均结果).模拟条件采用该文中的条件:(1)自适应滤波器阶数L =10;(2)未知系统的FIR 系数为W 3
=[011,012,013,014,015,016,015,014,
013,012]T ,(3)参考输入信号x (n )是零均值,方差为1的高斯白噪声;(4)v (n )为与x (n )不相关的高斯白噪声;(5)α=1,λ=01997.本文算法取α=40,β=0106.从图中看出本文算法的收敛速度明显快于VS 2N LMS 算法的收敛速度.
文[7]通过对误差信号的非线性处理,得到了L.E 2LMS 算法.该算法亦较为复杂.图10是本文算法和L.E 2LMS 算法收敛曲线的比较(采样点数为600,100次仿真的统计平均结果).模拟条件采用文[7]中的条件:自适应滤波器阶数L =5;未知系统的FIR 系数为W 3=[0133,0167,1,0167,0133]T ,μmax =011,μmin =0101;参考输入信号x (n )是零均值,方差为
1的高斯白噪声;v (n )是与x (n )不相关的高斯白噪声,σ2n =
0101.本文算法取α=200,β=011.从图中看出本文算法的收
敛速度亦快于L 1E 2LMS 算法的收敛速度.
5 结束语
通过建立步长因子μ与误差信号e (n )之间的另一非线性函数关系μ(n )=β(1-exp (-α|e (n )|2)),本文提出了一种新的变步长自适应滤波算法,同时分析了参数α,β的取值原则及对算法收敛性能的影响.该算法有较好的收敛性能,克服了S VS LMS 算法在自适应稳态阶段步长调整过程中的不足,计算量比S VS LMS 算法、VS 2N LMS 算法和L 1E 2LMS 算法少.计算机仿真结果表明该算法的收敛性能良好,与理论分析
相一致且收敛速度快
于S VS LMS 算法、VS 2
6901 电 子 学 报
2001年
参考文献:
[1] S.Haykin,et.al.Adaptive Filtering Theory[M].1985.
[2] G itlin R.D,W einstein S.D.On the design of gradient alg orithms for
digitally im plemented adaptive filters[J].IEEE T rans on CT,1973,
(2):125-136.
[3] Y asukawa H,Shimada S,Furukrawa I,et al.Acoustic echo canceller
with high speech quality[A].ICASSP’87:2125-2128.
[4] G itlin R.D,W einstein S.D.The effects of large interference on the
tracking capability of digitally im plemented echo cancellers[J].IEEE
T rans on COM,1978,(6):833-839.
[5] 叶华,吴伯修.变步长自适应滤波算法的研究[J].电子学报,
1990,18(4):63-69.
[6] 覃景繁,欧阳景正.一种新的变步长自适应滤波算法[J].数据
采集与处理.1997,12(3):171-194.
[
7] 吴光弼,祝琳瑜.一种变步长LMS自适应滤波算法[J].电子学报,1994,22(1):55-60.作者简介:
高 鹰 男.1963年6月生于湖北丹江口.
广州师范学院计算机系副教授,1987年毕业于华
中师大数学系,1998年毕业于北京航空航天大学
机电工程系,获硕士学位.现在华南理工大学电
子与通信工程系攻读博士学位(在职).主要研究
方向:计算机辅助几何设计、三维数据场可视化、
自适应信号处理等研究.已发表论文十余篇.
谢胜利 男.1956年生于湖北荆州.华南理
工大学无线电与自动控制研究所教授,博士生导
师.主要研究领域:滞后分布参数系统、滞后2D
离散系统的稳定与变结构控制、非线性系统学习
控制、机器人系统、自适应回波消除等.出版专著
一部,发表论文60多篇,获省部级二等奖2次.
《G PS动态滤波的理论、方法及其应用》出版
由博士生导师万德钧教授和房建成、王庆两位副教授合著的《G PS动态滤波理论、方法及其应用》一书,倾注了作者及其有关专家、学者多年的心血,潜心研究,解决了一个又一个技术难题所取得的最新成果,独创性很强,是一本难得的好书。该书得到了江苏省金陵科技著作出版基金的支持,并由江苏科学技术出版社出版发行。
本书共约23万字,分8章。首先用了一章的篇幅简易扼要地介绍了第二代全球卫星导航系统G PS导航定位原理及其系统的基本情况,接着用了两章的笔墨分析阐述G PS动态滤波理论、方法,突出解决G PS动态定位的最优滤波问题,为此,建立机动载体运动的更合理、更准确的数学模型和采用一些更先进的自适应算法这两大难点,并提出了一种带有速度观测量的G PS滤波法,为提高G PS动态滤波精度开辟了一条新途径,甚为可喜。
自第4章开始一直到末尾,整整用了全书的多半章节来着重阐述G PS应用量最大,而且是当前最受人们关注的,并在应用中还存在不少具体技术难点的车辆组合导航。作者从G PS与DR组合原理、方法开始,具体地就这种组合的非线性自适应卡尔曼滤波模型的建立与仿真,车辆应用的综合校正,到适于普通车辆用的低成本G PS/DR组合系统的设计及试验,给出了试验结果与分析。同时还专门用了一个章节对车载G PS/DR/M M组合系统的卡尔曼滤波进行了分析论述,包括地图导航数据库、匹配方法、车辆各种动态模型与各种道路情况的降价卡尔曼滤波。内容非常丰富、翔实。
该书是一部专著,相当系统全面与具体,无论是理论性还是实用性都很强,颇有深度,对于在G PS动态滤波及车辆应用方面很有参考价值。文字简洁流畅,理论分析正确,逻辑性很强,图文并茂,是我所读到的在该领域内出自中国专家之手的第一部专著,获益匪浅。
(谢世富)
7901
第 8 期高 鹰:一种变步长LMS自适应滤波算法及分析
