抗沖激干擾的稀疏懲罰約束遺漏最小均方算法*

晏國杰，林　云

(重慶郵電大學(xué) 移動通信技術(shù)重慶市重點實驗室，重慶 400065)

?

抗沖激干擾的稀疏懲罰約束遺漏最小均方算法*

晏國杰**，林云

(重慶郵電大學(xué) 移動通信技術(shù)重慶市重點實驗室，重慶 400065)

當(dāng)被識別系統(tǒng)是稀疏系統(tǒng)時，傳統(tǒng)的遺漏最小均方(LLMS)自適應(yīng)算法收斂性能較差，特別在非高斯噪聲環(huán)境中，該算法性能進(jìn)一步惡化甚至算法不平穩(wěn)收斂。為了解決因信道的稀疏性使算法收斂變慢的問題，對LLMS算法的代價函數(shù)分別利用加權(quán)1-norm和加權(quán)零吸引兩種稀疏懲罰項進(jìn)行改進(jìn)；為了優(yōu)化算法的抗沖激干擾的性能，利用符號函數(shù)對已改進(jìn)的算法迭代式作進(jìn)一步改進(jìn)。同時，將提出的兩個算法運用于非高斯噪聲環(huán)境下的稀疏系統(tǒng)識別，仿真結(jié)果顯示提出的算法性能優(yōu)于現(xiàn)存的同類稀疏算法。

稀疏系統(tǒng)識別；自適應(yīng)算法；沖激干擾；收斂性

1　引　言

最小均方(Least-Mean Square，LMS)自適應(yīng)算法[1]由于具有結(jié)構(gòu)簡單和計算復(fù)雜度低的特點[2]，已經(jīng)被廣泛應(yīng)用在各工程領(lǐng)域，如控制工程、通信工程、雷達(dá)信號處理、干擾消除、有噪聲源控制(Active Noise Control,ANC)、生物醫(yī)學(xué)工程、波束成形、語音回聲信道等[3-4]。而當(dāng)輸入信號是特征分散較大的時，其傳統(tǒng)的LMS自適應(yīng)算法收斂較慢。為了解決這個問題，Guitlin等利用輸入信號特征分散較大這一特點在文獻(xiàn)[5]中提出了改進(jìn)的LMS算法，即遺漏的最小均方(Leaky Least-Mean Square，LLMS)自適應(yīng)算法。在輸入信號的特征分散度較大情況下，LLMS算法的確解決了LMS算法收斂慢的缺陷。

在實際的工程應(yīng)用中遇到的系統(tǒng)并不總是分散的(稠密的)，而有可能是稀疏系統(tǒng)(大部分抽頭系數(shù)為零或其絕對值小到可以忽略的，只有很少部分活躍抽頭的系數(shù)較大)。例如：在稀疏的網(wǎng)絡(luò)回聲消除系統(tǒng)中，由于時延效應(yīng)的影響，在總時隙為64～128 ms的響應(yīng)中，其活躍的時隙大概只有8～12 ms[6]。當(dāng)系統(tǒng)是稀疏的時候，LLMS算法收斂性較差。為了解決這個問題，應(yīng)該研究稀疏的LLMS算法。稀疏的LLMS算法目前研究相對較少，現(xiàn)有的稀疏的LLMS算法主要有Zero-Attracting Leaky Least-Mean-Square(ZA-LLMS)[7]和Weighted Zero-Attracting Leaky-LMS(WZA-LLMS)[8]。在噪聲為高斯干擾的情況下，以上兩種算法雖然增加了計算抽頭系數(shù)矢量的一范數(shù)的計算復(fù)雜度，但是在一定程度上解決了當(dāng)系統(tǒng)是稀疏的時候LLMS算法收斂慢的問題。在實際的工程應(yīng)用中，非高斯沖激干擾(包括沖激干擾、沖激干擾和高斯干擾的混合)也是經(jīng)常遇到的。在非高斯干擾的環(huán)境中，以上存在的稀疏類的LLMS算法的性能嚴(yán)重惡化，甚至使算法不能收斂。

本文為了解決稀疏抗非高斯沖激干擾的問題，提出了兩個改進(jìn)的稀疏LLMS算法，即加權(quán)零吸引的符號遺漏最小均方算法(Reweighted Zero-Attracting Sign Least Mean Square，RZASLLMS)和基于加權(quán)一范數(shù)的符號遺漏最小均方算法(Reweighted1-norm Sign Least Mean Square，RL1-SLLMS)。首先，為了利用系統(tǒng)稀疏性這一先驗知識，在傳統(tǒng)的LLMS算法的代價函數(shù)的右邊分別加上稀疏約束懲罰函數(shù)項(即加權(quán)的零吸引項和加權(quán)的抽頭系數(shù)矢量的一范數(shù)項)，從而使傳統(tǒng)的LLMS算法在識別稀疏系統(tǒng)時的收斂速度得到提高。其次，由于符號函數(shù)能防止誤差因沖激干擾突然劇增而具有抗沖激噪聲的性能，被廣泛應(yīng)用于各種自適應(yīng)算法中[9-10]。受符號函數(shù)這一特性的啟發(fā)，對上一步改進(jìn)得到的兩個迭代方程做進(jìn)一步修正：分別將兩個迭代方程中的誤差項用自變量為誤差的符號函數(shù)代替，以此降低因誤差突增而帶來算法性能惡化的程度。經(jīng)過以上兩步改進(jìn)之后就可以分別得到提出的兩個算法的迭代方程了，并對提出的算法給出相應(yīng)的計算復(fù)雜度分析。同時，將提出的兩個算法運用于稀疏系統(tǒng)識別的Matlab仿真并且與現(xiàn)有的遺漏類算法對比。由于WZA-LLMS的算法性能優(yōu)于ZA-LLMS的性能，實驗只將對WZA-LLMS算法、傳統(tǒng)的LLMS算法與提出的算法進(jìn)行對比。

2　傳統(tǒng)的遺漏最小均方自適應(yīng)算法

2.1系統(tǒng)模型

首先定義一個線性系統(tǒng)識別模型：

d(n)=xT(n)wo+v(n)。

(1)

式中：d(n)表示期望信號;列矢量x(n)=[x(n),x(n-1),…,x(n-L+1)]T為輸入信號;wo為待估計系統(tǒng)的抽頭系數(shù)列矢量;v(n)是背景加性噪聲;L是濾波器長度。濾波器的輸出可以表示為y(n)=xT(n)w(n),估計誤差可表示為

e(n)=d(n)-xT(n)w(n) 。

(2)

式中：w(n)=[w0,w2,…,wL-1]T是wo在第n次迭代的估計列矢量。

2.2遺漏最小均方(LLMS)自適應(yīng)算法

傳統(tǒng)的LLMS算法的代價函數(shù)定義如下[11-13]：

(3)

式中：γ>0為遺漏因子。

由負(fù)梯度方向可推導(dǎo)其迭代式如下：

(1-μγ)w(n)+μe(n)x(n)。

(4)

式中：2>μ>0為算法迭代步長。

3　符號最小均方自適應(yīng)算法SLMS

SLMS算法作為一種抗沖激干擾的算法，其表達(dá)式為[14]

w(n+1)=w(n)+μsgn(e(n))x(n)。

(5)

式中：sgn(·)表示符號函數(shù)。

3.1提出的RZASLLMS算法

源于Reweighted Zero-Attracting LMS(RZA-LMS)[15]算法的思想，為了使傳統(tǒng)的LLMS算法具有稀疏識別性，在傳統(tǒng)遺漏的最小均方算法的代價函數(shù)的基礎(chǔ)上增加稀疏約束懲罰函數(shù)項，即

JRZA(n)=J(n)+λRZAJRZA1(n)=

(6)

式中：λRZA>0是一個為了調(diào)節(jié)估計誤差與稀疏控制項的權(quán)衡因子。再由負(fù)梯度方向可得

(7)

為了減小因沖激噪聲而使誤差發(fā)生突變給算法收斂性帶來的不利影響，利用符號函數(shù)對式(7)進(jìn)一步改進(jìn)可得RZASLLMS算法的表達(dá)式：

w(n+1)=(1-μγ)w(n)+

(8)

式中：ρ=μλRZA/ε′,ε=1/ε′，一般ε=20[14]。

3.2提出的RL1-SLLMS算法

由文獻(xiàn)[14]知加權(quán)的一范數(shù)在估計稀疏信道方面有較好的性能,因此，為了增加LLMS算法的稀疏識別性，可以用加權(quán)的一范數(shù)改進(jìn)LLMS算法的代價函數(shù)為

λRL1‖f(n)w(n)‖1。

(9)

式中：λRL1>0與λRZA一樣是權(quán)衡因子；符號‖·‖1表示向量的一范數(shù)；而f(n)被定義[14]為

(10)

式中：1>δRL1>0，例如δRL1=0.05,因此，[f(n)]i>0滿足i=0,1,…,L-1。

由式(9)負(fù)梯度方向迭代有

(1-μγ)w(n)+μe(n)x(n)-

(11)

為了使算法具有抗沖激干擾性，對式(11)進(jìn)一步改進(jìn)如下：

w(n+1)=(1-μγ)w(n)+μsgn(e(n))x(n)-

(12)

式中：δRL1>0防止算法初始迭代時除零。

4　提出算法的計算復(fù)雜度分析

表1是對LLMS、WZALLMS、RZASLLMS和RL1-SLLMS算法在一次迭代中計算復(fù)雜度的對比分析，其中L表示濾波器長度。在統(tǒng)計運算次數(shù)時，將加法和減法的計算次數(shù)歸納在一起，乘法和除法的計算次數(shù)歸納在一起，符號函數(shù)的計算次數(shù)單獨歸納為一項。從表中可以看出傳統(tǒng)的LLMS算法計算復(fù)雜度是最小的，WZALLMS、RZASLLMS和RL1-SLLMS算法由于都增加了稀疏約束懲罰項，所以都在LLMS算法的基礎(chǔ)上增加了2L次加法運算和2L次乘法運算。WZALLMS、RZASLLMS和RL1-SLLMS算法的計算復(fù)雜度保持基本相同，其原因是這3個算法都是在LLMS算法的代價函數(shù)上增加類似的稀疏約束項進(jìn)行處理的。而對于提出的RZASLLMS和RL1-SLLMS算法之所以比WZALLMS算法多一次符號函數(shù)的運算，是因為提出的算法為了抗沖激干擾對測量誤差使用了符號函數(shù)。

表1　LLMS、WZALLMS、RZASLLMS和RL1-SLLMS算法在一次迭代中的計算復(fù)雜度的分析

總之，提出的RZASLLMS和RL1-SLLMS算法雖然與傳統(tǒng)的LLMS算法相比計算復(fù)雜度相對有些增加，但是與WZALLMS算法相比每一次迭代只增加了一次符號函數(shù)的計算。

5　仿真結(jié)果

下面對提出的算法做仿真實驗分析。由于大部分真實環(huán)境的噪聲是高斯干擾，而對于另一些情況，如電子設(shè)備中的人為噪聲、自然現(xiàn)象中的照明高峰等可以描述為非高斯干擾模型[16]。所以實驗分為兩個部分：第一部分主要驗證提出的算法在一般的高斯干擾環(huán)境下的稀疏自適應(yīng)系統(tǒng)識別有良好的均方偏差性能，在被識別系統(tǒng)稀疏程度不同情況下，與現(xiàn)有算法對比；第二部分主要是將噪聲換成沖激噪聲，與現(xiàn)有算法的對比，同時進(jìn)一步在語音信道中進(jìn)行驗證。在整個仿真實驗過程中，性能學(xué)習(xí)追蹤的歸一化均方誤差(Normalized Mean Square Deviation，NMSD)表達(dá)式為

所有的仿真實驗的輸入信號都是零均值的隨機序列通過x(n)=0.9x(n-1)+b(n)產(chǎn)生的，b(n)是零均值、方差為1的高斯噪聲。為了避免實驗結(jié)果的偶然性，所有實驗結(jié)果都是計算機重復(fù)100次獨立仿真得到的平均結(jié)果。

5.1在高斯干擾下的性能

在輸入信號中加入10 dB的零均值的高斯噪聲。輸入信號通過一個抽頭系數(shù)為32個的稀疏濾波器，其中2個抽頭系數(shù)為1，其他的均為0,并定義其稀疏度為2/32。仿真結(jié)果如圖1所示。所有算法的步長取μ=0.002，遺漏因子取λ=0.000 1[8]，λRZA=0.02，ε=20，δRL1=0.05，λRL1=0.000 05[14]。從圖1中可以看出，提出的RZASLLMS和RL1-SLLMS算法歸一化均方偏差曲線比傳統(tǒng)的LLMS算法低，而與WZALLMS算法的歸一化學(xué)習(xí)曲線相差不大。當(dāng)?shù)? 000次時，系統(tǒng)由wo變到-wo，提出的算法和WZALLMS算法依然保持良好的健壯性。因此，本文提出的兩個改進(jìn)算法優(yōu)于LLMS算法，和已存在的WZALLMS有相同的稀疏識別性。

圖1　在高斯干擾環(huán)境下4種算法的學(xué)習(xí)曲線比較

為了進(jìn)一步證實本文提出的算法具有稀疏識別性，在環(huán)境噪聲與上面實驗保持一致的情況下，比較在不同稀疏度(2/32,4/32,6/32,8/32,10/32)算法的性能。如圖2，各算的平穩(wěn)時的NMSD的取值均是在保持相同的收斂速度的前提。從圖2中可以看到WZALLMS和提出的RZASLLMS、RL1-LLMS算法的歸一化的均方偏差隨著稀疏度的增加逐漸向LLMS算法靠攏，這是因為隨著稀疏度增加，系統(tǒng)越來越分散，稀疏的自適應(yīng)算法WZALLMS、 RZASLLMS、RL1-LLMS的收斂性就越來越接近LLMS算法了。除此之外，LLMS算法的曲線基本保持水平，這是因為其步長一直沒有改變。由于符號算法自身有收斂慢的特點[9-10]，所以正如圖1和圖2所示，提出的算法的均方偏差稍微高于WZALLMS算法。雖然RZASLLMS和RL1-SLLMS算法與WZALLMS算法相比犧牲了少于1 dB的均方偏差，但是與之前的LLMS算法相比具有良好的收斂性。同時，正如接下來的實驗要分析的，提出的算法擁有以上算法不具有的抗沖激性能。

圖2　不同稀疏度下的各算法的平穩(wěn)時的NMSD學(xué)習(xí)曲線

5.2非高斯干擾下的性能

圖3　在非高斯干擾下各算法的學(xué)習(xí)曲線對比

為了進(jìn)一步驗證提出的算法在稀疏系統(tǒng)識別的實用性，下面將實驗信道換成如圖4所示的隨機產(chǎn)生稀疏語音回聲信道。利用這個信道做兩次仿真，一次仿真的噪聲是高斯的，一次為非高斯干擾,其結(jié)果分別如圖5和圖6所示。

圖4　隨機產(chǎn)生抽頭數(shù)為128個的稀疏語音信道

圖5　高斯干擾環(huán)境下的語音信道識別

圖6　非高斯干擾環(huán)境下的語音信道識別

從圖5可以知道，在稀疏度較高的語音信道中提出的RZASLLMS、RL1-LLMS算法比現(xiàn)有的LLMS和 WZALLMS算法收斂更快。同時，從圖6更可以看出提出的算法在非高斯干擾下的語音信道識別中有更強的健壯性。

6　結(jié)束語

本文針對傳統(tǒng)的LLMS算法在識別稀疏系統(tǒng)時收斂速度慢的問題和不能抗沖激干擾的問題,首先利用兩種不同的一范數(shù)加權(quán)因子對傳統(tǒng)的LLMS算法的代價函數(shù)進(jìn)行改進(jìn)，使傳統(tǒng)的LLMS算法具有稀疏識別性;然后又利用符號算法的思想對算法的迭代方程作進(jìn)一步改進(jìn)，使提出的算法具有抗沖激干擾的性能。由仿真結(jié)果得知，提出的兩個算法的收斂性不僅在高斯干擾環(huán)境下明顯優(yōu)于LLMS算法，而且在噪聲為非高斯沖激干擾環(huán)境中也明顯優(yōu)于LLMS算法和WZALLMS算法的收斂性能。因此，提出的RZASLLMS、RL1-SLLMS算法雖然犧牲了很小的計算復(fù)雜度，但是解決了LLMS算法不能識別稀疏系統(tǒng)的問題和WZALLMS算法不能抗沖激干擾的問題，具有很好的工程意義。下一步的研究工作是將本文提出的算法運用到?jīng)_激干擾環(huán)境下稀疏度時變的自適應(yīng)系統(tǒng)識別問題中。

[1]HAYKIN S.Adaptive filter theory[J].Englewood Clilfs,NJ:Prentice Hall Co.,1991:231-238.

[2]葉挺，朱賽男.新變步長自適應(yīng)算法及其時延估計性能[J].電訊技術(shù)，2014,54(6):775-779．

YE Ting,ZHU Sainan.A new variable step-size LMS adaptive filtering algorithm and its performance in time delay estimation[J]．Telecommunication Engineering，2014，54(6):775-779.(in Chinese)

[3]FARHANG-BOROUJENY B.Adaptive filters:theory and applications[M].New York:John Wiley & Sons,2013:9-20.

[4]KADAGE M R,PATIL M S N.A new LMS for beamforming in mobile communication[J].International Research Journal of Engineering and Technology,2015,2(5):1-5.

[5]GITLIN R D,MEADORS H C,WEINSTEIN S B. The tap-leakage algorithm:an algorithm for the stable operation of a digitally implemented,fractionally spaced adaptive equalizer[J].Bell System Technical Journal,1982,61(8):1817-1839.

[6]DAS B K,CHAKRABORTY M. Sparse adaptive filtering by an adaptive convex combination of the LMS and the ZA-LMS algorithms[J].IEEE Transactions on Circuits and Systems I:Regular Papers,2014,61(5):1499-1507.

[7]SALMAN M S. Sparse leaky-LMS algorithm for system identification and its convergence analysis[J].International Journal of Adaptive Control and Signal Processing,2014,28(10):1065-1072.

[8]SALMAN M S,JAHROMI M N S,HOCANIN A,et al.A weighted zero-attracting leaky-LMS algorithm[C]//Proceedings of 2012 20th International Conference on Software,Telecommunications and Computer Networks(SoftCOM).Split,Croatia:IEEE,2012:1-3.

[9]PALEOLOGU C,BENESTY J,CIOCHINA S. Sparse adaptive filters for echo cancellation[J].Synthesis Lectures on Speech and Audio Processing,2010,6(1):34-36.

[10]SEO J H,JUNG S M,PARK P G. Proportionate sign subband adpative filtering algorithm for network echo cancellers[J].Journal of Advances in Computer Networks,2015,3(2):99-105.

[11]MAYYAS K A,ABOULNASR T. Leaky lms:a detailed analysis[C]//Proceedings of 1995 IEEE International Symposium on Circuits and Systems.Seatlle,Washington,USA:IEEE,1995:1255-1258.

[12]KAMENETSKY M,WIDROW B.A variable leaky LMS adaptive algorithm[C]//Proceedings of the Thirty-Eighth Asilomar Conference on Signals,Systems and Computers.Pacific Grove,CA:IEEE,2004:125-128.

[13]MAYYAS K,ABOULNASR T. Leaky LMS algorithm:MSE analysis for Gaussian data[J].IEEE Transactions on Signal Processing,1997,45(4):927-934.

[14]GUAN G,XU L,MA W,et al.Robust adaptive sparse channel estimation in the presence of impulsive noises[C]//Proceedings of 2015 IEEE International Conference on Digital Signal Processing(DSP).Singapore:IEEE,2015:628-632.

[15]CHEN Y,GU Y,HERO III A O. Sparse LMS for system identification[C]//Proceedings of 2009 IEEE International Conference on Acoustics,Speech and Signal Processing.Taipei:IEEE,2009:3125-3128.

[16]WU Z,PENG S,MA W,et al.Minimum error entropy algorithms with sparsity penalty constraints[J].Entropy,2015,17(5):3419-3437.

[17]SHI L,LIN Y.Convex combination of adaptive filters under the maximum correntropy criterion in impulsive interference[J].IEEE Signal Processing Letters,2014,21(11):1385-1388.

晏國杰(1989—)，男，貴州銅仁人，現(xiàn)為碩士研究生，主要研究方向為稀疏自適應(yīng)信號處理；

YAN Guojie was born in Tongren,Guizhou Province,in 1989. He is now a graduate student. His research concerns sparse signal processing.

Email:guojieyancqupt@foxmail.com

林云(1968—)，男，四川南充人，現(xiàn)為副教授、碩士生導(dǎo)師，主要研究方向為壓縮感知技術(shù)及稀疏信號處理。

LIN Yun was born in Nanchong,Sichuan Province,in 1968. He is now an associate professor and also the instructor of graduate students.His research concerns compressing sense and sparse signal processing.

Email:lycqupt@sina.com

Sparse Penalty Constraint Leaky Least Mean Square Algorithms against Impulsive Interference

YAN Guojie,LIN Yun

(Chongqing Key Laboratory of Mobile Communications Technology,Chongqing University of Posts and Telecommunications,Chongqing 400065,China)

The leaky least mean square(LLMS) adaptive filtering algorithm converges slowly when the identified system is sparse. Especially when the noise is non-Gaussian impulsive interference,the performance of LLMS algorithm deteriorates severely.To solve the problem that the convergent rate becomes slower because the system is sparse,the cost function of the conventional LLMS algorithm is improved by the two penalty functions,the reweighted zero-attracting(the log-sum penalty) and reweighted1-norm(RL1),respectively. To address the problem of the impulsive interference,the iterative functions are improved by introducing the sign function. Simultaneously,the simulations are made for the proposed algorithms to prove to be better performances compared with existing leaky-style algorithms in the case of impulsive interference.

sparse system identification;adaptive filtering algorithm;impulsive interference;convergence

10.3969/j.issn.1001-893x.2016.10.016

2016-01-15；

2016-04-18Received date:2016-01-15；Revised date：2016-04-18

TN912.3

A

1001-893X(2016)10-1153-06

引用格式：晏國杰，林云.抗沖激干擾的稀疏懲罰約束遺漏最小均方算法[J].電訊技術(shù)，2016,56(10):1153-1158.[YAN Guojie,LIN Yun.Sparse penalty constraint leaky least mean square algorithms against impulsive interference[J].Telecommunication Engineering,2016,56(10):1153-1158.]

**通信作者：guojieyancqupt@foxmail.comCorresponding author：guojieyancqupt@foxmail.com