一種改進的變步長LMS自適應濾波算法

張繼榮，張 天

(西安郵電大學 通信與信息工程學院，陜西 西安 710121)

最小均方(Least Mean Square，LMS)算法基于最速下降算法的理念，以瞬時誤差的平方代替了均方誤差，通過最小均方算法可以尋找到濾波器權(quán)向量最優(yōu)解，可以使濾波器的輸出值與輸入值的差值接近于0，因此，LMS算法常常被應用在信號處理和自適應信號研究等領(lǐng)域[1]。其還可以被應用在系統(tǒng)辨識和建模、自適應信道均衡、回波消除、線性預測編碼以及自適應波束形成等領(lǐng)域。LMS算法具有復雜度低、原理簡單、參數(shù)少和跟蹤性能好等優(yōu)點，成為一種應用范圍較廣的自適應濾波算法[2]。

步長參數(shù)對于LMS算法的收斂速度和穩(wěn)態(tài)誤差都有著直接的影響[3-5]。經(jīng)典LMS算法采用固定的步長參數(shù)，不能滿足不同迭代時期對于收斂速度和穩(wěn)態(tài)誤差的需求，精度以及收斂速度較低，無法滿足實際應用領(lǐng)域的要求。因此，研究者提出了基于雙曲正弦函數(shù)[6]、對數(shù)函數(shù)[7]、正態(tài)分布曲線[8]的變步長LMS算法。但是這些算法初始步長值都不夠大，導致相較于經(jīng)典LMS算法，收斂速度并沒有顯著提高，穩(wěn)態(tài)誤差沒有顯著降低。

具體而言，在誤差逐漸接近于0的過程中，文獻[6]中的步長參數(shù)模型底部變化太緩慢，在誤差信號還沒有到0時，步長值已經(jīng)為0，會造成較大的穩(wěn)態(tài)誤差[9]。文獻[8]相較于文獻[7]的初始步長值有所增長，但是在誤差逐漸接近于0的過程中，兩種算法中的步長參數(shù)模型底部均變化太快，無法找到最佳步長值，從而無法通過對最優(yōu)步長值進行計算得到最優(yōu)權(quán)向量[10]。

針對上述問題，為了使得步長參數(shù)模型的初始步長取值較大，在誤差趨于0時步長參數(shù)值較小且變化緩慢，擬設(shè)計一種新的變步長LMS算法，所提算法在文獻[7]的基礎(chǔ)上對步長參數(shù)模型加以改進，建立一種新的步長參數(shù)與誤差的非線性關(guān)系模型。相較于對比文獻中的算法，以期使所提算法更加全面地滿足步長調(diào)整標準中的要求，進而使得所提算法的收斂速度更快、穩(wěn)態(tài)誤差更小。

1 LMS自適應濾波算法

1.1 LMS自適應濾波算法的原理

將LMS算法應用在濾波器上的結(jié)構(gòu)中，其包含兩個主要的部分，第一個部分是LMS算法的部分，另一個部分是常用的濾波器結(jié)構(gòu)即橫向有限沖擊響應(Finite Impulse Response，F(xiàn)IR)結(jié)構(gòu)，假設(shè)n時刻的輸入信號向量表達式為

X(n)=[x(n),x(n-1),…,x(n-M+1)]

(1)

其中，M表示濾波器的階數(shù)，是一個固定值，其根據(jù)實際需求而定。

濾波器的權(quán)向量的表達式為

W(n)=[w0(n),…,wi(n),wM-1(n)]T

其中，i是濾波器權(quán)向量的下標，既表示此時的wi(n)為第幾個濾波器權(quán)向量，其取值范圍為0至M-1，與式(1)中的分量一一對應，如w0(n)表示的是x(n)所對應的權(quán)向量。實際輸出信號的表達式為

n時刻期望信號與算法實際輸出信號之間的差值表示為

e(n)=d(n)-XT(n)W(n)

其中，d(n)為期望信號，誤差信號e(n)進入LMS算法的函數(shù)模型中，通過該函數(shù)模型控制著LMS算法的步長參數(shù)，隨著每一次迭代權(quán)系數(shù)向量W(n)發(fā)生改變，最終W(n)趨近于其最優(yōu)解，從而使實際輸出信號y(n)與期望信號d(n)的差值接近于0。

LMS自適應濾波器原理如圖1所示，其中，x(n)、x(n-1)、…、x(n-M+1)為輸入信號，Z-1表示輸入之間的關(guān)系，W0(n)、W1(n)、…、WM-1(n)為與輸入信號對應的權(quán)系數(shù)向量，∑為求和符號。

圖1 LMS自適應濾波器原理

固定步長LMS算法的具體步驟如下。

步驟1初始化參數(shù)。將自適應濾波器權(quán)系數(shù)的初始值W(0)設(shè)置為0，將自適應濾波器的階數(shù)設(shè)置為M，選擇合適的變化的步長值μ，為了使算法收斂，步長μ的取值應該大于0且小于1/λmax[11]，λmax表示輸入信號X(n)=[x(n),x(n-1),…,x(n-M+1)]T的自相關(guān)矩陣的最大特征值。

步驟2計算濾波器的實際輸出信號為

y(n)=WT(n)X(n)

步驟3計算自適應濾波器的誤差為

e(n)=d(n)-y(n)=d(n)-WT(n)X(n)

步驟4更新濾波器權(quán)系數(shù)的值為

W(n+1)=W(n)+μX(n)e(n)

重復上述步驟2-步驟4，直到濾波器權(quán)系數(shù)逼近最佳濾波為止。

算法中的步長參數(shù)μ對于算法的收斂速度、時變系統(tǒng)的跟蹤速度和穩(wěn)態(tài)誤差這些特征起到關(guān)鍵的影響作用[12]，較小的步長參數(shù)值μ會獲得較小的穩(wěn)態(tài)誤差從而提高算法的精度，同時也會獲得較小的收斂速度，使算法收斂的很慢，對于時變系統(tǒng)來說較小的步長參數(shù)μ也會導致跟蹤速度的減小。而較大的步長參數(shù)μ會帶來較大的收斂速度，使得算法收斂的很快，同時對于時變系統(tǒng)來說，會提高其跟蹤速度，但是會帶來較大的穩(wěn)態(tài)誤差，降低算法的精度[13-15]。因此，需要根據(jù)實際應用場景，選取合適的步長參數(shù)值。

1.2 現(xiàn)有變步長LMS算法

為了兼顧算法的精度和收斂速度，需要根據(jù)算法所處的迭代時期的狀態(tài)動態(tài)地調(diào)節(jié)步長參數(shù)μ的取值[15]。在算法初始階段誤差較大時或者發(fā)生時變誤差突然增大時，自適應濾波器權(quán)系數(shù)與最優(yōu)權(quán)系數(shù)相差較遠，此時首要任務(wù)應該是先提升收斂速度，因此，應該在初始階段選取較大的步長。隨著算法進入到穩(wěn)態(tài)階段，此時的首要任務(wù)是提升算法的精度且收斂速度的要求并不緊迫，應該選取較小且變化較慢的步長值，使穩(wěn)態(tài)誤差降低以確保穩(wěn)態(tài)誤差在很小的范圍內(nèi)波動。步長調(diào)整的原則為在誤差值較大時，步長值應該盡可能的大，并且步長值隨著誤差值的減小而減小，當誤差值接近于零時，步長值應變化緩慢。目前較為常用的變步長LMS自適應濾波算法有以下幾種。

1)基于對數(shù)函數(shù)的變步長LMS自適應濾波算法。根據(jù)上述動態(tài)選擇步長參數(shù)值的標準，文獻[7]提出了一種形式較為簡單、計算復雜度低的基于對數(shù)函數(shù)的變步長LMS算法，其將對數(shù)函數(shù)進行適當?shù)母淖冏鳛椴介L參數(shù)模型決定步長參數(shù)值μ的變化，使得步長參數(shù)μ的值隨著誤差e(n)的改變而發(fā)生動態(tài)的改變，步長調(diào)整公式為

μ(n)=σlog[ρ|e(n)|v]

(2)

其中：參數(shù)σ的作用是控制步長參數(shù)模型的取值范圍；參數(shù)ρ的作用是控制步長參數(shù)模型的形狀；參數(shù)ν的作用是控制步長參數(shù)模型鄰近誤差為0的區(qū)域的變化速率。經(jīng)過試驗分析，σ取值為0.02，ρ取值為1 000，ν取值為2時算法的效果最好[7]。

2)基于正態(tài)分布函數(shù)的變步長LMS自適應濾波算法。文獻[8]是在基于sigmoid函數(shù)的變步長LMS算法的基礎(chǔ)上提出的，其步長參數(shù)調(diào)整公式為

μ(n)=c{1-exp[-a|e(n)|b]}

(3)

其中：參數(shù)a控制步長參數(shù)模型收斂至其最大取值的速度；參數(shù)b控制步長參數(shù)模型底部的形狀，也就是進入穩(wěn)態(tài)時期的步長參數(shù)模型的變化趨勢；參數(shù)c控制步長參數(shù)模型的最大取值。經(jīng)過實驗分析，a取值為5，b取值為1，c取值為0.12時，文獻[8]中的算法效果最好[8]。

相較于式(2)，其步長參數(shù)的初始值得到了一定程度的提高，但當誤差趨于0時，其對于步長參數(shù)變化速度的調(diào)整效果并不明顯，仍然會造成較大的穩(wěn)態(tài)誤差。

文獻[8]中的算法在迭代的初始階段對步長參數(shù)的取值的確做出了改進，使步長參數(shù)的取值明顯比文獻[7]中的大，但是在算法進入穩(wěn)態(tài)階段后，步長參數(shù)的取值并沒有一個很明顯的減小趨勢且取值較大變化較快，這可能會導致算法具有較大的震蕩，從而影響算法的精度值。具體步長參數(shù)模型對比情況圖如圖2所示。

圖2 文獻[7-8]的步長參數(shù)模型對比情況

由圖2可以看出，文獻[7]中的步長參數(shù)模型在誤差接近于0時，相較于文獻[8]其值明顯變小且變化速率明顯變慢了，但是其初始步長參數(shù)值太小且在誤差還未到0時，其步長參數(shù)的值已經(jīng)為0，這可能會導致自適應濾波器找不到最優(yōu)權(quán)系數(shù)。

2 新的變步長LMS自適應濾波算法

為了使LMS自適應濾波算法在收斂速度、穩(wěn)態(tài)誤差和系統(tǒng)跟蹤性能這幾個重要的算法特征上得到更好的效果，在設(shè)計步長參數(shù)模型時，要全面地滿足其變化的規(guī)律，而不是像文獻[7-8]只滿足變化規(guī)律中的一點?；诖耍谖墨I[7]的基礎(chǔ)上設(shè)計了一種新的步長參數(shù)變化模型，新的步長參數(shù)與誤差之間的函數(shù)表達式為

(4)

其中：參數(shù)γ的取值對于步長參數(shù)的取值范圍有明顯的影響；參數(shù)τ對步長參數(shù)取值的范圍和形狀也就是變化趨勢都有一定的影響，進而有可能降低算法的收斂速度以及精度。

改進的步長參數(shù)模型與文獻[7-8]中的步長參數(shù)模型對比圖如圖3所示。由圖3可以看出，改進后的步長參數(shù)模型更加全面地滿足了步長調(diào)整的標準，在算法初始階段或發(fā)生時變誤差值較大時具有較大的步長值，在算法進入穩(wěn)態(tài)階段能保證步長值較小且變化緩慢，在誤差值接近于0時步長值也接近于0。相較于文獻[7-8]中的初始步長值更大，并克服了文獻[8]在進入穩(wěn)態(tài)階段步長值仍然較大且變化趨勢較快的缺陷，同時克服了文獻[7]誤差還未到0時步長參值已為0的缺陷。

圖3 文獻[7-8]及改進算法步長參數(shù)模型對比情況

改進后的LMS自適應濾波算法迭代步驟如下。

步驟1初始化參數(shù)。將自適應濾波器權(quán)系數(shù)的初始值W(0)設(shè)置為0，將自適應濾波器的階數(shù)設(shè)置為M，選擇合適的變化的步長值μ，為了使算法收斂，步長μ的取值應該大于0且小于1/λmax，λmax表示輸入信號X(n)=[x(n),x(n-1),…,x(n-M+1)]T的自相關(guān)矩陣的最大特征值。

步驟2計算濾波器的實際輸出信號。其計算公式為

y(n)=WT(n)×X(n)

步驟3計算自適應濾波器的誤差。其計算公式為

e(n)=d(n)-y(n)=d(n)-WT(n)×X(n)

步驟4更新步長參數(shù)。步長參數(shù)更新公式為

步驟5更新濾波器權(quán)系數(shù)的值。其計算公式為

W(n+1)=W(n)+μ(n)e(n)X(n)

重復步驟2-步驟5，直到濾波器權(quán)系數(shù)逼近最佳濾波為止，其中，誤差值與0的差值越小表示濾波器權(quán)系數(shù)越逼近于最佳濾波，通常設(shè)置一個與誤差對應的閾值確定何時誤差與0接近。

3 仿真結(jié)果分析

3.1 改進算法的參數(shù)分析

在式(4)中有兩個重要的參數(shù)γ和τ。通過γ及τ的不同取值所得到的步長參數(shù)模型分析這兩個參數(shù)對于步長參數(shù)取值變化的影響。

當誤差的值增加到1.2時，8組分析數(shù)據(jù)所對應的步長值如表1所示。

表1 誤差為1.2時γ、τ不同取值情況下的步長值

τ取值為1，即觀察步長值與γ的關(guān)系時，γ分別取值為1.1、0.9、0.8、0.7時，式(4)步長參數(shù)與誤差之間的模型圖如圖4所示。

圖4 參數(shù)γ變化時的步長函數(shù)模型圖

通過圖4可以看出，當τ取值為1時，4種不同取值的γ所得到的步長參數(shù)模型都滿足步長參數(shù)調(diào)整的標準，且最大步長都沒有超出步長的上限取值1。隨著γ的值增大，步長參數(shù)的取值范圍明顯得到了增強，在γ取值為1.1、0.9、0.8時步長參數(shù)模型的形狀基本上沒有太大的改變，算法在進入穩(wěn)態(tài)階段后期步長的取值和變化的緩慢程度相差不多，此時可以認為γ主要影響的是步長參數(shù)模型的取值范圍，因此γ取值越大模型的性能越好。但是當γ取值為1.1時，其步長隨著誤差變大增長的趨勢過強，如表1所示，在誤差取值大于1時，其步長參數(shù)模型的最大值突破步長上限的取值1，γ的取值應該小于1.1。同時步長初始值也不宜過小，當γ取值為0.7時，其初始步長值小于文獻[8-9]在相同誤差條件下的初始步長值，因此，γ取0.9時最合適。

當γ取值為1，即觀察步長值與τ的關(guān)系時，τ分別取值為0.9、0.8、0.7、0.4時，式(4)步長參數(shù)與誤差之間的模型圖如圖5所示。通過圖5可以看出，當γ取值為1時，隨著τ取值的增加，步長參數(shù)模型中的取值范圍有所增加，但是在誤差逐漸減小為0的過程中，誤差值則是增大且變化也是增快的，可見τ不僅對步長參數(shù)模型取值范圍有影響，也同樣影響著步長參數(shù)模型的形狀。當τ取0.4時，步長參數(shù)模型在誤差較大時步長取值很小且在誤差為0.2時，其步長值已經(jīng)接近于0。當τ取0.9和0.8時，在誤差取值大于1時，其步長參數(shù)模型的最大值突破步長上限的取值1，如表1所示，τ取0.7時最合適，既可以在誤差較大時取得較合適的大步長，也可以在誤差趨近于0時步長取值較小且緩慢減小。

圖5 參數(shù)τ對于步長參數(shù)模型的影響

結(jié)合圖4和圖5的分析可得，γ取0.9、τ取0.7時改進的變步長LMS自適應濾波器算法的步長參數(shù)模型最好。

3.2 仿真實驗條件

仿真實驗條件設(shè)置是在Matlab2016a仿真環(huán)境下，設(shè)置濾波器的階數(shù)為2，橫向FIR濾波器的初始系數(shù)為W=[0.8 0.5]，標記第500個采樣點為系統(tǒng)發(fā)生時變的時刻，并且在時變發(fā)生時系統(tǒng)的權(quán)系數(shù)取值為W=[0.4 0.2]。輸入均值為0、方差為1的高斯白噪聲，噪聲v(n)是與輸入信號x(n)不相關(guān)的高斯白噪聲。步長參數(shù)模型分別采用式(2)-式(4)，并分別進行200次獨立的仿真實驗，每次實驗的采樣點為1 000，求其均方誤差值。其中式(2)中σ取值為0.02，ρ取值為1 000，ν取值為2；式(3)中a取值為5，b取值為1，c取值為0.12；式(4)中γ取0.9，τ取0.7。

3.3 仿真結(jié)果分析

所提算法與文獻[7-8]中的算法在系統(tǒng)未發(fā)生時變時的仿真結(jié)果如圖6所示，相同的實驗條件下，文獻[7]中的算法在執(zhí)行到第250步時得到了收斂，文獻[8]中算法在第110步得到了收斂，而改進后的算法在第50步就已經(jīng)得到了收斂，通過收斂所需的迭代次數(shù)可以明顯得出所提算法比文獻[7-8]中的算法的收斂速度要快得多，并且所提算法的收斂值為-22 dB，文獻[7]中的算法的收斂值為-17 dB，文獻[8]中的算法的收斂值為-19 dB，通過收斂值可以看出改進后的算法在精度這一特征值上得到了顯著的提升效果，分別提高了3 dB和5 dB。

圖6 改進算法與文獻[7-8]的收斂速度對比

所提算法與文獻[7-8]中的算法在跟蹤性能方面的對比如圖7所示，相同的實驗條件，當算法在第500步發(fā)生時變時，所提算法在第550步時就可以準確地跟蹤時變后的未知系統(tǒng)，而文獻[7]中的算法在時變后的200步才準確地跟蹤到了時變后的未知系統(tǒng)，文獻[8]則是在時變后的100步跟蹤到了時變后的未知系統(tǒng)，顯然所提算法的跟蹤性能得到了明顯的提高，且其收斂精度也比文獻[7]中的算法提升了4 dB左右，比文獻[8]中的算法提升了2 dB左右。

圖7 改進的算法與文獻[7-8]的跟蹤性能對比

綜上所述，通過所提算法與文獻[7-8]中的算法在同樣實驗條件下得到的仿真圖對比得出，所提算法在衡量LMS自適應濾波算法的3個特征值收斂速度、收斂精度和跟蹤性能等方面都得到了更好的效果。

所提出的步長參數(shù)模型不僅在誤差較大時取得較大的值，而且在誤差趨近于0時步長參數(shù)值較小且變化緩慢，因此，所提算法的仿真結(jié)果比其他兩種算法收斂速度更快，收斂精度更高。這樣既可以在誤差較大時提高收斂速度，又可以在誤差較小時降低穩(wěn)態(tài)誤差，避免產(chǎn)生不必要的震蕩，影響算法的精度。

4 結(jié)語

提出了一種新的變步長LMS算法，相比現(xiàn)有變步長LMS自適應濾波算法在步長參數(shù)的選擇上更好地權(quán)衡了收斂速度和穩(wěn)態(tài)誤差這一對矛盾，更全面地滿足了步長調(diào)整的準則。在誤差較大時能夠取得更大的步長參數(shù)值，且在誤差趨近于0時能夠取得較小且變化緩慢的步長值。通過仿真比較可得，所提算法與已有算法相比在收斂速度、穩(wěn)態(tài)誤差和跟蹤性能等3個方面都得到了更好、更優(yōu)的效果。