基于廣義最大Versoria準(zhǔn)則的稀疏自適應(yīng)濾波算法

歐躍發(fā)，楊鳴坤，慕德俊，柯捷，馬文濤

（1.北部灣大學(xué)機(jī)械與船舶海洋工程學(xué)院，廣西欽州 535011；2.桂林航天工業(yè)學(xué)院計算機(jī)科學(xué)與工程學(xué)院，廣西桂林 541004；3.西北工業(yè)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院，西安 710072；4.西安理工大學(xué)電氣工程學(xué)院，西安 710048）

0 引言

在許多實(shí)際工程系統(tǒng)中，其系統(tǒng)模型脈沖響應(yīng)參數(shù)往往具有稀疏特征，稱其為稀疏系統(tǒng)，如水聲信道以及超寬帶通信系統(tǒng)［1-2］等。如今，稀疏系統(tǒng)參數(shù)辨識已成為目前參數(shù)辨識研究中的熱點(diǎn)問題。現(xiàn)在，研究者們提出了各種稀疏自適應(yīng)濾波算法來辨識稀疏參數(shù)，其主要思想是將系統(tǒng)稀疏特性作為先驗知識考慮到算法設(shè)計中，從而實(shí)現(xiàn)優(yōu)良的稀疏參數(shù)估計性能。受最小絕對收縮選擇算子［3］及壓縮感知［4］的啟發(fā)，文獻(xiàn)［5-6］將l1-范數(shù)及加權(quán)l(xiāng)1-范數(shù)作為稀疏懲罰約束引入最小均方（Lest Mean Square，LMS）算法構(gòu)建稀疏自適應(yīng)濾波器，其中主要包括零吸引LMS（Zero-Attracting LMS，ZALMS）、加權(quán)零吸引LMS（Reweighted ZALMS，RZALMS）。事實(shí)上，l0-范數(shù)是最佳的稀疏約束條件，但由于其優(yōu)化計算是NP難問題，所以文獻(xiàn)［7］中使用拉普拉斯函數(shù)作為l0-范數(shù)的逼近形式，提出了l0-LMS。在近期研究中，許多不同形式的稀疏LMS算法被提出，包括lp-范數(shù)約束的LMS 及歸一化LMS（Normalized LMS，NLMS）算法、稀疏最小均方/四階算法［8］和低復(fù)雜度稀疏仿射算法等［9-10］。

上述稀疏自適應(yīng)濾波算法在稀疏參數(shù)辨識方面具有良好的性能，但多以最小均方誤差（Mean Square Error，MSE）作為代價函數(shù)，即其僅在高斯噪聲假設(shè)下具有最優(yōu)性能。然而，在許多實(shí)際應(yīng)用場景中，噪聲往往具有非高斯特性［11-13］，比如無線信道的多址干擾、回聲干擾消除的重音、生物噪聲或各種水聲信道冰裂聲等。在此類環(huán)境中，特別當(dāng)觀測噪聲具有脈沖特征時，基于MSE 準(zhǔn)則的方法則具有一定性能缺陷。為解決非高斯噪聲干擾環(huán)境下的稀疏參數(shù)辨識問題，目前也有相關(guān)研究者提出了魯棒性自適應(yīng)濾波算法［12-13］，如最小絕對偏差（Least Absolute Deviation，LAD）［14］算法、最大互相關(guān)熵準(zhǔn)則（Maximum Correntropy Criterion，MCC）算法［15-16］、反雙曲正弦函數(shù)算法［17］、最大Versoria 準(zhǔn)則（Maximum Versoria Criterion，MVC）算法［18-19］等。其中Versoria 函數(shù)最早是用來代替粒子群算法中的Sigmoid函數(shù)，以提供自適應(yīng)慣性權(quán)重因子來避免指數(shù)運(yùn)算，并確保低穩(wěn)態(tài)失調(diào)，使其主要扮演著變步長的角色。文獻(xiàn)［19］則將Versoria 函數(shù)作為代價函數(shù)并定義了廣義Versoria 函數(shù)，在此基礎(chǔ)上推導(dǎo)出了廣義最大Versoria 準(zhǔn)則（Generalized MVC，GMVC）算法，該算法可有效地解決非高斯噪聲干擾下的系統(tǒng)辨識問題。本文則主要借鑒GMVC 的優(yōu)勢，結(jié)合稀疏懲罰函數(shù)提出稀疏GMVC算法，以實(shí)現(xiàn)脈沖噪聲干擾下的稀疏系統(tǒng)參數(shù)辨識。

稀疏懲罰約束是稀疏自適應(yīng)濾波算法構(gòu)成的主要組成部分。稀疏約束實(shí)質(zhì)上就是要使得待辨識參數(shù)向量中非零參數(shù)最少，由此便可使用l0-范數(shù)作為約束條件。但l0-范數(shù)最優(yōu)化是NP-hard 問題，因此在實(shí)際應(yīng)用中往往使用l0-范數(shù)的逼近函數(shù)，如l1-范數(shù)及加權(quán)l(xiāng)1-范數(shù)。而互相關(guān)熵誘導(dǎo)維度（Correntropy Induced Metric，CIM）［20］可通過選擇合適核寬度來無限逼近l0-范數(shù)。基于此，本文將重點(diǎn)以CIM 為稀疏懲罰約束來構(gòu)建稀疏GMVC——帶有CIM 約束的GMVC（GMVC with CIM constraints，CIMGMVC）算法，并對其均方收斂性能進(jìn)行分析研究。

1 廣義Versoria準(zhǔn)則

考慮如式（1）所示的有限脈沖響應(yīng)（Finite Impulse Response，F(xiàn)IR）模型來研究基于廣義Versoria 準(zhǔn)則的穩(wěn)健稀疏參數(shù)估計算法。設(shè)FIR 系統(tǒng)模型中輸入信號向量為u(n)=[u(n)，u(n-1)，…，u(n-L+1)]T，系統(tǒng)參數(shù)向量記為wopt=[wopt，1，wopt，2，…，wopt，L]T，L為向量長度。在此僅考慮系統(tǒng)參數(shù)為實(shí)值情形，且具有稀疏特征，即大部分參數(shù)值為0。則接受端信號d(n)可表示為：

其中：v(n)表示n時刻接收端的干擾噪聲。由于系統(tǒng)參數(shù)向量wopt往往未知，需要使用自適應(yīng)算法對其進(jìn)行辨識，在此設(shè)w(n)=[w1(n)，w2(n)，…，wL(n)]T為系統(tǒng)參數(shù)向量在n時刻的估計，則系統(tǒng)的估計輸出y(n)=wT(n)u(n)。此時可定義系統(tǒng)瞬時誤差e(n)=d(n)-y(n)。在相關(guān)稀疏參數(shù)辨識研究中，往往假設(shè)噪聲服從高斯分布。然而在許多實(shí)際環(huán)境中，人為因素以及一些自然噪聲都具有脈沖特性，這意味著實(shí)際環(huán)境中的噪聲往往具有非高斯特性。而本文則主要是基于Versoria 函數(shù)研究一種新型稀疏自適應(yīng)濾波算法以解決稀疏系統(tǒng)辨識過程中非高斯噪聲干擾問題。

定義合適且高效的代價函數(shù)是設(shè)計自適應(yīng)濾波算法的關(guān)鍵。受廣義高斯概率密度函數(shù)啟發(fā)，文獻(xiàn)［20］定義了廣義Versoria函數(shù)為：

其中，p>0 表示形狀參數(shù)，τ=(2a)-p，當(dāng)p=2 時，其退化為原始Versoria 函數(shù)。根據(jù)式（2），定義基于Versoria 函數(shù)的代價函數(shù)為：

其中，E[]表示期望算子。由式（3）可知，當(dāng)脈沖干擾出現(xiàn)在誤差中時，則會有J(w(n)) →0，其具有抑制脈沖噪聲干擾的作用。當(dāng)誤差非常小時，易知J(n) ≈。此時，廣義Versoria代價函數(shù)將類似于傳統(tǒng)的p-power代價函數(shù)。由式（3）可進(jìn)一步定義瞬時代價函數(shù)（即移除期望算子）為：

其梯度可計算為：

此時應(yīng)用隨機(jī)梯度上升方法得到廣義最大Versoria 準(zhǔn)則（GMVC）算法的權(quán)值更新方程為：

其中：μ=ητp表示步長；sign(?)為符號函數(shù)。sign(?)定義如下：

在GMVC算法中，當(dāng)p=1、τ=0時，其退化為傳統(tǒng)的最小絕對偏差（Least Absolute Deviation，LAD）算法。在式（6）中若設(shè)μ(n)=μ，則易知GMVC 算法會等價于步長為μ(n)的變步長LMS 算法。對于變步長LMS 算法，希望在自適應(yīng)迭代的初始階段收斂要快，所以需要較大的步長，而在自適應(yīng)的后期需要較小的步長來保證小的穩(wěn)態(tài)誤差?；诖丝梢钥闯觯?）當(dāng)GMVC 算法沒有收斂時，誤差項|e(n)|非常大，這就使得μ(n)也具有較大的值，因此GMVC 算法具有快的收斂速度；2）當(dāng)GMVC 算法達(dá)到收斂狀態(tài)時，誤差|e(n) |也非常小，這便使得步長和精度都非常小。以上兩點(diǎn)說明了GMVC算法的優(yōu)勢。

2 基于CIM約束的稀疏Versoria算法

2.1 Correntropy誘導(dǎo)的度量

CIM 作為互相關(guān)熵誘導(dǎo)度量，其在選擇合適的核寬度時具有l(wèi)0-范數(shù)的行為［15］。本文將以CIM作為稀疏懲罰約束。若設(shè)向量x=[x1，x2，…，xN]T，則選擇高斯核的CIM 作為l0-范數(shù)的形式如下：

為了計算簡便，常使用式（8）的平方形式作為l0-范數(shù)的逼近，即：

在式（8）中，對于?xi≠0，且 |xi|>δ，若使得σ→0，此時CIM 就可以無限逼近l0-范數(shù)，其中δ是一個小的正數(shù)。CIM 作為l0-范數(shù)的逼近是稀疏懲罰約束的一種很好的選擇，可使用梯度映射方法得到CIM的梯度向量如下：

2.2 稀疏最大Versoria算法

為了結(jié)合稀疏懲罰約束CIM來研究稀疏Versoria算法，現(xiàn)定義如下代價函數(shù)：

其中，ρ=ηλ為零吸引控制因子。式（12）向量形式為帶有CIM約束的GMVC（CIMGMVC）算法的迭代方程，如式（13）：

對于CIMGMVC 算法，當(dāng)選擇合適的p值可使其對于脈沖噪聲具有魯棒性；同時又由于引入了稀疏懲罰約束，使得它適用于受脈沖噪聲干擾環(huán)境下的稀疏系統(tǒng)辨識和信道參數(shù)辨識問題。

3 收斂性分析

本章將進(jìn)一步分析所提CIMGMVC 算法的平均和均方收斂性。為分析簡單，將式（13）表示為：

假設(shè)1 輸入信號{u(n)}獨(dú)立同分布于零均值高斯分布。

假設(shè)2 噪聲信號{v(n)}均值為0、方差為，且獨(dú)立于輸入信號{u(n)}。

假設(shè)3 誤差非線性項f(e(n))與輸入信號{u(n)}及參數(shù)向量w(n)相互獨(dú)立。

假設(shè)4 參數(shù)向量w(n)及g(n)與輸入信號{u(n)}相互獨(dú)立。

假設(shè)5 期望E[f(e(∞))]為有限值。

假設(shè)1、2 在參考文獻(xiàn)［21-22］中也得到了應(yīng)用，其意味著當(dāng)參數(shù)向量存在于最優(yōu)參數(shù)向量wopt的某近鄰域時有效。

3.1 平均收斂性

定義參數(shù)誤差向量為：

記(n)的均值與自相關(guān)矩陣分別為：

其中Δ(n)的定義如下：

結(jié)合式（1）、式（14）及式（15）得到：

其中A(n)=[I-μf(e(n))u(n)uT(n)]。對式（19）兩邊取期望，且使用獨(dú)立假設(shè)1、2與3，可得到：

通常情況下，待估計的參數(shù)wi(n)是有限的，結(jié)合式（25），可知即使wi(n)趨向于無窮，則g(wi(n))仍然有限。根據(jù)該結(jié)論，可知對于CIMGMVC算法，E[g(∞)]仍然是有限的。

在以上分析的基礎(chǔ)上，結(jié)合假設(shè)5，可知對于CIMGMC 算法，E[w(∞)]都會趨近于有限向量。因此可知E[w(n)]將收斂于E[w(∞)]，如式（22）所示。至此算法的平均收斂性得以說明。

3.2 均方收斂性

在式（19）兩邊分別減去式（20），且應(yīng)用式（18）可得到：

在式（32）中，E[w(n)]與C(n)有界，可知E[w(n)CT(n)]收斂。綜上可知當(dāng)且僅當(dāng)所提自適應(yīng)算法滿足如式（33）所述條件時，算法則會達(dá)到穩(wěn)態(tài)。

因此由上述不等式（33）可得到：

此結(jié)果表示，當(dāng)步長滿足式（34），就可以保證算法的收斂性。據(jù)上述均方收斂性分析易知稀疏CIMGMVC 算法的均方收斂性更多依賴于自適應(yīng)濾波器項，而非稀疏懲罰項。

4 仿真與結(jié)果分析

將所提算法應(yīng)用于脈沖噪聲干擾環(huán)境下的稀疏系統(tǒng)參數(shù)辨識場景，以此來驗證所提算法的性能。將本文所提CIMGMVC 算法主要與LMS、ZALMS、RZALMS、LAD 和零吸引LAD（Zero-Attracting LAD，ZALAD）算法進(jìn)行性能比較。在仿真實(shí)驗中，輸入信號為服從零均值單位方差的高斯隨機(jī)序列，實(shí)驗結(jié)果由200 次蒙特卡洛仿真實(shí)驗結(jié)果平均計算得到。均方偏差（Mean Square Deviation，MSD）作為算法性能評價準(zhǔn)則，其定義如下：

設(shè)系統(tǒng)參數(shù)向量長度M為20。定義系統(tǒng)稀疏度Ds為：

其中，Nnon?zero為系統(tǒng)參數(shù)向量中非零元素的個數(shù)。本文選擇α-stable分布模型來模擬脈沖噪聲，其概率密度函數(shù)如下：

其中：

在上述分布中，α∈(0，2]表示特征指數(shù)，刻畫該分布脈沖嚴(yán)重度，α越小，脈沖強(qiáng)度越大；-∞<δ<+∞為位置參數(shù)，刻畫α-stable 分布的均值或中值；β∈[-1，1]是對稱參數(shù)，當(dāng)β=0 時，服從α-stable 分布的隨機(jī)變量的概率密度函數(shù)關(guān)于位置參數(shù)δ對稱；γ>0 表示分散系數(shù)，刻畫α-stable 分布隨機(jī)變量可能取值的離散程度。當(dāng)β=0、δ=0時，稱其為對稱α-stable分布，即SαS。定義噪聲模型參數(shù)向量為Vα?stable=(α，β，γ，δ)。

4.1 時變稀疏系統(tǒng)參數(shù)辨識

本節(jié)驗證算法在時變稀疏系統(tǒng)參數(shù)辨識中的收斂性。設(shè)置噪聲模型參數(shù)向量Vα?stable=(1.2，0，0.2，0)，算法中各參數(shù)分別設(shè)置為μ=0.01、ρ=0.0005、τ=0.001 和σ=0.05、p=1.2。稀疏系統(tǒng)模型的稀疏度為3/20。圖1 為各算法在時變稀疏系統(tǒng)參數(shù)辨識中的收斂曲線結(jié)果。

從圖1中可知，在脈沖噪聲環(huán)境下，以MSE 為代價函數(shù)的LMS 算法和ZALMS 均無法收斂，具有較大的波動，表明該類算法在脈沖噪聲環(huán)境中不穩(wěn)定，同時也說明構(gòu)建魯棒稀疏自適應(yīng)算法的必要性。相應(yīng)地，可看到LAD、ZALAD、RZALAD、GMVC和所提出的CIMGMVC則具有較好的魯棒性能。然而，對于這類稀疏系統(tǒng)參數(shù)辨識問題，可知CIMGMVC 算法的穩(wěn)態(tài)精度明顯高于其他算法。該結(jié)果再次表明了當(dāng)選擇合適的核寬度后，CIM 的確可以很好地逼近l0-范數(shù)。這也驗證了本文所提算法的優(yōu)越性。

圖1 不同算法的收斂曲線比較Fig.1 Comparison of convergence curves of different algorithms

4.2 自由參數(shù)p對CIMGMVC算法性能的影響

在不同α-stable 噪聲環(huán)境下研究所提CIMGMVC 算法中自由參數(shù)p對其性能的影響。在本實(shí)驗中選擇噪聲分布參數(shù)向量Vα?stable=(1.6，0，0.2，0)，研究p值對GMVC 和CIMGMVC算法的影響。進(jìn)行100 次蒙特卡羅實(shí)驗，每次實(shí)驗進(jìn)行5000次迭代運(yùn)算，本仿真通過選擇最后200 次結(jié)果來計算穩(wěn)態(tài)MSD。選擇不同p值時的MSD 結(jié)果如圖2 所示。由圖2 可以看出，在不同脈沖噪聲干擾下，CIMGMVC 算法的穩(wěn)態(tài)精度均優(yōu)于GMVC算法，該結(jié)果再次表明CIMGMVC算法在引入CIM作為稀疏懲罰約束后可以有效提升此類稀疏系統(tǒng)參數(shù)辨識的精度。

圖2 不同p值下GMVC算法及CIMGMVC算法的穩(wěn)態(tài)性能比較Fig.2 Comparison of steady-state performance of GMVC algorithm and CIMGMVC algorithm with different values of p

4.3 CIMGMVC算法的魯棒性能

本節(jié)研究CIMGMVC 算法在不同α（0.5、1、1.2、1.4、1.6、1.8）值時算法的魯棒性，同時與GMVC 算法進(jìn)行比較研究。該算法在不同脈沖噪聲下的穩(wěn)態(tài)MSD 結(jié)果如圖3 所示。從圖3結(jié)果也易觀察到，當(dāng)在較大脈沖噪聲（小的α）干擾下算法具有較大的MSD，而隨著α值的增大，則穩(wěn)態(tài)誤差較低。但同時也發(fā)現(xiàn)，該算法在不同脈沖干擾下，其結(jié)果均能收斂，驗證了該算法的魯棒性。另外，也很容易得出對于不同脈沖強(qiáng)度的干擾，可以通過選擇合適的自由參數(shù)來增強(qiáng)其估計性能。

圖3 不同α值下GMVC算法及CIMGMVC算法的穩(wěn)態(tài)性能比較Fig.3 Comparison of steady-state performance of GMVC algorithm and CIMGMVC algorithm with different values of α

4.4 核寬度σ對CIMGMVC算法性能的影響

核寬度σ是影響CIMGMVC 算法性能的一個主要自由參數(shù)，這里繼續(xù)研究其對CIMLMP 算法性能的影響。本仿真實(shí)驗中選擇核寬度分別為：0.001、0.005、0.01、0.05、0.1 及0.5，噪聲參數(shù)向量與上述仿真一致。圖4 給出了算法的收斂曲線。由圖4 可以看出，對于不同的核寬度，CIMGMVC 算法具有不同的收斂性；還可以看出當(dāng)核寬度在0.05 附近時，算法具有最優(yōu)性能。而如何選擇最優(yōu)核寬度來更加逼近l0-范數(shù)可作為未來的一項研究工作。

圖4 不同核寬度σ下的CIMGMVC算法的收斂曲線Fig.4 Convergence curves of CIMGMVC algorithm with different values of kernel width σ

4.5 步長μ對CIMGMVC算法性能的影響

如第3章所述，步長μ可在如式（34）所確定的范圍內(nèi)來取值，本節(jié)進(jìn)一步研究步長對于算法性能的影響。不同步長（0.001、0.004、0.008、0.01、0.05、0.1、0.5）時算法的收斂曲線如圖5所示。

圖5 不同步長μ下的CIMGMVC算法的收斂曲線Fig.5 Convergence curves of CIMGMVC algorithm with different values of step size μ

從圖5 結(jié)果中發(fā)現(xiàn)當(dāng)步長μ>0.1 時，其收斂性將很差甚至無法收斂，且μ=0.001 時其性能也很差。而當(dāng)步長選擇其他值時，雖然具有不同的穩(wěn)態(tài)精度和初始收斂速度，但均可收斂。該結(jié)果表明，步長是影響算法性能的關(guān)鍵，要保證算法的收斂性，必須選擇合理的步長參數(shù)，也即需要使其符合算法收斂分析中給出的步長選擇的范圍式（34）。

5 結(jié)語

考慮到非高斯噪聲干擾環(huán)境下稀疏系統(tǒng)參數(shù)辨識的穩(wěn)健性，本文提出了基于最大廣義Versoria 準(zhǔn)則的稀疏自適應(yīng)濾波算法——CIMGMVC，該算法充分發(fā)揮了廣義Versoria 準(zhǔn)則的魯棒性和CIM 的稀疏約束特性，從而有效地克服了非高斯脈沖噪聲對算法性能的影響，獲得了更高的稀疏參數(shù)辨識精度。本文也進(jìn)一步在相關(guān)假設(shè)下，分析了所提算法的收斂性。實(shí)驗結(jié)果表明，在不同噪聲能量下，通過設(shè)置合適的自由參數(shù)可使得辨識結(jié)果非常逼近真值，表現(xiàn)出理想的收斂性能。未來可在自由參數(shù)p和核寬度的優(yōu)化方面進(jìn)行研究，以進(jìn)一步改進(jìn)算法的性能。