系數(shù)比例自適應(yīng)算法的研究

曾明+張婷

作者簡(jiǎn)介：曾明（1987.6），男，遼寧省錦州人，大學(xué)本科，助理工程師，主研方向：光電信息。

摘要：系數(shù)比例自適應(yīng)算法是利用系統(tǒng)的稀疏特性而發(fā)展起來(lái)的一種新的算法。這類算法為每一個(gè)濾波器系數(shù)引入一個(gè)成比例步長(zhǎng)參數(shù)，使得成比例步長(zhǎng)參數(shù)與濾波器系數(shù)的估計(jì)值成正比，保證了大系數(shù)獲得大步長(zhǎng)，縮短了算法的收斂時(shí)間。本文首先介紹了系數(shù)比例自適應(yīng)算法的研究背景及研究現(xiàn)狀，然后詳細(xì)描述了典型的系數(shù)比例歸一化最小均方（PNLMS）算法，最后重點(diǎn)介紹幾種改進(jìn)的PNLMS算法。

關(guān)鍵字：稀疏 PNLMS 步長(zhǎng)控制 比例步長(zhǎng)參數(shù)

中圖分類號(hào)：TN2 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1672-3791（2015）03（c）-0000-00

Research of Proportionate Adaptive Algorithm

Zeng Ming1 ， Zhang Ting2

（Opto-electronics Research Academy of China Electronics Technology Group Corporation， Tianjin 300308 China）

Abstract： The proportionate adaptive algorithm is a new developed algorithm with the sparse characteristics of the system. Such algorithms introduce a proportional step-size parameter for each filter coefficient， so that the proportional step-size parameter is proportional to the estimated value of filter coefficients， to ensure that the large coefficients obtains stride length and shortens the convergence time. This paper introduces the research background and research status coefficient of the proportionate adaptive algorithm， and then it describes a typical proportionate normalized least-mean-squares adaptation （PNLMS），and finally focuses on several improved PNLMS.

Key words： Sparse PNLMS Step control Proportional step-size parameter

1、引言

隨著信號(hào)處理技術(shù)的發(fā)展，自適應(yīng)信號(hào)處理在諸多領(lǐng)域得到廣泛的應(yīng)用，例如：電信、雷達(dá)和聲納處理、地球信號(hào)處理以及醫(yī)學(xué)信號(hào)處理等。系數(shù)比例自適應(yīng)算法，又稱稀疏的自適應(yīng)濾波算法，在處理稀疏沖激響應(yīng)時(shí)非常有效。稀疏沖激效應(yīng)，是指僅有少量系數(shù)具有顯著的值，而其他系數(shù)值全為0或者非常小的沖激響應(yīng)，比如，網(wǎng)絡(luò)回聲路徑，盡管需要用大量的濾波器系數(shù)來(lái)建模網(wǎng)絡(luò)回聲路徑，但僅有很小一部分的系數(shù)值非零（可稱為“活動(dòng)系數(shù)“），而其它的都為0或者值很小可以忽略（可稱為“非活動(dòng)系數(shù)”）。對(duì)于一個(gè)具體的長(zhǎng)度為64ms或者128ms的網(wǎng)絡(luò)回聲路徑，僅僅有4ms至12ms的系數(shù)是活動(dòng)系數(shù)，而其它的則是為了建模網(wǎng)絡(luò)傳輸時(shí)延，這些系數(shù)值都非常接近于0。除了網(wǎng)絡(luò)回聲路徑外，地層的沖激響應(yīng)以及水下的地震沖激響應(yīng)也都是典型的稀疏沖激響應(yīng)[1]。

本文詳細(xì)描述了典型的系數(shù)比例歸一化最小均方（PNLMS）算法，最后重點(diǎn)介紹幾種改進(jìn)的PNLMS算法。

2、系數(shù)比例自適應(yīng)算法（PNLMS）

在傳統(tǒng)自適應(yīng)濾波器算法中，沒(méi)有考慮到未知線性系統(tǒng)沖激響應(yīng)的結(jié)構(gòu)特點(diǎn)，簡(jiǎn)單的為每一個(gè)權(quán)重系數(shù)分配一個(gè)相同的步長(zhǎng)參數(shù)，結(jié)果對(duì)于小的權(quán)重系數(shù)被分配給較大步長(zhǎng)參數(shù)，迭代較少次數(shù)就可以收斂到其最優(yōu)值，而對(duì)大的權(quán)重系數(shù)分配同樣大小的步長(zhǎng)參數(shù)，這個(gè)同樣大小的步長(zhǎng)參數(shù)相對(duì)于大權(quán)重系數(shù)值顯得較小，因此需要更多的迭代次數(shù)才可以收斂到期最優(yōu)值，于是最大權(quán)重系數(shù)值決定了自適應(yīng)濾波器整體收斂速度。針對(duì)這個(gè)問(wèn)題，Duttweiler提出了 Proportionate NLMS（PNLMS）算法[2]。PNLMS算法將一個(gè)步長(zhǎng)控制矩陣G（n）引入NLMS算法中，該控制矩陣在n時(shí)刻為每一個(gè)濾波器權(quán)重系數(shù)分配一個(gè)與其絕對(duì)值成正比的步長(zhǎng)參數(shù)。這樣不同的濾波器權(quán)重得到與其自身收斂要求相適應(yīng)的步長(zhǎng)參數(shù)，從而顯著提高了算法的收斂速度。步長(zhǎng)控制矩陣G（n）定義為：

（1）

可以通過(guò)下式得到G（n）

（2）

式中g(shù)i（n）為每一個(gè)濾波器權(quán)重系數(shù)收斂相適應(yīng)的步長(zhǎng)參數(shù)， 的作用是在所有系數(shù)為零時(shí)防止算法的凍結(jié)，其值一般為0.01， 的作用是在某個(gè)系數(shù)過(guò)小或?yàn)榱銜r(shí)防止算法的凍結(jié)，綜上所述，系數(shù)比例LMS算法的權(quán)重系數(shù)更新方程可以寫為

W（n + 1） = W（n） + G（n）X（n）e（n） （3）

上式為非歸一化的形式。一般更新方程的歸一化有兩種形式。一種形式是使用輸入信號(hào)向量X（n）的二范數(shù)對(duì)輸入信號(hào)X（n）進(jìn)行歸一化，得到正是Duttweiler所提出的歸一化形式系數(shù)比例NLMS算法即

（4）

式中 的作用是防止由過(guò)小輸入信號(hào)引起的算法發(fā)散。另一種形式是使用以系數(shù)矩陣G（n）的加權(quán)后的輸入信號(hào)向量X（n）的二范數(shù)范數(shù)對(duì)輸入信號(hào)X（n）進(jìn)行歸一化，表示如下：

（5）

式中 的作用也是防止由過(guò)小輸入信號(hào)引起的算法發(fā)散。

由以上可知，比例系數(shù)NLMS算法的關(guān)鍵是它為每一個(gè)濾波器權(quán)重系數(shù)分配了一個(gè)與其絕對(duì)值成正比的系數(shù)，這樣在算法的迭代中，較大系數(shù)得到了與其相適應(yīng)的較大的步長(zhǎng)參數(shù)，從而提高了算法的收斂速度?？上н@種方法的快收斂速度只是在收斂過(guò)程前期出現(xiàn)，并不會(huì)貫穿整個(gè)收斂過(guò)程。因?yàn)樗鼮榇髾?quán)重系數(shù)分配大系數(shù)的同時(shí)也加劇了大小權(quán)重系數(shù)所分配比例系數(shù)的差異性，那么在收斂過(guò)程后期較小權(quán)重系數(shù)因得不到足夠的比例系數(shù)收斂速度過(guò)慢而成為算法收斂速度的最終主導(dǎo)因素。

自從第一個(gè)比例系數(shù)NLMS算法提出后，學(xué)者提出了各種不同的比例系數(shù)NLMS算法，它們的主要不同的在于使用系數(shù)比例步長(zhǎng)矩陣G（n）的新定義或新的權(quán)重系數(shù)更新策略來(lái)減小大小權(quán)重系數(shù)得到比例系數(shù)的差異性。

3、改進(jìn)的系數(shù)比例自適應(yīng)算法

3.1 IPNLMS 算法

IPNLMS算法中定義的比例系數(shù)步長(zhǎng)參數(shù)g i（n）為

（6）

式中 [-1，1]是一個(gè)調(diào)節(jié)參數(shù)，它的作用是將PNLMS算法與NLMS算法進(jìn)行調(diào)整切換。當(dāng) 變小時(shí)，IPNLMS算法逼近NLMS算法，直到； =-1時(shí)，兩種算法等價(jià)；當(dāng) 變大時(shí)，IPNLMS算法逼近NLMS算法，直到 = 1時(shí)，兩種算法等價(jià)。一種簡(jiǎn)單的做法是使用 代替 來(lái)求得g i（n），因?yàn)?范數(shù)是非連續(xù)的，需要采用一個(gè)近似函數(shù)來(lái)代替，即

（7）

上式中 是一個(gè)較大的正整數(shù)，以保證對(duì) 范數(shù)的近似度。因此式（6）可以寫為： （8）

這就是基于 范數(shù)的IPNLMS算法。在每一個(gè)系數(shù)比例參數(shù)中加入當(dāng)前時(shí)刻濾波器權(quán)重系數(shù)向量估計(jì)值的均值，這樣在計(jì)算比例系數(shù)矩陣G（n）時(shí)，濾波器權(quán)重系數(shù)的估計(jì)誤差帶來(lái)的負(fù)面作用可以得到部分消除。因此，無(wú)論未知系統(tǒng)沖激響應(yīng)稀疏度度如何，IPNLMS算法都可以保證了相當(dāng)快的收斂速度。

3.2 MPNLMS 算法

在MPNLMS算法中g(shù) i（n）定義為

（9）

式中 是一個(gè)經(jīng)驗(yàn)值，一般取1000。

相比于其他的比例系數(shù)自適應(yīng)算法，MPNLMS算法具有更快的收斂速度，更重要的是當(dāng)未知系統(tǒng)的沖激響應(yīng)稀疏度不夠時(shí)其收斂性能不會(huì)像PNLMS算法惡化的那么嚴(yán)重。但是它存在一個(gè)致命的缺點(diǎn)：無(wú)論對(duì)于專用DSP器件還是FPGA，每次迭代中的L次對(duì)數(shù)運(yùn)算都是極高的計(jì)算量，尤其是對(duì)于長(zhǎng)階數(shù)的稀疏沖激響應(yīng)自適應(yīng)濾波器。總得來(lái)說(shuō)它理論價(jià)值很高卻難以工程應(yīng)用。

3.3 IMPNLMS 算法

為了使算法也能夠處理不同稀疏度下的沖激響應(yīng)，Ligang Liu提出了IMPNLMS算法該算法的比例步長(zhǎng)參數(shù)為：

（10）

通過(guò)進(jìn)行大量的仿真，發(fā)現(xiàn) 和 之間存在一定的關(guān)系，為

（11）

（12）

對(duì)于稀疏度的定義為[9]

（13）

其中， 不再像在IPNLMS算法中是一常數(shù)；在此， 是一個(gè)與稀疏度 相關(guān)的變量，或者說(shuō)，它會(huì)隨著稀疏度的變化而變化。因此，該算法能夠自動(dòng)檢測(cè)到?jīng)_激響應(yīng)的稀疏變化情況，然后自適應(yīng)地去調(diào)整相應(yīng)的參數(shù)，從而能在稀疏度多變的環(huán)境下獲得較好的性能。Ligang Liu的仿真實(shí)驗(yàn)也證實(shí)了 IMPNLMS算法的有效性。在稀疏度較低的情況下，IMPNLMS算法要比MPNLMS算法收斂更快；在沖激響應(yīng)時(shí)變的環(huán)境下，IMPNLMS算法跟蹤能力要比MPNLMS算法好。

3.4 SPNLMS 算法

為了使MPLNMS算法便于工程應(yīng)用，必須降低該算法的計(jì)算量，Deng采用一個(gè)折線函數(shù)來(lái)替代對(duì)數(shù)運(yùn)算，進(jìn)而提出了 SPNLMS算法。該折線函數(shù)主要分為兩段，第一段是可以保證小系數(shù)得到與之相適應(yīng)的比例步長(zhǎng)參數(shù)，從而確保算法的后期收斂速度；第二段是可以保證大系數(shù)得到與之相適應(yīng)的比例步長(zhǎng)參數(shù)，即保證大小權(quán)重系數(shù)的比例系數(shù)差異性不至于過(guò)大。這個(gè)分段函數(shù)定義如下：

（14）

使用上式替代式（9）中的對(duì)數(shù)函數(shù)即可得到SPNLMS算法。該算法收斂速度幾乎與MPNLMS算法相當(dāng)，而計(jì)算量幾乎與PNLMS算法以及IPNLMS算法相當(dāng)。

4、結(jié)束語(yǔ)

系數(shù)比例自適應(yīng)算法利用了長(zhǎng)沖激響應(yīng)的稀疏結(jié)構(gòu)特征，為每一個(gè)濾波器系數(shù)引入一個(gè)新的步長(zhǎng)參數(shù)，即比例步長(zhǎng)參數(shù)。本文詳細(xì)闡述了典型系數(shù)比例自適應(yīng)（PNLMS）算法的基礎(chǔ)上，分別介紹了幾種改進(jìn)的PNLMS算法：IPNLMS、MPNLMS、IMPNLMS及SPNMLS。這些算法通過(guò)比例步長(zhǎng)參數(shù)，使其在處理稀疏沖激響應(yīng)具有良好的性能。

參考文獻(xiàn)

[1] Z. Chen， S. L. Gay，and S. Haykin. Proportionate Adaptation：New Paradigms in Adaptive Filters，in S. Haykin and B. Widrom Eds. Advances in LMS Filters，ch. 8. Wiley，2005.

[2] Hongyang Deng， Doroslovacki， Proportionate adaptive algorithms for network echo cancelers， IEEE Transactions on Signal Processing， vol：54，pp.1794-1803， May 2006.

[3] S.L Gay，An efficient， fast converging adaptive filter for network echo cancellation， the 32nd

Asilomar conference on signals，systems and computers （ACSSC 1998），Pacific Grove，Calif，USA， pp.394-398， Nov.1998.

[4] H.Deng and M.Doroslovacki， Improving convergence of the PNLMS algorithm for sparse impulse response identification，IEEE Signal Processing Letter，vol.12， no.3，pp.181-184，Mar.2005.

[5] J. Benesty， S.L. Gay，“An improved PNLMS algorithm”， Proceedings of the IEEE International Conference on Acoustic， Speech and Signal Processing， pp. 1881-1884， 2002， Orlando， Florida， USA.

[6] Zhengxing Huang， Guan Guit，Anmin Huang， Dong Xiang， and Fumiyki Adachi，Regularization Selection Method for LMS-Type Sparse Multipath Channel Estimation，2013 19th Asia-Pacific Conference on Communications （APCC），Bali - Indonesia.

[7] H.Deng and M.Doroslovacki ， Proportionate adaptive algorithms for network echo cancellation，IEEETrans Signal Processing， vol.54， no.5，pp. 1794-1803， May.2006.

[8] H.Deng， Adaptive algorithm of sparse impulse response identification， Doctoral Dissertation，

Dept. of electrical and computer engineering，George Washington University， Washington，DC， Mar.2005.

[9] Ligang Liu， Fukumoto and M. Saiki.s， An improved mu-law proportionate NLMS algorithm，

Acoustics， Speech and Signal Processing ICASSP， Las Vegas， NV， March 31 2008：pp.3797-3800.