快速收斂參考獨(dú)立分量分析方法

賈雁飛，杜艷麗，趙立權(quán)

1.北華大學(xué) 電氣與信息工程學(xué)院，吉林 吉林132013

2.東北電力大學(xué) 電氣工程學(xué)院，吉林 吉林132012

1 引言

獨(dú)立分量分析方法是一種解決混合信號(hào)分離的新穎方法，它僅僅只利用原始信源信號(hào)之間的非高斯，而且相互統(tǒng)計(jì)獨(dú)立的特性，從觀測(cè)到的原始信號(hào)的混合信號(hào)中分離出所有的原始信號(hào)，相對(duì)現(xiàn)有的信號(hào)分離方法結(jié)構(gòu)更簡(jiǎn)單，效果更好。參考獨(dú)立分量分析是為了解決獨(dú)立分量分析中不能單獨(dú)分離出某個(gè)或者多個(gè)感興趣的信源信號(hào)而提出來(lái)的。相對(duì)獨(dú)立分量分析，參考獨(dú)立分量分析在某些應(yīng)用環(huán)境中，更適合實(shí)際應(yīng)用。例如語(yǔ)音信號(hào)提取中，可能對(duì)其中部分語(yǔ)音信號(hào)感興趣，如果采用獨(dú)立分量分析方法，則必須提取出所有的語(yǔ)音信號(hào)，然后后期再?gòu)奶崛〉恼Z(yǔ)音信號(hào)中找出感興趣的語(yǔ)音信號(hào)，整個(gè)過(guò)程比較繁瑣，計(jì)算量較大。采用參考獨(dú)立分量分析，僅需要將擬提取的感興趣的語(yǔ)音信號(hào)的特征融入到參考獨(dú)立分析中，則可以直接提取出感興趣的語(yǔ)音信號(hào)，尤其是當(dāng)原始信號(hào)數(shù)量較多的時(shí)候，采用參考獨(dú)立分量分析方法提取信號(hào)相對(duì)基于獨(dú)立分量分析方法具有明顯的優(yōu)勢(shì)。

目前參考獨(dú)立分量分析方法已經(jīng)被應(yīng)用于圖像處理、語(yǔ)音信號(hào)提取、通信信號(hào)提取等多個(gè)領(lǐng)域[1-5]?，F(xiàn)有的參考獨(dú)立分量分析主要從降低誤差、提高抗噪聲能力、提高信號(hào)分離的成功率以及收斂速度等角度進(jìn)行了研究[5-11]。雖然可以利用收斂階數(shù)更高的牛頓迭代方法的對(duì)其代價(jià)函數(shù)進(jìn)行優(yōu)化[12-13]，有效降低了算法的迭代次數(shù)，但是算法的復(fù)雜度也增加很大，因此收斂速度提高的程度受限。

為此，本文對(duì)現(xiàn)有牛頓迭代方法進(jìn)行了研究和分析，提出采用結(jié)構(gòu)簡(jiǎn)單，且具有階收斂速度的牛頓迭代方法[14]對(duì)預(yù)處理后的參考獨(dú)立分量分析代價(jià)函數(shù)進(jìn)行優(yōu)化，推導(dǎo)出收斂速度更快的參考獨(dú)立分量分析方法。

2 參考獨(dú)立分量分析

參考獨(dú)立分量分析從獨(dú)立分量分析演進(jìn)得到的，其代價(jià)函數(shù)類似獨(dú)立分量分析的代價(jià)函數(shù)，其代表函數(shù)表達(dá)式如下[15]：

式中，G 是一個(gè)非線性函數(shù)，其表達(dá)式與獨(dú)立分量分析中給出的非線性函數(shù)表達(dá)式一樣，y 是估計(jì)出的信源信號(hào)，v 是與估計(jì)出的信源信號(hào)y 具有相同均值和方差的高斯隨機(jī)信號(hào)，ρ 僅僅是一個(gè)值為正的常數(shù)，J(y)即為獨(dú)立分量分析的代價(jià)函數(shù)；g(y)是參考獨(dú)立分量分析算法融入到獨(dú)立分量分析算法中的一個(gè)約束函數(shù)，用來(lái)度量估計(jì)出的信源信號(hào)與參考信號(hào)之間的相似度，h(y)是用來(lái)約束估計(jì)出的信號(hào)方差，使得估計(jì)出的信源信號(hào)方差為1，避免每次估計(jì)出的信源信號(hào)具有不相同的方差。

參考獨(dú)立分量分析算法在代價(jià)函數(shù)中引入松弛因子，將式（1）中的不等式約束條件轉(zhuǎn)變成等式約束條件，其表達(dá)式如下：

采用拉格朗日乘法方法將上式約束條件轉(zhuǎn)化成如下表達(dá)式：

式中，y=wTx 是分離信號(hào)，w 是分離向量，x 是是觀測(cè)觀測(cè)信號(hào)，γ 是懲罰因子，μ 和λ 為拉格朗日乘子。對(duì)其上各變量進(jìn)行優(yōu)化，可以將（3）式轉(zhuǎn)換成如下表達(dá)式：

參考獨(dú)立分量分析采用傳統(tǒng)的牛頓迭代方法對(duì)（4）式進(jìn)行求解，求解過(guò)程中的分離矩陣迭代表達(dá)式如下式所示：

式中，η 是固定的步長(zhǎng)參數(shù)，Rxx是觀測(cè)信號(hào)的自相關(guān)矩陣，k 是迭代過(guò)程的當(dāng)前迭代次數(shù)，和分別是L(w,γ,λ,μ)對(duì)當(dāng)前迭代分離向量wk的一階和二階導(dǎo)數(shù)。其具體表達(dá)式如下：

式中，G′(y)是非線性函數(shù)G(y)的一階導(dǎo)數(shù)，G″(y)是非線性函數(shù)G(y)的二階導(dǎo)數(shù)。g′(y)是非線性函數(shù)g(y)的一階導(dǎo)數(shù)，g′(y)是非線性函數(shù)g(y)的二階導(dǎo)數(shù)。參數(shù)μ 和λ 的迭代更新公式表示如下：

3 改進(jìn)的參考獨(dú)立分量分析

根據(jù)式（5）可知，參考獨(dú)立分量分析在分離向量迭代過(guò)程中需要計(jì)算觀測(cè)信號(hào)的相關(guān)矩陣的逆矩陣，并且每次迭代需要計(jì)算該逆矩陣與其他矩陣的乘積，增加了算法的計(jì)算量。為此，本文借鑒文獻(xiàn)[7]的思想，采用白化的方法對(duì)觀測(cè)到的混合信號(hào)進(jìn)行預(yù)先處理，假設(shè)觀測(cè)信號(hào)為z，則經(jīng)過(guò)白化處理后的信號(hào)可以表示為：

式中，B=Σ-1/2U，Σ 為觀測(cè)信號(hào)的協(xié)方差矩陣的逆矩陣進(jìn)行特征值分解得到的特征值矩陣，U 為特征向量矩陣。通過(guò)白化預(yù)處理方法使得處理后的信號(hào)均值為零，方差矩陣為單位矩陣，因此只要限制白化后信號(hào)的分離向量為正交矩陣，即可實(shí)現(xiàn)原算法約束分離信號(hào)的信號(hào)方差為1的限制。因此經(jīng)過(guò)白化處理后，參考獨(dú)立分量分析的代價(jià)函數(shù)數(shù)學(xué)表達(dá)式可以表示成如下的形式：式中，各參數(shù)的表達(dá)含義與式（2）相同。同樣采樣拉格朗日方法對(duì)上式進(jìn)行處理可得：

式中，w0是初始化的分離向量，w1是在初始化值的基礎(chǔ)上得到的對(duì)分量向量的初始估計(jì)向量：

式中，f()和f′()分別是式（10）對(duì)分離向量w 的一階和二階導(dǎo)數(shù)。

本文提出改進(jìn)方法中式（11）與文獻(xiàn)[7]的分離向量迭代更新公式相同，但是本文僅僅將其作為初始化分離向量的重新初始化，分離向量迭代更新公式采用式（12）和（13）進(jìn)行。公式（11）也就是文獻(xiàn)[7]算法需要分別計(jì)算法一次代價(jià)函數(shù)一階導(dǎo)數(shù)和二階導(dǎo)數(shù)，假設(shè)導(dǎo)數(shù)的計(jì)算量相同，在忽略其他除法和加法的計(jì)算量的基礎(chǔ)上（導(dǎo)數(shù)的計(jì)算量遠(yuǎn)大于其他計(jì)算量），文獻(xiàn)[7]一次迭代的計(jì)算量為2n。本文提出的方法初始化時(shí)的計(jì)算量為2n，第一次迭代的計(jì)算量為3n，第二次迭代過(guò)程中由于已經(jīng)存儲(chǔ)前一次，則其計(jì)算量為2n，以此類推，本文算法m 迭代的計(jì)算量同樣為2n。也就是說(shuō)本文算法的每次迭代的計(jì)算量與文獻(xiàn)[7]算法的計(jì)算量相同（除了第一次迭代），隨著迭代次數(shù)的增多，總的計(jì)算量二者基本相同。但是，本文算法采用階收斂的牛頓迭代方法，相同條件下，收斂時(shí)需要的迭代次數(shù)更少，因此在每次迭代計(jì)算量相同的條件下，本文算法從理論分析上來(lái)看需要的運(yùn)算時(shí)間更短。

4 實(shí)驗(yàn)結(jié)果與分析

為驗(yàn)證本文所提出的算法有效性，采用概率密度分別為亞高斯分布、高斯分布、超高斯分布的信號(hào)作為信源信號(hào)，信源信號(hào)均值為0，方差為1。混合矩陣隨機(jī)產(chǎn)生。

圖1是5個(gè)信源信號(hào)，信號(hào)所有的采樣點(diǎn)均為5 000個(gè)點(diǎn)，但是由于采樣較多時(shí)隨機(jī)信號(hào)難以分辨，所以隨機(jī)信號(hào)僅畫出前500個(gè)采樣點(diǎn)。圖2是信源信號(hào)的混合信號(hào)。

圖1 信源信號(hào)

圖2 混合信號(hào)

圖3 是對(duì)圖1 信源信號(hào)S1 和S2 的估計(jì)；圖4 是對(duì)圖1信源信號(hào)S3、S4 和S5 的估計(jì)。

圖3 分離信號(hào)1

對(duì)比圖3、圖4 和圖1 可以看出，兩種算法都是有效的，都實(shí)現(xiàn)了對(duì)信源信號(hào)的估計(jì)。表1 給出了兩種算法的定量分析。誤差采用獨(dú)立分量分析中最為常用的性能指標(biāo)函數(shù)進(jìn)行度量，其具體表達(dá)式如（14）所示：

式中，g 代表的是分離矩陣與混合矩陣乘積得到的全局矩陣中的元素，n 時(shí)是全局矩陣的維度，理想條件下，性能指標(biāo)為零，該指標(biāo)的值越小，表示算法的誤差越小。從表1 可以看出，本文算法與文獻(xiàn)[7]算法性能指標(biāo)一致，但是平均運(yùn)行時(shí)間遠(yuǎn)遠(yuǎn)小于文獻(xiàn)[7]算法。

表1 算法平均性能分析

5 結(jié)束語(yǔ)

圖4 分離信號(hào)2

本文從參考獨(dú)立分量分析收斂速度角度出發(fā)，提出采用計(jì)算復(fù)雜度低、收斂階數(shù)較高的牛頓迭代方法對(duì)預(yù)處理后的混合信號(hào)的代價(jià)函數(shù)進(jìn)行優(yōu)化，推導(dǎo)出收斂速度更快的參考獨(dú)立分量分析方法。本文改進(jìn)后的算法無(wú)論是提取亞高斯、高斯和超高斯信源信號(hào)都是有效的，而且相對(duì)已有方法的性能指標(biāo)是相同的，但其收斂速度明顯快于已有方法。