高斯尺度混合大氣噪聲模型的參數(shù)估計(jì)*

應(yīng)文威,李成軍,馮士民

(1.91635部隊(duì),北京102249;2.海軍工程大學(xué)兵器工程系,湖北武漢430033)

高斯尺度混合大氣噪聲模型的參數(shù)估計(jì)*

應(yīng)文威1,李成軍1,馮士民2

(1.91635部隊(duì),北京102249;2.海軍工程大學(xué)兵器工程系,湖北武漢430033)

非高斯大氣噪聲的參數(shù)估計(jì)對(duì)甚低頻、超低頻信號(hào)的最佳接收有重要意義。對(duì)大氣噪聲采用基于逆高斯分布的高斯尺度混合分布模型建模,研究了基于逆高斯分布的高斯尺度混合分布模型參數(shù)的性質(zhì),設(shè)計(jì)了高斯尺度混合大氣噪聲模型參數(shù)的馬爾可夫鏈蒙特卡羅(MCMC)算法。算法在貝葉斯層次模型下,采用Gibbs抽樣和M-H抽樣更新參數(shù)。仿真結(jié)果表明,該模型對(duì)大氣噪聲有很好的適用性,MCMC算法迭代效率和精度高,具有實(shí)際的應(yīng)用價(jià)值。

高斯尺度混合 逆高斯分布 大氣噪聲 馬爾可夫鏈蒙特卡羅

0 引 言

甚低頻和超低頻通信系統(tǒng)中,對(duì)噪聲的建模都是基于高斯分布,然而在實(shí)際應(yīng)用中,受雷電等產(chǎn)生的大氣噪聲的影響,噪聲往往具有明顯的非高斯特性[1]。為了實(shí)現(xiàn)最佳接收,必須對(duì)噪聲進(jìn)行參數(shù)估計(jì)。對(duì)噪聲的參數(shù)估計(jì),傳統(tǒng)上采用最大期望算法或最大似然估計(jì)[2-4];對(duì)噪聲的建模也以對(duì)稱α穩(wěn)定分布居多[5-6]。高斯尺度混合分布模型是更廣泛意義上的非高斯分布模型,近年來(lái)受到廣泛關(guān)注?；谀娓咚狗植嫉母咚钩叨然旌戏植寄Ｐ?具有更好的高尖峰、重拖尾特性,能很好反映大氣噪聲的非高斯特性[7-9]。同時(shí),由于該模型參數(shù)較多,概率密度計(jì)算難度大,精度也不夠理想,所以本文采用馬爾可夫鏈蒙特卡羅(MCMC,Markov chain Monte Carlo)算法,設(shè)計(jì)了基于逆高斯分布的高斯尺度混合分布模型下的參數(shù)估計(jì)算法。

MCMC算法,能夠解決具有高維度且形式復(fù)雜的未知參數(shù)的后驗(yàn)概率計(jì)算問(wèn)題,是一種在統(tǒng)計(jì)計(jì)算中性能優(yōu)越的方法[10-11]。本文通過(guò)設(shè)計(jì)MCMC層次算法來(lái)估計(jì)混合模型的參數(shù),迭代收斂快,精度高,具有明顯的優(yōu)勢(shì)。

1 高斯尺度混合分布模型

1.1 高斯尺度混合分布模型

高斯尺度混合分布模型是由高斯分布的隨機(jī)變量和非負(fù)尺度隨機(jī)變量混合形成的,其表達(dá)式為:

式中,g服從0均值的高斯分布g～N(0,δ2),概率密度函數(shù)為:

式中,τ為非負(fù)尺度的隨機(jī)變量,典型的分布可以取為伽馬分布,逆伽馬分布等。為了更好的擬合大氣噪聲特征,文中τ服從逆高斯分布τ～I(xiàn)G(μ,λ),其中μ為形狀參數(shù),λ為尺度參數(shù),其概率密度函數(shù)的表達(dá)式為:

通過(guò)對(duì)隨機(jī)變量x的概率密度函數(shù)的計(jì)算可以發(fā)現(xiàn),隨機(jī)變量x的概率密度函數(shù)的表達(dá)式復(fù)雜,難以用解析表達(dá)式表達(dá)。

1.2 性質(zhì)

通過(guò)對(duì)上述高斯尺度混合分布概率密度函數(shù)的特征函數(shù)的計(jì)算,不難證明有如下性質(zhì):

性質(zhì)若隨機(jī)變量x=τ1/2g,其中,g服從0均值的高斯分布:g～N(0,δ2),τ服從逆高斯分布:τ～I(xiàn)G(μ,λ),則隨機(jī)變量x可以等效為:

并且,對(duì)于上述一個(gè)固定的分布,滿足μδ2=a,其中a為固定常數(shù)。

從上述性質(zhì)可以得出,對(duì)于一個(gè)固定的分布,參數(shù)δ2,μ,λ不是固定值,可以有多種組合,只有在其中一個(gè)參數(shù)固定的條件下,才可以確定其他兩個(gè)參數(shù)。

2 貝葉斯層次模型

2.1 大氣噪聲模型

根據(jù)1.2節(jié)所述性質(zhì),高斯尺度混合分布大氣噪聲的參數(shù){δ2,λ,μ}滿足一定關(guān)系,那么可以固定μ=10,則混合模型需要估計(jì)的參數(shù)為{δ2,λ}。

假設(shè)觀測(cè)到的噪聲數(shù)據(jù)集x={xi,i=0,1,2,…,n},根據(jù)式(4),可以得出高斯尺度混合分布大氣噪聲的等效形式:

2.2 貝葉斯層次模型

貝葉斯推斷通過(guò)先驗(yàn)分布來(lái)推斷后驗(yàn)分布,參數(shù)集變量{δ2,λ}的后驗(yàn)分布為:

選取合理的共軛先驗(yàn)?zāi)軌虺浞掷孟闰?yàn)信息,這使得貝葉斯模型的性能顯著提高,對(duì)上述參數(shù)選取以下先驗(yàn)分布:

參數(shù)δ-2的共軛先驗(yàn)分布為伽馬分布:δ-2～Γ(α,β),其中α和β分別為伽馬分布的形狀參數(shù)和逆尺度參數(shù)。

參數(shù)λ的后驗(yàn)概率分布計(jì)算復(fù)雜,難以得到其共軛先驗(yàn)分布,所以λ取慣常的先驗(yàn)分布,為伽馬分布:λ～Γ(ξ,τ)。

為了使超參數(shù)β,τ具有更強(qiáng)的靈活性,增加兩個(gè)額外層,他們的共軛先驗(yàn)分別為:β～Γ(g,h),τ～Γ(κ,ε)。

為了直觀表述參數(shù)之間的關(guān)系,畫出高斯尺度混合分布模型各參數(shù)的直接非循環(huán)圖,圖中圓圈代表參量,是需要估計(jì)的值,方框代表定值,如圖1所示。

圖1 模型的直接非循環(huán)Fig.1 Direct acyclic graph specific to the model

3 MCMC算法

在MCMC算法中,常采用Gibbs抽樣和Metropolis-Hasting(M-H)抽樣算法對(duì)更新參數(shù)進(jìn)行抽樣。本文對(duì)于容易計(jì)算的、常見的后驗(yàn)概率采用Gibbs抽樣,對(duì)復(fù)雜、不常見的后驗(yàn)概率采用M-H抽樣。具體算法流程如下:

步驟1通過(guò)Gibbs抽樣更新參數(shù)δ2。

步驟2通過(guò)M-H算法更新參數(shù)λ。

步驟3通過(guò)Gibbs抽樣更新參數(shù)β,τ。

步驟4通過(guò)M-H算法更新變量{γi}。

3.1 通過(guò)Gibbs抽樣更新參數(shù)δ2

δ-2的全條件后驗(yàn)分布為:

通過(guò)Gibbs抽樣,生成新的伽馬分布隨機(jī)數(shù)對(duì)δ2進(jìn)行更新。

3.2 通過(guò)M-H算法更新參數(shù)λ

λ的全條件后驗(yàn)概率為:

因?yàn)棣说娜珬l件后驗(yàn)概率復(fù)雜,不是常見的分布,所以通過(guò)M-H抽樣算法更新λ值,算法步驟如下:

1)λ選用建議分布為q():μ～N(λ(t),0.1)。

2)從1)中抽樣λ′作為備選值。

3)從均勻分布中生成隨機(jī)數(shù)u～U(0,1)。

4)計(jì)算接受概率R=min(1,A),其中:

因?yàn)榻ㄗh分布是對(duì)稱的,所以式(14)可以化簡(jiǎn)為:

5)若u≤R,則接受新值λ(t+1)=λ′,否則不接受新值,則λ(t+1)=λ(t)。

3.3 通過(guò)Gibbs抽樣更新參數(shù)β,子

β,τ的全條件后驗(yàn)分布分別為:

通過(guò)Gibbs抽樣,生成新的伽馬分布隨機(jī)數(shù)對(duì)β,τ進(jìn)行更新。

3.4 通過(guò)M-H算法更新變量{γi}

γ的全條件概率分布為:

1)γi選用建議分布為:γi～I(xiàn)G(10,λ)。

2)從1)中抽樣γi'作為備選值。

3)從均勻分布中生成隨機(jī)數(shù)u～U(0,1)。

4)計(jì)算接受概率:

5)若u≤R,則接受新值,否則不接受新值,則。

4 仿真及測(cè)試

仿真實(shí)驗(yàn)中,將混合模型的參數(shù)設(shè)置為δ2=1,λ=0.5,仿真數(shù)據(jù)數(shù)目設(shè)為n=2 000。超參數(shù)簡(jiǎn)單的設(shè)置為α=0.5,β=1,ξ=0.5,τ=1,g=2,h=1,κ= 2,ε=1。設(shè)置算法的預(yù)燒期為400,總迭代次數(shù)為1 000。仿真的結(jié)果如圖2和圖3所示。

圖2 δ2的迭代收斂Fig.2 Time-average convergence ofδ2

圖3 λ的迭代收斂Fig.3 Time-average convergence ofλ

從各參數(shù)的迭代收斂情況可以看出,在進(jìn)行200次迭代后,各參數(shù)就收斂到實(shí)際值。對(duì)預(yù)燒期之后的迭代值進(jìn)行平均,得到各參數(shù)的估計(jì)結(jié)果為δ2=0.971,λ=0.509。

圖4為上述參數(shù)下噪聲模型數(shù)據(jù),可以看出其中明顯的非高斯特征。圖5為用參數(shù)的估計(jì)結(jié)果畫出的幅度概率分布(APD,Amplitude Probability Distribution)曲線,圓圈代表仿真的噪聲數(shù)據(jù)的實(shí)際值,曲線為用參數(shù)的估計(jì)值畫出的APD曲線(X軸尺度為-0.5 log10(-lnP(＞x0)),Y軸尺度為10lg(x0) dB)。從圖5中可以看出,估計(jì)參數(shù)畫出的APD曲線與噪聲數(shù)據(jù)吻合的很好,這也說(shuō)明了本文的模型對(duì)大氣噪聲的適用性,并且,用MCMC算法能對(duì)模型參數(shù)進(jìn)行有效估計(jì)。

圖4 仿真大氣噪聲數(shù)據(jù)Fig.4 Simulation data of the atmospheric noise

圖5 實(shí)際仿真數(shù)據(jù)和估計(jì)參數(shù)下的APD曲線Fig.5 APD graphs of the actual noise data and noise data with estimation parameters

5 結(jié) 語(yǔ)

本文通過(guò)對(duì)噪聲采用基于逆高斯分布的高斯尺度混合分布模型建模,研究了基于逆高斯分布的高斯尺度混合分布模型的性質(zhì),將高斯尺度混合分布等價(jià)為高斯分布,使算法有更高的迭代效率和精度。通過(guò)設(shè)計(jì)貝葉斯層次模型,采用MCMC算法,對(duì)參數(shù)通過(guò)Gibbs抽樣和M-H抽樣算法進(jìn)行更新和估計(jì)。仿真結(jié)果表明,該模型對(duì)大氣噪聲有很好的適用性,MCMC算法迭代效率和精度高,對(duì)水下低頻非高斯噪聲下通信接收有實(shí)際的意義。

[1] 施意,張爽,張昕.大氣噪聲對(duì)甚低頻通信系統(tǒng)干擾仿真分析[J].通信技術(shù),2013,46(09):32-34.

SHI Yi,ZHANG Shuang,ZHANG Xin.Simulation and Analysis of Atmospheric Noise Interference on VLF/LF Communication[J].Communications Technology,2013, 46(9):32-34.

[2] 趙宜楠,李風(fēng)從,尹彬.嚴(yán)重拖尾復(fù)合高斯雜波中目標(biāo)的自適應(yīng)極化檢測(cè)[J].電子與信息學(xué)報(bào),2013, 35(02):376-380.

ZHAO Yi-nan,LI Feng-cong,YIN Bin.Adaptive Polarimetric Detection of Targets in Heavy-Tailed Compound-Gaussian Clutter[J].Journal of Electronics&Information Technology,2013,35(2):376-380.

[3] WANG J,ALEKSANDAR D,and ARYE N.Maximum Likelihood Estimation of Compound-Gaussian Clutter and Target Parameters[J].IEEE Transactions on Signal Processing,2006,54(10):3884-3898.

[4] BALLERI A,NEHORAI A,and WANG J.Maximum Likelihood Estimation for Compound-Gaussian Clutter with Inverse Gamma Texture[J].IEEE Transactions on Aerospace and Electronic Systems,2007,43(02):775-780.

[5] 應(yīng)文威,蔣宇中,劉月亮.大氣低頻噪聲混合模型的MCMC參數(shù)估計(jì)[J].系統(tǒng)工程與電子技術(shù),2012, 34(06):1241-1245.

YING Wen-wei,JIANG Yu-zhong,LIU Yue-liang.Parameter Estimation for Mixture Model of Atmospheric Noise through MCMC Method[J].Systems Engineering and Electronics,2012,34(6):1241-1245.

[6] YING Wen-wei,JIANG Yuzhong,and LIU Yue-liang, et al.A Blind Receiver with Multiple Antennas in Impulsive Noise Modeled as the Sub-Gaussian Distribution via the MCMC Algorithm[J].IEEE Transactions on Vehicular Technology,2013,62(07):3492-3497.

[7] LIU B,CHEN Biao,and JAMES H M.A GLRT for Radar Detection in the Presence of Compound-Gaussian Clutter and Additive White Gaussian Noise[C]//Sensor Array and Multichannel Signal Processing Workshop Proceedings.USA:IEEE,2002:87-91.

[8] ESA O,DAVID E T,and VISA K,et al.Compound-Gaussian Clutter Modeling with An Inverse Gaussian Texture Distribution[J].IEEE Signal Processing Letters, 2012,19(12):876-879.

[9] CHEN Sijia,KONG Lingjiang,and YANG Jianyu.A-daptive Detection in Compound-Gaussian Clutter with Inverse Gaussian Texture[J].Progress in Electromagnetics Research M,2013(28):157-167.

[10] PENG Geng,HUANG Zhitao,and WANG Fenghua,et al.Single Channel Blind Signal Separation with Bayesian-MCMC[C]//Wireless Communications&Signal Processing.China:IEEE,2009:1-4.

[11] ANTHONY L,CHRISTOPHER Y,and MICHAEL B G,et al.On the Utility of Graphics Cards to Perform Massively Parallel Simulation of Advanced Monte Carlo Methods[J]Journal of Computational and Graphical Statistics,2010,19(04):769-789.

YING Wen-wei(1987-),male,Ph.D.,majoring in digital signal processing;

李成軍(1976—),男,博士,高級(jí)工程師,主要研究方向?yàn)閿?shù)字信號(hào)處理;

LI Cheng-jun(1976-),male,Ph.D.,senior engineer, mainly engaged in digital signal processing.

馮士民(1987—),男,博士,主要研究方向?yàn)橥ㄐ判盘?hào)處理。

FENG Shi-min(1987-),male,Ph.D.,mainly engaged in communication signal processing.

Parameters Estimation for Gaussian Scale Mixture Atmospheric Noise

YING Wen-wei1,LI Cheng-jun1,FENG Shi-min2
(1.Unit 91635 of PLA,Beijing 102249,China; 2.Department of Weaponry Engineering,Naval University of Engineering,Wuhan Hubei 430033,China)

Parameters estimation of the non-Gaussian atmospheric noise has an important significance to the signals optimal detection in very low frequency(VLF)and extremely low frequency(ELF)communication.A model based on Gaussian scale mixture(GSM)distribution with inverse-Gaussian is proposed. The characteristic of parameters of GSM distribution with inverse-Gaussian is studied.Markov chain Monte Carlo(MCMC)method is designed to estimate parameters.This method,based on Bayesian hierarchical model,updates the parameters through Gibbs sampler and M-H algorithm.The experimental results show that the proposed model performs well.The MCMC method is of good iterative efficiency and precision,and can be excellently applied in practice.

Gaussian scale mixture(GSM);inverse-Gaussian distribution;atmospheric noise;Markov chain Monte Carlo(MCMC)

TN911.7

A

1002-0802(2014)09-1010-04

10.3969/j.issn.1002-0802.2014.09.007

應(yīng)文威(1987—),男,博士,主要研究方向?yàn)閿?shù)字信號(hào)處理;

2014-06-10;

2014-07-10 Received date：2014-06-10;Revised date：2014-07-10