侯亞麗,李 崗,王 偉
(機(jī)電工程與控制國(guó)家級(jí)重點(diǎn)實(shí)驗(yàn)室,陜西西安 710065)
目標(biāo)識(shí)別是指從接收到的目標(biāo)散射回波(如微波、紅外線、可見(jiàn)光、激光、超聲波)中提取目標(biāo)的有關(guān)信息和穩(wěn)定特征進(jìn)而判明目標(biāo)屬性的一門(mén)技術(shù),在軍事信息處理領(lǐng)域中有重要的應(yīng)用意義。隨著目標(biāo)識(shí)別理論的發(fā)展以及軍事目標(biāo)高識(shí)別率的要求,目標(biāo)識(shí)別系統(tǒng)的設(shè)計(jì)也越來(lái)越復(fù)雜,這就需要提取目標(biāo)足夠多的信息來(lái)反映目標(biāo)特征,從而進(jìn)行識(shí)別。各種利用優(yōu)化算法改進(jìn)BP網(wǎng)絡(luò)的目標(biāo)識(shí)別方法紛紛出現(xiàn)[1-2]。Levenberg-Marquardt(LM)方法[1]是一種快速收斂算法,在改進(jìn)BP網(wǎng)絡(luò)上表現(xiàn)出較好的性能;但是,LM算法旨在提高網(wǎng)絡(luò)收斂速度,本質(zhì)上還是基于梯度下降原理的,必然存在局部極小點(diǎn),從而不可避免地陷入局部極值[3]。所以為了避免這種情況,本文采用了基于優(yōu)化理論的粒子群優(yōu)化算法(PSO)來(lái)改進(jìn)LM 算法。
目標(biāo)光散射的瞬態(tài)特性是近幾年發(fā)展起來(lái)的研究目標(biāo)光散射特性領(lǐng)域的一個(gè)方向。它是指對(duì)目標(biāo)進(jìn)行全照射時(shí),目標(biāo)在瞬間反射的光信息的特性,不僅包含了速度、方位、距離等信息,還可以從中提取更具體的特征信息,如目標(biāo)姿態(tài)、尺寸、材料等。利用這些信息,提取目標(biāo)特征并處理,可作為目標(biāo)識(shí)別領(lǐng)域的一種新方法,本文針對(duì)提取目標(biāo)特征后的識(shí)別算法進(jìn)行研究。
根據(jù)特性量及特征矩陣的結(jié)構(gòu),選取的BP網(wǎng)絡(luò)結(jié)構(gòu)為3-7-3,如圖1。輸入量是對(duì)目標(biāo)瞬態(tài)特性進(jìn)行奇異值特征提取后的一維向量,長(zhǎng)度為3,輸出量是歸一化后數(shù)值在0.1~0.9之間的一維無(wú)量綱向量。
圖1 BP網(wǎng)絡(luò)結(jié)構(gòu)圖Fig.1 BPalgorithm frame
LM算法是一種基于BP網(wǎng)絡(luò)的快速收斂改進(jìn)算法[2],能在網(wǎng)絡(luò)收斂速度上得到大大的提高,這是LM算法最大的優(yōu)點(diǎn),但是究其原理仍然是基于梯度下降法,就不可避免地會(huì)出現(xiàn)局部極值;另一方面,根據(jù)文獻(xiàn)[4]及本文利用LM算法的識(shí)別結(jié)果,對(duì)權(quán)重敏感、精度不高等問(wèn)題也會(huì)對(duì)網(wǎng)絡(luò)的識(shí)別率產(chǎn)生影響。
PSO算法具有較強(qiáng)的全局收斂能力和較強(qiáng)的魯棒性,將其與快速收斂算法結(jié)合,不僅能提高收斂速度,克服網(wǎng)絡(luò)陷入局部極值的缺點(diǎn),在識(shí)別精度上也會(huì)有較大改善。算法原理描述如下[5]:
設(shè)Xi=(xi1,xi2,…,xin)為微粒i的當(dāng)前位置,Vi=(vi1,vi2,…,vin)為微粒i的當(dāng)前飛行速度,Pi=(p i1,pi2,…,pin)為微粒i所經(jīng)歷的最好位置,對(duì)最小化問(wèn)題,目標(biāo)函數(shù)值越小,對(duì)應(yīng)的適應(yīng)值越好。
設(shè)f(X)為最小化的目標(biāo)函數(shù),則微粒i的當(dāng)前最好位置為:
設(shè)群體中的微粒數(shù)為s,群體中所有微粒所經(jīng)歷的最好位置為Pg(t),稱(chēng)為全局最好位置。則
基本微粒群算法的進(jìn)化方程為:
式中,w(t)為慣性權(quán)值,通常隨進(jìn)化代數(shù)從0.9線性遞減至0.4;下標(biāo)j表示微粒的第j維,i表示微粒,t表示代數(shù),c1,c2為加速常數(shù),通常取 2,r 1~U(0,1),r2~U(0,1)為兩個(gè)相互獨(dú)立的隨機(jī)分布。
從上式看出,c1調(diào)節(jié)微粒飛向自身最好位置的步長(zhǎng),c2調(diào)節(jié)微粒飛向全局最好位置的步長(zhǎng),vij為減小微粒離開(kāi)搜索空間的可能性,限定在一定范圍內(nèi),即
將訓(xùn)練好的網(wǎng)絡(luò)權(quán)重值作為L(zhǎng)M算法初始值,按照LM算法步驟,進(jìn)行目標(biāo)識(shí)別,具體流程如下。
用PSO訓(xùn)練神經(jīng)網(wǎng)絡(luò)時(shí),定義粒子群的位置向量X元素是BP網(wǎng)絡(luò)的全體連接權(quán)值和閾值,首先初始化向量位置X,然后用PSO搜索最優(yōu)位置,求
的誤差(適應(yīng)度)最小值。其中,tjk是目標(biāo)值,f jk是計(jì)算值,m是輸出節(jié)點(diǎn)數(shù),ns是訓(xùn)練集樣本數(shù)。算法流程如圖2所示。
圖2 PSO算法流程Fig.2 PSO algorithm flow chart
本文選取檢驗(yàn)樣本的450組數(shù)據(jù)對(duì)其進(jìn)行訓(xùn)練,優(yōu)化前后的步長(zhǎng)-誤差效果圖如圖3、圖4所示。圖中,橫坐標(biāo)表示訓(xùn)練步長(zhǎng),縱坐標(biāo)表示訓(xùn)練誤差范圍。
圖3 LM算法訓(xùn)練BP網(wǎng)絡(luò)結(jié)果Fig.3 BP result training by LM algorithm
圖4 PSO優(yōu)化LM算法結(jié)果Fig.4 LM result optimized by PSO algorithm
可看出,當(dāng)步長(zhǎng)為202時(shí),LM算法即達(dá)到所需精度,是一種收斂較快的算法,單從這一方面來(lái)講能夠滿(mǎn)足識(shí)別要求;但訓(xùn)練過(guò)程中速度越來(lái)越慢,甚至在接近誤差精度時(shí)趨向平坦,這說(shuō)明算法可能收斂于局部極值,對(duì)識(shí)別效果上會(huì)產(chǎn)生影響;PSO算法優(yōu)化后的LM網(wǎng)絡(luò)不僅具有較快的收斂速度(141步),而且克服了誤差下降時(shí)的平坦區(qū),使誤差快速、穩(wěn)定的減小到極值,這是比較理想的輸出結(jié)果。
隨機(jī)選取20組樣本進(jìn)行識(shí)別,結(jié)果如表1和表2。
表1 LM算法優(yōu)化的BP網(wǎng)絡(luò)的識(shí)別結(jié)果Tab.1 Identify results of BP optimized by LM algorithm
表2 PSO算法的識(shí)別結(jié)果Tab.2 Identify results of PSO algorithm
表3 LM、PSO算法的比較Tab.3 Compare LM algorithm with PSO
從表3可以看出,利用神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)對(duì)目標(biāo)的光散射瞬態(tài)特性進(jìn)行目標(biāo)識(shí)別時(shí),PSO優(yōu)化后的算法優(yōu)于LM 算法,具體表現(xiàn)在:
1)在識(shí)別速度方面,PSO學(xué)習(xí)算法的收斂速度有所提高,收斂時(shí)間有所減少,這一點(diǎn)可以從訓(xùn)練步長(zhǎng)的大小看出(LM算法對(duì)整個(gè)樣本的識(shí)別步長(zhǎng)是202,PSO優(yōu)化后的步長(zhǎng)是141)。
2)在識(shí)別精度方面,PSO學(xué)習(xí)算法的全局優(yōu)化能力使LM算法的局部收斂問(wèn)題得到解決,克服了LM算法對(duì)初始權(quán)值敏感,容易陷入局部極小的缺點(diǎn),從而分類(lèi)效果較好,識(shí)別率較高,其泛化能力較強(qiáng),是比較理想的一種目標(biāo)識(shí)別算法。
這是因?yàn)镻SO算法簡(jiǎn)單,計(jì)算復(fù)雜度低。在對(duì)空間的搜索過(guò)程中,通過(guò)群體信息的共享加速了收斂速度,縮短了下降時(shí)間,將PSO的宏觀搜索能力與BP算法的指導(dǎo)性搜索思想相結(jié)合,同時(shí)利用LM算法的快速收斂功能,發(fā)揮各個(gè)算法的優(yōu)勢(shì),解決了LM算法容易陷入局部極小的問(wèn)題,且收斂速度快。將訓(xùn)練后的網(wǎng)絡(luò)對(duì)識(shí)別樣本集中的樣本進(jìn)行識(shí)別,識(shí)別正確率較高,說(shuō)明用PSO算法訓(xùn)練的神經(jīng)網(wǎng)絡(luò)具有很好的泛化能力。
本文提出了基于粒子群算法(PSO)權(quán)值優(yōu)化的LM算法,通過(guò)對(duì)這算法的分析比較,從識(shí)別結(jié)果可以看出本文提出的改進(jìn)方法達(dá)到了目標(biāo)識(shí)別的要求,不僅提高了網(wǎng)絡(luò)的學(xué)習(xí)速度,還提高了網(wǎng)絡(luò)的學(xué)習(xí)精度,克服了基于梯度下降法的LM算法易陷入局部極值的缺點(diǎn),優(yōu)化后算法的識(shí)別精度滿(mǎn)足軍事目標(biāo)識(shí)別的需要,為利用目標(biāo)特性進(jìn)行目標(biāo)識(shí)別提供了有力的理論支持。
[1]BP網(wǎng)絡(luò)的改進(jìn)算法簡(jiǎn)介[EB/OL].研學(xué)論壇,(2006-10-28)[2009-12-03].http://bbs.matwav.com/viewthread.php?tid=583816.
[2]飛思科技.MATLAB6.5輔助神經(jīng)網(wǎng)絡(luò)分析與設(shè)計(jì)[M].北京:電子工業(yè)出版社,2003.
[3]侯亞麗,李鐵.基于LM優(yōu)化算法的BP神經(jīng)網(wǎng)絡(luò)目標(biāo)識(shí)別方法研究[J].探測(cè)與控制學(xué)報(bào),2008,30(1):53-57.HOU Yali,LI Tie.Improvement of BP neural network by LM optimizing algorithm in target identification[J].Journal of Detection&Control,2008,30(1):53-57.
[4]王麗霞.一種前饋神經(jīng)網(wǎng)絡(luò)算法[EB/OL].(2004-10-24)[2009-12-03].http://www.docin.com/p-8944092.html.
[5]曾建潮,介婧,崔志華.微粒群算法[M].北京:科學(xué)出版社,2004.