Elman和BP網(wǎng)絡(luò)應(yīng)用于航空訓(xùn)練彈藥需求預(yù)測的對比研究*

孫云聰 萬 華

(空軍勤務(wù)學(xué)院 徐州 221000)

Elman和BP網(wǎng)絡(luò)應(yīng)用于航空訓(xùn)練彈藥需求預(yù)測的對比研究*

孫云聰 萬 華

(空軍勤務(wù)學(xué)院 徐州 221000)

航空訓(xùn)練彈藥需求預(yù)測是各級(jí)指揮員制定訓(xùn)練計(jì)劃,擬制訓(xùn)練方案和組織彈藥供應(yīng)的基本依據(jù)。論文討論了神經(jīng)網(wǎng)絡(luò)在航空訓(xùn)練彈藥需求預(yù)測中的應(yīng)用,首先分析了戰(zhàn)時(shí)航空彈藥需求預(yù)測的不確定性和航空訓(xùn)練彈藥需求預(yù)測的可行性,選取前饋神經(jīng)網(wǎng)絡(luò)中的BP網(wǎng)絡(luò)和反饋神經(jīng)網(wǎng)絡(luò)中的Elman網(wǎng)絡(luò)進(jìn)行預(yù)測,詳細(xì)說明了BP和Elman神經(jīng)網(wǎng)絡(luò)的構(gòu)建方法,并對預(yù)測效果進(jìn)行了比較分析。結(jié)果表明,Elman神經(jīng)網(wǎng)絡(luò)在收斂速度、聯(lián)想記憶功能方面都要優(yōu)于BP神經(jīng)網(wǎng)絡(luò),對于預(yù)測航空訓(xùn)練彈藥需求量這種具有時(shí)序特性的變量具有更好的效果。

BP網(wǎng)絡(luò); Elman網(wǎng)絡(luò); 需求預(yù)測

1 引言

航空彈藥的需求預(yù)測對確保航彈藥供應(yīng)及平時(shí)航空彈藥的研制、生產(chǎn)和庫存都有積極的指導(dǎo)意義[1]。多年來,我軍在彈藥消耗和需求供應(yīng)方面的工作主要還是憑感覺、靠經(jīng)驗(yàn),保障效益低,結(jié)果不準(zhǔn)確,難以適應(yīng)未來戰(zhàn)爭[2]。

人工神經(jīng)網(wǎng)絡(luò)理論是20世紀(jì)80年代在國際上迅速發(fā)展起來的一個(gè)前沿研究領(lǐng)域,近年來更是掀起了一股人工神經(jīng)網(wǎng)絡(luò)研究開發(fā)應(yīng)用的熱潮。其應(yīng)用已滲透到各個(gè)領(lǐng)域并在需求預(yù)測上取得了顯著成果[3～4],這使得用神經(jīng)網(wǎng)絡(luò)預(yù)測航空彈藥需求成為可能。但是,并不是所有類別的航空彈藥需求都可以用神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)測。戰(zhàn)爭條件下,雙方的作戰(zhàn)行動(dòng)和可供攻擊的目標(biāo)更趨隱蔽與多變,作戰(zhàn)態(tài)勢隨時(shí)可能發(fā)生重大變化,物資消耗可能會(huì)陡然增大,部隊(duì)用戶自身也無法把握自己的需求信息,使得物資需求數(shù)量和種類本身也具有不確定性[5]。除此之外,由于作戰(zhàn)方式和作戰(zhàn)地點(diǎn)是在不斷變化的,導(dǎo)致后勤保障方式和保障的地點(diǎn)也都存在著不確定性[6]。這些都是具有高突發(fā)性、高突變性的因素,因此,運(yùn)用神經(jīng)網(wǎng)絡(luò)這種需要?dú)v史數(shù)據(jù)和固定輸入?yún)?shù)的數(shù)學(xué)模型去預(yù)測戰(zhàn)時(shí)航空彈藥需求是不合理的,即使能把給定數(shù)據(jù)擬合地很好,也無法長期地對戰(zhàn)時(shí)航空彈藥需求進(jìn)行準(zhǔn)確的預(yù)測。而對于航空訓(xùn)練彈藥,因?yàn)轱w行訓(xùn)練任務(wù)時(shí)間和內(nèi)容的相對規(guī)律性[7],沒有戰(zhàn)時(shí)突發(fā)性和突變性因素的影響,使得運(yùn)用神經(jīng)網(wǎng)絡(luò)對其進(jìn)行需求預(yù)測是可行的。

神經(jīng)網(wǎng)絡(luò)中比較常用的兩個(gè)網(wǎng)絡(luò)是前饋網(wǎng)絡(luò)中的BP網(wǎng)絡(luò)和反饋網(wǎng)絡(luò)中的Elman網(wǎng)絡(luò)。標(biāo)準(zhǔn)的BP網(wǎng)絡(luò)收斂速度慢,訓(xùn)練時(shí)間長,目標(biāo)函數(shù)可能存在局部最小值[8]。Elman神經(jīng)網(wǎng)絡(luò)是一種從輸出到輸入具有反饋連接的網(wǎng)絡(luò),其輸出不僅作為輸出層的輸入,而且還連接隱含層內(nèi)的另外一些神經(jīng)元,并反饋至隱含層的輸入[9],所以Elman神經(jīng)網(wǎng)絡(luò)可以在時(shí)域和空域進(jìn)行非線性函數(shù)逼近,逼近能力優(yōu)于一般的靜態(tài)網(wǎng)絡(luò),收斂速度快,能較好地克服BP網(wǎng)絡(luò)的訓(xùn)練時(shí)間長及無法體現(xiàn)時(shí)序特性等缺點(diǎn)[10]。

本文基于Elman神經(jīng)網(wǎng)絡(luò)和BP神經(jīng)網(wǎng)絡(luò)分別構(gòu)建了預(yù)測模型來進(jìn)行仿真實(shí)驗(yàn),并對兩個(gè)模型的預(yù)測結(jié)果進(jìn)行對比,通過對比進(jìn)一步印證了Elman神經(jīng)網(wǎng)絡(luò)對于預(yù)測具有時(shí)序特性的數(shù)據(jù)有著比BP網(wǎng)絡(luò)更佳的效果,具有更強(qiáng)的聯(lián)想記憶能力。彈藥需求預(yù)測是一個(gè)復(fù)雜的問題。影響彈藥需求的因素有很多,而且很多因素難以定量地計(jì)算。根據(jù)我軍作戰(zhàn)經(jīng)驗(yàn)和彈藥需求量數(shù)據(jù),影響需求的主要因素有:載機(jī)生存概率、毀傷程度、打擊精確度、破甲能力、作戰(zhàn)類型樣式、作戰(zhàn)持續(xù)時(shí)間、參戰(zhàn)部隊(duì)綜合戰(zhàn)斗力指數(shù)和敵軍綜合戰(zhàn)斗力指數(shù)等[11]。其中載機(jī)生存概率、毀傷程度、打擊精確度、破甲能力是關(guān)鍵指標(biāo)。文章選取這四個(gè)指標(biāo)作為仿真模型的輸入變量。

2 人工神經(jīng)網(wǎng)絡(luò)

人工神經(jīng)網(wǎng)絡(luò)是由大量功能和形式比較簡單的神經(jīng)元互相連接而構(gòu)成的復(fù)雜網(wǎng)絡(luò)系統(tǒng),網(wǎng)絡(luò)可以看作是從輸入到輸出的一個(gè)非線性映射。

2.1 BP神經(jīng)網(wǎng)絡(luò)

BP神經(jīng)網(wǎng)絡(luò)是一種多層的前向型神經(jīng)網(wǎng)絡(luò)。在BP網(wǎng)絡(luò)中信號(hào)是前向傳播的,而誤差是反向傳播的。一個(gè)典型的具有一個(gè)隱含層的反向傳播網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)如圖1所示。

圖1 BP神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)圖

圖1中,X、Y分別為網(wǎng)絡(luò)輸入輸出向量,W1為輸入層和隱層的權(quán)值矩陣,W2為隱層和輸出層的權(quán)值矩陣,f(x)為隱層激活函數(shù),一般為sigmoid函數(shù),輸出層的激活函數(shù)為purelin線性函數(shù),隱層和輸出層的輸入、輸出關(guān)系分別為

式中,n1,n2分別為隱層和輸出層的輸入向量;a1,a2分別為隱層和輸出層的輸出向量;b1,b2分別為隱層和輸出層的閾值向量。

BP神經(jīng)網(wǎng)絡(luò)采用梯度下降法求連接權(quán)值及閾值的變化:

式中,Ek為誤差函數(shù),μ為學(xué)習(xí)效率,w(k+1),w(k)分別為第k+1和第k步的權(quán)值矩陣,b(k+1),b(k)分別為第k+1和第k步的閾值向量。學(xué)習(xí)過程是一個(gè)反復(fù)迭代的過程,當(dāng)誤差達(dá)到預(yù)設(shè)誤差精度或最大訓(xùn)練次數(shù)時(shí),訓(xùn)練終止,并存儲(chǔ)權(quán)值和閾值。

2.2 Elman神經(jīng)網(wǎng)絡(luò)

圖2 Elman神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)圖

Elman神經(jīng)網(wǎng)絡(luò)是一種典型的動(dòng)態(tài)回歸神經(jīng)網(wǎng)絡(luò),一般分為四層:輸入層、隱層、承接層和輸出層(見圖2)。隱層的輸出通過承接層的延遲與存儲(chǔ),自聯(lián)到隱層的輸入,這種自聯(lián)方式使其對歷史數(shù)據(jù)具有敏感性,內(nèi)部反饋網(wǎng)絡(luò)的加入增加了網(wǎng)絡(luò)本身處理動(dòng)態(tài)信息的能力,從而達(dá)到動(dòng)態(tài)建模的目的。

Elman神經(jīng)網(wǎng)絡(luò)的非線性狀態(tài)空間表達(dá)式為

y(k)=g(w3x(k))
x(k)=f(w1xc(k)+w2u(k-1))
xc(k)=x(k-1)

式中,k為神經(jīng)網(wǎng)絡(luò)訓(xùn)練的次數(shù),y為n維輸入向量,x為隱層神經(jīng)元輸出向量,u為輸入向量,xc為反饋狀態(tài)向量,w3、w2、w1分別表示隱層到輸出層、輸入層到隱層、承接層到隱層的連接權(quán)值矩陣,g為輸出神經(jīng)元的傳遞函數(shù),是中間層輸出的線性組合,f為隱層神經(jīng)元的傳遞函數(shù)。Elman神經(jīng)網(wǎng)絡(luò)采用BP算法進(jìn)行權(quán)值修正,學(xué)習(xí)指標(biāo)函數(shù)采用誤差平方和函數(shù):

3 網(wǎng)絡(luò)的構(gòu)建

網(wǎng)絡(luò)的構(gòu)建是使用神經(jīng)網(wǎng)絡(luò)的關(guān)鍵。首先必須確定網(wǎng)絡(luò)的輸入與輸出樣本。試驗(yàn)選取載機(jī)生存概率、毀傷程度、打擊精確度和破甲能力四個(gè)因素作為變化參量。因此將其作為網(wǎng)絡(luò)的輸入,彈藥需求量作為網(wǎng)絡(luò)的輸出。

為使樣本更適合神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí),避免因?yàn)檩斎胼敵鰯?shù)據(jù)數(shù)量級(jí)差別較大而造成網(wǎng)絡(luò)預(yù)測誤差較大,采用最大最小法對數(shù)據(jù)進(jìn)行歸一化處理:

式中,xij、Xij分別為為歸一化之前和之后的樣本值。

訓(xùn)練樣本和檢測樣本的選取決定著所建立的網(wǎng)絡(luò)的性能,應(yīng)盡量使訓(xùn)練樣本的輸入數(shù)據(jù)涵蓋較大的范圍從而提高網(wǎng)絡(luò)的學(xué)習(xí)能力,同時(shí)確定中間層神經(jīng)元的個(gè)數(shù)和學(xué)習(xí)效率。文中選取15組數(shù)據(jù),選用其中1～11號(hào)數(shù)據(jù)作為訓(xùn)練樣本,12～15號(hào)數(shù)據(jù)作為檢測樣本。表格中數(shù)據(jù)已進(jìn)行歸一化處理。

表1 航空彈藥需求數(shù)據(jù)表

3.1 BP神經(jīng)網(wǎng)絡(luò)的構(gòu)建

一個(gè)具有3層結(jié)構(gòu)的BP神經(jīng)網(wǎng)絡(luò)能夠擬合任意非線性函數(shù),且增加層數(shù)并不一定增加網(wǎng)絡(luò)的精度,故文中選取3層BP神經(jīng)網(wǎng)絡(luò)。隱含層神經(jīng)元個(gè)數(shù)的確定比較困難,到目前為止,尚無理論上的定論。常用的方法是試錯(cuò)法,即先用樣本數(shù)據(jù)對建立好的BP網(wǎng)絡(luò)進(jìn)行訓(xùn)練,再采用檢驗(yàn)樣本對訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)的泛化能力進(jìn)行檢驗(yàn)以確定隱層神經(jīng)元數(shù)目。通常情況下,隨著隱層神經(jīng)元個(gè)數(shù)的增加,收斂速度會(huì)加快,但也會(huì)導(dǎo)致網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)復(fù)雜,影響網(wǎng)絡(luò)的泛化能力,而泛化能力是決定網(wǎng)絡(luò)推廣性能的重要因素。

通過對隱層神經(jīng)元個(gè)數(shù)的檢驗(yàn),發(fā)現(xiàn)當(dāng)其隱層神經(jīng)元個(gè)數(shù)為3時(shí),能較好地?cái)M合原數(shù)據(jù),并有良好的泛化能力,訓(xùn)練結(jié)果如圖3所示。

圖3 BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練結(jié)果

3.2 Elman神經(jīng)網(wǎng)絡(luò)的構(gòu)建

一般情況下,Elman神經(jīng)網(wǎng)絡(luò)模型采用單隱含層的網(wǎng)絡(luò)結(jié)構(gòu),當(dāng)輸入因子較多時(shí),為了提高收斂速度,采用多隱含層的結(jié)構(gòu)。但隱含層數(shù)不能過多,過多會(huì)使網(wǎng)絡(luò)規(guī)模變大,增加網(wǎng)絡(luò)的復(fù)雜性,同樣有可能出現(xiàn)“過擬合”現(xiàn)象,使得網(wǎng)絡(luò)的預(yù)測能力降低,還會(huì)使網(wǎng)絡(luò)的訓(xùn)練時(shí)間過長。

通過試錯(cuò)法,得到Elman的最佳隱層數(shù)為4層。訓(xùn)練結(jié)果如圖4所示。

圖4 Elman神經(jīng)網(wǎng)絡(luò)訓(xùn)練結(jié)果

4 預(yù)測結(jié)果對比分析

由圖3和圖4來看,在同等精度的情況下(如10-2、10-3),Elman神經(jīng)網(wǎng)絡(luò)明顯比BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練的次數(shù)要少,收斂的速度也比BP網(wǎng)絡(luò)快,而且在同樣訓(xùn)練次數(shù)的情況下,Elman神經(jīng)網(wǎng)絡(luò)可以達(dá)到更高的精度。

使用已訓(xùn)練的Elman神經(jīng)網(wǎng)絡(luò)和BP神經(jīng)網(wǎng)絡(luò)模型對仿真樣本進(jìn)行預(yù)測,為方便比較,制成如下表格與折線圖,見表2和圖5。從表格中可以看出,運(yùn)用Elman神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)測的相對誤差大部分集中在3%以下,平均相對誤差約為2%;運(yùn)用BP神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)測的相對誤差集中在3%到6%,平均相對誤差約為3.8%。從折線圖中可以更直觀地觀察到這一點(diǎn)。

圖5 BP與Elman預(yù)測誤差曲線

表2 兩種模型的預(yù)測結(jié)果比較

5 結(jié)語

BP網(wǎng)絡(luò)和Elman網(wǎng)絡(luò)均能夠以任意精度逼近任何一個(gè)非線性映射,運(yùn)用這兩種網(wǎng)絡(luò)對航空訓(xùn)練彈藥需求進(jìn)行預(yù)測,都可以比較準(zhǔn)確地反映需求情況。對非線性時(shí)變系統(tǒng),在逼近能力上來講,兩者經(jīng)過各自訓(xùn)練步數(shù)(Elman要比BP網(wǎng)絡(luò)的步數(shù)要少)達(dá)到最優(yōu)時(shí),預(yù)測誤差實(shí)際應(yīng)該相差不大,動(dòng)態(tài)跟蹤預(yù)測能力基本一樣強(qiáng)。但Elman網(wǎng)絡(luò)具有較好的聯(lián)想記憶功能,并且穩(wěn)定性較好,對于時(shí)間序列預(yù)測問題相對于BP網(wǎng)絡(luò)要好一些,而BP網(wǎng)絡(luò)要體現(xiàn)時(shí)序性需要外加時(shí)延單元。在時(shí)延(大滯后)系統(tǒng)中,內(nèi)時(shí)延Elman網(wǎng)絡(luò)相對于添加了外時(shí)延單元的BP網(wǎng)絡(luò)其優(yōu)勢在于結(jié)構(gòu)較為簡單(不用外加時(shí)延單元),而且訓(xùn)練時(shí)間較短。

在實(shí)際飛行訓(xùn)練中,航空訓(xùn)練彈藥需求具有一定的時(shí)序特性,當(dāng)前訓(xùn)練彈藥需求量同歷史需求量應(yīng)有一定的關(guān)聯(lián),如下一階段的訓(xùn)練任務(wù)要根據(jù)上一階段的訓(xùn)練效果進(jìn)行制定,下一階段的需求量會(huì)受歷史需求量的影響。這也印證了Elman網(wǎng)絡(luò)具有比BP網(wǎng)絡(luò)更優(yōu)的聯(lián)想記憶能力。

[1] 戴革林,等.基于BP算法和單目標(biāo)攻擊的航空彈藥需求仿真[J].計(jì)算機(jī)仿真,2007,24(2):15-17.

[2] 劉金梅.航空彈藥供應(yīng)保障決策支持系統(tǒng)研究[D].南京:南京理工大學(xué),2006.

[3] 賀昌政,等.BP人工神經(jīng)網(wǎng)絡(luò)模型的新改進(jìn)及其應(yīng)用[J].數(shù)學(xué)的實(shí)踐與認(rèn)識(shí),2002,32(4):554-561.

[4] 毛健,趙紅東,姚婧婧.人工神經(jīng)網(wǎng)絡(luò)的發(fā)展及應(yīng)用[J].電子設(shè)計(jì)工程,2011,19(24):62-65.

[5] 王進(jìn)發(fā).軍事供應(yīng)鏈管理[M].北京:國防大學(xué)出版社,2004.

[6] 樊勝利.通用彈藥保障指揮決策建模方法研究[D].石家莊:軍械工程學(xué)院,2012.

[7] 周輔疆,朱小冬,程永倫.云模型在訓(xùn)練彈藥消耗預(yù)測中的應(yīng)用研究[J].艦船電子工程,2009,29(10):57-59.

[8] 劉春艷,等.GA-BP神經(jīng)網(wǎng)絡(luò)與BP神經(jīng)網(wǎng)絡(luò)性能比較[J].中國衛(wèi)生統(tǒng)計(jì),2013,30(2):173-176.

[9] 時(shí)小虎,梁艷春,徐旭.改進(jìn)的Elman模型與遞歸反傳控制神經(jīng)網(wǎng)絡(luò)[J].軟件學(xué)報(bào),2003,14(6):1110-1119.

[10] 丁碩,等.Elman和BP神經(jīng)網(wǎng)絡(luò)在模式分類領(lǐng)域內(nèi)的對比研究[J].現(xiàn)代電子技術(shù),2014,37(8):12-14.

[11] 趙世英.大規(guī)模作戰(zhàn)航空彈藥儲(chǔ)備研究[D].徐州:空軍勤務(wù)學(xué)院,2014.

Comparative Study on the Application of Elman and BP Neural Network in Aviation Training Ammunition Requirement Forecasting

SUN Yuncong WAN Hua

(Air Force Logistics College, Xuzhou 221000)

Aviation training ammunition requirement forecasting is the foundation of commanders at all levels to develop training plan, make training scheme and organize ammunition supply. This paper discusses the application of neural networks in aviation training ammunition requirement, first the uncertainty of wartime ammunition requirement and the feasibility of forecasting training ammunition requirement are analyzed, BP network in feedforward neural networks and Elman network in feedback neural networks are chosen to forecast, the method of establishing network is elaborated, then the outputs are analyzed and compared. The result shows that Elman network is superior to BP network in convergence and associational memory, thus Elman neural network is more suitable to predict the time-sequence variables like aviation training ammunition requirement.

BP neural network, Elman neural network, requirement forecasting

TP311

2016年9月7日,

2016年10月11日

孫云聰,男,碩士研究生,研究方向:軍事運(yùn)籌學(xué)。萬華,男,博士,副教授,研究方向:武器系統(tǒng)與運(yùn)用工程。

TP311

10.3969/j.issn.1672-9730.2017.03.025