對傳過程神經(jīng)元網(wǎng)絡(luò)及其應(yīng)用研究

張 雷 ，劉希玉

（1.山東師范大學(xué) 信息科學(xué)與工程學(xué)院，山東 濟(jì)南 250014；2.山東師范大學(xué) 管理科學(xué)與工程學(xué)院，山東 濟(jì)南 250014；3.山東省分布式計算機(jī)軟件新技術(shù)重點實驗室，山東 濟(jì)南 250014）

過程神經(jīng)元網(wǎng)絡(luò)模型[1]的提出，為解決與過程有關(guān)的系統(tǒng)評價問題提供了一種非傳統(tǒng)建模求解問題的方法，也為含有大量時空信息的動態(tài)問題的分類和劃分提供了一種可探索的途徑。

對傳神經(jīng)元網(wǎng)絡(luò)是Robert Hecht-Nielson于1987年提出的一種三層機(jī)構(gòu)前向型神經(jīng)元網(wǎng)絡(luò)模型。與同構(gòu)網(wǎng)相比，對傳神經(jīng)元網(wǎng)絡(luò)的異構(gòu)性使它更接近生物腦神經(jīng)系統(tǒng)的信息處理機(jī)制，在模式識別、模式完善、信號加強(qiáng)等領(lǐng)域具有重要的應(yīng)用。將傳統(tǒng)對傳神經(jīng)元網(wǎng)絡(luò)向時域進(jìn)行推廣，可構(gòu)造出對傳過程神經(jīng)元網(wǎng)絡(luò)模型。對傳過程神經(jīng)元網(wǎng)絡(luò)對于時變信號模式分類、連接系統(tǒng)信號處理等實際問題具有較大的應(yīng)用價值。本文重點討論對傳過程神經(jīng)元網(wǎng)絡(luò)模型及其學(xué)習(xí)算法，并用實例驗證其模型和算法的有效性。

1 過程神經(jīng)元

過程神經(jīng)元由加權(quán)、聚合和激勵三部分組成，與傳統(tǒng)神經(jīng)元不同之處在于過程神經(jīng)元的輸入和權(quán)值都可以是時變的。其聚合運(yùn)算既有對空間的多輸入聚合，也有對時間過程的積累[2-3]。因此過程神經(jīng)元是傳統(tǒng)神經(jīng)元在時域上的擴(kuò)展，傳統(tǒng)神經(jīng)元可以看成是過程神經(jīng)元的特例[4]。單個過程神經(jīng)元的結(jié)構(gòu)如圖1所示。其輸入輸出關(guān)系見式（1）。

圖1 過程神經(jīng)元模型

x1（t），x2（t），…，xn（t）為過程神經(jīng)元輸入，w1（t），w2（t），…，wn（t）為連接權(quán)值，K（·）為時間聚合函數(shù)，F(xiàn)（·）為激勵函數(shù)。過程神經(jīng)元輸入與輸出之間的關(guān)系是：

其中⊕代表某種空間聚合運(yùn)算，?代表某種時間聚合運(yùn)算。

一般情況下得到輸出為：

2 對傳過程神經(jīng)元網(wǎng)絡(luò)模型

2.1 網(wǎng)絡(luò)結(jié)構(gòu)

對傳過程神經(jīng)元網(wǎng)絡(luò)分為三層結(jié)構(gòu)的前饋網(wǎng)絡(luò)模型，由輸入層、競爭層和輸出層組成，相鄰各層神經(jīng)元節(jié)點之間實行全互連接。設(shè)輸入層有n個節(jié)點，完成n個時變函數(shù)向網(wǎng)絡(luò)的輸入；競爭層有H個節(jié)點，由過程神經(jīng)元組成，該層執(zhí)行廣義自組織映射算法，完成對輸入模式的自適應(yīng)競爭分類；輸出層由m個一般非時變神經(jīng)元節(jié)點組成，執(zhí)行Grossberg學(xué)習(xí)規(guī)則，按照系統(tǒng)要求給出期望輸出。若過程神經(jīng)元的空間聚合運(yùn)算采用加權(quán)和，時間累積運(yùn)算采用積分，網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)如圖2所示。

圖2 對傳過程神經(jīng)元網(wǎng)絡(luò)模型

x1（t），x2（t），…，xn（t）（t∈[0，T]）為網(wǎng)絡(luò)輸入函數(shù)；wij（t）（i=1，2，...，n；j=1，2，...，H）為輸入層節(jié)點 i到競爭層節(jié)點 j的連接權(quán)函數(shù)；vjk（j=1，2，...，H；k=1，2，...，m）為競爭層與輸出層間的連接權(quán)值；yk（k=1，2，...，m）為網(wǎng)絡(luò)輸出，[0，T]為輸入過程區(qū)間；f為過程神經(jīng)元激勵函數(shù)。

2.2 競爭學(xué)習(xí)算法

網(wǎng)絡(luò)訓(xùn)練時，訓(xùn)練樣本 X1（t），X2（t），…，Xk（t）在輸入端按照某種確定的或隨機(jī)的次序輸入。輸入層各節(jié)點向競爭層過程神經(jīng)元節(jié)點j總的加權(quán)輸入信號為：

定義 設(shè)函數(shù) X（t），Y（t）∈（C[0，T]）n，定 義 X（t），Y（t）在[0，T]上的相似系數(shù)為：

2.3 對傳過程神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法

對傳過程神經(jīng)元網(wǎng)絡(luò)的學(xué)習(xí)過程要執(zhí)行兩種算法，輸入層與競爭層之間執(zhí)行自組織映射算法，完成對wij（t）的訓(xùn)練和對輸入函數(shù)的自適應(yīng)模式分類；競爭層與輸出層之間執(zhí)行Grossberg學(xué)習(xí)規(guī)則[4]，完成對非時變連接參數(shù)vjk的調(diào)整，并按要求給出系統(tǒng)的輸出。

式 中 yj（l）為 競 爭 層過程神 經(jīng) 元j的 輸 出 （一 個 相 似度）；yk為輸出層節(jié)點k的實際輸出；dk為期望輸出。

重復(fù)上述步驟，直到滿足誤差精度要求，從而完成網(wǎng)絡(luò)的訓(xùn)練。

3 仿真實例

油層水淹狀況識別是油田開發(fā)過程中一項十分重要而又復(fù)雜的工作?；跍y井資料的水淹層判別主要依據(jù)是：反映地層地球物理性質(zhì)隨深度變化的各種測井曲線的形態(tài)和幅值特征及其組合關(guān)系，輸出為水淹級別。實際測量時，采集到的信息實際是隨深度變化的離散數(shù)據(jù)，測井曲線由離散測井?dāng)?shù)據(jù)擬合而成。由于過程神經(jīng)網(wǎng)絡(luò)的輸入為連續(xù)函數(shù)，而實際測井資料為隨深度等間距采樣的離散數(shù)據(jù)，因此，采用基于Walsh變換[6]的方法對離散采樣數(shù)據(jù)進(jìn)行轉(zhuǎn)換。

水淹級別按照油層水淹程度分為：未水淹、弱水淹、中水淹和強(qiáng)水淹4個等級。水淹層判別參數(shù)選擇自然電位（SP）、聲波時差（AC）、深側(cè)向電阻 RLLD、淺側(cè)向電阻RLLS和油層厚度h，5個變量。由于不同油層其厚度不同，油層測井?dāng)?shù)據(jù)向網(wǎng)絡(luò)輸入時，輸入過程區(qū)間可能不統(tǒng)一，所以先對油層厚度進(jìn)行歸一化處理。采用均勻抽稀或加密的方法，將油層厚度歸一化在[0，1]區(qū)間，每個油層在[0，1]上取 16個采樣點，油層有效厚度變化由 h來表征。同時，由于各測井變量量綱不同，不同測井變量的測量數(shù)據(jù)量級相差很大，故對特征參數(shù)也要進(jìn)行標(biāo)準(zhǔn)化處理。

設(shè)x為第i個地層、第j個測井?dāng)?shù)據(jù)的第l個原始測量值，標(biāo)準(zhǔn)化后的數(shù)據(jù)為 x′ijl；

這里，采用對傳過程神經(jīng)元網(wǎng)絡(luò)進(jìn)行測井水淹層識別。在大量取心井水淹油層分析資料中，選取80個有代表性的水淹油層樣本組成訓(xùn)練集，40個油層樣本組成測試集。對傳過程神經(jīng)元網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)確定為5-8-1型。將80個訓(xùn)練樣本代入網(wǎng)絡(luò)進(jìn)行訓(xùn)練，學(xué)習(xí)精度取為0.05，最大學(xué)習(xí)次數(shù)為5 000。實驗中網(wǎng)絡(luò)迭代1 319次后收斂。用訓(xùn)練好的網(wǎng)絡(luò)對訓(xùn)練樣本進(jìn)行判別，其中有74個樣本判斷準(zhǔn)確，正確率為92.5%；對測試集40個樣本進(jìn)行判別，其中有31個樣本判斷正確，正確識別率為77.5%。這與目前水淹層自動判別方法的正確率相比，是一個較好的結(jié)果。

本文簡要介紹了對傳過程神經(jīng)元網(wǎng)絡(luò)模型及其學(xué)習(xí)算法，并以油層水淹識別仿真研究為例驗證了其模型和學(xué)習(xí)算法的有效性。由仿真實例可以看出，對傳過程神經(jīng)元網(wǎng)絡(luò)模型對于解決與連續(xù)時變過程相關(guān)的動態(tài)模式識別具有較好的適應(yīng)性，并且為實現(xiàn)計算機(jī)水淹層自動識別提供了一種有效途徑。

[1]HE X G，LIANG J Z.Procedure neural networks.Proc of the Conference on IntelligentInformation [C].Beijing，China： Electronic Industry Press， 2000.

[2]何新貴，梁久禎.過程神經(jīng)元網(wǎng)絡(luò)的若干理論問題[J].中國工程科學(xué)，2000，2（12）：40-44.

[3]何新貴，許少華.過程神經(jīng)元網(wǎng)絡(luò)[M].北京：科學(xué)出版社，2007.

[4]HAGAN M T， DEMUTH H B， BEALE M H.神經(jīng)網(wǎng)絡(luò)設(shè)計[M].戴葵，李伯民譯.北京：機(jī)械工業(yè)出版社，2002.

[5]何新貴，許少華，李盼池.自組織過程神經(jīng)網(wǎng)絡(luò)及其應(yīng)用研究 [J].計算機(jī)研究與發(fā)展，2003，40（11）：1612-1615.

[6]許少華，肖紅，廖太平.基于離散Walsh變換的過程神經(jīng)元網(wǎng)絡(luò)學(xué)習(xí)算法[J].大慶石油學(xué)院學(xué)報，2003，27（4）：58-61.