BP神經(jīng)網(wǎng)絡(luò)的改進(jìn)

胡麗陳斌賴啟明何振平

摘要：BP神經(jīng)網(wǎng)絡(luò)易于陷入局部最小點(diǎn)以及收斂速度較慢，為了克服這些缺陷，本文對(duì)BP神經(jīng)網(wǎng)絡(luò)進(jìn)行改進(jìn)。通過(guò)對(duì)BP神經(jīng)網(wǎng)絡(luò)的樣本進(jìn)行采樣分析，得到訓(xùn)練目標(biāo)函數(shù)與輸入向量之間的相關(guān)系數(shù)，依據(jù)此相關(guān)系數(shù)得到網(wǎng)絡(luò)訓(xùn)練時(shí)的初始權(quán)重，再給待訓(xùn)練的BP神經(jīng)網(wǎng)絡(luò)進(jìn)行初始權(quán)重的賦值，通過(guò)對(duì)初始權(quán)重的科學(xué)賦值從而達(dá)到避免網(wǎng)絡(luò)在訓(xùn)練過(guò)程中陷入局部最小點(diǎn)與加快收斂速度的目的。本文通過(guò)實(shí)際驗(yàn)證，確實(shí)達(dá)到預(yù)期目的。

關(guān)鍵詞：BP神經(jīng)網(wǎng)絡(luò)；收斂速度；初始權(quán)重；局部最小

中圖分類號(hào)：TP391.9文獻(xiàn)標(biāo)識(shí)碼：A

1引言

由于BP神經(jīng)網(wǎng)絡(luò)對(duì)任意可微函數(shù)映射具有非常優(yōu)良的擬合能力，所有被廣泛應(yīng)用于自動(dòng)控制[1]、非線性系統(tǒng)辨別[2，3][4，5]、控制及系統(tǒng)的故障診斷等[6-11]領(lǐng)域。然而由其自身算法以及網(wǎng)絡(luò)結(jié)構(gòu)的原因，也使其具有局限性。本文就是針對(duì)其網(wǎng)絡(luò)收斂速度的問(wèn)題進(jìn)行了分析研究與改進(jìn)。

2BP網(wǎng)絡(luò)的簡(jiǎn)介

BP（Back Propagation）網(wǎng)絡(luò)[12，13]是一種采用反向傳播誤差以更新權(quán)重的前饋神經(jīng)網(wǎng)絡(luò)。這是一個(gè)有輸入層、輸出層和隱含層的網(wǎng)絡(luò)，當(dāng)然隱含層還可以根據(jù)實(shí)際的需要增加。信息從輸入層輸入后，就沿著如圖箭頭所指方向向后傳播，最后到達(dá)輸出層。網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。3BP算法存在的問(wèn)題

3.1BP神經(jīng)網(wǎng)絡(luò)的自適應(yīng)性

作為一般規(guī)則，一個(gè)系統(tǒng)的自適應(yīng)性越好，它被要求在一個(gè)不穩(wěn)定環(huán)境下運(yùn)行時(shí)其性能就越具有魯棒性；自適應(yīng)不一定總能導(dǎo)致魯棒性，可能導(dǎo)致相反的結(jié)果；自適應(yīng)常數(shù)的選取問(wèn)題是其關(guān)鍵所在。

5仿真對(duì)比：

以本文以某型天調(diào)單元的故障診斷為例，進(jìn)行改進(jìn)前與改進(jìn)后的仿真對(duì)比實(shí)驗(yàn)：（電路圖見(jiàn)附1）。

5.1樣本數(shù)據(jù)說(shuō)明

5.2未改進(jìn)方法仿真

5.3改進(jìn)后仿真

其余步驟同上方法，根據(jù)4.2中方法將對(duì)初始權(quán)重進(jìn)行更改：

1）輸出結(jié)果

2）網(wǎng)絡(luò)訓(xùn)練過(guò)程：

從圖4（285步完成網(wǎng)絡(luò)的訓(xùn)練）、圖5（183步完成網(wǎng)絡(luò)的訓(xùn)練）的仿真結(jié)果可以看出，改進(jìn)后的BP網(wǎng)絡(luò)收斂速度明顯變快。

6結(jié)論

從以上仿真結(jié)果可以看出，采用本文所述方法賦予網(wǎng)絡(luò)訓(xùn)練初始權(quán)重值，在保證輸出結(jié)果準(zhǔn)確的情況下訓(xùn)練速度明顯提高。

參考文獻(xiàn)

[1]王遵 劉繼 敘永禧.美國(guó)西屋公司的輸電設(shè)備[M]. 北京：中國(guó)電力，1980（01）：1-5.

[2]BISHOP C M.Neural Neworks for Pattern Recognition[J].Oxford：Claredor Press，1995：102-156.

[3]GU X P，YANG Y H，ZANG W Q，GAO S.Integration of Artifical Neural Networks and Expert Systerns for Power System Fault Diagnosis[J].Proc.IPEC95，Singapore，F(xiàn)ebruary 1995.53-85.

[4]SPINA R，UPADHYAYA S.Linear Circuit Fault Diagosis Using Neuromorphic Analyzers[J].IEEE Trans.on Circuits and Systerns II，1997，44（3）：188-196.

[5]M.A ELGamal.A Knowledgebased approach for fault detection and isolation in analog circuits[J].International Conference on Neural Networks，1997：1580-1584.

[6]NISSAR A I，VIAVEYAY SJ.Fault diagnosis of Mixedsignal VLSI systerns using artificial neural networks[J].1999 Southeast symposium on MixedSiganl Design，1999：93-98.

[7]AMINIAN M，AMINIAN F.Neuralnetwork based analogcircuit fault diagnosis using wavelet transform as preprocessor[J].IEEE Transactions on Circuits and systemII：Analog and Digital Signal Processing，2000，47（2）：151-156.

[8]CATELANI M，F(xiàn)ORT A.Fault diagnosis of electronic analog circuits using a radial basis function network classifier[J].Measuremenr，2000，28：147-158.

[9]Farzan Aminian，Mehran Aminian，and H.W.Collins.Analog fault diagnosis of actual circuits using neural networks[J].IEEE Transactiond on Instrunmentation and Measurement，2002，51（3），：544-550

[10]周玉芬，高錫俊.模擬電路故障診斷[M].北京：國(guó)防工業(yè)出版社.1989：1-5.

[11]趙國(guó)南，郭玉順.模擬電路故障診斷[M].哈爾濱：哈爾濱工業(yè)大學(xué)出版社.1991：1-4.

[12]唐人亨.模擬電子系統(tǒng)的自動(dòng)故障診斷[M].北京：高等教育出版社，1991：112-156.

[13]尉乃紅，楊士元.基于BP網(wǎng)絡(luò)的線性電路故障診斷 [J].計(jì)算機(jī)學(xué)報(bào)，1997，20（4）：360-366.