劉云輝,李鐘慎
(華僑大學(xué)機(jī)電及自動(dòng)化學(xué)院,福建 泉州 362021)
改進(jìn)型模糊神經(jīng)網(wǎng)絡(luò)模型的構(gòu)造
劉云輝,李鐘慎
(華僑大學(xué)機(jī)電及自動(dòng)化學(xué)院,福建 泉州 362021)
利用模糊系統(tǒng)和神經(jīng)網(wǎng)絡(luò)的優(yōu)勢,構(gòu)造一種改進(jìn)型模糊神經(jīng)網(wǎng)絡(luò)模型.從極大-極小模糊算子的模糊神經(jīng)元入手,提出改進(jìn)的修改模糊權(quán)值的訓(xùn)練學(xué)習(xí)規(guī)則.改進(jìn)后的模糊神經(jīng)網(wǎng)絡(luò)模型大大減少了運(yùn)算量,提高了收斂速度.采用此學(xué)習(xí)算法對(duì)實(shí)際汽輪發(fā)電機(jī)組運(yùn)行狀態(tài)進(jìn)行監(jiān)測,結(jié)果表明,模型具有較強(qiáng)的狀態(tài)監(jiān)測能力,達(dá)到預(yù)期的目的.
模糊神經(jīng)網(wǎng)絡(luò)模型;模糊神經(jīng)元;學(xué)習(xí)規(guī)則;狀態(tài)監(jiān)測
模糊神經(jīng)網(wǎng)絡(luò)(FNN)具備強(qiáng)大的結(jié)構(gòu)性知識(shí)表達(dá)能力,以及自身參數(shù)調(diào)整優(yōu)化的能力.因此,它被廣泛地應(yīng)用到多變量、非線性強(qiáng),且自身數(shù)學(xué)描述不易得到的復(fù)雜系統(tǒng)的控制中.作為新的智能信息處理方法[1],模糊神經(jīng)網(wǎng)絡(luò)對(duì)人工智能和模式識(shí)別的發(fā)展有重要作用,具有良好的發(fā)展前景[2].文[3]提出了基于輸入冪集的模糊神經(jīng)元模型,并研究了模糊反向傳播學(xué)習(xí)算法.文[4]研究了基于極大-極小方法的模糊神經(jīng)元,并研究了學(xué)習(xí)規(guī)則及其收斂性.然而,文[3-4]所研究的學(xué)習(xí)規(guī)則是基于單訓(xùn)練模式,且其權(quán)值的修改條件是基于網(wǎng)絡(luò)輸出值與所有權(quán)值的比較.本文利用模糊系統(tǒng)和神經(jīng)網(wǎng)絡(luò)的優(yōu)勢,構(gòu)造一種改進(jìn)型模糊神經(jīng)網(wǎng)絡(luò)模型,并提出修改權(quán)值的網(wǎng)絡(luò)學(xué)習(xí)算法.
1.1 模糊神經(jīng)元模型
神經(jīng)元是神經(jīng)網(wǎng)絡(luò)的基本處理單元,具有模糊信息處理能力,其結(jié)構(gòu)大都由輸入、加權(quán)求和,以及經(jīng)歷一個(gè)激勵(lì)傳遞函數(shù)之后的輸出組成.模糊神經(jīng)元結(jié)構(gòu)模型,如圖1所示.圖1中:模糊神經(jīng)元的輸入模糊信號(hào)為x0,x1,…,xn-1;輸出模糊信號(hào)為y;模糊數(shù)w0,w1,…,wn-1分別對(duì)應(yīng)輸入x0,x1,…,xn-1的連接權(quán)值.模糊神經(jīng)元的輸入xi(i=0,1,…,n-1)、輸出y和連接權(quán)wi(i=0,1,…,n-1)均在[0,1]上取值,分別對(duì)應(yīng)模糊集的隸屬程度.
圖1 模糊神經(jīng)元結(jié)構(gòu)模型Fig.1 Structure model of fuzzy neurons
1.2 模糊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
模糊神經(jīng)網(wǎng)絡(luò)是多輸入單輸出的,由輸入層、隱含層和輸出層組成,其結(jié)構(gòu)模型如圖2所示.
第1層為輸入層,設(shè)有n個(gè)輸入模糊神經(jīng)元,各節(jié)點(diǎn)直接與網(wǎng)絡(luò)輸入連接,網(wǎng)絡(luò)輸入是按相應(yīng)隸屬函數(shù)模糊化后的模糊量.第2層為隱含層,設(shè)有m個(gè)模糊神經(jīng)元,其作用與普通神經(jīng)網(wǎng)絡(luò)基本相同,實(shí)現(xiàn)基于模糊邏輯運(yùn)算的推理過程,隱含層與輸入層是采用全互連方式.第3層為輸出層,只含一個(gè)輸出模糊神經(jīng)元,實(shí)現(xiàn)模糊神經(jīng)網(wǎng)絡(luò)的模糊輸出.
圖2 模糊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)模型Fig.2 Structure model of FNN
假設(shè)對(duì)輸入訓(xùn)練樣本P,n個(gè)輸入為x0,x1,…,xn-1,其中,xi∈[0,1],i=0,1,…,n-1;輸入層到隱含層的連接權(quán)值∈[0,1],i=0,1,…,n-1;j=0,1,…,m-1;隱含層第j個(gè)模糊神經(jīng)元的凈輸入,j=0,1,…,m-1.
為保證活化函數(shù)的值分布在[0,1]區(qū)間內(nèi),取活化函數(shù)f(x)為線性函數(shù),有
f(x)=[1+exp(-4(x-0.5))]-1.
模糊神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則,是在網(wǎng)絡(luò)訓(xùn)練過程中,對(duì)網(wǎng)絡(luò)模糊權(quán)值和閥值的修正規(guī)則.傳統(tǒng)的模糊神經(jīng)網(wǎng)絡(luò)的輸入層和輸出層采用模糊知識(shí)表示,即取值在0到1之間.在網(wǎng)絡(luò)學(xué)習(xí)規(guī)則上仍采用傳統(tǒng)的,基于乘積-求和運(yùn)算的反向傳播學(xué)習(xí)方法,實(shí)際應(yīng)用中存在很大局限.
考慮基于模糊神經(jīng)網(wǎng)絡(luò)訓(xùn)練輸出與實(shí)際輸出的關(guān)系,依據(jù)各神經(jīng)元的相應(yīng)輸出與權(quán)值的比較來修改其權(quán)值.設(shè)xout為訓(xùn)練樣本P的實(shí)際輸出,并令,j=0,1,…,m-1;δ(2)=|xout-y|.改進(jìn)的模糊神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法有如下4個(gè)步驟.
(1)若|y-xout|≤η,則權(quán)值無需再進(jìn)行調(diào)整.
(2)若xout-y>η,則
(3)若y-xout>η,則
在以上的步驟中,η為訓(xùn)練學(xué)習(xí)精度(0<η=1),β為學(xué)習(xí)速率,兩者的大小都將影響學(xué)習(xí)算法的收斂速度.在網(wǎng)絡(luò)訓(xùn)練學(xué)習(xí)過程中,采用了自適應(yīng)學(xué)習(xí)速率以克服單一學(xué)習(xí)速率的缺陷,其調(diào)整公式為
學(xué)習(xí)算法相對(duì)于文[5-6],其權(quán)值修改不是僅依賴于網(wǎng)絡(luò)的輸出,而是還要依賴于相應(yīng)神經(jīng)元的輸出,學(xué)習(xí)速率β也可以實(shí)時(shí)調(diào)整.因而,使網(wǎng)絡(luò)的學(xué)習(xí)更加平穩(wěn)和精確.
對(duì)訓(xùn)練樣本集中的任意訓(xùn)練樣本P,若實(shí)際輸出xout與網(wǎng)絡(luò)輸出y滿足|y-xout|≤η(η是給定的訓(xùn)練學(xué)習(xí)精度),則稱模糊神經(jīng)網(wǎng)絡(luò)是收斂的[7].
改進(jìn)型模糊神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法,在模糊權(quán)值的修改上,采用的是當(dāng)輸出xout-y>η時(shí),若<或時(shí),增加權(quán)值以使網(wǎng)絡(luò)輸出增加;當(dāng)輸出y-xout>η時(shí),若或時(shí),降低權(quán)值以使網(wǎng)絡(luò)輸出降低.這樣,訓(xùn)練網(wǎng)絡(luò)以使樣本P的網(wǎng)絡(luò)輸出y向?qū)嶋H輸出xout接近,從而保證了模糊神經(jīng)網(wǎng)絡(luò)在精度η下是收斂的.
文[8]測試了汽輪發(fā)電機(jī)組的狀態(tài)的6組樣本數(shù)據(jù),每個(gè)樣本用10個(gè)指標(biāo)表示時(shí)域、頻域參數(shù).根據(jù)不同指標(biāo)的特性建立相應(yīng)隸屬函數(shù),獲得每個(gè)樣本10個(gè)數(shù)據(jù),如表1所示.輸出的樣本1~6的貼近度(d)分別為0.639,0.402,0.451,0.468,0.654,0.343.根據(jù)表1,建立基于乘積-求和的模糊BP神經(jīng)網(wǎng)絡(luò),從而判斷發(fā)電機(jī)組運(yùn)行的良好、正常或不正常狀態(tài).
改進(jìn)的模糊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)由3層組成,其中輸入層采用10個(gè)模糊神經(jīng)元,對(duì)應(yīng)每個(gè)樣本的10個(gè)指標(biāo)參數(shù).隱含層模糊神經(jīng)元數(shù)目仍按文[8]的選取原則,用5個(gè)模糊神經(jīng)元表示.輸出層由于是監(jiān)測發(fā)電機(jī)組運(yùn)行的狀態(tài),所以采用1個(gè)模糊神經(jīng)元作為網(wǎng)絡(luò)輸出.
表1 汽輪發(fā)電機(jī)組各狀態(tài)的隸屬函數(shù)值Tab.1 Values of the membership function of each state in a turbo generator unit
對(duì)改進(jìn)的模糊神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,訓(xùn)練樣本為表1中的數(shù)據(jù),訓(xùn)練所得的模糊權(quán)值數(shù)據(jù)的集合即為模糊知識(shí)庫.通過Visual C++語言程序仿真實(shí)現(xiàn),得到一種可能的模糊知識(shí)庫表示,如表2所示.
表2 汽輪發(fā)電機(jī)組模糊神經(jīng)網(wǎng)絡(luò)知識(shí)庫結(jié)構(gòu)Tab.2 Repository structure of FNN for turbo generator unit
在程序仿真實(shí)現(xiàn)過程中,考慮了極大-極小模糊算子對(duì)訓(xùn)練樣本偶然性,對(duì)樣本的使用采用了均值的方法[9].即對(duì)6個(gè)樣本訓(xùn)練后,通過每個(gè)樣本的計(jì)算平均值;然后,利用這個(gè)均值來對(duì)每個(gè)樣本訓(xùn)練時(shí)的模糊權(quán)值進(jìn)行調(diào)整.針對(duì)模糊神經(jīng)網(wǎng)絡(luò)訓(xùn)練獲得的模糊知識(shí)庫,根據(jù)網(wǎng)絡(luò)的輸出y值,利用反模糊化原則得到汽輪發(fā)電機(jī)組的運(yùn)行狀態(tài)為
例如,對(duì)1組新的監(jiān)測樣本{波形偏差,波動(dòng)方差,相關(guān)性,1倍頻幅值,2倍頻幅值,3倍頻幅值,4倍頻幅值,5倍頻幅值,6倍頻幅值,分頻幅值}={48.50,230.64,0.96,260.75,59.67,40.64,30.12,18.16,20.18,12.78}.依照表1相應(yīng)隸屬函數(shù),對(duì)這些實(shí)際數(shù)據(jù)進(jìn)行模糊化,得到模糊輸入為{0.62,0.56,0.58,0.60,0.70,0.32,0.40,0.60,0.50,0.57}.采用表2模糊知識(shí)庫,進(jìn)行模糊神經(jīng)網(wǎng)絡(luò)計(jì)算,得到量化模糊輸出為0.469 8,最后的結(jié)論是汽輪發(fā)電機(jī)組運(yùn)行狀況正常.
采用基于乘積-求和的模糊BP神經(jīng)網(wǎng)絡(luò),對(duì)上例得到的量化輸出為0.545,得到汽輪發(fā)電機(jī)組運(yùn)行狀況正常的結(jié)論,這與監(jiān)測結(jié)果是一致的.通過仿真比較,文[8]的學(xué)習(xí)訓(xùn)練次數(shù)為2 310次,而采用基于極大-極小模糊算子的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)次數(shù)為1 436次,學(xué)習(xí)速度更快,效果更好.
模糊神經(jīng)網(wǎng)絡(luò)作為具有一定的處理定性與定量知識(shí)的技術(shù)與方法,可充分利用模糊邏輯所具有的較強(qiáng)的結(jié)構(gòu)性知識(shí)表達(dá)能力,以及神經(jīng)網(wǎng)絡(luò)強(qiáng)大的自學(xué)習(xí)和定量數(shù)據(jù)的直接處理能力.在網(wǎng)絡(luò)訓(xùn)練學(xué)習(xí)過程中,采用了自適應(yīng)學(xué)習(xí)速率,克服了單一、固定不變的學(xué)習(xí)速率缺陷.將此模型應(yīng)用于汽輪發(fā)電機(jī)組狀態(tài)監(jiān)測中,簡化了模糊推理輸出公式,減少運(yùn)算量,加快了收斂速度.
[1]高雋.智能信息處理方法導(dǎo)論[M].北京:機(jī)械工業(yè)出版社,2004.
[2]韓力群.人工神經(jīng)網(wǎng)絡(luò)理論、設(shè)計(jì)及應(yīng)用[M].北京:化學(xué)工業(yè)出版社,2002.
[3]張乃堯,閻平凡.神經(jīng)網(wǎng)絡(luò)與模糊控制[M].北京:清華大學(xué)出版社,1998.
[4]朱曉銘,王士同.單體模糊神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則及其收斂性研究[J].計(jì)算機(jī)研究與發(fā)展,2001,38(9):1057-1060.
[5]WANG Shi-tong.Fuzzy basis functions,fuzzy neural network,and the new hybrid learning algorithm[J].Journal of Software Research,1999,30(3):325-334.
[6]YAN Shi,MASAHARU M.Some considerations on conventional neural-fuzzy learning algorithms by gradient descent method[J].Fuzzy Sets and Systems,2000,112(1):51-63.
[7]鐘詩勝,樸樹學(xué),丁剛.改進(jìn)BP算法在過程神經(jīng)網(wǎng)絡(luò)中的應(yīng)用[J].哈爾濱工業(yè)大學(xué)學(xué)報(bào):自然科學(xué)版,2006,38(6):840-842.
[8]吳今培,肖健華.智能故障診斷與專家系統(tǒng)[M].北京:科學(xué)出版社,1997.
[9]蘇金瀧,戴在平.模糊神經(jīng)網(wǎng)絡(luò)的極點(diǎn)配置自校正濾波器[J].華僑大學(xué)學(xué)報(bào):自然科學(xué)版,2004,25(3):310-314.
Construction of Improved Fuzzy Neural Network Model
LIU Yun-hui,LI Zhong-shen
(College of Mechanical Engineering and Automation,Huaqiao University,Quanzhou 362021,China)
The advantages of fuzzy system and neural network are taken to establish a kind of improved fuzzy neural network(FNN)models.An improved learning algorithm with the modified fuzzy weight is proposed on the basis of the fuzzy neurons model for the max-min fuzzy operator.The amount of calculation for the improved FNN model is reduced greatly and the convergence velocity is improved.The state monitoring of the practical turbo generator unit is run using the learning algorithm,and the results have indicated that the model has greater capability of state monitoring and the expected goal is obtained.
fuzzy neural network model;fuzzy neurons;learning algorithm;state monitoring
TP 183
A
1000-5013(2010)03-0256-04
(責(zé)任編輯:陳志賢 英文審校:鄭亞青)
2009-01-10
李鐘慎(1971-),男,教授,主要從事先進(jìn)控制理論與控制工程的研究.E-mail:lzscyw@hqu.edu.cn.
福建省自然科學(xué)基金資助項(xiàng)目(E0710018)