一種基于數(shù)據(jù)驅(qū)動(dòng)的系統(tǒng)建模方法

邵克勇，韓 巍，范 欣，劉遠(yuǎn)紅

(大慶石油學(xué)院電氣信息工程學(xué)院，黑龍江 大慶 163318)

一種基于數(shù)據(jù)驅(qū)動(dòng)的系統(tǒng)建模方法

邵克勇，韓 巍，范 欣，劉遠(yuǎn)紅

(大慶石油學(xué)院電氣信息工程學(xué)院，黑龍江 大慶 163318)

提出了一種基于數(shù)據(jù)驅(qū)動(dòng)的系統(tǒng)建模方法，采用減法聚類和模糊C-均值聚類相結(jié)合的模糊聚類算法進(jìn)行前件RBF網(wǎng)絡(luò)辨識(shí)，自適應(yīng)地獲得精確的聚類個(gè)數(shù)和隸屬度參數(shù)；用BP算法訓(xùn)練后件網(wǎng)絡(luò)的權(quán)值，從而僅利用輸入輸出數(shù)據(jù)，就建立了T-S模糊神經(jīng)網(wǎng)絡(luò)模型，在該過程中充分利用了BP神經(jīng)網(wǎng)絡(luò)和RBF神經(jīng)網(wǎng)絡(luò)的優(yōu)點(diǎn)。最后用該模型對(duì)一個(gè)非線性系統(tǒng)進(jìn)行辨識(shí)，用MATLAB進(jìn)行仿真，結(jié)果表明，該方法具有可行性。

T-S模型；BP網(wǎng)絡(luò)；RBF網(wǎng)絡(luò)；模糊C-均值聚類

基于數(shù)據(jù)驅(qū)動(dòng)(Data-driven)的控制方法是近年來出現(xiàn)的一種新的控制算法[1]，該方法只利用已存儲(chǔ)的大量輸入輸出數(shù)據(jù)，在線學(xué)習(xí)計(jì)算與當(dāng)前狀態(tài)相匹配的控制量，便可獲得系統(tǒng)所要求的各種動(dòng)靜態(tài)品質(zhì)。Takagi和Sugeno在1985年提出T-S模型，該模型可以直接從輸入輸出數(shù)據(jù)中提取模糊規(guī)則和辨識(shí)模糊參數(shù)[2]，由于其缺乏自學(xué)習(xí)和自適應(yīng)能力，有學(xué)者提出了基于T-S的模糊神經(jīng)網(wǎng)絡(luò)[3]，將模糊邏輯和神經(jīng)網(wǎng)絡(luò)融合在一起，其中BP(back propagation)網(wǎng)絡(luò)和徑向基函數(shù)RBF(Radial Basis Function)神經(jīng)網(wǎng)絡(luò)目前最為成熟、應(yīng)用最廣泛。BP神經(jīng)網(wǎng)絡(luò)是全局逼近網(wǎng)絡(luò)，可實(shí)現(xiàn)從輸入到輸出的任意復(fù)雜的非線性映射，并具有良好的泛化能力，但每一次樣本學(xué)習(xí)都要重新調(diào)整網(wǎng)絡(luò)的所有權(quán)值，尋優(yōu)參數(shù)多，因此收斂速度慢。RBF網(wǎng)絡(luò)是局部逼近的網(wǎng)絡(luò)，可大大加快學(xué)習(xí)速度并避免局部極小，滿足實(shí)時(shí)控制的要求，但在訓(xùn)練樣本增多時(shí)，RBF網(wǎng)絡(luò)的隱層神經(jīng)元數(shù)遠(yuǎn)遠(yuǎn)高于BP網(wǎng)絡(luò)，這樣使得RBF 網(wǎng)絡(luò)的復(fù)雜度大大增加，結(jié)構(gòu)過于龐大。由于模糊聚類算法可以把數(shù)據(jù)分成多個(gè)有意義的子類，這樣大大減少了隱層節(jié)點(diǎn)數(shù)，簡(jiǎn)化了RBF網(wǎng)絡(luò)，特別適用于多變量系統(tǒng)。鑒于此，筆者基于數(shù)據(jù)驅(qū)動(dòng)理論，綜合BP和RBF網(wǎng)絡(luò)的優(yōu)點(diǎn)，建立了一種新的T-S模糊神經(jīng)網(wǎng)絡(luò)。

1 T-S模型描述

首先定義一個(gè)多輸入多輸出系統(tǒng)P(U,Y)，U是系統(tǒng)輸入，U∈Rm；Y是系統(tǒng)輸出，Y∈Rq。針對(duì)該系統(tǒng)，可以將其分解成q個(gè)MISO系統(tǒng)，第i條規(guī)則可寫為：

(1)

(2)

圖1 基于T-S模型的模糊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

(3)

2 T-S模糊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

2.1前件網(wǎng)絡(luò)

第1層為輸入層，該層的節(jié)點(diǎn)數(shù)為N1=m。

第2層為模糊化層(隸屬度函數(shù)層)，隸屬度函數(shù)采用高斯函數(shù)，該層的節(jié)點(diǎn)數(shù)為N2=n×m。

第3層為規(guī)則層(RBF的輸出層)，輸出層的權(quán)值相當(dāng)于T-S模型的多項(xiàng)式參數(shù)，模糊規(guī)則的個(gè)數(shù)等于RBF網(wǎng)絡(luò)中心值個(gè)數(shù)。該層的節(jié)點(diǎn)數(shù)為N3=n。

第4層為模糊決策層，該層節(jié)點(diǎn)數(shù)為N4=n。

第5層與后件網(wǎng)絡(luò)的第4層共用。

2.2后件網(wǎng)絡(luò)

后件網(wǎng)絡(luò)近似為BP網(wǎng)絡(luò)，各層作用如下：

第4層為計(jì)算系統(tǒng)的總輸出，與前件網(wǎng)絡(luò)的第5層共用，即:

3 學(xué)習(xí)算法

3.1前件網(wǎng)絡(luò)參數(shù)學(xué)習(xí)

模糊聚類算法包括模糊C-均值聚類算法和減法聚類算法，模糊C-均值聚類算法的優(yōu)點(diǎn)是用隸屬度的方式表征數(shù)據(jù)點(diǎn)屬于某類的程度，但其對(duì)初值非常敏感，若在利用模糊C-均值聚類算法前先用減法聚類算法，這樣不但可以找到聚類初始中心，還可以根據(jù)數(shù)據(jù)的每一維對(duì)聚類中心的影響自動(dòng)產(chǎn)生較好的聚類個(gè)數(shù)，不必事先確定聚類個(gè)數(shù)，而且能收斂到全局最優(yōu)，提高聚類速度。模糊聚類算法用于RBF網(wǎng)絡(luò)隸屬度函數(shù)中心值和寬度的學(xué)習(xí)。具體的學(xué)習(xí)過程如下：

1)利用減法聚類確定聚類個(gè)數(shù)C和初始聚類中心：

①由減法聚類中的定義公式推導(dǎo)，數(shù)據(jù)點(diǎn)xi處的密度指標(biāo)定義為：

(4)

常數(shù)ra是該點(diǎn)的鄰域半徑，半徑以外的數(shù)據(jù)點(diǎn)對(duì)該點(diǎn)的密度指標(biāo)貢獻(xiàn)甚微。

②取max(Di)所對(duì)應(yīng)的數(shù)據(jù)點(diǎn)為第一個(gè)聚類中心，令xc1為選中的點(diǎn)，Dc1為其密度指標(biāo)。那么每個(gè)數(shù)據(jù)點(diǎn)xi的密度指標(biāo)可用公式:

(5)

修正。常數(shù)rb定義了一個(gè)密度指標(biāo)函數(shù)顯著減小的鄰域。為避免出現(xiàn)距離很近的聚類中心，一般取rb=1.5ra。修正了每個(gè)數(shù)據(jù)點(diǎn)的密度指標(biāo)后，選定下一個(gè)聚類中心xc2，再次修正數(shù)據(jù)點(diǎn)所有密度指標(biāo)。

2)用式(6)進(jìn)行修正，得到最終的聚類中心vk：

(6)

3)隸屬度函數(shù)的寬度值σk與其中心值有關(guān)，可以通過式(7)計(jì)算出來：

(7)

4)用下式修正隸屬度矩陣U(l)：

(8)

5)用一個(gè)矩陣范數(shù)‖·‖比較U(l)和U(l+1)。對(duì)給定的εgt;0，‖U(l+1)-U(l)‖≤ε則停止迭代，否則取l=l+1，并轉(zhuǎn)向步驟2)，最終得到的vk(k=1,2,…,C)、σk分別為RBF網(wǎng)絡(luò)的基函數(shù)的中心和寬度。

3.2后件網(wǎng)絡(luò)連接權(quán)值的學(xué)習(xí)

BP算法僅需訓(xùn)練后件網(wǎng)絡(luò)第2層的連接權(quán)值。根據(jù)梯度下降法[3]，權(quán)值的學(xué)習(xí)算法步驟如下：

(9)

從而可得：

(10)

2)取誤差代價(jià)函數(shù)為：

(11)

(12)

式中，η為學(xué)習(xí)速率，η=[0,1]。

則k+1時(shí)刻網(wǎng)絡(luò)的權(quán)值為：

(13)

如果步長(zhǎng)較小時(shí)，在誤差曲面較平坦的地區(qū)，收斂速度慢；步長(zhǎng)較大時(shí)，又會(huì)引起震蕩，附加動(dòng)量因子γ∈[0,1]是考慮上次變化對(duì)本次變化的影響，使參數(shù)的調(diào)節(jié)向著底部的平均方向變化，起到了緩沖平滑的作用，相當(dāng)于阻尼項(xiàng)，從而加速了收斂，有效的抑制了局部極小。此時(shí)的權(quán)值為：

(14)

3)返回步驟2)重復(fù)，直至誤差滿足要求為止。

4 仿真及結(jié)果分析

為方便比較，選用如下一個(gè)經(jīng)典的非線性系統(tǒng)作為仿真對(duì)象：

y(k+1)=g[y(k),y(k-1)]+u(k)

(15)

其中:

1)產(chǎn)生訓(xùn)練數(shù)據(jù)。采樣時(shí)間取1ms，對(duì)象的輸入信號(hào)為u(k)=sin(2πk/30)。在Matlab中進(jìn)行編程，神經(jīng)網(wǎng)絡(luò)的輸入為3個(gè)，即u(k)、y(k)和y(k-1)，可以得到1000組輸入輸出數(shù)據(jù)，其中，t∈[0,1]，y(0)=0,y(1)=0。

2)用T-S模糊神經(jīng)網(wǎng)絡(luò)模型代替非線性函數(shù)式(15)，仿真時(shí)選擇迭代次數(shù)為100，迭代誤差為0.00001，ra=0.4。利用減法聚類算法對(duì)所得數(shù)據(jù)進(jìn)行聚類，規(guī)則組數(shù)為6，即采用6個(gè)模糊集進(jìn)行模糊化，再通過模糊C-均值聚類算法求出數(shù)據(jù)的聚類中心和寬度，構(gòu)成T-S模糊神經(jīng)的前件網(wǎng)絡(luò)結(jié)構(gòu)。

通過仿真計(jì)算得到，T-S模糊神經(jīng)網(wǎng)絡(luò)模型的均方差為0.00114，常規(guī)模糊神經(jīng)網(wǎng)絡(luò)模型的均方差為0.0139，可以看出利用模糊聚類訓(xùn)練RBF參數(shù)的方法建模精度要高于常規(guī)模糊神經(jīng)網(wǎng)絡(luò)，即基于數(shù)據(jù)驅(qū)動(dòng)的建模方法具有很好的逼近能力，能夠擬合出系統(tǒng)的輸出特性。因此，筆者提出的建模方法計(jì)算過程中只有少量的規(guī)則參與，辨識(shí)參數(shù)少，辨識(shí)精度比較高。

5 結(jié) 論

依據(jù)一種基于數(shù)據(jù)驅(qū)動(dòng)的系統(tǒng)建模思路，提出了一 種新的自動(dòng)生成模糊系統(tǒng)規(guī)則庫(kù)的設(shè)計(jì)方法，將BP網(wǎng)絡(luò)和RBF網(wǎng)絡(luò)結(jié)合，充分利用了BP 網(wǎng)絡(luò)學(xué)習(xí)規(guī)則簡(jiǎn)單、有較強(qiáng)的非線性擬合能力和RBF網(wǎng)絡(luò)訓(xùn)練速度快及不會(huì)陷入局部最優(yōu)的特點(diǎn)。利用減法聚類對(duì)模糊C-均值聚類算法進(jìn)行初始化，確定了模糊C-均值聚類的聚類個(gè)數(shù)和初始中心位置，這樣加快了模型收斂速度，然后進(jìn)行模糊C-均值聚類，得到RBF網(wǎng)絡(luò)的中心值和寬度，再利用BP算法得到對(duì)T-S模型的后件網(wǎng)絡(luò)參數(shù)，這樣僅利用輸入輸出數(shù)據(jù)就得到復(fù)雜系統(tǒng)的模糊模型。仿真結(jié)果表明，T-S模糊神經(jīng)網(wǎng)絡(luò)模型計(jì)算結(jié)果和實(shí)際數(shù)據(jù)誤差較小，完全可以滿足實(shí)際要求，適用于非線性系統(tǒng)的在線辨識(shí)。

圖2 常規(guī)模糊神經(jīng)網(wǎng)絡(luò)模型仿真結(jié)果 圖3 T-S模糊神經(jīng)網(wǎng)絡(luò)模型仿真結(jié)果

[1]Rhodes C,Morari M,Tsimring L S.Data-based control trajectory planning for nonlinear systems[J].Physical Review E, 1997,6(3): 2398～2406.

[2]Takagi T,Sugeno M.Fuzzy Identification of Systems and its Applications to Modeling and Control[J].IEEE Trans.SMC ,1985，(15):116～132.

[3]丁衛(wèi)平. 基于BP神經(jīng)網(wǎng)絡(luò)改進(jìn)算法的數(shù)據(jù)壓縮方案[J]. 湖南理工學(xué)院學(xué)報(bào)(自然科學(xué)版), 2009,22(4):35～38.

[編輯] 李啟棟

TP273

A

1673-1409(2010)01-N063-05