田曉偉
摘 要 動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)的主要適用范圍在于進(jìn)行最優(yōu)化運(yùn)算和聯(lián)想記憶,研究它的穩(wěn)定性顯得十分必要。文章主要是在分析了動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性分析理論之后,借助于MATLAB及LMI編寫了仿真程序進(jìn)行了實(shí)例驗(yàn)證。
關(guān)鍵詞 動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò);穩(wěn)定性;仿真
中圖分類號(hào):TP391 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1671-7597(2014)05-0051-02
1 緒論
動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)應(yīng)用范圍比較廣泛,為了分析它的穩(wěn)定性及提出改善穩(wěn)定性的措施,以往的方法主要是靠進(jìn)行繁瑣的數(shù)學(xué)運(yùn)算。本文通過MATLAB及LMI編寫的仿真程序能夠快速準(zhǔn)確的對(duì)既定的神經(jīng)網(wǎng)絡(luò)進(jìn)行仿真分析,具有快速準(zhǔn)確的特點(diǎn)。
2 穩(wěn)定性分析理論
動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Networks 簡(jiǎn)稱RNNs)是應(yīng)用的最為廣泛的一種神經(jīng)網(wǎng)絡(luò)模型,它已被廣泛應(yīng)用到許多不同領(lǐng)域,諸如,圖像處理、模式識(shí)別、聯(lián)想記憶、最優(yōu)化問題等其他領(lǐng)域。它可被描述為:
(1)
其中,是狀態(tài)向量,是一個(gè)狀態(tài)值非線性活化函數(shù),,W是神經(jīng)網(wǎng)絡(luò)權(quán)值系數(shù)矩陣,是一個(gè)常數(shù)向量。
網(wǎng)絡(luò)的動(dòng)態(tài)行為決定著動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)的應(yīng)用,全局指數(shù)穩(wěn)定是動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)中最受關(guān)注的動(dòng)態(tài)屬性之一。近些年來,動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性分析已經(jīng)成為理論研究的熱點(diǎn)。首先介紹下述的動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性理論。
定義一:對(duì)于式(1)所描述的系統(tǒng)平衡點(diǎn) 來說,如果它在李亞普諾夫意義下是局部穩(wěn)定的,則該系統(tǒng)是全局漸進(jìn)穩(wěn)定的。如果存在和,對(duì)于任意的,并滿足下式。那么平衡點(diǎn)u*被認(rèn)為是全局指數(shù)穩(wěn)定的。
引理一:活化函數(shù)是全局連續(xù)和單調(diào)非減的,存在常數(shù)標(biāo)量,對(duì)于任意的并且。
(2)
為簡(jiǎn)化式(1)的穩(wěn)定性分析,需對(duì)式(1)做如下變換:
(3)
式中,u*是式(1)所表示的系統(tǒng)的平衡點(diǎn),經(jīng)變換后式(1)式可寫為:
(4)
其中,
顯然,,,并且對(duì)于任意的,滿足:
(5)
穩(wěn)定性分析結(jié)論:
定理:若存在一個(gè)矩陣P>0和三個(gè)正對(duì)角矩陣H>0,Q>0,S>0,滿足下式(6),那么(4)式所表示神經(jīng)網(wǎng)絡(luò)的原點(diǎn)是網(wǎng)絡(luò)唯一的平衡點(diǎn)并且網(wǎng)絡(luò)關(guān)于該點(diǎn)是全局指數(shù)穩(wěn)定的。
(6)
3 仿真程序?qū)崿F(xiàn)
針對(duì)上述理論成果,在MATLAB的程序編寫窗口中編寫仿真程序,保存后在MATLAB的操作窗口中運(yùn)行該文件即可查看結(jié)果。
1)仿真程序代碼段及定義解釋:
A=[2,0;0,1] %輸入A矩陣
W=1.7*[1,-2;2.29,0.5] %輸入W矩陣
第一步,首先初始化新的LMI系統(tǒng),并定義變量P、S、Q、H。
[n,y]=size(A)
cigma=[1,0;0,0.5]
setlmis([]); %初始化新的LMI
P=lmivar(1,[n 1]); %定義變量:P
b=zeros(n,2)
b(1:n,1)=ones(n,1)
S=lmivar(1,b); %定義變量:S
Q=lmivar(1,b); %定義變量:Q
H=lmivar(1,b); %定義變量:H
第二步,定義LMI和不等式中的、等其他幾項(xiàng)。
BRL=newlmi
lmiterm([BRL 1 1 P],-1,A,'s')
lmiterm([BRL 1 2 P],1,1)
lmiterm([BRL 1 2 S],-A*W',1)
lmiterm([BRL 1 2 H],W'*cigma,1)
lmiterm([BRL 1 2 Q],W',1)
lmiterm([BRL 2 2 S],W',1,'s')
lmiterm([BRL 2 2 Q],-2,inv(cigma))
lmiterm([BRL 2 2 H],-2,1)
第三步,定義LMI,并對(duì)P、S、Q、H進(jìn)行描述。
Xpos=NEWLMI
lmiterm([-Xpos 1 1 P],1,1) %定義右項(xiàng)P
lmiterm([-Xpos 2 2 S],1,1) %定義右項(xiàng)S
lmiterm([-Xpos 3 3 Q],1,1) %定義右項(xiàng)Q
lmiterm([-Xpos 4 4 H],1,1) %定義右項(xiàng)H
第四步,返回內(nèi)部描述,進(jìn)行求解。
lmisys=getlmis
[TMIN,XFEAS]=feasp(lmisys)
P=DEC2MAT(lmisys,XFEAS,P)
S=DEC2MAT(lmisys,XFEAS,S)
Q=DEC2MAT(lmisys,XFEAS,Q)
H=DEC2MAT(lmisys,XFEAS,H)
2)為檢驗(yàn)仿真程序的準(zhǔn)確性需要進(jìn)行實(shí)例驗(yàn)證,為此設(shè)定穩(wěn)定性理論當(dāng)中的A、W的值如下:
系統(tǒng)中,
在MATLAB的桌面命令窗口中運(yùn)行該仿真分析程序,具體數(shù)據(jù)如下:
TMIN=-0.0026(滿足式(6))
P =0.1400 0.0732
0.0732 4.2873
S =0.3564 0
0 0.4844
Q = 0.3715 0
0 0.5670
H = 0.3715 0
0 0.8680
當(dāng)把上述預(yù)設(shè)值進(jìn)行調(diào)整時(shí),仿真分析結(jié)論及對(duì)應(yīng)程序運(yùn)算結(jié)果都會(huì)發(fā)生變化。
TMIN =2.9441e-011(不能滿足式(6))
P =1.0e-008 *
0.2425 0.0045
0.0045 -0.0022
S =1.0e-010 *
-0.1890 0
0 0.0393
Q =1.0e-009 *
0.0170 0
0 0.1605
H = 1.0e-009 *
0.0170 0
0 0.3514
4 結(jié)束語
通過對(duì)仿真程序的預(yù)設(shè)值進(jìn)行適當(dāng)?shù)脑O(shè)定,仿真運(yùn)算的結(jié)果及數(shù)據(jù)都發(fā)生了相應(yīng)變化,前者滿足穩(wěn)定性表達(dá)式,說明此時(shí)網(wǎng)絡(luò)是穩(wěn)定的,調(diào)整后結(jié)果無法滿足穩(wěn)定性表達(dá)式,此時(shí)網(wǎng)絡(luò)是不穩(wěn)定的。
參考文獻(xiàn)
[1]Shengyuan Xu,James Lam,DanielW.C.Ho,Yun Zou. global robust exponential stability analysis for interval recurrent neural networks. Physics Letters A,2004(325):124-133.endprint
摘 要 動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)的主要適用范圍在于進(jìn)行最優(yōu)化運(yùn)算和聯(lián)想記憶,研究它的穩(wěn)定性顯得十分必要。文章主要是在分析了動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性分析理論之后,借助于MATLAB及LMI編寫了仿真程序進(jìn)行了實(shí)例驗(yàn)證。
關(guān)鍵詞 動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò);穩(wěn)定性;仿真
中圖分類號(hào):TP391 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1671-7597(2014)05-0051-02
1 緒論
動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)應(yīng)用范圍比較廣泛,為了分析它的穩(wěn)定性及提出改善穩(wěn)定性的措施,以往的方法主要是靠進(jìn)行繁瑣的數(shù)學(xué)運(yùn)算。本文通過MATLAB及LMI編寫的仿真程序能夠快速準(zhǔn)確的對(duì)既定的神經(jīng)網(wǎng)絡(luò)進(jìn)行仿真分析,具有快速準(zhǔn)確的特點(diǎn)。
2 穩(wěn)定性分析理論
動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Networks 簡(jiǎn)稱RNNs)是應(yīng)用的最為廣泛的一種神經(jīng)網(wǎng)絡(luò)模型,它已被廣泛應(yīng)用到許多不同領(lǐng)域,諸如,圖像處理、模式識(shí)別、聯(lián)想記憶、最優(yōu)化問題等其他領(lǐng)域。它可被描述為:
(1)
其中,是狀態(tài)向量,是一個(gè)狀態(tài)值非線性活化函數(shù),,W是神經(jīng)網(wǎng)絡(luò)權(quán)值系數(shù)矩陣,是一個(gè)常數(shù)向量。
網(wǎng)絡(luò)的動(dòng)態(tài)行為決定著動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)的應(yīng)用,全局指數(shù)穩(wěn)定是動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)中最受關(guān)注的動(dòng)態(tài)屬性之一。近些年來,動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性分析已經(jīng)成為理論研究的熱點(diǎn)。首先介紹下述的動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性理論。
定義一:對(duì)于式(1)所描述的系統(tǒng)平衡點(diǎn) 來說,如果它在李亞普諾夫意義下是局部穩(wěn)定的,則該系統(tǒng)是全局漸進(jìn)穩(wěn)定的。如果存在和,對(duì)于任意的,并滿足下式。那么平衡點(diǎn)u*被認(rèn)為是全局指數(shù)穩(wěn)定的。
引理一:活化函數(shù)是全局連續(xù)和單調(diào)非減的,存在常數(shù)標(biāo)量,對(duì)于任意的并且。
(2)
為簡(jiǎn)化式(1)的穩(wěn)定性分析,需對(duì)式(1)做如下變換:
(3)
式中,u*是式(1)所表示的系統(tǒng)的平衡點(diǎn),經(jīng)變換后式(1)式可寫為:
(4)
其中,
顯然,,,并且對(duì)于任意的,滿足:
(5)
穩(wěn)定性分析結(jié)論:
定理:若存在一個(gè)矩陣P>0和三個(gè)正對(duì)角矩陣H>0,Q>0,S>0,滿足下式(6),那么(4)式所表示神經(jīng)網(wǎng)絡(luò)的原點(diǎn)是網(wǎng)絡(luò)唯一的平衡點(diǎn)并且網(wǎng)絡(luò)關(guān)于該點(diǎn)是全局指數(shù)穩(wěn)定的。
(6)
3 仿真程序?qū)崿F(xiàn)
針對(duì)上述理論成果,在MATLAB的程序編寫窗口中編寫仿真程序,保存后在MATLAB的操作窗口中運(yùn)行該文件即可查看結(jié)果。
1)仿真程序代碼段及定義解釋:
A=[2,0;0,1] %輸入A矩陣
W=1.7*[1,-2;2.29,0.5] %輸入W矩陣
第一步,首先初始化新的LMI系統(tǒng),并定義變量P、S、Q、H。
[n,y]=size(A)
cigma=[1,0;0,0.5]
setlmis([]); %初始化新的LMI
P=lmivar(1,[n 1]); %定義變量:P
b=zeros(n,2)
b(1:n,1)=ones(n,1)
S=lmivar(1,b); %定義變量:S
Q=lmivar(1,b); %定義變量:Q
H=lmivar(1,b); %定義變量:H
第二步,定義LMI和不等式中的、等其他幾項(xiàng)。
BRL=newlmi
lmiterm([BRL 1 1 P],-1,A,'s')
lmiterm([BRL 1 2 P],1,1)
lmiterm([BRL 1 2 S],-A*W',1)
lmiterm([BRL 1 2 H],W'*cigma,1)
lmiterm([BRL 1 2 Q],W',1)
lmiterm([BRL 2 2 S],W',1,'s')
lmiterm([BRL 2 2 Q],-2,inv(cigma))
lmiterm([BRL 2 2 H],-2,1)
第三步,定義LMI,并對(duì)P、S、Q、H進(jìn)行描述。
Xpos=NEWLMI
lmiterm([-Xpos 1 1 P],1,1) %定義右項(xiàng)P
lmiterm([-Xpos 2 2 S],1,1) %定義右項(xiàng)S
lmiterm([-Xpos 3 3 Q],1,1) %定義右項(xiàng)Q
lmiterm([-Xpos 4 4 H],1,1) %定義右項(xiàng)H
第四步,返回內(nèi)部描述,進(jìn)行求解。
lmisys=getlmis
[TMIN,XFEAS]=feasp(lmisys)
P=DEC2MAT(lmisys,XFEAS,P)
S=DEC2MAT(lmisys,XFEAS,S)
Q=DEC2MAT(lmisys,XFEAS,Q)
H=DEC2MAT(lmisys,XFEAS,H)
2)為檢驗(yàn)仿真程序的準(zhǔn)確性需要進(jìn)行實(shí)例驗(yàn)證,為此設(shè)定穩(wěn)定性理論當(dāng)中的A、W的值如下:
系統(tǒng)中,
在MATLAB的桌面命令窗口中運(yùn)行該仿真分析程序,具體數(shù)據(jù)如下:
TMIN=-0.0026(滿足式(6))
P =0.1400 0.0732
0.0732 4.2873
S =0.3564 0
0 0.4844
Q = 0.3715 0
0 0.5670
H = 0.3715 0
0 0.8680
當(dāng)把上述預(yù)設(shè)值進(jìn)行調(diào)整時(shí),仿真分析結(jié)論及對(duì)應(yīng)程序運(yùn)算結(jié)果都會(huì)發(fā)生變化。
TMIN =2.9441e-011(不能滿足式(6))
P =1.0e-008 *
0.2425 0.0045
0.0045 -0.0022
S =1.0e-010 *
-0.1890 0
0 0.0393
Q =1.0e-009 *
0.0170 0
0 0.1605
H = 1.0e-009 *
0.0170 0
0 0.3514
4 結(jié)束語
通過對(duì)仿真程序的預(yù)設(shè)值進(jìn)行適當(dāng)?shù)脑O(shè)定,仿真運(yùn)算的結(jié)果及數(shù)據(jù)都發(fā)生了相應(yīng)變化,前者滿足穩(wěn)定性表達(dá)式,說明此時(shí)網(wǎng)絡(luò)是穩(wěn)定的,調(diào)整后結(jié)果無法滿足穩(wěn)定性表達(dá)式,此時(shí)網(wǎng)絡(luò)是不穩(wěn)定的。
參考文獻(xiàn)
[1]Shengyuan Xu,James Lam,DanielW.C.Ho,Yun Zou. global robust exponential stability analysis for interval recurrent neural networks. Physics Letters A,2004(325):124-133.endprint
摘 要 動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)的主要適用范圍在于進(jìn)行最優(yōu)化運(yùn)算和聯(lián)想記憶,研究它的穩(wěn)定性顯得十分必要。文章主要是在分析了動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性分析理論之后,借助于MATLAB及LMI編寫了仿真程序進(jìn)行了實(shí)例驗(yàn)證。
關(guān)鍵詞 動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò);穩(wěn)定性;仿真
中圖分類號(hào):TP391 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1671-7597(2014)05-0051-02
1 緒論
動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)應(yīng)用范圍比較廣泛,為了分析它的穩(wěn)定性及提出改善穩(wěn)定性的措施,以往的方法主要是靠進(jìn)行繁瑣的數(shù)學(xué)運(yùn)算。本文通過MATLAB及LMI編寫的仿真程序能夠快速準(zhǔn)確的對(duì)既定的神經(jīng)網(wǎng)絡(luò)進(jìn)行仿真分析,具有快速準(zhǔn)確的特點(diǎn)。
2 穩(wěn)定性分析理論
動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Networks 簡(jiǎn)稱RNNs)是應(yīng)用的最為廣泛的一種神經(jīng)網(wǎng)絡(luò)模型,它已被廣泛應(yīng)用到許多不同領(lǐng)域,諸如,圖像處理、模式識(shí)別、聯(lián)想記憶、最優(yōu)化問題等其他領(lǐng)域。它可被描述為:
(1)
其中,是狀態(tài)向量,是一個(gè)狀態(tài)值非線性活化函數(shù),,W是神經(jīng)網(wǎng)絡(luò)權(quán)值系數(shù)矩陣,是一個(gè)常數(shù)向量。
網(wǎng)絡(luò)的動(dòng)態(tài)行為決定著動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)的應(yīng)用,全局指數(shù)穩(wěn)定是動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)中最受關(guān)注的動(dòng)態(tài)屬性之一。近些年來,動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性分析已經(jīng)成為理論研究的熱點(diǎn)。首先介紹下述的動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性理論。
定義一:對(duì)于式(1)所描述的系統(tǒng)平衡點(diǎn) 來說,如果它在李亞普諾夫意義下是局部穩(wěn)定的,則該系統(tǒng)是全局漸進(jìn)穩(wěn)定的。如果存在和,對(duì)于任意的,并滿足下式。那么平衡點(diǎn)u*被認(rèn)為是全局指數(shù)穩(wěn)定的。
引理一:活化函數(shù)是全局連續(xù)和單調(diào)非減的,存在常數(shù)標(biāo)量,對(duì)于任意的并且。
(2)
為簡(jiǎn)化式(1)的穩(wěn)定性分析,需對(duì)式(1)做如下變換:
(3)
式中,u*是式(1)所表示的系統(tǒng)的平衡點(diǎn),經(jīng)變換后式(1)式可寫為:
(4)
其中,
顯然,,,并且對(duì)于任意的,滿足:
(5)
穩(wěn)定性分析結(jié)論:
定理:若存在一個(gè)矩陣P>0和三個(gè)正對(duì)角矩陣H>0,Q>0,S>0,滿足下式(6),那么(4)式所表示神經(jīng)網(wǎng)絡(luò)的原點(diǎn)是網(wǎng)絡(luò)唯一的平衡點(diǎn)并且網(wǎng)絡(luò)關(guān)于該點(diǎn)是全局指數(shù)穩(wěn)定的。
(6)
3 仿真程序?qū)崿F(xiàn)
針對(duì)上述理論成果,在MATLAB的程序編寫窗口中編寫仿真程序,保存后在MATLAB的操作窗口中運(yùn)行該文件即可查看結(jié)果。
1)仿真程序代碼段及定義解釋:
A=[2,0;0,1] %輸入A矩陣
W=1.7*[1,-2;2.29,0.5] %輸入W矩陣
第一步,首先初始化新的LMI系統(tǒng),并定義變量P、S、Q、H。
[n,y]=size(A)
cigma=[1,0;0,0.5]
setlmis([]); %初始化新的LMI
P=lmivar(1,[n 1]); %定義變量:P
b=zeros(n,2)
b(1:n,1)=ones(n,1)
S=lmivar(1,b); %定義變量:S
Q=lmivar(1,b); %定義變量:Q
H=lmivar(1,b); %定義變量:H
第二步,定義LMI和不等式中的、等其他幾項(xiàng)。
BRL=newlmi
lmiterm([BRL 1 1 P],-1,A,'s')
lmiterm([BRL 1 2 P],1,1)
lmiterm([BRL 1 2 S],-A*W',1)
lmiterm([BRL 1 2 H],W'*cigma,1)
lmiterm([BRL 1 2 Q],W',1)
lmiterm([BRL 2 2 S],W',1,'s')
lmiterm([BRL 2 2 Q],-2,inv(cigma))
lmiterm([BRL 2 2 H],-2,1)
第三步,定義LMI,并對(duì)P、S、Q、H進(jìn)行描述。
Xpos=NEWLMI
lmiterm([-Xpos 1 1 P],1,1) %定義右項(xiàng)P
lmiterm([-Xpos 2 2 S],1,1) %定義右項(xiàng)S
lmiterm([-Xpos 3 3 Q],1,1) %定義右項(xiàng)Q
lmiterm([-Xpos 4 4 H],1,1) %定義右項(xiàng)H
第四步,返回內(nèi)部描述,進(jìn)行求解。
lmisys=getlmis
[TMIN,XFEAS]=feasp(lmisys)
P=DEC2MAT(lmisys,XFEAS,P)
S=DEC2MAT(lmisys,XFEAS,S)
Q=DEC2MAT(lmisys,XFEAS,Q)
H=DEC2MAT(lmisys,XFEAS,H)
2)為檢驗(yàn)仿真程序的準(zhǔn)確性需要進(jìn)行實(shí)例驗(yàn)證,為此設(shè)定穩(wěn)定性理論當(dāng)中的A、W的值如下:
系統(tǒng)中,
在MATLAB的桌面命令窗口中運(yùn)行該仿真分析程序,具體數(shù)據(jù)如下:
TMIN=-0.0026(滿足式(6))
P =0.1400 0.0732
0.0732 4.2873
S =0.3564 0
0 0.4844
Q = 0.3715 0
0 0.5670
H = 0.3715 0
0 0.8680
當(dāng)把上述預(yù)設(shè)值進(jìn)行調(diào)整時(shí),仿真分析結(jié)論及對(duì)應(yīng)程序運(yùn)算結(jié)果都會(huì)發(fā)生變化。
TMIN =2.9441e-011(不能滿足式(6))
P =1.0e-008 *
0.2425 0.0045
0.0045 -0.0022
S =1.0e-010 *
-0.1890 0
0 0.0393
Q =1.0e-009 *
0.0170 0
0 0.1605
H = 1.0e-009 *
0.0170 0
0 0.3514
4 結(jié)束語
通過對(duì)仿真程序的預(yù)設(shè)值進(jìn)行適當(dāng)?shù)脑O(shè)定,仿真運(yùn)算的結(jié)果及數(shù)據(jù)都發(fā)生了相應(yīng)變化,前者滿足穩(wěn)定性表達(dá)式,說明此時(shí)網(wǎng)絡(luò)是穩(wěn)定的,調(diào)整后結(jié)果無法滿足穩(wěn)定性表達(dá)式,此時(shí)網(wǎng)絡(luò)是不穩(wěn)定的。
參考文獻(xiàn)
[1]Shengyuan Xu,James Lam,DanielW.C.Ho,Yun Zou. global robust exponential stability analysis for interval recurrent neural networks. Physics Letters A,2004(325):124-133.endprint