一種基于Bessel函數(shù)的混沌神經(jīng)網(wǎng)絡(luò)

葉永剛，徐耀群

(哈爾濱商業(yè)大學(xué)基礎(chǔ)科學(xué)學(xué)院，哈爾濱150028)

A·Potapove等指出，如果混沌神經(jīng)元的激勵(lì)函數(shù)是非單調(diào)函數(shù)，則單神經(jīng)元能較快地執(zhí)行混沌搜索[1].Shuai等提出有效的激勵(lì)函數(shù)可以是不同的表現(xiàn)形式，并且應(yīng)該表現(xiàn)出混沌行為[2].目前已有多種類(lèi)型的混沌神經(jīng)網(wǎng)絡(luò)模型，并已用其成功地解決了組合優(yōu)化問(wèn)題[3－5]，但多數(shù)的混沌神經(jīng)網(wǎng)絡(luò)的神經(jīng)元激勵(lì)函數(shù)采用單調(diào)遞增的函數(shù)[6－9].本文在Chen－Aihara暫態(tài)混沌神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上提出了一種新的暫態(tài)混沌神經(jīng)網(wǎng)絡(luò)模型，在此模型中我們選擇了具有較高的非線(xiàn)性度及較好的函數(shù)逼近能力的Bessel函數(shù)與Sigmoid函數(shù)的組合作為新的激勵(lì)函數(shù)，構(gòu)建了一種新的混沌神經(jīng)元模型，該激勵(lì)函數(shù)為非單調(diào)遞增但總體上是遞增的函數(shù).利用混沌神經(jīng)元的倒分叉圖和最大Lyapunov指數(shù)時(shí)間演化圖分析了新的暫態(tài)混沌神經(jīng)網(wǎng)絡(luò)的動(dòng)力學(xué)特性.利用這種新的暫態(tài)混沌神經(jīng)元模型我們建立了一種暫態(tài)神經(jīng)網(wǎng)絡(luò)，通過(guò)對(duì)所選擇的非線(xiàn)性函數(shù)優(yōu)化和10個(gè)城市的TSP問(wèn)題的求解驗(yàn)證了此模型具有更快地找到全局最小的能力.

1 基于Bessel函數(shù)的混沌神經(jīng)網(wǎng)絡(luò)模型

1.1 Bessel函數(shù)

當(dāng)v=－1，0，1時(shí)Bessel函數(shù)的圖像如圖1所示.

圖1 v=－1，0，1時(shí)圖像

由圖1知，當(dāng)v=－1，1時(shí)Bessel函數(shù)是奇函數(shù)，當(dāng)v=0時(shí)Bessel函數(shù)是偶函數(shù)，且Bessel函數(shù)當(dāng)x→∞時(shí)是震蕩衰減的.

1.2 暫態(tài)混沌神經(jīng)元模型

利用Bessel函數(shù)的特性，我們構(gòu)造一種新暫態(tài)混沌的神經(jīng)元模型，模型中激勵(lì)函數(shù)為0階的Bessel函數(shù)與Sigmoid函數(shù)的組合，取適當(dāng)?shù)膮?shù)后，激勵(lì)函數(shù)為非單調(diào)遞增但總體上是遞增的函數(shù)，稱(chēng)此模型為Sigmoid－Bessel－Function模型，簡(jiǎn)稱(chēng)SBF模型.如下:其中:y(t)為神經(jīng)元在t時(shí)刻的內(nèi)部狀態(tài);x(t)為激勵(lì)函數(shù)即神經(jīng)元在的t時(shí)刻的輸出;f(u)為該模型中激勵(lì)函數(shù);k的取值范圍為0≤k≤1，表示神經(jīng)元保留內(nèi)部狀態(tài)的能力;z(t)是自反饋連接項(xiàng);I0為正參數(shù);β是模擬退火參數(shù);λ為組合系數(shù);c為Bessel函數(shù)的伸縮系數(shù);ε0是激勵(lì)函數(shù)的陡度參數(shù);

對(duì)于激勵(lì)函數(shù)f(u)，若取參數(shù)λ=1/5，c=5，ε0=0.5時(shí)其圖像如圖2所示.

圖2 激勵(lì)函數(shù)在區(qū)間[－10，10]內(nèi)的圖像

為進(jìn)一步分析此暫態(tài)混沌神經(jīng)元的混沌動(dòng)力學(xué)特性，分別取參數(shù)y(1)=0.825，k=1，z(1)=0.85，ε0=0.04，I0=0.45，β=0.002，λ=1/5，c=5時(shí)得神經(jīng)元的倒分岔圖和最大Lyapunov指數(shù)時(shí)間演化圖如圖3、4所示.

圖3 SBF模型的暫態(tài)混沌神經(jīng)元倒分岔圖

由倒分岔圖3可知，SBF模型的神經(jīng)元的輸出隨著的不斷衰減，經(jīng)過(guò)一個(gè)混沌倒分岔過(guò)程逐漸穩(wěn)定于平衡點(diǎn).因此，網(wǎng)絡(luò)求解優(yōu)化問(wèn)題時(shí)，有利于克服一般隨機(jī)算法中以分布遍歷性為搜索機(jī)制帶來(lái)的局限性，使搜索具有內(nèi)隨機(jī)性和軌道遍歷性，從而模型具有更強(qiáng)的避免收斂到局部極小的能力.

圖4 神經(jīng)元最大Lyapunov指數(shù)時(shí)間演化圖

最大Lyapunov指數(shù)是經(jīng)常用于定量描述混沌行為的量，當(dāng)最大Lyapunov指數(shù)為正時(shí)，則神經(jīng)元具有混沌動(dòng)力學(xué)特性.由圖4可知，神經(jīng)元在開(kāi)始時(shí)最大Lyapunov指數(shù)為正，網(wǎng)絡(luò)處于混沌搜索狀態(tài)，但隨著自反饋連接項(xiàng)越來(lái)越小，最大Lyapunov指數(shù)由正逐漸變負(fù)，搜索逐漸失去混沌搜索能力，最終能使網(wǎng)絡(luò)處于一種穩(wěn)定的平衡狀態(tài).

綜上可知，該神經(jīng)元模型具有暫態(tài)混沌動(dòng)力學(xué)行為，由于混沌搜索具有內(nèi)隨機(jī)性和軌道遍歷性，故此神經(jīng)元模型能使網(wǎng)絡(luò)盡可能的避免收斂到局部最小值.

1.3 SBF暫態(tài)混沌神經(jīng)網(wǎng)絡(luò)模型

1.3.1 Chen－Aihara暫態(tài)混沌神經(jīng)網(wǎng)絡(luò)

Chen－Aihara神經(jīng)網(wǎng)絡(luò)模型如下[10]:

其中:xi(t)為激勵(lì)函數(shù)即第i個(gè)神經(jīng)元在t時(shí)刻的輸出;其中yi(t)為第i個(gè)神經(jīng)元在t時(shí)刻的內(nèi)部狀態(tài);ε0是激勵(lì)函數(shù)的陡度參數(shù);k為神經(jīng)隔膜的阻尼因子，0≤k≤1，代表網(wǎng)絡(luò)記憶保留或遺忘內(nèi)部狀態(tài)的能力;γ為輸入的正的尺度參數(shù)，代表著能量函數(shù)對(duì)混沌動(dòng)力學(xué)特性的影響;wij為神經(jīng)元j與i的連接權(quán)值，且有wij=wji，wii=0;Ii為神經(jīng)元i的輸入偏差;zi(t)為自反饋連接項(xiàng)，其值在模擬退火參數(shù)β的作用下不斷減小，最終使網(wǎng)絡(luò)處于一種穩(wěn)定的平衡狀態(tài);I0為一正參數(shù).

1.3.2 SBF暫態(tài)混沌神經(jīng)網(wǎng)絡(luò)

在Chen－Aihara神經(jīng)網(wǎng)絡(luò)模型基礎(chǔ)上，利用構(gòu)造的暫態(tài)混沌神經(jīng)元模型，建立如下SBF暫態(tài)混沌神經(jīng)網(wǎng)絡(luò)模型:

其中:xi(t)為激勵(lì)函數(shù)即第i個(gè)神經(jīng)元在t時(shí)刻的輸出;其中yi(t)為第i個(gè)神經(jīng)元在t時(shí)刻的內(nèi)部狀態(tài);ε0是激勵(lì)函數(shù)的陡度參數(shù);k為神經(jīng)隔膜的阻尼因子，0≤k≤1，代表網(wǎng)絡(luò)記憶保留或遺忘內(nèi)部狀態(tài)的能力;γ為輸入的正的尺度參數(shù)，代表著能量函數(shù)對(duì)混沌動(dòng)力學(xué)特性的影響;wij為神經(jīng)元j與i的連接權(quán)值，且有wij=wji，wii=0;Ii為神經(jīng)元i的輸入偏差;zi(t)為自反饋連接項(xiàng)，其值在模擬退火參數(shù)β的作用下不斷減小，最終使網(wǎng)絡(luò)處于一種穩(wěn)定的平衡狀態(tài);I0為一正參數(shù);λ為組合系數(shù);c為Bessel函數(shù)的伸縮系數(shù).

2 SBF暫態(tài)混沌神經(jīng)網(wǎng)絡(luò)模型在優(yōu)化問(wèn)題中的應(yīng)用

2.1 SBF暫態(tài)混沌神經(jīng)網(wǎng)絡(luò)模型在函數(shù)優(yōu)化中的應(yīng)用選取以下優(yōu)化函數(shù)[11]:

函數(shù)f的最小值為0，最小值點(diǎn)為(0.7，0.5);局部極小點(diǎn)為(0.6，0.4)與(0.6，0.5).

數(shù)據(jù)仿真中選取參數(shù) ε0=0.4，k=1，γ=0.05，I0=0.45，β=0.002，y(1)=0.825，y(2)=0.825，z1(1)0.825，z1(1)=z2(1)=0.85時(shí)，SBF暫態(tài)混沌神經(jīng)網(wǎng)絡(luò)模型求解優(yōu)化函數(shù)f的能量函數(shù)演化如圖5所示.

圖5 優(yōu)化函數(shù)f的能量函數(shù)時(shí)間演化圖

兩個(gè)神經(jīng)元輸出值x1，x2的時(shí)間演化如圖6所示.

圖6 兩個(gè)神經(jīng)元輸出值x1，x2時(shí)間演化圖

當(dāng)網(wǎng)絡(luò)運(yùn)行5 000次時(shí)優(yōu)化函數(shù)的能量函數(shù)值為7.293 240 7×10－9，此時(shí)x1=0.699 928，x2=0.499 986，搜索逐漸收斂到最小值.

2.2 SBF暫態(tài)混沌神經(jīng)網(wǎng)絡(luò)模型在TSP問(wèn)題求解中的應(yīng)用

TSP問(wèn)題即旅行商最短路徑問(wèn)題是一個(gè)最具代表性的組合優(yōu)化問(wèn)題，找到該問(wèn)題一個(gè)行之有效的解法是多年來(lái)許多學(xué)者努力的目標(biāo).TSP問(wèn)題可以簡(jiǎn)述為:給定n個(gè)城市及任意兩城市之間的距離，要求確定一條經(jīng)過(guò)所有城市且每個(gè)城市僅經(jīng)過(guò)一次的最短路線(xiàn).本文將SBF暫態(tài)混沌神經(jīng)網(wǎng)絡(luò)模型應(yīng)用于求解10個(gè)城市的TSP問(wèn)題，仿真結(jié)果表明，此神經(jīng)網(wǎng)絡(luò)模型比Chen－Aihara神經(jīng)網(wǎng)絡(luò)模型具有更好的求解TSP問(wèn)題的能力.

取能量函數(shù)為:

其中:dik為城市i到城市k的距離;xij表示以順序j訪(fǎng)問(wèn)城市i，參數(shù)A=B，一個(gè)全局最小的能量值代表一條最短的有效路徑.

選取歸一化后的10個(gè)城市坐標(biāo)，取值分別為:(0.4，0.443 9);(0.243 9，0.146 3);(0.170 7，0.229 3);(0.229 3，0.71 6);(0.517 1，0.941 4);(0.873 2，0.653 6);(0.687 8，0.521 9);(0.848 8，0.360 9);(0.668 3，0.253 6);(0.619 5，0.263 4)[5].該10個(gè)坐標(biāo)的TSP問(wèn)題滿(mǎn)足條件的最短路徑長(zhǎng)度為2.677 6.

對(duì)于SBF暫態(tài)混沌神經(jīng)網(wǎng)絡(luò)模型，選取參數(shù)A=B=1、D=2、γ=0.25、k=1、I0=0.4、ε0=0.5、z(1)=0.8、β=0.002，每次運(yùn)行程序時(shí)，在區(qū)間(－0.1，01)內(nèi)200次隨機(jī)賦予xij初值，程序共運(yùn)行10次，其仿真結(jié)果如表1所示.

表1 SBF暫態(tài)混沌神經(jīng)網(wǎng)絡(luò)求解10城市旅行商問(wèn)題的運(yùn)行結(jié)果

由表1知，該網(wǎng)絡(luò)求解10城市旅行商問(wèn)題在上述參數(shù)情況下，其合法路徑比最大為100%，合法路徑比平均為95.7%，最優(yōu)路徑比最大為100%，最優(yōu)路徑比平均為95.6%，仿真結(jié)果表明，該神經(jīng)網(wǎng)絡(luò)具有很好的解決TSP問(wèn)題的能力.仿真得最優(yōu)路徑如圖7所示.

圖7 10城市TSP歸一化坐標(biāo)的最短路徑

3 結(jié)語(yǔ)

由于Bessel函數(shù)具有很高的非線(xiàn)性度及較好的函數(shù)逼近能力，本文把0階Bessel函數(shù)引入到Chen－Aihara暫態(tài)混沌神經(jīng)網(wǎng)絡(luò)中的激勵(lì)函數(shù)中，利用伸縮的0階Bessel函數(shù)和Sigmoid函數(shù)組合作為新的激勵(lì)函數(shù)，構(gòu)建了一種新的暫態(tài)混沌神經(jīng)網(wǎng)絡(luò).將此模型應(yīng)用到求解優(yōu)化函數(shù)及TSP問(wèn)題的最優(yōu)解中，仿真結(jié)果表明，此模型具有很強(qiáng)的求最優(yōu)解能力.本文的模型中激勵(lì)函數(shù)選取了固定的參數(shù)做了仿真實(shí)驗(yàn)，對(duì)于激勵(lì)函數(shù)中參數(shù)的變化及高階Bessel函數(shù)對(duì)模型的影響是我們要進(jìn)一步研究的內(nèi)容.

[1]POTAPOVE A，KALIM.Robust chaos in neural networks[J].Physics Letters－A，2000，277(6):310－322.

[2]SHUAIJW，CHEN Z X，LIU R T，et al.Self－evolution neuralmodel[J].Physics Letters－A，1996，221(5):311－316.

[3]CHEN L，AIHARA K.Chaotic simulated annealing by a neural network modelwith transient chaos[J].Neural Networks，1995，8(6):915－930.

[4]徐耀群，楊學(xué)嶺，一類(lèi)具有反三角函數(shù)自反饋的混沌神經(jīng)網(wǎng)絡(luò)及其應(yīng)用[J].哈爾濱商業(yè)大學(xué)學(xué)報(bào):自然科學(xué)版，2010，26(3):324－328.

[5]徐耀群，孫 明.Shannon小波混沌神經(jīng)網(wǎng)絡(luò)及其TSP(城市旅行商)問(wèn)題的求解[J].控制理論與應(yīng)用，2008，25(3):574－577.

[6]張 強(qiáng)，馬潤(rùn)年，許 進(jìn).一種混沌神經(jīng)網(wǎng)絡(luò)模型及其在優(yōu)化中的應(yīng)用[J].系統(tǒng)工程與電子技術(shù)，2002，24(2):48－50.

[7]修春波，劉向東.一種新的混沌神經(jīng)網(wǎng)絡(luò)及其應(yīng)用[J].電子學(xué)報(bào)，2005，33(5):868－870.

[8]XU Y Q，SUN M，SHEN JH.Shannon wavelet chaotic neural networks[J].Lecture Notes in Computer Science，2006，4247:244－251.

[9]賀昱曜，王力波.混沌神經(jīng)網(wǎng)絡(luò)及其在最優(yōu)化問(wèn)題中的應(yīng)用[J].控制理論與應(yīng)用，2000，17(6):847－852.

[10]徐耀群，孫 明.混沌神經(jīng)網(wǎng)絡(luò)及其應(yīng)用[M].哈爾濱:黑龍江大學(xué)出版社，2012.

[11]王 濤，劉冬華.融合混沌和捕食搜索的混合粒子群算法[J].哈爾濱商業(yè)大學(xué)學(xué)報(bào):自然科學(xué)版，2013，29(3):355－358.