基于混沌時(shí)間序列的模糊神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)研究

權(quán)鵬宇+車文剛+余任+周志元

摘 要：為研究混沌時(shí)間序列預(yù)測(cè)問(wèn)題，提出了一種結(jié)合模糊神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)方法，對(duì)輸入數(shù)據(jù)進(jìn)行模糊規(guī)則提取，再經(jīng)過(guò)優(yōu)化得到最佳模糊規(guī)則庫(kù)。通過(guò)神經(jīng)網(wǎng)絡(luò)的自適應(yīng)學(xué)習(xí)能力調(diào)整隸屬函數(shù)參數(shù)及網(wǎng)絡(luò)權(quán)值等信息，對(duì)相關(guān)混沌時(shí)間序列進(jìn)行預(yù)測(cè)。對(duì)Mackey-Glass系統(tǒng)及Lorenz系統(tǒng)進(jìn)行仿真實(shí)驗(yàn)，結(jié)果證明了該系統(tǒng)的有效性。

關(guān)鍵詞：混沌時(shí)間序列；神經(jīng)網(wǎng)絡(luò)；模糊推理系統(tǒng)；自適應(yīng)學(xué)習(xí)

DOIDOI：10.11907/rjdk.172284

中圖分類號(hào)：TP301

文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1672-7800（2018）002-0023-05

0 引言

混沌時(shí)間序列是確定系統(tǒng)中出現(xiàn)的一種無(wú)規(guī)則運(yùn)動(dòng)?；煦鐣r(shí)間序列常常表現(xiàn)為其運(yùn)動(dòng)的離散情況，混沌時(shí)間序列是由混沌模型生成的具有混沌特性的時(shí)間序列，在混沌動(dòng)力學(xué)系統(tǒng)中，通過(guò)時(shí)間序列研究整個(gè)系統(tǒng)的動(dòng)力學(xué)行為并對(duì)混沌序列進(jìn)行預(yù)測(cè)。目前，國(guó)內(nèi)外學(xué)者對(duì)混沌時(shí)間序列預(yù)測(cè)提出了多種方法，比如自適應(yīng)高階非線性濾波法、最大李雅普諾夫指數(shù)法、神經(jīng)網(wǎng)絡(luò)法等[1-3]。目前，混沌時(shí)間序列預(yù)測(cè)在稅收預(yù)測(cè)、電力負(fù)荷預(yù)測(cè)、天文學(xué)預(yù)測(cè)、股市預(yù)測(cè)等方面有著廣泛應(yīng)用[2-4]。

傳統(tǒng)的混沌時(shí)間序列預(yù)測(cè)以相空間重構(gòu)為基礎(chǔ)，包括相空間重構(gòu)和預(yù)測(cè)模型建立兩個(gè)階段[7]。已有的相空間重構(gòu)方法眾多，但其實(shí)現(xiàn)都比較繁瑣、效率低，漸漸被放棄。近年來(lái)，在復(fù)雜非線性系統(tǒng)建模、預(yù)測(cè)與控制研究中，神經(jīng)網(wǎng)絡(luò)技術(shù)尤其是模糊神經(jīng)網(wǎng)絡(luò)理論是重點(diǎn)[8]。模糊神經(jīng)網(wǎng)絡(luò)既有模糊系統(tǒng)的邏輯推理能力又有神經(jīng)網(wǎng)絡(luò)的自適應(yīng)能力。近年來(lái)，許多具有學(xué)習(xí)能力的模糊神經(jīng)網(wǎng)絡(luò)模型被開發(fā)出來(lái)，如Mamdani型模糊推理模型[5]、Tsukamoto型模糊推理模型[6]等。

本文提出一種基于模糊神經(jīng)網(wǎng)絡(luò)模型，可展開學(xué)習(xí)與推理，以求達(dá)到最初期望值，獲取相應(yīng)知識(shí)，確立模糊初始規(guī)則，達(dá)到期望目標(biāo)。應(yīng)用神經(jīng)網(wǎng)絡(luò)的反向傳播算法修改隸屬函數(shù)某些信息，如網(wǎng)絡(luò)權(quán)值等，可大幅降低匹配時(shí)間，有效提升推理速度，對(duì)提升體系自適應(yīng)水平與混沌時(shí)間序列的準(zhǔn)確度與速度作用顯著。此體系可有效估測(cè)Lorenz系統(tǒng)混沌時(shí)間序列，通過(guò)實(shí)驗(yàn)數(shù)據(jù)可詳細(xì)了解到模糊神經(jīng)網(wǎng)絡(luò)實(shí)施效果。

1 模糊神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)

本文模糊神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)如圖1所示，各部分輸入用I表示，輸出用O表示，通過(guò)輸入輸出可獲得下標(biāo)具體信息。上標(biāo)代表節(jié)點(diǎn)，即第m層的第n個(gè)節(jié)點(diǎn)的輸出情況用Inm表達(dá)，同樣，也可用Onm表達(dá)。其中，神經(jīng)元詳細(xì)情況說(shuō)明如下。

第一層表示輸入層，每一層都有幾個(gè)變量，節(jié)點(diǎn)數(shù)目通過(guò)體系進(jìn)行調(diào)控。可將獲取信息值送到下一層神經(jīng)元中。輸入輸出關(guān)系表示為：

式（1）中n為輸入變量的個(gè)數(shù)。

第二層為模糊化層，該層將輸入層的清晰輸入變得較為模糊。與上層神經(jīng)元連接權(quán)值大致是1，明確變動(dòng)使其模糊。此層神經(jīng)元與上一部分之間的連接權(quán)值是1，運(yùn)用高斯隸屬度函數(shù)進(jìn)行計(jì)算。該層輸入輸出關(guān)系為：

根據(jù)圖1可看到第三層代表模糊規(guī)則層，在此部分中所有神經(jīng)元都具有相適應(yīng)的模糊標(biāo)準(zhǔn)，其中輸入部分代表此標(biāo)準(zhǔn)的前件部分（IF部分），輸出部分代表此標(biāo)準(zhǔn)條件下隸屬度的乘積，即：

第四層為結(jié)論層，本層每個(gè)神經(jīng)元的隸屬函數(shù)取為高斯型，依據(jù)前置標(biāo)準(zhǔn)的后件部分（THEN部分）在各種模糊區(qū)域中進(jìn)行計(jì)算。此層和第三層節(jié)點(diǎn)權(quán)值均代表模糊規(guī)則強(qiáng)度， wlk代表可調(diào)控參數(shù)，此層函數(shù)如下：

第五層代表輸出層，此部分神經(jīng)元與可實(shí)現(xiàn)權(quán)值連接，進(jìn)而達(dá)到解模糊效果。運(yùn)用面積中心法處理存在問(wèn)題，最后的輸出內(nèi)容表達(dá)如下：

2 學(xué)習(xí)算法

在模糊神經(jīng)網(wǎng)絡(luò)推理系統(tǒng)模型中，學(xué)習(xí)過(guò)程包括兩個(gè)部分，即結(jié)構(gòu)學(xué)習(xí)和參數(shù)學(xué)習(xí) [17]。結(jié)構(gòu)學(xué)習(xí)部分主要處理輸入數(shù)據(jù)，對(duì)最佳模糊規(guī)則進(jìn)行提取，并確定整個(gè)系統(tǒng)結(jié)構(gòu)；參數(shù)學(xué)習(xí)階段則使用反向傳播算法，對(duì)模糊神經(jīng)網(wǎng)絡(luò)中相關(guān)的權(quán)值進(jìn)行調(diào)整。結(jié)構(gòu)學(xué)習(xí)決定了模糊規(guī)則的數(shù)量及輸入輸出模糊子集個(gè)數(shù)，參數(shù)學(xué)習(xí)決定了每條規(guī)則的具體表達(dá)及隸屬函數(shù)形式[14-15]。

2.1 結(jié)構(gòu)學(xué)習(xí)

在模糊推理體系中，模糊規(guī)則的識(shí)別和提取是非常重要的一環(huán)。從局限的樣本數(shù)據(jù)中得到模糊規(guī)則，詳細(xì)步驟如下：①輸入輸出空間模糊分割；②在各子空間中獲取相應(yīng)規(guī)則。這里選取兩個(gè)輸入一個(gè)輸出的系統(tǒng)進(jìn)行詳細(xì)說(shuō)明。

（1）對(duì)輸入輸出空間進(jìn)行模糊化分割，將其劃分成若干模糊子空間，確定每個(gè)子空間的模糊標(biāo)記，將數(shù)據(jù)輸入信息轉(zhuǎn)化為語(yǔ)言輸入信息。之后根據(jù)隸屬函數(shù)中心等分?jǐn)?shù)據(jù)空間原則獲取隸屬函數(shù)的初始參數(shù)，其中包括中心與寬度。

（2）在相應(yīng)數(shù)據(jù)對(duì)中識(shí)別并提取模糊規(guī)則。先需要確定不同子空間相應(yīng)數(shù)據(jù)的隸屬度，之后為xi1，xi2，yi在區(qū)域賦予最大隸屬度，最后從輸入輸出數(shù)據(jù)對(duì)中提取相應(yīng)的模糊規(guī)則。

（3）規(guī)則合并優(yōu)化。將得到的模糊規(guī)則定義一個(gè)置信度，其置信度大小為該模糊規(guī)則中各個(gè)變量隸屬度的乘積。在相同規(guī)則下，當(dāng)其前件部分（IF部分）相同后件部分（THEN部分）不同時(shí)，取強(qiáng)度最大值。在此條件下，將置信度最大值作為此規(guī)則的置信度。把前件部分相同而后件部分不同的規(guī)則合并成一條規(guī)則，出現(xiàn)頻率最高的規(guī)則作為合并后的規(guī)則，其置信度作為該規(guī)則的置信度。

結(jié)構(gòu)學(xué)習(xí)結(jié)束即可得到簡(jiǎn)化的模糊規(guī)則庫(kù)。

2.2 參數(shù)學(xué)習(xí)

只要確立了模糊規(guī)則庫(kù)，相應(yīng)的整個(gè)神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)體系也同樣被確定。之后獲取輸入到輸出的詳細(xì)映射情況，其準(zhǔn)確度取決于相關(guān)權(quán)值與規(guī)則庫(kù)的精確性。之后經(jīng)過(guò)神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)優(yōu)化，對(duì)隸屬函數(shù)的相關(guān)參數(shù)權(quán)值進(jìn)行調(diào)整，使用梯度下降算法可有效減小誤差，目標(biāo)誤差函數(shù)如下：

式（6）中，m表示第五層神經(jīng)元的數(shù)量，O∧d和O5分別表示第五層神經(jīng)元l的目標(biāo)輸出和實(shí)際輸出。endprint

2.2.1 網(wǎng)絡(luò)權(quán)值修正

3 混沌動(dòng)力系統(tǒng)預(yù)測(cè)實(shí)驗(yàn)

研究表明，模糊集合理論與神經(jīng)網(wǎng)絡(luò)相結(jié)合的預(yù)測(cè)方法在系統(tǒng)建模中有著巨大的優(yōu)越性和精準(zhǔn)性，在不同領(lǐng)域得到了廣泛應(yīng)用。選取Mackey-Glass系統(tǒng)和Lorenz系統(tǒng)的混沌時(shí)間序列進(jìn)行仿真實(shí)驗(yàn)，以證明上述系統(tǒng)的有效性。

3.1 Mackey-Glass混沌時(shí)間序列預(yù)測(cè)

Mackey-Glass混沌模型由以下的時(shí)滯微分方程描述：

3.1.1 仿真實(shí)驗(yàn)

采用模糊神經(jīng)網(wǎng)絡(luò)對(duì)混沌時(shí)間序列進(jìn)行建模：

3.1.2 自適應(yīng)學(xué)習(xí)結(jié)果分析

對(duì)圖2（a）的混沌時(shí)間序列進(jìn)行仿真實(shí)驗(yàn)，首先用500個(gè)樣本數(shù)據(jù)建立模糊規(guī)則庫(kù)構(gòu)建整個(gè)模糊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，然后對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練調(diào)整隸屬函數(shù)的參數(shù)，使整個(gè)模糊神經(jīng)網(wǎng)絡(luò)系統(tǒng)性能指標(biāo)達(dá)到期望值，最后有新的數(shù)據(jù)對(duì)時(shí)，對(duì)最初的模糊規(guī)則進(jìn)行優(yōu)化學(xué)習(xí)，并用優(yōu)化后的模型對(duì)未來(lái)值進(jìn)行預(yù)測(cè)。對(duì)圖2（a）的混沌時(shí)間序列進(jìn)行自適應(yīng)學(xué)習(xí)，對(duì)前500個(gè)數(shù)據(jù)對(duì)建立的網(wǎng)絡(luò)進(jìn)行訓(xùn)練修正參數(shù)，并以此網(wǎng)絡(luò)模型對(duì)下一個(gè)數(shù)據(jù)x（501）進(jìn)行預(yù)測(cè)，再用得到的估值優(yōu)化模糊規(guī)則庫(kù)，再用優(yōu)化后的網(wǎng)絡(luò)對(duì)數(shù)據(jù)x（502）進(jìn)行預(yù)測(cè)，用得到的估值優(yōu)化模糊規(guī)則庫(kù)，預(yù)測(cè)下一個(gè)數(shù)據(jù)x（503），這種方法一直到第1000個(gè)數(shù)據(jù)x（1000）為止。預(yù)測(cè)仿真結(jié)果見圖3。通過(guò)對(duì)圖2（a）與圖3（a）比較，不難發(fā)現(xiàn)采用自適應(yīng)方法效果有很大改進(jìn)。預(yù)測(cè)輸出誤差如圖3（b）所示，相對(duì)集中在0.01范圍內(nèi)。

3.2 Lorenz混沌時(shí)間序列預(yù)測(cè)

Lorenz系統(tǒng)方程為：

當(dāng)α=10，β=8/3，ρ=28時(shí)，Lorenz系統(tǒng)處于混沌狀態(tài)，此時(shí)以定步長(zhǎng)0.005，初始條件為x（0）=0，y（0）=1，z（0）=0，用Runge-Kutta算法獲取變量x的序列信息，并進(jìn)行相空間重構(gòu)。取嵌入維度m=7，延遲時(shí)間τ=10Δt=0.05，通過(guò)t時(shí)刻與之前m個(gè)值預(yù)測(cè)t+τ時(shí)刻的映射：

使用神經(jīng)網(wǎng)絡(luò)迫近函數(shù)f（），令ζ=0.005，從9000組輸入輸出數(shù)據(jù)集合中提煉模糊規(guī)則，建立模糊規(guī)則庫(kù)，將獲得的48條模糊規(guī)則進(jìn)行處理，建立5層神經(jīng)網(wǎng)絡(luò)模型。

用本文的自適應(yīng)學(xué)習(xí)方法，將78=5764801條規(guī)則減少到48條，減小了規(guī)則匹配時(shí)間，加快了推理速度。取3000組數(shù)據(jù)參數(shù)進(jìn)行訓(xùn)練，3000組數(shù)據(jù)校驗(yàn)網(wǎng)絡(luò)，取η=0.005，然后用上述系統(tǒng)進(jìn)行仿真實(shí)驗(yàn)，結(jié)果與誤差曲線如圖4所示。

4 結(jié)語(yǔ)

本文提出的將神經(jīng)網(wǎng)絡(luò)與模糊邏輯推理體系相結(jié)合的自適應(yīng)學(xué)習(xí)系統(tǒng)，可在一定程度加強(qiáng)適應(yīng)性，提高提取模糊規(guī)則的效果，克服基于先驗(yàn)知識(shí)確定網(wǎng)絡(luò)模型的缺陷，加快了學(xué)習(xí)推理速度，提高了網(wǎng)絡(luò)精度，為復(fù)雜非線性系統(tǒng)的識(shí)別與混沌時(shí)間序列的預(yù)測(cè)提供了一條有效渠道。通過(guò)對(duì)上述兩種混沌時(shí)間序列系統(tǒng)的仿真實(shí)驗(yàn)，驗(yàn)證了系統(tǒng)對(duì)模糊神經(jīng)網(wǎng)絡(luò)的非線性建模能力。因此，本文提出的模糊神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)方法具有很高的研究?jī)r(jià)值。

參考文獻(xiàn)：

[1] 呂金虎.混沌時(shí)間序列分析及其應(yīng)用[M].武漢：武漢大學(xué)出版社，2002.

[2] 張吉禮.模糊神經(jīng)網(wǎng)絡(luò)控制原理與工程應(yīng)用[M].哈爾濱：哈爾濱工業(yè)大學(xué)出版社，2004.

[3] 許傳華，任青文，房定旺.基于神經(jīng)網(wǎng)絡(luò)的混沌時(shí)間序列預(yù)測(cè)[J].水文地質(zhì)工程地質(zhì)，2003（1）：30-32.

[4] 向小東.基于混沌理論與徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)的混沌時(shí)間序列預(yù)測(cè)[J].福州大學(xué)學(xué)報(bào)，2003（8）：401-403.

[5] 邵小強(qiáng)，馬憲民.混沌時(shí)間序列預(yù)測(cè)的建模與仿真研究[J].計(jì)算機(jī)仿真，2011，28（4）：100-102.

[6] 張淑清，賈健，高敏，等.混沌時(shí)間序列重構(gòu)相空間參數(shù)選取研究[J].物理學(xué)報(bào)，2012，59（3）：1576-1582.

[7] 王永生，孫瑾，王昌金，等.變參數(shù)混沌時(shí)間序列的神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)研究[J].物理學(xué)報(bào)，2008，57（10）：6120-6131.

[8] JANG J S R.ANFIS： adaptive-network-based fuzzy inference system[J]. IEEE Trans. on Systems，Man，and Cybernetics，1993，22（3）：775-784.

[9] SU S F，LIN C B，HSU Y T. A high precision global prediction approach based on local prediction approaches[J].IEEE Transactions on Systems， Man and Cybernetics， Part C，2002，32（4）：416-425.

[10] MASOUMI H R F， BASRI M， KASSIM A， et al. Comparison of estimation capabilities of the artificial neural network with the wavelet neural network in lipase-catalyzed synthesis of triethanolamine-based esterquats cationic surfactant[J]. J of Surfact Deterg， 2014，17（2）：287-294.

[11] 張森，肖先賜.混沌時(shí)間序列全局預(yù)測(cè)新方法——連分式法[J].物理學(xué)報(bào)，2005，54（11）：5062-5068.

[12] 簡(jiǎn)向超，鄭君里.混沌神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)算法評(píng)價(jià)準(zhǔn)則與性能分析[J].清華大學(xué)學(xué)報(bào)：自然科學(xué)版，2001，41（7）：43-46.

[13] 譚文，王耀南.混沌系統(tǒng)的模糊神經(jīng)網(wǎng)絡(luò)控制理論與方法[M].北京：科學(xué)出版社，2008.

[14] BASHIROV A E， BELAGHI M J S. On application of eulers differential method to a continued fraction depending on parameter[J]. Indian J of Pure and Applied Mathematics，2014，45（3）：285-295.

[15] TIAN N， LAI C H. Parallel quantum-behaved particle swarm optimization[J]. Int J of Machine Learning and Cybernetics， 2014，5（2）：309-318.

[16] MANICKAVELU D， VAIDYANATHAN R U. Particle swarm optimization（PSO）-based node and link lifetime prediction algorithm for route recovery in MANET[J]. EURASIP J on Wireless Communications and Networking， 2014（107）：1-10.

[17] 韓敏，王迎新.多元混沌時(shí)間序列的加權(quán)極端學(xué)習(xí)機(jī)預(yù)測(cè)[J].控制理論與應(yīng)用，2013，30（11）：1467-1472.endprint