一種基于改進型RBF神經(jīng)網(wǎng)絡的非線性時間序列預測模型

陳海英

(華中農(nóng)業(yè)大學 楚天學院，武漢 430205)

?

一種基于改進型RBF神經(jīng)網(wǎng)絡的非線性時間序列預測模型

陳海英

(華中農(nóng)業(yè)大學 楚天學院，武漢 430205)

RBF神經(jīng)網(wǎng)絡具有收斂速度緩慢、全局搜索能力差等缺點，提出了一種基于遺傳算法的RBF神經(jīng)網(wǎng)絡，經(jīng)過自適應遺傳算子參數(shù)優(yōu)化，提高了RBF神經(jīng)網(wǎng)絡模型的預測精度，實現(xiàn)了非線性時間序列的預測.仿真實驗結果表明，基于遺傳算法的RBF網(wǎng)絡預測模型非常適合非線性時間序列的預測，是可行的、精準的、有效的.

時間序列預測模型；RBF神經(jīng)網(wǎng)絡；遺傳算法

0 前 言

1987年神經(jīng)網(wǎng)絡被首次運用于預測，此后便逐漸受到網(wǎng)絡預測領域的關注和重視.目前，不同形式的神經(jīng)網(wǎng)絡已經(jīng)被運用到經(jīng)濟、工業(yè)和生活等方面的預測中.但由于神經(jīng)網(wǎng)絡的自身局限性，導致其具有收斂速度緩慢、全局搜索能力較差的特點，容易造成局部極小值情況，因此在單獨運用的預測效果方面存在缺陷[1].隨著近年來人工智能學科的發(fā)展和進步，遺傳算法、模糊控制、自適應控制等技術逐漸成熟，神經(jīng)網(wǎng)絡開始聯(lián)合其他技術一起應用于時間序列預測領域.

1 人工神經(jīng)網(wǎng)絡

人工神經(jīng)網(wǎng)絡(ANN)是一個較為復雜的網(wǎng)絡結構，其由大量簡單處理單元構成，可模擬出動物神經(jīng)網(wǎng)絡的行為和結構.該神經(jīng)網(wǎng)絡中含有若干個神經(jīng)元，每個神經(jīng)元均可向其周邊的神經(jīng)元發(fā)送消息或接收周邊神經(jīng)元發(fā)送過來的消息，各個神經(jīng)元通過相互合作來實現(xiàn)網(wǎng)絡信息的處理.這種網(wǎng)絡格局具有自適應和自學習的特點，通過對輸入輸出數(shù)據(jù)的分析，可掌握到相對性的數(shù)據(jù)規(guī)律，并由此推算出數(shù)據(jù)輸出結果，神經(jīng)網(wǎng)絡中的這種輸入輸出分析過程就是一種“訓練”和“學習”過程[2].神經(jīng)網(wǎng)絡的基本結構如圖1所示.

圖1 神經(jīng)網(wǎng)絡的基本結構

2 RBF神經(jīng)網(wǎng)絡

1988年，Lowe和Broomhead提出了徑向基(RBF)神經(jīng)網(wǎng)絡，該網(wǎng)絡的隱藏層中擴展了一個“函數(shù)”集，組建起一個“基”[3].徑向基神經(jīng)網(wǎng)絡分別包括輸入層、隱含層及輸出層三種形式，為前向神經(jīng)網(wǎng)絡.徑向基(RBF)神經(jīng)網(wǎng)絡基本結構圖如圖2所示.

圖2 RBF神經(jīng)網(wǎng)絡的結構圖

RBF神經(jīng)網(wǎng)絡內(nèi)的隱節(jié)點基函數(shù)的運算采用了距離函數(shù)，其徑向基函數(shù)采用的是激活函數(shù)[4].則RBF分布函數(shù)見公式(1)：

(1)

在公式(1)中，s代表隱含層神經(jīng)元節(jié)點的數(shù)量，也就是徑向基函數(shù)中心個數(shù)；系數(shù)ωj(j=1,2,…s)代表連接權重.

RBF神經(jīng)網(wǎng)絡主要有兩個映射關系(其中m代表輸入維數(shù)，n代表輸出維數(shù))；第一部分是指輸入層空間非線性變換至隱含層空間；第二部分是指從隱含層空間線性變化至輸出層空間.也就是：

(2)

在公式(2)中，s為輸出節(jié)點數(shù)，wik表示連接隱含層至輸出層的權值向量.

在RBF神經(jīng)網(wǎng)絡內(nèi)，結構內(nèi)的隱含層為訓練樣本的中心空間模式，各個中心之間的位置與其寬度一致.為求得隱含層中各個神經(jīng)單元基函數(shù)的寬度、中心和連接隱含層至輸出層的權值，這里在完成輸入至輸出的映射后，實現(xiàn)對RBF神經(jīng)網(wǎng)絡的構建、學習和訓練.因此，構建具有良好性能的RBF網(wǎng)絡的關鍵是設計出符合要求的隱含層，并在此基礎上銜接起非線性映射(輸入層至隱含層)和線性映射(隱含層至輸出層)[5].

3 基于自適應遺傳算法的RBF神經(jīng)網(wǎng)絡參數(shù)優(yōu)化

從技術的角度上來說，RBF神經(jīng)網(wǎng)絡中的隱單元中心ci，輸出權重wi，寬度σi值在RBF神經(jīng)網(wǎng)絡預測模型占有舉足輕重的作用，在很大程度上影響著系統(tǒng)預測性.然而在實際運算過程中，隱單元中心ci，輸出權重wi，寬度σi的取值較為困難，為RBF神經(jīng)網(wǎng)絡的運行帶來阻力[6].由于遺傳算法具有較強的搜索能力，本文基于自適應遺傳算法的對RBF神經(jīng)網(wǎng)絡參數(shù)進行優(yōu)化，具體步驟如下：

步驟1：初始化

假設每個隱節(jié)點的中心參數(shù)ci和寬度參數(shù)σi為染色體，將上述參數(shù)的集合假設為一組種群，該種群具有M個隨機產(chǎn)生的個體，則得到X=(X1,X2,…,Xn)T，其中種群內(nèi)單個個體Xi=(X1,X2,…,Xn)為各個神經(jīng)網(wǎng)絡中的初始權值分布，各個基因值代表單個神經(jīng)網(wǎng)絡中的單個連接權值，個體長度與神經(jīng)網(wǎng)絡權值個數(shù)一致，得到S1+S1×S2+S1+S2，這里采用浮點數(shù)編碼編碼神經(jīng)網(wǎng)絡內(nèi)的權值，以獲取較高的權值運算精度.

步驟2：參數(shù)優(yōu)化

w*=wmin+(wmax-wmin)exp(-Δ)

(3)

在公式(3)中，wmax代表種群變化規(guī)模的最大范圍，wmin代表種群變化規(guī)模的最小范圍，△代表種群中適應度平均值的增加量.在各代遺傳算法中，將種群內(nèi)最優(yōu)解保存到下一代，以獲取最大代數(shù)和最高權值運算精度.

步驟3：遺傳操作

①選取算子：通過比例運算選擇算子，在種群中，適應值較大的個體在被選擇概率方面較大，假設有第i個個體，則該個體被選擇的概率可由下式求出：

(4)

在公式(4)中，w代表種群規(guī)模，pi代表個體i在種群內(nèi)的適應度.

②交叉算子：本文采用了浮點編碼方式對個體進行編碼處理，因此在此采用交叉算子進行種群內(nèi)的算術交叉處理.假設交叉概率為pc，種群內(nèi)未進行交叉處理的個體自行復制，可得到下式：

(5)

③變異算子：選取適量均勻變異算子，與基因座中的基因值相對應；假設變異概率為Pm，隨機選擇對應基因取值范圍內(nèi)的任意數(shù)進行.

(6)

④在初始化種群內(nèi)插入變異后的新個體，并對群眾的評價函數(shù)進行重新運算.

⑤若尋求到滿意的個體，則結束搜尋，進入步驟2.

完成上述操作后，得到神經(jīng)網(wǎng)絡中的最優(yōu)初始權值，通過RBF算法訓練神經(jīng)網(wǎng)絡，取得最優(yōu)解.

4 仿真實驗與分析

本文采用的實驗平臺基本數(shù)據(jù)如下：Windows XP ，1 GB內(nèi)存， Athlon 64x2 Dual Core Processor 3600 1. 91 GHz，MatlabR2007b.

將本文提出的預測模型運用于某地2013年全年的月平均溫度值的預測，為消除原始數(shù)據(jù)之間的差異，采用歸一化處理原始樣本數(shù)據(jù).經(jīng)處理得到的2012年1月～12月溫度序列分別為5.0 ℃、7.1 ℃、11.0 ℃、13.5 ℃、21.3 ℃、26.0 ℃、27.9 ℃、29.9 ℃、25.3 ℃、17.8 ℃、13.8 ℃、7.8 ℃.將2012年全年的月平均溫度記作m，由此預測出m+1～m+12的數(shù)據(jù).假設遺傳算法內(nèi)的初始種群大小為w=50，遺傳代數(shù)最大值為100代，變異概率pm=0. 009，交叉概率Pc=0.9，訓練誤差為0. 001，RBF神經(jīng)網(wǎng)絡學習速率為0. 03，該算法的迭代步長為10，最大迭代次數(shù)為5000次.

基于RBF神經(jīng)網(wǎng)絡模型的月溫度預測值見下表1所示.由表可知，由RBF神經(jīng)網(wǎng)絡模型計算得出的預測結果的最大和最小誤差值分別為17.37 %和1.42 %，由此可得出該預測模型的平均相對誤差值為7.73 %，而月溫度值的絕對誤差最大值和最小值分別為1.7 ℃和0.5 ℃，其絕對誤差的平均值為1.12 ℃.上述結果表明RBF神經(jīng)網(wǎng)絡模具有較高的預測精度，其預測得出的結果可有效反映出該地每月溫度時間的變化規(guī)律.

表1 基于RBF神經(jīng)網(wǎng)絡模型的月溫度預測值

圖3 基于RBF神經(jīng)網(wǎng)絡的溫度預測圖

由圖3可知，改進型RBF神經(jīng)網(wǎng)絡在網(wǎng)絡預測精度方面顯著優(yōu)于傳統(tǒng)的BP網(wǎng)絡模型，與實際值相對接近，在均方誤差和相對誤差方面均小于BP網(wǎng)絡預測模型，具有較高的收斂性.

5 結 語

較傳統(tǒng)的預測方法而言，神經(jīng)網(wǎng)絡的預測方式在很大程度上解決了非線性復雜動力系統(tǒng)問題，在社會經(jīng)濟和自然現(xiàn)象中有較好的運用效果.實驗結果表明，基于遺傳算法的RBF網(wǎng)絡預測模型可有效運用于非線性時間序列的預測，具體可行性、精準性和有效性特點，在時間序列的預測領域具有廣闊的發(fā)展前景.

[1] 張傳斌,王學孝,鄧正隆.非線性時間序列的RBF神經(jīng)網(wǎng)絡預測方法及其應用[J].熱能動力工程,2001,16(3):311-312,342.

[2] 韓 敏,王 晨,席劍輝.基于改進RBF神經(jīng)網(wǎng)絡的非線性時間序列預測[J].儀器儀表學報,2003,24(Z1):574-575.

[3] 甘 敏,彭 輝,陳曉紅.RBF-AR模型在非線性時間序列預測中的應用[J].系統(tǒng)工程理論與實踐,2010,30(6):1055-1061.

[4] 張冬青,寧宣熙,劉雪妮.基于RBF神經(jīng)網(wǎng)絡的非線性時間序列在線預測[J].控制理論與應用,2009,26(2):151-155.

[5] 段其昌,趙 敏,王大興.一種改進PSO優(yōu)化RBF神經(jīng)網(wǎng)絡的新方法[J].計算機仿真,2009,26(12):126-129.

[6] 郭蘭平,俞建寧,張旭東,漆玉娟,張建剛.基于改進RBF神經(jīng)網(wǎng)絡的混沌時間序列預測[J].云南民族大學學報(自然科學版),2011,20(1):63-70.

[7] GUO Lanping,YU Jianning,ZHANG Jiangang,QI Yujuan,ZHANG Xudong.Nonlinear Time Series Forecasting of RBF Neural Network Based on Genetic Algorithm[J].Journal of Hebei Normal University,2011,35(3).

[8] WU Chun-guo , ZHU Shi-zhao , WANG Bing-hong , GUAN Yu-hang.POD-based Radial Basis Function Neural Network for Nonlinear Time Series Prediction[J].Mini-micro Systems,2013,34(8).

Research on Nonlinear Time Series Forecasting Model Based on Improved RBF Neural Network

CHEN Hai-ying

(Chutian college Huazhong Agricultural University Hubei, Wuhan 430205，China)

The RBF neural network has the disadvantages of slow convergence speed and leak global searching ability, this paper presents a RBF neural network based on genetic algorithm, improves the prediction accuracy of RBF neural network prediction model and realizes nonlinear time sequence after adapting genetic operator parameters optimization. The simulation experiment results show that the prediction of RBF network prediction model is very suitable for the genetic algorithm based on nonlinear time series. It is feasible, accurate and effective.

time series forecasting model; RBF neural network; genetic algorithm

2014-11-08

陳海英(1976-)，女，碩士，副教授，研究方向：高等數(shù)學教育教學.

O244

A

1671-119X(2015)01-0041-03