多階灰色支持向量機(jī)集成預(yù)測模型研究*

周華平，李敬兆

(安徽理工大學(xué)計算機(jī)科學(xué)與工程學(xué)院，安徽 淮南 232001)

多階灰色支持向量機(jī)集成預(yù)測模型研究*

周華平，李敬兆

(安徽理工大學(xué)計算機(jī)科學(xué)與工程學(xué)院，安徽 淮南 232001)

對灰色預(yù)測模型GM(1,1)和支持向量機(jī)SVM預(yù)測模型進(jìn)行分析，提出了多階灰色支持向量機(jī)集成預(yù)測模型Dm_GM(1,1)-SVM。通過多階緩沖算子改進(jìn)灰色預(yù)測模型的預(yù)測精度，對最終預(yù)測值的各個相關(guān)指標(biāo)進(jìn)行預(yù)測；同時，采用粒子群優(yōu)化算法對支持向量機(jī)模型進(jìn)行徑向基核參數(shù)和懲罰參數(shù)尋優(yōu)，得到最佳參數(shù)對(c,g)，從而確定支持向量機(jī)的最佳回歸模型；最后將各指標(biāo)預(yù)測值作為支持向量機(jī)模型的輸入，依據(jù)預(yù)測模型和預(yù)測模型的輸入值求得預(yù)測結(jié)果。實驗實例表明，多階灰色支持向量機(jī)集成模型和傳統(tǒng)的預(yù)測模型相比，在本例中預(yù)測精度更高，說明多階灰色預(yù)測模型和支持向量機(jī)模型相結(jié)合在解決實際預(yù)測問題中具有實用價值。

多階灰色預(yù)測模型；支持向量機(jī)；集成預(yù)測；緩沖算子；粒子群優(yōu)化算法

1 引言

目前常用的預(yù)測理論有多元線性(非線性)回歸預(yù)測[1]、趨勢預(yù)測[2]、馬爾可夫預(yù)測[3]、灰色預(yù)測[4]等，雖然預(yù)測方法頗多，但每種方法都是從不同的角度來預(yù)測，各有不同的適用范圍。在針對某一種具體應(yīng)用背景下方法的選擇變得非常困難，容易造成較大的預(yù)測誤差。針對此種情況，Bates J M和Granger C W J于1969 年首次在他的論文中提出了一種嶄新的預(yù)測方法—組合預(yù)測[5～8]。組合預(yù)測方法的目的就是為了降低單個預(yù)測模型的預(yù)測誤差，通過一種最優(yōu)組合，提高預(yù)測的精度。但是，組合預(yù)測模型中，單個預(yù)測模型的權(quán)重問題很難解決，對于非線性、高維的系統(tǒng)預(yù)測，容易出現(xiàn)預(yù)測精度反而不如單一預(yù)測模型，所以這種組合預(yù)測模型在具體應(yīng)用中凸顯很大的局限性。另一方面，這些預(yù)測方法都是針對同一指標(biāo)的歷史觀測值，實際應(yīng)用中，預(yù)測值往往跟很多客觀因素密切相關(guān)，是各種相關(guān)因素共同作用的結(jié)果，預(yù)測時應(yīng)該考慮預(yù)測量受客觀因素影響的程度。

支持向量機(jī)SVM(Support Vector Machine)早在20世紀(jì)末由Vapnik V N[9,10]等人研究并迅速發(fā)展起來，具有完備的理論基礎(chǔ)。支持向量機(jī)成功應(yīng)用于解決預(yù)測問題的研究。文獻(xiàn)[11]采用支持向量機(jī)對地下洞室的長期巖爆進(jìn)行分類，選用和巖爆最相關(guān)的巖石的最大深度、巖石的最大切向應(yīng)力、巖石單軸抗壓強(qiáng)度等參數(shù)作為支持向量機(jī)的輸入向量。文獻(xiàn)[12]選用太陽套、相關(guān)濕度和風(fēng)速作為預(yù)測模型的輸入向量，將支持向量機(jī)預(yù)測模型應(yīng)用于太陽能功率短期預(yù)測。文獻(xiàn)[13]基于1991至2010年的地下水深度、灌溉水量和蒸發(fā)量等數(shù)據(jù)基礎(chǔ)，采用支持向量機(jī)模型對土壤電導(dǎo)率值進(jìn)行動態(tài)預(yù)測。文獻(xiàn)[14]采用支持向量機(jī)模型對海面溫度進(jìn)行預(yù)測。文獻(xiàn)[15]采用支持向量機(jī)對空氣質(zhì)量參數(shù)進(jìn)行預(yù)測。文獻(xiàn)[16]采用模糊c-均值聚類算法、支持向量機(jī)模型和最小二乘法相結(jié)合對燃煤鍋爐NOx排放量進(jìn)行預(yù)測。文獻(xiàn)[17]提出多級支持向量機(jī)模型并應(yīng)用在慢性疾病患者的臨床電荷分布預(yù)測中。文獻(xiàn)[18]將最小二乘和支持向量機(jī)結(jié)合預(yù)測空氣質(zhì)量中CO的濃度。文獻(xiàn)[19]采用偏最小二乘法和支持向量機(jī)方法結(jié)合構(gòu)造線性和非線性模型，對血液流入大腦的分配行為的定量構(gòu)效關(guān)系進(jìn)行預(yù)測。

以上這些研究中，支持向量機(jī)的輸入值要么是基于一維時間序列的單一歷史值，要么是和預(yù)測值相關(guān)的多個影響因素的多維矩陣，但不管是模型的建立階段還是預(yù)測階段，都是基于輸入矩陣已知或可以測量的情況。實際應(yīng)用中，預(yù)測值往往跟多個客觀因素密切相關(guān)，是各種相關(guān)因素共同作用的結(jié)果，所以本文不討論基于時間序列的輸入。在實際應(yīng)用中，在采用支持向量機(jī)進(jìn)行預(yù)測時，對于未來短期內(nèi)的輸入矩陣未知的情況下如何預(yù)測？本文采用多階灰色預(yù)測模型和支持向量機(jī)預(yù)測模型相結(jié)合，組合成一種新型的預(yù)測模型，簡稱Dm_GM(1,1)-SVM，它不同于傳統(tǒng)的組合預(yù)測模型，組合預(yù)測模型是每種模型分別對預(yù)測結(jié)果進(jìn)行預(yù)測，然后通過一定的計算方法在分別預(yù)測結(jié)果的基礎(chǔ)上得到一個最終預(yù)測結(jié)果。本文提出的新型預(yù)測模型是兩種預(yù)測模型分別完成兩類不同的預(yù)測，首先，利用多階灰色預(yù)測模型預(yù)測未來樣本輸入矩陣的值，然后將該值作為支持向量機(jī)的輸入，最終預(yù)測得到預(yù)測值——即系統(tǒng)最終的輸出。這兩種不同的預(yù)測之間沒有時間先后關(guān)系，可以并行處理。

2 支持向量機(jī)

支持向量機(jī)通過構(gòu)造最優(yōu)分類超平面，將訓(xùn)練集中的點(diǎn)盡可能遠(yuǎn)地分開。如果訓(xùn)練集中的點(diǎn)線性不可分，將訓(xùn)練集中的點(diǎn)從二維空間映射到高維空間，同樣將非線性問題轉(zhuǎn)化為線性問題。設(shè)T={(x1,y1),…,(xl,yl)}∈(x×y)l為樣本集，其中，xi∈x=Rn,yi∈y={-1,+1},i=1,…,l；最優(yōu)分類超平面的求解函數(shù)為：

s.t.yi[(w·xi)+b]≥1,i=1,…,l

(1)

最優(yōu)解w*和b*根據(jù)式(1)求出后,決策函數(shù)的形式為：

f(x)=sgn[(w*·x)+b*]

(2)

(3)

(4)

(5)

原始問題的求解就轉(zhuǎn)換為它的對偶形式的解：

(6)

這是一個凸二次規(guī)劃問題，求解式(6)，得到?jīng)Q策方程：

(7)

以上是線性可分或近似線性可分的情況，如果是線性不可分的，需引入滿足Mercer條件的核函數(shù)將其轉(zhuǎn)化為在高維空間求解線性問題。核函數(shù)的構(gòu)造方法有多種，其中徑向基核函數(shù)因其良好的性能應(yīng)用較多[12～14]，本文也采用徑向基核函數(shù)，引入核函數(shù)后的決策函數(shù)為:

(8)

3 多階灰色模型Dm_GM(1,1)

灰色系統(tǒng)[20]GM(Grey Model)在信息量少的前提下研究小樣本、貧信息等不確定性問題，認(rèn)為任何隨機(jī)過程都是在一定幅值范圍和一定時區(qū)范圍變化的灰色量，通過對部分已知少量數(shù)據(jù)的分析，找出有價值的信息，從而挖掘出系統(tǒng)本身固有的規(guī)律性，這種有規(guī)律性的數(shù)據(jù)必定能為未來短期內(nèi)系統(tǒng)的發(fā)展趨勢預(yù)測提供依據(jù)。灰色預(yù)測也正是基于這樣的思想提出來的一種預(yù)測理論。灰色序列生成正是一種使原始數(shù)據(jù)能夠體現(xiàn)系統(tǒng)變化規(guī)律的數(shù)據(jù)生成技術(shù)。從凌亂的原始數(shù)據(jù)樣本中整理、挖掘出有一定變化規(guī)律、可研究的數(shù)據(jù)序列。對于沖擊擾動系統(tǒng)預(yù)測，即系統(tǒng)本身受外部環(huán)境影響較大，數(shù)據(jù)是無規(guī)律、隨時可能發(fā)生變化的，灰色模型預(yù)測將失去它原來的預(yù)測效果。緩沖算子[21]是解決擾動系統(tǒng)的有效方法之一。煤礦系統(tǒng)是一個復(fù)雜的灰系統(tǒng)，煤礦事故的發(fā)生更是動態(tài)多變、無章可循。本文的實例驗證數(shù)據(jù)是預(yù)測煤礦百萬噸死亡率，而煤礦百萬噸死亡率跟多種客觀因素密切相關(guān)，本文抽取了最相關(guān)的四個指標(biāo)作為煤礦百萬噸死亡率預(yù)測時的數(shù)據(jù)基礎(chǔ)，同時也作為支持向量機(jī)的輸入向量，從而預(yù)測出煤礦百萬噸死亡率。而四個指標(biāo)的值也是未知的，本文采用灰色模型先預(yù)測出四個指標(biāo)的值。四個指標(biāo)的原始數(shù)據(jù)來自于煤礦這一動態(tài)變化的系統(tǒng)中，數(shù)據(jù)本身缺少規(guī)律性，本文用弱化緩沖算子來對原始的受干擾的數(shù)據(jù)加以校正，但由于緩沖算子作用于原始數(shù)據(jù)序列時，必須滿足不定點(diǎn)定理，所以原始數(shù)據(jù)序列經(jīng)弱化緩沖算子作用后數(shù)據(jù)序列的增長速度減緩；相反，對于單調(diào)遞減數(shù)據(jù)序列，經(jīng)弱化緩沖算子作用后的數(shù)據(jù)序列的遞減速度也減緩。所以，當(dāng)原始數(shù)據(jù)序列變化幅度較大時，利用弱化緩沖算子會使數(shù)據(jù)序列變得平緩，增強(qiáng)了原始數(shù)據(jù)序列的規(guī)律性和原始數(shù)據(jù)序列的光滑度，更加適合灰色預(yù)測理論。緩沖算子對原始數(shù)據(jù)序列作用一次，記為XD，對原始數(shù)據(jù)序列作用多次分別記為：XDm,m=1,2,…,n，根據(jù)實際情況設(shè)置m值的大小，最后對預(yù)測數(shù)據(jù)進(jìn)行還原。理論依據(jù)如下：

設(shè)原始數(shù)據(jù)序列:

(9)

(10)

令:

XD2=XDD=(x(1)d2,x(2)d2,…,x(n)d2)

(11)

其中，

…+x(n)d],k=1,2,…,n

(12)

對一階緩沖算子生成的新序列再進(jìn)行1-AGO，得到X′(1):

(13)

檢驗生成序列X′(1)的光滑度：

(14)

X′(1)經(jīng)緊鄰均值后為：

(15)

X′(1)微分得：

(16)

其中，

(17)

最終預(yù)測模型為：

t=1,2,…,n

(18)

4 多階灰色支持向量機(jī)模型Dm_GM(1,1)-SVM

隨著井工煤礦開采深度的增加，開采難度和開采風(fēng)險進(jìn)一步加劇，近年來，國家及相關(guān)單位也制定了相應(yīng)的政策，煤礦安全有所好轉(zhuǎn)，但煤礦安全事故仍然很嚴(yán)峻。從2004年起，國家高度重視煤礦安全生產(chǎn)，為了對煤礦定量檢查和監(jiān)督考核，對煤礦安全事故層層控制，國家安全生產(chǎn)監(jiān)督管理總局(安監(jiān)總局)頒布各項考核指標(biāo)。從2006年起，安監(jiān)總局提出構(gòu)建安全生產(chǎn)指標(biāo)體系平臺，在原來指標(biāo)體系的基礎(chǔ)上，構(gòu)建更合理、科學(xué)的考核指標(biāo)?？茖W(xué)的分解算法也是構(gòu)建安全控制考核指標(biāo)的核心和關(guān)鍵所在。在這些下達(dá)的考核指標(biāo)中，包括煤礦百萬噸死亡率。在考核指標(biāo)下達(dá)之前，如何較科學(xué)、合理地預(yù)測這一指標(biāo)的值就變得至關(guān)重要。傳統(tǒng)的方法是取前幾年的平均值，這樣的計算方法并沒有考慮當(dāng)前及將來各種因素對煤礦百萬噸死亡率的影響?？紤]到上述原因，提出了多階灰色支持向量機(jī)預(yù)測模型，預(yù)測的流程如圖1所示。

Figure 1 Forecasting process of multi-stage gray support vector machine

利用多階灰色支持向量機(jī)模型預(yù)測時總體分為兩個部分：支持向量機(jī)輸入值的預(yù)測和最終結(jié)果的預(yù)測，樣本數(shù)據(jù)分為輸入向量X和輸出向量Y。

其中，m代表樣本數(shù)量，n代表和Y相關(guān)的影響因素的個數(shù)。即由輸入(xi1,xi2,…,xin) 可以確定yi的值，i=1,2，…，m。本文討論的問題就是在輸入值(xi1,xi2,…,xin) 未知的情況下，如何根據(jù)前i-1個輸入樣本的值預(yù)測(xi1,xi2,…,xin)，然后將其作為支持向量機(jī)模型的輸入值，最終預(yù)測出yi的值。預(yù)測過程如圖1所示，預(yù)測步驟如下：

步驟5 根據(jù)后驗差檢驗，通過測試樣本分別用D1_GM(1,1)、D2_GM(1,1)、…、Dt_GM(1,1)這t個預(yù)測模型分別進(jìn)行驗證，取第m階使測試樣本值精度最高的模型Dm_GM(1,1)預(yù)測未知樣本X的值。

步驟6 對原始數(shù)據(jù)樣本進(jìn)行歸一化操作。

步驟7 利用粒子群算法對支持向量機(jī)模型進(jìn)行參數(shù)尋優(yōu)，首先初始化支持向量機(jī)參數(shù)對(c，g)。

步驟8 計算目標(biāo)函數(shù)值。

步驟11 依據(jù)目標(biāo)函數(shù)，判斷此時粒子是否滿足要求，如果是，取這時的最優(yōu)參數(shù)(c,g)的值作為支持向量機(jī)的模型參數(shù)，否則算法繼續(xù)迭代。

步驟12 將步驟6中的X的預(yù)測值作為支持向量機(jī)模型的輸入，從而最終預(yù)測出Y的值。

5 實驗仿真結(jié)果

本文數(shù)據(jù)選取以我國各產(chǎn)煤省(區(qū))煤礦百萬噸死亡率為預(yù)測值，選取綜合機(jī)械化采煤率(%)、機(jī)械化掘進(jìn)率(%)、采煤機(jī)械化率(%)和原煤全員效率(t/工)四個指標(biāo)作為煤礦百萬噸死亡率的相關(guān)因素。選取了全國各產(chǎn)煤省(區(qū))的2004年～2012年的樣本數(shù)據(jù)，包括安徽、河南、山西、貴州等21個省(區(qū))的200多個樣本數(shù)據(jù)。從中隨機(jī)選取100個樣本數(shù)據(jù)作為訓(xùn)練樣本，從剩余的樣本中再隨機(jī)選取10個作為測試樣本。最后利用建立好的模型對包括2011年的未來兩年的煤礦百萬噸死亡率進(jìn)行預(yù)測。

5.1 基于Dm-GM(1，1)模型的各指標(biāo)預(yù)測

2004年到2012年的每個省(區(qū))的每個指標(biāo)為一數(shù)據(jù)序列，利用Dm(m=1,2,…,10)對樣本數(shù)據(jù)中的四個指標(biāo)值作用后，分別得數(shù)據(jù)序列XD1，XD2，…,XD10。通過訓(xùn)練樣本建立模型，確定最佳的m值。訓(xùn)練樣本建立的預(yù)測模型的平均殘差、P值和C值[20]如表1所示。

從表1中得出如下分析：首先對于原煤全員效率指標(biāo)，緩沖算子Dm在m值取不同時，平均殘差、P值和C值均在發(fā)生變化，均沒有規(guī)律性，但m=4時，發(fā)現(xiàn)平均殘差為0.001,達(dá)到本組最小值，P值為94%也為本組最大值，C為0.033也為本組最小值，所以m的值就取4。此時各項參數(shù)達(dá)到最優(yōu)，模型也最優(yōu)。同理，機(jī)械化采煤率的多階灰色預(yù)測模型、采煤機(jī)械化率的多階灰色預(yù)測模型和原煤全員效率的m分別為2、1和10。這樣煤礦百萬噸死亡率的四個指標(biāo)的預(yù)測模型就確定了。下面通過測試樣本分別對模型進(jìn)行檢驗，結(jié)果如表2所示。

從表2中可以看出，利用訓(xùn)練好的Dm-GM(1,1)模型對煤礦百萬噸死亡率的四個指標(biāo)測試時，四個指標(biāo)的平均殘差分別為0.036、0.06、0.033和0.056，平均精度分別為88%、84%、88%和83%，方差比分別為0.081、0.261、0.078和0.198，預(yù)測精度基本上能達(dá)到80%以上，模型預(yù)測精度較高，所以Dm-GM(1,1)預(yù)測模型在煤礦百萬噸死亡率各指標(biāo)的預(yù)測中是可行并有效的。

Table 1 Establishment of the value of each index m

Table 2 Model checking

5.2 支持向量機(jī)預(yù)測模型的建立

煤礦百萬噸死亡率支持向量機(jī)預(yù)測模型的訓(xùn)練和測試采用LIBSVM工具。支持向量機(jī)模型的選取主要是核參數(shù)和懲罰參數(shù)的選取，核函數(shù)采用常用的徑向基核函數(shù)，利用粒子群算法(PSO)進(jìn)行參數(shù)選取，采用交叉驗證方法，適應(yīng)度函數(shù)為煤礦百萬噸死亡率的均方誤差。圖2為利用PSO選取參數(shù)的過程，初始參數(shù)設(shè)置c1為1.5,c2為1.7，終止代數(shù)為200，種群數(shù)量pop為20。PSO尋參算法和網(wǎng)格算法(GS)、遺傳算法(GA)算法的搜索時間和均方根誤差比較如表3所示。通過表3的比較可知，粒子群算法在本例子中均方根誤差最小，更快地收斂于最優(yōu)解，本模型就采用PSO的最優(yōu)參數(shù)c為45.214、g為0.004作為支持向量機(jī)模型的最佳參數(shù)。

Figure 2 Fitness (accuracy) curve with PSOfinding the best parameters

Table 3 Predicted results

選用訓(xùn)練好的支持向量機(jī)模型對訓(xùn)練樣本預(yù)測時的訓(xùn)練樣本數(shù)據(jù)的平均絕對誤差是0.077 806，平方相關(guān)系數(shù)為0.959 8，均方誤差是0.007 2。為了對支持向量機(jī)模型進(jìn)行驗證，選用30個測試樣本，分為三組，預(yù)測結(jié)果如表4和圖3所示，測試樣本原始數(shù)據(jù)的平均相對誤差是0.067，最大相對誤差0.548，最小相對誤差0.000 36。從測試樣本預(yù)測結(jié)果看，支持向量機(jī)模型誤差較小，預(yù)測有效。

5.3 方法對比

選用2012年21個省(區(qū))的煤礦百萬噸死亡率樣本數(shù)據(jù)，分別利用本文提出的多階灰色支持向量機(jī)預(yù)測模型Dm_GM(1,1)-SVM、GM(1,1)和BP神經(jīng)網(wǎng)絡(luò)組合預(yù)測模型進(jìn)行預(yù)測，預(yù)測結(jié)果如表5所示，預(yù)測誤差如圖4所示。表5中，Dm_GM(1,1)-SVM預(yù)測的平均相對誤差為5.64%，最大預(yù)測誤差為9.88%，均方誤差為4.73%；GM(1,1)模型進(jìn)行預(yù)測的平均相對誤差為25.48%，最大預(yù)測誤差為14.27%，BP神經(jīng)網(wǎng)絡(luò)模型預(yù)測的平均相對誤差為14.57%，最大預(yù)測誤差為13.54%，均方誤差為17.57。通過圖4也能直觀地看出Dm_GM(1,1)-SVM預(yù)測模型的預(yù)測誤差最小，最接近0坐標(biāo)軸，通過對三種預(yù)測模型的預(yù)測結(jié)果比較分析，Dm_GM(1,1)-SVM預(yù)測模型精度最高。

Table 4 Prediction error of test samples

Figure 3 Prediction error curves of test samples

Table 5 Contrast of error values

Figure 4 Contrast curves of error values

5.4 2013～2014兩年煤礦百萬噸死亡率Dm_GM(1，1)-SVM預(yù)測

采用前面建立好的Dm-GM(1，1)-SVM預(yù)測模型，按照圖1的預(yù)測流程，得到2013～2014兩年煤礦百萬噸死亡率的值，預(yù)測結(jié)果如表6所示。

Table 6 Predictive values of DRPMTC in the next two years after 2012

6 結(jié)束語

針對單一預(yù)測模型預(yù)測時的局限性，提出多階灰色預(yù)測模型和支持向量機(jī)并行集成預(yù)測模型。采用Dm_GM(1,1)模型預(yù)測支持向量機(jī)模型的各影響因子，同時，采用粒子群優(yōu)化算法對支持向量機(jī)模型進(jìn)行徑向基核參數(shù)和懲罰參數(shù)尋優(yōu)，得到最佳參數(shù)對(c,g)的值，從而確定支持向量機(jī)的最佳模型；最后將各指標(biāo)值作為支持向量機(jī)模型的輸入，進(jìn)行預(yù)測。利用多級灰色預(yù)測模型對各指標(biāo)值的預(yù)測和支持向量機(jī)模型的訓(xùn)練、確立可并行。實例表明，和傳統(tǒng)單一的預(yù)測模型相比，Dm_GM(1,1)-SVM模型具有最小的平均相對誤差、預(yù)測誤差和均方誤差，比單一預(yù)測模型的預(yù)測精度更高，從而說明本文提出的多階灰色支持向量機(jī)并行集成預(yù)測模型Dm_GM(1,1)-SVM是有效并可行的。

[1] Schumann S,Nolte L P,Zheng Guo-yan.Comparison of partial least squares regression and principal component regression for pelvic shape prediction[J]. Journal of Biomechanics,2013,46(1):197-205.

[2] Wen Xiang-xi,Meng Xiang-ru,Ma Zhi-qiang,et al. The chaotic analysis and trend prediction on small-time scale network traffic[J]. Acta Electronica Sinica,2012,40(8):1509-1616.(in Chinese)

[3] Cifter A.Forecasting electricity price volatility with the Markov-switching.GARCH model:Evidence from the Nordic electric power market[J].Electric Power Systems Research,2013,102:61-67.

[4] Xiang Chang-sheng, Zhang Lin-feng. Grain yield prediction model based on grey theory and Markov[J]. Computer Science, 2013,40(2):245-248.(in Chinese)

[5] Bates J M,Granger C W J. Combination of forecasts[J].Operations Research Quarterly，1969，20(4):451-468.

[6] Bischoff C W. The combination of macroeconomic forecasts[J]. Journal of Forecasting, 1989,8(3):293-314.

[7] Bunn D W. Forecasting with more than one model[J]. Journal of Forecasting, 1989,8(3):161-166.

[8] Shen Shu-jie,Li Gang,Song Hai-yan.Combination forecasts of international tourism demand [J].Annals of Tourism Research, 2011,38(1):72-89.

[9] Vapanik V N,Chervonenkis A. Ordered risk minimization[J].Automation and Remote Control,1974,35:1226-1235.

[10] Vapnik V N. Estimation of dependences based on empiricaldata[M]. Berlin:Springer-Verlag, 1982.

[11] Zhou Jian, Li Xi-bing, Shi Xiu-zhi. Long-term prediction model of rockburst in underground openings using heuristic algorithms and support vector machines[J]. Safety Science,2012,50(4):629-644.

[12] Zeng Jian-wu,Qiao Wei.Short-term solar power prediction using a support vector machine[J]. Renewable Energy,2013,52:118-127.

[13] Guan Xiao-yan,Wang Shao-li, Gao Zhan-yi, et al.Dynamic prediction of soil salinization in an irrigation district based on the support vector machine[J]. Mathematical and Computer Modelling, 2013,58(3-4):719-724.

[14] Lins I D,Araujo M,das Chagas Moura M, et al. Prediction of sea surface temperature in the tropical Atlantic by support vector machines[J].Journal of Computational Statistics & Data Analysis,2013,61(5):187-198.

[15] Tan Guo-hua,Yan Jian-zhuo,Gao Chen, et al.Prediction of water quality time series data based on least squares support vector machine[J]. Procedia Engineering,2012,31:1194-1199.

[16] Lv You, Liu Ji-zhen, Yang Ting-ting, et al. A novel least

squares support vector machine ensemble model for NOx emission prediction of a coal-fired boiler[J]. Energy,2013,55(C):319-329.

[17] Wei Zhong, Chow R, He Jie-yue. Clinical charge profiles prediction for patients diagnosed with chronic diseases using multi-level support vector machine[J]. Expert Systems with Applications,2012,39(1):1474-1483.

[18] Yeganeh B, Shafie Pour Motlagh M, Rashidi Y, et al. Prediction of CO concentrations based on a hybrid partial least square and support vector machine model[J]. Atmospheric Environment,2012,55(8):357-365.

[19] Golmohammadi H,Dashtbozorgi Z,William E,et al.Quantitative structure activity relationship prediction of blood-to-brain partitioning behavior using support vector machine[J]. European Journal of Pharmaceutical Sciences,2012,47(2):421-429.

[20] Liu Si-feng,Xie Nai-ming. Grey system theory and its applications[M].4th edition. Beijing:Science Press, 2008.(in Chinese)

[21] Luo Dan. Study on the properties of buffer operators and the methods of their construction[J]. Journal of Southwest University(Natural Science Edition), 2012,34(3):36-40.(in Chinese)

附中文參考文獻(xiàn)：

[2] 溫祥西, 孟相如, 馬志強(qiáng), 等.小時間尺度網(wǎng)絡(luò)流量混沌性分析及趨勢預(yù)測[J].電子學(xué)報,2012,40(8):1609-161.

[4] 向昌盛,張林峰.灰色理論和馬爾可夫相融合的糧食產(chǎn)量預(yù)測模型[J].計算機(jī)科學(xué),2013,40(2):245-248.

[20] 劉思峰，謝乃明．灰色系統(tǒng)理論及其應(yīng)用[M]．第4版．北京：科學(xué)出版社,2008.

[21] 羅丹.關(guān)于緩沖算子的性質(zhì)及其構(gòu)造方法的研究[J].西南大學(xué)學(xué)報(自然科學(xué)版)，2012,34(3):36-40.

ZHOU Hua-ping,born in 1979,PhD,associate professor,her research interest includes machine learning.

李敬兆(1963-),男，安徽淮南人，博士，教授，研究方向為機(jī)器學(xué)習(xí)。E-mail:jzhli@aust.edu.cn

LI Jing-zhao,born in 1963,PhD,professor,his research interest includes machine learning.

An integrated prediction model using multi-stage gray model and support vector machine

ZHOU Hua-ping，LI Jing-zhao

(Faculty of Computer Science & Engineering,Anhui University of Science and Technology,Huainan 232001,China)

A multi-stage gray support vector machine ensemble prediction model (Dm_GM(1,1)-SVM) is presented by analyzing the gray modelGM(1,1) and the support vector machine model (SVM).The prediction accuracy of gray model is improved through multi-stage buffer operators to predict various relevant indicators.Meanwhile, the particle swarm optimization algorithm is used to find the optimal parameters of the support vector machine model, which include RBF kernel parameters and penalty parameters and the optimal pair is (c,g).Thus,the optimal support vector machine regression model is determined. Finally the final output value is predicted by inputting the predictive value of each indicator to support the vector machine model.The results show thatDm_GM(1,1)-SVM has a higher prediction accuracy compared with the gray prediction model and the BP neural network prediction model in this case,and that multi-stage gray forecasting model combined with support vector machine model has a practical value in solving practical prediction problems.

multi-stage gray prediction model;support vector machine;integrated forecasting;buffer operator;particle swarm optimization

1007-130X(2015)03-0539-08

2013-09-25;

2014-01-02基金項目：國家自然科學(xué)基金資助項目(51174257);國家973計劃資助項目(2010CB732002);安徽理工大學(xué)中青年骨干教師

TP391

A

10.3969/j.issn.1007-130X.2015.03.022

周華平(1979-),女，河南唐河人，博士，副教授，研究方向為機(jī)器學(xué)習(xí)。E-mail:hpzhou@aust.edu.cn

通信地址：232001 安徽省淮南市安徽理工大學(xué)計算機(jī)科學(xué)與工程學(xué)院

Address:Faculty of Computer Science & Engineering,Anhui University of Science and Technology,Huainan 232001,Anhui,P.R.China