基于AdaBoost集成的WPSO-RBF大壩變形監(jiān)控模型

， ，，，

(1.河海大學 a.水利水電學院；b.水文水資源與水利工程科學國家重點實驗室，南京 210098； 2.中國電建集團 貴陽勘測設計研究院有限公司，貴陽 550081)

1 研究背景

變形是大壩安全監(jiān)測的必設項目，具有直觀、可靠性好等特點。建立準確的變形安全監(jiān)控模型對大壩安全穩(wěn)定運行具有重要的意義[1]?，F(xiàn)階段，應用較為廣泛的監(jiān)控模型分為統(tǒng)計模型和以人工神經(jīng)網(wǎng)絡為代表的人工智能算法[2-3]等。由于影響大壩安全的因素眾多而且復雜、監(jiān)測數(shù)據(jù)的非線性化、建模參數(shù)選擇的主觀性強，容易導致數(shù)據(jù)擬合時“過擬合化”，泛化能力差。

為了克服這些不足，傳統(tǒng)的神經(jīng)網(wǎng)絡(BP，SVM等)大多在結構設計和參數(shù)訓練上進行改進，但結構越復雜，需要的參數(shù)越多，對修正算法的要求也就越高。徑向基(Radial Basis Function，RBF)神經(jīng)網(wǎng)絡是一種前向神經(jīng)網(wǎng)絡，因其網(wǎng)絡結構簡單、學習收斂速度很快且能夠逼近任意非線性函數(shù)[4]，被廣泛應用于時間序列分析、函數(shù)逼近、回歸問題以及預測等領域[5]。根據(jù)已有試驗結果，用標準PSO算法優(yōu)化RBF網(wǎng)絡3個參數(shù)時，隨著慣性權重的減小，標準PSO算法收斂速度會降低，進而影響其全局收斂性?？紤]到大壩變形影響因素的復雜性，用單一函數(shù)模擬具有局限性。而AdaBoost算法作為一種集成算法，它的核心思想是訓練不同的弱分類器(Weaker Classifier)，然后再把這些弱分類器按照不同的權重疊加(Boost)起來，構成一個更強的最終分類器(Stage Classifier)，使預測分類更加準確[6]。為此，本文首先采用由Shi等[7]提出的線性遞減權重(Linear Decreasing Inertia Weight，LDIW)的方法實現(xiàn)對權值的調(diào)整，建立基于WPSO-RBF的大壩變形監(jiān)控模型，并將其作為大壩變形規(guī)律的弱分類器。然后采用AdaBoost算法，建立基于WPSO-RBF-AdaBoost的大壩變形監(jiān)控模型，最后結合實際工程，利用實測數(shù)據(jù)進行驗證。

2 基于WPSO-RBF-AdaBoost的大壩變形監(jiān)控模型

2.1 基于WPSO-RBF模型的建立

2.1.1 徑向基(RBF)神經(jīng)網(wǎng)絡

RBF神經(jīng)網(wǎng)絡是一種3層的前向神經(jīng)網(wǎng)絡，在參數(shù)選取適當?shù)那疤嵯?，能夠以給定的精度逼近任意的連續(xù)函數(shù)。RBF神經(jīng)網(wǎng)絡拓撲結構[8]簡單：由信號源節(jié)點組成的輸入層；由徑向基函數(shù)激活的隱含層；對輸入模型響應的輸出層。其神經(jīng)網(wǎng)絡結構如圖1所示。

圖1 RBF神經(jīng)網(wǎng)絡拓撲結構Fig.1 Topological structure of Radial Basis Function

RBF徑向基神經(jīng)網(wǎng)絡常用的徑向基函數(shù)是高斯函數(shù)，表示為

(1)

i=1,2,3,…,h,j=1,2,…,N。

(2)

式中：ci為隱含層節(jié)點的中心；wij為隱含層到輸出層的連接權值；yj為與輸入樣本對應的網(wǎng)絡的第j個輸出節(jié)點的實際輸出；h為隱含層節(jié)點數(shù)；N為輸出樣本數(shù)。

2.1.2 粒子群算法優(yōu)化RBF神經(jīng)網(wǎng)絡

由式(1)和式(2)可知，RBF神經(jīng)網(wǎng)絡學習算法需要求解的參數(shù)[9]有3個：隱含層基函數(shù)的中心c、寬度d及隱含層到輸出層的權值w。經(jīng)比較，粒子群算法操作簡單，需要運行參數(shù)較少，收斂較快，在函數(shù)優(yōu)化、神經(jīng)網(wǎng)絡訓練等領域得到廣泛應用[10]。

粒子群算法[11](Particle Swarm Optimization，PSO)首先在可解空間中優(yōu)化一群粒子，每個粒子都代表優(yōu)化問題的一個潛在最優(yōu)解，用位置、速度和適應度表示粒子特征。粒子在解空間運動，通過跟蹤個體極值Pbest和群體極值Gbest更新個體位置。假設N維空間中，有m個粒子組成的種群X=(X1,X2,…,Xm)，則第i個粒子的位置(即問題的一個潛在解)Xi、速度Vi、個體極值Pi分別為：

Xi=(xi1,xi2,…,xiN)T；

(3)

Vi=(Vi1,Vi2,…,ViN)T；

(4)

Pi=(Pi1,Pi2,…,PiN)T。

(5)

種群的全局極值Pg=(Pg1,Pg2,…,PgN)T，在每次迭代中，粒子通過個體極值和全局極值更新自身的速度和位置，更新公式為：

(6)

(7)

式中：ω為慣性權重；D=1,2,…,N;i=1,2,…,m；k為當前迭代次數(shù)；ViD為粒子的速度，c1,c2為非負的常數(shù)，稱為加速度因子；r1，r2為分布于[0，1]之間的隨機數(shù)。評價各粒子適應度，按歸一化均方根誤差定義適應度函數(shù)，即

(8)

式中：M為輸入變量組數(shù)，本文選取影響大壩變形的160組數(shù)據(jù)進行擬合；yj(k)為大壩變形擬合值；y(k)為大壩變形實際值。

2.1.3 動態(tài)權重粒子群算法優(yōu)化RBF神經(jīng)網(wǎng)絡

慣性權重體現(xiàn)的是粒子當前速度多大程度上繼承先前的速度，Shi等[12]最先將慣性權重引入到PSO算法中，并分析指出一個較大的慣性權重值有利于全局搜索，而一個較小的慣性權重值則更利于局部搜索。為了更好地平衡算法的全局搜索和局部搜索能力，其提出了線性遞減慣性權重(Linear Decreasing Inertia Weight，LDIW)，即

ωt=ωmax-(ωmax-ωmin)t/T。

(9)

式中：t為當前迭代次數(shù)；T為最大迭代次數(shù)；ωmax，ωmin分別為初始最大、最小慣性權重。經(jīng)過大量的試驗，Shi提出當ωmax=0.95,ωmin=0.4時，算法的性能最優(yōu)[13]。

基于WPSO-RBF的大壩變形監(jiān)控模型[14]是用改進的粒子群算法優(yōu)化隱含層基函數(shù)的中心c、寬度d及隱含層到輸出層的權值w，用式(9)更新慣性權重。步驟流程見圖2。

圖2 WPSO-RBF模型的步驟流程Fig.2 Flowchart of WPSO-RBF model

2.2 基于WPSO-RBF-AdaBoost模型的建立

AdaBoost算法的思想[15]是合并多個“弱”分類器的輸出以產(chǎn)生有效的分類。其基本思路是：對于樣本空間中M組訓練數(shù)據(jù)，權重都是1/M，然后用弱學習算法(WPSO-RBF算法)迭代運算T次，每次運算后按照分類結果更新訓練數(shù)據(jù)權重，對于分類失敗的訓練個體賦予較大的權重，下一次迭代后運算時更加關注這些訓練個體。T次迭代之后得到由多個由WPSO-RBF弱分類器組成的強分類器。WPSO-RBF-AdaBoost預測模型流程見圖3，具體步驟如下。

圖3 WPSO-RBF-AdaBoost模型的算法流程Fig.3 Flowchart of WPSO-RBF-AdaBoost model

步驟1：選取數(shù)據(jù)和網(wǎng)絡初始化。從樣本空間中隨機選取M組訓練數(shù)據(jù)并歸一化，初始化測試數(shù)據(jù)的權值Dt(i)=1/M，其中M=160，利用圖2建立WPSO-RBF弱分類器。

步驟2：弱分類器預測。訓練第t個弱分類器時，用M組訓練數(shù)據(jù)訓練WPSO-RBF神經(jīng)網(wǎng)絡并且預測訓練數(shù)據(jù)輸出，得到預測序列g(t)的預測誤差和et，誤差和et的計算公式為

(10)

式中：g(t)為預測分類結果；y(t)為實際分類結果。

步驟3：計算預測序列權重。根據(jù)預測序列g(t)的預測誤差et計算序列的權重at，權重計算公式為

(11)

步驟4：測試數(shù)據(jù)權重調(diào)整。調(diào)整公式為

i=1,2,…,M。

(12)

式中Bt為歸一化因子，使得分布權值為1。

步驟5：重復步驟2至步驟4，得到T個弱分類器ht(x)。參考文獻[14]和試驗擬合取T=10。

步驟6：由T組弱分類器組合得到強分類器(強預測器)，即

(13)

3 基于WPSO-RBF-AdaBoost的大壩變形監(jiān)控模型實現(xiàn)流程

步驟1：初始化訓練數(shù)據(jù)和測試數(shù)據(jù)，確定影響大壩變形的輸入層節(jié)點數(shù)m、隱含層節(jié)點數(shù)h、輸出層節(jié)點數(shù)k。

步驟2：粒子向量Lm=(cji,dj,wj),i=1，2，…，m，j=1，2，…，h，維度D=mh+h+hk。種群規(guī)模M，最大迭代次數(shù)T，速度更新系數(shù)c1=1.494 45，c2=1.494 45，粒子速度的邊界Vmax=1。經(jīng)過T次迭代得到最優(yōu)個體適應度和對應粒子的位置，將粒子位置映射到RBF神經(jīng)網(wǎng)絡，建立基于WPSO-RBF大壩變形監(jiān)控模型。

步驟3：循環(huán)步驟2，建立T個WPSO-RBF弱分類器，利用AdaBoost集成算法集成WPSO-RBF-AdaBoost強分類器。

步驟4：用已建的WPSO-RBF-AdaBoost與常用神經(jīng)網(wǎng)絡和傳統(tǒng)統(tǒng)計模型對測試數(shù)據(jù)進行擬合，并分別與實測值進行比較，分析比較各模型的擬合效果和預測精度。

4 工程實例

向家壩水電站位于四川省宜賓縣和云南省水富縣交界處，大壩為混凝土重力壩。該壩于2012年10月10日下閘蓄水開始監(jiān)測，2013年9月12日蓄水至正常水位，并維持水位在380 m左右運行，已在左非7、左非1、航1、泄1、泄4、泄6等壩段布置了完整的正倒垂線。

現(xiàn)選取左非溢流7號壩段的垂線監(jiān)測資料對所建模型的擬合效果和預測精度進行測試。選取2013年1月8日—2015年5月2日共160組變形位移數(shù)據(jù)用于擬合，2015年5月11日—2015年12月21日共24組數(shù)據(jù)用于預測。大壩變形考慮水壓、溫度、時效的影響，影響因子取9個[16]。其中水壓因子取(H-H0),(H-H0)2,(H-H0)3三項(H，H0分別為監(jiān)測日、始測日對應的上游水頭)；時效采用線性項和對數(shù)項模擬，即取θ-θ0，lnθ-lnθ0兩項(θ為監(jiān)測日到始測日的累計天數(shù)t除以100，θ0為建模系列第1個測值日到始測日的累計天數(shù)t0除以100)；由于沒有實測的溫度資料數(shù)據(jù)，溫度影響采用周期項模擬，即溫度因子取

四項(i為監(jiān)測日到建模資料系列第1個監(jiān)測日的累計天數(shù))。

輸入層節(jié)點數(shù)m=9，隱含層節(jié)點數(shù)采用K-means[17]算法，通過實驗仿真不斷嘗試調(diào)整K值大小，最后確認h=10，輸出層節(jié)點數(shù)即大壩變形k=1，RBF結構為9-10-1結構。

對9種變形監(jiān)測數(shù)據(jù)進行預處理(降噪處理等)，降低觀測誤差對樣本的影響。改進的PSO算法中每個粒子的位置向量Lm=(cji,dj,wj),i=1,2,…,9,j=1,2,…,10。維度為D=9×10+10+10×1=110。粒子群算法種群規(guī)模為M=20；最大迭代次數(shù)T=100；速度更新系數(shù)為c1=1.494 45，c2=1.494 45；粒子速度的邊界Vmax=1。當適應度函數(shù)值達到最小時，WPSO算法優(yōu)化得到一組RBF網(wǎng)絡最優(yōu)參數(shù)，如表1所示。

表1 WPSO算法優(yōu)化得到的RBF神經(jīng)網(wǎng)絡最優(yōu)參數(shù)值Table 1 Optimal parameter values of RBF neural network optimized by WPSO

表2 WPSO-RBF弱分類器參數(shù)Table 2 Parameters of WPSO-RBF weaker classifier

得到最后的強預測器為

H(x)=0.1421h(1)+0.1200h(2)+

0.0917h(3)+0.0748h(4)+0.1421h(5)+

0.0680h(6)+0.1359h(7)+0.0810h(8)+

0.0743h(9)+0.0701h(10) 。

(14)

為直觀地進行分析，將強預測器WPSO-RBF-AdaBoost模型與常用的神經(jīng)網(wǎng)絡模型(本文選取BP神經(jīng)網(wǎng)絡)和統(tǒng)計模型(采用多元回歸分析法)進行比較，如圖4所示。從圖4可知，WPSO-RBF-AdaBoost的訓練效果最好。

圖4 不同模型訓練擬合值與實測值對比Fig.4 Comparison between fitted values of model training and measured values

圖5 不同模型預測值與實測值對比Fig.5 Comparison between values predicted by different models and measured values

圖5是3種模型的預測值與實測值的對比圖，從圖5中可知：WPSO-RBF-AdaBoost模型預測值與實測值近乎一致，殘差最?。籅P模型預測值與實測值雖有所偏差，但總體趨勢一致，殘差居中；統(tǒng)計模型預測值與實測值偏離較大，殘差最大。

表4 強預測器與弱分類器的誤差比較Table 4 Comparison of error between stage classifier and weaker classifiers %

利用復相關系數(shù)R、均方差FMSE比較WPSO-RBF-AdaBoost模型、BP模型和統(tǒng)計模型的擬合精度(見表3)，可以看出，WPSO-RBF-AdaBoost模型的復相關系數(shù)最大，均方差最小，曲線擬合精度最好。表4是選取擬合數(shù)據(jù)中的8個大壩變形位移對弱預測器和強預測器進行比較，可得出經(jīng)過AdaBoost集成算法，可有效地提高模型的預測精度和擬合效果。

表3WPSO-RBF-AdaBoost模型、WPSO-RBF模型和RBF模型的擬合精度對比

Table3ComparisonoffittingaccuracyamongWPSO-RBF-AdaBoostmodel,WPSO-RBFmodel,andRBFmodel

5 結 論

通過對工程實例的建模分析，驗證WPSO-RBF-AdaBoost模型較BP模型和統(tǒng)計模型具有更好的預測精度和泛化能力，但同時也存在一些問題。

(1)WPSO-RBF神經(jīng)網(wǎng)絡預測模型克服了RBF神經(jīng)網(wǎng)絡由于參數(shù)選取不當而影響其收斂性的弊端，WPSO-RBF模型相比原RBF預測精度高。

(2)利用AdaBoost集成算法優(yōu)化改進WPSO-RBF模型，將優(yōu)化后的WPSO-RBF模型按照預測精度賦予不同的權值，并用加權的方式進行集成，建立WPSO-RBF-AdaBoost模型，該模型的精度優(yōu)于傳統(tǒng)BP神經(jīng)網(wǎng)絡和統(tǒng)計模型，值得在工程實踐中推廣。

(3)改進的PSO算法仍然需要初始化參數(shù)，在迭代次數(shù)足夠多的情況下，參數(shù)的初始化對PSO算法影響不大，然而計算量增大。在保證改進PSO算法性能的基礎上，如何選取好的初始值并減少算法的工作量是下一步的研究重點。

(4)用弱分類器集成強分類器時，影響因子選取單一，構建的弱分類器模型單一，后續(xù)研究中可構建特征差異明顯的弱分類器，以得到更好的預測模型。

參考文獻：

[1] 吳中如.水工建筑物安全監(jiān)控理論及其應用[M].北京:高等教育出版社,2003.

[2] SU Huai-zhi, HU Jiang, WU Zhong-ru. A Study of Safety and Early-warning Method for Dam Global Behavior [J].Structural Health Monitoring, 2012, 11(3): 269-279.

[3] 王 凌.智能優(yōu)化算法及其應用[M].北京:清華大學出版社,2001.

[4] PARK J, SANDBERG I W. Universal Approximation Using Radial-Basis-Function Networks[J]. Neural Computation,1991,3(2):246-257.

[5] 張 輝,柴 毅.一種改進的RBF神經(jīng)網(wǎng)絡參數(shù)優(yōu)化方法[J].計算機工程與應用,2012,48(20):146-149,157.

[6] 胡德華,鄭東健,付浩雁.AdaBoost-BP模型在大壩變形預測中的應用[J].三峽大學學報(自然科學版),2015,37(5):5-8.

[7] SHI Y H, EBERHART R C. Empirical Study of Particle Swarm Optimization[C]∥Proceedings of the 1999 Congress on Evolutionary Computation-CEC 99. Washington, DC, USA, July 6-9,1999:1945-1950.

[8] 黃劍竹.改進RBF-AdaBoost模型及其在年徑流預測中的應用[J].人民珠江,2015,(1):32-36.

[9] 胡 昊,魏繼紅.基于PSO-RBF的邊坡安全系數(shù)預測[J].河南科學,2016,34(5):747-751.

[10] CHEN S, HONG X, LUK B L,etal. Non-linear System Identification Using Particle Swarm Optimization Tuned Radial Basis Function Models[J]. International Journal of Bio-inspired Computation, 2009,1(4): 246-258.

[11] 周 馳,高海兵,高 亮，等.粒子群優(yōu)化算法[J].計算機應用研究,2003,20(12):7-11.

[12] SHI Y H, EBERHART R C. A Modified Particle Swarm Optimizer[C]∥Proceedings of IEEE International Conference on Evolutionary Computation. Anchorage Alaska, USA, May 4-9, 1998: 69-73.

[13] 劉建華.粒子群算法的基本理論及其改進研究[D].長沙:中南大學,2009:22-46.

[14] 盧金娜.基于優(yōu)化算法的徑向基神經(jīng)網(wǎng)絡模型的改進及應用[D].太原:中北大學,2015.

[15] 王小川,史 峰,郁 磊.MATLAB神經(jīng)網(wǎng)絡43個案例分析[M].北京:北京航空航天大學出版社,2016:42.

[16] 蔣 明,鄭東健，張 凱，等.FA-SVM模型在大壩變形預測中的應用[J].水力發(fā)電,2015,41(4): 79-81,99.

[17] 喬俊飛,韓紅桂.前饋神經(jīng)網(wǎng)絡分析與設計[M].北京:科學出版社,2013.