人工電場(chǎng)算法優(yōu)化的極限學(xué)習(xí)機(jī)大壩變形預(yù)測(cè)模型研究

李新華，崔東文

(1.云南興電集團(tuán)有限公司,云南 文山 663000；2.云南省文山州水務(wù)局, 云南 文山 663000)

提高水庫(kù)大壩變形預(yù)測(cè)精度對(duì)于保障大壩穩(wěn)定運(yùn)行、確保人民生命財(cái)產(chǎn)安全具有重要意義。目前自回歸法[1]、GM(1,1)法[2]、灰色馬爾科夫法[3-4]、BP神經(jīng)網(wǎng)絡(luò)法[5-7]、支持向量法[8-10]、指數(shù)冪乘積法[11]、組合模型法[12]等模型及方法已成功應(yīng)用于大壩變形預(yù)測(cè)。當(dāng)前，BP神經(jīng)網(wǎng)絡(luò)和支持向量機(jī)(support vector machines，SVM)由于良好的預(yù)測(cè)精度和泛化能力，已廣泛應(yīng)用于大壩變形預(yù)測(cè)研究。然而，但在實(shí)際應(yīng)用中，BP神經(jīng)網(wǎng)絡(luò)和SVM均存在缺點(diǎn)和不足：①BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練時(shí)間長(zhǎng)、收斂速度慢、易陷入局部最優(yōu)；②BP神經(jīng)網(wǎng)絡(luò)需人為調(diào)節(jié)參數(shù)較多，如隱含層數(shù)量、隱含層傳遞函數(shù)、輸出層傳遞函數(shù)、訓(xùn)練函數(shù)、最大訓(xùn)練次數(shù)等選取不當(dāng)對(duì)BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)性能影響較大；③ SVM存在懲罰因子、核函數(shù)參數(shù)、不敏感系數(shù)和交叉驗(yàn)證折數(shù)參數(shù)選取的困難，參數(shù)選取不當(dāng)易導(dǎo)致SVM過(guò)擬合而降低外推能力。極限學(xué)習(xí)機(jī)(extreme learning machine，ELM)是近年興起的一種隱層前饋神經(jīng)網(wǎng)絡(luò)(SLFNs)學(xué)習(xí)算法，具有計(jì)算速度快，泛化性能強(qiáng)、網(wǎng)絡(luò)參數(shù)設(shè)置簡(jiǎn)單等優(yōu)點(diǎn)，已在各行業(yè)領(lǐng)域及大壩變形預(yù)測(cè)[13]中得到應(yīng)用。在實(shí)際應(yīng)用中，ELM尚存在以下問(wèn)題：①ELM輸入層權(quán)值和隱含層偏置的隨機(jī)選取在很大程度上制約了ELM預(yù)測(cè)或分類精度的提高。近年來(lái)，粒子群優(yōu)化(PSO)算法[14]、人工蜂群(ABC)算法[15]、生物地理學(xué)優(yōu)化(BBO)算法[16]、花授粉算法(FPA)[17]、差分進(jìn)化(DE)算法[18]、蝗蟲(chóng)優(yōu)化(GOA)算法[19]、黑猩猩優(yōu)化算法(ChOA)[20]等嘗試用于ELM輸入層權(quán)值和隱含層偏置的優(yōu)化，并獲得了較好的實(shí)際應(yīng)用效果，有效提高了ELM預(yù)測(cè)或分類精度；②隱含層數(shù)對(duì)ELM性能影響較大。隱含層數(shù)太少會(huì)導(dǎo)致ELM“欠擬合”，過(guò)多又會(huì)導(dǎo)致“過(guò)擬合”；③隨機(jī)產(chǎn)生的輸入層權(quán)值和隱含層偏置導(dǎo)致ELM連續(xù)每次運(yùn)行的結(jié)果不一致，甚至存在較大差異。

為提高大壩變形預(yù)測(cè)精度，拓展智能算法在ELM輸入層權(quán)值和隱含層偏置優(yōu)化中的應(yīng)用，本文研究提出一種人工電場(chǎng)算法(artificial electric field algorithm，AEFA)與ELM相結(jié)合的大壩變形預(yù)測(cè)方法。通過(guò)官地水電站72期大壩沉降數(shù)據(jù)構(gòu)建延遲時(shí)間為1，嵌入維數(shù)為2、3、5維的3種ELM預(yù)測(cè)模型，利用AEFA優(yōu)化3種ELM模型的輸入層權(quán)值和隱含層偏值，分別構(gòu)建3種不同嵌入維的AEFA-ELM大壩變形預(yù)測(cè)模型，并分別構(gòu)建對(duì)應(yīng)嵌入維的AEFA-SVM、AEFA-BP作預(yù)測(cè)對(duì)比模型。利用9種不同嵌入維的AEFA-ELM、AEFA-SVM、AEFA-BP模型對(duì)文獻(xiàn)[21]實(shí)例大壩變形數(shù)據(jù)進(jìn)行訓(xùn)練和預(yù)測(cè)。旨在驗(yàn)證AEFA-ELM模型在大壩變形預(yù)測(cè)中的可行性。

1 AEFA-ELM預(yù)測(cè)模型

1.1 人工電場(chǎng)算法

人工電場(chǎng)算法(artificial electric field algorithm，AEFA)是Anita等[22]于2019年受庫(kù)侖靜電力定律啟發(fā)而提出的一種新型全局優(yōu)化算法。該算法將待優(yōu)化問(wèn)題解視為電荷粒子，電荷粒子通過(guò)靜電力相互吸引或排斥在搜索空間中移動(dòng)來(lái)達(dá)到求解問(wèn)題的目的。AEFA數(shù)學(xué)描述簡(jiǎn)述如下[22]。

(1)

電荷粒子j在時(shí)刻t作用在電荷粒子i上的電力描述如下：

(2)

在d維搜索空間中，所有其他粒子在時(shí)刻t作用于第i個(gè)粒子的總電力描述如下：

(3)

式中 rand——[0,1]范圍內(nèi)均勻分布的隨機(jī)數(shù)；N——電荷粒子總數(shù)；Fi——作用在第i個(gè)電荷粒子上的合力。

第i個(gè)粒子時(shí)刻t在第d維空間的電場(chǎng)描述如下：

(4)

(5)

式中Mi(t)——第i個(gè)電荷粒子在時(shí)刻t的單位質(zhì)量。

(6)

(7)

式中 rand——[0,1]范圍內(nèi)均勻分布的隨機(jī)數(shù)。

1.2 極限學(xué)習(xí)機(jī)(ELM)

極限學(xué)習(xí)機(jī)(ELM)是一種廣義的單隱層前饋神經(jīng)網(wǎng)絡(luò)，具有較快的學(xué)習(xí)速度和良好的泛化能力。給定M個(gè)樣本Xk={xk,yk}，k=1，2，…，M，其中xk為輸入數(shù)據(jù)，yk為真實(shí)值，f(·)為激活函數(shù)，隱層節(jié)點(diǎn)為m個(gè)，ELM輸出可表示為[23]：

(8)

式中oj——輸出值；Wi={ωi1，ωi2，…，ωim}——輸入層節(jié)點(diǎn)與第i個(gè)隱含層節(jié)點(diǎn)的連接權(quán)值；bi——第i個(gè)輸入節(jié)點(diǎn)和隱含層節(jié)點(diǎn)的偏值；λi——第i個(gè)隱含層節(jié)點(diǎn)與輸出節(jié)點(diǎn)的連接權(quán)值。

1.3 預(yù)測(cè)模型的建立及實(shí)現(xiàn)步驟

AEFA-ELM模型建立及預(yù)測(cè)實(shí)現(xiàn)步驟歸納如下。

步驟一利用實(shí)例大壩變形數(shù)據(jù)構(gòu)建不同嵌入維的ELM模型，合理劃分訓(xùn)練樣本和預(yù)測(cè)樣本，利用AEFA優(yōu)化ELM輸入層權(quán)值和隱含層偏置，建立不同嵌入維的AEFA-ELM模型，利用訓(xùn)練樣本數(shù)據(jù)對(duì)AEFA-ELM模型進(jìn)行訓(xùn)練。

步驟二利用訓(xùn)練樣本均方誤差構(gòu)建優(yōu)化目標(biāo)函數(shù)：

(9)

步驟三在搜索范空間隨機(jī)初始化電荷粒子位置(X1(t),X2(t),…,XN(t))，設(shè)置種群規(guī)模N，最大迭代次數(shù)maxiter，隨機(jī)初始化電荷粒子初始速度，設(shè)置ELM輸入層權(quán)值和隱含層偏置搜尋范圍，令當(dāng)前迭代次數(shù)iter=0。

步驟四計(jì)算每個(gè)粒子在時(shí)刻t的適應(yīng)度值(fit1(t),fit2(t),…,fitN(t))。

步驟五計(jì)算庫(kù)侖常數(shù)K(t)；選取時(shí)刻t最佳和最差電荷粒子適應(yīng)度值對(duì)于應(yīng)電荷粒子空間位置。

步驟六計(jì)算每個(gè)粒子時(shí)刻t的適應(yīng)度值fiti(t)；利用式(3)計(jì)算每個(gè)粒子時(shí)刻t的總電力Fi(t)；利用式(5)計(jì)算加速度ai(t)；利用式(6)、(7)更新電荷粒子在t+1時(shí)刻的速度和位置。

步驟七計(jì)算所有粒子在t+1時(shí)刻的適應(yīng)度值，比較并保留當(dāng)前最佳電荷粒子空間位置xbest。

步驟八令iter=iter+1，判斷算法是否達(dá)到終止條件，若是，輸出xbest，算法結(jié)束；否則轉(zhuǎn)至步驟五。

步驟九輸出xbest。xbest即為ELM最佳輸入層權(quán)值和隱含層偏置。將參數(shù)xbest代入AEFA-ELM模型進(jìn)行大壩變形預(yù)測(cè)。

2 實(shí)例應(yīng)用

實(shí)例數(shù)據(jù)來(lái)源于文獻(xiàn)[21]官地水電站大壩壩頂監(jiān)測(cè)點(diǎn)T26在垂直方向上累積沉降位移值，樣本獲取時(shí)間段為2012年8月—2016年1月，共72組經(jīng)預(yù)處理后的大壩累積沉降數(shù)據(jù)，見(jiàn)表1。采用SPSS軟件自相關(guān)函數(shù)法求解延遲時(shí)間為1；對(duì)于最佳嵌入維數(shù)，目前普遍采用虛假最鄰近法(FNN)、G-P法、C-C法等方法求解，但對(duì)于短序列樣本，求解效果并不理想。在延遲時(shí)間為1的條件下利用試算的方法確定嵌入維數(shù)為2、3、5維時(shí)模型具有較好的預(yù)測(cè)精度。

因此，在延遲時(shí)間為1，嵌入維數(shù)為2、3、5維條件下分別構(gòu)建大壩變形預(yù)測(cè)因子與影響因子的輸入、輸出矩陣，分別利用選取前60組、前59組、前57組大壩累積沉降位移數(shù)據(jù)作為訓(xùn)練樣本，后10組累積沉降位移數(shù)據(jù)作為預(yù)測(cè)樣本。

表1 大壩變形累積沉降值 單位：mm

參數(shù)設(shè)置。設(shè)置AEFA最大迭代次數(shù)maxiter=100，種群規(guī)模N=50；ELM激活函數(shù)選擇sigmoid函數(shù)，輸入層權(quán)值和隱含層偏置的搜索范圍為[-1,1]。經(jīng)試算，嵌入維為2維的ELM隱含層數(shù)設(shè)置為2、嵌入維為3維的ELM隱含層數(shù)設(shè)置為3、嵌入維為5維的ELM隱含層數(shù)設(shè)置為19時(shí)，ELM模型預(yù)測(cè)效果最好，AEFA優(yōu)化ELM輸入層權(quán)值和隱含層偏置維度分別為9、16、134維。SVM核函數(shù)為RBF，超參數(shù)搜索范圍為[2-10,210]，交叉驗(yàn)證折數(shù)V=2，優(yōu)化維度3維。BP神經(jīng)網(wǎng)絡(luò)隱層數(shù)采用2倍的輸入層節(jié)點(diǎn)數(shù)-1確定，隱藏層和輸出層傳遞函數(shù)、訓(xùn)練函數(shù)分別采用logsig、purelin和traingdx，期望誤差、最大訓(xùn)練次數(shù)分別為0.001、200，搜索范圍為[-1,1]。所有輸入數(shù)據(jù)均采用[-1,1]進(jìn)行歸一化處理。

預(yù)測(cè)及分析。分別構(gòu)建AEFA-ELM(2、3、5維)、AEFA-SVM(2、3、5維)、AEFA-BP(2、3、5維)9種模型對(duì)實(shí)例大壩變形進(jìn)行預(yù)測(cè)，并利用平均相對(duì)誤差(MAPE)、平均絕對(duì)誤差(MAE)、均方根誤差(RMSE)進(jìn)行效果評(píng)價(jià)，結(jié)果見(jiàn)表2；訓(xùn)練及預(yù)測(cè)誤差見(jiàn)圖1—4。

表2 實(shí)例大壩變形預(yù)測(cè)結(jié)果

圖1 訓(xùn)練-預(yù)測(cè)效果(2維)

圖2 訓(xùn)練-預(yù)測(cè)效果(3維)

圖3 訓(xùn)練-預(yù)測(cè)效果(5維)

圖4 預(yù)測(cè)樣本相對(duì)誤差

依據(jù)表2及圖1—4可以得出以下結(jié)論。

a)AEFA-ELM(2、3、5維)模型對(duì)實(shí)例后10組大壩變形預(yù)測(cè)的MAPE分別為3.94%、4.08%、3.67%，RMSE分別為0.279、0.272、0.271 mm，MAE分別為0.181、0.180、0.177 mm，預(yù)測(cè)精度均優(yōu)于AEFA-SVM(2、3、5維)、AEFA-BP(2、3、5維)模型，具有更小的預(yù)測(cè)誤差和更高的預(yù)測(cè)精度。相對(duì)而言，AEFA-ELM(5維)模型的預(yù)測(cè)效果最好。

b)從擬合效果來(lái)看，僅AEFA-ELM(2維)模型的MAE精度略低于AEFA-SVM(2維)模型，其他AEFA-ELM(3、5維)擬合精度均優(yōu)于對(duì)應(yīng)嵌入維的AEFA-SVM、AEFA-BP；從預(yù)測(cè)效果來(lái)看，不同嵌入維的AEFA-ELM模型的預(yù)測(cè)精度均優(yōu)于對(duì)應(yīng)嵌入維的AEFA-SVM、AEFA-BP模型，表明AEFA能有效優(yōu)化ELM輸入層權(quán)值和隱含層偏置，有效提高ELM網(wǎng)絡(luò)預(yù)測(cè)性能。

3 結(jié)論

介紹一種新型群體智能算法——人工電場(chǎng)算法(AEFA)。通過(guò)大壩累積沉降數(shù)據(jù)構(gòu)建延遲時(shí)間為1，嵌入維為2、3、5維的ELM大壩變形預(yù)測(cè)模型，利用AEFA優(yōu)化ELM輸入層權(quán)值和隱含層偏置，建立不同嵌入維的AEFA-ELM大壩變形預(yù)測(cè)模型，并構(gòu)建對(duì)應(yīng)嵌入維的AEFA-SVM、AEFA-BP作預(yù)測(cè)對(duì)比模型。利用文獻(xiàn)大壩變形實(shí)例數(shù)據(jù)對(duì)不同嵌入維的AEFA-ELM、AEFA-SVM、AEFA-BP模型進(jìn)行訓(xùn)練及預(yù)測(cè)。結(jié)論如下。

a)不同嵌入維的AEFA-ELM模型對(duì)實(shí)例預(yù)測(cè)的MAPE、RMSE、MAE分別在3.67%～4.08%、0.271～0.279 mm、0.177～0.181 mm，預(yù)測(cè)精度均優(yōu)于AEFA-SVM、AEFA-BP模型，具有更小的預(yù)測(cè)誤差和更高的預(yù)測(cè)精度。

b)利用AEFA尋優(yōu)ELM輸入層權(quán)值和隱含層偏置，能有效提高ELM的預(yù)測(cè)精度和泛化能力。