基于Adaboost.RT算法的隧道沉降時(shí)間序列預(yù)測(cè)研究

李 偉,嚴(yán) 珂,陸慧娟,葉敏超

(中國(guó)計(jì)量大學(xué) 信息工程學(xué)院,浙江 杭州 310018)

隧道沉降問(wèn)題不僅影響著城市軌道交通的發(fā)展,同時(shí)對(duì)城市居民的生命財(cái)產(chǎn)安全都有極大的威脅,因而對(duì)隧道沉降的預(yù)測(cè)研究一直備受關(guān)注。國(guó)內(nèi)外學(xué)者對(duì)隧道的沉降預(yù)測(cè)進(jìn)行了大量的研究,研究方法大致可以分為兩類(lèi):理論計(jì)算經(jīng)驗(yàn)法和實(shí)測(cè)數(shù)據(jù)分析法[1]。理論計(jì)算經(jīng)驗(yàn)法以Peck經(jīng)驗(yàn)公式法為代表,包括數(shù)值分析法、數(shù)值模擬法、半理論解析法和隨機(jī)理論模型等。如:WU等提出的基于正態(tài)分布函數(shù)的盾構(gòu)隧道地下沉降計(jì)算方法[2]。ISLAM和GNANENDRAN提出的粘土彈性-粘塑性模型(EVP)對(duì)高嶺粘土、香港海洋沉積物粘土和Fukakusa粘土進(jìn)行了諸多實(shí)驗(yàn)研究[3],均取得了良好的預(yù)測(cè)效果。ZHU和LI提出一種新的GP模型準(zhǔn)確地表達(dá)了沉降槽中VL和最大SS的關(guān)系,有效地對(duì)隧道沉降進(jìn)行了預(yù)測(cè)[1]。LI[4]等人使用理論結(jié)論法和實(shí)驗(yàn)分析法研究了循環(huán)荷載作用下軟土地基超載預(yù)壓低路堤沉降,提出了軟土路堤在循環(huán)荷載作用下沉降的計(jì)算公式。GUO[5]等人從時(shí)間與沉降的關(guān)系入手,從數(shù)學(xué)上證明了適用于建筑和路堤工程的線性荷載作用下的沉降曲線為“S”形,在此基礎(chǔ)上,提出了一種新的沉降預(yù)測(cè)模型——Poison模型,對(duì)建筑和路基沉降進(jìn)行了有效的預(yù)測(cè)研究。

實(shí)測(cè)數(shù)據(jù)分析法分為基于統(tǒng)計(jì)學(xué)的方法和機(jī)器學(xué)習(xí)方法,尤其是機(jī)器學(xué)習(xí)的研究應(yīng)用,為解決隧道沉降預(yù)測(cè)問(wèn)題提供了許多新的解決思路。如:龍熙華等人分析了地鐵隧道沉降因素并結(jié)合BP神經(jīng)網(wǎng)絡(luò)提出ANP-BP模型對(duì)西安地鐵隧道進(jìn)行了精準(zhǔn)預(yù)測(cè)[6];OCAK等針對(duì)EPBM(earth pressure balance machines)隧道地表沉降,采用SVM進(jìn)行沉降預(yù)測(cè)[7],試驗(yàn)結(jié)果證明,SVM具有較高的適用性;AZADI和POURAKBAR等提出使用有限元法對(duì)隧道周邊的建筑進(jìn)行沉降研究,然后使用神經(jīng)網(wǎng)絡(luò)對(duì)各種沉降情況進(jìn)行分析,最終得出對(duì)隧道沉降的預(yù)測(cè)結(jié)論[8];MOGHADDASI等使用了ICA優(yōu)化的ANN算法對(duì)隧道沉降進(jìn)行了預(yù)測(cè)研究[9]。

理論計(jì)算經(jīng)驗(yàn)法的有效性取決于土體模型的合理性和土體參數(shù)的獲取方法,所以理論計(jì)算經(jīng)驗(yàn)法的泛化性較差；而實(shí)測(cè)數(shù)據(jù)分析法的有效性取決于大量的樣本數(shù)據(jù),因而泛化性較好,但是因?yàn)槭褂脝我坏哪Ｐ?所以對(duì)復(fù)雜的非線性回歸問(wèn)題預(yù)測(cè)精度不高。

時(shí)間序列是指系統(tǒng)中某一變量的觀測(cè)值按時(shí)間順序排序成一個(gè)序列[10],它是受系統(tǒng)中其它各種因素影響的總結(jié)果。通過(guò)對(duì)此序列的研究,可分析出事物的變化特征和發(fā)展趨勢(shì)、規(guī)律。時(shí)間序列現(xiàn)已被廣泛應(yīng)用于許多方面,如工程中隧道沉降,經(jīng)濟(jì)領(lǐng)域中的金融股票等。

本文研究數(shù)據(jù)即為單維時(shí)間序列數(shù)據(jù),所以鑒于樣本數(shù)據(jù)為隨機(jī)性極強(qiáng)的單維時(shí)間序列,同時(shí)研究的問(wèn)題是復(fù)雜的非線性回歸問(wèn)題,因而本文提出使用Adaboost.RT算法集成多種學(xué)習(xí)模型的方法對(duì)隧道沉降進(jìn)行預(yù)測(cè)研究。

1 集成學(xué)習(xí)

集成學(xué)習(xí)理論基礎(chǔ)源于KEARNS和VALIANT提出的可學(xué)習(xí)性(Probably approximately correct, PAC)學(xué)習(xí)模型[11]。其主要思想是訓(xùn)練若干學(xué)習(xí)器后,使用一定的策略將學(xué)習(xí)器結(jié)合得到一個(gè)比任意單個(gè)學(xué)習(xí)器效果更好的強(qiáng)學(xué)習(xí)器。

1.1 Adaboost算法原理

Bagging和Boosting是目前使用最多的兩種集成學(xué)習(xí)算法,二者都已有許多成功的應(yīng)用。然而B(niǎo)AUER等人的研究表明在整體模型中作為Boosting家族最具代表性的Adaboost算法效果普遍優(yōu)于Bagging算法[12]。因而本文選用Adaboost作為提升算法。

AdaBoost是一種迭代提升算法,其核心思想是:根據(jù)隨迭代次數(shù)不斷更新的學(xué)習(xí)樣本權(quán)重確定一個(gè)由不同弱學(xué)習(xí)器構(gòu)成的強(qiáng)學(xué)習(xí)器。最初所有訓(xùn)練樣本的權(quán)重被賦予相等值,隨著訓(xùn)練迭代樣本權(quán)重不斷的更新,預(yù)測(cè)誤差大的樣本權(quán)重將增加,這樣便加大了弱學(xué)習(xí)器對(duì)難以預(yù)測(cè)樣本的關(guān)注以實(shí)現(xiàn)更高精度的預(yù)測(cè)。最后根據(jù)樣本權(quán)重、預(yù)測(cè)誤差等將弱學(xué)習(xí)器加權(quán)整合得到唯一的強(qiáng)學(xué)習(xí)器模型。

最初的Adaboost算法被用來(lái)解決分類(lèi)問(wèn)題,如Adaboost.M1和Adaboost.M2[13]算法。后來(lái)Adaboost被應(yīng)用到解決回歸問(wèn)題,便出現(xiàn)了Adaboost.R,Adaboost.R2[14-15]和Adaboost.RT[16]算法。

1.2 Adaboost.RT算法

Adaboost.RT算法是SOLOMATINE和SHRESTHA[16]在Adaboost.R和Adaboost.R2等Adaboost回歸算法的基礎(chǔ)上做出的改進(jìn)算法,他們?cè)贏daboost算法中引入了一個(gè)閾值,通過(guò)對(duì)訓(xùn)練誤差和閾值的比較將訓(xùn)練集分成好壞兩類(lèi),從而將回歸問(wèn)題轉(zhuǎn)化為簡(jiǎn)單的二分類(lèi)問(wèn)題。Adaboost.RT算法已被廣泛應(yīng)用于諸多工業(yè)和經(jīng)濟(jì)領(lǐng)域回歸問(wèn)題。

Adaboost.RT算法流程如下:

第一步 輸入,一組訓(xùn)練樣本集W={(x1,y1),(x2,y2),…,(xm,ym)},弱學(xué)習(xí)器；

第三步 訓(xùn)練,對(duì)于t=1到T進(jìn)行迭代,

依據(jù)權(quán)值分布Dt對(duì)原始訓(xùn)練集經(jīng)行采樣,并使用采樣樣本數(shù)據(jù)訓(xùn)練弱學(xué)習(xí)器,

第四步 輸出最終的強(qiáng)預(yù)測(cè)器:

2 基于Adaboost.RT算法集成多學(xué)習(xí)模型的隧道沉降預(yù)測(cè)方法

2.1 基學(xué)習(xí)模型的選取

為獲取泛化性能強(qiáng)的集成強(qiáng)學(xué)習(xí)模型,集成中的弱學(xué)習(xí)器應(yīng)盡可能相互獨(dú)立,但在實(shí)際任務(wù)中無(wú)法做到。大多數(shù)研究者們都是選用相同的基學(xué)習(xí)模型并使用不同的訓(xùn)練樣本訓(xùn)練以得到不同的弱學(xué)習(xí)器。本文選擇使用不同的基學(xué)習(xí)模型作為弱學(xué)習(xí)器來(lái)得到一個(gè)泛化性強(qiáng)的強(qiáng)學(xué)習(xí)模型。然而，因?yàn)檠芯康乃淼拦こ虜?shù)據(jù)量較少,是一個(gè)小樣本數(shù)據(jù),所以需要適合處理小樣本數(shù)據(jù)的模型；同時(shí)考慮到模型的訓(xùn)練會(huì)花費(fèi)不少的時(shí)間,因而選擇了三種不同的學(xué)習(xí)能力強(qiáng)且適合處理小樣本數(shù)據(jù)的基學(xué)習(xí)模型——SVR，BP，ELM作為基學(xué)習(xí)器。

SVR從SVM支持向量機(jī)發(fā)展而來(lái)[17],具有很強(qiáng)的泛化能力,可以較好地解決小樣本、過(guò)學(xué)習(xí)、高維度以及局部最小等問(wèn)題；BP神經(jīng)網(wǎng)絡(luò)[18]具有較強(qiáng)的自適應(yīng)性、自組織性、自學(xué)習(xí)性和非線性映射能力。它克服了傳統(tǒng)反饋方法的不足,近年來(lái)得到了越來(lái)越廣泛的應(yīng)用。ELM極限學(xué)習(xí)機(jī)[19]較傳統(tǒng)的梯度下降算法具有更快的收斂速度和較高的預(yù)測(cè)精度,并易于獲取全局最優(yōu)。

2.2 方法流程

本文使用Adaboost.RT算法訓(xùn)練三種學(xué)習(xí)模型得到不同弱學(xué)習(xí)器,然后加權(quán)獲得最終的強(qiáng)學(xué)習(xí)器。Adaboost.RT集成三種不同基學(xué)習(xí)器的算法描述。

算法1:Adaboost.RT集成三種基學(xué)習(xí)模型

輸入:訓(xùn)練集X={(x1,x2,x3,y1),(x2,x3,x4,y2),…,(xm,xm+1,xm+2,ym)}；

三種基學(xué)習(xí)模型L1,L2,L3.

迭代次數(shù)T=3.

閾值φ,樣本權(quán)重Dt

過(guò)程:

2)fort=1,2,Tdo;

3)依據(jù)樣本權(quán)重Dt劃分訓(xùn)練集,訓(xùn)練基學(xué)習(xí)器Lt:ft(x)=Lt(X,Dt)→y,

7)end；

在Adaboost.RT算法中閾值的選取對(duì)算法的效果具有很大的影響,然而目前并沒(méi)有一種確切可靠的閾值自動(dòng)選擇算法,所以本文采用手動(dòng)調(diào)整閾值的方式,重復(fù)不斷地調(diào)整閾值。

3 仿真實(shí)驗(yàn)和結(jié)果分析

3.1 數(shù)據(jù)來(lái)源

本文數(shù)據(jù)來(lái)源于隧道工程實(shí)際采集的時(shí)間序列數(shù)據(jù),工程項(xiàng)目為珠海市2015—2016年交通隧道上方采集的地表沉降數(shù)據(jù)。數(shù)據(jù)為工程每個(gè)采集點(diǎn)按時(shí)間順序依次記錄的地表沉降數(shù)值,所以是單維的時(shí)間序列數(shù)據(jù)。實(shí)驗(yàn)隨機(jī)選取部分(采集點(diǎn)序號(hào):180～250)實(shí)測(cè)數(shù)據(jù)進(jìn)行預(yù)測(cè)研究。

因?yàn)闃颖緮?shù)據(jù)為一維時(shí)間序列,存在樣本維度過(guò)低問(wèn)題,所以本文使用灰色理論中的等維新息方法[20]將原單維數(shù)據(jù)拓展成多維數(shù)據(jù)。經(jīng)多次實(shí)驗(yàn)驗(yàn)證,取歷史數(shù)據(jù)數(shù)為3,即每次使用前三個(gè)歷史點(diǎn)預(yù)測(cè)第四個(gè)點(diǎn),這樣原本單維樣本數(shù)據(jù)便拓展成為三維樣本數(shù)據(jù),以此解決維度過(guò)低問(wèn)題。

3.2 實(shí)驗(yàn)結(jié)果

實(shí)驗(yàn)選取珠海軌道交通工程采集點(diǎn)數(shù)據(jù)進(jìn)行仿真,通過(guò)多次訓(xùn)練調(diào)整閾值,得到最終的實(shí)驗(yàn)結(jié)果。實(shí)驗(yàn)擬合如圖1。

圖1 預(yù)測(cè)擬合曲線Figure 1 Prediction fitting curve

選取回歸模型通用的3個(gè)評(píng)價(jià)標(biāo)準(zhǔn)對(duì)各個(gè)方法的性能進(jìn)行評(píng)價(jià),RMSE(Root mean squared error)均方根誤差,MAE(Mean absolute error)平均絕對(duì)誤差,MAPE(mean absolute percent error)平均絕對(duì)百分比誤差。各評(píng)價(jià)指標(biāo)計(jì)算公式如下:

(1)

(2)

(3)

各個(gè)方法性能指標(biāo)結(jié)果如表1。

表1 Adaboost集成多模型算法和SVR、BP network以及ELM性能比較Table 1 Performance comparison of Adaboost integrating multiple method algorithm with SVR,BP network and ELM

本文同時(shí)做了與Adaboost.RT算法集成單一模型方法的對(duì)比實(shí)驗(yàn)。為與所提的方法保持一致,且在實(shí)驗(yàn)中發(fā)現(xiàn)增加集成的模型數(shù)量,最終的強(qiáng)學(xué)習(xí)器預(yù)測(cè)效果沒(méi)有明顯的提升,所以對(duì)比實(shí)驗(yàn)中亦選擇訓(xùn)練三個(gè)弱學(xué)習(xí)器模型得到最終的強(qiáng)學(xué)習(xí)器,每個(gè)方法預(yù)測(cè)性能結(jié)果如表2。

表2 Adaboost集成多模型方法與Adaboost集成SVR、Adaboost集成BP network、Adaboost集成ELM方法性能比較Table 2 Performance comparison of Adaboost integrating multiple models method with Adaboost integrating SVR methodl, Adaboost integrating BP network method and Adaboost integrating ELM method

3.3 結(jié)果對(duì)比分析

圖1是Adaboost.RT集成三種模型預(yù)測(cè)結(jié)果與三種模型各自的預(yù)測(cè)結(jié)果擬合曲線,從圖中可以明顯的看出,Adaboost.RT集成多種模型的方法在預(yù)測(cè)精度上有較為明顯的提升；表1是各種方法預(yù)測(cè)性能數(shù)據(jù)對(duì)比,無(wú)論是RMSE、MAE還是MAPE,均是Adaboost.RT集成多學(xué)習(xí)模型的方法表現(xiàn)最好,魯棒性最強(qiáng)。

為繼續(xù)驗(yàn)證基于Adaboost.RT集成多模型算法對(duì)隧道沉降時(shí)間序列的預(yù)測(cè)效果,本文同時(shí)做了與Adaboost.RT集成SVR、Adaboost.RT集成BP和Adaboost.RT集成ELM方法的對(duì)比分析。從表2可以看出在預(yù)測(cè)精度和泛化性上,使用Adaboost.RT集成多學(xué)習(xí)模型比使用Adaboost.RT算法集成任意單一模型方法表現(xiàn)都要好。所以,我們得出使用Adaboost.RT算法集成多學(xué)習(xí)模型的方法可以有效地應(yīng)用于隧道沉降時(shí)間序列地預(yù)測(cè)中。

4 結(jié) 論

針對(duì)目前隧道沉降預(yù)測(cè)單一模型或統(tǒng)計(jì)方法預(yù)測(cè)精度較低、泛化性差等問(wèn)題,本文提出使用Adaboost提升算法訓(xùn)練提升不同的弱學(xué)習(xí)模型,加權(quán)后得到一個(gè)強(qiáng)學(xué)習(xí)模型。仿真實(shí)驗(yàn)結(jié)果表明,本文使用Adaboost.RT集成訓(xùn)練多種弱學(xué)習(xí)器而得到的強(qiáng)學(xué)習(xí)器模型,在對(duì)隧道沉降的預(yù)測(cè)研究中不論是預(yù)測(cè)精度還是泛化性上都要優(yōu)于任意單一的學(xué)習(xí)預(yù)測(cè)模型。所以此方法可以有效的應(yīng)用于實(shí)際工程中對(duì)隧道沉降的預(yù)測(cè)研究。后續(xù)工作可從Adaboost集成何種基學(xué)習(xí)模型或改進(jìn)Adaboost算法等方面進(jìn)行研究。