不同的自適應(yīng)卡爾曼濾波在地鐵隧道沉降監(jiān)測數(shù)據(jù)處理中的應(yīng)用研究

范雷剛，田林亞，陳喜鳳

(河海大學(xué)地球科學(xué)與工程學(xué)院，江蘇 南京 2 10098)

0 引言

地鐵投入運(yùn)營后，由于受列車荷載、周圍施工活動(dòng)等外界因素的影響，極易造成隧道結(jié)構(gòu)沉降、位移、裂縫、傾斜等變形。其中，沉降變形是最關(guān)鍵因素［1］。過大的沉降變形會(huì)對地鐵隧道的結(jié)構(gòu)防水性能以及耐久性構(gòu)成威脅。因盾構(gòu)隧道的縱向剛度較小，當(dāng)縱向變形或曲率較大時(shí)，隧道即可能出現(xiàn)因環(huán)縫張開過大而漏水、漏泥或管片縱向受拉破壞等情況［2］。因此，研究和準(zhǔn)確預(yù)測運(yùn)營期地鐵隧道的沉降變形顯得非常重要。

目前，地鐵隧道沉降監(jiān)測數(shù)據(jù)的處理方法中，時(shí)間序列模型、灰色模型、卡爾曼濾波等被廣泛應(yīng)用［3-5］，并取得了較好的效果。傳統(tǒng)的數(shù)據(jù)處理方法一般是直接使用實(shí)測變形數(shù)據(jù)建模分析，沒有充分考慮觀測過程中的各種噪聲。卡爾曼濾波雖然能夠剔除一部分噪聲，但是由于該模型的狀態(tài)系統(tǒng)噪聲和測量噪聲都是依靠經(jīng)驗(yàn)來取值，具有一定的隨意性［6］，并不一定符合地鐵隧道內(nèi)復(fù)雜的實(shí)際情況。如果模型的動(dòng)態(tài)噪聲判斷不準(zhǔn)，將會(huì)增加狀態(tài)估計(jì)的誤差，甚至可能引起濾波發(fā)散［7］。自適應(yīng)卡爾曼濾波能夠?qū)τ^測數(shù)據(jù)進(jìn)行遞推濾波，同時(shí)，對噪聲的統(tǒng)計(jì)特性進(jìn)行估計(jì)和修正，以減小模型誤差，提高預(yù)測精度。對于不同的變形監(jiān)測數(shù)據(jù)，采用自適應(yīng)卡爾曼濾波進(jìn)行數(shù)據(jù)處理時(shí)，還應(yīng)根據(jù)實(shí)際情況選擇合理的濾波模型。

1 卡爾曼濾波與自適應(yīng)卡爾曼濾波

1．1 卡爾曼濾波

對于線性離散系統(tǒng)，狀態(tài)方程和觀測方程［8-9］的一般形式為:式中:k為歷元時(shí)刻;Xk，Xk-1分別為第k期和第k-1期的狀態(tài)向量;Φk，k-1為第k-1期到第k期的狀態(tài)轉(zhuǎn)移陣;Ωk為第k期動(dòng)態(tài)噪聲向量;Γk，k-1為第k期動(dòng)態(tài)噪聲系數(shù)陣;Lk，Bk分別為第k期觀測向量和第k期觀測向量系數(shù)陣;Δk為第k期觀測噪聲。

卡爾曼濾波方程為:

增益矩陣為:

濾波方程及其方差陣為:

1．2 基于方差補(bǔ)償?shù)淖赃m應(yīng)卡爾曼濾波

假定{Ωk}和{Δk}為正態(tài)序列，X0為正態(tài)向量。定義第i步的預(yù)測殘差［10］為:

式中:Lk+i，k+i/k分別為第k+i期觀測值和它的最佳預(yù)測值;Vk+i為預(yù)測殘差。則Vk+i的方差陣為:

又記 E = ［Ek+1，…，Ek+N］T，η = ［ηk+1，…，ηk+N］T，則有:

N≥r時(shí)，有唯一解，diagDΩΩ的LS估計(jì)為:

根據(jù)以上各式求得任意長度時(shí)間段上的DΩΩ，作為動(dòng)態(tài)噪聲協(xié)方差陣的實(shí)時(shí)估計(jì)。

1．3 基于極大驗(yàn)后估計(jì)的自適應(yīng)卡爾曼濾波

動(dòng)態(tài)噪聲向量Ωk、觀測噪聲向量Δk是互相獨(dú)立的正態(tài)白噪聲向量，滿足E(Ωk)=q，E(Δk)=r，若噪聲的統(tǒng)計(jì)特性已知，可由極大驗(yàn)后估計(jì)原理得到自適應(yīng)卡爾曼濾波的遞推方程［11］為:

增益矩陣為:

濾波方程及其方差陣為:

若噪聲均值向量 q ，r和協(xié)方差陣 DΩk，DΔk未知時(shí)，可以利用濾波估值j，j和 預(yù)報(bào)值j，j-1近似代替計(jì)算較復(fù)雜的平滑估值k，j和k，j-1。

2 實(shí)例預(yù)測與分析

2．1 工程概況

某市地鐵隧道附近需要開挖一超大型基坑，在基坑開挖階段需要對地鐵保護(hù)區(qū)隧道進(jìn)行垂直位移監(jiān)測。采用精密水準(zhǔn)儀NⅠ007和二等水準(zhǔn)測量方法進(jìn)行施測，從2013年3月19日至9月15日，每周觀測一次，一共觀測18期。由于監(jiān)測點(diǎn)較多，本文只列出靠近基坑側(cè)下行線的部分隧道沉降監(jiān)測點(diǎn)。下行線隧道內(nèi)沉降監(jiān)測點(diǎn)布置如圖1所示，其中JX1—JX5為位于變形區(qū)域之外的基準(zhǔn)點(diǎn)，X3—X13為位于變形區(qū)內(nèi)的沉降監(jiān)測點(diǎn)。

圖1 下行線隧道沉降監(jiān)測點(diǎn)布置示意圖Fig．1 Layout of monitoring points of down line tunnel

2．2 數(shù)據(jù)處理

本文使用變形區(qū)內(nèi)X3—X13點(diǎn)進(jìn)行沉降預(yù)測與分析。首先根據(jù)前2期沉降監(jiān)測數(shù)據(jù)建立濾波模型［12］，然后利用前16期數(shù)據(jù)，分別采用卡爾曼濾波、基于方差補(bǔ)償?shù)淖赃m應(yīng)卡爾曼濾波和基于極大驗(yàn)后估計(jì)的自適應(yīng)卡爾曼濾波對第17期數(shù)據(jù)進(jìn)行預(yù)測，又以第17期的預(yù)測結(jié)果為已知數(shù)據(jù)預(yù)測第18期數(shù)據(jù)。將預(yù)測值與實(shí)測值進(jìn)行比較，結(jié)果分別如表1和表2所示。

表1 監(jiān)測點(diǎn)第17期預(yù)測值與實(shí)測值比較Table 1 Comparison between prediction results and monitoring data in the seventeenth stage

表2 監(jiān)測點(diǎn)第18期預(yù)測值與實(shí)測值比較Table 2 Comparison between prediction results and monitoring data in the eighteenth stage

2．3 數(shù)據(jù)分析

將表1和表2中的預(yù)測值與實(shí)測值之差繪制成殘差圖，分別如圖2和圖3所示。

圖2 第17期3種模型預(yù)測值殘差對比Fig．2 Comparison of predicted residuals obtained by three different models in the seventeenth stage

圖3 第18期3種模型預(yù)測值殘差對比Fig．3 Comparison of predicted residuals obtained by three different models in the eighteenth stage

由表1和圖2可以看出:在第17期沉降預(yù)測時(shí)，卡爾曼濾波預(yù)測殘差除X7點(diǎn)較大外，其余點(diǎn)預(yù)測的殘差均小于1 mm，預(yù)測殘差中誤差為0．72 mm;方差補(bǔ)償自適應(yīng)卡爾曼濾波預(yù)測殘差均較小，預(yù)測殘差中誤差為0．34 mm;極大驗(yàn)后估計(jì)自適應(yīng)卡爾曼濾波預(yù)測殘差均較大，大部分點(diǎn)預(yù)測殘差均大于1 mm，預(yù)測殘差中誤差為1．39 mm。

由表2和圖3可以看出，在第18期的沉降預(yù)測中，卡爾曼濾波和極大驗(yàn)后估計(jì)自適應(yīng)卡爾曼濾波預(yù)測殘差均較大，絕大部分點(diǎn)的預(yù)測殘差達(dá)到了1 mm，中誤差分別達(dá)到1．62 mm和1．93 mm。根據(jù)相關(guān)規(guī)定，測點(diǎn)允許的最大沉降變形為±3 mm(當(dāng)超過該值時(shí)需報(bào)警)，此時(shí)預(yù)測殘差太大，該模型已經(jīng)不適合使用。而方差補(bǔ)償自適應(yīng)卡爾曼濾波預(yù)測殘差仍然比較小，預(yù)測殘差為0．57 mm。

3 結(jié)論與討論

1)當(dāng)預(yù)測時(shí)間較短，卡爾曼濾波和方差補(bǔ)償自適應(yīng)卡爾曼濾波的預(yù)測精度都比較高，可以滿足地鐵隧道變形預(yù)測的要求。當(dāng)預(yù)測時(shí)間較長時(shí)，只有方差補(bǔ)償自適應(yīng)卡爾曼濾波預(yù)測精度較高。

2)極大驗(yàn)后估計(jì)的自適應(yīng)卡爾曼濾波2期預(yù)測精度都比較低，這表明，不同的工程應(yīng)通過比較來選用不同的自適應(yīng)卡爾曼濾波模型。經(jīng)過比較分析，該工程適合使用基于方差補(bǔ)償?shù)淖赃m應(yīng)卡爾曼濾波進(jìn)行數(shù)據(jù)處理。

3)本文僅比較了2期的預(yù)測結(jié)果，對3種模型在更長時(shí)間內(nèi)的預(yù)測精度對比分析沒有進(jìn)行研究，尚需進(jìn)一步探索和完善。

［1］陳喜鳳，劉嶺，黃騰．基于蟻群算法的地鐵隧道沉降預(yù)測研究［J］．隧道建設(shè)，2013，33(6):462-468．(CHEN Xifeng，LⅠU Ling，HUANG Teng．Study on settlement prediction of Metro tunnels based on ant colony algorithm［J］．Tunnel Construction，2013，33(6):462-468．(in Chinese))

［2］鄭永來，韓文星，童琪華，等．軟土地鐵隧道縱向不均勻沉降導(dǎo)致的管片接頭環(huán)縫開裂研究［J］．巖石力學(xué)與工程學(xué)報(bào)，2005，24(24):4552-4558．(ZHENG Yonglai，HAN Wenxing，TONG Qihua，et al．Study on longitudinal crack of shield tunnel segment joint due to asymmetric settlement in soft soil［J］．Chinese Journal of Rock Mechanics and Engineering，2005，24(24):4552-4558．(in Chinese))

［3］徐愛功，李娜，張濤．時(shí)間序列分析在地鐵沉降觀測中的應(yīng)用［J］．測繪科學(xué)，2013，38(5):57-60．(XU Aigong，LⅠNa，ZHANG Tao．Application of time series analysis in subway settlement observation［J］．Science of Sur-veying and Mapping，2013，38(5):57-60．(in Chinese))

［4］王元東，唐益群，李仁杰．地鐵荷載下隧道土體沉降的灰色預(yù)測與分析［J］．路基工程，2010(5):4-7．(WANG Yuandong，TANG Yiqun，LⅠRenjie．Gray prediction and analysis on tunnel soil settlement under Metro load［J］．Subgrade Engineering，2010(5):4-7．(in Chinese))

［5］徐亞明，劉冠蘭，柏文鋒．顧及基坑施工影響的地鐵區(qū)間隧道結(jié)構(gòu)卡爾曼濾波預(yù)報(bào)模型［J］．武漢大學(xué)學(xué)報(bào):信息科學(xué)版，2013，38(11):1322-1325．(XU Yaming，LⅠU Guanlan，BAⅠWenfeng．Kalman filter model considering pit construction simulation evaluation for tunnel deformation prediction［J］．Geomatics and Ⅰnformation Science of Wuhan University，2013，38(11):1322-1325．(in Chinese))

［6］郭應(yīng)時(shí)，王暢，張亞岐．噪聲方差對卡爾曼濾波結(jié)果影響分析［J］．計(jì)算機(jī)工程與設(shè)計(jì)，2014，35(2):641-645．(GUO Yingshi，WANG Chang，ZHANG Yaqi．Analysis of noise variance’s effect on Kalman filter result［J］．Computer Engineering and Design，2014，35(2):641-645．(in Chinese))

［7］許阿裴，歸慶明，韓松輝．卡爾曼濾波模型誤差的影響分析［J］．大地測量與地球動(dòng)力學(xué)，2008，28(1):101-104．(XU Apei，GUⅠQingming，HAN Songhui．Analysis of model error effect on Kalman filtering ［J］．Journal of Geodesy and Geodynamics，2008，28(1):101-104．(in Chinese))

［8］崔希璋，於宗儔，陶本藻，等．廣義測量平差［M］．北京:測繪出版社，1992．

［9］何秀鳳．變形監(jiān)測新方法及其應(yīng)用［M］．北京:科學(xué)出版社，2007．

［10］高雅萍，張勤．方差補(bǔ)償自適應(yīng)卡爾曼濾波在GPS滑坡監(jiān)測中的應(yīng)用研究［J］．水土保持研究，2008(6):150-152．(GAO Yaping，ZHANG Qin．The application of self adapting Kalman filtering in landslides monitoring based on GPS［J］．Research of Soil and Water Conservation，2008(6):150-152．(in Chinese))

［11］趙琳，王小旭，孫明，等．基于極大后驗(yàn)估計(jì)和指數(shù)加權(quán)的自適應(yīng)UKF濾波算法［J］．自動(dòng)化學(xué)報(bào)，2010(7):1007-1019．(ZHAO Lin，WANG Xiaoxu，SUN Ming，et al．Adaptive UKF filtering algorithm based on maximum a posterior estimation and exponentialweighting ［J］．Automatica Sinica，2010(7):1007-1019．(in Chinese))

［12］許國輝，余春林．卡爾曼濾波模型的建立及其在施工變形測量中的應(yīng)用［J］．測繪通報(bào)，2004(4):22-23，42．(XU Guohui，YU Chunlin．Establishment of Kalman filtering model and its application in construction deformation measurement［J］．Bulletin of Surveying and Mapping，2004(4):22-23，42．(in Chinese))