地鐵車站端頭井施工數(shù)值模擬參數(shù)的確定

楊 妍,徐金明

（上海大學(xué) 力學(xué)與工程科學(xué)學(xué)院，上海 200444）

隨著我國城市化建設(shè)的發(fā)展，地下工程不斷增多，對基坑的安全性和穩(wěn)定性要求也進(jìn)一步提高。目前，基坑工程設(shè)計(jì)多利用大型商業(yè)有限元軟件，通過建立基坑計(jì)算模型進(jìn)行相應(yīng)的數(shù)值模擬，對基坑穩(wěn)定性進(jìn)行分析。但是，受到試驗(yàn)方法、試驗(yàn)周期等方面的影響，模擬計(jì)算所用參數(shù)還沒有公認(rèn)的確定方法，對計(jì)算結(jié)果準(zhǔn)確性造成了很大影響。因此，有必要研究有限元數(shù)值模擬過程中的參數(shù)取值問題。

基坑問題有限元分析的參數(shù)取值，已經(jīng)有一些成果。楊敏等[1]通過分析上海地區(qū)68根打入式樁的試驗(yàn)結(jié)果，認(rèn)為數(shù)值模擬時上海地區(qū)土的彈性模量ES可取為（2.5～3.5）E0.1～0.2（E0.1～0.2由勘察報告給出，是外荷0.1～0.2 mPa時的壓縮模量）。賈堤等[2]探討了利用場地巖土勘察報告獲得數(shù)值分析中土體彈性模量的方法，認(rèn)為利用壓縮模量換算彈性模量時兩者比值取8.2比較合適。徐偉等[3]分析了特殊平面形狀下深基坑受力和變形對土力學(xué)性質(zhì)參數(shù)的敏感程度。李圃林[4]建立了彈性模量計(jì)算的線彈性模型，給出了黏性土和砂土的修正系數(shù)公式，并進(jìn)行了有限元計(jì)算分析與監(jiān)測值的對比驗(yàn)證。冉濤等[5]對基坑開挖變形的主要巖土參數(shù)進(jìn)行了極差分析和方差分析，為位移反分析奠定了一定的基礎(chǔ)。

然而，由于試驗(yàn)環(huán)境和試樣尺寸效應(yīng)等因素的影響、土體自身結(jié)構(gòu)的復(fù)雜性、土的力學(xué)性質(zhì)的空間變異性，室內(nèi)和現(xiàn)場試驗(yàn)獲得的力學(xué)性質(zhì)參數(shù)與土體實(shí)際參數(shù)通常有較大偏差。研究人員利用現(xiàn)場監(jiān)測信息，借助一定的力學(xué)模型和數(shù)值計(jì)算來反推土體力學(xué)參數(shù)，為解決土體計(jì)算參數(shù)取值問題提供了重要途徑。Papon等[6]采用確定性算法和隨機(jī)算法，通過反分析得到了土的彈性模量、內(nèi)摩擦角和黏聚力。Finno等[7]利用反分析軟件對土的硬化模型計(jì)算參數(shù)進(jìn)行反分析，取得了良好效果。Juang等[8]采用貝葉斯計(jì)算框架，利用現(xiàn)場監(jiān)測數(shù)據(jù)對基坑土層參數(shù)進(jìn)行了反分析。趙香山等[9]采用AMALGAM算法對基坑工程中的土體性質(zhì)參數(shù)進(jìn)行了反分析。王洪德等[10]基于差異進(jìn)化多參數(shù)反分析方法，對深基坑土層參數(shù)進(jìn)行靜態(tài)和動態(tài)位移優(yōu)化，取得了較好效果。近年來，智能反分析方法（如遺傳算法[11-12]、BP網(wǎng)絡(luò)[13]等）得到了一些實(shí)際應(yīng)用。

在確定數(shù)值模擬所用土體參數(shù)時，彈性模量等參數(shù)一般難以從勘察報告直接得到，大部分學(xué)者只考慮某一種參數(shù)或只考慮單一土層，這不符合土層實(shí)際分布，也不能反映不同土層性質(zhì)相差很大的情況，降低了模擬計(jì)算的準(zhǔn)確性[14-15]。本文以上海市某地鐵車站基坑作為研究對象，利用有限元軟件ABAQUS，在用正交試驗(yàn)分析不同參數(shù)重要性的基礎(chǔ)上，通過反分析方法確定有限元數(shù)值模擬所用的主要參數(shù)。

1 有限元模型的建立

1.1 工程概況

研究對象為上海市一地鐵車站深基坑工程。工程場地位于古河道沉積區(qū)，地基土屬第四紀(jì)晚更新世及全新世沉積物，主要由黏性土、粉性土和砂土組成，分布較穩(wěn)定，具有成層分布的特點(diǎn)。車站主體是疊合墻結(jié)構(gòu)，為地下3層島式車站，尺寸為486.37 m×22.84 m，主體結(jié)構(gòu)分為6個施工區(qū)域（A，B，C，D，E，F(xiàn)區(qū)），20段結(jié)構(gòu)，F(xiàn)區(qū)又分為標(biāo)準(zhǔn)段和端頭井段。站臺中心處基坑深約25.8 m，車站兩端各設(shè)一端頭井，南端端頭井（F區(qū)端頭井）基坑深約27.8 m。車站基坑工程安全等級為一級，環(huán)境保護(hù)等級為一級，設(shè)計(jì)使用年限為100 a。

本文將以F區(qū)為主要研究對象。F區(qū)基坑寬度為20 m，開挖深度為27.427 m，采用框架逆作法施工?；幼笥覂蓚?cè)采用厚1200 mm、深59 m的地下連續(xù)墻進(jìn)行圍護(hù)?；又黧w采用混凝土撐+鋼支撐的支護(hù)方式，第一道為混凝土撐，尺寸為1200 mm×1300 mm，其余7道支撐采用800/20的鋼支撐（即鋼支撐半徑和厚度分別為800 mm和20 mm），8道支撐中心分別位于地表下0.6，3.4，6.6，12.337，15.837，18.937，21.427，24.727 m。

F區(qū)場地共有6個主要土層，從上至下依次是填土、淤泥質(zhì)粉質(zhì)黏土、淤泥質(zhì)黏土、一般黏性土、第二砂層及第三砂層，缺失上海市統(tǒng)編的第⑥層暗綠色黏性土層及第⑧層黏性土層，埋深達(dá)78.3 m。

1.2 幾何模型

選取F區(qū)端頭井段基坑截面，使用有限元軟件ABAQUS進(jìn)行二維建模分析。周圍土體影響區(qū)域取基坑深度5倍左右，整個模型的長×寬為150 m×78.3 m。土體左右兩邊采用水平位移約束，土體底部采用固定約束。建立的基坑有限元模型如圖1所示。

圖1 基坑的有限元模型Fig.1 FEM model of the foundation pit

基坑采取分層開挖的方式，主要分13個開挖工況，具體支護(hù)結(jié)構(gòu)設(shè)計(jì)和開挖步驟如下：

a.架設(shè)第1道混凝土支撐，開挖至第2道鋼支撐底；

b.架設(shè)第2道鋼支撐，開挖至第3道鋼支撐底；

c.架設(shè)第3道鋼支撐，澆筑頂框架，開挖至下一層板下2 m；

d.拆除第3道鋼支撐，架設(shè)于第4道鋼支撐處；

e.澆筑下一層框架，開挖至第5道鋼支撐底；

f.拆除第4道鋼支撐，架設(shè)于第5道鋼支撐處；

g.開挖至第6道鋼支撐底；

h.拆除第2道鋼支撐，架設(shè)于第6道鋼支撐處；

i.澆筑下二層框架，開挖至第7道鋼支撐底；

j.拆除第6道鋼支撐，架設(shè)于第7道鋼支撐處；

k.開挖至第8道鋼支撐底；

l.拆除第5道鋼支撐，架設(shè)于第8道鋼支撐處；

m.開挖至坑底。

1.3 物理性質(zhì)參數(shù)

基坑截面主要土層分為10層，土體均采用彈塑性本構(gòu)模型，各土層分布及物理力學(xué)指標(biāo)如表1所示。表1中，μ，E0.1～0.2，γ，c，φ分別為泊松比、壓縮模量、天然重度、黏聚力、內(nèi)摩擦角。

由于基坑開挖之前20天對坑內(nèi)實(shí)施了疏干降水措施，降水后水位位于開挖面下1.0 m，所以，建模時不考慮地下水對結(jié)構(gòu)變形的影響。

采用有限元軟件ABAQUS進(jìn)行基坑開挖變形的數(shù)值模擬計(jì)算。建模時，土體采用摩爾庫倫屈服準(zhǔn)則，地下連續(xù)墻和支撐采用線彈性本構(gòu)模型?；炷翉?qiáng)度等級均為C30（彈性模量、泊松比、重度分別取25 GPa，0.2，25 kN/m3）。鋼支撐采用Q235型鋼，彈性模量和泊松比分別取200 GPa和0.26。

表1 端頭井段土層分布及物理力學(xué)參數(shù)Tab.1 Distribution and mechanical parameters of soil layers on end well

2 數(shù)值模擬使用參數(shù)重要性的確定

土體使用摩爾庫倫屈服準(zhǔn)則進(jìn)行數(shù)值建模時，需用到彈性模量、泊松比、內(nèi)摩擦角、黏聚力等參數(shù)。這些參數(shù)可以通過反分析進(jìn)行確定。若將這4個參數(shù)都進(jìn)行反分析確定，計(jì)算量太大。因此，首先使用正交試驗(yàn)方法確定地下連續(xù)墻變形的主要影響參數(shù)，進(jìn)而據(jù)此進(jìn)行有針對性的參數(shù)反演，這將大大減小工作量、提高計(jì)算效率。

2.1 參數(shù)確定的正交試驗(yàn)方案

根據(jù)正交試驗(yàn)設(shè)計(jì)原理，選取地下連續(xù)墻的水平位移作為目的指標(biāo)，以影響基坑開挖變形的4個主要力學(xué)參數(shù)作為影響因素，將每個參數(shù)劃分為5個水平。根據(jù)賈堤等[2]的研究成果，將黏性土的彈性模量基準(zhǔn)值取為彈性模量與壓縮模量比值為4.5時對應(yīng)的彈性模量值，砂性土的基準(zhǔn)值取為5倍的壓縮模量，彈性模量水平分別取為基準(zhǔn)值、基準(zhǔn)值增加20%、基準(zhǔn)值增加40%、基準(zhǔn)值減少20%、基準(zhǔn)值減少40%。由于內(nèi)摩擦角、黏聚力和泊松比變化一般不會太大，因此，將這3個因素水平取為前述基坑模擬參數(shù)值（基準(zhǔn)值）、基準(zhǔn)值增加10%、基準(zhǔn)值增加20%、基準(zhǔn)值減少10%、基準(zhǔn)值減少20%。采用6因素5水平正交表L25（56）（25表示需進(jìn)行的模擬試驗(yàn)的次數(shù)，5表示每一個因素的水平數(shù)，6表示因素?cái)?shù)目），由于本文針對4個參數(shù)進(jìn)行敏感性分析，因此，設(shè)置一列誤差列，取前5列進(jìn)行正交試驗(yàn)設(shè)計(jì)。不同水平下的正交試驗(yàn)參數(shù)取值方案如表2所示。表2中，各數(shù)值表示模型基準(zhǔn)值的倍數(shù)。

表2 不同水平下正交試驗(yàn)參數(shù)的取值Tab.2 Parameters in orthogonal tests at various levels

根據(jù)表2進(jìn)行正交試驗(yàn)設(shè)計(jì)，進(jìn)行25次數(shù)值計(jì)算。具體計(jì)算方案及模擬結(jié)果如表3所示。

2.2 不同參數(shù)重要性的確定

使用極差分析方法，得到不同參數(shù)對地下連續(xù)墻最大水平位移影響程度的大小，如表4所示，表4中的K1，K2，K3，K4和K5分別表示每個因素第1，2，3，4，5水平試驗(yàn)結(jié)果的總和，k1，k2，k3，k4，k5分別代表每個因素第1，2，3，4，5水平試驗(yàn)結(jié)果的平均值，Rj代表每個因素的極值。由表4可以看出，泊松比、彈性模量極值較大，對地下連續(xù)墻水平位移影響較敏感；不同參數(shù)對地下連續(xù)墻水平位移影響程度由大到小的順序依次是：彈性模量、泊松比、內(nèi)摩擦角、黏聚力。

圖2顯示了不同參數(shù)水平對地下連續(xù)墻水平位移的影響。由圖2可以看出，彈性模量、內(nèi)摩擦角與地下連續(xù)墻最大水平位移呈負(fù)相關(guān)，泊松比與地下連續(xù)墻最大水平位移呈正相關(guān)，黏聚力對地下連續(xù)墻最大水平位移的影響較小。其中，彈性模量和泊松比的變化幅度較大，對地下連續(xù)墻變形的影響較大。

圖2 不同參數(shù)水平下地下連續(xù)墻水平位移Fig. 2 Horizontal displacements of the continuous wall at various levels of soil parameters

表3 正交試驗(yàn)方案及結(jié)果Tab.3 Scheme and results of orthogonal tests

為了進(jìn)一步檢驗(yàn)各影響因素的顯著性水平，在極差分析基礎(chǔ)上對試驗(yàn)結(jié)果進(jìn)行方差分析。選取顯著性水平α=0.01，0.05，根據(jù)F分布分位數(shù)表得到

定義因素相關(guān)關(guān)系符合F>F0.99（4,4）時為高度顯著，符合F0.95（4,4）≤F≤F0.99（4,4）時為顯著，符合F

表4 正交試驗(yàn)結(jié)果的均值和極差(1)Tab.4 Mean and range of orthogonal test results(1)

表5 正交試驗(yàn)結(jié)果的均值和方差(2)Tab.5 Mean and variance of orthogonal test results(2)

由表5中的F值可以看出，彈性模量、泊松比對地下連續(xù)墻最大水平位移的影響最為顯著，所有因素顯著性水平由大到小的順序?yàn)椋簭椥阅Ａ?、泊松比、?nèi)摩擦角、黏聚力，這一順序與極差分析結(jié)果相同。

3 主要數(shù)值模擬參數(shù)的確定

由表5可知，彈性模量、泊松比對地下連續(xù)墻最大水平位移具有顯著影響。為了得到這些參數(shù)的影響程度且充分考慮土的成層性特點(diǎn)，現(xiàn)根據(jù)現(xiàn)場地下連續(xù)墻水平位移實(shí)測值，利用反分析方法分別研究數(shù)值模擬時這2個參數(shù)的具體確定方法。

3.1 彈性模量的確定

根據(jù)室內(nèi)土工試驗(yàn)獲得的各土層壓縮模量（表1）、有限元數(shù)值模擬時的彈性模量基準(zhǔn)值，將土層彈性模量與壓縮模量比定義為R，彈性模量基準(zhǔn)值與壓縮模量之比定義為基準(zhǔn)模量比r，得到r=0.6，0.8，1.0，1.2，1.4時的模擬結(jié)果（圖3）。圖3中，Q01，Q02，…，Q10為土層序號，對應(yīng)于從地面向下的實(shí)際土層③，④，…，⑨1（見表1），Q對應(yīng)于所有土層參數(shù)同時改變的情況。

圖3 不同土層不同基準(zhǔn)模量比時的地下連續(xù)墻水平位移Fig.3 Horizontal displacements of the continuous wall of various soil layers with various modulus ratio

從圖3可以看出，所有土層彈性模量同時改變時，地下連續(xù)墻水平位移基本上隨著彈性模量增大而減小。同時，不同土層彈性模量單獨(dú)變化對地下連續(xù)墻水平位移的影響程度并不相同，所有土層中，土層Q05和Q06對水平位移的影響最大。這2個土層r都取1.4時地下連續(xù)墻水平位移比基準(zhǔn)值對應(yīng)模型分別減少了12.88%和15.32%；而r為0.8時地下連續(xù)墻水平位移分別增大6.30%和7.27%；其他土層對地下連續(xù)墻水平位移的影響較小。

為了確定符合實(shí)際情況的模量比R，假設(shè)土體彈性模量與地下連續(xù)墻變形呈拋物線關(guān)系[16]，將各土層彈性模量與圍護(hù)結(jié)構(gòu)水平位移關(guān)系用不帶交叉項(xiàng)的二次函數(shù)S（X）表示。

式中：Xi為待反分析參數(shù)彈性模量（i=1，2，…，10）；S為地下連續(xù)墻的位移；A，Bi，Ci為待定系數(shù)。

為了求解式（1）中的21個系數(shù)，將各土層彈性模量基準(zhǔn)模量比分別取為0.9和1.1，得到21個系數(shù)對應(yīng)的21組彈性模量計(jì)算值，如表6所示。

表6 各土層彈性模量的數(shù)值模擬結(jié)果Tab.6 Simulated results of the elastic modulus for various soil layers MPa

根據(jù)表6（21組彈性模量計(jì)算值）和使用有限元數(shù)值模擬所得對應(yīng)彈性模量下21組地下連續(xù)墻的水平位移，假設(shè)不同深度處地下連續(xù)墻水平位移與彈性模量為二次函數(shù)關(guān)系，算出二次函數(shù)的21個系數(shù)值。根據(jù)所得函數(shù)關(guān)系，令地下連續(xù)墻水平位移值等于實(shí)際監(jiān)測值，得到各土層彈性模量反演值，如表7所示。同時將反演結(jié)果與李圃林[4]所建立的砂性土和黏性土的彈性模量模型計(jì)算值進(jìn)行對比，去掉誤差大于50%的反演值，得到最終的反演值。表7列出了這些反演值的模量比。

表7 不同土層彈性模量反演值Tab.7 Inverse calculation results of the elastic modulus ratio for various soil layers

由表7可以看出，數(shù)值模擬時各土層的模量比可取為3.2～6.5，模量比取值從小到大對應(yīng)的土層分別是黏性土、粉性土、砂性土。淤泥質(zhì)黏土和淤泥質(zhì)粉質(zhì)黏土的模量比可取3.25～3.35，黏土和粉質(zhì)黏土的模量比分別可取3.67，5.69～5.81，粉土、粉砂的模量比分別可取6.14，6.17～6.44。

3.2 泊松比的確定

泊松比是體現(xiàn)土體側(cè)向變形的重要指標(biāo)，直接反映土體的強(qiáng)度與變形特性。不同土層的泊松比與基準(zhǔn)值的比值分別取0.8，0.9，1.0，1.1，1.2，得到不同土層泊松比下的地下連續(xù)墻水平位移數(shù)值模擬結(jié)果，如圖4所示。

圖4 不同土層不同泊松比下地下連續(xù)墻水平位移的有限元模擬結(jié)果Fig. 4 Horizontal displacements of the continuous wall with various Poisson's ratio of various soil layers

從圖4可以看出：同時改變所有土層泊松比時，隨著泊松比的增大，地下連續(xù)墻水平位移呈現(xiàn)增大趨勢，且變化趨勢較大；所有土層的泊松比與基準(zhǔn)值的比值變?yōu)?.2后，地下連續(xù)墻水平位移比基準(zhǔn)值模型增大29.55%，說明增大泊松比導(dǎo)致地下連續(xù)墻發(fā)生較大位移；同時，改變不同土層泊松比對地下連續(xù)墻水平位移的影響遠(yuǎn)小于所有土層同時改變引起的變化；土層Q02和土層Q04的泊松比與基準(zhǔn)值的比值增大到1.2時，地下連續(xù)墻水平位移分別增大7.26%和8.62%，位移增大程度相對較大，其余土層泊松比改變引起的地下連續(xù)墻水平位移的改變減小，均小于5%。

假設(shè)泊松比與地下連續(xù)墻位移呈線性變化關(guān)系，類似于前述模量比R確定方法，由反分析方法得到各土層的泊松比如表8所示。

表8 各土層泊松比反演值Tab.8 Inverse calculation results of the Poisson's ratio for various soil layers

由表8可以看出，泊松比與勘察結(jié)果的比值為0.90～1.12，淤泥質(zhì)土土層的泊松比與勘察結(jié)果的比值為1.05～1.12，其他類型土層的泊松比改變范圍不明顯，與勘察結(jié)果的比值為0.90～1.05。

3.3 使用反分析方法得到的參數(shù)的準(zhǔn)確性分析

選擇均方根誤差RMSE對使用上述參數(shù)后的數(shù)值模擬結(jié)果與實(shí)測結(jié)果的吻合程度進(jìn)行評價[17]。

式中：ymi為地下連續(xù)墻水平位移的實(shí)測值；ypi為地下連續(xù)墻水平位移的模擬結(jié)果；N為對比數(shù)據(jù)的點(diǎn)數(shù)。

使用上述反分析得到的土層參數(shù)值進(jìn)行有限元數(shù)值模擬，得到各土層單獨(dú)改變時不同工況下的墻體水平位移曲線，進(jìn)而對所有土層同時改變得到的土層參數(shù)進(jìn)行有限元模擬。圖5是工況9和工況13不同參數(shù)下的墻體水平位移曲線。

圖5 不同參數(shù)下不同深度的墻體水平位移Fig.5 Horizontal displacement of the wall at different depths with different parameters

從圖5可以看出，采用各土層單獨(dú)改變方法得到的模擬結(jié)果較所有土層同時改變方法得到的模擬結(jié)果效果要好，與實(shí)測值更為吻合。

表9為對基坑工程土層分別采用各土層單獨(dú)改變及所有土層同時改變這兩種方法的模擬結(jié)果的吻合程度，改變率為各土層參數(shù)分別改變和所有土層參數(shù)同時改變所得均方根誤差減小值與所有土層參數(shù)同時改變時均方根誤差的比值。

表9 不同方法的均方根誤差Tab.9 Root mean square errors in different methods

從表9可以看出，采用本文各土層參數(shù)單獨(dú)反分析所得參數(shù)進(jìn)行數(shù)值模擬后，各土層的均方根誤差RMSE顯著減小。工況9中土層⑤1j，⑤3-1的RMSE分別減小了所有土層同時改變參數(shù)時的85%和64%，地下連續(xù)墻的水平位移模擬值與監(jiān)測值的吻合程度提高比較明顯。

4 結(jié) 論

以上海市某地鐵車站深基坑工程為例，利用正交試驗(yàn)確定了有限元數(shù)值模擬時對地下連續(xù)墻水平位移影響最大的參數(shù)。根據(jù)實(shí)測數(shù)據(jù)和數(shù)值模擬結(jié)果，使用模量比表示土層彈性模量與壓縮模量的比值，使用反分析方法提出了這些參數(shù)的取值方法。結(jié)果表明：

a.對地下連續(xù)墻水平位移影響最大的參數(shù)為不同土層的彈性模量和泊松比；

b.數(shù)值模擬時不同土層宜使用不同的模量比，模量比取值從小到大對應(yīng)的土層分別是黏性土、粉性土、砂性土，淤泥質(zhì)黏土和淤泥質(zhì)粉質(zhì)黏土的模量比可取3.25～3.35，黏土和粉質(zhì)黏土的模量比分別可取3.67，5.69～5.81，粉土、粉砂的模量比分別可取6.14，6.17～6.44；

c.數(shù)值模擬時，不同土層的泊松比與勘察報告所得泊松比的比值宜取為0.90～1.12，其中，淤泥質(zhì)黏土和淤泥質(zhì)粉質(zhì)黏土的泊松比與勘察結(jié)果的比值為1.05～1.12，其他土層的泊松比與勘察結(jié)果的比值為0.90～1.05。