基于XGBoost的測(cè)井曲線重構(gòu)方法

張家臣 鄧金根 譚 強(qiáng) 石 林

(①中國石油大學(xué)(北京)石油工程學(xué)院，北京102249； ②中國石油大學(xué)(北京)油氣資源與探測(cè)國家重點(diǎn)實(shí)驗(yàn)室，北京 102249)

0 引言

測(cè)井資料在儲(chǔ)集層描述和油氣資源評(píng)估中具有十分重要的作用[1-3]。利用測(cè)井?dāng)?shù)據(jù)可以劃分巖性及評(píng)價(jià)儲(chǔ)集層物性、含油性、生產(chǎn)價(jià)值和生產(chǎn)情況[4-6]。但是由于鉆井、測(cè)井條件差異以及儀器故障等原因，經(jīng)常出現(xiàn)部分測(cè)井段數(shù)據(jù)缺失的情況，甚至出于勘探成本考慮而放棄獲取某些特定的測(cè)井?dāng)?shù)據(jù)。為了解決這個(gè)問題，研究者試圖通過經(jīng)驗(yàn)?zāi)Ｐ秃投嘣貧w分析等方法[7-10]揭示不同測(cè)井曲線之間的非線性關(guān)系，基于已有的測(cè)井?dāng)?shù)據(jù)對(duì)缺失段進(jìn)行重構(gòu)。但是，基于理想假設(shè)條件的經(jīng)驗(yàn)?zāi)Ｐ屯ǔＲ蕾囇芯空叩闹饔^經(jīng)驗(yàn)，不具有廣泛適用性。多元回歸分析基于測(cè)井?dāng)?shù)據(jù)間的內(nèi)在聯(lián)系生成測(cè)井曲線，然而井下地質(zhì)情況復(fù)雜多變，數(shù)據(jù)間的映射關(guān)系很難用確定性的函數(shù)描述，所以預(yù)測(cè)精度通常較低。

近年來，隨著計(jì)算機(jī)科學(xué)的發(fā)展，機(jī)器學(xué)習(xí)方法逐漸應(yīng)用于測(cè)井解釋[11]、巖性判別[12-13]和儲(chǔ)層預(yù)測(cè)[14-15]等。也有部分研究者將機(jī)器學(xué)習(xí)用于測(cè)井曲線的重構(gòu)，其中大多采用人工神經(jīng)網(wǎng)絡(luò)方法[16-20]。但是人工神經(jīng)網(wǎng)絡(luò)在訓(xùn)練過程中存在收斂速度慢、局部最小化和泛化能力差等問題，這些缺點(diǎn)限制了模型的預(yù)測(cè)性能[21]。同時(shí)，神經(jīng)網(wǎng)絡(luò)這種典型的黑箱問題，相對(duì)于其他機(jī)器學(xué)習(xí)算法更不具有可解釋性[22]。在梯度提升決策樹(GBDT)的基礎(chǔ)上提出的XGBoost具有更高的性能及更快的速度[23]，其中決策樹的結(jié)構(gòu)可直接使模型可視化，并且通過全局特征重要性評(píng)估增強(qiáng)模型的可解釋性。相對(duì)于GBDT算法，XGBoost模型中加入了正則化項(xiàng)并將擬合模型精細(xì)化，因此在理論上擁有更強(qiáng)的預(yù)測(cè)能力，在眾多領(lǐng)域也取得了較好的預(yù)測(cè)效果[24-25]。在測(cè)井信息解釋方面，閆星宇等[26]通過XGBoost建立了致密砂巖儲(chǔ)層的孔隙度與滲透率回歸預(yù)測(cè)模型。谷宇峰等[27]從優(yōu)化參數(shù)角度出發(fā)，基于XGBoost建立了滲透率預(yù)測(cè)模型。但是該模型算法應(yīng)用于測(cè)井曲線重構(gòu)方面的研究則很少。Zhong等[28]利用鉆井和測(cè)井?dāng)?shù)據(jù)，基于XGBoost對(duì)煤層氣井的地層密度進(jìn)行了預(yù)測(cè)，但并未將其拓展到其他測(cè)井?dāng)?shù)據(jù)重構(gòu)中，而且也未與其他機(jī)器學(xué)習(xí)算法進(jìn)行比較。

本文提出利用XGBoost進(jìn)行多源測(cè)井曲線的重構(gòu)，內(nèi)容包括測(cè)井曲線補(bǔ)全和生成兩個(gè)部分，然后將其與GBDT、隨機(jī)森林(RF)、全連接神經(jīng)網(wǎng)絡(luò)(FNN)方法進(jìn)行對(duì)比，最后結(jié)合地質(zhì)背景分析預(yù)測(cè)效果。結(jié)果表明，無論在準(zhǔn)確度還是穩(wěn)定性方面，XGBoost模型都取得了較好的表現(xiàn)。

1 原理與方法

1.1 XGBoost算法

Chen等[23]提出的XGBoost是一種集成的樹模型，這種基于GBDT的改進(jìn)Boosting算法具有訓(xùn)練速度快、預(yù)測(cè)精度高等優(yōu)點(diǎn)。Boosting屬于集成學(xué)習(xí)算法，由多個(gè)弱學(xué)習(xí)器按照不同的權(quán)重組合成為一個(gè)強(qiáng)學(xué)習(xí)器。本文的XGBoost算法選擇CART回歸樹作為基學(xué)習(xí)器，并在損失函數(shù)中添加正則項(xiàng)以約束損失函數(shù)的下降和模型的整體復(fù)雜度。XGBoost模型表達(dá)式為

(1)

XGBoost模型旨在通過迭代方式集成弱分類器以形成預(yù)測(cè)精度和魯棒性更高的模型[29]。每一次迭代都是在前一步的基礎(chǔ)上增加一棵樹，而新增的樹視為擬合上次預(yù)測(cè)的殘差。迭代過程為

(2)

目標(biāo)函數(shù)是研究一切機(jī)器學(xué)習(xí)問題的出發(fā)點(diǎn)，XGBoost的目標(biāo)函數(shù)由損失函數(shù)和正則項(xiàng)兩部分組成。正則項(xiàng)用于控制模型的復(fù)雜度，模型的預(yù)測(cè)精度由偏差和方差共同決定。為了降低方差、防止過擬合，需要在目標(biāo)函數(shù)中添加正則項(xiàng)

(3)

式中：T為葉子結(jié)點(diǎn)數(shù)量；ωj為葉子節(jié)點(diǎn)分?jǐn)?shù)；γ和λ均表示系數(shù)。

綜上，XGBoost的目標(biāo)函數(shù)為

(4)

XGBoost采用增量訓(xùn)練的方式進(jìn)行迭代以最大化地降低目標(biāo)函數(shù)[30]。在t輪迭代之后，目標(biāo)函數(shù)更新為

(5)

為了使損失函數(shù)梯度收斂更快、更準(zhǔn)確，XGBoost利用泰勒展開式對(duì)所有二階可導(dǎo)的損失函數(shù)做近似替換，目標(biāo)函數(shù)近似為

(6)

將式(6)中每個(gè)數(shù)據(jù)的損失函數(shù)值相加，得

(7)

(8)

(9)

(10)

1.2 評(píng)價(jià)指標(biāo)

引入評(píng)價(jià)指標(biāo)量化評(píng)估模型性能，評(píng)價(jià)指標(biāo)衡量的是預(yù)測(cè)數(shù)據(jù)與真實(shí)數(shù)據(jù)之間的差異。本次研究選擇的三個(gè)評(píng)價(jià)指標(biāo)分別是平均絕對(duì)誤差(MAE)、均方根誤差(RMSE)和預(yù)測(cè)模型擬合準(zhǔn)確程度的R方值(R2)。

(11)

(12)

(13)

RMSE越小，說明模型穩(wěn)定性越好； MAE越小，說明模型準(zhǔn)確度越高；R2越接近于1，說明模型綜合性能越好。

1.3 數(shù)據(jù)處理

本次研究數(shù)據(jù)來自渤海灣盆地的6口定向井，井位分布如圖1所示，B2、B3、B4、B5為訓(xùn)練井，B1、B6為測(cè)試井，其中B1、B2、B3和B4井之間距離較近，B5和B6井與其他井距離較遠(yuǎn)。研究的測(cè)井曲線包括聲波時(shí)差(DT)、井徑(CAL)、中子孔隙度(CN)、自然伽馬(GR)、深側(cè)向電阻率(RD)、自然電位(SP)、補(bǔ)償密度(DEN)和光電吸收截面指數(shù)(PE)。由于訓(xùn)練數(shù)據(jù)的質(zhì)量對(duì)機(jī)器學(xué)習(xí)模型預(yù)測(cè)的準(zhǔn)確度具有很大影響，因此需要對(duì)原始測(cè)井?dāng)?shù)據(jù)進(jìn)行預(yù)處理，主要包括異常值清理和缺失值填充。

(1)異常值清理。對(duì)于測(cè)井?dāng)?shù)據(jù)首尾兩端用于填充空值的異常值，可以根據(jù)經(jīng)驗(yàn)直接刪除。對(duì)于測(cè)井?dāng)?shù)據(jù)內(nèi)部的異常值，利用基于距離的K近鄰算法對(duì)離群點(diǎn)進(jìn)行識(shí)別清理。

(2)缺失值填充。首先評(píng)估所有測(cè)井?dāng)?shù)據(jù)的完整性，對(duì)于缺失值較少的測(cè)井?dāng)?shù)據(jù)，先利用K近鄰算法計(jì)算鄰近的k(本文k取100，即10m的長度)個(gè)數(shù)據(jù)，然后填充它們的均值； 對(duì)于具有部分測(cè)井?dāng)?shù)據(jù)缺失的井段，如果選擇直接刪除該井?dāng)?shù)據(jù)，就會(huì)使訓(xùn)練數(shù)據(jù)更加稀少，而機(jī)器學(xué)習(xí)對(duì)數(shù)據(jù)的數(shù)量十分敏感，這樣可能導(dǎo)致預(yù)測(cè)模型準(zhǔn)確度降低。因此，對(duì)于缺失部分?jǐn)?shù)據(jù)的訓(xùn)練井，可以通過對(duì)其現(xiàn)有數(shù)據(jù)進(jìn)行訓(xùn)練，然后對(duì)缺失段測(cè)井曲線進(jìn)行預(yù)測(cè)補(bǔ)全，進(jìn)而得到完整井段的測(cè)井曲線。

預(yù)處理前、后的數(shù)據(jù)量統(tǒng)計(jì)如表1所示。 B1～B4井的測(cè)井深度均達(dá)到4000m左右，B6井的測(cè)井深度較小。

圖1 井位分布圖

表1 預(yù)處理前、后數(shù)據(jù)量統(tǒng)計(jì)

2 測(cè)井曲線重構(gòu)實(shí)驗(yàn)

為了測(cè)試XGBoost模型重構(gòu)測(cè)井曲線的能力，進(jìn)行了測(cè)井曲線補(bǔ)全實(shí)驗(yàn)和生成實(shí)驗(yàn)。主要研究內(nèi)容包括：①評(píng)估XGBoost基于自身測(cè)井?dāng)?shù)據(jù)自動(dòng)補(bǔ)全缺失井段數(shù)據(jù)的可信度； ②評(píng)估XGBoost基于鄰井?dāng)?shù)據(jù)生成特定測(cè)井曲線的準(zhǔn)確度； ③對(duì)比XGBoost、GBDT、RF和FNN模型的性能。

2.1 測(cè)井曲線補(bǔ)全實(shí)驗(yàn)

如果一口井的部分井段測(cè)井?dāng)?shù)據(jù)缺失，可通過模型計(jì)算對(duì)缺失井段數(shù)據(jù)進(jìn)行預(yù)測(cè)補(bǔ)全，然后將預(yù)測(cè)結(jié)果繼續(xù)作為訓(xùn)練數(shù)據(jù)用于后續(xù)測(cè)井曲線生成實(shí)驗(yàn)。測(cè)井曲線補(bǔ)全實(shí)驗(yàn)可以彌補(bǔ)因部分?jǐn)?shù)據(jù)缺失造成的數(shù)據(jù)量不足，在一定程度上也可以看作測(cè)井曲線生成實(shí)驗(yàn)的數(shù)據(jù)預(yù)處理過程。以表1提供的B4井為例，驗(yàn)證XGBoost自動(dòng)補(bǔ)全缺失段數(shù)據(jù)的能力。

實(shí)驗(yàn)涉及的測(cè)井曲線共6條，井深3480～4075m，測(cè)井段總長595m(圖2)。為了驗(yàn)證補(bǔ)全數(shù)據(jù)的效果，將井深3850～4000m的CN、DEN、RD和PE測(cè)井曲線隱去，人為模擬數(shù)據(jù)缺失段，缺失段長度占總長度的22%。訓(xùn)練數(shù)據(jù)集由3480～3850m和4000～4075m兩個(gè)完整測(cè)井段組成，采樣間隔為0.1m。以DT和GR作為輸入，CN、DEN、RD和PE作為輸出，通過XGBoost算法進(jìn)行訓(xùn)練。

圖2 測(cè)井曲線自動(dòng)補(bǔ)全示意圖圖中黑色曲線為真實(shí)的測(cè)井?dāng)?shù)據(jù)，紅色曲線為XGBoost模型預(yù)測(cè)結(jié)果

由圖可見，預(yù)測(cè)補(bǔ)全的RD、PE測(cè)井曲線不僅能夠捕捉真實(shí)曲線的變化趨勢(shì)，而且具體數(shù)值也十分接近。而補(bǔ)全的CN曲線雖然沒有很好地捕捉到真實(shí)測(cè)井曲線的變化趨勢(shì)，但是其數(shù)值與真實(shí)曲線一直維持在較小的偏差范圍內(nèi)。對(duì)于DEN曲線，雖然補(bǔ)全曲線沒有很好地模擬出真實(shí)測(cè)井曲線的波動(dòng)幅度，但是兩條曲線的變化趨勢(shì)存在相似度，也具有一定的參考價(jià)值。整體來說，XGBoost模型具有較好的自動(dòng)補(bǔ)全缺失段數(shù)據(jù)的能力。因此對(duì)于缺失大段數(shù)據(jù)而測(cè)井?dāng)?shù)據(jù)量不足的情況，可以考慮通過XGBoost模型利用該井中完整段的測(cè)井?dāng)?shù)據(jù)對(duì)缺失段進(jìn)行自動(dòng)補(bǔ)全。

2.2 測(cè)井曲線生成實(shí)驗(yàn)

將表1中的B2、B3、B4、B5井作為訓(xùn)練井，B1、B6井作為測(cè)試井。每口井都包含相同類型的測(cè)井曲線，選取其中CAL、RD、SP作為輸入數(shù)據(jù)，DT、CN、GR、DEN作為輸出，分別采用XGBoost、GBDT、RF和FNN模型生成人工測(cè)井曲線。其中XGBoost、GBDT是基于決策樹的Boosting集合算法，RF是基于決策樹的Bagging集合算法，F(xiàn)NN為全連接神經(jīng)網(wǎng)絡(luò)，屬于深度學(xué)習(xí)的范疇，本實(shí)驗(yàn)構(gòu)造的是具有3個(gè)隱藏層的全連接神經(jīng)網(wǎng)絡(luò)。模型輸入和輸出的測(cè)井曲線之間映射關(guān)系可能非常復(fù)雜，因此在具體應(yīng)用時(shí)通過K折交叉檢驗(yàn)對(duì)模型性能進(jìn)行驗(yàn)證，選擇出使模型泛化性能最優(yōu)的超參值。

使用網(wǎng)格搜索對(duì)上述四種機(jī)器學(xué)習(xí)模型進(jìn)行參數(shù)調(diào)優(yōu)，并通過5折交叉檢驗(yàn)驗(yàn)證模型性能，即將訓(xùn)練集隨機(jī)劃分為5個(gè)部分，利用其中的4個(gè)部分作為訓(xùn)練集，剩余的1個(gè)部分作為測(cè)試集，最后取平均測(cè)試誤差作為泛化誤差。使訓(xùn)練集的所有樣本成為訓(xùn)練數(shù)據(jù)地同時(shí)也必然有機(jī)會(huì)成為一次測(cè)試數(shù)據(jù)，從而更好地發(fā)掘訓(xùn)練集數(shù)據(jù)的使用價(jià)值。圖3為4種模型的訓(xùn)練過程學(xué)習(xí)曲線，可見，RF、FNN模型訓(xùn)練曲線均有一定程度的欠擬合，F(xiàn)NN訓(xùn)練效果最差； GBDT模型在訓(xùn)練集表現(xiàn)較好，但是在交叉驗(yàn)證集不盡人意，表現(xiàn)出過擬合的傾向； XGBoost則在訓(xùn)練集和交叉驗(yàn)證集中都表現(xiàn)出較好的效果，這是因?yàn)閄GBoost在代價(jià)函數(shù)中加入了正則項(xiàng)，降低了模型的方差，使訓(xùn)練模型更加簡單，同時(shí)XGBoost借鑒了RF模型算法，采用列采樣，既降低了過擬合又減少了訓(xùn)練次數(shù)，使訓(xùn)練速度大幅提高。

圖3 4種模型訓(xùn)練過程學(xué)習(xí)曲線(a)XGBoost; (b)GBDT; (c)RF; (d)FNN

利用各個(gè)模型完成對(duì)B2～B5訓(xùn)練井?dāng)?shù)據(jù)的訓(xùn)練后，獲得了測(cè)試井B1、B6的生成曲線DT、CN、GR和DEN。

表2記錄了由4種模型得到的測(cè)試井生成曲線預(yù)測(cè)結(jié)果的評(píng)價(jià)指標(biāo)數(shù)據(jù)，可以看出，F(xiàn)NN模型預(yù)測(cè)效果最差，此結(jié)論與交叉驗(yàn)證中FNN訓(xùn)練學(xué)習(xí)曲線欠擬合相對(duì)應(yīng)。RF模型預(yù)測(cè)效果一般，XGBoost和GBDT模型的預(yù)測(cè)效果與前兩者相比明顯更好，并且XGBoost預(yù)測(cè)效果最好。以B1井為例，相對(duì)于GBDT、RF和FNN，其MAE分別減少了16.3%、50.0%和76.9%，RMSE分別減少了12.2%、33.5%和61.5%，R2分別增加了3.2%、9.1%和20.0%。說明XGBoost生成測(cè)井曲線的精度和穩(wěn)定性都是最好。

圖4展示了基于XGBoost對(duì)B1井生成測(cè)井曲線的結(jié)果。生成的測(cè)井曲線包括DT、CN、GR和DEN，為了便于和真實(shí)測(cè)井曲線對(duì)比，將兩曲線上絕對(duì)誤差大于平均絕對(duì)誤差與標(biāo)準(zhǔn)差之和的部分標(biāo)紅。由圖可見，DT、CN和GR曲線的預(yù)測(cè)效果非常好，大部分曲線段位于設(shè)定的誤差范圍內(nèi)，即使是曲線波動(dòng)幅度較大的井段，生成測(cè)井曲線的誤差也被控制在很小的范圍內(nèi)。對(duì)于DEN曲線波動(dòng)幅度較大的井段，生成的DEN測(cè)井曲線不能很好地捕捉其變化幅度，造成了較大偏差，但是其變化趨勢(shì)與真實(shí)測(cè)井曲線類似，整體的預(yù)測(cè)效果較好。

表2 測(cè)試井基于不同模型的預(yù)測(cè)結(jié)果

另外，由表2可知，B6井的預(yù)測(cè)效果較B1井差，原因可能有兩個(gè)方面：①B6井位于研究區(qū)北部，其余井位于研究區(qū)南部(圖1)，研究區(qū)南、北地層受區(qū)域構(gòu)造背景和成巖作用影響，具有不同的地層沉積特征。如圖5所示，B6井的地層與B1～B4井存在很大差異，B6井測(cè)井段中占據(jù)相當(dāng)比例的明化鎮(zhèn)組，在B3、B5井僅存上部一小段，而B6井上部平原組在其他井測(cè)井段中則完全沒有。②B1、B2、B3和B4井之間距離較小，B1井處于4口井的中心位置，且其地層分布在訓(xùn)練井中均發(fā)育； B6井與其他井距離較大，雖然其下部地層分布在B5井也發(fā)育，但是由于訓(xùn)練井中對(duì)應(yīng)數(shù)據(jù)量不足及B6井與訓(xùn)練井所在區(qū)域距離較大，導(dǎo)致B6井預(yù)測(cè)效果有所降低。選擇該井作為訓(xùn)練井，可以在一定程度上檢驗(yàn)?zāi)Ｐ偷姆夯芰Α?/p>

圖4 基于XGBoost生成的B1井人工測(cè)井曲線

以表2中預(yù)測(cè)結(jié)果相對(duì)不好的B6井為例，將基于XBGoost和FNN生成的測(cè)井曲線進(jìn)行效果對(duì)比。如圖6所示，圖中第1列為輸入的3條已知測(cè)井曲線(CAL、RD和SP)，第3、5、7、9列為基于XGBoost生成的人工測(cè)井曲線(紅色)與作為參照的實(shí)際測(cè)井曲線(黑色)的對(duì)比，第4、6、8、10列為基于FNN的生成測(cè)井曲線(綠色)與實(shí)際測(cè)井曲線(黑色)的對(duì)比?？梢园l(fā)現(xiàn)，由于B6井上部井段測(cè)井?dāng)?shù)據(jù)在其他訓(xùn)練井中很少甚至沒有相關(guān)映射，導(dǎo)致其上部井段生成的測(cè)井曲線的準(zhǔn)確度低于下部井段，XGBoost和FNN的預(yù)測(cè)結(jié)果均出現(xiàn)了偏差，但是XGBoost更好地預(yù)測(cè)了測(cè)井曲線的變化趨勢(shì)，生成曲線與實(shí)際曲線偏差比較小，這說明XGBoost在面對(duì)未知數(shù)據(jù)集時(shí)，具有較強(qiáng)的泛化能力。在井深1080～1160m處(圖中藍(lán)色虛線框內(nèi))，可以發(fā)現(xiàn)DT、CN和GR曲線在此區(qū)間內(nèi)出現(xiàn)一個(gè)階躍式變化，XGBoost和FNN模型也都捕捉到了測(cè)井曲線上的這種變化，但是FNN在此區(qū)間內(nèi)生成的測(cè)井曲線與真實(shí)值存在較大偏差，而XGBoost的預(yù)測(cè)準(zhǔn)確度和穩(wěn)定性均顯著高于FNN。

圖5 研究區(qū)地層分布圖

圖6 基于XGBoost和FNN生成的B6井的人工測(cè)井曲線

3 結(jié)論

(1)為了使梯度收斂更快、更準(zhǔn)確，XGBoost算法對(duì)損失函數(shù)進(jìn)行二階泰勒展開，并加入了正則項(xiàng)以權(quán)衡目標(biāo)函數(shù)和模型的復(fù)雜程度，降低了模型的方差，可以很好地解決在基于神經(jīng)網(wǎng)絡(luò)的測(cè)井曲線重構(gòu)方法中容易出現(xiàn)的過擬合問題，有效地提升了XGBoost測(cè)井曲線重構(gòu)的準(zhǔn)確性。

(2)基于XGBoost對(duì)渤海灣盆地1口定向井的測(cè)井?dāng)?shù)據(jù)缺失段進(jìn)行自動(dòng)補(bǔ)全實(shí)驗(yàn)。該測(cè)試井的測(cè)井曲線中有22%的數(shù)據(jù)缺失，實(shí)驗(yàn)不包含其他井的測(cè)井?dāng)?shù)據(jù)，僅依靠同一口井中完整段的測(cè)井曲線對(duì)缺失段進(jìn)行補(bǔ)全。結(jié)果顯示，測(cè)井曲線補(bǔ)全的準(zhǔn)確度和穩(wěn)定性均達(dá)到較好效果，能在一定程度上彌補(bǔ)數(shù)據(jù)缺失導(dǎo)致的數(shù)據(jù)量不足。

(3)基于XGBoost、GBDT、RF和FNN對(duì)渤海灣盆地2口定向井進(jìn)行人工測(cè)井曲線生成實(shí)驗(yàn)。通過K折交叉驗(yàn)證檢驗(yàn)上述模型的性能，并結(jié)合地質(zhì)背景對(duì)預(yù)測(cè)效果進(jìn)行對(duì)比分析。結(jié)果顯示，基于XGBoost模型生成的測(cè)井曲線準(zhǔn)確度和穩(wěn)定性最高,在面對(duì)未知的數(shù)據(jù)集時(shí)，XGBoost也表現(xiàn)出了較強(qiáng)的泛化能力。