基于機器學習的碳基材料對水中四環(huán)素吸附預測研究

董曉冬　陳麗紅　林芙　李惠平　黃慧

摘要：利用現有文獻中的碳基材料對水中四環(huán)素的吸附量的數據，以機器學習為方法準確地預測了不同碳基材料在不同環(huán)境條件下對水中四環(huán)素的吸附量。其中梯度提升樹（CBDT）對四環(huán)素的吸附量預測效果最好（R2>0.99）。比表面積和孔容積是決定碳基材料對四環(huán)素吸附量的最主要的特征。除pH與pHpzc對吸附量的貢獻為負外，其余變量對吸附量均為正貢獻，即特征重要性越明顯時，對吸附量的提升越有利。整體而言，四環(huán)素在碳基材料上的吸附是一個物理過程，受吸附劑的物理特性和環(huán)境因素影響較大，而受碳基材料的化學特性的影響較小。

關鍵詞：四環(huán)素吸附；機器學習；碳基材料；模型解釋

中圖分類號：X703 文獻標志碼：B

前言

長期暴露在一定濃度的四環(huán)素的刺激下會對人體的腎臟、眼球、胃腸道等器官造成傷害。由于四環(huán)素的濫用，天然水體中已有較高濃度的四環(huán)素檢出，因此亟需去除水體中的四環(huán)素。利用碳基吸附劑可以高效地吸附水中四環(huán)素。各類碳基吸附劑被大量開發(fā)并應用于吸附水體中的四環(huán)素和其他污染物。然而評價碳基吸附劑對水體中四環(huán)素的去除效果則需要大量的實驗投入才能獲得較為準確的性能概覽。因此，如何能高效快速地預測碳基吸附劑對水中四環(huán)素的吸附效果對于節(jié)省冗長枯燥的實驗工作量有著至關重要的意義。

機器學習在以數據為基礎的問題領域有著廣泛的應用前景。并且機器學習目前在環(huán)境領域中的應用也有所開展。但以機器學習來預測吸附劑對水中污染物的去除目前仍處在初級階段。因此，以機器學習來預測水中四環(huán)素在碳基吸附劑上的吸附可以有助于更好地理解影響吸附的關鍵變量，并為設計高效吸附劑提供合理指導或者思路。

研究中以現有文獻數據為基礎，通過整理現有數據作為機器學習的數據集進行模型訓練。并對訓練結果以及模型的可解釋性進行了分析，討論了決定四環(huán)素在碳基材料上的吸附效果的影響因素。

1 數據與方法

1.1 數據收集

研究所需文獻來自Web of Science數據庫，共計獲得有效數據686條。數據集以四環(huán)素的吸附量（mmol/g）為因變量，并以10個物理化學特征和環(huán)境因素為自變量。其中物理特征包括比表面積（Surface area，m2/g）、孔容積（Volume，cm3／g）和孔徑（Pore diameter，nm）?；瘜W特征包括零電荷點（pHpzc）、C的質量百分比（C，wt%）和0的質量百分比（0，wt%）。環(huán)境因素包括投加量（Dosage，g/L）、初始濃度（C0，mmol/L）、溶液pH（pH）和溶液溫度（T，K）。

1.2 數據預處理與模型選擇

由于不同自變量之問的差異較大，如比表面積的范圍為1-2000m2／g，而孔容積的范圍為0.001-2cm3/g，為減小不同量綱對預測帶來的影響以及節(jié)省算力，對原始數據進行標準化，即使得原始數據符合均值為0方差為1的分布，如式（1）所示：

xnew=（x-μ）/σ 式（1）

式（1）中，xnew和x分別為標準化后的數據和原始數據。μ為數據樣本的均值，σ為數據樣本的標準差。

對于標準化后的數據首先進行特征間的兩兩相瓦皮爾遜相關性分析（見式2），當皮爾遜相關系數的絕對值趨近于1時，表明兩個特征之間的線性相關越強。研究中，若絕對值大于0.95，則這兩個特征高度線性相關，應予以額外處理，包括數據降維或者刪除一個特征。

式（2）中，rxy是皮爾遜相關系數，Cov（X，Y）為兩個特征之間的協方差矩陣，Var（X）和Var（Y）是X和Y的方差。

對于數據集進一步劃分為訓練集和測試集，其中樣本數量占比為4：1。訓練集用于模型訓練，測試集則用于驗證模型泛化能力。研究中，共選擇了K近鄰算法（KNN）、支持向量機（SVM）和梯度提升樹（CBDT）三種算法來預測。對于算法中的超參的選擇則利用網格搜索模式尋找最佳超參。

1.3 模型可解釋性

利用Shapley方法可求得每個具體特征在所有特征組合的集合中的邊際貢獻的加權平均值，作為該特征對于整體模型的貢獻程度的解讀，該方法有效地避免了分配的平均主義。Shapley值的計算如式（3）所示：

其中，g（Z'）是解釋模型，f（x）是原機器學習模型，Z'j={0，1}M表示相應特征是否被觀察到，M是輸入特征的數目，φj是每個特征的歸因值，φ0是解釋模型的常數。

此外，利用個體條件期望圖（Individual Condi-tional Expectation Plot，ICE）對每一個個體是如何受到單一特征影響做出解釋。而ICE的平均值則為部分依賴圖（Partial Dependence Plot，PDP）可以從全局的角度解讀單一變量對輸出結果的影響。

1.4 模型運行與評價

研究中所有數據預處理和模型構建均在Py-thon3.10上運行，并調用Scikit-Leam、Numpy、Pan-das、Shap、Matplotlib和Seahom包對數據進行運算以及圖像呈現。決定系數（R2）和均方根誤差（RMSE）作為評價模型預測效果的指標。R2越接近于1表明模型預測效果越好，RMSE的值越小表明模型預測效果越好。

其中，y'i是預測值，yi為對應真值，yave為樣本平均值。ypredi是預測值，yreali為對應真值，N為樣本數量。

2 結果與討論

2.1 數據分布

碳基材料的孔隙結構較為符合正態(tài)分布，比表面積主要集中在100-500m2/g，孔容積主要集中在0.01-0.5cm3／g，而孔徑主要集中在5nm左右。環(huán)境變量中，初始濃度和pH較為符合正態(tài)分布，而溫度與投加量則出現不規(guī)則分布?；瘜W因素中，pHpzc類似兩個正態(tài)分布的疊加，中心值分別在3和7。這主要與碳基材料的制備方式有關，目前的在制備碳基材料時為了使得表面多孔，通常會使用強酸強堿來對碳基材料進行活化，因此pHpzc會由于活化藥品的不同表面呈現出偏酸性或偏堿性的特點，造成零電荷點在3和7這兩個值附近集中。C和O的分布則表現為不規(guī)則的數據分布，說明碳基材料表面官能團的種類與占比變化大，表面化學性狀豐富。（見圖1）

皮爾遜相關系數矩陣熱圖（如圖2所示），所有特征之間均沒有表現出會影響結果的強相關性，即絕對數值均小于0.95。因此不需要對特征進行刪減或者對特征進行降維處理。僅比表面積和孔容積之間的相關系數較大，為0.86，但是仍在可控范圍之內。由圖2（b）可知，孔容積與比表面積呈現出一定的n線性正相關，即比表面積越大，孔容積越大。

2.2 模型預測效果和模型可解釋性

KNN、SVM和GBDT算法不論是在訓練集還是在測試集對于四環(huán)素的吸附量均能達到很好的預測效果（如表1所示），說明模型的準確度與泛化性都能夠得到有效的保證。KNN模型是一種精準度高，對異常值不敏感的算法，非常適用于數值型和標稱型的回歸。SVM則擅長于解決高維特征的分類問題和回歸問題，在特征維度大于樣本數時依然有很好的效果。GBDT算法則是一種強力的集成算法，雖然以弱學習器為基礎學習器，但是通過梯度提升對每次迭代的殘差進行消除，使得最終的學習器成為強學習器。再結合決策樹的優(yōu)勢，使得GBDT能夠在多數分類和同歸預測中表現出極佳的準確度。可知GBDT模型的預測精度為最高，因此后續(xù)分析所用的模型以GBDT模型為基準。如圖3所示直觀地展現了實際值與測試值之間的關系，從中可以看出二者高度線性相關。此外，訓練集與測試集的分布也表現出相似的分布特點，因此，數據集劃分合理，模型驗證效果有效。

通過對比模型中各個特征Shapley值對預測結果的貢獻程度可以發(fā)現，比表面積是最主要的特征，且呈現出明顯的正貢獻，即比表面積越大，四環(huán)素的吸附量也會越高?？兹莘e是另一個重要的特征，總體而言也是較為明顯的正貢獻，但是有部分樣品表現出負貢獻。初始濃度的重要性排在第三位，也表現出正貢獻。pH的貢獻度位于第四位，但是其對吸附量的貢獻表現出負貢獻，即pH越大，吸附量越小。溫度則位于第五位，也是正貢獻為主。其余因素對于四環(huán)素的吸附貢獻相對較小。與部分研究結果有所不同的是，Shapley的結果表明碳基材料的化學特征對于四環(huán)素的吸附貢獻程度非常有限，如圖4所示，pHpzc為第7位，C含量為第9位，0含量為第10位。這說明四環(huán)素在碳基材料上的吸附并非是一個化學作用力主導的過程。同時也解釋了大多數碳基材料對四環(huán)素的吸附都會包含大量的物理吸附的特性。

ICE和PDP圖可以看出四環(huán)素吸附量對于大部分的因素依賴并未展現出單一的依賴性，說明四環(huán)素的吸附是多個特征綜合作用的過程。這其中，比表面積在小于100m2/g時，對四環(huán)素的吸附量促進作用較大，但超過100m2/g時，吸附量提高的邊際效益大幅減弱。因此在設計碳基吸附劑時，比表面積設置在100m2/g時即可，無需過多追求更大的比表面積。此外，四環(huán)素吸附量對初始濃度的變化表現出高度依賴，尤其是在初始濃度未0.5-0.75mmol/L之間時，依賴程度極其明顯。

整體而言，碳基吸附劑的物理特性以及環(huán)境變量對四環(huán)素的吸附具有更大的影響，而化學因素對于四環(huán)素的吸附的影響則較弱，這也是為什么絕大多數報導的碳基吸附劑對于四環(huán)素的吸附偏向于物理吸附為主的原因。而所有特征中比表面積和孔容積為最重要的貢獻特征，這說明孔隙填充是碳基材料吸附四環(huán)素的主要機制。為了探究化學因素是否對預測起到的作用較小，對于輸入的10個特征剔除pHpzc、C含量和O含量，并再次進行模型訓練。由表1可知在沒有任何化學特征輸入的情況下，雖然KNN、SVM和GBDT模型對四環(huán)素吸附的預測精確度有所下降，但是下降十分有限。因此僅碳基材料的物理特性和環(huán)境因素的輸入就可以十分精確的預測四環(huán)素的吸附量。同時也再次證明四環(huán)素在碳基材料上的吸附是一個純粹的物理吸附行為，碳基材料表面化學官能團以及等電點的分布對于四環(huán)素的吸附極其有限。此外，無需化學特征的采集即可獲得非常精確的預測效果對于縮減數據采集時間具有重要意義，這一點在需要緊急預測的狀況下極為重要。（見圖5）

3 結論

研究通過對現有數據進行采集與整理，建立了碳基材料對水中四環(huán)素的吸附量的精準預測。在KNN、SVM、GBDT算法中，GBDT算法無論是在訓練集還是在測試集都表現極佳，R2都大于0.98，RMSE都小于0.1。通過對Shapley值分析發(fā)現，特征重要性按照如下順序排列：比表面積>孔容積>初始濃度>pH>溫度>投加量>pHpzc>C含量>孔徑>0含量。且pH和pHpzc對四環(huán)素吸附量表現出負貢獻，其余特征表現為正貢獻。整體而言，四環(huán)素在碳基吸附劑上的吸附主要受到物理特性和環(huán)境因素的影響較大，是一個物理吸附占據主導地位的過程。在緊急狀況下，僅輸入碳基材料的物理特征和環(huán)境因素即可實現精確的四環(huán)素吸附的預測，無需化學特征的輸入，有效縮短了數據采集時間。

基金項目：國家重點研發(fā)項目（No.202IYFC3200805）：甘肅省科技計劃項目自然科學資助（20JR10RA441）；甘肅省科技廳軟科學專項（20CX9ZA026）