摘" 要: 為了準(zhǔn)確預(yù)測(cè)和評(píng)估地質(zhì)工程中存在的風(fēng)險(xiǎn),設(shè)計(jì)一種基于多源數(shù)據(jù)融合分析的地質(zhì)風(fēng)險(xiǎn)巡檢系統(tǒng)。該系統(tǒng)能夠綜合利用探地雷達(dá)、紅外傳感器等設(shè)備采集到的數(shù)據(jù)信息,通過智能化檢測(cè)算法快速、準(zhǔn)確地識(shí)別出地質(zhì)風(fēng)險(xiǎn)。在預(yù)測(cè)模型的設(shè)計(jì)中,提出了一種基于SCINet和LSTM的地質(zhì)風(fēng)險(xiǎn)預(yù)測(cè)算法。該算法通過前饋神經(jīng)網(wǎng)絡(luò)(FFN)來增強(qiáng)多源數(shù)據(jù)的非線性表示;并且能夠利用SCINet在提取多尺度特征方面的優(yōu)勢(shì),引入LSTM使得模型具有捕獲長(zhǎng)期依賴性的能力,從而提高整體算法的預(yù)測(cè)精度。實(shí)驗(yàn)結(jié)果表明,所提出的預(yù)測(cè)算法能夠有效提高對(duì)地質(zhì)風(fēng)險(xiǎn)的識(shí)別性能。與GRU和Bi?LSTM等多種識(shí)別算法進(jìn)行的對(duì)比實(shí)驗(yàn)驗(yàn)證了該算法的優(yōu)越性,其準(zhǔn)確率相比主流的Bi?LSTM提高了15.95%。
關(guān)鍵詞: 地質(zhì)風(fēng)險(xiǎn)預(yù)測(cè); 風(fēng)險(xiǎn)巡檢系統(tǒng); 多源數(shù)據(jù)融合; 前饋神經(jīng)網(wǎng)絡(luò); SCINet; 長(zhǎng)短期記憶網(wǎng)絡(luò); 時(shí)間序列特征
中圖分類號(hào): TN919.2?34; TP391.9" " " " " " " " " "文獻(xiàn)標(biāo)識(shí)碼: A" " " " " " " " " 文章編號(hào): 1004?373X(2024)22?0160?05
Design of geological risk prediction algorithm based on multi?source data fusion analysis
Abstract: In order to accurately predict and evaluate the risks in geological engineering, a geological risk inspection system based on multi?source data fusion analysis is designed. This system can comprehensively utilize devices such as ground penetrating radar and infrared sensors to collect data information, and quickly and accurately identify geological risks by means of intelligent detection algorithms. In the design of the prediction model, a geological risk prediction algorithm based on SCINet (sample convolution and interaction networks) and LSTM (long short?term memory) is proposed, which can enhance the nonlinear representation of multi?source data by FFN (feed?forward network) and utilize the advantages of SCINet in extracting multi?scale features. Meanwhile, the introduction of LSTM enables the model to capture long?term dependencies, thereby improving the overall prediction accuracy of the algorithm. The experimental results show that the proposed prediction algorithm model can effectively improve the ability to identify geological risks. The comparative experiments with various recognition algorithms such as GRU and BiLSTM can verify the superiority of this algorithm, with an accuracy improvement of 15.95% compared with mainstream BiLSTM.
Keywords: geological risk prediction; risk inspection system; multi?source data fusion; feed?forward neural network; SCINet; long short?term memory network; time series characteristic
0" 引" 言
隨著地質(zhì)工程行業(yè)的發(fā)展,尤其是在施工建設(shè)領(lǐng)域,面臨著多樣而復(fù)雜的地質(zhì)風(fēng)險(xiǎn)。這些風(fēng)險(xiǎn)通常會(huì)導(dǎo)致工程延誤、成本增加甚至發(fā)生安全事故,對(duì)工程項(xiàng)目按計(jì)劃推進(jìn)帶來了嚴(yán)重挑戰(zhàn)[1?3]。為了準(zhǔn)確預(yù)測(cè)和評(píng)估這些地質(zhì)風(fēng)險(xiǎn),需要充分利用多種類型的大數(shù)據(jù)并運(yùn)用智能分析算法進(jìn)行綜合分析[4]。為此,本文設(shè)計(jì)了一種基于多源數(shù)據(jù)融合分析的地質(zhì)風(fēng)險(xiǎn)預(yù)測(cè)算法,通過多源數(shù)據(jù)融合的方式將這些數(shù)據(jù)進(jìn)行有效整合和分析,從而更準(zhǔn)確地預(yù)測(cè)地質(zhì)風(fēng)險(xiǎn)。首先設(shè)計(jì)了基于多源數(shù)據(jù)融合分析的地質(zhì)風(fēng)險(xiǎn)預(yù)測(cè)系統(tǒng),再利用預(yù)測(cè)算法識(shí)別出異常數(shù)據(jù),實(shí)現(xiàn)智能化的監(jiān)控。在預(yù)測(cè)算法中,提出了基于SCINet和LSTM的地質(zhì)風(fēng)險(xiǎn)預(yù)測(cè)模型,該模型憑借SCINet的多尺度特征提取以及LSTM捕獲特征長(zhǎng)期依賴性的優(yōu)勢(shì),能夠準(zhǔn)確地識(shí)別出施工建設(shè)過程中的地質(zhì)風(fēng)險(xiǎn)。
1" 地質(zhì)風(fēng)險(xiǎn)預(yù)測(cè)系統(tǒng)設(shè)計(jì)
為了實(shí)現(xiàn)對(duì)地質(zhì)風(fēng)險(xiǎn)的智能化實(shí)時(shí)監(jiān)控,并能夠及時(shí)檢測(cè)到異常且發(fā)出預(yù)警,本文基于多源數(shù)據(jù)融合技術(shù)設(shè)計(jì)了一種地質(zhì)風(fēng)險(xiǎn)預(yù)測(cè)系統(tǒng),流程如圖1所示。
首先,需要基于已有的地質(zhì)勘查信息技術(shù)采集多源數(shù)據(jù),其中包含探地雷達(dá)信號(hào)反演、紅外觀測(cè)和巖土參數(shù)等;接著,通過數(shù)據(jù)預(yù)處理對(duì)原數(shù)據(jù)進(jìn)行去噪、增強(qiáng)等操作,從而達(dá)到提高檢測(cè)精度的效果;然后,將數(shù)據(jù)輸入到基于多源數(shù)據(jù)融合分析的地質(zhì)風(fēng)險(xiǎn)預(yù)測(cè)算法中進(jìn)行處理,通過獲取多源數(shù)據(jù)中的特征信息,實(shí)現(xiàn)對(duì)地質(zhì)風(fēng)險(xiǎn)的預(yù)測(cè);最后,進(jìn)行風(fēng)險(xiǎn)判斷,當(dāng)預(yù)測(cè)結(jié)果提示存在風(fēng)險(xiǎn)情況時(shí),系統(tǒng)則會(huì)發(fā)出預(yù)警。
2" 數(shù)據(jù)融合與分析預(yù)測(cè)算法設(shè)計(jì)
本文所提出的基于多源數(shù)據(jù)融合分析的地質(zhì)風(fēng)險(xiǎn)預(yù)測(cè)算法主要由3個(gè)核心模塊組成,分別為前饋神經(jīng)網(wǎng)絡(luò)(Feed?Forward Network, FFN)、樣本卷積和交互網(wǎng)絡(luò)(Sample Convolution and Interaction Network, SCINet)以及長(zhǎng)短期記憶(Long Short?Term Memory, LSTM)網(wǎng)絡(luò)。先采用FFN對(duì)原始數(shù)據(jù)進(jìn)行非線性變換,增強(qiáng)其捕獲復(fù)雜特征的能力;其次,利用SCINet的二叉樹結(jié)構(gòu)和下采樣卷積交互架構(gòu)提取局部及全局特征,并通過子序列之間的交互學(xué)習(xí)來捕獲復(fù)雜的時(shí)間特征。而LSTM則能夠進(jìn)一步細(xì)化特征信息,從而更有效地提取時(shí)間依賴性特征,提高預(yù)測(cè)準(zhǔn)確度。
2.1" 前饋神經(jīng)網(wǎng)絡(luò)
在本文提出的模型中集成了兩個(gè)帶有殘差連接的FFN層,其設(shè)計(jì)采用Swish激活函數(shù)[5]。這種集成能夠解決深度網(wǎng)絡(luò)中常見的梯度消失問題,同時(shí)增強(qiáng)網(wǎng)絡(luò)的學(xué)習(xí)能力和預(yù)測(cè)準(zhǔn)確性。FFN的結(jié)構(gòu)如圖2所示,F(xiàn)FN中的殘差連接可以有效完成梯度傳播,即使在復(fù)雜的數(shù)據(jù)場(chǎng)景中也能確保穩(wěn)定地學(xué)習(xí)特征信息[6?7]。
Swish激活函數(shù)和FFN的表達(dá)式如下:
[Swish(z)=z?σ(βz)] (1)
[y=FFN(x)+x] (2)
式中:z為Swish激活函數(shù)的輸入;β為調(diào)節(jié)函數(shù)斜率的可訓(xùn)練參數(shù);[σ?]表示Sigmoid函數(shù);在FFN的上下文中,x表示一系列輸入數(shù)據(jù),[FFN?]表示FFN層的輸出。將輸入x直接添加到FFN層可以得到模型的最終輸出y,從而形成殘差連接。特別是在本文設(shè)計(jì)的深層網(wǎng)絡(luò)架構(gòu)中,這種殘差連接對(duì)于緩解梯度消失問題具有重要的作用。
2.2" 樣本卷積和交互網(wǎng)絡(luò)
SCINet是目前較為新穎的一種時(shí)間序列預(yù)測(cè)框架,其結(jié)構(gòu)如圖3所示。由圖3可知,SCINet通過將多個(gè)SCI塊組織形成二叉樹結(jié)構(gòu),從而對(duì)輸入數(shù)據(jù)的局部和全局特征進(jìn)行下采樣。這種方法利用樣本卷積在多個(gè)時(shí)間尺度上迭代來提取和交換特征,以完成時(shí)間序列建模。因此,SCINet可以從復(fù)雜時(shí)間序列數(shù)據(jù)中提取深度特征,從而提高預(yù)測(cè)精度[8]。
SCINet通過分裂和交互式學(xué)習(xí)操作將輸入數(shù)據(jù)X分解為兩個(gè)子序列,而組成SCINet的基本模塊是SCI塊,其結(jié)構(gòu)如圖4所示。
在第l層的每個(gè)SCI塊中,通過分離奇數(shù)和偶數(shù)元素,可將輸入Fl下采樣為兩個(gè)子序列Fl,odd和Fl,even;然后根據(jù)需要,利用多種卷積濾波器來處理Fl,odd和Fl,even,并在兩個(gè)子序列之間采用交互式學(xué)習(xí)技術(shù)[9],減少下采樣過程中的信息丟失;最終,輸出兩個(gè)經(jīng)過細(xì)化的子特征Fl+1,even和Fl+1,odd。SCI塊的具體操作可由以下公式描述:
式中:η、θ、γ和δ是4個(gè)獨(dú)立的一維卷積模塊;“⊙”表示求解哈達(dá)瑪積的運(yùn)算。
SCINet通過將多個(gè)SCI塊分層排列從而構(gòu)建了完整的二叉樹結(jié)構(gòu)。在該結(jié)構(gòu)中,第l層有2l個(gè)SCI塊,其中l(wèi)=1,2,…,L表示層的深度,L即為完全二叉樹中最低層的深度。在SCINet網(wǎng)絡(luò)中,輸入時(shí)間序列經(jīng)過逐層下采樣,并由每層各自的SCI塊進(jìn)行處理,這使得SCINet能夠同時(shí)學(xué)習(xí)到跨多個(gè)時(shí)間尺度的綜合特征。因此,每個(gè)SCI塊都捕獲了整個(gè)時(shí)間序列的局部和全局視角。在跨L層執(zhí)行SCI塊操作之后,可通過反向奇偶分裂操作的遞歸迭代來重新排列所有子特征的元素。反向奇偶校驗(yàn)分裂操作如下所示:
2.3" 長(zhǎng)短期記憶網(wǎng)絡(luò)
LSTM[10?11]網(wǎng)絡(luò)是一種改進(jìn)的循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network, RNN)[12],其采用記憶單元替換RNN隱藏層中的神經(jīng)元,解決了梯度消失或爆炸問題。LSTM單元的結(jié)構(gòu)如圖5所示。
由圖5可知,記憶單元的結(jié)構(gòu)包括輸入門、遺忘門和輸出門,這使得網(wǎng)絡(luò)在每個(gè)時(shí)間步均能去除無效信息,并保留重要信息。在每個(gè)離散時(shí)間步長(zhǎng)t中,遺忘門Ft將評(píng)估上一步中的細(xì)胞狀態(tài)ct-1以確定要?jiǎng)h除的數(shù)據(jù)范圍,由此實(shí)現(xiàn)了細(xì)胞的選擇性記憶能力。接著,輸入門It接收新輸入,同時(shí)考慮更新數(shù)據(jù)和歷史數(shù)據(jù),從而完善細(xì)胞的記憶狀態(tài)。最后,輸出門Ot將單元內(nèi)的實(shí)時(shí)數(shù)據(jù)作為當(dāng)前狀態(tài)的輸出進(jìn)行傳輸。在LSTM網(wǎng)絡(luò)中,將每個(gè)時(shí)間步t的輸入xt和輸出ht均通過這種信息流進(jìn)行處理,來確保LSTM能夠精確調(diào)控信息的遺忘、存儲(chǔ)和更新,從而更為理想地捕獲網(wǎng)絡(luò)和維持長(zhǎng)期信息。
2.4" 基于SCINet和LSTM的地質(zhì)風(fēng)險(xiǎn)預(yù)測(cè)模型
為了獲得更優(yōu)的預(yù)測(cè)精度并增強(qiáng)泛化能力,本文將SCINet和LSTM進(jìn)行融合,并基于此提出了一種地質(zhì)風(fēng)險(xiǎn)預(yù)測(cè)模型,模型的架構(gòu)如圖6所示。
該模型充分利用了SCINet在提取多尺度特征和LSTM在捕獲長(zhǎng)期依賴性方面的優(yōu)勢(shì)。首先,使輸入數(shù)據(jù)通過一個(gè)FFN層和SCINet網(wǎng)絡(luò),并在其中加入殘差連接。FFN層用于增強(qiáng)輸入張量的非線性表示,從而增強(qiáng)模型捕獲復(fù)雜數(shù)據(jù)模式的能力;SCINet網(wǎng)絡(luò)為二叉樹結(jié)構(gòu),可以在多個(gè)級(jí)別處理輸入數(shù)據(jù)。在樹結(jié)構(gòu)框架的同一層內(nèi),不同的節(jié)點(diǎn)使用了一組具有不同權(quán)重的卷積濾波器來捕獲相同時(shí)間尺度的局部特征,因此對(duì)于多個(gè)層次的框架來說,較淺層次的特征信息將被傳輸?shù)缴顚哟沃?,從而在多尺度時(shí)間分辨率下積累更為精細(xì)的特征。在第l層,每個(gè)節(jié)點(diǎn)內(nèi)的數(shù)據(jù)均被轉(zhuǎn)換為24×2-l×10的張量;然后,通過SCINet處理將這類子集利用反轉(zhuǎn)奇偶分裂操作重新組合,恢復(fù)時(shí)間維度從而匹配原始輸入。通過上述方式,地質(zhì)風(fēng)險(xiǎn)預(yù)測(cè)模型可以有效地捕獲整個(gè)時(shí)間序列中的局部和全局特征。
接著,將得到的特征信息輸入到FFN層和一系列的LSTM網(wǎng)絡(luò)中。其中,F(xiàn)FN層用于進(jìn)一步增強(qiáng)時(shí)間序列數(shù)據(jù)的非線性表示,從而細(xì)化數(shù)據(jù)以進(jìn)行更準(zhǔn)確的預(yù)測(cè)。LSTM構(gòu)建網(wǎng)絡(luò)是為了捕獲負(fù)載數(shù)據(jù)的長(zhǎng)期依賴性,這可以彌補(bǔ)在SCINet的二叉樹結(jié)構(gòu)中下采樣期間造成的信息丟失。最后,通過全連接層和Sigmoid激活函數(shù)對(duì)地質(zhì)風(fēng)險(xiǎn)進(jìn)行預(yù)測(cè),并輸出預(yù)測(cè)結(jié)果。
3" 實(shí)驗(yàn)結(jié)果與分析
3.1" 實(shí)驗(yàn)數(shù)據(jù)與實(shí)驗(yàn)環(huán)境
為驗(yàn)證所提地質(zhì)風(fēng)險(xiǎn)預(yù)測(cè)系統(tǒng)的性能,采集了施工建設(shè)的地質(zhì)風(fēng)險(xiǎn)及其觀測(cè)參數(shù)等多種來源的多類型數(shù)據(jù),其中包含探地雷達(dá)信號(hào)反演、傳感網(wǎng)絡(luò)信息、紅外傳感器信號(hào)、巖土參數(shù)和氣象水文條件數(shù)據(jù)等等。利用Python及TensorFlow在具有英偉達(dá)RTX 2080Ti GPU顯卡和英特爾酷睿i7處理器的PC上進(jìn)行實(shí)驗(yàn)仿真。
3.2" 實(shí)驗(yàn)結(jié)果分析
表1展示了基于SCINet和LSTM的地質(zhì)風(fēng)險(xiǎn)預(yù)測(cè)模型與FFN、SCINet和LSTM這類單一模型的對(duì)比結(jié)果。由表1可知,單一FFN在多源地質(zhì)風(fēng)險(xiǎn)檢測(cè)數(shù)據(jù)中表現(xiàn)最差,準(zhǔn)確率僅為55.32%。相比于FFN,SCINet和LSTM的識(shí)別性能有所提高,準(zhǔn)確率分別為81.27%和79.73%。其中,SCINet基于下采樣?卷積?交互架構(gòu)實(shí)現(xiàn)了更大的感受野,能夠提取多源數(shù)據(jù)的局部和全局特征;而LSTM則能夠更為精確地調(diào)控特征信息的遺忘、存儲(chǔ)和更新。雖然SCINet和LSTM的表現(xiàn)均有所改善,但是與本文模型相比仍有一定差距。本文模型對(duì)異常數(shù)據(jù)的識(shí)別準(zhǔn)確率高達(dá)96.87%,且精確率、召回率和F1值也均為最優(yōu)。由此可知,將SCINet和LSTM結(jié)合后的檢測(cè)模型能夠提高對(duì)異常地質(zhì)風(fēng)險(xiǎn)的檢測(cè)精度,說明改進(jìn)方案是可行的。
表2為本文算法與多種主流預(yù)測(cè)算法的對(duì)比結(jié)果,其中包括ELM[13]、GRU[14]、Bi?LSTM[15]和ResNet[16]等。由表2可知,ELM的識(shí)別精度最低,其準(zhǔn)確率僅有50.71%。相比于ELM,其他主流算法準(zhǔn)確率則有著明顯的提升,其中最差的為GRU,準(zhǔn)確率為76.52%;表現(xiàn)最佳的為Bi?LSTM,其準(zhǔn)確率為80.92%。而所提模型的準(zhǔn)確率比Bi?LSTM高了15.95%,由此可以驗(yàn)證基于SCINet和LSTM的地質(zhì)風(fēng)險(xiǎn)預(yù)測(cè)模型的優(yōu)越性,其能夠滿足實(shí)際工程的需要。
4" 結(jié)" 論
在地質(zhì)工程領(lǐng)域,面對(duì)施工建設(shè)中地質(zhì)風(fēng)險(xiǎn)預(yù)測(cè)的挑戰(zhàn),本文提出了一種基于多源數(shù)據(jù)融合分析的地質(zhì)風(fēng)險(xiǎn)預(yù)測(cè)系統(tǒng)。在模型設(shè)計(jì)中結(jié)合了SCINet和LSTM算法,并使用了帶有殘差連接的FFN,在解決深度網(wǎng)絡(luò)梯度消失問題的同時(shí),也增強(qiáng)了網(wǎng)絡(luò)的學(xué)習(xí)能力和預(yù)測(cè)準(zhǔn)確性。SCINet和LSTM的結(jié)合也使得整體模型能夠從多源數(shù)據(jù)中提取多尺度特征,并分析這些特征的長(zhǎng)期依賴性,進(jìn)一步提高了模型對(duì)于地質(zhì)風(fēng)險(xiǎn)識(shí)別的準(zhǔn)確性。對(duì)比實(shí)驗(yàn)結(jié)果表明,本文提出的預(yù)測(cè)算法可以有效提高地質(zhì)工程風(fēng)險(xiǎn)的識(shí)別精度。
參考文獻(xiàn)
[1] 萬怡國,雷聲,王萱子,等.堤防工程汛期實(shí)時(shí)安全風(fēng)險(xiǎn)綜合評(píng)估[J].南昌大學(xué)學(xué)報(bào)(工科版),2024,46(1):83?88.
[2] 龐俊勇,鄭靚婧.依賴模糊層次分析算法的建設(shè)工程項(xiàng)目風(fēng)險(xiǎn)分析[J].佳木斯大學(xué)學(xué)報(bào)(自然科學(xué)版),2024,42(2):102?105.
[3] 劉心男,李瑞,王家慧,等.基于可拓云模型的建設(shè)工程質(zhì)量檢測(cè)機(jī)構(gòu)運(yùn)行風(fēng)險(xiǎn)評(píng)價(jià)研究[J].工程管理學(xué)報(bào),2023,37(6):126?131.
[4] 王一超.基于多源數(shù)據(jù)融合的可持續(xù)發(fā)展目標(biāo)監(jiān)測(cè)與評(píng)估研究進(jìn)展[J].地球科學(xué)進(jìn)展,2024,39(2):181?192.
[5] 李振宇,鄧向陽,張立民,等.基于Swish激活函數(shù)的雙通道CNN結(jié)構(gòu)[J].計(jì)算機(jī)與數(shù)字工程,2020,48(6):1413?1416.
[6] 劉穎,楊鵬飛,張立軍,等.前饋神經(jīng)網(wǎng)絡(luò)和循環(huán)神經(jīng)網(wǎng)絡(luò)的魯棒性驗(yàn)證綜述[J].軟件學(xué)報(bào),2023,34(7):3134?3166.
[7] 于南翔,朱偉.基于前饋神經(jīng)網(wǎng)絡(luò)的分?jǐn)?shù)階事件觸發(fā)控制器實(shí)現(xiàn)及應(yīng)用研究[J].重慶郵電大學(xué)學(xué)報(bào)(自然科學(xué)版),2023,35(6):1072?1079.
[8] 閆偉曦,陳鵬,唐鵬,等.基于EEMD和SCINet的高速公路交通流量預(yù)測(cè)[J].武漢理工大學(xué)學(xué)報(bào),2022,44(10):30?39.
[9] 程哲,胡超,辛闊,等.基于交互式學(xué)習(xí)技術(shù)的多元化業(yè)務(wù)建模框架研究[J].信息技術(shù),2021(12):49?54.
[10] 趙巍.基于改進(jìn)長(zhǎng)短時(shí)記憶神經(jīng)網(wǎng)絡(luò)的5G通信網(wǎng)絡(luò)流量預(yù)測(cè)[J].沈陽工業(yè)大學(xué)學(xué)報(bào),2022,44(6):672?676.
[11] 余瓊芳,牛冬陽.基于LSTM網(wǎng)絡(luò)的礦山壓力時(shí)空混合預(yù)測(cè)[J].電子科技,2023,36(2):67?72.
[12] 蘇華友,陳抗抗,楊乾明.長(zhǎng)向量處理器高效RNN推理方法[J].國防科技大學(xué)學(xué)報(bào),2024,46(1):121?130.
[13] 王再辰,程輝,趙亮.基于極限學(xué)習(xí)機(jī)的在線參數(shù)更新方法及工業(yè)應(yīng)用[J].現(xiàn)代電子技術(shù),2023,46(22):126?130.
[14] 戚倩玉,高靜懷,陳紅靈,等.基于門控循環(huán)單元主導(dǎo)的深度網(wǎng)絡(luò)半監(jiān)督地震衰減補(bǔ)償方法[J].地球物理學(xué)報(bào),2023,66(7):2997?3010.
[15] 邰偉鵬,劉楊,王小林,等.基于Bi?LSTM的NL2SQL模型[J].計(jì)算機(jī)應(yīng)用與軟件,2024,41(3):34?40.
[16] 尤俁良,國洪燦,王雪.基于ResNet的和差共陣DOA估計(jì)[J].計(jì)算機(jī)與數(shù)字工程,2023,51(10):2251?2256.