貝葉斯神經(jīng)網(wǎng)絡在自由跌水沖坑深度預測中的研究

王俊 周昔東

摘 要：溢洪道產(chǎn)生的自由跌水具有較大的流速和能量，水流作用于河床的沖擊力會使河床發(fā)生沖刷，更可能威脅水工建筑物的安全，因此準確預測下游河床的沖刷深度是水利工程界面臨的重要問題之一。針對傳統(tǒng)BP神經(jīng)網(wǎng)絡收斂慢、易出現(xiàn)過擬合的缺點，本文建立了用于預測自由跌水沖坑深度的貝葉斯神經(jīng)網(wǎng)絡網(wǎng)絡模型；使用搜集到的數(shù)據(jù)對模型進行了驗證。結(jié)果表明：該方法避免了陷入過擬合的問題，提高預測精度，利用該模型進行沖刷深度的預測是可靠的。

關鍵詞：自由跌水；沖坑深度；貝葉斯網(wǎng)絡；預測

神經(jīng)網(wǎng)絡作為一種能模擬非線性輸入輸出關系的數(shù)學工具[1]，因而在解決復雜非線性系統(tǒng)方面具有很大優(yōu)勢。河床的沖刷過程可以看作是一個“黑箱問題”，也具有復雜非線性系統(tǒng)的性質(zhì)，目前人工神經(jīng)網(wǎng)絡在預測河床沖刷方面取得了比較多的成果。但傳統(tǒng)的BP網(wǎng)絡存在收斂慢、易出現(xiàn)過擬合、泛化能力不足等的問題，對此，本文提出了利用貝葉斯神經(jīng)網(wǎng)絡對自由跌水沖坑深度進行預測。對比實驗證明，相對于BP神經(jīng)網(wǎng)絡，貝葉斯神經(jīng)網(wǎng)絡具有更高的預測精度。

1基于貝葉斯的神經(jīng)網(wǎng)絡算法[2]

網(wǎng)絡結(jié)構和訓練樣本的特性是影響神經(jīng)網(wǎng)絡泛化能力的主要因素，因此采取合適的訓練策略和優(yōu)化網(wǎng)絡結(jié)構等措施能提高其泛化能力。訓練策略包括在訓練樣本中加入噪聲、提前停止法等方法；網(wǎng)絡結(jié)構優(yōu)化方法則包含修剪法、正則化法、進化法等，本文采用正則化方法。

正則化方法是通過修正神經(jīng)網(wǎng)絡的訓練性能函數(shù)來提高其泛化能力。多數(shù)神經(jīng)網(wǎng)絡的訓練性能函數(shù)采用平方誤差函數(shù)RD：

（1）

其中和；ci、bi分別是N個訓練樣本中的第i次訓練時的目標值與輸出值。正則化方法在平方誤差函數(shù)RD引入了懲罰函數(shù)項，將網(wǎng)絡訓練性能函數(shù)變?yōu)椋?/p>

（2）

其中，ω 為網(wǎng)絡權值，β 、κ 為正則化系數(shù)，目標函數(shù)中加入正則化項使作用較小的連接權盡可能趨于零，在確保網(wǎng)絡滿足擬合精度的前提下，便于剪除冗余的連接權和神經(jīng)元，從而降低網(wǎng)絡的復雜性以獲得良好的泛化性能。但對于正則化方法而言，難點在于超參數(shù)的確定，筆者運用貝葉斯方法來確定合理的超參數(shù)。根據(jù)貝葉斯推導過程可知，超參數(shù)α，β的后驗概率分布為：

（3）

對α，β分別求偏導，即可求出具有最大顯著度時超參數(shù)的值。

2 模型的建立

2.1網(wǎng)絡結(jié)構和參數(shù)

根據(jù)文獻[3]和[4]的研究，選擇河槽單寬流量q、堰頂上水頭h0、沖刷前的下游水深h、泥沙中值粒徑d50為輸入變量；平衡沖刷深度S為輸出變量。經(jīng)不斷試驗，確定隱層數(shù)為10，確定網(wǎng)絡結(jié)構為5-10-1。模型的允許誤差設為1e-5；迭代次數(shù)為1000。

2.2 數(shù)據(jù)預處理

為使各變量對結(jié)果產(chǎn)生同等影響，用式4對數(shù)據(jù)進行歸一化。

（4）

式中，xi表示輸入或輸出量，xmin、xmax分別表示數(shù)據(jù)樣本的最小值和最大值。

3 模型驗證

選用文獻[3]中的114組數(shù)據(jù)，隨機選擇94組數(shù)據(jù)用于模型訓練。當網(wǎng)絡達到誤差要求后，利用其余20組試驗數(shù)據(jù)對模型進行驗證以及分析模型的預測精度。為進行比較，同時采用BP神經(jīng)網(wǎng)絡和貝葉斯正則化神經(jīng)網(wǎng)絡對數(shù)據(jù)進行預測，兩者的預測結(jié)果見圖1。

可以看出，貝葉斯正則化神經(jīng)網(wǎng)絡的絕大部分預測值與實際值接近，預測效果優(yōu)于BP神經(jīng)網(wǎng)絡。貝葉斯正則化網(wǎng)絡與BP網(wǎng)絡預測結(jié)果的相關系數(shù)分別為：90.04%、89.97%；同時，僅有少數(shù)預測結(jié)果的相對誤差大于20%，絕大多數(shù)預測值與實際值的相對誤差在10%左右。說明本文所建立的貝葉斯正則化神經(jīng)網(wǎng)絡模型具有更高的預測精度。

4 結(jié)語

將貝葉斯正則化神經(jīng)網(wǎng)絡用于自由跌水沖坑深度預測，較好的改善了傳統(tǒng)BP網(wǎng)絡收斂速度慢、泛化能力不足等問題，該模型的預測精度高于傳統(tǒng)BP神經(jīng)網(wǎng)絡；其預測精度較高，為實際工程中自由跌水溢洪道中河床的沖刷深度預測問題提供了一條簡便易行且有效的途徑。

參考文獻：

[1]李志剛， 鄧學鈞， 陳云鶴，等. 基于神經(jīng)網(wǎng)絡的公路邊坡沖刷量模擬計算[J]. 東南大學學報（自然科學版）， 2002， 32（6）：960-963.

[2]馬湧， 孫彥廣. 貝葉斯神經(jīng)網(wǎng)絡在蒸氣管網(wǎng)預測中的應用[J]. 中國冶金， 2014， 24（6）：53-57.

[3]DAgostino， V. Indagine sullo scavo a valle di opere trasversali mediante modello fisico a fondo mobile.Energ. Elettr， 1994，71（2）， 37–51.

[4]DAgostino V， Ferro V. Scour on Alluvial Bed Downstream of Grade-Control Structures[J]. Journal of Hydraulic Engineering， 2004， 130（1）：24-37.

作者簡介：

王俊（1997—），男，從事水力學與河流動力學研究。