概率積分預(yù)計(jì)參數(shù)的ENN優(yōu)化算法

張勁滿 閻躍觀 李杰衛(wèi) 徐瑞瑞 王芷馨 張 坤 岳彩亞

(1.中國礦業(yè)大學(xué)(北京)地球科學(xué)與測繪工程學(xué)院,北京 100083;2.浙江省地質(zhì)勘查局浙江省地礦建設(shè)有限公司,浙江 杭州 310052;3.安徽省煤田地質(zhì)局,安徽 合肥 230088;4.安徽理工大學(xué)空間信息與測繪工程學(xué)院,安徽 淮南 232001;5.聊城大學(xué)地理與環(huán)境學(xué)院,山東 聊城 252000)

地下煤炭資源開采后會導(dǎo)致一系列地質(zhì)災(zāi)害,如 下沉盆地、塌陷坑及臺階裂縫等,給礦區(qū)人民的生產(chǎn)生活和生態(tài)環(huán)境帶來了一系列危害[1-3]。為了最大限度降低開采沉陷引起的礦區(qū)地質(zhì)災(zāi)害,以便提前采取合理的防范措施,對煤炭資源采出后引起的地表移動變形進(jìn)行精準(zhǔn)預(yù)計(jì)顯得尤為重要[4]。概率積分法預(yù)計(jì)模型作為我國礦山開采沉陷領(lǐng)域應(yīng)用最為廣泛且較為成熟的方法,近年來不少學(xué)者圍繞其預(yù)計(jì)參數(shù)解算精度進(jìn)行了深入研究[5-9]。賈新果[5]針對開采沉陷參數(shù)反演方法存在收斂過早現(xiàn)象采用蟻群算法求解,提高了抗干擾能力和求參精度;張勁滿等[6-7]采用雙參數(shù)Knothe時間函數(shù)建立了動態(tài)下沉模型,模型參數(shù)采用最小二乘擬合方法求解,工作面開采沉陷全過程預(yù)計(jì)精度較可靠;李培現(xiàn)等[8]采用地表空間移動矢量并結(jié)合遺傳算法建立了參數(shù)反演方法,解決了初值依賴和多工作面難以精確反演的難題。近年來隨著計(jì)算機(jī)技術(shù)快速發(fā)展,各種智能優(yōu)化算法在概率積分參數(shù)獲取中得到廣泛應(yīng)用[10-13]。利用智能優(yōu)化算法獲取概率積分預(yù)計(jì)參數(shù)具有計(jì)算機(jī)編程易實(shí)現(xiàn)且預(yù)測精度高的特點(diǎn)[14-18],其中常用的智能優(yōu)化方法有BP神經(jīng)網(wǎng)絡(luò)和ENN神經(jīng)網(wǎng)絡(luò)。

BP神經(jīng)網(wǎng)絡(luò)是一種前饋型的網(wǎng)絡(luò),達(dá)到全局優(yōu)化的時間較長且容易陷入局部最優(yōu)解,ENN網(wǎng)絡(luò)比BP神經(jīng)網(wǎng)絡(luò)多了一個記憶層,會使得整個網(wǎng)絡(luò)具有更為豐富的動態(tài)性和更強(qiáng)的魯棒性,參數(shù)預(yù)計(jì)精度也會得到較大提升?；诖?本研究將蟻群算法(ACO)與ENN神經(jīng)網(wǎng)絡(luò)相結(jié)合,提出一種基于ACOENN的概率積分預(yù)計(jì)參數(shù)計(jì)算模型,該模型有助于解決ENN神經(jīng)網(wǎng)絡(luò)初始權(quán)值與閾值選擇依據(jù)不充分的難題,使得模型預(yù)測精度更高、可靠性更強(qiáng)。

1 ACO優(yōu)化ENN神經(jīng)網(wǎng)絡(luò)

1.1 ENN神經(jīng)網(wǎng)絡(luò)

ENN神經(jīng)網(wǎng)絡(luò)是一種前饋式神經(jīng)網(wǎng)絡(luò),網(wǎng)絡(luò)中的延時算子具有記憶功能,使得系統(tǒng)具有較強(qiáng)的適應(yīng)時變特性的能力,進(jìn)而具備反映動態(tài)過程系統(tǒng)的能力。ENN神經(jīng)網(wǎng)絡(luò)由輸入層、隱含層和輸出層組成,其中隱含層中加入了一個承接層,增強(qiáng)了ENN神經(jīng)網(wǎng)絡(luò)對歷史信息的敏感性,并提高了神經(jīng)網(wǎng)絡(luò)應(yīng)對突變的能力。ENN神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。

圖1 ENN神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)Fig.1 ENN neural network structure

首先構(gòu)建ENN神經(jīng)網(wǎng)格并對其進(jìn)行訓(xùn)練,使其具有歷史信息記憶和動態(tài)反饋機(jī)制,提高ENN神經(jīng)網(wǎng)絡(luò)處理動態(tài)信息的能力。ENN神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)表達(dá)式為

式中,w1為承接層至中間層的連接權(quán)值;w2為輸入層至中間層的連接權(quán)值;w3為中間層至輸出層的連接權(quán)值;u(t-1)為輸入量;b1為輸入層閾值;b2為隱含層閾值;g(·)為輸出神經(jīng)元的傳遞函數(shù),一般采用purelin函數(shù);f(·)為中間層神經(jīng)元的傳遞函數(shù),一般采用tansig函數(shù)。

ENN神經(jīng)網(wǎng)絡(luò)采用誤差反傳法使得輸出層的實(shí)際值與期望值之間的誤差值達(dá)到設(shè)定的最優(yōu)值,誤差公式為

式中,yd(t)為第t個節(jié)點(diǎn)的實(shí)際輸出值;y( t)為第t個節(jié)點(diǎn)的期望輸出值。

在ENN神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)過程中需要不斷地優(yōu)化權(quán)值并獲取最優(yōu)閾值。一般采用梯度下降算法實(shí)現(xiàn)權(quán)值尋優(yōu),其權(quán)值更新公式為

式中,E為誤差函數(shù);η為學(xué)習(xí)率;ΔW為隱含層權(quán)重修正量。

此外,ENN神經(jīng)網(wǎng)絡(luò)閾值尋優(yōu)一般采用激勵函數(shù)實(shí)現(xiàn),其閾值更新公式為

式中,Δb為隱含層閾值修正量;b為閾值。

1.2 ACO算法

ACO是一種模擬生物群體覓食的正反饋、啟發(fā)式隨機(jī)搜索算法,具有魯棒性好、全局搜索能力強(qiáng)等優(yōu)點(diǎn),對非線性問題求解具有較好的適應(yīng)性。在蟻群算法正反饋?zhàn)饔孟?螞蟻選擇路徑的概率表達(dá)式為

信息素更新在螞蟻尋路過程中起著至關(guān)重要的作用,信息素會揮發(fā)和疊加,其更新的數(shù)學(xué)表達(dá)式為

式中,τij(t+1)為t+1時刻位置i至位置j的信息素濃度;Δτij(t)為螞蟻種群I在時間段(t,t+1)位置i至位置j的信息素濃度增加量;ρ為信息素的揮發(fā)系數(shù);I為螞蟻種群數(shù);(t)為螞蟻k在t時刻位置i至位置j的信息素濃度。

1.3 ACO-ENN模型構(gòu)建

本研究采用ACO算法優(yōu)化ENN神經(jīng)網(wǎng)絡(luò),構(gòu)建了ACO-ENN優(yōu)化模型用于解算概率積分預(yù)計(jì)參數(shù),流程見圖2。具體步驟為:①確定輸入層、輸出層及隱含層的節(jié)點(diǎn)個數(shù),確定ENN神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),初始化ENN神經(jīng)網(wǎng)絡(luò)并對網(wǎng)絡(luò)參數(shù)進(jìn)行配置;②初始化ACO參數(shù)并構(gòu)造信息素矩陣,利用ACO算法對ENN神經(jīng)網(wǎng)絡(luò)的權(quán)值和閾值進(jìn)行優(yōu)化,獲取ENN神經(jīng)網(wǎng)絡(luò)的初始權(quán)值和閾值。③采用優(yōu)化后的權(quán)值和閾值進(jìn)行ENN神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)預(yù)測。

圖2 ACO-ENN模型優(yōu)化流程Fig.2 Optimization flow of ACO-ENN model

2 試驗(yàn)分析

2.1 試驗(yàn)數(shù)據(jù)選取

本研究選取我國典型礦區(qū)的30個地表移動觀測站實(shí)測資料作為訓(xùn)練和測試的樣本數(shù)據(jù)[13],每組樣本數(shù)據(jù)由地質(zhì)采礦條件和概率積分預(yù)計(jì)參數(shù)兩部分組成。地質(zhì)采礦條件包括覆巖堅(jiān)固系數(shù)、采深、采厚、松散層厚度、煤層傾角及采動程度,概率積分預(yù)計(jì)參數(shù)包括下沉系數(shù)、水平移動系數(shù)、主要影響角正切及拐點(diǎn)偏移距。選取的樣本數(shù)據(jù)見表1。

表1 實(shí)測樣本數(shù)據(jù)Table 1 Measured sample data

2.2 ACO-ENN模型參數(shù)設(shè)置

為了精確獲取概率積分預(yù)計(jì)參數(shù),本研究將地質(zhì)采礦條件因素作為ACO-ENN模型的輸入節(jié)點(diǎn),即輸入層由6個神經(jīng)元組成,對應(yīng)6個影響因素,概率積分預(yù)計(jì)參數(shù)的各個參數(shù)分別作為ACO-ENN模型的輸出節(jié)點(diǎn),即輸出層1個神經(jīng)元,對應(yīng)概率積分預(yù)計(jì)參數(shù)的各個參數(shù)。經(jīng)過不斷優(yōu)化訓(xùn)練可得各個模型的隱含層最優(yōu)神經(jīng)元個數(shù)分別為:下沉系數(shù)網(wǎng)絡(luò)模型神經(jīng)元10個,水平移動系數(shù)網(wǎng)絡(luò)模型神經(jīng)元8個,主要影響角正切網(wǎng)絡(luò)模型神經(jīng)元11個,拐點(diǎn)偏移距網(wǎng)絡(luò)模型神經(jīng)元11個。初始種群數(shù)為I為30,信息素的揮發(fā)系數(shù)ρ為0.9,重要程度系數(shù)α為0.3,啟發(fā)式的重要程度系數(shù)β為0.5。

2.3 數(shù)據(jù)預(yù)處理

由于現(xiàn)場觀測環(huán)境往往十分復(fù)雜,數(shù)據(jù)采集過程中難免會有一定的誤差,此外,訓(xùn)練樣本數(shù)據(jù)和測試樣本數(shù)據(jù)常存在不同程度的差異性。為降低數(shù)據(jù)采集誤差和訓(xùn)練樣本輸入層數(shù)據(jù)與測試樣本輸入層數(shù)據(jù)的差異性,在數(shù)據(jù)訓(xùn)練之前需要將輸入層的樣本數(shù)據(jù)進(jìn)行降噪處理。RW是一種基于加權(quán)最小二乘算法對離散數(shù)據(jù)進(jìn)行多項(xiàng)式擬合的降噪方法,采用穩(wěn)健的擬合處理方式以防止偏離點(diǎn)扭曲了平滑的數(shù)據(jù)點(diǎn)。本研究采用RW方法對實(shí)測數(shù)據(jù)進(jìn)行降噪處理,降噪后的數(shù)據(jù)與實(shí)測數(shù)據(jù)對比如圖3所示。

由圖3可知:經(jīng)過RW降噪處理后數(shù)據(jù)的上下波動范圍明顯降低,處理后的數(shù)據(jù)曲線更加平滑。對一些波動范圍較大的數(shù)據(jù)點(diǎn)進(jìn)行降噪處理有助于降低數(shù)據(jù)測量誤差和選擇不合適訓(xùn)練樣本數(shù)據(jù)帶來的誤差影響。

圖3 實(shí)測樣本數(shù)據(jù)與RW降噪處理后的結(jié)果Fig.3 Measured sample data and results after RW noise reduction processing

2.4 解算結(jié)果及分析

將前25組實(shí)測樣本數(shù)據(jù)作為訓(xùn)練樣本對網(wǎng)絡(luò)進(jìn)行訓(xùn)練,剩余5組實(shí)測樣本數(shù)據(jù)作為測試樣本。采用ACO-ENN模型對RW降噪處理前后的數(shù)據(jù)進(jìn)行訓(xùn)練并求取概率積分預(yù)計(jì)參數(shù),實(shí)測數(shù)據(jù)和降噪處理前后ACO-ENN模型預(yù)測的概率積分參數(shù)如圖4所示。由圖4可知:采用RW方法預(yù)先進(jìn)行了預(yù)處理后,再進(jìn)行ACO-ENN預(yù)測,獲取的概率積分參數(shù)預(yù)計(jì)值精度優(yōu)于ACO-ENN模型預(yù)計(jì)值,反映出采用RW法對原始樣本數(shù)據(jù)進(jìn)行預(yù)處理有助于提高數(shù)據(jù)質(zhì)量。

圖4 概率積分參數(shù)預(yù)測值與實(shí)測值對比Fig.4 Comparison of the predicted and measured values of expected parameters

基于RW方法進(jìn)行降噪預(yù)處理后的樣本數(shù)據(jù)分別采用ACO-ENN模型和傳統(tǒng)的ENN神經(jīng)網(wǎng)絡(luò)對下沉系數(shù)、水平移動系數(shù)、主要影響角正切和拐點(diǎn)偏移距進(jìn)行預(yù)測,預(yù)測結(jié)果如圖5所示。由圖5可知:在下沉系數(shù)和水平移動系數(shù)預(yù)測過程中ACO-ENN模型的預(yù)測精度優(yōu)于ENN神經(jīng)網(wǎng)絡(luò),可靠性更強(qiáng),在主要影響角正切和拐點(diǎn)偏移距的預(yù)測過程中ACO-ENN模型的預(yù)測誤差絕對值整體小于ENN神經(jīng)網(wǎng)絡(luò),預(yù)測精度較高。概率積分各預(yù)計(jì)參數(shù)的平均預(yù)測相對誤差和均方根誤差見表2。由表2可知:利用ACOENN模型解算下沉系數(shù)、水平移動系數(shù)、主要影響角正切及拐點(diǎn)偏移距的平均相對誤差分別為2.41%、3.48%、6.11%和1.67%,ACO-ENN模型解算結(jié)果的平均相對誤差和均方根誤差均優(yōu)于傳統(tǒng)ENN神經(jīng)網(wǎng)絡(luò),表明ACO-ENN模型解算精度更高、可靠性更強(qiáng)。

圖5 概率積分法預(yù)計(jì)參數(shù)絕對值誤差Fig.5 Absolute value error of parameters expected by probability integration method

表2 各模型預(yù)測結(jié)果精度對比Table 2 Comparison of the accuracy of prediction results by models

3 結(jié) 論

(1)針對傳統(tǒng)ENN神經(jīng)網(wǎng)絡(luò)初始權(quán)重與閾值選擇缺乏依據(jù)的不足,采用ACO算法對ENN神經(jīng)網(wǎng)絡(luò)的權(quán)值和閾值進(jìn)行優(yōu)化,優(yōu)化后ENN神經(jīng)網(wǎng)絡(luò)輸入層數(shù)據(jù)采用RW進(jìn)行預(yù)處理,建立了ACO-ENN概率積分預(yù)計(jì)參數(shù)解算模型。

(2)利用ACO-ENN模型分別學(xué)習(xí)經(jīng)過RW降噪處理和未經(jīng)RW降噪處理的實(shí)測樣本數(shù)據(jù),解算結(jié)果表明:RW降噪處理顯著提高了ACO-ENN模型輸入層的數(shù)據(jù)質(zhì)量;利用ACO-ENN模型和ENN神經(jīng)網(wǎng)絡(luò)分別解算經(jīng)過RW處理的樣本數(shù)據(jù),表明ACO-ENN模型解算精度明顯優(yōu)于ENN神經(jīng)網(wǎng)絡(luò)。

(3)ACO-ENN模型求取的下沉系數(shù)、水平移動系數(shù)及拐點(diǎn)偏移距平均相對誤差偏差較小,但主要影響角正切的平均相對誤差偏差較大,基于ACO-ENN模型構(gòu)建概率積分預(yù)計(jì)參數(shù)的組合解算模型是下一步研究方向。