貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)缺陷量化研究

田 凱,孫永泰,高 慧,傅忠堯

（中石化勝利石油工程有限公司鉆井工藝研究院，山東 東營(yíng) 257017）

貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)缺陷量化研究

田 凱,孫永泰,高 慧,傅忠堯

（中石化勝利石油工程有限公司鉆井工藝研究院，山東 東營(yíng) 257017）

為克服傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)中網(wǎng)絡(luò)訓(xùn)練速度慢、量化精度低、數(shù)據(jù)過(guò)度擬合、容易陷入局部極小點(diǎn)等缺點(diǎn)，該文將貝葉斯算法引入BP神經(jīng)網(wǎng)絡(luò)用于基于漏磁檢測(cè)的缺陷量化，有效地控制網(wǎng)絡(luò)模型的復(fù)雜度，利用不同尺寸的缺陷特征量訓(xùn)練網(wǎng)絡(luò)，從而實(shí)現(xiàn)對(duì)缺陷長(zhǎng)度、寬度、深度的量化，節(jié)約網(wǎng)絡(luò)的訓(xùn)練時(shí)間，提高量化精度。

漏磁檢測(cè)；缺陷量化；貝葉斯算法；BP神經(jīng)網(wǎng)絡(luò)

0 引 言

隨著石油與天然氣市場(chǎng)的飛速發(fā)展，油氣輸送管道的安全受到了越來(lái)越多的重視，對(duì)管道內(nèi)部缺陷的精準(zhǔn)定位與實(shí)時(shí)監(jiān)測(cè)對(duì)于降低管道事故的發(fā)生率起著非常重要的作用[1]。漏磁檢測(cè)技術(shù)是目前對(duì)油氣管道內(nèi)部缺陷進(jìn)行檢測(cè)的主要方法，而對(duì)管道內(nèi)部缺陷的定量分析是制約漏磁檢測(cè)技術(shù)發(fā)展的瓶頸[2]。

如今，神經(jīng)網(wǎng)絡(luò)技術(shù)的應(yīng)用已經(jīng)滲透到各個(gè)領(lǐng)域并廣泛應(yīng)用于信號(hào)處理以及非線性優(yōu)化，這為基于漏磁檢測(cè)技術(shù)的缺陷量化奠定了基礎(chǔ)[3]。目前，神經(jīng)網(wǎng)絡(luò)方法已被學(xué)者們用于漏磁檢測(cè)技術(shù)下的缺陷量化，應(yīng)用最為廣泛的是BP神經(jīng)網(wǎng)絡(luò)，然而該網(wǎng)絡(luò)具有訓(xùn)練速度慢、識(shí)別精度低、數(shù)據(jù)過(guò)擬合、容易進(jìn)入局部極小點(diǎn)等缺點(diǎn)[4]。Tariq Khan等在2008年提出了用貝葉斯算法對(duì)缺陷進(jìn)行重構(gòu)，并證明了其可行性，據(jù)此，本文采用了將貝葉斯算法與神經(jīng)網(wǎng)絡(luò)相結(jié)合的方式。盡管基于貝葉斯算法的BP網(wǎng)絡(luò)在理論上已經(jīng)得到論證，但將其引入缺陷量化的研究很少[5]，本文采用基于貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)對(duì)管道內(nèi)

部缺陷進(jìn)行量化，利用神經(jīng)網(wǎng)絡(luò)的基本原理，并通過(guò)貝葉斯推理來(lái)克服過(guò)度擬合，減少模型中的不確定性，提高網(wǎng)絡(luò)的收斂速度以及缺陷量化的精度，在一定程度上改良了BP神經(jīng)網(wǎng)絡(luò)對(duì)缺陷進(jìn)行量化的性能。

1 基于貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)

1.1 貝葉斯算法

基于貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)是基于貝葉斯定理而發(fā)展出來(lái)的用于解決統(tǒng)計(jì)問(wèn)題的方法，即任意一個(gè)待求量都可以看作是一個(gè)隨機(jī)變量，因此可以通過(guò)概率分布來(lái)對(duì)待求量進(jìn)行描述，這個(gè)概率是在抽樣前就有的關(guān)于待求量的先驗(yàn)概率分布。貝葉斯理論正是在沒(méi)有樣本信息時(shí)，只根據(jù)先驗(yàn)概率分布來(lái)求解待求量。而在有樣本后，則可根據(jù)總體、樣本和先驗(yàn)信息的聯(lián)合分布來(lái)對(duì)未知量進(jìn)行判斷。

貝葉斯定理的公式為

式中：θ——隨機(jī)變量的未知量；

x——樣本；

π（θ|x）——后驗(yàn)信息分布；

后驗(yàn)分布π（θ|x）是反映人們?cè)诔闃雍髮?duì)隨機(jī)變量θ的認(rèn)識(shí)，其與先驗(yàn)分布即樣本x的差異是由于樣本出現(xiàn)后人們對(duì)θ的調(diào)整，即后驗(yàn)分布π（θ|x）為抽樣信息對(duì)先驗(yàn)分布π（θ）調(diào)整的結(jié)果[6]。

1.2 貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)

基于貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)是一種以神經(jīng)網(wǎng)絡(luò)基本原理為構(gòu)架，通過(guò)引入貝葉斯推理有效地控制網(wǎng)絡(luò)模型的復(fù)雜度，進(jìn)而更好地解決非線性問(wèn)題及其不確定性[7]。

在BP神經(jīng)網(wǎng)絡(luò)中，訓(xùn)練樣本集為D（xm，Om），xm為輸入信號(hào)，Om為輸出節(jié)點(diǎn)，在一定的網(wǎng)絡(luò)結(jié)構(gòu)A與網(wǎng)絡(luò)參數(shù)W下，可以得到網(wǎng)絡(luò)的輸出由網(wǎng)絡(luò)的輸入D唯一的確定。網(wǎng)絡(luò)訓(xùn)練的目標(biāo)函數(shù)為誤差函數(shù)ED（D|W，A），則有：

網(wǎng)絡(luò)的訓(xùn)練目標(biāo)是找到使誤差函數(shù)ED（D|W，A）最小的網(wǎng)絡(luò)參數(shù)W，在訓(xùn)練的擬合過(guò)程中，常給誤差函數(shù)加上衰減項(xiàng)EW（W|A），其中：

則最終目標(biāo)函數(shù)為

其中α，β為超參數(shù)，用于控制其他參數(shù)的分布。

當(dāng)網(wǎng)絡(luò)結(jié)構(gòu)A、網(wǎng)絡(luò)參數(shù)W、輸入x給定時(shí)，網(wǎng)絡(luò)誤差函數(shù)預(yù)測(cè)概率分布為

其中，ZM（β），Zw（α），ZM（α，β）——?dú)w一化因子。

在以上框架下最小化目標(biāo)函數(shù)M（W），得到最可能的網(wǎng)絡(luò)參數(shù)W1。

超參數(shù)的后驗(yàn)分布概率P（α，β|D，A）為

來(lái)進(jìn)行評(píng)價(jià)[8]。

采用貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)步驟如下：

（1）確定網(wǎng)絡(luò)結(jié)構(gòu)A，初始化超參數(shù)α，β，對(duì)網(wǎng)絡(luò)參數(shù)W進(jìn)行賦值。

（2）以最終目標(biāo)函數(shù)為M（W）最小為原則，對(duì)BP神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，尋找最優(yōu)可能網(wǎng)絡(luò)參數(shù)W。

（3）尋找最優(yōu)可能參數(shù)α，β。

（4）采用不同初始網(wǎng)絡(luò)參數(shù)尋找最優(yōu)網(wǎng)絡(luò)參數(shù)。

（5）對(duì)不同網(wǎng)絡(luò)結(jié)構(gòu)A，尋找最優(yōu)網(wǎng)絡(luò)參數(shù)。

2 貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)量化結(jié)果分析

2.1 訓(xùn)練樣本與測(cè)試樣本

在對(duì)管道進(jìn)行磁化的過(guò)程中，最常用的方法是沿管道軸向進(jìn)行磁化，提取缺陷處沿軸向變化的漏磁場(chǎng)與沿周向變化的漏磁場(chǎng)，缺陷的長(zhǎng)度信息主要由沿軸向變化漏磁場(chǎng)反應(yīng)，缺陷的寬度信息主要由沿周向變化的漏磁場(chǎng)反應(yīng)，而缺陷的深度信息則是由這兩個(gè)量共同反應(yīng)[9]。

本文采用實(shí)驗(yàn)的方法獲取網(wǎng)絡(luò)所需樣本，這里以對(duì)陡壁缺陷的分析為例，研究貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)對(duì)陡壁缺陷量化的有效性。分別制作缺陷長(zhǎng)度為3，3.5，4，4.5，5，5.5倍管道壁厚，寬度為0.5，1，1.5，2倍管道壁厚，深度為0.1，0.15，0.2，0.25倍管道壁厚，共得到96組測(cè)量結(jié)果，取其中80個(gè)缺陷特征作為網(wǎng)絡(luò)的訓(xùn)練樣本，剩余的16個(gè)缺陷特征作為測(cè)試樣本。

圖1 基于貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)與基本BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練過(guò)程比較

2.2 長(zhǎng)度的量化

采用統(tǒng)計(jì)分析的方法選取與缺陷長(zhǎng)度關(guān)系密切的特征量作為神經(jīng)網(wǎng)絡(luò)的輸入信號(hào)，將缺陷長(zhǎng)度作為網(wǎng)絡(luò)的輸出信號(hào)來(lái)對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練[10]。所選取主要特征有漏磁場(chǎng)軸向分量的靜態(tài)閾值截取長(zhǎng)度、一階微分信號(hào)極小值的位置與周向變化漏磁場(chǎng)動(dòng)態(tài)閾值截取長(zhǎng)度。分別對(duì)基本的BP神經(jīng)網(wǎng)絡(luò)與貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，當(dāng)均方誤差小于10-3時(shí)停止訓(xùn)練，得到兩種網(wǎng)絡(luò)的訓(xùn)練與學(xué)習(xí)過(guò)程如圖1所示。

比較兩種算法訓(xùn)練過(guò)程可以看出貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)總共進(jìn)行了331次訓(xùn)練，而基本的BP神經(jīng)網(wǎng)絡(luò)總共進(jìn)行了1789次訓(xùn)練，可見貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)的收斂速率更快。

用16組測(cè)試數(shù)據(jù)對(duì)兩種網(wǎng)絡(luò)長(zhǎng)度的量化誤差進(jìn)行比較，得到量化后缺陷最大相對(duì)誤差與最小相對(duì)誤差如表1所示，對(duì)應(yīng)貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)量化的缺陷如表2所示。

表1 缺陷長(zhǎng)度量化方法比較

表2 貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)對(duì)應(yīng)缺陷

從表2中可以看出，采用貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)量化得到的缺陷長(zhǎng)度與設(shè)計(jì)值的誤差明顯小于基本的BP神經(jīng)網(wǎng)絡(luò)，最大相對(duì)誤差僅為0.05%。

2.3 寬度的量化

與缺陷長(zhǎng)度的量化相似，采用統(tǒng)計(jì)分析的方法選取與缺陷寬度關(guān)系密切的特征量作為神經(jīng)網(wǎng)絡(luò)的輸入信號(hào)，將缺陷寬度作為網(wǎng)絡(luò)的輸出信號(hào)來(lái)對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練。所選取主要特征有軸向變化漏磁場(chǎng)峰谷值、周向變化漏磁場(chǎng)波形面積、波形能量、靜態(tài)閾值截取長(zhǎng)度。分別對(duì)基本的BP神經(jīng)網(wǎng)絡(luò)與貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，當(dāng)均方誤差小于10-3時(shí)停止訓(xùn)練，得到兩種網(wǎng)絡(luò)的訓(xùn)練與學(xué)習(xí)過(guò)程如圖2所示。

比較兩種算法訓(xùn)練過(guò)程可以看出貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)總共進(jìn)行了269次訓(xùn)練，而基本的BP神經(jīng)網(wǎng)絡(luò)總共進(jìn)行了2248次訓(xùn)練，可見引入貝葉斯算法后的BP神經(jīng)網(wǎng)絡(luò)的收斂速率大幅提升。

圖2 基于貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)與基本BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練過(guò)程比較

表3 缺陷寬度量化方法比較

表4 貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)對(duì)應(yīng)缺陷

與之前相同，用16組測(cè)試數(shù)據(jù)對(duì)兩種網(wǎng)絡(luò)寬度的量化誤差進(jìn)行比較，得到量化后缺陷誤差如表3所示，貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)量化達(dá)到誤差的缺陷見表4。

在對(duì)缺陷寬度進(jìn)行量化的過(guò)程中，盡管量化得到的最大相對(duì)誤差仍較大，采用貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)量化得到的缺陷寬度與設(shè)計(jì)值的誤差明顯小于基本的BP神經(jīng)網(wǎng)絡(luò)。

2.4 深度的量化

在對(duì)缺陷的深度進(jìn)行量化時(shí)，采用統(tǒng)計(jì)分析的方法選取了缺陷的長(zhǎng)度、寬度以及軸向變化漏磁場(chǎng)的兩個(gè)峰谷值、波形面積、周向變化漏磁場(chǎng)峰值、峰谷值作為神經(jīng)網(wǎng)絡(luò)的輸入信號(hào)，將缺陷深度作為網(wǎng)絡(luò)的輸出信號(hào)來(lái)對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練。對(duì)基本的BP神經(jīng)網(wǎng)絡(luò)與貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，得到兩種網(wǎng)絡(luò)的訓(xùn)練與學(xué)習(xí)過(guò)程如圖3所示。

貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)總共進(jìn)行了4152次訓(xùn)練，基本的BP神經(jīng)網(wǎng)絡(luò)總共進(jìn)行了8763次訓(xùn)練，盡管引入貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過(guò)程仍舊較長(zhǎng)，但比基本BP神經(jīng)網(wǎng)絡(luò)的收斂速率有所提升。

圖3 基于貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)與基本BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練過(guò)程比較

表5 缺陷深度量化方法比較

表6 貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)對(duì)應(yīng)缺陷

用16組測(cè)試數(shù)據(jù)對(duì)兩種網(wǎng)絡(luò)深度的量化誤差進(jìn)行比較，得到量化后缺陷誤差如表5所示，貝葉斯算法BP神經(jīng)網(wǎng)絡(luò)量化達(dá)到誤差的缺陷見表6。

從對(duì)缺陷深度量化結(jié)果可以看出，采用貝葉斯算法的BP神經(jīng)網(wǎng)絡(luò)對(duì)缺陷深度進(jìn)行量化，得到的缺陷深度與設(shè)計(jì)值的誤差小于基本的BP神經(jīng)網(wǎng)絡(luò)。

3 結(jié)束語(yǔ)

本文為克服傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)中訓(xùn)練速度慢、識(shí)別精度較低、數(shù)據(jù)過(guò)擬合、容易進(jìn)入局部極小點(diǎn)等缺點(diǎn)，將貝葉斯算法引入BP神經(jīng)網(wǎng)絡(luò)，通過(guò)貝葉斯推理有效地控制網(wǎng)絡(luò)的復(fù)雜度，在一定程度上改善了BP神經(jīng)網(wǎng)絡(luò)對(duì)缺陷進(jìn)行量化的性能，實(shí)現(xiàn)了對(duì)缺陷長(zhǎng)度、寬度、深度的量化。

[1]戚愛(ài)華.我國(guó)油氣管道運(yùn)輸發(fā)展現(xiàn)狀及問(wèn)題分析[J].國(guó)際石油經(jīng)濟(jì)，2009,17（12）：57-59，84.

[2]吳欣怡，趙偉，黃松嶺.基于漏磁檢測(cè)的缺陷量化方法[J].電測(cè)與儀表，2008（5）：20-22，37.

[3]潘海飛，王武華，陳新寧.高速鋼軌缺陷的漏磁檢測(cè)及反演[J].中國(guó)測(cè)試，2013，39（1）：22-24，42.

[4]崔偉，黃松嶺，趙偉.基于RBF網(wǎng)絡(luò)的漏磁檢測(cè)缺陷定量分析方法[J].清華大學(xué)學(xué)報(bào)：自然科學(xué)版，2006（7）：1216-1218，1222.

[5]楊莉，杜成超，翟紫陽(yáng)，等.基于貝葉斯神經(jīng)網(wǎng)絡(luò)的焊縫跟蹤方法[J].熱加工工藝，2011（23）：168-170.

[6]樊春玲，孫四通，金志華.貝葉斯神經(jīng)網(wǎng)絡(luò)建模預(yù)測(cè)方法及其應(yīng)用[J].中國(guó)慣性技術(shù)學(xué)報(bào)，2009（1）：85-88.

[7]田志偉.貝葉斯神經(jīng)網(wǎng)絡(luò)在股票預(yù)測(cè)中的應(yīng)用[D].無(wú)錫：江南大學(xué)，2011.

[8]楊莉，杜成超，翟紫陽(yáng)，等.基于貝葉斯神經(jīng)網(wǎng)絡(luò)的焊縫跟蹤方法[J].熱加工工藝，2011（23）：168-170.

[9]蔣奇.管道缺陷漏磁檢測(cè)量化技術(shù)及其應(yīng)用研究[D].天津：天津大學(xué)機(jī)械工程學(xué)院，2002.

[10]崔偉.油氣長(zhǎng)輸管道腐蝕缺陷漏磁檢測(cè)量化方法研究[D].北京：清華大學(xué)電機(jī)工程與應(yīng)用電子技術(shù)系，2006.

Quantification of slowly varying defect using BP neural network based on Bayesian algorithm

TIAN Kai，SUN Yong-tai，GAO Hui，F(xiàn)U Zhong-yao
（Sinopec Shengli Petroleum Engineering Company Drilling Research Institute，Dongying 257017，China）

In order to overcome the disadvantages of traditional BP neural network such as slow training speed，low quantitative accuracy，data over fitting，easy to fall into local minima，this paper introduces the Bayesian algorithm to the BP neural network to quantify the defect through testing magnetic flux leakage.The BP neural network model is built to quantify the defect on the basisof the Bayesian algorithm.Bayesian reasoning isintroduced to effectively controlthe complexity of the network model.And the defect features were used to train the network，so as to achieve the quantification of the length，width，depth of the defects.With this model，the training time of the network can be saved and the quantization accuracy can be improved as well.

magnetic flux leakage testing；quantification of defect；Bayesian algorithm；BP neural network

O212.8；TP183；TN911.7；TP301.6

：A

：1674-5124（2014)03-0093-05

10.11857/j.issn.1674-5124.2014.03.025

2013-11-14；

：2013-12-28

國(guó)家863計(jì)劃項(xiàng)目（2011AA090301）國(guó)家重大科學(xué)儀器設(shè)備開發(fā)專項(xiàng)（2013YQ140505）

田 凱（1979-），男，山東成武縣人，工程師，主要從事海洋平臺(tái)設(shè)計(jì)和海底管道檢測(cè)技術(shù)的研究。