融合SE-Attention圖像識(shí)別模型的電力設(shè)備監(jiān)測系統(tǒng)

何啟遠(yuǎn)，潘德泰 ，李貴亮 ，林 清 ，董蕓州 ，李小敏， 高振宇

(1.海南電網(wǎng)有限責(zé)任公司信息通信分公司 ，海南 ?？?，570203;2.四川大學(xué) 機(jī)械工程學(xué)院，四川 成都，610065)

0 引 言

隨著國民經(jīng)濟(jì)的發(fā)展，人們的用電需求也逐步增加，電網(wǎng)規(guī)模與智能輸變電設(shè)備數(shù)量隨之增長,電力設(shè)備在人們?nèi)粘Ｆ鹁又邪缪葜豢色@缺的角色[1]。然而，電力設(shè)備在使用的過程中經(jīng)常會(huì)受到溫度、濕度和氣壓等因素的影響，且由于部分電力設(shè)備長期在戶外惡劣的環(huán)境中工作，其性能也會(huì)隨之降低[2]。為了減少安全事故的發(fā)生，同時(shí)滿足社會(huì)發(fā)展對電力設(shè)備安全性要求，電力設(shè)備的帶電檢測、在線監(jiān)測、巡檢和試驗(yàn)也成為了電力設(shè)備狀態(tài)監(jiān)測和評(píng)估發(fā)展的必然趨勢[3]。早期的人工監(jiān)測方式在一定程度上可以滿足電力設(shè)備監(jiān)測需求，但隨著電網(wǎng)大規(guī)模的建設(shè)和發(fā)展，電力設(shè)備趨向于復(fù)雜化和多元化，人工監(jiān)測變得更加困難。因此，如何對電力設(shè)備運(yùn)行狀態(tài)進(jìn)行自動(dòng)化監(jiān)測成為了工業(yè)界和學(xué)術(shù)界主要的研究對象之一。

電力設(shè)備監(jiān)控通過電力的外表圖像信息、工作狀態(tài)等判斷電力設(shè)備是否出現(xiàn)故障。傳統(tǒng)的電力設(shè)備檢測方法有光譜法、紫外脈沖法、徑向溫度法和超聲波檢測法等，雖然這些監(jiān)測方法取得了一定效果，但安全性不足[4]。文獻(xiàn)[5]采用Harris角點(diǎn)檢測的方法將攝像頭收集的設(shè)備實(shí)時(shí)圖像和正常運(yùn)行的電力設(shè)備狀態(tài)進(jìn)行對比，通過圖像焦點(diǎn)特征來判斷配網(wǎng)設(shè)備狀態(tài)是否存在異常。該方法雖在絕緣子串的監(jiān)測上取得了一定效果，但是對角點(diǎn)的選取約束性較強(qiáng)。目前，一些學(xué)者采用在電力設(shè)備故障監(jiān)測應(yīng)用最廣的技術(shù)——紅外成像技術(shù)來解決上述問題。利用紅外光對電力設(shè)備進(jìn)行拍攝，然后對所拍攝的照片進(jìn)行識(shí)別[6]，雖在一定程度上解決了Harris角點(diǎn)選取的問題，但該方法要求較高的人力和物力成本，而且存在誤判率高、效率低等缺點(diǎn)[7-10]。隨著采像技術(shù)和機(jī)器視覺的發(fā)展，出現(xiàn)了大量利用機(jī)器視覺方法解決電力設(shè)備的監(jiān)測問題[11-13]。文獻(xiàn)[14]對采集后的紅外圖像進(jìn)行特征提取，再利用SVM進(jìn)行分類。雖然提高了電力設(shè)備圖像分類的效果，但是十分依賴于人工建立的特征工程。

近幾年，CNN等經(jīng)典的神經(jīng)網(wǎng)絡(luò)算法在提取圖像特征上有著顯著的效果。文獻(xiàn)[15]利用CNN對紅外采集的圖像進(jìn)行分類以判斷用電設(shè)備的異常。在此基礎(chǔ)上一些學(xué)者又對CNN進(jìn)行了改進(jìn)。文獻(xiàn)[16]把FP-FRCNN應(yīng)用在變壓器、絕緣子和刀閘的圖像信息識(shí)別，取得了較好的識(shí)別效果。文獻(xiàn)[17]利用機(jī)器視覺技術(shù)實(shí)現(xiàn)雙通道圖像采集，以變電站絕緣子為對象建立絕緣子數(shù)據(jù)庫,通過Mask R-CNN算法對絕緣子進(jìn)行有效識(shí)別，從而實(shí)現(xiàn)對電力設(shè)備的智能監(jiān)測，但CNN在目標(biāo)檢測時(shí)，經(jīng)常面臨視覺特征較難提取等問題[18]，同時(shí)考慮到電力設(shè)備的故障大多數(shù)是由于局部損壞導(dǎo)致的功能障礙，而CNN雖然有具體提取局部特征的作用，但是經(jīng)過多層的維度變換之后，該局部特征可能存在難以保持的情況。

本文給出的SE-Attention方法在得到電子設(shè)備圖像信息之后，以挖掘圖像的深層語義信息和識(shí)別局部故障為目的,利用多層卷積神經(jīng)網(wǎng)絡(luò)對圖像信息特征進(jìn)行深層挖掘并提取，然后使用殘差神經(jīng)網(wǎng)絡(luò)保存圖像原始特征信息，使圖像完整度得以最大化。最后使用行注意力機(jī)制、列注意力機(jī)制和通道注意力機(jī)制加大對圖像中的損壞部分的權(quán)重，達(dá)到對電力設(shè)備故障識(shí)別的效果。本文方法在避雷器、斷路器、電流互感器和電壓互感器的故障識(shí)別上均得到了較好的實(shí)驗(yàn)效果。

1 基于SE-Attention系統(tǒng)設(shè)計(jì)

1.1 電力設(shè)備監(jiān)控

采用基于SE-Attention的電力設(shè)備進(jìn)行智能監(jiān)控，首先，通過紅外相機(jī)對所需要監(jiān)測的電力設(shè)備進(jìn)行圖像采集，對圖像進(jìn)行人工標(biāo)注；其次，在得到電力設(shè)備的圖像信息和標(biāo)簽信息之后，訓(xùn)練本文提出的SE-Attention模型；最后，利用訓(xùn)練好的SE-Attention模型對電力設(shè)備進(jìn)行識(shí)別，當(dāng)模型判斷該電力設(shè)備出現(xiàn)故障時(shí)報(bào)警，如圖1所示。

圖 1 電力設(shè)備監(jiān)控流程Fig.1 Power equipment monitoring process

1.2 監(jiān)測模型

為克服傳統(tǒng)CNN在電力設(shè)備紅外圖像視覺特征提取難和多層維度變換之后局部特征不明顯等問題，本文提出基于SE-Attention的電力設(shè)備監(jiān)控模型，將SE-Net[19-23]與深度學(xué)習(xí)中的注意力機(jī)制相結(jié)合，對各部件的故障進(jìn)行識(shí)別。具體模型結(jié)構(gòu)如圖2所示。

圖 2 SE-Attention模型Fig.2 SE-Attention model

圖2中，通過使用紅外光對電力設(shè)備進(jìn)行拍攝，得到電力設(shè)備的圖像信息I∈RH×W,為進(jìn)一步對圖像的局部特征進(jìn)行提取，因此將I送到卷積層進(jìn)行特征提取。為了提取局部特征信息，首先對I進(jìn)行填充，然后使用C個(gè)3×3的卷積特征核對圖像的局部特征進(jìn)行提取，將得到的特征圖像信息再一次填充之后，使用2×2的池化核對其池化，得到特征圖像M∈Rc×h×w,其中h=H/2，w=W/2。為了進(jìn)一步提取深度特征信息，在得到M之后，再利用n個(gè)3×3卷積層輸出Mn∈Rc×h×w。為防止深度神經(jīng)網(wǎng)絡(luò)存在的“退化”問題，同時(shí)也為了保持原始的圖像信息，在得到Mn之后，將Mn與M相加，并通過激活函數(shù)得到，深度圖像信息Mr∈Rc×h×w。

通常，電力設(shè)備的故障大多數(shù)是由于局部損壞導(dǎo)致，為了進(jìn)一步識(shí)別局部故障信息，本文在通過CNN進(jìn)行特征提取之后，再分別使用行注意力機(jī)制和列注意力機(jī)制提取圖像的特征信息，可表示為

α=softmax(mr×wr)

(1)

(2)

(3)

(4)

在得到Mr,r，Mr,c之后進(jìn)一步對通道信息進(jìn)行加權(quán)，如式(5)、(6)所示：

γ=softmax(w′r×Mr,r)

(5)

ρ=softmax(w′c×Mr,c)

(6)

式中：w′r∈Rc×1、w′c∈Rc×1分別是行通道注意力機(jī)制的參數(shù)向量與列通道注意力機(jī)制參數(shù)向量;γ∈Rc×1為行通道注意力權(quán)重向量,ρ∈Rc×1為列通道注意力權(quán)重向量。進(jìn)一步的通過加權(quán)求和得到mc,r∈Rw×h、mc,c∈Rw×h，加權(quán)求和公式可表示為

(7)

(8)

式中：γi為γ中的第i個(gè)數(shù)；Mir,r為Mr,r第i個(gè)向量；ρj為ρ中的第j個(gè)數(shù)；Mjr,c為Mr,c第j個(gè)向量。

得到mc,r、mc,c之后，將mc,r與mc,c相加得到最后的特張圖矩陣m∈Rh×w，最后將m送入到Flatten層，然后通過softmax得到電力設(shè)備的是否故障的分類結(jié)果。

2 實(shí) 驗(yàn)

2.1 數(shù)據(jù)及方法

實(shí)驗(yàn)采用的CPU為Intel(R) Core(TM) i3-380M 2.53 GHz，包含2.0 GiB內(nèi)存和1.0 GiB顯存，操作系統(tǒng)為CentOS6.8，系統(tǒng)運(yùn)行環(huán)境Opencv2.4.9。

為了驗(yàn)證本文系統(tǒng)的有效性，利用紅外設(shè)備對避雷器、斷路器、電流互感器和電壓互感器等4種常見的電力設(shè)備進(jìn)行紅外圖像采集，如圖3所示。

(a) 避雷器 (b) 斷路器

(c) 電流互感器 (d) 電壓互感器圖 3 4種待識(shí)別的電力設(shè)備Fig.3 Four kinds of power equipmentto be identified

將采集到的4個(gè)電力設(shè)備的紅外圖像分為2類：一類是正常運(yùn)行的電力設(shè)備紅外圖像；另一類是有故障的電力設(shè)備的紅外圖像。并隨機(jī)選取訓(xùn)練集和測試集。具體數(shù)據(jù)集分布如表1所示。

本文使用平均準(zhǔn)確率A來驗(yàn)證模型在數(shù)據(jù)集上的有效性，可表示為

(11)

式中：TP為真實(shí)類別是正例，預(yù)測類別也為正例；TN為真實(shí)類別為反例，預(yù)測類別也為反例；FP為真實(shí)類別為反例，預(yù)測類別也為正例；FN為真實(shí)類別為正例，預(yù)測類別也為反例。

為了提高實(shí)驗(yàn)的精準(zhǔn)度，本文使用的參數(shù)參考CNN方法和SE-Net的實(shí)驗(yàn)參數(shù)，矩陣和參數(shù)向量的初始值均在[-0.1,0.1]之間隨機(jī)取值，通道為12，卷積次數(shù)為3，使用的優(yōu)化器是Adam，學(xué)習(xí)率為0.001，同時(shí)為了防止過擬合丟棄率設(shè)置為0.5。

2.2 結(jié)果與分析

為證明本文提出的基于SE-Attention的電力設(shè)備監(jiān)測系統(tǒng)的有效性，本文使用2個(gè)經(jīng)典的基線系統(tǒng)與之進(jìn)行對比，分別為CNN、SE-Net，基線模型與SE-Attention在數(shù)據(jù)集上的平均準(zhǔn)確率如表2所示。

從表2可以看出，本文提出的SE-Attention系統(tǒng)在4種故障識(shí)別測試中均取得了最佳的實(shí)驗(yàn)結(jié)果，準(zhǔn)確率均高于CNN和SE-Net。主要原因是SE-Attention系統(tǒng)在SE-Net的基礎(chǔ)上利用了注意力機(jī)制加大了故障部分的權(quán)重，通過行注意力機(jī)制與列注意力機(jī)制進(jìn)一步的識(shí)別故障部分的特征信息，提高了實(shí)驗(yàn)的準(zhǔn)確率。

3 結(jié) 語

本系統(tǒng)以識(shí)別電力設(shè)備的工作狀態(tài)為目的，首先通過紅外設(shè)備對電力設(shè)備進(jìn)行采樣，并人工為電力設(shè)備運(yùn)行狀態(tài)進(jìn)行打標(biāo)，然后利用這些有標(biāo)簽的數(shù)據(jù)訓(xùn)練本文提出的基于SE-Attention電力設(shè)備的監(jiān)測系統(tǒng)?？紤]到經(jīng)典的神經(jīng)網(wǎng)絡(luò)無法完全挖掘出圖像深層信息，而且電力設(shè)備往往由于局部故障而導(dǎo)致的電力設(shè)備癱瘓等原因，SE-Attention首先提取出特征信息，再利用行注意力機(jī)制、列注意力機(jī)制和通道注意力機(jī)制加大故障處的權(quán)重，從而達(dá)到識(shí)別整個(gè)電力設(shè)備故障的目的。最后進(jìn)行實(shí)驗(yàn)驗(yàn)證，結(jié)果表明，本文提出的基于SE-Attention圖像識(shí)別模型的電力設(shè)備監(jiān)測系統(tǒng)具有較高的準(zhǔn)確率。