深度殘差網(wǎng)絡(luò)在斷路器故障診斷中的應(yīng)用

杜太行，孫 靚，孫曙光，陳 帆，劉金發(fā)

(河北工業(yè)大學(xué)人工智能與數(shù)據(jù)科學(xué)學(xué)院，天津 300130)

0 引言

萬能式斷路器作為低壓配電網(wǎng)中的重要設(shè)備，有著保護(hù)和控制雙重作用。因此，對斷路器進(jìn)行故障診斷對于電網(wǎng)的安全運(yùn)行具有重要的意義[1-2]。分合閘附件作為萬能式斷路器的關(guān)鍵部件，其穩(wěn)定工作與斷路器的安全與穩(wěn)定運(yùn)行直接相關(guān)，因此對運(yùn)行過程中可能產(chǎn)生的故障進(jìn)行診斷是非常重要的。

斷路器在運(yùn)行過程中，分合閘線圈電流信號不僅具有較高的穩(wěn)定性，而且可以體現(xiàn)研究對象的機(jī)械狀態(tài)，可以用于斷路器的故障診斷[3]。由于本文研究的低壓萬能式斷路器的分合閘線圈采用交流短時工作制方式，因此分合閘動作時線圈回路合閘相位的隨機(jī)性對電流特征具有一定影響。此外，目前普遍采用卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行特征的提取與故障類型的診斷[4]，但卷積神經(jīng)網(wǎng)絡(luò)會隨著網(wǎng)絡(luò)的深度增加出現(xiàn)識別率下降問題，對故障診斷準(zhǔn)確率造成影響。為了解決上述問題深度殘差網(wǎng)絡(luò)(deep residual network，DRN)被提出，近年來逐步被研究人員應(yīng)用到故障診斷領(lǐng)域中，并取得了許多顯著的效果[5-6]。趙敬嬌等提出了一種基于殘差連接的一維卷積神經(jīng)網(wǎng)絡(luò)的軸承故障診斷模型[7]。L. S. Hou等提出了一種不需要預(yù)先設(shè)定參數(shù)的原始信號特征自動提取方法，并利用DRN作為故障分類器對軸承振動數(shù)據(jù)集進(jìn)行故障診斷[8]。在上述應(yīng)用中，DRN一方面可以加快深度較大的神經(jīng)網(wǎng)絡(luò)的訓(xùn)練速度，另一方面可以很大程度提升模式識別的準(zhǔn)確率。

考慮到所研究的分合閘線圈電流信號持續(xù)時間短，盡管采用一維數(shù)據(jù)可以保留信號原始信息[9]，但其作為神經(jīng)網(wǎng)絡(luò)的輸入會存在數(shù)據(jù)長度的局限性，存在輸入神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)量不足的問題。近年來，針對此問題，各學(xué)者采用短時傅里葉變換[10]、連續(xù)小波變換[11]、灰度預(yù)處理[12]等方法將一維數(shù)據(jù)轉(zhuǎn)化為二維圖片作為神經(jīng)網(wǎng)絡(luò)的輸入的方式來解決。此外，相對于文獻(xiàn)[8]中振動信號，本文所研究的分合閘線圈電流信號比較平穩(wěn)，包含的有效特征信息較為微弱，宜結(jié)合不同信號特點(diǎn)，選取合適的數(shù)據(jù)處理方式。

基于上述整體分析，本文提出了一種基于深度殘差網(wǎng)絡(luò)的萬能式斷路器分合閘附件故障診斷方法。首先采用信號堆疊的方法將原始的一維電流數(shù)據(jù)轉(zhuǎn)化為二維灰度圖，其次采用自適應(yīng)參數(shù)化修正線性單元(adaptively parametric rectifier linear units，APReLU)激活函數(shù)代替原始的ReLU激活函數(shù)實(shí)現(xiàn)對DRN的改進(jìn)，并引入AMSGrad優(yōu)化算法，以更好地適應(yīng)數(shù)據(jù)特征，從而提高故障診斷的識別率。

1 DRN網(wǎng)絡(luò)原理

卷積神經(jīng)網(wǎng)絡(luò)隨著深度的增加會出現(xiàn)低精度和過擬合的問題，為了解決此問題提出了DRN。殘差塊是DRN模型結(jié)構(gòu)的核心，其結(jié)構(gòu)如圖1所示。

圖1 殘差塊結(jié)構(gòu)示意圖

由圖1可知，殘差塊存在一條從輸入到輸出的路徑，可以直接把輸入傳到輸出，輸出結(jié)果為

H(X)=F(X)+X

(1)

當(dāng)F(X)=0時，H(X)=X，即恒等映射。所以深度殘差網(wǎng)絡(luò)學(xué)習(xí)是H(X)與X的差值，而不是一個完整的輸出。因此，隨著網(wǎng)絡(luò)的訓(xùn)練，將殘差結(jié)果逼近于0，實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)深度增加而準(zhǔn)確率不下降的目標(biāo)。

2 基于DRN的故障診斷方法

本文采用DRN網(wǎng)絡(luò)模型對低壓萬能式斷路器分合閘附件進(jìn)行故障診斷。故障診斷模型如圖2所示，由圖2可知，本文所構(gòu)建的故障診斷模型結(jié)構(gòu)中有1個卷積層及池化層，5個殘差塊以及1個GAP層。且DRN網(wǎng)絡(luò)模型各層結(jié)構(gòu)參數(shù)如表1所示。

圖2 故障診斷模型結(jié)構(gòu)

表1 殘差塊結(jié)構(gòu)參數(shù)

本文故障診斷模型采用APReLU激活函數(shù)代替原始的ReLU激活函數(shù)，能夠更好地適應(yīng)數(shù)據(jù)特征，提升網(wǎng)絡(luò)的性能。并且DRN模型中采用改良版本的殘差塊，如圖3所示，相較于原始?xì)埐顗K，改良版的殘差塊存在一條直接連著輸入輸出的路徑，能夠更加有利于誤差在神經(jīng)網(wǎng)絡(luò)內(nèi)部的反向傳播，使其參數(shù)變得更容易訓(xùn)練。此外本文故障診斷模型采用全局平均池化層(global average pooling，GAP)進(jìn)行故障分類，由于GAP可以將輸入特征壓縮成向量，顯著降低了網(wǎng)絡(luò)參數(shù)。

圖3 殘差塊類型

2.1 APReLU激活函數(shù)

APReLU激活函數(shù)的基本原理如圖4所示。將輸入特征圖傳播到1個ReLU和1個GAP中，計(jì)算1個一維向量來表示正特征的全局信息。同時，將輸入的特征映射傳播為min(x,0)函數(shù)和GAP，計(jì)算出另1個一維向量，表示負(fù)特征的全局信息。然后，將2個一維向量連接并傳播成1個計(jì)算路徑，其中每個FC層的神經(jīng)元數(shù)等于APReLU輸入特征映射的通道數(shù)。最后，使用與PReLU相同的函數(shù)進(jìn)行非線性變換，得到輸出特征圖。

圖4 APReLU激活函數(shù)基本原理

當(dāng)人工神經(jīng)網(wǎng)絡(luò)采用APReLU激活函數(shù)時，由于APReLU激活函數(shù)輸入特征圖和輸出特征圖尺寸相同，使得其很容易應(yīng)用在深度神經(jīng)網(wǎng)絡(luò)中。

2.2 AMSGrad優(yōu)化算法

目前，在深度學(xué)習(xí)領(lǐng)域，網(wǎng)絡(luò)模型在訓(xùn)練過程中常采用Adam優(yōu)化算法來保證模型的訓(xùn)練精度，然而Adam優(yōu)化算法仍存在一些不足之處：一是在模型訓(xùn)練過程中的某些情況下會存在不收斂的問題，原因是隨著時間的變化，可能會因數(shù)據(jù)的大小，導(dǎo)致Adam優(yōu)化算法的學(xué)習(xí)率會發(fā)生非單調(diào)性的震蕩變化，最終造成模型不能收斂；二是通過采用Adam優(yōu)化算法訓(xùn)練的網(wǎng)絡(luò)模型可能不是全局最優(yōu)解。

針對以上缺點(diǎn)，本文采用一種改進(jìn)的Adam優(yōu)化算法，即AMSGrad優(yōu)化算法。該算法通過改變二階動量，使二階動量隨時間發(fā)生線性變換，從而保證了AMSGrad中的學(xué)習(xí)率始終為非負(fù)數(shù)。

3 故障模擬及其數(shù)據(jù)集構(gòu)建

本文使用DW15-1600型低壓萬能式斷路器的實(shí)測數(shù)據(jù)進(jìn)行分析。分合閘附件結(jié)構(gòu)如圖5所示，分閘附件即分勵脫扣器結(jié)構(gòu)，主要包括分閘線圈、銜鐵、頂桿等結(jié)構(gòu)；合閘附件即釋能電磁鐵結(jié)構(gòu)，主要包括動鐵芯、合閘線圈等結(jié)構(gòu)。分合閘附件故障狀態(tài)如表2所示。

(a)分勵脫扣器結(jié)構(gòu)

表2 分合閘附件故障狀態(tài)

由于斷路器分合閘動作時線圈回路合閘相位的隨機(jī)性對電流特征具有一定影響。因此，本文模擬0°、30°、60°、90°、120°、150°、180°相位下的各類工作狀態(tài)，且每種工作狀態(tài)各采集20組樣本，共采集1 260組。設(shè)置采樣頻率為20 kHz，采樣時間為100 ms?？紤]到線圈電流的特點(diǎn)，采用一維數(shù)據(jù)作為神經(jīng)網(wǎng)絡(luò)的輸入會存在數(shù)據(jù)長度的局限性，存在輸入網(wǎng)絡(luò)模型的數(shù)據(jù)量不足的問題，導(dǎo)致一維的網(wǎng)絡(luò)模型感受野不夠，在訓(xùn)練過程中無法提取有效特征且容易出現(xiàn)過擬合的現(xiàn)象，所以本文將每組一維電流信號采用信號堆疊的方法轉(zhuǎn)換成為二維的灰度圖。即將每組電流信號進(jìn)行補(bǔ)零操作并依次橫向排列成45×45的矩陣，然后將其轉(zhuǎn)化為灰度圖像。共轉(zhuǎn)化1 260組灰度圖像。由于在轉(zhuǎn)化灰度圖的過程中未進(jìn)行數(shù)據(jù)運(yùn)算，從而避免了數(shù)據(jù)運(yùn)算后的特征丟失，最大程度保留了原始信號包含的信息，且可以顯示更多有效特征。不同相位下正常狀態(tài)時合閘線圈電流波形及其灰度圖如圖6所示。從圖6可以看出同一狀態(tài)下，合閘相位不同，線圈電流波形及其灰度圖上電流特征存在差異。

圖6 不同相位下正常狀態(tài)時合閘線圈電流波形及其灰度圖

4 故障診斷模型的實(shí)驗(yàn)分析

本節(jié)為了驗(yàn)證所提出故障診斷模型的性能，給出了故障診斷實(shí)驗(yàn)以及結(jié)果分析。本文編程語言為Python，計(jì)算機(jī)配置為Intel(R) Core(TM) i5-9400FCPU@2.90 GHz，且顯卡型號為NVIDIA GeForce RTX3060。本節(jié)各實(shí)驗(yàn)batch size均設(shè)置為32，epochs均設(shè)置為200，均采用AMSGrad優(yōu)化算法且學(xué)習(xí)率設(shè)置為0.001。

4.1 訓(xùn)練樣本比例對故障診斷結(jié)果的影響

為了驗(yàn)證訓(xùn)練樣本比例對故障診斷結(jié)果的影響，本文將1 260組灰度圖中不同狀態(tài)下的各140組灰度圖分為訓(xùn)練樣本和測試樣本，選取其中50%、60%、70%、80%的灰度圖樣本作為訓(xùn)練樣本，其余樣本作為測試樣本。實(shí)驗(yàn)結(jié)果如表3所示。

表3 不同訓(xùn)練樣本比例實(shí)驗(yàn)結(jié)果

由表3可以看出，訓(xùn)練樣本比例對故障診斷結(jié)果具有一定的影響，隨著訓(xùn)練樣本比例的升高，訓(xùn)練時間逐漸增加且識別率逐漸升高，且當(dāng)訓(xùn)練樣本比例為80%時故障識別率達(dá)到了97.89%。此外，本文通過引入混淆矩陣對訓(xùn)練樣本比例為80%的實(shí)驗(yàn)結(jié)果進(jìn)行分析，如圖7所示，除合閘線圈匝數(shù)異常變化、銜鐵行程不足以及正常分閘之外其余識別率均為100%。所以本文選取訓(xùn)練樣本比例為80%的用于故障診斷模型的訓(xùn)練。

圖7 訓(xùn)練樣本比例為80%實(shí)驗(yàn)結(jié)果

4.2 灰度圖尺寸大小對故障診斷結(jié)果的影響

本文采用信號堆疊的方法將一維電流數(shù)據(jù)轉(zhuǎn)化為二維灰度圖像作為網(wǎng)絡(luò)模型的輸入，但轉(zhuǎn)換后的灰度圖尺寸的大小對于網(wǎng)絡(luò)模型的分類準(zhǔn)確率以及訓(xùn)練速度有一定的影響，所以本文選用28像素×28像素、64像素×64像素、120像素×120像素、150像素×150像素的圖片大小來確定網(wǎng)絡(luò)模型的最佳分類效果。表4為4種不同尺寸數(shù)據(jù)集的故障識別實(shí)驗(yàn)結(jié)果。

表4 不同尺寸數(shù)據(jù)集的故障識別實(shí)驗(yàn)結(jié)果

由表4可以看出，當(dāng)圖片尺寸為28像素×28像素時，測試集的故障識別率僅為82.62%，主要由于圖片尺寸過小，導(dǎo)致樣本包含的信息量較少，無法提取出有效特征。當(dāng)圖片尺寸為120像素×120像素時，其測試集的識別率達(dá)到97%以上，當(dāng)圖片尺寸為150像素×150像素時，其測試集的識別率下降到84.13%，主要由于輸入尺寸過大導(dǎo)致網(wǎng)絡(luò)過擬合。同時，由表4可知，隨著灰度圖尺寸增加，神經(jīng)網(wǎng)絡(luò)訓(xùn)練時間延長。所以，本文為兼顧分類準(zhǔn)確率和訓(xùn)練速度，選取圖片尺寸為120像素×120像素的數(shù)據(jù)集對模型進(jìn)行訓(xùn)練。

此外，本文在輸入灰度圖尺寸為120像素×120像素時采用對t-SNE方法對DRN網(wǎng)絡(luò)模型輸出的特征降至2維進(jìn)行特征的可視化，結(jié)果如圖8所示，其中數(shù)字0～8對應(yīng)各類工作狀態(tài)。從圖8可以看出通過層層特征提取，最終經(jīng)過GAP層后，各類特征能夠各自聚集在一起，完成故障分類。說明本文故障診斷模型有較強(qiáng)的特征提取能力。

圖8 t-SNE降維可視化結(jié)果

5 故障診斷方法對比分析

為了驗(yàn)證DRN網(wǎng)絡(luò)模型在斷路器分合閘附件故障診斷中的性能，采用AlexNet、LeNet5-LSTM進(jìn)行對比實(shí)驗(yàn)。實(shí)驗(yàn)結(jié)果如表5所示。

表5 不同深度學(xué)習(xí)算法實(shí)驗(yàn)結(jié)果

由表5可以看出，以灰度圖作為網(wǎng)絡(luò)模型的輸入，其故障分類效果均比以一維電流信號為模型輸入的效果好。原因是采用一維數(shù)據(jù)作為神經(jīng)網(wǎng)絡(luò)的輸入會由于數(shù)據(jù)長度的限制，存在輸入網(wǎng)絡(luò)模型的數(shù)據(jù)量不足的問題，且容易出現(xiàn)過擬合的現(xiàn)象。此外，采用AlexNet以及LeNet5-LSTM的故障識別率僅為94.46%和92.94%，而本文故障診斷算法識別率為97.92%。所以本文故障診斷算法相比于其他故障診斷算法有顯著的優(yōu)勢。

6 結(jié)束語

本文提出了一種基于深度殘差網(wǎng)絡(luò)的故障診斷算法。并采用灰度圖作為網(wǎng)絡(luò)的輸入，能夠有效避免一維時序信號樣本長度的局限性，且最大程度的保留了原始信號包含的信息。并采用APReLU激活函數(shù)以及AMSGrad優(yōu)化算法進(jìn)行網(wǎng)絡(luò)性能的優(yōu)化。通過對網(wǎng)絡(luò)模型的可視化分析表明本文所提故障診斷模型有較強(qiáng)的特征提取能力，同時與其他深度學(xué)習(xí)算法相比，本文構(gòu)建的網(wǎng)絡(luò)模型具有更好的故障識別效果，表明該網(wǎng)絡(luò)模型在分合閘附件故障診斷中具有有效性。