一種基于長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)的鐵路變壓器剩余壽命預(yù)測(cè)方法

戴明 湯浩 許坤

（1、南京恒星自動(dòng)化設(shè)備有限公司，江蘇 南京 211135 2、中國鐵路上海局集團(tuán)有限公司 南京供電段，江蘇 南京 210011 3、中國鐵路西安局集團(tuán)有限公司，陜西 西安 710000）

1 概述

隨著科技發(fā)展和生產(chǎn)力進(jìn)步，鐵路變壓器日益朝著智能化、復(fù)雜化及自動(dòng)化發(fā)展，并且得到廣泛應(yīng)用。鐵路變壓器一旦發(fā)生故障，維修成本高，往往造成不必要的經(jīng)濟(jì)損失，甚至重大事故。因此，為保障鐵路變壓器的安全可靠性，實(shí)現(xiàn)對(duì)變壓器健康狀態(tài)的可靠預(yù)測(cè)便顯得尤為重要，即實(shí)現(xiàn)對(duì)鐵路變壓器的剩余使用壽命(Remaining useful life，RUL)預(yù)測(cè)?；趬勖A(yù)測(cè)結(jié)果提前預(yù)測(cè)設(shè)備的失效時(shí)間，進(jìn)而提前安排鐵路變壓器維護(hù)，降低供電設(shè)備突然失效而帶來的風(fēng)險(xiǎn)，提升鐵路運(yùn)行整體可靠性。

目前，許多學(xué)者和機(jī)構(gòu)開展了鐵路變壓器剩余壽命預(yù)測(cè)研究，并取得了許多成果。鐵路變壓器壽命預(yù)測(cè)方法可分為基于物理失效機(jī)制模型和基于數(shù)據(jù)驅(qū)動(dòng)模型?；谖锢硎C(jī)制模型通過供電設(shè)備退化機(jī)制或失效方式構(gòu)建數(shù)學(xué)退化模型，如一種基于能量參數(shù)的設(shè)備損傷缺口的退化評(píng)估模型；另一種基于無偏灰色馬爾可夫鏈的設(shè)備性能退化。然而隨著鐵路變壓器復(fù)雜化的發(fā)展趨勢(shì)，設(shè)備的失效機(jī)制越來越復(fù)雜，此時(shí)難以建立一種明確的數(shù)學(xué)模型去描述設(shè)備的物理退化過程，因此，基于物理失效機(jī)制的模型也就很難對(duì)設(shè)備的剩余壽命做準(zhǔn)確預(yù)測(cè)。

基于數(shù)據(jù)驅(qū)動(dòng)的壽命預(yù)測(cè)方法不依賴設(shè)備的物理失效機(jī)制和專家知識(shí)，而是在基于設(shè)備性能退化數(shù)據(jù)的基礎(chǔ)上直接識(shí)別設(shè)備的故障特征，進(jìn)而對(duì)設(shè)備的剩余壽命做出準(zhǔn)確預(yù)測(cè)。如一種基于PCA 和DNN 融合的設(shè)備微小故障早期診斷和壽命預(yù)測(cè)方法；一種基于Wiener 過程及Logistic 概率分布融合方法的設(shè)備壽命預(yù)測(cè)方法；另一種多分類概率ELMs 模型，基于sigmoid 后驗(yàn)概率映射和Lagrange 成對(duì)耦合法，可實(shí)現(xiàn)對(duì)變壓器剩余壽命的準(zhǔn)確預(yù)測(cè)。

然而上述基于機(jī)器學(xué)習(xí)的數(shù)據(jù)驅(qū)動(dòng)方法無法從原始數(shù)據(jù)中直接識(shí)別故障特征，依賴信號(hào)處理及診斷專家先驗(yàn)知識(shí)，可能造成識(shí)別的故障特征僅適用于某些特定場(chǎng)合。此外，機(jī)器學(xué)習(xí)模型通常為淺層架構(gòu)，僅含一個(gè)隱藏層，處理非線性問題能力有限，面臨復(fù)雜的變壓器故障時(shí)無法做出準(zhǔn)確診斷及預(yù)測(cè)。而深度學(xué)習(xí)，作為機(jī)器學(xué)習(xí)領(lǐng)域的最新成果，采用深層網(wǎng)絡(luò)架構(gòu)，更強(qiáng)數(shù)據(jù)表達(dá)能力，可直接從原始數(shù)據(jù)中識(shí)別深層次抽象特征表達(dá)，為實(shí)現(xiàn)鐵路變壓器剩余壽命智能化預(yù)測(cè)提供了新思路。因此，本文提出了一種基于長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)(LSTM)的鐵路變壓器剩余壽命預(yù)測(cè)方法，可直接從原始數(shù)據(jù)中識(shí)別故障特征，進(jìn)而對(duì)設(shè)備剩余壽命做出準(zhǔn)確預(yù)測(cè)。

2 基于LSTM 的鐵路變壓器壽命預(yù)測(cè)模型

2.1 LSTM 模型

鐵路變壓器監(jiān)測(cè)傳感器數(shù)據(jù)包括油溫、油中烴類氣體類型和含量、振動(dòng)、油中水質(zhì)量分?jǐn)?shù)等多種不同類型信息，而LSTM網(wǎng)絡(luò)可將輸入的變壓器的傳感器數(shù)據(jù)進(jìn)行一系列非線性變換，進(jìn)而識(shí)別變壓器深層次的故障演化趨勢(shì)，基于識(shí)別的故障演變趨勢(shì)對(duì)變壓器的剩余壽命做出準(zhǔn)確預(yù)測(cè)。

LSTM 是循環(huán)神經(jīng)網(wǎng)絡(luò)的一種變體，在循環(huán)神經(jīng)網(wǎng)絡(luò)基礎(chǔ)上多了一個(gè)“門控裝置”，LSTM 被提出是解決隨著循環(huán)神經(jīng)網(wǎng)絡(luò)中存儲(chǔ)的時(shí)間信息增加，而產(chǎn)生的梯度消失或梯度爆炸的長(zhǎng)期依賴問題，在傳統(tǒng)的循環(huán)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的隱含層中加入了記憶單元來代替隱含層神經(jīng)元。LSTM 網(wǎng)絡(luò)結(jié)構(gòu)圖如圖1 所示。

圖1 LSTM 網(wǎng)絡(luò)結(jié)構(gòu)圖

LSTM 的重點(diǎn)是在圖1 中的記憶“傳送帶”部分，即長(zhǎng)期記憶單元模塊ct，它一直處于整個(gè)LSTM 的鏈?zhǔn)较到y(tǒng)中，因?yàn)樗陨淼臓顟B(tài)在不斷更新，能夠長(zhǎng)期攜帶記憶信號(hào)，因而解決了RNN 中的長(zhǎng)期依賴問題，使得時(shí)序信息可以很有效的被LSTM網(wǎng)絡(luò)利用，使得LSTM 神經(jīng)網(wǎng)絡(luò)在時(shí)間序列預(yù)測(cè)方面有著很大的優(yōu)勢(shì)。

2.2 模型優(yōu)化

特征縮放是壓縮數(shù)據(jù)集中差異很大的特征值到較小區(qū)間的方法，一般在數(shù)據(jù)預(yù)處理流程期間使用。高鐵變壓器傳感器信息數(shù)值范圍差別很大，對(duì)LSTM 網(wǎng)絡(luò)識(shí)別變壓器故障特征產(chǎn)生不利影響。運(yùn)用特征縮放的前提是原始數(shù)據(jù)的具體數(shù)值間的范圍差異很大，在LSTM 網(wǎng)絡(luò)算法中，使用特征縮放可加快模型收斂。

最小-最大規(guī)范化也稱為最小-最大縮放，包括重新縮放特征范圍以縮放為[0,1]或[-1,1]中的范圍。選擇目標(biāo)范圍取決于數(shù)據(jù)性質(zhì)。將特征范圍縮小為[0,1]之間的最小-最大縮放公式為：

其中x 為原始特征值，x'為規(guī)范化后的特征值。

3 實(shí)驗(yàn)結(jié)果分析

3.1 實(shí)驗(yàn)數(shù)據(jù)集

實(shí)驗(yàn)數(shù)據(jù)集被劃分為訓(xùn)練子集和測(cè)試子集以及RUL 子集，每個(gè)訓(xùn)練子集和測(cè)試子集包含有26 列數(shù)據(jù)，第1 列ID 代表編號(hào)，第2 列cycle 是時(shí)間步，是該時(shí)間節(jié)點(diǎn)處于本運(yùn)行周期的位置，在訓(xùn)練集中指整個(gè)變壓器的壽命，在測(cè)試集中它是隨即停在某一時(shí)間步第3-5 列指的是3 種操作設(shè)定數(shù)據(jù)，第6-26 列代表了21 種傳感器數(shù)據(jù)。RUL 子集則是提供了測(cè)試子集的真實(shí)剩余壽命，用來與測(cè)試集測(cè)試結(jié)果對(duì)比。

3.2 數(shù)據(jù)預(yù)處理

實(shí)驗(yàn)數(shù)據(jù)集數(shù)據(jù)排列雜亂無序，不利于數(shù)據(jù)演化特征的識(shí)別，因此，需要對(duì)數(shù)據(jù)集預(yù)處理，具體過程如下：

3.2.1 刪除常量值特征。數(shù)據(jù)集21 個(gè)傳感器數(shù)據(jù)中，部分?jǐn)?shù)據(jù)在所有時(shí)間步都保持不變，表明其對(duì)變壓器剩余壽命無影響，故將其刪去。

3.2.2 特征縮放訓(xùn)練預(yù)測(cè)變量。將訓(xùn)練預(yù)測(cè)變量縮放為具有零均值和單位方差。特征縮放方法采用z-score 標(biāo)準(zhǔn)化方法。

3.2.3 裁剪響應(yīng)。為使模型更快從序列數(shù)據(jù)中進(jìn)行訓(xùn)練學(xué)習(xí)，以一定閾值對(duì)響應(yīng)進(jìn)行裁剪。測(cè)試集數(shù)據(jù)處理完，訓(xùn)練集數(shù)據(jù)繼續(xù)下一步。

3.2.4 準(zhǔn)備填充數(shù)據(jù)。按照各序列的長(zhǎng)度隊(duì)訓(xùn)練數(shù)據(jù)進(jìn)行排序，選擇合適的小批量大小盡可能平均劃分，減少劃分訓(xùn)練數(shù)據(jù)后的填充量。

3.3 搭建網(wǎng)絡(luò)模型

本文構(gòu)造網(wǎng)絡(luò)包含兩個(gè)LSTM 層，第一個(gè)LSTM 層包含有200 個(gè)隱藏單元，第二個(gè)LSTM 包含50 個(gè)隱藏單元；兩個(gè)Dropout 層，丟棄率設(shè)置為0.5，一個(gè)大小為50 的全連接層，一個(gè)輸出大小為1 的全連接層作為網(wǎng)絡(luò)基本模型，具體網(wǎng)絡(luò)結(jié)構(gòu)如表1。

表1 網(wǎng)絡(luò)結(jié)構(gòu)描述

3.4 模型訓(xùn)練

實(shí)驗(yàn)采用LSTM 神經(jīng)網(wǎng)絡(luò)搭建訓(xùn)練模型，平臺(tái)為Matlab 中的Deep Learning 工具箱。模型訓(xùn)練參數(shù)的設(shè)定如下：Adam 優(yōu)化算法，學(xué)習(xí)率0.01，訓(xùn)練次數(shù)60，梯度閾值1，最大迭代次數(shù)60。

3.5 模型預(yù)測(cè)

在模型預(yù)測(cè)中，采用均方根差評(píng)價(jià)指標(biāo)，用來衡量預(yù)測(cè)值偏差，公式為：

其中，yi代表真實(shí)值，y^i代表預(yù)測(cè)值。

在模型預(yù)測(cè)中，為防止函數(shù)自動(dòng)填充數(shù)據(jù)，指定小批量大小為1。利用訓(xùn)練好的模型對(duì)測(cè)試集中隨機(jī)時(shí)間序列，利用每一時(shí)間節(jié)點(diǎn)特征值進(jìn)行壽命預(yù)測(cè)，預(yù)測(cè)時(shí)不斷更新網(wǎng)絡(luò)狀態(tài)。預(yù)測(cè)的最后一個(gè)元素對(duì)應(yīng)于部分序列的預(yù)測(cè)RUL 隨機(jī)選擇一個(gè)變壓器預(yù)測(cè)，其結(jié)果如圖2。

圖2 變壓器RUL 預(yù)測(cè)結(jié)果

在圖2 中，虛線為變壓器隨時(shí)間增加剩余壽命變化情況，直線表示處于健康狀態(tài)，折線表示逐漸損壞，最后時(shí)間點(diǎn)所對(duì)應(yīng)為測(cè)試集停止時(shí)間節(jié)點(diǎn)對(duì)應(yīng)剩余壽命。實(shí)線表示用模型預(yù)測(cè)出的剩余壽命變化曲線。通過對(duì)比，可看出該網(wǎng)絡(luò)模型效果較好，尤其后期，模型預(yù)測(cè)剩余壽命與實(shí)際基本一致。同時(shí)利用直方圖可視化預(yù)測(cè)的均方根誤差，如圖3。

在圖3 中，橫坐標(biāo)表示預(yù)測(cè)剩余壽命與測(cè)試實(shí)際的差值，縱坐標(biāo)表示差值分布頻率，觀察可看出預(yù)測(cè)誤差主要分布在±20%以內(nèi)，表明預(yù)測(cè)的壽命誤差較小，該模型取得了良好效果。

圖3 預(yù)測(cè)誤差分布

4 結(jié)論

本文提出了一種基于長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)的鐵路變壓器壽命預(yù)測(cè)方法，長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)可從油溫、油中氣體類型和含量、振動(dòng)、油中水質(zhì)量分?jǐn)?shù)等不同信息中自動(dòng)識(shí)別變壓器故障特征以及故障演化趨勢(shì)，進(jìn)而對(duì)鐵路變壓器壽命做出實(shí)時(shí)預(yù)測(cè)，實(shí)驗(yàn)結(jié)果表明了本文提出方法的有效性。與傳統(tǒng)的數(shù)據(jù)驅(qū)動(dòng)方法相比，本方法無須依賴信號(hào)技術(shù)及診斷專家的先驗(yàn)知識(shí)，更適合于復(fù)雜環(huán)境下的應(yīng)用場(chǎng)合。