基于堆疊稀疏判別自編碼的滾動軸承智能故障診斷方法

曾夢潔,李舜酩,2,李冉冉,李家誠,徐坤

(1.南京航空航天大學(xué) 能源與動力學(xué)院,南京 210016;2.南通理工學(xué)院 汽車工程學(xué)院,江蘇 南通 226002;3.西北工業(yè)大學(xué) 無人系統(tǒng)技術(shù)研究所,西安 710072)

作為旋轉(zhuǎn)機械的關(guān)鍵部件,滾動軸承的運行狀態(tài)對機械的健康運轉(zhuǎn)具有重要影響。 為減小機械故障維護成本和不必要的設(shè)備損耗,研究滾動軸承的故障診斷方法十分必要[1]。傳統(tǒng)故障診斷方法主要是基于振動信號的處理分析,隨著智能診斷方法的發(fā)展,深度學(xué)習(xí)成為故障診斷應(yīng)用的研究方向。深層網(wǎng)絡(luò)相比于淺層網(wǎng)絡(luò)能夠取得更好的診斷結(jié)果:文獻[2]提出了基于多傳感器信息融合的軸承故障診斷模型,采用一維卷積神經(jīng)網(wǎng)絡(luò)(1DCNN)對某航空發(fā)動機軸承故障振動數(shù)據(jù)進行特征提取與分類,獲得了比其他淺層網(wǎng)絡(luò)更優(yōu)的診斷性能:文獻[3]提出了一種基于循環(huán)神經(jīng)網(wǎng)絡(luò)的時變工況下軸承智能故障診斷框架,利用長短期記憶(LSTM)網(wǎng)絡(luò)存儲和傳輸分類信息,同樣獲得了優(yōu)于傳統(tǒng)神經(jīng)網(wǎng)絡(luò)故障診斷方法的結(jié)果。

深度學(xué)習(xí)模型是由數(shù)據(jù)驅(qū)動的模型,能夠自動標(biāo)記數(shù)據(jù)并學(xué)習(xí)數(shù)據(jù)特征。簡單的有監(jiān)督模型易受數(shù)據(jù)輸入和參數(shù)調(diào)整的影響,無監(jiān)督模型則具有良好的特征挖掘能力,常用于特征提取和數(shù)據(jù)聚類。自編碼網(wǎng)絡(luò)(Auto Encoder,AE)是無監(jiān)督模型中的典型方法,已經(jīng)廣泛應(yīng)用于各種領(lǐng)域,由于自編碼的結(jié)構(gòu)特性而能夠在無需標(biāo)簽的情況下對數(shù)據(jù)規(guī)律進行深入分解并實現(xiàn)特征提取和數(shù)據(jù)降維。文獻[4]提出了一種批量歸一化自編碼器的新網(wǎng)絡(luò)用于滾動軸承智能故障診斷,能夠在軸承原始振動信號中提取顯著特征并解決轉(zhuǎn)速波動下的故障診斷問題。文獻[5]開發(fā)了一種稱為變體稀疏過濾的無監(jiān)督稀疏特征學(xué)習(xí)方法,能夠?qū)W習(xí)具有最佳稀疏分布的特征,準(zhǔn)確識別滾動軸承單一故障和復(fù)合故障。

盡管無監(jiān)督學(xué)習(xí)在數(shù)據(jù)特征提取方面具有良好的發(fā)揮,但所提取特征未必是有利于分類的特征。為增強模型性能,將有監(jiān)督模型特點與無監(jiān)督模型特點相結(jié)合的半監(jiān)督模型獲得了青睞:文獻[6]提出了一種分層稀疏人工神經(jīng)網(wǎng)絡(luò),將動態(tài)時間窗口與堆疊稀疏自編碼相結(jié)合構(gòu)建了動態(tài)稀疏堆疊自動編碼器 (DSSAE)并對動態(tài)故障數(shù)據(jù)進行分類,仿真表明DSSAE的性能優(yōu)于稀疏自編碼和堆疊稀疏自編碼;文獻[7]提出了一種增強深度自編碼網(wǎng)絡(luò),采用最大相關(guān)熵代替均方誤差作為自編碼器的損失函數(shù),加入稀疏懲罰項和嵌入非負(fù)約束因子的收縮懲罰項進一步減小重構(gòu)誤差,通過灰狼優(yōu)化算法自適應(yīng)地選取網(wǎng)絡(luò)關(guān)鍵參數(shù),試驗結(jié)果表明該方法具有更強的特征提取能力與穩(wěn)定性,對變工況下的軸承振動數(shù)據(jù)也能達到較高的識別精度;文獻[8]針對旋轉(zhuǎn)機械傳感器信號樣本有限從而影響深層網(wǎng)絡(luò)模型訓(xùn)練學(xué)習(xí)的問題,提出一種結(jié)合改進殘差自編碼網(wǎng)絡(luò)與類自適應(yīng)方法的故障診斷模型以應(yīng)對小樣本數(shù)據(jù),結(jié)果表明該模型能夠在微量標(biāo)記振動數(shù)據(jù)的不同工況下有效提高故障診斷準(zhǔn)確率。

在現(xiàn)有研究中,較少學(xué)者針對數(shù)據(jù)類的結(jié)構(gòu)特性展開分析,而關(guān)注數(shù)據(jù)的結(jié)構(gòu)特性能夠增加特征差異并提高分類性能。文獻[9]提出了一種基于保留局部和全局特征結(jié)構(gòu)的堆疊稀疏自編碼用于故障檢測,能夠使數(shù)據(jù)盡可能地保留結(jié)構(gòu)特征但并未從特征差異化角度考慮數(shù)據(jù)分類;文獻[10]提出了一種新的半監(jiān)督自動編碼器(判別式自動編碼器)提取特征并用于故障診斷,通過最大化來自不同類別的樣本中心之間的距離,判別式自動編碼器能夠為最終診斷提取更多有用的表示,但該方法未考慮數(shù)據(jù)的結(jié)構(gòu)特性;文獻[11]提出了一種用于滾動軸承故障診斷的特征距離堆棧自動編碼器(FDSAE),具有比現(xiàn)有方法更強的特征提取能力和更快的網(wǎng)絡(luò)收斂速度,但由于距離懲罰項的限制,該方法的泛化性較差:上述方法從不同角度考慮了數(shù)據(jù)的結(jié)構(gòu)特性,從數(shù)據(jù)結(jié)構(gòu)層面增強了自編碼網(wǎng)絡(luò)的性能,但仍存在一定的局限性,針對不同的應(yīng)用場景仍有改進空間。

為增強自編碼方法的特征提取能力和診斷穩(wěn)定性,本文結(jié)合稀疏自編碼(Sparse AE,SAE)的特性構(gòu)建堆疊稀疏自編碼(Stacked SAE,SSAE),利用KL散度約束深層網(wǎng)絡(luò)神經(jīng)元稀疏激活度以防止網(wǎng)絡(luò)過擬合,結(jié)合半監(jiān)督機制改進傳統(tǒng)網(wǎng)絡(luò)并利用標(biāo)簽信息微調(diào)提升模型分類性能,在上述基礎(chǔ)上充分考慮數(shù)據(jù)類的結(jié)構(gòu)特性,提出一種堆疊稀疏判別自編碼(Stacked Sparse Discriminative Autoencoders,SSDAE)智能故障診斷算法,從類幾何特征和類數(shù)據(jù)特征2個角度出發(fā)充分發(fā)掘數(shù)據(jù)的深層規(guī)律,以解決復(fù)雜工況下滾動軸承故障診斷結(jié)果不理想的問題,實現(xiàn)可靠的滾動軸承智能故障診斷。

1 堆疊稀疏自編碼基本理論

自編碼網(wǎng)絡(luò)是一種3層無監(jiān)督神經(jīng)網(wǎng)絡(luò)模型,最大特點是令輸出y等于輸入x,利用網(wǎng)絡(luò)編碼層和解碼層實現(xiàn)對輸入信號的重構(gòu),尋找能夠簡要表示原始數(shù)據(jù)的深層規(guī)律。AE模型結(jié)構(gòu)如圖1所示。

圖1 AE模型結(jié)構(gòu)圖

將預(yù)處理后的信號數(shù)據(jù)輸入已經(jīng)建立的AE模型中,通過隱藏層的編碼函數(shù)(一般選用Sigmoid函數(shù))對輸入數(shù)據(jù)x進行編碼處理,獲取與隱藏層節(jié)點維數(shù)一致的簡化特征向量,即將原始m維數(shù)據(jù)映射至隱藏層的n維向量;再通過隱藏層的解碼函數(shù)(一般選用Sigmoid函數(shù))對簡化特征向量進行解碼處理,實現(xiàn)對原始數(shù)據(jù)的重構(gòu),即將n維簡化特征向量映射至輸出層的m維數(shù)據(jù)y。當(dāng)批樣本數(shù)為N時,其重構(gòu)誤差為

(1)

(2)

(3)

(4)

式中:N為批樣本數(shù);n為隱藏層中神經(jīng)元的個數(shù);β為稀疏權(quán)重因子。

SAE能夠很好地實現(xiàn)數(shù)據(jù)降維和特征提取,但僅采用單層隱藏層時數(shù)據(jù)重構(gòu)能力存在較大限制,往往難以提取特征復(fù)雜數(shù)據(jù)更核心的特征規(guī)律。堆疊稀疏自編碼網(wǎng)絡(luò)通過堆疊連接多個SAE結(jié)構(gòu),逐層分析原始數(shù)據(jù)的深層特征,多個隱藏層能夠?qū)哟涡缘奶崛?shù)據(jù)規(guī)律,增強自編碼網(wǎng)絡(luò)的特征提取能力。傳統(tǒng)SSAE模型的損失函數(shù)為

(5)

盡管SSAE與SAE的損失函數(shù)差異不大,但深層網(wǎng)絡(luò)能夠比單層網(wǎng)絡(luò)提取更多的特征。另外,SSAE的多層稀疏激活度約束能夠充分利用SAE的特性去除高維干擾而提取低維特征,增強自編碼網(wǎng)絡(luò)的魯棒性[12]。3層的傳統(tǒng)SSAE網(wǎng)絡(luò)如圖2所示,利用上一層隱藏層的輸出訓(xùn)練下一層SAE,并將最后一層的簡化特征向量通過Softmax函數(shù)進行分類,可驗證網(wǎng)絡(luò)的有效性[13]。

圖2 SSAE模型結(jié)構(gòu)圖

2 堆疊稀疏判別自編碼方法

2.1 半監(jiān)督堆疊稀疏自編碼

為增強無監(jiān)督模型的分類能力,引入半監(jiān)督學(xué)習(xí)模式改進傳統(tǒng)的堆疊稀疏自編碼網(wǎng)絡(luò)。半監(jiān)督堆疊稀疏自編碼(Semi-supervised SSAE,SesSSAE)借助深層的編碼器和解碼器無監(jiān)督的對數(shù)據(jù)信息進行重構(gòu),同時利用KL散度限制深層隱藏層神經(jīng)元的稀疏激活度,最后采用交叉熵進行有監(jiān)督限制,對最后一層隱藏層(即特征層)進行分類調(diào)整,以完成特征提取和分類的功能。交叉熵函數(shù)ECE和SesSSAE的損失函數(shù)為

(6)

(7)

SesSSAE充分利用無監(jiān)督的學(xué)習(xí)優(yōu)勢,在訓(xùn)練過程中添加標(biāo)簽信息,采用交叉熵函數(shù)作為有監(jiān)督懲罰項,實現(xiàn)對原有神經(jīng)網(wǎng)絡(luò)的分類性能調(diào)整,從而提高自編碼網(wǎng)絡(luò)的特征提取能力和數(shù)據(jù)分類性能,增強智能故障診斷算法的準(zhǔn)確性和泛化性。

2.2 樣本結(jié)構(gòu)特征約束

由于神經(jīng)網(wǎng)絡(luò)的黑匣子特性,盡管其擁有強大的特征提取能力,但神經(jīng)網(wǎng)絡(luò)所提取特征的含義仍未有明確解釋。為增強自編碼網(wǎng)絡(luò)所提取特征的可解釋性以及有效性,本文采用樣本結(jié)構(gòu)特征約束對網(wǎng)絡(luò)特征重構(gòu)過程進行約束。樣本結(jié)構(gòu)特征約束主要分為類幾何特征約束和類數(shù)據(jù)特征約束2個方面:類幾何特征約束主要從數(shù)據(jù)可視化角度增強數(shù)據(jù)特征差異,類數(shù)據(jù)特征約束主要從數(shù)據(jù)結(jié)構(gòu)角度保留原有數(shù)據(jù)結(jié)構(gòu)特征。

類幾何特征主要指數(shù)據(jù)點在平面上的幾何特性。將樣本數(shù)據(jù)降至二維并將其以散點形式可視化于平面上,能夠清晰地看出數(shù)據(jù)的類內(nèi)聚合性和類間分離性,概括稱為類幾何特征。為量化數(shù)據(jù)的類幾何特征,引入如圖3所示的擬合圓測量法。

圖3 擬合圓測量法

對于任意在二維平面的一簇散點,都存在一個可以將這簇散點全部圍住的半徑最小的圓,這個圓可以近似描述所包圍散點的特征,稱為擬合圓。通過擬合圓的半徑近似衡量類內(nèi)半徑,通過擬合圓圓心之間的距離近似衡量類間距離,依據(jù)這一思想,假定有M個類,第i類有Nci組數(shù)據(jù)di,則第i類的類擬合中心點δi與類半徑ri的定義為

(8)

(9)

與此同時,當(dāng)共有M個類時,類內(nèi)聚合半徑Rc與類間聚合距離Dc分別定義為

(10)

(11)

為更好地衡量數(shù)據(jù)的類幾何特性,構(gòu)造類幾何特征的懲罰項Lcg作為損失函數(shù)的一部分,以此約束特征重構(gòu)方向,即

Lcg=Rc/Dc。

(12)

與類幾何特征不同,類數(shù)據(jù)特征主要考慮數(shù)據(jù)原本的結(jié)構(gòu)特性,希望盡量保留數(shù)據(jù)原有的結(jié)構(gòu)信息。方差是衡量數(shù)據(jù)信息結(jié)構(gòu)的主要指標(biāo),能夠反映樣本在數(shù)據(jù)層面的差異性。對于存在的Ns組樣本x,方差S(x)可以表示為

(13)

類數(shù)據(jù)特征分為類內(nèi)數(shù)據(jù)特征和全局?jǐn)?shù)據(jù)特征。類內(nèi)數(shù)據(jù)特征對每個類的原始樣本和重構(gòu)樣本的方差進行差異衡量,保證網(wǎng)絡(luò)對不同故障種類的重構(gòu)適應(yīng)性。全局?jǐn)?shù)據(jù)特征對全部樣本數(shù)據(jù)與全部重構(gòu)特征的方差進行差異限制,保證訓(xùn)練過程整個網(wǎng)絡(luò)的重構(gòu)穩(wěn)定性。假設(shè)N組樣本中共有M個類,第i類有Nci組數(shù)據(jù)di,類內(nèi)數(shù)據(jù)特征和全局?jǐn)?shù)據(jù)特征分別表示為

(14)

(15)

式中:f(·)為對樣本數(shù)據(jù)取特征層特征;xi為N組樣本中的第i組樣本數(shù)據(jù)。

通過方差范數(shù)對全局樣本的重構(gòu)數(shù)據(jù)進行約束,保證網(wǎng)絡(luò)特征重構(gòu)的穩(wěn)定性和方向性。類數(shù)據(jù)特征在損失函數(shù)中的懲罰項Lcd為

Lcd=Fc+Fg,

(16)

樣本結(jié)構(gòu)特征約束從特征可解釋性和有效性角度出發(fā),在幾何角度和數(shù)據(jù)角度約束特征的重構(gòu)方向,增強自編碼網(wǎng)絡(luò)所提取的特征的可靠性和分類性。因此,樣本結(jié)構(gòu)特征懲罰項的損失函數(shù)Lc為

Lc=μ1Lcg+μ2Lcd,

(17)

式中:μ1,μ2分別為幾何權(quán)重因子和數(shù)據(jù)權(quán)重因子。

2.3 基于SSDAE的滾動軸承故障診斷

為解決復(fù)雜工況下旋轉(zhuǎn)部件故障診斷精度不理想、穩(wěn)定性差的問題,本文提出主要由SesSSAE結(jié)構(gòu)和樣本結(jié)構(gòu)特征約束組成的SSDAE智能故障診斷方法,其完整結(jié)構(gòu)如圖4所示:首先,基于傳統(tǒng)SSAE模型,引入半監(jiān)督訓(xùn)練機制利用標(biāo)簽信息對特征分類結(jié)果進行微調(diào),彌補無監(jiān)督機制的缺陷;然后,結(jié)合樣本結(jié)構(gòu)特征約束,從類幾何特征和類數(shù)據(jù)特征角度對網(wǎng)絡(luò)訓(xùn)練過程進行約束,限定重構(gòu)特征的重構(gòu)方向,在保證重構(gòu)數(shù)據(jù)完整性的同時增強特征差異;最后,將提取的特征經(jīng)過Softmax分類器進行分類并輸出故障診斷結(jié)果。

圖4 堆疊稀疏判別自編碼框架圖

SSDAE智能故障診斷方法的詳細(xì)參數(shù)見表1,其完整損失函數(shù)為

(18)

表1 SSDAE模型具體參數(shù)

SSDAE智能故障診斷方法的流程如圖5所示,主要診斷步驟如下:

1)采集振動數(shù)據(jù),利用數(shù)據(jù)增強的方式獲取樣本,將時域信號轉(zhuǎn)換為頻域信號。

2)將獲取的樣本劃分成訓(xùn)練集和測試集。

3)網(wǎng)絡(luò)參數(shù)初始化,設(shè)定關(guān)鍵超參數(shù),如網(wǎng)絡(luò)層數(shù)、神經(jīng)元個數(shù)、迭代步數(shù)、批大小等。

4)將訓(xùn)練集輸入至SSDAE網(wǎng)絡(luò)中進行批訓(xùn)練,計算損失函數(shù)值,由梯度下降法迭代更新網(wǎng)絡(luò)權(quán)重。

5)當(dāng)滿足閾值停止迭代,保存網(wǎng)絡(luò)參數(shù)。

6)將測試集輸入訓(xùn)練完成的SSDAE模型中進行測試,進行故障診斷和故障識別。

3 試驗驗證

3.1 數(shù)據(jù)集描述

選取美國凱斯西儲大學(xué)(CWRU)的滾動軸承數(shù)據(jù)集進行SSDAE算法驗證,試驗軸承型號為SKF 6205,選擇采樣頻率48 kHz的驅(qū)動端信號作為試驗數(shù)據(jù),樣本集的詳細(xì)劃分見表2,樣本集A/B/C/D均包括4個工況(0,1,2,3 HP分別對應(yīng)1 797,1 772,1 750,1 730 r/min)下各10種軸承故障類型,每種故障各600組樣本。采用小樣本長度重疊采樣的數(shù)據(jù)增強模式以增加樣本數(shù)量,每組樣本的長度均為600,隨機抽取25%的樣本作為測試集,余下劃分為訓(xùn)練集。

表2 CWRU樣本集A/B/C/D的詳細(xì)劃分

3.2 樣本結(jié)構(gòu)特征約束驗證

采用t-SNE降維可視化方法對提取的特征層進行降維分析,直觀地對比不同約束條件下所提取的特征,從而驗證本文所提樣本結(jié)構(gòu)特征約束的有效性。在參數(shù)相同的情況下,選擇以下4種方法進行對比分析:1)本文所提SSDAE;2)SSDAE_NOLc,在本文所提方法的基礎(chǔ)上去掉樣本結(jié)構(gòu)特征的約束項;3)SSDAE_NOLcg,在本文所提方法的基礎(chǔ)上去掉類幾何特征的約束項;4)SSDAE_NOLcd,在本文所提方法的基礎(chǔ)上去掉類數(shù)據(jù)特征的約束項。

4種方法在樣本集B測試集上的特征層的t-SNE可視化結(jié)果如圖6所示:1)在沒有類幾何特征約束的情況下(圖6a),盡管在類數(shù)據(jù)特征影響下各類別的聚攏性較好,但各類間的差異較大,類分離性仍有增強的空間;2)在沒有類數(shù)據(jù)特征約束的情況下(圖6b),數(shù)據(jù)的類間分布相對均勻,但各類內(nèi)部的數(shù)據(jù)分布較為分散,體現(xiàn)了類幾何特征對數(shù)據(jù)類內(nèi)分布間距的約束作用;3)對比圖7c和圖7d可知,有樣本結(jié)構(gòu)特征約束情況下(圖6d),各類在二維平面上的數(shù)據(jù)分布變得更加均勻分散,增強了不同故障特征的差異性,對于單組類別,圖6d的類別更加的緊湊,散點分布較為勻稱,證明所提SSDAE方法具有良好的特征提取性能。

(a) SSDAE_NOLcg

3.3 對比分析

選取4種相關(guān)的方法(LGSSAE[9],FDSAE[11],DisAE[10]和BNAE[4])進行對比分析以研究SSDAE方法的故障診斷性能。分別在4組樣本集上進行試驗,每種方法在每組樣本集的測試結(jié)果選擇10次結(jié)果的均值以避免試驗結(jié)果存在的隨機性。

由表3的試驗結(jié)果可知:BNAE的表現(xiàn)較差,最高平均準(zhǔn)確率僅85.07%;LGSSAE和FDSAE表現(xiàn)相差不大,均在樣本集A上取得了最高平均準(zhǔn)確率,分別為88.45%和92.87%,盡管FDSAE的最高平均準(zhǔn)確率高于LGSSAE,但LGSSAE的標(biāo)準(zhǔn)差更小,即其穩(wěn)定性優(yōu)于FDSAE方法;DisAE取得了較好的診斷效果,最高平均準(zhǔn)確率達97.25%,而且標(biāo)準(zhǔn)差數(shù)值較小,體現(xiàn)了良好的穩(wěn)定性;本文SSDAE方法的標(biāo)準(zhǔn)差與DisAE相差不大,同樣表現(xiàn)出了較高的穩(wěn)定性,而SSDAE方法的最低平均準(zhǔn)確率也高達98.80%,表現(xiàn)出良好的準(zhǔn)確性。

表3 不同方法在測試集上的平均準(zhǔn)確率

為更直觀地分析這幾種方法的診斷效果,選取其在樣本集D上連續(xù)的10次試驗結(jié)果進行分析,如圖7所示:SSDAE和DisAE具有良好的穩(wěn)定性,各次試驗的準(zhǔn)確率相差不大;與其他4種方法相比,SSDAE方法展現(xiàn)出了最優(yōu)的診斷準(zhǔn)確率,體現(xiàn)了該方法的準(zhǔn)確性和穩(wěn)定性。

3.4 可視化分析

為進一步分析SSDAE方法的性能,將其在樣本集D上的第10次試驗結(jié)果可視化,混淆矩陣如圖8所示:所有類型的故障均在訓(xùn)練集上實現(xiàn)了100%的準(zhǔn)確率,說明該方法對數(shù)據(jù)有較強的學(xué)習(xí)能力;測試集中,雖然故障類型1,2,3,6,7有個別錯分的數(shù)據(jù),但其余故障類型則實現(xiàn)了100%的準(zhǔn)確率,說明SSDAE能夠?qū)?shù)據(jù)特征進行良好的識別,實現(xiàn)可靠的故障診斷。

(a) 訓(xùn)練集

4 結(jié)論

本文提出了一種可用于復(fù)雜工況下旋轉(zhuǎn)機械部件故障診斷的堆疊稀疏判別自編碼智能故障診斷算法,通過CWRU數(shù)據(jù)集的試驗驗證得到如下結(jié)論:

1)半監(jiān)督機制能夠改良傳統(tǒng)無監(jiān)督網(wǎng)絡(luò),增強網(wǎng)絡(luò)分類性能。

2)所提出的樣本結(jié)構(gòu)特征約束機制能夠從樣本幾何特征角度和樣本數(shù)據(jù)結(jié)構(gòu)角度約束特征重構(gòu)的方向,增強自編碼網(wǎng)絡(luò)的特征提取能力。

3)SSDAE方法在多組樣本集的多次試驗中均取得了良好的故障診斷準(zhǔn)確率,具有較強的可靠性和穩(wěn)定性。