基于小波分解與深度學習的液壓泵泄漏狀態(tài)識別*

陳軍江，陳里里,2,王朝宇

(1.重慶交通大學機電與車輛工程學院，重慶 400074；2.重慶市勘測院 ，重慶 400074)

0 引言

液壓系統(tǒng)作為現(xiàn)代機械系統(tǒng)的主要組成部分，因其較快的響應速度、大的功率質量比、較小的體積、較高的控制精度與運行平穩(wěn)的特點在機械行業(yè)得到了廣泛的應用[1]。液壓泵作為液壓回路的核心部件，其工作狀態(tài)的好壞嚴重影響整個機械系統(tǒng)的穩(wěn)定。由于液壓系統(tǒng)的高度復雜性與非線性，液壓回路中故障的機理與失效形式多種多樣，故障的有效特征的提取也具有很大的難度。于是提取液壓信號的有效特征并完成高精度故障類別識別具有很大的研究意義。

目前，液壓系統(tǒng)的故障識別主要借助了機械系統(tǒng)故障診斷的方法。一般的機械系統(tǒng)故障診斷方法主要從時域、頻域與時頻域方面對信號特征提取進行識別[2]。液壓系統(tǒng)是一個高度復雜非線性系統(tǒng)，其信號是一個典型的非線性、非平穩(wěn)信號，并且在液壓泵工作的過程中常伴有強烈的機械振動等噪聲干擾，這使得對液壓信號的特征提取與識別變得異常困難[3]。針對液壓信號的復雜性，目前對液壓故障的主要處診斷方法基于小波分析方法、經(jīng)驗模態(tài)分解方法與小波包譜分析等方法[4]。唐宏賓等[5]提出了基于經(jīng)驗模式分解和包絡譜分析的識別方法，提取了液壓泵的早期故障的有效特征，精準實現(xiàn)了液壓泵4種狀態(tài)的分類。曹斌等[6]使用小波包對液壓信號進行消噪預處理，然后使用小波包對信號進行分解與重構，提取頻帶能量作為液壓信號的特征進行了有效的故障類別分類。韓可等[7]采用了變分模態(tài)分解和支持向量數(shù)據(jù)描述相結合的識別評估方法，完成了軸向柱塞泵故障的分析。王武[8]將液壓信號進行了三層小波包分解,獲得了8個頻段的能量信號,并以此作為隨機森林網(wǎng)絡的輸入進行了液壓故障的分類。

然而上述方法中，只使用到液壓信號的時域或者頻域單一方面的特征信息，并且將計算得到的特征數(shù)據(jù)直接輸入到分類模型中。這樣的簡單特征對于復雜的液壓信號來說，不能很好地反映液壓信號的全部信息。

強魯棒性的特征與有效的識別模型對于液壓信號的狀態(tài)識別都至關重要。近年來，深度學習發(fā)展迅速，并廣泛運用于各行各業(yè)?；凇產(chǎn)utoencoder’網(wǎng)絡的堆棧稀疏自編碼神經(jīng)網(wǎng)絡，是一種無監(jiān)督的學習算法，能夠從輸入的原始數(shù)據(jù)中自動學習魯棒性更強的高階特征。王黎陽等[9]利用Hilbert包絡譜信號輸入堆棧稀疏自編碼，完成了電機故障的診斷。Chen等將Softmax分類器和稀疏自編碼網(wǎng)絡應用于人機交互中的面部情緒識別。Kemal Adem等使用稀疏自編碼和Softmax分類器完成宮頸癌的診斷。正是由于堆棧稀疏自編碼器良好的特征學習與優(yōu)化能力，其被廣泛應用于故障診斷中。

本文選擇液壓信號中的壓力與流量兩類信號，對其進行時域分析并進行小波分解提取時域與小波特征作為低階特征。然后將組合特征輸入構建的堆棧稀疏自編碼網(wǎng)絡學習高階特征，最后使用Softmax層進行液壓泵的狀態(tài)識別。本文使用到了液壓信號的多方面的特征信息，并且通過深度學習學習了信號的高階特征，既使特征中既包含了更全面的信息，又達到了比較好的識別效果。

1 特征提取

小波變換是對信號按照Mallat提出的塔式計算方法對信號進行計算，可以得到信號的時頻信息[10]。由于本文所使用得液壓信號是離散信號，所以采用離散小波變換對信號進行處理。離散小波變換的表達式如下所示：

(1)

逆變換的公式為：

(2)

在式(1)與式(2)中，f(t) 表示原始液壓信號，ψ(t) 為小波母函數(shù)，2j與2jk分別表示伸縮因子與平移因子，式中A為與液壓信號無關的一個常數(shù)。

本文使用db1小波函數(shù)對液壓信號進行5層小波分解，每層都只對低頻部分進行分解，高頻部分則不處理，最后得到5個高頻系數(shù)和一個低頻系數(shù)，然后計算5個系數(shù)的樣本熵，小波分解后系數(shù)的樣本熵作為小波特征。樣本熵的具體原理參考文獻[11]。

為了獲得液壓信號所包含的更多信息，除了小波特征，本文還提取了信號的12個時域特征，分別是均值、方根幅值、均方根值、最大值、標準差、偏斜度、峭度、峰值因子、裕度因子、波形因子、脈沖因子、方差。最終將6個小波特征與12個時域特征組合作為液壓信號的表征特征向量。

2 深度神經(jīng)網(wǎng)絡

本文構造的三層深度神經(jīng)網(wǎng)絡(DNN)由兩個稀疏自編碼器(spare autoencoder, SAE)和一個Softmax分類器堆疊而成，如圖2所示。第一個稀疏自編碼器的輸入為低階的小波與時域組合的特征向量，輸出為優(yōu)化后的特征，這些高級特征繼續(xù)被接受為第二個稀疏自編碼器的輸入，繼續(xù)對特征進行優(yōu)化，第二稀疏自編碼器的輸出比第一稀疏自編碼器的輸出更高級。通過兩層的SSAE對低階特征進行優(yōu)化后，堆疊在第二個稀疏自編碼頂部的Softmax，用于接收第二個稀疏自編碼器的輸出并完成液壓泵狀態(tài)的識別。為了優(yōu)化提出的深度神經(jīng)網(wǎng)絡的識別效果，本文使用代價函數(shù)來對整個神經(jīng)網(wǎng)絡進行微調。通過反向傳播算法的使用，來調整神經(jīng)網(wǎng)絡中的Softmax層，第二層SAE，第一層SAE的參數(shù)，使得整個網(wǎng)絡的訓練誤差變小，達到優(yōu)化網(wǎng)絡識別效果的目的。

圖1 識別網(wǎng)絡結構圖

2.1 稀疏自編碼器

作為自編碼器(autoencoder, AE)的擴展，稀疏自編碼器可以通過在自編碼器中引入稀疏懲罰，以非監(jiān)督模式的方式學習相對稀疏的特征[12]。該方法提高了傳統(tǒng)自動編碼器的性能，在實際應用中具有廣闊的應用前景。

如圖2所示，一個標準的自編碼器包括一個編碼器和一個解碼器，即一個輸入層、一個隱藏層和一個輸出層，它們都試圖學習隱藏層的近似值，在對數(shù)據(jù)的編碼與解碼過程中，通過最大限度地減小原始數(shù)據(jù)與重建數(shù)據(jù)之間的差異，以便在輸出層完美地重建原始數(shù)據(jù)[13]。其中隱藏層的輸出可以作為未標記數(shù)據(jù)的高級特征。設未標記的特征數(shù)據(jù)為xi(i=1,2,3...N)，編碼過程將輸入矢量xi轉化為隱藏層矢量hi，隱藏層的數(shù)據(jù)hi可表達如下：

(3)

式中，F(xiàn)(.)表示編碼激活函數(shù)，W1和b1分別表示編碼過程中的權重矩陣與偏置矩陣。

(4)

式中，F(xiàn)(.) 表示解碼過程中的激活函數(shù)，W2和b2分別表示解碼過程中的權重矩陣與偏差矩陣。值得注意的是重構后的數(shù)據(jù)與原始輸入的數(shù)據(jù)是非常接近的，或者說重構數(shù)據(jù)是對輸入數(shù)據(jù)的復刻，這樣解碼后的隱藏層數(shù)據(jù)就可以作為高階特征使用。重構誤差可表達為：

(5)

式中,N為輸入的液壓信號的數(shù)量，λ是用來防止過擬合的正則化參數(shù)，L和nl分別表示SAE的第L層和第L層的第n個神經(jīng)元。

在此基礎上，通過對自編碼器的目標激活引入稀疏約束來實現(xiàn)特征的稀疏表示，從而形成了自編碼器的稀疏約束，更好地表達輸入數(shù)據(jù)。這時，隱藏單元的維數(shù)可以大于輸入的維數(shù)，這稱為稀疏自編碼器(sparse autoencoder, SAE)。于是稀疏自編碼器的重構誤差可由下式計算:

(6)

式中,

(7)

(8)

在訓練稀疏自編碼器的過程中，利用反向傳播算法來最小化損失函數(shù)來，從而得到SAE訓練過程中的權重與偏置的最優(yōu)參數(shù)。每次迭代的權值和偏置如下：

(9)

(10)

在式(9)和式(10)中，i和j分別表示SAE相鄰兩層中的第i個和第j個神經(jīng)元；l表示SAE的第l層；η表示學習率。

2.2 Softmax分類器

Softmax是邏輯斯蒂回歸在分類問題的擴展，在本文中，將Softmax連接到兩個稀疏自編碼器的頂部進行分類任務，并對整個網(wǎng)絡進行微調[14]。作為一個二元分類器，Logistic回歸定義如下:

(11)

式中，θ是模型參數(shù)，x是輸入的數(shù)據(jù)。

設有m個樣本{(x1,y1),(x2,y2),…(xm,ym)} ，xi為輸入的特征數(shù)據(jù)，yi為相應的標簽。其中yi∈{1,2，3...k} ，k為分類的類別種類數(shù)量。于是，對于每一個輸入的樣本xi，都將會有相應的1概率輸出p(y=j|x) 來表示xi被判別為j的概率。比如，一個k分類問題，輸出結果就是一個k維矢量：

(12)

Softmax的代價函數(shù)如下：

(13)

(14)

上兩式中，l(.)表示指示函數(shù)，即l(真)=1，l(假)=0。

本文方法的具體流程如圖2所示。

圖2 本文方法流程圖

3 實驗與分析

3.1 數(shù)據(jù)描述

本文所使用的實驗數(shù)據(jù)來自2018年公布在UCI數(shù)據(jù)庫中的液壓系統(tǒng)狀態(tài)監(jiān)測數(shù)據(jù)集[15]。該數(shù)據(jù)集是使用液壓試驗臺通過實驗獲得的。該液壓系統(tǒng)周期性地重復恒定的負載循環(huán)(持續(xù)時間為60 s)，在負載過程中測量過程值，包括壓力、體積流量、和溫度等。本文的主要研究內容為液壓泵的泄漏狀態(tài)的識別，故選擇了與液壓泵的工作狀態(tài)聯(lián)系比較緊密的主回路中的4個傳感器的數(shù)據(jù)對液壓泵無泄漏、弱微泄漏和嚴重泄漏三種狀態(tài)進行識別。傳感器包括3個壓力傳感器：PS1、PS2、PS3，一個流量傳感器：FS1。其中3個壓力傳感器是按照100 Hz進行采樣的，流量傳感器按照10 Hz進行采樣，所以一條壓力傳感器記錄具有60 000個數(shù)據(jù)點，一條流量傳感器具有6000個數(shù)據(jù)點。所使用的液壓泵數(shù)據(jù)的泄漏狀態(tài)、樣本數(shù)量與分類標簽如表1所示。

表1 液壓泵樣本數(shù)據(jù)

3.2 實驗步驟

本文的實驗流程具體步驟如下：

(1)利用小波變換與時域分析對每條記錄提取一共18個低階特征。因選擇4個傳感器的數(shù)據(jù)，經(jīng)過特征提取，組合4個傳感器的特征，所以最后使用48個特征數(shù)據(jù)來表征一種泵的泄漏狀態(tài)；

(2)每類泄漏狀態(tài)各有450個樣本，隨機選擇每類狀態(tài)的250個樣本作為訓練集，200個樣本作為測試集，故最終訓練集樣本量為750，測試集樣本量為600；

(3)對訓練集與測試集建立對應標簽，具體見表1；

(4)參數(shù)初始化。設置第一個SAE的隱藏層神經(jīng)元個數(shù)為25，第二個SAE的隱藏層的神經(jīng)元個數(shù)為8，L2正則化權重衰減系數(shù)為0.0001，稀疏性懲罰權重因子為4，稀疏性系數(shù)為0.06。其他具體參數(shù)見表2；

(5)深度神經(jīng)網(wǎng)絡的訓練與測試。首先用訓練集對構建的深度神經(jīng)網(wǎng)絡進行訓練。通過構建的損失函數(shù)，利用梯度下降算法來調整網(wǎng)絡的權值和縮小網(wǎng)絡的重構誤差。當訓練好了網(wǎng)絡后，再用測試集對網(wǎng)絡進行測試。

表2 DNN參數(shù)設置

3.3 實驗結果

圖3為提出的深度神經(jīng)網(wǎng)絡的液壓泵泄漏狀態(tài)的識別結果的混淆矩陣圖。如圖所示，混淆矩陣的橫坐標與縱坐標分表代表液壓泵的實際與預測狀態(tài)類別，右下角方框內為綜合識別精度。由圖可知液壓泵狀態(tài)識別的綜合識別精度達到了98%。對角線上的數(shù)據(jù)為每類泄漏狀態(tài)中正確預測的樣本數(shù)量與其在總測試集的比例，最下排為每類狀態(tài)的識別精度。由圖可以知道，無泄漏、弱微泄漏與嚴重泄漏三種狀態(tài)的正確識別數(shù)量分別為193、197、198，精度分別為96.5%、98.5%與99%。由此可知提出的深度神經(jīng)網(wǎng)絡能夠有效地識別液壓泵的三種泄漏狀態(tài)。

圖3 DNN識別結果

3.4 SSAE高階特征提取能力分析

本文構造的神經(jīng)網(wǎng)絡有兩個稀疏自編碼器構成，其中，每個稀疏自編碼器隱藏層的神經(jīng)元個數(shù)，即本實驗中每個稀疏自編碼器所用到的輸出對于最終的識別精度具有一定的影響。本文基于網(wǎng)格搜索對兩個自編碼器的隱含層節(jié)點數(shù)進行了優(yōu)化[16]。根據(jù)輸入特征維度為7維，具體設置第一個自動編碼器的隱含層節(jié)點數(shù)，從30～70，遞增10個，將第二自動編碼器的隱含層節(jié)點數(shù)量從4個增加到20個，每增加4個，如表2列所示。重復5次實驗求平均以評估預測性能，實驗結果如表3所示(表3中：*表示第二層SAE神經(jīng)元個數(shù)；#表示第一層SAE神經(jīng)元個數(shù))。最后依據(jù)預測精度(ACC)設置兩層神經(jīng)元個數(shù)的設置數(shù)量分別為30與20。

表3 DNN在不同結構下的識別精度熱力圖(%)

本文采取了對比實驗驗證提出的深度神經(jīng)網(wǎng)絡對液壓泵泄漏狀態(tài)識別的有效性。分別使用隨機森林(RBF)與支持向量機(SVM)進行10次獨立重復實驗，三種模型都是用相同的訓練集與測試集。圖4為最終的實驗分類精度結果圖。由圖可以看出對于液壓泵泄漏狀態(tài)的識別，提出的深度神經(jīng)網(wǎng)絡(DNN)具有最好的識別效果，識別精度穩(wěn)定在98%左右，最高達到99.3%；RBF的識別效果有一定的波動，識別精度在96%左右；SVM的識別效果最差，識別精度在86%左右，且有一定的波動。對比實驗結果表明，基于SSAE的深度神經(jīng)網(wǎng)絡相對于傳統(tǒng)的分類模型，具有更好的特征優(yōu)化能力，對液壓泵泄漏狀態(tài)具有更好的識別效果。

圖4 實驗結果對比

4 結論

本文提出了基于堆棧稀疏自編碼器(SSAE)與Softmax的液壓泵泄漏狀態(tài)識別的深度神經(jīng)網(wǎng)絡(DNN)。通過在SSAE中引入稀疏參數(shù)的方法，在對數(shù)據(jù)的編碼與解碼過程中，獲得更具魯棒性的中間層數(shù)據(jù)作為高級特征使用，最后使用Softmax進行分類。實驗證明，本文提出的DNN對原始低階的小波與時域組合特征具有較好的優(yōu)化性能，并最終達到較好的識別精度，最高達到99.3%，識別效果優(yōu)于傳統(tǒng)的分類器隨機森林(RBF)與支持向量機(SVM)。通過SSAE對原始特征的優(yōu)化能力，解決了液壓信號復雜難以識別的難題，有效完成了液壓泵泄漏狀態(tài)的識別。未來，該DNN模型也可以用于其他復雜信號的分類識別過程中。