基于GAN的刀具狀態(tài)監(jiān)測數(shù)據(jù)集增強(qiáng)方法*

牛蒙蒙，沈明瑞，秦 波，厲大維，劉 闊，王永青

(大連理工大學(xué)機(jī)械工程學(xué)院，遼寧 大連 116024)

0 引言

隨著人工智能的發(fā)展，越來越多的學(xué)者將機(jī)器學(xué)習(xí)，尤其是深度學(xué)習(xí)應(yīng)用在機(jī)械加工狀態(tài)的監(jiān)測中，如刀具狀態(tài)監(jiān)測、設(shè)備健康狀態(tài)監(jiān)測等。然而，和其它應(yīng)用領(lǐng)域不同的是，大多數(shù)機(jī)械加工過程在正常狀態(tài)下運(yùn)行，異常狀態(tài)下的樣本數(shù)據(jù)量相對較少，容易出現(xiàn)數(shù)據(jù)不平衡的問題[1]。訓(xùn)練數(shù)據(jù)集不平衡會導(dǎo)致深度學(xué)習(xí)網(wǎng)絡(luò)在預(yù)測加工狀態(tài)時難以提高準(zhǔn)確性，因此，如何解決數(shù)據(jù)不平衡問題成為提高加工狀態(tài)監(jiān)測準(zhǔn)確性的關(guān)鍵。

解決該問題的辦法之一是增強(qiáng)數(shù)據(jù)集。一些學(xué)者對增強(qiáng)數(shù)據(jù)集的方法做了研究。Chawla N V[2]提出了一種合成少數(shù)類過采樣技術(shù)(Synthetic Minority Oversampling Technique, SMOTE)，可以隨機(jī)插入虛擬樣本來平衡訓(xùn)練集。Ramentol E等[3]提出了一種改進(jìn)的基于粗糙集理論的SMOTE算法對少數(shù)樣本進(jìn)行過采樣。Sun Y等[4]在AdaBoost學(xué)習(xí)框架中添加了一個成本項目，以調(diào)整少數(shù)樣本的權(quán)重。

通過上述研究可以看出，盡管上述這些方法獲得了良好的性能，但是它們?nèi)匀痪哂幸恍┤秉c(diǎn)，其中之一是缺乏適應(yīng)性，即它們不能自動學(xué)習(xí)樣本的數(shù)據(jù)分布特性[5]。另外，過采樣只是對少數(shù)類樣本進(jìn)行重復(fù)增加，不能添加新的數(shù)據(jù)信息，一定程度上會造成過擬合；欠采樣是從多數(shù)類樣本中提取或刪除數(shù)據(jù)，這種方法會造成數(shù)據(jù)信息丟失使模型無法充分利用已有的信息。這些方法并不能從根本上解決數(shù)據(jù)不平衡問題。

生成對抗網(wǎng)絡(luò)(Generative Adversarial Networks，GANs)[6]作為2014年提出的無監(jiān)督學(xué)習(xí)模型，在增強(qiáng)數(shù)據(jù)集、加工狀態(tài)監(jiān)測領(lǐng)域有著廣闊的應(yīng)用前景。通過訓(xùn)練生成對抗網(wǎng)絡(luò)產(chǎn)生新樣本，從而補(bǔ)充數(shù)據(jù)流形已達(dá)到近似真實(shí)分布，在不同類型的數(shù)據(jù)之間產(chǎn)生更好的邊界[7]。本文在鏜削加工實(shí)驗(yàn)中，利用生成對抗網(wǎng)絡(luò)對刀具在異常狀態(tài)下的樣本數(shù)據(jù)進(jìn)行生成，并在深度置信網(wǎng)絡(luò)上測試生成數(shù)據(jù)的可用性。實(shí)驗(yàn)證明，該方法有效地提高刀具狀態(tài)監(jiān)測的準(zhǔn)確性。

1 生成對抗網(wǎng)絡(luò)

生成式對抗網(wǎng)絡(luò)框架由一個生成器G和一個鑒別器D構(gòu)成。生成器負(fù)責(zé)生成和真實(shí)數(shù)據(jù)維度相同的偽數(shù)據(jù)，鑒別器負(fù)責(zé)區(qū)分真實(shí)數(shù)據(jù)和生成數(shù)據(jù)；在對抗訓(xùn)練過程中，生成器試圖用生成的偽數(shù)據(jù)去愚弄鑒別器，使其鑒別為真，而鑒別器通過提高自己的鑒別能力分辨生成數(shù)據(jù)和真實(shí)數(shù)據(jù)，兩者進(jìn)行博弈，最終達(dá)到納什平衡狀態(tài)，即生成器生成的樣本數(shù)據(jù)與真實(shí)的樣本數(shù)據(jù)無差別，鑒別器也無法區(qū)分生成的樣本數(shù)據(jù)和真實(shí)的樣本數(shù)據(jù)。GAN的架構(gòu)如圖1所示。

本文中所采用的生成器和鑒別器均為三層全連接神經(jīng)網(wǎng)絡(luò)。如圖2所示。設(shè)輸入的隨機(jī)噪聲序列為z=[z1,z2,…,zi,…zk]，其中zi∈Rm,m為噪聲數(shù)據(jù)的維度，k為噪聲數(shù)據(jù)的個數(shù)；原始樣本數(shù)據(jù)序列為x=[x1,x2,…,xj,…,xl]，其中xj∈Rn，n為原始樣本數(shù)據(jù)的維度，l為原始樣本數(shù)據(jù)的個數(shù)。輸入層到隱含層以及隱含層到輸出層的映射公式如式(1)所示：

hi=fθ(w*zi+b)hj=fθ(w*xj+b)

(1)

式中，f為激活函數(shù)，θ={w,b}是網(wǎng)絡(luò)的參數(shù)矩陣，其中w是輸入層、隱含層和輸出層神經(jīng)元之間的連接權(quán)值，b是隱含層和輸出層神經(jīng)元的閾值。

圖1 GAN架構(gòu)示意圖

圖2 GAN的結(jié)構(gòu)示意圖

生成器和鑒別器的隱含層的激活函數(shù)均為ReLU函數(shù)，生成器的輸出層的激活函數(shù)采用Sigmoid函數(shù)。

生成對抗網(wǎng)絡(luò)的目標(biāo)函數(shù)如式(2)所示：

(2)

式中,Pdata(x)是真實(shí)數(shù)據(jù)的數(shù)據(jù)分布，Pz(z)是一個先驗(yàn)噪聲分布(如高斯分布或者均勻分布)；D(x)表示x來自真實(shí)數(shù)據(jù)的概率；D(G(z))表示G(z)來自生成數(shù)據(jù)的概率，其中G(z)是生成器由服從先驗(yàn)分布的噪聲數(shù)據(jù)z生成的數(shù)據(jù)樣本；Ex～Pdata(x)表示x來自真實(shí)數(shù)據(jù)的數(shù)據(jù)分布的期望，Ez～Pz(z)表示z來自噪聲分布的期望。

亞當(dāng)優(yōu)化算法能夠?qū)γ總€不同的參數(shù)調(diào)整不同的學(xué)習(xí)率, 比標(biāo)準(zhǔn)的隨機(jī)梯度下降法更有效地收斂，因此本文采用亞當(dāng)優(yōu)化算法來更新參數(shù)。

2 深度置信網(wǎng)絡(luò)

深度置信網(wǎng)絡(luò)(Deep Belief Network, DBN)[8]由多層限制玻爾茲曼機(jī)(Restricted Boltzmann Machine, RBM)堆疊構(gòu)成。結(jié)構(gòu)如圖3所示。

圖3 深度置信網(wǎng)絡(luò)結(jié)構(gòu)

RBM是基于能量的模型，其聯(lián)合概率分布由能量函數(shù)指定。對于一組特定的(v，h)，RBM能量函數(shù)的定義為：

(9)

其中，vi和hj是可見單元i和隱藏單元j的二進(jìn)制狀態(tài)，θ={w,b,a}是模型的參數(shù),wij是可見單元i和隱藏單元j之間的連接權(quán)值，bi和aj是分別表示其偏置值，V和H是可見單元和隱藏單元個數(shù)。式(10)和式(11)是RBM中的學(xué)習(xí)過程和推理過程。

(10)

(11)

其中，f(x)=1/((1+e(-x)))是激活函數(shù)。

(12)

其中，〈·〉data表示一個期望的數(shù)據(jù)分布，〈·〉model表示由模型定義的期望分布。在實(shí)際應(yīng)用中，使用對比散度方法計算梯度，即利用吉布斯采樣取代〈·〉model。

DBN采用逐層訓(xùn)練的方式,并利用Back propagation (BP)對網(wǎng)絡(luò)權(quán)值進(jìn)行調(diào)整[9]，因此訓(xùn)練方式為無監(jiān)督和有監(jiān)督相結(jié)合[10]。本文中，DBN的輸出層采用Softmax分類方式對刀具狀態(tài)進(jìn)行分類。

3 基于GAN的刀具狀態(tài)監(jiān)測

本文所提出的基于GAN的刀具狀態(tài)數(shù)據(jù)集增強(qiáng)方法實(shí)施步驟如下：

(1) 采用傳感器采集系統(tǒng)獲取刀具切削過程中的振動信號和噪聲信號；

(2) 將服從先驗(yàn)分布的噪聲數(shù)據(jù)輸入到生成器生成數(shù)據(jù)，并將生成數(shù)據(jù)和采集的真實(shí)樣本數(shù)據(jù)輸入到鑒別器進(jìn)行鑒別，生成器和鑒別器兩者之間進(jìn)行對抗訓(xùn)練，直到訓(xùn)練完成；

(3) 利用訓(xùn)練好的生成器生成樣本數(shù)據(jù)，并判斷生成的樣本數(shù)據(jù)和真實(shí)的刀具狀態(tài)樣本數(shù)據(jù)的分布是否相似；

(4) 結(jié)合深度學(xué)習(xí)網(wǎng)絡(luò)模型預(yù)測刀具狀態(tài)的準(zhǔn)確性檢驗(yàn)生成數(shù)據(jù)的可用性。流程如圖4所示。

圖4 流程圖

4 實(shí)驗(yàn)驗(yàn)證

4.1 數(shù)據(jù)獲取

本次試驗(yàn)采用國產(chǎn)某型號深孔鏜床，刀具為硬質(zhì)合金YT15刀加工深孔工件，并采集了鏜削過程中的振動和聲音數(shù)據(jù)。傳感器的安裝位置示意圖如圖5所示。

1.工件保持架 2.工件 3.機(jī)床齒輪箱 4.傳聲器 5.床身 6.1#三向加速度傳感器 7.刀桿 8.2#三向加速度傳感器 9.刀桿保持架圖5 傳感器安裝位置示意圖

按照刀具狀態(tài)將數(shù)據(jù)分成三類，第一類是正常，第二類為斷刀，第三類為磨鈍。三類樣本個數(shù)如表1所示。每個樣本中振動信號的數(shù)據(jù)點(diǎn)為6000，噪聲信號的數(shù)據(jù)點(diǎn)為1000，因此每個樣本的數(shù)據(jù)點(diǎn)為7000。

表1中刀具磨鈍狀態(tài)的樣本數(shù)據(jù)明顯少于正常狀態(tài)和斷刀狀態(tài)的樣本數(shù)據(jù)，因此我們對磨鈍狀態(tài)的樣本數(shù)據(jù)進(jìn)行生成。

表1 樣本數(shù)量

4.2 生成對抗網(wǎng)絡(luò)的訓(xùn)練與數(shù)據(jù)生成

本發(fā)明采用的生成對抗網(wǎng)絡(luò)模型中，生成器和鑒別器都采用三層全連接神經(jīng)網(wǎng)絡(luò)模型，其中生成器和鑒別器的隱含層的神經(jīng)元個數(shù)設(shè)置為125個，生成器的輸入神經(jīng)元個數(shù)為100個。學(xué)習(xí)率設(shè)為0.001，批量大小為12個，迭代次數(shù)設(shè)置為100次，輸入的噪聲分布服從區(qū)間為[-1,1]的均勻分布。磨鈍狀態(tài)真實(shí)樣本數(shù)據(jù)和生成樣本數(shù)據(jù)的比例為1:3。平衡后的樣本數(shù)量如表2所示。

表2 平衡后樣本數(shù)量

4.3 深度置信網(wǎng)絡(luò)的訓(xùn)練與測試

深度置信網(wǎng)絡(luò)模型的參數(shù)設(shè)置如下：學(xué)習(xí)速率為0.001；無監(jiān)督訓(xùn)練過程的迭代次數(shù)為100，微調(diào)過程的迭代次數(shù)為200。隱含層為三層，每一層的神經(jīng)元的個數(shù)分別為100、60、30。由于動量梯度下降法優(yōu)于梯度下降法，因此我們采用動量梯度下降法來優(yōu)化參數(shù)，動量項為0.9。利用增強(qiáng)的數(shù)據(jù)集訓(xùn)練深度學(xué)習(xí)網(wǎng)絡(luò)，并在測試集上進(jìn)行測試。這里測試集由真實(shí)數(shù)據(jù)組成且和訓(xùn)練集沒有任何交集。

4.4 刀具狀態(tài)監(jiān)測結(jié)果與分析

4.4.1 生成的樣本分析

利用MATLAB做出真實(shí)樣本數(shù)據(jù)和生成樣本數(shù)據(jù)的時頻圖，如圖6所示。從時域圖和頻譜圖可以看出，真實(shí)的樣本數(shù)據(jù)和生成的樣本數(shù)據(jù)分布相似度較高。

(a) 時域圖

(b) 頻譜圖圖6 時頻圖

4.4.2 增強(qiáng)數(shù)據(jù)集前后對比分析

本文對比了增強(qiáng)數(shù)據(jù)集前后，刀具狀態(tài)監(jiān)測結(jié)果，如表3所示。由表可以看出，增強(qiáng)的訓(xùn)練數(shù)據(jù)集在分類精度方面具有較好的性能。

表3 試驗(yàn)結(jié)果

5 結(jié)論

本文提出一種基于生成對抗網(wǎng)絡(luò)的刀具狀態(tài)數(shù)據(jù)集增強(qiáng)方法。利用生成對抗網(wǎng)絡(luò)能夠自動學(xué)習(xí)原始數(shù)據(jù)的分布的特點(diǎn)，生成和原始數(shù)據(jù)分布相似的樣本數(shù)據(jù)，增強(qiáng)訓(xùn)練數(shù)據(jù)集。并用深度置信網(wǎng)絡(luò)測試生成數(shù)據(jù)的可用性。由結(jié)果可知，增強(qiáng)數(shù)據(jù)集有效提高了刀具狀態(tài)監(jiān)測準(zhǔn)確性。因此，該方法在增強(qiáng)數(shù)據(jù)集、加工狀態(tài)監(jiān)測領(lǐng)域有著廣闊的應(yīng)用前景。