董駿捷,唐 建,周然之,楊超越
(陸軍工程大學(xué)野戰(zhàn)工程學(xué)院,南京 210007)
信號去噪是信號處理的重要環(huán)節(jié)。經(jīng)典的去噪方法有小波分解[1-3]、經(jīng)驗?zāi)B(tài)分解[4-6](Empirical Mode Decomposition,EMD)、奇異值分解[7-8](Singular Value Decomposition,SVD)等。其中小波分解和SVD本質(zhì)上都是選取某一種核,對含噪信號進行分解后,去除掉被認(rèn)為是噪聲的部分,重構(gòu)后得到降噪信號。這類基于核的方法,需要依賴人的經(jīng)驗去選擇核和確定閾值,自適應(yīng)性差,在用于時變信號去噪時,效果往往不佳。EMD是一種依據(jù)信號本身特性的自適應(yīng)分解方法,但其存在著過沖-欠沖及邊界效應(yīng),導(dǎo)致信號在逐層分解與重構(gòu)過程中出現(xiàn)失真。
近年來,深度學(xué)習(xí)領(lǐng)域中的生成式對抗網(wǎng)絡(luò)[6](Generative Adversarial Networks,GAN)發(fā)展迅猛,以其良好的數(shù)據(jù)生成能力、泛化能力、自適應(yīng)能力,在圖像去霧、去雨滴等問題上取得了良好應(yīng)用,其本質(zhì)上也是二維信號的去噪問題,為一維時序信號的去噪帶來新的思路。
原始GAN最初由Goodfellow等在2014年提出。其由生成器Generator和判別器Discriminator兩大部分組成。如圖1所示,生成器G根據(jù)輸入的隨機序列z來產(chǎn)生盡量服從真實數(shù)據(jù)分布Pdata(x)的生成樣本G(z),以欺騙判別器D,而D的作用是判斷輸入樣本是真實樣本x還是生成樣本G(z)。在G與D的交替訓(xùn)練過程中,兩者之間相互對抗,互相促進,最終達(dá)到納什均衡,使G能夠生成高度逼近真實分布的G(z),而D則由于無法正確區(qū)分x和G(z),其輸出最終會逼近一個固定值。
圖1 GAN的原理Figure 1 Principle of GAN
GAN的目標(biāo)函數(shù)如下所示:
原始GAN一經(jīng)提出,立即衍生出大量改進模型,如DCGAN、AC-GAN、CC-GAN、InfoGAN、LSGAN、SGAN、DualGAN、CycleGAN、BGAN等。其中,2015年,Alec Radford提出的深度卷積GAN(Deep Convolutional GAN,DCGAN),將卷積神經(jīng)網(wǎng)絡(luò)與GAN結(jié)合起來,把原始GAN的G和D所采用的多層感知機模型均改為CNN結(jié)構(gòu),大大優(yōu)化了原始GAN的性能,該結(jié)構(gòu)也多為其他衍生模型所借鑒。2017年,Kim提出了CycleGAN(Cycle-Consistent Generative Adversarial Networks),顧名思義,其是由兩個鏡像對稱的GAN構(gòu)成的環(huán)形網(wǎng)絡(luò)。該模型可以實現(xiàn)兩類有一定相關(guān)性的樣本的相互轉(zhuǎn)換,即通過無監(jiān)督訓(xùn)練,使得生成網(wǎng)絡(luò)學(xué)習(xí)到兩類樣本空間相互間的最佳映射。CycleGAN在圖片風(fēng)格遷移領(lǐng)域取得了成功應(yīng)用,而信號去噪也是某種意義上的信號風(fēng)格遷移,因而同樣可利用該方法來實現(xiàn)信號去噪。
基于CycleGAN的自適應(yīng)去噪,就是尋求信號從含噪空間到無噪空間的最佳映射關(guān)系的過程。為實現(xiàn)這一目標(biāo),需要構(gòu)建含噪信號和無噪信號兩類樣本集,對CycleGAN進行訓(xùn)練,從而獲得兩個生成器。其中一個生成器以含噪信號為輸入,以無噪信號為輸出,也就是實現(xiàn)了端到端的自適應(yīng)去噪功能。去噪CycleGAN的結(jié)構(gòu)及原理如圖2所示。
圖2 去噪CycleGAN的結(jié)構(gòu)及原理Figure 2 The structure and principle of denoising CycleGAN
兩個對稱的GAN共享兩個生成器GAB和GBA,分別完成從含噪信號樣本空間A到無噪信號樣本空間B的映射與逆映射,并各自帶一個判別器DB和DA。DB用于分辨真實的無噪信號與生成的偽無噪信號;DA用于分辨真實的含噪信號與生成的偽含噪信號。一個單向GAN存在由G損失和D損失組成的一組對抗損失,一對鏡像的GAN就存在GAB與DB、GBA與DA這兩組對抗損失。
對于GBA與DA,對抗損失函數(shù)如下所示:
對于GAB與DB,對抗損失函數(shù)為:
此外,CycleGAN還增加了一項循環(huán)一致性損失,即要求任意一個信號依次通過兩個生成器后,得到的重構(gòu)信號能夠與自身盡可能一致,即要求:
循環(huán)一致性損失函數(shù)表達(dá)式為:
至此,整個CycleGAN的總損失函數(shù)即為兩組對抗損失和一組循環(huán)一致性損失之和:
本文所搭建的CycleGAN,其鏡像的兩個GAN均采用一致的DCGAN結(jié)構(gòu)。
判別器由5層卷積神經(jīng)網(wǎng)絡(luò)組成。其輸入為樣本庫的真實信號和生成器的生成信號,輸出是一個1×32的判別向量,根據(jù)該向量與0向量和1向量的歐氏距離的大小,判定輸入信號是真實信號還是生成器生成的假信號。
生成器的結(jié)構(gòu)可分為編碼器、轉(zhuǎn)換器和解碼器3大部分。編碼器通過3層卷積模塊,將1個輸入信號壓縮成256個特征向量;轉(zhuǎn)換器由9層殘差模塊組成,通過組合信號的不相近特征,將信號在含噪域中的特征向量轉(zhuǎn)換為無噪域中的特征向量;解碼器則利用反卷積層完成從特征向量中還原出低級特征的工作,最后得到的輸出是1個生成信號。
實驗所用訓(xùn)練數(shù)據(jù)集由A集和B集組成,各為5 000個無噪與增加了信噪比為1的高斯白噪聲的含噪信號;測試數(shù)據(jù)集由隨機生成的信噪比分別為0.5、1、1.5、2、2.5、3的含高斯白噪聲的時變信號各200個組成。每個信號采樣頻率均為為1 000 Hz,長度為256,經(jīng)一化處理。
實驗采用信噪比SNR(Signal Noise Ratio)和均方誤差MSE(Mean Squared Error)來評判去噪效果。其中,SNR用以評價噪聲的去除情況;MSE用以評價去噪后的信號與真實信號之間的一致性。
首先,用訓(xùn)練數(shù)據(jù)集A集和B集對搭建的CycleGAN網(wǎng)絡(luò)進行訓(xùn)練,待到對抗性損失與循環(huán)一致性損失收斂到穩(wěn)定值時,停止訓(xùn)練,保存模型,此時的生成器GAB即學(xué)習(xí)到了從含噪域A到無噪域B的最佳映射;隨后,選取信噪比分別為0.8、1、1.5、2、2.5、3的1~6組含噪信號測試集,分別輸入具有去噪功能的生成器GAB,將輸出的去噪結(jié)果再分別與小波閾值去噪結(jié)果進行定量對比,通過SNR和MSE兩個指標(biāo)來評判其去噪性能。
圖3~4所示為各組測試集的200個含噪信號用不同方法去噪后,信號的信噪比和均方誤差的分布情況。6組測試結(jié)果的均值如表1所示??芍珻ycleGAN去噪均方誤差遠(yuǎn)小于小波閾值法,信噪比遠(yuǎn)高于小波閾值法。
圖3 不同方法去噪后信號的MSE分布對比Figure 3 MSE distribution of signals denoised by different methods
圖4 不同方法去噪后信號的SNR分布對比Figure 4 SNR distribution of signals denoised by different methods
圖5~6分別從時域上和時頻域上直觀地展現(xiàn)了CycleGAN去噪的優(yōu)良效果??梢?,CycleGAN去噪有效克服了小波閾值法去噪在面對低信噪比信號時設(shè)定的閾值一刀切地將有用信號也當(dāng)做噪聲去除這一不足,通過模型的循環(huán)對抗訓(xùn)練,得到了具備自適應(yīng)映射能力的生成器,對噪聲能量較高的含噪信號也能很好地去噪,近乎逼真地還原為無噪信號。此外,生成網(wǎng)絡(luò)具有良好的泛化性能,能將其他不同信噪比的含噪信號也很好地從含噪空間映射到無噪空間。
表1 不同去噪方法的實驗結(jié)果對比Table 1 Experimental results of different denoising methods
圖5 時域上的去噪效果比較Figure 5 Denoising effects in the time domain
圖6 時頻域上的去噪效果比較Figure 6 Denoising effects in the time-frequency domain
本文以尋找信號從含噪域到無噪域的最優(yōu)映射的思想為指導(dǎo),構(gòu)建了一維CycleGAN去噪網(wǎng)絡(luò),對一維時變信號自適應(yīng)去噪方法開展了研究。實驗結(jié)果表明,該方法得到的去噪生成器,面對低信號比的時變信號具有比傳統(tǒng)方法更優(yōu)越的自適應(yīng)去噪能力,并且具備良好的泛化性能。但對于生成器與判別器究竟如何學(xué)習(xí)到含噪信號與無噪信號的特征及其相互映射,尚不明確其數(shù)學(xué)原理。CycleGAN去噪的內(nèi)部黑箱機理,值得下一步重點研究。