江 虹,王新遠(yuǎn),王奉宇,李 進(jìn)
(長春工業(yè)大學(xué)電氣與電子工程學(xué)院,吉林 長春 130012)
近年來,隨著光纖傳感技術(shù)的快速發(fā)展,以光纖傳感技術(shù)為基礎(chǔ)的周界安防系統(tǒng)以其探測精度高、響應(yīng)快、節(jié)約能源、技術(shù)新穎等諸多技術(shù)優(yōu)勢成為周界入侵安防領(lǐng)域研究的熱點[1]。
光纖在外界受到擾動時,振動信號容易產(chǎn)生交叉敏感,使測量結(jié)果具有很強的非線性、不穩(wěn)定性和間歇性。為此,國內(nèi)外研究者們進(jìn)行了廣泛而深入的研究,提出了很多新穎有效的信號處理與識別方法。如基于時頻特征信號識別定位的方法[2]、基于小波變換的目標(biāo)檢測方法[3]、基于神經(jīng)網(wǎng)絡(luò)識別分類的方法[4]、基于支持向量機(SVM)目標(biāo)識別的方法[5]等,這些方法雖然獲得了較高的識別率,但各自具有很強的局限性、不穩(wěn)定性,進(jìn)而很難滿足實時處理的要求。
針對上述問題,提出一種改進(jìn)的支持向量機(SVM)信號識別方法。該方法采用粒子群算法(PSO)對灰狼算法(GWO)作進(jìn)一步的優(yōu)化,建立一種改進(jìn)的灰狼優(yōu)化策略(PSO-GWO),并將PSO-GWO用于SVM模型的參數(shù)優(yōu)化。最后進(jìn)行了仿真實驗,并與原始SVM模型、粒子群優(yōu)化的SVM模型(PSO-SVM)、遺傳算法優(yōu)化的SVM模型 (GA-SVM)進(jìn)行比較,結(jié)果表明,該方法不僅具有良好的分類準(zhǔn)確性,而且具有較高的靈敏度和特異性,優(yōu)于傳統(tǒng)的信號識別方法。
支持向量機(SVM)是一種分類算法,通過尋求結(jié)構(gòu)化風(fēng)險最小來提高學(xué)習(xí)機泛化能力,實現(xiàn)經(jīng)驗風(fēng)險和置信范圍的最小化,從而達(dá)到在統(tǒng)計樣本量較少的情況下,也能獲得良好統(tǒng)計規(guī)律的目的[6-7]。
(1)
在非線性情況下,決策函數(shù)可以表示如下:
(2)
一般來說,任何滿足的半正定函數(shù)Mercer條件可以用作內(nèi)核函數(shù),常用的核函數(shù)有四種,線性核函數(shù):K(x,x*)=(x·x*)、多項式內(nèi)核:(K(x,x*)=((x·x*)+1)d)、RBF內(nèi)核:K(x,x*)=exp((-2γ)-1x-x*2)和sigmoid內(nèi)核K(x,x*)=tan(v(x·x*)+c)。本文采用RBF內(nèi)核作為SVM預(yù)測入侵信號的核函數(shù),懲罰因子C和內(nèi)核參數(shù)γ直接決定SVM的學(xué)習(xí)性能。
灰狼優(yōu)化(GWO)是Mirjalili等人在2014年提出的元啟發(fā)式算法[8],它通過模仿了灰狼的種族領(lǐng)導(dǎo)和狩獵機制提出的,在GWO的每一次迭代中,有三種候選的解決方案被稱為是alpha,beta和delta,主導(dǎo)捕食行為。alpha被稱為最優(yōu)解,beta和delta被稱為次優(yōu)解,最底層的灰狼稱為omega,需要協(xié)助alpha,beta和delta來包圍,狩獵和攻擊獵物,找到更好的解決方案。
為了模擬灰狼的環(huán)繞行為,提出以下數(shù)學(xué)模型:
(3)
(4)
(5)
(6)
針對灰狼算法易陷入局部最優(yōu)這一問題,本文將粒子群算法融合到灰狼算法中去,從而改進(jìn)該算法的尋優(yōu)性能。
粒子群優(yōu)化(PSO)首先由肯尼迪(Kennedy)和埃伯哈特(Eberhart)開發(fā)[9],PSO算法的基本思想是通過群體中個體之間的協(xié)作和信息共享來尋找最優(yōu)解。PSO的優(yōu)勢在于簡單容易實現(xiàn)并且沒有許多參數(shù)的調(diào)節(jié),目前已被廣泛應(yīng)用于函數(shù)優(yōu)化、神經(jīng)網(wǎng)絡(luò)訓(xùn)練、模糊系統(tǒng)控制以及其他遺傳算法的應(yīng)用領(lǐng)域[10]。在PSO中,每個粒子都被看作d維空間中的一個粒子,每一個粒子都有一個位置和速度,第i個粒子的位置向量表示為:Xi=(xi,1,xi,2,…,xi,d),其速度表示為:Vi=(vi,1,vi,2,…,vi,d)。其速度和位置的更新如下:
(7)
(8)
c1和c2是加權(quán)系數(shù),較低的值允許粒子在被拉回之前可以在目標(biāo)區(qū)域外徘徊,較高的值導(dǎo)致粒子突然地沖向或越過目標(biāo)區(qū)域。此外,r1和r2是在[0,1]的范圍內(nèi)均勻生成式(7)的隨機數(shù),速度vi,j限制在[-vmax,vmax]。
為了特征選擇的目的,Kennedy和Eberhart[12]引入的二進(jìn)制PSO被采用。在這個版本的PSO中,應(yīng)用了Sigmoid函數(shù)將速度從連續(xù)空間轉(zhuǎn)換為概率空間:
(9)
速度更新方案在(7)中的除了xi,j,Pi,j,和Pg,j∈{0,1}保持不變,粒子可以在1和0之間以正概率傳輸,vmax用于限制vi,j。新粒子的位置按以下規(guī)律更新:
(10)
j=1,2,…,d
提出的PSO-GWO-SVM方法的設(shè)計流程見圖1,具體包括四個步驟。
圖1 PSO-GWO-SVM方法的流程圖
第一步,用K倍交叉驗證劃分特征空間,將樣本分為測試集和訓(xùn)練集。
第二步,PSO用來生成信號的初始位置,GWO通過自適應(yīng)搜索特征空間來選擇最佳特征組合,通過循環(huán)比較,獲得樣本的最優(yōu)特征子集。
第三步,最優(yōu)特征子集對訓(xùn)練集和測試集進(jìn)行特征篩選,對SVM分類器訓(xùn)練,并得到最優(yōu)懲罰系數(shù)。
第四步,根據(jù)篩選后的測試集,應(yīng)用SVM進(jìn)行分類識別。
在信號識別的過程中,合理的特征向量選取不僅可以降低識別類別的復(fù)雜度,還可以獲得高精度的識別率。本文中,通過小波閾值去噪對原始信號處理,然后應(yīng)用小波包對濾波信號分解到三層,將時間閾的離散數(shù)據(jù)轉(zhuǎn)換為頻率閾的離散數(shù)據(jù),并做歸一化處理。選擇七個能夠良好反映信號特征的頻帶,提取數(shù)字特征,計算每個頻段的能量。圖2給出了入侵信號提取過程。
圖2 入侵信號特征提取
為了驗證算法的性能,我們選用CPU2.2GHz,4GB內(nèi)存,Windows 7操作系統(tǒng)作為實驗平臺,應(yīng)用臺灣大學(xué)林智仁副教授等人[11]開發(fā)的LIBSVM進(jìn)行了仿真實驗。
實驗中,構(gòu)建的樣本庫包括:冰雹、大風(fēng)、噪聲三種環(huán)境特征和行人、小動物、小汽車三種入侵種類特征。每種提取10組數(shù)據(jù),每組包含20個振動碎片,共60組,1200個振動碎片的數(shù)據(jù)進(jìn)行分析。圖3給出了一組樣本庫特征圖,可以看出,不同種類的入侵信號特征向量分布完全不同。
圖3 一組樣本庫特征圖
考慮到SVM中核函數(shù)兩個關(guān)鍵參數(shù),選用的RBF內(nèi)核的懲罰因子C和內(nèi)核參數(shù)γ以指數(shù)倍增的方式增加,設(shè)定為{2-5,2-4,…,24,25}。SVM參數(shù)優(yōu)化結(jié)構(gòu)及對應(yīng)的預(yù)測準(zhǔn)確率如圖4所示。
從圖4中可以看出,當(dāng)SVM核函數(shù)的懲罰因子C和內(nèi)核函數(shù)γ不斷變化過程中,樣本的識別準(zhǔn)確率也相應(yīng)不斷變化。采用交叉驗證和網(wǎng)格搜索尋優(yōu)得到,當(dāng)C=25和γ=2-3時,SVM的參數(shù)配置效果最好,達(dá)到了97%的正確率。
文中使用10倍交叉驗證(CV)來評估分類精度,將60組數(shù)據(jù)分為10個子集。每次使用10個子集中的一個作為測試集,剩下的9個子集合在一起形成訓(xùn)練集,由于數(shù)據(jù)集是任意分配的,只進(jìn)行一次10倍CV不足以產(chǎn)生高精度分類準(zhǔn)確性,因此,平均10次運行才能進(jìn)行準(zhǔn)確評估。所有的測試集是獨立的,實驗結(jié)束后取十次實驗的平均值作為實驗結(jié)果。表1列出了在PSO-GWO-SVM模型獲得的詳細(xì)結(jié)果。
表1 PSO-GWO-SVM獲得的詳細(xì)結(jié)果
注:Avg和Dev是指10倍CV結(jié)果的平均值和標(biāo)準(zhǔn)差。
從表1實驗結(jié)果可以看出,經(jīng)過優(yōu)化后的SVM分類效果良好,十組實驗都實現(xiàn)了高精度的識別率,平均達(dá)到了96.40%的AUC、96.86%的準(zhǔn)確率(ACC)、95.82%的靈敏度(SE)和96.31%的特異性(SP),能夠準(zhǔn)確的識別環(huán)境噪聲信號和常見的越境信號,實現(xiàn)了在無環(huán)境噪聲干擾下對多種入侵信號的準(zhǔn)確識別。同時獲得的標(biāo)準(zhǔn)偏差非常小,這表明PSO-GWO-SVM分類器具有很高的穩(wěn)定性。
為了驗證算法的有效性,還挑選了SVM、PSO-SVM、GA-SVM 、GWO-SVM四種方法一同進(jìn)行了測試。并將五種方法實驗結(jié)果進(jìn)行對比,對比取100次實驗結(jié)果的平均值。圖5、圖6清楚顯示了五種方法的性能比較結(jié)果。
圖5 五種方法獲得的ROC曲線
圖6 基于各種策略的SVM方法的演化過程
從圖5可以看出,相比原始SVM模型,各種方法優(yōu)化后的SVM模型在分類效果上都有了明顯的提高,整體上能夠逼近左上角,而PSO-GWO-SVM表現(xiàn)出了更好的分類性能。圖6清楚地顯示了分類器的時效性,GWO-SVM、PSO-SVM和GA-SVM分別需要63、75和62次迭代達(dá)到最大適應(yīng)度。而相比其他參比的模型,本文提出PSO-GWO-SVM模型,僅需23次迭代就能實現(xiàn)最佳適應(yīng)度,不僅顯著的提高了收斂速度,而且預(yù)測誤差低,預(yù)測結(jié)果的魯棒性更強。
本文提出了一種改進(jìn)的SVM信號識別方法,建立了PSO-GWO-SVM分類器。對幾種典型的環(huán)境噪聲與越境信號進(jìn)行擾動判別,并通過與傳統(tǒng)的入侵信號識別方法的對比試驗,驗證了所提出算法的優(yōu)越性與可行性。實驗結(jié)果表明,在識別周界入侵信號時,基于PSO-GWO-SVM算法的分類器獲得了96.86%的準(zhǔn)確率、95.82%的靈敏度(SE)和96.31%的特異性,在準(zhǔn)確判別的同時,還能精確地分辨不同擾動事件的模式,與傳統(tǒng)的機器學(xué)習(xí)方法相比,具有更高的識別精度、適應(yīng)性和時效性。然而需要指出的是,如何應(yīng)用算法于實時系統(tǒng)是今后需要進(jìn)一步完善的地方。
[1] YE Qing,CAI Haiwen.Distributed fiber optic vibration sensing technology and its important security application[J].Science,2017,69(2):17-21.(in Chinese)
葉青,蔡海文.分布式光纖振動傳感技術(shù)及其重要安防應(yīng)用[J].科學(xué),2017,69(2):17-21.
[2] ZHU Chenghui,WANG Jianping,LI Qiyue,et all.Recognition and localization of intrusion vibration signal basedon time-frequency characteristics in optical fiber perimeter security[J].Chinese Journal of Lasers,2016,43(6):309-317.(in Chinese)
朱程輝,王建平,李奇越,等.基于時頻特征的光纖周界入侵振動信號識別與定位[J].中國激光,2016,43(6):309-317.
[3] ZHANG Xiaolu,LI Ling,XIN Yunhong.Adaptive multi-mode infrared small target detection based on wavelet transform [J].Laser & Infrared,2017,47(5):647-652..(in Chinese)
張曉露,李 玲,辛云宏.基于小波變換的自適應(yīng)多模紅外小目標(biāo)檢測[J].激光與紅外,2017,47(5):647-652.
[4] QIAN Muyun,YU Youlong.Research on tactile sensing of fiber bragg grating B ased on BP Neural Network[J].Chinese Journal of Lasers,2017,44(8):0806001.(in Chinese)
錢牧云,余有龍.基于BP神經(jīng)網(wǎng)絡(luò)的光纖光柵觸覺傳感研究[J].中國激光,2017,44(08):0806001.
[5] ZHANG Difei,ZHANG Jinsuo,YAO Keming,et al.Infrared shi-target recognition based on SVM classification[J].Infrared and Laser Engineering,2016,45(1):179-184.(in Chinese)
張迪飛,張金鎖,姚克明,等.基于SVM分類的紅外艦船目標(biāo)識別[J].紅外與激光工程,2016,45(1):179-184.
[6] H L Chen,B Yang,J Liu.A support vector machine classifer withrough set-based feature selection for breast cancer diagnosis[J].Expert Systemswith Applications,2011,38(7):9014-9022.
[7] H L Chen,D Y Liu,B Yang.A new hybrid method basedon local fsher discriminant analysis and support vector machines for hepatitis disease diagnosis[J].Expert Systems with Applications,2011,38(9):11796-11803.
[8] S Mirjalili,S M Mirjalili,A Lewis.Greywolf optimizer[J].Adcances in Engineering Software,2014,69:46-61.
[9] J Kennedy,R Eberhart.Particle swarm optim-azation[C].Proceedings of the IEEE International Conference on Neural Networks,1995:1942-1948.
[10] Y Zhang,S Wang,G Ji.A comprehensive survey on particle swarm optimizationalgorithm and Its applications[J].Mathematical Problems in Engineering,2015,(1):1-38.
[11] C C Chang,C J Lin.LIBSVM:a library for support vector machines[J].ACM transactions on Intelligent Systemsand Technology,2011,2(3):27.