基于GPCA的KNNY與SVM融合的人臉識別方法

焦淑紅,孫志帥

(哈爾濱工程大學(xué) 信息與通信工程學(xué)院,黑龍江 哈爾濱　150001)

?

基于GPCA的KNNY與SVM融合的人臉識別方法

焦淑紅,孫志帥

(哈爾濱工程大學(xué) 信息與通信工程學(xué)院,黑龍江 哈爾濱150001)

摘要針對K近鄰和支持向量機人臉識別率較低的問題,采用一種KNN和SVM融合的識別方法。提出了一種Gabor小波和主成分分析進行人臉特征提取,KNN-SVM進行分類的人臉識別方法?；贠RL和YALE人臉庫中進行實驗,結(jié)果表明該算法較KNN和SVM中任何一個的識別率都要高,且識別率最高可達到98.89%。

關(guān)鍵詞K近鄰;支持向量機;Gabor小波;PCA;人臉識別

人臉識別是通過計算機對人臉進行學(xué)習(xí)然后利用特征進行識別,作為生物識別的重要分支,其具有諸多優(yōu)點,并在出入控制、公共安全、刑偵破案和人機交互等方面具有重要的應(yīng)用[1]。

利用Gabor小波進行特征提取時,能克服光照、角度、尺度等全局干擾對識別結(jié)果的影響[2],但是會造成維數(shù)災(zāi)難,即使維數(shù)大幅度提高,增加計算量,可通過均勻采樣和主成分分析(Principal Component Analysis,PCA)進行降維,降低計算量。

K近鄰(K Nearest Neighbors,KNN)和支持向量機(Support Vector Machine,SVM)是人臉識別過程中常用的識別分類方法,其具有自身的特點,通過實驗發(fā)現(xiàn)對于相同的樣本,同樣的識別目標,采用不同的分類方法識別率是不同的,識別出來的目標也不完全相同的,有交叉的部分,也有不同的部分。進而提出了一種KNN和SVM相互融合的分類方法,使得兼有兩者的識別優(yōu)勢,提高了識別率,實驗結(jié)果證明了其算法的有效性。

1Gabor小波、KNN和SVM分類器簡介

1.1Gabor小波算法

Gabor小波以其圖像處理上的獨特的優(yōu)勢,近年來得到了廣泛應(yīng)用。其擁有多尺度和多方向特點的同時,也容易造成維數(shù)大幅度增加。2D-Gabor小波和核函數(shù)定義為

(1)

將人臉圖像和Gabor小波核函數(shù)進行卷積,則每幅圖便可等到40幅Gabor紋理圖像,這樣圖像的維數(shù)大幅增加,進而計算量大幅增加,需要進行降維。降維方法一般是均勻采樣和主成分分析。采樣因子的數(shù)量影響最終的識別率,PCA降維過程特征向量的數(shù)量同樣也影響最終的識別率,最優(yōu)的結(jié)果均可通過實驗獲得,但這個數(shù)字具有一定局限性,針對不同的人臉庫,取值也不同。

1.2KNN算法

K近鄰(KNN)是模式識別方法中常用和簡單的方法之一,是Cover和Hart于1968年提出[4]。K近鄰是1NN的推廣,識別的基本過程是選取待識別目標和訓(xùn)練目標之間的距離最小的若干個,根據(jù)訓(xùn)練目標的類別對待識別目標進行分類。KNN算法如下

(2)

其中,f′(zr)是對f(zr)的估計,其是距離zr最近的m個訓(xùn)練樣本的f值

(3)

其中,z是n維空間中的點;f(zr)表示zr的所屬類別;γ(a,b)是類別判別函數(shù)。

1.3SVM算法

支持向量機是CorinnaCortes和Vapnik于1995年首先提出的,其在解決小樣本、非線性和高維模式識別中表現(xiàn)出許多特有的優(yōu)勢[5]。其是建立在統(tǒng)計學(xué)習(xí)理論的VC維理論和機結(jié)構(gòu)風(fēng)險最小原理基礎(chǔ)上,根據(jù)有限樣本信息在模模型的復(fù)雜性和學(xué)習(xí)能力之間尋求最佳折中,以獲得最佳的推廣能力。簡而言之,就是將樣本通過某種非線性函數(shù)映射到一個線性可分的空間,且尋求這一線性可分空間的最優(yōu)線性可分超平面[6]。其判別函數(shù)為

(4)

其中,h(zi,zj)是核函數(shù),核函數(shù)需滿足的條件φ(zi)·φ(zi)=h(zi,zj),φ(z)為任意函數(shù)。

2GPCA的KNN和SVM融合人臉識別算法

K近鄰識別算法是最簡單的算法之一,其具有良好的定位性能,但識別率較低[7]。SVM算法具有較好的識別率,尤其在解決小樣本問題上具有特別的優(yōu)勢,但識別分類時間較長,用KNN進行范圍定位,然后用SVM進行精確識別,達到優(yōu)勢的互補,同時也提高了識別率[8]。具體流程如下:(1)利用Gabor小波對人臉進行特征提取;(2)對Gabor特征進行采樣降維;(3)對采樣降維后的特征進行PCA再次降維;(4)將得到的特征矩陣進行KNN范圍定位,選出最小的K個訓(xùn)練樣本;(5)利用SVM將待識別目標和定位出的K個訓(xùn)練樣本進行分類識別。

3實驗結(jié)果分析

在ORL和YALE人臉庫中,在不同的特征向量的個數(shù)的情況下分別進行6次樣本實驗,每次訓(xùn)練樣本都選5個,6次實驗求平均值,進行對此。

首先通過兩組實驗,選出最優(yōu)的K值,實驗結(jié)果如下。

表1　ORL庫中K值對識別率的影響

表2　YALE庫中K值對識別率的影響

這兩組實驗結(jié)果分別在ORL和YALE人臉庫中得到,特征向量的個數(shù)都為前95%,即0.95×199個,通過實驗發(fā)現(xiàn),K取2為最佳。

然后分別在ORL和YALE人臉庫中進行6次實驗求取識別率的平均值,6次實驗的訓(xùn)練樣本不相同,但是訓(xùn)練樣本個數(shù)定位5。Gabor濾波采用5尺度,8方向。在ORL人臉庫中,共40人,每人5幅進行訓(xùn)練,剩余5幅進行識別,均勻采樣因子為8×4,采樣后的維數(shù)是322;在YALE人臉庫中,共15人,每人5幅進行訓(xùn)練,剩余6幅進行識別,均勻采樣因子為5×10,采樣后的維數(shù)是200;SVM選取高斯核,設(shè)定標準差θ=0.007 8,懲罰因子ξ=128,實驗結(jié)果如下。

圖1和圖2中的特征值前百分比表示的是特征向量的個數(shù),即特征值降序排列,取前百分之多少,在ORL人臉庫中轉(zhuǎn)換為特征向量的個數(shù)為:百分比×199;在YALE人臉庫中轉(zhuǎn)換為特征向量的個數(shù)為:百分比×75。通過實驗對比,發(fā)現(xiàn)KNN和SVM融合的識別算法確實比其中任意一個識別算法的識別率高,且識別率較穩(wěn)定,不會出現(xiàn)較大的折點,使兩種分類識別算法進行了優(yōu)勢互補,在人臉識別方面表現(xiàn)了其良好的性能。

圖1　基于GPCA在ORL庫中3種識別算法平均識別率對比

圖2　基于GPCA在YALE庫中3種識別算法平均識別率對比

表3和表4為在兩個人臉庫中分別6次實驗結(jié)果的最大識別率對比。

表3　ORL庫中不同方法的識別率對比

表4　YALE庫中不同方法的識別率對比

通過在ORL和YALE人臉庫中實驗結(jié)果數(shù)據(jù)對比發(fā)現(xiàn),本文的人臉識別算法比較穩(wěn)定,而且最高識別率也有優(yōu)勢。

4結(jié)束語

本文研究了基于Gabor+PCA人臉特征提取進行KNN

和SVM融合的識別方法,利用KNN進行范圍定位,然后通過SVM精確分類識別,達到優(yōu)勢的互補,提高了識別率[9-10]。通過實驗結(jié)果表明,KNN進行范圍定位時,K值取2最佳,核函數(shù)取高斯函數(shù),設(shè)定標準差θ=0.007 8,懲罰因子ξ=128。在ORL人臉庫中均勻采樣因子為8×4,最高識別率可達98%;在YALE人臉庫中均勻采樣因子為5×10,最高識別率可達98.89%,其識別優(yōu)勢明顯。

參考文獻

[1]方文俊.基于Gabor小波變換的熱紅外人臉識別研究[D].合肥:安徽大學(xué),2014.

[2]王憲,陸友桃,宋書林,等.基于Gabor小波變化與分塊PCA的人臉識別[J].計算機工程與應(yīng)用,2012,48(3):176-179.

[3]葉超.基于Gabor小波和SVM的人臉識別算法研究[D].太原:中北大學(xué),2014.

[4]Vapnik.The nature of statistical learning theory[M].Berlin:Springer Verlag,1999.

[5]Vapnik V N.Estimation of dependencies based on empirical data[R].Berlin:Springer Verlag,1982.

[6]曾夢璐,王晅,石林楓.基于Contourlet-NMF和SVM的近紅外人臉識別方法[J].計算機應(yīng)用與軟件,2014,31(12):229-232.

[7]陳麗,陳靜.基于支持向量機和k-近鄰分類器的多特征融合方法[J].計算機應(yīng)用,2009,29(3):833-835.

[8]張建明,楊忠,李巍.改進KNN-SVM的性別識別[J].計算機工程與應(yīng)用,2009,45(4):177-179.

[9]侯玉婷.基于SVM-KNN的特征自適應(yīng)加權(quán)自然圖像分類研究[D].西安:西北大學(xué),2014.

[10]穆新亮.基于混合核函數(shù)的快速KPCA人臉識別算法[J].電子科技,2015,28(2):46-50

《電子科技》歡迎投稿

《電子科技》雜志(月刊),設(shè)置欄目有:電子·電路、協(xié)議·算法及仿真、圖像·編碼與軟件、保密及網(wǎng)絡(luò)安全、光電·材料、專題綜述等。歡迎業(yè)界專家、教授、學(xué)者及工程技術(shù)人員、教師、學(xué)生投稿。來稿應(yīng)以反映當(dāng)前國內(nèi)外電子科學(xué)技術(shù)領(lǐng)域中的先進理論、創(chuàng)新成果及發(fā)展趨勢,并有實際的應(yīng)用背景,以及相應(yīng)的實驗結(jié)果。

投稿請登錄:www.dianzikeji.org聯(lián)系電話:029-88202440

Face Recognition Based GPCA of KNN and SVM Fusion

JIAO Shuhong,SUN Zhishuai

(School of Information and Communications Engineering,Harbin Engineering University,Harbin 150001,China)

AbstractIn view of the poor face recognition rate of the K Nearest neighbor and support vector machine (SVM),a KNN and SVM fusion recognition method is proposed with a Gabor wavelet and principal component analysis (PCA) for face feature extraction and KNN-SVM classification method for face recognition.Experiments based on ORL and YALE face database show that the proposed algorithm offers a recognition rate up to 98.89%,higher than both KNN and SVM.

KeywordsKNN;SVM;Gabor wavelet;PCA;face recognition

中圖分類號TP391.41

文獻標識碼A

文章編號1007-7820(2016)02-074-03

doi:10.16180/j.cnki.issn1007-7820.2016.02.019

作者簡介:焦淑紅(1966—),女,教授,博士生導(dǎo)師。研究方向:寬帶信號檢測等。孫志帥(1988—),男,碩士研究生。研究方向:人臉識別。

收稿日期:2015- 07- 03