基于DWT,2DPCA和KPCA的人臉識(shí)別

甘俊英,李高尚

摘 要:利用離散小波變換對(duì)人臉圖像進(jìn)行壓縮,提取人臉的低頻分量,有效去除人臉圖像高頻分量的影響;再利用二維主元分析對(duì)小波變換后的人臉低頻分量實(shí)行提取特征;然后使用核主元分析再次提取特征;最后用最小距離分類器完成人臉識(shí)別。基于ORL人臉數(shù)據(jù)庫(kù)的實(shí)驗(yàn)結(jié)果表明,該算法能提高人臉識(shí)別率,有效減少計(jì)算量和降低計(jì)算復(fù)雜度。

關(guān)鍵詞:小波變換;2DPCA算法;KPCA算法;人臉識(shí)別

中圖分類號(hào):TP391.41文獻(xiàn)標(biāo)識(shí)碼:B

文章編號(hào):1004-373X(2009)20-051-03

Face Recognition Based on DWT,2DPCA and KPCA

GAN Junying,LI Gaoshang

(School of Information,Wuyi University,Jiangmen,529020,China)

Abstract:In this paper,human face image is compressed and low-frequency component is extracted by way of Discrete Wavelet Transform (DWT).In this way,the influence of high-frequency component of human face image is discarded effectively.Then the features of low-frequency component are extracted by way of two dimensional principal component analysis (2DPCA).In the mean time,Kernel Principal Component Analysis (KPCA) is applied in feature extraction.Finally face recognition is performed by the Nearest Neighbor classifier.Experimental results on Olivetti Research Laboratory(ORL)face database show that face recognition rate is increased,amount of computation and the complexity are reduced.

Keywords:wavelet transform;2DPCA algorithm;KPCA algorithm;face recognition

0 引 言

近年來(lái),人臉識(shí)別技術(shù)得到了很大發(fā)展,許多優(yōu)秀的方法和算法相繼被提出[1,2]。小波變換(Wavelet Transform,WT)是一種基于多層次函數(shù)分解的數(shù)學(xué)工具[3-5]。人臉圖像經(jīng)過(guò)小波變換后,可分解成近似分量與細(xì)節(jié)分量。近似分量代表信號(hào)的低頻分量,細(xì)節(jié)分量代表信號(hào)的高頻分量。近似分量保留圖像的基本信息,噪聲分量或變化比較快的分量,其主要能量一般集中在細(xì)節(jié)分量中。Nastar等研究了人臉外觀變化與頻譜變化之間的關(guān)系,指出人臉的光照、旋轉(zhuǎn)扭曲和面部表情只影響圖像中的高頻分量,人臉圖像的低頻分量仍然保持穩(wěn)定。因此,采用小波變換后僅保留近似分量,可有效克服光照、姿態(tài)和表情變化對(duì)人臉識(shí)別率的影響。

2004年Jian Yang等人提出二維主元分析(Two-dimensional Principal Component Analysis,2DPCA),并將該算法應(yīng)用于人臉識(shí)別[6]。2DPCA算法是以人臉樣本的二維灰度圖像矩陣計(jì)算樣本的總體離散度的,所以它有效降低了待識(shí)別圖像的維數(shù)。Jian Yang等的實(shí)驗(yàn)結(jié)果表明,2DPCA算法的識(shí)別率和計(jì)算時(shí)間均優(yōu)于主元分析(Principal Component Analysis,PCA)算法。

核主元分析(Kernel Principal Component Analysis,KPCA)能有效捕捉數(shù)據(jù)的非線性特征,因此在模式識(shí)別、回歸分析等領(lǐng)域均受到廣泛重視。KPCA是基于輸入數(shù)據(jù)的高階統(tǒng)計(jì),描述了多個(gè)像素間的相關(guān)性,所以該方法在圖像特征提取上能取得較好的效果。Moghaddam比較了幾種子空間方法,認(rèn)為KPCA優(yōu)于PCA方法,因?yàn)樗紤]了圖像的非線性特性[7,8]。

基于以上分析,為了使提取的特征對(duì)光照、姿態(tài)、表情變化的人臉圖像有較好的魯棒性,在此提出一種基于小波變換、2DPCA和KPCA相結(jié)合的人臉識(shí)別方法?；贠RL(Olivetti Research Laboratory)人臉數(shù)據(jù)庫(kù)的實(shí)驗(yàn)結(jié)果表明,該算法能提高人臉識(shí)別率、減少計(jì)算量和降低計(jì)算復(fù)雜度。

1 人臉識(shí)別模型

人臉識(shí)別模型如圖1所示。首先,運(yùn)用小波變換獲得人臉圖像的低頻分量,然后經(jīng)過(guò)2DPCA,將提取的特征通過(guò)KPCA,解決人臉?lè)蔷€性特征的可分性問(wèn)題;最后采用最近鄰分類器來(lái)完成識(shí)別。下面對(duì)該模型進(jìn)行詳細(xì)探討。

圖1 人臉識(shí)別算法模型

1.1 小波變換

小波變換是將基本小波的函數(shù)做位移后,在不同尺度下與待分析的信號(hào)f(x)做內(nèi)積。在圖像處理中常用的是二值尺度的二維離散小波變換(Discrete Wavelet Transform,DWT)。尺寸為M×N的函數(shù)f(x,y),其二維離散小波變換可表示為:

Wφ (j0 ,m,n) = 1MN∑M-1x = 0 ∑N-1y = 0f(x,y)φj0 ,m,n (x,y)

Wiψ (j,m,n) = 1MN∑M-1x = 0 ∑N-1y = 0f(x,y)φj,m,n (x,y)

i = { H,V,D} (1)

式中:Wφ(j0,m,n)代表圖像的低頻子圖像;Wiψ (j,m,n);i={H,V,D}分別代表圖像水平、垂直和對(duì)角方向的高頻子圖像;每個(gè)子圖像的大小為原始子圖像的1/4。通常,令j0=0,選擇N=M=2J;j=0,1,2,…,J-1;m,n=0,1,2,…,2j-1,如圖2所示。

圖2 小波變換示意圖

1.2 2DPCA算法

2DPCA算法采用二維圖像數(shù)據(jù)矩陣直接構(gòu)建一個(gè)協(xié)方差矩陣,求出此協(xié)方差矩陣的特征值和特征向量,并用較大幾個(gè)特征值對(duì)應(yīng)的特征向量構(gòu)建投影坐標(biāo)系,然后將每個(gè)圖像矩陣投影到這個(gè)坐標(biāo)系上,得到該圖像的特征矩陣。

設(shè)Ai為n×m維樣本圖像,其中,i=1,2,…,M;M為樣本圖像數(shù),則樣本圖像的總體協(xié)方差矩陣為:

G=1M∑Mi=1(Ai-)Τ(Ai-)(2)

式中:G是一個(gè)n×n維的正定矩陣;為樣本圖像的均值圖像;=1M∑Mi=1Ai。求G的d(d

1.3 KPCA算法

基于核的主成分分析方法實(shí)際上是將核方法應(yīng)用到主成分分析中,實(shí)現(xiàn)輸入空間Rn到特征空間F的映射,即輸入空間的樣本點(diǎn)xi變換為特征空間的樣本點(diǎn)Φ(xi),其中,i=1,2,…,M,KPCA的具體算法步驟如下:

(1) 設(shè)M個(gè)訓(xùn)練樣本x1,x2,…,xM,其中,xi是k維列向量,經(jīng)過(guò)非線性變換,分別對(duì)應(yīng)于高維特征空間的Φ(x1),Φ(x2),…,Φ(xM)。

(2) 求協(xié)方差矩陣。設(shè)Q=[Φ(x1),Φ(x2),…,Φ(xM)],R=QTQ,Ri,j=QTiQj = k(xi,xj)。

(3) 對(duì)R中心化,即:

=R-1M?R-R?1M+1M?R?1M(3)

式中:1M=[1]M×M/M,[1]M×M是單位矩陣。

(4) 求的特征值λ1,λ2,…,λk,及其對(duì)應(yīng)的特征向量γ1,γ2,…,γk。

(5) 由特征值和特征向量得:

αj=(1/λj)γj(4)

式中,j=1,2,…,k。

(6)樣本xi在特征空間F的映射是:

i={∑Mj=1α1j[Φ(xj)?Φ(xi)],∑Mj=1α2j[Φ(xj)?Φ(xi)],

…,∑Mj=1αkj[Φ(xj)?Φ(xi)]}T(5)

式中:i=1,2,…,M。

2 應(yīng)用于人臉識(shí)別

2.1 ORL人臉數(shù)據(jù)庫(kù)

ORL(Olivetti Research Laboratory)人臉數(shù)據(jù)庫(kù)由40人,每人10幅圖像組成。其中,有些圖像拍攝于不同時(shí)期;人的臉部表情和臉部細(xì)節(jié)具有不同程度的變化,比如笑或不笑,眼睛或睜或閉,戴或不戴眼鏡;人臉姿態(tài)也有相當(dāng)程度的變化,深度旋轉(zhuǎn)和平面旋轉(zhuǎn)可達(dá)20°;人臉的尺度變化多達(dá)10%。這些圖像的分辨率為112×92,灰度級(jí)為256,如圖3所示。

圖3 ORL人臉數(shù)據(jù)庫(kù)上的部分人臉圖像

2.2 實(shí)驗(yàn)結(jié)果及分析

在ORL人臉數(shù)據(jù)庫(kù)上選取每人的前5幅作為訓(xùn)練樣本,后5幅作為測(cè)試樣本。人臉圖像經(jīng)一次小波變換后提取的低頻圖像分辨率為63×53,如圖4所示。

圖4 一次小波變換后ORL人臉庫(kù)上的部分人臉圖像

DWT-2DPCA-KPCA算法的實(shí)驗(yàn)參數(shù)包括訓(xùn)練樣本數(shù)、2DPCA投影維數(shù)、KPCA投影維數(shù)、以及KPCA核函數(shù)。本實(shí)驗(yàn)選用多項(xiàng)式核函數(shù)K(x,xi)=[(x,xi)+1]2。實(shí)驗(yàn)結(jié)果均在Pentium 4 1.5 GHz,128 MB計(jì)算機(jī)上運(yùn)行獲得。

在DWT-2DPCA-KPCA算法實(shí)驗(yàn)中,先選取KPCA的投影維數(shù)為40、訓(xùn)練測(cè)試樣本數(shù)分別為5,2DPCA維數(shù)變化時(shí)的實(shí)驗(yàn)結(jié)果如表1所示。這里,訓(xùn)練時(shí)間定義為一個(gè)訓(xùn)練樣本的人臉識(shí)別程序運(yùn)行時(shí)間;識(shí)別時(shí)間定義為一個(gè)測(cè)試樣本的人臉識(shí)別程序運(yùn)行時(shí)間;識(shí)別率定義為測(cè)試樣本中正確識(shí)別的樣本數(shù)與測(cè)試樣本數(shù)之比。從表1可知,訓(xùn)練和測(cè)試時(shí)間大致隨2DPCA維數(shù)的增加而增加;當(dāng)2DPCA的投影維數(shù)為2時(shí),識(shí)別率最高為95.5%。

表1 DWT-2DPCA-KPCA算法識(shí)別率(一)

2DPCA維數(shù)訓(xùn)練時(shí)間 /s識(shí)別時(shí)間 /s識(shí)別率 /%

10.165 3 0.161 5 88.00

20.177 9 0.181 8 95.50

30.177 4 0.174 9 94.50

40.181 9 0.175 9 94.00

50.189 5 0.201 7 93.50

60.233 1 0.217 1 93.00

70.254 6 0.242 3 93.00

80.218 5 0.217 4 92.00

90.245 5 0.251 1 91.50

當(dāng)2DPCA的投影維數(shù)為2,訓(xùn)練測(cè)試樣本數(shù)仍分別為5,以及KPCA維數(shù)變化時(shí),實(shí)驗(yàn)結(jié)果如表2所示。此時(shí),訓(xùn)練和測(cè)試時(shí)間大致隨KPCA維數(shù)的增加而增加;當(dāng)KPCA的投影維數(shù)為50時(shí),識(shí)別率達(dá)到最佳識(shí)別效果95.5%。

表3是綜合考慮了DWT-KPCA,DWT-KPCA,2DPCA,DWT-2DPCA和DWT-2DPCA-KPCA算法的實(shí)驗(yàn)結(jié)果。其中,2DPCA投影維數(shù)為2,KPCA投影維數(shù)為50,訓(xùn)練測(cè)試樣本數(shù)分別為5。在測(cè)試時(shí)間方面,DWT-2DPCA-KPCA算法比2DPCA算法和DWT-2DPCA算法所用時(shí)間長(zhǎng),但比KPCA 算法和DWT-KPCA算法時(shí)間短;在識(shí)別率方面, KPCA算法、DWT-PCA算法、2DPCA算法和DWT-2DPCA算法分別為86%,92.5%,93%,93.5%;DWT-2DPCA-KPCA算法為95.5%,比前面四種算法識(shí)別率均有所提高。

表2 DWT-2DPCA-KPCA算法識(shí)別率(二)

KPCA維數(shù)訓(xùn)練時(shí)間 /s識(shí)別時(shí)間 /s識(shí)別率 /%

300.153 1 0.153 494.50

400.177 9 0.181 895.00

500.223 2 0.218 795.50

600.260 7 0.262 395.50

700.291 8 0.281 695.50

800.320 9 0.323 895.50

900.324 5 0.318 995.50

表3 ORL人臉數(shù)據(jù)庫(kù)上各算法比較

算法訓(xùn)練時(shí)間 /s識(shí)別時(shí)間 /s識(shí)別率 /%

KPCA1.124 91.106 7 92.00

DWT-KPCA0.402 1 0.372 2 92.50

2DPCA0.094 0 0.093 8 93.00

DWT-2DPCA0.045 9 0.044 3 93.50

DWT-2DPCA-KPCA0.223 2 0.218 7 95.50

圖5表示各算法在不同訓(xùn)練樣本數(shù)時(shí)的識(shí)別率。當(dāng)樣本數(shù)在總樣本數(shù)的中間區(qū)間(4,5,6)時(shí),DWT-2DPCA-KPCA算法比DWT-2DPCA算法、2DPCA算法、DWT-KPCA算法和KPCA算法的識(shí)別率高。

圖5 五種算法在不同訓(xùn)練樣本數(shù)下的識(shí)別率

綜上所述,在訓(xùn)練時(shí)間、測(cè)試時(shí)間和識(shí)別率方面,DWT-2DPCA-KPCA算法優(yōu)于其他幾種算法。

3 結(jié) 語(yǔ)

綜合了離散小波變換、二維主元分析和核主元分析的優(yōu)點(diǎn),提出了一種利用三者相結(jié)合的特征提取方法,然后利用最小距離進(jìn)行分類識(shí)別。基于ORL的人臉數(shù)據(jù)庫(kù)的實(shí)驗(yàn)結(jié)果表明,該方法在識(shí)別率上高于KPCA,DWT-KPCA,2DPCA以及DWT-2DPCA算法;測(cè)試速度大于KPCA和DWT-KPCA。這里只對(duì)多項(xiàng)式核函數(shù)參數(shù)的選取進(jìn)行了簡(jiǎn)單分析和討論,在某一應(yīng)用中如何選擇核函數(shù)與相應(yīng)的核函數(shù)參數(shù)有待進(jìn)一步研究。

參考文獻(xiàn)

[1]Samala,Iyengar P.Automatic Recognition and Analysis of Human Faces and Facial Expressions:A Survey[J].Pattern Recognition,1992,25(1):65-77.

[2]Zhao W,Chellappa R,Phillips P J,et al.Face Recognition:A Literature Survey[J].ACM Computing Surveys,2000,35(4):399-458.

[3]Nastar C,Ayache N.Frequency- based Non-rigid Motion Analysis[J].IEEE Trans.on PAMI,1996,18(11):1067-1 079.

[4]龍飛,莊連生,莊鎮(zhèn)泉.基于小波變換和Fisher判別分析的人臉識(shí)別方法[J].模式識(shí)別與人工智能,2005,18(2):223-227.

[5]甘俊英,李春芝.基于小波變換的二維獨(dú)立元在人臉識(shí)別中應(yīng)用[J].系統(tǒng)仿真學(xué)報(bào),2007,19(3):612-615.

[6]Jian Yang,David Zhang.Two-dimensional PCA:A New Approach to Appearance-based Face Representation and Recognition[J].IEEE Trans.on pattern Analysis and Machine Intelligence,2004,26(1):131-137.

[7]Moghaddam B.Principal Manifolds and Probabilistic Ubspaces for Visual Recognition[J].IEEE Trans.on Pattern Analysis and Machine Intelligence,2002,24(6):780-788.

[8]Roman Rosipal,Mark Girolami.Kernel PCA for Feature Extraction and De-noising in Non-linear Regression[J].Neural Computing & Applications,2001,10(3):231-243.