基于有監(jiān)督降維的人臉識別方法

姚明海，王 娜，易玉根，欒敬釗

(1. 渤海大學(xué)信息科學(xué)與技術(shù)學(xué)院，遼寧 錦州 121013；2. 錦州師范高等?？茖W(xué)校計算機(jī)系，遼寧 錦州 1210 13；3. 東北師范大學(xué)數(shù)學(xué)與統(tǒng)計學(xué)院，長春 1301 17；4. 國家電網(wǎng)大連供電公司，遼寧 大連 1 16001)

基于有監(jiān)督降維的人臉識別方法

姚明海1,3，王 娜2，易玉根3，欒敬釗4

(1. 渤海大學(xué)信息科學(xué)與技術(shù)學(xué)院，遼寧 錦州 121013；2. 錦州師范高等專科學(xué)校計算機(jī)系，遼寧 錦州 1210 13；3. 東北師范大學(xué)數(shù)學(xué)與統(tǒng)計學(xué)院，長春 1301 17；4. 國家電網(wǎng)大連供電公司，遼寧 大連 1 16001)

局部降維方法中存在僅考慮圖像的相似信息，不能較好地保持圖像的差異信息和像素間的空間結(jié)構(gòu)等問題。為此，提出一種新的有監(jiān)督降維方法，通過構(gòu)建局部鄰域相似圖和局部差異圖來刻畫圖像的局部結(jié)構(gòu)?？紤]到像素的空間結(jié)構(gòu)，引入二維離散拉普拉斯圖的光滑正則化來約束變換矩陣的平滑性。在Yale和ORL人臉數(shù)據(jù)庫上進(jìn)行實(shí)驗(yàn)驗(yàn)證，結(jié)果表明，該降維方法既能保持圖像之間的局部結(jié)構(gòu)信息，又能較好地保持圖像間的差異信息及像素間的空間結(jié)構(gòu)，并針對人臉圖像可以有效提取出具有區(qū)分能力的低維特征，具有較高的識別精度。

降維；人臉識別；差異性；局部結(jié)構(gòu)；空間結(jié)構(gòu)；正則化

1 概述

降維方法一直是計算機(jī)視覺和模式識別領(lǐng)域極具吸引力和挑戰(zhàn)性的研究課題，降維方法不僅可以有效地避免維數(shù)災(zāi)難，而且還可以提高后續(xù)算法計算效率。經(jīng)過十幾年的研究，人們提出了許多基于降維方法的特征提取方法，如主成分分析(Principal Component Analysis, PCA)[1]和線性判別分析(Linear Discriminant Analysis, LDA)[2]等。PCA是一種無監(jiān)督降維方法，其目的是尋找一組最優(yōu)的投影方向使得低維特征具有最大方差。而LDA是一種有監(jiān)督降維方法，其目的是尋找一組最優(yōu)的投影方向使得類內(nèi)散度最小，類間散度最大。但是LDA不能直接應(yīng)用于小樣本問題[3]，因此，人們提出了PCA+LDA[4]、正則化判別分析[5]、最大間距準(zhǔn)則[6]等方法來克服小樣本問題。但是這些方法往往忽略了高維數(shù)據(jù)的局部結(jié)構(gòu)。最近的研究表明，人臉圖像可能位于高維圖像空間的低維流形之上?；谶@種假設(shè)大量研究學(xué)者相繼提出了多種流形學(xué)習(xí)方法。如等距映射[7]、局部線性嵌[8]、拉普拉斯特征映射[9]、局部保持投影[10]、判別局部保持投影[11]、零空間判別局部保持投影[12]、局部保持判別投影[13]、二維局部多樣性保持投影[14]、邊緣費(fèi)舍爾判別分析[15]等。

以上方法僅關(guān)注數(shù)據(jù)的局部相似信息，而忽視了數(shù)據(jù)的差異性信息，從而導(dǎo)致算法性能較差。同時，鄰域樣本的差異性丟失容易導(dǎo)致過學(xué)習(xí)問題。文獻(xiàn)[16]從信息統(tǒng)計角度引入差異信息，提出有監(jiān)督的局部結(jié)構(gòu)和差異信息投影方法(Supervised-local St ructure a nd Di versity In formation Projection, S-LSDP)。S-LSDP通過最大化差異離散度和最小化局部離散度準(zhǔn)則尋找投影方向，使得投影后的特征既能夠很好地保持圖像之間的局部結(jié)構(gòu)屬性，又能較好地保持圖像之間的差異信息，有效地避免了過學(xué)習(xí)問題。然而，S-LSDP仍然存在一些不足。首先，S-LSDP在構(gòu)建差異圖和鄰域圖中忽略了數(shù)據(jù)的類別信息，并且S-LSDP中的相似鄰域圖和差異鄰域圖依賴于鄰域k和k1的取值。其次，S-LSDP是一種基于向量學(xué)習(xí)的降維算法，在降維過程中往往忽視了像素的空間分布信息。最后，在實(shí)際的應(yīng)用中，尤其是在人臉識別過程中S-LSDP很難解決一些小樣本問題。

針對S-LSDP存在以上的問題，本文提出一種新的有監(jiān)督降維方法。該方法首先根據(jù)樣本自動選擇樣本鄰域，并利用局部判別相似圖和局部判別差異圖來刻畫數(shù)據(jù)的流形局部結(jié)構(gòu)。其次為了更好地保持原始圖像的像素的空間結(jié)構(gòu)，二維離散拉譜拉斯圖的光滑正則化[17]被引入到降維算法中。該正則化項(xiàng)包含了圖像像素關(guān)系信息，可以用來衡量映射特征向量的空間光滑性。

2 有監(jiān)督的局部結(jié)構(gòu)和差異信息投影

給定N個訓(xùn)練樣本矩陣X=[x1,x2,…,xN]，其中，xi∈RD代表第i=1,2,…,N 個訓(xùn)練圖像向量。Gs=(V, E, S) 和Gd=(V, E, B)分別記作加權(quán)鄰域相似圖和加權(quán)鄰域差異圖，其中，V表示圖中頂點(diǎn)集合；E是連接頂點(diǎn)的邊集合，S是權(quán)值矩陣，其元素表示兩點(diǎn)之間的相似度；B也是權(quán)值矩陣，其元素表示兩點(diǎn)之間的差異性。矩陣S和矩陣B分別定義如下：

其中，τi表示樣本xi的類別標(biāo)簽；Nk(xj)和Nk(xj)分別表示樣本xi的k近鄰和k1近鄰；參數(shù)t∈(0,+∞)和b∈(0,+∞)。

S-LSDP的目的是尋找一組判別投影同時，可以有效地保持樣本的局部相似屬性，而且最大限度地保持樣本的局部差異信息。其目標(biāo)函數(shù)如下：

3 本文方法

基于上述分析，針對S-LSDP存在的問題，本文方法根據(jù)樣本的平均相似性自適應(yīng)的選擇樣本鄰域，避免了鄰域k 和k1的取值對算法性能的影響，并利用樣本類別信息來構(gòu)建局部判別相似圖和局部判別差異圖來刻畫數(shù)據(jù)的流形局部結(jié)構(gòu)，解決了人臉識別中經(jīng)常遇到的小樣本問題。同時，為了更好地保持原始圖像的空間結(jié)構(gòu)，在降維算法中引入了二維離散拉譜拉斯圖的光滑正則化方法。該正則化項(xiàng)包含了圖像像素關(guān)系信息，可以用來衡量映射特征向量的空間光滑性。

3.1 圖的構(gòu)建

在本文方法中分別構(gòu)建了局部鄰域相似判別圖(Gs)和局部差異判別圖(GD)。

首先計算每個樣本xi的平均相似性，如式(4)所示：

然后分別計算每個樣本xi的類內(nèi)近鄰樣本集合Nw(xi)和類間近鄰樣本集合Nb(xi)，如式(5)、式(6)所示：

其中，τi表示樣本xi的類別標(biāo)簽示樣本。從式(5)、式(6)可以看出，每個樣本的鄰域大小依賴樣本原始空間的局部密度分布和樣本的相似性。因此，每個樣本的鄰域是自適應(yīng)的選擇。

最后分別計算圖GS和GD的權(quán)重，如式(7)、式(8)所示：

其中，參數(shù)t∈(0,+∞),b∈(0,+∞)。從式(7)中可以看出：

(1)當(dāng)歐式距離相等時，同類的之間權(quán)值要大于不同類之間樣本的權(quán)值，即同類樣本之間的相似性要大于不同類樣本之間的；

(2)判別相似性具有鄰域保持能力，數(shù)據(jù)集的流形結(jié)構(gòu)很大程度上得以保持；

(3)隨著歐式距離增加，判別相似值趨近零。因此，判別相似性具有防止噪聲的能力。

同樣，從式(8)中可以看出：

(1)當(dāng)歐式距離相等時，局部鄰域類間差異性大于局部類內(nèi)差異性；

(2)局部判別差異結(jié)合了數(shù)據(jù)局部結(jié)構(gòu)和類別信息，更好地保持樣本局部鄰域關(guān)系，數(shù)據(jù)的幾何結(jié)構(gòu)在很大程度上的得以保持；

(3)隨著歐式距離增大，局部類間判別差異權(quán)值也隨著增大，這樣可以使不同類的樣本點(diǎn)投影到低維空間中彼此相互遠(yuǎn)離，局部類內(nèi)差異性可以防止同類樣本投影到低維空間后彼此遠(yuǎn)離。

3.2 目標(biāo)函數(shù)

令yi=WTxi是圖像樣本xi的低維表示，其中，W是 變換矩陣。首先為了在低維特征空間中保持?jǐn)?shù)據(jù)的局部結(jié)構(gòu)信息。定義目標(biāo)函數(shù)如下：

將y=WTxi代入式(9)中，式(9)可做如下轉(zhuǎn)化：

其次，為了更好地在低維特征空間中保持?jǐn)?shù)據(jù)的差異性。定義如下目標(biāo)函數(shù)：

最后，為考慮圖像像素空間位置和投影矩陣的平滑性，本文采用基于二維離散拉譜拉斯圖的光滑正則化項(xiàng)來測量圖像在行和列2個方向上的光滑性。更為具體的說, 假設(shè)圖像的大小為n1×n2，相應(yīng)的二維拉譜拉斯算子的離散近似構(gòu)造過程如下：

令I(lǐng)i表示ni×ni單位矩陣(i=1,2)，?表示克羅內(nèi)克積?？捎胣i×ni的矩陣Di(i=1,2)來生成拉譜拉斯算子的離散近似。而Di可以寫成如下形式：

對于大小為n1×n2圖像向量x，文獻(xiàn)[17]的結(jié)論表明，||?||2正比于x中近鄰點(diǎn)之間的均方誤差之和。因此，它是度量圖像光滑性的有效工具。

結(jié)合式(10)、式(12)、式(14)，本文算法目標(biāo)函數(shù)如下：

其中，α為平衡參數(shù)；β為正規(guī)化參數(shù)。

3.3 目標(biāo)函數(shù)求解

首先對式(15)進(jìn)行簡單的調(diào)整得式(16)：

然后構(gòu)造拉格朗日函數(shù)：

接著對式(17)求導(dǎo)，并令其導(dǎo)數(shù)等于0，整理得：

最后對式(18)進(jìn)行廣義特征值分解，得到前d個最大特征值對應(yīng)的特征向量w1, w2,…,wd，則：

4 實(shí)驗(yàn)結(jié)果及分析

為了驗(yàn)證本文方法的有效性，將其與目前流行的方法進(jìn)行對比，主要包括：PCA，MMC，LPP，LPDP，MFA，S-LSDP。

4.1 數(shù)據(jù)集

本文采用Yale人臉圖像庫和ORL人臉圖像庫進(jìn)行實(shí)驗(yàn)。Yale標(biāo)準(zhǔn)人臉數(shù)據(jù)集[18]包括15個人的165張人臉圖像，每人11張，這11幅圖像分別在如下不同的光照、面部表情等條件下獲取，如戴眼鏡、高興、左光照、無眼鏡、正常、右光照、悲哀、倦怠、驚喜和眨眼。所有人臉圖像均裁剪32×32像素并且按照眼部位置對齊。ORL標(biāo)準(zhǔn)人臉庫[19]有40人，每人10幅，其中，人臉表情、人臉姿態(tài)和人臉尺度均有一定變化。圖1和圖2所示分別為Yale和ORL人臉庫中的若干幅人臉圖像。

圖1 Y ale人臉庫中的若干幅人臉圖像

圖2 O RL人臉庫中的若干幅人臉圖像

4.2 人臉識別實(shí)驗(yàn)結(jié)果分析

從上述數(shù)據(jù)集中每類中隨機(jī)選擇T–1個圖像進(jìn)行訓(xùn)練，剩余部分用于測試。具體地，對Yale和ORL來說分別從每人的圖像中選取5，6張用于訓(xùn)練，其余用于測試。PCA的貢獻(xiàn)率設(shè)置為99%，LPP和LPDP的近鄰k設(shè)置為T–1，MFA和S-LSDP中的k1和k2分別設(shè)置為T–1和20。本文實(shí)驗(yàn)中對于參數(shù)α和β均設(shè)置為0.01，將實(shí)驗(yàn)重復(fù)進(jìn)行10次，取平均結(jié)果作為最終識別結(jié)果。

測試所有方法在2個數(shù)據(jù)庫上的性能。表1和表2分別給出不同方法平均識別結(jié)果和標(biāo)準(zhǔn)差以及對應(yīng)的特征維度。

表1 不同方法在Yale標(biāo)準(zhǔn)人臉數(shù)據(jù)庫上的平均識別率

表2 不同方法在ORL標(biāo)準(zhǔn)人臉數(shù)據(jù)庫上的平均識別率

圖3和圖4分別給出當(dāng)訓(xùn)練樣本為5的情況下，本文方法與其他方法平均識別率隨著特征子空間的維數(shù)變化曲線。

圖3 不同方法在Yale人臉數(shù)據(jù)庫上平均識別率與特征維數(shù)曲線

圖4 不同方法在ORL人臉數(shù)據(jù)庫上平均識別率與特征維數(shù)曲線

通過對表1和表2、圖3和圖4的觀察、比較和分析，可以得到如下結(jié)論：

(1)PCA和LPP都是無監(jiān)督學(xué)習(xí)算法，未利用樣本的類別信息。因此，它們性能次于有監(jiān)督方法。然而，LPP的性能要優(yōu)于PCA是因?yàn)長PP考慮樣本局部結(jié)構(gòu)，該結(jié)果也驗(yàn)證了數(shù)據(jù)的局部結(jié)構(gòu)有利于判別特征提取。

(2)MMC是一種基于全局的有監(jiān)督方法，它的識別結(jié)果要次于其他基于局部的有監(jiān)督的方法。S-LSDP的性能要優(yōu)于其他基于局部的有監(jiān)督的方法，是因?yàn)镾-LSDP在特征提取過程中考慮了到數(shù)據(jù)的局部差異。

(3)由于本文的方法考慮了數(shù)據(jù)局部差異性和空間結(jié)構(gòu)信息，因此在所有情況下都能獲得較高的識別正確率。這也表明本文方法能提取更有具有區(qū)分能力的特征，獲得更好的人臉識別性能。另外，各種方法的正確識別率是都隨著特征維數(shù)的變化而變化，本文方法識別正確率隨著特征維數(shù)的變化較為平穩(wěn)，性能比較穩(wěn)定。

4.3 參數(shù)分析

本文實(shí)驗(yàn)為了測試不同參數(shù)對本文方法的性能影響。對于Yale和ORL數(shù)據(jù)庫中，分別從每人的圖像中選取5張用于訓(xùn)練，其余用于測試。實(shí)驗(yàn)中將參數(shù)α和β取值變化范圍均設(shè)置為{0.01,0.1,0,1,10}，同樣將實(shí)驗(yàn)重復(fù)進(jìn)行10次，取平均結(jié)果作為最終識別結(jié)果。表3和表4給出本文方法在Yale和ORL兩個標(biāo)準(zhǔn)數(shù)據(jù)庫上對應(yīng)不同參數(shù)下的識別結(jié)果。從實(shí)驗(yàn)結(jié)果可以看出，當(dāng)參數(shù)α=0和β=0時，本文方法的識別率很低，但隨著它們的取值增大，識別率也相應(yīng)的提高，其結(jié)果說明了在特征提取過程中考慮數(shù)據(jù)的局部結(jié)構(gòu)信息和類內(nèi)差異性是有利提取具有判別能力的特征。然而當(dāng)它們的取值增大到一定時，識別率開始降低了。其原因在于，如果α取值過小，造成類內(nèi)差異性丟失，從而導(dǎo)致識別率低，相反，如果α取值過大，放大了類內(nèi)差異性在整個目標(biāo)函數(shù)中作用，而忽視了類內(nèi)局部結(jié)構(gòu)作用，從而也相應(yīng)地導(dǎo)致本文方法的識別率降低。同樣，如果β取值過小，圖像的空間結(jié)構(gòu)信息被忽略，從而導(dǎo)致識別率降低，相反，如果β取值過大，可能導(dǎo)致圖像過于平滑，造成圖像失去判別信息，從而導(dǎo)致識別率降低。

表3 不同參數(shù)值在Yale標(biāo)準(zhǔn)人臉數(shù)據(jù)庫上最大的平均識別率

表4 不同參數(shù)值在ORL標(biāo)準(zhǔn)人臉數(shù)據(jù)庫上最大的平均識別率

5 結(jié)束語

本文通過考慮局部差異結(jié)構(gòu)信息，并利用二維離散拉譜拉斯圖的光滑正則化的思想，提出一種有監(jiān)督的特征提取算法。該算法在最小化局部判別離散度和最大化局部差異判別離散度的同時提取判別投影方向。與經(jīng)典的基于流形學(xué)習(xí)的算法相比，本文方法不僅有效地保持了局部結(jié)構(gòu)屬性，而且較好低保持圖像的空間結(jié)構(gòu)。在Yale和ORL標(biāo)準(zhǔn)人臉庫上的實(shí)驗(yàn)結(jié)果表明了本文算法的有效性。

[1] Jolliffe I T. Principal Component Analysis[M]. Berlin, Germany: Springer-Verlag, 2002.

[2] Duda R O. Pattern Classification[M]. New York, USA: [s. n.], 2001.

[3] Raudys S J, Jain A K. Small Sample Size Effects in Statistical Pattern Recognit ion: Recommend ations for Practitioners[J]. IEEE Transa ctions on Pattern An alysis and Machine Intelligence, 1991, 13(3): 252-264.

[4] Belhumeur P N, Hesp anha J P, Kriegman D J. Eigenfaces vs. Fisherfaces: Recognition Using Class Specific Linear Projection[J]. IE EE Transa ctions on Pattern An alysis and Machine Intelligence, 1997, 19(7): 713-720.

[5] Friedman J H. Regularized Discriminant Analysis[J]. Journal of the American Statistical Association, 1989, 84(405): 165-175.

[6] Li Haifeng, Jiang Tao, Z hang Keshu. Efficient and Rob ust Feature Extraction by Ma ximum Margin C riterion[J]. IEEE Transactions on Neural Networks, 2006, 17(1): 157-165.

[7] Tenenbaum J B, de Silva V, Langford J C. A Global Geometric Framework for Nonlinear Dimensionality Reduction[J]. Science, 2000, 290(5500): 2319-2323.

[8] Roweis S T, Saul L K. Nonlinear Dimensionality Reduction by Locally Linear Embedding[J]. Science, 2000, 290(5500): 2323-2326.

[9] Belkin M, Niyogi P. Laplacian Eigenmaps for Dimensionality Reduction and Data Represe ntation[J]. Neural Computation, 2003, 15(6): 1373-1396.

[10] He X F. Loc ality Preserving Projections[C]// Proceedings of the 16th Con ference on Neural Information P rocessing Systems. Cambridge, USA: MIT Press, 2003: 153- 160.

[11] Zhao Haita o, Su n Sha oyuan, Jing Zhongliang, et al. Lo cal Structure Based on Supervised Feature Extraction[J]. Pattern Recognition, 2006, 39(8): 1546-1550.

[12] Yang Liping, Gon g Weiguo, Gu Xiaohua, et al. Null Space Discriminat Locality Preserving Projections[J]. Neurocomputing, 2008, 71(16): 16-18.

[13] Gui Jie, Jia Wei, Zhu Liang. Locality Preserving Discriminant Projection for F ace and Palmprint Recog nition[J]. Neurocomputing, 2010, 73(13-15): 2696-2707.

[14] 高全學(xué), 高菲菲, 郝秀娟, 等. 基于圖像歐氏距離的二維局部多樣性保持投影[J]. 自動化學(xué)報, 2013, 39(7): 1062-1070.

[15] Yan Sh uicheng, X u Do ng, Z hang Benyu, et a l. Grap h Embedding and Extension: A General Framework for Dimensionality R eduction[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2007, 29(1): 40-51.

[16] 高全學(xué), 謝德艷, 徐 輝, 等. 融合局部結(jié)構(gòu)和差異信息的監(jiān)督特征提取算法[J]. 自動化學(xué)報, 2010, 36(8): 1107-1114.

[17] Cai Den g, He Xi aofei. Lear ning a Spatiall y Smooth Subspace for Face Recognition[C]//Proc. of IEEE Conference on Computer Vision and Pattern. Recognition, USA: IEEE Press, 2007: 777-787.

[18] Yale University. Face Database[EB/OL]. (2002-06-21). http:// cvc.yale.edu/projects/yalefaces/yalefaces.html.

[19] Samaria F S, Harter A C. Parameterisation of a Stochastic Model for Hum an Face Identification[C]//Proc. of IEEE Workshop on Applications of Computer Vision. [S. 1.]: IEEE Press, 1994: 138-142.

編輯 索書志

Face Recognition Method Based on Supervised Dimensionality Reduction

YAO Ming-hai1,3, WANG Na2, YI Yu-gen3, LUAN Jing-zhao4

(1. College of Information Science and Technology, Bohai University, Jinzhou 121013, China; 2. Department of Computer, Jinzhou Teacher’s Training College, Jinzhou 121013, China; 3. School of Mathematics and Statistics, Northeast Normal University, Changchun 130117, China; 4. State Grid Dalian Electric Power Supply Company, Dalian 116001, China)

Traditional dimensionality reduction methods only pay attention to the local similarity information of images. They neglect the diversity information of images and spatial structure of the pixels in the images. Therefore, a new supervised dimensionality r eduction method is proposed, which constructs the local si milarity graph an d local diversity graph to characte rize the local str ucture of images. Furthermore, a 2D Discretized Laplacian Smooth regularization by exploiting the spatial structure of the pixels in the images is introduced into the objective function. The method effectively maintains the loc al structure info rmation between images and maintains the diversity information between images and spatial structure of the pixels in the images. It can effectively extract out the low dimensional feature from the face image. The method is verified on the Yale and ORL database, and experimental results show that the method has high recognition accuracy.

dimensionality reduction; face recognition; diversity; local structure; spatial structure; regularization

10.3969/j.issn.1000-3428.2014.05.047

吉林省科技發(fā)展計劃青年科研基金資助項(xiàng)目(201201070)；遼寧省社會科學(xué)規(guī)劃基金資助項(xiàng)目(L13BXW006)。

姚明海(1980－)，男，講師、博士研究生，主研方向：模式識別，智能計算；王 娜，碩士；易玉根，博士研究生；欒敬釗，碩士。

2013-11-25

2014-01-14E-mail：yao_ming_hai@163.com

1000-3428(2014)05-0228-06

A

TP18