• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    半監(jiān)督稀疏近鄰保持投影

    2018-04-04 00:30:02吳振宇侯冰洋王輝兵劉勝藍(lán)
    關(guān)鍵詞:降維識(shí)別率人臉

    吳振宇, 侯冰洋, 王輝兵, 劉勝藍(lán), 馮 林

    (大連理工大學(xué)創(chuàng)新創(chuàng)業(yè)學(xué)院, 遼寧 大連 116024)

    0 引 言

    隨著信息技術(shù)的發(fā)展,圖片、音頻等信息采集處理技術(shù)進(jìn)一步提高,人們?cè)谌粘I钪蝎@得的數(shù)據(jù)信息維度越來(lái)越高,給算法帶來(lái)難以解決的“維數(shù)災(zāi)難”問(wèn)題。在過(guò)去的幾年中,研究人員構(gòu)建了很多高效的子空間學(xué)習(xí)算法,旨在維數(shù)約簡(jiǎn)的過(guò)程中,盡可能保持高維數(shù)據(jù)的某些分布特征,以提高后續(xù)分類(lèi)、聚類(lèi)以及檢索等應(yīng)用的精度。

    傳統(tǒng)的線(xiàn)性維數(shù)約簡(jiǎn)方法,如主成分分析(principal component analysis,PCA)[1]、線(xiàn)性鑒別分析(linear discriminant analysis,LDA)[2]易于應(yīng)用在實(shí)際問(wèn)題中,但這些算法僅僅考慮了樣本的全局結(jié)構(gòu)而忽略了不同樣本間的局部特征。鑒于此,文獻(xiàn)[3-4]提出了局部保持投影方法(locality preserving projections,LPP)和近鄰保持嵌入(neighborhood preserving embedding,NPE)等算法,有效地保持了樣本之間的局部近鄰關(guān)系,然而這些無(wú)監(jiān)督算法忽略了全局特征的獲取和保持,且不能利用樣本標(biāo)簽信息,導(dǎo)致低維子空間判別性能不足。

    近年來(lái),基于稀疏表示的稀疏子空間學(xué)習(xí)已經(jīng)成為一個(gè)重要的研究熱點(diǎn)。文獻(xiàn)[5]提出了一種稀疏保持投影(sparsity preserving projection,SPP)的降維算法,提高了算法的魯棒性且降低了算法復(fù)雜度。文獻(xiàn)[6]提出了一種基于鑒別稀疏保持嵌入(discriminant sparsity preserving embedding,DSPE)的降維算法,通過(guò)引入標(biāo)簽鑒別信息,有效地對(duì)高維數(shù)據(jù)進(jìn)行降維。文獻(xiàn)[7]認(rèn)為稀疏學(xué)習(xí)有很強(qiáng)的魯棒性。然而,大多數(shù)基于傳統(tǒng)稀疏子空間學(xué)習(xí)方法的問(wèn)題在于,對(duì)高維樣本進(jìn)行稀疏重建時(shí)僅考慮了全局信息,沒(méi)有利用樣本的局部特征,不能利用樣本的標(biāo)簽信息,容易造成誤學(xué)習(xí)、出現(xiàn)構(gòu)建樣本間錯(cuò)誤的相似度關(guān)系等問(wèn)題,這對(duì)數(shù)據(jù)降維十分不利[8-9]。傳統(tǒng)監(jiān)督降維算法通過(guò)提取樣本的標(biāo)簽信息,避免了無(wú)監(jiān)督算法中的誤學(xué)習(xí)等問(wèn)題,在分類(lèi)、識(shí)別等實(shí)際應(yīng)用中可取得較好的效果,但標(biāo)記不足或沒(méi)有標(biāo)記的情況下,算法的泛化能力會(huì)大大降低,導(dǎo)致分類(lèi)率急劇下降。在真實(shí)世界中,獲取有標(biāo)簽樣本的代價(jià)很高,無(wú)標(biāo)簽的數(shù)據(jù)相對(duì)更容易獲取,非常容易出現(xiàn)標(biāo)簽數(shù)據(jù)不足的情況,因此如何改善監(jiān)督降維算法的泛化性能就變得十分重要。

    對(duì)于監(jiān)督學(xué)習(xí)和無(wú)監(jiān)督學(xué)習(xí)各自存在的問(wèn)題,半監(jiān)督學(xué)習(xí)技術(shù)逐漸成為的研究熱點(diǎn)[10-16],半監(jiān)督學(xué)習(xí)能夠充分地同時(shí)利用所有樣本(標(biāo)記樣本和無(wú)標(biāo)記樣本),改善了監(jiān)督學(xué)習(xí)的泛化能力以及提高無(wú)監(jiān)督學(xué)習(xí)的高效性?;诎氡O(jiān)督學(xué)習(xí)的思想,并針對(duì)傳統(tǒng)稀疏子空間學(xué)習(xí)方法存在的問(wèn)題,提出了一種半監(jiān)督稀疏近鄰保持投影(semi-supervised sparsity neighbouring preserving projections,SSNPP)算法。該算法在保持樣本間全局和局部結(jié)構(gòu)關(guān)系的同時(shí),又充分利用部分樣本的標(biāo)簽信息,大幅提高了子空間的判別能力,在Extended Yale_B、ORL人臉數(shù)據(jù)集(Olivetti research laboratory,ORL)、AR人臉庫(kù)上的實(shí)驗(yàn)結(jié)果驗(yàn)證了該算法的有效性和魯棒性。

    1 SPP算法介紹

    1.1 稀疏相關(guān)性重構(gòu)

    對(duì)于給定的訓(xùn)練集X=[x1,x2,…,xm],其中,xi∈Rn;m>n,每一列是一個(gè)樣本,稀疏相關(guān)性重構(gòu)希望用訓(xùn)練集中最少的樣本來(lái)線(xiàn)性重構(gòu)每一個(gè)樣本xi,考慮到實(shí)際問(wèn)題中樣本存在噪聲及數(shù)學(xué)求解困難等情況,通常在稀疏相關(guān)性構(gòu)造的過(guò)程中使用l1約束[10,17],并引入重構(gòu)誤差ε,可通過(guò)凸優(yōu)化進(jìn)行求解,其目標(biāo)函數(shù)為

    s.t. ‖xi-Xsi‖<ε

    1=1Tsi

    (1)

    式中,1=[1,1,…,1]T∈Rm×1;稀疏重構(gòu)向量si是一列向量,si=[si,1,si,2,…,si,i-1,0,si,i+1,…,si,m]T,其第i個(gè)元素是0(表示xi被從X中移除)。

    由于約束條件‖xi-Xsi‖<ε的限制,si具有旋轉(zhuǎn)和縮放的不變性;由于1=1Tsi的約束,si具有平移的不變性[5]。另外,由于si中的非零元素大部分對(duì)應(yīng)于同類(lèi)別的樣本,這說(shuō)明在沒(méi)有類(lèi)別標(biāo)簽信息的情況下,si包含了自然的判別信息[6]。

    計(jì)算每一個(gè)xi的稀疏重構(gòu)向量si之后,可以定義稀疏重構(gòu)權(quán)值矩陣為

    (2)

    1.2 SPP算法

    xi=si,1x1+…+si,i-1xi-1+si,i+1xi+1+…+si,mxm

    (3)

    (4)

    (5)

    式中,S由式(2)得到。

    為了得到更加緊湊的表達(dá)式,且為了獲得數(shù)值穩(wěn)定性更高的解,式(5)最小化問(wèn)題可以變換成等價(jià)的最大化問(wèn)題,即

    (6)

    式中,Sβ=S+ST-STS。

    通過(guò)拉格朗日乘子法,式(6)進(jìn)一步轉(zhuǎn)化為廣義特征值求解問(wèn)題,即

    XSβXTw=λXXTw

    (7)

    求前d個(gè)特征值的特征向量[w1,w2,…,wd],則SPP的投影矩陣為W=[w1,w2,…,wd]。

    2 SSNPP算法介紹

    由于稀疏相關(guān)性重構(gòu)的全局特性,導(dǎo)致重構(gòu)反映出一些錯(cuò)誤的樣本間關(guān)系,為解決此問(wèn)題,在其基礎(chǔ)上利用樣本間的局部關(guān)系和部分樣本的標(biāo)簽信息,構(gòu)造了稀疏近鄰相關(guān)性重構(gòu),并基于此產(chǎn)生了稀疏近鄰保持投影(sparsity neighboring preserving projections,SNPP)。但是SNPP本質(zhì)上仍屬于無(wú)監(jiān)督學(xué)習(xí),不能充分利用樣本的標(biāo)簽信息,容易造成誤學(xué)習(xí)等,為了進(jìn)一步提高算法的性能,利用半監(jiān)督學(xué)習(xí)的思想,對(duì)標(biāo)簽判別信息和稀疏近鄰相關(guān)性重構(gòu)信息進(jìn)行融合,提出了SSNPP算法。

    2.1 稀疏近鄰相關(guān)性重構(gòu)

    由于稀疏表示的全局特性,無(wú)法充分利用樣本間的局部結(jié)構(gòu)信息,導(dǎo)致傳統(tǒng)稀疏降維算法(如SPP等)的重構(gòu)權(quán)值矩陣反映出一些樣本間錯(cuò)誤的關(guān)系。為了解決上述問(wèn)題,在稀疏重構(gòu)中的過(guò)程中,充分提取樣本間的局部結(jié)構(gòu)信息,并利用部分樣本的標(biāo)簽信息,把訓(xùn)練集X=[x1,x2,…,xm]∈Rn×m用XDi來(lái)代替,其中,Di∈Rm×m是一個(gè)對(duì)角矩陣,對(duì)角元為0或1,Di的引入使得XDi中只包含樣本xi的近鄰樣本和屬于同類(lèi)的樣本,其他對(duì)于重構(gòu)無(wú)關(guān)的樣本和噪聲樣本將被忽略。

    為了得到Di,首先計(jì)算xi與訓(xùn)練樣本集X中的其他樣本的歐氏距離,然后從中選出k個(gè)最近鄰的樣本,得到由xi的k個(gè)最近鄰樣本組成的集合為

    G(xi)={xi1,xi2,…,xik}

    (8)

    由于距離近的樣本更可能來(lái)自同一類(lèi),參與重構(gòu)的相關(guān)性會(huì)較高,所以在矩陣Di中對(duì)應(yīng)于這些樣本的對(duì)角元置為1;而與原屬于同一類(lèi)的樣本,參與重構(gòu)的相關(guān)性也較高,在矩陣Di中相應(yīng)的對(duì)角元也置為1;其余對(duì)角元均為0,表示為

    Di=diag(di1,di2,…,dim)

    (9)

    其中

    j∈(1,m)且j≠i

    用XDi中的樣本來(lái)重構(gòu)xi,通過(guò)最小化問(wèn)題尋找樣本xi的最優(yōu)稀疏近鄰相關(guān)性重構(gòu)向量si,表示為

    s.t. ‖xi-XDisi‖<ε

    1=1Tsi

    (10)

    2.2 SNPP算法

    類(lèi)似于SPP利用稀疏相關(guān)性保持進(jìn)行降維,SNPP基于稀疏近鄰相關(guān)性保持進(jìn)行降維,為了將高維空間中的稀疏近鄰重構(gòu)關(guān)系以最優(yōu)的結(jié)果保持到低維嵌入子空間中,使得在低維空間中樣本的稀疏重構(gòu)誤差最小,假設(shè)w是SNPP的投影向量,則wTXDisi表示樣本xi經(jīng)過(guò)稀疏近鄰重構(gòu)并降維后的低維表示,定義求解出能最優(yōu)保持si的投影向量w的目標(biāo)函數(shù)為

    (11)

    式中,X=[x1,x2,…,xm]∈Rn×m是訓(xùn)練集;Di由式(9)求得;si由式(10)求得。

    為了便于計(jì)算和降低空間復(fù)雜度,將式(11)通過(guò)代數(shù)變換和分塊矩陣的乘法處理,得到緊湊的表達(dá)形式為

    (12)

    其中

    (D1s1,D2s2,…,Dmsm)∈Rm×m

    同樣為了防止解的退化,并獲得唯一的最優(yōu)解,引入約束條件wTXXTw=1,則式(12)可以改寫(xiě)為最優(yōu)化問(wèn)題,即

    (13)

    同樣為了得到更加緊湊的表達(dá)式,且獲得更為穩(wěn)定的數(shù)值解,將式(13)最小化問(wèn)題轉(zhuǎn)化成等價(jià)最大化問(wèn)題,即

    (14)

    式中,Pα=P+PT-PTP。

    式(14)可轉(zhuǎn)化為廣義特征分解問(wèn)題,即

    XPαXTw=λXXTw

    (15)

    求前d個(gè)特征值的特征向量[w1,w2,…,wd],組成最優(yōu)的投影矩陣W=[w1,w2,…,wd]。

    2.3 SSNPP算法

    在真實(shí)世界中,高維數(shù)據(jù)通常只有一少部分是標(biāo)記樣本,大部分是無(wú)標(biāo)記的數(shù)據(jù),無(wú)監(jiān)督維數(shù)約簡(jiǎn)方法很難利用標(biāo)簽信息,導(dǎo)致算法性能低于監(jiān)督或半監(jiān)督算法,而SNPP本質(zhì)上也是無(wú)監(jiān)督降維算法,這就限制了SNPP算法的性能和適用范圍。因此,為了充分利用樣本的標(biāo)簽信息,本小節(jié)利用半監(jiān)督技術(shù)把SNPP算法拓展到SSNPP算法。

    對(duì)于訓(xùn)練集X=[x1,x2,…,xm]∈Rn×m中分別屬于k類(lèi)的n個(gè)有標(biāo)簽的樣本組成的子集合XcX,Ai表示第i類(lèi)樣本構(gòu)成的集合,Ni表示屬于第i類(lèi)樣本的個(gè)數(shù),mi表示第i類(lèi)樣本的均值,m表示所有樣本的均值,計(jì)算類(lèi)間離散度矩陣Sb和類(lèi)內(nèi)離散度矩陣Sw為

    (16)

    (17)

    利用最大間距準(zhǔn)則(maximum margin criterion,MMC)算法的最大邊界思想,使得高維數(shù)據(jù)降維后,在低維流形中相同類(lèi)別的樣本盡可能靠近,不同類(lèi)樣本盡可能遠(yuǎn),從而低維空間的樣本為分類(lèi)做了很好的預(yù)處理,使數(shù)據(jù)具有最大的可分性,目標(biāo)函數(shù)為

    max(tr(Sb)-tr(Sw))

    (18)

    SSNPP算法一方面保持全部樣本間的稀疏近鄰相關(guān)性(式(14)),另一方面提取部分樣本的標(biāo)簽信息(式(18)),假設(shè)投影向量為w,可以構(gòu)造出多目標(biāo)優(yōu)化函數(shù)為

    s.t.wTXXTw=1

    (19)

    為了獲得緊湊的形式,把多目標(biāo)優(yōu)化問(wèn)題轉(zhuǎn)換成正則化優(yōu)化問(wèn)題來(lái)求解,即

    (20)

    式(20)通過(guò)正則化參數(shù)λ來(lái)融合稀疏近鄰重構(gòu)信息和標(biāo)簽判別信息,使得算法在保持樣本間稀疏相關(guān)性的同時(shí),充分提取了部分樣本的標(biāo)簽信息。

    式(20)可以進(jìn)一步轉(zhuǎn)化為廣義特征分解問(wèn)題,即

    (XPαXT+λ(Sb-Sw))w=λXXTw

    (21)

    通過(guò)求式(21)的廣義特征分解,得到最大的d個(gè)特征值對(duì)應(yīng)的特征向量[w1,w2,…,wd],組合后得最優(yōu)的投影矩陣W=[w1,w2,…,wd]。

    2.4 算法基本步驟

    2.4.1SNPP算法步驟

    對(duì)于兼有標(biāo)簽樣本和無(wú)標(biāo)簽樣本的訓(xùn)練集,基于稀疏近鄰相關(guān)性重構(gòu),求出其最優(yōu)投影矩陣的SNPP算法步驟歸納如下:

    步驟1根據(jù)式(8)和式(9)構(gòu)建出對(duì)應(yīng)于訓(xùn)練集X的對(duì)角陣Di=diag(di1,di2,…,dim)。

    步驟2利用式(10)計(jì)算出對(duì)應(yīng)于各個(gè)樣本xi的最優(yōu)稀疏近鄰相關(guān)性重構(gòu)向量si。

    步驟3矩陣P=(D1s1,D2s2,…,Dmsm)由式(12)計(jì)算得出,矩陣Pα=P+PT-PTP由式(14)計(jì)算得出。

    步驟4求解式(15)的廣義特征分解問(wèn)題,選取最大的d個(gè)特征值對(duì)應(yīng)的特征向量,構(gòu)成最優(yōu)的投影矩陣W=[w1,w2,…,wd]。

    2.4.2SSNPP算法步驟

    對(duì)于兼有標(biāo)簽樣本和無(wú)標(biāo)簽樣本的訓(xùn)練集,基于稀疏近鄰相關(guān)性重構(gòu),并利用半監(jiān)督學(xué)習(xí)技術(shù)融合標(biāo)簽樣本的判別信息和無(wú)標(biāo)簽樣本中判別信息,求出最優(yōu)投影矩陣的SSNPP算法步驟歸納如下:

    步驟1根據(jù)式(8)和式(9)構(gòu)建出對(duì)應(yīng)于訓(xùn)練集X的對(duì)角陣Di=diag(di1,di2,…,dim)。

    步驟2利用式(10)計(jì)算出對(duì)應(yīng)于各個(gè)樣本xi的最優(yōu)稀疏近鄰相關(guān)性重構(gòu)向量si。

    步驟3矩陣P=(D1s1,D2s2,…,Dmsm)由式(12)計(jì)算得出,矩陣Pα=P+PT-PTP由式(14)計(jì)算得出。

    步驟4對(duì)有標(biāo)簽的訓(xùn)練樣本集Xc,由式(16)和式(17),計(jì)算出類(lèi)間離散度矩陣Sb和類(lèi)內(nèi)離散度矩陣Sw。

    步驟5求解式(21)的廣義特征分解問(wèn)題,選擇前d個(gè)最大的特征值對(duì)應(yīng)的特征向量,構(gòu)成最優(yōu)的投影矩陣W=[w1,w2,…,wd]。

    3 實(shí)驗(yàn)結(jié)果及分析

    為驗(yàn)證算法的有效性,在Extended、Yale_B、ORL和AR數(shù)據(jù)集上進(jìn)行了實(shí)驗(yàn),同時(shí)為客觀(guān)的評(píng)價(jià)本文提出的SNPP和SSNPP算法的有效性,引入PCA、NPE、LPP、SPP作為對(duì)比算法,利用這6種降維算法分別對(duì)3個(gè)數(shù)據(jù)集進(jìn)行降維,然后統(tǒng)一用最近鄰分類(lèi)器對(duì)降維后數(shù)據(jù)進(jìn)行分類(lèi),以分類(lèi)的準(zhǔn)確率為指標(biāo)來(lái)衡量降維算法的性能。

    3.1 實(shí)驗(yàn)數(shù)據(jù)集

    本文選擇了3個(gè)高維人臉數(shù)據(jù)集,分別是:

    (1) Extended Yale_B人臉數(shù)據(jù)集,含有38組正面的人臉圖像,每組包括59副人臉圖像,共2242副人臉圖像,圖像的像素是32×32,這些圖像之間的區(qū)別是不同的光照條件和面部表情等。

    (2) ORL含有40組正面的人臉圖像,每組包括10副人臉圖像,共400副人臉圖像,圖像的像素是32×32,這些圖像之間的區(qū)別是不同的光照條件、面部表情(是否閉眼、是否微笑)和面部細(xì)節(jié)(是否戴眼鏡)等。

    (3) AR人臉數(shù)據(jù)集,含有120組人臉圖像,每組包括14副人臉圖像,共1680副人臉圖,圖像的像素是50×40,這些圖像之間的區(qū)別是不同的光照條件和面部表情(是否微笑、是否大幅張口)等。

    圖1給出了Extended Yale_B,ORL和AR人臉數(shù)據(jù)集中的人臉樣例。

    圖1 Extended Yale_B、ORL和AR人臉數(shù)據(jù)集的圖像

    3.2 實(shí)驗(yàn)設(shè)置

    實(shí)驗(yàn)數(shù)據(jù)集是在上述標(biāo)準(zhǔn)人臉數(shù)據(jù)集中構(gòu)造的,每個(gè)數(shù)據(jù)集被分成3部分:每一組人臉圖像先抽取一部分樣本(無(wú)標(biāo)簽)作為無(wú)監(jiān)督訓(xùn)練數(shù)據(jù),再抽取一部分樣本(有標(biāo)簽)作為監(jiān)督訓(xùn)練數(shù)據(jù),剩下的樣本作為測(cè)試數(shù)據(jù)。

    對(duì)于基于稀疏重構(gòu)的3種算法(SPP、SNPP、SSNPP),在進(jìn)行降維之前先將訓(xùn)練樣本的像素值歸一化到[0,1]的范圍,同時(shí)為避免樣本數(shù)遠(yuǎn)小于特征維數(shù)而導(dǎo)致XXT出現(xiàn)奇異,也為了加快算法運(yùn)行,將訓(xùn)練樣本投影到PCA的子空間進(jìn)行數(shù)據(jù)預(yù)處理,保留訓(xùn)練樣本98%的主成分。

    設(shè)置各算法的運(yùn)行參數(shù)如表1所示。

    表1 各算法的參數(shù)

    實(shí)驗(yàn)按相同的步長(zhǎng)遞減保留特征的維數(shù),經(jīng)過(guò)降維后的數(shù)據(jù),均通過(guò)最近鄰分類(lèi)算法計(jì)算出識(shí)別準(zhǔn)確率,以分類(lèi)的準(zhǔn)確率來(lái)衡量降維算法的性能。

    3.3 結(jié)果及分析

    3.3.1Extended Yale_B數(shù)據(jù)集實(shí)驗(yàn)

    實(shí)驗(yàn)中,從Extended Yale_B人臉庫(kù)隨機(jī)抽取每組人臉的前40幅圖像作為半監(jiān)督中無(wú)標(biāo)簽樣本,再抽取10幅圖像作為訓(xùn)練樣本,剩下的9幅圖像作為測(cè)試集。參數(shù)設(shè)置為:NPE算法的近鄰樣本個(gè)數(shù)k=3,SNPP算法的近鄰樣本個(gè)數(shù)k=20,SSNPP算法的近鄰樣本個(gè)數(shù)k=20,融合參數(shù)λ=3.5。表2為各算法的最大識(shí)別率和平均識(shí)別率的比較,圖2為不同子空間學(xué)習(xí)算法的識(shí)別準(zhǔn)確率與維數(shù)的關(guān)系曲線(xiàn)。

    表2 Extended Yale_B人臉庫(kù)上不同算法的最大識(shí)別率和平均識(shí)別率

    圖2 Extended Yale_B人臉庫(kù)上不同算法的識(shí)別準(zhǔn)確率

    從表2可看出,在最大識(shí)別率方面,SSNPP比SPP高5.85%,SNPP比SPP高2.92%;在平均識(shí)別率方面,SSNPP比SPP高21.95%,SNPP比SPP高15.16%,這是由于在稀疏近鄰相關(guān)性重構(gòu)的時(shí)候,利用樣本間的局部信息和部分標(biāo)簽信息引入了矩陣Di,使得在稀疏相關(guān)性重構(gòu)樣本時(shí),不同類(lèi)的樣本和噪聲樣本被忽略,保留了更為準(zhǔn)確的自然判別信息,提高了降維性能和后續(xù)分類(lèi)的準(zhǔn)確率,從而驗(yàn)證了稀疏近鄰相關(guān)性重構(gòu)的有效性。

    從圖2和表2可以看出,SNPP算法的最大識(shí)別率為89.18%,比PCA、NPE、LPP、SPP算法中的最高識(shí)別率高2.92%,且SNPP算法的整體識(shí)別性能均大幅優(yōu)于這4種算法,這說(shuō)明稀疏近鄰相關(guān)性重構(gòu)充分提取了樣本間的局部結(jié)構(gòu)信息和部分樣本的標(biāo)簽信息,從而使算法性能得到較大提升。而SNPP算法在65維時(shí)識(shí)別率達(dá)到最高,且隨著維數(shù)升高,識(shí)別率很難再上升,這表明降維后的特征空間能很好地描述原來(lái)的特征空間,這說(shuō)明了稀疏近鄰相關(guān)性重構(gòu)在提取判別信息時(shí)具有良好的穩(wěn)定性。

    從圖2可以看出,SSNPP算法在投影軸維數(shù)為55維時(shí)識(shí)別率達(dá)到最大值,最大識(shí)別率達(dá)到92.11%,比其他5種算法的最高識(shí)別率高2.93%。而在全部維度上,SSNPP算法的性能在SNPP的基礎(chǔ)上均有提升,這說(shuō)明SSNPP算法有效地融合了稀疏近鄰重構(gòu)信息和部分樣本的標(biāo)簽判別信息,通過(guò)判別特征的融合,增強(qiáng)了特征的表示和判別能力,得到了判別能力更強(qiáng)的低維子空間,提高了分類(lèi)和識(shí)別準(zhǔn)確性,驗(yàn)證了SSNPP算法的有效性和魯棒性。

    3.3.2ORL數(shù)據(jù)集實(shí)驗(yàn)

    實(shí)驗(yàn)中,從ORL人臉庫(kù)中選擇每組人臉的前5幅圖像作為半監(jiān)督學(xué)習(xí)中無(wú)標(biāo)記的訓(xùn)練樣本,選擇近鄰的3副圖像作為有標(biāo)記訓(xùn)練樣本,剩下的2幅圖像作為測(cè)試集。參數(shù)設(shè)置為:NPE算法的近鄰樣本個(gè)數(shù)k=31,SNPP算法的近鄰樣本個(gè)數(shù)k=97,SSNPP算法的近鄰樣本個(gè)數(shù)k=96,融合參數(shù)λ=0.5。表3為各算法最大識(shí)別率和平均識(shí)別率的比較,圖3為在不同子空間學(xué)習(xí)算法的識(shí)別準(zhǔn)確率與維數(shù)的關(guān)系曲線(xiàn)。

    表3 ORL人臉庫(kù)不同算法的最大識(shí)別率和平均識(shí)別率

    圖3 ORL人臉庫(kù)上不同方法的識(shí)別準(zhǔn)確率

    從圖3和表3可以看出,SSNPP算法在投影軸維數(shù)為55維時(shí)識(shí)別率達(dá)到最大值,最大識(shí)別率達(dá)到了92.11%,比其他5種算法的最高識(shí)別率高2.93%,平均識(shí)別率為88.33%也均高于其他5種算法。而在全部維度上,SSNPP算法的性能在SNPP的基礎(chǔ)上均有較大提升,這說(shuō)明SSNPP算法實(shí)現(xiàn)了判別信息的有效融合,增強(qiáng)了特征的判別能力,提高了分類(lèi)和識(shí)別準(zhǔn)確率,驗(yàn)證了SSNPP算法的有效性和魯棒性。

    3.3.3AR數(shù)據(jù)集實(shí)驗(yàn)

    實(shí)驗(yàn)中,從AR人臉庫(kù)中選擇每組人臉的前5幅圖像作為半監(jiān)督學(xué)習(xí)中無(wú)標(biāo)記的訓(xùn)練樣本,選擇近鄰的4幅圖像作為有標(biāo)簽訓(xùn)練樣本,剩下的5幅圖像作為測(cè)試樣本。參數(shù)設(shè)置為:NPE算法的近鄰樣本個(gè)數(shù)k=160,SNPP算法的近鄰樣本個(gè)數(shù)k=77,SSNPP算法的近鄰樣本個(gè)數(shù)k=77,融合參數(shù)λ=0.365。表4為各算法的最大識(shí)別率和平均識(shí)別率的比較,圖4為不同子空間學(xué)習(xí)算法的識(shí)別準(zhǔn)確率與維數(shù)的關(guān)系曲線(xiàn)。

    表4 AR人臉庫(kù)上不同算法的最大識(shí)別率和平均識(shí)別率

    圖4 AR人臉庫(kù)上不同方法的性能比較

    從表4可以看出,在最大識(shí)別率方面,SSNPP比SPP算法高4.00%,SNPP比SPP高2.16%;在平均識(shí)別率方面,SSNPP比SPP算法高9.71%,SNPP比SPP高6.58%,這也驗(yàn)證了稀疏近鄰相關(guān)性重構(gòu)比稀疏相關(guān)性重構(gòu)更為有效。

    從圖4和表4可以看出,SNPP算法的最大識(shí)別率為94.83%,比PCA、NPE、LPP、SPP算法中的最高識(shí)別率高2.00%,且SNPP算法的整體識(shí)別性能均高于這4種算法,這也說(shuō)明了稀疏近鄰相關(guān)性重構(gòu)能充分利用樣本間局部結(jié)構(gòu)信息和部分樣本的標(biāo)簽信息,使得算法性能得到較大提升。SNPP算法在60維時(shí)識(shí)別率達(dá)到最高,且隨著維數(shù)升高,識(shí)別率很難再上升,這也驗(yàn)證了稀疏近鄰相關(guān)性重構(gòu)在提取判別信息時(shí)具有良好的穩(wěn)定性。

    從圖4可以看出,SSNPP算法在投影軸維數(shù)為60維時(shí)識(shí)別率達(dá)到最大值96.67%,比其他5種算法的最高識(shí)別率高2.93%,而在全部維度上,SSNPP的性能均優(yōu)于SNPP,這同樣說(shuō)明了SSNPP能在標(biāo)記樣本不足的情況下依然能夠取得較高的識(shí)別率,驗(yàn)證了SSNPP算法的有效性。

    4 結(jié) 論

    本文通過(guò)提取樣本間的局部結(jié)構(gòu)信息和部分樣本的標(biāo)簽信息,對(duì)傳統(tǒng)稀疏相關(guān)性重構(gòu)方法進(jìn)行了改進(jìn),提出了稀疏近鄰相關(guān)性重構(gòu)方法,該方法使得重構(gòu)保留了更為準(zhǔn)確的判別信息,基于此方法得到了SNPP算法。但SNPP算法本質(zhì)上仍屬于無(wú)監(jiān)督學(xué)習(xí),不能像MMC算法一樣充分利用樣本的標(biāo)簽信息。為了進(jìn)一步提高降維算法的性能,本文利用半監(jiān)督學(xué)習(xí)的思想將SNPP算法和MMC算法進(jìn)行結(jié)合,通過(guò)引入正則化參數(shù)對(duì)標(biāo)簽判別信息和稀疏近鄰相關(guān)性重構(gòu)信息進(jìn)行融合,將SNPP算法拓展至SSNPP算法,增強(qiáng)了特征的判別能力。在Extended Yale_B、ORL和AR人臉庫(kù)上的實(shí)驗(yàn)結(jié)果表明,SNPP算法的分類(lèi)和識(shí)別性能與傳統(tǒng)降維算法相比取得大幅提升,這驗(yàn)證了稀疏相關(guān)性重構(gòu)的有效性和提取判別信息時(shí)具有的良好穩(wěn)定性;而SSNPP算法的性能在3個(gè)人臉庫(kù)上與SNPP算法相比均有較大提升,這說(shuō)明SSNPP算法具有很好的魯棒性,但對(duì)于稀疏表示誤差較大的樣本,和一些非線(xiàn)性分布比較復(fù)雜的數(shù)據(jù),本文算法還是難以處理,這也是今后值得研究的方向。

    參考文獻(xiàn):

    [1] JOLLIFFE I. Principal component analysis[M]. New York: Wiley, 2002.

    [2] MIKA S, RATSCH G, WESTON J, et al. Fisher discriminant analysis with kernels[C]∥Proc.of the IEEE Signal Processing Society Workshop, 1999: 41-48.

    [3] HE X, NIYOGI P. Locality preserving projections[C]∥Proc.of the Advances in Neural Information Processing Systems, 2004: 153-160.

    [4] HE X, CAI D, YAN S, et al. Neighborhood preserving embedding[C]∥Proc.of the 10th IEEE International Conference on Computer Vision, 2005: 1208-1213.

    [5] QIAO L, CHEN S, TAN X. Sparsity preserving projections with applications to face recognition[J]. Pattern Recognition, 2010, 43(1): 331-341.

    [6] 馬小虎,譚延琪. 基于鑒別稀疏保持嵌入的人臉識(shí)別算法[J]. 自動(dòng)化學(xué)報(bào), 2014, 40(1): 73-82.

    MA X H, TAN Y Q. Face recognition based on discriminant sparsity preserving embedding[J]. Acta Automatica Sinica, 2014, 40(1): 73-82.

    [7] WRIGHT J, YANG A Y, GANESH A, et al. Robust face recognition via sparse representation[J]. IEEE Trans.on Pattern Analysis and Machine Intelligence, 2009, 31(2): 210-227.

    [8] HUI K, LI C, ZHANG L. Sparse neighbor representation for classification[J]. Pattern Recognition Letters, 2012, 33(5): 661-669.

    [9] ELHAMIFAR E, VIDAL R. Robust classification using structured sparse representation[C]∥Proc.of the IEEE Conference on Computer Vision and Pattern Recognition,2011:1873-1879.

    [10] ZHANG D, ZHOU Z H, CHEN S. Semi-supervised dimensionality reduction[C]∥Proc.of the International Conference on Data Mining of the Society for Industrial and Applied Mathematics, 2007: 629-634.

    [11] CAI D, HE X, HAN J. Semi-supervised discriminant analysis[C]∥Proc.of the 11th IEEE International Conference on Computer Vision, 2007: 1-7.

    [12] GAO Q, HUANG Y, GAO X, et al. A novel semi-supervised learning for face recognition[J]. Neurocomputing,2015,152(C): 69-76.

    [13] 劉建偉, 劉媛, 羅雄麟. 半監(jiān)督學(xué)習(xí)方法[J].計(jì)算機(jī)學(xué)報(bào), 2015, 38(8): 1592-1617.

    LIU J W, LIU Y, LUO X L. Semi-supervised learning methods[J].Chinese Journal of Computers,2015,38(8):1592-1617.

    [14] ZHANG X, HU Y N, Zhou N, et al. Semi-supervised sparse dimensionality reduction for hyperspectral image classification[C]∥Proc.of the IEEE Region 10 Conference, 2016: 2830-2833.

    [15] WANG X, GAO Y, CHENG Y. A non-negative sparse semi-supervised dimensionality reduction algorithm for hyperspectral data[J]. Neurocomputing, 2016, 188: 275-283.

    [16] SHEIKHPOUR R, SARRAM M A, GHARAGHANI S, et al. A survey on semi-supervised feature selection methods[J]. Pattern Recognition, 2017, 64(C): 141-158.

    [17] DONOHO D L. Compressed sensing[J]. IEEE Trans.on Information Theory, 2006, 52(4): 1289-1306.

    猜你喜歡
    降維識(shí)別率人臉
    Three-Body’s epic scale and fiercely guarded fanbase present challenges to adaptations
    有特點(diǎn)的人臉
    基于類(lèi)圖像處理與向量化的大數(shù)據(jù)腳本攻擊智能檢測(cè)
    降維打擊
    海峽姐妹(2019年12期)2020-01-14 03:24:40
    基于真耳分析的助聽(tīng)器配戴者言語(yǔ)可懂度指數(shù)與言語(yǔ)識(shí)別率的關(guān)系
    三國(guó)漫——人臉解鎖
    提升高速公路MTC二次抓拍車(chē)牌識(shí)別率方案研究
    高速公路機(jī)電日常維護(hù)中車(chē)牌識(shí)別率分析系統(tǒng)的應(yīng)用
    馬面部與人臉相似度驚人
    長(zhǎng)得象人臉的十種動(dòng)物
    奇聞怪事(2014年5期)2014-05-13 21:43:01
    悠悠久久av| 成人永久免费在线观看视频| 日本精品一区二区三区蜜桃| 国产一区二区三区视频了| 亚洲男人的天堂狠狠| 一夜夜www| 美女免费视频网站| 少妇熟女aⅴ在线视频| 久久精品国产99精品国产亚洲性色| 他把我摸到了高潮在线观看| 亚洲精品在线美女| 9191精品国产免费久久| 特大巨黑吊av在线直播| 天美传媒精品一区二区| 亚洲精品成人久久久久久| 精品不卡国产一区二区三区| 看免费av毛片| 麻豆国产av国片精品| 久久中文看片网| 欧美一区二区精品小视频在线| netflix在线观看网站| 尤物成人国产欧美一区二区三区| a在线观看视频网站| 亚洲狠狠婷婷综合久久图片| 午夜a级毛片| 精品一区二区三区视频在线观看免费| 美女被艹到高潮喷水动态| 女人被狂操c到高潮| 亚洲五月天丁香| 精品午夜福利在线看| 我的老师免费观看完整版| 色5月婷婷丁香| 亚洲avbb在线观看| 久久久久九九精品影院| 少妇的逼好多水| 日韩欧美一区二区三区在线观看| 少妇丰满av| 麻豆久久精品国产亚洲av| 色视频www国产| 成年女人毛片免费观看观看9| 国产成人啪精品午夜网站| 色av中文字幕| 十八禁国产超污无遮挡网站| 在线观看舔阴道视频| 欧美最新免费一区二区三区 | 亚洲午夜理论影院| 久久久久国产精品人妻aⅴ院| 日韩中文字幕欧美一区二区| 久久精品国产亚洲av涩爱 | 亚洲专区中文字幕在线| 亚洲乱码一区二区免费版| 国产毛片a区久久久久| 我的老师免费观看完整版| 嫩草影视91久久| 91av网一区二区| 亚洲精品色激情综合| 亚洲性夜色夜夜综合| 我要搜黄色片| 18禁裸乳无遮挡免费网站照片| 热99re8久久精品国产| av中文乱码字幕在线| 国产野战对白在线观看| 精品人妻视频免费看| 精品久久久久久,| 欧美三级亚洲精品| 久久性视频一级片| а√天堂www在线а√下载| 国产高清视频在线观看网站| 在线观看一区二区三区| 此物有八面人人有两片| 99视频精品全部免费 在线| 国产精品亚洲一级av第二区| av天堂中文字幕网| 啦啦啦韩国在线观看视频| 久久精品国产99精品国产亚洲性色| 午夜免费激情av| 天美传媒精品一区二区| 亚洲内射少妇av| 热99在线观看视频| 日韩成人在线观看一区二区三区| 91久久精品电影网| 少妇熟女aⅴ在线视频| 日日夜夜操网爽| 日韩欧美在线二视频| 免费在线观看成人毛片| 可以在线观看的亚洲视频| 老司机午夜福利在线观看视频| 99精品久久久久人妻精品| 亚洲精华国产精华精| 美女xxoo啪啪120秒动态图 | 午夜免费激情av| 99国产精品一区二区蜜桃av| 久久精品综合一区二区三区| 色吧在线观看| 日韩欧美三级三区| 国产av在哪里看| 老熟妇仑乱视频hdxx| 婷婷精品国产亚洲av| 国产精品亚洲美女久久久| 中文字幕高清在线视频| 成人一区二区视频在线观看| 亚洲三级黄色毛片| 午夜久久久久精精品| 蜜桃久久精品国产亚洲av| 两人在一起打扑克的视频| 国产淫片久久久久久久久 | 性欧美人与动物交配| 一本一本综合久久| 欧美激情在线99| 精品久久国产蜜桃| 亚洲av日韩精品久久久久久密| 美女黄网站色视频| 搡女人真爽免费视频火全软件 | 亚洲av免费在线观看| 免费在线观看影片大全网站| 在线播放无遮挡| 色尼玛亚洲综合影院| 欧美在线一区亚洲| 午夜a级毛片| 欧美精品啪啪一区二区三区| 国产成+人综合+亚洲专区| 成人欧美大片| 老女人水多毛片| 国产久久久一区二区三区| 国产视频内射| 免费在线观看亚洲国产| 美女 人体艺术 gogo| 观看美女的网站| 舔av片在线| 乱人视频在线观看| 国产av不卡久久| 久久久久久久久大av| 色噜噜av男人的天堂激情| 亚洲国产精品999在线| 波多野结衣高清无吗| 97碰自拍视频| 国产精品影院久久| 两个人的视频大全免费| 不卡一级毛片| 欧美日韩综合久久久久久 | 免费观看的影片在线观看| 欧美成人一区二区免费高清观看| 精品免费久久久久久久清纯| 亚洲av第一区精品v没综合| 俄罗斯特黄特色一大片| 亚洲性夜色夜夜综合| 嫩草影院精品99| 国产一区二区三区在线臀色熟女| 露出奶头的视频| 我要看日韩黄色一级片| 国产精品日韩av在线免费观看| 色哟哟·www| 天堂√8在线中文| 亚洲精品成人久久久久久| 此物有八面人人有两片| 精品一区二区三区人妻视频| 亚洲第一区二区三区不卡| 网址你懂的国产日韩在线| 亚洲欧美日韩东京热| 12—13女人毛片做爰片一| 一进一出好大好爽视频| 国产午夜精品久久久久久一区二区三区 | 色综合站精品国产| 我要搜黄色片| 有码 亚洲区| 免费看美女性在线毛片视频| 日本一二三区视频观看| 国产亚洲欧美98| 夜夜躁狠狠躁天天躁| 久久精品国产亚洲av涩爱 | 国产精品1区2区在线观看.| av在线蜜桃| 国产男靠女视频免费网站| 久久精品国产清高在天天线| 床上黄色一级片| 欧美日韩中文字幕国产精品一区二区三区| 欧美一区二区亚洲| 最后的刺客免费高清国语| 午夜激情福利司机影院| 欧美成人免费av一区二区三区| 亚洲欧美激情综合另类| 一级av片app| 欧美日韩亚洲国产一区二区在线观看| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 老女人水多毛片| 欧美日韩国产亚洲二区| 网址你懂的国产日韩在线| 悠悠久久av| 久久国产乱子免费精品| 国产精品免费一区二区三区在线| 亚洲最大成人av| 高清毛片免费观看视频网站| 亚洲第一欧美日韩一区二区三区| 级片在线观看| 波多野结衣巨乳人妻| 亚洲av五月六月丁香网| 99久久久亚洲精品蜜臀av| 97人妻精品一区二区三区麻豆| 亚洲美女视频黄频| 国产成年人精品一区二区| 我要搜黄色片| 免费电影在线观看免费观看| 久久这里只有精品中国| 亚州av有码| www.www免费av| 国产69精品久久久久777片| 久久久精品大字幕| 国产精品人妻久久久久久| 日本熟妇午夜| 全区人妻精品视频| 亚洲精品一区av在线观看| 我的女老师完整版在线观看| 久久久久久国产a免费观看| 夜夜爽天天搞| 一级作爱视频免费观看| 午夜福利成人在线免费观看| 丁香六月欧美| 一级黄色大片毛片| 欧美bdsm另类| 久久这里只有精品中国| 琪琪午夜伦伦电影理论片6080| 男人的好看免费观看在线视频| 国产精品亚洲av一区麻豆| 日韩大尺度精品在线看网址| 成人高潮视频无遮挡免费网站| 别揉我奶头 嗯啊视频| 熟妇人妻久久中文字幕3abv| 全区人妻精品视频| 18禁黄网站禁片免费观看直播| 搡女人真爽免费视频火全软件 | 亚洲国产精品成人综合色| 亚洲欧美日韩卡通动漫| 一级作爱视频免费观看| 校园春色视频在线观看| av专区在线播放| 99国产精品一区二区三区| 色哟哟哟哟哟哟| 亚洲精品成人久久久久久| 九色成人免费人妻av| 69av精品久久久久久| 亚洲成av人片免费观看| 一卡2卡三卡四卡精品乱码亚洲| 99精品在免费线老司机午夜| 女同久久另类99精品国产91| 国产av在哪里看| 亚洲,欧美精品.| 亚洲欧美日韩卡通动漫| 免费在线观看成人毛片| 亚洲av成人精品一区久久| 国产精品不卡视频一区二区 | 久久久精品欧美日韩精品| 51国产日韩欧美| 国产高清三级在线| 亚洲中文字幕日韩| 成人精品一区二区免费| 黄色日韩在线| av天堂在线播放| 少妇的逼好多水| 嫁个100分男人电影在线观看| 国产v大片淫在线免费观看| 亚洲一区二区三区不卡视频| 亚洲专区中文字幕在线| 变态另类丝袜制服| 日韩欧美精品免费久久 | 国产美女午夜福利| 国产 一区 欧美 日韩| 色5月婷婷丁香| 国产免费一级a男人的天堂| 久久久久久久久久黄片| 日本 欧美在线| 美女高潮的动态| 国产在线男女| 小说图片视频综合网站| 久久人人精品亚洲av| 99在线人妻在线中文字幕| 亚洲国产精品成人综合色| 国产中年淑女户外野战色| 男女那种视频在线观看| 黄色配什么色好看| 婷婷精品国产亚洲av在线| 美女黄网站色视频| 亚洲七黄色美女视频| 亚洲成a人片在线一区二区| 亚洲在线自拍视频| 一级黄色大片毛片| 欧美bdsm另类| 嫩草影院新地址| 国产麻豆成人av免费视频| 亚洲人成网站高清观看| 在线观看66精品国产| 久久99热这里只有精品18| 性色av乱码一区二区三区2| 麻豆av噜噜一区二区三区| 亚洲一区二区三区不卡视频| 午夜福利在线在线| 亚州av有码| 日本一二三区视频观看| 国产久久久一区二区三区| 99国产精品一区二区三区| 欧美+亚洲+日韩+国产| 免费av毛片视频| 午夜福利视频1000在线观看| 高清在线国产一区| 亚洲经典国产精华液单 | 国产麻豆成人av免费视频| 脱女人内裤的视频| 人人妻人人看人人澡| 国产男靠女视频免费网站| 国产亚洲欧美在线一区二区| 毛片女人毛片| 久久性视频一级片| 一卡2卡三卡四卡精品乱码亚洲| 赤兔流量卡办理| 中文字幕av成人在线电影| 91字幕亚洲| 久久中文看片网| 美女高潮喷水抽搐中文字幕| 岛国在线免费视频观看| 日本黄色片子视频| 亚洲无线观看免费| 亚洲精品一区av在线观看| 我要看日韩黄色一级片| 美女 人体艺术 gogo| 真人做人爱边吃奶动态| 一进一出抽搐gif免费好疼| 美女高潮喷水抽搐中文字幕| 毛片女人毛片| 中文字幕人妻熟人妻熟丝袜美| 在线a可以看的网站| 婷婷精品国产亚洲av在线| 久久久久久大精品| 欧美色视频一区免费| 日韩欧美国产在线观看| 国产黄片美女视频| 成人三级黄色视频| 乱人视频在线观看| 很黄的视频免费| 波多野结衣巨乳人妻| 999久久久精品免费观看国产| 久久久久国产精品人妻aⅴ院| 又粗又爽又猛毛片免费看| 在线免费观看的www视频| 久久久国产成人免费| 尤物成人国产欧美一区二区三区| 亚洲国产日韩欧美精品在线观看| 12—13女人毛片做爰片一| 淫秽高清视频在线观看| 国产高清有码在线观看视频| 三级毛片av免费| 亚洲国产日韩欧美精品在线观看| 国产av在哪里看| 少妇的逼好多水| 国产欧美日韩一区二区精品| 看免费av毛片| 婷婷精品国产亚洲av在线| 国产一区二区在线av高清观看| 亚洲五月婷婷丁香| 国产色婷婷99| 欧美三级亚洲精品| 成年女人永久免费观看视频| 欧美另类亚洲清纯唯美| 99久久久亚洲精品蜜臀av| 一个人观看的视频www高清免费观看| 久久人妻av系列| h日本视频在线播放| 99久久精品热视频| 亚洲精品久久国产高清桃花| 午夜久久久久精精品| 亚洲中文字幕日韩| 久久久久久久久大av| 毛片女人毛片| 啦啦啦观看免费观看视频高清| 亚洲精品亚洲一区二区| 最近视频中文字幕2019在线8| 久久久久性生活片| netflix在线观看网站| 亚洲欧美日韩无卡精品| 久久精品国产清高在天天线| 成人性生交大片免费视频hd| 国产亚洲精品综合一区在线观看| 精品久久久久久成人av| av天堂中文字幕网| av中文乱码字幕在线| 欧美一区二区精品小视频在线| 精品人妻1区二区| 亚洲av熟女| 赤兔流量卡办理| 99久久久亚洲精品蜜臀av| 日本a在线网址| 窝窝影院91人妻| 亚洲中文字幕日韩| 一个人免费在线观看电影| 又黄又爽又刺激的免费视频.| 少妇高潮的动态图| АⅤ资源中文在线天堂| 99久国产av精品| 中文亚洲av片在线观看爽| 一个人免费在线观看的高清视频| 久久久色成人| 黄色一级大片看看| 长腿黑丝高跟| 亚洲一区高清亚洲精品| 日本免费一区二区三区高清不卡| 久久久精品欧美日韩精品| 看免费av毛片| 男女做爰动态图高潮gif福利片| 欧美性感艳星| 亚洲av电影不卡..在线观看| 国产精品影院久久| 国产精华一区二区三区| 欧美精品啪啪一区二区三区| 午夜福利欧美成人| 日韩 亚洲 欧美在线| 中文字幕av在线有码专区| 亚洲成人精品中文字幕电影| 成人三级黄色视频| 日韩欧美精品免费久久 | 啦啦啦观看免费观看视频高清| 在线观看av片永久免费下载| 国产国拍精品亚洲av在线观看| 亚洲欧美激情综合另类| 成人国产综合亚洲| 色吧在线观看| 欧美黄色淫秽网站| 欧美区成人在线视频| 亚洲性夜色夜夜综合| 99久久成人亚洲精品观看| 一区二区三区高清视频在线| 日本免费a在线| 国内久久婷婷六月综合欲色啪| 身体一侧抽搐| 偷拍熟女少妇极品色| 国产成人a区在线观看| 人人妻人人澡欧美一区二区| 亚洲国产精品成人综合色| 亚洲av成人精品一区久久| 此物有八面人人有两片| 69人妻影院| 又黄又爽又刺激的免费视频.| 悠悠久久av| 成人午夜高清在线视频| 国产综合懂色| 好男人电影高清在线观看| 一区二区三区四区激情视频 | 国产精品久久久久久久久免 | 色在线成人网| 桃红色精品国产亚洲av| 久久久久久久久中文| eeuss影院久久| 欧美成狂野欧美在线观看| 91九色精品人成在线观看| 久久久成人免费电影| 久99久视频精品免费| 日本熟妇午夜| 十八禁网站免费在线| 首页视频小说图片口味搜索| av天堂中文字幕网| 乱人视频在线观看| 九色国产91popny在线| 久久人人精品亚洲av| 日本一二三区视频观看| 欧美日韩国产亚洲二区| 97超视频在线观看视频| 免费看日本二区| 91久久精品电影网| 亚洲熟妇中文字幕五十中出| 国产精品伦人一区二区| 精品一区二区三区人妻视频| 观看美女的网站| 精品一区二区三区av网在线观看| 可以在线观看毛片的网站| 免费看日本二区| 99久久久亚洲精品蜜臀av| 最近最新免费中文字幕在线| 欧美高清成人免费视频www| 久久欧美精品欧美久久欧美| 亚洲精华国产精华精| 亚洲,欧美,日韩| 成年女人永久免费观看视频| 别揉我奶头 嗯啊视频| 又粗又爽又猛毛片免费看| 久久久色成人| 精品不卡国产一区二区三区| 99国产精品一区二区蜜桃av| 91狼人影院| 国产精品一及| 琪琪午夜伦伦电影理论片6080| 久久久久久久亚洲中文字幕 | 一本一本综合久久| 99视频精品全部免费 在线| 亚洲精华国产精华精| 又黄又爽又免费观看的视频| 人人妻,人人澡人人爽秒播| 99热只有精品国产| 非洲黑人性xxxx精品又粗又长| 久久热精品热| 可以在线观看的亚洲视频| 床上黄色一级片| 男人狂女人下面高潮的视频| 亚洲自拍偷在线| 成年免费大片在线观看| 亚洲乱码一区二区免费版| 日韩有码中文字幕| 国产爱豆传媒在线观看| 午夜福利视频1000在线观看| 国语自产精品视频在线第100页| 99久久精品热视频| 国产一区二区激情短视频| 天堂影院成人在线观看| eeuss影院久久| 中国美女看黄片| 熟妇人妻久久中文字幕3abv| 亚洲国产欧美人成| 成人鲁丝片一二三区免费| 精品一区二区三区人妻视频| 女人十人毛片免费观看3o分钟| 午夜免费男女啪啪视频观看 | 国产中年淑女户外野战色| 悠悠久久av| 亚洲aⅴ乱码一区二区在线播放| 国产精品99久久久久久久久| 久久精品影院6| 亚洲美女搞黄在线观看 | 男插女下体视频免费在线播放| 亚洲欧美日韩东京热| 欧美性猛交╳xxx乱大交人| 可以在线观看毛片的网站| 美女高潮喷水抽搐中文字幕| 欧美日韩亚洲国产一区二区在线观看| 波多野结衣高清无吗| 熟女人妻精品中文字幕| 欧美日韩黄片免| 亚洲最大成人手机在线| 欧美日韩国产亚洲二区| 久久精品综合一区二区三区| 高潮久久久久久久久久久不卡| 97超视频在线观看视频| 午夜久久久久精精品| 九九久久精品国产亚洲av麻豆| 校园春色视频在线观看| 精品久久久久久久久亚洲 | 99精品久久久久人妻精品| 午夜福利在线观看免费完整高清在 | 少妇高潮的动态图| 我要搜黄色片| 人人妻人人看人人澡| 有码 亚洲区| 亚洲三级黄色毛片| 国产精品,欧美在线| 精品久久久久久成人av| 18禁黄网站禁片免费观看直播| 国产成人av教育| 久久久久久九九精品二区国产| 美女cb高潮喷水在线观看| 变态另类成人亚洲欧美熟女| 男女视频在线观看网站免费| 特级一级黄色大片| 亚洲狠狠婷婷综合久久图片| 中文字幕高清在线视频| 欧美黑人欧美精品刺激| 中文字幕人妻熟人妻熟丝袜美| 国产主播在线观看一区二区| 极品教师在线视频| 亚洲成人中文字幕在线播放| 日韩 亚洲 欧美在线| 国产爱豆传媒在线观看| 亚洲成人久久爱视频| 一区二区三区高清视频在线| 简卡轻食公司| ponron亚洲| 国产欧美日韩一区二区精品| 国产一区二区三区视频了| 久久九九热精品免费| 一区二区三区激情视频| 禁无遮挡网站| 亚洲第一区二区三区不卡| 一级作爱视频免费观看| 免费在线观看影片大全网站| 久久九九热精品免费| 亚洲 欧美 日韩 在线 免费| www.www免费av| 身体一侧抽搐| 久99久视频精品免费| 91字幕亚洲| 亚洲人成伊人成综合网2020| 日韩人妻高清精品专区| 精品熟女少妇八av免费久了| 色哟哟哟哟哟哟| 亚洲国产色片| ponron亚洲| 97超级碰碰碰精品色视频在线观看| 2021天堂中文幕一二区在线观| 国产成人欧美在线观看| 深夜a级毛片| 精品久久久久久成人av| 国产高清激情床上av| 精品久久久久久成人av| 久久这里只有精品中国| 亚洲男人的天堂狠狠| 搡女人真爽免费视频火全软件 | 91在线观看av| 99国产综合亚洲精品| 亚洲va日本ⅴa欧美va伊人久久| 欧美激情在线99| 看十八女毛片水多多多| 99久久无色码亚洲精品果冻| 免费无遮挡裸体视频| 中亚洲国语对白在线视频| 婷婷精品国产亚洲av| 亚洲av免费高清在线观看| 麻豆久久精品国产亚洲av| 亚洲成人久久爱视频| 日本五十路高清| 精品日产1卡2卡| 午夜a级毛片|