• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于LPP-RF的基因表達(dá)數(shù)據(jù)分類

    2018-03-16 06:35:26楊浩宇南曉斐柴玉梅
    計算機(jī)工程與設(shè)計 2018年2期
    關(guān)鍵詞:決策樹準(zhǔn)確率分類

    楊浩宇,南曉斐,柴玉梅

    (鄭州大學(xué) 信息工程學(xué)院,河南 鄭州 450001)

    0 引 言

    基因表達(dá)數(shù)據(jù)分類問題[1]的研究目前已取得一些成果。Das等[2]使用支持向量機(jī)(support vector machine,SVM)對基因表達(dá)數(shù)據(jù)進(jìn)行分類,通過實(shí)驗(yàn)對比了不同核函數(shù)下的分類準(zhǔn)確率并取得了良好的分類效果。然而,當(dāng)樣本類別很大時,SVM計算復(fù)雜度高,且其核函數(shù)與參數(shù)設(shè)置缺乏理論指導(dǎo)[3];文獻(xiàn)[4]提出了極限學(xué)習(xí)機(jī)的相異性集成算法,在基因表達(dá)數(shù)據(jù)分類上表現(xiàn)良好,但極限學(xué)習(xí)機(jī)的隱層節(jié)點(diǎn)個數(shù)需要先驗(yàn)知識并手工設(shè)置這些參數(shù),節(jié)點(diǎn)個數(shù)不同對分類精度也會產(chǎn)生影響;文獻(xiàn)[5]采用7個基因表達(dá)數(shù)據(jù)集將隨機(jī)森林算法(random forests,RF)與很多傳統(tǒng)的機(jī)器學(xué)習(xí)分類算法(如k近鄰分類器、SVM以及線性判別分析等)進(jìn)行比較,得出RF算法分類性能優(yōu)于其它分類算法的結(jié)論。

    RF算法在基因表達(dá)數(shù)據(jù)分類方面已經(jīng)有了不錯的性能,但是RF算法中的決策樹只能產(chǎn)生平行于坐標(biāo)軸的超巨形決策面[6]。在基因表達(dá)數(shù)據(jù)中構(gòu)建決策樹,通常會使得決策樹龐大,對數(shù)據(jù)敏感,且分類效果也不好,因此RF算法在基因表達(dá)數(shù)據(jù)分類方面還有性能提升空間。本文受Zhang等[7]提出的集成特征空間的隨機(jī)森林算法啟發(fā),將局部保持映射(locality preserving projections,LPP)與RF算法中決策樹每個節(jié)點(diǎn)的屬性空間相結(jié)合,提出基于LPP的RF算法。該算法通過LPP將決策樹節(jié)點(diǎn)數(shù)據(jù)映射到新的屬性空間中,在該屬性空間中選擇第一個屬性就可使數(shù)據(jù)得到較好的劃分結(jié)果。在9個基因表達(dá)數(shù)據(jù)集上的實(shí)驗(yàn)對比結(jié)果表明,本文提出的算法在分類準(zhǔn)確率上比傳統(tǒng)RF算法高出17%,運(yùn)行時間比傳統(tǒng)RF算法縮短了7倍,其它性能指標(biāo)如Recall、Precision、G-mean等指標(biāo)均有提高。

    1 相關(guān)知識

    1.1 隨機(jī)森林算法

    Bremain結(jié)合Bagging方法[8]和隨機(jī)子空間劃分[9]的策略,提出了RF算法。該算法是由多棵決策樹組成的集成算法。在構(gòu)造每棵決策樹的過程中,先對樣本集采用Bootstrap抽樣方法,從樣本總量為N的數(shù)據(jù)集中抽取N個樣本,每次抽樣均采取有放回的隨機(jī)抽樣方法,并將這N個樣本作為該決策樹訓(xùn)練時的樣本集。在決策樹的每個節(jié)點(diǎn)分裂過程中,RF算法隨機(jī)選取mtry個屬性(0

    通過隨機(jī)重采樣和隨機(jī)屬性選取,使得RF算法具有以下幾個特點(diǎn)[5,10-12]:①不易出現(xiàn)過擬合問題;②并行化程度高;③對噪聲和異常點(diǎn)容忍度高;④適用于高維小樣本數(shù)據(jù);⑤適用于二分類和多分類任務(wù)?;虮磉_(dá)數(shù)據(jù)具有樣本小、維數(shù)高、噪聲多等特點(diǎn)。這些優(yōu)點(diǎn)使得RF算法在基因表達(dá)數(shù)據(jù)分類上表現(xiàn)突出。

    1.2 LPP算法

    對于基因表達(dá)數(shù)據(jù)這樣的高維非線性數(shù)據(jù),通常要先采取非線性降維方法對數(shù)據(jù)進(jìn)行預(yù)處理。常用的非線性降維方法是基于核的方法[13]和非線性流形學(xué)習(xí)的方法[14]。但前者需要人們憑經(jīng)驗(yàn)選取核函數(shù),找到合適參數(shù)需要花費(fèi)較高的人工成本,且對測試樣本沒有清晰的映射函數(shù)。后者雖能夠保持原始數(shù)據(jù)的結(jié)構(gòu)特征,但與基于核的方法一樣沒有提供對測試樣本的清晰映射函數(shù)。He等提出了LPP算法[15],該算法近似于非線性拉普拉斯特征映射。作為線性算法,相比核的方法和非線性流形學(xué)習(xí)的方法,該算法善于發(fā)現(xiàn)高維非線性數(shù)據(jù)中已有的低維流形結(jié)構(gòu),找到映射關(guān)系并提供清晰的映射函數(shù)。因此,LPP算法可以很好的應(yīng)用于非線性數(shù)據(jù)降維問題中。

    LPP原理是通過一定的性能目標(biāo)去尋找變換矩陣A,以實(shí)現(xiàn)對高維數(shù)據(jù)的降維。變換矩陣A可以通過最小化以下目標(biāo)函數(shù)得到[15]

    (1)

    其中,xi和xj是樣本集中的單個樣本,W可通過如下式子進(jìn)行定義

    (2)

    式中:t是一個控制相似性度量范圍的常量,超出該范圍的數(shù)據(jù)點(diǎn)之間的相似性逐級遞減。對式(1)進(jìn)行簡單的代數(shù)變換,目標(biāo)函數(shù)可以轉(zhuǎn)化為

    (3)

    D為對角矩陣,Dii=∑jWij,L=D-W是一個拉普拉斯矩陣。因此求解式(1)的最小化目標(biāo)函數(shù)問題可以通過求解下式的廣義特征向量得到

    XLXTA=λXDXTA

    (4)

    變換矩陣A由式(4)的l個最小非0特征值所對應(yīng)的特征向量構(gòu)成。

    本文提出基于LPP的RF算法(random forest based on LPP,LPP-RF),將LPP算法應(yīng)用在決策樹的每個節(jié)點(diǎn)中,可以解決RF算法中決策樹對于基因表達(dá)數(shù)據(jù)不能產(chǎn)生良好決策面的問題。

    2 LPP-RF算法

    2.1 決策樹最佳分裂屬性選取

    在決策樹中每一次節(jié)點(diǎn)進(jìn)行分裂之前,先通過變換矩陣A將該節(jié)點(diǎn)數(shù)據(jù)映射到新的屬性空間中,實(shí)現(xiàn)對高維數(shù)據(jù)的降維。變換矩陣A也可以通過求解式(5)的廣義特征向量得到[16]

    XWXTA=λXDXTA

    (5)

    式(5)的l個最大非0特征值所對應(yīng)的特征向量構(gòu)成變換矩陣A=[a1,a2,…,al]。式(5)與式(4)不同的是將求解最小特征值問題轉(zhuǎn)化為求解最大特征值問題,這樣便于在新的映射空間中進(jìn)行基尼指數(shù)計算。

    由于在基因表達(dá)數(shù)據(jù)中,屬性數(shù)量遠(yuǎn)大于樣本數(shù)量,導(dǎo)致XDXT為奇異矩陣,此時無法對式(5)進(jìn)行廣義特征向量求解。經(jīng)研究發(fā)現(xiàn),將X進(jìn)行奇異值分解[17],可以避免XDXT為奇異矩陣。X通過奇異值分解為

    X=UEVT

    (6)

    其中,將X的奇異值根據(jù)大小降序排列,構(gòu)成對角矩陣E中對角線上的元素,U和V都是正交矩陣。

    由于基因表達(dá)數(shù)據(jù)具有高維和噪聲多雙重特性,在進(jìn)行奇異值分解以后將數(shù)據(jù)進(jìn)行降維,設(shè)置閾值為β,刪除E中與最大值比值小于β的奇異值和對應(yīng)的奇異向量。

    然后令B=EUTA,將式(6)帶入式(5)得

    XWXTA=λXDXTA?UEVTWVEUTA=
    λUEVTDVEUTA?UEVTWVB=
    λUEVTDVB?VTWVB=λVTDVB

    (7)

    其中,VTDV為非奇異矩陣,假設(shè)B為該式求得的特征向量矩陣,則

    A=UE-1B

    (8)

    求得變換矩陣A以后,對X進(jìn)行映射構(gòu)成新的數(shù)據(jù)集H

    H=ATX

    (9)

    對式(8)進(jìn)行求解以后,變換矩陣A中的特征向量是根據(jù)特征值大小降序排列,特征值可以表明該屬性的重要性,在決策樹算法中,節(jié)點(diǎn)的分裂是根據(jù)屬性的重要性由大到小依次進(jìn)行分裂的,因此在數(shù)據(jù)集H中只計算第一個屬性的基尼指數(shù),求出該屬性的最佳分裂屬性值并劃分?jǐn)?shù)據(jù)集H。然后根據(jù)數(shù)據(jù)集H的劃分情況將數(shù)據(jù)集X進(jìn)行同等劃分,本次節(jié)點(diǎn)分裂完成。

    算法1描述了LPP-RF算法中決策樹的生成過程:首先判斷數(shù)據(jù)集S是否為葉節(jié)點(diǎn),如果是葉節(jié)點(diǎn),則構(gòu)建葉節(jié)點(diǎn)并返回類別標(biāo)簽(步驟(1));如果不是葉節(jié)點(diǎn),則從數(shù)據(jù)集S中隨機(jī)選擇mtry個樣本屬性構(gòu)成數(shù)據(jù)集Z(步驟(2));并將類別標(biāo)簽加入Z中以方便計算W的值(步驟(3));對于Z中相同類別標(biāo)簽的樣本zm和zn,求出zm與zn之間的歐式距離(步驟(6))和wmn(步驟(7)),對于Z中不同類別標(biāo)簽的樣本zm和zn,wmn等于0(步驟(9));得到權(quán)值矩陣W以后求出對角矩陣D(步驟(12));此時判斷Z中屬性個數(shù)和樣本個數(shù)之間的大小,如果屬性個數(shù)大于樣本個數(shù),需將Z進(jìn)行奇異值分解(步驟(14)),在奇異值分解的過程中對Z進(jìn)行降維(步驟(15)-(17));然后計算特征值與特征向量(步驟(18))及求出變換矩陣A(步驟(19));如果Z中的屬性個數(shù)小于樣本個數(shù),可以直接計算求出A(步驟(23));構(gòu)建屬性空間Z1并計算最佳分裂屬性值CFA(步驟(25)-(26));將計算得到的結(jié)果保存在當(dāng)前節(jié)點(diǎn)中便于節(jié)點(diǎn)分裂及測試數(shù)據(jù)使用(步驟(27));根據(jù)最佳分裂屬性值CFA對Z1進(jìn)行分裂形成左右兩個子節(jié)點(diǎn),根據(jù)Z1的分裂結(jié)果將S進(jìn)行同等劃分(步驟(29));對S劃分完的兩個子節(jié)點(diǎn)進(jìn)行遞歸構(gòu)建,最后返回整棵決策樹(步驟(30)-(32))。

    算法1: Lpp_Rftree(S,mtry)

    輸入: 訓(xùn)練數(shù)據(jù)集S,節(jié)點(diǎn)抽取屬性個數(shù)mtry

    輸出:單棵決策樹tree

    (1) if is Node(S) return Tag(S)

    (2)Z= Choice (S(:,1:end-1))

    (3)Z=[Z,S(end)]

    (4) for eachzm,zn∈ rowZ

    (5) if Tag(zm)==Tag(zn)

    (6)oc=sqrt(zn.*zn+zn.*zm-2*zm*zn)

    (7)Wmn=exp(-oc/(2*t^2))

    (8) else

    (9)Wmn=0

    (10) end if

    (11)end for

    (12)D=full(Culation_sum(W, 2))

    (13) if lenght(Z,2)>lenght(Z,1)

    (14) [B,I,P]=Culation_SVD(Z(:,1:end-1))

    (15)LI=find_max(I)

    (16)In=search(I/LI<1e-12)

    (17) Delete(B(In)),Delete(I(:,In)),Delete(P(In))

    (18) [C,~]=Culation_eig(P′*W*V,P′*D*P);

    (19)A=BI-1C

    (20) else

    (21) [A,ag]=Culation_eig(S′*W*Z,Z*D*Z′);

    (22) [~,cl]=reorder(ag)

    (23)A=A(:,cl(1:l))

    (24) end if

    (25)Z1=ATZ(:,1:end-1)

    (26) CFA=ChoiceBestAttribute(Z1(:,1))

    (27) H=saveMessage(S,A,CFA)

    (28) for eachi∈branchCount(CFA)

    (29)Si=split(s,Z1,CFA,i)

    (30)tree.childi=Lpp_Rftree(Si,mtry)

    (31) end for

    (32) returntree

    由于基因表達(dá)數(shù)據(jù)具有高維非線性特征,直接在原始屬性空間中尋找節(jié)點(diǎn)最優(yōu)分裂標(biāo)準(zhǔn),需要對基因表達(dá)數(shù)據(jù)中每個屬性中全部可能的最佳分裂屬性值進(jìn)行測試,然而基因表達(dá)數(shù)據(jù)具有上千維的屬性,依次計算會產(chǎn)生較大的時間開銷。在算法1中只需要測試第一個屬性中可能的最佳分裂屬性值,很大程度上縮短了構(gòu)建決策樹的時間。同時LPP算法使映射后的數(shù)據(jù)不僅保持了原有數(shù)據(jù)結(jié)構(gòu),而且還使得同類之間數(shù)據(jù)更緊湊,不同類之間數(shù)據(jù)更分散,使得決策樹在分裂時能夠產(chǎn)生良好的決策面,提高決策樹的性能。

    2.2 LPP-RF算法描述

    在LPP-RF算法中每一次的Bootstrap抽樣之后,約有36%的樣本數(shù)據(jù)不在抽樣之后的樣本集中,這些數(shù)據(jù)被稱為袋外數(shù)據(jù)[18]。袋外數(shù)據(jù)可以用來估計LPP-RF算法的泛化誤差,也可以用來測試單棵決策樹的分類準(zhǔn)確率。在本文中,采用后者,通過袋外數(shù)據(jù)測試單棵決策樹的分類準(zhǔn)確率,將分類準(zhǔn)確率作為該決策樹加權(quán)投票時的權(quán)值。使得在LPP-RF分類器預(yù)測時,對決策樹性能差的分類結(jié)果賦予較低的權(quán)重,性能好的分類結(jié)果賦予較高的權(quán)重,以此來增加LPP-RF算法的分類準(zhǔn)確率。同時也彌補(bǔ)了每次構(gòu)建決策樹之后有部分?jǐn)?shù)據(jù)未被使用的不足。

    算法2描述了LPP-RF算法訓(xùn)練階段的構(gòu)建過程:首先對訓(xùn)練樣本集S進(jìn)行有放回的隨機(jī)抽樣得到新數(shù)據(jù)集Si(步驟(2));將未被抽到的數(shù)據(jù)集作為袋外數(shù)據(jù)Bi(步驟(3));在Si上執(zhí)行算法1進(jìn)行決策樹生成(步驟(4));并利用Bi測試該棵決策樹的分類準(zhǔn)確率得到權(quán)值vi(步驟(5));保存決策樹模型以及權(quán)值vi(步驟(6));將步驟(2)-(6)重復(fù)k次,得到LPP-RF模型LPP_RFModel(步驟(8))。

    算法2: lpp_RfTrain(S,k,mtry)

    輸入: 訓(xùn)練數(shù)據(jù)集S,決策樹數(shù)量k,節(jié)點(diǎn)抽取屬性個數(shù)mtry

    輸出:LLP-RF模型LPP_RFModel

    (1) for eachi∈k

    (2)Si=Bootstrap(S)

    (3)Bi=S-Si

    (4)treei=lppRf_treeTrain(Si,mtry)

    (5)vi= lppRf_predict(Bi,treei)

    (6) LPP_RFMode=saveTree(treei,Yi)

    (7) end for

    (8) return LPP_RFModel

    由于決策樹的每個節(jié)點(diǎn)數(shù)據(jù)在劃分之前,先通過變換矩陣A進(jìn)行映射,在映射以后的屬性空間中尋找最佳分裂屬性。因此對于測試數(shù)據(jù),每經(jīng)過決策樹的一個節(jié)點(diǎn),需要將數(shù)據(jù)按照該節(jié)點(diǎn)分裂時使用的變換矩陣A進(jìn)行變換。對于最終分類結(jié)果采用加權(quán)投票法求出,可以表示為

    (10)

    其中,H(x)為算法對測試數(shù)據(jù)的最終分類結(jié)果,vi表示第i棵決策樹的權(quán)值,hi(x)表示第i棵決策樹測試數(shù)據(jù)的分類結(jié)果,Y為類別標(biāo)簽,I(·)為示性函數(shù)。

    RF算法性能主要取決于單棵決策樹性能和各個決策樹之間的差異性[12],單棵決策樹性能越好或各個決策樹之間差異性越大,則RF算法的分類準(zhǔn)確率就越高。在LPP-RF算法中,決策樹每個節(jié)點(diǎn)都是在不同屬性空間中進(jìn)行數(shù)據(jù)劃分,提高了決策樹之間的差異性以及單個決策樹的分類準(zhǔn)確率,同時也提高了決策樹之間的差異性,最終達(dá)到提高原始RF算法分類準(zhǔn)確率的效果。

    LPP-RF算法在決策樹中每個節(jié)點(diǎn)的分裂都需要計算D、W以及變換矩陣A,一定程度上增加了時間開銷,但在計算最佳分裂屬性值時,只需計算第一個屬性的基尼指數(shù)便可求出,又大幅縮短了時間開銷,最后通過實(shí)驗(yàn)分析得出LPP-RF算法的時間少于原始RF算法。

    3 實(shí)驗(yàn)與分析

    本節(jié)將通過9個公開的基因表達(dá)分類數(shù)據(jù)集來進(jìn)行實(shí)驗(yàn)驗(yàn)證LPP-RF算法的性能,這些數(shù)據(jù)集被國內(nèi)外學(xué)者大量引用,具有一定標(biāo)準(zhǔn)性。所選取數(shù)據(jù)集的情況見表1,數(shù)據(jù)來源于文獻(xiàn)[19],其中含有5個多分類數(shù)據(jù)集和4個二分類數(shù)據(jù)集。

    表1 基因表達(dá)數(shù)據(jù)集

    為了驗(yàn)證LPP-RF算法分類準(zhǔn)確率和運(yùn)行時間的性能,實(shí)驗(yàn)將LPP-RF算法與RF算法以及Zhang文獻(xiàn)中的PCA-RF[7]算法進(jìn)行對比分析。實(shí)驗(yàn)采用15倍的10折交叉驗(yàn)證方法,將10折交叉驗(yàn)證運(yùn)行15次,得到150個分類結(jié)果,將平均值作為各個算法的最終分類準(zhǔn)確率,并計算其方差。實(shí)驗(yàn)硬件為 Intel 2.3 GHz和8.0 GB內(nèi)存,所有算法用MATLAB實(shí)現(xiàn)。由于RF算法的并行化程度高,很容易并行實(shí)現(xiàn),所以在算法中決策樹的生成采用了4個并行池并行生成的策略進(jìn)行實(shí)驗(yàn)。

    在RF算法中,決策樹每個節(jié)點(diǎn)抽取屬性個數(shù)mtry的取值通常為log2p(p為樣本總屬性的個數(shù))[6]。森林規(guī)模即決策樹的數(shù)目分別取k={1,10,50,100,200,500,1000}。表2記錄了9個數(shù)據(jù)集在不同的森林規(guī)模下,LPP-RF算法、PCA-RF算法和RF算法的分類準(zhǔn)確率和方差。

    圖1和圖2展示了在數(shù)據(jù)集Brain和Nci中分類結(jié)果的誤差棒圖,橫坐標(biāo)為不同決策樹的個數(shù),縱坐標(biāo)為分類準(zhǔn)確率,每個點(diǎn)上豎形線段的長短為方差。為了能夠更清晰顯示出方差大小,將圖中RF算法折線向左平移了0.1個單位,PCA-RF算法折線向右平移了0.1個單位。

    從表2中可以看出,當(dāng)算法中決策樹的個數(shù)為1時,LPP-RF的分類準(zhǔn)確率在絕大多數(shù)數(shù)據(jù)集上都高于另外兩個算法,證明LPP-RF算法提高了單棵決策樹的分類精度。隨著決策樹個數(shù)的增多,這3個算法的分類準(zhǔn)確率都有提高,但LPP-RF算法的分類準(zhǔn)確率穩(wěn)定高于另外兩個算法。在分類準(zhǔn)確率的方差上,隨著森林規(guī)模的增加,LPP-RF的方差在絕大多數(shù)數(shù)據(jù)集上都低于PCA-RF、RF算法,所以,LPP-RF算法具有較好的穩(wěn)定性。從圖1和圖2中可以看出,RF、PCA-RF和LPP-RF算法的準(zhǔn)確率隨著森林規(guī)模的增加而增加,并在森林規(guī)模為100時趨于穩(wěn)定。

    圖3顯示了當(dāng)樹的規(guī)模為100時這3種算法所消耗的時間情況。

    由圖3可以看出,LPP-RF算法的運(yùn)行時間遠(yuǎn)低于另外

    表2 不同森林規(guī)模下10個數(shù)據(jù)集上3個算法分類準(zhǔn)確率及方差

    圖1 Brain數(shù)據(jù)集分類結(jié)果誤差

    圖2 Nci數(shù)據(jù)集分類結(jié)果誤差

    圖3 3種算法在各數(shù)據(jù)集運(yùn)行時間對比

    兩個算法。通過對比可以發(fā)現(xiàn)LPP-RF算法比另外兩個算法最多縮短了7倍的運(yùn)行時間。

    基因表達(dá)數(shù)據(jù)往往還有類不平衡的特性,針對類不平衡的數(shù)據(jù)集,往往單靠一個分類準(zhǔn)確率不能準(zhǔn)確的反映出一個分類器的好壞,例如,在癌癥檢測中,只有少數(shù)人患有癌癥,正確識別出少數(shù)癌癥患者是非常有意義的,傳統(tǒng)分類算法經(jīng)常將稀有類實(shí)例被誤分為負(fù)類實(shí)例[20],這時候需要將召回率(recall)、真負(fù)率(Acc-)、幾何平均數(shù)(G-mean)、精確率(precision)、召回率(recall)和F度量(F-measure)當(dāng)作性能評價指標(biāo)。

    在分類準(zhǔn)確率對比實(shí)驗(yàn)中可以得出當(dāng)森林規(guī)模為100時,各個算法的性能趨于穩(wěn)定,因此本次實(shí)驗(yàn)中森林規(guī)模為k=100。在實(shí)驗(yàn)中選取了上述數(shù)據(jù)集中類不平衡度最大的兩個數(shù)據(jù)集進(jìn)行實(shí)驗(yàn),分別為Colon和Leukemia。Colon數(shù)據(jù)集中一共有62個樣本,其中正類樣本(樣本少的一類)含有22個樣本,占整個數(shù)據(jù)集的35.4%,Leukemia數(shù)據(jù)集一共有38個樣本,其中正類樣本含有11個樣本,占整個數(shù)據(jù)集的28.9%。通過15倍的10折交叉驗(yàn)證法進(jìn)行實(shí)驗(yàn)。

    表3記錄了RF,PCA-RF,LPP-RF這3個算法在這兩個數(shù)據(jù)集下的Recall、Acc-、Precision、F-measure和G-mean的值。

    表3 Colon數(shù)據(jù)集和Leukemia數(shù)據(jù)集性能

    由表3可以看出,LPP-RF算法在沒有降低Acc-的情況下提升了基因表達(dá)數(shù)據(jù)集中Recall、Precision、F-mea-sure和G-mean的值,這說明了LPP算法對基因表達(dá)數(shù)據(jù)中正類樣本準(zhǔn)確率低的問題也有一定改善。

    為更直觀的對這兩個算法進(jìn)行比較,圖4和圖5繪制了受試者工作特征曲線(receiver operating characteristic curve,ROC)[21],ROC曲線是以真正率為縱坐標(biāo),假正率

    圖4 Leukemia數(shù)據(jù)集ROC

    圖5 Colon數(shù)據(jù)集ROC

    為橫坐標(biāo),通過設(shè)置一系列的閾值,可以得到多個不同的真正率與假正率的值,這些值都是ROC曲線上的點(diǎn)。ROC曲線與坐標(biāo)軸所圍成的面積越大,性能越好。

    通過圖4和圖5可知,LPP-RF算法的ROC曲線與坐標(biāo)軸所圍成的面積大于RF和PCA-RF算法,說明LPP-RF算法的性能優(yōu)于另外兩種算法。

    4 結(jié)束語

    本文通過結(jié)合LPP與RF算法的優(yōu)點(diǎn),提出基于LPP的RF算法(LPP-RF),提高了RF算法在基因表達(dá)數(shù)據(jù)分類方面的性能。該算法對RF算法中每棵決策樹的節(jié)點(diǎn)數(shù)據(jù)先進(jìn)行LPP映射,然后在映射后的空間中以第一個屬性作為最佳分裂屬性,并根據(jù)分裂結(jié)果將原始空間中的數(shù)據(jù)進(jìn)行同等劃分,最后對測試樣本使用加權(quán)投票法進(jìn)行分類。與原始RF和PCA-RF算法相比,本文算法提高了基因表達(dá)數(shù)據(jù)的分類準(zhǔn)確率及縮短了運(yùn)行時間,并對基因表達(dá)數(shù)據(jù)中正類樣本準(zhǔn)確率低的問題也有一定改善。下一步的研究將針對不平衡數(shù)據(jù)集中正類樣本準(zhǔn)確率低的問題,對本文算法繼續(xù)進(jìn)行研究與改進(jìn),進(jìn)一步提高正類樣本的分類準(zhǔn)確率。

    [1]Liu JX,Xu Y,Zheng CH,et al.RPCA-based tumor classification using gene expression data[J].IEEE/ACM Transactions on Computational Biology and Bioinformatics,2015,12(4):964-970.

    [2]Das SR,Das K,Mishra D,et al.An Empirical comparison study on kernel based support vector machine for classification of gene expression data set[J].Procedia Engineering,2012,38(5):1340-1345.

    [3]LU Huijuan.A study of tumor classification algorithms using gene expression data[D].Xuzhou:China University of Mi-ning and Technology,2012:1-111(in Chinese).[陸慧娟.基于基因表達(dá)數(shù)據(jù)的腫瘤分類算法研究[D].徐州:中國礦業(yè)大學(xué),2012:1-111.]

    [4]LU Huijuan,AN Chunlin,MA Xiaoping,et al.Disagreement measure based ensemble of extreme learning machine for gene expression data classification[J].Chinese Journal of Compu-ters,2013,36(2):341-348(in Chinese).[陸慧娟,安春霖,馬小平,等.基于輸出不一致測度的極限學(xué)習(xí)機(jī)集成的基因表達(dá)數(shù)據(jù)分類[J].計算機(jī)學(xué)報,2013,36(2):341-348.]

    [5]Chen X,Ishwaran H.Random forests for genomic data analysis[J].Genomics,2012,99(6):323-329.

    [6]Wickramarachchi DC,Robertson BL,Reale M,et al.HHCART:An oblique decision tree[J].Computational Statistics & Data Analysis,2016,96(C):12-23.

    [7]Zhang L,Suganthan PN.Random forests with ensemble of feature spaces[J].Pattern Recognition,2014,47(10):3429-3437.

    [8]Galar M,Fernandez A,Barrenechea E,et al.A review on ensembles for the class imbalance problem:Bagging,boosting,and hybrid-based approaches[J].IEEE Transactions on Systems,Man,and Cybernetics,Part C(Applications and Reviews),2012,42(4):463-484.

    [9]YAO Xu,WANG Xiaodan,ZHANG Yuxi,et al.A self-ada-ption ensemble algorithm based on random subspace and AdaBoost[J].Chinese Journal of Electronic,2013,41(4):810-814(in Chinese).[姚旭,王曉丹,張玉璽,等.基于隨機(jī)子空間和AdaBoost的自適應(yīng)集成方法[J].電子學(xué)報,2013,41(4):810-814.]

    [10]Ali J,Khan R,Ahmad N,et al.Random forests and decision trees[J].International Journal of Computer Science Issues,2012,9(5):272-278.

    [11]Qi Y.Random forest for bioinformatics[M].Ensemble machine learning.Springer US,2012:307-323.

    [12]XIE Jianbin.Visual machine learning 20[M].Beijing:Tsin-ghua University Press,2015:1-239(in Chinese).[謝劍斌.視覺機(jī)器學(xué)習(xí)20講[M].北京:清華大學(xué)出版社有限公司,2015:1-239.]

    [13]Zhu X,Huang Z,Shen HT,et al.Dimensionality reduction by mixed kernel canonical correlation analysis[J].Pattern Recognition,2012,45(8):3003-3016.

    [14]Qiao H,Zhang P,Wang D,et al.An explicit nonlinear mapping for manifold learning[J].IEEE Transactions on Cybernetics,2013,43(1):51-63.

    [15]Xiaogang D,Xuemin T.Sparse kernel locality preserving projection and its application in nonlinear process fault detection[J].Chinese Journal of Chemical Engineering,2013,21(2):163-170.

    [16]Cai D,Chen X.Large scale spectral clustering via landmark-based sparse representation[J].IEEE Transactions on Cybernetics,2015,45(8):1669-1680.

    [17]Makbol NM,Khoo BE.Robust blind image watermarking scheme based on redundant discrete wavelet transform and singular value decomposition[J].AEU-International Journal of Electronics and Communications,2013,67(2):102-112.

    [18]Boulesteix AL,Janitza S,Kruppa J,et al.Overview of random forest methodology and practical guidance with emphasis on computational biology and bioinformatics[J].Wiley Interdisciplinary Reviews:Data Mining and Knowledge Discovery,2012,2(6):493-507.

    [19]Deng H,Runger G.Gene selection with guided regularized random forest[J].Pattern Recognition,2013,46(12):3483-3489.

    [20]GUO Huaping,DONG Yadong,MAO Haitao,et al.Logistic discrimination based rare-class classification method[J].Journal of Chinese Computer Systems,2016,37(1):140-145(in Chinese).[郭華平,董亞東,毛海濤,等.一種基于邏輯判別式的稀有類分類方法[J].小型微型計算機(jī)系統(tǒng),2016,37(1):140-145.]

    [21]Hajian-Tilaki K.Receiver operating characteristic (ROC) curve analysis for medical diagnostic test evaluation[J].Caspian Journal of Internal Medicine,2013,4(2):627-635.

    猜你喜歡
    決策樹準(zhǔn)確率分類
    分類算一算
    乳腺超聲檢查診斷乳腺腫瘤的特異度及準(zhǔn)確率分析
    健康之家(2021年19期)2021-05-23 11:17:39
    不同序列磁共振成像診斷脊柱損傷的臨床準(zhǔn)確率比較探討
    2015—2017 年寧夏各天氣預(yù)報參考產(chǎn)品質(zhì)量檢驗(yàn)分析
    一種針對不均衡數(shù)據(jù)集的SVM決策樹算法
    分類討論求坐標(biāo)
    決策樹和隨機(jī)森林方法在管理決策中的應(yīng)用
    電子制作(2018年16期)2018-09-26 03:27:06
    高速公路車牌識別標(biāo)識站準(zhǔn)確率驗(yàn)證法
    數(shù)據(jù)分析中的分類討論
    教你一招:數(shù)的分類
    国产欧美日韩一区二区精品| 国产av在哪里看| 精品一区二区三区人妻视频| 久久人人精品亚洲av| 国产私拍福利视频在线观看| 精品久久久久久久久亚洲| 亚洲国产欧洲综合997久久,| 亚洲av第一区精品v没综合| 一级毛片我不卡| 久久久久久国产a免费观看| 免费人成视频x8x8入口观看| 一本一本综合久久| 国产精品一二三区在线看| 亚洲国产色片| 韩国av在线不卡| 国产69精品久久久久777片| 观看免费一级毛片| 搡老熟女国产l中国老女人| 全区人妻精品视频| 人人妻,人人澡人人爽秒播| 亚洲欧美日韩无卡精品| 天堂√8在线中文| 国产黄色小视频在线观看| 亚洲精品国产av成人精品 | 国产伦在线观看视频一区| 九九在线视频观看精品| 日韩av不卡免费在线播放| 精品久久久久久久久亚洲| 亚洲一级一片aⅴ在线观看| 亚洲一级一片aⅴ在线观看| 国产精品女同一区二区软件| 毛片女人毛片| 女人被狂操c到高潮| 国产在线精品亚洲第一网站| av专区在线播放| 女同久久另类99精品国产91| av在线观看视频网站免费| 亚洲av美国av| 亚洲18禁久久av| 欧美日韩乱码在线| 男人的好看免费观看在线视频| 狂野欧美白嫩少妇大欣赏| 男人狂女人下面高潮的视频| 在线播放国产精品三级| 真人做人爱边吃奶动态| 波野结衣二区三区在线| 我的老师免费观看完整版| 热99在线观看视频| 国产蜜桃级精品一区二区三区| 波多野结衣高清作品| 一夜夜www| 天天躁日日操中文字幕| 秋霞在线观看毛片| 亚洲欧美精品综合久久99| 国产亚洲欧美98| 极品教师在线视频| 日本在线视频免费播放| 看片在线看免费视频| 麻豆久久精品国产亚洲av| 日韩欧美一区二区三区在线观看| 69av精品久久久久久| 干丝袜人妻中文字幕| 久久久欧美国产精品| 成人av一区二区三区在线看| 国产成年人精品一区二区| 午夜免费激情av| 国产精品久久电影中文字幕| 黄色配什么色好看| 久久国产乱子免费精品| av在线天堂中文字幕| 热99re8久久精品国产| av在线老鸭窝| 在线天堂最新版资源| 一进一出好大好爽视频| 精品久久久久久久末码| 国产91av在线免费观看| 亚洲成av人片在线播放无| 天天躁夜夜躁狠狠久久av| 国产成人91sexporn| 美女xxoo啪啪120秒动态图| 麻豆成人午夜福利视频| 亚洲国产精品国产精品| 亚洲国产日韩欧美精品在线观看| 国产亚洲精品久久久久久毛片| 18禁黄网站禁片免费观看直播| 男女边吃奶边做爰视频| 日韩欧美精品免费久久| 女人被狂操c到高潮| 联通29元200g的流量卡| 伊人久久精品亚洲午夜| 日韩人妻高清精品专区| 国内揄拍国产精品人妻在线| 激情 狠狠 欧美| 免费观看的影片在线观看| 美女 人体艺术 gogo| 午夜激情欧美在线| 成熟少妇高潮喷水视频| 亚洲精品乱码久久久v下载方式| 日本在线视频免费播放| 久久久久久久久久久丰满| 真人做人爱边吃奶动态| 国产亚洲精品综合一区在线观看| 久久久久免费精品人妻一区二区| 我的老师免费观看完整版| 亚洲av成人av| 亚洲一区高清亚洲精品| 又黄又爽又免费观看的视频| 久久中文看片网| 最近手机中文字幕大全| 日韩一区二区视频免费看| 97碰自拍视频| 免费搜索国产男女视频| 十八禁国产超污无遮挡网站| 日产精品乱码卡一卡2卡三| 久久综合国产亚洲精品| 亚洲久久久久久中文字幕| 波野结衣二区三区在线| 99在线人妻在线中文字幕| 热99re8久久精品国产| 中文字幕av在线有码专区| 1000部很黄的大片| 九九热线精品视视频播放| 亚洲人与动物交配视频| 久久久久国产精品人妻aⅴ院| 精品一区二区免费观看| 日本欧美国产在线视频| 人人妻人人看人人澡| 日韩欧美精品v在线| 女人十人毛片免费观看3o分钟| 欧美另类亚洲清纯唯美| 不卡一级毛片| 亚洲七黄色美女视频| 亚洲国产精品久久男人天堂| 国产爱豆传媒在线观看| 乱人视频在线观看| 亚洲精品乱码久久久v下载方式| 你懂的网址亚洲精品在线观看 | 国产精品综合久久久久久久免费| 日本a在线网址| 别揉我奶头 嗯啊视频| 日本黄色视频三级网站网址| 成人特级av手机在线观看| 又爽又黄无遮挡网站| 婷婷精品国产亚洲av| 亚洲av美国av| 成年女人毛片免费观看观看9| .国产精品久久| 国产欧美日韩精品亚洲av| 欧美色欧美亚洲另类二区| 少妇高潮的动态图| АⅤ资源中文在线天堂| 蜜桃亚洲精品一区二区三区| 亚洲成人久久性| 免费大片18禁| 国产综合懂色| 美女大奶头视频| 亚洲精品久久国产高清桃花| 美女高潮的动态| .国产精品久久| 少妇的逼好多水| 国产69精品久久久久777片| 亚洲精品一卡2卡三卡4卡5卡| 亚洲熟妇中文字幕五十中出| 女的被弄到高潮叫床怎么办| 亚洲欧美精品自产自拍| 超碰av人人做人人爽久久| 欧美国产日韩亚洲一区| 日韩av不卡免费在线播放| av在线播放精品| 乱码一卡2卡4卡精品| 大型黄色视频在线免费观看| 亚洲七黄色美女视频| av在线老鸭窝| 午夜影院日韩av| 午夜福利在线观看吧| 亚洲欧美日韩高清在线视频| 久久国产乱子免费精品| 麻豆成人午夜福利视频| 伊人久久精品亚洲午夜| 波多野结衣高清作品| 美女高潮的动态| 小说图片视频综合网站| 美女xxoo啪啪120秒动态图| 在线播放国产精品三级| 国产男靠女视频免费网站| 亚洲高清免费不卡视频| 久久亚洲国产成人精品v| 国产蜜桃级精品一区二区三区| 国产人妻一区二区三区在| 天天一区二区日本电影三级| 波多野结衣高清作品| 久久久国产成人精品二区| 精品不卡国产一区二区三区| 免费看美女性在线毛片视频| 色av中文字幕| 国产精品乱码一区二三区的特点| 亚洲最大成人手机在线| 亚洲久久久久久中文字幕| 老熟妇乱子伦视频在线观看| av中文乱码字幕在线| 亚洲内射少妇av| 精品人妻熟女av久视频| 国语自产精品视频在线第100页| 黑人高潮一二区| 麻豆精品久久久久久蜜桃| 亚洲专区国产一区二区| 久久久精品欧美日韩精品| 久久久久精品国产欧美久久久| 日韩人妻高清精品专区| 亚洲va在线va天堂va国产| 日韩成人伦理影院| 亚洲一级一片aⅴ在线观看| 日本黄色片子视频| 两个人的视频大全免费| 毛片一级片免费看久久久久| 亚洲性久久影院| 亚洲av.av天堂| 秋霞在线观看毛片| 日本黄大片高清| 国产黄色小视频在线观看| 久久久精品大字幕| 欧美日韩精品成人综合77777| 老司机影院成人| 久久鲁丝午夜福利片| 亚洲熟妇熟女久久| 一本精品99久久精品77| 国产一区二区在线观看日韩| aaaaa片日本免费| 国产精品久久久久久久电影| 男女视频在线观看网站免费| 中文资源天堂在线| 国产成人福利小说| 国产又黄又爽又无遮挡在线| 亚洲欧美成人综合另类久久久 | 91久久精品国产一区二区三区| 99久国产av精品| 欧美一区二区精品小视频在线| av卡一久久| 国产精品人妻久久久久久| 一进一出好大好爽视频| 精品日产1卡2卡| 99久久久亚洲精品蜜臀av| 日韩av在线大香蕉| 国产午夜精品论理片| 十八禁网站免费在线| 午夜精品国产一区二区电影 | 最新中文字幕久久久久| 国产日本99.免费观看| 高清午夜精品一区二区三区 | 国产精品伦人一区二区| 午夜福利高清视频| 99久久精品国产国产毛片| 国内精品一区二区在线观看| 免费观看人在逋| 国产高清三级在线| 欧美bdsm另类| 简卡轻食公司| 国产亚洲精品av在线| 日本五十路高清| 日韩强制内射视频| 一卡2卡三卡四卡精品乱码亚洲| 免费av不卡在线播放| 99久久精品热视频| 亚洲va在线va天堂va国产| 日本一本二区三区精品| 成年女人看的毛片在线观看| 亚洲av成人av| 校园春色视频在线观看| 深夜a级毛片| 精品人妻熟女av久视频| 寂寞人妻少妇视频99o| 99国产精品一区二区蜜桃av| 国产探花极品一区二区| 男女边吃奶边做爰视频| 青春草视频在线免费观看| 成人国产麻豆网| 日本撒尿小便嘘嘘汇集6| 我的老师免费观看完整版| 久久午夜福利片| 伦精品一区二区三区| 亚洲内射少妇av| 亚洲天堂国产精品一区在线| www.色视频.com| 亚洲精品456在线播放app| 午夜福利高清视频| av女优亚洲男人天堂| 女同久久另类99精品国产91| 美女内射精品一级片tv| 伦理电影大哥的女人| 99九九线精品视频在线观看视频| 成人精品一区二区免费| 久久人人爽人人爽人人片va| 中文字幕人妻熟人妻熟丝袜美| 美女免费视频网站| 美女 人体艺术 gogo| 寂寞人妻少妇视频99o| 午夜福利在线观看吧| 日本熟妇午夜| 免费观看人在逋| 午夜免费男女啪啪视频观看 | 亚洲无线观看免费| 一级毛片电影观看 | 精品一区二区三区视频在线| 女同久久另类99精品国产91| 97热精品久久久久久| 又黄又爽又免费观看的视频| 免费大片18禁| 特级一级黄色大片| 欧美一区二区亚洲| 91狼人影院| 久久人人爽人人爽人人片va| 青春草视频在线免费观看| 免费电影在线观看免费观看| 国产又黄又爽又无遮挡在线| 国产精品国产三级国产av玫瑰| 一级av片app| 成年版毛片免费区| 亚洲美女黄片视频| 人妻夜夜爽99麻豆av| 一个人免费在线观看电影| 免费人成在线观看视频色| 五月伊人婷婷丁香| 亚洲欧美中文字幕日韩二区| 伦理电影大哥的女人| 国产一区二区在线av高清观看| 91精品国产九色| 成人亚洲欧美一区二区av| 长腿黑丝高跟| 晚上一个人看的免费电影| 日本黄大片高清| 狠狠狠狠99中文字幕| 精品久久久久久久久久免费视频| 搡老岳熟女国产| 99久久无色码亚洲精品果冻| 精品久久久噜噜| 国产av在哪里看| 日日摸夜夜添夜夜爱| 国产aⅴ精品一区二区三区波| 日韩人妻高清精品专区| 欧美激情在线99| 午夜精品一区二区三区免费看| 日韩欧美精品v在线| 麻豆国产av国片精品| 天天一区二区日本电影三级| 熟女人妻精品中文字幕| 内射极品少妇av片p| 99热只有精品国产| 性欧美人与动物交配| 亚洲经典国产精华液单| 亚洲自拍偷在线| 成人无遮挡网站| 国内精品久久久久精免费| 国产三级在线视频| 一级黄片播放器| 国产三级中文精品| a级毛色黄片| 国产男靠女视频免费网站| 在线免费观看不下载黄p国产| 大型黄色视频在线免费观看| 99热全是精品| 国产精品无大码| 成人二区视频| avwww免费| 又爽又黄无遮挡网站| 国产精品无大码| 免费看av在线观看网站| 少妇被粗大猛烈的视频| 九九爱精品视频在线观看| 看非洲黑人一级黄片| 亚洲精品456在线播放app| 亚洲国产精品sss在线观看| 久久久国产成人精品二区| 国产精品无大码| 亚洲精品456在线播放app| 亚洲成人中文字幕在线播放| 亚洲美女搞黄在线观看 | 极品教师在线视频| 草草在线视频免费看| 国内久久婷婷六月综合欲色啪| 日韩制服骚丝袜av| 国产色爽女视频免费观看| 亚州av有码| av在线老鸭窝| 国产一区二区在线av高清观看| 国产伦精品一区二区三区四那| 一级毛片电影观看 | 国产精品一二三区在线看| 自拍偷自拍亚洲精品老妇| 国产69精品久久久久777片| 精品人妻视频免费看| 老司机午夜福利在线观看视频| 美女免费视频网站| 久久久久久久久久久丰满| 香蕉av资源在线| 国产又黄又爽又无遮挡在线| 国产国拍精品亚洲av在线观看| 欧美最黄视频在线播放免费| 中文字幕熟女人妻在线| 亚洲欧美日韩东京热| 日韩av在线大香蕉| 在线天堂最新版资源| 午夜精品在线福利| 97碰自拍视频| 男人狂女人下面高潮的视频| 久久这里只有精品中国| 日本一本二区三区精品| 欧美一区二区国产精品久久精品| 欧美人与善性xxx| 狠狠狠狠99中文字幕| 看十八女毛片水多多多| 久久国内精品自在自线图片| 国产爱豆传媒在线观看| 麻豆av噜噜一区二区三区| 美女免费视频网站| 精品久久久久久久久久久久久| 日日撸夜夜添| 国产精品电影一区二区三区| 俄罗斯特黄特色一大片| 亚洲av五月六月丁香网| 亚洲精品影视一区二区三区av| 国产熟女欧美一区二区| 欧美在线一区亚洲| 国产老妇女一区| 一本一本综合久久| 亚洲精品在线观看二区| 精品日产1卡2卡| 国产蜜桃级精品一区二区三区| 真实男女啪啪啪动态图| 欧美一区二区国产精品久久精品| 伦精品一区二区三区| 日日摸夜夜添夜夜爱| 欧美日韩综合久久久久久| 久久九九热精品免费| 久久热精品热| 久久草成人影院| 久久精品国产亚洲av香蕉五月| 欧美国产日韩亚洲一区| 免费不卡的大黄色大毛片视频在线观看 | 欧美区成人在线视频| 日本欧美国产在线视频| 日日啪夜夜撸| 免费黄网站久久成人精品| 菩萨蛮人人尽说江南好唐韦庄 | 99在线视频只有这里精品首页| 日韩精品青青久久久久久| 欧美丝袜亚洲另类| 18禁黄网站禁片免费观看直播| 别揉我奶头 嗯啊视频| 亚洲自偷自拍三级| 国产亚洲精品av在线| 岛国在线免费视频观看| 在线观看免费视频日本深夜| 可以在线观看的亚洲视频| 亚洲美女黄片视频| 亚洲国产精品国产精品| 精品久久国产蜜桃| 国产免费男女视频| 91久久精品国产一区二区成人| 高清午夜精品一区二区三区 | 午夜日韩欧美国产| 成熟少妇高潮喷水视频| 男女做爰动态图高潮gif福利片| 尤物成人国产欧美一区二区三区| 精品久久国产蜜桃| 亚洲欧美日韩东京热| 日韩高清综合在线| 欧美+亚洲+日韩+国产| 亚洲精品456在线播放app| 菩萨蛮人人尽说江南好唐韦庄 | 免费搜索国产男女视频| 啦啦啦观看免费观看视频高清| 亚洲美女视频黄频| 男人狂女人下面高潮的视频| 国产三级中文精品| 国产片特级美女逼逼视频| 国产亚洲精品久久久久久毛片| 免费人成视频x8x8入口观看| 精品少妇黑人巨大在线播放 | 国产精品久久久久久久电影| 国产精品久久视频播放| 人妻制服诱惑在线中文字幕| 校园人妻丝袜中文字幕| 搞女人的毛片| 少妇裸体淫交视频免费看高清| 中文资源天堂在线| av在线天堂中文字幕| 尾随美女入室| a级毛片a级免费在线| 成人综合一区亚洲| 精品乱码久久久久久99久播| 在线播放国产精品三级| 色综合亚洲欧美另类图片| 又爽又黄a免费视频| 国产精品日韩av在线免费观看| 免费看光身美女| 美女cb高潮喷水在线观看| 日韩精品青青久久久久久| 精品久久久久久成人av| 精品午夜福利在线看| 亚洲精华国产精华液的使用体验 | 成人二区视频| 日韩欧美一区二区三区在线观看| 日韩大尺度精品在线看网址| 精品免费久久久久久久清纯| 精品熟女少妇av免费看| 麻豆av噜噜一区二区三区| 香蕉av资源在线| 在线国产一区二区在线| 夜夜爽天天搞| 男女啪啪激烈高潮av片| 日本在线视频免费播放| 亚洲无线在线观看| 亚洲专区国产一区二区| 非洲黑人性xxxx精品又粗又长| 久久亚洲精品不卡| 国产激情偷乱视频一区二区| 欧美在线一区亚洲| 国内少妇人妻偷人精品xxx网站| 亚洲精品456在线播放app| 日韩三级伦理在线观看| 午夜视频国产福利| 日本a在线网址| 国内精品美女久久久久久| 久久久久性生活片| 九九久久精品国产亚洲av麻豆| 欧美潮喷喷水| 69av精品久久久久久| 三级国产精品欧美在线观看| 国产精品伦人一区二区| 天堂√8在线中文| 看免费成人av毛片| 国产人妻一区二区三区在| 精品久久久久久久久亚洲| 亚洲三级黄色毛片| 亚洲国产精品成人综合色| 悠悠久久av| 午夜精品国产一区二区电影 | 99国产精品一区二区蜜桃av| 91久久精品电影网| 精品99又大又爽又粗少妇毛片| 国产精品三级大全| 亚洲精品一卡2卡三卡4卡5卡| 美女 人体艺术 gogo| 日韩欧美一区二区三区在线观看| 在线播放无遮挡| 久久久久九九精品影院| 国产一区二区三区av在线 | 欧美一区二区精品小视频在线| 午夜精品国产一区二区电影 | 欧美成人a在线观看| 97碰自拍视频| 中文在线观看免费www的网站| 我要看日韩黄色一级片| 高清午夜精品一区二区三区 | 日韩,欧美,国产一区二区三区 | 俺也久久电影网| 色在线成人网| 日韩大尺度精品在线看网址| 少妇猛男粗大的猛烈进出视频 | 最近视频中文字幕2019在线8| 国产亚洲精品久久久久久毛片| 最新在线观看一区二区三区| 国产成年人精品一区二区| 亚洲欧美日韩东京热| 国产真实乱freesex| 一a级毛片在线观看| 少妇的逼水好多| 99riav亚洲国产免费| 亚洲欧美日韩无卡精品| 成人一区二区视频在线观看| 亚洲五月天丁香| 人人妻人人澡欧美一区二区| 精品一区二区三区av网在线观看| 嫩草影院新地址| 国内少妇人妻偷人精品xxx网站| 国产精品永久免费网站| 欧美一区二区亚洲| 1000部很黄的大片| 久久精品国产亚洲av天美| 99九九线精品视频在线观看视频| 亚洲中文字幕一区二区三区有码在线看| 女的被弄到高潮叫床怎么办| 久久精品综合一区二区三区| 三级男女做爰猛烈吃奶摸视频| 最新在线观看一区二区三区| 精品午夜福利在线看| 亚洲av五月六月丁香网| 国产日本99.免费观看| 亚洲18禁久久av| 免费无遮挡裸体视频| 麻豆精品久久久久久蜜桃| 亚洲18禁久久av| 亚洲,欧美,日韩| 午夜爱爱视频在线播放| 亚洲av.av天堂| 国产免费男女视频| 亚洲成人久久爱视频| www.色视频.com| 日韩国内少妇激情av| 能在线免费观看的黄片| 我的女老师完整版在线观看| 亚洲国产精品合色在线| 久久精品夜色国产| 亚洲av免费在线观看| 99久久九九国产精品国产免费| 精品无人区乱码1区二区| 久久中文看片网| 黄色配什么色好看| 久久久久性生活片| 天堂√8在线中文| 精品不卡国产一区二区三区| 蜜桃亚洲精品一区二区三区| 69av精品久久久久久| 日产精品乱码卡一卡2卡三| 亚洲三级黄色毛片|