• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于特征選擇技術(shù)的集成方法研究*

    2013-09-05 06:35:54彥,王倩,周
    關(guān)鍵詞:特征選擇子集度量

    曹 彥,王 倩,周 馳

    (1.周口師范學(xué)院計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院,河南 周口466001;2.許昌供電公司,河南 許昌461000)

    1 引言

    隨著計(jì)算機(jī)技術(shù)的快速發(fā)展以及因特網(wǎng)的廣泛普及,近幾十年來產(chǎn)生了很多大型的數(shù)據(jù)庫,已遍及生活中的方方面面,如銀行存款、超級市場銷售、天文學(xué)、政府統(tǒng)計(jì)、醫(yī)學(xué)以及網(wǎng)絡(luò)等領(lǐng)域。由于大規(guī)模問題和冗余特征的不斷出現(xiàn),使特征選擇的研究和分類器技術(shù)受到了前所未有的重視。特征選擇的任務(wù)是從一組數(shù)量為D的特征中選擇出數(shù)量為d(D>d)的一組最優(yōu)特征。合理而有效地選擇有利特征,適當(dāng)減少特征維數(shù),一方面可以消除冗余,加快運(yùn)算速度,提高分類效率;另一方面,可以降低分類器的復(fù)雜性,從而降低分類錯(cuò)誤率。分類器技術(shù)是模式識別及機(jī)器學(xué)習(xí)的重要研究領(lǐng)域,目前已有的分類器算法有決策樹、神經(jīng)網(wǎng)絡(luò)、K-近鄰、SVM、Bayes分類等。隨著高維數(shù)據(jù)的不斷出現(xiàn),要找到一個(gè)分類較好的單個(gè)分類器,一般情況下是比較難的。為此,Suen[1]等人在1990年提出了集成多分類器的概念。

    目前,已有多個(gè)研究將特征選擇應(yīng)用于構(gòu)建新的集成學(xué)習(xí)方法。1998年,Ho[2]研究了隨機(jī)的特征選擇方法。1999年,Opitz[3]提出了基于遺傳算法的特征選擇的集成學(xué)習(xí)算法,該算法中使用的集成分類器為神經(jīng)網(wǎng)絡(luò),考慮了個(gè)體分類器和已生成的集成算法間的差異度。2002年Oliveira等人運(yùn)用了多目標(biāo)的遺傳算法。2002年Zhou等人提出了GASEN算法,在神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上通過遺傳算法為Bagging集成方法選擇特征子集。2003年Brylla等人提出了基于隨機(jī)特征選擇的特征bagging方法。2005年Tsymbal[4]等人研究了集成特征選擇方法的不同搜索策略,繼而又提出運(yùn)用遺傳算法進(jìn)行集成特征選擇。2006年 Li Guo-zheng和 Lin Tian-yu運(yùn)用嵌入式特征選擇方法和濾波式方法對在Bagging基礎(chǔ)上產(chǎn)生的個(gè)體學(xué)習(xí)器進(jìn)行最優(yōu)特征子集的選擇。先后有許多研究者都對集成分類器的多樣性進(jìn)行了研究,如對多樣性度量與成員分類器復(fù)雜度的關(guān)系的研究[5],對分類器集成中的特征選擇框架的研究[6]。從總體上來看,這些都是基于樣本的集成學(xué)習(xí)方法。而在實(shí)際應(yīng)用中,特征間的關(guān)系很復(fù)雜,特征間的相互作用也極為常見,常常難以辨識出特征是否和目標(biāo)函數(shù)相關(guān),尋找一個(gè)單一的好的假設(shè)函數(shù)很困難,這時(shí)基于特征選擇的集成學(xué)習(xí)方法是一種很有潛力的方法。

    本文在已經(jīng)經(jīng)過實(shí)驗(yàn)驗(yàn)證具有高準(zhǔn)確率RGS(Relief+GA+SVM)算法的基礎(chǔ)上,提出組合分類器設(shè)計(jì)方案。該算法中主要是通過降低成員分類器之間的相關(guān)性,來提高集成分類效果的能力,并通過實(shí)驗(yàn)表明了該算法的集成思路是優(yōu)于Boosting方法的。

    2 RGS算法

    2.1 染色體的構(gòu)成

    本文中應(yīng)用SVM作為分類器,其中使用的核函數(shù)是RBF核函數(shù)。支持向量機(jī)模型分類精度與懲罰因子C和高斯核函數(shù)的γ均存在一定的關(guān)系,為了獲取最佳分類性能的SVM模型,需要得到最佳的(C,γ),顯然這是一個(gè)優(yōu)化問題。本文把參數(shù)的選擇和特征選擇同時(shí)進(jìn)行,即在選擇特征的同時(shí)找出與其對應(yīng)的參數(shù)最優(yōu)點(diǎn)。因此,可以利用遺傳算法來進(jìn)行SVM分類模型的參數(shù)優(yōu)化,其染色體表示如圖1所示。

    Figure 1 Chromosome expression圖1 染色體構(gòu)成

    為了與算法適應(yīng),還需要把參數(shù)C和γ解碼為二進(jìn)制,本文采用以下方式進(jìn)行解碼:

    其中,mint表示l位二進(jìn)制所能表示的最大值,maxt表示l位二進(jìn)制所能表示的最小值,l是用于表示參數(shù)t的二進(jìn)制位數(shù),d表示l位二進(jìn)制所對應(yīng)的十進(jìn)制值,t為解碼后的十進(jìn)制值。

    2.2 遺傳算法種群初始化

    遺傳算法是一種不確定搜索算法,其性能受初始種群影響很大,一個(gè)好的初始種群可以為遺傳算法提供一批好的搜索起點(diǎn)。因此,本文利用ReliefF算法為遺傳算法提供先驗(yàn)信息,使其能搜索到一個(gè)好的初始種群。具體步驟為:

    (1)不同特征根據(jù)ReliefF評估結(jié)果進(jìn)行排序,排序越靠前表示該特征和類別相關(guān)性越大。

    (2)產(chǎn)生特征的被選概率。本文采用的是常用的輪盤賭方法。

    (3)種群初始化。設(shè)初始種群大小為g,根據(jù)(2)產(chǎn)生g-1個(gè)個(gè)體;同時(shí),為了充分利用已知信息,初始種群包含ReliefF本身進(jìn)行特征選擇得到的特征。其中,每個(gè)個(gè)體都表示為二進(jìn)制串,當(dāng)此特征被選擇,相應(yīng)位置上的二進(jìn)制值為1,否則為0。

    (4)按照圖1構(gòu)造染色體,創(chuàng)建遺傳算法的初始種群。

    利用遺傳算法進(jìn)行優(yōu)化,就要考慮遺傳算法中的參數(shù)選擇問題。對于種群大小,種群數(shù)目太小會造成有效等位基因缺乏,生成具有競爭力的高階模式的可能性極小。但是,種群數(shù)目也不可太大,太大將使個(gè)體適應(yīng)性評價(jià)的計(jì)算量急劇增加,收斂速度顯著降低。對于交叉和變異,交叉在遺傳操作中起核心作用,交叉概率較大可增強(qiáng)遺傳算法開辟新搜索空間的能力,但性能好的基因串遭到破壞的可能性較大,算法收斂速度降低,且不穩(wěn)定;若交叉概率較小,則遺傳算法搜索可能陷入遲鈍狀態(tài)。變異在遺傳操作中屬于輔助性的搜索操作,其主要目的是維持群體的多樣性。較低的變異概率可以防止群體中重要的單一基因丟失,但降低了遺傳算法開辟新搜索空間的能力;較高的變異概率將使遺傳操作趨于純粹的隨機(jī)搜索,降低了算法的收斂速度和穩(wěn)定性。

    2.3 適應(yīng)度函數(shù)

    其中,參數(shù)α、β用來控制特征數(shù)目的減少和分類準(zhǔn)確率的提高對評估函數(shù)的貢獻(xiàn),|X|表示特征子集X所包含的特征數(shù)目,n為所有特征的數(shù)目。等式右側(cè)第一項(xiàng)表示特征子集對應(yīng)的分類準(zhǔn)確率越大,則評估函數(shù)取值越大;第二項(xiàng)表示特征數(shù)目越少,評估函數(shù)取值越大。用戶可以根據(jù)不同問題和需要設(shè)置參數(shù)α和β的值,如當(dāng)希望分類準(zhǔn)確率高些時(shí),則增加α的值,否則減少α的值;如果希望降維幅度大些時(shí),則增加β的值,否則減少β的值。

    本文所采用的分類準(zhǔn)確率的計(jì)算方法為:分類準(zhǔn)確率=真正率*真負(fù)率;真正率和真負(fù)率是根據(jù)混淆矩陣[7]來計(jì)算的。

    個(gè)體的評估函數(shù)也是影響遺傳算法性能的一個(gè)重要因素,對于特征選擇算法,適應(yīng)度函數(shù)應(yīng)滿足:分類準(zhǔn)確率越高,適應(yīng)度函數(shù)值越大;特征子集越小,適應(yīng)度函數(shù)值越大。因此,適應(yīng)度函數(shù)定義為:

    2.4 RGS算法

    RGS算法[8]的主要過程如下:

    (1)首先對訓(xùn)練集的屬性進(jìn)行規(guī)范化。把大范圍上的數(shù)據(jù)通過變化轉(zhuǎn)換為小范圍上的數(shù)據(jù)。本算法是通過式(3)把數(shù)據(jù)規(guī)范化到0~1。由于數(shù)據(jù)集的復(fù)雜度的降低,在一定程度上間接地增加了支持向量機(jī)的分類準(zhǔn)確率。

    其中,t為原始的屬性值,t′為規(guī)范化后的屬性值,mint表示t的最小值,maxt表示t的最大值。

    (2)通過ReliefF對特征進(jìn)行排序。

    (3)種群初始化。把支持向量機(jī)參數(shù)混編入染色體中,通過遺傳算法實(shí)現(xiàn)特征子集和支持向量機(jī)參數(shù)的同步優(yōu)化。

    (4)解碼支持向量機(jī)參數(shù)。把遺傳后的二進(jìn)制形式的支持向量機(jī)參數(shù)解碼為十進(jìn)制。

    (5)計(jì)算假設(shè)的適應(yīng)度值。對于每一個(gè)假設(shè),根據(jù)解碼后的支持向量機(jī)參數(shù)和選出的特征子集,計(jì)算該假設(shè)的適應(yīng)度值。

    (6)判斷是否滿足終止條件。如果滿足,對該假設(shè)操作結(jié)束,更新種群;如果不滿足,利用選擇、交叉、變異對該假設(shè)進(jìn)行遺傳。

    (7)選擇適應(yīng)度值最高的假設(shè)。

    3 RGSE算法

    在RGS算法中,每次的分類結(jié)果都只選擇了具有最高適應(yīng)度值的特征子集,而忽略了其他的個(gè)體,也許其余的特征選擇方案中也包括了有用的信息,是否可以利用這些特征選擇方案設(shè)計(jì)出更好的分類器呢?

    3.1 不一致度量方法

    經(jīng)研究表明[9],對于訓(xùn)練獲得的多個(gè)基分類器,并不是把它們?nèi)窟M(jìn)行集成操作得出的集成分類器效果最佳,而是應(yīng)當(dāng)根據(jù)成員分類器的差異度進(jìn)行選擇。成員分類器的多樣性是一個(gè)重要的選擇準(zhǔn)則,這個(gè)準(zhǔn)則是保證泛化能力的最佳選擇。Kuncheava等人將多樣性度量標(biāo)準(zhǔn)分為“成對度量標(biāo)準(zhǔn)”和“非成對度量標(biāo)準(zhǔn)”兩類。成對度量標(biāo)準(zhǔn)用于衡量集成系統(tǒng)中任意兩個(gè)分類器之間的分類差異,非成對度量標(biāo)準(zhǔn)從整體上計(jì)算群體的多樣性。常用的成對多樣性測量方法有Q統(tǒng)計(jì)量、不一致度量方法、Kappa度量法、相關(guān)系數(shù)法和雙誤度量。常用的非成對度量方法主要有熵度量、KW方差度量和K統(tǒng)計(jì)量度量。本文主要使用不一致度量方法,僅對該方法進(jìn)行介紹。

    在介紹具體的不一致度量方法之前,用簡化的二分類問題為例引入需要用到的一些參數(shù)。給定大小為N的訓(xùn)練樣本,訓(xùn)練出M個(gè)成員分類器,yij表示第i個(gè)輸入樣本在第j個(gè)分類器上的輸出。當(dāng)yij的值為0時(shí),表示第j個(gè)分類器分類錯(cuò)誤;當(dāng)yij的值為1時(shí),表示第j個(gè)分類器分類正確。對于兩個(gè)分類器 Mi、Mj,Nab(a,b∈ {0,1})表示分類器Mi的輸出結(jié)果為a、分類器Mj的輸出結(jié)果為b的輸入樣本的數(shù)量。m(xi)表示分類器在輸入樣本xi上正確分類的樣本個(gè)數(shù),用公式表示為:

    不一致度量方法是通過把分類器Mi、Mj輸出結(jié)果不一致的樣本與所有樣本的比,作為這兩個(gè)分類器的多樣性度量標(biāo)準(zhǔn)。

    Si,j的取值范圍是0~1,當(dāng)Si,j的值為0時(shí),說明分類器Mi、Mj的預(yù)測結(jié)果相同,即同時(shí)分類正確或錯(cuò)誤;當(dāng)Si,j的值為1時(shí),則說明分類器 Mi、Mj的預(yù)測結(jié)果不同。

    集成的不一致度量方法也是成員分類器間的平均值,即:

    3.2 算法設(shè)計(jì)思路

    分類器集成一般包括兩個(gè)過程:(1)基分類器的設(shè)計(jì);(2)基分類器分類結(jié)果的融合算法。為了獲得較好的集成學(xué)習(xí)算法,第(1)步中要盡量獲得高準(zhǔn)確率的分類器,第(2)步中要選擇合適的集成方法。要想獲得較高的分類準(zhǔn)確率:(1)使特征子集和目標(biāo)函數(shù)盡量相關(guān);(2)設(shè)計(jì)出好的分類算法或者選擇出使分類效果最好的分類器參數(shù)。這個(gè)已在提出的RGS算法中得到了體現(xiàn)。在實(shí)際應(yīng)用中單個(gè)的支持向量機(jī)在進(jìn)行分類時(shí),往往因?yàn)檎也坏阶顑?yōu)的支持向量機(jī)參數(shù)而降低了分類效果。同時(shí),單個(gè)的支持向量機(jī)在處理無類標(biāo)號的樣本時(shí),也不能獲得較好的效果。為了克服單個(gè)分類器的這些缺點(diǎn),可以通過對SVM分類器集成來提高處理數(shù)據(jù)的分類準(zhǔn)確率。在集成方法中,各成員分類器的相關(guān)性越小,集成分類器的誤差就越小。因此,實(shí)現(xiàn)成員分類器的多樣性成為提高分類器組合泛化能力的主要手段,同時(shí)也是本文工作的重點(diǎn)。

    3.3 算法設(shè)計(jì)

    首先利用RGS算法訓(xùn)練基分類器,選擇M個(gè)成員分類器進(jìn)行集成。為了能夠處理高維數(shù)據(jù),當(dāng)M(1+60%)大于總假設(shè)個(gè)數(shù)t時(shí),從最終的種群中選擇適應(yīng)度值最高的M(1+60%)個(gè)個(gè)體建立成員分類器;否則,利用種群中所有的假設(shè)建立t個(gè)成員分類器。然后從t或者M(jìn)(1+60%)個(gè)成員分類器中選擇用于集成的M個(gè)基分類器。選擇時(shí)利用給出的不一致度量方法對基分類器進(jìn)行測量,選擇出差異性較大的分類器集。這樣,就可以保證用于集成的分類器的相關(guān)性較低,提高了集成分類器的泛化能力。具體算法描述如下(其中,M表示集成的成員分類器個(gè)數(shù);t表示種群P中的特征子集個(gè)數(shù)(t≥M))。

    步驟1 訓(xùn)練SVM成員分類器。

    (1)在訓(xùn)練樣本上利用RGS算法得到遺傳后的種群P。

    (2)在種群P中生成SVM分類器。

    If(M(1+60%)<t)

    根據(jù)適應(yīng)度值從高到低的原則選擇出M(1+60%)

    個(gè)假設(shè)并用其訓(xùn)練SVM分類器;

    Else{

    選擇t個(gè)假設(shè)訓(xùn)練出t個(gè)SVM分類器;

    (3)用每個(gè)分類器測試檢驗(yàn)樣本集,根據(jù)測試結(jié)果,計(jì)算出每個(gè)SVM分類器的分類準(zhǔn)確率。

    步驟2 選擇出最大差異度的分類器集

    (1)If(M(1+60%)<t){

    For(i=1,2,…,M(1+60%)-1){

    For(j=i+1,…,M(1+60%))

    計(jì)算出分類器Mi和Mj間的差異度Si,j;

    Else{

    For(i=1,2,…,t-1){

    For(j=i+1,…,t)

    計(jì)算出分類器Mi和Mj間的差異度Si,j;

    (2)從所有的分類器中任意選出M個(gè)SVM成員分類器,利用平均值的方法求出這個(gè)新的分類器集的差異度。

    (3)比較所有的分類器集的差異度,最終選擇差異度最大的分類器集。

    該算法主要分為兩個(gè)步驟,第一步中是以RGS算法為核心,RGS算法的最壞時(shí)間復(fù)雜度為O(dl3),其中:d為特征維數(shù),l為樣本數(shù);第二步的主要工作是選擇最大差異度的分類器,最壞時(shí)間復(fù)雜度為O(t2)。因此,RGSE算法的時(shí)間復(fù)雜度為O(dl3+t2)。

    4 實(shí)驗(yàn)與結(jié)果分析

    4.1 實(shí)驗(yàn)描述

    (1)實(shí) 驗(yàn) 環(huán) 境:PC 機(jī) PentiumD 主 頻 2.8 GHz,內(nèi)存為512MB,操作系統(tǒng)為 WindowsXP,實(shí)現(xiàn)工具為Eclipse,開發(fā)語言為Java,數(shù)據(jù)挖掘工具為WEKA。

    (2)實(shí)驗(yàn)數(shù)據(jù):選擇的實(shí)驗(yàn)數(shù)據(jù)如表1所示,這些數(shù)據(jù)集的特征維數(shù)10~100,屬性值有連續(xù)型的也有離散型的,樣本數(shù)目從幾百到幾萬,這些數(shù)據(jù)集中有的數(shù)據(jù)集沒有數(shù)據(jù)缺失,但有的有大量缺失,所選數(shù)據(jù)的多樣性使這些數(shù)據(jù)具有廣泛的代表性,可以較好地驗(yàn)證所提算法的性能。

    (3)參數(shù)設(shè)置:ReliefF算法中,對于樣本數(shù)大于1 000的訓(xùn)練數(shù)據(jù)集,迭代次數(shù)M為訓(xùn)練集的三分之一;否則,M 取值為訓(xùn)練集的大小,最近鄰樣本數(shù)K=2。本文中遺傳算法的參數(shù)根據(jù)經(jīng)驗(yàn)值[10]設(shè)定為:種群大小80,交叉概率0.7,變異概率0.02,x=y(tǒng)=20,z的大小根據(jù)特征的個(gè)數(shù)來定。終止條件為遺傳迭代次數(shù)超過100次或者在最近10次迭代中,適應(yīng)度函數(shù)變化不大。因?yàn)镠ansen實(shí)驗(yàn)表明集成學(xué)習(xí)的性能在最初幾個(gè)個(gè)體分類器集成時(shí)改善最明顯,所以集成的個(gè)數(shù)不易設(shè)置過大,本文中個(gè)體分類器的個(gè)數(shù)M設(shè)定為50。

    Table 1 Experiment data表1 實(shí)驗(yàn)數(shù)據(jù)

    4.2 實(shí)驗(yàn)結(jié)果分析

    為了驗(yàn)證RGSE算法,將此算法和Boosting算法相比較,其中,Boosting中所使用的分類方法為支持向量機(jī),支持向量機(jī)中使用的核函數(shù)為徑向基核函數(shù),參數(shù)C和核函數(shù)參數(shù)γ是通過無窮搜索得到的。在將此算法和集成算法相比較的同時(shí),還與RGS算法和SVM算法相比較。經(jīng)計(jì)算,在表1給出的數(shù)據(jù)集上的分類結(jié)果如表2所示。

    Table 2 Comparison of ensemble algorithms classification precision ratio表2 集成算法分類準(zhǔn)確率比較

    特征子集的大小如表3(RGSE特征子集的大小為單個(gè)分類器選取特征子集大小的均值)所示。

    Table 3 Feature subset size of ensemble algorithms表3 集成算法的特征子集大小

    從表2可以看出,總體來說,雖然RGSE算法不能夠保證在所有的數(shù)據(jù)集上都能獲得最高的分類準(zhǔn)確率,但是總的平均準(zhǔn)確率RGSE算法是最高的。RGSE算法在 Letters、Sick-euthyroid、Sonar、IRIS數(shù)據(jù)集上的分類準(zhǔn)確率最高,和SVM比較,在以上三個(gè)數(shù)據(jù)集中,在Sick-euthyroid上的錯(cuò)誤率降低最多為26.94%,在IRIS上的錯(cuò)誤率降低最少為3.45%。RGSE算法比SVM算法的平均錯(cuò)誤率降低了8.81%。RGSE算法和RGS算法相比較,可以看出RGS算法在數(shù)據(jù)集Ionosphere上的分類準(zhǔn)確率最高,比RGSE算法的高出2.19%。但是,平均準(zhǔn)確率RGSE卻高出1.53%。RGSE算法和Boosting算法相比較,雖然某些數(shù)據(jù)集可能在Boosting上獲得了高的準(zhǔn)確率,從表3可以得出,RGS算法中所選擇的特征子集相對于原數(shù)據(jù)集的特征集減小了很多,這就降低了數(shù)據(jù)集的復(fù)雜度,有利于提高分類算法性能。綜上所述可以得出,不管RGSE算法和以上的哪種算法相比較,在總體上總是能在特征子集相對較小的情況下獲得較高的平均準(zhǔn)確率。這就說明,通過集成和成員分類器的多樣性選擇,大部分情況下能夠提高分類效果。

    5 結(jié)束語

    隨著大數(shù)據(jù)集和高維數(shù)據(jù)集的不斷出現(xiàn),很難找到一個(gè)最優(yōu)的單分類器,因此,多分類融合技術(shù)應(yīng)運(yùn)而生,成為了一種新的數(shù)據(jù)處理技術(shù)。本文針對具有較高分類準(zhǔn)確率的RGS算法,運(yùn)用集成學(xué)習(xí)思想,提出了一種RGSE集成分類算法,即在RGS算法生成的多個(gè)成員分類中,采用不一致度量方法,從中選擇出差異性最大的分類器集。該集成分類算法的實(shí)驗(yàn)結(jié)果也表明了該算法的有效性。

    [1] Suen c Y,Nadal C,Mai T A,et al.Recognition of totally unconstrained handwriting numerals based on the concept of multiple experts[C]∥Proc of International Workshop on Frontiers in Handwriting Recognition,1990:131-143.

    [2] Ho T.The random subspace method for construction decision forests[J].IEEE Transactions on Pattern Analysis and Machine Intelligence,1998,20 (8):832-844.

    [3] Optiz D.Feature selection for ensembles[C]∥Proc of International Conference on Artificial Intelligence,1999:379-384.

    [4] Tsymbal M C.Search strategies for ensemble feature selection in medical diagnostics[C]∥Proc of the 16th IEEE Symposium,2003:124-129.

    [5] Windeatt T.Diversity measures for multiple classifier system analysis and design[J].Information Fusion,2005,6(1):21-36.

    [6] Tsymbal A,Pechenizkiy M,Cunningham P.Diversity in search strategies for ensemble feature selection[J].Information Fusion,2005,6(1):83-98.

    [7] Fan M,Meng X F.The concept and technology of data mining[M].Beijing:Machine Industry Press,2007.(in Chinese)

    [8] Wang S Q,Cao Y.GA-SVM-based feature subset selection algorithm[J].Computer Engineering and Design,2010,31(18):4088-4092.(in Chinese)

    [9] Caruana R,Munson A.Getting the most out of ensemble selection [C]∥Proc of the 6th International Conference on Data Mining,2006:828-833.

    [10] Li M Q,Kou J S.The basic theory and application of genetic algorithm[M].Beijing:Science Press,2003.(in Chinese)

    附中文參考文獻(xiàn):

    [7] 范明,孟小峰.數(shù)據(jù)挖掘概念與技術(shù)[M].北京:機(jī)械工業(yè)出版社,2007.

    [8] 王世卿,曹彥.基于遺傳算法和支持向量機(jī)的特征選擇研究[J].計(jì)算機(jī)工程與設(shè)計(jì),2010,31(18):4088-4092.

    [10] 李敏強(qiáng),寇紀(jì)淞.遺傳算法的基本理論與應(yīng)用[M].北京:科學(xué)出版社,2003.

    猜你喜歡
    特征選擇子集度量
    有趣的度量
    由一道有關(guān)集合的子集個(gè)數(shù)題引發(fā)的思考
    模糊度量空間的強(qiáng)嵌入
    拓?fù)淇臻g中緊致子集的性質(zhì)研究
    關(guān)于奇數(shù)階二元子集的分離序列
    迷向表示分為6個(gè)不可約直和的旗流形上不變愛因斯坦度量
    Kmeans 應(yīng)用與特征選擇
    電子制作(2017年23期)2017-02-02 07:17:06
    地質(zhì)異常的奇異性度量與隱伏源致礦異常識別
    聯(lián)合互信息水下目標(biāo)特征選擇算法
    每一次愛情都只是愛情的子集
    都市麗人(2015年4期)2015-03-20 13:33:22
    两个人免费观看高清视频 | 日韩不卡一区二区三区视频在线| 日韩av免费高清视频| 高清不卡的av网站| 在线观看www视频免费| 丝袜喷水一区| 波野结衣二区三区在线| 亚洲美女视频黄频| 亚洲,一卡二卡三卡| 国产中年淑女户外野战色| 欧美97在线视频| 亚洲精品一二三| 人人妻人人看人人澡| 美女脱内裤让男人舔精品视频| 久久久欧美国产精品| 人妻 亚洲 视频| 国产精品久久久久久久久免| 成人二区视频| 亚洲国产成人一精品久久久| 美女内射精品一级片tv| 一边亲一边摸免费视频| 亚洲一级一片aⅴ在线观看| 一级毛片 在线播放| 69精品国产乱码久久久| 国产精品无大码| 观看av在线不卡| 久久久久久伊人网av| 久久 成人 亚洲| 三上悠亚av全集在线观看 | 一级片'在线观看视频| 插阴视频在线观看视频| 极品少妇高潮喷水抽搐| 赤兔流量卡办理| 黄色视频在线播放观看不卡| 精品亚洲乱码少妇综合久久| 欧美 亚洲 国产 日韩一| 午夜福利视频精品| 午夜福利视频精品| 少妇猛男粗大的猛烈进出视频| 丰满迷人的少妇在线观看| 夫妻午夜视频| 免费av中文字幕在线| 国产精品秋霞免费鲁丝片| 日韩伦理黄色片| 少妇被粗大猛烈的视频| 丰满人妻一区二区三区视频av| 国产精品人妻久久久影院| 日韩欧美精品免费久久| 日本wwww免费看| 久久久久久久精品精品| 精品99又大又爽又粗少妇毛片| 久久国产精品男人的天堂亚洲 | 精品人妻一区二区三区麻豆| av.在线天堂| 日韩精品有码人妻一区| 最后的刺客免费高清国语| 嘟嘟电影网在线观看| 日韩成人伦理影院| av播播在线观看一区| 爱豆传媒免费全集在线观看| 一本一本综合久久| 亚洲人成网站在线观看播放| 国产精品福利在线免费观看| 欧美性感艳星| a级毛色黄片| 人人妻人人看人人澡| 亚洲激情五月婷婷啪啪| 成人特级av手机在线观看| 国产片特级美女逼逼视频| 一个人免费看片子| 我的老师免费观看完整版| xxx大片免费视频| 最近手机中文字幕大全| 男女无遮挡免费网站观看| 三级国产精品欧美在线观看| 97在线视频观看| 狂野欧美激情性bbbbbb| 欧美高清成人免费视频www| 亚洲精品视频女| 男女国产视频网站| 亚洲精品国产av蜜桃| 国产在线免费精品| 最近最新中文字幕免费大全7| 人妻人人澡人人爽人人| 亚洲av综合色区一区| 少妇 在线观看| 国产午夜精品一二区理论片| 日本91视频免费播放| 国产高清三级在线| 日韩电影二区| 一级毛片aaaaaa免费看小| 另类亚洲欧美激情| 日韩成人伦理影院| 全区人妻精品视频| 亚洲精品自拍成人| 只有这里有精品99| 亚洲精品日韩在线中文字幕| 日韩精品有码人妻一区| √禁漫天堂资源中文www| 18禁在线播放成人免费| 亚洲美女搞黄在线观看| 久久国产精品大桥未久av | 午夜精品国产一区二区电影| 欧美三级亚洲精品| 中国国产av一级| 国产精品久久久久久久久免| 亚洲av二区三区四区| 99热网站在线观看| 亚洲欧美一区二区三区国产| 久久久久国产网址| 一本—道久久a久久精品蜜桃钙片| 在现免费观看毛片| 亚洲无线观看免费| 亚洲综合色惰| 国产精品国产三级国产专区5o| a级一级毛片免费在线观看| 久久久午夜欧美精品| 天美传媒精品一区二区| 国产乱人偷精品视频| 肉色欧美久久久久久久蜜桃| 夫妻午夜视频| 国产老妇伦熟女老妇高清| 中文乱码字字幕精品一区二区三区| 永久免费av网站大全| 国产精品久久久久久久电影| 在线观看av片永久免费下载| 成人国产麻豆网| av一本久久久久| 午夜福利视频精品| 麻豆乱淫一区二区| 国产色婷婷99| 亚洲欧美日韩东京热| a级毛片在线看网站| 少妇人妻 视频| 搡女人真爽免费视频火全软件| 精品久久国产蜜桃| 青青草视频在线视频观看| 丰满迷人的少妇在线观看| 国产亚洲精品久久久com| 亚洲欧美日韩另类电影网站| 亚洲精品一区蜜桃| 精品一区二区三卡| 免费看不卡的av| 欧美老熟妇乱子伦牲交| 欧美三级亚洲精品| 日韩伦理黄色片| 激情五月婷婷亚洲| av国产久精品久网站免费入址| 亚洲欧洲日产国产| 十八禁网站网址无遮挡 | 国产精品福利在线免费观看| 毛片一级片免费看久久久久| kizo精华| 桃花免费在线播放| 欧美丝袜亚洲另类| 欧美三级亚洲精品| 亚洲欧美日韩卡通动漫| 乱码一卡2卡4卡精品| 交换朋友夫妻互换小说| 91精品伊人久久大香线蕉| 乱码一卡2卡4卡精品| 亚洲精品乱码久久久久久按摩| 午夜免费鲁丝| 一级毛片aaaaaa免费看小| 如日韩欧美国产精品一区二区三区 | 中文欧美无线码| 美女福利国产在线| 久久久久精品久久久久真实原创| 午夜91福利影院| 日韩精品免费视频一区二区三区 | 国产成人一区二区在线| 一本色道久久久久久精品综合| 亚洲人与动物交配视频| 日韩熟女老妇一区二区性免费视频| 爱豆传媒免费全集在线观看| 国产一级毛片在线| 久久99一区二区三区| 搡老乐熟女国产| 亚洲精品乱码久久久v下载方式| 国产成人精品无人区| 美女xxoo啪啪120秒动态图| 亚洲国产精品国产精品| 午夜av观看不卡| av国产久精品久网站免费入址| 两个人免费观看高清视频 | 久久国产精品男人的天堂亚洲 | 男人舔奶头视频| 国产av国产精品国产| 精品久久久噜噜| 亚洲天堂av无毛| 2021少妇久久久久久久久久久| 尾随美女入室| 免费久久久久久久精品成人欧美视频 | 九九爱精品视频在线观看| 亚洲自偷自拍三级| 国产黄片视频在线免费观看| 啦啦啦视频在线资源免费观看| av在线播放精品| 国产精品久久久久久久久免| 夜夜爽夜夜爽视频| 国产黄色免费在线视频| 国产黄片视频在线免费观看| 日韩一区二区三区影片| 国产又色又爽无遮挡免| 久久久午夜欧美精品| 一二三四中文在线观看免费高清| 亚洲美女搞黄在线观看| 亚洲av日韩在线播放| 9色porny在线观看| 精品99又大又爽又粗少妇毛片| 你懂的网址亚洲精品在线观看| 一级片'在线观看视频| 日本黄色片子视频| 久久久久久久久久人人人人人人| 在线观看三级黄色| 韩国av在线不卡| 久久精品熟女亚洲av麻豆精品| 久久人妻熟女aⅴ| 久久久精品94久久精品| 国产亚洲一区二区精品| 日韩熟女老妇一区二区性免费视频| 日韩中文字幕视频在线看片| 老司机亚洲免费影院| 国产成人一区二区在线| 深夜a级毛片| 亚洲自偷自拍三级| 三级国产精品片| 91精品一卡2卡3卡4卡| 午夜av观看不卡| 亚洲精品国产av成人精品| 少妇被粗大的猛进出69影院 | 六月丁香七月| 晚上一个人看的免费电影| 少妇被粗大的猛进出69影院 | 国产精品国产三级国产专区5o| 日韩欧美一区视频在线观看 | 水蜜桃什么品种好| 男女无遮挡免费网站观看| 成年美女黄网站色视频大全免费 | 大片电影免费在线观看免费| 日本欧美国产在线视频| 亚洲精品一二三| 91午夜精品亚洲一区二区三区| 亚洲国产欧美在线一区| 国产高清有码在线观看视频| 97在线人人人人妻| 国产女主播在线喷水免费视频网站| 国内揄拍国产精品人妻在线| 观看美女的网站| 久久久久久久国产电影| 一级毛片黄色毛片免费观看视频| 五月玫瑰六月丁香| 国产黄色视频一区二区在线观看| 日韩在线高清观看一区二区三区| 伊人久久精品亚洲午夜| 国产精品无大码| 亚洲精品久久午夜乱码| 国产在线一区二区三区精| 两个人的视频大全免费| 日韩制服骚丝袜av| 啦啦啦中文免费视频观看日本| 少妇人妻精品综合一区二区| 日韩精品免费视频一区二区三区 | 视频中文字幕在线观看| 一本大道久久a久久精品| 久久精品国产亚洲av天美| 少妇的逼水好多| 日韩,欧美,国产一区二区三区| 亚洲精品久久久久久婷婷小说| 哪个播放器可以免费观看大片| 久久97久久精品| 九九爱精品视频在线观看| 在线观看av片永久免费下载| 男人爽女人下面视频在线观看| www.av在线官网国产| 国产亚洲午夜精品一区二区久久| 又爽又黄a免费视频| av免费观看日本| 久久人人爽人人片av| 亚洲av日韩在线播放| 18禁在线无遮挡免费观看视频| a级片在线免费高清观看视频| 爱豆传媒免费全集在线观看| 精品亚洲乱码少妇综合久久| 日韩不卡一区二区三区视频在线| 中文字幕制服av| 日日啪夜夜撸| 亚洲av免费高清在线观看| 黄色日韩在线| 高清不卡的av网站| 亚洲国产日韩一区二区| 黄色怎么调成土黄色| 国产精品国产av在线观看| 国产成人免费观看mmmm| 国产欧美日韩一区二区三区在线 | 亚洲综合色惰| 亚洲国产欧美日韩在线播放 | 纯流量卡能插随身wifi吗| 亚洲精品视频女| 国产淫片久久久久久久久| 国产av码专区亚洲av| 亚洲色图综合在线观看| 欧美人与善性xxx| 国产亚洲午夜精品一区二区久久| 国产欧美日韩精品一区二区| 一边亲一边摸免费视频| 久久精品熟女亚洲av麻豆精品| 国产成人免费观看mmmm| videos熟女内射| 26uuu在线亚洲综合色| 妹子高潮喷水视频| 国产亚洲5aaaaa淫片| 欧美精品亚洲一区二区| 久久免费观看电影| 欧美日韩国产mv在线观看视频| 九草在线视频观看| 免费观看无遮挡的男女| 大香蕉久久网| 国产成人a∨麻豆精品| 不卡视频在线观看欧美| 久久影院123| 精品一品国产午夜福利视频| 久久人人爽人人爽人人片va| 日韩精品免费视频一区二区三区 | 国产免费一级a男人的天堂| 精品国产国语对白av| 大香蕉久久网| 国产精品久久久久久av不卡| 黄色配什么色好看| 午夜福利视频精品| 人妻制服诱惑在线中文字幕| 最近中文字幕高清免费大全6| 亚洲精品一二三| 欧美少妇被猛烈插入视频| 久久久久久久亚洲中文字幕| 桃花免费在线播放| 中文字幕人妻熟人妻熟丝袜美| 国产一区二区在线观看日韩| 特大巨黑吊av在线直播| 五月伊人婷婷丁香| 国产爽快片一区二区三区| 观看av在线不卡| 一级av片app| 蜜臀久久99精品久久宅男| 人妻少妇偷人精品九色| 亚洲精品自拍成人| 国产精品一二三区在线看| 国产黄色免费在线视频| 日本黄色片子视频| 久久国产乱子免费精品| 三上悠亚av全集在线观看 | 国产成人精品一,二区| 亚洲国产精品专区欧美| 十八禁高潮呻吟视频 | 亚洲丝袜综合中文字幕| 国产男女内射视频| 人人妻人人看人人澡| 亚洲精品国产色婷婷电影| 国产在线男女| 久久影院123| 久久亚洲国产成人精品v| 精品一区在线观看国产| 色5月婷婷丁香| 偷拍熟女少妇极品色| 亚洲精品一二三| 国产高清国产精品国产三级| 国产精品不卡视频一区二区| 久久综合国产亚洲精品| 内射极品少妇av片p| 日本av手机在线免费观看| 日日摸夜夜添夜夜添av毛片| 一级二级三级毛片免费看| 少妇被粗大的猛进出69影院 | 在线观看免费日韩欧美大片 | 伦精品一区二区三区| 久久人人爽av亚洲精品天堂| 久久久久久久久久成人| 一二三四中文在线观看免费高清| 老司机影院毛片| 大片免费播放器 马上看| 亚洲经典国产精华液单| 亚洲国产最新在线播放| 成人亚洲欧美一区二区av| 最后的刺客免费高清国语| 高清午夜精品一区二区三区| 国产亚洲精品久久久com| 日本黄大片高清| 曰老女人黄片| 日韩av在线免费看完整版不卡| 亚洲欧美一区二区三区国产| 国产精品福利在线免费观看| 纯流量卡能插随身wifi吗| 免费播放大片免费观看视频在线观看| 97在线人人人人妻| 国产亚洲91精品色在线| 国产精品国产av在线观看| 亚洲av电影在线观看一区二区三区| 欧美高清成人免费视频www| 99九九线精品视频在线观看视频| 国产欧美亚洲国产| 丰满少妇做爰视频| 两个人的视频大全免费| 国产日韩欧美视频二区| 国产真实伦视频高清在线观看| 欧美日韩亚洲高清精品| 亚洲av成人精品一二三区| 高清毛片免费看| av免费在线看不卡| 精品一品国产午夜福利视频| 成人漫画全彩无遮挡| 伊人久久精品亚洲午夜| 国产免费一区二区三区四区乱码| 寂寞人妻少妇视频99o| 成年人午夜在线观看视频| 久久久亚洲精品成人影院| 少妇 在线观看| 国产精品成人在线| 纯流量卡能插随身wifi吗| 亚洲怡红院男人天堂| 又爽又黄a免费视频| av又黄又爽大尺度在线免费看| 黄色欧美视频在线观看| 久久ye,这里只有精品| 熟女av电影| 久久99热这里只频精品6学生| 国产一区二区三区综合在线观看 | 嫩草影院新地址| 久久久久国产网址| 亚洲欧美清纯卡通| 国产女主播在线喷水免费视频网站| 狂野欧美白嫩少妇大欣赏| 亚洲欧美精品专区久久| 老熟女久久久| 高清av免费在线| 亚洲精华国产精华液的使用体验| 一级二级三级毛片免费看| 久久久久国产网址| 美女cb高潮喷水在线观看| 欧美xxⅹ黑人| 久久精品国产亚洲网站| 又大又黄又爽视频免费| 午夜影院在线不卡| 一级毛片电影观看| 亚洲欧美日韩东京热| 久久午夜福利片| 国产免费福利视频在线观看| 国产乱来视频区| 日本与韩国留学比较| 精品99又大又爽又粗少妇毛片| av免费在线看不卡| 国产在线男女| 国精品久久久久久国模美| 人体艺术视频欧美日本| 曰老女人黄片| 亚洲熟女精品中文字幕| 国产在线一区二区三区精| 建设人人有责人人尽责人人享有的| 亚洲av欧美aⅴ国产| 少妇熟女欧美另类| 国内揄拍国产精品人妻在线| 黄色欧美视频在线观看| 18禁在线播放成人免费| av福利片在线观看| 精品一区二区三区视频在线| 黄片无遮挡物在线观看| 又爽又黄a免费视频| 九色成人免费人妻av| 麻豆成人av视频| 18禁在线无遮挡免费观看视频| 国产精品一区二区性色av| 麻豆精品久久久久久蜜桃| 国产极品粉嫩免费观看在线 | 人妻一区二区av| 热re99久久国产66热| 你懂的网址亚洲精品在线观看| 亚洲欧美一区二区三区国产| 少妇被粗大猛烈的视频| 成人美女网站在线观看视频| 9色porny在线观看| 欧美日韩综合久久久久久| 国产 精品1| 国产精品福利在线免费观看| 又爽又黄a免费视频| 能在线免费看毛片的网站| 交换朋友夫妻互换小说| 国产精品伦人一区二区| 99热网站在线观看| 国产淫语在线视频| 青青草视频在线视频观看| 国产男女超爽视频在线观看| 亚洲欧美中文字幕日韩二区| 日本av免费视频播放| 黑人巨大精品欧美一区二区蜜桃 | 国产一区二区在线观看av| 欧美一级a爱片免费观看看| 亚洲国产精品一区三区| 亚洲经典国产精华液单| 熟女人妻精品中文字幕| 69精品国产乱码久久久| 欧美一级a爱片免费观看看| 狂野欧美激情性xxxx在线观看| 少妇高潮的动态图| 高清欧美精品videossex| 久久久亚洲精品成人影院| 在线亚洲精品国产二区图片欧美 | 丝袜脚勾引网站| 国产午夜精品久久久久久一区二区三区| 自线自在国产av| 国产男女内射视频| 大香蕉久久网| 在线 av 中文字幕| 婷婷色综合大香蕉| 日韩电影二区| 免费观看无遮挡的男女| 欧美精品一区二区大全| 中文字幕亚洲精品专区| 大码成人一级视频| 人人妻人人爽人人添夜夜欢视频 | av有码第一页| 黄色视频在线播放观看不卡| 26uuu在线亚洲综合色| 青春草视频在线免费观看| 最近中文字幕高清免费大全6| 免费观看在线日韩| 青春草国产在线视频| 七月丁香在线播放| 久久av网站| 成人无遮挡网站| 久久久午夜欧美精品| 亚洲国产精品国产精品| 日韩强制内射视频| 最近中文字幕2019免费版| 久久精品国产亚洲网站| av免费在线看不卡| 高清视频免费观看一区二区| 国产亚洲精品久久久com| 国产精品无大码| 久久久久久久亚洲中文字幕| 黄色怎么调成土黄色| 日本黄大片高清| 国产精品久久久久久久久免| 国产国拍精品亚洲av在线观看| 黄色配什么色好看| 水蜜桃什么品种好| 精品久久久久久电影网| 秋霞伦理黄片| 少妇猛男粗大的猛烈进出视频| 久久热精品热| 精品亚洲乱码少妇综合久久| 青春草亚洲视频在线观看| 成人亚洲欧美一区二区av| 国产乱来视频区| 97超视频在线观看视频| 伊人久久精品亚洲午夜| 欧美日韩av久久| 日本wwww免费看| 亚洲欧美成人精品一区二区| 午夜老司机福利剧场| 男人舔奶头视频| 中文字幕人妻熟人妻熟丝袜美| 18禁在线播放成人免费| 男女免费视频国产| 香蕉精品网在线| 又粗又硬又长又爽又黄的视频| 免费看光身美女| 亚洲欧美中文字幕日韩二区| 草草在线视频免费看| 国产精品国产av在线观看| 一级毛片我不卡| 亚洲av中文av极速乱| 在线观看人妻少妇| 日本av手机在线免费观看| 天天操日日干夜夜撸| 国产欧美日韩一区二区三区在线 | 狂野欧美激情性bbbbbb| 日日撸夜夜添| 精品人妻熟女毛片av久久网站| 卡戴珊不雅视频在线播放| 久久热精品热| videos熟女内射| 久久99热这里只频精品6学生| 边亲边吃奶的免费视频| 乱人伦中国视频| 人人澡人人妻人| 两个人的视频大全免费| 99久久人妻综合| 偷拍熟女少妇极品色| 国产免费福利视频在线观看| 99热这里只有精品一区| 我要看日韩黄色一级片| 大话2 男鬼变身卡| 黑人巨大精品欧美一区二区蜜桃 | 又粗又硬又长又爽又黄的视频| 日韩熟女老妇一区二区性免费视频| 免费在线观看成人毛片| 丰满人妻一区二区三区视频av| 亚洲国产日韩一区二区| 最近的中文字幕免费完整| 丰满人妻一区二区三区视频av| 亚洲国产日韩一区二区| 久久久久国产精品人妻一区二区| 一本色道久久久久久精品综合| 免费大片黄手机在线观看| 国产中年淑女户外野战色| 色吧在线观看| 岛国毛片在线播放| 国产精品国产三级国产专区5o| 亚洲av福利一区| 免费av不卡在线播放| 国产精品伦人一区二区| 一级毛片电影观看| 成年美女黄网站色视频大全免费 | 黑丝袜美女国产一区| 日本黄色片子视频| 一级a做视频免费观看|