• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    特征選擇算法研究綜述

    2019-12-06 09:48:28梁伍七王榮華劉克禮
    關(guān)鍵詞:特征選擇范數(shù)子集

    梁伍七,王榮華,劉克禮,李 斌

    (安徽廣播電視大學(xué) 信息與工程學(xué)院,合肥 230022)

    一、引言

    特征選擇在文本分類、文本檢索、基因分析和藥物診斷等場(chǎng)合有廣泛應(yīng)用,是模式識(shí)別領(lǐng)域的研究熱點(diǎn)之一。例如,自動(dòng)文本分類是指按照給定的分類體系,依據(jù)文本的內(nèi)容自動(dòng)進(jìn)行文本所屬類別判別的過(guò)程,是一種有監(jiān)督的學(xué)習(xí)過(guò)程。自動(dòng)文本分類在信息過(guò)濾、信息檢索、搜索引擎和數(shù)字圖書館等領(lǐng)域有廣泛應(yīng)用。分類系統(tǒng)主要包括數(shù)據(jù)預(yù)處理、文檔分詞、特征表示、特征選擇、文本表示、分類器選擇和訓(xùn)練以及分類結(jié)果評(píng)價(jià)等過(guò)程。1975年,文獻(xiàn)[1]提出向量空間模型(Vector Space Model,VSM),文檔被表示成特征空間中的一個(gè)向量。文本分類中文本表示方法通常使用向量空間模型,采用詞干抽取和去停用詞處理后,特征詞向量空間的維數(shù)雖有所降低,但特征空間的維數(shù)仍然是不可接受的。對(duì)于分類器來(lái)說(shuō),高維特征空間既增加了分類的時(shí)間復(fù)雜度和空間復(fù)雜度,也影響分類精度。

    文本分類系統(tǒng)中高維特征空間的降維通常有兩種方法,即特征選擇(feature selection)和特征抽取(feature extraction)。二者都是在分類之前,針對(duì)原始特征的不足,降低特征維數(shù),提高分類器的分類性能。特征抽取也稱作特征重參數(shù)化(feature re-parameterization),通過(guò)對(duì)原始特征進(jìn)行組合或者變換,新的低維空間是原來(lái)特征的一個(gè)映射。特征選擇作為文本分類預(yù)處理模塊的關(guān)鍵步驟,任務(wù)是從原始特征空間中選擇最重要的特征組成特征子集,從而實(shí)現(xiàn)特征空間降維。

    二、特征選擇分類

    特征選擇的過(guò)程包括四個(gè)主要環(huán)節(jié)[2-3],包括子集生成(subset generation)、子集評(píng)估(subset evaluation)、停止準(zhǔn)測(cè)(stopping criterion)和結(jié)果驗(yàn)證(result validation),如圖1所示。生成子集的過(guò)程是一個(gè)搜索過(guò)程,根據(jù)特定的搜索策略得到候選特征子集。對(duì)每個(gè)候選子集,根據(jù)評(píng)價(jià)準(zhǔn)則進(jìn)行評(píng)價(jià)。若新子集的評(píng)價(jià)結(jié)果優(yōu)于以前最好的子集,則將其更新為當(dāng)前最優(yōu)子集。子集生成和子集評(píng)價(jià)不斷循環(huán),直至滿足給定的停止準(zhǔn)測(cè),最后對(duì)最優(yōu)特征子集進(jìn)行結(jié)果驗(yàn)證。特征選擇在數(shù)據(jù)挖掘、模式識(shí)別和機(jī)器學(xué)習(xí)等多個(gè)領(lǐng)域內(nèi)均得到了廣泛的研究。根據(jù)不同的標(biāo)準(zhǔn),特征選擇分類方法也有所不同,典型的分類標(biāo)準(zhǔn)及其分類方法如下。

    圖1 特征選擇的四個(gè)主要環(huán)節(jié)

    (一)基于搜索策略進(jìn)行分類

    搜索過(guò)程需要考慮兩個(gè)基本問(wèn)題[3-4]:一是確定搜索起點(diǎn)??梢詮囊粋€(gè)空的集合開(kāi)始,然后不斷添加特征,也可以從一個(gè)完整的集合開(kāi)始,然后不斷移除特征,或者從兩端開(kāi)始,然后同時(shí)加入和移除特征;二是確定搜索策略。根據(jù)搜索策略的不同,特征選擇可分為完全搜索(complete search)、隨機(jī)搜索(random search)和啟發(fā)式搜索(heuristic search)等。

    完全搜索方法:完全搜索需要遍歷特征空間中所有可能的特征組合,它能夠找到性能最好的子集。對(duì)于具有n個(gè)特征的數(shù)據(jù)集,存在2n個(gè)候選子集,這個(gè)搜索空間是指數(shù)級(jí)的,可以使用分支定界(branch and bound)算法[5]等啟發(fā)式方法來(lái)縮小搜索空間。

    隨機(jī)搜索方法:該方法首先隨機(jī)選擇特征子集,后續(xù)采用兩種方式進(jìn)行:第一種在傳統(tǒng)的序列搜索中注入隨機(jī)因素,稱為概率隨機(jī)方法,例如,隨機(jī)開(kāi)始爬山算法(random-start-hill-climbing)和模擬退火算法(simulated annealing)[6]等;另一種稱為完全隨機(jī)方法,候選子集的產(chǎn)生方式是完全隨機(jī)的,例如,Las Vegas算法[7]等。這些方法中,隨機(jī)過(guò)程有助于避免在搜索空間中陷入局部最優(yōu),但其能否搜索到最優(yōu)結(jié)果取決于可用的資源。

    啟發(fā)式搜索方法:?jiǎn)l(fā)式搜索可以消除組合爆炸,根據(jù)特定的啟發(fā)式規(guī)則設(shè)計(jì)次優(yōu)搜索策略,利用啟發(fā)信息來(lái)引導(dǎo)搜索,可以得到近似最優(yōu)解。常用的算法包括[3,8]序列前向選擇(SFS,sequential forward selection)、序列后向選擇(SBS,sequential backward selection)和雙向選擇(BDSS,bidirectional selection)等。該方法運(yùn)算速度較快,對(duì)于包含n個(gè)特征的集合,搜索時(shí)間往往低于O(n2)。

    (二)根據(jù)評(píng)價(jià)準(zhǔn)則進(jìn)行分類

    每一個(gè)生成的候選子集都必須使用一個(gè)評(píng)價(jià)準(zhǔn)則來(lái)進(jìn)行評(píng)價(jià)。根據(jù)評(píng)價(jià)準(zhǔn)則是否獨(dú)立于學(xué)習(xí)算法,可以分為過(guò)濾式(Filter)、封裝式(Wrapper)和混合式(Hybrid)三種類型。

    (1)過(guò)濾式[4]:過(guò)濾式特征選擇作為一種數(shù)據(jù)預(yù)處理過(guò)程,評(píng)價(jià)準(zhǔn)則和學(xué)習(xí)算法無(wú)關(guān),可以快速排除不相關(guān)的噪聲特征,計(jì)算效率高?;谶^(guò)濾式的評(píng)價(jià)函數(shù)包括距離度量(distance measure)[9-10]、信息度量(information measure)[11]、相關(guān)性度量(correlation measure)[12]和一致性度量(consistency measure)[8]等,評(píng)價(jià)準(zhǔn)則不同得到的結(jié)果子集也不同。

    (2)封裝式[13]:封裝式和所使用的學(xué)習(xí)算法有關(guān),特征選擇算法作為學(xué)習(xí)算法的組成部分,將學(xué)習(xí)算法的性能作為衡量特征優(yōu)劣的標(biāo)準(zhǔn)。在特征選擇過(guò)程中直接用所選特征來(lái)訓(xùn)練分類器,根據(jù)分類器在驗(yàn)證集上的性能作為特征重要程度的評(píng)價(jià)標(biāo)準(zhǔn),封裝式能選出更適合特定學(xué)習(xí)算法的特征。對(duì)每個(gè)候選子集,分類器都需要重新訓(xùn)練,故該方法在速度上比過(guò)濾式要慢,優(yōu)點(diǎn)是所選的優(yōu)化特征子集的規(guī)模相對(duì)要小很多。基于啟發(fā)式搜索策略的封裝器方法是目前較實(shí)用的特征選擇研究熱點(diǎn)。

    (3)混合式[14]:綜合利用過(guò)濾式與封裝式的優(yōu)勢(shì),提出混合式方法來(lái)處理大規(guī)模的數(shù)據(jù)集。最理想的情況是和過(guò)濾式的時(shí)間復(fù)雜度相近,和封裝式的算法性能相似?;旌鲜椒椒ǖ奶幚磉^(guò)程是,先使用過(guò)濾式基于數(shù)據(jù)集本身固有的特性快速進(jìn)行特征選擇,保留少量特征,減少進(jìn)一步搜索的特征規(guī)模,然后再用封裝式方法進(jìn)一步優(yōu)化,得到分類性能最優(yōu)的特征子集。

    (三)根據(jù)不同的監(jiān)督信息進(jìn)行分類

    監(jiān)督信息是文本內(nèi)容的重要組成部分,文本分類系統(tǒng)中,通常將類別信息作為監(jiān)督信息。特征選擇過(guò)程中,監(jiān)督信息起著重要的指導(dǎo)作用??梢曰诓煌谋O(jiān)督信息,對(duì)特征選擇方法進(jìn)行分類。

    (1)根據(jù)訓(xùn)練集中給定類別標(biāo)簽樣本和未給定類別標(biāo)簽樣本的相對(duì)數(shù)量,可分為有監(jiān)督特征選擇(supervised feature selection)、半監(jiān)督特征選擇(semi-supervised feature selection)和無(wú)監(jiān)督特征選擇(unsupervised feature selection)[3-4],反映了選擇特征過(guò)程中對(duì)類別信息的依賴程度。

    監(jiān)督式特征選擇:利用類別信息進(jìn)行指導(dǎo),通過(guò)計(jì)算特征與類別之間的關(guān)系,選擇最具類別區(qū)分力的特征子集[2]131-156。關(guān)于特征選擇的研究最初大多聚焦于監(jiān)督式特征選擇,通過(guò)度量特征之間和特征與類別之間的相互關(guān)系來(lái)確定特征子集。

    半監(jiān)督式特征選擇:半監(jiān)督式學(xué)習(xí)主要考慮如何利用少量的具有類別信息的樣本和大量的不帶類別信息的樣本進(jìn)行分類學(xué)習(xí)的問(wèn)題。Miller等人提出了一種分類器架構(gòu)和學(xué)習(xí)算法,算法可以有效利用未標(biāo)記數(shù)據(jù)提高學(xué)習(xí)算法的性能[15]。隨著半監(jiān)督學(xué)習(xí)的發(fā)展,半監(jiān)督式特征選擇的研究也越來(lái)越受到重視。

    無(wú)監(jiān)督式特征選擇:沒(méi)有類別信息指導(dǎo),通過(guò)對(duì)特征空間的樣本進(jìn)行聚類或無(wú)監(jiān)督學(xué)習(xí)對(duì)特征進(jìn)行分組,并對(duì)特征重要性進(jìn)行評(píng)估,根據(jù)特征的重要性程度進(jìn)行特征選擇。文獻(xiàn)[16]考慮了無(wú)監(jiān)督學(xué)習(xí)的特征選擇問(wèn)題,提出了一種新的算法,能夠識(shí)別嵌入在高維空間中支持復(fù)雜結(jié)構(gòu)的信息特征,算法通過(guò)一個(gè)目標(biāo)函數(shù)將其表示為一個(gè)優(yōu)化問(wèn)題,并用迭代法求解。

    (2)根據(jù)類別數(shù)目,可分為二元特征選擇(binary feature selection)和多類特征選擇(multi-class feature selection)[3]。當(dāng)某個(gè)樣本數(shù)據(jù)可以同時(shí)屬于多個(gè)類別,稱為多類特征選擇,也稱為多標(biāo)簽特征選擇(multi-label feature selection)。根據(jù)類別的組織方式,多類問(wèn)題可以分為平鋪結(jié)構(gòu)和層次化結(jié)構(gòu)。平鋪結(jié)構(gòu)的各個(gè)類別間關(guān)系是平等的,若類別間的關(guān)系不是獨(dú)立的,而是具有某種復(fù)雜的關(guān)系,可利用層次化特征選擇進(jìn)行處理[17]。

    三、基于SVM的特征選擇

    1963年,文獻(xiàn)[18]在解決模式識(shí)別問(wèn)題時(shí)提出了基于支持向量機(jī)(support vector machine,SVM)方法。1995年,文獻(xiàn)[19]正式提出統(tǒng)計(jì)學(xué)習(xí)理論,并提出用廣義分類面來(lái)解決線性不可分問(wèn)題,據(jù)此構(gòu)成了SVM的理論基礎(chǔ)。SVM已被證明是具有最小化分類誤差和最大化泛化能力的強(qiáng)有力的分類工具,它建立在統(tǒng)計(jì)學(xué)習(xí)理論的VC維理論和最小化經(jīng)驗(yàn)風(fēng)險(xiǎn)以及結(jié)構(gòu)風(fēng)險(xiǎn)的線性組合原理基礎(chǔ)上[20-21]。但SVM是作為模式識(shí)別領(lǐng)域中逐步發(fā)展而來(lái)的分類工具,標(biāo)準(zhǔn)的SVM并不能進(jìn)行特征選擇。文獻(xiàn)[22]基于梯度最小化泛化邊界方法來(lái)減少特征,指出當(dāng)存在不相關(guān)的特征時(shí),標(biāo)準(zhǔn)SVM分類的性能會(huì)大大降低。這一結(jié)論導(dǎo)致了眾多學(xué)者對(duì)基于SVM的特征選擇算法進(jìn)行研究。

    根據(jù)評(píng)價(jià)準(zhǔn)則是否和學(xué)習(xí)算法相關(guān),特征選擇可以分為過(guò)濾式(Filter)、封裝式(Wrapper)和混合式(hybrid)三類[3]?;赟VM的特征選擇算法,本質(zhì)就是在特征選擇過(guò)程中融入SVM學(xué)習(xí)算法,因此基于SVM的特征選擇算法也可以劃分成三類:基于SVM的Wrapper特征選擇、基于SVM的Embedded特征選擇和基于SVM的混合特征選擇。

    (一)基于SVM的Wrapper特征選擇

    基于SVM的Wrapper特征選擇利用SVM分類器的性能作為特征選擇的評(píng)價(jià)準(zhǔn)則。文獻(xiàn)[23]提出了一種基于SVM的Wrapper特征選擇算法,即SVM-RFE(SVM recursive feature elimination)特征選擇算法。SVM-RFE的算法流程是[21]:利用當(dāng)前數(shù)據(jù)集訓(xùn)練SVM分類器,得到分類器的參數(shù);計(jì)算權(quán)重向量;根據(jù)特征排序準(zhǔn)則,計(jì)算所有特征的排序準(zhǔn)則得分;移除得分最小的特征;上述過(guò)程多次迭代直至特征集中剩余最后一個(gè)特征。SVM-RFE方法是一個(gè)序列后向選擇的過(guò)程,目標(biāo)是在d個(gè)特征中找出大小為r的特征子集,使得SVM分類的學(xué)習(xí)性能最優(yōu)。該方法首先訓(xùn)練SVM分類器,得到分類器的參數(shù),利用參數(shù)信息對(duì)特征進(jìn)行遞歸移除,在特征選擇的過(guò)程中存在參數(shù)不確定問(wèn)題。

    文獻(xiàn)[24]針對(duì)SVM-RFE方法的不足提出了改進(jìn)算法。在SVM-RFE方法的基礎(chǔ)上,由支持向量機(jī)理論的泛化誤差界推導(dǎo)出評(píng)分準(zhǔn)則,每次迭代過(guò)程中移除最小得分的特征;文獻(xiàn)[25]提出了增強(qiáng)的SVM-RFE特征選擇算法,采用最小冗余和最大相關(guān)MRMR作為評(píng)分準(zhǔn)則。與SVM-RFE算法相比,在多數(shù)基因數(shù)據(jù)集上,算法選擇的特征個(gè)數(shù)較少。針對(duì)SVM-RFE算法中SVM參數(shù)難以確定的問(wèn)題,文獻(xiàn)[26]采用粒子群算法搜索SVM的參數(shù)。

    和SVM算法一樣,SVM-RFE最初設(shè)計(jì)是用來(lái)解決兩類基因選擇問(wèn)題的。文獻(xiàn)[27]針對(duì)不同的多類SVM框架,推廣了SVM-RFE算法,用來(lái)解決多類基因特征選擇問(wèn)題。文獻(xiàn)[28]針對(duì)多類分類問(wèn)題,使用標(biāo)準(zhǔn)兩類SVM-RFE算法來(lái)排序問(wèn)題,該算法能夠較好地解決多類問(wèn)題。

    SVM-RFE是一種簡(jiǎn)單有效的特征選擇算法,已在許多領(lǐng)域得到應(yīng)用,基于SVM-RFE理論框架的特征選擇方法得到眾多研究者的關(guān)注,算法以SVM分類器的性能作為特征重要性的評(píng)價(jià)準(zhǔn)則,優(yōu)點(diǎn)是所選的特征子集的規(guī)模相對(duì)較小,缺點(diǎn)是算法的時(shí)間復(fù)雜度較高。文獻(xiàn)[29]提出了一種基于SVM的Wrapper特征選擇算法,算法采用序列后向選擇,特征排序準(zhǔn)則使用驗(yàn)證子集的錯(cuò)分樣本個(gè)數(shù),每一輪迭代過(guò)程中,將特征所引起的錯(cuò)分樣本個(gè)數(shù)最少的那個(gè)特征移除,最后得到最優(yōu)的特征子集。

    (二)基于SVM的Embedded特征選擇

    與一般的Embedded方法類似,基于SVM的Embedded特征選擇,特征選擇過(guò)程融于學(xué)習(xí)過(guò)程中,但該類方法的學(xué)習(xí)算法依據(jù)SVM理論[21]。

    文獻(xiàn)[30]通過(guò)構(gòu)造非線性SVM,提出了一種新的特征選擇算法RFSVM。該算法的基本思想:在SVM思想的基礎(chǔ)上,通過(guò)一個(gè)正的參數(shù)σ來(lái)加權(quán)特征抑制項(xiàng)eTEe,該問(wèn)題可以轉(zhuǎn)化為一個(gè)混合整數(shù)規(guī)劃求解問(wèn)題。算法的目標(biāo)函數(shù)為:

    (1)

    其中,A表示數(shù)據(jù)集矩陣,K表示核函數(shù),v為正常數(shù),u、s和γ為分類器的待求量,e表示全1的矢量,y表示正的變量,E表示對(duì)角元素為0或1的對(duì)角矩陣。(1)式是一個(gè)混合整數(shù)規(guī)劃問(wèn)題,混合整數(shù)規(guī)劃問(wèn)題是一個(gè)NP難問(wèn)題??梢酝ㄟ^(guò)固定E,將(1)式變?yōu)橐粋€(gè)線性規(guī)劃問(wèn)題,通過(guò)求解得到(u,γ,y,s)的解,計(jì)算目標(biāo)函數(shù),上述過(guò)程多次迭代,直到函數(shù)值小于某一設(shè)定的閾值。該算法收斂于局部最小值,最終選擇的特征個(gè)數(shù)最少。

    針對(duì)多類別分類特征選擇的問(wèn)題,文獻(xiàn)[31]提出了一種基于SVM的Embedded方法L1MSVM,該算法通過(guò)加入l1范數(shù),修改標(biāo)準(zhǔn)SVM的目標(biāo)函數(shù),為自適應(yīng)特征選擇計(jì)算整個(gè)正則化解決方案路徑。該算法的目標(biāo)函數(shù)為:

    (2)

    l1范數(shù)SVM是標(biāo)準(zhǔn)l2范數(shù)SVM的變體,在處理高維問(wèn)題和冗余噪聲特征時(shí),l1范數(shù)SVM比l2范數(shù)SVM有一些優(yōu)勢(shì),但l1范數(shù)SVM不適合處理存在強(qiáng)相關(guān)特征組合的場(chǎng)合。為了較好地解決這一問(wèn)題,文獻(xiàn)[32]提出特征選擇算法DrSVM(doubly regularized support vector machine)。該算法混合了l2范數(shù)和l1范數(shù),在標(biāo)準(zhǔn)SVM的目標(biāo)函數(shù)加人l1范數(shù),算法的優(yōu)點(diǎn)是能夠同時(shí)移除或選擇一組強(qiáng)相關(guān)的重要特征。DrSVM算法等價(jià)于解決下面的問(wèn)題:

    (3)

    其中,λ1和λ2均是調(diào)整參數(shù),[1-z]+=max(1-z,0),(xi,yi)表示訓(xùn)練數(shù)據(jù),yi表示第i個(gè)樣本的類別,yi∈{+1,-1}。l1范數(shù)的作用是來(lái)進(jìn)行特征選擇,而l2范數(shù)的作用是同時(shí)選擇一組強(qiáng)相關(guān)的特征。文獻(xiàn)[32]研究表明,l2范數(shù)傾向于產(chǎn)生強(qiáng)相關(guān)的特征,且這些特征對(duì)應(yīng)的系數(shù)幾乎相等,稱這種現(xiàn)象為分組效應(yīng)。

    DrSVM算法是基于SVM的Embedded特征選擇算法,和基于SVM的Embedded特征選擇算法l1-SVM相比,二者相同點(diǎn)是特征選擇過(guò)程和學(xué)習(xí)過(guò)程融于一體,在學(xué)習(xí)過(guò)程中自動(dòng)地進(jìn)行特征選擇;不同點(diǎn)是DrSVM算法能夠同時(shí)選擇或舍棄一組強(qiáng)相關(guān)的特征,而l1-SVM不考慮特征間的相關(guān)性,只能從強(qiáng)相關(guān)的特征中選擇一個(gè)[21]。DrSVM算法適用于維數(shù)高于訓(xùn)練樣本數(shù)的場(chǎng)合,而l1-SVM選擇的特征數(shù)目不超過(guò)訓(xùn)練樣本數(shù)。

    基于SVM的Embedded特征選擇算法,特征選擇過(guò)程作為組成部分嵌入到學(xué)習(xí)算法里,這類算法效率較高,得到的學(xué)習(xí)算法有較好的性能。但如何基于標(biāo)準(zhǔn)SVM算法,來(lái)構(gòu)造算法的目標(biāo)函數(shù)是目前算法研究的熱點(diǎn)。

    (三)基于SVM的混合特征選擇算法

    基于SVM的混合特征選擇先使用Filter算法快速進(jìn)行特征選擇,然后利用Wrapper特征選擇算法進(jìn)一步細(xì)化,得到更為有效的特征子集。

    文獻(xiàn)[33]提出基于SVM的混合特征選擇算法FS_SFS(Filtered and Supported Sequential forward search),和傳統(tǒng)的采用序列前向選擇的Wrapper方法比較,該算法有兩個(gè)重要的特性來(lái)減少計(jì)算時(shí)間。該算法首先使用Filter算法對(duì)原始特征進(jìn)行預(yù)處理,然后對(duì)預(yù)處理后的特征子集,利用Wrapper算法進(jìn)一步細(xì)化。該算法提出了一種新的評(píng)分準(zhǔn)則,該準(zhǔn)則既考慮了單個(gè)特征的區(qū)分能力,又考慮了特征之間的相關(guān)性,從而有效地過(guò)濾非本質(zhì)特征。

    文獻(xiàn)[34]提出的基于SVM的混合特征選擇算法F_SSFS(F-score and Supported Sequential Forward Search),該算法結(jié)合了F-score和序列前向選擇,結(jié)合了Filter方法和Wrapper方法各自的優(yōu)勢(shì)來(lái)選擇最優(yōu)特征子集,該算法可應(yīng)用于股票市場(chǎng)預(yù)測(cè)??紤]到Filter算法和Wrapper算法各自的優(yōu)缺點(diǎn),即Filter方法的計(jì)算成本低,但分類可靠性不足,而Wrapper方法具有較高的分類精度,但需要很大的計(jì)算能力,文獻(xiàn)[35]將二者整合成一個(gè)序列搜索算法,用以提高所選擇特征對(duì)于分類算法的性能。該算法添加預(yù)選擇步驟,以提高特征選擇的效率,利用ROC(receiver operating characteristic) 曲線作為搜索策略,利用SVM作為分類器,算法在生物數(shù)據(jù)分類上得到了很好的應(yīng)用。

    文獻(xiàn)[36]提出了一種新的基于隊(duì)列智能算法的特征選擇與支持向量機(jī)(SVM)模型選擇混合方法SVM_SACI。方法將自適應(yīng)隊(duì)列智能(SACI)算法與SVM集成,形成了一種新的混合方法,用于同時(shí)進(jìn)行特征選擇和SVM模型選擇,在多個(gè)數(shù)據(jù)集上的檢驗(yàn)結(jié)果表明,SACI在支持向量機(jī)分類精度和降維方面優(yōu)于其他啟發(fā)式方法。針對(duì)樣本量遠(yuǎn)小于數(shù)據(jù)集特征個(gè)數(shù)的小樣本可能帶來(lái)的奇異性問(wèn)題,文獻(xiàn)[37]提出了一種0

    文獻(xiàn)[38]提出了一種基于蝗蟲(chóng)優(yōu)化算法(GOA)和SVM的混合方法,該方法對(duì)支持向量機(jī)模型的參數(shù)進(jìn)行優(yōu)化,同時(shí)找到最佳特征子集。在多個(gè)低維和高維數(shù)據(jù)集上實(shí)驗(yàn)結(jié)果表明,該方法在分類精度上優(yōu)于其他方法,同時(shí)最小化了所選特征的數(shù)目。文獻(xiàn)[39]提出了一種基于SVM方法的特征選擇分類問(wèn)題的MILP模型,利用精確算法和啟發(fā)式算法,分析了該模型的不同求解方法。通過(guò)在多個(gè)數(shù)據(jù)集的檢驗(yàn)和經(jīng)典分類方法的比較,對(duì)模型進(jìn)行了驗(yàn)證。文獻(xiàn)[40]提出了一種新穎的進(jìn)化算法(lion算法)和SVM的混合方法,利用lion算法選擇高維數(shù)據(jù)集的特征子集,解決分類問(wèn)題。特征選擇過(guò)程識(shí)別并刪除無(wú)關(guān)/冗余特征,以減少特征維數(shù),從而提高分類的效率和準(zhǔn)確性。

    四、結(jié)語(yǔ)

    本文闡述了自動(dòng)文本分類中特征選擇的算法框架,探討了特征選擇的分類方法,介紹了SVM用于特征選擇的意義,對(duì)基于SVM的特征選擇算法進(jìn)行了歸納總結(jié),重點(diǎn)總結(jié)了基于SVM的Wrapper特征選擇、Embedded特征選擇以及混合特征選擇算法,分析對(duì)比了基于SVM的三類特征選擇的優(yōu)缺點(diǎn)。SVM算法的效率和性能主要取決于內(nèi)核類型及其參數(shù),在處理高維數(shù)據(jù)集時(shí),用于SVM模型的特征子集選擇是影響分類精度的另一個(gè)重要因素。如何利用已有的算法或提出新穎的算法用于高維數(shù)據(jù)集的特征選擇并訓(xùn)練SVM模型的參數(shù),是基于SVM特征選擇的研究熱點(diǎn)和分類應(yīng)用發(fā)展方向。

    猜你喜歡
    特征選擇范數(shù)子集
    由一道有關(guān)集合的子集個(gè)數(shù)題引發(fā)的思考
    拓?fù)淇臻g中緊致子集的性質(zhì)研究
    關(guān)于奇數(shù)階二元子集的分離序列
    基于加權(quán)核范數(shù)與范數(shù)的魯棒主成分分析
    矩陣酉不變范數(shù)H?lder不等式及其應(yīng)用
    Kmeans 應(yīng)用與特征選擇
    電子制作(2017年23期)2017-02-02 07:17:06
    聯(lián)合互信息水下目標(biāo)特征選擇算法
    每一次愛(ài)情都只是愛(ài)情的子集
    都市麗人(2015年4期)2015-03-20 13:33:22
    一類具有準(zhǔn)齊次核的Hilbert型奇異重積分算子的范數(shù)及應(yīng)用
    基于特征選擇和RRVPMCD的滾動(dòng)軸承故障診斷方法
    国产一区二区激情短视频| 国产在视频线在精品| 1000部很黄的大片| 啦啦啦观看免费观看视频高清| 亚洲精品影视一区二区三区av| 一a级毛片在线观看| 欧美不卡视频在线免费观看| 尤物成人国产欧美一区二区三区| 久久国内精品自在自线图片| 99热网站在线观看| 身体一侧抽搐| 久久久久久久久久成人| 欧美高清成人免费视频www| 久久久久久久久中文| 久久午夜亚洲精品久久| 国内毛片毛片毛片毛片毛片| 日本五十路高清| 国内精品美女久久久久久| 国产一级毛片七仙女欲春2| 黄色配什么色好看| 国产激情偷乱视频一区二区| 午夜精品久久久久久毛片777| 国产一区二区在线观看日韩| 18+在线观看网站| 男人和女人高潮做爰伦理| 亚洲真实伦在线观看| 真实男女啪啪啪动态图| 国产精品久久视频播放| 精品国产三级普通话版| 99热这里只有是精品50| 国产伦精品一区二区三区视频9| 欧洲精品卡2卡3卡4卡5卡区| 国产精品,欧美在线| 老女人水多毛片| 麻豆国产97在线/欧美| 成人永久免费在线观看视频| 女人十人毛片免费观看3o分钟| 白带黄色成豆腐渣| 男人狂女人下面高潮的视频| 色精品久久人妻99蜜桃| 国产黄a三级三级三级人| 亚洲成人精品中文字幕电影| 亚洲电影在线观看av| 久久久久国产精品人妻aⅴ院| 看黄色毛片网站| 亚洲在线观看片| 欧美中文日本在线观看视频| 久9热在线精品视频| 欧美成人一区二区免费高清观看| 九九热线精品视视频播放| 精品乱码久久久久久99久播| 欧美日韩精品成人综合77777| 亚洲第一区二区三区不卡| 欧美人与善性xxx| 精品久久久久久久久久免费视频| 欧美成人免费av一区二区三区| 久久久色成人| 最近中文字幕高清免费大全6 | 97超视频在线观看视频| 午夜免费成人在线视频| 亚洲av五月六月丁香网| 窝窝影院91人妻| 日本一本二区三区精品| 午夜福利成人在线免费观看| 精品无人区乱码1区二区| 久9热在线精品视频| 最后的刺客免费高清国语| a级毛片免费高清观看在线播放| 久久久久久久久久黄片| 精品国产三级普通话版| 此物有八面人人有两片| 在线天堂最新版资源| 国产探花极品一区二区| 99久久精品一区二区三区| 一卡2卡三卡四卡精品乱码亚洲| 一进一出抽搐动态| 男人和女人高潮做爰伦理| 久久久色成人| 夜夜爽天天搞| 美女xxoo啪啪120秒动态图| 国产av不卡久久| 美女免费视频网站| 免费在线观看影片大全网站| 在线观看免费视频日本深夜| 乱系列少妇在线播放| 欧美日韩精品成人综合77777| 天堂av国产一区二区熟女人妻| 狠狠狠狠99中文字幕| 男女啪啪激烈高潮av片| 一本精品99久久精品77| 乱人视频在线观看| 一区二区三区激情视频| 色尼玛亚洲综合影院| 成人午夜高清在线视频| 此物有八面人人有两片| 精品不卡国产一区二区三区| 精品99又大又爽又粗少妇毛片 | 日本在线视频免费播放| 免费看日本二区| 成年免费大片在线观看| 男人狂女人下面高潮的视频| 精品午夜福利视频在线观看一区| 亚洲人成网站在线播| 欧美国产日韩亚洲一区| 老师上课跳d突然被开到最大视频| 欧美极品一区二区三区四区| 老司机福利观看| 亚洲avbb在线观看| 国产精品久久电影中文字幕| 级片在线观看| 又爽又黄a免费视频| 九九爱精品视频在线观看| 亚洲不卡免费看| 日本在线视频免费播放| 日本三级黄在线观看| 又爽又黄a免费视频| 一本精品99久久精品77| 国产成人a区在线观看| 亚洲人成网站高清观看| 淫妇啪啪啪对白视频| 国内精品久久久久精免费| 老师上课跳d突然被开到最大视频| 国产精品一区二区免费欧美| 国产综合懂色| 欧美潮喷喷水| 日日夜夜操网爽| 午夜日韩欧美国产| 搞女人的毛片| 成人高潮视频无遮挡免费网站| 白带黄色成豆腐渣| 黄色日韩在线| 亚洲专区国产一区二区| 成人国产综合亚洲| 网址你懂的国产日韩在线| 国产一级毛片七仙女欲春2| 国产爱豆传媒在线观看| 成人av一区二区三区在线看| 国产极品精品免费视频能看的| 人妻夜夜爽99麻豆av| 国产女主播在线喷水免费视频网站 | 久久草成人影院| 国产v大片淫在线免费观看| 特大巨黑吊av在线直播| 日韩欧美在线二视频| 精品久久久噜噜| 人人妻人人看人人澡| 91狼人影院| 亚洲精品一卡2卡三卡4卡5卡| 亚洲人成网站在线播放欧美日韩| 国内精品美女久久久久久| 22中文网久久字幕| 成人国产一区最新在线观看| 亚洲精品一区av在线观看| 国产一区二区三区av在线 | 精品无人区乱码1区二区| 啦啦啦啦在线视频资源| 日本三级黄在线观看| 天堂影院成人在线观看| 国产高清三级在线| 亚洲三级黄色毛片| 亚洲在线自拍视频| 人人妻人人看人人澡| 国产午夜精品论理片| 99久久九九国产精品国产免费| 免费无遮挡裸体视频| 夜夜看夜夜爽夜夜摸| 亚洲av中文av极速乱 | 日本精品一区二区三区蜜桃| 美女黄网站色视频| 精品久久久久久久久av| 校园人妻丝袜中文字幕| 午夜免费激情av| x7x7x7水蜜桃| 日韩欧美在线二视频| 99热精品在线国产| 亚洲欧美日韩高清在线视频| 国内精品久久久久精免费| 国产探花极品一区二区| 两个人的视频大全免费| 国产一级毛片七仙女欲春2| 国产午夜福利久久久久久| 亚洲第一区二区三区不卡| 日本黄大片高清| 国产高清视频在线播放一区| 亚洲真实伦在线观看| 一级a爱片免费观看的视频| 3wmmmm亚洲av在线观看| 日韩欧美一区二区三区在线观看| 一进一出好大好爽视频| 久久久久久久久久黄片| 男女之事视频高清在线观看| 国产高清有码在线观看视频| 亚洲精华国产精华精| 女人十人毛片免费观看3o分钟| 欧美xxxx黑人xx丫x性爽| 久久午夜福利片| 成年人黄色毛片网站| 日本黄色片子视频| 亚洲男人的天堂狠狠| 国产成人a区在线观看| 国产精品亚洲美女久久久| 三级男女做爰猛烈吃奶摸视频| 国内精品美女久久久久久| 日日啪夜夜撸| 久久99热这里只有精品18| 亚洲av成人av| 亚洲av第一区精品v没综合| 欧美黑人巨大hd| 给我免费播放毛片高清在线观看| 久久99热6这里只有精品| 午夜久久久久精精品| 99热这里只有是精品50| 欧美+日韩+精品| 国产熟女欧美一区二区| 在线天堂最新版资源| 午夜福利在线在线| 97人妻精品一区二区三区麻豆| 亚洲国产精品sss在线观看| 日韩中字成人| 免费av毛片视频| 色哟哟·www| 夜夜爽天天搞| 久久精品国产亚洲网站| 老师上课跳d突然被开到最大视频| 亚洲精华国产精华液的使用体验 | 九九久久精品国产亚洲av麻豆| 黄色视频,在线免费观看| 桃红色精品国产亚洲av| 国产亚洲欧美98| 精品日产1卡2卡| 免费在线观看日本一区| 尾随美女入室| 一级黄色大片毛片| 嫩草影视91久久| 91av网一区二区| 国产91精品成人一区二区三区| 欧美zozozo另类| 内地一区二区视频在线| 黄色配什么色好看| av天堂中文字幕网| 国内精品久久久久久久电影| 亚洲成av人片在线播放无| 日本免费一区二区三区高清不卡| 国产一区二区激情短视频| x7x7x7水蜜桃| 国产精品亚洲美女久久久| 国产高潮美女av| 久久精品久久久久久噜噜老黄 | 国产亚洲精品久久久com| 男人的好看免费观看在线视频| 国产中年淑女户外野战色| 成人二区视频| 亚洲欧美日韩高清在线视频| 又黄又爽又免费观看的视频| 日韩中字成人| a级毛片a级免费在线| 午夜免费激情av| 一卡2卡三卡四卡精品乱码亚洲| 中国美白少妇内射xxxbb| 国产高清视频在线播放一区| 五月伊人婷婷丁香| 亚洲中文字幕日韩| 男女下面进入的视频免费午夜| 一级毛片久久久久久久久女| 成人二区视频| 国产免费男女视频| 国产午夜精品久久久久久一区二区三区 | 国内精品一区二区在线观看| 午夜亚洲福利在线播放| 此物有八面人人有两片| 床上黄色一级片| 亚洲av.av天堂| 色噜噜av男人的天堂激情| 深夜精品福利| 欧美成人a在线观看| 97超级碰碰碰精品色视频在线观看| 午夜精品一区二区三区免费看| 日日摸夜夜添夜夜添av毛片 | 国产伦精品一区二区三区视频9| 亚洲性夜色夜夜综合| 99在线视频只有这里精品首页| 精品久久久久久久久久免费视频| 欧美最新免费一区二区三区| 婷婷色综合大香蕉| 观看美女的网站| x7x7x7水蜜桃| 校园春色视频在线观看| 亚洲,欧美,日韩| 亚洲中文字幕日韩| www日本黄色视频网| 亚洲18禁久久av| 精品一区二区免费观看| 日韩强制内射视频| 18禁裸乳无遮挡免费网站照片| 久久国产精品人妻蜜桃| 啦啦啦观看免费观看视频高清| 日韩欧美在线乱码| 午夜视频国产福利| 一区二区三区激情视频| 黄片wwwwww| 午夜亚洲福利在线播放| 啦啦啦啦在线视频资源| 可以在线观看毛片的网站| 夜夜看夜夜爽夜夜摸| avwww免费| 搡老妇女老女人老熟妇| 国产精品伦人一区二区| 99久久精品一区二区三区| 国产精品久久久久久久电影| 亚洲专区中文字幕在线| www.色视频.com| 天美传媒精品一区二区| 亚洲成人久久爱视频| 级片在线观看| 看免费成人av毛片| 美女免费视频网站| 午夜福利18| a级毛片免费高清观看在线播放| 毛片一级片免费看久久久久 | x7x7x7水蜜桃| 国产欧美日韩精品一区二区| 999久久久精品免费观看国产| 精品一区二区免费观看| 色播亚洲综合网| 一卡2卡三卡四卡精品乱码亚洲| 国产探花极品一区二区| 美女大奶头视频| 一区二区三区四区激情视频 | 少妇熟女aⅴ在线视频| 国内少妇人妻偷人精品xxx网站| 精品一区二区免费观看| 搡老妇女老女人老熟妇| 午夜激情福利司机影院| 国产欧美日韩精品一区二区| 国产午夜福利久久久久久| 亚洲美女视频黄频| 观看美女的网站| 两人在一起打扑克的视频| 中文字幕久久专区| 国产乱人伦免费视频| 午夜福利18| or卡值多少钱| 成人av在线播放网站| 男女那种视频在线观看| av天堂中文字幕网| 男人舔女人下体高潮全视频| 免费大片18禁| 国产美女午夜福利| 免费人成在线观看视频色| 一区二区三区激情视频| 国产伦精品一区二区三区视频9| 一区二区三区四区激情视频 | 国产午夜精品论理片| 成人毛片a级毛片在线播放| 天堂√8在线中文| 午夜爱爱视频在线播放| 大又大粗又爽又黄少妇毛片口| 日本成人三级电影网站| 亚洲美女视频黄频| 99国产精品一区二区蜜桃av| 一级av片app| 中国美白少妇内射xxxbb| 精品人妻1区二区| 噜噜噜噜噜久久久久久91| 18禁黄网站禁片午夜丰满| 国产色婷婷99| 人妻制服诱惑在线中文字幕| 亚洲美女黄片视频| 欧美性感艳星| 久99久视频精品免费| 中文字幕久久专区| 亚洲中文字幕日韩| 国产精品,欧美在线| a在线观看视频网站| 午夜久久久久精精品| 国产老妇女一区| 高清日韩中文字幕在线| 99riav亚洲国产免费| 乱码一卡2卡4卡精品| 亚洲中文字幕日韩| 我的女老师完整版在线观看| 日本 欧美在线| 亚洲图色成人| 亚洲成人免费电影在线观看| 国产91精品成人一区二区三区| 日韩亚洲欧美综合| 精品久久久噜噜| 国产精品综合久久久久久久免费| 久久久久久久午夜电影| 性欧美人与动物交配| 国内精品一区二区在线观看| 久久这里只有精品中国| 午夜免费激情av| 免费在线观看日本一区| 国产精品久久久久久亚洲av鲁大| 国产精品精品国产色婷婷| 久久久久久久午夜电影| 国产成人aa在线观看| 白带黄色成豆腐渣| 亚洲国产精品sss在线观看| 亚洲欧美日韩卡通动漫| 亚洲avbb在线观看| 亚洲国产高清在线一区二区三| 久久久久久国产a免费观看| 久久精品国产亚洲网站| 欧美精品啪啪一区二区三区| 一进一出好大好爽视频| 99在线视频只有这里精品首页| 在线播放无遮挡| 精品一区二区免费观看| 美女 人体艺术 gogo| 精品久久久久久久人妻蜜臀av| 国产三级在线视频| 亚洲aⅴ乱码一区二区在线播放| 99久久成人亚洲精品观看| 亚洲成人久久性| 噜噜噜噜噜久久久久久91| 如何舔出高潮| 夜夜看夜夜爽夜夜摸| 久久久久久大精品| 免费在线观看成人毛片| 伊人久久精品亚洲午夜| 91麻豆精品激情在线观看国产| 国产成人av教育| 国产探花极品一区二区| 国产精品一及| 18禁黄网站禁片午夜丰满| 国产免费男女视频| 一a级毛片在线观看| 色精品久久人妻99蜜桃| 日本在线视频免费播放| 九色国产91popny在线| 亚洲欧美日韩无卡精品| 深夜精品福利| 国产亚洲精品久久久com| 亚洲精品一卡2卡三卡4卡5卡| 成人三级黄色视频| 亚洲av第一区精品v没综合| 亚洲不卡免费看| 亚洲电影在线观看av| 亚洲精品粉嫩美女一区| 午夜福利成人在线免费观看| 欧美日韩黄片免| 亚洲av熟女| av专区在线播放| 久久久成人免费电影| aaaaa片日本免费| 亚洲国产高清在线一区二区三| 岛国在线免费视频观看| 99久久精品一区二区三区| 国产蜜桃级精品一区二区三区| 午夜老司机福利剧场| 亚洲av中文字字幕乱码综合| 97人妻精品一区二区三区麻豆| videossex国产| 看片在线看免费视频| 日韩中字成人| 久久九九热精品免费| 村上凉子中文字幕在线| 国产高清激情床上av| 亚洲人成伊人成综合网2020| 又紧又爽又黄一区二区| 18禁在线播放成人免费| 中文字幕人妻熟人妻熟丝袜美| 中文字幕av成人在线电影| 夜夜爽天天搞| 看片在线看免费视频| 国产不卡一卡二| 最近在线观看免费完整版| 国产精品亚洲美女久久久| 精品一区二区免费观看| 精品人妻视频免费看| 欧美成人a在线观看| 欧美人与善性xxx| 欧美性猛交黑人性爽| 国产又黄又爽又无遮挡在线| 国产男靠女视频免费网站| 男人的好看免费观看在线视频| 欧美人与善性xxx| 国产av不卡久久| 高清在线国产一区| 国产精品无大码| 亚洲成人久久爱视频| 女同久久另类99精品国产91| а√天堂www在线а√下载| 国产激情偷乱视频一区二区| 少妇人妻一区二区三区视频| 国产精品久久久久久av不卡| 亚洲午夜理论影院| 深夜精品福利| 欧美高清性xxxxhd video| 久久久久久九九精品二区国产| 久久午夜福利片| 国产精品不卡视频一区二区| 亚洲自偷自拍三级| 精品久久久久久成人av| 大型黄色视频在线免费观看| 亚洲精品久久国产高清桃花| 亚洲国产日韩欧美精品在线观看| 亚洲自偷自拍三级| 一本精品99久久精品77| 色吧在线观看| 亚洲在线自拍视频| 精品一区二区免费观看| 人妻久久中文字幕网| 日韩欧美国产一区二区入口| 麻豆国产av国片精品| 亚洲人成网站在线播放欧美日韩| 亚洲黑人精品在线| 日韩在线高清观看一区二区三区 | 亚洲色图av天堂| 极品教师在线免费播放| 日韩一区二区视频免费看| 亚洲av美国av| 亚洲国产精品久久男人天堂| 美女免费视频网站| 麻豆精品久久久久久蜜桃| 亚洲av二区三区四区| 麻豆国产97在线/欧美| 欧美国产日韩亚洲一区| 亚洲精品一区av在线观看| 在现免费观看毛片| 日韩精品中文字幕看吧| 露出奶头的视频| 成人精品一区二区免费| 日韩欧美三级三区| 欧洲精品卡2卡3卡4卡5卡区| 亚洲美女黄片视频| bbb黄色大片| 国产视频一区二区在线看| 欧美性感艳星| 小蜜桃在线观看免费完整版高清| 国产精品人妻久久久影院| 啦啦啦啦在线视频资源| 日韩精品青青久久久久久| 男插女下体视频免费在线播放| 欧美最新免费一区二区三区| 舔av片在线| 精品久久久久久久久久久久久| 精品久久久久久,| 国产精品美女特级片免费视频播放器| 欧美区成人在线视频| 欧美激情在线99| 尾随美女入室| 欧美一区二区国产精品久久精品| 国产aⅴ精品一区二区三区波| 国产午夜精品久久久久久一区二区三区 | 级片在线观看| 男人舔女人下体高潮全视频| 成年免费大片在线观看| 久久精品人妻少妇| 国产淫片久久久久久久久| 国产熟女欧美一区二区| 一个人观看的视频www高清免费观看| 韩国av一区二区三区四区| 麻豆国产97在线/欧美| 国产在线精品亚洲第一网站| 草草在线视频免费看| 国产精品伦人一区二区| 亚洲av中文av极速乱 | 成人高潮视频无遮挡免费网站| 国产精品爽爽va在线观看网站| 黄色欧美视频在线观看| 日日撸夜夜添| 欧洲精品卡2卡3卡4卡5卡区| 精品久久久久久,| aaaaa片日本免费| 亚洲专区中文字幕在线| 久久国内精品自在自线图片| 老熟妇乱子伦视频在线观看| 午夜亚洲福利在线播放| 国产精品不卡视频一区二区| 色哟哟·www| 亚洲三级黄色毛片| 亚洲一级一片aⅴ在线观看| 欧美日韩亚洲国产一区二区在线观看| 最好的美女福利视频网| 能在线免费观看的黄片| av.在线天堂| 日韩高清综合在线| 免费av不卡在线播放| 啪啪无遮挡十八禁网站| 又黄又爽又免费观看的视频| 免费观看人在逋| 国产激情偷乱视频一区二区| 日韩欧美精品v在线| 熟女人妻精品中文字幕| 国产午夜福利久久久久久| 啪啪无遮挡十八禁网站| 国产精品国产高清国产av| 久久精品综合一区二区三区| 中出人妻视频一区二区| 日本五十路高清| 久久久国产成人免费| 91狼人影院| 99在线人妻在线中文字幕| 人妻丰满熟妇av一区二区三区| 十八禁网站免费在线| 99精品在免费线老司机午夜| 少妇的逼好多水| 男女那种视频在线观看| 亚洲一级一片aⅴ在线观看| 国产在视频线在精品| 精品一区二区免费观看| 国内久久婷婷六月综合欲色啪| 婷婷六月久久综合丁香| 亚洲精品乱码久久久v下载方式| 欧美日韩精品成人综合77777| 蜜桃亚洲精品一区二区三区| 精品久久久久久,| 蜜桃久久精品国产亚洲av| 草草在线视频免费看| 老师上课跳d突然被开到最大视频| 美女高潮喷水抽搐中文字幕| 赤兔流量卡办理|