• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于集成學(xué)習(xí)的肺癌存活性預(yù)測(cè)分析

    2022-01-04 15:05:02李秀芹李琳張慢麗
    軟件工程 2022年1期
    關(guān)鍵詞:集成學(xué)習(xí)隨機(jī)森林

    李秀芹 李琳 張慢麗

    摘? 要:在我國,惡性腫瘤死亡率最高的就是肺癌。為了提高肺癌存活性預(yù)測(cè)的準(zhǔn)確性,本研究以隨機(jī)森林(Random Forest)、LightGBM(Light Gradient Boosting Machine)和CatBoost(Categorical Boosting)三種算法為基模型,通過線性回歸集成融合構(gòu)建RF-LGC肺癌存活性預(yù)測(cè)模型,運(yùn)用分層十折交叉驗(yàn)證方法進(jìn)行仿真實(shí)驗(yàn)。實(shí)驗(yàn)結(jié)果顯示,RF-LGC組合模型的預(yù)測(cè)精度達(dá)到了98.0242%,比單一的基模型提高了0.2%;敏感性達(dá)到了89.3957%,比單一的基模型提高了3%;特異性達(dá)到了78.4848%,比單一的基模型提高了1%。因此,該集成融合模型是一種精確、方便的肺癌存活性預(yù)測(cè)模型。

    關(guān)鍵詞:集成學(xué)習(xí);隨機(jī)森林;十折交叉驗(yàn)證;癌癥預(yù)后

    中圖分類號(hào):TP311? ? ?文獻(xiàn)標(biāo)識(shí)碼:A

    文章編號(hào):2096-1472(2022)-01-41-06

    Abstract: In China, lung cancer has the highest mortality rates among all of the malignant tumors. In order to improve the accuracy of lung cancer survival prediction, this paper proposes to use linear regression integration and fusion to build a lung cancer survival prediction model RF-LGC, which is based on three algorithms — Random Forest, LightGBM (Light Gradient Boosting Machine) and CatBoost (Categorical Boosting). Simulation experiments are carried out by using the hierarchical ten-fold cross-validation method. Experimental results show that the prediction accuracy of the RF-LGC combined model reaches 98.0242%, which is 0.2% higher than that of a single-based model; the sensitivity has reached 89.3957%, which is 3% higher than the single-based model; the specificity has reached 78.4848%, which is 1% higher than the single-based model. Therefore, the integrated fusion model is an accurate and convenient lung cancer survival prediction model.

    Keywords: ensemble learning; random forest; ten-fold cross validation; cancer prognosis

    1? ?引言(Introduction)

    2021年最新的癌癥死亡率調(diào)查顯示,男性和女性前十大癌癥死亡率中肺癌均占第一位,約為22%。另外,在確診五年后,肺癌的生存率只有15%,因此生存分析在醫(yī)學(xué)研究中是最常見的課題之一。為了預(yù)測(cè)癌癥的存活性,一些相關(guān)變量被用來表明考慮因素,如死亡或疾病的復(fù)發(fā)是否已經(jīng)在特定的時(shí)間內(nèi)發(fā)生[1]。預(yù)測(cè)模型必須估計(jì)病人在診斷后是否能存活一段特定的時(shí)間[2]。癌癥存活性預(yù)測(cè)是一項(xiàng)非常重要的工作,疾病預(yù)后準(zhǔn)確性越高,醫(yī)療方面的決策就會(huì)越精準(zhǔn),進(jìn)而也會(huì)提高治療效果和效率。所以,提高癌癥存活性預(yù)測(cè)的準(zhǔn)確性非常重要。

    醫(yī)院大部分使用統(tǒng)計(jì)學(xué)方法對(duì)數(shù)據(jù)進(jìn)行回顧性分析,但對(duì)癌癥預(yù)后的研究很少?,F(xiàn)今機(jī)器學(xué)習(xí)技術(shù)的快速發(fā)展使得前瞻性的疾病預(yù)測(cè)成為可能,一些大數(shù)據(jù)算法在醫(yī)療領(lǐng)域有了很好的應(yīng)用,如隨機(jī)森林[3-4]、人工神經(jīng)網(wǎng)絡(luò)[5-6]和支持向量機(jī)[7-8]等。王月等人利用最大最小爬山算法預(yù)測(cè)了五年后肺癌患者的生存情況[9];王宇燕等人運(yùn)用遺傳算法改進(jìn)隨機(jī)森林,構(gòu)建GA-RF模型預(yù)測(cè)直腸癌的存活性[1];譚鈺潔等人利用LASSO回歸分析來建立Ⅳ期乳腺癌的生存預(yù)測(cè)模型[10];殷子博基于決策樹算法構(gòu)建癌癥合成基因組的預(yù)后相關(guān)模型[11]。

    機(jī)器學(xué)習(xí)在醫(yī)療大數(shù)據(jù)研究方向上通常都是基于單一預(yù)測(cè)模型算法進(jìn)行優(yōu)化改進(jìn)的,運(yùn)行時(shí)間較長,泛化性差,很難達(dá)到理想的預(yù)測(cè)精度。本文運(yùn)用集成融合思想,將好而不同的集成算法進(jìn)行組合,融合單一基模型的優(yōu)點(diǎn),通過混合模型來彌補(bǔ)單一預(yù)測(cè)模型的驅(qū)動(dòng)性不足。基于此,本研究以隨機(jī)森林、LightGBM和CatBoost三種算法為基模型,提出構(gòu)建集成學(xué)習(xí)融合RF-LGC模型來預(yù)測(cè)肺癌患者的存活性。

    2? 肺癌預(yù)測(cè)模型RF-LGC的構(gòu)建(Construction of lung cancer prediction model RF-LGC)

    2.1? ?數(shù)據(jù)來源及變量選擇

    本實(shí)驗(yàn)所使用的數(shù)據(jù)是來自美國SEER(The Surveillance,Epidemiology,and End Results)數(shù)據(jù)庫中的肺癌數(shù)據(jù),它收錄了美國各個(gè)州幾十年來的癌癥病例相關(guān)信息,并且被認(rèn)為是全世界相關(guān)癌癥機(jī)構(gòu)的質(zhì)量標(biāo)準(zhǔn)[12]。每個(gè)文件有149 個(gè)屬性,每個(gè)屬性記錄都與特定的癌癥發(fā)病率有關(guān)。本實(shí)驗(yàn)在了解肺癌的相關(guān)資料,進(jìn)行SEER數(shù)據(jù)庫的初始預(yù)處理和數(shù)據(jù)清洗后,在數(shù)據(jù)集中選取了23 個(gè)屬性,如表1所示。

    對(duì)于肺癌存活性預(yù)測(cè),以五年后生存情況作為評(píng)價(jià)指標(biāo),選擇患者術(shù)后生存情況為結(jié)果變量,即若患者生存狀況為“survive”則記錄為1,生存狀況為“dead”記錄為0。

    2.2? ? 隨機(jī)森林模型分析

    隨機(jī)森林屬于Bagging算法,它通過Bootstrap(自助法)進(jìn)行重采樣,具有模型隨機(jī)性強(qiáng)、不易過擬合、抗噪性強(qiáng)等優(yōu)點(diǎn)。此外,它呈樹形結(jié)構(gòu),模型可解釋度高,能夠執(zhí)行回歸和分類任務(wù)[13],同時(shí)它也是一種數(shù)據(jù)降維手段。該算法可定義如下:

    (1)預(yù)設(shè)模型的超參數(shù),設(shè)置決策樹的個(gè)數(shù)、樹的節(jié)點(diǎn)層數(shù)。

    (2)對(duì)訓(xùn)練集隨機(jī)采樣生成決策樹,然后進(jìn)行訓(xùn)練,在決策樹選擇特征時(shí),應(yīng)選擇基尼指數(shù)增益值最大的特征,作為該節(jié)點(diǎn)分裂條件,如式(1)所示:

    (3)輸入測(cè)試樣本到每個(gè)樹中,再將每個(gè)樹的結(jié)構(gòu)進(jìn)行整合。對(duì)于分類問題,按多棵樹分類器投票決定最終分類結(jié)果;對(duì)于回歸問題,由多棵樹預(yù)測(cè)值的均值決定最終預(yù)測(cè)結(jié)果。

    2.3? ?LightGBM模型分析

    LightGBM屬于Boosting算法,是一種提升算法模型,它是一個(gè)實(shí)現(xiàn)GBDT(Gradient Boosting Decision Tree)算法的框架。GBDT屬于決策樹的加法模型,如式(2)所示:

    其中,表示決策樹的參數(shù),表示決策樹;是決策樹的個(gè)數(shù),依據(jù)算法地向前分布,第步可以表示為式(3):

    設(shè)是第 個(gè)樣本的真實(shí)值,是其預(yù)測(cè)值,則損失函數(shù)可以表示為式(4):

    利用式(5)損失函數(shù)極小化得到參數(shù):

    通過多次迭代,回歸樹更新得到最終模型。LightGBM通過部分樣本計(jì)算信息增益,降低了每次拆分增益的成本;并且內(nèi)置特征降維技術(shù),降低內(nèi)存使用,處理困難樣本能力強(qiáng);使用葉子節(jié)點(diǎn)直方圖進(jìn)一步加速計(jì)算;LightGBM支持高效并行,降低并行學(xué)習(xí)的通信成本。

    2.4? ?CatBoost模型分析

    CatBoost是一種基于對(duì)稱決策樹為基學(xué)習(xí)器,實(shí)現(xiàn)參數(shù)較少、支持類別型變量和高準(zhǔn)確性的機(jī)器學(xué)習(xí)框架,使用了組合類別特征,豐富了特征維度;采用排序提升的方法對(duì)抗訓(xùn)練集中的噪聲點(diǎn),從而避免梯度估計(jì)的偏差,它將樣本的二進(jìn)制特征存儲(chǔ)在向量中,葉子節(jié)點(diǎn)中的值存儲(chǔ)在的向量中[14]。對(duì)于樣本,建立二進(jìn)制向量,如式(6)所示:

    其中,是樣本上的特征的值,是二進(jìn)制特征的數(shù)目。構(gòu)建向量是以數(shù)據(jù)并行方式,使得速度高達(dá)三倍。

    2.5? ?RF-LGC肺癌存活性預(yù)測(cè)模型的構(gòu)建

    本文引入了集成學(xué)習(xí)法,集成學(xué)習(xí)不是一個(gè)特定的模型,而是一種思想,它結(jié)合了一組簡單的基本模型的優(yōu)點(diǎn),從而構(gòu)建一個(gè)相對(duì)更強(qiáng)大的模型。Bagging算法和Boosting算法是集成算法的兩大類,兩者存在異質(zhì)性,好而不同的算法融合集成起來會(huì)有更好的預(yù)測(cè)效果。Bagging算法的代表隨機(jī)森林簡單穩(wěn)定,具有高維運(yùn)行數(shù)據(jù)的能力,抗噪性強(qiáng),不易過擬合,但并不具備處理困難樣本的能力。Boosting算法的代表LightGBM是一種新型提升算法,可以并行計(jì)算優(yōu)化,但它屬于迭代算法,使得模型偏差比較低,對(duì)噪點(diǎn)較為敏感。CatBoost算法具有魯棒性,可以處理類別型、數(shù)值型特征,但對(duì)于類別型特征的處理需要大量的內(nèi)存和時(shí)間。本文綜合三者優(yōu)缺點(diǎn),使彼此相輔相成,另外使用stacking的結(jié)合策略構(gòu)建RF-LGC模型,充分發(fā)揮每一個(gè)學(xué)習(xí)器的優(yōu)點(diǎn),防止過擬合,而且不用過多地調(diào)參數(shù),能夠有效預(yù)測(cè)肺癌存活性。

    本文融合構(gòu)建的RF-LGC肺癌存活性預(yù)測(cè)模型如圖1所示,過程采用分層十折交叉驗(yàn)證,進(jìn)行stacking的結(jié)合策略。

    (1)基于訓(xùn)練集訓(xùn)練模型。將90%的訓(xùn)練集分別輸入隨機(jī)森林、LightGBM和CatBoost三個(gè)基模型中,在訓(xùn)練模型LightGBM模型構(gòu)建過程中,目標(biāo)函數(shù)采用的是binary,評(píng)價(jià)函數(shù)采用的是AUC,目的是可以根據(jù)需要對(duì)評(píng)價(jià)函數(shù)作調(diào)整,設(shè)定一個(gè)或者多個(gè)評(píng)價(jià)函數(shù);CatBoost中eval_metrics參數(shù)設(shè)定為AUC;隨機(jī)森林模型采用Random Forest Classifier類構(gòu)造函數(shù),并運(yùn)用Predict_proba(X)預(yù)測(cè)函數(shù),同樣也采用AUC來計(jì)算訓(xùn)練后的模型某一指定指標(biāo)在每一輪迭代中的表現(xiàn),得到訓(xùn)練集學(xué)習(xí)結(jié)果預(yù)測(cè)矩陣。

    (2)將剩余10%的測(cè)試集,利用分層十折交叉驗(yàn)證,先基于三個(gè)基模型訓(xùn)練出的模型進(jìn)行測(cè)試,得到測(cè)試預(yù)測(cè)結(jié)果矩陣。

    (3)同樣采用分層十折交叉驗(yàn)證,將步驟(1)訓(xùn)練集預(yù)測(cè)結(jié)果作為新的訓(xùn)練集樣本輸入線性回歸模型進(jìn)行訓(xùn)練,得到最終的訓(xùn)練集預(yù)測(cè)結(jié)果;將步驟(2)測(cè)試集預(yù)測(cè)結(jié)果作為新的測(cè)試集樣本輸入線性回歸模型進(jìn)行測(cè)試,得到最終預(yù)測(cè)結(jié)果。

    基于本文的線性回歸模型,調(diào)用了LinearRegression包,采用最小二乘法線性回歸,通過最小化誤差的平方和尋找數(shù)據(jù)的最佳函數(shù)匹配,我們可以通過殘差之和最小化實(shí)現(xiàn)最佳擬合,也就是說模型預(yù)測(cè)的值與訓(xùn)練集的數(shù)據(jù)最接近,如式(7)所示:

    最終,在實(shí)現(xiàn)最佳擬合過程中,利用AUC值來證明模型的可靠性,實(shí)驗(yàn)結(jié)果如表2所示,集成融合模型達(dá)到AUC最高,具有可行性。

    3? 存活性預(yù)測(cè)實(shí)驗(yàn)分析(Experimental analysis of survival prediction)

    3.1? ?分類性能評(píng)價(jià)標(biāo)準(zhǔn)

    評(píng)估一個(gè)預(yù)測(cè)模型,需要用合適的衡量手段,對(duì)于本文所研究的醫(yī)療診斷預(yù)測(cè)領(lǐng)域,選用的指標(biāo)為敏感性[15]、特異性[16]和準(zhǔn)確性[17],另外使用了分層十折交叉驗(yàn)證[18]進(jìn)行模型準(zhǔn)確性測(cè)試。其中,敏感性評(píng)價(jià)患者被查出患病的可能性,如式(8)所示;特異性是對(duì)陰性者被正確排除患病可能性的評(píng)價(jià),如式(9)所示;而準(zhǔn)確性是由特異性和敏感性一起決定的,從整體角度來判斷預(yù)測(cè)是否準(zhǔn)確。

    其中,TP代表真正類[19],F(xiàn)P代表假正類,TN代表真負(fù)類,F(xiàn)N代表假負(fù)類。以上三個(gè)評(píng)價(jià)指標(biāo)都是越大越好。分層十折交叉驗(yàn)證是估計(jì)分類方法精度的一種方法,目的是測(cè)試所采用分類方法的泛化能力[20],解決數(shù)據(jù)不平衡性。分層十折交叉驗(yàn)證是把全部數(shù)據(jù)集分成基本一致的十個(gè)子集,然后對(duì)模型進(jìn)行十次訓(xùn)練、測(cè)試。每次使用九個(gè)不同的子集來訓(xùn)練模型,剩下的一個(gè)作為測(cè)試集。之后將十次計(jì)算的正確率取均值作為本方法的估計(jì)精度值。分層十折交叉驗(yàn)證的正確率公式如式(10)所示:

    其中,是第 折計(jì)算得到的正確率。通過分層十折交叉驗(yàn)證計(jì)算得到的正確率,可以知道模型在整體上的性能情況,另外通過計(jì)算其平均值和標(biāo)準(zhǔn)差,比較不同模型的穩(wěn)定性。

    3.2? ?實(shí)驗(yàn)結(jié)果與分析

    本實(shí)驗(yàn)為了驗(yàn)證提出的集成模型具有更好的存活性預(yù)測(cè)性能,將集成融合RF-LGC模型分別與單一的隨機(jī)森林、LightGBM和CatBoost模型進(jìn)行對(duì)比。表3是對(duì)肺癌數(shù)據(jù)分類的實(shí)驗(yàn)結(jié)果,包括四種模型在肺癌數(shù)據(jù)集上進(jìn)行分層十折交叉驗(yàn)證運(yùn)算得到的各項(xiàng)指標(biāo)、標(biāo)準(zhǔn)差和均值。

    從表3中可以看到,隨機(jī)森林、LightGBM、CatBoost和集成模型RF-LGC這四種模型敏感性的均值分別是0.863338、0.872936、0.898075、0.893957,特異性的均值分別是0.774608、0.790723、0.780762、0.784848,準(zhǔn)確性的均值分別是0.978158、0.979854、0.980033、0.980242,可以看出這三個(gè)指標(biāo)在模型中的均值屬集成模型RF-LGC最高,次之是CatBoost;四種模型的敏感性標(biāo)準(zhǔn)差分別是0.020570、0.020015、0.025285、0.023157,特異性標(biāo)準(zhǔn)差分別是0.024972、0.017865、0.024759、0.017315,準(zhǔn)確性標(biāo)準(zhǔn)差分別是0.002559、0.002003、0.002390、0.001904,可以看出這三個(gè)指標(biāo)在模型中的標(biāo)準(zhǔn)差屬集成模型RF-LGC最低,次之是CatBoost。

    為了更直觀地展示集成模型RF-LGC的優(yōu)越性,我們以圖形的方式對(duì)實(shí)驗(yàn)結(jié)果進(jìn)行展示。圖2以折線圖來展示這四種模型在分層十折交叉驗(yàn)證中的敏感性值,圖3和圖4分別是特異性和準(zhǔn)確性折線圖。從圖2中可以看出,由于正類樣本在驗(yàn)證中分布不均,敏感性的值變化較大,CatBoost和集成模型RF-LGC優(yōu)劣難分,二者在整體上都要優(yōu)于LightGBM,次之是隨機(jī)森林。從圖3中可以看出,集成RF-LGC模型的波動(dòng)與LightGBM、CatBoost大致相似,LightGBM的特異性優(yōu)于RF-LGC模型,RF-LGC模型的特異性優(yōu)于CatBoost。隨機(jī)森林波動(dòng)過大,其穩(wěn)定性相對(duì)于其三個(gè)模型較差。從圖4中可以看出,在準(zhǔn)確性上可以排序?yàn)椋杭赡P蚏F-LGC優(yōu)于CatBoost,CatBoost優(yōu)于LightGBM,LightGBM優(yōu)于隨機(jī)森林。從以上分析結(jié)果可以看出,本研究所提出的集成模型得到的三個(gè)指標(biāo)的均值都大于各個(gè)基模型,而標(biāo)準(zhǔn)差也都更小,證明了該模型的泛化能力更強(qiáng)。

    本研究所構(gòu)建的集成融合模型不僅準(zhǔn)確性最高,而且表現(xiàn)出了更好的穩(wěn)定性和泛化性,敏感性和特異性均值分別達(dá)到了0.893957和0.784848,這兩者也共同為準(zhǔn)確性提供了較高的均值,達(dá)到了0.980242,因此本研究提出的模型能夠達(dá)到較好的預(yù)測(cè)結(jié)果,能夠有效地協(xié)助醫(yī)療領(lǐng)域做出相應(yīng)的決策。

    4? ?結(jié)論(Conclusion)

    本文提出了一種肺癌存活性預(yù)測(cè)的集成融合模型。該模型基于集成學(xué)習(xí)兩大類不同的機(jī)器學(xué)習(xí)技術(shù),充分發(fā)揮各個(gè)模型的優(yōu)點(diǎn),能夠捕獲數(shù)據(jù)中的復(fù)雜模式,高效而簡潔,再利用線性回歸來融合構(gòu)建模型,增強(qiáng)了各個(gè)基模型的穩(wěn)定性。本文使用了真實(shí)的肺癌數(shù)據(jù),且結(jié)果表明所提出的集成模型能夠達(dá)到理想的預(yù)測(cè)精度,穩(wěn)定性和泛化能力都較強(qiáng),因此能夠推廣到醫(yī)療領(lǐng)域?yàn)榘┌Y病人預(yù)后預(yù)測(cè)提供決策,以彌補(bǔ)傳統(tǒng)經(jīng)驗(yàn)預(yù)測(cè)帶來的不足,降低醫(yī)療成本,對(duì)癌癥的治療和預(yù)測(cè)都具有很大的現(xiàn)實(shí)意義。

    參考文獻(xiàn)(References)

    [1] 王宇燕,王杜娟,王延章,等.改進(jìn)隨機(jī)森林的集成分類方法預(yù)測(cè)結(jié)直腸癌存活性[J].管理科學(xué),2017,30(1):95-106.

    [2] 郭占芳,張紅武,楊如意,等.益氣復(fù)脈對(duì)中晚期肺癌患者免疫功能和生存質(zhì)量的影響[J].中國現(xiàn)代醫(yī)學(xué)雜志,2017,27(6):88-92.

    [3] CHEN H, LIN Z, WU H G, et al. Diagnosis of colorectal cancer by near-infrared optical fiber spectroscopy and random forest[J]. Spectrochimica Acta Part A: Molecular and Biomolecular Spectroscopy, 2015, 135A:185-191.

    [4] AZAR A T, ELSHAZLY H I, HASSANIEN A E, et al. A random forest classifier for lymph diseases[J]. Computer Methods and Programs in Biomedicine, 2014, 113(2):465-473.

    [5] DEVI M A, RAVI S, VAISHNAVI J, et al. Classification of cervical cancer using artificial neural networks[J]. Procedia Computer Science, 2016, 89:465-472.

    [6] LIN D, ATHANASIOS V V, TANG Y, et al. Neural networks for computer-aided diagnosis in medicine: A review[J]. Neurocomputing, 2016, 216(5):700-708.

    [7] 趙巒嘯,劉金水,姚云霞,等.基于隨機(jī)森林算法的陸相沉積烴源巖定量地震刻畫:以東海盆地長江坳陷為例[J].地球物理學(xué)報(bào),2021,64(2):700-715.

    [8] AZAR A T, EI-SAID S A. Performance analysis of support vector machines classifiers in breast cancer mammography recongnition[J]. Neural Computing and Applications, 2014, 24(5):1163-1177.

    [9] 王月,趙茂先.基于最大最小爬山算法的肺癌預(yù)后模型[J].山東科技大學(xué)學(xué)報(bào)(自然科學(xué)版),2020,39(2):105-110.

    [10] 譚鈺潔,何子凡,余運(yùn)芳,等.首診Ⅳ期乳腺癌生存預(yù)測(cè)模型建立并驗(yàn)證:一項(xiàng)基于機(jī)器算法的研究[J].嶺南現(xiàn)代臨床外科,2020,20(3):273-279.

    [11] 殷子博.基于決策樹算法的癌癥合成致死基因組合的預(yù)測(cè)及預(yù)后分析[D].南京:南京郵電大學(xué),2020.

    [12] DELEN D, WALKER G, KADAM A. Predicting breast cancer survivability: A comparison of three data mining methods[J]. Artificial Intelligence in Medicine, 2005, 34(2):113-127.

    [13] 邱少明,楊雯升,杜秀麗,等.優(yōu)化隨機(jī)森林模型的網(wǎng)絡(luò)故障預(yù)測(cè)[J].計(jì)算機(jī)應(yīng)用與軟件,2021,38(2):103-109,170.

    [14] 蘇慶,林華智,黃劍鋒,等.結(jié)合CNN和Catboost算法的惡意安卓應(yīng)用檢測(cè)模型[J].計(jì)算機(jī)工程與應(yīng)用,2021,57(15):140-146.

    [15] 陳志君,朱振闖,孫仕軍,等.Stacking集成模型模擬膜下滴灌玉米逐日蒸散量和作物系數(shù)[J].農(nóng)業(yè)工程學(xué)報(bào),2021,37(5):95-104.

    [16] 扈文秀,蘇振興,楊櫟.基于隨機(jī)森林方法的投資者概念關(guān)注對(duì)概念指數(shù)收益預(yù)測(cè)及交易策略的研究[J].預(yù)測(cè),2021,40(1):60-66.

    [17] 李昆明,厲文婕.基于利用BP神經(jīng)網(wǎng)絡(luò)進(jìn)行Stacking模型融合算法的電力非節(jié)假日負(fù)荷預(yù)測(cè)研究[J].軟件,2019,40(9):176-181.

    [18] 吳彤,李勇,葛瑩,等.利用Stacking集成學(xué)習(xí)估算柑橘葉片氮含量[J].農(nóng)業(yè)工程學(xué)報(bào),2021,37(13):163-171.

    [19] MOLINA-MAYO C, HERNNDEZ-BORGES J, BORGES-MIQUEL T M, et al. Determination of pesticides in wine using micellar electrokinetic chromatography with UV detection and sample stacking[J]. Journal of Chromatography A, 2007, 1150(1/2):348-355.

    [20] 耿琪深,王豐華,金霄.基于Gammatone濾波器倒譜系數(shù)與鯨魚算法優(yōu)化隨機(jī)森林的干式變壓器機(jī)械故障聲音診斷[J].電力自動(dòng)化設(shè)備,2020,40(8):191-196,224.

    作者簡介:

    李秀芹(1967-),女,博士,教授.研究領(lǐng)域:計(jì)算機(jī)網(wǎng)絡(luò),數(shù)據(jù)庫與信息處理.

    李? ?琳(1995-),女,碩士生.研究領(lǐng)域:數(shù)據(jù)挖掘.

    張慢麗(1994-),女,碩士生.研究領(lǐng)域:數(shù)據(jù)挖掘.

    猜你喜歡
    集成學(xué)習(xí)隨機(jī)森林
    基于局部有效性的選擇性決策樹集成
    基于集成學(xué)習(xí)的高送轉(zhuǎn)股票研究
    基于稀疏編碼器與集成學(xué)習(xí)的文本分類
    基于屬性權(quán)重的Bagging回歸算法研究
    隨機(jī)森林在棉蚜蟲害等級(jí)預(yù)測(cè)中的應(yīng)用
    基于二次隨機(jī)森林的不平衡數(shù)據(jù)分類算法
    軟件(2016年7期)2017-02-07 15:54:01
    拱壩變形監(jiān)測(cè)預(yù)報(bào)的隨機(jī)森林模型及應(yīng)用
    基于隨機(jī)森林算法的飛機(jī)發(fā)動(dòng)機(jī)故障診斷方法的研究
    基于改進(jìn)的LogitBoost算法的垃圾網(wǎng)頁檢測(cè)研究
    科技視界(2015年27期)2015-10-08 11:01:28
    基于隨機(jī)森林算法的B2B客戶分級(jí)系統(tǒng)的設(shè)計(jì)
    99精国产麻豆久久婷婷| 丝瓜视频免费看黄片| 国产深夜福利视频在线观看| 免费看光身美女| 色综合色国产| 欧美bdsm另类| 免费久久久久久久精品成人欧美视频 | 直男gayav资源| 高清在线视频一区二区三区| 麻豆成人av视频| 色综合色国产| 男女边摸边吃奶| 精品久久久久久久久亚洲| 最近最新中文字幕免费大全7| 男女国产视频网站| 色婷婷久久久亚洲欧美| 一级av片app| 免费黄频网站在线观看国产| 国产成人精品福利久久| 午夜福利在线在线| 欧美精品国产亚洲| 国产高清有码在线观看视频| 精品久久久久久久末码| 午夜激情久久久久久久| 老师上课跳d突然被开到最大视频| 毛片女人毛片| 免费观看无遮挡的男女| 又粗又硬又长又爽又黄的视频| 成人影院久久| 成人18禁高潮啪啪吃奶动态图 | 99久久精品国产国产毛片| 亚洲欧美清纯卡通| 干丝袜人妻中文字幕| 国产色爽女视频免费观看| 高清视频免费观看一区二区| 这个男人来自地球电影免费观看 | 在线观看免费日韩欧美大片 | 97在线人人人人妻| 18+在线观看网站| 亚洲成色77777| 国产乱人视频| 国产一区亚洲一区在线观看| 日本爱情动作片www.在线观看| 一级毛片我不卡| 建设人人有责人人尽责人人享有的 | 亚洲美女搞黄在线观看| 麻豆成人av视频| 亚洲精品aⅴ在线观看| 国产午夜精品久久久久久一区二区三区| 亚洲国产精品专区欧美| 舔av片在线| 久久久色成人| 观看免费一级毛片| 九草在线视频观看| 亚洲av中文av极速乱| av免费在线看不卡| 国产淫片久久久久久久久| 在线观看一区二区三区激情| 色网站视频免费| 国产 一区精品| 欧美另类一区| 能在线免费看毛片的网站| 偷拍熟女少妇极品色| 国产av精品麻豆| 国产 一区 欧美 日韩| 成人综合一区亚洲| 18+在线观看网站| 国产日韩欧美在线精品| 欧美成人午夜免费资源| 99热这里只有精品一区| 国产精品久久久久久久久免| 最近最新中文字幕大全电影3| 久久久久久久亚洲中文字幕| 天堂俺去俺来也www色官网| 麻豆成人午夜福利视频| 亚洲av免费高清在线观看| 老司机影院成人| 久久久久精品性色| 好男人视频免费观看在线| 女人十人毛片免费观看3o分钟| 97精品久久久久久久久久精品| 最近最新中文字幕大全电影3| 国产精品.久久久| av在线观看视频网站免费| av又黄又爽大尺度在线免费看| 久久青草综合色| 亚洲人与动物交配视频| 欧美极品一区二区三区四区| 亚洲最大成人中文| 美女主播在线视频| 少妇裸体淫交视频免费看高清| 男人爽女人下面视频在线观看| 亚洲国产精品国产精品| 看十八女毛片水多多多| 成人国产麻豆网| 18禁在线播放成人免费| 国产精品一二三区在线看| 成人美女网站在线观看视频| 一个人看的www免费观看视频| 只有这里有精品99| 久久ye,这里只有精品| 大香蕉97超碰在线| 成人美女网站在线观看视频| 大话2 男鬼变身卡| 少妇丰满av| 深爱激情五月婷婷| 国产精品99久久99久久久不卡 | 国产成人精品福利久久| 午夜免费观看性视频| 久久精品久久久久久噜噜老黄| 亚洲一区二区三区欧美精品| av免费在线看不卡| 在线观看免费高清a一片| 国产精品一二三区在线看| 秋霞伦理黄片| 日韩av不卡免费在线播放| 黄片无遮挡物在线观看| 国产男女内射视频| 色婷婷av一区二区三区视频| 丰满人妻一区二区三区视频av| 欧美少妇被猛烈插入视频| 在线 av 中文字幕| 精品一区二区三卡| 亚洲欧美一区二区三区黑人 | 亚洲国产精品999| 精品人妻视频免费看| 国产成人a∨麻豆精品| 欧美丝袜亚洲另类| 一级毛片aaaaaa免费看小| 亚洲成人av在线免费| 视频区图区小说| 超碰av人人做人人爽久久| 乱系列少妇在线播放| 成人综合一区亚洲| 久久久久久久久久久免费av| 亚洲美女视频黄频| 卡戴珊不雅视频在线播放| 香蕉精品网在线| 中文资源天堂在线| 最黄视频免费看| 久久人人爽av亚洲精品天堂 | 国产白丝娇喘喷水9色精品| 亚洲精品,欧美精品| 黑人猛操日本美女一级片| 国产淫片久久久久久久久| 一级爰片在线观看| 欧美xxⅹ黑人| 国产亚洲午夜精品一区二区久久| 日韩 亚洲 欧美在线| 在线观看免费视频网站a站| 边亲边吃奶的免费视频| 久久ye,这里只有精品| 99热6这里只有精品| 国产精品国产av在线观看| 天天躁夜夜躁狠狠久久av| 又粗又硬又长又爽又黄的视频| 毛片女人毛片| 亚洲丝袜综合中文字幕| av福利片在线观看| 日韩不卡一区二区三区视频在线| 日本av手机在线免费观看| 国产亚洲一区二区精品| 日本黄色日本黄色录像| 日本wwww免费看| 王馨瑶露胸无遮挡在线观看| 老女人水多毛片| 精品国产一区二区三区久久久樱花 | 国产精品一区二区性色av| 色吧在线观看| 插阴视频在线观看视频| 联通29元200g的流量卡| 在线观看av片永久免费下载| 国产高清国产精品国产三级 | 婷婷色麻豆天堂久久| 日日摸夜夜添夜夜爱| 久久久久久久亚洲中文字幕| 最黄视频免费看| 亚洲av免费高清在线观看| 亚洲欧美成人精品一区二区| 一本—道久久a久久精品蜜桃钙片| 91精品伊人久久大香线蕉| 丝瓜视频免费看黄片| 成人亚洲欧美一区二区av| 日本wwww免费看| 午夜老司机福利剧场| 国产 一区 欧美 日韩| 国产成人freesex在线| 亚洲天堂av无毛| 最近中文字幕高清免费大全6| 狠狠精品人妻久久久久久综合| 三级经典国产精品| 亚州av有码| av卡一久久| 精品亚洲乱码少妇综合久久| 大话2 男鬼变身卡| 中文精品一卡2卡3卡4更新| 国产精品嫩草影院av在线观看| 中文字幕久久专区| 亚洲av国产av综合av卡| 国产综合精华液| 美女高潮的动态| 一个人看视频在线观看www免费| 一区在线观看完整版| 久久国产亚洲av麻豆专区| av线在线观看网站| 国产成人精品久久久久久| 五月玫瑰六月丁香| 一级黄片播放器| 夜夜爽夜夜爽视频| 久久久久国产网址| 亚洲怡红院男人天堂| 18禁裸乳无遮挡免费网站照片| 国产精品麻豆人妻色哟哟久久| 亚洲第一区二区三区不卡| 欧美日韩视频高清一区二区三区二| 丝袜喷水一区| 草草在线视频免费看| 乱系列少妇在线播放| 成人亚洲精品一区在线观看 | 青春草亚洲视频在线观看| 午夜激情福利司机影院| 不卡视频在线观看欧美| 又粗又硬又长又爽又黄的视频| 久久久久人妻精品一区果冻| 国产爽快片一区二区三区| 久久久久久久久久人人人人人人| 麻豆国产97在线/欧美| 美女高潮的动态| 国产熟女欧美一区二区| 久久ye,这里只有精品| 香蕉精品网在线| 精品国产露脸久久av麻豆| 久久久久人妻精品一区果冻| 一级爰片在线观看| 成人黄色视频免费在线看| 一本一本综合久久| 成人免费观看视频高清| 在线观看三级黄色| 尤物成人国产欧美一区二区三区| 亚洲欧美精品专区久久| 下体分泌物呈黄色| 国产av精品麻豆| 亚洲av电影在线观看一区二区三区| 丝瓜视频免费看黄片| 亚洲av国产av综合av卡| 色婷婷久久久亚洲欧美| 黑丝袜美女国产一区| 狂野欧美激情性xxxx在线观看| 尤物成人国产欧美一区二区三区| 亚洲成人中文字幕在线播放| 少妇 在线观看| 九九在线视频观看精品| 久久6这里有精品| 青春草视频在线免费观看| 日韩伦理黄色片| 51国产日韩欧美| 久久久久久久久久久免费av| 校园人妻丝袜中文字幕| 日韩在线高清观看一区二区三区| 国产欧美另类精品又又久久亚洲欧美| 老熟女久久久| 欧美bdsm另类| 成年免费大片在线观看| 日韩av在线免费看完整版不卡| 亚洲高清免费不卡视频| 黄色配什么色好看| 偷拍熟女少妇极品色| 亚洲第一av免费看| 高清日韩中文字幕在线| 欧美极品一区二区三区四区| 少妇人妻一区二区三区视频| 三级国产精品片| 亚洲电影在线观看av| 超碰av人人做人人爽久久| 亚洲三级黄色毛片| 免费不卡的大黄色大毛片视频在线观看| 蜜桃亚洲精品一区二区三区| 国产黄频视频在线观看| 狂野欧美白嫩少妇大欣赏| 亚洲成人av在线免费| 久久人人爽av亚洲精品天堂 | 免费高清在线观看视频在线观看| 亚洲国产精品成人久久小说| 天堂中文最新版在线下载| 久久青草综合色| 亚洲人成网站在线观看播放| 高清av免费在线| 尤物成人国产欧美一区二区三区| 哪个播放器可以免费观看大片| 亚洲欧美一区二区三区国产| 交换朋友夫妻互换小说| 一本一本综合久久| 肉色欧美久久久久久久蜜桃| 一二三四中文在线观看免费高清| 欧美+日韩+精品| 一级片'在线观看视频| 国产在线一区二区三区精| 成人黄色视频免费在线看| 狂野欧美白嫩少妇大欣赏| 日本-黄色视频高清免费观看| 一区二区三区四区激情视频| 不卡视频在线观看欧美| 观看美女的网站| 免费看不卡的av| 高清av免费在线| 久久久a久久爽久久v久久| av国产免费在线观看| 亚洲欧美一区二区三区国产| 边亲边吃奶的免费视频| 老司机影院成人| 免费av不卡在线播放| 久久久久久久精品精品| 亚洲,欧美,日韩| av一本久久久久| 夜夜爽夜夜爽视频| 国产精品人妻久久久影院| 99热这里只有精品一区| 我的老师免费观看完整版| 国国产精品蜜臀av免费| 久久精品国产亚洲网站| 免费看不卡的av| 国产黄频视频在线观看| 国产男人的电影天堂91| 亚洲四区av| 午夜免费观看性视频| 午夜福利在线在线| 99九九线精品视频在线观看视频| 亚洲成人一二三区av| 日韩,欧美,国产一区二区三区| 国产精品av视频在线免费观看| 毛片一级片免费看久久久久| 极品少妇高潮喷水抽搐| 高清黄色对白视频在线免费看 | 日韩三级伦理在线观看| 水蜜桃什么品种好| 国产永久视频网站| 少妇人妻精品综合一区二区| 婷婷色麻豆天堂久久| 国产精品99久久99久久久不卡 | 99视频精品全部免费 在线| 美女福利国产在线 | 成人影院久久| 欧美高清成人免费视频www| 97在线视频观看| 青春草视频在线免费观看| av又黄又爽大尺度在线免费看| 国产大屁股一区二区在线视频| 日韩制服骚丝袜av| 精品亚洲成a人片在线观看 | 国产精品人妻久久久久久| 97在线视频观看| h视频一区二区三区| 久久人人爽人人爽人人片va| 久久这里有精品视频免费| 一级片'在线观看视频| 亚洲第一av免费看| 国产精品免费大片| 午夜免费男女啪啪视频观看| 成人漫画全彩无遮挡| 小蜜桃在线观看免费完整版高清| 在线观看国产h片| 亚洲精品一二三| 91久久精品国产一区二区三区| 在线观看免费视频网站a站| 高清av免费在线| 久久精品熟女亚洲av麻豆精品| 日韩中文字幕视频在线看片 | 美女xxoo啪啪120秒动态图| 在线播放无遮挡| 久久影院123| 尾随美女入室| 最近中文字幕高清免费大全6| 免费看光身美女| 免费观看性生交大片5| 不卡视频在线观看欧美| 午夜福利视频精品| 精品国产一区二区三区久久久樱花 | 亚洲四区av| 亚洲欧美一区二区三区黑人 | 国产伦精品一区二区三区四那| 精品久久久久久久久av| 亚洲精品一二三| 在线观看国产h片| 人妻一区二区av| 亚洲国产成人一精品久久久| 久久99热这里只有精品18| av黄色大香蕉| 自拍欧美九色日韩亚洲蝌蚪91 | 日韩人妻高清精品专区| 三级国产精品片| 在线观看免费日韩欧美大片 | 狂野欧美激情性bbbbbb| 免费人妻精品一区二区三区视频| 亚洲欧美日韩另类电影网站 | 亚洲欧美中文字幕日韩二区| 国产爱豆传媒在线观看| 国产精品久久久久久精品电影小说 | 国产成人91sexporn| 久久精品国产鲁丝片午夜精品| 欧美亚洲 丝袜 人妻 在线| 国产精品久久久久成人av| 夜夜看夜夜爽夜夜摸| 国产亚洲精品久久久com| 免费观看av网站的网址| 下体分泌物呈黄色| 只有这里有精品99| 午夜精品国产一区二区电影| 高清日韩中文字幕在线| 成年女人在线观看亚洲视频| 中国国产av一级| 欧美人与善性xxx| 久久6这里有精品| 波野结衣二区三区在线| 久久久色成人| freevideosex欧美| 成人二区视频| 精品一区二区免费观看| 欧美一级a爱片免费观看看| 精品久久国产蜜桃| 国产成人一区二区在线| 久久韩国三级中文字幕| 亚洲第一区二区三区不卡| 亚洲国产精品成人久久小说| 亚洲真实伦在线观看| 嘟嘟电影网在线观看| 精品国产三级普通话版| 国产 一区 欧美 日韩| 久久人人爽人人爽人人片va| 欧美老熟妇乱子伦牲交| 国产成人免费无遮挡视频| 国产精品一区二区在线观看99| 婷婷色综合www| 91久久精品电影网| 国产69精品久久久久777片| 久久精品国产自在天天线| 伊人久久国产一区二区| 少妇的逼好多水| 97超碰精品成人国产| 国产黄片视频在线免费观看| 美女脱内裤让男人舔精品视频| 国产精品嫩草影院av在线观看| 在线观看av片永久免费下载| 亚洲av综合色区一区| 少妇人妻 视频| 直男gayav资源| 777米奇影视久久| 亚洲av中文字字幕乱码综合| 日本爱情动作片www.在线观看| 国产亚洲精品久久久com| 我的老师免费观看完整版| 亚洲精品成人av观看孕妇| 哪个播放器可以免费观看大片| 亚洲av在线观看美女高潮| 精品午夜福利在线看| 少妇的逼水好多| 精品少妇久久久久久888优播| 黄色日韩在线| 国产精品久久久久久精品电影小说 | 中文字幕精品免费在线观看视频 | 精品99又大又爽又粗少妇毛片| 我的女老师完整版在线观看| h视频一区二区三区| 免费大片18禁| 精品国产一区二区三区久久久樱花 | 国产高清三级在线| 搡老乐熟女国产| 不卡视频在线观看欧美| 婷婷色综合www| 中文字幕av成人在线电影| 一级av片app| 日本vs欧美在线观看视频 | 日韩一本色道免费dvd| 免费看日本二区| 久久久久久久久大av| 大又大粗又爽又黄少妇毛片口| 中国国产av一级| 国产黄片美女视频| 老司机影院成人| 日本与韩国留学比较| 老熟女久久久| 国国产精品蜜臀av免费| www.av在线官网国产| 18禁裸乳无遮挡免费网站照片| 精品人妻偷拍中文字幕| 在线亚洲精品国产二区图片欧美 | 哪个播放器可以免费观看大片| 成年免费大片在线观看| 这个男人来自地球电影免费观看 | 久久久久久久久大av| 日韩欧美一区视频在线观看 | 亚洲人成网站在线播| 精品午夜福利在线看| 日日摸夜夜添夜夜添av毛片| 欧美成人一区二区免费高清观看| 久久精品人妻少妇| 欧美高清性xxxxhd video| 午夜激情久久久久久久| 不卡视频在线观看欧美| 日本欧美国产在线视频| 国产真实伦视频高清在线观看| 乱码一卡2卡4卡精品| 日韩强制内射视频| 波野结衣二区三区在线| 最近的中文字幕免费完整| 欧美日韩精品成人综合77777| 国产高清三级在线| 国产精品女同一区二区软件| 在线天堂最新版资源| 人妻系列 视频| 日本wwww免费看| 久久久精品免费免费高清| 女人十人毛片免费观看3o分钟| 亚洲av日韩在线播放| 成人二区视频| 亚洲国产欧美在线一区| 欧美激情国产日韩精品一区| 国产亚洲精品久久久com| 免费人妻精品一区二区三区视频| 中文在线观看免费www的网站| 91久久精品国产一区二区三区| 一个人看的www免费观看视频| 国产精品一区www在线观看| 看非洲黑人一级黄片| 青春草视频在线免费观看| 啦啦啦中文免费视频观看日本| 国产免费福利视频在线观看| 91精品国产九色| 在线观看三级黄色| 亚洲国产日韩一区二区| 久久久久精品性色| 精品久久久久久久久亚洲| 男人添女人高潮全过程视频| 国精品久久久久久国模美| 午夜福利网站1000一区二区三区| 国产v大片淫在线免费观看| 一本色道久久久久久精品综合| 国产伦理片在线播放av一区| 美女cb高潮喷水在线观看| 亚洲美女黄色视频免费看| 亚洲国产毛片av蜜桃av| 国产黄片视频在线免费观看| 国产高潮美女av| 亚洲人成网站在线播| 国国产精品蜜臀av免费| 欧美最新免费一区二区三区| 久久久久性生活片| 97超视频在线观看视频| 伊人久久精品亚洲午夜| 国产精品久久久久久精品电影小说 | 国产成人aa在线观看| 搡女人真爽免费视频火全软件| 国产在线男女| 最后的刺客免费高清国语| 日本与韩国留学比较| 久久久久久久亚洲中文字幕| 久久精品久久精品一区二区三区| 欧美精品一区二区大全| 丝瓜视频免费看黄片| 成人影院久久| 肉色欧美久久久久久久蜜桃| 美女视频免费永久观看网站| 少妇的逼好多水| 亚洲色图av天堂| 下体分泌物呈黄色| 自拍偷自拍亚洲精品老妇| 久久久久久久国产电影| 久久久久视频综合| 80岁老熟妇乱子伦牲交| 午夜免费鲁丝| 最近中文字幕2019免费版| 国产亚洲精品久久久com| 国产亚洲5aaaaa淫片| 国产一区有黄有色的免费视频| 国产黄片视频在线免费观看| 国内少妇人妻偷人精品xxx网站| 直男gayav资源| 偷拍熟女少妇极品色| 大话2 男鬼变身卡| 久久久久久人妻| 久久ye,这里只有精品| 亚洲电影在线观看av| 亚洲av不卡在线观看| av一本久久久久| 日本免费在线观看一区| 一级av片app| 国产精品三级大全| 老司机影院毛片| 热re99久久精品国产66热6| 亚洲一级一片aⅴ在线观看| 久久鲁丝午夜福利片| 久久久久国产精品人妻一区二区| 最近最新中文字幕免费大全7| 欧美人与善性xxx| 老司机影院成人| 精品亚洲乱码少妇综合久久| 在线观看美女被高潮喷水网站| 欧美精品一区二区大全| 日日啪夜夜爽| 亚洲精品久久午夜乱码| 男的添女的下面高潮视频| av在线app专区| 嫩草影院新地址| 91午夜精品亚洲一区二区三区| 又爽又黄a免费视频| 亚洲精品久久午夜乱码| 91午夜精品亚洲一区二区三区| 免费黄频网站在线观看国产| 亚洲,一卡二卡三卡| 亚洲av国产av综合av卡| 一级爰片在线观看| 美女福利国产在线 | 国产美女午夜福利| 丰满人妻一区二区三区视频av| 国产成人精品福利久久| 国产视频内射|