• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于ADASYN和WGAN的混合不平衡數(shù)據(jù)處理方法

    2024-01-01 00:00:00周萬珍盛媛媛張永強馬金龍
    河北工業(yè)科技 2024年4期
    關(guān)鍵詞:隨機森林數(shù)據(jù)處理

    摘 要:為了解決不平衡數(shù)據(jù)集中少數(shù)類樣本分類精度較低的問題,提出了一種處理不平衡數(shù)據(jù)集的ADASYN-WGAN方法。首先,采用ADASYN(adaptive synthetic sampling)算法生成少數(shù)類樣本,用這些生成樣本代替WGAN(wasserstein generative adversarial networks)中的隨機噪聲;其次,利用WGAN算法生成符合原始數(shù)據(jù)集分布規(guī)律的少數(shù)類樣本,構(gòu)建平衡數(shù)據(jù)集;然后,在6個公開數(shù)據(jù)集上,采用隨機森林分類器對所提方法和4種過采樣算法得出的處理結(jié)果分別與原始數(shù)據(jù)集進行對比;最后,通過F1-Score,G-mean和AUC等分類評估指標的表現(xiàn)驗證所提方法的有效性。結(jié)果表明:在對比實驗中,經(jīng)過ADASYN-WGAN方法得到的平衡數(shù)據(jù)集在隨機森林分類器的十折交叉驗證中,4個公開數(shù)據(jù)集中的各項分類評估指標值均達到最優(yōu),雖然另2個公開數(shù)據(jù)集中的AUC值略低,但其F1-Score和G-mean取得了最高值。所提出的ADASYN-WGAN方法可生成高質(zhì)量的數(shù)據(jù)樣本,并可為解決不平衡數(shù)據(jù)集中少數(shù)類樣本的預(yù)測偏差問題提供參考。

    關(guān)鍵詞:數(shù)據(jù)處理;不平衡數(shù)據(jù);WGAN;ADASYN;過采樣方法;隨機森林

    中圖分類號:

    TP399

    文獻標識碼:A

    DOI: 10.7535/hbgykj.2024yx04007

    Hybrid imbalanced data processing based on ADASYN and WGAN

    ZHOU Wanzhen1,2, SHENG Yuanyuan1, ZHANG Yongqiang 1,2, MA Jinlong1,2

    (1.School of Information Science and Engineering, Hebei University of Science and Technology, Shijiazhuang, Hebei 050018, China; 2.Hebei Technology Innovation Center of Intelligent IoT, Shijiazhuang, Hebei 050018, China)

    Abstract:In order to solve the problem of low classification accuracy of minority class samples in imbalanced datasets, an ADASYN-WGAN method was proposed to deal with imbalanced datasets. Firstly, the minority class samples were generated using the ADASYN algorithm, and these generated samples were used to replace the random noise in the WGAN; Secondly, the minority class samples conforming to the distribution law of the original dataset were generated using the WGAN algorithm to construct the balanced dataset; Then, the processing results derived from the proposed method and the four over-sampling algorithms were compared with the original dataset using the random forest classifier on six public datasets, respectively. Finally, the effectiveness of the proposed method was verified by the performance of classification assessment indexes such as F1-Score, G-mean and AUC. The results show that in the comparison experiments, the balanced dataset obtained by the ADASYN-WGAN method achieves the optimal values of all classification assessment indexes in four public datasets in the ten-fold cross-validation of the random forest classifier, and the F1-Score and G-mean achieve the highest values in the other two public datasets, although the AUC values are slightly lower. The proposed ADASYN-WGAN method can generate high-quality data samples and provide reference for solving the problem of prediction bias for a few class samples in unbalanced datasets.

    Keywords:data processing; imbalanced data; WGAN; ADASYN; oversampling method; random forest

    不平衡數(shù)據(jù)指的是,在一個數(shù)據(jù)集中不同類別的樣本數(shù)量差異很大。例如,在二分類問題中,一類的樣本數(shù)量遠遠多于另一類的樣本數(shù)量,這就導(dǎo)致數(shù)據(jù)分布不平衡。不平衡數(shù)據(jù)的現(xiàn)象廣泛存在于金融預(yù)測、氣象預(yù)測、網(wǎng)絡(luò)入侵檢測、醫(yī)療診斷等實際應(yīng)用中 [1-4]。對于決策樹、隨機森林、支持向量機等傳統(tǒng)的分類模型,由于不平衡數(shù)據(jù)集中多數(shù)類樣本數(shù)量遠遠多于少數(shù)類樣本數(shù)量,常導(dǎo)致模型在學(xué)習(xí)過程中更加傾向于學(xué)習(xí)多數(shù)類樣本的特征,從而使預(yù)測結(jié)果產(chǎn)生偏差。但實際上少數(shù)類樣本往往比多數(shù)類樣本更具有價值,因此樣本類別的誤判可能會造成嚴重的損失。比如在腫瘤檢測任務(wù)中,如果在一個數(shù)據(jù)集中腫瘤樣本的數(shù)量較少,無腫瘤樣本數(shù)量較多,模型可能會更容易將腫瘤預(yù)測結(jié)果判定為無腫瘤,從而導(dǎo)致誤診。因此,如何提高不平衡數(shù)據(jù)集中少數(shù)類樣本的分類精度具有重要的研究價值。

    近年來,國內(nèi)外學(xué)者提出了各種各樣的方法來解決不平衡數(shù)據(jù)集中少數(shù)類樣本分類精度較低的問題。GEETHA等[5] 利用SMOTE(synthetic minority oversampling technique)過采樣算法處理醫(yī)療數(shù)據(jù)集中的不平衡,但該算法在合成新樣本時存在盲目性和邊緣化的問題。雖然隨機欠采樣[6]是一種簡單而有效的處理不平衡數(shù)據(jù)集的方法,但該方法通過在多數(shù)類樣本中隨機刪除一定數(shù)量的樣本來使剩余樣本的數(shù)量與少數(shù)類樣本數(shù)量相匹配,這可能導(dǎo)致刪去對分類具有重要價值的樣本。FU等[7] 采用自適應(yīng)綜合抽樣(adaptive synthetic sampling,ADASYN)算法來生成新樣本,該方法雖然考慮了少數(shù)類樣本與其最近鄰的多數(shù)類樣本之間的差距,但卻忽略了其他多數(shù)類樣本之間的差異,導(dǎo)致生成的新樣本缺乏足夠的多樣性。隨著人工智能的發(fā)展,深度學(xué)習(xí)處理不平衡數(shù)據(jù)集已廣泛應(yīng)用在各項研究中[8-10]。生成對抗網(wǎng)絡(luò)(generative adversarial networks,GAN)最初被設(shè)計用于生成逼真的圖像,但由于其具有還原數(shù)據(jù)集分布特征的能力,因此被廣泛用于擴增少數(shù)類樣本數(shù)據(jù),從而解決數(shù)據(jù)不平衡問題[11]。LEE等[12]設(shè)計了基于GAN的不平衡數(shù)據(jù)入侵檢測系統(tǒng)。阿克弘等[13]將GAN的數(shù)據(jù)增強技術(shù)成功應(yīng)用于用戶數(shù)據(jù)重構(gòu)中。SHARMA等[14]提出了一種基于GAN和SMOTE的混合過采樣方法,但其中GAN模型存在訓(xùn)練不穩(wěn)定、梯度消失和模式崩潰等問題 [15-16]?;赪asserstein距離的生成對抗網(wǎng)絡(luò)(wasserstein generative adversarial networks,WGAN)作為GAN的改進算法,利用Wasserstein距離和其他改進有效解決了GAN中存在的問題,并保證算法模型能更好地學(xué)習(xí)整體數(shù)據(jù)分布特征[17]。LEE等[18]采用WGAN的數(shù)據(jù)增強方法有效構(gòu)建環(huán)境管理系統(tǒng)所需的大量數(shù)據(jù)。然而,WGAN算法在訓(xùn)練過程中,若少數(shù)類樣本的數(shù)量太少,生成器(generator,G)可能會陷入局部最優(yōu)解,導(dǎo)致生成的少數(shù)類樣本質(zhì)量較低,使得生成樣本缺乏多樣性和真實性。

    為了解決上述問題,提出一種ADASYN-WGAN方法來處理不平衡數(shù)據(jù)集。該方法利用ADASYN算法生成的少數(shù)類樣本代替隨機噪聲作為WGAN生成器的輸入,解決WGAN受限于原始少數(shù)類樣本問題。同時,通過WGAN訓(xùn)練生成符合原始數(shù)據(jù)集分布規(guī)律的少數(shù)類樣本,解決ADASYN算法只考慮少數(shù)類樣本與其最近鄰的多數(shù)類樣本之間的差距而導(dǎo)致生成的新樣本不夠多樣化的問題。ADASYN-WGAN方法充分結(jié)合了ADASYN算法和WGAN算法2種獨立算法的優(yōu)勢并克服其各自缺陷,在這2種算法的協(xié)同作用下生成多樣化且符合原始數(shù)據(jù)分布規(guī)律的數(shù)據(jù),從而提高不平衡數(shù)據(jù)集中少數(shù)類樣本的分類精度。

    1 ADASYN-WGAN方法的構(gòu)建及實現(xiàn)

    1.1 ADASYN-WGAN方法的構(gòu)建

    受博弈論的啟發(fā),GOODFELLOW等[19]提出了一種生成對抗網(wǎng)絡(luò)(GAN)的訓(xùn)練方法。GAN包括2個部分:生成器和判別器(discriminator,D)。生成器的任務(wù)是生成逼真的樣本,而判別器的任務(wù)是盡可能準確地區(qū)分生成的樣本和真實樣本。在訓(xùn)練過程中,生成器與判別器形成了類似于博弈論零和博弈的動態(tài)平衡,雙方性能此消彼長,相互競爭提升。通過這種訓(xùn)練方式,GAN可以學(xué)習(xí)生成逼真的樣本數(shù)據(jù)。盡管GAN在生成新樣本方面表現(xiàn)良好,但它存在訓(xùn)練不穩(wěn)定、梯度消失和模式崩潰等問題。WGAN的出現(xiàn)基本解決了原始GAN存在的多種問題[20]。

    在WGAN算法中,隨機噪聲作為生成器的輸入,用于產(chǎn)生“虛假”數(shù)據(jù),然后將生成的“虛假”數(shù)據(jù)和真實樣本數(shù)據(jù)合并成訓(xùn)練集進行模型訓(xùn)練,最后通過生成器和判別器之間的對抗訓(xùn)練生成“以假亂真”的數(shù)據(jù)樣本。隨機噪聲作為生成器的輸入引入了一定的隨機性,使得生成器可以通過學(xué)習(xí)并利用噪聲中的特征來模擬真實數(shù)據(jù)的分布情況。然而,由于隨機噪聲是完全隨機的,可能導(dǎo)致生成的數(shù)據(jù)樣本不穩(wěn)定。同時,隨機噪聲作為生成器的輸入可能使生成器更傾向于生成相似的樣本,從而導(dǎo)致生成的樣本缺乏多樣性。為了改進這一問題,使用ADASYN算法生成的少數(shù)類樣本代替隨機噪聲作為WGAN中生成器的輸入,有助于提高輸入樣本的質(zhì)量,從而產(chǎn)生多樣性且高質(zhì)量的數(shù)據(jù)樣本。ADASYN-WGAN方法結(jié)構(gòu)圖如圖1所示。

    1.1.1 ADASYN算法

    ADASYN算法具有自適應(yīng)生成合成樣本的能力[21]。該算法會根據(jù)每個少數(shù)類樣本周圍的多數(shù)類樣本數(shù)量動態(tài)地調(diào)整生成樣本的數(shù)量,以確保生成的樣本更好地適應(yīng)少數(shù)類樣本的分布。這種自適應(yīng)性使得ADASYN算法能夠更精準地生成合成樣本,有效地應(yīng)對不同類別之間的數(shù)據(jù)分布差異。

    在訓(xùn)練集中,將ms和ml分別定義為少數(shù)類樣本的數(shù)量和多數(shù)類樣本的數(shù)量。在ADASYN-WGAN方法中,首先利用ADASYN算法生成新的少數(shù)類樣本ui。ADASYN算法步驟如下:1)計算要合成的樣本數(shù)量G1;2)對于每個少數(shù)類樣本xi,根據(jù)n維空間中的歐幾里得距離找到K近鄰,并計算K近鄰中多數(shù)類樣本的占比ri=Δi/K,(i=1,2,…, ms),Δi是K(xi)附近的大多數(shù)類的個數(shù),因此ri∈(0,1];3)對ri利用式(1)進行標準化。

    r^i=ri∑msi=1ri。(1)

    利用式(2)計算每個樣本xi需要生成的合成樣本的個數(shù)gi:

    gi=G1×r^i。(2)

    由gi計算出少數(shù)類樣本需要生成的樣本數(shù),然后利用式(3)生成新合成的少數(shù)類樣本ui,從而實現(xiàn)數(shù)據(jù)平衡。

    ui=xi+rand(0,1)xzi-xi,(3)

    式中:ui表示新生成的少數(shù)類樣本;xi表示原始的少數(shù)類樣本;xzi表示隨機選出的近鄰樣本。

    1.1.2 WGAN算法

    WGAN引入了Wasserstein距離代替了原始GAN中使用的Jensen-Shannon散度,用它來衡量2個分布之間的距離。Wasserstein距離的獨特之處在于,即使在2個分布沒有重疊的情況下,它仍能表現(xiàn)2個分布之間的距離關(guān)系。因此,Wasserstein距離作為一種更可靠的度量,能夠在訓(xùn)練過程中指示每次迭代的優(yōu)化信息,促使生成器產(chǎn)生更高質(zhì)量的數(shù)據(jù),這使得WGAN成為一種更穩(wěn)定且有效的生成對抗網(wǎng)絡(luò)算法。

    WGAN生成器和判別器的損失函數(shù)表達式分別如式(4)和式(5)所示。

    minG-EzDGz,(4)

    maxD∈ΩExDx-Ez1-DGz,(5)

    式中:Ω表示1-Lipschitz函數(shù)的集合;Dx表示從真實數(shù)據(jù)樣本x得到的概率分布;Gz表示的是隨機噪聲z通過生成器生成的數(shù)據(jù);DGz表示的是生成數(shù)據(jù)被判別器認為是真實數(shù)據(jù)的概率。

    1.2 ADASYN-WGAN方法的實現(xiàn)

    ADASYN-WGAN方法的具體實現(xiàn)步驟如下。

    Step1:通過ADASYN算法生成新的少數(shù)類樣本ui。

    Step2:定義初始化WGAN生成器和判別器的網(wǎng)絡(luò)結(jié)構(gòu)。

    Step3:將ui作為WGAN生成器的輸入。

    Step4:通過生成器生成一批假樣本S′。

    Step5:將真實樣本和生成器生成的假樣本S′合為一個訓(xùn)練集,作為判別器的輸入。

    Step6:訓(xùn)練判別器,使其能正確區(qū)分真實樣本和假樣本。

    Step7:訓(xùn)練生成器,使其能夠生成更逼真的假樣本,以欺騙判別器。

    重復(fù)Step4—Step7直至WGAN收斂,達到納什平衡,生成器生成的數(shù)據(jù)足以“以假亂真”。

    ADASYN-WGAN方法的偽代碼如表1所示。

    ADASYN-WGAN方法中,首先利用ADASYN算法生成的少數(shù)類樣本ui代替隨機噪聲z作為生成器的輸入,即在ADASYN-WGAN方法中,修改了WGAN算法的損失函數(shù)并將其與ADASYN相結(jié)合。更新后的生成器和判別器損失函數(shù)表達式分別如式(6)和式(7)所示:

    minG-EuiDGui,(6)

    maxD∈ΩExDx-Eui1-DGui,(7)

    式中:Gui表示ui通過生成器生成的數(shù)據(jù);DGui表示生成數(shù)據(jù)被判別器認為是真實數(shù)據(jù)的概率。

    ADASYN-WGAN方法中,WGAN的生成器由多個隱藏層組成,并通過激活函數(shù)將輸出限制在合適的范圍內(nèi),以生成逼真的數(shù)據(jù)樣本。判別器接收真實數(shù)據(jù)和生成器生成的數(shù)據(jù),通過一系列神經(jīng)網(wǎng)絡(luò)層處理,使判別器輸出的是輸入數(shù)據(jù)為真實數(shù)據(jù)的概率。生成器的訓(xùn)練通過與一個判別器進行對抗訓(xùn)練來完成,判別器的目標是有效區(qū)分生成器生成的數(shù)據(jù)樣本和真實數(shù)據(jù)樣本。生成器通過不斷優(yōu)化參數(shù)來提高生成樣本的質(zhì)量,旨在欺騙判別器,這個過程一直持續(xù)到WGAN收斂,即判別器不能準確辨別生成的樣本。一旦達到這個狀態(tài),生成器能夠生成大量符合真實數(shù)據(jù)分布規(guī)律的新樣本,從而將訓(xùn)練數(shù)據(jù)從不平衡狀態(tài)擴展到平衡的狀態(tài)。

    1.2.1 ADASYN-WGAN方法的生成器架構(gòu)

    ADASYN-WGAN方法中,WGAN算法的生成器不再以隨機噪聲為輸入,而是采用由ADASYN算法生成的少數(shù)類樣本作為生成器的輸入,并包含4層全連接層。為了避免樣本振蕩和模型不穩(wěn)定,對生成器的輸入層和輸出層進行了批量歸一化。在激活函數(shù)方面,采用ReLU作為隱藏層的激活函數(shù),Tanh作為輸出層的激活函數(shù),以促使更快的梯度變化,從而加速訓(xùn)練過程的收斂速度。ADASYN-WGAN方法的生成器結(jié)構(gòu)如圖2所示。

    1.2.2 ADASYN-WGAN方法的判別器架構(gòu)

    在ADASYN-WGAN方法中,判別器的輸入由生成的數(shù)據(jù)樣本和真實數(shù)據(jù)樣本組成,并經(jīng)過3個全連接層的處理。在神經(jīng)元的激活函數(shù)方面,采用了Leaky ReLU。ADASYN-WGAN方法的判別器結(jié)構(gòu)如圖3所示。

    1.2.3 ADASYN-WGAN方法的損失函數(shù)

    損失函數(shù)是評估神經(jīng)網(wǎng)絡(luò)預(yù)測性能與真實目標之間差距的關(guān)鍵指標,在ADASYN-WGAN方法中沒有使用常見的交叉損失函數(shù),而是選擇了Wasserstein距離作為訓(xùn)練時的損失函數(shù)。Wasserstein距離是一種用于度量2個概率分布之間差異的指標。相比于傳統(tǒng)GAN中使用的Jensen-Shannon散度,Wasserstein距離具有更好的數(shù)學(xué)性質(zhì),有助于避免傳統(tǒng)GAN中的模式崩潰和梯度消失等問題。Wasserstein距離使得算法模型能夠更準確地衡量真實分布與生成分布之間的距離,為訓(xùn)練提供更穩(wěn)定的指導(dǎo)。

    2 實驗設(shè)計與結(jié)果分析

    2.1 實驗數(shù)據(jù)及設(shè)計

    本文從KEEL和UCI數(shù)據(jù)庫中選取了6組不同的公開數(shù)據(jù)集,具有不同的不平衡率(imbalance ratio, IR)(1.54~14.3),以評估ADASYN-WGAN方法的性能。首先,對原始數(shù)據(jù)集采用Enconder方法進行數(shù)據(jù)標簽數(shù)值化,接著進行歸一化處理。然后,采用隨機森林分類器對經(jīng)過ADASYN-WGAN方法處理得到的平衡數(shù)據(jù)集進行十折交叉驗證實驗,并將實驗結(jié)果和SMOTE,GAN,ADASYN和WGAN算法采樣得到的結(jié)果分別與原始數(shù)據(jù)集進行對比。在實驗中,隨機森林分類器使用默認參數(shù)。表2給出了6組公開數(shù)據(jù)集的具體信息。

    2.2 評估指標

    在傳統(tǒng)的分類問題中,通常使用準確性作為評估各種分類算法性能的主要指標。然而在不平衡的數(shù)據(jù)集中,準確性的度量存在一定問題,因為其傾向于多數(shù)類,將它作為評估指標會導(dǎo)致少數(shù)類的錯誤分類率明顯偏高。因此,在不平衡數(shù)據(jù)集的情況下,使用F1-Score,G-mean和AUC等作為評估指標更為合適。為了更清晰地描述這些評估指標,需要用到混淆矩陣(如表3所示)。

    F1-Score是衡量算法模型對少數(shù)類樣本分類性能的重要指標,在不平衡數(shù)據(jù)的分類評估中被廣泛采用。通常簡寫為F1,其公式如式(8)所示:

    F1=2×TPTP+FP×TPTP+FNTPTP+FP+TPTP+FN。(8)

    G-mean綜合考慮了多數(shù)類樣本和少數(shù)類樣本的分類精度,僅當2類的分類情況都表現(xiàn)良好時,G-mean值才會增加,因此G-mean是整個數(shù)據(jù)集分類效果的有力度量。

    G-mean公式如式(9)所示:

    G-mean= TPTP+FN×TNTN+FP。(9)

    本文使用AUC來說明分類結(jié)果。AUC被定義為接受者操作特性曲線下的面積,而接受者操作特性曲線是通過繪制不同閾值設(shè)置下的靈敏度TP/(TP+FN)與特異性TN/(TN+FP)對比生成。AUC值越大,分類效果越好。

    2.3 ADASYN-WGAN方法驗證與結(jié)果分析

    2.3.1 方法驗證及可視化對比分析

    ADASYN-WGAN方法中,在yeast1.7數(shù)據(jù)集上,生成器和判別器的訓(xùn)練損失函數(shù)值隨著訓(xùn)練次數(shù)增加的變化過程如圖4所示。

    從圖4可以看出,隨著訓(xùn)練的進行,判別器和生成器逐漸優(yōu)化以提高自身能力,損失函數(shù)值逐漸趨于穩(wěn)定,表明對抗網(wǎng)絡(luò)模型逐漸收斂。此時生成器的生成能力達到最大,即ADASYN-WGAN方法能夠生成與真實少數(shù)類數(shù)據(jù)分布規(guī)律相似的高質(zhì)量樣本,模型訓(xùn)練結(jié)束。

    為了驗證ADASYN-WGAN方法生成的數(shù)據(jù)樣本與原始數(shù)據(jù)集分布規(guī)律之間的相似性,首先對人工數(shù)據(jù)集進行可視化驗證,利用sklearn中的make_classification函數(shù)創(chuàng)建不平衡率為9、特征數(shù)為3的不平衡數(shù)據(jù)集,其中總樣本數(shù)量為450,生成的不平衡原始數(shù)據(jù)集的分布效果如圖5 a)所示。然后,對不同采樣算法生成的數(shù)據(jù)進行可視化對比分析,如圖5 b)—f)所示。從圖中可以直觀地看到ADASYN-WGAN方法生成的少數(shù)類樣本更符合數(shù)據(jù)集分布規(guī)律,也不會因生成重疊部分的數(shù)據(jù)而導(dǎo)致分類器精度降低。

    2.3.2 實驗結(jié)果及分析

    在6個公開不平衡數(shù)據(jù)集中,采用隨機森林分類器對所提方法和已有的4種過采樣算法(SMOTE,GAN,ADASYN和WGAN)的采樣結(jié)果分別與原始數(shù)據(jù)集作對比。依據(jù)F1-Score,G-mean 和AUC等分類評估指標對實驗結(jié)果進行了評價。具體結(jié)果見表4—表6,各表中將各個評估指標的最優(yōu)值用黑色粗體表示。

    相較于隨機森林分類器在原始數(shù)據(jù)集上的分類結(jié)果,使用SMOTE,GAN,ADASYN和WGAN過采樣算法可以在不同程度上提高分類器在數(shù)據(jù)集上的分類性能。ADASYN-WGAN方法在名為glass6,ecoli1,ecoli2,yeast1.7的4個不平衡數(shù)據(jù)集上顯著提升了隨機森林分類器的分類性能,使得各項指標值均達到最優(yōu)。

    在penbased數(shù)據(jù)集上,與WGAN算法相比,ADASYN-WGAN方法的AUC值低0.000 905,而在realspambase數(shù)據(jù)集上,與GAN算法相比,ADASYN-WGAN方法的AUC值低0.000 501,總體上差距不大。但ADASYN-WGAN方法在這2個數(shù)據(jù)集上的F1-Score值和G-mean值達到最優(yōu),保證了分類精度。

    通過上述分析可以看出,ADASYN-WGAN方法有效解決了不平衡數(shù)據(jù)集分類預(yù)測偏差的問題,在F1-Score,G-mean,AUC這3個綜合性評估指標上得到了較好的結(jié)果。

    3 結(jié) 語

    本文提出了通過ADASYN算法和WGAN算法的協(xié)同作用生成平衡數(shù)據(jù)集,來解決數(shù)據(jù)不平衡給分類器帶來的預(yù)測偏差問題。在6個公開數(shù)據(jù)集中,采用隨機森林分類器對所提方法以及SMOTE,GAN,ADASYN和WGAN等4種過采樣算法的處理結(jié)果分別與原始數(shù)據(jù)集進行對比實驗,得出以下結(jié)論。

    1)從可視化對比分析可知,ADASYN-WGAN方法與4種過采樣算法相比生成的少數(shù)類樣本更符合原始數(shù)據(jù)集的分布規(guī)律,也不會因生成重疊部分的數(shù)據(jù)而導(dǎo)致分類器精度降低。

    2)在6個公開數(shù)據(jù)集中采用隨機森林分類器進行十折交叉驗證,通過對比實驗分析可知,使用4種過采樣算法可以在不同程度上提高分類器在不平衡數(shù)據(jù)集上的分類性能,而使用ADASYN-WGAN方法可以大幅度提升隨機森林分類器的分類性能。

    3)本文所提的ADASYN-WGAN方法解決了ADASYN算法在生成新樣本時忽視多數(shù)類樣本之間差異的問題,從而避免了生成的新樣本缺乏多樣性的情況。同時,該方法利用了WGAN算法解決了傳統(tǒng)GAN算法中存在的模式崩潰、梯度損失等問題,并解決了WGAN算法生成樣本受限于原始少數(shù)類樣本的問題。通過ADASYN-WGAN方法生成符合原始數(shù)據(jù)集分布規(guī)律的數(shù)據(jù),從而提高不平衡數(shù)據(jù)集中少數(shù)類樣本的分類精度。

    但是,目前該方法在使用中可能會出現(xiàn)由ADASYN算法和WGAN算法結(jié)合使用而帶來的計算復(fù)雜度和訓(xùn)練時間增加問題。因此,今后將在確保生成數(shù)據(jù)質(zhì)量的同時進一步簡化模型,以降低計算復(fù)雜度和縮短訓(xùn)練時間。

    參考文獻/References:

    [1]

    AL-SHABI M.Credit card fraud detection using autoencoder model in unbalanced datasets[J].Journal of Advances in Mathematics and Computer Science,2019,33(5):1-16.

    [2] PARSA A B,TAGHIPOUR H,DERRIBLE S,et al.Real-time accident detection:Coping with imbalanced data[J].Accident Analysis amp; Prevention,2019,129:202-210.

    [3] ZHANG Hongpo,HUANG Lulu,WU C Q,et al.An effective convolutional neural network based on SMOTE and Gaussian mixture model for intrusion detection in imbalanced dataset[J].Computer Networks,2020,177:107315.

    [4] XU Zhaozhao,SHEN Derong,NIE Tiezheng,et al.A cluster-based oversampling algorithm combining SMOTE and k-means for imbalanced medical data[J].Information Sciences,2021,572:574-589.

    [5] GEETHA R,SIVASUBRAMANIAN S,KALIAPPAN M,et al.Cervical cancer identification with synthetic minority oversampling technique and PCA analysis using random forest classifier[J].Journal of Medical Systems,2019,43(9):286-305.

    [6] 劉學(xué)文,王繼奎,楊正國,等.密度峰值優(yōu)化的球簇劃分欠采樣不平衡數(shù)據(jù)分類算法[J].計算機應(yīng)用,2022,42(5):1455-1463.

    LIU Xuewen,WANG Jikui,YANG Zhengguo,et al.Imbalanced data classification algorithm based on ball cluster partitioning and undersampling with density peak optimization[J].Journal of Computer Applications,2022,42(5):1455-1463.

    [7] FU Yanfang,DU Yishuai,CAO Zijian,et al.A deep learning model for network intrusion detection with imbalanced data[J].Electronics,2022,11(6):898-910.

    [8] LIU Jingmei,GAO Yuanbo,HU Fengjie.A fast network intrusion detection system using adaptive synthetic oversampling and LightGBM[J].Computers amp; Security,2021,106:102289-102304.

    [9] YAN Yilin,CHEN Min,SHYU M L,et al.Deep learning for imbalanced multimedia data classification[C]//2015 IEEE International Symposium on Multimedia (ISM).Miami:IEEE,2015:483-488.

    [10]KHAN S H,HAYAT M,BENNAMOUN M,et al.Cost-sensitive learning of deep feature representations from imbalanced data[J].IEEE Transactions on Neural Networks and Learning Systems,2018,29(8):3573-3587.

    [11]張思杰,方翔,魏賦.基于GAN的少樣本視網(wǎng)膜血管分割研究[J].電子測量與儀器學(xué)報,2021,35(11):132-142.

    ZHANG Sijie,F(xiàn)ANG Xiang,WEI Fu.Research on retinal vascular segmentation based on GAN using few samples[J].Journal of Electronic Measurement and Instrumentation,2021,35(11):132-142.

    [12]LEE J H,PARK K H.GAN-based imbalanced data intrusion detection system[J].Personal and Ubiquitous Computing,2021,25(1):121-128.

    [13]阿克弘,胡曉東.基于GAN數(shù)據(jù)重構(gòu)的電信用戶流失預(yù)測方法[J].電信科學(xué),2023,39(3):135-142.

    A Kehong,HU Xiaodong.GAN data reconstruction based prediction method of telecom subscriber loss[J].Telecommunications Science,2023,39(3):135-142.

    [14]SHARMA A,SINGH P K,CHANDRA R,et al.SMOTified-GAN for class imbalanced pattern classification problems[J].IEEE Access,2022,10:30655-30665.

    [15]WANG Zhengwei,SHE Qi,WARD T E.Generative adversarial networks in computer vision:A survey and taxonomy[J].ACM Computing Surveys,2021,54(2):3439723.https://doi.org/10.1145/3439723.

    [16]朱曉慧,錢麗萍,傅偉.基于GAN的網(wǎng)絡(luò)安全數(shù)據(jù)增強研究綜述與展望[J].計算機應(yīng)用與軟件,2022,39(11):288-296.

    ZHU Xiaohui,QIAN Liping,F(xiàn)U Wei.Review and prospect of data enhancement in network security based on GAN[J].Computer Applications and Software,2022,39(11):288-296.

    [17]PAN S J,YANG Qiang.A survey on transfer learning[J].IEEE Transactions on Knowledge and Data Engineering,2010,22(10):1345-1359.

    [18]LEE S,KIM J,LEE G,et al.Prediction of aquatic ecosystem health indices through machine learning models using the WGAN-based data augmentation method[J].Sustainability,2021,13(18):10435-10454.

    [19]GOODFELLOW I J,POUGET-ABADIE J,MIRZA M,et al.Generative adversarial nets[C]//Proceedings of the 27th International Conference on Neural Information Processing Systems.Montreal:MIT Press,2014,2:2672-2680.

    [20]王志強,于雪瑩,楊曉婧,等.基于WGAN和MCA-MobileNet的番茄葉片病害識別[J].農(nóng)業(yè)機械學(xué)報,2023,54(5):244-252.

    WANG Zhiqiang,YU Xueying,YANG Xiaojing,et al.Tomato leaf diseases recognition based on WGAN and MCA-MobileNet[J].Transactions of the Chinese Society for Agricultural Machinery,2023,54(5):244-252.

    [21]HE Haibo,BAI Yang,GARCIA E A,et al.ADASYN:Adaptive synthetic sampling approach for imbalanced learning[C]//2008 IEEE International Joint Conference on Neural Networks(IEEE World Congress on Computational Intelligence).Hong Kong:IEEE,2008:1322-1328.

    猜你喜歡
    隨機森林數(shù)據(jù)處理
    認知診斷缺失數(shù)據(jù)處理方法的比較:零替換、多重插補與極大似然估計法*
    ILWT-EEMD數(shù)據(jù)處理的ELM滾動軸承故障診斷
    隨機森林在棉蚜蟲害等級預(yù)測中的應(yīng)用
    基于二次隨機森林的不平衡數(shù)據(jù)分類算法
    軟件(2016年7期)2017-02-07 15:54:01
    拱壩變形監(jiān)測預(yù)報的隨機森林模型及應(yīng)用
    基于隨機森林算法的飛機發(fā)動機故障診斷方法的研究
    MATLAB在化學(xué)工程與工藝實驗數(shù)據(jù)處理中的應(yīng)用
    基于隨機森林算法的B2B客戶分級系統(tǒng)的設(shè)計
    基于多視角特征融合與隨機森林的蛋白質(zhì)結(jié)晶預(yù)測
    Matlab在密立根油滴實驗數(shù)據(jù)處理中的應(yīng)用
    日韩三级视频一区二区三区| 欧美丝袜亚洲另类 | 自拍欧美九色日韩亚洲蝌蚪91| 国产在线精品亚洲第一网站| 国产亚洲av高清不卡| 在线观看一区二区三区激情| 久久人妻福利社区极品人妻图片| 最新在线观看一区二区三区| 欧美日韩国产mv在线观看视频| 久久久久久人人人人人| 亚洲精品国产精品久久久不卡| 高清毛片免费观看视频网站 | 亚洲专区中文字幕在线| 亚洲熟妇熟女久久| 中文字幕人妻熟女乱码| 免费观看精品视频网站| 身体一侧抽搐| 国产一区二区在线av高清观看| 高清毛片免费观看视频网站 | 一级a爱片免费观看的视频| 91成年电影在线观看| 99在线视频只有这里精品首页| 9色porny在线观看| av免费在线观看网站| 欧美精品亚洲一区二区| 国产又色又爽无遮挡免费看| 男女床上黄色一级片免费看| 久久中文字幕人妻熟女| www国产在线视频色| 成人永久免费在线观看视频| 日本欧美视频一区| 国产精品久久久久久人妻精品电影| 国产亚洲欧美98| 在线观看舔阴道视频| 亚洲专区中文字幕在线| 久久人妻福利社区极品人妻图片| 久久久久久亚洲精品国产蜜桃av| 满18在线观看网站| 国产精品 欧美亚洲| 亚洲一区中文字幕在线| 男女下面进入的视频免费午夜 | 一进一出抽搐gif免费好疼 | 欧美日韩精品网址| 村上凉子中文字幕在线| 最近最新中文字幕大全免费视频| 高清av免费在线| 好看av亚洲va欧美ⅴa在| 日韩精品青青久久久久久| 国产一区二区激情短视频| 欧美色视频一区免费| 久久久久久久久免费视频了| 自线自在国产av| 宅男免费午夜| 麻豆国产av国片精品| 黄片播放在线免费| 日本免费一区二区三区高清不卡 | 欧美人与性动交α欧美精品济南到| 亚洲欧美日韩高清在线视频| 999久久久国产精品视频| 天堂√8在线中文| 国产av又大| 两个人看的免费小视频| 夜夜看夜夜爽夜夜摸 | 成人亚洲精品av一区二区 | 波多野结衣一区麻豆| 淫妇啪啪啪对白视频| 亚洲精品中文字幕在线视频| 90打野战视频偷拍视频| 91麻豆av在线| 午夜激情av网站| 久久亚洲精品不卡| 久久性视频一级片| 在线观看免费高清a一片| 国产欧美日韩一区二区三区在线| 视频区欧美日本亚洲| 热99re8久久精品国产| 人妻丰满熟妇av一区二区三区| 亚洲精品国产区一区二| 国产免费现黄频在线看| 很黄的视频免费| 香蕉久久夜色| 欧美av亚洲av综合av国产av| 99riav亚洲国产免费| 欧美久久黑人一区二区| 午夜两性在线视频| 国产精品日韩av在线免费观看 | 在线国产一区二区在线| 精品久久久久久,| 高清黄色对白视频在线免费看| 可以免费在线观看a视频的电影网站| 免费在线观看视频国产中文字幕亚洲| 国产蜜桃级精品一区二区三区| 中亚洲国语对白在线视频| 美女扒开内裤让男人捅视频| 久久精品91蜜桃| 亚洲熟妇中文字幕五十中出 | 成人三级黄色视频| 免费人成视频x8x8入口观看| 久久人人爽av亚洲精品天堂| 最好的美女福利视频网| 老鸭窝网址在线观看| 黑人猛操日本美女一级片| 又紧又爽又黄一区二区| 久久香蕉国产精品| 久久久国产一区二区| 水蜜桃什么品种好| 亚洲精品美女久久av网站| 久99久视频精品免费| 91精品国产国语对白视频| 91字幕亚洲| 免费高清在线观看日韩| 欧美另类亚洲清纯唯美| 侵犯人妻中文字幕一二三四区| 日韩精品免费视频一区二区三区| 亚洲成av片中文字幕在线观看| 欧美老熟妇乱子伦牲交| 欧美日韩中文字幕国产精品一区二区三区 | 99在线视频只有这里精品首页| 久久热在线av| 麻豆久久精品国产亚洲av | 欧美国产精品va在线观看不卡| 国产不卡一卡二| 夜夜爽天天搞| 日日夜夜操网爽| 亚洲人成电影免费在线| 国产99久久九九免费精品| 久久久久久人人人人人| 国产精品久久电影中文字幕| 麻豆久久精品国产亚洲av | 欧美激情久久久久久爽电影 | 精品久久久久久成人av| 悠悠久久av| 午夜福利免费观看在线| 91九色精品人成在线观看| 久久久国产欧美日韩av| 青草久久国产| 日韩免费高清中文字幕av| 久久狼人影院| 99精品久久久久人妻精品| 亚洲国产欧美网| 欧美av亚洲av综合av国产av| 一区在线观看完整版| 91精品国产国语对白视频| 亚洲国产精品999在线| 欧美在线一区亚洲| 亚洲精品久久午夜乱码| 巨乳人妻的诱惑在线观看| 中亚洲国语对白在线视频| 看免费av毛片| 精品一区二区三卡| 一区二区三区精品91| 亚洲精品av麻豆狂野| 国产av在哪里看| 久久精品国产亚洲av高清一级| 国产高清国产精品国产三级| 在线十欧美十亚洲十日本专区| 午夜a级毛片| 国产精华一区二区三区| 亚洲一区二区三区不卡视频| 国产av一区二区精品久久| 亚洲色图 男人天堂 中文字幕| 99国产精品99久久久久| 男人舔女人下体高潮全视频| 午夜精品久久久久久毛片777| 欧美日韩国产mv在线观看视频| 国产主播在线观看一区二区| 18禁黄网站禁片午夜丰满| 欧美精品啪啪一区二区三区| 国产黄a三级三级三级人| 两人在一起打扑克的视频| av免费在线观看网站| 黄片小视频在线播放| 久久香蕉激情| 777久久人妻少妇嫩草av网站| 99在线人妻在线中文字幕| 国产成人欧美在线观看| 悠悠久久av| 男女之事视频高清在线观看| 亚洲精品av麻豆狂野| 精品国产一区二区三区四区第35| 亚洲一卡2卡3卡4卡5卡精品中文| 曰老女人黄片| 美女高潮到喷水免费观看| 狂野欧美激情性xxxx| 侵犯人妻中文字幕一二三四区| 国产亚洲欧美在线一区二区| 日本三级黄在线观看| 999久久久国产精品视频| 99国产精品一区二区蜜桃av| 久久国产亚洲av麻豆专区| 精品国产一区二区三区四区第35| 精品国产一区二区久久| 侵犯人妻中文字幕一二三四区| 色综合站精品国产| 男女高潮啪啪啪动态图| 亚洲少妇的诱惑av| 成人手机av| 午夜91福利影院| 久久天堂一区二区三区四区| 极品人妻少妇av视频| 欧美精品亚洲一区二区| 中文字幕人妻丝袜制服| 看片在线看免费视频| 国产xxxxx性猛交| 欧美精品一区二区免费开放| 色老头精品视频在线观看| 日本黄色日本黄色录像| 多毛熟女@视频| 老熟妇仑乱视频hdxx| а√天堂www在线а√下载| 国产在线精品亚洲第一网站| 久久精品aⅴ一区二区三区四区| 欧美人与性动交α欧美精品济南到| 久久精品亚洲熟妇少妇任你| 国产成人精品在线电影| 怎么达到女性高潮| av视频免费观看在线观看| 美女 人体艺术 gogo| 老熟妇乱子伦视频在线观看| 精品国产乱码久久久久久男人| 国产精品一区二区免费欧美| 国产精品香港三级国产av潘金莲| 亚洲欧美激情综合另类| 精品国产亚洲在线| 精品福利永久在线观看| 高清欧美精品videossex| 精品乱码久久久久久99久播| 成人三级做爰电影| 大型黄色视频在线免费观看| 午夜免费激情av| 欧美人与性动交α欧美软件| 成人免费观看视频高清| 黄色丝袜av网址大全| 久久欧美精品欧美久久欧美| 如日韩欧美国产精品一区二区三区| 久久精品亚洲熟妇少妇任你| av在线天堂中文字幕 | 99re在线观看精品视频| 国产极品粉嫩免费观看在线| 亚洲精品在线美女| 亚洲一区二区三区欧美精品| 美女国产高潮福利片在线看| av在线天堂中文字幕 | 午夜福利一区二区在线看| 无人区码免费观看不卡| 国产99白浆流出| 男女之事视频高清在线观看| 亚洲国产欧美网| 亚洲男人天堂网一区| 成人三级做爰电影| 最好的美女福利视频网| 国产成人一区二区三区免费视频网站| 美女国产高潮福利片在线看| 婷婷六月久久综合丁香| 久久久久久久午夜电影 | 国产精品99久久99久久久不卡| 91成年电影在线观看| 久久人妻av系列| 亚洲国产精品999在线| av福利片在线| 亚洲欧美激情在线| cao死你这个sao货| 久久精品亚洲精品国产色婷小说| videosex国产| 国产激情欧美一区二区| 午夜福利,免费看| 中出人妻视频一区二区| 午夜免费成人在线视频| 久99久视频精品免费| 黑人巨大精品欧美一区二区mp4| 久久久久久大精品| 黄色毛片三级朝国网站| 中文字幕人妻丝袜一区二区| 天堂影院成人在线观看| 一区福利在线观看| 久久久国产成人精品二区 | 中出人妻视频一区二区| 亚洲自拍偷在线| 麻豆国产av国片精品| 亚洲精品一卡2卡三卡4卡5卡| 精品久久久久久久毛片微露脸| 两个人看的免费小视频| 欧美老熟妇乱子伦牲交| 天堂影院成人在线观看| 丰满的人妻完整版| 校园春色视频在线观看| 日韩 欧美 亚洲 中文字幕| 午夜老司机福利片| 老熟妇仑乱视频hdxx| 桃红色精品国产亚洲av| 在线观看66精品国产| 亚洲七黄色美女视频| 一级毛片高清免费大全| 久久久水蜜桃国产精品网| 男女高潮啪啪啪动态图| 久热这里只有精品99| 狂野欧美激情性xxxx| 乱人伦中国视频| 亚洲色图 男人天堂 中文字幕| 一级a爱视频在线免费观看| 香蕉丝袜av| 丁香六月欧美| 国产一区二区激情短视频| 国产精品一区二区免费欧美| 岛国视频午夜一区免费看| 亚洲精品国产一区二区精华液| 国产三级在线视频| 国产成人一区二区三区免费视频网站| 伊人久久大香线蕉亚洲五| 久久精品亚洲av国产电影网| 在线观看免费视频日本深夜| 99riav亚洲国产免费| 老司机在亚洲福利影院| 久久久久久久久久久久大奶| 一边摸一边抽搐一进一出视频| 久久久精品欧美日韩精品| xxxhd国产人妻xxx| 日本黄色日本黄色录像| 国产精品电影一区二区三区| 长腿黑丝高跟| 啦啦啦在线免费观看视频4| 国产精品久久久人人做人人爽| 久久久国产成人精品二区 | 精品久久久久久久毛片微露脸| xxxhd国产人妻xxx| 国产黄a三级三级三级人| 91老司机精品| 免费在线观看完整版高清| 国产成人啪精品午夜网站| 欧美av亚洲av综合av国产av| 中出人妻视频一区二区| 午夜福利欧美成人| 国产精品久久电影中文字幕| 男人舔女人下体高潮全视频| 午夜成年电影在线免费观看| 国产主播在线观看一区二区| av网站在线播放免费| 无遮挡黄片免费观看| 三级毛片av免费| 国产成人欧美| 久9热在线精品视频| 在线观看www视频免费| 欧美在线一区亚洲| 成年版毛片免费区| 中国美女看黄片| 欧美不卡视频在线免费观看 | 国产一区二区三区视频了| 男人的好看免费观看在线视频 | 欧美人与性动交α欧美精品济南到| 激情视频va一区二区三区| 18美女黄网站色大片免费观看| 亚洲国产精品合色在线| 老鸭窝网址在线观看| 欧美日韩av久久| 免费搜索国产男女视频| 一级黄色大片毛片| 在线观看免费日韩欧美大片| 一级黄色大片毛片| 成人手机av| 妹子高潮喷水视频| 国产av又大| 999精品在线视频| 真人一进一出gif抽搐免费| 亚洲精品在线美女| 在线观看免费午夜福利视频| 亚洲全国av大片| 午夜精品久久久久久毛片777| 黄色 视频免费看| 青草久久国产| 女人被躁到高潮嗷嗷叫费观| 亚洲一卡2卡3卡4卡5卡精品中文| 成人国产一区最新在线观看| 精品久久久久久电影网| 涩涩av久久男人的天堂| 自拍欧美九色日韩亚洲蝌蚪91| 巨乳人妻的诱惑在线观看| 色综合欧美亚洲国产小说| av天堂在线播放| 国产麻豆69| 日韩欧美国产一区二区入口| 97超级碰碰碰精品色视频在线观看| 97碰自拍视频| 成人国语在线视频| 久久国产精品男人的天堂亚洲| 国产单亲对白刺激| 久久亚洲精品不卡| xxx96com| 五月开心婷婷网| 亚洲国产欧美网| 亚洲九九香蕉| 免费日韩欧美在线观看| 一级,二级,三级黄色视频| 国产精品98久久久久久宅男小说| 亚洲一区二区三区欧美精品| 国产无遮挡羞羞视频在线观看| 成年人黄色毛片网站| 老司机靠b影院| 男人操女人黄网站| 亚洲专区中文字幕在线| 国产97色在线日韩免费| 男女下面进入的视频免费午夜 | 日韩高清综合在线| 国产99白浆流出| 别揉我奶头~嗯~啊~动态视频| 日本免费一区二区三区高清不卡 | 久久精品国产综合久久久| 亚洲狠狠婷婷综合久久图片| 亚洲专区字幕在线| av超薄肉色丝袜交足视频| 麻豆成人av在线观看| 久久精品亚洲av国产电影网| 18禁观看日本| 免费不卡黄色视频| 亚洲国产看品久久| 国产高清videossex| 岛国视频午夜一区免费看| 亚洲精品久久午夜乱码| 日韩视频一区二区在线观看| 超碰成人久久| 亚洲国产欧美一区二区综合| 中文亚洲av片在线观看爽| tocl精华| 欧美+亚洲+日韩+国产| 久久久久久亚洲精品国产蜜桃av| 一区福利在线观看| 精品久久久久久久久久免费视频 | 丰满人妻熟妇乱又伦精品不卡| 欧美激情 高清一区二区三区| 午夜免费鲁丝| 大陆偷拍与自拍| 又黄又粗又硬又大视频| 久久精品91无色码中文字幕| 亚洲精品在线美女| 精品久久久久久电影网| 国产不卡一卡二| 中文字幕最新亚洲高清| 天堂√8在线中文| 免费观看精品视频网站| 日韩精品免费视频一区二区三区| 美女 人体艺术 gogo| 国产亚洲精品久久久久久毛片| 国产精品九九99| 国产aⅴ精品一区二区三区波| 国产成人系列免费观看| 国产成人一区二区三区免费视频网站| 不卡一级毛片| 高清毛片免费观看视频网站 | 99国产精品一区二区蜜桃av| 欧美日韩av久久| a在线观看视频网站| 成人av一区二区三区在线看| 97超级碰碰碰精品色视频在线观看| 国产xxxxx性猛交| 国产片内射在线| 亚洲av美国av| 日日爽夜夜爽网站| 香蕉丝袜av| 国产精品一区二区精品视频观看| 国产欧美日韩一区二区精品| 午夜免费成人在线视频| 法律面前人人平等表现在哪些方面| 人人妻人人爽人人添夜夜欢视频| netflix在线观看网站| 天堂中文最新版在线下载| 9热在线视频观看99| 成人手机av| 神马国产精品三级电影在线观看 | 国产91精品成人一区二区三区| 国产激情欧美一区二区| 天堂中文最新版在线下载| 麻豆成人av在线观看| 欧美日韩一级在线毛片| 天天影视国产精品| av天堂久久9| 成人免费观看视频高清| 激情在线观看视频在线高清| 国产精品成人在线| 亚洲伊人色综图| 美女扒开内裤让男人捅视频| 老汉色av国产亚洲站长工具| 在线观看舔阴道视频| 母亲3免费完整高清在线观看| 一区二区三区激情视频| 国产精品秋霞免费鲁丝片| 国产又色又爽无遮挡免费看| 人妻丰满熟妇av一区二区三区| 99国产综合亚洲精品| 九色亚洲精品在线播放| 国产欧美日韩综合在线一区二区| 国产精品久久久av美女十八| 国产精品一区二区免费欧美| 叶爱在线成人免费视频播放| 欧美成人午夜精品| aaaaa片日本免费| 亚洲国产看品久久| 国产精品一区二区免费欧美| 亚洲九九香蕉| 亚洲熟女毛片儿| 极品人妻少妇av视频| 国产主播在线观看一区二区| 国产精品野战在线观看 | 亚洲成人免费电影在线观看| aaaaa片日本免费| 80岁老熟妇乱子伦牲交| 99国产精品99久久久久| 电影成人av| 三上悠亚av全集在线观看| 国产成人欧美在线观看| 美女高潮喷水抽搐中文字幕| 成人三级做爰电影| 国产成年人精品一区二区 | 久久精品成人免费网站| 999久久久国产精品视频| 成熟少妇高潮喷水视频| 欧美日本中文国产一区发布| 色婷婷久久久亚洲欧美| 香蕉国产在线看| 久久国产乱子伦精品免费另类| www.熟女人妻精品国产| 琪琪午夜伦伦电影理论片6080| 欧美国产精品va在线观看不卡| 成年人黄色毛片网站| 精品久久久久久,| 9色porny在线观看| 欧美日韩乱码在线| 超碰97精品在线观看| 夜夜夜夜夜久久久久| 久久中文看片网| 好看av亚洲va欧美ⅴa在| 99riav亚洲国产免费| av中文乱码字幕在线| 精品久久久久久成人av| 国产一区二区三区综合在线观看| 国产精品久久久久成人av| 久久久久九九精品影院| 免费看a级黄色片| 久久久久精品国产欧美久久久| 国产精品爽爽va在线观看网站 | 久久午夜综合久久蜜桃| 亚洲九九香蕉| 妹子高潮喷水视频| 精品午夜福利视频在线观看一区| 人人妻人人爽人人添夜夜欢视频| 不卡av一区二区三区| 久9热在线精品视频| 日韩 欧美 亚洲 中文字幕| 国产激情欧美一区二区| 老鸭窝网址在线观看| www.自偷自拍.com| 中文字幕最新亚洲高清| 精品国产乱码久久久久久男人| 热re99久久精品国产66热6| 成年女人毛片免费观看观看9| 在线免费观看的www视频| 91九色精品人成在线观看| 久久久久九九精品影院| 亚洲国产毛片av蜜桃av| 淫妇啪啪啪对白视频| 久久99一区二区三区| 精品电影一区二区在线| 成人亚洲精品av一区二区 | 亚洲午夜精品一区,二区,三区| 免费在线观看黄色视频的| avwww免费| 国产成人精品久久二区二区免费| 日韩高清综合在线| 亚洲国产精品sss在线观看 | 国产精品久久久人人做人人爽| 黑人操中国人逼视频| 这个男人来自地球电影免费观看| 欧美日本亚洲视频在线播放| 午夜免费鲁丝| 啪啪无遮挡十八禁网站| 99国产极品粉嫩在线观看| 9色porny在线观看| 高清黄色对白视频在线免费看| 亚洲专区中文字幕在线| 中文字幕最新亚洲高清| 精品免费久久久久久久清纯| ponron亚洲| 亚洲精品国产色婷婷电影| 免费观看人在逋| 女人被躁到高潮嗷嗷叫费观| 色尼玛亚洲综合影院| 丝袜美腿诱惑在线| 在线观看www视频免费| av网站在线播放免费| 久久精品人人爽人人爽视色| 麻豆成人av在线观看| 久久久国产成人精品二区 | 在线十欧美十亚洲十日本专区| 国产欧美日韩综合在线一区二区| 亚洲激情在线av| 99国产精品一区二区三区| 操出白浆在线播放| 国产av一区二区精品久久| 国产亚洲精品一区二区www| 欧美乱妇无乱码| 亚洲片人在线观看| 国产亚洲精品综合一区在线观看 | 婷婷精品国产亚洲av在线| 久久人妻av系列| cao死你这个sao货| av天堂在线播放| 一级毛片女人18水好多| 一级,二级,三级黄色视频| 精品久久久久久,| 黄色毛片三级朝国网站| 超色免费av| 国产精品香港三级国产av潘金莲| netflix在线观看网站| 成人黄色视频免费在线看| 一区福利在线观看| 亚洲一区二区三区不卡视频| 别揉我奶头~嗯~啊~动态视频|