• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于ADASYN和WGAN的混合不平衡數(shù)據(jù)處理方法

    2024-01-01 00:00:00周萬珍盛媛媛張永強馬金龍
    河北工業(yè)科技 2024年4期
    關(guān)鍵詞:隨機森林數(shù)據(jù)處理

    摘 要:為了解決不平衡數(shù)據(jù)集中少數(shù)類樣本分類精度較低的問題,提出了一種處理不平衡數(shù)據(jù)集的ADASYN-WGAN方法。首先,采用ADASYN(adaptive synthetic sampling)算法生成少數(shù)類樣本,用這些生成樣本代替WGAN(wasserstein generative adversarial networks)中的隨機噪聲;其次,利用WGAN算法生成符合原始數(shù)據(jù)集分布規(guī)律的少數(shù)類樣本,構(gòu)建平衡數(shù)據(jù)集;然后,在6個公開數(shù)據(jù)集上,采用隨機森林分類器對所提方法和4種過采樣算法得出的處理結(jié)果分別與原始數(shù)據(jù)集進行對比;最后,通過F1-Score,G-mean和AUC等分類評估指標的表現(xiàn)驗證所提方法的有效性。結(jié)果表明:在對比實驗中,經(jīng)過ADASYN-WGAN方法得到的平衡數(shù)據(jù)集在隨機森林分類器的十折交叉驗證中,4個公開數(shù)據(jù)集中的各項分類評估指標值均達到最優(yōu),雖然另2個公開數(shù)據(jù)集中的AUC值略低,但其F1-Score和G-mean取得了最高值。所提出的ADASYN-WGAN方法可生成高質(zhì)量的數(shù)據(jù)樣本,并可為解決不平衡數(shù)據(jù)集中少數(shù)類樣本的預(yù)測偏差問題提供參考。

    關(guān)鍵詞:數(shù)據(jù)處理;不平衡數(shù)據(jù);WGAN;ADASYN;過采樣方法;隨機森林

    中圖分類號:

    TP399

    文獻標識碼:A

    DOI: 10.7535/hbgykj.2024yx04007

    Hybrid imbalanced data processing based on ADASYN and WGAN

    ZHOU Wanzhen1,2, SHENG Yuanyuan1, ZHANG Yongqiang 1,2, MA Jinlong1,2

    (1.School of Information Science and Engineering, Hebei University of Science and Technology, Shijiazhuang, Hebei 050018, China; 2.Hebei Technology Innovation Center of Intelligent IoT, Shijiazhuang, Hebei 050018, China)

    Abstract:In order to solve the problem of low classification accuracy of minority class samples in imbalanced datasets, an ADASYN-WGAN method was proposed to deal with imbalanced datasets. Firstly, the minority class samples were generated using the ADASYN algorithm, and these generated samples were used to replace the random noise in the WGAN; Secondly, the minority class samples conforming to the distribution law of the original dataset were generated using the WGAN algorithm to construct the balanced dataset; Then, the processing results derived from the proposed method and the four over-sampling algorithms were compared with the original dataset using the random forest classifier on six public datasets, respectively. Finally, the effectiveness of the proposed method was verified by the performance of classification assessment indexes such as F1-Score, G-mean and AUC. The results show that in the comparison experiments, the balanced dataset obtained by the ADASYN-WGAN method achieves the optimal values of all classification assessment indexes in four public datasets in the ten-fold cross-validation of the random forest classifier, and the F1-Score and G-mean achieve the highest values in the other two public datasets, although the AUC values are slightly lower. The proposed ADASYN-WGAN method can generate high-quality data samples and provide reference for solving the problem of prediction bias for a few class samples in unbalanced datasets.

    Keywords:data processing; imbalanced data; WGAN; ADASYN; oversampling method; random forest

    不平衡數(shù)據(jù)指的是,在一個數(shù)據(jù)集中不同類別的樣本數(shù)量差異很大。例如,在二分類問題中,一類的樣本數(shù)量遠遠多于另一類的樣本數(shù)量,這就導(dǎo)致數(shù)據(jù)分布不平衡。不平衡數(shù)據(jù)的現(xiàn)象廣泛存在于金融預(yù)測、氣象預(yù)測、網(wǎng)絡(luò)入侵檢測、醫(yī)療診斷等實際應(yīng)用中 [1-4]。對于決策樹、隨機森林、支持向量機等傳統(tǒng)的分類模型,由于不平衡數(shù)據(jù)集中多數(shù)類樣本數(shù)量遠遠多于少數(shù)類樣本數(shù)量,常導(dǎo)致模型在學(xué)習(xí)過程中更加傾向于學(xué)習(xí)多數(shù)類樣本的特征,從而使預(yù)測結(jié)果產(chǎn)生偏差。但實際上少數(shù)類樣本往往比多數(shù)類樣本更具有價值,因此樣本類別的誤判可能會造成嚴重的損失。比如在腫瘤檢測任務(wù)中,如果在一個數(shù)據(jù)集中腫瘤樣本的數(shù)量較少,無腫瘤樣本數(shù)量較多,模型可能會更容易將腫瘤預(yù)測結(jié)果判定為無腫瘤,從而導(dǎo)致誤診。因此,如何提高不平衡數(shù)據(jù)集中少數(shù)類樣本的分類精度具有重要的研究價值。

    近年來,國內(nèi)外學(xué)者提出了各種各樣的方法來解決不平衡數(shù)據(jù)集中少數(shù)類樣本分類精度較低的問題。GEETHA等[5] 利用SMOTE(synthetic minority oversampling technique)過采樣算法處理醫(yī)療數(shù)據(jù)集中的不平衡,但該算法在合成新樣本時存在盲目性和邊緣化的問題。雖然隨機欠采樣[6]是一種簡單而有效的處理不平衡數(shù)據(jù)集的方法,但該方法通過在多數(shù)類樣本中隨機刪除一定數(shù)量的樣本來使剩余樣本的數(shù)量與少數(shù)類樣本數(shù)量相匹配,這可能導(dǎo)致刪去對分類具有重要價值的樣本。FU等[7] 采用自適應(yīng)綜合抽樣(adaptive synthetic sampling,ADASYN)算法來生成新樣本,該方法雖然考慮了少數(shù)類樣本與其最近鄰的多數(shù)類樣本之間的差距,但卻忽略了其他多數(shù)類樣本之間的差異,導(dǎo)致生成的新樣本缺乏足夠的多樣性。隨著人工智能的發(fā)展,深度學(xué)習(xí)處理不平衡數(shù)據(jù)集已廣泛應(yīng)用在各項研究中[8-10]。生成對抗網(wǎng)絡(luò)(generative adversarial networks,GAN)最初被設(shè)計用于生成逼真的圖像,但由于其具有還原數(shù)據(jù)集分布特征的能力,因此被廣泛用于擴增少數(shù)類樣本數(shù)據(jù),從而解決數(shù)據(jù)不平衡問題[11]。LEE等[12]設(shè)計了基于GAN的不平衡數(shù)據(jù)入侵檢測系統(tǒng)。阿克弘等[13]將GAN的數(shù)據(jù)增強技術(shù)成功應(yīng)用于用戶數(shù)據(jù)重構(gòu)中。SHARMA等[14]提出了一種基于GAN和SMOTE的混合過采樣方法,但其中GAN模型存在訓(xùn)練不穩(wěn)定、梯度消失和模式崩潰等問題 [15-16]?;赪asserstein距離的生成對抗網(wǎng)絡(luò)(wasserstein generative adversarial networks,WGAN)作為GAN的改進算法,利用Wasserstein距離和其他改進有效解決了GAN中存在的問題,并保證算法模型能更好地學(xué)習(xí)整體數(shù)據(jù)分布特征[17]。LEE等[18]采用WGAN的數(shù)據(jù)增強方法有效構(gòu)建環(huán)境管理系統(tǒng)所需的大量數(shù)據(jù)。然而,WGAN算法在訓(xùn)練過程中,若少數(shù)類樣本的數(shù)量太少,生成器(generator,G)可能會陷入局部最優(yōu)解,導(dǎo)致生成的少數(shù)類樣本質(zhì)量較低,使得生成樣本缺乏多樣性和真實性。

    為了解決上述問題,提出一種ADASYN-WGAN方法來處理不平衡數(shù)據(jù)集。該方法利用ADASYN算法生成的少數(shù)類樣本代替隨機噪聲作為WGAN生成器的輸入,解決WGAN受限于原始少數(shù)類樣本問題。同時,通過WGAN訓(xùn)練生成符合原始數(shù)據(jù)集分布規(guī)律的少數(shù)類樣本,解決ADASYN算法只考慮少數(shù)類樣本與其最近鄰的多數(shù)類樣本之間的差距而導(dǎo)致生成的新樣本不夠多樣化的問題。ADASYN-WGAN方法充分結(jié)合了ADASYN算法和WGAN算法2種獨立算法的優(yōu)勢并克服其各自缺陷,在這2種算法的協(xié)同作用下生成多樣化且符合原始數(shù)據(jù)分布規(guī)律的數(shù)據(jù),從而提高不平衡數(shù)據(jù)集中少數(shù)類樣本的分類精度。

    1 ADASYN-WGAN方法的構(gòu)建及實現(xiàn)

    1.1 ADASYN-WGAN方法的構(gòu)建

    受博弈論的啟發(fā),GOODFELLOW等[19]提出了一種生成對抗網(wǎng)絡(luò)(GAN)的訓(xùn)練方法。GAN包括2個部分:生成器和判別器(discriminator,D)。生成器的任務(wù)是生成逼真的樣本,而判別器的任務(wù)是盡可能準確地區(qū)分生成的樣本和真實樣本。在訓(xùn)練過程中,生成器與判別器形成了類似于博弈論零和博弈的動態(tài)平衡,雙方性能此消彼長,相互競爭提升。通過這種訓(xùn)練方式,GAN可以學(xué)習(xí)生成逼真的樣本數(shù)據(jù)。盡管GAN在生成新樣本方面表現(xiàn)良好,但它存在訓(xùn)練不穩(wěn)定、梯度消失和模式崩潰等問題。WGAN的出現(xiàn)基本解決了原始GAN存在的多種問題[20]。

    在WGAN算法中,隨機噪聲作為生成器的輸入,用于產(chǎn)生“虛假”數(shù)據(jù),然后將生成的“虛假”數(shù)據(jù)和真實樣本數(shù)據(jù)合并成訓(xùn)練集進行模型訓(xùn)練,最后通過生成器和判別器之間的對抗訓(xùn)練生成“以假亂真”的數(shù)據(jù)樣本。隨機噪聲作為生成器的輸入引入了一定的隨機性,使得生成器可以通過學(xué)習(xí)并利用噪聲中的特征來模擬真實數(shù)據(jù)的分布情況。然而,由于隨機噪聲是完全隨機的,可能導(dǎo)致生成的數(shù)據(jù)樣本不穩(wěn)定。同時,隨機噪聲作為生成器的輸入可能使生成器更傾向于生成相似的樣本,從而導(dǎo)致生成的樣本缺乏多樣性。為了改進這一問題,使用ADASYN算法生成的少數(shù)類樣本代替隨機噪聲作為WGAN中生成器的輸入,有助于提高輸入樣本的質(zhì)量,從而產(chǎn)生多樣性且高質(zhì)量的數(shù)據(jù)樣本。ADASYN-WGAN方法結(jié)構(gòu)圖如圖1所示。

    1.1.1 ADASYN算法

    ADASYN算法具有自適應(yīng)生成合成樣本的能力[21]。該算法會根據(jù)每個少數(shù)類樣本周圍的多數(shù)類樣本數(shù)量動態(tài)地調(diào)整生成樣本的數(shù)量,以確保生成的樣本更好地適應(yīng)少數(shù)類樣本的分布。這種自適應(yīng)性使得ADASYN算法能夠更精準地生成合成樣本,有效地應(yīng)對不同類別之間的數(shù)據(jù)分布差異。

    在訓(xùn)練集中,將ms和ml分別定義為少數(shù)類樣本的數(shù)量和多數(shù)類樣本的數(shù)量。在ADASYN-WGAN方法中,首先利用ADASYN算法生成新的少數(shù)類樣本ui。ADASYN算法步驟如下:1)計算要合成的樣本數(shù)量G1;2)對于每個少數(shù)類樣本xi,根據(jù)n維空間中的歐幾里得距離找到K近鄰,并計算K近鄰中多數(shù)類樣本的占比ri=Δi/K,(i=1,2,…, ms),Δi是K(xi)附近的大多數(shù)類的個數(shù),因此ri∈(0,1];3)對ri利用式(1)進行標準化。

    r^i=ri∑msi=1ri。(1)

    利用式(2)計算每個樣本xi需要生成的合成樣本的個數(shù)gi:

    gi=G1×r^i。(2)

    由gi計算出少數(shù)類樣本需要生成的樣本數(shù),然后利用式(3)生成新合成的少數(shù)類樣本ui,從而實現(xiàn)數(shù)據(jù)平衡。

    ui=xi+rand(0,1)xzi-xi,(3)

    式中:ui表示新生成的少數(shù)類樣本;xi表示原始的少數(shù)類樣本;xzi表示隨機選出的近鄰樣本。

    1.1.2 WGAN算法

    WGAN引入了Wasserstein距離代替了原始GAN中使用的Jensen-Shannon散度,用它來衡量2個分布之間的距離。Wasserstein距離的獨特之處在于,即使在2個分布沒有重疊的情況下,它仍能表現(xiàn)2個分布之間的距離關(guān)系。因此,Wasserstein距離作為一種更可靠的度量,能夠在訓(xùn)練過程中指示每次迭代的優(yōu)化信息,促使生成器產(chǎn)生更高質(zhì)量的數(shù)據(jù),這使得WGAN成為一種更穩(wěn)定且有效的生成對抗網(wǎng)絡(luò)算法。

    WGAN生成器和判別器的損失函數(shù)表達式分別如式(4)和式(5)所示。

    minG-EzDGz,(4)

    maxD∈ΩExDx-Ez1-DGz,(5)

    式中:Ω表示1-Lipschitz函數(shù)的集合;Dx表示從真實數(shù)據(jù)樣本x得到的概率分布;Gz表示的是隨機噪聲z通過生成器生成的數(shù)據(jù);DGz表示的是生成數(shù)據(jù)被判別器認為是真實數(shù)據(jù)的概率。

    1.2 ADASYN-WGAN方法的實現(xiàn)

    ADASYN-WGAN方法的具體實現(xiàn)步驟如下。

    Step1:通過ADASYN算法生成新的少數(shù)類樣本ui。

    Step2:定義初始化WGAN生成器和判別器的網(wǎng)絡(luò)結(jié)構(gòu)。

    Step3:將ui作為WGAN生成器的輸入。

    Step4:通過生成器生成一批假樣本S′。

    Step5:將真實樣本和生成器生成的假樣本S′合為一個訓(xùn)練集,作為判別器的輸入。

    Step6:訓(xùn)練判別器,使其能正確區(qū)分真實樣本和假樣本。

    Step7:訓(xùn)練生成器,使其能夠生成更逼真的假樣本,以欺騙判別器。

    重復(fù)Step4—Step7直至WGAN收斂,達到納什平衡,生成器生成的數(shù)據(jù)足以“以假亂真”。

    ADASYN-WGAN方法的偽代碼如表1所示。

    ADASYN-WGAN方法中,首先利用ADASYN算法生成的少數(shù)類樣本ui代替隨機噪聲z作為生成器的輸入,即在ADASYN-WGAN方法中,修改了WGAN算法的損失函數(shù)并將其與ADASYN相結(jié)合。更新后的生成器和判別器損失函數(shù)表達式分別如式(6)和式(7)所示:

    minG-EuiDGui,(6)

    maxD∈ΩExDx-Eui1-DGui,(7)

    式中:Gui表示ui通過生成器生成的數(shù)據(jù);DGui表示生成數(shù)據(jù)被判別器認為是真實數(shù)據(jù)的概率。

    ADASYN-WGAN方法中,WGAN的生成器由多個隱藏層組成,并通過激活函數(shù)將輸出限制在合適的范圍內(nèi),以生成逼真的數(shù)據(jù)樣本。判別器接收真實數(shù)據(jù)和生成器生成的數(shù)據(jù),通過一系列神經(jīng)網(wǎng)絡(luò)層處理,使判別器輸出的是輸入數(shù)據(jù)為真實數(shù)據(jù)的概率。生成器的訓(xùn)練通過與一個判別器進行對抗訓(xùn)練來完成,判別器的目標是有效區(qū)分生成器生成的數(shù)據(jù)樣本和真實數(shù)據(jù)樣本。生成器通過不斷優(yōu)化參數(shù)來提高生成樣本的質(zhì)量,旨在欺騙判別器,這個過程一直持續(xù)到WGAN收斂,即判別器不能準確辨別生成的樣本。一旦達到這個狀態(tài),生成器能夠生成大量符合真實數(shù)據(jù)分布規(guī)律的新樣本,從而將訓(xùn)練數(shù)據(jù)從不平衡狀態(tài)擴展到平衡的狀態(tài)。

    1.2.1 ADASYN-WGAN方法的生成器架構(gòu)

    ADASYN-WGAN方法中,WGAN算法的生成器不再以隨機噪聲為輸入,而是采用由ADASYN算法生成的少數(shù)類樣本作為生成器的輸入,并包含4層全連接層。為了避免樣本振蕩和模型不穩(wěn)定,對生成器的輸入層和輸出層進行了批量歸一化。在激活函數(shù)方面,采用ReLU作為隱藏層的激活函數(shù),Tanh作為輸出層的激活函數(shù),以促使更快的梯度變化,從而加速訓(xùn)練過程的收斂速度。ADASYN-WGAN方法的生成器結(jié)構(gòu)如圖2所示。

    1.2.2 ADASYN-WGAN方法的判別器架構(gòu)

    在ADASYN-WGAN方法中,判別器的輸入由生成的數(shù)據(jù)樣本和真實數(shù)據(jù)樣本組成,并經(jīng)過3個全連接層的處理。在神經(jīng)元的激活函數(shù)方面,采用了Leaky ReLU。ADASYN-WGAN方法的判別器結(jié)構(gòu)如圖3所示。

    1.2.3 ADASYN-WGAN方法的損失函數(shù)

    損失函數(shù)是評估神經(jīng)網(wǎng)絡(luò)預(yù)測性能與真實目標之間差距的關(guān)鍵指標,在ADASYN-WGAN方法中沒有使用常見的交叉損失函數(shù),而是選擇了Wasserstein距離作為訓(xùn)練時的損失函數(shù)。Wasserstein距離是一種用于度量2個概率分布之間差異的指標。相比于傳統(tǒng)GAN中使用的Jensen-Shannon散度,Wasserstein距離具有更好的數(shù)學(xué)性質(zhì),有助于避免傳統(tǒng)GAN中的模式崩潰和梯度消失等問題。Wasserstein距離使得算法模型能夠更準確地衡量真實分布與生成分布之間的距離,為訓(xùn)練提供更穩(wěn)定的指導(dǎo)。

    2 實驗設(shè)計與結(jié)果分析

    2.1 實驗數(shù)據(jù)及設(shè)計

    本文從KEEL和UCI數(shù)據(jù)庫中選取了6組不同的公開數(shù)據(jù)集,具有不同的不平衡率(imbalance ratio, IR)(1.54~14.3),以評估ADASYN-WGAN方法的性能。首先,對原始數(shù)據(jù)集采用Enconder方法進行數(shù)據(jù)標簽數(shù)值化,接著進行歸一化處理。然后,采用隨機森林分類器對經(jīng)過ADASYN-WGAN方法處理得到的平衡數(shù)據(jù)集進行十折交叉驗證實驗,并將實驗結(jié)果和SMOTE,GAN,ADASYN和WGAN算法采樣得到的結(jié)果分別與原始數(shù)據(jù)集進行對比。在實驗中,隨機森林分類器使用默認參數(shù)。表2給出了6組公開數(shù)據(jù)集的具體信息。

    2.2 評估指標

    在傳統(tǒng)的分類問題中,通常使用準確性作為評估各種分類算法性能的主要指標。然而在不平衡的數(shù)據(jù)集中,準確性的度量存在一定問題,因為其傾向于多數(shù)類,將它作為評估指標會導(dǎo)致少數(shù)類的錯誤分類率明顯偏高。因此,在不平衡數(shù)據(jù)集的情況下,使用F1-Score,G-mean和AUC等作為評估指標更為合適。為了更清晰地描述這些評估指標,需要用到混淆矩陣(如表3所示)。

    F1-Score是衡量算法模型對少數(shù)類樣本分類性能的重要指標,在不平衡數(shù)據(jù)的分類評估中被廣泛采用。通常簡寫為F1,其公式如式(8)所示:

    F1=2×TPTP+FP×TPTP+FNTPTP+FP+TPTP+FN。(8)

    G-mean綜合考慮了多數(shù)類樣本和少數(shù)類樣本的分類精度,僅當2類的分類情況都表現(xiàn)良好時,G-mean值才會增加,因此G-mean是整個數(shù)據(jù)集分類效果的有力度量。

    G-mean公式如式(9)所示:

    G-mean= TPTP+FN×TNTN+FP。(9)

    本文使用AUC來說明分類結(jié)果。AUC被定義為接受者操作特性曲線下的面積,而接受者操作特性曲線是通過繪制不同閾值設(shè)置下的靈敏度TP/(TP+FN)與特異性TN/(TN+FP)對比生成。AUC值越大,分類效果越好。

    2.3 ADASYN-WGAN方法驗證與結(jié)果分析

    2.3.1 方法驗證及可視化對比分析

    ADASYN-WGAN方法中,在yeast1.7數(shù)據(jù)集上,生成器和判別器的訓(xùn)練損失函數(shù)值隨著訓(xùn)練次數(shù)增加的變化過程如圖4所示。

    從圖4可以看出,隨著訓(xùn)練的進行,判別器和生成器逐漸優(yōu)化以提高自身能力,損失函數(shù)值逐漸趨于穩(wěn)定,表明對抗網(wǎng)絡(luò)模型逐漸收斂。此時生成器的生成能力達到最大,即ADASYN-WGAN方法能夠生成與真實少數(shù)類數(shù)據(jù)分布規(guī)律相似的高質(zhì)量樣本,模型訓(xùn)練結(jié)束。

    為了驗證ADASYN-WGAN方法生成的數(shù)據(jù)樣本與原始數(shù)據(jù)集分布規(guī)律之間的相似性,首先對人工數(shù)據(jù)集進行可視化驗證,利用sklearn中的make_classification函數(shù)創(chuàng)建不平衡率為9、特征數(shù)為3的不平衡數(shù)據(jù)集,其中總樣本數(shù)量為450,生成的不平衡原始數(shù)據(jù)集的分布效果如圖5 a)所示。然后,對不同采樣算法生成的數(shù)據(jù)進行可視化對比分析,如圖5 b)—f)所示。從圖中可以直觀地看到ADASYN-WGAN方法生成的少數(shù)類樣本更符合數(shù)據(jù)集分布規(guī)律,也不會因生成重疊部分的數(shù)據(jù)而導(dǎo)致分類器精度降低。

    2.3.2 實驗結(jié)果及分析

    在6個公開不平衡數(shù)據(jù)集中,采用隨機森林分類器對所提方法和已有的4種過采樣算法(SMOTE,GAN,ADASYN和WGAN)的采樣結(jié)果分別與原始數(shù)據(jù)集作對比。依據(jù)F1-Score,G-mean 和AUC等分類評估指標對實驗結(jié)果進行了評價。具體結(jié)果見表4—表6,各表中將各個評估指標的最優(yōu)值用黑色粗體表示。

    相較于隨機森林分類器在原始數(shù)據(jù)集上的分類結(jié)果,使用SMOTE,GAN,ADASYN和WGAN過采樣算法可以在不同程度上提高分類器在數(shù)據(jù)集上的分類性能。ADASYN-WGAN方法在名為glass6,ecoli1,ecoli2,yeast1.7的4個不平衡數(shù)據(jù)集上顯著提升了隨機森林分類器的分類性能,使得各項指標值均達到最優(yōu)。

    在penbased數(shù)據(jù)集上,與WGAN算法相比,ADASYN-WGAN方法的AUC值低0.000 905,而在realspambase數(shù)據(jù)集上,與GAN算法相比,ADASYN-WGAN方法的AUC值低0.000 501,總體上差距不大。但ADASYN-WGAN方法在這2個數(shù)據(jù)集上的F1-Score值和G-mean值達到最優(yōu),保證了分類精度。

    通過上述分析可以看出,ADASYN-WGAN方法有效解決了不平衡數(shù)據(jù)集分類預(yù)測偏差的問題,在F1-Score,G-mean,AUC這3個綜合性評估指標上得到了較好的結(jié)果。

    3 結(jié) 語

    本文提出了通過ADASYN算法和WGAN算法的協(xié)同作用生成平衡數(shù)據(jù)集,來解決數(shù)據(jù)不平衡給分類器帶來的預(yù)測偏差問題。在6個公開數(shù)據(jù)集中,采用隨機森林分類器對所提方法以及SMOTE,GAN,ADASYN和WGAN等4種過采樣算法的處理結(jié)果分別與原始數(shù)據(jù)集進行對比實驗,得出以下結(jié)論。

    1)從可視化對比分析可知,ADASYN-WGAN方法與4種過采樣算法相比生成的少數(shù)類樣本更符合原始數(shù)據(jù)集的分布規(guī)律,也不會因生成重疊部分的數(shù)據(jù)而導(dǎo)致分類器精度降低。

    2)在6個公開數(shù)據(jù)集中采用隨機森林分類器進行十折交叉驗證,通過對比實驗分析可知,使用4種過采樣算法可以在不同程度上提高分類器在不平衡數(shù)據(jù)集上的分類性能,而使用ADASYN-WGAN方法可以大幅度提升隨機森林分類器的分類性能。

    3)本文所提的ADASYN-WGAN方法解決了ADASYN算法在生成新樣本時忽視多數(shù)類樣本之間差異的問題,從而避免了生成的新樣本缺乏多樣性的情況。同時,該方法利用了WGAN算法解決了傳統(tǒng)GAN算法中存在的模式崩潰、梯度損失等問題,并解決了WGAN算法生成樣本受限于原始少數(shù)類樣本的問題。通過ADASYN-WGAN方法生成符合原始數(shù)據(jù)集分布規(guī)律的數(shù)據(jù),從而提高不平衡數(shù)據(jù)集中少數(shù)類樣本的分類精度。

    但是,目前該方法在使用中可能會出現(xiàn)由ADASYN算法和WGAN算法結(jié)合使用而帶來的計算復(fù)雜度和訓(xùn)練時間增加問題。因此,今后將在確保生成數(shù)據(jù)質(zhì)量的同時進一步簡化模型,以降低計算復(fù)雜度和縮短訓(xùn)練時間。

    參考文獻/References:

    [1]

    AL-SHABI M.Credit card fraud detection using autoencoder model in unbalanced datasets[J].Journal of Advances in Mathematics and Computer Science,2019,33(5):1-16.

    [2] PARSA A B,TAGHIPOUR H,DERRIBLE S,et al.Real-time accident detection:Coping with imbalanced data[J].Accident Analysis amp; Prevention,2019,129:202-210.

    [3] ZHANG Hongpo,HUANG Lulu,WU C Q,et al.An effective convolutional neural network based on SMOTE and Gaussian mixture model for intrusion detection in imbalanced dataset[J].Computer Networks,2020,177:107315.

    [4] XU Zhaozhao,SHEN Derong,NIE Tiezheng,et al.A cluster-based oversampling algorithm combining SMOTE and k-means for imbalanced medical data[J].Information Sciences,2021,572:574-589.

    [5] GEETHA R,SIVASUBRAMANIAN S,KALIAPPAN M,et al.Cervical cancer identification with synthetic minority oversampling technique and PCA analysis using random forest classifier[J].Journal of Medical Systems,2019,43(9):286-305.

    [6] 劉學(xué)文,王繼奎,楊正國,等.密度峰值優(yōu)化的球簇劃分欠采樣不平衡數(shù)據(jù)分類算法[J].計算機應(yīng)用,2022,42(5):1455-1463.

    LIU Xuewen,WANG Jikui,YANG Zhengguo,et al.Imbalanced data classification algorithm based on ball cluster partitioning and undersampling with density peak optimization[J].Journal of Computer Applications,2022,42(5):1455-1463.

    [7] FU Yanfang,DU Yishuai,CAO Zijian,et al.A deep learning model for network intrusion detection with imbalanced data[J].Electronics,2022,11(6):898-910.

    [8] LIU Jingmei,GAO Yuanbo,HU Fengjie.A fast network intrusion detection system using adaptive synthetic oversampling and LightGBM[J].Computers amp; Security,2021,106:102289-102304.

    [9] YAN Yilin,CHEN Min,SHYU M L,et al.Deep learning for imbalanced multimedia data classification[C]//2015 IEEE International Symposium on Multimedia (ISM).Miami:IEEE,2015:483-488.

    [10]KHAN S H,HAYAT M,BENNAMOUN M,et al.Cost-sensitive learning of deep feature representations from imbalanced data[J].IEEE Transactions on Neural Networks and Learning Systems,2018,29(8):3573-3587.

    [11]張思杰,方翔,魏賦.基于GAN的少樣本視網(wǎng)膜血管分割研究[J].電子測量與儀器學(xué)報,2021,35(11):132-142.

    ZHANG Sijie,F(xiàn)ANG Xiang,WEI Fu.Research on retinal vascular segmentation based on GAN using few samples[J].Journal of Electronic Measurement and Instrumentation,2021,35(11):132-142.

    [12]LEE J H,PARK K H.GAN-based imbalanced data intrusion detection system[J].Personal and Ubiquitous Computing,2021,25(1):121-128.

    [13]阿克弘,胡曉東.基于GAN數(shù)據(jù)重構(gòu)的電信用戶流失預(yù)測方法[J].電信科學(xué),2023,39(3):135-142.

    A Kehong,HU Xiaodong.GAN data reconstruction based prediction method of telecom subscriber loss[J].Telecommunications Science,2023,39(3):135-142.

    [14]SHARMA A,SINGH P K,CHANDRA R,et al.SMOTified-GAN for class imbalanced pattern classification problems[J].IEEE Access,2022,10:30655-30665.

    [15]WANG Zhengwei,SHE Qi,WARD T E.Generative adversarial networks in computer vision:A survey and taxonomy[J].ACM Computing Surveys,2021,54(2):3439723.https://doi.org/10.1145/3439723.

    [16]朱曉慧,錢麗萍,傅偉.基于GAN的網(wǎng)絡(luò)安全數(shù)據(jù)增強研究綜述與展望[J].計算機應(yīng)用與軟件,2022,39(11):288-296.

    ZHU Xiaohui,QIAN Liping,F(xiàn)U Wei.Review and prospect of data enhancement in network security based on GAN[J].Computer Applications and Software,2022,39(11):288-296.

    [17]PAN S J,YANG Qiang.A survey on transfer learning[J].IEEE Transactions on Knowledge and Data Engineering,2010,22(10):1345-1359.

    [18]LEE S,KIM J,LEE G,et al.Prediction of aquatic ecosystem health indices through machine learning models using the WGAN-based data augmentation method[J].Sustainability,2021,13(18):10435-10454.

    [19]GOODFELLOW I J,POUGET-ABADIE J,MIRZA M,et al.Generative adversarial nets[C]//Proceedings of the 27th International Conference on Neural Information Processing Systems.Montreal:MIT Press,2014,2:2672-2680.

    [20]王志強,于雪瑩,楊曉婧,等.基于WGAN和MCA-MobileNet的番茄葉片病害識別[J].農(nóng)業(yè)機械學(xué)報,2023,54(5):244-252.

    WANG Zhiqiang,YU Xueying,YANG Xiaojing,et al.Tomato leaf diseases recognition based on WGAN and MCA-MobileNet[J].Transactions of the Chinese Society for Agricultural Machinery,2023,54(5):244-252.

    [21]HE Haibo,BAI Yang,GARCIA E A,et al.ADASYN:Adaptive synthetic sampling approach for imbalanced learning[C]//2008 IEEE International Joint Conference on Neural Networks(IEEE World Congress on Computational Intelligence).Hong Kong:IEEE,2008:1322-1328.

    猜你喜歡
    隨機森林數(shù)據(jù)處理
    認知診斷缺失數(shù)據(jù)處理方法的比較:零替換、多重插補與極大似然估計法*
    ILWT-EEMD數(shù)據(jù)處理的ELM滾動軸承故障診斷
    隨機森林在棉蚜蟲害等級預(yù)測中的應(yīng)用
    基于二次隨機森林的不平衡數(shù)據(jù)分類算法
    軟件(2016年7期)2017-02-07 15:54:01
    拱壩變形監(jiān)測預(yù)報的隨機森林模型及應(yīng)用
    基于隨機森林算法的飛機發(fā)動機故障診斷方法的研究
    MATLAB在化學(xué)工程與工藝實驗數(shù)據(jù)處理中的應(yīng)用
    基于隨機森林算法的B2B客戶分級系統(tǒng)的設(shè)計
    基于多視角特征融合與隨機森林的蛋白質(zhì)結(jié)晶預(yù)測
    Matlab在密立根油滴實驗數(shù)據(jù)處理中的應(yīng)用
    亚洲av电影在线观看一区二区三区| 夫妻午夜视频| 伊人亚洲综合成人网| 黄色视频不卡| 久久亚洲精品不卡| 嫩草影视91久久| 啦啦啦啦在线视频资源| 老司机在亚洲福利影院| 9191精品国产免费久久| 中文字幕高清在线视频| 午夜免费鲁丝| 国产日韩一区二区三区精品不卡| 亚洲avbb在线观看| 一本—道久久a久久精品蜜桃钙片| 99热网站在线观看| 成人国产av品久久久| tube8黄色片| 在线观看人妻少妇| 在线观看人妻少妇| 青春草视频在线免费观看| 国产在线观看jvid| 亚洲第一av免费看| 两个人免费观看高清视频| 一区福利在线观看| 青春草视频在线免费观看| 欧美av亚洲av综合av国产av| 亚洲国产毛片av蜜桃av| 国产精品麻豆人妻色哟哟久久| 亚洲成人免费av在线播放| 国产亚洲av片在线观看秒播厂| 丝袜喷水一区| 国产日韩欧美亚洲二区| 国产精品麻豆人妻色哟哟久久| 两个人免费观看高清视频| 国产真人三级小视频在线观看| 在线观看免费视频网站a站| 人妻 亚洲 视频| 亚洲成人国产一区在线观看| 亚洲国产精品999| 国产在线视频一区二区| 久久中文看片网| 免费在线观看完整版高清| 国产一区二区三区综合在线观看| 精品少妇黑人巨大在线播放| 人妻一区二区av| 免费在线观看完整版高清| 午夜福利,免费看| 久久久久精品人妻al黑| 狠狠婷婷综合久久久久久88av| 国产又色又爽无遮挡免| 国产精品国产av在线观看| av欧美777| 国产91精品成人一区二区三区 | 精品一品国产午夜福利视频| 国产av一区二区精品久久| 欧美黄色片欧美黄色片| av视频免费观看在线观看| 在线观看免费视频网站a站| 久久亚洲国产成人精品v| 日本精品一区二区三区蜜桃| 国产免费现黄频在线看| 亚洲九九香蕉| 伊人亚洲综合成人网| 一区二区三区精品91| 国产黄频视频在线观看| 欧美精品一区二区免费开放| 中文字幕人妻熟女乱码| 热99re8久久精品国产| 99热网站在线观看| 高清av免费在线| 天堂8中文在线网| 国产99久久九九免费精品| 黄网站色视频无遮挡免费观看| 丰满饥渴人妻一区二区三| 久久国产精品男人的天堂亚洲| 亚洲精品在线美女| av线在线观看网站| 国产精品久久久av美女十八| 80岁老熟妇乱子伦牲交| 国产精品国产av在线观看| 亚洲国产日韩一区二区| 性色av乱码一区二区三区2| 久久精品成人免费网站| 青草久久国产| 亚洲国产av新网站| 人妻久久中文字幕网| 欧美少妇被猛烈插入视频| 久久午夜综合久久蜜桃| 国产av国产精品国产| 亚洲欧美一区二区三区久久| 欧美日韩精品网址| 欧美亚洲日本最大视频资源| 久久人人97超碰香蕉20202| 丝袜在线中文字幕| 国产在线一区二区三区精| av在线老鸭窝| 欧美黑人精品巨大| 深夜精品福利| 成人亚洲精品一区在线观看| 99国产精品一区二区蜜桃av | 老熟妇乱子伦视频在线观看 | 亚洲国产日韩一区二区| 俄罗斯特黄特色一大片| 亚洲精品日韩在线中文字幕| 日韩制服骚丝袜av| 最新在线观看一区二区三区| 国产精品免费大片| 精品第一国产精品| 一级毛片女人18水好多| 国产亚洲精品一区二区www | 免费高清在线观看视频在线观看| 一进一出抽搐动态| 国产男人的电影天堂91| 91老司机精品| 亚洲欧美清纯卡通| 国产精品国产三级国产专区5o| 自线自在国产av| 一区福利在线观看| 亚洲精品国产精品久久久不卡| 亚洲精品中文字幕一二三四区 | 国产黄频视频在线观看| 一区二区av电影网| 各种免费的搞黄视频| 色视频在线一区二区三区| 午夜福利影视在线免费观看| 精品国产超薄肉色丝袜足j| 午夜免费成人在线视频| 黄片小视频在线播放| 啦啦啦 在线观看视频| 亚洲av日韩精品久久久久久密| 叶爱在线成人免费视频播放| 国产福利在线免费观看视频| 国产免费福利视频在线观看| 99国产精品一区二区蜜桃av | 国产人伦9x9x在线观看| 国产精品一区二区在线不卡| 9色porny在线观看| 精品国产国语对白av| 欧美日韩精品网址| 999精品在线视频| 91字幕亚洲| 精品国产一区二区三区四区第35| 国产精品香港三级国产av潘金莲| 欧美激情 高清一区二区三区| 久久精品人人爽人人爽视色| 亚洲一区二区三区欧美精品| 日韩有码中文字幕| 老司机福利观看| 亚洲情色 制服丝袜| 久久精品国产综合久久久| 777久久人妻少妇嫩草av网站| 少妇粗大呻吟视频| tube8黄色片| 91精品三级在线观看| 国产精品.久久久| 欧美精品人与动牲交sv欧美| 两人在一起打扑克的视频| 脱女人内裤的视频| 久久人人爽人人片av| 欧美97在线视频| 黄色视频,在线免费观看| 99热国产这里只有精品6| 狂野欧美激情性xxxx| 午夜日韩欧美国产| 国产精品久久久久久精品古装| 国产免费av片在线观看野外av| 亚洲黑人精品在线| 亚洲免费av在线视频| 久久99热这里只频精品6学生| 精品少妇一区二区三区视频日本电影| 精品人妻一区二区三区麻豆| 19禁男女啪啪无遮挡网站| 18在线观看网站| 国产激情久久老熟女| 男人爽女人下面视频在线观看| 激情视频va一区二区三区| 亚洲精品久久成人aⅴ小说| 黑丝袜美女国产一区| 男女边摸边吃奶| 欧美一级毛片孕妇| 国产免费一区二区三区四区乱码| 欧美 日韩 精品 国产| 欧美黄色片欧美黄色片| 免费看十八禁软件| 亚洲精品国产一区二区精华液| 一本大道久久a久久精品| av在线app专区| 一个人免费在线观看的高清视频 | 一级毛片精品| 美女视频免费永久观看网站| 欧美激情 高清一区二区三区| 这个男人来自地球电影免费观看| 亚洲欧洲日产国产| 男人爽女人下面视频在线观看| 男人添女人高潮全过程视频| 欧美精品人与动牲交sv欧美| 久久久久精品国产欧美久久久 | 五月开心婷婷网| 亚洲综合色网址| 亚洲精品在线美女| 久久久久久久久久久久大奶| 国产免费一区二区三区四区乱码| 精品少妇黑人巨大在线播放| 久久久精品94久久精品| 亚洲欧美色中文字幕在线| 汤姆久久久久久久影院中文字幕| 欧美精品啪啪一区二区三区 | www.熟女人妻精品国产| 国产日韩欧美亚洲二区| 国产熟女午夜一区二区三区| 九色亚洲精品在线播放| 国产有黄有色有爽视频| 国产1区2区3区精品| 国产精品久久久av美女十八| 久久久精品国产亚洲av高清涩受| 久久久精品区二区三区| 欧美精品一区二区大全| 精品高清国产在线一区| 国产视频一区二区在线看| 日本五十路高清| 欧美日韩av久久| 超碰97精品在线观看| 人妻一区二区av| 男人操女人黄网站| 日日夜夜操网爽| 超碰97精品在线观看| 久热这里只有精品99| 交换朋友夫妻互换小说| 亚洲欧洲日产国产| 欧美成人午夜精品| 午夜福利,免费看| 美女主播在线视频| 黄色毛片三级朝国网站| 亚洲精品国产av蜜桃| 午夜福利免费观看在线| 操美女的视频在线观看| 免费在线观看视频国产中文字幕亚洲 | 欧美人与性动交α欧美软件| 国产精品麻豆人妻色哟哟久久| 啪啪无遮挡十八禁网站| 男女高潮啪啪啪动态图| 日韩中文字幕欧美一区二区| 日本精品一区二区三区蜜桃| 午夜成年电影在线免费观看| 色精品久久人妻99蜜桃| 每晚都被弄得嗷嗷叫到高潮| 久久久久网色| 久久精品国产a三级三级三级| 97在线人人人人妻| 国产精品一区二区在线观看99| 一区二区av电影网| 亚洲国产精品一区三区| 不卡av一区二区三区| 午夜福利乱码中文字幕| 别揉我奶头~嗯~啊~动态视频 | 久久中文字幕一级| 黑人猛操日本美女一级片| 久久人人97超碰香蕉20202| 美女大奶头黄色视频| 久久99热这里只频精品6学生| 精品人妻1区二区| 日韩大码丰满熟妇| 女性被躁到高潮视频| 美女高潮喷水抽搐中文字幕| av又黄又爽大尺度在线免费看| 啦啦啦啦在线视频资源| a级毛片在线看网站| 99国产精品99久久久久| 高清视频免费观看一区二区| 夫妻午夜视频| 国产一区有黄有色的免费视频| 日本av免费视频播放| 在线十欧美十亚洲十日本专区| 亚洲成av片中文字幕在线观看| 大码成人一级视频| 国产在线一区二区三区精| 这个男人来自地球电影免费观看| 手机成人av网站| 亚洲av日韩精品久久久久久密| 欧美少妇被猛烈插入视频| 亚洲精品一区蜜桃| 日本一区二区免费在线视频| 啦啦啦啦在线视频资源| 国产成人影院久久av| 国产成+人综合+亚洲专区| 人人妻人人爽人人添夜夜欢视频| 欧美另类亚洲清纯唯美| 一个人免费看片子| 成人黄色视频免费在线看| 国产精品熟女久久久久浪| 欧美激情极品国产一区二区三区| 两个人看的免费小视频| 两个人免费观看高清视频| 日本撒尿小便嘘嘘汇集6| 韩国高清视频一区二区三区| 久久免费观看电影| 热99国产精品久久久久久7| 黄色视频不卡| 久久综合国产亚洲精品| 日韩欧美一区二区三区在线观看 | 女性生殖器流出的白浆| 我的亚洲天堂| 亚洲成人国产一区在线观看| 国产亚洲午夜精品一区二区久久| 在线观看一区二区三区激情| 性少妇av在线| 亚洲色图综合在线观看| 1024香蕉在线观看| 国产精品 欧美亚洲| 嫩草影视91久久| 久久精品亚洲av国产电影网| 97精品久久久久久久久久精品| 日韩欧美免费精品| 99九九在线精品视频| 十八禁网站免费在线| 亚洲欧洲日产国产| 久久狼人影院| 婷婷丁香在线五月| av在线老鸭窝| 女人精品久久久久毛片| 亚洲精品一区蜜桃| 国产黄色免费在线视频| 欧美中文综合在线视频| 久久99一区二区三区| 十八禁网站免费在线| 久久女婷五月综合色啪小说| 国产成人精品无人区| 亚洲成国产人片在线观看| 中文字幕精品免费在线观看视频| 国产亚洲精品第一综合不卡| 免费观看av网站的网址| 亚洲免费av在线视频| 老司机影院成人| h视频一区二区三区| 视频在线观看一区二区三区| 亚洲欧洲精品一区二区精品久久久| 黑人巨大精品欧美一区二区mp4| 18禁国产床啪视频网站| 久久精品亚洲av国产电影网| 啦啦啦视频在线资源免费观看| av线在线观看网站| 99精国产麻豆久久婷婷| 极品少妇高潮喷水抽搐| 国产不卡av网站在线观看| 99国产精品一区二区蜜桃av | 亚洲国产成人一精品久久久| 日本黄色日本黄色录像| 亚洲国产精品一区二区三区在线| 国产97色在线日韩免费| 色婷婷久久久亚洲欧美| 欧美在线黄色| 色精品久久人妻99蜜桃| 精品少妇久久久久久888优播| 男人舔女人的私密视频| 老司机影院毛片| 大码成人一级视频| 一边摸一边做爽爽视频免费| 啦啦啦 在线观看视频| 久久久久久亚洲精品国产蜜桃av| 十八禁高潮呻吟视频| 18禁黄网站禁片午夜丰满| 国产成人欧美| 午夜精品久久久久久毛片777| 性色av一级| 最新的欧美精品一区二区| 九色亚洲精品在线播放| 色精品久久人妻99蜜桃| 99热全是精品| 国产av又大| 动漫黄色视频在线观看| 成年人黄色毛片网站| 亚洲欧美一区二区三区久久| 精品乱码久久久久久99久播| 天堂8中文在线网| 一区福利在线观看| 日本撒尿小便嘘嘘汇集6| 老汉色∧v一级毛片| 久久九九热精品免费| 黄网站色视频无遮挡免费观看| 免费看十八禁软件| 亚洲中文字幕日韩| 免费观看a级毛片全部| 欧美日韩黄片免| 国产色视频综合| 久久久精品区二区三区| 最黄视频免费看| 天天躁夜夜躁狠狠躁躁| 精品一区二区三区四区五区乱码| av在线老鸭窝| 亚洲免费av在线视频| 国产日韩欧美视频二区| 老司机影院毛片| 久久午夜综合久久蜜桃| 丁香六月天网| 久久久久久久久久久久大奶| 国产1区2区3区精品| 男女无遮挡免费网站观看| av超薄肉色丝袜交足视频| 一区二区三区四区激情视频| 精品国产一区二区三区四区第35| 欧美精品一区二区免费开放| 夜夜骑夜夜射夜夜干| 深夜精品福利| 可以免费在线观看a视频的电影网站| 亚洲精品中文字幕在线视频| 天堂中文最新版在线下载| 青青草视频在线视频观看| 啦啦啦免费观看视频1| 操出白浆在线播放| 水蜜桃什么品种好| 成人亚洲精品一区在线观看| 欧美精品av麻豆av| 精品亚洲成a人片在线观看| 黄色片一级片一级黄色片| 丝瓜视频免费看黄片| 老司机午夜十八禁免费视频| tube8黄色片| 2018国产大陆天天弄谢| 欧美黑人精品巨大| 成人18禁高潮啪啪吃奶动态图| 他把我摸到了高潮在线观看 | 国产精品99久久99久久久不卡| 最近最新免费中文字幕在线| 黄网站色视频无遮挡免费观看| 亚洲熟女精品中文字幕| av天堂在线播放| 成人国产av品久久久| 人妻 亚洲 视频| av一本久久久久| 亚洲成av片中文字幕在线观看| 日日摸夜夜添夜夜添小说| 天天添夜夜摸| 五月天丁香电影| 一级片免费观看大全| 亚洲精品成人av观看孕妇| 欧美成狂野欧美在线观看| 成人av一区二区三区在线看 | 国产又爽黄色视频| 免费av中文字幕在线| 人人妻人人爽人人添夜夜欢视频| 中文字幕高清在线视频| 精品人妻熟女毛片av久久网站| 丰满迷人的少妇在线观看| 深夜精品福利| 99九九在线精品视频| 亚洲国产精品一区二区三区在线| 午夜两性在线视频| 中文字幕人妻熟女乱码| 极品少妇高潮喷水抽搐| 法律面前人人平等表现在哪些方面 | 久久亚洲国产成人精品v| av在线播放精品| 精品久久久久久久毛片微露脸 | 男女之事视频高清在线观看| 一级毛片精品| 免费观看人在逋| 国产在视频线精品| 精品久久久精品久久久| 精品国产国语对白av| 无遮挡黄片免费观看| 超色免费av| 9热在线视频观看99| 香蕉丝袜av| 一级毛片女人18水好多| 亚洲国产毛片av蜜桃av| 99热国产这里只有精品6| 99热全是精品| 国产成人一区二区三区免费视频网站| 一边摸一边做爽爽视频免费| 国产成人精品无人区| 女人爽到高潮嗷嗷叫在线视频| 老汉色av国产亚洲站长工具| 亚洲精品国产色婷婷电影| 久久精品熟女亚洲av麻豆精品| e午夜精品久久久久久久| 美女视频免费永久观看网站| 桃红色精品国产亚洲av| 侵犯人妻中文字幕一二三四区| 母亲3免费完整高清在线观看| 不卡av一区二区三区| 少妇裸体淫交视频免费看高清 | 天天影视国产精品| 两个人看的免费小视频| 大陆偷拍与自拍| 日韩 亚洲 欧美在线| 久9热在线精品视频| 亚洲成人免费av在线播放| www.精华液| 日本精品一区二区三区蜜桃| 国产在视频线精品| 欧美日韩成人在线一区二区| 亚洲少妇的诱惑av| 欧美精品av麻豆av| 人人妻人人澡人人爽人人夜夜| 曰老女人黄片| 男人操女人黄网站| 国产精品久久久av美女十八| 久久影院123| 性高湖久久久久久久久免费观看| 老司机亚洲免费影院| 超色免费av| 99国产极品粉嫩在线观看| av网站在线播放免费| 久久av网站| 大片免费播放器 马上看| 亚洲av欧美aⅴ国产| 欧美 日韩 精品 国产| 十分钟在线观看高清视频www| 人妻 亚洲 视频| 一级毛片精品| 啪啪无遮挡十八禁网站| 飞空精品影院首页| 可以免费在线观看a视频的电影网站| 免费在线观看完整版高清| 咕卡用的链子| 久久精品成人免费网站| 久久久久久人人人人人| 亚洲avbb在线观看| 日韩,欧美,国产一区二区三区| 久久精品亚洲熟妇少妇任你| 成人手机av| 97在线人人人人妻| 制服人妻中文乱码| 久久国产精品大桥未久av| 97人妻天天添夜夜摸| 久久久国产成人免费| 国产xxxxx性猛交| 天堂8中文在线网| 免费女性裸体啪啪无遮挡网站| 亚洲欧美激情在线| 两人在一起打扑克的视频| 国产91精品成人一区二区三区 | 欧美av亚洲av综合av国产av| 黄色a级毛片大全视频| 久久人妻福利社区极品人妻图片| 国产视频一区二区在线看| 热99re8久久精品国产| 欧美变态另类bdsm刘玥| netflix在线观看网站| 最新的欧美精品一区二区| 97在线人人人人妻| 两个人看的免费小视频| 久久人妻熟女aⅴ| 美女视频免费永久观看网站| 成人三级做爰电影| www.av在线官网国产| 欧美激情久久久久久爽电影 | 精品高清国产在线一区| 亚洲av国产av综合av卡| 91成人精品电影| 91大片在线观看| 肉色欧美久久久久久久蜜桃| 老汉色∧v一级毛片| 午夜激情久久久久久久| 在线天堂中文资源库| a 毛片基地| 久久精品久久久久久噜噜老黄| 久久精品aⅴ一区二区三区四区| 啦啦啦视频在线资源免费观看| a级毛片在线看网站| 精品亚洲乱码少妇综合久久| 久久热在线av| 久久精品国产亚洲av高清一级| 亚洲国产成人一精品久久久| 欧美另类一区| 亚洲人成77777在线视频| 久热爱精品视频在线9| 国产麻豆69| 国产欧美日韩一区二区三 | 国产精品二区激情视频| 无限看片的www在线观看| 中文欧美无线码| 国产成人系列免费观看| 丁香六月欧美| 18在线观看网站| 欧美av亚洲av综合av国产av| 国产av国产精品国产| 最近最新免费中文字幕在线| 国产野战对白在线观看| 黑人欧美特级aaaaaa片| 欧美xxⅹ黑人| 欧美日韩亚洲高清精品| 国产片内射在线| 国产av精品麻豆| 老汉色∧v一级毛片| 亚洲欧洲日产国产| 最近中文字幕2019免费版| 国产精品一二三区在线看| 婷婷丁香在线五月| 久久久国产精品麻豆| 秋霞在线观看毛片| 老司机午夜福利在线观看视频 | 精品福利永久在线观看| 成人国产一区最新在线观看| 成人影院久久| 日本a在线网址| 成人国产一区最新在线观看| 国产一区二区 视频在线| 99国产精品一区二区蜜桃av | 老熟妇仑乱视频hdxx| 久久ye,这里只有精品| 久久人妻福利社区极品人妻图片| 欧美 日韩 精品 国产| 伦理电影免费视频| 男女之事视频高清在线观看| 伊人久久大香线蕉亚洲五| 成人影院久久| 高清黄色对白视频在线免费看| 国产在线一区二区三区精| 黄色怎么调成土黄色| 亚洲激情五月婷婷啪啪| 精品亚洲成国产av| 中文字幕av电影在线播放| 中国美女看黄片| 国产精品麻豆人妻色哟哟久久|