• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    有噪聲標(biāo)注情況下的中醫(yī)舌色分類方法

    2022-02-24 08:59:16孫亮亮李曉光
    電子與信息學(xué)報(bào) 2022年1期
    關(guān)鍵詞:舌色網(wǎng)絡(luò)結(jié)構(gòu)準(zhǔn)確率

    卓 力 孫亮亮 張 輝 李曉光 張 菁

    (北京工業(yè)大學(xué)信息學(xué)部 北京 100124)

    (北京工業(yè)大學(xué)計(jì)算智能與智能系統(tǒng)北京重點(diǎn)實(shí)驗(yàn)室 北京 100124)

    1 引言

    舌診是中醫(yī)(Traditional Chinese Medicine,TCM)望診中的核心內(nèi)容。舌色作為舌象診察重要特征之一,在中醫(yī)上一般分為淡紅舌、紅舌、暗紅舌、紫舌等4類,其顏色的變化反映了人體臟腑氣血津液的虛實(shí)和邪正盛衰[1]。長期以來,舌診主要是通過醫(yī)生的目測觀察、經(jīng)驗(yàn)來判斷病證。但在臨床實(shí)踐中,舌象的診察會受到光線、溫度等外界客觀因素以及醫(yī)生主觀性的影響,進(jìn)而影響后續(xù)的癥候診斷及依證施方。利用計(jì)算機(jī)對中醫(yī)舌象進(jìn)行定量化、客觀化和標(biāo)準(zhǔn)化的處理與分析,已成為當(dāng)前舌診客觀化研究中的一個基礎(chǔ)性問題。

    中醫(yī)舌診客觀化的研究起步于20世紀(jì)80年代初期,其中以中醫(yī)舌質(zhì)、苔質(zhì)顏色自動分析為代表的工作可以分為兩個階段:第1階段是傳統(tǒng)方法,普遍采用人工特征+淺層機(jī)器學(xué)習(xí)的框架,對舌色、苔色等進(jìn)行分析和處理;第2階段是基于深度學(xué)習(xí)的方法,采用端到端的框架,實(shí)現(xiàn)中醫(yī)舌象的智能分析與處理。

    在第1階段的研究工作中,通常提取舌圖像的人工特征,如顏色直方圖、顏色集、結(jié)構(gòu)元素描述符[2]、顏色共生矩陣[3]、圖像矩[4,5]等顏色特征,用于舌色分類。文獻(xiàn)[6]提出了一種多因素相關(guān)的塊截?cái)嗑幋a用于提取圖像的顏色特征,并在圖像分類中取得較好的結(jié)果。文獻(xiàn)[7]提出了一種AdaBoost級聯(lián)分類框架,提高了舌質(zhì)顏色分類的準(zhǔn)確率。文獻(xiàn)[8]在RGB空間提取了舌圖像的顏色特征,采用支持向量機(jī)作為分類器,實(shí)現(xiàn)了舌色分類。文獻(xiàn)[9]利用主色調(diào)直方圖作為顏色特征,在多標(biāo)記學(xué)習(xí)算法下對舌質(zhì)與舌苔進(jìn)行了分類。文獻(xiàn)[10]在先驗(yàn)?zāi)0搴蜆?biāo)準(zhǔn)的色塊作為輔助基礎(chǔ)上,利用K近鄰(KNearest Neighbor, KNN)作為分類器進(jìn)行分類。王愛民等人[11]采用Fisher比率作為色度空間選擇的依據(jù),實(shí)現(xiàn)了舌色和苔色的自動分類。

    這一階段的研究工作普遍人工提取舌圖像的顏色特征進(jìn)行分類,由于顏色特征對于光照變化特別敏感,因此這些方法的魯棒性較差,分類準(zhǔn)確性難以令人滿意。

    2012年以來,深度學(xué)習(xí)在圖像分類、自然語言處理等領(lǐng)域取得了巨大突破。在第2階段的研究工作中,研究者嘗試將深度學(xué)習(xí)應(yīng)用于中醫(yī)舌診研究中,利用深度學(xué)習(xí)強(qiáng)大的特征學(xué)習(xí)和語義表達(dá)能力,從大量的樣本數(shù)據(jù)中自動學(xué)習(xí)舌圖像的特征,實(shí)現(xiàn)舌色的分類。文獻(xiàn)[12]采用改進(jìn)后的CaffeNet網(wǎng)絡(luò)結(jié)構(gòu)對預(yù)處理后的舌圖像進(jìn)行分類。文獻(xiàn)[13]結(jié)合圖像預(yù)處理和深度學(xué)習(xí),在舌圖像數(shù)據(jù)集中驗(yàn)證了自搭建的卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network, CNN)的分類性能。文獻(xiàn)[14]為了減小在舌色、苔色分類時,兩者之間的相互干擾,將整張舌圖像按照舌色、苔色分布的區(qū)域分離開來分別送入輕型CNN網(wǎng)絡(luò)進(jìn)行分類。在圖像分類任務(wù)中,不同特征的融合往往會取得更好的分類結(jié)果,文獻(xiàn)[15,16]提出了不同的視覺與文本特征融合的方法,并在各自的分類任務(wù)中取得了更優(yōu)的性能。

    研究結(jié)果表明,基于深度學(xué)習(xí)的方法可以獲得遠(yuǎn)超過傳統(tǒng)方法的性能,舌色分類精度有了顯著的提升。但是,目前基于深度學(xué)習(xí)的中醫(yī)舌色分類方法還存在以下問題需要解決:

    (1)深度神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)復(fù)雜,計(jì)算復(fù)雜度和存儲需求會大大增加。同時,需要大量的有標(biāo)注樣本對網(wǎng)絡(luò)進(jìn)行訓(xùn)練,才能獲得理想的性能。而在實(shí)際應(yīng)用中,由于有經(jīng)驗(yàn)的醫(yī)生標(biāo)注成本昂貴,數(shù)據(jù)采集困難,往往難以獲得大規(guī)模、有標(biāo)注的舌象樣本。如何利用小規(guī)模的數(shù)據(jù)集,有針對性地設(shè)計(jì)深度網(wǎng)絡(luò)模型,提升舌色分類的準(zhǔn)確性,還需要進(jìn)行深入的研究;

    (2)受醫(yī)生的知識水平、診斷經(jīng)驗(yàn)的限制,也因?yàn)楣饩€、環(huán)境等客觀因素的影響,醫(yī)生的標(biāo)注樣本中經(jīng)常會出現(xiàn)錯誤,標(biāo)注的樣本數(shù)據(jù)中不可避免地會存在一定的噪聲,噪聲樣本的存在會對分類網(wǎng)絡(luò)模型的訓(xùn)練造成影響,導(dǎo)致舌色分類的魯棒性和準(zhǔn)確性難以令人滿意。針對有噪聲標(biāo)注樣本情況下的分類問題,學(xué)者開展了深入的研究工作,取得了有意義的研究進(jìn)展。比如,文獻(xiàn)[17]提出一種簡單而有效的注意力特征混合(Attentive Feature Mixup, AFM)策略,利用注意力機(jī)制降低噪聲樣本的權(quán)重,進(jìn)而抑制噪聲樣本對分類模型的影響。文獻(xiàn)[18]提出了置信學(xué)習(xí)的思想,用于識別和過濾錯誤樣本。在過濾錯誤樣本后,調(diào)整樣本類別權(quán)重,重新訓(xùn)練網(wǎng)絡(luò)。文獻(xiàn)[19]提出了一種框架用來構(gòu)建健壯的損失函數(shù),有效解決了損失函數(shù)對噪聲樣本的欠擬合問題。文獻(xiàn)[20]提出了一種基于噪聲分類器預(yù)測的標(biāo)簽校正算法,提升了分類網(wǎng)絡(luò)模型的性能。文獻(xiàn)[21]構(gòu)建了網(wǎng)絡(luò)參數(shù)和標(biāo)簽聯(lián)合優(yōu)化的框架,利用網(wǎng)絡(luò)輸出結(jié)果更新標(biāo)簽,提升分類性能。文獻(xiàn)[22]通過構(gòu)建一種自治愈網(wǎng)絡(luò)實(shí)現(xiàn)對噪聲樣本的抑制和噪聲標(biāo)注的修正,提高了分類的精度。文獻(xiàn)[23]提出了一種不一致的潛在真實(shí)偽標(biāo)注框架IPA2LT,該框架在一定程度上解決了人臉表情注釋的不一致性帶來的問題,提升了表情分類的精度。

    上述的研究結(jié)果表明,對有噪聲的樣本進(jìn)行識別并加以清除,可以有效提升分類模型的性能。但是目前,針對有噪樣本下的舌色分類的研究工作很少,當(dāng)前舌色分類的魯棒性和準(zhǔn)確性難以令人滿意,嚴(yán)重阻礙了舌診客觀化研究的進(jìn)展。

    為此,本文提出了一種有噪聲標(biāo)注情況下的中醫(yī)舌色分類方法,目的是實(shí)現(xiàn)舌色的魯棒、準(zhǔn)確分類。主要的創(chuàng)新點(diǎn)包括:(1)提出了一種基于2階段的數(shù)據(jù)清洗方法,用于對噪聲標(biāo)注樣本進(jìn)行識別并加以清除;(2)針對舌象樣本數(shù)據(jù)規(guī)模小的問題,設(shè)計(jì)了一種帶通道注意力機(jī)制(Channel Attention,CA)[24]的輕型卷積神經(jīng)網(wǎng)絡(luò),以實(shí)現(xiàn)舌色的準(zhǔn)確分類;(3)提出了一種帶有噪聲樣本過濾機(jī)制的知識蒸餾策略,該策略中加入了由教師網(wǎng)絡(luò)主導(dǎo)的噪聲樣本過濾機(jī)制,進(jìn)一步剔除噪聲樣本,同時利用教師網(wǎng)絡(luò)指導(dǎo)輕型卷積神經(jīng)網(wǎng)絡(luò)的訓(xùn)練,提升了分類模型的性能。在自建的中醫(yī)舌色分類數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果表明,與現(xiàn)有的分類網(wǎng)絡(luò)模型相比,本文提出的方法能以較低的計(jì)算復(fù)雜度,顯著提升分類性能,分類準(zhǔn)確率達(dá)到了93.88%。

    2 有噪聲標(biāo)注情況下的中醫(yī)舌色分類方法

    本文提出的有噪聲標(biāo)注情況下的中醫(yī)舌色分類方法整體框圖如圖1所示。下面介紹本文提出的兩階段數(shù)據(jù)清洗方法、輕型CNN網(wǎng)絡(luò)結(jié)構(gòu)、帶有噪聲樣本過濾機(jī)制的知識蒸餾策略等幾個關(guān)鍵部分的具體實(shí)現(xiàn)細(xì)節(jié)。

    圖1 有噪聲標(biāo)注情況下的中醫(yī)舌色分類方法整體框圖

    2.1 兩階段數(shù)據(jù)清洗方法

    如上所述,由于舌色類別之間并沒有一個嚴(yán)格的界限和醫(yī)生標(biāo)注者的主觀性等因素的影響,舌象數(shù)據(jù)集中存在一些帶有噪聲標(biāo)注的樣本,影響分類模型的訓(xùn)練。為此,本文提出了一種基于2階段的數(shù)據(jù)樣本清洗方法,其處理流程如表1所示。在第1階段,采用ResNet18篩選出數(shù)據(jù)中的噪聲樣本。其基本思想是利用ResNet18網(wǎng)絡(luò)從大部分干凈樣本中學(xué)習(xí)到規(guī)律,篩選出噪聲樣本。通過多次隨機(jī)劃分和迭代,實(shí)現(xiàn)對數(shù)據(jù)集的初篩。由于在第1階段篩選數(shù)據(jù)的過程中,訓(xùn)練集中有噪聲樣本的存在,分類模型有可能會誤將干凈的樣本篩選掉。因此,本文又設(shè)計(jì)了第2階段,利用經(jīng)過第1階段清洗后的數(shù)據(jù)集微調(diào)ResNet18, VGGNet等CNN模型(均在ImageNet上進(jìn)行了預(yù)訓(xùn)練),對篩選出的噪聲樣本進(jìn)行修正,盡可能避免誤篩干凈的樣本。清洗后的樣本將用于訓(xùn)練舌色分類網(wǎng)絡(luò)模型。

    表1 有噪聲標(biāo)準(zhǔn)舌圖像的數(shù)據(jù)清洗流程

    2.2 輕型CNN網(wǎng)絡(luò)結(jié)構(gòu)

    深度學(xué)習(xí)依賴大數(shù)據(jù)作為支撐。然而,由于醫(yī)生標(biāo)注數(shù)據(jù)的成本高,臨床數(shù)據(jù)采集困難,因此難以獲得大規(guī)模、有標(biāo)注的中醫(yī)舌色樣本數(shù)據(jù)。訓(xùn)練樣本數(shù)據(jù)量的不足很容易導(dǎo)致過擬合現(xiàn)象的發(fā)生,影響網(wǎng)絡(luò)模型的訓(xùn)練性能。因此,本文設(shè)計(jì)了一種輕型CNN網(wǎng)絡(luò)結(jié)構(gòu),以防止由于訓(xùn)練樣本過少帶來的過擬合問題,同時也加入了通道注意力機(jī)制,獲得更具表達(dá)能力的深度特征。

    2.2.1 整體網(wǎng)絡(luò)結(jié)構(gòu)

    本文設(shè)計(jì)的輕型CNN網(wǎng)絡(luò)結(jié)構(gòu)如圖2所示。這是一個端到端的架構(gòu),輸入為舌圖像,輸出為預(yù)測的舌色類別。網(wǎng)絡(luò)由9層卷積層和2層全連接層組成。為了減少網(wǎng)絡(luò)的參數(shù)量、避免過擬合現(xiàn)象的發(fā)生,除了第1層使用7×7的卷積核,其余卷積層均采用了3×3的卷積核。此外,每個卷積層之間均使用了批量正則化(Batch Normalization,BN)和ReLU激活操作;其次,為了增強(qiáng)梯度傳播和網(wǎng)絡(luò)的泛化能力,采用了殘差網(wǎng)絡(luò)的連接方式。具體來說,從第2個卷積層開始,每兩個卷積層組成一個殘差塊;最后,在網(wǎng)絡(luò)中加入了通道注意力機(jī)制,引導(dǎo)網(wǎng)絡(luò)更關(guān)注對分類任務(wù)重要的特征通道,抑制無關(guān)的通道。最后兩個全連接層的神經(jīng)元個數(shù)分別設(shè)置為128和4。

    圖2 輕型CNN網(wǎng)絡(luò)結(jié)構(gòu)圖

    2.2.2 通道注意力機(jī)制

    為了提升輕型CNN網(wǎng)絡(luò)的特征提取與表達(dá)能力,本文在網(wǎng)絡(luò)中加入了通道注意力機(jī)制。通道注意力機(jī)制認(rèn)為網(wǎng)絡(luò)中每層不同通道的特征的重要性不同,通過向重要的通道賦予更高的權(quán)重使得網(wǎng)絡(luò)更加注重對分類任務(wù)有用的信息,結(jié)構(gòu)如圖3所示。

    在圖3中,輸入的特征圖(H×W×C)分別經(jīng)過最大池化和平均池化,得到兩個1×1×C的特征圖。接著,將其分別送入一個多層感知機(jī)(Multi-Layer Perception, MLP)中。MLP主要用于壓縮輸入特征圖的空間維數(shù)和生成對應(yīng)的權(quán)重,共有兩層:第1層神經(jīng)元個數(shù)為 C/r(r為減少率,本文中r設(shè)為16),激活函數(shù)為ReLU;第2層神經(jīng)元個數(shù)為C,這兩層的神經(jīng)網(wǎng)絡(luò)權(quán)值是共享的。之后,將MLP輸出的特征分別進(jìn)行加法和Sigmoid激活操作,生成最終的通道注意力特征,即Mc(F)。

    圖3 通道注意力網(wǎng)絡(luò)結(jié)構(gòu)

    整個通道注意力模塊的計(jì)算過程可以表示為

    2.3 帶有噪聲樣本過濾機(jī)制的知識蒸餾策略

    為了進(jìn)一步篩選數(shù)據(jù)集中的噪聲樣本,同時提高輕型CNN網(wǎng)絡(luò)的分類性能,本文提出了一種帶有噪聲樣本過濾機(jī)制的知識蒸餾策略,通過一個復(fù)雜的教師網(wǎng)絡(luò)去指導(dǎo)輕型學(xué)生網(wǎng)絡(luò)的學(xué)習(xí)。教師網(wǎng)絡(luò)中加入噪聲樣本的過濾機(jī)制,進(jìn)一步濾除噪聲樣本。該過濾機(jī)制是基于噪聲樣本相對于干凈樣本的分類損失值會更大的思路,利用教師網(wǎng)絡(luò)計(jì)算每個批次中樣本的分類損失值,然后按照一定的比例過濾掉損失值較大的樣本,只把損失值小的樣本用于訓(xùn)練學(xué)生網(wǎng)絡(luò)。該策略可以在教師網(wǎng)絡(luò)將知識傳遞到學(xué)生網(wǎng)絡(luò)的同時,降低噪聲樣本對學(xué)生模型訓(xùn)練的干擾,使學(xué)生網(wǎng)絡(luò)盡可能逼近亦或是超過教師網(wǎng)絡(luò)的性能,從而以較低的網(wǎng)絡(luò)復(fù)雜度,獲得較高的分類性能。噪聲樣本的過濾流程如表2所示。

    表2 噪聲樣本過濾流程

    教師網(wǎng)絡(luò)采用ResNet50[25]+SeNet[26]的網(wǎng)絡(luò)結(jié)構(gòu),而學(xué)生網(wǎng)絡(luò)則是本文設(shè)計(jì)的輕型CNN網(wǎng)絡(luò)。知識蒸餾策略的整體結(jié)構(gòu)如圖4所示。采用在ImageNet上訓(xùn)練好的ResNet50+SeNet對輸入樣本進(jìn)行分類,輸出結(jié)果作為軟標(biāo)簽,去指導(dǎo)輕型CNN網(wǎng)絡(luò)的訓(xùn)練。相比于硬標(biāo)簽來說,軟標(biāo)簽攜帶了更多有用的信息,可以有效提升學(xué)生網(wǎng)絡(luò)的訓(xùn)練性能。

    圖4 知識蒸餾的結(jié)構(gòu)圖

    在知識蒸餾中,本文采用的目標(biāo)函數(shù)為交叉熵?fù)p失函數(shù)與K-L散度損失的加權(quán)和,具體為

    利用這種帶有噪聲樣本過濾機(jī)制的知識蒸餾策略,可以進(jìn)一步去除有噪樣本,同時提升輕型網(wǎng)絡(luò)的分類性能。

    2.4 舌色分類

    對待預(yù)測舌圖像進(jìn)行預(yù)測時,首先利用上述訓(xùn)練好的網(wǎng)絡(luò)模型提取到舌色特征,接著將特征送入分類器中進(jìn)行分類。本文采用了Softmax分類器,通過計(jì)算當(dāng)前樣本屬于每一類的概率,選擇具有最高概率的類作為當(dāng)前樣本的類別。本文將Softmax分類器與輕型網(wǎng)絡(luò)結(jié)構(gòu)相結(jié)合,通過一個端到端的網(wǎng)絡(luò)結(jié)構(gòu),實(shí)現(xiàn)舌色的分類。

    3 實(shí)驗(yàn)結(jié)果與分析

    為了驗(yàn)證所提方法的有效性,本文在自建的數(shù)據(jù)集上進(jìn)行了實(shí)驗(yàn)。在實(shí)驗(yàn)中,首先對比了數(shù)據(jù)清洗前后的分類性能;其次,在清洗后的數(shù)據(jù)集上,對比了本文設(shè)計(jì)的輕型CNN網(wǎng)絡(luò)與其他CNN網(wǎng)絡(luò)的分類準(zhǔn)確率;然后,又比較了采用知識蒸餾策略之后,輕型CNN網(wǎng)絡(luò)的分類性能;最后,針對兩階段的數(shù)據(jù)清洗方法和輕型CNN網(wǎng)絡(luò)分別進(jìn)行了相關(guān)的消融實(shí)驗(yàn),驗(yàn)證各個部分對分類性能的影響。

    3.1 數(shù)據(jù)集和參數(shù)設(shè)置

    數(shù)據(jù)集。本文自建了舌色分類數(shù)據(jù)集,所有數(shù)據(jù)樣本均采集自首都醫(yī)科大學(xué)附屬宣武醫(yī)院,采集設(shè)備為本課題組研制的中醫(yī)舌象儀,每個樣本由中醫(yī)專家人工進(jìn)行標(biāo)注。數(shù)據(jù)集共包含舌圖像樣本430例,舌色共分為4類,其中淡紅舌148例、紅舌133例、暗紅舌106例和紫舌43例。部分示例圖像如圖5所示。

    圖5 舌色樣本的示例

    分類性能評價指標(biāo)。本文采用準(zhǔn)確率來度量舌色分類性能,定義為

    假設(shè)C表示舌色類別中的一類,式(7)TP表示類C中的樣本被正確預(yù)測為類C的數(shù)量,TN表示不屬于C類的其他類別樣本而被正確預(yù)測為其對應(yīng)類別的數(shù)量,N表示測試集中樣本的總數(shù)量。

    數(shù)據(jù)擴(kuò)充。在訓(xùn)練輕型CNN網(wǎng)絡(luò)時,為了提高模型的訓(xùn)練性能,避免過擬合,數(shù)據(jù)擴(kuò)充是必不可少的。本文采用了多種數(shù)據(jù)擴(kuò)充方法,包括隨機(jī)水平和垂直翻轉(zhuǎn)、在—45°和45°之間隨機(jī)旋轉(zhuǎn),調(diào)整圖像的大小等。輸入網(wǎng)絡(luò)的圖像被統(tǒng)一調(diào)整為224像素×224像素。

    參數(shù)的設(shè)置。本文設(shè)計(jì)的輕型CNN網(wǎng)絡(luò)是在Pytorch平臺上搭建的,實(shí)驗(yàn)中配置了NVIDIA Ge-Force TX 1080 Ti GPU。采用Adam算法對模型進(jìn)行優(yōu)化,其中Batch Size設(shè)為64、權(quán)重衰減為10—4。此外,本文采用自定義策略在訓(xùn)練過程中調(diào)整學(xué)習(xí)率,lr=lr0×(0.95)epoch,其中l(wèi) r0值為0.001,損失函數(shù)使用的交叉熵?fù)p失,epoch的值為200。實(shí)驗(yàn)中的測試準(zhǔn)確率均為每20輪取1次均值所得。

    3.2 數(shù)據(jù)清洗對分類結(jié)果的影響

    為了驗(yàn)證提出的兩階段數(shù)據(jù)清洗方法的有效性,本文進(jìn)行了數(shù)據(jù)清洗前后的分類性能對比實(shí)驗(yàn)。首先,利用表1算法對原始數(shù)據(jù)集進(jìn)行了清洗,共清洗出21例噪聲樣本。其中第1階段篩選出的樣本數(shù)量為74,第2階段校正了53例樣本。在清洗后的數(shù)據(jù)集中,舌圖像數(shù)量為409例,其中淡紅舌126例,紅舌128例,暗紅舌113例和紫舌42例。圖6所示的是清洗出來的部分樣本示例??梢钥闯觯@些舌圖像在視覺上很難區(qū)分其歸屬舌色類別中哪一類,導(dǎo)致醫(yī)生標(biāo)注時很有可能給出不一致的結(jié)果。

    圖6 清洗出的部分噪聲樣本示例

    接下來,將清洗后的數(shù)據(jù)集按照4:1比例隨機(jī)劃分為訓(xùn)練集與測試集。在驗(yàn)證數(shù)據(jù)清洗對于分類性能的影響時,為了保證測試集的一致性,本文選取清洗后的測試集做測試,而清洗前訓(xùn)練集的劃分則是由清洗前的數(shù)據(jù)集去除測試集之后得到的,之后采用清洗前后的訓(xùn)練集對在ImageNet上預(yù)訓(xùn)練后的ResNet18網(wǎng)絡(luò)進(jìn)行微調(diào),數(shù)據(jù)擴(kuò)充與參數(shù)設(shè)置均采用3.1節(jié)所述方式,得到優(yōu)化后的分類網(wǎng)絡(luò)模型。數(shù)據(jù)清洗前后的分類對比結(jié)果如表3所示。

    從表3可以看出,數(shù)據(jù)清洗之后,無論是對于單個類別還是整體的分類性能都有了顯著的提升。具體來說,淡紅舌與紅舌的分類準(zhǔn)確率由75%,76.92%提升到了88%, 88.46%,分別提升了13%和11.54%。這是因?yàn)橥ㄟ^清洗,清除了淡紅舌與紅舌中帶有噪聲標(biāo)注的樣本,提升了分類模型的性能。整體準(zhǔn)確率在樣本清洗前僅為82.34%,而清洗后達(dá)到了91.81%,提升了9.47%。上述的實(shí)驗(yàn)結(jié)果表明,本文提出的數(shù)據(jù)清洗方法可以有效篩選出帶有噪聲的標(biāo)注樣本,顯著提升了分類準(zhǔn)確率。

    表3 數(shù)據(jù)清洗前后分類準(zhǔn)確率(%)對比結(jié)果

    3.3 不同CNN網(wǎng)絡(luò)結(jié)構(gòu)的分類結(jié)果

    為了驗(yàn)證本文設(shè)計(jì)的輕型CNN網(wǎng)絡(luò)的性能,本文將該網(wǎng)絡(luò)(未采用知識蒸餾策略)與AlexNet[27],VGG16[28], ResNet18和MobileNetV2[29]等幾種主流的輕型CNN網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行了對比。對比時,將清洗后的數(shù)據(jù)按照4:1比例隨機(jī)劃分為訓(xùn)練集和測試集。除了本文提出的輕型CNN網(wǎng)絡(luò),其他網(wǎng)絡(luò)均在ImageNet上進(jìn)行了預(yù)訓(xùn)練,采用訓(xùn)練集對網(wǎng)絡(luò)模型進(jìn)行微調(diào)。訓(xùn)練時采用了相同的數(shù)據(jù)擴(kuò)充方法。

    對比結(jié)果如圖7所示。可以看出,上述幾種主流的輕型CNN網(wǎng)絡(luò)分別取得了89.53%, 90.69%,90.86%, 91.81%和91.86%的分類準(zhǔn)確率。而本文設(shè)計(jì)的輕型CNN網(wǎng)絡(luò)在沒有預(yù)訓(xùn)練的情況下,仍然取得了92.87%的準(zhǔn)確率,分類準(zhǔn)確率提高了1.01%以上。這是因?yàn)楸疚脑O(shè)計(jì)的輕型CNN網(wǎng)絡(luò)中加入了通道注意力機(jī)制,使得網(wǎng)絡(luò)更加關(guān)注對分類有用的信息,從而提高了分類的準(zhǔn)確率。

    圖7 不同分類模型準(zhǔn)確率對比

    表4所示的是幾種CNN網(wǎng)絡(luò)結(jié)構(gòu)的參數(shù)量??梢钥闯?,相對于AlexNet, VGG16和ResNet18等網(wǎng)絡(luò)結(jié)構(gòu),本文提出的輕型CNN網(wǎng)絡(luò)的參數(shù)量小了很多。雖然比MobileNetV2結(jié)構(gòu)的參數(shù)量大了1 MB,但是網(wǎng)絡(luò)的分類精度卻提高了1.01%以上。綜上,本文設(shè)計(jì)的輕型CNN網(wǎng)絡(luò)不僅網(wǎng)絡(luò)結(jié)構(gòu)簡單,同時也能取得更優(yōu)的分類性能。

    表4 各種CNN網(wǎng)絡(luò)結(jié)構(gòu)的參數(shù)量(MB)

    3.4 知識蒸餾策略對分類結(jié)果的影響

    為了驗(yàn)證所提帶有噪聲過濾機(jī)制的知識蒸餾策略對于提升輕型CNN網(wǎng)絡(luò)性能的有效性,本文將采用知識蒸餾策略前后的輕型CNN網(wǎng)絡(luò)分類性能做了對比。教師網(wǎng)絡(luò)分別采用了ResNet18+CBAM,R e s N e t 5 0, R e s N e x t 5 0[30], R e s N e t 1 0 1 和ResNet50+SeNet等5種復(fù)雜的CNN網(wǎng)絡(luò)結(jié)構(gòu),網(wǎng)絡(luò)訓(xùn)練方式如2.3節(jié)所述。采用知識蒸餾策略前后得到的實(shí)驗(yàn)結(jié)果如表5所示。

    從表5結(jié)果可以看出,在沒有使用知識蒸餾的情況下,輕型CNN網(wǎng)絡(luò)的分類準(zhǔn)確率為92.87%。而使用了不同的CNN網(wǎng)絡(luò)模型作為教師網(wǎng)絡(luò)時,輕型CNN網(wǎng)絡(luò)的分類準(zhǔn)確率均有所提升,尤其是采用ResNet50+SeNet作為教師網(wǎng)絡(luò)時,輕型CNN網(wǎng)絡(luò)的分類性能達(dá)到了最優(yōu),為93.88%,提升了約1%。盡管輕型CNN網(wǎng)絡(luò)在分類的性能上可能略低于教師網(wǎng)絡(luò)(低0.59%),但是在網(wǎng)絡(luò)參數(shù)量方面要遠(yuǎn)小于教師網(wǎng)絡(luò)。例如ResNet50+SeNet網(wǎng)絡(luò)的參數(shù)量為28.1 MB,而本文設(shè)計(jì)的輕型CNN網(wǎng)絡(luò)只有5.2 MB,僅為18.5%。由以上實(shí)驗(yàn)結(jié)果可以看出,采用本文提出的知識蒸餾策略,在網(wǎng)絡(luò)參數(shù)量不變的情況下,可以進(jìn)一步提升輕型網(wǎng)絡(luò)模型的分類性能。

    表5 采用知識蒸餾前后的對比實(shí)驗(yàn)結(jié)果

    3.5 不同分類網(wǎng)絡(luò)的結(jié)果

    為了驗(yàn)證所提出方法的有效性,本文將其與目前主流的幾種分類網(wǎng)絡(luò)進(jìn)行了比較,主要包含DenseNet121[31], ResNet18, ResNext50, ShuffleNetV2[32], MobileNetV2, EfficientNet-b4[33]等。以上網(wǎng)絡(luò)均使用3.2節(jié)的測試集做測試,訓(xùn)練集由清洗前的數(shù)據(jù)集除去測試集組成,參數(shù)設(shè)置均采用3.1節(jié)所述方式。具體實(shí)驗(yàn)結(jié)果如表6所示。

    從表6可以看出,本文所提方法取得了最優(yōu)的分類性能,相對于其他分類網(wǎng)絡(luò),提高了10.96%以上。主要原因在于本文所提方法對有噪聲標(biāo)注的樣本進(jìn)行了清洗,避免了這類樣本對網(wǎng)絡(luò)模型產(chǎn)生不利的影響。實(shí)驗(yàn)結(jié)果再次證明,噪聲樣本會對分類精度產(chǎn)生非常嚴(yán)重的影響,如果不進(jìn)行數(shù)據(jù)清洗,即便采用先進(jìn)的網(wǎng)絡(luò)結(jié)構(gòu),也無法獲得令人滿意的分類精度。

    表6 不同分類網(wǎng)絡(luò)的比較結(jié)果(%)

    3.6 消融實(shí)驗(yàn)

    為了驗(yàn)證本文方法的不同部分對分類性能的作用,本文進(jìn)行了消融實(shí)驗(yàn)。下面介紹消融實(shí)驗(yàn)結(jié)果。

    (1)兩階段數(shù)據(jù)清洗。在實(shí)驗(yàn)中,分別利用原始舌象數(shù)據(jù)集與經(jīng)過第1階段和第2階段清洗后的數(shù)據(jù)集訓(xùn)練ResNet18網(wǎng)絡(luò),然后對比訓(xùn)練后的模型在相同測試集上的分類準(zhǔn)確率,結(jié)果如表7所示。數(shù)據(jù)集均按照訓(xùn)練集與測試集4:1比例隨機(jī)劃分,實(shí)驗(yàn)參數(shù)的設(shè)置如步驟3.1所述。從表7可以看出,經(jīng)過第1階段后得到的舌象數(shù)據(jù)集相對于原始數(shù)據(jù)集在準(zhǔn)確率方面提升了7.68%,主要原因是第1階段清洗掉了有噪樣本,提升了標(biāo)簽的準(zhǔn)確性。而第2階段在第1階段的基礎(chǔ)上,準(zhǔn)確率又提升了1.79%,其主要原因是通過對噪聲樣本的修正,增加了訓(xùn)練樣本的數(shù)量,從而獲得了比第1階段更高的分類準(zhǔn)確率。

    表7 基于兩階段數(shù)據(jù)清洗方法的消融實(shí)驗(yàn)結(jié)果

    (2)輕型CNN網(wǎng)絡(luò)。為了驗(yàn)證輕型CNN網(wǎng)絡(luò)中通道注意力機(jī)制模塊的有效性,本文在知識蒸餾的基礎(chǔ)上,進(jìn)行了相關(guān)的消融研究。結(jié)果如表8所示。其中基線模型包含9層卷積層和2層全連接層,然后將通道注意力機(jī)制模塊嵌入到基線模型中,驗(yàn)證其對于性能提升的作用。從表8可以得到,采用通道注意力機(jī)制,分類的準(zhǔn)確率提升了1.1%,這說明通道注意力機(jī)制可以提升特征的表達(dá)能力,從而提升分類性能。

    表8 輕型CNN網(wǎng)絡(luò)的消融實(shí)驗(yàn)結(jié)果

    4 結(jié)束語

    本文針對中醫(yī)舌色分類中存在的噪聲樣本問題,提出了一種有噪聲標(biāo)注情況下的中醫(yī)舌色分類方法。首先,提出一種兩階段的數(shù)據(jù)清洗方法,可以對噪聲樣本進(jìn)行篩選,并加以清除;然后,設(shè)計(jì)了一種帶有通道注意力機(jī)制的輕型CNN網(wǎng)絡(luò)結(jié)構(gòu),用于舌色分類;此外,為了進(jìn)一步提升網(wǎng)絡(luò)的性能,采用了帶有噪聲樣本篩選機(jī)制的知識蒸餾策略,由教師網(wǎng)絡(luò)主導(dǎo)對噪聲樣本進(jìn)行過濾,利用較少的網(wǎng)絡(luò)參數(shù)量就可以獲得較高的分類性能。實(shí)驗(yàn)結(jié)果表明,采用本文提出的方法,可以顯著提升帶有噪聲標(biāo)注的舌色分類準(zhǔn)確性。鑒于實(shí)際應(yīng)用中,有標(biāo)注的中醫(yī)舌象樣本稀缺,且代價昂貴,未來的工作將考慮采用半監(jiān)督學(xué)習(xí)的方式,利用大量的無監(jiān)督樣本,進(jìn)一步提升舌色分類的性能。

    猜你喜歡
    舌色網(wǎng)絡(luò)結(jié)構(gòu)準(zhǔn)確率
    乳腺超聲檢查診斷乳腺腫瘤的特異度及準(zhǔn)確率分析
    健康之家(2021年19期)2021-05-23 11:17:39
    不同序列磁共振成像診斷脊柱損傷的臨床準(zhǔn)確率比較探討
    2015—2017 年寧夏各天氣預(yù)報(bào)參考產(chǎn)品質(zhì)量檢驗(yàn)分析
    高速公路車牌識別標(biāo)識站準(zhǔn)確率驗(yàn)證法
    “舌色”源流考?
    基于數(shù)字化技術(shù)對糖尿病兩虛證舌色的研究
    電子制作(2016年11期)2016-11-07 08:43:34
    急性缺血性腦卒中病人的舌象特點(diǎn)
    基于互信息的貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)
    知識網(wǎng)絡(luò)結(jié)構(gòu)維對于創(chuàng)新績效的作用機(jī)制——遠(yuǎn)程創(chuàng)新搜尋的中介作用
    滬港通下A+ H股票網(wǎng)絡(luò)結(jié)構(gòu)演化的實(shí)證分析
    我的老师免费观看完整版| 日韩不卡一区二区三区视频在线| 国产精品秋霞免费鲁丝片| 一级片'在线观看视频| 久久精品久久精品一区二区三区| 亚洲欧美一区二区三区国产| 极品少妇高潮喷水抽搐| 国产成人精品福利久久| 日日啪夜夜撸| 久久久国产一区二区| 少妇猛男粗大的猛烈进出视频| 少妇 在线观看| 黑人巨大精品欧美一区二区蜜桃 | 国产一级毛片在线| 国产又色又爽无遮挡免| 欧美xxⅹ黑人| 99热网站在线观看| 午夜福利视频精品| 美女视频免费永久观看网站| 熟女av电影| 成年美女黄网站色视频大全免费 | 我要看日韩黄色一级片| 水蜜桃什么品种好| 精品一区二区三卡| 日本-黄色视频高清免费观看| 免费观看a级毛片全部| 精品久久久久久久久av| 国产老妇伦熟女老妇高清| 极品教师在线视频| 麻豆成人av视频| 永久免费av网站大全| 五月伊人婷婷丁香| 美女xxoo啪啪120秒动态图| 国语对白做爰xxxⅹ性视频网站| 男人狂女人下面高潮的视频| kizo精华| 2022亚洲国产成人精品| a级毛片免费高清观看在线播放| 人妻人人澡人人爽人人| 亚洲美女搞黄在线观看| 黄色日韩在线| 人人妻人人澡人人看| 国产日韩一区二区三区精品不卡 | 麻豆精品久久久久久蜜桃| 国产一区有黄有色的免费视频| 黄色配什么色好看| 视频区图区小说| 国产精品女同一区二区软件| 韩国高清视频一区二区三区| 日韩成人伦理影院| 免费人妻精品一区二区三区视频| 久久午夜综合久久蜜桃| 韩国av在线不卡| 亚洲第一av免费看| 国产免费一级a男人的天堂| 99久久精品热视频| 精品卡一卡二卡四卡免费| 嘟嘟电影网在线观看| 午夜免费男女啪啪视频观看| 亚洲激情五月婷婷啪啪| 亚洲欧洲精品一区二区精品久久久 | 成人毛片60女人毛片免费| 婷婷色综合大香蕉| 91久久精品国产一区二区成人| 青春草国产在线视频| 精品视频人人做人人爽| 欧美精品人与动牲交sv欧美| 国产精品欧美亚洲77777| 99久国产av精品国产电影| av黄色大香蕉| 成年美女黄网站色视频大全免费 | 久久国内精品自在自线图片| 免费黄频网站在线观看国产| 两个人的视频大全免费| a级毛片免费高清观看在线播放| 乱系列少妇在线播放| 国产免费又黄又爽又色| 男女啪啪激烈高潮av片| 91久久精品国产一区二区三区| 在现免费观看毛片| 国产伦精品一区二区三区四那| 日本黄大片高清| 18禁裸乳无遮挡动漫免费视频| 国产免费一区二区三区四区乱码| 高清毛片免费看| 女性生殖器流出的白浆| 最新中文字幕久久久久| 最后的刺客免费高清国语| 乱人伦中国视频| 亚洲在久久综合| 中文欧美无线码| 亚洲国产精品一区三区| 狠狠精品人妻久久久久久综合| 欧美日本中文国产一区发布| 只有这里有精品99| 天堂8中文在线网| 色视频www国产| 国产毛片在线视频| 国产极品粉嫩免费观看在线 | 黑人高潮一二区| 亚洲婷婷狠狠爱综合网| 伊人久久国产一区二区| 久久久国产精品麻豆| 精品久久久久久电影网| 日韩亚洲欧美综合| 久久久精品免费免费高清| 美女大奶头黄色视频| 多毛熟女@视频| 亚洲精品成人av观看孕妇| 国产精品不卡视频一区二区| 哪个播放器可以免费观看大片| 人人妻人人添人人爽欧美一区卜| 建设人人有责人人尽责人人享有的| 亚洲欧美成人精品一区二区| 日本午夜av视频| 精品少妇久久久久久888优播| 男人狂女人下面高潮的视频| 九草在线视频观看| 十分钟在线观看高清视频www | 国产成人精品一,二区| 日本-黄色视频高清免费观看| 国产成人精品婷婷| 日韩一区二区三区影片| 亚洲国产日韩一区二区| 我的女老师完整版在线观看| 少妇人妻精品综合一区二区| 看免费成人av毛片| 日韩精品有码人妻一区| av不卡在线播放| 欧美一级a爱片免费观看看| 91久久精品电影网| 18禁在线播放成人免费| 内地一区二区视频在线| 插逼视频在线观看| 丰满乱子伦码专区| 亚洲av不卡在线观看| 国产成人精品福利久久| 国产成人精品婷婷| 亚洲av综合色区一区| 国产亚洲午夜精品一区二区久久| 一本一本综合久久| 欧美高清成人免费视频www| 最新的欧美精品一区二区| 久久久久人妻精品一区果冻| 日本黄色片子视频| 性高湖久久久久久久久免费观看| 一本色道久久久久久精品综合| 高清欧美精品videossex| 国产日韩欧美在线精品| 欧美亚洲 丝袜 人妻 在线| 成人特级av手机在线观看| 久久久久国产精品人妻一区二区| 十八禁网站网址无遮挡 | 久久久久久久久久久丰满| 国产av精品麻豆| 国产亚洲欧美精品永久| 国产精品久久久久久精品古装| 久久久国产精品麻豆| 国产欧美另类精品又又久久亚洲欧美| 国产精品99久久99久久久不卡 | av播播在线观看一区| 亚洲欧洲日产国产| 我要看日韩黄色一级片| 一级毛片黄色毛片免费观看视频| 高清午夜精品一区二区三区| 天堂中文最新版在线下载| 亚洲精品日韩av片在线观看| 日韩av免费高清视频| 国产成人免费无遮挡视频| 国产 精品1| 丁香六月天网| 免费大片黄手机在线观看| 婷婷色麻豆天堂久久| 日韩大片免费观看网站| 91在线精品国自产拍蜜月| 国产老妇伦熟女老妇高清| 亚洲图色成人| 两个人免费观看高清视频 | 国国产精品蜜臀av免费| 一本久久精品| 国产爽快片一区二区三区| 人人妻人人澡人人爽人人夜夜| 一级毛片 在线播放| 亚洲欧美中文字幕日韩二区| 亚洲图色成人| 熟女电影av网| 男女边吃奶边做爰视频| 久久久久网色| 赤兔流量卡办理| 哪个播放器可以免费观看大片| 久久午夜福利片| 日韩电影二区| 日本午夜av视频| 中文字幕精品免费在线观看视频 | 欧美日韩亚洲高清精品| 日本-黄色视频高清免费观看| 一级a做视频免费观看| 建设人人有责人人尽责人人享有的| 国产在线免费精品| 各种免费的搞黄视频| 少妇人妻精品综合一区二区| 国产精品一区二区在线观看99| 18禁裸乳无遮挡动漫免费视频| 国产 精品1| 内射极品少妇av片p| 久久久久久伊人网av| 亚洲国产色片| 久久久国产精品麻豆| 在线观看三级黄色| 国产69精品久久久久777片| 国产白丝娇喘喷水9色精品| 18禁裸乳无遮挡动漫免费视频| 乱系列少妇在线播放| 国产在线视频一区二区| 少妇的逼好多水| 日本黄色片子视频| 日本黄大片高清| 天美传媒精品一区二区| 在线观看人妻少妇| 日本与韩国留学比较| 18禁在线无遮挡免费观看视频| 成人二区视频| 国产一区有黄有色的免费视频| 成人亚洲精品一区在线观看| 亚洲av福利一区| 国产亚洲一区二区精品| 在线看a的网站| 99九九线精品视频在线观看视频| 丝瓜视频免费看黄片| 美女中出高潮动态图| 亚洲欧美精品专区久久| 国产亚洲精品久久久com| 在线播放无遮挡| 国产一区二区在线观看av| a 毛片基地| 国产一区二区三区综合在线观看 | 少妇人妻 视频| 国产精品久久久久久精品电影小说| 日本黄色日本黄色录像| 亚洲欧洲精品一区二区精品久久久 | 久久久久网色| 夫妻性生交免费视频一级片| 男女国产视频网站| 国产一区有黄有色的免费视频| 国产精品福利在线免费观看| 黄色视频在线播放观看不卡| 国产在线免费精品| 免费大片18禁| 日韩一区二区视频免费看| 自拍偷自拍亚洲精品老妇| 一级毛片我不卡| 伦精品一区二区三区| 免费不卡的大黄色大毛片视频在线观看| 啦啦啦啦在线视频资源| 日韩一本色道免费dvd| 嫩草影院入口| 亚洲国产日韩一区二区| 青春草亚洲视频在线观看| 中文在线观看免费www的网站| 国产精品福利在线免费观看| 国产成人aa在线观看| 老司机影院毛片| 国产精品一区二区在线不卡| 亚洲丝袜综合中文字幕| av免费在线看不卡| 高清毛片免费看| 亚洲真实伦在线观看| 最近手机中文字幕大全| 国产精品一区二区在线观看99| 我要看日韩黄色一级片| 日韩欧美一区视频在线观看 | 午夜影院在线不卡| 国产一区二区在线观看日韩| 麻豆精品久久久久久蜜桃| 天堂中文最新版在线下载| 91在线精品国自产拍蜜月| 成人午夜精彩视频在线观看| 精品一区二区免费观看| 如何舔出高潮| 只有这里有精品99| 免费黄色在线免费观看| 三级国产精品欧美在线观看| 一级毛片我不卡| 国产一区二区三区综合在线观看 | 亚州av有码| 欧美 日韩 精品 国产| 日韩人妻高清精品专区| 亚洲四区av| 女人久久www免费人成看片| 亚洲精品国产色婷婷电影| tube8黄色片| 又大又黄又爽视频免费| 欧美日韩亚洲高清精品| 深夜a级毛片| 亚洲国产色片| 大话2 男鬼变身卡| videossex国产| 伊人久久精品亚洲午夜| 色婷婷av一区二区三区视频| 中文字幕av电影在线播放| 乱码一卡2卡4卡精品| 午夜日本视频在线| 亚洲欧洲精品一区二区精品久久久 | 18禁在线无遮挡免费观看视频| 51国产日韩欧美| 久久av网站| 视频区图区小说| 老司机亚洲免费影院| 在线播放无遮挡| 日韩不卡一区二区三区视频在线| 一本大道久久a久久精品| 18+在线观看网站| 国产一区二区在线观看日韩| 亚洲四区av| 国产毛片在线视频| 国产成人91sexporn| 国产精品久久久久久精品电影小说| 国产精品99久久久久久久久| 九九久久精品国产亚洲av麻豆| 日韩欧美精品免费久久| 波野结衣二区三区在线| 热re99久久国产66热| 国产精品99久久久久久久久| 日韩成人av中文字幕在线观看| 日韩在线高清观看一区二区三区| 亚洲精品国产成人久久av| 日韩精品免费视频一区二区三区 | 纵有疾风起免费观看全集完整版| 春色校园在线视频观看| 日本-黄色视频高清免费观看| 国产精品久久久久久av不卡| 成人免费观看视频高清| 亚洲高清免费不卡视频| 黑丝袜美女国产一区| 中文字幕av电影在线播放| 十八禁网站网址无遮挡 | 国产有黄有色有爽视频| 人妻人人澡人人爽人人| 久久这里有精品视频免费| 99热国产这里只有精品6| 欧美 日韩 精品 国产| 国产一区二区三区av在线| 天堂俺去俺来也www色官网| 男女边摸边吃奶| 简卡轻食公司| 国产永久视频网站| 国产老妇伦熟女老妇高清| 夫妻性生交免费视频一级片| 一区二区三区乱码不卡18| 国产毛片在线视频| 青春草亚洲视频在线观看| 丝瓜视频免费看黄片| 汤姆久久久久久久影院中文字幕| 黄片无遮挡物在线观看| 久久人人爽人人片av| 黄色日韩在线| 欧美日韩国产mv在线观看视频| av视频免费观看在线观看| 亚洲精品,欧美精品| 三级国产精品片| 国产精品久久久久久久电影| 久久久久久久久大av| 三级国产精品片| 欧美日韩综合久久久久久| 毛片一级片免费看久久久久| 蜜桃在线观看..| 国产在线免费精品| 久久99热这里只频精品6学生| 亚洲av成人精品一区久久| 国产一区亚洲一区在线观看| 蜜桃久久精品国产亚洲av| 亚洲欧洲国产日韩| 啦啦啦啦在线视频资源| 亚洲欧美一区二区三区黑人 | 成年av动漫网址| 久久久久视频综合| 国产美女午夜福利| 一级毛片黄色毛片免费观看视频| 国精品久久久久久国模美| 久久婷婷青草| 七月丁香在线播放| 蜜桃久久精品国产亚洲av| 草草在线视频免费看| 一区二区三区免费毛片| 亚洲精品一二三| 欧美性感艳星| 大又大粗又爽又黄少妇毛片口| 高清av免费在线| 99热这里只有精品一区| 亚洲国产精品专区欧美| 久久99热6这里只有精品| 久久人妻熟女aⅴ| 亚洲四区av| 欧美激情国产日韩精品一区| 亚洲色图综合在线观看| 夜夜爽夜夜爽视频| 亚洲欧洲精品一区二区精品久久久 | 99热国产这里只有精品6| 最近的中文字幕免费完整| 这个男人来自地球电影免费观看 | 97超碰精品成人国产| 久久久国产一区二区| 老熟女久久久| 成人黄色视频免费在线看| 熟女人妻精品中文字幕| 国产成人精品无人区| 国产老妇伦熟女老妇高清| a级一级毛片免费在线观看| 狂野欧美激情性xxxx在线观看| 中文资源天堂在线| 夫妻午夜视频| 国产成人一区二区在线| 国产精品女同一区二区软件| av黄色大香蕉| 久久精品久久久久久噜噜老黄| 亚洲精品一区蜜桃| 又粗又硬又长又爽又黄的视频| 777米奇影视久久| 亚洲人成网站在线播| 亚洲av中文av极速乱| 人妻系列 视频| 两个人的视频大全免费| 三级国产精品片| 永久免费av网站大全| 亚洲欧美日韩另类电影网站| 最近中文字幕2019免费版| 亚洲高清免费不卡视频| 国产精品久久久久久久电影| 欧美日韩国产mv在线观看视频| .国产精品久久| 免费观看无遮挡的男女| 99精国产麻豆久久婷婷| 国产成人a∨麻豆精品| 全区人妻精品视频| 91精品伊人久久大香线蕉| 国产高清不卡午夜福利| 美女福利国产在线| 麻豆成人av视频| 久久韩国三级中文字幕| 欧美人与善性xxx| 嘟嘟电影网在线观看| 国产日韩欧美在线精品| 国产永久视频网站| 一级二级三级毛片免费看| 免费看日本二区| 人妻夜夜爽99麻豆av| 久久影院123| 最近手机中文字幕大全| 免费大片黄手机在线观看| 精品一区二区免费观看| 中文字幕精品免费在线观看视频 | 午夜影院在线不卡| 欧美bdsm另类| 99久久精品国产国产毛片| 国产淫语在线视频| 一级,二级,三级黄色视频| av国产精品久久久久影院| 久久精品熟女亚洲av麻豆精品| 桃花免费在线播放| 晚上一个人看的免费电影| 久久久久久伊人网av| 中文字幕亚洲精品专区| 日韩一本色道免费dvd| 国产黄色视频一区二区在线观看| 麻豆成人av视频| 国产男人的电影天堂91| 97超碰精品成人国产| 国内揄拍国产精品人妻在线| 最近2019中文字幕mv第一页| 哪个播放器可以免费观看大片| 最近的中文字幕免费完整| 欧美+日韩+精品| 久久人人爽人人爽人人片va| 少妇精品久久久久久久| 国产视频首页在线观看| 男人添女人高潮全过程视频| 少妇人妻久久综合中文| 成年女人在线观看亚洲视频| 爱豆传媒免费全集在线观看| 熟女av电影| 国国产精品蜜臀av免费| 亚洲欧美日韩东京热| 一级二级三级毛片免费看| 亚洲三级黄色毛片| 有码 亚洲区| 91成人精品电影| av一本久久久久| 99久久精品一区二区三区| 免费大片18禁| 午夜视频国产福利| 少妇猛男粗大的猛烈进出视频| 久久久久国产网址| 精品国产国语对白av| 国产黄片美女视频| 久久 成人 亚洲| 高清黄色对白视频在线免费看 | 久久久a久久爽久久v久久| 大片电影免费在线观看免费| 精品亚洲成a人片在线观看| 亚洲欧美精品专区久久| 丁香六月天网| 精品久久久久久电影网| 午夜视频国产福利| 免费av中文字幕在线| 亚洲欧美日韩东京热| 久久影院123| 久久精品久久久久久久性| 亚洲美女视频黄频| 亚洲av在线观看美女高潮| 国产国拍精品亚洲av在线观看| 成人美女网站在线观看视频| 久久ye,这里只有精品| 日韩欧美一区视频在线观看 | 久久精品国产亚洲av天美| 亚洲精品日韩av片在线观看| 久久精品国产亚洲网站| 在线观看免费日韩欧美大片 | 国产精品久久久久久精品电影小说| av播播在线观看一区| 国产精品国产三级国产专区5o| www.色视频.com| 亚洲情色 制服丝袜| 久久国产精品大桥未久av | 亚洲不卡免费看| 少妇的逼好多水| h视频一区二区三区| 精品少妇久久久久久888优播| 国产毛片在线视频| 我要看黄色一级片免费的| 色94色欧美一区二区| 美女内射精品一级片tv| 这个男人来自地球电影免费观看 | 最后的刺客免费高清国语| 亚洲激情五月婷婷啪啪| 在线 av 中文字幕| 91午夜精品亚洲一区二区三区| 自线自在国产av| 成人国产麻豆网| 午夜视频国产福利| 日韩av免费高清视频| 中文资源天堂在线| 中文字幕精品免费在线观看视频 | 欧美成人精品欧美一级黄| 国产欧美另类精品又又久久亚洲欧美| 久久精品国产a三级三级三级| 激情五月婷婷亚洲| 欧美成人午夜免费资源| 亚洲欧洲精品一区二区精品久久久 | 国产精品女同一区二区软件| 人体艺术视频欧美日本| av不卡在线播放| 日本av免费视频播放| 99热这里只有是精品在线观看| 日韩大片免费观看网站| 男人添女人高潮全过程视频| 国产免费视频播放在线视频| 成人亚洲欧美一区二区av| 在线免费观看不下载黄p国产| 91午夜精品亚洲一区二区三区| 老司机影院成人| 亚洲精品亚洲一区二区| 亚洲不卡免费看| 各种免费的搞黄视频| 伊人久久精品亚洲午夜| 国产精品久久久久久av不卡| 久久久午夜欧美精品| 国产乱来视频区| 日韩中文字幕视频在线看片| 欧美97在线视频| 91精品伊人久久大香线蕉| 精品酒店卫生间| 在线免费观看不下载黄p国产| 亚洲一区二区三区欧美精品| 乱码一卡2卡4卡精品| 日韩成人av中文字幕在线观看| 久久鲁丝午夜福利片| 水蜜桃什么品种好| 久久99蜜桃精品久久| 精品一区二区三卡| 亚洲国产精品一区三区| 男女免费视频国产| 欧美精品亚洲一区二区| 精品久久久久久电影网| 国产日韩欧美在线精品| 午夜福利视频精品| 黄色日韩在线| 性色av一级| 日韩中字成人| 两个人免费观看高清视频 | 女人久久www免费人成看片| 一二三四中文在线观看免费高清| 亚洲av国产av综合av卡| 超碰97精品在线观看| 色哟哟·www| 日韩一区二区视频免费看| 亚洲国产最新在线播放| 亚洲欧美一区二区三区黑人 | 亚洲丝袜综合中文字幕| 亚洲成人手机| 高清午夜精品一区二区三区| 女的被弄到高潮叫床怎么办| 黄片无遮挡物在线观看| 秋霞伦理黄片| 夜夜骑夜夜射夜夜干| 美女大奶头黄色视频| 精品亚洲成国产av| 啦啦啦在线观看免费高清www| 少妇高潮的动态图| 精品久久久精品久久久| 欧美日韩在线观看h| 中文字幕免费在线视频6| 亚洲精品国产色婷婷电影| 欧美日本中文国产一区发布| 一级黄片播放器| av免费观看日本|