• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    語義匹配網(wǎng)絡(luò)的小樣本學(xué)習(xí)

    2021-05-17 05:31:18汪榮貴湯明空薛麗霞
    計算機工程 2021年5期
    關(guān)鍵詞:類別尺度語義

    汪榮貴,湯明空,楊 娟,薛麗霞,胡 敏

    (合肥工業(yè)大學(xué)計算機與信息學(xué)院,合肥 230601)

    0 概述

    近年來,深度學(xué)習(xí)方法在圖像分類[1-3]、目標(biāo)檢測[4-6]等計算機視覺領(lǐng)域具有廣泛應(yīng)用,而應(yīng)用的重要前提是使用海量帶標(biāo)注樣本對深度學(xué)習(xí)模型加以訓(xùn)練。在很多特殊的應(yīng)用場景下,獲取大量標(biāo)注樣本成本較高,因此,如何賦予模型在少量樣本中具有快速學(xué)習(xí)的能力并識別新的實體成為亟待解決的問題。

    人類視覺模型從少量新事物中快速抽象出具有代表性概念的能力優(yōu)于深度學(xué)習(xí)模型的學(xué)習(xí)過程。對于一類新事物,人類往往僅需要通過觀察便可完成學(xué)習(xí)過程,并能夠?qū)π聦嶓w進行準(zhǔn)確判斷。為賦予深度學(xué)習(xí)模型快速學(xué)習(xí)的能力,小樣本學(xué)習(xí)[7-9]問題應(yīng)運而生。其中新實體稱為查詢樣本,已觀察的樣本稱為支持樣本。

    小樣本學(xué)習(xí)問題是一類特殊的圖像分類問題,此類任務(wù)要求使用少量待測試類別的訓(xùn)練樣本構(gòu)建性能優(yōu)良的分類模型,而人類視覺模型的快速學(xué)習(xí)能力可滿足小樣本學(xué)習(xí)任務(wù)的需求??紤]人類認識并識別一類新事物的過程,首先需觀察一個或數(shù)個新事物的實體,并從中抽象出具有代表性的特征,而在遇到新的實體時,則通過對比新實體特征與腦海中各類事物特征的相近程度完成對新實體類別的判斷。受此啟發(fā),小樣本學(xué)習(xí)的計算機視覺模型通常建模一個用于判斷樣本間相似度的分類器,該類方法稱為度量學(xué)習(xí)。

    度量學(xué)習(xí)處理過程符合人類在解決小樣本問題時的思維方式,基于這一學(xué)習(xí)方式,研究人員提出了眾多具有代表性的小樣本學(xué)習(xí)方法。文獻[10]提出孿生網(wǎng)絡(luò),通過多層神經(jīng)網(wǎng)絡(luò)提取查詢樣本及支持樣本的深層卷積特征,并以二分類網(wǎng)絡(luò)判斷兩個樣本是否為同一類別。該方法僅計算樣本視覺特征間距離,未利用同類別樣本間的共同語義信息,如對不同種類的鳥進行分類時,僅利用鳥的視覺特征進行分類是不充分的,因為鳥總體的外形是非常相似的,依靠視覺特征進行分類的方法很可能會將鳥分到錯誤的類別中。而網(wǎng)絡(luò)如果可以在圖像視覺特征的基礎(chǔ)上,進一步利用樣本的語義信息,即視覺特征相似的物體屬于不同的類別,則可以更加準(zhǔn)確地對物體進行分類。文獻[11]提出原型網(wǎng)絡(luò),該方法首先學(xué)習(xí)同類支持樣本之間的原型(Prototype)表示,然后判斷查詢樣本與支持樣本間的原型距離以分類該樣本所屬的類別,其本質(zhì)上仍是通過距離度量進行樣本識別。文獻[12]提出關(guān)系網(wǎng)絡(luò),通過建模一個小型網(wǎng)絡(luò)來計算支持集和查詢集的樣本特征,使用另一個簡單的網(wǎng)絡(luò)判斷特征間的距離。文獻[13]提出匹配網(wǎng)絡(luò),首先提取目標(biāo)視覺特征,然后以余弦距離表征目標(biāo)間的相似性。上述方法總體思想均為視覺特征的距離度量,該類方法由于僅考慮視覺相關(guān)性,缺失語義顯著性特征,在背景干擾等復(fù)雜場景下存在明顯弊端。

    本文提出語義匹配網(wǎng)絡(luò)的小樣本學(xué)習(xí)方法,提取支持樣本的多尺度深層卷積特征,通過雙注意力模型匹配樣本間的語義信息,使得同類間各尺度特征相近,不同類之間的各尺度特征遠離,使網(wǎng)絡(luò)可以通過學(xué)習(xí)目標(biāo)類別間的可區(qū)分語義特征提升分類效果。該方法通過多層級特征匹配提取,可緩解ResNet[14]網(wǎng)絡(luò)結(jié)構(gòu)在小樣本學(xué)習(xí)中的過擬合問題。

    1 本文方法

    本節(jié)闡述小樣本學(xué)習(xí)的問題定義,并介紹本文的語義匹配網(wǎng)絡(luò)方法,該方法主要由特征提取網(wǎng)絡(luò)、特征語義匹配網(wǎng)絡(luò)及特征分類網(wǎng)絡(luò)三部分組成。本文方法的整體流程如圖1 所示,其中,EM(Embedding Moudle)為特征提取模塊,SM(Semantic Moudle)為語義匹配模塊。給定一組支持集圖片和一張查詢樣本,通過HeadNet降維圖像輸入,根據(jù)特征提取模塊提取圖像的多尺度特征,通過各尺度的語義匹配網(wǎng)絡(luò)提取語義依賴關(guān)系,其中各尺度特征和語義匹配模塊均接收其上層模塊特征用以特征融合。最后根據(jù)分類特征分類網(wǎng)絡(luò)獲取各尺度下的查詢樣本與所有支持樣本的相似度,并加權(quán)得到最終分類結(jié)果,查詢樣本的類別與支持樣本的相似度呈正相關(guān)。

    圖1 語義匹配網(wǎng)絡(luò)的整體結(jié)構(gòu)Fig.1 Overall structure of semantic matching network

    1.1 問題定義

    區(qū)別于經(jīng)典分類問題,小樣本學(xué)習(xí)方法將訓(xùn)練集分為支持集Dsupport和查詢集Dquery。在訓(xùn)練時每一輪從支持集中隨機挑選出n個類別,每個類別隨機挑選出k個樣本組成n-way-k-shot 的支持樣本Dm?support。

    其中,i∈{1~n},yi代表類別,xik代表第i類別中的第k個樣本。查詢樣本是從n個類別中每個類別中隨機挑選出k′個與支持集不重復(fù)的樣本組成Dm?query。

    其中,i、k′和y同Dm?support中的i、k的意思相同,表示第i類別中的第k′個不同于Dm?support中的樣本,最終滿足Dm?support∩Dm?query=?。小樣本學(xué)習(xí)的目的就是找出查詢樣本的類別,使得,即n-way-k-shot小樣本問題。測試階段的模式和訓(xùn)練時的模式相同,是將測試集分為支持集Dsupport和查詢集Dquery,不同的是測試集中的類別與訓(xùn)練中的類別完全不一樣,所以小樣本的主要問題是如何學(xué)習(xí)到相同類別樣本之間存在的共性。

    1.2 網(wǎng)絡(luò)結(jié)構(gòu)

    本文網(wǎng)絡(luò)的整體結(jié)構(gòu)如圖1 所示,給定支持樣本xs和查詢樣本xq,首先通過HeadNet 進行降維,得到樣本特征x′s和x′q,然后通過EM 模塊分別提取各個尺度特征,如式(3)和式(4)所示:

    其中,v表示第v個尺度特征,表示HeadNet 模塊。支持樣本和查詢樣本拼接后的特征通過語義匹配SM 模塊提取和匹配語義信息,如式(5)所示:

    其中,g?表示SM 模塊網(wǎng)絡(luò),v表示與EM 同級的SM模塊,為保證SM 模塊間的一致性,為與特征尺度相同的0 特征向量。支持樣本與查詢樣本在不同尺度下的語義匹配特征通過全局池化和全連接的分類模塊,得到查詢樣本和每個支持樣本間的匹配分數(shù),并加權(quán)得到最終相似度,如式(6)所示:

    其中,c表示分類模塊網(wǎng)絡(luò),v表示與EM 和SM 同級的分類模塊,wv為不同尺度下的分數(shù)權(quán)值超參,,為最終相似度評分。

    1.3 特征提取網(wǎng)絡(luò)

    視覺識別需要豐富的特征表示,淺層特征包含圖像細節(jié)紋理而深層特征包含圖像抽象語義,本文采用如圖2 所示的網(wǎng)絡(luò)結(jié)構(gòu)來提取特征,通過分別提取不同尺度和深度的卷積特征及特征融合獲取圖像的表征。該網(wǎng)絡(luò)主要分為兩個部分,即自上而下的編碼網(wǎng)絡(luò)與自下而上的解碼網(wǎng)絡(luò)。在網(wǎng)絡(luò)結(jié)構(gòu)中,每一層都與同級尺度和上下級尺度連接,由此網(wǎng)絡(luò)的多尺度特征表示可以更充分有效地提取圖像特征。

    圖2 特征提取網(wǎng)絡(luò)結(jié)構(gòu)Fig.2 Structure of feature extraction network

    給定尺度為S×S的圖片,經(jīng)過HeadNet 降維后,得到尺度為S/4×S/4 的特征,將其輸入至特征提取網(wǎng)絡(luò)可以得到各尺度的輸出為:

    其中,v表示不同尺度的網(wǎng)絡(luò)輸出,φ表示各尺度融合后的Encode,Td表示Top-down 網(wǎng)絡(luò)的Encode,Bu表示Bottom-up 網(wǎng)絡(luò)的Encode,μ表示統(tǒng)一網(wǎng)絡(luò)尺度的upsample 操作,x表示當(dāng)前尺度的特征表示,Siamese EM 表示查詢集樣本輸入的網(wǎng)絡(luò),是和特征提取網(wǎng)絡(luò)結(jié)構(gòu)相同的孿生網(wǎng)絡(luò)。

    1.4 語義匹配網(wǎng)絡(luò)

    經(jīng)過特征提取網(wǎng)絡(luò)后,可得到圖像的視覺特征表示,先前基于距離度量的小樣本學(xué)習(xí)方法一般直接將此視覺特征用于后續(xù)的距離計算中,并將查詢樣本歸為距離最近的類別。該計算過程僅利用了樣本的視覺特征,而忽略了樣本間潛在的語義聯(lián)系。本文在計算視覺特征的距離之前做了語義匹配的操作,進一步提取樣本間抽象的語義聯(lián)系,并利用該語義聯(lián)系指導(dǎo)特征提取網(wǎng)絡(luò)的工作,使其更加關(guān)注樣本間的語義信息而非僅僅是圖像的視覺特征,從而使得后續(xù)的分類網(wǎng)絡(luò)可以根據(jù)樣本間的語義聯(lián)系更準(zhǔn)確地分類。語義匹配的操作如圖3 所示,其中⊙表示向量積運算。

    圖3 dual-attention 語義的匹配過程Fig.3 Matching process of dual-attention semantics

    在圖3 中,給定支持樣本和查詢樣本的特征尺度為Fs·q∈?C×D×D,為了簡化省去了Batch 尺度參數(shù),同文獻[15]相似,將特征分別經(jīng)過1×1 的卷積得到QConv1×1(Fq)和KConv1×1(Fs),將QConv1×1(Fq)作為query 特征,KConv1×1(Fs)作為key 特征,計算query特征在key 特征上的attention 值:

    其中,· 表示向量積,attsq的尺度為D2×D2記作,其第1 行的值計算如圖4 所示,等于query 特征所有通道上第一個位置的值與key 特征所有通道上D2個位置上值的乘積。圖4 中‘A1’表示‘A’(Q(Fq)T(所有通道上第一個位置的值)乘以‘1’(K(Fs)(所有通道上第一個位置的值)。Q(Fq)T·K(Fs)中的其他值具有類似的意義。將attsq所有元素經(jīng)過歸一化之后可以得到query 特征對key 特征上所有位置的attention 值,也可以是key 特征對query 特征上所有位置的attention 值。

    圖4 attsq 計算過程Fig.4 Process of attsq calculation

    接著將VConv1×1(Fq)和VConv′1×1(Fs)value 特征分別和attention map 點積計算。

    其中,attms的尺度為C×D2記作,其第1 行的值計算如圖5 所示,其中語義信息K(Fs)]T的第一列表示查詢樣本q所有通道在第一位置值對支持樣本s所有通道在所有位置的點積。經(jīng)過圖5 的運算后所得的attms表示支持樣本的value 特征在第一通道上的值根據(jù)attention map 的重分配,同理attmq的值是查詢樣本的value 特征根據(jù)attention map 的重分配,本文通過實驗發(fā)現(xiàn)attention map 轉(zhuǎn)置后的attmq計算可以獲得更好的效果,可能的原因是先前的混合支持特征和查詢特征在通道上的分布操作使得獲取到的attention map 是雙方的共同語義信息,所以attmq的計算與attms的計算相同。重分配的結(jié)果為attention map 上值越大的部分對attms·q在相應(yīng)部分的影響也越大,而attention map 是由支持樣本特征Fs和查詢樣本特征Fq在key 特征和query 特征上計算的,所以重分配實際上是支持樣本和查詢樣本在相同語義信息的部分做了匹配和增強。

    圖5 attms 計算過程Fig.5 Process of attms calculation

    最后經(jīng)過dual-attention 模塊匹配和增強語義后的特征為:

    其中,dual_att 表示dual-attention 模塊,s·q表示在支持集s和查詢集q下的兩種情況,γ為一個可學(xué)習(xí)的參數(shù)。

    1.5 分類網(wǎng)絡(luò)

    圖1 中的匹配分數(shù)輸出為各級尺度下的支持樣本和查詢樣本的匹配分數(shù),該模塊主要的作用有兩部分:根據(jù)不同尺度的輸入特征計算該級別下的匹配分數(shù);根據(jù)訓(xùn)練和測試的不同,在訓(xùn)練時產(chǎn)生各級別特征尺度下的損失,在測試時對各級別的分數(shù)進行加權(quán)生成一個查詢樣本對支持樣本的總分數(shù)。在訓(xùn)練時各級別的分數(shù)如式(12)所示,由于表示查詢樣本對支持樣本的相似程度,即查詢樣本為該支持類別的概率,本文使用二分類交叉熵損失(bceloss)來訓(xùn)練整個網(wǎng)絡(luò)模型。

    2 實驗結(jié)果與分析

    本節(jié)主要通過在小樣本學(xué)習(xí)數(shù)據(jù)集Omniglot 和miniImageNet 上對比本文方法與其他主流方法,如匹配網(wǎng)絡(luò)(Matching Net)、原型網(wǎng)絡(luò)(Prototypical Net)、相關(guān)網(wǎng)絡(luò)(Relation Net)、元學(xué)習(xí)LSTM(Meta LSTM)[16]、未知模型元學(xué)習(xí)(MAML)[17]、圖網(wǎng)絡(luò)(Graph Neural Net)[18]、DynamicFSL[19]、AdaResNet[20]和PPA[21]等,并詳細驗證本文方法Bottom-up 模塊和dual-att 語義匹配模塊對最終結(jié)果的影響。

    本文通過Adam[22]算法優(yōu)化整個模型,初始學(xué)習(xí)率為0.001,1 000 個episodes 為一代,每10 代將學(xué)習(xí)率降為原來的一半,訓(xùn)練過程共有100 代。整個模型從零開始訓(xùn)練,在訓(xùn)練前使用xavier[23]方法進行權(quán)重的初始化配置。在訓(xùn)練和測試中,使用標(biāo)準(zhǔn)的數(shù)據(jù)增強方法,如隨機將圖片裁剪為固定尺度、隨機的水平翻轉(zhuǎn)以及圖片像素值的歸一化操作等。

    2.1 在Omniglot 數(shù)據(jù)集上的實驗

    Omniglot 數(shù)據(jù)集由50 個字母共計1 623 類字符組成,每類字母均為20 個樣本,由不同人手寫而成。該數(shù)據(jù)集是小樣本學(xué)習(xí)領(lǐng)域早期常用的數(shù)據(jù)集,本文采用和匹配網(wǎng)絡(luò)一樣的數(shù)據(jù)集設(shè)置:將樣本大小統(tǒng)一變?yōu)?8×28,并且使用旋轉(zhuǎn)90°的樣本增強方法。使用1 200 類用于訓(xùn)練,423 類用于測試。由于數(shù)據(jù)集樣本尺度問題,本文提出的網(wǎng)絡(luò)結(jié)構(gòu)需要稍微修改,將HeadNet 的輸入通道、步長和padding 變?yōu)?,以適應(yīng)圖片的輸入,為了防止過擬合,將HeadNet 和EM 的卷積層數(shù)變?yōu)?,實驗結(jié)果如表1 所示,其中,F(xiàn)T 表示微調(diào)。

    表1 Omniglot 數(shù)據(jù)集上的小樣本分類準(zhǔn)確率Table 1 Few-shot classification accuracy on Omniglot dataset %

    從表1 可以看出,500 次結(jié)果的平均值在95% 置信區(qū)間的取值,本文的效果較匹配網(wǎng)絡(luò)和原型網(wǎng)絡(luò)都有較大提升,在大部分任務(wù)上取得了目前已知的最好效果。實驗結(jié)果表明,本文語義匹配網(wǎng)絡(luò)能夠較好地提升小樣本學(xué)習(xí)方法的分類準(zhǔn)確率。

    2.2 在miniImageNet 數(shù)據(jù)集上的實驗

    miniImageNet 數(shù)據(jù)集是在ImageNet 數(shù)據(jù)集基礎(chǔ)上選出的,分為100 個類別,每個類別挑選600 個樣本,共計由60 000 張樣本組成。其中,64 類用于訓(xùn)練,16 類用于驗證,20 類用于測試。本文在訓(xùn)練時采用常用的episode 中每個類別包含5 個查詢樣本的設(shè)置,這樣對于5-way-1-shot任務(wù)共有5×5+1×5=30張樣本參與訓(xùn)練,5-way-5-shot任務(wù)共有5×5+5×5=50 張樣本參與訓(xùn)練。在測試時由于顯存不同于其他小樣本學(xué)習(xí)方法常用的每類包含15 個查詢樣本的設(shè)置,本文采用的每類10 張查詢樣本用于測試實驗效果,并且使用5 次實驗結(jié)果平均值作為最終結(jié)果的方法確保實驗結(jié)果的準(zhǔn)確性。

    在miniImageNet 數(shù)據(jù)集上的小樣本分類準(zhǔn)確率實驗結(jié)果如表2 所示。

    表2 在miniImageNet 數(shù)據(jù)集上的小樣本分類準(zhǔn)確率Table 2 Few-shot classification accuracy on miniImageNet dataset %

    從表2 可以看出,相較于采用淺層網(wǎng)絡(luò)的傳統(tǒng)特征提取和分類方法的模型,本文模型利用特征提取階段時的語義依賴關(guān)系,在數(shù)據(jù)集上可以提升將近5 個百分點。而對于采用深層網(wǎng)絡(luò)的模型,本文的方法在微調(diào)之后依舊有著比較優(yōu)秀的結(jié)果。

    為了驗證本文方法各個模塊對實驗結(jié)果的影響,本文進行多組對比實驗查看各個模塊在實驗時的表現(xiàn)。表3為不同模塊對實驗結(jié)果的影響,其中,訓(xùn)練和測試使用的實驗配置與5-way-1-shot的相同,√表示使用該模塊。

    表3 不同模塊對實驗結(jié)果的影響Table 3 Affect of different modules on experimental results %

    從表3可以看出,相較于Bottom-up模塊,dual-att模塊對效果的提升更為顯著,表明了樣本對之間的語義匹配的重要性,當(dāng)然結(jié)合語義提取的Bottom-up 模塊,模型可以更好地學(xué)習(xí)到樣本間的語義依賴關(guān)系。表4 為不同階段的輸出在數(shù)據(jù)集上的結(jié)果,其實驗配置都與5-way-1-shot 的相同。

    表4 不同階段輸出對實驗結(jié)果的影響Table 4 Affect of different stages output on experimental results %

    從表4 可以看出,模型的后面階段特征比較抽象并且更加具有區(qū)分性,但是SM4 的輸出效果沒有SM3 階段的效果好,這可能是到SM4 階段時語義匹配產(chǎn)生的輸出對分類模塊來說尺度較小,不能很好地表達特征差異性的關(guān)系,這也是本文在分類模型賦予不同階段產(chǎn)生的分數(shù)對最終查詢樣本分數(shù)權(quán)重超參數(shù)設(shè)置的一個側(cè)面依據(jù)。

    為充分驗證本文方法與樣本數(shù)量的關(guān)系,本文分別在5way 中1-shot~5-shot 的條件下做了對比實驗,如圖6 所示,可以看出,1-shot~5-shot 的測試準(zhǔn)確率逐步增加,符合實驗預(yù)期。

    圖6 5-way-1-shot~5-shot 的性能對比結(jié)果Fig.6 Performance comparison results of 5-way-1-shot~5-shot

    表5 為對比實驗的具體數(shù)值,其中每增加一個shot 的樣本數(shù),對測試的準(zhǔn)確率都有所提升。并且與一般的分類算法相比,本文算法不需要很多的訓(xùn)練樣本數(shù),僅在5 個樣本數(shù)的條件下即可達到73.65%的準(zhǔn)確率。而傳統(tǒng)的分類算法往往需要成千上百的樣本數(shù),如ResNet 和DenseNet 等算法,在樣本數(shù)低于10 個以下時則不能工作。因此,本文算法僅在少量樣本數(shù)下即可較好地工作。

    表5 5-way-1-shot~5-shot 的實驗結(jié)果Table 5 Experimental results of 5-way-1-shot~5-shot %

    2.3 Cifar100 小樣本學(xué)習(xí)任務(wù)

    Cifar100 數(shù)據(jù)集有100 個類,每個類包含600 個樣本,分為500 個訓(xùn)練樣本和100 個測試樣本,其中100 個類被分成20 個大類。每個樣本都帶有一個fine 標(biāo)簽(所屬的子類)和一個coarse 標(biāo)簽(所屬的大類)。本文重新組織該數(shù)據(jù)集,從每個大類中隨機挑一個類組成20 個類作為測試集,同樣不重復(fù)地從大類中再各挑一個類組成20 個類作為測試集,剩下的60 類作為訓(xùn)練集。

    與miniImageNet 實驗相同,本文取5 次實驗結(jié)果平均值作為最終的測試結(jié)果,如表6 所示。由表6 可知,相較于匹配網(wǎng)絡(luò)和關(guān)系網(wǎng)絡(luò),在5-way-1-shot 任務(wù)上,本文準(zhǔn)確率提高了4 個百分點,在5-way-1-shot 任務(wù)上,本文準(zhǔn)確率提高了8 個百分點。至此,本文分別在Omniglot、miniImageNet 和Cifar100 數(shù)據(jù)集上驗證了本文方法的效果,可見本文方法具有一定的泛化能力。

    表6 在Cifar100 數(shù)據(jù)集上的小樣本分類準(zhǔn)確率Table 6 Few-shot sample classification accuracy on Cifar100 dataset %

    2.4 語義匹配可視化分析

    本文根據(jù)文獻[24]中的理論形成注意力熱圖,可視化查詢樣本對支持樣本各語義依賴層級的輸出在原始樣本上激活部分。圖7 為SM 模塊在不同層級提取語義聚焦的部分,其中查詢樣本的類別為獅子,與圖中第一個支持樣本相同。

    圖7 各語義依賴層級在原始樣本上激活部分Fig.7 Each semantic dependency level activates parts on the original sample

    從圖7 可以看出,查詢樣本對與其具有相同類別的樣本可以學(xué)習(xí)到很好的語義信息,其他支持樣本的語義信息查詢樣本則學(xué)習(xí)很差,查詢樣本在第二和第三支持樣本學(xué)到的語義信息大多集中在草地部分,在第四支持樣本學(xué)到的語義前兩層集中在草地,后兩層并沒有很好地集中在目標(biāo)物體獅子附近。因為第五支持樣本與查詢樣本比較相似,SM 模塊可以部分地學(xué)到其語義信息,但是對比第一支持樣本的語義信息分布,其語義信息并沒有第一支持樣本語義信息全面。對比SM1~SM4 之間各層級的語義信息輸出,可以看出,后面層級提取的信息更加抽象和更具有區(qū)分性,更好地貼合了目標(biāo)物體區(qū)域。

    3 結(jié)束語

    本文針對小樣本學(xué)習(xí)問題提出一種語義匹配網(wǎng)絡(luò)模型。該模型通過語義提取和匹配操作在樣本特征的多尺度語義上提煉出樣本之間潛在的語義區(qū)別與聯(lián)系,從而提升后續(xù)分類網(wǎng)絡(luò)的準(zhǔn)確率。實驗結(jié)果表明,本文方法可以有效地歸納出樣本之間相似的語義信息,并利用該語義提升網(wǎng)絡(luò)的性能。樣本間的語義聯(lián)系和注意力機制常見于圖像分類和文本理解任務(wù)中,但在小樣本領(lǐng)域中卻未得到足夠重視。語義關(guān)聯(lián)和注意力機制能夠強化圖像表征,在樣本量較少的情況下該類特征顯得尤為重要,因此下一步將繼續(xù)研究語義模型和注意力方法在小樣本問題中的應(yīng)用。

    猜你喜歡
    類別尺度語義
    財產(chǎn)的五大尺度和五重應(yīng)對
    語言與語義
    宇宙的尺度
    太空探索(2016年5期)2016-07-12 15:17:55
    “上”與“下”語義的不對稱性及其認知闡釋
    服務(wù)類別
    新校長(2016年8期)2016-01-10 06:43:59
    認知范疇模糊與語義模糊
    9
    論類別股東會
    商事法論集(2014年1期)2014-06-27 01:20:42
    中醫(yī)類別全科醫(yī)師培養(yǎng)模式的探討
    聚合酶鏈?zhǔn)椒磻?yīng)快速鑒別5種常見肉類別
    成人特级黄色片久久久久久久| 热99在线观看视频| 天天躁夜夜躁狠狠久久av| 夫妻性生交免费视频一级片| 精品一区二区三区人妻视频| 欧美三级亚洲精品| 精品熟女少妇av免费看| ponron亚洲| 久久久午夜欧美精品| 成人三级黄色视频| 亚洲真实伦在线观看| 国产一区二区三区av在线 | 一级黄片播放器| 人妻久久中文字幕网| 99久久人妻综合| 内地一区二区视频在线| 黄色欧美视频在线观看| 国产激情偷乱视频一区二区| 91精品一卡2卡3卡4卡| 国产成人精品久久久久久| 哪个播放器可以免费观看大片| 国产精品一区二区三区四区久久| 我要搜黄色片| 国产成人影院久久av| 麻豆乱淫一区二区| 国产真实乱freesex| 久久精品国产99精品国产亚洲性色| 国产av一区在线观看免费| 国产激情偷乱视频一区二区| 国内精品一区二区在线观看| 1000部很黄的大片| 亚洲精品自拍成人| 1000部很黄的大片| 亚洲成人久久性| 亚洲精品乱码久久久久久按摩| 深夜a级毛片| www.色视频.com| 久久久久久久久大av| 久久久久久久久久黄片| 男女边吃奶边做爰视频| 日日干狠狠操夜夜爽| 免费人成视频x8x8入口观看| 一本久久中文字幕| 国产精品嫩草影院av在线观看| 色视频www国产| 精品日产1卡2卡| 小蜜桃在线观看免费完整版高清| 最好的美女福利视频网| 欧美性感艳星| 久久精品国产99精品国产亚洲性色| av在线亚洲专区| av天堂在线播放| 亚洲熟妇中文字幕五十中出| av女优亚洲男人天堂| 大又大粗又爽又黄少妇毛片口| 不卡一级毛片| 国产精品一区二区三区四区久久| 国产成人aa在线观看| 99久久精品一区二区三区| 国产成人精品久久久久久| 亚洲一级一片aⅴ在线观看| 六月丁香七月| 国产在线精品亚洲第一网站| АⅤ资源中文在线天堂| 国产片特级美女逼逼视频| 国产成人a区在线观看| 亚洲第一区二区三区不卡| 亚洲av男天堂| 好男人在线观看高清免费视频| 亚洲av成人精品一区久久| 亚洲人成网站在线播放欧美日韩| 哪里可以看免费的av片| 能在线免费观看的黄片| 欧美日韩国产亚洲二区| 日韩欧美精品v在线| 我要搜黄色片| 国产久久久一区二区三区| av在线亚洲专区| 成人亚洲欧美一区二区av| 亚洲一区二区三区色噜噜| 日韩一本色道免费dvd| 22中文网久久字幕| 国产精品无大码| 爱豆传媒免费全集在线观看| 一级毛片电影观看 | 在线观看一区二区三区| 深夜精品福利| 国产视频首页在线观看| 一区二区三区四区激情视频 | 亚洲欧美精品自产自拍| 亚洲自拍偷在线| 丰满乱子伦码专区| 午夜福利在线观看吧| 欧美成人精品欧美一级黄| 不卡视频在线观看欧美| 高清日韩中文字幕在线| 亚洲欧美日韩高清专用| 99久久精品一区二区三区| 日韩av不卡免费在线播放| 亚洲精品国产成人久久av| 国产美女午夜福利| 久久久欧美国产精品| 大型黄色视频在线免费观看| 久久综合国产亚洲精品| 一本精品99久久精品77| 一区二区三区高清视频在线| or卡值多少钱| 中文字幕制服av| 99久久九九国产精品国产免费| 久久精品国产亚洲av香蕉五月| 中国美女看黄片| 丝袜喷水一区| 国产三级在线视频| 午夜免费激情av| 国产日韩欧美在线精品| 国产乱人视频| 精品久久久久久久久av| 蜜桃亚洲精品一区二区三区| 婷婷精品国产亚洲av| 免费不卡的大黄色大毛片视频在线观看 | 变态另类成人亚洲欧美熟女| 爱豆传媒免费全集在线观看| 久久久久性生活片| 国产精品.久久久| 国内揄拍国产精品人妻在线| 亚洲国产色片| 不卡视频在线观看欧美| 精品国产三级普通话版| 亚洲va在线va天堂va国产| 十八禁国产超污无遮挡网站| 日韩精品青青久久久久久| 观看美女的网站| 午夜福利成人在线免费观看| 三级国产精品欧美在线观看| 日日干狠狠操夜夜爽| 亚洲美女搞黄在线观看| 欧美精品一区二区大全| 亚洲国产精品成人综合色| 日本在线视频免费播放| 成人毛片a级毛片在线播放| 久久久久久大精品| 欧美高清性xxxxhd video| 伦理电影大哥的女人| 亚洲自拍偷在线| 亚洲一级一片aⅴ在线观看| 亚洲国产欧美人成| av在线播放精品| 日本一二三区视频观看| 国产成人aa在线观看| 亚洲精品乱码久久久v下载方式| 精品99又大又爽又粗少妇毛片| 亚洲丝袜综合中文字幕| 黄色配什么色好看| 国产亚洲精品久久久久久毛片| 亚洲精品自拍成人| 久久久久久伊人网av| 丰满乱子伦码专区| 一个人观看的视频www高清免费观看| 1024手机看黄色片| 欧美成人精品欧美一级黄| 欧美最黄视频在线播放免费| 国产精品一区二区三区四区免费观看| 成人毛片60女人毛片免费| 男人舔女人下体高潮全视频| 国产精品爽爽va在线观看网站| 高清毛片免费观看视频网站| 人妻久久中文字幕网| 日韩在线高清观看一区二区三区| 人妻夜夜爽99麻豆av| 国产不卡一卡二| 激情 狠狠 欧美| 三级毛片av免费| 亚洲欧美日韩东京热| 九九久久精品国产亚洲av麻豆| 美女cb高潮喷水在线观看| 亚洲丝袜综合中文字幕| 亚洲国产精品sss在线观看| 国产成人a∨麻豆精品| 观看免费一级毛片| 国产一区二区在线观看日韩| 亚洲精品久久国产高清桃花| 国产亚洲精品av在线| 久久亚洲精品不卡| 亚洲成人久久爱视频| 久久精品国产亚洲av涩爱 | 中文在线观看免费www的网站| 国产高潮美女av| 亚洲av一区综合| 直男gayav资源| 色哟哟哟哟哟哟| 一个人免费在线观看电影| 日韩亚洲欧美综合| 成人永久免费在线观看视频| 日韩三级伦理在线观看| 国产单亲对白刺激| 久久精品91蜜桃| 国国产精品蜜臀av免费| 人妻少妇偷人精品九色| 亚洲欧美成人精品一区二区| 亚洲av.av天堂| 日韩 亚洲 欧美在线| av在线亚洲专区| 色综合亚洲欧美另类图片| 99在线视频只有这里精品首页| 一个人看视频在线观看www免费| 最新中文字幕久久久久| 男人和女人高潮做爰伦理| 国产伦理片在线播放av一区 | 一进一出抽搐动态| 欧美最新免费一区二区三区| 美女xxoo啪啪120秒动态图| 亚洲不卡免费看| 边亲边吃奶的免费视频| 岛国在线免费视频观看| av专区在线播放| 久久国产乱子免费精品| 在线免费观看不下载黄p国产| 国产毛片a区久久久久| 亚洲国产欧美在线一区| 国产精品蜜桃在线观看 | 国产精品久久久久久av不卡| 亚洲国产日韩欧美精品在线观看| 日韩欧美三级三区| 嘟嘟电影网在线观看| 全区人妻精品视频| 欧美一区二区亚洲| 99精品在免费线老司机午夜| 丰满的人妻完整版| 干丝袜人妻中文字幕| 在线a可以看的网站| 成年女人永久免费观看视频| 国产在视频线在精品| 久久久午夜欧美精品| 欧美成人a在线观看| 大又大粗又爽又黄少妇毛片口| 国产 一区精品| 99久国产av精品国产电影| 尾随美女入室| 日本五十路高清| 在线观看午夜福利视频| 亚洲最大成人中文| 国产视频首页在线观看| 日本一本二区三区精品| 国内少妇人妻偷人精品xxx网站| 国产精品无大码| 在线观看66精品国产| 国产三级在线视频| 99热只有精品国产| 亚洲精品久久国产高清桃花| 精品久久久久久久久久免费视频| 日本-黄色视频高清免费观看| 国产伦精品一区二区三区视频9| 亚洲无线在线观看| 成人av在线播放网站| 欧美另类亚洲清纯唯美| 特级一级黄色大片| 久久精品国产亚洲av香蕉五月| 日日摸夜夜添夜夜爱| 亚洲人成网站在线播| 黄色一级大片看看| 亚洲欧洲日产国产| 亚洲精品456在线播放app| 国产综合懂色| 欧美激情国产日韩精品一区| 久久久a久久爽久久v久久| 99久久九九国产精品国产免费| 国产三级在线视频| 亚洲国产欧美在线一区| 老司机影院成人| 国产午夜精品一二区理论片| 悠悠久久av| 成人亚洲欧美一区二区av| 亚洲成人av在线免费| 只有这里有精品99| 狂野欧美激情性xxxx在线观看| 国产成人影院久久av| 国产精品野战在线观看| 天天躁夜夜躁狠狠久久av| 一个人免费在线观看电影| 亚洲欧美日韩高清专用| 亚洲国产日韩欧美精品在线观看| 亚洲国产精品sss在线观看| 丝袜美腿在线中文| 尤物成人国产欧美一区二区三区| 在线天堂最新版资源| 亚洲av成人av| 精品一区二区三区视频在线| 免费av观看视频| av免费观看日本| 麻豆成人午夜福利视频| 国产成人午夜福利电影在线观看| 国产三级中文精品| 国产国拍精品亚洲av在线观看| 热99re8久久精品国产| av黄色大香蕉| 日韩一本色道免费dvd| 91久久精品国产一区二区三区| 国产片特级美女逼逼视频| 久久久久久久亚洲中文字幕| 97人妻精品一区二区三区麻豆| 超碰av人人做人人爽久久| 麻豆av噜噜一区二区三区| 尤物成人国产欧美一区二区三区| 国产乱人视频| 97在线视频观看| 国产精品蜜桃在线观看 | 国产伦理片在线播放av一区 | 久久久久久久午夜电影| 六月丁香七月| 久久久a久久爽久久v久久| 成人永久免费在线观看视频| 只有这里有精品99| 亚洲av熟女| 日本三级黄在线观看| 人妻夜夜爽99麻豆av| 国产精品人妻久久久影院| 国产视频内射| 大香蕉久久网| 亚洲欧美精品专区久久| 欧美成人一区二区免费高清观看| 免费一级毛片在线播放高清视频| 国产亚洲5aaaaa淫片| 深爱激情五月婷婷| 午夜福利成人在线免费观看| 特级一级黄色大片| 美女大奶头视频| 99riav亚洲国产免费| 国产欧美日韩精品一区二区| 美女脱内裤让男人舔精品视频 | 国产精品久久久久久精品电影小说 | 亚洲av熟女| 国产乱人偷精品视频| 欧美区成人在线视频| 黑人高潮一二区| 亚洲一级一片aⅴ在线观看| 国产精品久久久久久精品电影小说 | 婷婷六月久久综合丁香| 国产精品一区www在线观看| 国产成人精品一,二区 | 热99re8久久精品国产| 欧洲精品卡2卡3卡4卡5卡区| 国产在线男女| 1000部很黄的大片| 九九久久精品国产亚洲av麻豆| 老司机影院成人| 国产毛片a区久久久久| 麻豆久久精品国产亚洲av| 久久久久久国产a免费观看| 欧美zozozo另类| 99久久成人亚洲精品观看| 国产极品天堂在线| 美女内射精品一级片tv| 又爽又黄a免费视频| 久久99蜜桃精品久久| 春色校园在线视频观看| 桃色一区二区三区在线观看| 波多野结衣巨乳人妻| 久久精品国产自在天天线| 九色成人免费人妻av| 欧美另类亚洲清纯唯美| 伦精品一区二区三区| 日本黄大片高清| 黄片wwwwww| 久久久久久大精品| 久久久色成人| 天堂网av新在线| 亚洲第一区二区三区不卡| 国产国拍精品亚洲av在线观看| 麻豆av噜噜一区二区三区| 成人综合一区亚洲| 国产精品久久久久久久电影| 99热只有精品国产| 中文字幕免费在线视频6| 白带黄色成豆腐渣| 草草在线视频免费看| 国产精品一二三区在线看| 变态另类成人亚洲欧美熟女| 亚洲欧美精品专区久久| 国国产精品蜜臀av免费| 久久久久性生活片| 日本熟妇午夜| 欧美+亚洲+日韩+国产| 色综合站精品国产| 高清在线视频一区二区三区 | 亚洲欧美成人精品一区二区| 国产亚洲精品av在线| 日韩一本色道免费dvd| 九九热线精品视视频播放| 久久韩国三级中文字幕| 美女高潮的动态| 欧美激情久久久久久爽电影| 少妇高潮的动态图| 色综合亚洲欧美另类图片| 亚洲va在线va天堂va国产| 精品久久久久久久久久免费视频| 日本-黄色视频高清免费观看| 国产一区二区亚洲精品在线观看| 午夜激情欧美在线| 天天一区二区日本电影三级| 国产精品一区二区三区四区久久| 乱系列少妇在线播放| 丝袜喷水一区| 免费观看a级毛片全部| 高清毛片免费观看视频网站| 欧美最黄视频在线播放免费| 国产午夜精品久久久久久一区二区三区| videossex国产| 免费人成在线观看视频色| 村上凉子中文字幕在线| 男人的好看免费观看在线视频| 蜜桃亚洲精品一区二区三区| 亚洲中文字幕一区二区三区有码在线看| 91在线精品国自产拍蜜月| 日韩一区二区视频免费看| 精品国产三级普通话版| 三级毛片av免费| 欧美不卡视频在线免费观看| 亚洲无线在线观看| 又爽又黄a免费视频| 久久久久久九九精品二区国产| 夜夜爽天天搞| 成人美女网站在线观看视频| 久久99蜜桃精品久久| 女人十人毛片免费观看3o分钟| 久久久a久久爽久久v久久| 不卡一级毛片| 超碰av人人做人人爽久久| 国产又黄又爽又无遮挡在线| 国产白丝娇喘喷水9色精品| 久久久成人免费电影| 国产单亲对白刺激| 精品不卡国产一区二区三区| av又黄又爽大尺度在线免费看 | 好男人视频免费观看在线| 天堂网av新在线| 欧美一区二区精品小视频在线| 亚洲最大成人av| 国产一级毛片在线| 亚洲最大成人中文| 26uuu在线亚洲综合色| 午夜福利在线观看吧| 免费看光身美女| 淫秽高清视频在线观看| 国内精品久久久久精免费| 97人妻精品一区二区三区麻豆| 国产真实乱freesex| 亚洲精华国产精华液的使用体验 | 成人性生交大片免费视频hd| 久久久久久久久久成人| 久久亚洲国产成人精品v| 国产欧美日韩综合在线一区二区| av一本久久久久| 中文字幕免费在线视频6| 久久99一区二区三区| 黄片播放在线免费| 在线亚洲精品国产二区图片欧美 | 国国产精品蜜臀av免费| 亚洲av不卡在线观看| 两个人的视频大全免费| 国精品久久久久久国模美| 少妇被粗大的猛进出69影院 | 久久国产精品大桥未久av| 国产亚洲午夜精品一区二区久久| 在线亚洲精品国产二区图片欧美 | 最近2019中文字幕mv第一页| 赤兔流量卡办理| 亚洲色图 男人天堂 中文字幕 | 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 国产av精品麻豆| 成人国产av品久久久| 又黄又爽又刺激的免费视频.| 久久久久久久久久久免费av| 亚洲av福利一区| 久久精品国产亚洲网站| 在线精品无人区一区二区三| 美女主播在线视频| 一区二区三区乱码不卡18| 18+在线观看网站| 色婷婷av一区二区三区视频| a级毛色黄片| 天堂中文最新版在线下载| 91在线精品国自产拍蜜月| 精品一区二区三卡| 欧美日韩一区二区视频在线观看视频在线| 亚洲美女视频黄频| 天美传媒精品一区二区| 免费看av在线观看网站| 在线精品无人区一区二区三| 青春草视频在线免费观看| 制服诱惑二区| 九色成人免费人妻av| 丝袜脚勾引网站| 赤兔流量卡办理| 国产成人免费观看mmmm| 在线观看www视频免费| 免费观看av网站的网址| 啦啦啦中文免费视频观看日本| 精品久久久噜噜| 久久精品久久久久久噜噜老黄| 51国产日韩欧美| 亚洲经典国产精华液单| 在线观看国产h片| 男女无遮挡免费网站观看| 日日撸夜夜添| 国产爽快片一区二区三区| 超色免费av| 午夜激情av网站| 免费观看av网站的网址| 国产成人a∨麻豆精品| 国产免费现黄频在线看| 99久久精品国产国产毛片| 国产精品一国产av| 国产亚洲精品第一综合不卡 | 热re99久久国产66热| 免费观看av网站的网址| 国产69精品久久久久777片| 人人妻人人澡人人看| 一级爰片在线观看| 视频中文字幕在线观看| 欧美日韩综合久久久久久| 亚洲人与动物交配视频| 日韩伦理黄色片| 国产日韩欧美在线精品| 精品少妇久久久久久888优播| 国产一区二区三区综合在线观看 | 97在线人人人人妻| 免费av中文字幕在线| 成年人免费黄色播放视频| 亚洲欧美清纯卡通| 午夜日本视频在线| 蜜桃久久精品国产亚洲av| 精品久久久久久久久av| 黄色配什么色好看| 欧美日韩av久久| 午夜av观看不卡| 国产色爽女视频免费观看| 欧美国产精品一级二级三级| 国产成人一区二区在线| 亚洲综合精品二区| av在线观看视频网站免费| 十八禁高潮呻吟视频| 欧美另类一区| videosex国产| 丝袜脚勾引网站| 欧美人与性动交α欧美精品济南到 | 在线观看三级黄色| 亚洲,欧美,日韩| 欧美 亚洲 国产 日韩一| 婷婷色麻豆天堂久久| 晚上一个人看的免费电影| 一级片'在线观看视频| 亚洲在久久综合| 成人无遮挡网站| 男女啪啪激烈高潮av片| 久久久久久人妻| 欧美少妇被猛烈插入视频| 女人久久www免费人成看片| 国产成人aa在线观看| 日韩精品有码人妻一区| 日韩欧美一区视频在线观看| 在线观看免费高清a一片| 大话2 男鬼变身卡| 狠狠精品人妻久久久久久综合| 一边亲一边摸免费视频| 黄色一级大片看看| 下体分泌物呈黄色| 日本wwww免费看| 久久这里有精品视频免费| 嫩草影院入口| 边亲边吃奶的免费视频| 国产精品久久久久久久久免| 日韩av免费高清视频| 不卡视频在线观看欧美| 在线 av 中文字幕| 26uuu在线亚洲综合色| 成人午夜精彩视频在线观看| 热re99久久国产66热| 亚洲精品久久久久久婷婷小说| 国产在线一区二区三区精| 丰满乱子伦码专区| 最近中文字幕2019免费版| 少妇人妻精品综合一区二区| 亚洲国产精品专区欧美| 久久久欧美国产精品| 午夜福利影视在线免费观看| 街头女战士在线观看网站| 成人综合一区亚洲| 免费观看无遮挡的男女| 免费观看av网站的网址| a级毛片黄视频| 2022亚洲国产成人精品| 纯流量卡能插随身wifi吗| 亚洲av成人精品一二三区| 久久久a久久爽久久v久久| 97在线视频观看| 国产精品不卡视频一区二区| 日韩强制内射视频| 亚洲无线观看免费| 啦啦啦视频在线资源免费观看| 久久久国产精品麻豆| av国产久精品久网站免费入址| 亚洲欧美日韩另类电影网站| 伦理电影大哥的女人| 日韩欧美精品免费久久| videosex国产| 婷婷色综合www| 久久久久久久久久久久大奶| 亚洲精品成人av观看孕妇| 午夜av观看不卡| 久久99热6这里只有精品| 欧美精品一区二区免费开放| 特大巨黑吊av在线直播| 久久久久久久久大av| 乱码一卡2卡4卡精品| 精品久久蜜臀av无|