• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    視覺(jué)—語(yǔ)義雙重解糾纏的廣義零樣本學(xué)習(xí)

    2023-09-26 04:22:24韓阿友楊關(guān)劉小明劉陽(yáng)
    關(guān)鍵詞:編碼器一致性重構(gòu)

    韓阿友,楊關(guān)*,劉小明,劉陽(yáng)

    1.中原工學(xué)院計(jì)算機(jī)學(xué)院,鄭州 450007;2.河南省網(wǎng)絡(luò)輿情監(jiān)測(cè)與智能分析重點(diǎn)實(shí)驗(yàn)室,鄭州 450007;3.西安電子科技大學(xué)通信工程學(xué)院,西安 710071

    0 引言

    隨著深度學(xué)習(xí)的蓬勃發(fā)展,許多端到端的深度學(xué)習(xí)模型已經(jīng)在很多應(yīng)用場(chǎng)景上效果斐然。雖然傳統(tǒng)的深度學(xué)習(xí)模型非常成功,但是它們的成功是基于大量帶標(biāo)記的數(shù)據(jù)進(jìn)行訓(xùn)練的。在現(xiàn)實(shí)生活中收集大量的標(biāo)記樣本是一個(gè)具有挑戰(zhàn)性的問(wèn)題。例如ImageNet(Deng 等,2009)是一個(gè)大型數(shù)據(jù)集,包含1 400 萬(wàn)幅圖像,21 814 個(gè)類別,但是其中許多類只包含少數(shù)圖像。此外傳統(tǒng)的深度學(xué)習(xí)模型只能識(shí)別訓(xùn)練階段已有的類別樣本,不能處理來(lái)自不可見(jiàn)類的樣本。這是一個(gè)非常具有挑戰(zhàn)的問(wèn)題,因?yàn)樵诂F(xiàn)實(shí)場(chǎng)景中,可能有些類別是沒(méi)有可訓(xùn)練樣本的,比如瀕危鳥(niǎo)類等。

    人類可以根據(jù)先前學(xué)習(xí)到的經(jīng)驗(yàn)來(lái)學(xué)習(xí)新的概念,而不必事先看到它們。例如一個(gè)人可以很容易地識(shí)別出斑馬,如果他以前見(jiàn)過(guò)馬,并且知道斑馬看起來(lái)像是帶有黑白條紋的馬(冀中 等,2019)。零樣本學(xué)習(xí)(zero-shot learning,ZSL)(Larochelle 等,2008)方法為解決這一挑戰(zhàn)提供了一個(gè)很好的解決方案。

    在零樣本學(xué)習(xí)中,訓(xùn)練階段出現(xiàn)的類別稱為可見(jiàn)類,未出現(xiàn)的類別稱為不可見(jiàn)類。它的目標(biāo)是訓(xùn)練一個(gè)模型,學(xué)習(xí)語(yǔ)義空間和視覺(jué)空間之間的映射。通過(guò)語(yǔ)義信息將可見(jiàn)類學(xué)習(xí)到的知識(shí)遷移到不可見(jiàn)類,從而縮小可見(jiàn)類和不可見(jiàn)類之間的差距,然后對(duì)不可見(jiàn)類進(jìn)行分類。但是傳統(tǒng)的零樣本學(xué)習(xí)是建立在測(cè)試集中只包含不可見(jiàn)類樣本的假設(shè)之上,這種假設(shè)在現(xiàn)實(shí)場(chǎng)景中容易打破。因此出現(xiàn)了一種比零樣本學(xué)習(xí)更有現(xiàn)實(shí)意義、更具挑戰(zhàn)的廣義零樣本學(xué)習(xí)(generalized zero-shot learning,GZSL)(Chao 等,2016),也就是說(shuō),測(cè)試集的樣本來(lái)自可見(jiàn)類和不可見(jiàn)類。

    現(xiàn)有的廣義零樣本學(xué)習(xí)方法技術(shù)主要可以分為基于嵌入的方法(Frome 等,2013;Liu 等,2019;Jiang等,2019;Xian 等,2016)和基于生成的方法(Zhu 等,2018;Narayan 等,2020;Chen 等,2021a;Xian 等,2018;Keshari 等,2020)兩大類。前者目標(biāo)是學(xué)習(xí)一個(gè)映射函數(shù),將可見(jiàn)類的視覺(jué)特征和其對(duì)應(yīng)的語(yǔ)義向量映射到某一空間中進(jìn)行后續(xù)分類;后者是學(xué)習(xí)一個(gè)生成模型為不可見(jiàn)類生成視覺(jué)特征?,F(xiàn)在大多數(shù)的廣義零樣本學(xué)習(xí)方法是利用在ImageNet上預(yù)訓(xùn)練的深度模型來(lái)提取相應(yīng)的視覺(jué)特征,比如殘差網(wǎng)絡(luò)(residual neural network,ResNet101)(He 等,2016)和VGG-16(Visual Geometry Group-16)(Simonyan 和Zisserman,2014)等。然而,現(xiàn)有的大多廣義零樣本學(xué)習(xí)方法中忽略了語(yǔ)義和視覺(jué)的相關(guān)性。因?yàn)樵谀P蛯W(xué)習(xí)的過(guò)程中,原始特征和生成特征在維度上并不是都與預(yù)定義屬性在語(yǔ)義上相關(guān),這將導(dǎo)致視覺(jué)在維度上與語(yǔ)義產(chǎn)生偏見(jiàn),并導(dǎo)致對(duì)不可見(jiàn)類的負(fù)遷移,如圖1 所示,方框標(biāo)注的“耳朵”維度與注釋屬性在語(yǔ)義上無(wú)關(guān),從這些語(yǔ)義無(wú)關(guān)的視覺(jué)特征中學(xué)習(xí)可能會(huì)影響模型對(duì)不可見(jiàn)類的泛化。

    圖1 語(yǔ)義無(wú)關(guān)的視覺(jué)特征圖示Fig.1 The illustration of visual features(boxes)that are not associated with the annotated attributes

    此外,大多數(shù)方法在分類過(guò)程中都忽略了豐富的語(yǔ)義信息,并且在語(yǔ)義信息中也存在著與分類無(wú)關(guān)、特征無(wú)關(guān)的信息。這將會(huì)影響分類結(jié)果,如圖2所示,劃線部分語(yǔ)義是與視覺(jué)特征無(wú)關(guān)的,比如在注釋屬性中存在的“Ocean”語(yǔ)義對(duì)于“貓”的視覺(jué)特征是無(wú)關(guān)的,并且對(duì)于最終的視覺(jué)—語(yǔ)義聯(lián)合分類也會(huì)產(chǎn)生不好的影響。

    圖2 特征無(wú)關(guān)的語(yǔ)義注釋屬性圖示Fig.2 The illustration of annotated attributes(lines)that are not associate with the visual features

    為了解決上述問(wèn)題,本文提出了視覺(jué)—語(yǔ)義雙重解糾纏廣義零樣本學(xué)習(xí)(visual-semantic dualdisentangling generalized zero-shot learning,VSDGZSL)。通過(guò)視覺(jué)—語(yǔ)義解糾纏框架來(lái)提取出語(yǔ)義一致性特征和特征相關(guān)的語(yǔ)義信息,設(shè)計(jì)了一個(gè)總相關(guān)懲罰結(jié)構(gòu)和一個(gè)語(yǔ)義一致性衡量網(wǎng)絡(luò)。前者衡量分解的潛在變量之間的獨(dú)立性;后者衡量分解出來(lái)的視覺(jué)特征的語(yǔ)義一致性。然后,將視覺(jué)特征分解的潛層輸出和語(yǔ)義信息分解的潛層輸出進(jìn)行跨模態(tài)交叉重構(gòu)。對(duì)視覺(jué)特征交叉重構(gòu)輸入的是語(yǔ)義信息分解輸出中與特征相關(guān)的信息,并使用該操作來(lái)指導(dǎo)語(yǔ)義解糾纏框架分解出與特征相關(guān)的語(yǔ)義信息。最后,將語(yǔ)義一致性特征和特征相關(guān)的語(yǔ)義信息聯(lián)合學(xué)習(xí)一個(gè)廣義零樣本學(xué)習(xí)分類器。在4 個(gè)公開(kāi)數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果驗(yàn)證了本文方法的有效性。

    本文貢獻(xiàn)如下:1)發(fā)現(xiàn)在提取的視覺(jué)特征中并不是都與預(yù)定屬性在語(yǔ)義上相關(guān),這將會(huì)導(dǎo)致產(chǎn)生語(yǔ)義偏見(jiàn),并且在語(yǔ)義信息中存在與分類無(wú)關(guān)以及特征無(wú)關(guān)的冗余信息。2)提出一個(gè)視覺(jué)—語(yǔ)義解糾纏框架,用來(lái)提取出視覺(jué)特征中語(yǔ)義一致性特征和預(yù)定義屬性中特征相關(guān)的語(yǔ)義信息。設(shè)計(jì)了一個(gè)跨模態(tài)交叉重構(gòu)模塊來(lái)指導(dǎo)語(yǔ)義解糾纏能更好地分解出與特征相關(guān)的語(yǔ)義信息,采用關(guān)系網(wǎng)絡(luò)來(lái)學(xué)習(xí)視覺(jué)解糾纏分解出語(yǔ)義一致性表示。最后將解糾纏模塊分解后的特征和語(yǔ)義聯(lián)合學(xué)習(xí)一個(gè)廣義零樣本學(xué)習(xí)分類器進(jìn)行分類。3)在4 個(gè)公開(kāi)的廣義零樣本學(xué)習(xí)數(shù)據(jù)集上進(jìn)行多次實(shí)驗(yàn),通過(guò)解糾纏框架學(xué)習(xí)到的語(yǔ)義一致性視覺(jué)特征和特征相關(guān)的語(yǔ)義信息能夠提高分類性能并優(yōu)于對(duì)比的基準(zhǔn)方法,證明了所提視覺(jué)—語(yǔ)義解糾纏思想的有效性。

    1 相關(guān)工作

    1.1 廣義零樣本學(xué)習(xí)

    廣義零樣本學(xué)習(xí)是比傳統(tǒng)零樣本學(xué)習(xí)更有現(xiàn)實(shí)意義、更具挑戰(zhàn)的情況,即在測(cè)試集樣本中既有可見(jiàn)類也有不可見(jiàn)類。由于在訓(xùn)練階段不可見(jiàn)類的視覺(jué)樣本不可用,這導(dǎo)致經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化變得不可靠(Wang等,2021b)。為了克服這些限制,利用語(yǔ)義作為不可見(jiàn)類的中間表示,這種語(yǔ)義通常是手動(dòng)定義的屬性(Lampert等,2014)。

    廣義零樣本學(xué)習(xí)的方法有:f-CLSWGAN(Xian等,2018)中利用WGAN(Wasserstein GANs)(Arjovsky 等,2017)來(lái)合成逼真的視覺(jué)特征。CADA-VAE(cross-and distribution-aligned VAE)(Sch?nfeld 等,2019)利用兩個(gè)對(duì)齊的變分自編碼器(variational auto-encoder,VAE)來(lái)學(xué)習(xí)不同模式之間的共享潛在表示。TF-VAEGAN(Narayan 等,2020)將變分自編碼器VAE 和生成對(duì)抗網(wǎng)絡(luò)(generative adversarial networks,GAN)相結(jié)合來(lái)生成視覺(jué)特征,再通過(guò)一個(gè)語(yǔ)義解碼器將視覺(jué)特征解碼出語(yǔ)義屬性,并且提出了一個(gè)反饋模塊,將語(yǔ)義解碼器的潛層表示作為輸入反饋回生成器的潛層來(lái)提高生成特征的質(zhì)量。CANZSL(cycle-consistent adversarial networks for zero-shot learning)(Chen 等,2020)提出了周期一致對(duì)抗網(wǎng)絡(luò),首先從有噪聲的文本中合成視覺(jué)特征,然后采用逆對(duì)抗網(wǎng)絡(luò)將生成特征轉(zhuǎn)換為文本,以確保合成的視覺(jué)特征能夠準(zhǔn)確地反映語(yǔ)義表征。OTZSL(optimal transport-based zero-shot learning)(Wang等,2021a)利用一個(gè)條件生成模型從可見(jiàn)類屬性生成可見(jiàn)類特征,并在生成特征分布和真實(shí)特征分布之間建立最優(yōu)傳輸,利用基于屬性的正則化器對(duì)生成模型和最優(yōu)傳輸進(jìn)行迭代優(yōu)化,進(jìn)一步增強(qiáng)了所生成特征的鑒別能力。FREE(feature refinement)(Chen 等,2021a)指出在ImageNet 上訓(xùn)練的特征提取器忽略了ImageNet和GZSL數(shù)據(jù)集之間的偏差,這種偏差會(huì)導(dǎo)致廣義零樣本學(xué)習(xí)任務(wù)的視覺(jué)特征質(zhì)量低下,因此提出了一種特征細(xì)化的方法,采用一種自適應(yīng)邊緣中心損失,它與語(yǔ)義循環(huán)一致性損失相結(jié)合,引導(dǎo)特征細(xì)化模塊學(xué)習(xí)類和語(yǔ)義相關(guān)的表示。趙鵬等人(2021)提出了一種基于子空間學(xué)習(xí)和重構(gòu)的零樣本分類方法來(lái)解決知識(shí)遷移過(guò)程中的信息損失和域偏移問(wèn)題。在人體行為識(shí)別領(lǐng)域中,呂露露等人(2021)為了研究多種模態(tài)數(shù)據(jù)對(duì)零樣本人體動(dòng)作識(shí)別的影響,提出了一種基于多模態(tài)融合的零樣本人體動(dòng)作識(shí)別ZSAR-MF(zero-shot human action recognition framework based on multimodal fusion)框架,該框架能有效地融合傳感器特征和視頻特征。

    1.2 生成模型

    最近的廣義零樣本學(xué)習(xí)中使用生成模型的方法取得了先進(jìn)的性能。生成模型可以為不可見(jiàn)類合成大量的視覺(jué)特征,一旦為不可見(jiàn)類生成了視覺(jué)特征,那么零樣本學(xué)習(xí)的問(wèn)題就變成了一個(gè)相對(duì)簡(jiǎn)單的監(jiān)督分類問(wèn)題。兩種常用的生成模型是生成對(duì)抗網(wǎng)絡(luò)(GAN)(Goodfellow 等,2014)和變分自編碼器(VAE)(Kingma 和Welling,2014),這兩種模型在基于生成方法的廣義零樣本學(xué)習(xí)任務(wù)中廣泛使用。其中,Xian 等人(2018)設(shè)計(jì)了一個(gè)帶有分類損失的條件WGAN 模型,稱為f-CLSWGAN,將語(yǔ)義特征集成到生成器和鑒別器中。SPGAN(similarity preserving GAN)(Ma 等,2020)設(shè)計(jì)了一種保持相似性的生成對(duì)抗網(wǎng)絡(luò)來(lái)生成盡可能真實(shí)的視覺(jué)特征。SR-GAN(semantic rectifying generative adversarial network)(Ye 等,2019)使用語(yǔ)義矯正網(wǎng)絡(luò)來(lái)矯正特征。CVAE-ZSL(Mishra 等,2018)采用神經(jīng)網(wǎng)絡(luò)對(duì)編碼器進(jìn)行建模,SE-GZSL(synthesized examples for generalized zero-shot learning)(Verma 等,2018)設(shè)計(jì)了一個(gè)循環(huán)一致性損失函數(shù),配備了鑒別器驅(qū)動(dòng)的反饋機(jī)制,將真實(shí)樣本或生成的樣本映射回相應(yīng)的語(yǔ)義表示。在這些方法中,使用的原始特征和生成特征中存在著與預(yù)定義屬性不相關(guān)的特征,并且在分類階段要么忽略了豐富的語(yǔ)義信息,要么在使用語(yǔ)義信息時(shí)沒(méi)有解耦出語(yǔ)義信息中與特征相關(guān)的部分。如何使模型提取它們是關(guān)鍵問(wèn)題。

    1.3 解糾纏表示

    解糾纏指的是一種表示特征之間的獨(dú)立性。總相關(guān)性(total correlation,TC)(Kim 和Mnih,2018)是對(duì)多個(gè)隨機(jī)變量獨(dú)立性的測(cè)量。在信息論中,總相關(guān)是互信息對(duì)隨機(jī)變量的許多推廣之一,它是最近解糾纏方法的一個(gè)關(guān)鍵組成部分。FactorVAE(Kim和Mnih,2018)提出了一種將表征的分布進(jìn)行階乘的方法來(lái)分離特征,從而實(shí)現(xiàn)跨維度的獨(dú)立性。Higgins 等人(2017)提出的beta-VAE 是一種無(wú)監(jiān)督的視覺(jué)解糾纏表示學(xué)習(xí)方法,通過(guò)調(diào)整KL(Kullback-Leibler)項(xiàng)的權(quán)重來(lái)平衡解糾纏因子的獨(dú)立性和重構(gòu)性能。Chen 等人(2016)提出的InfoGAN通過(guò)最大化潛層變量與原始變量之間的互信息來(lái)實(shí)現(xiàn)解糾纏。DLFZRL(discriminative latent features for zero-shot learning)(Tong 等,2019)提出了一種分層分解方法來(lái)學(xué)習(xí)有區(qū)別的潛在特征。

    2 問(wèn)題定義

    在零樣本學(xué)習(xí)中,數(shù)據(jù)集類別分為可見(jiàn)類s和不可見(jiàn)類u,標(biāo)簽分別為ys和yu,ys∩yu=?。假設(shè)訓(xùn)練數(shù)據(jù)集={(xs,as,ys)},僅由可見(jiàn)類中標(biāo)記的樣本組成,其中xs∈Xs表示可見(jiàn)類視覺(jué)特征,as∈As是可見(jiàn)類相關(guān)的語(yǔ)義描述符(如語(yǔ)義屬性),ys∈Ys表示可見(jiàn)類的類標(biāo)簽。測(cè)試集={xu,au,yu},其中在訓(xùn)練期間不可見(jiàn)類的視覺(jué)特征xu不可用。傳統(tǒng)的零樣本學(xué)習(xí)旨在學(xué)習(xí)測(cè)試集Dte={xu}上評(píng)估的分類器fZSL:Xu→Yu。然而在廣義零樣本學(xué)習(xí)中,測(cè)試集Dte由可見(jiàn)類和不可見(jiàn)類共同組成,即學(xué)習(xí)在所有的特征上評(píng)估的分類器fGZSL:X→Ys∪Yu,本文主要研究的是廣義零樣本學(xué)習(xí)的分類問(wèn)題。

    3 方 法

    為了同時(shí)得到語(yǔ)義一致性的視覺(jué)特征和特征相關(guān)的語(yǔ)義屬性,本文提出了一種基于總相關(guān)懲罰的視覺(jué)—語(yǔ)義解糾纏框架。分解的視覺(jué)特征通過(guò)一個(gè)關(guān)系網(wǎng)絡(luò)來(lái)保證語(yǔ)義一致性,分解的語(yǔ)義信息通過(guò)視覺(jué)交叉重構(gòu)來(lái)保證特征相關(guān)性。最后通過(guò)語(yǔ)義一致性視覺(jué)特征和特征相關(guān)的語(yǔ)義信息結(jié)合進(jìn)行廣義零樣本學(xué)習(xí)的分類。

    3.1 模型架構(gòu)

    所提模型架構(gòu)如圖3 所示,主要由條件變分自編碼器、視覺(jué)—語(yǔ)義解糾纏模塊、語(yǔ)義一致性特征衡量網(wǎng)絡(luò)、總相關(guān)懲罰和視覺(jué)—語(yǔ)義跨模態(tài)重構(gòu)組成。框架的視覺(jué)輸入是由預(yù)訓(xùn)練的ResNet101(He等,2016)提取的圖像特征,語(yǔ)義輸入是人工定義的屬性。

    圖3 模型架構(gòu)Fig.3 Model architecture

    3.2 視覺(jué)特征生成

    為了通過(guò)語(yǔ)義信息來(lái)生成視覺(jué)特征,使用條件變分自編碼器(conditional variational auto-encoder,cVAE)(Sohn 等,2015)為不可見(jiàn)類生成相應(yīng)的視覺(jué)特征。cVAE 學(xué)習(xí)數(shù)據(jù)和潛在表示的分布之間的關(guān)系,它由編碼器和解碼器組成。其中,編碼器將特征空間映射到潛在空間,解碼器將潛在空間映射回特征空間,它們分別將類的描述符作為條件。cVAE的目標(biāo)函數(shù)可以表示為

    式中,x表示視覺(jué)特征,a表示語(yǔ)義信息,z表示編碼器生成的潛在變量。式中第1 項(xiàng)為q(z|x,a) 和p(z|a)兩個(gè)分布之間的KL散度,用來(lái)約束編碼器匹配分解后的先驗(yàn)分布,例如高斯分布。第2 項(xiàng)為重構(gòu)特征和原始特征之間的重構(gòu)誤差。

    為了獲得變分下界的可微估計(jì)量,使用一種稱為重參數(shù)化的技巧,具體為

    式中,μ(x)和σ(x)是編碼器的輸出,分別代表后驗(yàn)分布的均值和方差?!驯硎緝蓚€(gè)張量對(duì)應(yīng)元素的乘積,ε~ N(0,I)是一個(gè)服從高斯分布的輔助噪聲變量。

    3.3 解糾纏模塊

    對(duì)于廣義零樣本學(xué)習(xí)的數(shù)據(jù)集來(lái)說(shuō),通過(guò)預(yù)訓(xùn)練的深層模型(如ResNet101)提取的視覺(jué)特征并不完美,因?yàn)橐曈X(jué)特征并不是在所有的維度上都與預(yù)定義屬性在語(yǔ)義上相關(guān)。在這些數(shù)據(jù)集中,類別通常是相關(guān)的(如CUB 數(shù)據(jù)集都對(duì)應(yīng)于鳥(niǎo)類),因此提取的特征可能包含冗余信息。這里將視覺(jué)特征分解成語(yǔ)義一致性特征s和語(yǔ)義無(wú)關(guān)特征n,使用一個(gè)關(guān)系網(wǎng)絡(luò)來(lái)衡量語(yǔ)義一致性。在語(yǔ)義信息中也存在著與特征相關(guān)的信息,將語(yǔ)義信息分解成特征相關(guān)語(yǔ)義h和特征無(wú)關(guān)語(yǔ)義n,使用視覺(jué)特征交叉重構(gòu)來(lái)保證分解的語(yǔ)義和視覺(jué)特征相關(guān)。為了加強(qiáng)分解后兩個(gè)分量的獨(dú)立性,使用總相關(guān)性來(lái)衡量。

    3.4 視覺(jué)—語(yǔ)義跨模態(tài)重構(gòu)

    解糾纏模型使用與cVAE 相同的編碼器—解碼器結(jié)構(gòu),分別對(duì)兩個(gè)解糾纏結(jié)構(gòu)的解碼器輸出特征和編碼器輸入特征計(jì)算重構(gòu)損失。在視覺(jué)和語(yǔ)義兩個(gè)解糾纏中,提出了一個(gè)跨模態(tài)重構(gòu)損失,將視覺(jué)解糾纏的編碼器E1的輸出送入到語(yǔ)義解糾纏的解碼器D2中來(lái)重構(gòu)語(yǔ)義信息,然后將語(yǔ)義解糾纏的編碼器E2的輸出中與特征相關(guān)的分量送入到視覺(jué)解糾纏的解碼器D1中來(lái)重構(gòu)視覺(jué)特征。

    兩個(gè)解糾纏模塊的重構(gòu)損失分別為

    視覺(jué)—語(yǔ)義跨模態(tài)交叉重構(gòu)損失為

    式中,對(duì)于特征解糾纏編碼器輸出s和n中,s是語(yǔ)義一致性特征,n是語(yǔ)義無(wú)關(guān)特征;對(duì)于語(yǔ)義解糾纏編碼器輸出h和n中,h是特征相關(guān)的語(yǔ)義向量,n是特征無(wú)關(guān)的語(yǔ)義向量。

    解糾纏模塊總的重構(gòu)損失為

    式中,使用均方誤差(mean square error,MSE)來(lái)計(jì)算原始視覺(jué)特征和重構(gòu)視覺(jué)特征、原始語(yǔ)義向量和重構(gòu)語(yǔ)義向量之間的重構(gòu)損失。

    3.5 語(yǔ)義一致性特征

    在視覺(jué)解糾纏框架中,采用一個(gè)關(guān)系網(wǎng)絡(luò)(relation network,RN)(Sung 等,2018)作為語(yǔ)義一致性衡量網(wǎng)絡(luò),網(wǎng)絡(luò)結(jié)構(gòu)如圖4 所示,通過(guò)將視覺(jué)特征解糾纏模塊分解的潛在表示s與語(yǔ)義a連接,關(guān)系網(wǎng)絡(luò)將匹配的(s,a)對(duì)和不匹配的(s,a)對(duì)分開(kāi),從而迫使s在語(yǔ)義上相關(guān)。該網(wǎng)絡(luò)最大化潛在表示s和相對(duì)應(yīng)的語(yǔ)義a之間的相容性得分(compatibility score,CS)來(lái)學(xué)習(xí)語(yǔ)義一致性特征s,關(guān)系網(wǎng)絡(luò)學(xué)習(xí)潛在表示s和語(yǔ)義a之間的成對(duì)關(guān)系。RN 的輸入是潛在表示s和對(duì)應(yīng)唯一語(yǔ)義向量a組成的對(duì)。組成的對(duì)如果匹配成功,CS值為1;如果不匹配,CS為0。結(jié)構(gòu)表示為

    圖4 語(yǔ)義一致性衡量網(wǎng)絡(luò)Fig.4 Semantic consistent measurement network

    式中,t和c表示一個(gè)訓(xùn)練批次中第t個(gè)語(yǔ)義一致性表示和第c個(gè)唯一語(yǔ)義向量,y(t)和y(c)表示s(t)和a(c)的類標(biāo)簽。

    利用式(8)中定義的CS,使用帶有sigmoid 激活函數(shù)的關(guān)系網(wǎng)絡(luò)為每一對(duì)(s,a)學(xué)習(xí)一個(gè)0—1的相容性得分,然后使用損失函數(shù)來(lái)優(yōu)化s,具體為

    式中,B為批次大小,N為一個(gè)批次中唯一語(yǔ)義向量的數(shù)量。使用均方誤差來(lái)優(yōu)化該損失,保證視覺(jué)解糾纏分解出語(yǔ)義一致性特征。

    3.6 總相關(guān)懲罰

    為了促進(jìn)視覺(jué)特征和語(yǔ)義信息解糾纏模塊能更好地分離特征和語(yǔ)義,設(shè)計(jì)了一個(gè)總相關(guān)懲罰來(lái)鼓勵(lì)視覺(jué)解糾纏模塊分離出的語(yǔ)義一致性和語(yǔ)義無(wú)關(guān)特征之間的獨(dú)立性,語(yǔ)義解糾纏模塊分離出特征相關(guān)和特征無(wú)關(guān)語(yǔ)義之間的獨(dú)立性。這里使用語(yǔ)義解糾纏來(lái)對(duì)總相關(guān)懲罰進(jìn)行展開(kāi)解釋。對(duì)于語(yǔ)義信息的解糾纏分解出的兩個(gè)分量,可看做是獨(dú)立的,并且來(lái)自不同的條件分布,語(yǔ)義向量的潛在分量的條件分布分別為

    式中,h為語(yǔ)義解糾纏模塊分解出的與特征相關(guān)的語(yǔ)義信息,Φ1為h的條件分布。n為分解出的與特征無(wú)關(guān)的語(yǔ)義信息,Φ2為n的條件分布。a為需要被分解的語(yǔ)義屬性??傁嚓P(guān)性可表示為

    式中,Φ:=Φ(h,n|a)是語(yǔ)義解糾纏中分解出兩個(gè)分量h和n的聯(lián)合條件概率。KL表示KL 散度。為了更好地逼近總相關(guān)性,使用密度比估計(jì)以對(duì)抗的方式區(qū)分兩個(gè)分布中的樣本(Chen 等,2021b),使用一個(gè)鑒別器Dis的輸出估計(jì)獨(dú)立分量的概率,鑒別器模型如圖5 所示,解糾纏編碼器分離出兩個(gè)分量后,再經(jīng)過(guò)隨機(jī)重組排列得到重組后的表示,最后將變換前和變換后的表示輸入到鑒別器中計(jì)算總相關(guān)損失。利用總相關(guān)懲罰來(lái)強(qiáng)調(diào)分解出的兩個(gè)分量之間的獨(dú)立性,這里訓(xùn)練鑒別器以最大限度地將正確標(biāo)簽分配給變換前和變換后的表示。具體為

    圖5 總相關(guān)懲罰鑒別器Fig.5 Total correlation penalty discriminator

    式中,t=[h,n]。鑒別器損失為

    3.7 模型算法

    本文所提VSD-GZSL方法訓(xùn)練算法如下:

    輸入:可見(jiàn)類視覺(jué)特征Xs、語(yǔ)義向量As及其標(biāo)簽Ys。

    輸出:訓(xùn)練好的生成網(wǎng)絡(luò)和解糾纏網(wǎng)絡(luò)。

    4 實(shí) 驗(yàn)

    為了驗(yàn)證本文方法對(duì)廣義零樣本學(xué)習(xí)的圖像分類任務(wù)的有效性,在4 個(gè)公開(kāi)數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn),從參數(shù)分析、消融實(shí)驗(yàn)和方法適應(yīng)性3 個(gè)方面進(jìn)行實(shí)驗(yàn)分析并展示實(shí)驗(yàn)效果。

    4.1 實(shí)驗(yàn)數(shù)據(jù)

    實(shí)驗(yàn)使用4 個(gè)基準(zhǔn)數(shù)據(jù)集評(píng)估所提模型的性能,分別是AwA2(animals with attributes2)(Lampert等,2014)、CUB(caltech-UCSD birds-200-2011)(Wah等,2011)、FLO(Oxford flowers)(Nilsback 和Zisserman,2008)和SUN(SUN attribute)(Patterson 和Hays,2012)。CUB 數(shù)據(jù)集包含200種鳥(niǎo)類,其中,150種是可見(jiàn)類,50種是不可見(jiàn)類,每個(gè)類別有312個(gè)屬性的注釋;AwA2數(shù)據(jù)集常用于動(dòng)物分類,由40個(gè)可見(jiàn)類和10個(gè)不可見(jiàn)類組成,每個(gè)類別都有85個(gè)屬性的注釋;SUN 是一個(gè)大型場(chǎng)景風(fēng)格的數(shù)據(jù)集,包含645 個(gè)可見(jiàn)類和72 個(gè)不可見(jiàn)類,每個(gè)類別有102 個(gè)屬性的注釋;FLO 數(shù)據(jù)集包含102 個(gè)花卉類別,82 個(gè)可見(jiàn)類和20 個(gè)不可見(jiàn)類,注釋屬性有1 024 維。各數(shù)據(jù)集的詳細(xì)信息如表1所示。

    表1 數(shù)據(jù)集統(tǒng)計(jì)Table 1 Statistics of datasets

    4.2 評(píng)估方法

    在廣義零樣本學(xué)習(xí)任務(wù)上,使用調(diào)和平均值評(píng)估精度,它計(jì)算的是可見(jiàn)類與不可見(jiàn)類的聯(lián)合精度,具體為

    式中,U表示在不可見(jiàn)類圖像上每個(gè)類別的平均精度,衡量不可見(jiàn)類樣本的分類能力。S表示在可見(jiàn)類圖像上每個(gè)類別的平均精度,衡量可見(jiàn)類樣本的分類能力。H是調(diào)和平均值,衡量GZSL 任務(wù)的性能。

    4.3 實(shí)驗(yàn)設(shè)置

    按照大部分方法的設(shè)置,首先利用預(yù)訓(xùn)練的ResNet101來(lái)提取維度為2 048的圖像特征。語(yǔ)義特征是由人工注釋的每個(gè)類別的描述。cVAE 和解糾纏模塊的編碼器和解碼器都是由多層感知機(jī)(multilayer perceptron,MLP)組成。在cVAE 中,隱藏層維度為2 048,生成的潛在表示維度為20。解糾纏模塊的隱藏層維度是可以調(diào)節(jié)的參數(shù)。關(guān)系網(wǎng)絡(luò)的隱藏層維度為2 048。鑒別器模塊是帶有sigmoid 激活函數(shù)的單層感知機(jī)。

    所提方法由PyTorch 實(shí)現(xiàn),并采用Adam(Kingma 和Ba,2015)優(yōu)化器進(jìn)行優(yōu)化。學(xué)習(xí)率是一個(gè)可調(diào)節(jié)的超參數(shù),批次大小設(shè)置為64。當(dāng)cVAE和解糾纏訓(xùn)練好后,使用cVAE 中的生成器來(lái)為不可見(jiàn)類生成大量樣本。之后,將可見(jiàn)類的訓(xùn)練特征和不可見(jiàn)類的生成特征送入到視覺(jué)解糾纏模塊中提取語(yǔ)義一致性特征,將語(yǔ)義信息送入語(yǔ)義解糾纏模塊提取特征相關(guān)的語(yǔ)義向量。最后,將分解出來(lái)的語(yǔ)義一致性特征和特征相關(guān)語(yǔ)義信息聯(lián)合共同學(xué)習(xí)一個(gè)廣義零樣本學(xué)習(xí)分類器,然后計(jì)算相應(yīng)的指標(biāo)。分類過(guò)程如圖6所示。

    圖6 分類結(jié)構(gòu)Fig.6 Classifier architecture

    4.4 對(duì)比相關(guān)方法

    為了證明所提方法的有效性,選擇了10 種不同的方法進(jìn)行實(shí)驗(yàn)對(duì)比。對(duì)比方法如下:

    f-CLSWGAN(Xian 等,2018)提出了一種使用GAN 在特征空間上生成數(shù)據(jù),并添加一個(gè)輔助分類器提高生成器性能的方法來(lái)解決零樣本學(xué)習(xí)問(wèn)題,相比于直接生成圖像,該方法能取得更好的性能。

    CANZSL(Chen 等,2020)提出了一個(gè)基于自然語(yǔ)言語(yǔ)義空間的循環(huán)一致性對(duì)抗網(wǎng)絡(luò)。該網(wǎng)絡(luò)使用帶有不相關(guān)詞的自然語(yǔ)言來(lái)生成視覺(jué)特征,而不是使用以往人工注釋的語(yǔ)義信息,然后由語(yǔ)義特征生成器將合成的視覺(jué)特征映射回相應(yīng)的語(yǔ)義空間。

    Cycle-CLSWGAN(Felix 等,2018)提出使用cycle-consistent loss 作為正則化項(xiàng)來(lái)訓(xùn)練GAN,使得生成的視覺(jué)特征能夠重構(gòu)它的原始語(yǔ)義特征,解決了基于生成方法的GZSL 模型中存在從語(yǔ)義到視覺(jué)特征的生成過(guò)程沒(méi)有約束的問(wèn)題。

    FREE(Chen 等,2021a)提出一種自適應(yīng)邊緣中心損失,與語(yǔ)義循環(huán)一致性損失相結(jié)合,對(duì)視覺(jué)特征進(jìn)行細(xì)化,減輕了ImageNet和GZSL基準(zhǔn)數(shù)據(jù)集之間的跨數(shù)據(jù)集偏差。

    LisGAN(leveraging invariant side GAN)(Li 等,2019)提出在GAN 生成器中引入靈魂樣本正則化方法來(lái)解決視覺(jué)對(duì)象的多視圖質(zhì)量問(wèn)題,并在分類階段提出使用級(jí)聯(lián)分類器來(lái)微調(diào)精度。

    CADA-VAE(Sch?nfeld 等,2019)使用VAE 對(duì)視覺(jué)特征和類別描述進(jìn)行編碼解碼,對(duì)這兩個(gè)模態(tài)進(jìn)行對(duì)齊,在隱空間中使用這兩個(gè)模態(tài)共同構(gòu)建分類器。

    f-VAEGAN-D2(Xian 等,2019)提出了一個(gè)直推式特征生成網(wǎng)絡(luò),使用VAE 與WGAN 結(jié)合進(jìn)行信息互補(bǔ)來(lái)生成更魯棒的特征,額外使用一個(gè)非條件的鑒別器來(lái)學(xué)習(xí)不可見(jiàn)類的流形。

    SDGZSL(Chen 等,2021b)指出現(xiàn)有方法使用的可視化特征會(huì)包含與語(yǔ)義無(wú)關(guān)的冗余信息,并提出了一個(gè)解糾纏自編碼器的結(jié)構(gòu),提取出視覺(jué)特征中語(yǔ)義相關(guān)的特征。

    TDCSS(task-correlated disentanglement and controllable samples synthesis)(Feng 等,2022)指出目前的方法仍然存在特征混淆和分布不確定的問(wèn)題,并提出了任務(wù)相關(guān)特征解糾纏和可控偽樣本合成兩個(gè)模塊來(lái)解決這兩個(gè)問(wèn)題。

    Disentangled-VAE(Li等,2021)指出在可視化特征中不可避免地包含與識(shí)別分類無(wú)關(guān)的信息,給性能帶來(lái)負(fù)面影響,因此提出了一種基于潛在特征批量重組策略的解糾纏方法來(lái)分離出類別相關(guān)和類別無(wú)關(guān)的因素。

    4.5 實(shí)驗(yàn)結(jié)果

    在4 個(gè)公開(kāi)數(shù)據(jù)集上與Baseline 和其他10 種方法進(jìn)行多次實(shí)驗(yàn)對(duì)比。表2 展示了VSD-GZSL 與其他相關(guān)方法之間的對(duì)比實(shí)驗(yàn)結(jié)果。除了FLO數(shù)據(jù)集外,所提方法都優(yōu)于對(duì)比方法,并且在4 個(gè)數(shù)據(jù)集上比Baseline方法結(jié)果更好。

    表2 不同方法在4個(gè)數(shù)據(jù)集上的結(jié)果對(duì)比Table 2 Comparison of results of different methods on four datasets/%

    VSD-GZSL 相對(duì)于CANZSL(Chen 等,2020)在數(shù)據(jù)集AwA2 上的U、S和H分別提高了17.6%、3.6%和12.2%,在CUB 上的U、S和H分別提高了7.4%、3% 和5.6%,在SUN 上 的U、S和H分別提高了11.5%、5.2%和7.5%,在FLO 上的U、S和H分別提高了1.5%、10.8%和4.8%。因?yàn)镃ANZSL 并沒(méi)有將視覺(jué)特征中存在的語(yǔ)義無(wú)關(guān)特征進(jìn)行分離,這會(huì)產(chǎn)生語(yǔ)義偏見(jiàn),并且在分類時(shí)該方法使用一個(gè)k-最近鄰算法進(jìn)行分類,這也忽略了語(yǔ)義信息對(duì)分類結(jié)果的影響。因此VSD-GZSL 方法比之性能更好。

    相對(duì)參照的Baseline 方法,所提方法VSD-GZSL在AwA2 數(shù)據(jù)集上,U、S、H分別提高了2.7%、0.2%和1.6%,在CUB 上,U、S、H分別提高了3.8%、2.4%和3.2%,在SUN 上,U、S、H分別提高了10.1%、4.1%和6.2%,在FLO 上,S和H分別提高了9.1%和1.5%。由于Baseline 只考慮對(duì)視覺(jué)特征的解糾纏,忽略了在語(yǔ)義信息中與分類特征相關(guān)的信息,而VSD-GZSL 正是發(fā)現(xiàn)了這個(gè)問(wèn)題并解決了這個(gè)不足,從而提高了Baseline的性能。

    從實(shí)驗(yàn)結(jié)果看,所提的視覺(jué)—語(yǔ)義解糾纏方法可以學(xué)習(xí)到視覺(jué)空間中語(yǔ)義一致性特征和語(yǔ)義空間中特征相關(guān)的語(yǔ)義,并且能夠提高廣義零樣本學(xué)習(xí)分類性能,由此結(jié)果可以驗(yàn)證所提方法的有效性。

    4.6 實(shí)驗(yàn)分析

    本文從參數(shù)分析、消融實(shí)驗(yàn)和方法適用性3 個(gè)方面對(duì)提出的方法進(jìn)行實(shí)驗(yàn)分析。

    4.6.1 參數(shù)分析

    為了討論參數(shù)對(duì)解糾纏模塊的影響,選擇在AwA2 數(shù)據(jù)集上對(duì)解糾纏模塊中關(guān)系網(wǎng)絡(luò)損失Ls的權(quán)重λ1、總相關(guān)懲罰損失TC的權(quán)重λ2和鑒別器損失Ldis的權(quán)重λ3,設(shè)置不同的值進(jìn)行多次實(shí)驗(yàn)。圖7 展示了3 個(gè)參數(shù)對(duì)廣義零樣本學(xué)習(xí)性能的影響。圖7(a)是固定其他兩個(gè)參數(shù)為λ2=1.0,λ3=0.5的情況下,關(guān)系網(wǎng)絡(luò)權(quán)重λ1對(duì)廣義零樣本學(xué)習(xí)性能影響圖,可見(jiàn),在λ1=0.7 時(shí)性能最好。圖7(b)為固定λ1=0.7,λ3=0.5 的情況下,總相關(guān)懲罰的權(quán)重λ2對(duì)廣義零樣本學(xué)習(xí)性能影響圖,可見(jiàn),在λ2=0.9時(shí)性能最好。圖7(c)為固定λ1=0.7,λ2=0.9的情況下,鑒別器損失的權(quán)重λ3的值對(duì)GZSL 性能影響圖,可見(jiàn),在λ3=0.5時(shí)性能最好。綜合這3組參數(shù)分析實(shí)驗(yàn),找到了在AwA2 數(shù)據(jù)集上3個(gè)參數(shù)最優(yōu)的組合。即當(dāng)λ1=0.7,λ2=0.9,λ3=0.5的情況下,廣義零樣本學(xué)習(xí)性能達(dá)到了最優(yōu),調(diào)和平均值超過(guò)了所有對(duì)比方法。

    圖7 參數(shù)分析Fig.7 Parameters analysis((a)relation network weight λ1;(b)TC weight λ2;(c)discriminator weight λ3)

    4.6.2 消融實(shí)驗(yàn)

    為了驗(yàn)證視覺(jué)特征和語(yǔ)義信息聯(lián)合分類、語(yǔ)義解糾纏和跨模態(tài)重構(gòu)的有效性,分別在4 個(gè)數(shù)據(jù)集上進(jìn)行消融實(shí)驗(yàn),結(jié)果如表3所示。

    表3 消融實(shí)驗(yàn)Table 3 Ablation experiments/%

    第1 個(gè)消融實(shí)驗(yàn)(+Attribute)是在Baseline 中將分離的語(yǔ)義一致性特征和未分離的語(yǔ)義信息聯(lián)合學(xué)習(xí)一個(gè)分類器得到的結(jié)果,在CUB 和SUN 上的調(diào)和平均值H都得到了提升,AwA2 和FLO 上的S指標(biāo)都得到提升,調(diào)和平均值也取得了相當(dāng)?shù)慕Y(jié)果,這表示加入語(yǔ)義信息進(jìn)行聯(lián)合學(xué)習(xí)對(duì)分類有著很大的作用。

    第2 個(gè)消融實(shí)驗(yàn)(+Attribute Disentangle)是在Baseline中只添加語(yǔ)義解糾纏模塊,這只是單純地分離出兩個(gè)獨(dú)立的語(yǔ)義分量,并沒(méi)有對(duì)分離出的分量施加約束。可以發(fā)現(xiàn)在SUN 數(shù)據(jù)集上性能得到了提升,但是在其他數(shù)據(jù)集上效果變差,這是因?yàn)闆](méi)有對(duì)分解出的語(yǔ)義信息施加約束。

    第3 個(gè)消融實(shí)驗(yàn)(+Attribute Disentangle+Cross Model Loss)在加入語(yǔ)義解糾纏模塊后的基礎(chǔ)上再添加跨模態(tài)重構(gòu)損失,即本文方法??梢钥闯觯? 個(gè)數(shù)據(jù)集上幾乎所有評(píng)估指標(biāo)都取得了顯著提升,因?yàn)樘砑拥膿p失會(huì)對(duì)語(yǔ)義解糾纏模塊進(jìn)行指導(dǎo),約束語(yǔ)義解糾纏模塊分離出特征相關(guān)和特征不相關(guān)的兩個(gè)獨(dú)立分量,有了豐富的特征相關(guān)的語(yǔ)義向量后,將語(yǔ)義一致性特征和特征相關(guān)的語(yǔ)義信息聯(lián)合學(xué)習(xí)廣義零樣本學(xué)習(xí)分類器。

    消融實(shí)驗(yàn)進(jìn)一步證實(shí)所提方法能夠提高Baseline 在多個(gè)數(shù)據(jù)集上的性能,并且優(yōu)于大多數(shù)相關(guān)方法的性能,更加充分證明了方法的有效性。

    4.6.3 方法適用性

    為了驗(yàn)證所提方法的適用性,在CUB 數(shù)據(jù)集上使用3 種不同backbone 提取的視覺(jué)特征進(jìn)行實(shí)驗(yàn)對(duì)比,分別為GoogLeNet(Szegedy 等,2015)、VGG16(Simonyan 和Zisserman,2014)和ViT(vision Transformer)(Dosovitskiy等,2021),實(shí)驗(yàn)結(jié)果如表4所示??梢钥闯?,所提方法在3 個(gè)不同backbone 下的實(shí)驗(yàn)結(jié)果均比baseline更好,進(jìn)一步證明了所提方法的適用性。

    表4 在CUB數(shù)據(jù)集上不同backbone下的方法結(jié)果對(duì)比Table 4 Comparison of method results of different backbone on CUB dataset/%

    5 結(jié)論

    在使用解糾纏表示的零樣本學(xué)習(xí)方法中忽略了語(yǔ)義信息,對(duì)此本文提出了視覺(jué)—語(yǔ)義雙重解糾纏的廣義零樣本學(xué)習(xí)分類方法。具體而言,從視覺(jué)特征中分解出語(yǔ)義一致性特征和語(yǔ)義無(wú)關(guān)特征,從人工注釋的類別描述(語(yǔ)義屬性)中進(jìn)一步分解出特征相關(guān)和特征無(wú)關(guān)的語(yǔ)義信息。本文設(shè)計(jì)了一個(gè)總相關(guān)懲罰來(lái)鼓勵(lì)兩個(gè)解糾纏框架分離出來(lái)的潛在變量之間的獨(dú)立性,采用關(guān)系網(wǎng)絡(luò)來(lái)衡量分解出視覺(jué)特征的語(yǔ)義一致性,并設(shè)計(jì)了一個(gè)跨模態(tài)交叉重構(gòu)的方式保證分解出來(lái)的語(yǔ)義信息與特征相關(guān)。最后,將分解出來(lái)的特征相關(guān)語(yǔ)義分量和語(yǔ)義一致性視覺(jué)特征分量相結(jié)合,訓(xùn)練一個(gè)分類器進(jìn)行廣義零樣本學(xué)習(xí)分類。將解糾纏模塊與條件變分自編碼器結(jié)合,以端到端的方式進(jìn)行訓(xùn)練。在4 個(gè)公開(kāi)數(shù)據(jù)集上對(duì)所提方法進(jìn)行評(píng)估,大量實(shí)驗(yàn)證明,本文方法取得了比基準(zhǔn)模型更好的效果,并優(yōu)于大多相關(guān)方法。

    相比于同類型的方法,本文方法的效果得到了明顯提升,然而其性能受限于預(yù)訓(xùn)練神經(jīng)網(wǎng)絡(luò)提取的視覺(jué)特征的好壞,這是因?yàn)椴煌纳疃饶P吞崛∫曈X(jué)特征的能力和質(zhì)量也不一樣。并且所提方法是在特征表示層面上進(jìn)行的,如何在圖像級(jí)別上通過(guò)注意力機(jī)制來(lái)挖掘圖像和語(yǔ)義之間的一致性是一個(gè)有意義的研究方向。此外,現(xiàn)有方法的性能和人工注釋的語(yǔ)義信息緊密相關(guān),這種強(qiáng)先驗(yàn)的外部知識(shí)在現(xiàn)實(shí)場(chǎng)景中很難獲取,如何突破這種外部語(yǔ)義知識(shí)的制約,只利用可見(jiàn)類圖像訓(xùn)練模型來(lái)對(duì)不可見(jiàn)類圖像進(jìn)行識(shí)別是一個(gè)重要的研究方向。未來(lái),將利用Transformer挖掘圖像和語(yǔ)義之間的多模態(tài)關(guān)系來(lái)進(jìn)行零樣本識(shí)別任務(wù)。

    猜你喜歡
    編碼器一致性重構(gòu)
    關(guān)注減污降碳協(xié)同的一致性和整體性
    公民與法治(2022年5期)2022-07-29 00:47:28
    長(zhǎng)城敘事的重構(gòu)
    攝影世界(2022年1期)2022-01-21 10:50:14
    注重教、學(xué)、評(píng)一致性 提高一輪復(fù)習(xí)效率
    IOl-master 700和Pentacam測(cè)量Kappa角一致性分析
    北方大陸 重構(gòu)未來(lái)
    基于FPGA的同步機(jī)軸角編碼器
    北京的重構(gòu)與再造
    商周刊(2017年6期)2017-08-22 03:42:36
    基于PRBS檢測(cè)的8B/IOB編碼器設(shè)計(jì)
    論中止行為及其對(duì)中止犯的重構(gòu)
    JESD204B接口協(xié)議中的8B10B編碼器設(shè)計(jì)
    電子器件(2015年5期)2015-12-29 08:42:24
    久久鲁丝午夜福利片| 免费不卡的大黄色大毛片视频在线观看 | 精品一区在线观看国产| 夜夜看夜夜爽夜夜摸| 久久亚洲国产成人精品v| 国产在视频线在精品| 中文乱码字字幕精品一区二区三区 | 欧美三级亚洲精品| 日韩电影二区| 亚洲久久久久久中文字幕| 男插女下体视频免费在线播放| 日本av手机在线免费观看| 国产欧美另类精品又又久久亚洲欧美| 亚洲精品日韩在线中文字幕| 在线天堂最新版资源| 精品少妇黑人巨大在线播放| 成年av动漫网址| 韩国高清视频一区二区三区| 大香蕉97超碰在线| 亚洲18禁久久av| 街头女战士在线观看网站| 精品少妇黑人巨大在线播放| av专区在线播放| 高清在线视频一区二区三区| 亚洲成人一二三区av| 久久精品国产亚洲网站| 高清欧美精品videossex| 色播亚洲综合网| 久久久精品欧美日韩精品| 久久人人爽人人爽人人片va| 日韩中字成人| 亚洲av中文av极速乱| 插逼视频在线观看| 欧美+日韩+精品| 亚洲三级黄色毛片| av黄色大香蕉| 直男gayav资源| 91精品国产九色| 超碰97精品在线观看| 毛片女人毛片| 午夜福利视频精品| 欧美激情在线99| 嫩草影院精品99| 成人特级av手机在线观看| 久久久成人免费电影| 国产高潮美女av| 一个人看的www免费观看视频| 久久久久免费精品人妻一区二区| 成年女人在线观看亚洲视频 | 久久鲁丝午夜福利片| 亚洲精品日本国产第一区| 51国产日韩欧美| 一级黄片播放器| 免费看日本二区| 精品久久久久久成人av| 在线观看人妻少妇| 午夜视频国产福利| 内射极品少妇av片p| 天天一区二区日本电影三级| 白带黄色成豆腐渣| 纵有疾风起免费观看全集完整版 | 日韩伦理黄色片| 七月丁香在线播放| 天堂√8在线中文| 国产精品爽爽va在线观看网站| 欧美激情在线99| 国语对白做爰xxxⅹ性视频网站| 能在线免费看毛片的网站| 高清欧美精品videossex| videossex国产| 亚洲va在线va天堂va国产| 婷婷色综合www| 三级毛片av免费| 免费黄网站久久成人精品| 中文字幕免费在线视频6| 免费少妇av软件| av专区在线播放| 内射极品少妇av片p| 免费观看在线日韩| 国产亚洲5aaaaa淫片| 美女主播在线视频| 亚洲18禁久久av| 久久综合国产亚洲精品| 亚洲aⅴ乱码一区二区在线播放| 性色avwww在线观看| 日韩 亚洲 欧美在线| 久久久久久久大尺度免费视频| 一级爰片在线观看| 久久久久免费精品人妻一区二区| 免费不卡的大黄色大毛片视频在线观看 | 欧美激情在线99| 亚洲精品日本国产第一区| 天堂俺去俺来也www色官网 | 国产精品不卡视频一区二区| 欧美激情久久久久久爽电影| av网站免费在线观看视频 | 女人十人毛片免费观看3o分钟| 一区二区三区免费毛片| 久久午夜福利片| 成人av在线播放网站| 欧美3d第一页| 亚洲人成网站在线播| 午夜久久久久精精品| 国产成人午夜福利电影在线观看| 国产精品1区2区在线观看.| 免费看a级黄色片| 一级毛片 在线播放| 国产精品人妻久久久影院| 最近中文字幕高清免费大全6| 国产精品美女特级片免费视频播放器| 干丝袜人妻中文字幕| 精品久久久噜噜| 国产精品99久久久久久久久| 寂寞人妻少妇视频99o| 日产精品乱码卡一卡2卡三| 亚洲国产精品专区欧美| 成人漫画全彩无遮挡| 好男人在线观看高清免费视频| 又爽又黄无遮挡网站| 尤物成人国产欧美一区二区三区| 一级毛片aaaaaa免费看小| 在线a可以看的网站| 日韩一本色道免费dvd| 亚洲成人中文字幕在线播放| 国产黄a三级三级三级人| 欧美性感艳星| 成人无遮挡网站| 亚洲精品成人av观看孕妇| 成人亚洲精品av一区二区| 秋霞伦理黄片| 亚洲色图av天堂| 蜜臀久久99精品久久宅男| 国产av不卡久久| videossex国产| 免费看av在线观看网站| 国产乱人偷精品视频| 午夜免费观看性视频| 看十八女毛片水多多多| 久久久午夜欧美精品| 免费av毛片视频| 淫秽高清视频在线观看| 午夜精品在线福利| 免费黄网站久久成人精品| 人妻一区二区av| 亚洲欧美精品自产自拍| 日韩不卡一区二区三区视频在线| 麻豆国产97在线/欧美| 高清日韩中文字幕在线| 亚洲精品成人久久久久久| 最近最新中文字幕免费大全7| 亚洲国产精品专区欧美| 欧美一区二区亚洲| 国产亚洲精品久久久com| 极品教师在线视频| 午夜精品一区二区三区免费看| 久久鲁丝午夜福利片| 久久久午夜欧美精品| 天堂√8在线中文| 一区二区三区免费毛片| 国产精品伦人一区二区| 国产探花在线观看一区二区| 免费大片黄手机在线观看| 两个人的视频大全免费| 高清日韩中文字幕在线| 搡老妇女老女人老熟妇| 久久精品国产亚洲网站| 国产在视频线在精品| 九草在线视频观看| 亚洲精品自拍成人| 色综合站精品国产| 亚洲av免费高清在线观看| videos熟女内射| 精品酒店卫生间| 日产精品乱码卡一卡2卡三| 国产亚洲午夜精品一区二区久久 | 日韩欧美精品免费久久| 亚洲人成网站在线播| 亚洲人成网站在线观看播放| 国内精品美女久久久久久| 中文精品一卡2卡3卡4更新| 免费看美女性在线毛片视频| 毛片女人毛片| 国产大屁股一区二区在线视频| 日韩,欧美,国产一区二区三区| 亚洲欧美一区二区三区黑人 | 男的添女的下面高潮视频| 国产伦精品一区二区三区视频9| av在线天堂中文字幕| 久99久视频精品免费| 国产色爽女视频免费观看| 国产黄片美女视频| 97人妻精品一区二区三区麻豆| 国产精品精品国产色婷婷| 国产淫片久久久久久久久| 成人美女网站在线观看视频| av天堂中文字幕网| 亚洲怡红院男人天堂| 一区二区三区四区激情视频| 深爱激情五月婷婷| 国内精品宾馆在线| 久久精品国产鲁丝片午夜精品| 久久久久免费精品人妻一区二区| 国产av在哪里看| 久久久精品94久久精品| 久久久久性生活片| 欧美变态另类bdsm刘玥| 大话2 男鬼变身卡| 免费播放大片免费观看视频在线观看| 久久99热这里只频精品6学生| 男人和女人高潮做爰伦理| 成年av动漫网址| 国产伦理片在线播放av一区| 亚洲精品日韩在线中文字幕| a级毛片免费高清观看在线播放| 欧美日韩国产mv在线观看视频 | 黑人高潮一二区| 国产精品久久久久久av不卡| 内地一区二区视频在线| 欧美+日韩+精品| av在线观看视频网站免费| 国产精品人妻久久久影院| 亚洲四区av| 精品人妻一区二区三区麻豆| 日日摸夜夜添夜夜添av毛片| 中文字幕av成人在线电影| 又粗又硬又长又爽又黄的视频| 亚洲国产最新在线播放| 日韩欧美国产在线观看| 成人亚洲欧美一区二区av| 成人国产麻豆网| 搡老妇女老女人老熟妇| 男人狂女人下面高潮的视频| 日韩,欧美,国产一区二区三区| 国产不卡一卡二| 毛片一级片免费看久久久久| 国产91av在线免费观看| 久久久欧美国产精品| 午夜福利在线在线| 青春草亚洲视频在线观看| 亚洲欧美一区二区三区国产| 免费观看精品视频网站| 男的添女的下面高潮视频| 男女边吃奶边做爰视频| 五月天丁香电影| 啦啦啦韩国在线观看视频| 欧美xxⅹ黑人| av又黄又爽大尺度在线免费看| 69av精品久久久久久| 啦啦啦啦在线视频资源| 欧美变态另类bdsm刘玥| 亚洲激情五月婷婷啪啪| 亚洲熟妇中文字幕五十中出| 免费观看的影片在线观看| 久久久a久久爽久久v久久| 欧美最新免费一区二区三区| 久久久久久伊人网av| 欧美zozozo另类| 国产精品蜜桃在线观看| 伊人久久精品亚洲午夜| 国产 一区精品| 观看美女的网站| 欧美日韩亚洲高清精品| 黄色一级大片看看| 亚洲综合色惰| 老司机影院成人| 久久久久久久久中文| 日本与韩国留学比较| 一级二级三级毛片免费看| 欧美极品一区二区三区四区| 看十八女毛片水多多多| 久久久久久伊人网av| 欧美成人一区二区免费高清观看| 免费看日本二区| 国产白丝娇喘喷水9色精品| 亚洲乱码一区二区免费版| 在线观看免费高清a一片| 国产乱人偷精品视频| 熟女电影av网| 日韩大片免费观看网站| 午夜精品在线福利| 小蜜桃在线观看免费完整版高清| 亚洲精品视频女| 国产精品爽爽va在线观看网站| 啦啦啦啦在线视频资源| 中文字幕av在线有码专区| av在线观看视频网站免费| 一个人免费在线观看电影| 色尼玛亚洲综合影院| 夫妻性生交免费视频一级片| 色吧在线观看| 在线 av 中文字幕| 赤兔流量卡办理| 国产极品天堂在线| 国产黄a三级三级三级人| 久久精品国产亚洲网站| 国产亚洲精品av在线| 日本与韩国留学比较| 欧美性猛交╳xxx乱大交人| 成年免费大片在线观看| 99re6热这里在线精品视频| 99久久精品热视频| 狂野欧美白嫩少妇大欣赏| 国内精品一区二区在线观看| 爱豆传媒免费全集在线观看| 国内精品宾馆在线| 日韩欧美国产在线观看| 夜夜看夜夜爽夜夜摸| 亚洲最大成人av| 高清毛片免费看| 亚洲电影在线观看av| 国产成人福利小说| 国产精品国产三级国产专区5o| 麻豆成人av视频| 亚洲av成人精品一二三区| 国内精品宾馆在线| 久久久久久久久久成人| 久久久成人免费电影| 在线免费十八禁| 久久久欧美国产精品| 日本色播在线视频| 亚洲婷婷狠狠爱综合网| 成人欧美大片| 国产一区二区三区av在线| 少妇猛男粗大的猛烈进出视频 | 久久久久久久大尺度免费视频| 人体艺术视频欧美日本| 精品一区在线观看国产| 18禁动态无遮挡网站| 精品一区二区三卡| 三级国产精品欧美在线观看| 免费看美女性在线毛片视频| 成人亚洲精品av一区二区| 99视频精品全部免费 在线| 国产成年人精品一区二区| 成年人午夜在线观看视频 | 夫妻性生交免费视频一级片| 国产av不卡久久| 国产单亲对白刺激| 欧美激情久久久久久爽电影| 一级片'在线观看视频| 麻豆精品久久久久久蜜桃| 白带黄色成豆腐渣| 亚州av有码| 精品人妻熟女av久视频| 精品少妇黑人巨大在线播放| 久久精品夜夜夜夜夜久久蜜豆| 国产片特级美女逼逼视频| av在线亚洲专区| 99久久精品热视频| 久久人人爽人人片av| .国产精品久久| 又粗又硬又长又爽又黄的视频| 女人被狂操c到高潮| 精品国产露脸久久av麻豆 | 国产中年淑女户外野战色| www.av在线官网国产| av又黄又爽大尺度在线免费看| 麻豆乱淫一区二区| 大陆偷拍与自拍| 亚洲av电影在线观看一区二区三区 | 日本av手机在线免费观看| 成人美女网站在线观看视频| 亚洲真实伦在线观看| 国产成人a∨麻豆精品| 国产伦精品一区二区三区四那| 久久精品夜夜夜夜夜久久蜜豆| 成人av在线播放网站| 九草在线视频观看| 黑人高潮一二区| 干丝袜人妻中文字幕| 精品熟女少妇av免费看| av一本久久久久| 极品教师在线视频| .国产精品久久| 色哟哟·www| 成年av动漫网址| 国产精品一区二区性色av| 国产黄色小视频在线观看| 丝袜喷水一区| 少妇人妻一区二区三区视频| 亚洲四区av| 伦理电影大哥的女人| 少妇的逼好多水| 别揉我奶头 嗯啊视频| 久久精品人妻少妇| 激情 狠狠 欧美| videos熟女内射| 日韩欧美精品v在线| 麻豆成人午夜福利视频| 黄色配什么色好看| 亚洲精品乱久久久久久| 天堂俺去俺来也www色官网 | 日韩制服骚丝袜av| a级毛色黄片| 身体一侧抽搐| 国产精品久久久久久av不卡| 人人妻人人看人人澡| 国产 亚洲一区二区三区 | 乱系列少妇在线播放| 久久久久久久久久久免费av| 夫妻午夜视频| 欧美高清性xxxxhd video| 久久久午夜欧美精品| 大片免费播放器 马上看| 麻豆成人av视频| 一级片'在线观看视频| 熟妇人妻不卡中文字幕| 亚洲av中文av极速乱| 日本一二三区视频观看| 少妇高潮的动态图| 日韩av免费高清视频| 高清毛片免费看| 国产av在哪里看| 一本一本综合久久| 国产毛片a区久久久久| 丰满乱子伦码专区| videos熟女内射| 日本午夜av视频| 免费在线观看成人毛片| 日本-黄色视频高清免费观看| 日本爱情动作片www.在线观看| 天堂av国产一区二区熟女人妻| 亚洲欧美成人综合另类久久久| 三级国产精品片| 成人毛片60女人毛片免费| 免费观看无遮挡的男女| 日韩在线高清观看一区二区三区| 日韩欧美三级三区| 国产v大片淫在线免费观看| 国产精品综合久久久久久久免费| 美女内射精品一级片tv| 国产伦一二天堂av在线观看| 日韩av免费高清视频| 中文在线观看免费www的网站| 亚洲熟女精品中文字幕| 国产精品久久久久久精品电影小说 | 亚洲综合色惰| 99久国产av精品| 男人舔奶头视频| 人妻少妇偷人精品九色| 成年女人看的毛片在线观看| 一个人观看的视频www高清免费观看| 免费看不卡的av| 亚洲熟妇中文字幕五十中出| 精品久久久久久久久久久久久| 3wmmmm亚洲av在线观看| 久久久久性生活片| 91久久精品电影网| 一区二区三区乱码不卡18| 少妇高潮的动态图| 国产综合精华液| av专区在线播放| 亚洲伊人久久精品综合| 青春草国产在线视频| 中文天堂在线官网| 久久国内精品自在自线图片| av福利片在线观看| 一二三四中文在线观看免费高清| 97超碰精品成人国产| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 精品久久久久久成人av| 天堂av国产一区二区熟女人妻| 日本午夜av视频| 久99久视频精品免费| 永久网站在线| 国语对白做爰xxxⅹ性视频网站| 伦理电影大哥的女人| 搡老妇女老女人老熟妇| 亚洲无线观看免费| 一级a做视频免费观看| 男女那种视频在线观看| 精品一区二区免费观看| 亚洲精品国产av蜜桃| av在线观看视频网站免费| 国产精品美女特级片免费视频播放器| 全区人妻精品视频| videossex国产| 国产黄片美女视频| 久久6这里有精品| 久久久久久久久久成人| 亚洲欧洲日产国产| 成人综合一区亚洲| 黑人高潮一二区| 国产色爽女视频免费观看| 免费av毛片视频| 亚洲不卡免费看| 亚洲欧洲国产日韩| 久久草成人影院| av播播在线观看一区| 麻豆精品久久久久久蜜桃| 国产乱人视频| 成人av在线播放网站| 国产女主播在线喷水免费视频网站 | 97精品久久久久久久久久精品| ponron亚洲| 人妻少妇偷人精品九色| 国产成人精品久久久久久| 69av精品久久久久久| 久久鲁丝午夜福利片| 观看美女的网站| 十八禁网站网址无遮挡 | 亚洲欧美中文字幕日韩二区| 国产成人精品久久久久久| 大香蕉97超碰在线| 天堂中文最新版在线下载 | 亚洲av一区综合| 亚洲精华国产精华液的使用体验| 国产成人福利小说| 日韩电影二区| 日韩av免费高清视频| 久久这里有精品视频免费| 精品久久国产蜜桃| 精品久久久久久久人妻蜜臀av| 亚洲国产欧美人成| 午夜视频国产福利| 中国国产av一级| 尾随美女入室| 青青草视频在线视频观看| 亚洲国产日韩欧美精品在线观看| 国产精品爽爽va在线观看网站| 国产又色又爽无遮挡免| 亚洲最大成人av| 欧美日本视频| 欧美性感艳星| 欧美人与善性xxx| 嫩草影院新地址| 久久精品国产亚洲av涩爱| 日日干狠狠操夜夜爽| 内射极品少妇av片p| 嫩草影院新地址| 精品酒店卫生间| 日韩欧美国产在线观看| 亚洲精品国产av蜜桃| 亚洲熟女精品中文字幕| 欧美丝袜亚洲另类| 久久精品人妻少妇| 久久人人爽人人片av| 2021天堂中文幕一二区在线观| 麻豆精品久久久久久蜜桃| 国产精品福利在线免费观看| 又爽又黄无遮挡网站| 亚洲精品日韩av片在线观看| 极品教师在线视频| 看非洲黑人一级黄片| 亚洲精品国产av蜜桃| 久久这里只有精品中国| 天堂影院成人在线观看| 国产一区亚洲一区在线观看| 国产成人精品一,二区| 亚洲内射少妇av| 联通29元200g的流量卡| 综合色av麻豆| 特级一级黄色大片| 免费观看无遮挡的男女| 色综合色国产| 男女视频在线观看网站免费| 插逼视频在线观看| 在现免费观看毛片| 亚洲精品自拍成人| 干丝袜人妻中文字幕| 成人国产麻豆网| 久久久久久久亚洲中文字幕| 国产黄a三级三级三级人| 免费av观看视频| 嫩草影院精品99| 日本熟妇午夜| 国产精品久久视频播放| 国产免费一级a男人的天堂| 国产中年淑女户外野战色| 街头女战士在线观看网站| 亚洲精品456在线播放app| 婷婷色综合大香蕉| 欧美成人午夜免费资源| 国产成人91sexporn| 欧美97在线视频| 精品一区在线观看国产| 91狼人影院| 日本爱情动作片www.在线观看| 久久久久久久久久久免费av| 一本久久精品| 人妻夜夜爽99麻豆av| 国产成人aa在线观看| 久久99精品国语久久久| 特大巨黑吊av在线直播| 亚洲av成人精品一二三区| 国产成人a区在线观看| 国产精品日韩av在线免费观看| 特级一级黄色大片| 18禁在线无遮挡免费观看视频| 精品熟女少妇av免费看| 欧美xxxx性猛交bbbb| 亚洲熟女精品中文字幕| 精品久久久久久久久久久久久| 日韩av免费高清视频| 尾随美女入室| av卡一久久| 你懂的网址亚洲精品在线观看| 国产精品一区www在线观看| 国产亚洲5aaaaa淫片| 特大巨黑吊av在线直播| 丰满人妻一区二区三区视频av| 国产欧美日韩精品一区二区| 噜噜噜噜噜久久久久久91| 国产毛片a区久久久久| 男插女下体视频免费在线播放| 免费黄网站久久成人精品| 草草在线视频免费看| 可以在线观看毛片的网站| 亚洲av电影在线观看一区二区三区 | 日韩亚洲欧美综合| 只有这里有精品99| 中文字幕制服av| 日韩大片免费观看网站| 亚洲精华国产精华液的使用体验| 国产av国产精品国产|