• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于MoblieNet v2的圖像語義分割網(wǎng)絡(luò)

    2022-02-14 05:41:36王改華翟乾宇曹清程
    關(guān)鍵詞:類別注意力卷積

    王改華, 翟乾宇, 曹清程, 甘 鑫

    (1.湖北工業(yè)大學(xué) 電氣與電子工程學(xué)院, 湖北 武漢 430068; 2.湖北工業(yè)大學(xué) 太陽能高效利用協(xié)同創(chuàng)新中心, 湖北 武漢 430068)

    0 引言

    語義分割是計(jì)算機(jī)視覺中最基礎(chǔ)的任務(wù),其目標(biāo)是解析圖像中每個(gè)像素的類別,并以不同的顏色標(biāo)記.語義分割可以廣泛應(yīng)用于自動(dòng)駕駛[1]、醫(yī)療圖像診斷[2]、遙感圖像分析[3]等領(lǐng)域.

    早期,研究者采用邊緣檢測(cè)[4]的方法,希望通過觀察相鄰像素的依賴關(guān)系來分割圖像,但是在大數(shù)據(jù)集上并沒有取得較好的效果.近年來, FCN[5](Fully Convolutional Neural Network)的出現(xiàn)開創(chuàng)了使用卷積神經(jīng)網(wǎng)絡(luò)對(duì)圖像進(jìn)行分割的先河.但是由于卷積算子和網(wǎng)絡(luò)結(jié)構(gòu)的局限性,其分割效果并不理想.為了解決這些問題,不同的研究者提出了不同的解決方案.這些方法包括:

    (1)融合多尺度的空間信息方法.例如:PSPNet[6],DeepLab系列[7,8],LedNet[9]等網(wǎng)絡(luò),利用不同尺度的池化層或空洞卷積構(gòu)成空間池化金字塔獲得不同尺度的上下文信息.

    (2)增加注意力機(jī)制的方法.例如: DFNet[10],EncNet[11]等網(wǎng)絡(luò)受SENet[12]啟發(fā),通過給網(wǎng)絡(luò)的每個(gè)通道增加自適應(yīng)的權(quán)值來使網(wǎng)絡(luò)更加關(guān)注通道維度的信息.DANet[13],TANet[14]通過并行的位置和通道注意力模塊,自動(dòng)提取位置和通道維度的信息,希望解決網(wǎng)絡(luò)長(zhǎng)期依存問題.

    (3)對(duì)稱的編碼-解碼的方法.如U-Net[15],SegNet[16],ENet[17]和LSPNet[18],通過對(duì)稱的建模來引入更多低維信息彌補(bǔ)下采樣過程中帶來的位置信息的丟失.

    (4)在監(jiān)督上下文學(xué)習(xí)方面,CPNet提出了Affinity Loss[19],選擇性地捕獲類內(nèi)和類間上下文相關(guān)性.

    這些方法在一定程度上能夠有效聚合更多上下文信息,提高分割精度.但在推理速度和訓(xùn)練上需要耗費(fèi)大量時(shí)間,無法部署在移動(dòng)端設(shè)備上.同時(shí),忽略了非常重要的一點(diǎn),即如何讓網(wǎng)絡(luò)通過學(xué)習(xí)自動(dòng)區(qū)分不同類別之間的聯(lián)系,而這正是決定語義分割效果的關(guān)鍵.如圖1所示,如果忽略不同類別像素點(diǎn)之間的關(guān)系,就很容易出現(xiàn)紅框中將“人”錯(cuò)分為“馬”的情況.

    圖1 語義分割示意圖

    為了降低網(wǎng)絡(luò)的復(fù)雜度,減少網(wǎng)絡(luò)的推理時(shí)間,本文提出一種輕量級(jí)的語義分割網(wǎng)絡(luò),稱為MPNet(Mobile-Pyramid Net).它最大程度的平衡了分割精度和推理速度之間的關(guān)系,較低的參數(shù)量使其應(yīng)用在移動(dòng)端成為可能.本文的主要貢獻(xiàn)如下:

    (1)為了實(shí)現(xiàn)對(duì)圖像的快速分割,放棄使用ResNet50[20]作為主干網(wǎng)絡(luò),使用特征提取更加高效的MobileNet v2[21]作為主干網(wǎng)絡(luò)(參數(shù)量只有同層級(jí)ResNet50[20]的十分之一),并利用空洞卷積來幫助網(wǎng)絡(luò)獲得更大的感受野.

    (2)引入一個(gè)新的條形位置注意力模塊來捕獲上下文信息,并利用條形池化來降低計(jì)算成本.

    (3)提出一種新的損失函數(shù),以類內(nèi)與類間關(guān)系進(jìn)行建模,讓網(wǎng)絡(luò)自動(dòng)區(qū)分不同像素點(diǎn)之間的關(guān)系,監(jiān)督網(wǎng)絡(luò)進(jìn)行準(zhǔn)確分割.

    1 相關(guān)工作

    MobileNets是一個(gè)專注于移動(dòng)端或嵌入式設(shè)備中的輕量級(jí)CNN(Convolutional Neural Network),它在保持模型性能的前提下盡可能減少模型參數(shù)量.通過將傳統(tǒng)卷積替換為深度可分離卷積(如圖2所示),可將參數(shù)量降為普通卷積的九分之一.深度可分離卷積雖然可以降低參數(shù)量,但也會(huì)導(dǎo)致特征損失.Google公司在MobileNet的基礎(chǔ)上提出了 v2[21]和v3[22]版本,有效的解決了這一問題.通過1x1卷積對(duì)通道進(jìn)行升維,然后進(jìn)行3x3的深度離卷積提取特征,最后再通過1x1卷積進(jìn)行降維構(gòu)成倒殘差結(jié)構(gòu).

    圖2 深度可分離卷積示意圖

    這樣巧妙利用1x1卷積調(diào)整通道數(shù),即彌補(bǔ)了深度可分離卷積造成特征提取的不足,又降低了參數(shù).對(duì)于深度網(wǎng)絡(luò)梯度消失問題,MobileNet v2[21]通過加入Shortcut(殘差連接)使其有效緩解.按一定規(guī)律將倒殘差結(jié)構(gòu)進(jìn)行堆疊得到的MobileNet v2[21]與ResNet50[20]在ImageNet圖像分類上數(shù)據(jù)集上取得了近似的結(jié)果.

    注意力機(jī)制 是對(duì)重要的特征賦予更大的權(quán)重,使網(wǎng)絡(luò)通過學(xué)習(xí)更加關(guān)注這些特征.注意力機(jī)制能夠有效解決卷積神經(jīng)網(wǎng)絡(luò)存在的長(zhǎng)期依存問題,使網(wǎng)絡(luò)獲得豐富的全局信息.2017年,Jie Hu團(tuán)隊(duì)[12]將注意力機(jī)制運(yùn)用到卷積神經(jīng)網(wǎng)絡(luò)中,提出SE模塊,通過全局平均池化和兩層神經(jīng)網(wǎng)絡(luò)來自適應(yīng)的使網(wǎng)絡(luò)關(guān)注通道的信息.同年,Wang等[23]提出Non-Local模塊,它對(duì)特征圖中每個(gè)位置進(jìn)行加權(quán)求和來捕獲像素點(diǎn)之間的關(guān)系,使得網(wǎng)絡(luò)能夠?qū)θ中畔⑦M(jìn)行建模.雖然Non-Local能夠有效解決長(zhǎng)期依存問題,但計(jì)算成本十分高昂,Huang等[24]通過兩個(gè)重復(fù)的CC模塊降低了捕獲全局信息所需的計(jì)算量.DANet[13]和DRANet[25]利用通道注意力模塊和位置注意力模塊來對(duì)通道和位置進(jìn)行建模,使網(wǎng)絡(luò)能夠更加全面的捕獲全局信息.

    2 實(shí)驗(yàn)方法

    建議的網(wǎng)絡(luò)總體結(jié)構(gòu)如圖3所示,主要在三個(gè)方面進(jìn)行了改進(jìn).首先,以MobileNet v2[21]作為特征提取網(wǎng)絡(luò),對(duì)輸入圖像進(jìn)行特征提取,并以空洞卷積代替普通卷積來獲得更大的感受野.其次,采取了計(jì)算簡(jiǎn)單,參數(shù)相對(duì)較少的金字塔模塊來捕獲上下文信息同時(shí),以SPA(Strip Position Attention)模塊對(duì)全局信息進(jìn)行建模,整合位置信息,彌補(bǔ)下采樣過程中位置信息的丟失.最后,通過輔助損失函數(shù)來監(jiān)督整個(gè)網(wǎng)絡(luò),保證網(wǎng)絡(luò)能夠通過學(xué)習(xí)自動(dòng)區(qū)分不同類別之間的關(guān)系.

    2.1 主干網(wǎng)絡(luò)

    在CNN中,卷積核的尺寸越大,網(wǎng)絡(luò)獲得的感受野就越大,分割的結(jié)果就越精確.但是,更大卷積核會(huì)帶來更多參數(shù)量,造成網(wǎng)絡(luò)體積龐大且難以訓(xùn)練.空洞卷積的出現(xiàn)很好的解決了這一問題,它能在不增加參數(shù)量的情況下擴(kuò)大網(wǎng)絡(luò)的感受野.原始網(wǎng)絡(luò)與修改后網(wǎng)絡(luò)對(duì)比如表1所示.

    表1 主干網(wǎng)絡(luò)修改結(jié)果

    對(duì)于主干網(wǎng)絡(luò)MobileNet v2[21],將最后的Bottleneck5,Bottleneck6模塊的步長(zhǎng)修改為1,同時(shí)使用空洞率為2和4的空洞卷積來提取特征,使最后輸出特征圖的大小變?yōu)檩斎氤叽绲?/8.這樣能讓網(wǎng)絡(luò)保留更多的細(xì)節(jié)信息的同時(shí)獲取更大的感受野.

    2.2 條形位置注意力模塊

    由于使用MobileNet v2[21]作為主干網(wǎng)絡(luò),勢(shì)必會(huì)帶來特征提取能力的不足,為了緩解這個(gè)問題,提出了一種新的條形位置注意力模塊來增強(qiáng)網(wǎng)絡(luò)捕獲上下文信息的能力,如圖4所示.

    圖4 條形位置注意力模塊示意圖

    SPA模塊主要分為三個(gè)部分,依次為水平和垂直信息提取分支及特征融合部分.假設(shè)通過池化金字塔模塊后局部特征圖F的尺寸為B×C×H×W,其中B為batch數(shù),C為通道數(shù),H、W分別是特征圖的高和寬.首先,對(duì)輸入特征圖F進(jìn)行1×W的條形平均池化,然后通過BN,ReLu做歸一化和激活處理,得到尺寸為B×C×1×W的行向量Q,Q向量的每一點(diǎn)融合了原始特征圖每一行的信息,然后對(duì)其進(jìn)行1x3的條形卷積,獲得行向量Q′.同理,對(duì)輸入特征圖F進(jìn)行H×1的條形平均池化,BN,ReLu激活,得到尺寸為B×C×W×1的列向量K,K向量的每一點(diǎn)融合了原始特征圖中每一列的所有信息,然后對(duì)其進(jìn)行3×1的條形卷積獲得列向量K′最后,將K′與Q′進(jìn)行矩陣乘法,并通過softmax激活函數(shù)獲得每個(gè)位置的分?jǐn)?shù),得到B×C×H×W的注意力矩陣.注意力矩陣中的每一個(gè)像素點(diǎn),都是輸入特征圖中某一行像素的平均值與某列像素平均值的乘積,表征特征圖中的局部信息.如第i行第j列的像素點(diǎn)表征輸入特征圖的i行j列的所有信息,將所有像素點(diǎn)組合起來就能獲得上下文信息.

    在得到注意力矩陣之后,與原始輸入的特征圖依據(jù)注意力矩陣的分?jǐn)?shù)進(jìn)行特征融合,使網(wǎng)絡(luò)獲得更加豐富的上下文信息.值得注意的是,在實(shí)驗(yàn)過程中,發(fā)現(xiàn)將特征矩陣與輸入特征圖做加法的結(jié)果要好于它們之間做元素相乘.

    2.3 輔助損失函數(shù)

    為了進(jìn)一步提升網(wǎng)絡(luò)的分割效果,并且不增加網(wǎng)絡(luò)參數(shù)量,以類內(nèi)距離與類間距離作為約束條件設(shè)計(jì)了一個(gè)損失函數(shù).它由類內(nèi)損失和類間損失兩部分組成.

    類間損失定義為:

    (1)

    式(1)中:ω為該批次所有像素點(diǎn)的總數(shù),N為網(wǎng)絡(luò)輸出的預(yù)測(cè)特征圖的個(gè)數(shù),i,j分別表示第i,j張?zhí)卣鲌D,Ci,Cj分別表示將網(wǎng)絡(luò)的預(yù)測(cè)結(jié)果進(jìn)行Softmax函數(shù)之后再進(jìn)行全局平均池化得到的兩個(gè)點(diǎn),它們代表著該特征圖的全部信息.以任意兩個(gè)特征圖全局平均池化后的差值為約束條件來最大化類間距離.

    類內(nèi)損失定義為:

    (2)

    式(2)中:ω,N,Ci的含義與式(1)相同,Smn代表第i張?zhí)卣鲌D的第m行,第n列的像素點(diǎn).以每個(gè)像素點(diǎn)與平均池化的差值為約束條件來最小化類內(nèi)距離.

    原始的語義分割網(wǎng)絡(luò)使用的損失函數(shù)為交叉熵函數(shù),因此,總的損失函數(shù)可以表示為:

    L=CE_loss+φ-τ

    (3)

    3 實(shí)驗(yàn)結(jié)果與分析

    3.1 實(shí)驗(yàn)環(huán)境

    整個(gè)實(shí)驗(yàn)過程在GPU(GTX 950M)設(shè)備上進(jìn)行,Python版本為3.6.3,網(wǎng)絡(luò)框架為Pytorch1.1,實(shí)驗(yàn)主要參數(shù)見表2所示.優(yōu)化器為帶動(dòng)量的SGD(Stochastic Gradient Descent),其中Momentum為0.9,Weight decay為0.0001.PASCAL VOC 2012數(shù)據(jù)集輸入圖像的大小設(shè)定為400x400,裁剪到380x380大小.DLRSD和WHDLD遙感圖像數(shù)據(jù)集,則直接裁剪到224x224,并對(duì)其進(jìn)行了翻轉(zhuǎn),旋轉(zhuǎn),縮放,隨機(jī)打亂等操作進(jìn)行數(shù)據(jù)增強(qiáng).基礎(chǔ)的學(xué)習(xí)分別率設(shè)置為0.005,0.000 8和0.001,VOC迭代次數(shù)為180,DLRSD和WHDLD迭代次數(shù)為120次.本次實(shí)驗(yàn)的損失函數(shù)均為交叉熵,且主干網(wǎng)絡(luò)都采用預(yù)訓(xùn)練的權(quán)重,其中PSPNet[6]和SPNet[26]都有輔助損失,它的權(quán)重設(shè)置為默認(rèn)值0.4.

    本次實(shí)驗(yàn)的主要性能指標(biāo)為mIoU(Mean Intersection over Union)和PA(Pixel accuracy).它們能夠比較簡(jiǎn)單直觀的衡量分割的效果,是語義分割任務(wù)中最廣泛的性能指標(biāo).它們的定義式如下:

    (4)

    (5)

    式(4)、(5)中:TP(True Positive)指的是預(yù)測(cè)為正例,實(shí)際也為正例;TN(True Negative)指的是預(yù)測(cè)為負(fù)例,實(shí)際也為負(fù)例;FP(False Positive)指的是預(yù)測(cè)為正例,實(shí)際為負(fù)例;FN(False Negative)指的是預(yù)測(cè)為負(fù)例,實(shí)際為正例;k+1為類別數(shù)量.

    表2 實(shí)驗(yàn)參數(shù)

    3.2 數(shù)據(jù)集

    3.2.1 Passal VOC 2012數(shù)據(jù)集

    Pascal VOC 2012數(shù)據(jù)集可以用于分類、檢測(cè)和分割,是常用的公共數(shù)據(jù)集.它包含背景總共21個(gè)類別.實(shí)驗(yàn)中使用的是增強(qiáng)型的PASCAL VOC 2012 ,其中包含訓(xùn)練圖片共10 582張,驗(yàn)證圖片共1 449張.

    3.2.2 DLRSD數(shù)據(jù)集

    DLRSD數(shù)據(jù)集是武漢大學(xué)制作的遙感圖像分割和分類數(shù)據(jù)集.它包含遙感圖像中常見的耕地、河流、公路等21個(gè)類別,每個(gè)類別共100張圖像,共2 100張圖像,每張圖像的大小為256×256.數(shù)據(jù)集的分割部分共17個(gè)類別,每個(gè)類別配有不同顏色的標(biāo)簽.在本次實(shí)驗(yàn)中,按照訓(xùn)練集和驗(yàn)證集0.8∶0.2的比例劃分?jǐn)?shù)據(jù)集.

    3.2.3 WHDLD數(shù)據(jù)集

    WHDLD數(shù)據(jù)集是武漢大學(xué)專門制作的遙感圖像分割數(shù)據(jù)集.它包含耕地、建筑、地面、馬路、植被、水面六個(gè)類別,總共4950張 遙感圖像,每張圖像大小為256×256.WHDLD數(shù)據(jù)集中的圖像分辨率較低,且整體偏暗,是十分具有挑戰(zhàn)性的數(shù)據(jù)集.本次實(shí)驗(yàn)隨機(jī)選取3952張作為訓(xùn)練集,998張作為驗(yàn)證集.

    3.3 消融實(shí)驗(yàn)

    為了驗(yàn)證提出模塊的有效性,分別對(duì)每個(gè)模塊在PASCAL VOC 2012數(shù)據(jù)集上進(jìn)行了單獨(dú)的測(cè)試,將它們與只替換主干網(wǎng)的PSPNet[6]進(jìn)行比較.對(duì)比結(jié)果如表3所示.

    表3 消融實(shí)驗(yàn)結(jié)果

    其中,由于條形位置注意力模塊能幫助網(wǎng)絡(luò)獲得更多的上下文信息,在進(jìn)行分割時(shí)會(huì)考慮不同像素之間的關(guān)系,使mIoU從67.9%上升到69.4%.建議的損失函數(shù)能夠監(jiān)督模型區(qū)分類內(nèi)與類間的關(guān)系,為mIoU帶來3.0 %的提升.將兩個(gè)方法結(jié)合起來會(huì)將mIoU從67.9%提升到71.7%.

    3.4 對(duì)比實(shí)驗(yàn)

    3.4.1 PASCAL VOC 2012實(shí)驗(yàn)結(jié)果

    為了進(jìn)一步的驗(yàn)證建議方法的有效性,在PASCAL VOC 2012數(shù)據(jù)集上進(jìn)行了對(duì)比試驗(yàn).對(duì)比網(wǎng)絡(luò)使用的主干網(wǎng)絡(luò)均為加深的ResNet50[20],并且用帶網(wǎng)格的空洞卷積替換layer3,Layer4的卷積層,其中每個(gè)block的空洞率分別為2、4.ResNet50[20]在網(wǎng)絡(luò)層數(shù)上與MobileNet v2[21]相近,并且為了加快網(wǎng)絡(luò)的訓(xùn)練,全部都使用在ImageNet上的預(yù)訓(xùn)練權(quán)重.

    實(shí)驗(yàn)結(jié)果如表4所示.在mIoU方面,建議的網(wǎng)絡(luò)在VOC數(shù)據(jù)集上的mIoU指標(biāo)為71.7%,相比于原來的網(wǎng)絡(luò)有3.8%的提升.相比于PSPNet[6],在使用MobileNet v2[21]為主干網(wǎng)絡(luò)的前提下,還得到了0.9%的提升.由于網(wǎng)絡(luò)本身參數(shù)量的限制,與DANet[13]相比,PA還存在著0.5%的差距.在參數(shù)量方面,建議的網(wǎng)絡(luò)參數(shù)總量?jī)H為18.7 MB,不到DRANet[25]參數(shù)量的十分之一.本文在相同設(shè)備上測(cè)試了不同網(wǎng)絡(luò)的推理時(shí)間,建議的網(wǎng)絡(luò)FPS(Frame Per Second)為18,是DRANet[25]推理速度的3.8倍.

    表4 VOC數(shù)據(jù)集對(duì)比試驗(yàn)結(jié)果

    不同網(wǎng)絡(luò)的可視化結(jié)果如圖5所示.可以發(fā)現(xiàn),所有網(wǎng)絡(luò)都存在一定程度的誤分,但建議的方法整體分割效果更好.對(duì)于圖像中的“馬”和“瓶子”,建議的方法能夠自動(dòng)聚合同類,相比于其它方法分割的結(jié)果更加連續(xù).在第三行的圖像中,“椅子”是該數(shù)據(jù)集中數(shù)量較少,面積較小,不易分割的部分.第四行圖像表明對(duì)比網(wǎng)絡(luò)都存在將“人”當(dāng)成“?!保蛘摺榜R”當(dāng)成“?!钡那闆r.這都是因?yàn)榫W(wǎng)絡(luò)無法有效區(qū)分不同類別之間的關(guān)系而造成的誤分,而建議的模型使用了輔助損失函數(shù),分辯不同類別像素的能力得到了加強(qiáng),所以分割效果較好.每個(gè)類別的分割情況如表5所示.對(duì)于數(shù)據(jù)集中數(shù)量較少類別如“椅子(chair)”、“盆栽(potted)”、“電視(tv)”,建議的方法取得了34.6%、56.4%、69.8%的最高IoU(Intersection over Union).

    圖5 VOC數(shù)據(jù)集實(shí)驗(yàn)結(jié)果圖

    表5 每個(gè)類別的IoU(%)結(jié)果

    3.4.2 DLRSD實(shí)驗(yàn)結(jié)果

    由于建議的網(wǎng)絡(luò)設(shè)計(jì)的應(yīng)用場(chǎng)景是無人機(jī)等嵌入式設(shè)備,為了檢驗(yàn)其復(fù)雜場(chǎng)景的分割效果,故在DLRSD遙感圖像數(shù)據(jù)集上進(jìn)行對(duì)比測(cè)試,結(jié)果見表6所示.

    遙感圖像中的物體尺度變化十分劇烈,非??简?yàn)網(wǎng)絡(luò)的特征提取能力.從測(cè)試結(jié)果可以發(fā)現(xiàn),UperNet[27]、PSPNet[6]使用了金字塔模塊來提取不同尺度的特征獲得了相對(duì)較好的成績(jī).但它們都使用ResNet[20]作為主干網(wǎng)絡(luò),增加了圖像分割的計(jì)算開銷,對(duì)嵌入無人機(jī)等移動(dòng)端設(shè)備是十分不利的.相比之下,建議模型在FLOPs(Floating Point Operations)上僅為DeepLab v3+[8]的10.2%,但在mIoU上僅比DeepLab v3+[8]低0.2%.LedNet[9]通過將較大的卷積分解為1×3和3×1的卷積極大的降低了計(jì)算量,但與建議的方法相比,在mIoU上有著5.6%的差距.

    表6 DLRSD數(shù)據(jù)集對(duì)比結(jié)果

    3.4.3 WHDLD實(shí)驗(yàn)結(jié)果

    為了進(jìn)一步驗(yàn)證建議方法的泛化能力,本文在WHDLD遙感圖像數(shù)據(jù)集上進(jìn)行了對(duì)比實(shí)驗(yàn),其結(jié)果見表7所示.由于該數(shù)據(jù)集的圖像拍攝光線較暗,導(dǎo)致所有測(cè)試的網(wǎng)絡(luò)在該數(shù)據(jù)集中分割效果有所下降.但建議的網(wǎng)絡(luò)在mIoU上的下降幅度不大,說明建議的網(wǎng)絡(luò)有著較強(qiáng)的泛化能力來應(yīng)對(duì)輸入圖像的變化.與其它網(wǎng)絡(luò)相比,建議的方法取得了59.3%和82.7%最高的驗(yàn)證mIoU和PA.與輕量級(jí)分割網(wǎng)絡(luò)LedNet[9]相比,建議的網(wǎng)絡(luò)在mIoU上領(lǐng)先12.4%的同時(shí),每輪訓(xùn)練時(shí)間僅上升1.4分鐘.與多尺度網(wǎng)絡(luò)DeepLab v3+[8]和PSPNet[6]相比,建議的網(wǎng)絡(luò)使用輕量級(jí)的MoblieNet v2[21]作為特征提取網(wǎng)絡(luò),每輪訓(xùn)練耗時(shí)大幅度減少,約是它們的四分之一.由于采用了高效的條形位置注意力模塊和輔助損失函數(shù),使得網(wǎng)絡(luò)能夠在保證分割精度的前提下極大的提升了網(wǎng)絡(luò)的分割速度.

    表7 WHDLD數(shù)據(jù)集對(duì)比結(jié)果

    驗(yàn)證集曲線如圖6所示.可以發(fā)現(xiàn),由于加載了預(yù)訓(xùn)練權(quán)重,所有網(wǎng)絡(luò)都能在短時(shí)間內(nèi)快速收斂,但建議的模型約在第20次迭代完成收斂,開始震蕩調(diào)整,在第90個(gè)epoch分割準(zhǔn)確率基本保持不變,并維持了最好成績(jī).通過120個(gè)epoch的訓(xùn)練,可以發(fā)現(xiàn)SPNet[26]在第30個(gè)epoch后基本維持不變,說明網(wǎng)絡(luò)泛化能力較弱.DeepLab v3+[8]憑借著參數(shù)量的優(yōu)勢(shì),在WHDLD數(shù)據(jù)集上能夠獲得較高的mIoU,但是與建議的網(wǎng)絡(luò)存在著1%的差距.

    圖6 WHDLD驗(yàn)證集mIoU曲線

    4 結(jié)論

    本文基于MobileNet v2,提出了一個(gè)輕量級(jí)的語義分割網(wǎng)絡(luò),在保證準(zhǔn)確率的前提下能夠極大程度的減少網(wǎng)絡(luò)的預(yù)測(cè)時(shí)間.特別地,提出全新的注意力模塊和輔助損失函數(shù).大量實(shí)驗(yàn)表明建議的網(wǎng)絡(luò)能夠以較少的計(jì)算成本獲取相對(duì)較好的分割結(jié)果.但是與傳統(tǒng)的網(wǎng)絡(luò)對(duì)比,建議的模型在分割準(zhǔn)確度上還存在著一定的差距.在只考慮分割效果的場(chǎng)景應(yīng)使用傳統(tǒng)的模型.建議的模型能夠在PASCAL VOC 2012數(shù)據(jù)集上以18 FPS的推理速度取得71.7%的mIoU.因此,建議的方法適合應(yīng)用在對(duì)推理速度有要求的場(chǎng)景.在后續(xù)研究中,應(yīng)著重致力于輕量級(jí)網(wǎng)絡(luò)分割準(zhǔn)確性的研究,探索更加高效簡(jiǎn)潔的特征提取方式.

    猜你喜歡
    類別注意力卷積
    讓注意力“飛”回來
    基于3D-Winograd的快速卷積算法設(shè)計(jì)及FPGA實(shí)現(xiàn)
    從濾波器理解卷積
    電子制作(2019年11期)2019-07-04 00:34:38
    基于傅里葉域卷積表示的目標(biāo)跟蹤算法
    “揚(yáng)眼”APP:讓注意力“變現(xiàn)”
    A Beautiful Way Of Looking At Things
    服務(wù)類別
    論類別股東會(huì)
    商事法論集(2014年1期)2014-06-27 01:20:42
    一種基于卷積神經(jīng)網(wǎng)絡(luò)的性別識(shí)別方法
    中醫(yī)類別全科醫(yī)師培養(yǎng)模式的探討
    成年美女黄网站色视频大全免费| svipshipincom国产片| 天天躁日日躁夜夜躁夜夜| 久久人人爽人人片av| 女的被弄到高潮叫床怎么办| 久久精品国产亚洲av涩爱| 天天躁夜夜躁狠狠久久av| 菩萨蛮人人尽说江南好唐韦庄| 欧美日韩视频高清一区二区三区二| 免费日韩欧美在线观看| 亚洲成人免费av在线播放| 国产一区二区激情短视频 | 天天影视国产精品| 肉色欧美久久久久久久蜜桃| 18禁裸乳无遮挡动漫免费视频| 在线观看免费高清a一片| 热re99久久精品国产66热6| 热99久久久久精品小说推荐| 汤姆久久久久久久影院中文字幕| 成人漫画全彩无遮挡| a级毛片黄视频| 欧美av亚洲av综合av国产av | 久久精品国产综合久久久| 欧美成人精品欧美一级黄| 午夜福利一区二区在线看| 最近最新中文字幕大全免费视频 | 久久韩国三级中文字幕| 丝袜脚勾引网站| 久久久久精品性色| 在线观看国产h片| 最近最新中文字幕免费大全7| 丁香六月欧美| 精品亚洲乱码少妇综合久久| 老司机影院毛片| 视频区图区小说| 成人漫画全彩无遮挡| 精品少妇一区二区三区视频日本电影 | 亚洲男人天堂网一区| 日韩av不卡免费在线播放| 久久久国产一区二区| 2021少妇久久久久久久久久久| 国产乱人偷精品视频| 国产精品.久久久| 观看av在线不卡| 国产成人av激情在线播放| 国产日韩欧美视频二区| 在线精品无人区一区二区三| 国产欧美日韩综合在线一区二区| 国产免费一区二区三区四区乱码| 日本91视频免费播放| 伦理电影大哥的女人| 视频区图区小说| 男男h啪啪无遮挡| 天天躁夜夜躁狠狠躁躁| 大陆偷拍与自拍| 亚洲av男天堂| 中文字幕精品免费在线观看视频| 国产日韩欧美在线精品| 一级,二级,三级黄色视频| 国产精品三级大全| 国产精品国产三级国产专区5o| 成人午夜精彩视频在线观看| 久久99精品国语久久久| 国产av国产精品国产| 国产一级毛片在线| 久久女婷五月综合色啪小说| 国产精品亚洲av一区麻豆 | 久久久亚洲精品成人影院| 亚洲欧洲日产国产| 韩国高清视频一区二区三区| 精品少妇黑人巨大在线播放| 菩萨蛮人人尽说江南好唐韦庄| netflix在线观看网站| 亚洲av在线观看美女高潮| 久久女婷五月综合色啪小说| 久久久久国产一级毛片高清牌| 欧美人与性动交α欧美软件| 亚洲第一av免费看| 男女免费视频国产| 国产一区二区 视频在线| 亚洲熟女毛片儿| 欧美激情 高清一区二区三区| 亚洲av中文av极速乱| 国产亚洲最大av| 精品少妇一区二区三区视频日本电影 | 1024视频免费在线观看| 校园人妻丝袜中文字幕| 亚洲精品一区蜜桃| 亚洲七黄色美女视频| 久久久久国产一级毛片高清牌| 亚洲一区中文字幕在线| 国产精品久久久人人做人人爽| 亚洲av国产av综合av卡| 啦啦啦视频在线资源免费观看| 18禁观看日本| 久久女婷五月综合色啪小说| av网站在线播放免费| 一边摸一边抽搐一进一出视频| h视频一区二区三区| 国产精品 国内视频| 久久久久人妻精品一区果冻| 亚洲专区中文字幕在线 | 亚洲四区av| 精品国产一区二区三区四区第35| 超色免费av| 国产精品女同一区二区软件| 亚洲美女搞黄在线观看| 国产成人精品无人区| 欧美中文综合在线视频| 又黄又粗又硬又大视频| 综合色丁香网| 热99久久久久精品小说推荐| 999久久久国产精品视频| 亚洲av成人不卡在线观看播放网 | 伦理电影免费视频| 日韩一区二区三区影片| 十八禁网站网址无遮挡| 可以免费在线观看a视频的电影网站 | 人体艺术视频欧美日本| 多毛熟女@视频| 亚洲熟女毛片儿| 在线天堂中文资源库| 久久久精品国产亚洲av高清涩受| 美女国产高潮福利片在线看| 久久天堂一区二区三区四区| 美女主播在线视频| 欧美 亚洲 国产 日韩一| 国产淫语在线视频| 国产极品天堂在线| 日本爱情动作片www.在线观看| 成年av动漫网址| 免费观看av网站的网址| 夫妻午夜视频| 久久精品久久久久久久性| 久久久久精品人妻al黑| 国产成人欧美在线观看 | 亚洲精品一二三| 欧美日韩视频精品一区| 精品久久久精品久久久| 国产成人午夜福利电影在线观看| 亚洲欧洲国产日韩| 国产精品久久久久久精品电影小说| 热99久久久久精品小说推荐| 日韩伦理黄色片| 天天躁日日躁夜夜躁夜夜| 成年动漫av网址| 香蕉国产在线看| 国产成人a∨麻豆精品| 亚洲成人免费av在线播放| 亚洲国产欧美一区二区综合| 日日爽夜夜爽网站| 久久精品aⅴ一区二区三区四区| 只有这里有精品99| 熟女少妇亚洲综合色aaa.| 午夜久久久在线观看| 天天影视国产精品| 国产不卡av网站在线观看| 一级,二级,三级黄色视频| 久久99热这里只频精品6学生| 韩国精品一区二区三区| 男女免费视频国产| 卡戴珊不雅视频在线播放| 无遮挡黄片免费观看| 亚洲av欧美aⅴ国产| 国产日韩一区二区三区精品不卡| 女人高潮潮喷娇喘18禁视频| 亚洲人成电影观看| 卡戴珊不雅视频在线播放| 国产xxxxx性猛交| 十八禁人妻一区二区| 国精品久久久久久国模美| 女人高潮潮喷娇喘18禁视频| 欧美精品一区二区免费开放| 2021少妇久久久久久久久久久| 宅男免费午夜| 99热国产这里只有精品6| 最近手机中文字幕大全| 亚洲欧美成人精品一区二区| e午夜精品久久久久久久| 下体分泌物呈黄色| 国产成人精品在线电影| 91老司机精品| 极品少妇高潮喷水抽搐| 波多野结衣一区麻豆| 一本久久精品| 蜜桃在线观看..| 日本午夜av视频| 亚洲欧美清纯卡通| 不卡视频在线观看欧美| av网站在线播放免费| 国产一级毛片在线| 日韩一本色道免费dvd| 中文字幕av电影在线播放| 免费黄频网站在线观看国产| 久久精品亚洲av国产电影网| 欧美乱码精品一区二区三区| 精品少妇黑人巨大在线播放| svipshipincom国产片| 久久久久久人人人人人| 久久天躁狠狠躁夜夜2o2o | 日韩 亚洲 欧美在线| 亚洲成av片中文字幕在线观看| 精品一区二区免费观看| 一区二区三区激情视频| 国产成人精品久久久久久| 男女边吃奶边做爰视频| 亚洲精品一区蜜桃| 婷婷色麻豆天堂久久| 日日摸夜夜添夜夜爱| 亚洲国产毛片av蜜桃av| 中文字幕人妻熟女乱码| 国产黄色视频一区二区在线观看| 午夜福利免费观看在线| 国产精品女同一区二区软件| 久久精品熟女亚洲av麻豆精品| 久久性视频一级片| 女人爽到高潮嗷嗷叫在线视频| 在线观看免费视频网站a站| 91国产中文字幕| 欧美少妇被猛烈插入视频| 日韩中文字幕欧美一区二区 | 99国产综合亚洲精品| 日本猛色少妇xxxxx猛交久久| 18禁动态无遮挡网站| 最近最新中文字幕大全免费视频 | 狠狠精品人妻久久久久久综合| 精品免费久久久久久久清纯 | 亚洲国产欧美日韩在线播放| 国产熟女欧美一区二区| 精品一区二区三区av网在线观看 | 欧美人与性动交α欧美精品济南到| 夜夜骑夜夜射夜夜干| 热99久久久久精品小说推荐| 各种免费的搞黄视频| 国产乱来视频区| 亚洲成人av在线免费| 国产精品欧美亚洲77777| 欧美成人精品欧美一级黄| 国产福利在线免费观看视频| 少妇猛男粗大的猛烈进出视频| 午夜免费观看性视频| 欧美日韩一级在线毛片| 一级a爱视频在线免费观看| 捣出白浆h1v1| 亚洲精品乱久久久久久| 亚洲av综合色区一区| 国产成人精品久久久久久| 最近中文字幕高清免费大全6| 欧美精品高潮呻吟av久久| 国产男人的电影天堂91| 国产精品国产三级国产专区5o| 精品国产露脸久久av麻豆| 国产精品亚洲av一区麻豆 | 美国免费a级毛片| svipshipincom国产片| 欧美国产精品va在线观看不卡| 欧美精品高潮呻吟av久久| 人体艺术视频欧美日本| 国产成人91sexporn| 9191精品国产免费久久| 亚洲成人免费av在线播放| 高清黄色对白视频在线免费看| 色婷婷av一区二区三区视频| 男女高潮啪啪啪动态图| 精品少妇久久久久久888优播| 成年人午夜在线观看视频| 亚洲伊人色综图| 国产高清不卡午夜福利| 亚洲美女视频黄频| 亚洲精品国产av成人精品| 亚洲精品一区蜜桃| 男女免费视频国产| 国产亚洲最大av| 曰老女人黄片| 人妻 亚洲 视频| 亚洲精品视频女| 久久午夜综合久久蜜桃| 麻豆乱淫一区二区| 欧美日本中文国产一区发布| 看非洲黑人一级黄片| 免费观看性生交大片5| 国产日韩欧美亚洲二区| 亚洲国产精品一区二区三区在线| 黄片播放在线免费| 午夜免费观看性视频| 日本vs欧美在线观看视频| 国产精品久久久久久久久免| 亚洲熟女精品中文字幕| 免费看av在线观看网站| 久久性视频一级片| 9热在线视频观看99| 99精国产麻豆久久婷婷| www.熟女人妻精品国产| 嫩草影院入口| 男人操女人黄网站| 日韩av免费高清视频| 亚洲国产精品成人久久小说| 蜜桃在线观看..| 日本色播在线视频| 国精品久久久久久国模美| 国产亚洲精品第一综合不卡| 国产成人精品久久久久久| svipshipincom国产片| 777久久人妻少妇嫩草av网站| 久久狼人影院| 国产一区二区三区av在线| 久久 成人 亚洲| 国产乱人偷精品视频| 亚洲第一区二区三区不卡| 美女扒开内裤让男人捅视频| 在线观看www视频免费| 久久鲁丝午夜福利片| 男女国产视频网站| 两个人免费观看高清视频| 中国三级夫妇交换| 91成人精品电影| 国产麻豆69| 国产欧美日韩一区二区三区在线| 欧美亚洲 丝袜 人妻 在线| 五月天丁香电影| 你懂的网址亚洲精品在线观看| 啦啦啦视频在线资源免费观看| 亚洲精品一二三| 欧美国产精品一级二级三级| 精品一品国产午夜福利视频| 久久久国产一区二区| 国产日韩欧美亚洲二区| 90打野战视频偷拍视频| 日韩制服丝袜自拍偷拍| 十八禁网站网址无遮挡| 可以免费在线观看a视频的电影网站 | 午夜免费鲁丝| 在线免费观看不下载黄p国产| 亚洲人成网站在线观看播放| 大香蕉久久成人网| 精品一区二区三区av网在线观看 | 这个男人来自地球电影免费观看 | 亚洲精品,欧美精品| 亚洲五月色婷婷综合| 久久久久久久久久久久大奶| 成年人午夜在线观看视频| 亚洲欧美精品自产自拍| 99久国产av精品国产电影| 大陆偷拍与自拍| 色播在线永久视频| 亚洲av电影在线进入| 亚洲精品久久午夜乱码| 尾随美女入室| 久久久久人妻精品一区果冻| 深夜精品福利| 国产精品女同一区二区软件| 久久久久精品人妻al黑| 日日摸夜夜添夜夜爱| 黄色视频不卡| 校园人妻丝袜中文字幕| 精品酒店卫生间| 国产av国产精品国产| 久久精品国产亚洲av涩爱| 国产成人av激情在线播放| 亚洲,欧美,日韩| 中国国产av一级| 赤兔流量卡办理| 丰满乱子伦码专区| 欧美黄色片欧美黄色片| 最近中文字幕高清免费大全6| 99国产精品免费福利视频| 国产成人av激情在线播放| 亚洲,欧美,日韩| 国产成人av激情在线播放| 国产毛片在线视频| 一区二区三区四区激情视频| 国产成人精品福利久久| 午夜福利视频精品| 免费高清在线观看日韩| 亚洲综合精品二区| 欧美日韩亚洲综合一区二区三区_| 天天躁日日躁夜夜躁夜夜| 丝袜美腿诱惑在线| 亚洲欧美清纯卡通| 交换朋友夫妻互换小说| 99久国产av精品国产电影| 亚洲欧美精品自产自拍| 在线 av 中文字幕| 国产黄色免费在线视频| 久久久精品区二区三区| av福利片在线| 亚洲图色成人| 国产成人91sexporn| 精品亚洲成国产av| e午夜精品久久久久久久| 亚洲少妇的诱惑av| 18禁裸乳无遮挡动漫免费视频| 亚洲欧美色中文字幕在线| 自拍欧美九色日韩亚洲蝌蚪91| 国产精品麻豆人妻色哟哟久久| 777米奇影视久久| 精品视频人人做人人爽| 国产精品一区二区在线不卡| 欧美人与善性xxx| 综合色丁香网| 国产一区二区激情短视频 | 男女国产视频网站| 亚洲在久久综合| 高清不卡的av网站| 国产av码专区亚洲av| 亚洲综合精品二区| 欧美精品高潮呻吟av久久| 日本vs欧美在线观看视频| 亚洲成人免费av在线播放| 国产精品人妻久久久影院| 久久久国产欧美日韩av| 大片电影免费在线观看免费| av视频免费观看在线观看| 夫妻午夜视频| 欧美av亚洲av综合av国产av | 午夜老司机福利片| 色吧在线观看| av女优亚洲男人天堂| 黄色视频不卡| 国产日韩一区二区三区精品不卡| 亚洲国产看品久久| 日本wwww免费看| 一级黄片播放器| 叶爱在线成人免费视频播放| 一区二区三区四区激情视频| 欧美变态另类bdsm刘玥| 女人精品久久久久毛片| 如何舔出高潮| 免费高清在线观看视频在线观看| 夜夜骑夜夜射夜夜干| 国产精品一区二区在线观看99| 伦理电影免费视频| 欧美精品高潮呻吟av久久| 欧美日韩福利视频一区二区| 亚洲国产精品成人久久小说| 国产成人精品在线电影| 精品少妇久久久久久888优播| 国产午夜精品一二区理论片| 成年女人毛片免费观看观看9 | 纵有疾风起免费观看全集完整版| av不卡在线播放| 日本91视频免费播放| 制服诱惑二区| 亚洲av成人不卡在线观看播放网 | 伊人亚洲综合成人网| 久久 成人 亚洲| 久久人人爽av亚洲精品天堂| 人人妻,人人澡人人爽秒播 | 精品少妇黑人巨大在线播放| 欧美另类一区| 巨乳人妻的诱惑在线观看| 多毛熟女@视频| 在线精品无人区一区二区三| 天天躁日日躁夜夜躁夜夜| 男女免费视频国产| 在线观看www视频免费| 成人国产麻豆网| 91成人精品电影| 国产亚洲午夜精品一区二区久久| 宅男免费午夜| 中文字幕高清在线视频| 午夜福利网站1000一区二区三区| 亚洲熟女毛片儿| 亚洲一卡2卡3卡4卡5卡精品中文| 亚洲国产成人一精品久久久| 成人国产麻豆网| 无遮挡黄片免费观看| av片东京热男人的天堂| 欧美97在线视频| svipshipincom国产片| 欧美黄色片欧美黄色片| 99九九在线精品视频| 久久女婷五月综合色啪小说| 欧美 亚洲 国产 日韩一| 亚洲精品自拍成人| 久久久久久人人人人人| 国产精品亚洲av一区麻豆 | 成人18禁高潮啪啪吃奶动态图| 日本黄色日本黄色录像| 王馨瑶露胸无遮挡在线观看| 制服丝袜香蕉在线| 一级毛片我不卡| 国产伦人伦偷精品视频| 国产精品一二三区在线看| 日本色播在线视频| 午夜影院在线不卡| 国产成人av激情在线播放| 亚洲成人av在线免费| 国产 精品1| 日本午夜av视频| tube8黄色片| 中国国产av一级| 国产精品一区二区在线观看99| 国产精品久久久久久精品电影小说| 如日韩欧美国产精品一区二区三区| 女人高潮潮喷娇喘18禁视频| 久久久久精品国产欧美久久久 | 亚洲国产成人一精品久久久| 自拍欧美九色日韩亚洲蝌蚪91| 欧美黄色片欧美黄色片| 99久久99久久久精品蜜桃| 国产免费现黄频在线看| 久久 成人 亚洲| 婷婷成人精品国产| 尾随美女入室| 国产成人av激情在线播放| 亚洲精品一二三| 国产日韩一区二区三区精品不卡| 亚洲国产精品999| 校园人妻丝袜中文字幕| 亚洲人成网站在线观看播放| 一级毛片电影观看| 久久久国产欧美日韩av| 欧美日韩一级在线毛片| 麻豆乱淫一区二区| 麻豆av在线久日| 国产片特级美女逼逼视频| 久久久久久久久久久久大奶| 男人爽女人下面视频在线观看| 最新的欧美精品一区二区| 亚洲精品一区蜜桃| 搡老乐熟女国产| 成人亚洲精品一区在线观看| 久久久久精品性色| 久久精品久久久久久噜噜老黄| 午夜影院在线不卡| 久久青草综合色| 制服丝袜香蕉在线| 如何舔出高潮| 国产激情久久老熟女| 日本黄色日本黄色录像| 国产片特级美女逼逼视频| 99香蕉大伊视频| 国产淫语在线视频| 在线观看免费高清a一片| 美女大奶头黄色视频| 久久久久久人妻| 国产激情久久老熟女| 伦理电影大哥的女人| 97人妻天天添夜夜摸| 欧美日韩福利视频一区二区| 在线观看一区二区三区激情| 久久久久久久久免费视频了| 99国产综合亚洲精品| 亚洲熟女毛片儿| 色吧在线观看| 亚洲久久久国产精品| 亚洲自偷自拍图片 自拍| 久久精品亚洲av国产电影网| 午夜影院在线不卡| 国产av国产精品国产| 中文天堂在线官网| 黑人巨大精品欧美一区二区蜜桃| 国产精品欧美亚洲77777| 国产精品一区二区在线观看99| 亚洲五月色婷婷综合| e午夜精品久久久久久久| 久久av网站| 婷婷色综合www| 国产 一区精品| 欧美97在线视频| 一二三四中文在线观看免费高清| 精品福利永久在线观看| 国产深夜福利视频在线观看| 久久影院123| 丝袜美腿诱惑在线| 999精品在线视频| 少妇的丰满在线观看| 亚洲成av片中文字幕在线观看| 国产精品嫩草影院av在线观看| 中文字幕人妻熟女乱码| 国产av一区二区精品久久| 亚洲欧美一区二区三区久久| 欧美精品一区二区免费开放| 亚洲国产看品久久| 大片免费播放器 马上看| 婷婷色麻豆天堂久久| 天天躁狠狠躁夜夜躁狠狠躁| xxxhd国产人妻xxx| 欧美精品一区二区大全| 99久久人妻综合| 国产精品一区二区在线不卡| 亚洲第一区二区三区不卡| 纯流量卡能插随身wifi吗| av一本久久久久| 中文字幕另类日韩欧美亚洲嫩草| 亚洲国产欧美日韩在线播放| 亚洲国产欧美在线一区| 免费看不卡的av| 国产99久久九九免费精品| 在线观看一区二区三区激情| 免费观看av网站的网址| a级毛片黄视频| 国产极品天堂在线| 悠悠久久av| 99热国产这里只有精品6| 日韩制服丝袜自拍偷拍| 精品午夜福利在线看| 亚洲婷婷狠狠爱综合网| 欧美激情高清一区二区三区 | 波野结衣二区三区在线| 啦啦啦啦在线视频资源| 中文精品一卡2卡3卡4更新| 色94色欧美一区二区| 丰满饥渴人妻一区二区三| av又黄又爽大尺度在线免费看| videosex国产| 在线观看www视频免费| 国产激情久久老熟女| 美女脱内裤让男人舔精品视频| 久久久久久免费高清国产稀缺| 美女扒开内裤让男人捅视频| 色网站视频免费| 女的被弄到高潮叫床怎么办| 制服人妻中文乱码|