李書琴 陳 聰 朱 彤 劉 斌
(西北農(nóng)林科技大學(xué)信息工程學(xué)院, 陜西楊凌 712100)
植物病害問題與人們的生產(chǎn)生活密切相關(guān)[1-3]。在植物生長(zhǎng)過程中,容易受到天氣、環(huán)境、微生物、病毒和細(xì)菌等影響而產(chǎn)生各種病害。植株葉片是病癥最常出現(xiàn)的部位,由于病害種類較多且部分病害特征相似,僅靠種植者肉眼觀察和經(jīng)驗(yàn)判斷不能及時(shí)診斷病害類型,導(dǎo)致植物病害越來(lái)越嚴(yán)重,造成巨大損失。因此,快速準(zhǔn)確地確定病害類型是防治植物病害的關(guān)鍵點(diǎn)。
傳統(tǒng)病害識(shí)別算法[4-6]主要通過人工提取研究對(duì)象圖像特征進(jìn)行分析研究,取得了一定的研究成果。鄭建華等[7]通過融合葡萄病葉的RGB顏色矩、HSV顏色直方圖特征、GLCM紋理特征、HOG特征,利用支持向量機(jī)算法對(duì)3種病害識(shí)別準(zhǔn)確率達(dá)到93.41%。郭小清等[8]選擇HSV模型中的4維H分量等量分割波段作為顏色特征,基于灰度差分統(tǒng)計(jì)的均值、對(duì)比度和熵3維特征作為紋理特征,通過粒子群算法優(yōu)化支持向量機(jī)參數(shù),獲得了90%番茄葉片病害識(shí)別準(zhǔn)確率。然而,人工提取的特征包含一定程度的主觀性,無(wú)法確定最佳和魯棒的特征,且植物病害通常表現(xiàn)為紋理、形狀和顏色等多種復(fù)合特征,這為傳統(tǒng)植物葉片病害識(shí)別算法帶來(lái)了巨大的挑戰(zhàn),也影響了識(shí)別的效果。
深度學(xué)習(xí)的出現(xiàn),為病害識(shí)別提供了新的方法。卷積神經(jīng)網(wǎng)絡(luò)不依賴特定特征,得到廣泛應(yīng)用。基于卷積神經(jīng)網(wǎng)絡(luò)的植物葉片病害識(shí)別方法[9-11]具有識(shí)別準(zhǔn)確率高的優(yōu)點(diǎn),但也存在網(wǎng)絡(luò)參數(shù)眾多,計(jì)算量大且復(fù)雜的問題,實(shí)用性較差。因此越來(lái)越多的學(xué)者將目光轉(zhuǎn)向輕量級(jí)植物葉片病害識(shí)別網(wǎng)絡(luò)的研究。孫俊等[12]通過批歸一化和全局池化改進(jìn)卷積神經(jīng)網(wǎng)絡(luò)獲得了99.56%識(shí)別準(zhǔn)確率,參數(shù)內(nèi)存需求2.6 MB。劉洋等[13]采用MobileNet V1[14]在PlantVillage數(shù)據(jù)集獲得了95.02%的準(zhǔn)確率,參數(shù)內(nèi)存需求17.1 MB。賈鶴鳴等[15]運(yùn)用深度可分離卷積,全局平均池化,批歸一化改進(jìn)VGG網(wǎng)絡(luò),改進(jìn)后的網(wǎng)絡(luò)識(shí)別精度為99.43%,內(nèi)存占用空間為6.47 MB??梢钥闯錾鲜鲅芯恐皇沁\(yùn)用或改進(jìn)卷積神經(jīng)網(wǎng)絡(luò),未能針對(duì)病害特征進(jìn)一步分析,雖然取得了較好的結(jié)果,但模型仍有提升的空間。
為進(jìn)一步提升輕量級(jí)植物病害識(shí)別網(wǎng)絡(luò)性能,結(jié)合植物病害特征,本文提出一種基于輕量級(jí)殘差網(wǎng)絡(luò)的植物葉片病害識(shí)別方法,通過縮減ResNet-18[16]卷積核數(shù)目和輕量級(jí)殘差模塊(SD-BLOCK),在減少參數(shù)、降低計(jì)算復(fù)雜度的同時(shí)提取多種病害特征,保持低識(shí)別錯(cuò)誤率。然后加入SE[17]模塊,增強(qiáng)網(wǎng)絡(luò)病害特征提取能力,降低網(wǎng)絡(luò)識(shí)別錯(cuò)誤率,從而構(gòu)建輕量級(jí)殘差網(wǎng)絡(luò)(Scale-Down ResNet,SDResNet)。
分析植物病害顏色、紋理、輪廓等特征可知,不同植物病害特征,同一植物不同病害特征表現(xiàn)出一定的相似性,區(qū)分難度較大。Residual Network[16](ResNet)運(yùn)用了殘差學(xué)習(xí)的思想,增加了網(wǎng)絡(luò)的深度,進(jìn)而提升了網(wǎng)絡(luò)病害特征提取能力,被廣泛應(yīng)用于病害識(shí)別[18-20]。ResNet主要由一系列殘差模塊(圖1)組成。一個(gè)殘差模塊可以表示為
圖1 殘差模塊Fig.1 Residual module
XL+1=XL+F(XL,WL)
(1)
式中XL、XL+1——第L、L+1層特征圖
WL——第L層卷積參數(shù)
F——卷積運(yùn)算函數(shù)
即將網(wǎng)絡(luò)映射H(XL,WL):=XL+1轉(zhuǎn)變?yōu)閄L+F(XL,WL),疊加的卷積層只需要擬合F(XL,WL)函數(shù)。這種轉(zhuǎn)變使深層網(wǎng)絡(luò)更容易優(yōu)化。假設(shè)網(wǎng)絡(luò)學(xué)習(xí)的XL是最優(yōu)的,網(wǎng)絡(luò)更深層的卷積將權(quán)重置為0便能達(dá)到最佳性能。若最優(yōu)結(jié)果接近XL,更深的卷積層則只需要微調(diào),而不是學(xué)習(xí)一個(gè)新的映射。
殘差結(jié)構(gòu)實(shí)現(xiàn)簡(jiǎn)單,如圖1所示,在網(wǎng)絡(luò)中構(gòu)建恒等連接即可,這使得網(wǎng)絡(luò)底層和深層中的信息可以快捷傳遞,在一定程度上解決了深層網(wǎng)絡(luò)信息丟失、損耗和梯度爆炸與消失問題,提升了深層網(wǎng)絡(luò)的性能。
1.2.1分組卷積
分組卷積采用split-transform-merge[21]思想,在減少參數(shù)和計(jì)算量的同時(shí)提高了網(wǎng)絡(luò)識(shí)別精度。通過這種卷積方式可以得到關(guān)注點(diǎn)不同的特征圖,互為補(bǔ)充,更完整地表示圖像特征。同時(shí)分組卷積增加了卷積核之間的對(duì)角相關(guān)性,減少了參數(shù),可以緩解過擬合,類似于正則。分組卷積計(jì)算過程如圖2所示,分組卷積對(duì)輸入特征圖分解,然后在各個(gè)分組上進(jìn)行卷積計(jì)算。由于卷積的輸入通道數(shù)減少,相應(yīng)也減少了參數(shù)和計(jì)算量,減為原來(lái)的1/G,G為分組數(shù)。
圖2 分組卷積Fig.2 Group convolution
1.2.2深度可分離卷積
(2)
由式(2)可知,如果卷積核尺寸為3×3(DK=3),由于輸出通道數(shù)N很大,深度可分離卷積大約是標(biāo)準(zhǔn)卷積計(jì)算量的1/9。MobileNet V1[14]將標(biāo)準(zhǔn)卷積替換為深度可分離卷積,精度卻沒有損失太多,證明了深度可分離卷積強(qiáng)大的特征提取能力。
1.2.3輕量級(jí)殘差模塊結(jié)構(gòu)
輕量級(jí)殘差模塊(SD-BLOCK)主要運(yùn)用了深度可分離卷積和分組卷積。首先2種卷積方式搭配使用大幅減少了網(wǎng)絡(luò)參數(shù),降低了計(jì)算量。同時(shí)2種卷積方式都構(gòu)建了多條卷積路徑,并且深度卷積不會(huì)擾亂分組卷積的分組。植物病害往往表現(xiàn)為顏色、紋理、形狀等復(fù)合特征。通過不同卷積路徑得到的特征圖關(guān)注的主要特征不同,互為補(bǔ)充,進(jìn)而提取了多種的病害特征,增強(qiáng)了網(wǎng)絡(luò)病害識(shí)別能力。同時(shí)分組卷積存在各分組信息無(wú)法交互的問題,而逐點(diǎn)卷積可以融合通道信息,解決了此問題。如圖3所示,DSConv代表深度可分離卷積,GConv表示分組卷積,SD-BLOCK有2種不同結(jié)構(gòu),結(jié)構(gòu)A(圖3a)用于特征圖減半,結(jié)構(gòu)B(圖3b)使用1×1卷積進(jìn)一步減少參數(shù)。
圖3 SD-BLOCK 模塊Fig.3 SD-BLOCK module
SE[17](Squeeze-and-Excitation)模塊是一個(gè)輕量級(jí)的通道注意力模塊,可以使模型注意到重要的病害特征,同時(shí)弱化其他干擾因素,提升模型病害識(shí)別能力。SE模塊由Squeeze和Excitation 2部分構(gòu)成。
由于卷積計(jì)算只在局部接受域上,無(wú)法獲取更多的上下文信息。為解決這個(gè)問題,Squeeze部分使用了全局平均池化獲取通道維度的上下文信息。單通道特征圖u的上下文信息z的計(jì)算公式為
(3)
式中H——特征圖高度
W——特征圖寬度
Excitation部分主要目的是學(xué)習(xí)通道之間的相關(guān)性。為了做到這一點(diǎn),要滿足2個(gè)條件:①必須有極強(qiáng)的學(xué)習(xí)能力,可以學(xué)習(xí)通道之間的非線性關(guān)系。②學(xué)習(xí)到的應(yīng)是非互斥關(guān)系,以確保對(duì)多個(gè)通道增加注意力。同時(shí)為了限制模型的復(fù)雜度,Excitation部分構(gòu)建了一個(gè)2層瓶頸狀的全連接網(wǎng)絡(luò)。具體計(jì)算公式為
s=σ(W2δ(W1Z))
(W1∈R(C/r)×C,W2∈RC×C/r)
(4)
式中δ——ReLU函數(shù)C——通道數(shù)
σ——Sigmoid函數(shù)
W1——第1層網(wǎng)絡(luò)的參數(shù)
W2——第2層網(wǎng)絡(luò)的參數(shù)
r——中間全連接層的縮減參數(shù)
Z——所有通道的上下文信息
s——通道注意力信息
融合SE模塊的殘差模塊結(jié)構(gòu)如圖4所示,SE模塊加入到殘差模塊的卷積層之后。在卷積層之后先使用全局平均池化聚合特征圖的信息。然后送入兩層全連接網(wǎng)絡(luò)中學(xué)習(xí)各通道權(quán)重,進(jìn)而與輸入特征圖相乘重新調(diào)整網(wǎng)絡(luò)特征。最后和初始特征圖相加實(shí)現(xiàn)殘差學(xué)習(xí)。
圖4 SE-ResNet模塊Fig.4 SE-ResNet module
輕量級(jí)殘差網(wǎng)絡(luò)(Scale-Down ResNet,SDResNet)模型總體結(jié)構(gòu)如表1所示,表中RE-BLOCK代表原殘差模塊。
表1 輕量級(jí)殘差網(wǎng)絡(luò)結(jié)構(gòu)Tab.1 Scale-Down ResNet structure
模型以ResNet-18為基礎(chǔ),首先縮減卷積核的數(shù)目,去除網(wǎng)絡(luò)冗余。本研究構(gòu)建了3個(gè)模型SDResNet-1、SDResNet-2和SDResNet-3,卷積核的數(shù)目分別設(shè)置為(12,24,48,96)、(16,32,64,128)和(24,48,96,192)。考慮到底層提取的特征對(duì)網(wǎng)絡(luò)識(shí)別精度至關(guān)重要,SDResNet保留了網(wǎng)絡(luò)底層的原殘差模塊,使用標(biāo)準(zhǔn)卷積提取底層特征,提高了網(wǎng)絡(luò)的性能。因?yàn)榻?jīng)過縮減后網(wǎng)絡(luò)底層特征通道數(shù)已足夠小,所以這樣做并沒有帶來(lái)過多的參數(shù)和計(jì)算量。網(wǎng)絡(luò)深層特征通道數(shù)仍比較大,SDResNet使用SD-BLOCK減少了大部分參數(shù)和計(jì)算量,同時(shí)保持了低識(shí)別錯(cuò)誤率。最后網(wǎng)絡(luò)融合了SE注意力模塊,進(jìn)一步提升了網(wǎng)絡(luò)性能。
本研究數(shù)據(jù)集選用PlantVillage工程(www.plantvillage.org)面向所有用戶開放的植物病害圖像數(shù)據(jù)庫(kù)[22],它包含26類植物患病葉片圖像和12類植物健康葉片圖像,共54 306幅。數(shù)據(jù)庫(kù)中的圖像均是在室內(nèi)拍攝,拍攝規(guī)范,背景簡(jiǎn)單。數(shù)據(jù)集詳情如表2所示。實(shí)驗(yàn)將圖像統(tǒng)一到224像素×224像素,然后按照4∶1劃分得到訓(xùn)練集和測(cè)試集。
表2 PlantVillage數(shù)據(jù)庫(kù)圖像信息Tab.2 Image information of PlantVillage
蘋果葉片病害數(shù)據(jù)集包含4種蘋果葉片病害圖像和1種健康蘋果葉片圖像,葉片病害分別是黑星病、褐斑病、銹病、花葉病。數(shù)據(jù)集圖像主要來(lái)自Kaggle競(jìng)賽和田間采集,共有2 276幅原始圖像。與PlantVillage數(shù)據(jù)集不同,該數(shù)據(jù)集中所有病害葉片圖像均為自然光照下拍攝且背景復(fù)雜。為均衡各類別圖像,對(duì)部分類別采用隨機(jī)旋轉(zhuǎn)、亮度調(diào)整、對(duì)比度增強(qiáng)、翻轉(zhuǎn)操作擴(kuò)充數(shù)據(jù)集,擴(kuò)充后的數(shù)據(jù)集共有2 973幅圖像,每個(gè)類別約有600幅圖像。圖5給出了蘋果葉片病害數(shù)據(jù)集中5個(gè)類別的樣例。同樣,實(shí)驗(yàn)將圖像調(diào)整到224像素×224像素,訓(xùn)練集和測(cè)試集的比例為4∶1。
圖5 蘋果葉片病害數(shù)據(jù)集樣本Fig.5 Examples of apple leaf disease data set
本研究實(shí)驗(yàn)環(huán)境配置如表3所示,訓(xùn)練epoch設(shè)置為60,學(xué)習(xí)率初始值為0.1,epoch為45時(shí)設(shè)置為0.01,epoch為55時(shí)設(shè)置為0.001。batch設(shè)置為128。
表3 實(shí)驗(yàn)環(huán)境配置Tab.3 Experimental environment configuration
本研究選用識(shí)別錯(cuò)誤率、網(wǎng)絡(luò)參數(shù)量和每秒百萬(wàn)次浮點(diǎn)運(yùn)算(MFLOPs)作為評(píng)價(jià)網(wǎng)絡(luò)的指標(biāo)。
圖6為SDResNet-1、SDResNet-2和SDResNet-3的損失函數(shù)曲線。由圖6可以看出,模型收斂迅速,可以很好地?cái)M合病害特征。這使得SDResNet-3模型在訓(xùn)練3輪后識(shí)別錯(cuò)誤率低于10%,訓(xùn)練5輪后識(shí)別錯(cuò)誤率低于5%。分析原因,模型運(yùn)用殘差學(xué)習(xí)的思想,加入了恒等連接,使網(wǎng)絡(luò)更容易優(yōu)化。并因此構(gòu)建了更深的網(wǎng)絡(luò),提高網(wǎng)絡(luò)擬合病害特征的能力。
圖6 損失函數(shù)曲線Fig.6 Loss function curves
為更好地評(píng)價(jià)所提網(wǎng)絡(luò)的性能,選取現(xiàn)有優(yōu)異的圖像識(shí)別模型ResNet-18、ShuffleNet V2[23]和MobileNet V3[24]與SD-ResNet在PlantVillage數(shù)據(jù)集進(jìn)行實(shí)驗(yàn)對(duì)比。MobileNet V3出自Google AI,是最近發(fā)布的輕量級(jí)網(wǎng)絡(luò)架構(gòu)。ShuffleNet V2是曠視科技推出的最新輕量級(jí)網(wǎng)絡(luò)架構(gòu),相關(guān)論文收錄在ECCV中。
實(shí)驗(yàn)結(jié)果如表4所示,按計(jì)算量正序排列。從識(shí)別錯(cuò)誤率分析,SDResNet-3取得了最優(yōu)的結(jié)果,甚至超過ResNet-18,而前者是后者參數(shù)量和計(jì)算量的幾十分之一。這是因?yàn)獒槍?duì)植物葉片病害識(shí)別問題,SDResNet繼承了ResNet優(yōu)異的殘差結(jié)構(gòu),在幾乎不影響性能的情況下,合理去除了更多的參數(shù)和計(jì)算量。針對(duì)植物葉片病害特征使用SD-BLOCK提取了多種病害特征,使用SE模塊關(guān)注到重要的病害特征,提升了網(wǎng)絡(luò)性能。與其他輕量級(jí)網(wǎng)絡(luò)相比,SDResNet-3在計(jì)算量略小于MobileNet V3情況下,識(shí)別錯(cuò)誤率低于后者。SDResNet-2在計(jì)算量小于ShuffleNet V2 1x情況下,識(shí)別錯(cuò)誤率低于后者。SDResNet-1在計(jì)算量略大于ShuffleNet V2 0.5x情況下,識(shí)別錯(cuò)誤率明顯低于后者。MobileNet V3和ShuffleNet V2并未就植物葉片病害特征針對(duì)性處理,使其無(wú)法更好地提取病害特征,影響了網(wǎng)絡(luò)精度。
表4 卷積神經(jīng)網(wǎng)絡(luò)實(shí)驗(yàn)結(jié)果Tab.4 Convolution neural network experiments
為確定縮減卷積核數(shù)目對(duì)ResNet-18網(wǎng)絡(luò)性能的影響程度,研究構(gòu)建不同的殘差塊卷積核數(shù)的模型進(jìn)行實(shí)驗(yàn)。模型1卷積核數(shù)為(12,24,48,96),模型2卷積核數(shù)為(16,32,64,128),模型3卷積核數(shù)為(24,48,96,192),分別對(duì)應(yīng)SDResNet-1、SDResNet-2、SDResNet-3殘差塊卷積核數(shù)目。實(shí)驗(yàn)結(jié)果如表5所示。
由表5可知,縮減后的模型在網(wǎng)絡(luò)參數(shù)與計(jì)算量大幅減少的同時(shí),識(shí)別錯(cuò)誤率并沒有顯著上升,仍維持在較低水平,這很大程度上得益于殘差結(jié)構(gòu)的設(shè)計(jì),構(gòu)建了較深的網(wǎng)絡(luò),增強(qiáng)了病害特征提取能力。縮減后的模型依然能很好地?cái)M合植物病害特征,具有更少的參數(shù)和計(jì)算量,但識(shí)別錯(cuò)誤率相比ResNet-18仍有不足。同時(shí)可以看出,不同的縮減模型,具有不同的性能,總體上隨著卷積核數(shù)目的增長(zhǎng),模型識(shí)別錯(cuò)誤率也在下降,并逐漸逼近原網(wǎng)絡(luò),但同時(shí)也可以看出隨著網(wǎng)絡(luò)性能的提升,通過單純?cè)黾泳矸e核數(shù)目來(lái)降低識(shí)別錯(cuò)誤率的代價(jià)高昂,因此本研究選擇了SD-BLOCK和SE模塊提升網(wǎng)絡(luò)的性能。
表5 縮減卷積核數(shù)目實(shí)驗(yàn)結(jié)果Tab.5 Reduce convolution kernel experiment
將輕量級(jí)殘差模塊SD-BLOCK和SE模塊加入到網(wǎng)絡(luò)中以探討他們對(duì)網(wǎng)絡(luò)性能的影響。模型1~3與3.5節(jié)定義相同。不同的分組數(shù)和SE參數(shù)對(duì)不同模型的影響不同,本文通過實(shí)驗(yàn)選取最優(yōu)參數(shù)值,將3個(gè)模型的分組卷積參數(shù)依次設(shè)置為12、8、12,SE參數(shù)依次設(shè)置為3、4、6。
實(shí)驗(yàn)結(jié)果如表6所示,單獨(dú)加入SD-BLOCK的模型相比縮減模型(模型1~3)參數(shù)減少了絕大部分,計(jì)算量明顯下降。SD-BLOCK對(duì)模型識(shí)別錯(cuò)誤率的影響不同。因?yàn)槟P?加入SD-BLOCK后變得極小,影響了識(shí)別錯(cuò)誤率,但仍保持了低識(shí)別錯(cuò)誤率,與原模型僅相差0.11個(gè)百分點(diǎn)。模型2較大,加入SD-BLOCK后,識(shí)別錯(cuò)誤率已與原模型相差不大。模型3更大,加入SD-BLOCK后,識(shí)別錯(cuò)誤率降低了0.05個(gè)百分點(diǎn)。這是因?yàn)橹参锊『ν憩F(xiàn)為顏色、紋理、形狀等復(fù)合特征,SD-BLOCK構(gòu)建了多條卷積路徑,通過不同卷積路徑得到的特征圖關(guān)注的主要特征不同,互為補(bǔ)充,進(jìn)而提取了多種病害特征,增強(qiáng)了網(wǎng)絡(luò)病害識(shí)別能力。
表6 SD-BLOCK和SE模塊影響實(shí)驗(yàn)結(jié)果Tab.6 SD-BLOCK and SE influence experiment
單獨(dú)加入SE模塊的模型相比縮減模型參數(shù)和計(jì)算量增加微乎其微,識(shí)別錯(cuò)誤率卻明顯下降,低于縮減模型。說(shuō)明SE是高效的提升網(wǎng)絡(luò)性能的方法。植物葉片病害具有顏色、紋理、輪廓等多種多樣的特征,SE模塊的注意力機(jī)制使網(wǎng)絡(luò)可以增強(qiáng)重要的特征,提升了網(wǎng)絡(luò)的性能。相比單獨(dú)加入SD-BLOCK的模型,這種模型識(shí)別錯(cuò)誤率更低,但擁有更多的參數(shù)和計(jì)算量。
同時(shí)加入SD-BLOCK和SE模塊的網(wǎng)絡(luò)即SDResNet綜合性能最優(yōu),既減少了參數(shù)量和計(jì)算量,又降低了識(shí)別錯(cuò)誤率。SD-BLOCK減少了模型大部分參數(shù)量和計(jì)算量,同時(shí)提取了眾多的病害特征,而SE會(huì)增強(qiáng)重要的病害特征,兩者相互配合,提升了網(wǎng)絡(luò)性能。
PlantVillage數(shù)據(jù)集是公開數(shù)據(jù)集,眾多的學(xué)者基于此研究植物葉片病害識(shí)別。為準(zhǔn)確評(píng)估所提模型的性能,與近期植物病害識(shí)別方法進(jìn)行比較。由于各個(gè)研究的評(píng)價(jià)指標(biāo)不同,在原有評(píng)價(jià)指標(biāo)的基礎(chǔ)上添加了參數(shù)內(nèi)存需求,它表示存儲(chǔ)網(wǎng)絡(luò)參數(shù)所需的空間大小。由表7可知,SDResNet在網(wǎng)絡(luò)參數(shù)量和參數(shù)內(nèi)存需求遠(yuǎn)低于其他方法情況下,識(shí)別錯(cuò)誤率更低。SDResNet-2在網(wǎng)絡(luò)參數(shù)量和參數(shù)內(nèi)存需求大幅減少的情況下,識(shí)別錯(cuò)誤率仍低于或等于其他方法。說(shuō)明針對(duì)植物葉片病害識(shí)別,基于殘差結(jié)構(gòu)搭建深而窄的網(wǎng)絡(luò),并輔以輕量級(jí)的注意力模塊,更為高效。
表7 植物病害識(shí)別方法實(shí)驗(yàn)對(duì)比Tab.7 Experimental comparison of plant disease identification methods
為探討所提方法在不同植物葉片病害數(shù)據(jù)集的效果。在自建蘋果葉片病害數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn),同樣與MobileNet V3、ShuffleNet V2 1x和ResNet-18對(duì)比??紤]到蘋果葉片數(shù)據(jù)集圖像較少且背景復(fù)雜,實(shí)驗(yàn)將訓(xùn)練epoch增大到100,以使模型更好地收斂。訓(xùn)練學(xué)習(xí)率初始值為0.1,epoch為60時(shí)設(shè)置為0.01,epoch為90時(shí)設(shè)置為0.001。分析表8實(shí)驗(yàn)數(shù)據(jù)可知,復(fù)雜背景會(huì)影響植物葉片病害的識(shí)別效果,網(wǎng)絡(luò)識(shí)別錯(cuò)誤率整體升高。相比輕量級(jí)網(wǎng)絡(luò)ShuffleNet V2 1x和MobileNet V3,SDResNet模型的識(shí)別錯(cuò)誤率明顯下降,其中SDResNet-3模型取得了最低識(shí)別錯(cuò)誤率1.52%。原因是SDResNet網(wǎng)絡(luò)底層使用標(biāo)準(zhǔn)卷積,可以更好地提取病害特征,尤其在復(fù)雜的背景中。同樣設(shè)計(jì)的ResNet-18因?yàn)檩^少的訓(xùn)練數(shù)據(jù)和大量的參數(shù)使得網(wǎng)絡(luò)過擬合,識(shí)別錯(cuò)誤率升高,但仍低于輕量級(jí)網(wǎng)絡(luò)ShuffleNet V2 1x和MobileNet V3。實(shí)驗(yàn)表明,SDResNet針對(duì)不同植物葉片病害數(shù)據(jù)集均可以獲得較好的識(shí)別精度。
表8 蘋果葉片病害數(shù)據(jù)集實(shí)驗(yàn)結(jié)果Tab.8 Experiment on data set of apple leaf diseases
針對(duì)植物葉片病害識(shí)別模型參數(shù)眾多,計(jì)算量大且復(fù)雜的問題,提出一種輕量級(jí)植物葉片病害識(shí)別網(wǎng)絡(luò)SDResNet。SDResNet基于縮減的ResNet-18,運(yùn)用SD-BLOCK,在大幅減少參數(shù),降低計(jì)算復(fù)雜度的同時(shí)提取了多種病害特征,保證了低識(shí)別錯(cuò)誤率,加入SE模塊,進(jìn)一步降低了識(shí)別錯(cuò)誤率。在PlantVillage數(shù)據(jù)集上實(shí)驗(yàn)表明,SDResNet識(shí)別錯(cuò)誤率略低于ResNet-18,同時(shí)參數(shù)量約為其1/39,計(jì)算量約為其1/10,具有很強(qiáng)的實(shí)用性。
農(nóng)業(yè)機(jī)械學(xué)報(bào)2022年3期