基于改進輕量級卷積神經(jīng)網(wǎng)絡 MobileNetV3的番茄葉片病害識別

周巧黎 馬麗 曹麗英 于合龍

摘要：番茄病害的及時檢測可有效提升番茄的質量和產(chǎn)量。為實現(xiàn)番茄病害的實時無損傷檢測，本研究提出了一種基于改進 MobileNetV3的番茄葉片病害分類識別方法。首先選擇輕量級卷積神經(jīng)網(wǎng)絡 Mobile? NetV3，在 Image Net 數(shù)據(jù)集上進行預訓練，將預訓練得到的共享參數(shù)遷移到對番茄葉片病害識別的模型上并做微調(diào)處理。采用相同的訓練方法對 VGG16、ResNet50和 Inception-V3三種深度卷積網(wǎng)絡模型也進行遷移學習并進行對比，結果顯示 MobileNetV3的總體學習效果最好，在Mixup混合增強和 focal loss 損失函數(shù)下對10類番茄病害的平均測試識別準確率達到94.68%。在遷移學習的基礎上繼續(xù)改進 MobileNetV3模型，在卷積層引入空洞卷積和感知機結構，采用 GLU （Gated Liner Unit）閘門機制激活函數(shù)，訓練得到最佳的番茄病害識別模型，平均測試的識別準確率98.25%，模型的數(shù)據(jù)規(guī)模43.57 MB ，單張番茄病害圖像的檢測耗時僅0.27 s 。經(jīng)十折交叉驗證（10-Fold Cross-Validation），模型的魯棒性良好。本研究可為番茄葉片病害的實時檢測提供理論基礎和技術支持。

關鍵詞：番茄病害識別;卷積神經(jīng)網(wǎng)絡;遷移學習;MobileNetV3;激活函數(shù);識別分類

中圖分類號：TP391.41;TP183????????? 文獻標志碼：A????????????????? 文章編號：SA202202003

引用格式：周巧黎， 馬麗， 曹麗英， 于合龍.基于改進輕量級卷積神經(jīng)網(wǎng)絡 MobileNetV3的番茄葉片病害識別[J].智慧農(nóng)業(yè)（中英文）， 2022， 4（1）：47-56.

ZHOU Qiaoli， MA Li， CAO Liying， YU Helong. Identification of tomato leaf diseases based on improved light‐ weight convolutional neural networks MobileNetV3[J]. Smart Agriculture， 2022， 4（1）：47-56.（in Chinese with Eng‐lish abstract）

1 引言

番茄在種植和果實產(chǎn)出過程中，容易受天氣、溫度和濕度等各種因素的影響，發(fā)生各種病害從而影響番茄的質量[1]。番茄的根部、莖部和果實都會發(fā)生多種常見的病害，在病害發(fā)生的不同階段會呈現(xiàn)出不同的損傷特征，葉部易發(fā)生的病害主要有細菌斑、葉霉病、早疫病、晚疫病、七星葉斑病、靶斑病、雙斑蜘蛛、花葉病毒，以及黃曲葉病等。番茄病害類別多且病害對葉片的影響程度較為復雜，需要及早地對病害種類和程度做出識別和判斷，噴灑對應的農(nóng)藥進行治療，否則會影響番茄的果實培育，最終影響番茄的質量和產(chǎn)量。

計算機圖像處理技術和深度學習技術的逐漸成熟使植物葉片病害識別有了突破性進展。王建璽等[2]對蘋果葉部病斑進行分割，將病斑的顏色、紋理特征與支持向量機（Support Vector Ma‐ chine ， SVM ）結合實現(xiàn)病害的識別。秦豐等[3] 提取葉部病斑的顏色、形狀和紋理，利用樸素貝葉斯方法和線性判別分析建立了苜蓿葉部病害識別模型。夏永泉等[4]提取小麥病害紋理和顏色特征，采用 SVM 實現(xiàn)小麥病害識別。上述針對植物葉片病害的識別研究都是應用病害的顏色、紋理特征、形狀等信息對病害進行診斷，這些特征的提取都是依靠人工標定方式完成，病害類別的分類不夠準確，進而會影響葉片病害的識別度，該類方法普遍適應性不強。

卷積神經(jīng)網(wǎng)絡可以實現(xiàn)作物病害特征的自動提取，GoogLeNet、AlexNet和ResNet等在作物病害識別方面都已經(jīng)取得非常好的效果。劉婷婷等[5] 采用AlexNet卷積神經(jīng)網(wǎng)絡對水稻紋枯病進行識別，達到了97%的精確度，但病害類別單一且數(shù)據(jù)量不夠豐富。Wu [6] 通過調(diào)整 VGG16和ResNet雙通道卷積神經(jīng)網(wǎng)絡的參數(shù)，對玉米葉部病害識別準確率達到93.33%，但識別率較低且圖像分辨率較高，模型參數(shù)依然龐大，整體識別性能還有待提高。丁瑞和周平[7]參照AlexNet框架，構建卷積神經(jīng)網(wǎng)絡結合遷移學習訓練網(wǎng)絡，測試識別準確率96.18%，識別效果較好。陳桂芬等[8]通過數(shù)據(jù)增強和遷移學習的方式對改進 Inception-V3進行訓練，提取病害圖片特征，對農(nóng)田玉米病害的平均識別準確度達96.6%，分類效果良好。Waheed等[9]提出了一種用于玉米葉部病害識別和分類的優(yōu)化密集卷積神經(jīng)網(wǎng)絡結構，監(jiān)測作物健康狀況，模型的精度達到98.06%。綜上所述，將遷移學習與神經(jīng)網(wǎng)絡相結合，可以有效提高病害的識別精確度，但是所采用的卷積神經(jīng)網(wǎng)絡算法參數(shù)量大，圖像分辨率高，運行時間長，不利于在移動端實現(xiàn)對作物病害的快速實時檢測。

本研究以番茄的病害葉片為主要研究對象，以輕量級卷積神經(jīng)網(wǎng)絡 MobileNetV3[10] 為主干網(wǎng)絡模型，在遷移學習基礎上對模型結構進行改進，并將其與 VGG16、ResNet50和Inception-V3模型進行了試驗對比。

2 數(shù)據(jù)來源及預處理

2.1 試驗數(shù)據(jù)集

試驗研究對象為番茄葉部病害圖像，試驗數(shù)據(jù)集來自 Plant Village [11]公開數(shù)據(jù)集，該平臺包括不同作物的多種病害類別的植物葉片圖像，按照物種和疾病可分為38類。番茄試驗樣本主要包括10類常見的番茄病害葉片，其中早疫病1000幅、晚疫病1909幅、細菌病1320幅、葉霉病952幅、七星葉斑病1771幅、靶斑病1404幅、雙斑蜘蛛1676幅、花葉病毒373幅、黃曲葉病1250幅、健康葉片1591幅。本研究統(tǒng)一采用*.jpg格式，圖像統(tǒng)大小一調(diào)整到64×64像素。

2.2數(shù)據(jù)預處理

2.2.1 普通數(shù)據(jù)增強

為保證試驗數(shù)據(jù)的均衡性、樣本的多樣性和訓練卷積神經(jīng)網(wǎng)絡模型[12]所需樣本的充足性，對試驗數(shù)據(jù)進行了批歸一化和數(shù)據(jù)增強處理[13]。對病害圖像分別做了高斯噪聲添加、亮度增強、對比度變換、隨機裁剪和隨機旋轉操作，以此增強樣本的多樣性，達到盡可能模仿自然環(huán)境下對病害識別的效果。擴充后的病害圖像總數(shù)為18，521張。對數(shù)據(jù)集中10種病害進行相同的增強處理，提高番茄樣本的質量和數(shù)量以及訓練模型的泛化能力。以七星葉斑病為例，擴充示意圖如圖1所示。數(shù)據(jù)增強方法調(diào)整了原始圖像的角度、亮度、模糊度、放大了局部病斑的細節(jié)。

2.2.2? Mixup混合增強

Mixup增強方式[14]是將兩張原圖像按比例進行線性插值來生成新的混合圖像，經(jīng)插值混合后的樣本與真實樣本非常接近。本研究選擇對番茄樣本進行同類混合增強，既增加了樣本的多樣性，又增強了對重要特征的學習。使用Mixup合成新的圖像可以線性疊加兩張原始圖像的特征向量，提升了模型預測訓練樣本以外數(shù)據(jù)的適應性，使預測更具有平滑性。在進行Mixup增強時，隨機選擇同一類別病害中的兩張原始圖像樣本來合成新的番茄圖像。根據(jù)Mixup設置的比例不同，合成的圖像也不同，如圖2為混合系數(shù)λ[15]取值范圍0到1內(nèi)的合成圖像示例。根據(jù)不同比例的合成效果，試驗設置λ值分別為0.3、0.5和0.8對每一類別的病害原始圖像進行隨機抽取以合成新的圖像?；旌虾蟮挠柧殬颖竟灿?5，974張。

在同樣達到數(shù)據(jù)擴充的目的下，數(shù)據(jù)增廣和Mixup混合增強各有其優(yōu)勢，但Mixup混合增強更能增加數(shù)據(jù)的多樣性。

3 識別模型構建

3.1 MobileNetV3模型

MobileNetV3模型以MobileNetV1[16]模型和MobileNetV2[17]模型為基礎，結合了這兩個模型的優(yōu)勢，進一步提高了模型的精度，是效率更高的輕量級卷積神經(jīng)網(wǎng)絡。由于線性整流函數(shù)（ Linear Rectification Function ，ReLU ）在低維空間內(nèi)的工作效率低，不利于特征的提取，易丟失特征信息，因此本研究采用線性瓶頸結構，在通道數(shù)量少的卷積層后使用線性層來代替ReLU函數(shù)，以此來保證提取到的特征信息更加充足。

在 MobileNetV2網(wǎng)絡結構的基礎上，Mobile-NetV3將 SE （Squeeze-and-Excitation ）注意力模塊[18]應用到瓶頸結構中，起到強化突出特征、抑制不明顯特征的作用。在網(wǎng)絡最后的位置，去掉了1×1卷積層，將平均池化層向前移動。采用 h-swish 激活函數(shù)，計算量大大降低。網(wǎng)絡的框架結構屬于輕量級，對硬件的配置要求低，不僅可以實現(xiàn)較高的分類精度，還能夠在手機移動端實現(xiàn)。MobileNetV3主體部分由11個瓶頸結構組成，前3個結構中采用3×3的深度卷積，后面8個采用5×5的深度卷積，瓶頸結構中其他設置均相同。

3.2遷移學習

本研究以 VGG16、ResNet50、Inception-V3以及 MobileNetV3模型這四種算法進行遷移學習[19]，并且對番茄病害圖像進行識別。這四種算法各有其自身的優(yōu)勢，在實際的病害識別應用中都可以起到良好的分類效果，有效節(jié)約檢測時間。

首先，采用大型數(shù)據(jù)集 ImageNet [20]作為網(wǎng)絡預訓練的源域，將預訓練得到的模型權重等信息遷移到對番茄病害識別的模型上，通過已有的先驗知識可以對類似的識別任務做出高效的處理;然后在對番茄病害圖像訓練的過程中，對模型中的參數(shù)進行微調(diào)[21]，得到最終的番茄病害識別模型。在遷移學習過程中，凍結所有卷積層并將最后的輸出層去掉，剩余的網(wǎng)絡可視為一個用來提取特征的容器，在番茄葉片數(shù)據(jù)集的訓練中，將提取到的特征輸入分類器，對病害類別做出預測。將網(wǎng)絡的輸出轉換為適合于番茄分類任務的10類輸出，實現(xiàn)對番茄病害任務的精準預測。各模型遷移訓練的識別算法流程如圖3所示。

3.3 MobileNetV3模型的改進

3.3.1 多層感知機

多層感知機[22]?? （Multilayer? Perceptron， MLP ）可以作為一個小型網(wǎng)絡嵌入到深度網(wǎng)絡中，相當于一個分類器，可實現(xiàn)不同類別的分類輸出。本研究將原模型中瓶頸結構（bottleneck 模塊）中的5×5卷積后加上1×1卷積層作為感知機的全連接層，并引入ReLU激活函數(shù)，構成感知器嵌入到深層網(wǎng)絡中。感知器中的ReLU作為非線性激活函數(shù)，可以使網(wǎng)絡的非線性表達能力得到提升，而感知機結構可以實現(xiàn)特征的重用，這樣可以提高卷積神經(jīng)網(wǎng)絡的局部感知能力，使擬合能力得到增強。MLP結構見圖4，圖中 MLP layer層即為在5×5卷積基礎上構建的感知機結構，能夠靈活地添加網(wǎng)絡層次且其全連接層是由1×1卷積組成，相比傳統(tǒng)的全連接，在實現(xiàn)分類作用的同時可以省去大量的參數(shù)，節(jié)約了網(wǎng)絡的計算成本。

3.3.2 空洞卷積

空洞卷積[23]在傳統(tǒng)卷積計算中引入了膨脹系數(shù) r ，擴張卷積核的同時保持參數(shù)量不增加，可以使卷積核提取更多的特征信息，有利于對模型的學習訓練。番茄病害種類多樣，不同病害間具有一定的相似性，發(fā)病初期，病斑微小，難于對病斑的細節(jié)紋理信息進行提取。此外，病斑葉片顏色與健康葉片非常接近，且難以對病斑的邊緣、輪廓等特征作區(qū)分。

在不同的瓶頸結構中設置不同尺寸的卷積核，有利于更深層次抽象特征的提取，使之與目標對象更加接近。因此，本研究在 MobileNetV3的最后兩個 bottleneck 模塊中引入了空洞卷積，r 分別為2和4。如圖5所示，三張圖對應的初始卷積核大小都為3×3， r 從左至右分別為1、2、4，感受野分別為3×3、5×5、9×9。可以看出 r 的增大使得感受野也明顯增大，且沒有增加運算消耗，卷積核計算參數(shù)依然同初始卷積核一樣。

3.3.3 GLU 函數(shù)

GLU （ Gated Liner Unit ）、 GTU單元[24]是基于閘門機制（ Gate Mechanism ） 的激活函數(shù)， GLU 擁有線性通道在經(jīng)過激活的神經(jīng)元時不會出現(xiàn)梯度消失的問題，有利于建模過程中的反向傳播，加速網(wǎng)絡收斂，防止梯度彌散。

GLU的表達式為：

hl （x ）=（x × W + b）?σ（x × V + c） （1）

其中，x 表示第 l層的輸入; hl 表示該層的輸出信息; W和 V代表卷積核參數(shù); c代表偏置參數(shù)。在第 l 層，輸入值 x 經(jīng)過核參數(shù) W 與偏置 b 的卷積處理后，由參數(shù)為 V與 c的卷積處理并激活的輸出門來控制當前層的輸出結果。保留更重要的信息輸入到下一層，加強病害特征的學習和識別。MobileNetV3網(wǎng)絡結構改進后的示意圖如圖6。

4結果與分析

4.1試驗環(huán)境

番茄葉片病害識別模型的訓練和測試均是基于深度學習框架Pytorch完成的。硬件環(huán)境采用Intel （ R ） Celeron （ R ） CPU N3150@1.60GHz1.60 GHz ，內(nèi)存4G ，GPU 采用 NVIDIA GeForce顯卡，4 GB 顯存。采用 Windows 7操作系統(tǒng)，Pycharm編譯環(huán)境和Python3.7語言。每次試驗運行60輪（epochs），綜合考慮內(nèi)存原因和模型的泛化能力，將batch size 定為64。學習率依次選取了1×10-5、1 ×10-4、1×10-3和1×10-2，當leaning rate 數(shù)值為1×10-3時模型訓練的效果最好。采用 Adam優(yōu)化算法和ReLU激活函數(shù)。

4.2遷移方法驗證

為確定遷移學習方法的有效性，分別對VGG16、? Inception-V3、? ResNet50 和 Mobile‐NetV3網(wǎng)絡模型的識別性能和遷移學習的試驗結果作對比分析，如圖7所示。曲線的起點由原來的19%～35%提高到55%～74%，初始性能明顯提升。遷移訓練的 MobileNetV3曲線在訓練達到10輪時就可以收斂，相比原來的20輪有所提前。而 VGG16、 Inception-V3和 ResNet50在訓練25輪后也收斂，準確率相比之前有大幅提升。且基于遷移學習的曲線在訓練過程中更趨于穩(wěn)定。

圖8為四種遷移學習算法對番茄葉片病害識別的效果對比?？梢?，MobileNetV3遷移算法對番茄葉片病害的識別率更加精確，且在訓練10輪的時候曲線已經(jīng)收斂，與其他三種算法相比提前了15輪達到收斂狀態(tài);而且 MobileNetV3遷移算法在訓練過程中曲線震蕩幅度較小，更加穩(wěn)定，呈現(xiàn)出了更佳的訓練狀態(tài)。綜上所述，Mo ‐bileNetV3遷移算法更適合番茄葉片病害識別任務。

4.3 MobileNetV3遷移模型在不同試驗方案下的識別結果

經(jīng)遷移學習對番茄病害葉片的測試， Mo ‐bileNetV3模型取得了最優(yōu)的識別效果。為檢測損失函數(shù)和數(shù)據(jù)增強對模型性能的影響，針對番茄葉片的普通增強和Mixup混合增強兩種增強方式，分別選用 Focal loss 損失函數(shù)以及 Cross en‐tropy loss函數(shù)進行測試，形成四種不同的組合方案。準確率和損失變化如表1所示。

由表1可知，四種試驗方案下模型的識別精度相差不大，但損失變化的差異相對較明顯，其中方案 F 和方案 FX 下的識別準確率比方案 C 和CX 下的準確率提升0.05%～0.11%;而方案 F 和方案 FX下的損失值也明顯比方案 C和 CX下的損失值降低5%左右。這說明與使用 Cross entropyloss函數(shù)相比，使用 Focal loss函數(shù)的模型總體識別性能更好。

此外，方案 FX 和方案 F 相比，準確率提高0.37%、損失值下降1.47%;方案 CX和方案 C相比，準確率提高0.31%、損失值下降0.61%，這說明在同一損失函數(shù)下，采用Mixup混合增強方式比普通增強方式的分類效果更好，Mixup混合增強有助于提高深度網(wǎng)絡模型的識別性能。

4.4基于遷移學習的 MobileNetV3改進前后結果對比

4.4.1 模型識別性能的提升

如圖9所示，MobileNetV3曲線代表4.3節(jié)的遷移模型的識別曲線，dilated標識的曲線代表遷移 MobileNetV3模型采用空洞卷積和感知機的識別變化; dilated and GLU 曲線代表遷移 Mobile‐ NetV3模型在 dilated曲線的基礎上，進一步采用 GLU 函數(shù)的模型識別變化。從圖9中可以看出，在訓練達到相同輪數(shù)的情況下，改進后的模型的識別精度有所提升。相比遷移學習的94.68%的識別率，在空洞卷積和感知機相結合的情況下識別率可提升2.62%，進一步采用 GLU函數(shù)可以使識別率再次上升0.85%。說明本研究方法提高了模型的識別精度，識別性能得到提升。

從表2可以看到，VGG16模型的測試準確率僅有86.62%，ResNet50和 Inception-V3測試準確率分別為89.95%和90.26%;而 MobileNetV3模型測試準確率達94.68%，在對 MobileNetV3模型結構改進之后，準確率達到了98.25%，提升了3.57%，識別效果達到最優(yōu)。

在識別過程中，ResNet50對單張圖片檢測時間為1.54 s 。VGG16與 Inception-V3的平均檢測時間分別是0.57 s和0.55 s ，MobileNetV3模型的識別檢測平均耗時為0.39 s 。GLU函數(shù)加速了網(wǎng)絡的收斂，單張圖像的識別時間縮減為0.27 s，縮短了0.12 s ，且數(shù)據(jù)規(guī)模最小，更適合番茄病害的檢測。

4.4.2 各類別病害識別準確率的提高

如圖10所示，為改進后模型對病害分類效果的混淆矩陣圖。其中0～9分別代表番茄細菌病、早疫病、晚疫病、葉霉病、七星葉斑病、靶斑病、雙斑蜘蛛、花葉病毒、黃曲葉病、健康葉片的類別?？梢钥吹礁倪M后的模型對于病害類別分類錯誤的樣本數(shù)明顯減少。

表3列舉了遷移 MobileNetV3模型改進前后各類別病害的識別率，其中番茄健康葉片、雙斑蜘蛛和葉霉病的識別率均提高6%～7%，其它類別平均提高3%左右。10個類別的番茄葉片病害的平均識別準確率為98.25%，與原來的94.68%相比提升了3.57%。試驗表明在遷移學習的基礎上對模型的改進方法是可行的，有助于番茄葉片病害的分類識別。

4.5模型識別性能評價

本試驗采用交叉驗證方法[25]作為評價標準來衡量模型對番茄葉片病害的識別性能，采用十折交叉驗證（ 10-Fold Cross-Validation ）對模型進行評價。將番茄葉片病害圖像分為10份，依次選取其中的9份作為訓練集，另外1份作為測試集。取10次測試結果的均值，作為模型魯棒性的評價標準。1～10次試驗的識別準確率分別為96.78%、98.51%、97.31%、98.22%、98.17%、99.05%、 98.66%、 98.93%、 97.72%、 99.17%，平均測試準確率為98.25%。10次測試的精度相差無幾，表明改進的 MobileNetV3模型具有一定的穩(wěn)定性和可靠性。

5 結論

本研究在卷積神經(jīng)網(wǎng)絡 MobileNetV3遷移學習的基礎上，改進了激活函數(shù)和瓶頸層結構的卷積層，構建番茄病害識別模型，輸出10類番茄葉片病害的對應類別。對本研究提出的病害識別方法進行試驗和分析，得出以下結論。

（1） 采用輕量級網(wǎng)絡在深度學習的識別任務中更具有優(yōu)勢。與 VGG16、ResNet50和Incep‐tion-V3深度遷移模型相比，輕量級網(wǎng)絡 Mobile ‐NetV3對番茄病害識別的效果更好，平均準確率98.25%、單張圖像識別時間0.27 s 、模型數(shù)據(jù)占用內(nèi)存43.57 MB ，更有利于在移動 APP 上實現(xiàn)對番茄葉片病害的實時檢測，提高檢測效率。

（2） 采用遷移學習策略有助于提升網(wǎng)絡的識別性能，但是其作用依然有局限性，通過將遷移學習與Mixup混合增強結合，并采取更適合的損失函數(shù)，可以將 MobileNetV3網(wǎng)絡的識別率由94.57%提升至98.25%，并且網(wǎng)絡訓練更穩(wěn)定。

（3） 針對番茄不同病害間葉片及病斑顏色相近、形狀相似的不易區(qū)分的特點，對模型的卷積層進行改進，添加空洞卷積和感知機結構可以輔助病斑特征的提取，提高2.62%的識別精度;將激活函數(shù)改進為 GLU 門控機制函數(shù)，識別時間縮短0.12 s ，可加速網(wǎng)絡的收斂。

（4） 采用十折交叉驗證方法對模型的穩(wěn)定性和可靠性進行更準確的評價，平均測試準確率98.25%。

研究結果表明在遷移學習的基礎上對 Mo ‐bileNetV3模型進行改進，有助于提高對番茄葉片病害識別的整體效果?？紤]到實際病害識別中圖像背景往往較為復雜，后續(xù)將會收集一些自然環(huán)境中的多種作物病害圖像，對模型進行更加輕量化的改進，致力于開發(fā)出可應用于移動端的作物病害識別系統(tǒng)。

參考文獻：

[1] 張創(chuàng)創(chuàng)， 袁帥坤， 霍克坤.影響番茄生產(chǎn)效益的因素[J].湖北農(nóng)機化， 2020（12）：33-34.

ZHANG C， YUAN S， HUO K. Factors affecting toma‐to production efficiency[J]. Hubei Agricultural Mecha‐nization， 2020（12）：33-34.

[2] 王建璽， 寧菲菲， 魯書喜.基于支持向量機的蘋果葉部病害識別方法研究[J].山東農(nóng)業(yè)科學， 2015， 47（7）：122-125， 141.

WANG J， NING F， LU S. Study on apple leaf disease identification? method? based? on? support? vector? ma‐ chine[J]. Shandong Agricultural? Science， 2015， 47（7）：122-125， 141.

[3] 秦豐， 劉東霞， 孫炳達， 等.基于圖像處理技術的四種苜蓿葉部病害的識別[J].中國農(nóng)業(yè)大學學報 ， 2016， 21（10）：65-75.

QIN F， LIU D， SUN B， et al. Recognition of four dif‐ferent alfalfa leaf diseases based on image processing technology[J]. Journal of China Agricultural Universi‐ ty， 2016， 21（10）：65-75.

[4] 夏永泉， 李耀斌， 李晨.基于圖像處理技術的小麥葉部病害識別研究[J].科技通報， 2016， 32（4）：92-95.

XIA Y， LI Y， LI C. Recognition of wheat leaf disease based on image processing technology[J]. Science and Technology Bulletin， 2016， 32（4）：92-95.

[5] 劉婷婷， 王婷， 胡林.基于卷積神經(jīng)網(wǎng)絡的水稻紋枯病圖像識別[J].中國水稻科學， 2019， 33（1）：90-94.

LIU T， WANG T， HU L. RhizocotoniaSolanirecogni‐tion algorithm based on convolution neural network[J]. China Journal of Rice Science， 2019， 33（1）：90-94.

[6] WU Y. Identification of maize leaf diseases based onconvolutional ?neural? network[J]. Journal? of Physics： Conference Series， 2021， 1748（3）： ID 032004.

[7] 丁瑞， 周平.基于卷積神經(jīng)網(wǎng)絡的典型農(nóng)作物葉病害識別算法[J].包裝學報， 2018， 10（6）：74-80.

DING R， ZHOU P. Identification of typical crop leaf diseases? based? on? convolutional? neural? network[J]. Packaging Journal， 2018， 10（6）：74-80.

[8] 陳桂芬， 趙姍， 曹麗英， 等.基于遷移學習與卷積神經(jīng)網(wǎng)絡的玉米植株病害識別[J].智慧農(nóng)業(yè) ， 2019， 1（2）：34-44.

CHEN G， ZHAO S， CAO L， et al. Corn plant disease recognition based on migration learning and convolu‐tional? neural? network[J]. Smart? Agriculture， 2019， 1（2）：34-44.

[9] WAHEED A， MUSKAN G， GUPTA D， et al. An opti‐mized? dense? convolutional neural network model? for disease? recognition? and? classification? in? corn? leaf[J]. Computers and Electronics in Agriculture， 2020， 175：ID 105456.

[10]常江， 管聲啟， 師紅宇， 等.基于改進生成對抗網(wǎng)絡和MobileNetV3的帶鋼缺陷分類[J].激光與光電子學進展， 2021， 58（4）：221-226.

CHANG J， GUAN S， SHI H， et al. Strip defect classifi‐ cation based? on? improved? generative? adversarial net‐ works? and? MobileNetV3[J]. Laser & Optoelectronics Progress， 2021， 58（4）：221-226.

[11] FAYE M， CHEN B， KANE A S. Plant disease detec‐tion? with? deep? learning? and? feature? extraction? using plant village[J]. Journal of Computer and Communica‐tions， 2020， 8（6）：10-22.

[12] WANG X， ZHANG C， ZHANG S. Multiscale convolu‐tional neural networks with attention for plant speciesrecognition[J]. Computational Intelligence and Neuro‐science， 2021， 2021： ID 5529905.

[13] ZOHAIB? M，? SHUN? F，? QUOC? V. Spectral? imagesbased? environmental? sound? classification? using? CNNwith meaningful data augmentation[J]. Applied Acous‐tics， 2021， 172：ID 107581.

[14]陸健強， 林佳翰， 黃仲強， 等.基于Mixup算法和卷積神經(jīng)網(wǎng)絡的柑橘黃龍病果實識別研究[J].華南農(nóng)業(yè)大學學報， 2021， 42（3）：94-101.

LU J， LIN J， HUANG Z， et al. Identification of citrusfruit infected with Huanglongbing based on Mixup al‐gorithm? and? convolutional neural network[J]. Journalof South? China Agricultural? University， 2021， 42（3）：94-101.

[15]葛麗君.混合 beta 分布的建模方法研究[J].南國博覽， 2019（4）：166.

[16]易強， 李成娟， 李寶清， 等.基于改進 MobileNetV1網(wǎng)絡的野外車輛識別[J].工業(yè)控制計算機， 2020， 33（7）：104-107.

YI Q， LI C， LI B， et al. Field vehicle recognition basedon improved MobileNetV1 network[J]. Industrial Con‐trol Computer， 2020， 33（7）：104-107.

[17]陳智超， 焦海寧， 楊杰， 等.基于改進 MobileNetV2的垃圾圖像分類算法[J].浙江大學學報（工學版）， 2021，55（8）：1490-1499.

CHEN Z， JIAO H， YANG J， et al. Garbage image classi‐fication algorithm based on improved MobileNetV2[J].Journal of Zhejiang University （Engineering Edition），2021， 55（8）：1490-1499.

[18] LI X， SHEN X， ZHOU Y， et al. Classification of breastcancer? histopathological? images? using? interleavedDenseNet with? SENet （IDSNet）[J]. PLoS One， 2020，15（5）： ID e0232127.

[19]李淼 ， 王敬賢 ， 李華龍 ， 等.基于 CNN 和遷移學習的農(nóng)作物病害識別方法研究[J].智慧農(nóng)業(yè) ， 2019， 1（3）：46-55.

LI M， WANG J， LI H， et al. Method for crop diseaseidentification based? on? CNN? and transfer learning[J].Smart Agriculture， 2019， 1（3）：46-55.

[20] MOON J， HOSSAIN M B， CHON K H. AR and AR‐MA? model? order? selection? for? time-series? modelingwith? ImageNet? classification[J]. Signal? Processing，2021， 183（10）： ID 108026.

[21]姚燕， 胡立坤， 郭軍.基于深度遷移網(wǎng)絡 MobileNetV3的地形識別[J].廣西大學學報（自然科學版）， 2021， 46（4）：996-1007.

YAO Y， HU L， GUO J. Terrain recognition based ondeep? migration? network? MobileNetV3[J]. Journal? ofGuangxi? University （Natural? Science? Edition）， 2021， 46（4）：996-1007.

[22] AMAHAN P A， VILLARICA M V， VINLUAN A A.Technical analysis of Twitter data in preparation of pre‐ diction using multilayer perceptron algorithm[C]// Pro‐ceedings of 20214th International Conference on Data Science? and? Information? Technology （DSIT 2021）. New York， USA： Association for Computing Machin‐ery， 2021：120-124.

[23] KUMAR V， SINGH R， DUA Y. Morphologically dilat‐ed convolutional neural network for hyperspectral im‐ age? classification[J]. Signal? Processing： Image? Com ‐munication， 2022， 101： ID 116549.

[24]耿海波.基于 U-Net模型的單聲道唱聲分離研究[D].烏魯木齊：新疆大學， 2020.

GENG H. Research on mono singing sound separationbased on U-Net model[D]. Urumqi： Xinjiang Universi‐ty， 2020.

[25] MABUNI D， BABU S A. High accurate and a variantof k-fold cross validation technique for predicting thedecision tree classifier accuracy[J]. International Jour‐nal of Innovative Technology and Exploring Engineer‐ing， 2021， 10（2）：105-110.

Identification of Tomato Leaf Diseases Based on Improved Lightweight Convolutional Neural Networks MobileNetV3

ZHOU Qiaoli， MA Li* ， CAO Liying， YU Helong*

（College of Information Technology， Jilin Agricultural University， Changchun 130118， China ）

Abstract： Timely detection and treatment of tomato diseases can effectively improve the quality and yield of tomato. In order to realize the real-time and non-destructive detection of tomato diseases， a tomato leaf disease classification and recognition meth‐ od based on improved MobileNetV3 was proposed in this study. Firstly， the lightweight convolutional neural network Mobile‐ NetV3 was used for transfer learning on the image net data set. The network was initialized according to the weight of the pre training model， so as to realize the transfer and fine adjustment of large-scale shared parameters of the model. The training meth‐ od of transfer learning could effectively alleviate the problem of model over fitting caused by insufficient data， realized the accu‐ rate classification of tomato leaf diseases in a small number of samples， and saved the time cost of network training. Under the same experimental conditions， compared with the three standard deep convolution network models of VGG16， ResNet50 and In‐ ception-V3， the results showed that the overall performance of MobileNetV3 was the best. Next， the impact of the change of loss function and the change of data amplification mode on the identification of tomato leaf diseases were observed by using MobileNetV3 convolution network. For the test of loss value， focal loss and cross entropy function were used for comparison， and for the test of data enhancement， conventional data amplification and mixup hybrid enhancement were used for comparison. After testing， using Mixup enhancement method under focal loss function could improve the recognition accuracy of the model， and the average test recognition accuracy of 10 types of tomato diseases under Mixup hybrid enhancement and focal loss func‐tion was 94.68%. On the basis of transfer learning， continue to improve the performance of MobileNetV3 model， the dilated convolution convolution with expansion rate of 2 and 4 was introduced into convolution layer， 1×1 full connection layer after deep convolution of 5×5 was connected to form a perceptron structure in convolution layer， and GLU gating mechanism activa‐tion function was used to train the best tomato disease recognition model. The average test recognition accuracy was as high as 98.25%， the data scale of the model was 43.57 MB， and the average detection time of a single tomato disease image was only 0.27s， after ten fold cross validation， the recognition accuracy of the model was 98.25%， and the test results were stable and reli‐ able. The experiment showed that this study could significantly improve the detection efficiency of tomato diseases and reduce the time cost of disease image detection.

Key words： tomato disease identification; convolutional neural networks; transfer learning; MobileNetV3; activation function; identification and classification