基于AlexNet優(yōu)化的板材材種識別方法*

楊楠楠 白 巖 姜蘇譯 楊春梅 徐凱宏

(1.東北林業(yè)大學(xué)信息與計算機工程學(xué)院 哈爾濱 150040； 2.東北林業(yè)大學(xué)機電工程學(xué)院 哈爾濱 150040)

板材具有強度高、質(zhì)量輕、易加工等優(yōu)點，廣泛應(yīng)用于人們?nèi)粘Ｉ畹母黝I(lǐng)域，是生產(chǎn)建設(shè)中不可或缺的工業(yè)原材料之一； 但不同木材的質(zhì)地、強度等性能差異較大，準(zhǔn)確識別板材材種才能正確使用木材(孫芳利等， 2017)。傳統(tǒng)木材識別大多依靠人工方法借助顯微鏡肉眼分辨，根據(jù)紋理、導(dǎo)管和軸向細胞等特征進行判斷，識別準(zhǔn)確性受很多因素限制，據(jù)統(tǒng)計，因木材表面紋理、色差和缺陷的影響，我國實木原料的損失和浪費率每年約10%(李好， 2012)，板材的準(zhǔn)確識別和利用是亟待解決的問題。

近年來，隨著計算機技術(shù)和機器學(xué)習(xí)方法的發(fā)展，機器學(xué)習(xí)技術(shù)大量應(yīng)用于各種圖像的分類識別(劉棟等， 2016； 林澤文， 2018)，顯微圖像處理與機器學(xué)習(xí)技術(shù)相結(jié)合的應(yīng)用也較為廣泛(孔祥溢等， 2016)。木材端面細胞圖像包含豐富的信息，細胞在微觀層面的特征參數(shù)可以準(zhǔn)確反映木材的宏觀特性，將木材細胞圖像與機器學(xué)習(xí)技術(shù)相結(jié)合進行板材材種分類研究，前景非常廣闊。高潔等(2006)采用模板匹配法，基于RGB色彩空間對木材端面細胞進行特征提取和分類，并建立了不同的量化標(biāo)準(zhǔn)； 于海鵬等(2007)結(jié)合紋理查找表與SVM方法對木材細胞圖像進行分類，獲得了80%的識別準(zhǔn)確率； 白雪冰等(2005)對細胞圖像進行歸一化，基于灰度共生矩陣提取紋理特征建立分類器并識別。一般的機器學(xué)習(xí)方法在測試集中能夠獲得良好的識別率，但是模型魯棒性較差，用于實踐中效果不佳，由此學(xué)者開始探討將深度學(xué)習(xí)應(yīng)用于木材種類識別。Zhao等(2014)提出基于卷積神經(jīng)網(wǎng)絡(luò)的木材宏觀圖像分類模型，對熱帶樹種進行分類訓(xùn)練，準(zhǔn)確率達86%；為了更加便捷、高效地識別木材種類，基于木材端面細胞的線性特征，呂鴻蒙等(2017)建立了AlexNet神經(jīng)網(wǎng)絡(luò)木材識別模型。

本研究以5種木材端面細胞為研究對象，提取多種差異性圖像作為數(shù)據(jù)集，通過圖像處理提取特征信息，分別采用支持向量機(support vector machine, SVM)和AlexNet神經(jīng)網(wǎng)絡(luò)進行分類識別。根據(jù)木材端面細胞區(qū)分的差異性，在AlexNet神經(jīng)網(wǎng)絡(luò)架構(gòu)中加入BN算法進行優(yōu)化，設(shè)計一種更高效的板材識別方法提高木材識別準(zhǔn)確率，以實現(xiàn)木材高效利用，為珍稀木材種類判別和保護提供依據(jù)。

1 圖像預(yù)處理

木材端面細胞顯微切片或涂片制作過程中需進行染色等操作，觀察到的木材端面細胞圖像含有噪聲等干擾因素，故需對提取的木材端面細胞圖像進行預(yù)處理。首先將端面細胞圖像灰度化，基于自適應(yīng)中值濾波降噪，然后通過直方圖均衡化增強圖像對比度，最后采用基于邊緣檢測的分割方法分割圖像。

本研究選取我國具有代表性的5種樹木，分別為臭冷杉(Abiesnephrolepis)、長白落葉松(Larixolgensis)、魚鱗云杉(Piceajezoensisvar.microsperma)、鵝掌楸(Liriodendronchinense)和凹葉厚樸(Magnoliaofficinalissubsp.biloba)，表1列出了其主要生長地區(qū)和樹種信息。

表1 試驗樹種信息Tab.1 Information of experimental tree species

采用光學(xué)顯微鏡將早材木材橫切面細胞通過CCD攝像頭成像，并輸入到計算機中。光學(xué)顯微鏡采集的樣本圖像如圖1所示。

1.1 自適應(yīng)中值濾波

中值濾波(median filtering)是一種非線性平滑技術(shù)，屬空域平滑濾波范疇，其工作原理是選定一個大小固定的濾波窗口，該窗口中心像素大小用該濾波窗口中所有像素點值的中值替代(耿帥等， 2011)。由于細胞圖像背景較為單一，相比普通中值濾波，采用自適應(yīng)中值濾波(adaptive median filtering)能更好篩除噪聲點，同時在濾波過程中，可根據(jù)預(yù)先設(shè)定好的條件自動調(diào)節(jié)濾波窗口大小。以臭冷杉為例，濾波結(jié)果如圖2所示。

圖1 5種木材端面細胞圖像Fig. 1 The five kinds of wood cell images on end facesa. 臭冷杉 A. nephrolepis； b. 長白落葉松 L. olgensis； c. 魚鱗云杉 P. jezoensis var. microsperma； d. 鵝掌楸 L. chinense； e. 凹葉厚樸 M. officinalis subsp. biloba.

圖2 臭冷杉端面細胞圖像濾波結(jié)果Fig. 2 The image filtering results of A. nephrolepis cell on end facesa. 含有噪聲的細胞圖像The cell image with noise； b. 中值濾波后的細胞圖像The cell image with median filtering； c. 自適應(yīng)中值濾波后的細胞圖像The image with adaptive median filtering.

1.2 直方圖均衡化

圖像由許多不同灰度的像素點構(gòu)成，像素點灰度分布情況能夠反映出圖像中的大量信息。圖像灰度直方圖可直觀表述像素點灰度分布情況以及各灰度級所含像素點的數(shù)量或比例。算法實現(xiàn)步驟(簡麗瓊， 2015)如下：

1) 分析原始圖像的灰度級hi，i=0,1,…,k,…,L-1，其中L為圖像灰度級數(shù)目；

2) 求出原始圖像直方圖中灰度分布概率ph(hi)=mi/m，其中mi為不同灰度級像素數(shù)，m為圖像總像素數(shù)；

4) 計算映射后新的量化等級fj=INT[(fmax-fmin)T(h)+fmin+0.5]，其中INT為取整符號，j=0,1,…,k,…,t-1，t為輸出圖像灰度級數(shù)目；

7) 利用映射關(guān)系改變原始圖像灰度級，獲得表現(xiàn)為近似灰平均分布的圖像。

以長白落葉松為例，端面細胞圖像直方圖均衡化處理效果如圖3所示。

圖3 長白落葉松端面細胞圖像直方圖均衡化處理效果Fig. 3 The processing effect of histogram equalization of the image of L. olgensis cell on end facesa. 原始端面細胞圖像The original image of cell on end faces； b. 端面細胞圖像直方圖均衡化The image of cell on end faces with histogram equalization.

1.3 邊緣檢測

邊緣檢測是圖像分割的一種常用方法，其基本思想是確定圖像中邊緣像素。圖像中各區(qū)塊具有特定灰度值，邊界通常有明顯的邊緣區(qū)分，基于區(qū)域連接性特征進行邊界檢測，可通過對圖像中邊緣像素點的灰度值求導(dǎo)檢測邊緣并進行分割。求導(dǎo)常用的微分算子(Marretal., 1980； Muntarinaetal., 2021)包括Sobel算子、Laplace算子、Canny算子等。由于微分運算是通過模塊和圖像卷積實現(xiàn)的，實際應(yīng)用中各微分算子常用小區(qū)域模塊表示。以魚鱗云杉為例，圖4分別展示了采用Sobel算子、Laplace算子和Canny算子進行邊緣檢測的分割結(jié)果。比較可見，采用Canny算子進行圖像分割后的效果最好，所得細胞圖像邊緣分割完整且無斷裂情況，明顯優(yōu)于Sobel算子和Laplace算子的圖像分割效果。因此，本研究采用Canny算子進行圖像分割。

2 SVM分類

支持向量機(SVM)是一個二值分類器，在小樣本分類條件下，可以取得較好分類結(jié)果。SVM模型構(gòu)建過程中，核函數(shù)選擇對于SVM性能至關(guān)重要，鑒于樣本圖像的線性關(guān)系，本研究選用高斯徑向基(radial basis function, RBF)核函數(shù)，其可將樣本映射到更高維的空間，能夠處理特征與類標(biāo)簽之間的非線性關(guān)系，具有很強局部性，且非常靈活。基于處理后的端面細胞圖像特征，支持向量機算法(Cortesetal.， 1995)的實現(xiàn)流程如下：

1) 獲取訓(xùn)練集樣本 (xi,yi)，i=1,2,…,n；

2) 代入支持向量機模型的核函數(shù)以及錯分懲罰因子C；

3) 形成二次優(yōu)化問題并求解；

5) 將測試樣本輸入進行測試。

表2通過混淆矩陣顯示將90張臭冷杉、86張長白落葉松、92張魚鱗云杉、88張鵝掌楸和90張凹葉厚樸端面細胞圖像分別輸入SVM分類器測試的分類結(jié)果，多分類器(one-oversus-rest)模型參數(shù)σ=4、C=64。圖5更加直觀展示了板材材種識別結(jié)果。

由表2和圖5可知，臭冷杉、魚鱗云杉和長白落葉松3種針葉林與鵝掌楸、凹葉厚樸2種闊葉林的特征差別明顯，二者之間不存在誤分現(xiàn)象，3種針葉林的識別準(zhǔn)確率為82.97%，2種闊葉林的識別準(zhǔn)確率為90.10%。

將5種測試樣本標(biāo)記label后放入同一文件夾進行SVM分類器整體批量測試，結(jié)果顯示整體識別準(zhǔn)確率為84.67%。

圖4 魚鱗云杉基于邊緣檢測的端面細胞圖像分割效果Fig. 4 The segmentation effect diagram of the image of P. jezoensis var. microsperma cell on end faces based on edge detectiona. 原始端面細胞圖像The original image of cell on end faces； b. Sobel算子邊緣檢測后的細胞圖像The cell image with Sobel operator edge detection； c. Laplace算子邊緣檢測后的細胞圖像The cell image with Laplace operator edge detection； d. Canny算子邊緣檢測后的細胞圖像The cell image with Canny operator edge detection.

表2 基于支持向量機的板材材種分類結(jié)果混淆矩陣Tab.2 The confusion matrix of wood species classification results based on support vector machine

3 基于優(yōu)化的AlexNet神經(jīng)網(wǎng)絡(luò)的板材分類識別

3.1 AlexNet神經(jīng)網(wǎng)絡(luò)的實現(xiàn)

卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程中，需要大數(shù)量訓(xùn)練數(shù)據(jù)集，因此需對原始端面細胞圖像進行數(shù)據(jù)增強，以擴充訓(xùn)練樣本數(shù)量級，使卷積神經(jīng)網(wǎng)絡(luò)更好地擬合。將5種木材端面細胞圖像依次進行鏡像翻轉(zhuǎn)和隨機裁剪，在原始細胞圖像上進行10次裁剪，使樣本集數(shù)量擴充為原來的10倍，最后得到樣本總量為29 680張。

本試驗在Caffe深度學(xué)習(xí)框架上進行網(wǎng)絡(luò)搭建、訓(xùn)練和測試(Jiaetal., 2014)。Caffe底層采用C++語言編寫，且有Python和MATLAB接口，對卷積神經(jīng)網(wǎng)絡(luò)的支持效果很好。AlexNet支持GPU加速，且drop神經(jīng)元能夠獲得良好的擬合性，對二維數(shù)據(jù)更敏感，很適用于木材端面細胞圖像的線性特征。本研究采用AlexNet神經(jīng)網(wǎng)絡(luò)模型(Krizhevskyetal., 2017)在Caffe上進行分類訓(xùn)練，AlexNet神經(jīng)網(wǎng)絡(luò)流程如圖6所示。

圖5 基于支持向量機的板材材種識別結(jié)果Fig. 5 The recognition results of wood species based on support vector machine

圖6 AlexNet神經(jīng)網(wǎng)絡(luò)流程Fig. 6 The AlexNet neural network process

將增強后的29 680張圖像按7∶3劃分，分別保存在訓(xùn)練集和測試集文件夾中，圖像制作成LMDB格式數(shù)據(jù)集用于神經(jīng)網(wǎng)絡(luò)訓(xùn)練和測試。訓(xùn)練使用隨機梯度下降(stochastic gradient descent)算法(孫婭楠等， 2018)進行權(quán)值參數(shù)更新。為便于觀察，其柱狀圖如圖7所示。

將所有測試樣本確定標(biāo)簽后均放入同一文件夾，形成混合測試集，圖像制作成LMDB格式數(shù)據(jù)集進行網(wǎng)絡(luò)訓(xùn)練。5次測試結(jié)果如表3所示。

3.2 基于BN算法優(yōu)化的AlexNet神經(jīng)網(wǎng)絡(luò)

與激活函數(shù)層、卷積層、全連接層、池化層相同，BN (batch normalization)(Ioffeetal., 2015)也屬于網(wǎng)絡(luò)的一層，其基本思想是在網(wǎng)絡(luò)的每一層輸入時，又插入一個歸一化層，即先做一個歸一化處理(歸一化至均值0、方差為1)，經(jīng)激活函數(shù)后，再進入網(wǎng)絡(luò)的下一層，是一個可學(xué)習(xí)、有參數(shù)(γ、β)的網(wǎng)絡(luò)層。這意味著梯度變得更大，可避免梯度消失產(chǎn)生，且會使網(wǎng)絡(luò)收斂速度變快，節(jié)約訓(xùn)練時間。具體實現(xiàn)如下式所示：

圖7 基于AlexNet神經(jīng)網(wǎng)絡(luò)的板材材種識別結(jié)果Fig. 7 The recognition result of wood species based on AlexNet neural network

表3 AlexNet神經(jīng)網(wǎng)絡(luò)整體測試結(jié)果Tab.3 The overall test results of the AlexNet neural network

(1)

式中： E[x(k)]表示每一批訓(xùn)練數(shù)據(jù)x(k)的均值； Var[x(k)]表示x(k)的方差。

該過程可能導(dǎo)致神經(jīng)網(wǎng)絡(luò)表達能力下降，為避免這一缺點，在每個神經(jīng)元添加2個調(diào)節(jié)參數(shù)，對變換后的激活再進行反變換，以加強網(wǎng)絡(luò)表達能力。對變換后的激活進行的操作如下：

(2)

BN的算法原理如下：

(3)

BN算法可極大提升訓(xùn)練速度，加快收斂過程，訓(xùn)練時間大大縮短， 同時增加分類效果，提升整個網(wǎng)絡(luò)泛化能力，有效防止過擬合現(xiàn)象。BN算法實質(zhì)上是一個歸一化計算過程，調(diào)參簡單。基于BN算法的優(yōu)點，采用BN算法取代AlexNet神經(jīng)網(wǎng)絡(luò)中的局部響應(yīng)歸一化操作。

由于本試驗實際為臭冷杉、長白落葉松、魚鱗云杉、鵝掌楸、凹葉厚樸5種樹種的分類，最終輸出結(jié)果共5類，故將Softmax層(曾志強等， 2009)的神經(jīng)元數(shù)量改為5。優(yōu)化的算法流程如圖8所示。

3.3 基于優(yōu)化的AlexNet神經(jīng)網(wǎng)絡(luò)的板材材種識別算法實現(xiàn)

依然選擇在Caffe深度學(xué)習(xí)框架上進行網(wǎng)絡(luò)搭建、訓(xùn)練和測試，使用隨機梯度下降算法進行網(wǎng)絡(luò)權(quán)值參數(shù)更新。表4給出了網(wǎng)絡(luò)部分關(guān)鍵參數(shù)取值。

原始1 484張端面細胞圖像擴充后得到樣本總量29 680張，按7∶3劃分后分別保存在訓(xùn)練集和測試集文件夾中，圖像制作成LMDB格式數(shù)據(jù)集后用于神經(jīng)網(wǎng)絡(luò)訓(xùn)練和測試，結(jié)果如表5所示。

優(yōu)化的AlexNet神經(jīng)網(wǎng)絡(luò)對5種木材均表現(xiàn)出良好分類效果，通過混淆矩陣得到的分類結(jié)果柱狀圖如圖9所示。

將所有測試樣本確定標(biāo)簽后均放入同一文件夾，形成混合測試集，圖像制作LMDB格式數(shù)據(jù)集進行網(wǎng)絡(luò)訓(xùn)練。5次測試結(jié)果如表6所示。

圖8 優(yōu)化的AlexNet神經(jīng)網(wǎng)絡(luò)流程Fig. 8 The optimized AlexNet neural network process

表4 關(guān)鍵參數(shù)取值Tab.4 The key parameter values

3.4 識別結(jié)果比較

3種算法均按7∶3劃分樣本集為訓(xùn)練集和測試集，其中神經(jīng)網(wǎng)絡(luò)樣本集需進行數(shù)據(jù)增強。首先分別測試每種類別的樣本準(zhǔn)確率，得到分類結(jié)果的混淆矩陣，通過混淆矩陣?yán)L制3種算法對每類木材樣本識別準(zhǔn)確率的柱狀圖(圖10)。測試樣本確定標(biāo)簽后均放入同一文件夾，分別對3種分類算法進行整體批量測試，支持向量機分類器測試集的整體識別準(zhǔn)確率為84.67%， AlexNet神經(jīng)網(wǎng)絡(luò)測試集的整體識別準(zhǔn)確率為88.76%， 基于BN算法優(yōu)化的AlexNet神經(jīng)網(wǎng)絡(luò)測試集的整體識別準(zhǔn)確率為91.15%，識別效果更好。

表5 基于優(yōu)化的AlexNet神經(jīng)網(wǎng)絡(luò)的板材材種分類結(jié)果混淆矩陣Tab.5 The confusion matrix of wood species classification results based on optimized AlexNet neural network

圖9 基于優(yōu)化的AlexNet神經(jīng)網(wǎng)絡(luò)的板材材種識別結(jié)果Fig. 9 The recognition result of wood species based on optimized AlexNet neural network

表6 優(yōu)化的AlexNet神經(jīng)網(wǎng)絡(luò)整體測試結(jié)果Tab.6 The overall test results of optimized AlexNet neural network

圖10 3種算法識別準(zhǔn)確率對比Fig. 10 The comparison of three methods recognition accuracy

4 結(jié)論

本研究以5種木材(臭冷杉、長白落葉松、魚鱗云杉、鵝掌楸和凹葉厚樸)端面細胞為研究對象，首先提取多種差異性圖像作為數(shù)據(jù)集，通過圖像處理提取特征信息； 然后根據(jù)樣本低維信息，采用高斯徑向基(RBF)核函數(shù)設(shè)計SVM分類器，可以實現(xiàn)木材良好識別；最后基于端面細胞線性特征，建立AlexNet神經(jīng)網(wǎng)絡(luò)模型識別木材，同時在AlexNet網(wǎng)絡(luò)架構(gòu)中加入BN算法進行優(yōu)化，減少梯度損失，增強數(shù)據(jù)擬合性。支持向量機分類器測試集的整體識別準(zhǔn)確率為84.67%，AlexNet神經(jīng)網(wǎng)絡(luò)測試集的整體識別準(zhǔn)確率為88.76%，基于BN算法優(yōu)化的AlexNet神經(jīng)網(wǎng)絡(luò)測試集的整體識別準(zhǔn)確率為91.15%。當(dāng)樣本量充足時，AlexNet神經(jīng)網(wǎng)絡(luò)模型對木材端面細胞圖像的分類效果明顯優(yōu)于SVM分類器，其中，基于BN算法優(yōu)化的AlexNet神經(jīng)網(wǎng)絡(luò)的分類準(zhǔn)確率高于AlexNet神經(jīng)網(wǎng)絡(luò)和SVM分類器。基于BN算法優(yōu)化的AlexNet神經(jīng)網(wǎng)絡(luò)對圖像線性特征更敏感，保留AlexNet神經(jīng)網(wǎng)絡(luò)擬合優(yōu)化性的同時加快尋優(yōu)速率，可有效提高識別精度，實現(xiàn)木材高精度分類。