一種CNN與ELM相結(jié)合的船舶分類識別方法

閆 河，王 鵬，董鶯艷，羅 成，李 煥

（1.重慶理工大學計算機科學與工程學院，重慶 400054；2.重慶理工大學兩江人工智能學院，重慶 401147）

隨著深度學習的發(fā)展，卷積神經(jīng)網(wǎng)絡(luò)成為學者研究的熱點，特別是在語音識別、圖像識別等領(lǐng)域。

2015年，護衛(wèi)艦、驅(qū)逐艦、客船、集裝箱船和油輪的紅外圖像被研究者用BP人工神經(jīng)網(wǎng)絡(luò)實現(xiàn)了船舶的分類識別［1］；2016年，KatieRainey設(shè)計了卷積神經(jīng)網(wǎng)絡(luò)（convolutional neural networks，CNN）用于衛(wèi)星照片分類，取得了較好的分類效果［2］。紅外圖像可以很好地表現(xiàn)物體的輪廓特征，但是要想獲取更豐富的視覺信息，紅外圖像不能滿足要求，數(shù)字圖像在這方面表現(xiàn)出優(yōu)勢。卷積神經(jīng)網(wǎng)絡(luò)被用于模擬人的神經(jīng)網(wǎng)絡(luò)工作原理，通過局部感受域、權(quán)值共享近似模擬神經(jīng)元的信息傳遞過程，以此減少訓練參數(shù)，讓這一技術(shù)在計算機上得以實現(xiàn)。卷積神經(jīng)網(wǎng)絡(luò)在提取特征時與傳統(tǒng)的識別算法相比，避免了復雜的預(yù)處理，且特征更具有可識別性。最基本的特征被卷積網(wǎng)絡(luò)從最初的邊緣和輪廓逐步向語義更加豐富的特征聚集，卷積神經(jīng)網(wǎng)絡(luò)提取特征時具有平移、縮放和旋轉(zhuǎn)不變性［3］等優(yōu)點。但網(wǎng)絡(luò)結(jié)構(gòu)中最后一層可看作一個線性分類器，且存在局限性。2016年，趙靚等利用卷積神經(jīng)網(wǎng)絡(luò)結(jié)合HOG和HSV特征構(gòu)造船舶圖像特征，通過用支持向量機對集裝箱船、客船、漁船、軍艦和帆船進行分類［4］。支持向量機（SVM）是最廣泛的分類器之一，但隨著分類器的進一步發(fā)展，黃廣斌教授于2004年提出單隱層前向神經(jīng)網(wǎng)絡(luò)（SLFNs）的ELM算法，并于2006年對ELM作了進一步的研究，給出了相關(guān)理論證明和應(yīng)用［5，6］。Rong H.J.等提出了 P-ELM［7］，根據(jù)ELM算法的分類問題，利用統(tǒng)計學原理，對網(wǎng)絡(luò)分類效果影響較弱的隱層進行裁剪，并優(yōu)化網(wǎng)絡(luò)結(jié)構(gòu)。且學者將極限學習機應(yīng)用到了很多領(lǐng)域，取得了較好的效果。何淑琳［8］提出了極限學習機應(yīng)用于語音情感識別，張建明等［9］提出了極限學習機應(yīng)用于人臉識別，文武等［10］提出了極限學習應(yīng)用于車牌識別。與其他分類器相比，極限學習初始權(quán)值隨機產(chǎn)生，只需確定隱含層到輸出層的神經(jīng)元個數(shù)，最后用于分類的權(quán)值參數(shù)通過廣義逆矩陣求得，且極限學習具有訓練速度快、分類準確率高等優(yōu)點。本文基于卷積神經(jīng)網(wǎng)絡(luò)在提取特征過程中表現(xiàn)出的優(yōu)點和極限學習機在訓練速度和分類識別精度上表現(xiàn)出的優(yōu)點，提出了一種將兩者相結(jié)合的算法并將其應(yīng)用于船舶識別。

1 識別方法描述

1.1 主要思想

運用卷積神經(jīng)網(wǎng)絡(luò)完成對特征的有效提取，并運用極限學習機對圖片進行分類。在特征提取中網(wǎng)絡(luò)層的選擇、下采樣函數(shù)的選取、網(wǎng)絡(luò)層數(shù)的設(shè)計等都直接影響著特征提取的準確程度，并直接影響著最后的結(jié)果。深度卷積神經(jīng)網(wǎng)絡(luò)是基于AlexNet建立的模型，此網(wǎng)絡(luò)共8層網(wǎng)絡(luò)結(jié)構(gòu)，并對本文實驗所用到的數(shù)據(jù)集進行訓練。在這個網(wǎng)絡(luò)結(jié)構(gòu)中共有5個卷積層，3個全連接層，選擇哪一層作為極限學習機輸入可以得到更好的分類效果。KRIZHEVSKY A等［11］的研究實驗表明：前5個卷積層包含有限的特征映射，末端全連接層的特征映射是通過卷積層的基本特征自下而上逐漸激活，包含更加豐富的語義信息。第6層特征無論在對象分類，還是識別、細粒度對象分類方面，明顯優(yōu)于其他層次提取的特征。因此，本文為了獲得更好的分類效果采用卷積神經(jīng)網(wǎng)絡(luò)，將第6層特征應(yīng)用到極限學習機的輸入中。在訓練階段，用Alexnet模型對艦船圖像數(shù)據(jù)集進行監(jiān)督訓練。訓練結(jié)束后，提取網(wǎng)絡(luò)的第6層網(wǎng)絡(luò)特征應(yīng)用于極限學習機的訓練。測試階段，測試圖片運用與訓練圖片中相同的方法對圖片做一系列的處理，將所得的圖像特征作為輸入，訓練極限學習機作為分類器，其輸出標簽即為船舶圖像的預(yù)測。

1.2 CNN訓練

本文對彩色船舶圖像數(shù)據(jù)的訓練進行了研究。主要采用了AlexNet模型，在訓練好模型的基礎(chǔ)上，對該模型進行訓練，使用船舶圖像庫的訓練集，通過運用準確率的變化來判斷訓練的好壞程度。在開始訓練之前，模型的每一層權(quán)值都基于高斯分布進行初始化。2個階段用于卷積神經(jīng)網(wǎng)絡(luò)的訓練：

1）正向傳播階段：從圖像庫訓練樣本集中提取樣本（x，y），將 x輸入網(wǎng)絡(luò)結(jié)構(gòu)中，通過卷積提取不同的圖像特征，如輪廓和紋理特征。與傳統(tǒng)的識別算法相比，有效地避免了復雜的特征提取過程。最后，使用Softmax圖層的輸出y′，其元素分別表示x被分成一個給定類別的概率。

2）反向傳播階段：比較 y′與給定標簽向量的誤差，用最小化均方誤差代價函數(shù)調(diào)整權(quán)重和參數(shù)，其他層的權(quán)重和參數(shù)通過從輸出層向輸入層的誤差逐層逆推得到。通過訓練得到網(wǎng)絡(luò)層的權(quán)重和參數(shù)，并把此參數(shù)應(yīng)用于該網(wǎng)絡(luò)結(jié)構(gòu)。設(shè)置網(wǎng)絡(luò)的訓練參數(shù)，批量設(shè)置為150，學習率設(shè)置為0.001，迭代次數(shù)設(shè)置為500。

1.3 極限學習機結(jié)構(gòu)

極限學習機最初是為解決單隱層前饋神經(jīng)網(wǎng)絡(luò)（single-hidden layer feed-forward neural networks，SLFNs）而提出的，網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。假設(shè)有N個任意的不同樣本（xi，ti），i＝1，2，…，N，其中xi＝［xi1，xi2，…，xin］∈Rn，ti＝［ti1，ti2，…，tim］∈Rm，則極限學習機的目標函數(shù)為

式中：H為神經(jīng)網(wǎng)絡(luò)隱層的輸出矩陣；T為期望輸出［12］。

式（2）和式（3）中：W∈RL×n為輸入層到隱含層的權(quán)值；b∈RL為隱含偏置量；g（·）為激活函數(shù)?；舅枷胧牵弘S機產(chǎn)生W和b，然后據(jù)此計算H和β，β的確定有很多種方法，其中一種簡單的方法由式（4）求得［12］。

1.4 Alexnet與ELM的結(jié)合

卷積神經(jīng)網(wǎng)絡(luò)Alexnet網(wǎng)絡(luò)結(jié)構(gòu)分為卷積層、下采樣層和全連接層，此網(wǎng)絡(luò)用分類器是線性分類器，由于卷積網(wǎng)絡(luò)通過梯度下降的方法，所以卷積神經(jīng)網(wǎng)絡(luò)可以通過數(shù)據(jù)訓練得到最好的分類特征［13-15］，但線性分類器作為網(wǎng)絡(luò)的分類器，還有待改進和選用更優(yōu)的分類器用于分類。

極限學習機的權(quán)重隨機產(chǎn)生，只需確定隱含層神經(jīng)元的個數(shù)，其他再無復雜的需要確定的參數(shù)，最后結(jié)果通過求廣義逆的方法求得隱含層到輸出層的權(quán)值，而輸出結(jié)果與期望結(jié)果誤差最小。由于極限學習機的權(quán)值不是通過迭代所得，通過直接計算即可得到結(jié)果，故表現(xiàn)出訓練速度快、訓練精度高的優(yōu)點。但是極限學習機也有局限，對特征提取的精度要求較高。

圖1 極限學習機的網(wǎng)絡(luò)結(jié)構(gòu)

本文的神經(jīng)網(wǎng)絡(luò)選用AlexNet網(wǎng)絡(luò)結(jié)構(gòu)，并將AlexNet卷積神經(jīng)網(wǎng)絡(luò)和極限學習機相結(jié)合，能克服神經(jīng)網(wǎng)絡(luò)在分類識別準確率低的缺點，并且可滿足極限學習機對于特征提取的高要求，兩者相結(jié)合的模型訓練步驟如下：

1）特征提取，實驗所用卷積神經(jīng)網(wǎng)絡(luò)共8層，其中由輸入層、卷積層、全連接層，較低卷積層提取角、邊、曲線等特征，較高卷積層通過前一層的輸出激活復雜的特征，如此累積，以檢測越來越復雜的特征。圖2表示第4層和第5層卷積特征提取的語義狀態(tài)，由圖看出：第5層比第4層卷積效果更清晰，且能看出船舶的大概輪廓，卷積層數(shù)越多，特征提取的語義越明顯，通過訓練樣本獲取卷積網(wǎng)絡(luò)的各層參數(shù)。

2）分類器的訓練部分是提取AlexNet深度卷積神經(jīng)網(wǎng)絡(luò)的特征，通過卷積層的逐層提取，將最后全連接的第1層作為極限學習機的輸入，然后通過公式（4）計算得到極限學習機中隱含層到輸出層的網(wǎng)絡(luò)參數(shù)，并完成整個網(wǎng)絡(luò)的訓練過程。

圖2 卷積圖層激活狀態(tài)顯示

通過測試樣本測試訓練好的網(wǎng)絡(luò)，圖3表示5類不同的數(shù)據(jù)樣本，分別有帆船、軍艦、貨船、漁船、客船。用測試圖片通過訓練好的網(wǎng)絡(luò)測試網(wǎng)絡(luò)的準確度，本文所用圖片均為彩色圖片。

圖3 船舶類別

具體過程為：通過網(wǎng)絡(luò)Alexnet的訓練得到所需要的參數(shù)，將Alexnet卷積神經(jīng)網(wǎng)絡(luò)提取的全連接第一層的特征作為極限學習機的輸入特征，并讓極限學習機通過公式（4）計算得到參數(shù)，然后形成完整的網(wǎng)絡(luò)結(jié)構(gòu)。圖4為本文的船舶識別系統(tǒng)框架圖。

圖4 船舶識別系統(tǒng)框圖

2 實驗結(jié)果及分析

本文運用Fleetmoom的船舶庫作為數(shù)據(jù)庫，通過人工標注5類船舶的圖片以保證實驗的準確性。其中訓練樣本共10 000張，訓練樣本分取5 000～9 000中間間隔為1 000張的船舶圖片，剩余圖像作為測試樣本，且每類圖像分辨率均在224×224像素。

實驗全部在Tensorflow環(huán)境下完成，在Windows10操作系統(tǒng)，Intel Core i7-4300U CPU，主頻2.50 GHU，內(nèi)存 8 G，Nvidia Gtx1080GPU，64 G內(nèi)存的硬件平臺上進行試驗。

Fleetmoom船舶圖像庫提供船舶的圖像數(shù)據(jù)，它是船舶識別中常用的數(shù)據(jù)庫，選用數(shù)據(jù)庫中實驗所需的5類數(shù)據(jù)，共50 000幅圖像，每類船舶10 000幅圖像，照片為224×224像素的彩色圖像。拍攝的照片具有平移變化、光照變化等復雜背景，且能反映船舶圖片在復雜場景下的變化和差異。通過把船舶庫分為訓練樣本和測試樣本，船舶庫按照此數(shù)據(jù)庫中隨機選取每類船舶圖片5 000～9 000幅圖片，并通過間隔1 000張作為5種不同訓練數(shù)量的訓練樣本，剩余的圖片作為測試圖片。Alexnet網(wǎng)絡(luò)基于8層網(wǎng)絡(luò)結(jié)構(gòu)，網(wǎng)絡(luò)有5個卷積層、3個全連接層。由于圖像的分辨率大小不一致，需要對圖像進行預(yù)處理，把圖片處理成為224×224大小的圖片，每層網(wǎng)絡(luò)結(jié)構(gòu)的具體參數(shù)為：輸入層圖像大小為224×224×3，通過11×11卷積核，滑動步長為4像素，輸出96個特征圖并池化；第1層使用5×5卷積核，卷積生成256個特征圖，并池化；第2層采用5×5卷積核，卷積產(chǎn)生256個特征圖；第3層和第4層采用3×3卷積內(nèi)核，輸出384個特征子圖通過下采樣層獲得384塊98×98特征圖片；第5層采用3×3卷積內(nèi)核，輸出256個特征圖，并池化；第6層是第1個全連接層，通過對比第7層、第8層的全連接層作為特征提取層，如表1所示。

表1 不同全連接層的對比試驗

由表1可得，用后2層提取特征對準確率影響較小，且準確率有波動，同時用時較長。綜合考慮時效性和準確率的因素，本文將第5層所得到的特征子圖全連接到第6層。并通過第一個全連接層作為特征提取層，作為極限學習的輸入特征，本文分別對極限學習機、Alexnet、Alexnet＋svm［16］及本文方法做了對比實驗來驗證本文提高識別率的優(yōu)勢?？梢詮谋?中看出本文的方法隨著訓練樣本的增多，識別率明顯高于其他3種方法。

表2 不同方法的對比試驗

有待改進之處：

1）在圖像庫的建立中，為了使研究更具實用性和針對性的圖片數(shù)據(jù)庫，需要進行多種類型的實驗，同時建立更加復雜背景下的艦船圖像庫。

2）在圖像特征提取方面，更好的局部特征提取有待進一步研究，并可以和卷積神經(jīng)網(wǎng)絡(luò)提取的特征進行融合，提高圖像識別的準確性。

3 結(jié)束語

首次提出了一種基于Alexnet卷積神經(jīng)網(wǎng)絡(luò)和極限學習機融合的船舶識別方法。通過構(gòu)建8層卷積神經(jīng)網(wǎng)絡(luò)對船舶圖像進行訓練，利用Alexnet卷積神經(jīng)網(wǎng)絡(luò)提取船舶圖像的特征，并利用極限學習機對船舶進行分類，使得當前船舶分類識別率較低的問題得到了較好的解決，在船舶識別中達到了94%的準確率。但卷積神經(jīng)網(wǎng)絡(luò)需要通過大量的訓練達到最佳的穩(wěn)定識別狀態(tài)，此訓練是一個非常耗時且需要不斷調(diào)整和更新訓練參數(shù)的過程，同時對于硬件設(shè)備也提出了嚴格的要求。而近年來隨著科技的發(fā)展，已經(jīng)有專業(yè)的圖像處理芯片，相信不久后這一問題可以得到充分的解決。通過本文研究的船舶分類識別方法可用于港口對不同種類船舶流量的統(tǒng)計，提高港航局監(jiān)督和管理的效率。