極限學(xué)習(xí)機(jī)在高光譜遙感圖像分類(lèi)中的應(yīng)用

李 鐵，張新君

(1.遼寧工程技術(shù)大學(xué) 電子與信息工程學(xué)院，遼寧 葫蘆島125105；2.大連理工大學(xué) 計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院，遼寧 大連116024)

極限學(xué)習(xí)機(jī)在高光譜遙感圖像分類(lèi)中的應(yīng)用

李 鐵1，張新君2

(1.遼寧工程技術(shù)大學(xué) 電子與信息工程學(xué)院，遼寧 葫蘆島125105；2.大連理工大學(xué) 計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院，遼寧 大連116024)

針對(duì)高光譜遙感圖像的分類(lèi)問(wèn)題，本文引入極限學(xué)習(xí)的思想，提出了基于分層局部感受野的極限學(xué)習(xí)機(jī)的高光譜分類(lèi)方法。該方法利用光譜特征的局部相關(guān)性，采用兩層的分層結(jié)構(gòu)提取高光譜圖像中的抽象表示和不變特征，可以取得更好的分類(lèi)性能。同時(shí)還分析了算法的不同參數(shù)對(duì)分類(lèi)性能的影響。在兩個(gè)廣泛使用的真實(shí)高光譜數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn)，同當(dāng)前一些典型的方法做比較，結(jié)果表明該方法具有更高的分類(lèi)性能與較快的訓(xùn)練速度。

遙感；極限學(xué)習(xí)機(jī)；高光譜圖像；分類(lèi)

0 引言

隨著高光譜成像技術(shù)的研究進(jìn)展，高光譜遙感已經(jīng)成為遙感領(lǐng)域的前沿技術(shù)之一。高光譜圖像上百個(gè)連續(xù)的窄的光譜波段可以用一個(gè)光譜和空間信息的數(shù)據(jù)立方體來(lái)記錄，它覆蓋了一個(gè)從可見(jiàn)光到紅外光范圍內(nèi)較大的光譜波長(zhǎng)范圍[1]。高光譜圖像處理最重要的任務(wù)之一就是分類(lèi)，把每個(gè)像素分為一個(gè)特定的土地覆蓋類(lèi)別。高光譜圖像分類(lèi)在很多應(yīng)用上都發(fā)揮著重要的作用如物體識(shí)別、環(huán)境監(jiān)測(cè)、精細(xì)農(nóng)業(yè)、城市規(guī)劃和偵察等[2]。但高光譜數(shù)據(jù)大量的波段與相對(duì)較小的訓(xùn)練樣本數(shù)量給傳統(tǒng)的遙感分類(lèi)方法帶來(lái)挑戰(zhàn)。

為了應(yīng)對(duì)挑戰(zhàn)有效處理高光譜圖像分類(lèi)，現(xiàn)已提出了很多機(jī)器學(xué)習(xí)方法如支持向量機(jī)(SVM)、神經(jīng)網(wǎng)絡(luò)、流形學(xué)習(xí)、主動(dòng)學(xué)習(xí)等。近年來(lái)出現(xiàn)了一些新的研究方法如稀疏表示分類(lèi)器、高斯混合模型和形態(tài)學(xué)輪廓[3]。但對(duì)于參數(shù)化的有監(jiān)督高光譜圖像分類(lèi)方法尋找最優(yōu)參數(shù)通常很困難而且耗時(shí)。

極限學(xué)習(xí)機(jī)(ELM)是一種新的單隱藏層前饋神經(jīng)網(wǎng)絡(luò)(ELM)，是模式分類(lèi)中一種先進(jìn)的學(xué)習(xí)算法[4]。大量的研究表明ELM具有快速和準(zhǔn)確的模式分類(lèi)的能力?，F(xiàn)已有一些用ELM做遙感影像分類(lèi)的研究。ELM用于處理高光譜數(shù)據(jù)的土地覆蓋分類(lèi)問(wèn)題，可以取得與反向傳播神經(jīng)網(wǎng)絡(luò)相似的性能。ELM也可以與差分進(jìn)化算法[5]、集成學(xué)習(xí)[6]、核方法[7]等相結(jié)合用于高光譜圖像分類(lèi)。但已有的基于ELM的研究方法沒(méi)有充分的利用高光譜數(shù)據(jù)光譜特征之間的相關(guān)性。

近年來(lái)受生物學(xué)研究的啟發(fā)引入了神經(jīng)科學(xué)中局部感受野(LRF)的概念[8]提出了一種基于LRF的ELM(L-ELM)架構(gòu)。其主要思想是在輸入層和隱藏層之間局部密集連接?？紤]到光譜特征的局部連接可以進(jìn)一步提高高光譜圖像的分類(lèi)性能。因此本文提出一種新的使用L-ELM模型的高光譜圖像分類(lèi)方法。

高光譜圖像在分類(lèi)之前通常要做特征表示和特征提取[9]，其目的是使得到的特征能判別不同類(lèi)別的像素而保持類(lèi)內(nèi)的差別不變。近年來(lái)比較熱門(mén)的深度學(xué)習(xí)方法在很多領(lǐng)域都取得了最好的結(jié)果，如圖像分類(lèi)、目標(biāo)檢測(cè)、語(yǔ)音辨識(shí)、自然語(yǔ)言處理等[10]。深度學(xué)習(xí)獲得成功的原因在于分層的深度結(jié)構(gòu)能提取更抽象的表示和數(shù)據(jù)的不變特征，可以取得更好的分類(lèi)性能[11]。最近已有一些研究采用深度學(xué)習(xí)模型用于高光譜圖像分類(lèi)[12]。為了提取高光譜數(shù)據(jù)的有效特征，采用分層結(jié)構(gòu)更利于高光譜圖像分類(lèi)。本文擴(kuò)展L-ELM模型為多層的L-ELM(ML-ELM)模型來(lái)提取高光譜數(shù)據(jù)的空譜特征。在兩個(gè)真實(shí)的高光譜圖像數(shù)據(jù)集上的實(shí)驗(yàn)表明所提出的方法可以取得更高的分類(lèi)性能和較快的訓(xùn)練速度。

1 ELM簡(jiǎn)介

ELM是單隱藏層前饋神經(jīng)網(wǎng)絡(luò)，使用隨機(jī)分配的輸入權(quán)重。與BP算法不同的是它不需要調(diào)整輸入權(quán)重。ELM是前饋神經(jīng)網(wǎng)絡(luò)，由三層結(jié)構(gòu)組成分別是輸入層，隱藏層，輸出層。

其中wj和分別表示從第j個(gè)隱藏神經(jīng)元到輸入神經(jīng)元和輸出神經(jīng)元的權(quán)重系數(shù)。bj是第j個(gè)隱藏神經(jīng)元的偏置值。上述的N個(gè)方程式可以簡(jiǎn)化為

解式(2)的線性方程，能得到最優(yōu)輸出權(quán)重：

2 本文算法

2.1 ML-ELM

基于ML-ELM的高光譜圖像分類(lèi)方法的架構(gòu)圖如圖1所示。ML-ELM層可以分成兩部分即特征提取和ELM分類(lèi)器。特征提取采用空間金字塔平方和根池化方法.分類(lèi)器采用ELM極限學(xué)習(xí)機(jī)的方法。

近年來(lái)空間金字塔池化算法已經(jīng)成為一個(gè)流行的學(xué)習(xí)有效的圖像特征表示的模型。它共包含兩部分。第一部分是空間金字塔模型，另一部分是池化算法?？臻g金字塔模型在不同的層上把一個(gè)像素塊分成子塊。在第一層上，塊的表示是基于整個(gè)圖像塊的。在第二層，整個(gè)圖像塊分成四個(gè)金字塔塊。在金字塔的第l層，整個(gè)圖像塊包含個(gè)子塊。

在池化層中使用平方和根池化結(jié)構(gòu)。在一個(gè)圖像子塊區(qū)域內(nèi)通過(guò)計(jì)算編碼的平方和根來(lái)得到有效的特征。平方和根池化將非線性修正和平移不變性引入網(wǎng)絡(luò)，在計(jì)算機(jī)視覺(jué)領(lǐng)域已經(jīng)證明是有效的。

假設(shè)L是金字塔的層數(shù)，Vl是第l層金字塔空間塊的數(shù)量，基于空間金字塔平方和根池化的像素塊P的特征表示為

其中n表示學(xué)習(xí)的稀疏編碼的維度。

2.2 ML-ELM的訓(xùn)練和測(cè)試過(guò)程

首先高光譜圖像中每個(gè)像素第一層稀疏編碼通過(guò)正交匹配追蹤（OMP）結(jié)合學(xué)到的字典D1通過(guò)類(lèi)標(biāo)一致性字典學(xué)習(xí)算法來(lái)得到。

對(duì)每個(gè)塊Zi提取四個(gè)子塊，分別為步長(zhǎng)為m，遍歷的順序?yàn)閺纳系较?，從左到右。在提取的四個(gè)子塊上做空間金字塔平方和根池化來(lái)得到子塊的池化特征，然后串聯(lián)在一起形成Zi的第一層特征。在空間金字塔模型中采用兩層金字塔(L=2)，是維向量，表示為

將所有組合節(jié)點(diǎn)的值連接在一起構(gòu)成一個(gè)向量，最后一層與輸出層完全連接。矩陣的輸出權(quán)重在式(3)中解析計(jì)算。

為了得到更好的泛化性能，使用正規(guī)化的ELM模型對(duì)輸出權(quán)重增加約束條件。優(yōu)化的目標(biāo)函數(shù)為

其中I是單位矩陣。

3 實(shí)驗(yàn)

3.1 高光譜圖像數(shù)據(jù)與實(shí)驗(yàn)設(shè)置

在機(jī)載可視/紅外成像光譜儀(AVIRIS)的Indian Pines與Salinas數(shù)據(jù)集上做實(shí)驗(yàn)。Indian Pines圖像由145 pixel×145 pixel組成空間分辨力為20 m/pixel。有220個(gè)光譜波段，波長(zhǎng)范圍為0.4mm～2.5mm。去除受大氣水分吸收影響的20個(gè)噪聲波段(104～108,150～163和220)，使用剩余的200個(gè)波段做實(shí)驗(yàn)。地面實(shí)況圖中共有16個(gè)土地覆蓋類(lèi)別。除背景外共有10 249個(gè)樣本。每個(gè)類(lèi)別及類(lèi)別中的訓(xùn)練和測(cè)試樣本數(shù)如表1。Indian Pines高光譜數(shù)據(jù)集如圖2所示。

表1 Indian Pines類(lèi)別，訓(xùn)練/測(cè)試集，不同方法的分類(lèi)精度(百分比)Table 1Indian Pines classes,train/test set,and classification accuracy(in percent)for different methods

圖2 Indian Pines高光譜數(shù)據(jù)集(a)原始圖像；(b)地物類(lèi)別真實(shí)分布圖Fig.2Indian Pines hyperspectral dataset(a)Original image;(b)Ground truth map

Salinas圖像的光譜分辨力為3.7 m/pixel，共包含了16類(lèi)地物和512 pixel×217 pixel點(diǎn)，每個(gè)像素點(diǎn)包含了224個(gè)波段。去除水分吸收及信噪比較低的20個(gè)波段，保留剩下的204個(gè)波段。地面實(shí)況圖中共有16個(gè)土地覆蓋類(lèi)別。在數(shù)據(jù)集中除背景外共有54 129個(gè)樣本。每個(gè)類(lèi)別及類(lèi)別中的訓(xùn)練和測(cè)試樣本數(shù)顯示在表2中。Salinas高光譜數(shù)據(jù)集如圖3所示。

表2 Salinas類(lèi)別，訓(xùn)練/測(cè)試集，不同方法的分類(lèi)精度(百分比)Table 2Salinas classes,train/test set,and classification accuracy(in percent)for different methods

圖3 Salinas高光譜數(shù)據(jù)集(a)原始圖像；(b)地物類(lèi)別真實(shí)分布圖Fig.3Salinas hyperspectral dataset(a)Original image;(b)Ground truth map

通過(guò)比較幾個(gè)典型的和先進(jìn)的分類(lèi)方法來(lái)評(píng)價(jià)ML-ELM方法的分類(lèi)性能，這些方法包括SVM，ELM，上下文SVM(CSVM)，上下文ELM(CELM)，L-ELM，CNN和空間感知字典學(xué)習(xí)(SADL)。SVM和ELM方法僅使用光譜信息，而其他的方法使用光譜信息與上下文信息。上下文方法的鄰域窗口大小w從{3,5,7,9}中選擇。對(duì)于SVM和CSVM分類(lèi)，使用LIBSVM工具箱采用一對(duì)一方法。采用徑向基函數(shù)(RBF)核；懲罰項(xiàng)和RBF核寬度分別在給定集內(nèi)用格點(diǎn)搜索來(lái)選擇。這些參數(shù)用五倍交叉驗(yàn)證方法來(lái)確定，也可以使用其他的方法。用于ELM和CELM的權(quán)衡參數(shù)從數(shù)據(jù)集中選擇，隱藏的神經(jīng)元數(shù)M從{400，...，3 200}中選擇。對(duì)于L-ELM和ML-ELM，兩個(gè)數(shù)據(jù)集的池化尺度設(shè)為3，特征映射數(shù)從{40，...，200}中得到。通過(guò)交叉驗(yàn)證，L-ELM的LRF大小在Indian Pines圖像中設(shè)為經(jīng)驗(yàn)值15，在Pavia University圖像中設(shè)為經(jīng)驗(yàn)值22。在ML-ELM中，取LRF為固定的鄰域塊大小，鄰域塊大小的選取在后面進(jìn)行討論。對(duì)于CNN方法，使用MatConvNet工具箱來(lái)運(yùn)行。對(duì)于SADL使用文獻(xiàn)中給定的設(shè)置。

3.2 分類(lèi)結(jié)果

在Indian Pines數(shù)據(jù)集中對(duì)不同的方法做比較結(jié)果如表1中，其中包括各類(lèi)別分類(lèi)精度(CA)，整體分類(lèi)精度(OA)，平均分類(lèi)精度(AA)和Kappa系數(shù)()。結(jié)果取30次運(yùn)行的平均值和標(biāo)準(zhǔn)差。從表中可以得出以下結(jié)論。第一，SVM和ELM相比其它的上下文方法性能較差，這表明上下文信息對(duì)于高光譜分類(lèi)的重要性。第二，CNN的結(jié)果與L-ELM相似，高于CSVM和CELM方法，SADL比CNN大約提高1%。第三，ML-ELM方法在這些方法中得到最好的分類(lèi)結(jié)果，OA為97.48%，AA為97.35%，為0.971 2。不同方法的分類(lèi)圖顯示在圖4中。

圖4 Indian Pines圖像的分類(lèi)圖Fig.4Classification maps for the Indian Pines image

用Salinas圖像做實(shí)驗(yàn)，表2顯示了不同方法的CA，OA，AA和的數(shù)值結(jié)果。這些方法中的最好結(jié)果用粗體來(lái)表示。結(jié)果顯示在這個(gè)數(shù)據(jù)集上ML-ELM也優(yōu)于其他的方法。

表1和表2的最后一行顯示每種方法訓(xùn)練時(shí)間的比較，運(yùn)行十次取平均值。所有程序在MATLAB R2014A下運(yùn)行，實(shí)驗(yàn)所用計(jì)算機(jī)為Intel i7處理器，2.0 GHz CPU，64 GB內(nèi)存。使用NVIDIA GTX 1070顯卡來(lái)加快訓(xùn)練過(guò)程。結(jié)果表明從分類(lèi)精度與訓(xùn)練時(shí)間的綜合評(píng)價(jià)上來(lái)看本文所提出的分類(lèi)方法具有可行性和有效性。

3.3 討 論

在ML-ELM中式(10)中的平衡參數(shù)和不同訓(xùn)練樣本的大小對(duì)分類(lèi)精度的影響。圖5(a)顯示了對(duì)OA的影響?？梢钥吹疆?dāng)為0.2時(shí)在Indian Pines和Pavia University上OA都達(dá)到了最大值?；诖嗽贛L-ELM實(shí)驗(yàn)中設(shè)=0.2。

在Indian Pines圖像中比較各種方法在不同的訓(xùn)練樣本下對(duì)分類(lèi)精度的影響。圖5(b)顯示了對(duì)于1%，2%，5%，10%和20%的訓(xùn)練數(shù)據(jù)平均運(yùn)行10次每種方法的OA。結(jié)果顯示分類(lèi)精度隨著訓(xùn)練樣本數(shù)量的增加而增加。SADL，L-ELM和ML-ELM方法在少量的訓(xùn)練樣本下可以得到一個(gè)較高的分類(lèi)精度，L-ELM稍微下降。還可以看到當(dāng)訓(xùn)練樣本的數(shù)量減少時(shí)CNN相對(duì)較低。

為了分析本文方法中鄰域塊大小對(duì)精度的影響，用不同的鄰域塊大小運(yùn)行該特征學(xué)習(xí)算法，表3顯示了在兩個(gè)高光譜數(shù)據(jù)集上不同鄰域塊大小下的OA。

從結(jié)果中可以看到分類(lèi)精度隨著鄰域塊大小的增加而增加。當(dāng)鄰域塊大小比較小的時(shí)候精度增加的趨勢(shì)很快，當(dāng)鄰域塊的大小為7×7時(shí)變得緩慢，最后保持相對(duì)穩(wěn)定。當(dāng)鄰域塊大小為3×3時(shí)，對(duì)于兩個(gè)數(shù)據(jù)集來(lái)說(shuō)性能較差，很可能是因?yàn)樵诤苄〉膮^(qū)域內(nèi)捕捉的信息太有限。為了平衡計(jì)算的復(fù)雜度和性能之間的關(guān)系，在實(shí)驗(yàn)中使用的鄰域塊大小為7×7。

圖5 ML-ELM中不同因素對(duì)OA的影響Fig.5Impacts on OA of ML-ELM by different factors

表3 本文方法在兩個(gè)高光譜數(shù)據(jù)集上不同鄰域塊大小下的OA（百分比）Table 3OA(in percent)of our method on two hyperspectral data with different patch sizes

4 結(jié)論

本文提出一種新的ML-ELM模型用于高光譜圖像分類(lèi)。通過(guò)引入LRF可以充分利用高光譜圖像數(shù)據(jù)光譜特征之間的相關(guān)性。使用分層結(jié)構(gòu)可以學(xué)習(xí)多個(gè)層次的抽象和不變特征。在兩個(gè)真實(shí)的高光譜數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果表明該方法具有更高的分類(lèi)性能與較快的訓(xùn)練速度。

[1]李吉明，賈森，彭艷斌.基于光譜特征和紋理特征協(xié)同學(xué)習(xí)的高光譜圖像數(shù)據(jù)分類(lèi)[J].光電工程，2012，39(11)：88-94. LI Jiming，JIA Sen，PENG Yanbin.Hyperspectral Data Classification with Spectral and Texture Features by Co-training Algorithm[J].Opto-Electronic Engineering，2012，39(11)：88-94.

[2]KANG Xudong，LI Shutao，F(xiàn)ANG Leyuan，et al.Intrinsic image decomposition for feature extraction of hyperspectral images [J].IEEE Transactions on Geoscience and Remote Sensing(S0196-2892)，2015，53(4)：2241–2253.

[3]Ghamisi P，Benediktsson J A.Feature selection based on hybridization of genetic algorithm and particle swarm optimization[J]. IEEE Geoscience and Remote Sensing Letters(S1545-598X)，2015，12(2)：309–313.

[4]ZHOU Yicong，PENG Jiangtao，CHEN C L.Philip.Dimension reduction using spatial and spectral regularized local discriminant embedding for hyperspectral image classification[J].IEEE Transactions on Geoscience and Remote Sensing(S0196-2892)，2015，53(2)：1082–1095.

[5]KANG Xudong，LI Shutao，F(xiàn)ANG Leyuan，et al.Extended random walker-based classification of hyperspectral images[J]. IEEE Transactions on Geoscience and Remote Sensing(S0196-2892)，2015，53(1)：144–153.

[6]Romero A，Radeva P，Gatta C.Meta-parameter free unsupervised sparse feature learning[J].IEEE Transactions on Pattern Analysis and Machine Intelligence(S0162-8828)，2015，37(8)：1716–1722.

[7]Bazi Yakoub，Naif Alajlan，F(xiàn)arid Melgani.Differential evolution extreme learning machine for the classification of hyperspectral images[J].IEEE Geoscience and Remote Sensing Letters(S1545-598X)，2014，11(6)：1066–1070.

[8]ZHANG Lefei，ZHANG Qian，ZHANG Liangpei，et al.Ensemble manifold regularized sparse low-rank approximation for multiview feature embedding[J].Pattern Recognition(S0031-3203)，2015，48(10)：3102–3112.

[9]CHEN Chen，LI Wei，SU Hongjun，et al.Spectral-spatial classification of hyperspectral image based on kernel extreme learning machine[J].Remote Sensing(S2072-4292)，2014，6(6)：5795–5814.

[10]CHEN Yushi，ZHAO Xing，JIA Xiuping.Spectral-spatial classification of hyperspectral data based on deep belief network[J]. IEEE Journal of Selected Topics in Applied Earth Observations and Remote Sensing(S1939-1404)，2015，8(6)：2381–2392.

[11]YUE Jun，ZHAO Wenzhi，MAO Shanjun，et al.Spectral-spatial classification of hyperspectral images using deep convolutional neural networks[J].Remote Sensing Letters(S2150-704X)，2015，6(6)：468–477.

[12]Soltani-Farani A，Rabiee H R，Hosseini S A.Spatial-aware dictionary learning for hyperspectral image classification[J].IEEE Transactions on Geoscience and Remote Sensing(S0196-2892)，2015，53(1)：527–541.

Research of Hyperspectral Remote Sensing Image Classification Based on Extreme Learning Machine

LI Tie1，ZHANG Xinjun2
(1.School of Electronic and Information Engineering,Liaoning Techinical University,Huludao125105,Liaoning Province,China;2.School of Computer Science and Technology,Dalian University of Technology,Dalian116024,Liaoning Province,China)

In view of hyperspectral remote sensing image classification,this paper introduces Limit learning theory and proposes a novel classification approach for a hyperspectral image(HSI)using a hierarchical local receptive field(LRF) based extreme learning machine(ELM).Considering the local correlations of spectral features,hierarchical architectures with two layers can potentially extract abstract representation and invariant features for better classification performance. Simultaneously,the influence of different parameters of the algorithm on classification performance is also analyzed. Experimental results on two widely used real hyperspectral data sets confirm that the comparison with the current some advanced methods,and the proposed HSI classification approach has faster training speed and better classification performance.

remote sensing;extreme learning machine(ELM);hyperspectral image(HSI);classification

TP751

A

10.3969/j.issn.1003-501X.2016.11.010

1003-501X(2016)11-0062-07

2016-04-22；

2016-07-04

李鐵(1978-)，男(漢族)，遼寧阜新人。講師，博士，主要研究工作是遙感影像、模式識(shí)別。E-mail:lthero@163.com。