基于改進(jìn)卷積神經(jīng)網(wǎng)絡(luò)的高光譜遙感影像分類算法

趙軒浩，李欣竺，王云浩

（核工業(yè)二四三大隊(duì)，內(nèi)蒙古赤峰）

引言

在遙感技術(shù)領(lǐng)域中，高光譜遙感技術(shù)是將由地物獨(dú)特的物質(zhì)組成所決定的光譜與反映地物形狀、紋理和布局的空間圖像有機(jī)結(jié)合，實(shí)現(xiàn)了對(duì)地物的準(zhǔn)確檢測(cè)、識(shí)別和空間特性分析的方法。因此產(chǎn)生的高光譜影像包含豐富的地面物體形狀、布局和背景的光譜和空間信息。與多光譜圖像和自然圖像相比，由于具有獨(dú)特的光譜特性，在HSI 上可以更準(zhǔn)確地識(shí)別分類。在實(shí)際的高光譜影像分類中，高光譜數(shù)據(jù)人工標(biāo)注費(fèi)時(shí)費(fèi)力。因此在有限標(biāo)記樣本條件下，充分利用高光譜數(shù)據(jù)中的光譜和空間信息進(jìn)行高精度分類是主要的研究?jī)?nèi)容之一[1]。

1 高光譜遙感影像分類算法設(shè)計(jì)

1.1 融合遙感影像的光譜與空間特征

采用空間特征提取通道來利用目標(biāo)像素周圍的空間信息。該通道采用二維卷積層來更好地利用空間特征。與上面描述的光譜通道類似，每次卷積操作后應(yīng)用激活函數(shù)。在空間分支中有一個(gè)卷積層和一個(gè)殘差塊。首先，輸入的三維立方體經(jīng)過1×1×200 卷積層，從一個(gè)具有多個(gè)波段的高光譜影像映射到一個(gè)只有一個(gè)光譜波段的灰度圖像。該操作旨在迫使網(wǎng)絡(luò)集中于檢測(cè)空間域中的相關(guān)性。產(chǎn)生的7×7 塊被傳遞到一個(gè)殘差塊，該殘差塊由兩個(gè)連續(xù)的卷積層組成，具有24 個(gè)3×3 卷積核，能夠強(qiáng)調(diào)重要的空間信息。

對(duì)于影像數(shù)據(jù)中所涵蓋的光譜與空間特征的提取，將兩者融合，用于將來自兩個(gè)獨(dú)立通道的信息組合在一起。通過光譜和空間分支分別處理后，光譜分支的輸出與空間分支的輸出相連接。因此，在連接128個(gè)7×7 塊（光譜）和24 個(gè)7×7 塊（空間）之后，總共獲得了152 個(gè)塊，其空間和光譜信息都很豐富。然后，具有7×7 核的平均池化層將二維矩陣映射到152 維向量中。然后，通過全連通層和激活函數(shù)得到分類結(jié)果[2]。

1.2 輸入高光譜遙感影像樣本空間領(lǐng)域

考慮到高光譜數(shù)據(jù)的三維結(jié)構(gòu)以及高光譜數(shù)據(jù)的小樣本問題，為了能夠得到足夠的信息量，這里對(duì)輸入的樣本點(diǎn)進(jìn)行重采樣處理。傳統(tǒng)的基于像素點(diǎn)的分類中輸入樣本是基于一個(gè)像素點(diǎn)的一維向量，這里針對(duì)分辨率較高的高光譜數(shù)據(jù)將每個(gè)像素點(diǎn)附近k×k 大小的區(qū)域采樣為一個(gè)樣本，這種像素塊的結(jié)構(gòu)在原本光譜信息的基礎(chǔ)上提供了豐富的空間信息，也在一定程度上緩解了因標(biāo)注樣本較少而帶來的信息匾乏問題。輸入影像塊示意如圖1 所示。

圖1 輸入影像塊示意

針對(duì)高光譜訓(xùn)練樣本有限的問題，結(jié)合輸入樣本數(shù)據(jù)的影像塊結(jié)構(gòu)應(yīng)用了高光譜數(shù)據(jù)增強(qiáng)方法。結(jié)合光譜- 空間的融合特征，在空間中對(duì)高光譜遙感影像進(jìn)行輸入增強(qiáng)，進(jìn)而更好地輸入到空間領(lǐng)域中。

1.3 架構(gòu)高光譜遙感影像半監(jiān)督階梯網(wǎng)絡(luò)

自動(dòng)編碼器通常由無監(jiān)督的預(yù)訓(xùn)練和有監(jiān)督的微調(diào)組成，其中無監(jiān)督的過程與有監(jiān)督的過程是分開的。本文在階梯網(wǎng)絡(luò)的基礎(chǔ)上，引用了經(jīng)過改進(jìn)的半監(jiān)督階梯網(wǎng)絡(luò)，可在有監(jiān)督和無監(jiān)督的雙重模式下進(jìn)行樣本訓(xùn)練，半監(jiān)督階梯網(wǎng)絡(luò)結(jié)構(gòu)如圖2 所示。

圖2 半監(jiān)督階梯網(wǎng)絡(luò)結(jié)構(gòu)

半監(jiān)督階梯網(wǎng)絡(luò)的損失函數(shù)由每層構(gòu)造的誤差損失函數(shù)加權(quán)，并且自動(dòng)編碼器僅為解碼部分的輸出層構(gòu)造損失函數(shù)。本文對(duì)半監(jiān)督階梯網(wǎng)絡(luò)的實(shí)際實(shí)現(xiàn)方式如下：

首先，為了防止過擬合，有必要構(gòu)建一個(gè)具有多個(gè)隱藏層的神經(jīng)網(wǎng)絡(luò)，因?yàn)檫^擬合的可能性更高；此外，需要在網(wǎng)絡(luò)的每一層中應(yīng)用批量標(biāo)準(zhǔn)化。其次，校正線性單元傳遞函數(shù)用于防止梯度消失。相應(yīng)的公式如下：

高光譜影像包含豐富的空間信息與光譜信息，由于直接使用原始數(shù)據(jù)會(huì)導(dǎo)致“維度災(zāi)難”，所以使用主成分分析法對(duì)原始數(shù)據(jù)上的光譜維度進(jìn)行預(yù)處理降維操作。采用混合光譜網(wǎng)絡(luò)作為特征提取網(wǎng)絡(luò)用來同時(shí)提取空間和光譜信息，完成對(duì)于半監(jiān)督階梯網(wǎng)絡(luò)結(jié)構(gòu)的架構(gòu)[3]。

1.4 基于改進(jìn)卷積神經(jīng)網(wǎng)絡(luò)聚合影像分類結(jié)構(gòu)

通過當(dāng)前節(jié)點(diǎn)與周圍節(jié)點(diǎn)的光譜聚合來實(shí)現(xiàn)光譜- 空間特征的融合，而圖卷積操作類似于低通濾波器，僅保留影像中的低頻信息。為了保存影像中的高頻細(xì)節(jié)信息，通過在圖中設(shè)置邊特征來保存影像中的邊界信息。邊特征在一定程度上緩解了信息聚合過程中的過度平滑問題。同時(shí)，邊特征和節(jié)點(diǎn)特征的參數(shù)是可學(xué)習(xí)的，通過自動(dòng)參數(shù)優(yōu)化可以增強(qiáng)不同目標(biāo)之間的光譜差異性[4]。

基于以上特點(diǎn)，本文利用了一種簡(jiǎn)單的信息傳遞策略來實(shí)現(xiàn)節(jié)點(diǎn)特征與邊特征的融合。假設(shè)節(jié)點(diǎn)v 與鄰居節(jié)點(diǎn)u?N(v)進(jìn)行信息聚合，信息構(gòu)造函數(shù)可進(jìn)行如下定義：

在高光譜遙感影像中，根據(jù)所需分類特征，在單一尺度上難以從影像中準(zhǔn)確提取出不同尺度的地物。然而，信息聚合一般只考慮一階鄰居節(jié)點(diǎn)忽略了高階鄰居節(jié)點(diǎn)在高光譜分類中的重要性。為避免上述問題，進(jìn)行卷積運(yùn)算，其中，K 可看作卷積核的“感受野半徑”，即以中心點(diǎn)的K 階鄰居節(jié)點(diǎn)作為鄰域節(jié)點(diǎn)。

如果僅考慮了自身與其一階鄰居節(jié)點(diǎn)之間信息的聚集，幾乎完全可以等價(jià)。但是僅依靠一階節(jié)點(diǎn)的信息，對(duì)于光譜與空間信息的融合較為不利。與一階鄰居的聚合相比，二階聚合增加了感受野的范圍，更有利于高光譜影像的分類。

1.5 聯(lián)合注意力機(jī)制完成高光譜遙感影像分類

卷積神經(jīng)網(wǎng)絡(luò)能夠提取數(shù)據(jù)的大量深層特征，這包括數(shù)據(jù)在通道方向的特征和空間幾何位置上的特征，在針對(duì)具體的分類任務(wù)時(shí)不同的特征所占的重要程度往往并不相同，如果能讓網(wǎng)絡(luò)把注意力都集中在這些對(duì)分類幫助較大的特征上就能夠很好的改善網(wǎng)絡(luò)的性能，因此本文聯(lián)合注意力機(jī)制完成對(duì)于高光遙感影像的精細(xì)分類。

卷積注意力機(jī)制（CBAM）可以直接集成到許多經(jīng)典的網(wǎng)絡(luò)架構(gòu)當(dāng)中。對(duì)于輸入特征圖，CBAM 會(huì)在通道方向和空間方向上分別計(jì)算注意力權(quán)重，通過乘積運(yùn)算得到加權(quán)后的特征圖。CBAM機(jī)制可以與網(wǎng)絡(luò)一起訓(xùn)練并且不會(huì)帶來大量的額外計(jì)算量，可以有效改善網(wǎng)絡(luò)的性能[5]。

由于輸入樣本數(shù)據(jù)的特征維度較高，針對(duì)這一特點(diǎn)使用三維卷積核來提取特征，并通過添加CBAM在通道和空間方向上引入注意力機(jī)制，為了降低網(wǎng)絡(luò)模型的復(fù)雜度，只在殘差部分的輸入和輸出兩個(gè)位置添加了注意力機(jī)制。殘差網(wǎng)絡(luò)中提出了殘差塊的結(jié)構(gòu)，通過跳躍連接將來自初始層的信息通過相加的方式傳遞到更深層，通過快捷連接將殘差網(wǎng)絡(luò)的輸入與輸出相連，在不引入額外的參數(shù)的條件下將輸入的特征傳遞到輸出，從而避免了網(wǎng)絡(luò)模型的退化問題，也為構(gòu)建更深層的神經(jīng)網(wǎng)絡(luò)模型帶來了可能。

2 實(shí)驗(yàn)論證

使用WHU-HI 數(shù)據(jù)集，隨機(jī)選取300 個(gè)訓(xùn)練樣本，對(duì)輸入樣本進(jìn)行空間鄰域采樣，將采樣后的樣本數(shù)據(jù)送入殘差網(wǎng)絡(luò)進(jìn)行分類。設(shè)置本文的基于改進(jìn)卷積神經(jīng)網(wǎng)絡(luò)的高光譜遙感影像分類算法為實(shí)驗(yàn)組，基于深度學(xué)習(xí)的高光譜遙感影像分類算法為對(duì)照組。高光譜數(shù)據(jù)采用主成分分析算法將其光譜維度降到15。實(shí)驗(yàn)的輸入空間尺寸大小為25×25。所有實(shí)驗(yàn)均在配置有128 GB 內(nèi)存的同一平臺(tái)上執(zhí)行，其中批量大小設(shè)置為200，每一個(gè)批塊有100 個(gè)有標(biāo)記樣本和100個(gè)無標(biāo)記樣本構(gòu)成。優(yōu)化器設(shè)置為Adam，學(xué)習(xí)率為0.001，動(dòng)量為0.9，學(xué)習(xí)率的更新采用自適應(yīng)調(diào)整策略。兩種高光譜遙感影像分類算法精度對(duì)比結(jié)果如表1 所示。

表1 高光譜遙感影像分類算法精度對(duì)比結(jié)果

根據(jù)表1 的結(jié)果可得，實(shí)驗(yàn)組在不同K 值下對(duì)于遙感影像的分類系數(shù)均比對(duì)照組要高，最后基于不同值下的分類精度為97.62%，高于對(duì)照組87.63%的分類精度，從這個(gè)結(jié)果可以看出本文所設(shè)計(jì)的分類算法，可在不同K 值下對(duì)高光譜遙感影像均有較高的分類精度。

結(jié)束語

本文對(duì)于高光譜遙感影像分類算法的設(shè)計(jì)，基于改進(jìn)卷積神經(jīng)網(wǎng)絡(luò)。在對(duì)算法的分析過程中，通過對(duì)于遙感影像中空間和光譜特征的融合，結(jié)合其輸入空間的向量，完成對(duì)于高光譜的分析，在卷積神經(jīng)網(wǎng)絡(luò)算法的改進(jìn)中，對(duì)卷積神經(jīng)中的注意力機(jī)制作了詳細(xì)說明，以空間和通道的雙重機(jī)制作為輔助，對(duì)高光譜影像的分類進(jìn)行闡述。本文雖然以實(shí)驗(yàn)證明了算法中分類的有效性，但是研究中仍存在一定不足，這些問題將在之后的研究中做更為細(xì)致的分析。