基于Grey-Sigmoid核函數(shù)支持向量機高光譜遙感圖像分類方法研究

王顥霖， 郭 偉， 師 越， 喬紅波

(1.鄭州外國語新楓楊學校，河南 鄭州 450001； 2.河南農業(yè)大學信息與管理科學學院，河南 鄭州 450002)

基于Grey-Sigmoid核函數(shù)支持向量機高光譜遙感圖像分類方法研究

王顥霖1， 郭 偉2， 師 越2， 喬紅波2

(1.鄭州外國語新楓楊學校，河南 鄭州 450001； 2.河南農業(yè)大學信息與管理科學學院，河南 鄭州 450002)

針對傳統(tǒng)支持向量機方法中存在的野值噪聲敏感問題，提出了一種基于緊密度的Grey-Sigmoid核函數(shù)支持向量機，不僅考慮樣本與所屬類中心之間的關系，還考慮了各個樣本之間的距離。通過樣本之間的緊密度來描述各個樣本之間的關系，利用包圍同一類樣本的最小超球半徑來衡量樣本間的緊密度，樣本灰度依據樣本在球中的位置確定。通過對田間小麥全蝕病的遙感圖像分類的實驗驗證，證明Grey-Sigmoid核函數(shù)和傳統(tǒng)的Sigmoid核函數(shù)相比，計算速度更快，且精度沒有明顯損失。

高光譜遙感；支持向量機；圖像；分類

高光譜遙感信息具有數(shù)據量大、波段多、波段相關性強、信息冗余多、圖譜一體化等特點，蘊含信息豐富，處理過程復雜，如何對其進行高效處理是遙感領域近年來研究的熱點[1]。隨著人工智能、機器學習、數(shù)據挖掘、高性能計算等相關學科技術的發(fā)展，遙感信息智能處理近年來已成為一個研究的熱點[2]。智能處理有助于解決當前高光譜遙感信息處理中存在的諸如數(shù)據量大、處理過程復雜、速度慢、效率低、過多依賴于專家經驗和人工參與等問題。支持向量機(Support Vector Machine，SVM)作為一種最新也是最有效的統(tǒng)計學習方法，近年來成為模式識別與機器學習領域一個新的研究熱點。遙感圖象分析與處理是SVM應用的一個熱門研究方向，特別是在高光譜遙感分類中，SVM優(yōu)越性得到了充分體現(xiàn)。SHAH等[3]試驗發(fā)現(xiàn)SVM用于分類不需要降維，分類精度達到97%，不受Hughes現(xiàn)象的影響，能夠很好地應用于高光譜分類中。NEMMOUR等[4]利用支持向量機技術研究郊區(qū)土地利用變化，和人工神經網絡相比，支持向量機技術監(jiān)測土地利用變化效果更好。在神經網絡的應用中已經證明Sigmoid核函數(shù)具有良好的全局分類性[5-6]，因此在支持向量機的研究中，使Sigmoid核函數(shù)更廣泛的符合核函數(shù)的條件具有重要意義。由于Sigmoid核函數(shù)的非線性，軟件實現(xiàn)起來比較困難且耗時較長。本研究提出一種基于灰色聚類的Sigmoid(以下簡稱Grey-Sigmoid)核函數(shù)，將灰色理論應用于核函數(shù)，簡化計算且易于軟件的實現(xiàn)。

1 材料與方法

1.1高光譜遙感圖像獲取

試驗地點為河南省原陽縣原武鎮(zhèn)白沙村(35.029°N，113.819°E)，供試小麥品種為鄭麥366，利用12.5%全蝕凈按1∶250、1∶500和1∶1 000 3個質量比梯度拌種，每梯度3個重復，小區(qū)面積30 m2，于2015年5月18日利用Headwall成像光譜儀測定其冠層的高光譜圖像。Headwall成像光譜儀成像光譜范圍為400～1 000 nm，光譜分辨率為5 nm，感光器件為CCD,瞬時視場角0.54 m rad，圖像分辨率為1 392×1 024 pixels。測量時將Headwall成像光譜儀固定在Hyperspec?Pan & Tilt掃描云臺上，成像光譜儀與地面夾角60°。測量前先進行白板校正，通過自帶Hyperspec軟件操作成像光譜儀進行數(shù)據采集與傳輸，在120 s內完成125幅窄波段光譜圖像的連續(xù)采集，數(shù)據傳輸方式為USB 2.0，將采集到數(shù)據以BIL格式直接存儲在便攜式計算機內。

1.2構造基于緊密度的Grey-Sigmoid核函數(shù)

在支持向量機中，最優(yōu)超平面通常由支持向量決定，而支持向量位于類邊緣，常常伴隨著野值和噪聲。在確定樣本的灰聚類時，如果無法有效地將樣本與噪聲進行正確的區(qū)分，計算出的超平面就不是最優(yōu)的分類面[7-8]。因此，在Grey-Sigmoid核函數(shù)的構造中，灰色聚類的設計要求能夠客觀、準確的反應系統(tǒng)的不確定性。本研究提出一種基于緊密度的灰色聚類方法，在確定樣本的聚類時，不僅考慮樣本與樣本中心之間的聚類，還考慮了樣本間的緊密度，并在此基礎上構造Grey-Sigmoid核函數(shù)。

1.2.1 樣本集緊密度的確定 樣本集的緊密度通過包圍同類樣本集的最小球半徑來度量，通常，在樣本數(shù)目不變的情況下，球半徑越大緊密度越小[9]。當樣本集中不存在噪聲或野值時，只需尋找一個能包圍所有同類樣本的最小球半徑；當樣本集中含有噪聲或野值樣本時，可以允許小部分該類樣本位于球外，此時，則尋找一個能夠包圍該類樣本集中大多數(shù)樣本的最小球半徑。

設樣本集x={x1,x2,…,xn}，當樣本集中不存在噪聲或野值，或者事先不知道樣本集中是否存在噪聲或野值樣本時，引入非負的松弛變量ζi(i=1,2,…,n)，通過下面目標函數(shù)得到最小包圍球：

(1)

式中：R為球半徑，a為球中心，D>0為懲罰系數(shù)，D越大，對樣本在球外的約束程度越大。

約束條件為：

‖xi-a‖2≤R2+ζi,i=1,2,…,n

(2)

ζi>0,i=1,2,…,n

(3)

通過上述規(guī)劃問題的求解，可以得到樣本對應的Lagrange系數(shù)βi(i=1,2,…,n)，當βi>0時，對應的是支持向量機的訓練樣本；當βi=D時，對應的樣本位于包圍球外邊，稱為野值或含噪聲的樣本。因此，最小的包圍半徑由0<βi

R=‖x-a‖

(4)

式中：x為包圍球在0<βi

1.2.2 基于緊密度的灰度計算 由于樣本間緊密度是根據包圍球半徑來衡量，因此，在確定基于緊密度的灰度時，對分布在半徑內、外的樣本，采用兩種不同的方式計算其灰度[10]，設不同類別訓練樣本的數(shù)據序列Xi=(xi(1),xi(2)…xi(n))，令si為第i個類別序列的零化像，則：

(5)

式中:R為同類樣本最小包圍球的半徑；d(xi(1))為樣本xi(1)到類中心的距離，根據公式(6)計算序列間的灰色絕對關聯(lián)度。

(6)

取閥值r∈[0,1],一般要求r>0.6，當εij≥r(i≠j)時，則X1，Xj為同一聚類特征，r越大分類越細，r越小分類越粗。

1.3Grey集及Grey-Sigmoid核函數(shù)算法

首先引入Grey集概念：設論域x={x1,x2,…,xn}上的一個Grey集A由真灰度tA和假灰度fA描述，其中tA(xi)∈[0,1],是由支持xi的特征做導出的灰度下限，fA(xi) ∈[0,1]是由反對xi的特征做出的否定灰度下限，且tA(xi)+fA(xi)≤1，元素xi在Grey集A中被區(qū)間[0,1]的一個子集[tA(xi), 1-fA(xi)]界定，稱該區(qū)間為xi在A中的Grey值，記為GA(xi)。

對于?xi∈X，稱hA(xi)=1-tA(xi)-fA(xi)為xi的Grey度，它描述了xi相對于Grey集A的躊躇度，是xi相對于A的不可知隸屬度。

Grey-Sigmoid核函數(shù)算法描述：

1)將數(shù)據進行預處理，并分為訓練樣本集和測試樣本集2類；

2)求訓練樣本的灰色聚類中心；

3)計算訓練樣本點的Grey值；

4)利用Grey-Sigmoid核函數(shù)，對帶有Grey值得訓練樣本進行分類和測試。

1.4訓練樣本的Grey值

(7)

同理，如果屬于Ⅱ類的情況，則定義：

(8)

(9)

1.5Grey集的相似度量及Grey-Sigmoid核

用2個樣本點的相似度量代替歐氏距離：首先，計算對應的Grey值，然后表示成另一個空間的點，最后計算點間的相似度。

設樣本xi和xj采用本文方法計算出的Grey值為G(xi)和G(xj)，則它們在空間中對應的點Di表示為：Di(t(xi) (1+h(xi))，f(xi)(1+h(xi))，h2(xi));Dj(t(xj) (1+h(xj))，f(xj)(1+h(xj))，h2(xj))

圖1 類I中樣本Grey值的計算Fig.1 Grey value computation of the sample in Class I

經以上定義的Di，Dj的相似度：

(10)

Grey-Sigmoid核函數(shù)：

(11)

式中:γ=-r/a

1.6基于圖像分塊的并行處理框架

1.6.1 整體結構 對目標識別進行并行處理的核心是將原始光譜圖像進行切割，將切割后的子圖像分配到不同的處理器上同時進行處理，最后將所有的識別結果合并，得到最終的結果(圖2)。

1.6.2 原始圖像的切割 為保證分塊后的子圖像的識別結果與原圖分類識別結果不變，要注意切割的方法。如果切割時將某個目標切割成多個子圖像，則可能丟失此目標。本研究使用邊界覆蓋法來解決這個問題，即相鄰的子圖像之間有一定寬度的相互覆蓋。為了盡可能快地提高計算速度，需要注意以下問題：1)子圖像的大小要相同或比較接近，使得每臺處理器的任務量相近; 2)子圖像的長寬度最好相同，以保留更多的目標信息; 3)子圖像的數(shù)量不宜過多，數(shù)量過多會導致目標信息的丟失，增大傳輸開銷。

圖2 并行處理框架圖Fig.2 The parallel processing frame

2 結果與分析

2.1UCI數(shù)據集實驗

為檢驗本文算法的魯棒性和有效性，通過UCI選取8個數(shù)據集對算法進行驗證[11]。在實驗中將本文算法與傳統(tǒng)Sigmoid核函數(shù)的支持向量機算法

進行對比。在1.5GHz，2G內存PC機上利用ENVI和Matlab 2004a實現(xiàn)算法運算。

從UCI中選取8個數(shù)據集分別為Wdbc、Ionosphere、Sonar、Diabetes、Iris、Vehicle、Pima和Breast-cancer，這8個數(shù)據是對比非監(jiān)督分類的聚類效果和分類精度的典型數(shù)據，其基本特征和分類結果見表1。

支持向量機分類算法的性能很大程度上依賴于參數(shù)的優(yōu)化選擇。本文對sigmoid核函數(shù)及Grey-Sigmoid核函數(shù)的參數(shù)進行調優(yōu)。在實驗中存在2類參數(shù)：模型參數(shù)C(懲罰系數(shù))和Sigmoid核參數(shù)a和r，其中參數(shù)懲罰系數(shù)C取100，a=1/n為固定值，n為輸出樣本的維數(shù)。參數(shù)r的選擇用格搜索技術，參數(shù)r(r=[-4,…,0])被分成20個點。

為參數(shù)r選擇一組候選值，然后計算參數(shù)對應的交叉驗證的正確率。為了與Sigmoid核函數(shù)的支持向量機進行對比，我們使用10-fold交叉驗證法。

從實驗中發(fā)現(xiàn)，相對于傳統(tǒng)的Sigmoid核函數(shù)，我們提出的Grey-Sigmoid核函數(shù)不僅在處理時間上有明顯減少，而且在大多數(shù)數(shù)據集上分類精度也基本持平，甚至有所提高，但在Sonar，Ionosphere這樣的高維數(shù)據集上，盡管處理時間有大幅減少，但本文提出的算法在處理效果上優(yōu)勢還不是很明顯。

表1 數(shù)據集的基本信息及實驗結果Table 1 Basic information of data set and results

2.2小麥全蝕病的高光譜圖像分類應用實例

高光譜圖像具有數(shù)據量大和運算復雜性高的特點。而基于sigmoid核函數(shù)的SVM算法在處理高光譜圖像分類問題的時候，由于其解不具有稀疏性，所以測試和訓練的時間比較長，無法滿足田間小麥全蝕病高光譜圖像的實時處理及病情監(jiān)測的要求。利用本研究提出的基于緊密度的Grey-sigmoid核函數(shù)方法，在滿足分類精度的同時，可有效減少分類時間，提高基于高光譜遙感圖像的小麥全蝕病實時監(jiān)測能力(表2)。

表2 2種Sigmoid核函數(shù)的支持向量機分類的對比Table 2 The comparative results for different SVM methods based on Sigmoid kernel

注：這里的精確度、Kappa值和處理時間均為實驗均值。

Note: The accuracy, Kappa value and processing time are the mean.

由于目標地物的特征差異，高光譜圖像的形成受到紅移和噪聲的影響，不可避免的具有模糊、不均等特點[12]。本研究在圖像分塊的基礎上，將小麥乳熟期原始光譜圖像分割成6個子塊進行并行處理，采用基于緊密度的Grey-Sigmoid核函數(shù)方法進行實驗時，同時采用傳統(tǒng)Sigmoid核函數(shù)進行分類對比試驗(圖3)，各種方法的平均精確度、平均Kappa值和處理時間見表2。

圖3 利用圖像分塊進行分類的并行處理結果Fig.3 Parallel processing results using image block classification

從表2可以看出，采用Grey-Sigmoid核函數(shù)的支持向量機在全蝕病程度的分類上精確度和置信度(Kappa值)均與傳統(tǒng)的Sigmoid核函數(shù)持平且略有提升，而處理時間則有比較明顯的減少。根據圖3顯示的分類結果，相對于傳統(tǒng)的Sigmoid核函數(shù)，基于Grey-Sigmoid核函數(shù)的支持向量機并行處理算法對于分類背景中的野值和噪聲有更好的過濾性能，且對于小麥的邊緣分類狀況有更好的識別度(例如子塊5和子塊6中產生的較為明顯的分類誤差)。

3 結論

針對傳統(tǒng)Sigmoid核函數(shù)的支持向量機方法中存在的對野值和邊緣分類的敏感問題，本文研究了一種基于緊密度的Grey-Sigmoid核函數(shù)，不僅考慮了樣本與所在類中心之間的距離，也考慮了樣本間的聚類信息。在特征空間中，可以用一個緊湊的球或超球將樣本集包圍起來，此時，樣本間的緊密度可以通過包圍樣本的最小球的半徑來度量。對分布在半徑內、外的樣本，分別計算其灰度。由于考慮樣本的灰度，該方法更有效的將野值噪聲和樣本中的有效樣本進行區(qū)分，從而更好地反應樣本在支持向量機的目標函數(shù)的作用。

為了更好地評價基于緊密度的Grey-Sigmoid核函數(shù)的分類性能和抗噪能力，分別使用UCI測試數(shù)據和田間試驗獲取的小麥全蝕病光譜圖像進行對比實驗。結果表明，本文提出的基于緊密度的Grey-Sigmoid核函數(shù)支持向量機具有更好的抗噪性及分類能力，結合圖像分塊的并行處理方法，可以有效地提高支持向量機的運算速率。

[1] DATCU M，SEIDEL K，PELIZARRI A，et.al. Image information mining and remote sensing data interpretation[C]//IEEE Geoscience and Remote Sensing Symposium， 2000. Proceedings. IGARSS 2000. IEEE 2000 International. IEEE, 2000(7)：3057-3059.

[2] 周成虎，駱劍承，楊曉梅. 遙感影像地學理解與分析[M].北京：科學出版社，1999.

[3] SHAH C A, WATANACHATURAPORN P, VARSHNEY P K, et al. Some recent resuIts on hyperspectral image classification[C]//IEEE Workshop on Advances in Techniques for Analysis of Remotely Sensed Data, 2003 IEEE Workshop on. IEEE, 2004:346-353.

[4] NEMMOUR H, CHIBANI Y. Multiple support vector machines for land cover change detection: An application for mapping urban extensions[J]. ISPRS Journal of Photogrammetry and Remote Sensing, 2006,61(2): 125-133.

[5] LINKER R, SEGINER I. Greenhouse temperature modeling: a comparison between sigmoid neural networks and hybrid models[J]. Mathematics and computers in simulation, 2004,65: 19-29.

[6] CAMPS-VALLS G， MARTN-GUERRERO J D， ROJO-LVAREZ J L， et al. Fuzzy sigmoid kernel for support vector classifiers[J]. Neurocomputing, 2004, 62: 501-506.

[7] CHERKASSKY V, MA Y. Practical selection of SVM parameters and noise estimation for SVM regression[J]. Neural Networks, 2004,17(1): 113-126.

[8] 劉涵，劉丁. 基于模糊sigmoid核的支持向量機回歸建模[J]. 控制理論與應用, 2006,23(2): 204-208.

[9] 張翔，肖小玲，徐光祐. 基于樣本之間緊密度的模糊支持向量機方法[J]. 軟件學報, 2006, 17(5): 951-958.

[10] 郭三黨，王玲玲，劉思峰，等. 基于最大灰色關聯(lián)度的聚類方法分析[J]. 數(shù)學的實踐與認識, 2013, 43(6): 195-201.

[11] 黃衛(wèi)春，劉建林，熊季艷. 基于樣本—特征加權的模糊核聚類算法研究及應用[J].計算機工程與科學, 2014. 36(1):169-174.

[12] ZHAO J W, CHEN Q, HUANG X, et al. Qualitative identification of tea categories by near infrared spectroscopy and support vector machine[J]. Journal of Pharmaceutical and Biomedical Analysis, 2006,41(4): 1198-1204.

(責任編輯：馬紅春)

Studyonhyperspectralremotesensingimageclassificationmethodbasedonthegrey-sigmoidkernelfunctionsupportvectormachine

WANG Haolin1, GUO Wei2, SHI Yue2, QIAO Hongbo2

(1.Senior High School of Zhengzhou Foreign Language New Fengyang School, Zhengzhou 450001, China; 2.College of Information and Management Science, Henan Agricultural University, Zhengzhou 450002, China)

Since SVM is sensitive to the noises and outliers in the training set, a new SVM algorithm based on affinity Grey-Sigmoid kernel is proposed in the paper. The cluster membership is defined by the distance from the cluster center, but also defined by the affinity among samples. The remote sensing image classification experiments conducted in the field of wheat prove that, compared with the Grey-Sigmoid kernel function and Sigmoid kernel function of the traditional, it is faster in computational speed and there is no obvious loss in accuracy.

hyperspectral remote sensing; support vector machine; image; classification

TP205

：A

2016-05-06

國家自然科學基金項目(31301604)；河南省科技攻關項目(122102110045)

王顥霖(1999-)，男，河南鄭州人，主要從事計算機應用研究。

喬紅波(1978-)，男，河南新野人，副教授，博士。

1000-2340(2017)03-0402-06