畢航權(quán),石杏喜,劉瑋
(南京理工大學(xué)土木工程系,江蘇南京 210094)
LS-SVW/BP神經(jīng)網(wǎng)絡(luò)組合模型在GPS高程轉(zhuǎn)換中的應(yīng)用
畢航權(quán),石杏喜,劉瑋
(南京理工大學(xué)土木工程系,江蘇南京 210094)
傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)在GPS高程轉(zhuǎn)換中存在一定局限性,特別是在外推精度方面。為避免幾何曲面模型不能貼合的情況及神經(jīng)網(wǎng)絡(luò)在訓(xùn)練時(shí)產(chǎn)生局部極小概率的問題,文中提出一種改進(jìn)的BP神經(jīng)網(wǎng)絡(luò)高程異常擬合方法,即LS-SVW/BP神經(jīng)網(wǎng)絡(luò)組合模型,通過實(shí)例對(duì)該組合模型與BP神經(jīng)網(wǎng)絡(luò)、二次曲面擬合、平面擬合進(jìn)行比較,說明了該組合模型用于GPS高程轉(zhuǎn)換的可行性和優(yōu)越性。
公路;GPS高程;LS-SVW/BP模型;高程異常
無(wú)論是在作業(yè)效率還是在測(cè)量結(jié)果可靠性方面,GPS測(cè)量技術(shù)比傳統(tǒng)技術(shù)都取得了長(zhǎng)足進(jìn)步。但GPS測(cè)量經(jīng)過平差處理后得到的是相對(duì)WG-84坐標(biāo)系統(tǒng)的大地高HGPS,而實(shí)際工程測(cè)量得到的是正常高H0,需將大地高HGPS轉(zhuǎn)換成正常高(水準(zhǔn)高程)H0,兩者之間的差值即為高程異常ξ。
常規(guī)的高程異常擬合數(shù)學(xué)模型有曲面擬合法、多項(xiàng)式擬合法等,都是通過擬合出與高程異常相近似的趨勢(shì)面來代替擬合區(qū)域的似大地水準(zhǔn)面。該文將LS-SVW/BP神經(jīng)網(wǎng)絡(luò)組合模型應(yīng)用于GPS高程轉(zhuǎn)換,并通過與BP神經(jīng)網(wǎng)絡(luò)、二次曲面擬合、平面擬合等模型進(jìn)行對(duì)比說明該組合模型應(yīng)用于高程轉(zhuǎn)換的可行性。
1.1 最小二乘支持向量機(jī)的原理
最小二乘支持向量機(jī)(LS-SVM)是支持向量機(jī)的改進(jìn)模型,秉承了支持向量機(jī)的基本思想,簡(jiǎn)化了標(biāo)準(zhǔn)支持向量機(jī)的復(fù)雜計(jì)算。它將傳統(tǒng)支持向量機(jī)中目標(biāo)函數(shù)的不等式約束改為等式約束,將誤差平方和損失函數(shù)作為訓(xùn)練集的經(jīng)驗(yàn)損失,把解二次規(guī)劃問題轉(zhuǎn)化為求解線性方程組的問題,并將經(jīng)驗(yàn)方差的偏差的一次方改為二次方,避免了不敏感損失函數(shù),大大降低了復(fù)雜程度,提高了求解問題的速度和收斂精度,同時(shí)使誤差平方項(xiàng)最小化。因此,LS-SVM能解決一般SVM在樣本數(shù)目多時(shí)運(yùn)算速度慢、抗噪能力差、復(fù)雜等問題,在非線性預(yù)測(cè)控制方面更具優(yōu)勢(shì)。
給定一個(gè)有M個(gè)訓(xùn)練樣本的集(xi,yi),i=1,2,…,M,其中訓(xùn)練樣本為m維向量,按照結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則,可把函數(shù)擬合問題轉(zhuǎn)換為函數(shù)約束優(yōu)化問題:
式中:W∈R為權(quán)矢量;C為正則化參數(shù)。
SVM算法中的約束條件為等式,即:
式中:g(x)為映射函數(shù);b為偏置量。
定義拉格朗日函數(shù):
式中:ai為拉格朗日乘子。
根據(jù)優(yōu)化條件對(duì)式(3)分別求?L/?W、?L/?b、?L/?ξi、?L/?ai,并令結(jié)果為零,則有:
對(duì)式(4)進(jìn)行整理后,得到LS-SVM非線性預(yù)測(cè)模型:
為了解決高維計(jì)算問題,引入核函數(shù)k(x,xi)替代g(x)g(xi),即:
1.2 神經(jīng)網(wǎng)絡(luò)法的原理
人工神經(jīng)網(wǎng)絡(luò)是由簡(jiǎn)單處理單元(神經(jīng)元)按一定的方式連接而成的非線性網(wǎng)絡(luò),是一個(gè)大規(guī)模自適應(yīng)非線性動(dòng)力系統(tǒng),具有集體運(yùn)算能力。其中用反向傳播算法進(jìn)行訓(xùn)練的多層前向網(wǎng)絡(luò)即為BP網(wǎng)絡(luò)。BP神經(jīng)網(wǎng)絡(luò)具有優(yōu)良的非線性逼近能力,應(yīng)用也最廣泛。運(yùn)用BP神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)換GPS高程是一種自適應(yīng)的映射方法,不用作假設(shè),理論上比較合理,能避開未知因素的影響,減少模型誤差,提高GPS高程的轉(zhuǎn)換精度。
BP神經(jīng)網(wǎng)絡(luò)模型擬合高程的過程:1)向前傳播階段。以已知點(diǎn)樣本集(Xi,Yi,Hi,Hri)作為學(xué)習(xí)集,將(Xi,Yi,Hi)輸入,并設(shè)定閾值,計(jì)算實(shí)際的輸出量Hri。2)向后傳播階段。計(jì)算輸出值Hri和已知的Hri的差,按極小化誤差的方式調(diào)整權(quán)值。3)工作集計(jì)算階段。將待求樣本集放入已通過前兩步訓(xùn)練的網(wǎng)絡(luò)中,計(jì)算擬合的正常高程。
1.3 LS-SVM和BP神經(jīng)網(wǎng)絡(luò)組合模型
雖然LS-SVM和BP神經(jīng)網(wǎng)絡(luò)各自具有很多優(yōu)點(diǎn),但都存在一定局限性:BP神經(jīng)網(wǎng)絡(luò)會(huì)因?yàn)槌跏贾档娜≈刀绊懽詈笫諗康慕Y(jié)果,導(dǎo)致模擬結(jié)果不穩(wěn)定,且在一些情況下會(huì)產(chǎn)生局部極值問題;LS -SVM的計(jì)算精度會(huì)受到其中核函數(shù)和懲罰參數(shù)的影響。在以往研究中,有學(xué)者利用BP神經(jīng)網(wǎng)絡(luò)和二次曲面結(jié)合的模型、BP神經(jīng)網(wǎng)絡(luò)和最小二乘配置法結(jié)合的模型形成混合轉(zhuǎn)換方法,并在一定工程條件下進(jìn)行了試驗(yàn),其原理就是利用BP神經(jīng)網(wǎng)絡(luò)來縮小二次曲面帶來的曲面模型的誤差。但對(duì)于面積更大,且已知控制點(diǎn)少的地區(qū),這種混合轉(zhuǎn)換方法的適用性還有待檢驗(yàn);另外,二次曲面模型與水準(zhǔn)面是否貼合、擬合出的殘差提供給BP神經(jīng)網(wǎng)絡(luò)的初始值是否準(zhǔn)確也有待檢驗(yàn)。
將LS-SVM和BP神經(jīng)網(wǎng)絡(luò)相結(jié)合,在不需確定幾何曲面的情況下,在小樣本空間中能解決訓(xùn)練集合產(chǎn)生局部極小的問題。方法(見圖1)如下:
(1)在測(cè)量區(qū)域內(nèi)有n1個(gè)已知點(diǎn)和n2個(gè)待測(cè)點(diǎn),將n1個(gè)點(diǎn)的信息放入LS-SVM工具箱中,由此得到GPS高程異常ξ。
(2)測(cè)量出n1個(gè)已知點(diǎn)的高程異常ξ0,并計(jì)算其與由LS-SVM得出的異常高程之間的差值,即Δξ=ξ0-ξ。
(3)將n1個(gè)已知點(diǎn)的所有信息構(gòu)成學(xué)習(xí)樣本集(xi,yi,ξi,Δξi),其中x、y、ξ 為輸入單元參數(shù),Δξ為輸出單元參數(shù)。用神經(jīng)網(wǎng)絡(luò)的方法對(duì)訓(xùn)練集進(jìn)行訓(xùn)練,計(jì)算高程異常的偏差。
(4)用訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)對(duì)n2個(gè)待測(cè)點(diǎn)的集合進(jìn)行訓(xùn)練,得出各點(diǎn)的高程異常Δξ,進(jìn)而按下式得到擬合高程:
式中:ξ為L(zhǎng)S-SVM法中計(jì)算的高程異常值;Δξ為BP神經(jīng)網(wǎng)絡(luò)中計(jì)算的高程異常的偏差。
圖1 LS-SVM/BP神經(jīng)網(wǎng)絡(luò)組合模型高程轉(zhuǎn)換流程
實(shí)質(zhì)上,將LS-SVM和BP神經(jīng)網(wǎng)絡(luò)相結(jié)合是為了避免幾何曲面模型不貼合的情況,同時(shí)通過LS-SVM法提供給神經(jīng)網(wǎng)絡(luò)一個(gè)相對(duì)穩(wěn)定的初始值,充分考慮了整體性,可減小神經(jīng)網(wǎng)絡(luò)在訓(xùn)練時(shí)產(chǎn)生局部極小的概率。采用該方法可削弱LS-SVM的整體誤差,修正高程異常值,同時(shí)彌補(bǔ)BP神經(jīng)網(wǎng)絡(luò)在外推模型上的缺陷。
BP神經(jīng)網(wǎng)絡(luò)的輸入層有一個(gè)參數(shù)ξ,輸出層的高程異常偏差Δξ=ξ0-ξ即為L(zhǎng)S-SVM在高維空間中的訓(xùn)練誤差,ξ0為高程異常的真實(shí)值。
為了分析比較平面擬合、二次曲面擬合、BP神經(jīng)網(wǎng)絡(luò)、LS-SVM及LS-SVM與BP神經(jīng)網(wǎng)絡(luò)組合模型的擬合精度,利用MATLAB編制計(jì)算程序,主要包括主界面、LS-SVM計(jì)算、BP神經(jīng)網(wǎng)絡(luò)計(jì)算、多項(xiàng)式曲面擬合計(jì)算、LS-SVM/BP組合模型計(jì)算和繪圖6個(gè)菜單模塊。主界面包括數(shù)據(jù)輸入和輸出。數(shù)據(jù)輸入部分位于主界面的左側(cè),可根據(jù)點(diǎn)位信息情況輸入,也可直接讀取寫字本文件中的數(shù)據(jù)。輸入?yún)?shù)包括控制點(diǎn)和待測(cè)點(diǎn)的平面坐標(biāo)及它
們的大地高、正常高。數(shù)據(jù)輸出部分位于主界面的右側(cè),分別輸出控制點(diǎn)和待測(cè)點(diǎn)的擬合高程異常和殘差及待測(cè)點(diǎn)擬合出的正常高。點(diǎn)擊相應(yīng)的計(jì)算模塊可輸出對(duì)應(yīng)的數(shù)值輸出量,繪圖模塊則可繪制控制點(diǎn)及待測(cè)點(diǎn)的擬合殘差圖。
為了檢驗(yàn)LS-SVM/BP神經(jīng)網(wǎng)絡(luò)組合模型的擬合效果,在南京市某標(biāo)段市政道路上設(shè)置測(cè)量點(diǎn),選取均勻分布的7個(gè)點(diǎn)(K1~K7)作為學(xué)習(xí)樣本,剩下的7個(gè)點(diǎn)(D1~D7)作為待測(cè)點(diǎn)。分別采用平面擬合法、二次曲面擬合法、BP神經(jīng)網(wǎng)絡(luò)法、LSSVM法及LS-SVM/BP神經(jīng)網(wǎng)絡(luò)結(jié)合法對(duì)數(shù)據(jù)進(jìn)行擬合。每個(gè)點(diǎn)的平面坐標(biāo)、大地高、正常高及高程異常已知。
2.1 LS-SVM/BP組合模型擬合GPS高程
(1)數(shù)據(jù)的歸一化處理。在進(jìn)行數(shù)據(jù)擬合之前,為了避免因數(shù)據(jù)值較大而對(duì)計(jì)算結(jié)果產(chǎn)生影響,也為了適應(yīng)BP網(wǎng)絡(luò)的輸出,減小權(quán)值調(diào)整幅度,對(duì)參與擬合運(yùn)算的數(shù)據(jù)進(jìn)行歸一化處理,使其數(shù)值處于[-1,1]。處理方法見式(8)。歸一化后已知點(diǎn)和待測(cè)點(diǎn)的坐標(biāo)見表1。
式中:xi為歸一化變量;xmax和xmin分別為樣本集的最大、最小值。
表1 GPS水準(zhǔn)點(diǎn)歸一化后平面坐標(biāo)及高程異常數(shù)據(jù)
(2)LS-SVM的核函數(shù)選擇和參數(shù)優(yōu)化。采用徑向基函數(shù)作為L(zhǎng)S-SVM的核函數(shù),采用基于交叉核實(shí)(cross validate)的格網(wǎng)搜尋法選取最佳參數(shù),從而確定LS-SVM參數(shù)。
(3)采用tunelssvm、simlssvm、trainlssvm調(diào)用函數(shù)對(duì)初始化LS-SVM模型進(jìn)行訓(xùn)練和預(yù)測(cè),求得Z1~Z7的殘差Δξ(見表2)。
表2 控制點(diǎn)LS-SVM訓(xùn)練殘差m
(4)將數(shù)據(jù)控制點(diǎn)的數(shù)據(jù)構(gòu)成文本建立神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練。
(5)將待測(cè)點(diǎn)的數(shù)據(jù)構(gòu)成文本帶入訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)中,按下式求得高程異常ξ0′及其殘差ε(見表3)。
表3 LS-SVM/BP組合模型下GPS水準(zhǔn)點(diǎn)高程異常殘差m
2.2 擬合精度對(duì)比
分別采用平面擬合、二次曲面擬合、LS-SVM模型和BP神經(jīng)網(wǎng)絡(luò)進(jìn)行GPS高程擬合,采用內(nèi)外符合精度衡量其擬合結(jié)果的優(yōu)劣。各擬合方法的內(nèi)外符合精度和殘差最值見表4,擬合殘差見圖2。
由表4和圖2可以看出:1)LS-SVM的內(nèi)外符合精度分別為6.63和5.58 mm,其外符合精度優(yōu)于二次曲面擬合、平面擬合和BP神經(jīng)網(wǎng)絡(luò),說明該方法具有良好的外推能力、較高的泛化能力,能解決小樣本、非線性、高維數(shù)、局部極小等問題。BP神經(jīng)網(wǎng)絡(luò)的內(nèi)符合精度較高,外符合精度相對(duì)較低,但比平面擬合的結(jié)果好;二次曲線的擬合結(jié)果較好,其擬合精度高于BP神經(jīng)網(wǎng)絡(luò)。2)LS-SVM/BP神經(jīng)網(wǎng)絡(luò)組合模型的內(nèi)符合精度介于LS-SVM和BP神經(jīng)網(wǎng)絡(luò)兩種單一方法之間,但外符合精度比兩種單一模型有所提高。外推點(diǎn)(D1~D7)中,BP神經(jīng)網(wǎng)絡(luò)的殘差變化量相對(duì)較大,而組合模型的殘差變化量較平穩(wěn)。表明對(duì)于平坦的市政道路,利用LSSVM擬合結(jié)果作為神經(jīng)網(wǎng)絡(luò)初始權(quán)值可克服神經(jīng)網(wǎng)絡(luò)等一般機(jī)器學(xué)習(xí)中出現(xiàn)的過學(xué)習(xí)和局部極值等問題,較好地保持兩種模型的各自優(yōu)點(diǎn),從而獲得較高的擬合精度。
表4 幾種模型的擬合精度對(duì)比mm
圖2 幾種模型擬合殘差比較
將LS-SVM與BP神經(jīng)網(wǎng)絡(luò)相結(jié)合進(jìn)行GPS高程擬合,與BP神經(jīng)網(wǎng)絡(luò)、二次曲面擬合、平面擬合相比,可提高BP神經(jīng)網(wǎng)絡(luò)的外推精度,在GPS高程擬合中具有很大優(yōu)勢(shì)。但該方法在支持向量機(jī)核函數(shù)選擇、參數(shù)優(yōu)化方法、神經(jīng)網(wǎng)絡(luò)收斂控制參數(shù)等方面還有待完善,對(duì)于復(fù)雜地勢(shì)的GPS高程控制是否有效也需進(jìn)一步檢驗(yàn)。
[1] 周忠謨,易杰軍,周琪.GPS衛(wèi)星測(cè)量原理與應(yīng)用[M].北京:測(cè)繪出版社,2002.
[2] 劉瑋,石杏喜.基于多項(xiàng)式的擬合推估法在GPS高程轉(zhuǎn)換中的應(yīng)用[J].公路與汽運(yùn),2016(2).
[3] 顧燕萍,趙文杰,吳占松.最小二乘支持向量機(jī)的算法研究[J].清華大學(xué)學(xué)報(bào):自然科學(xué)版,2010,50(7).
[4] 任超,李和旺.最小二乘支持向量機(jī)在GPS高程擬合中的應(yīng)用[J].工程勘察,2012(7).
[5] 陳剛,張明,張芯.基于BP人工神經(jīng)網(wǎng)絡(luò)的GPS高程異常擬合方法研究[J].通信技術(shù),2008,41(11).
[6] 高雋.人工神經(jīng)網(wǎng)絡(luò)原理及仿真實(shí)例[M].北京:機(jī)械工業(yè)出版社,2003.
[7] 沈雪峰,高成發(fā),潘樹國(guó).基于最小二乘配置的BP神經(jīng)網(wǎng)絡(luò)GPS高程異常擬合方法研究[J].測(cè)繪工程,2010,19(4).
[8] 王小輝,王琪潔,丁元蘭,等.基于二次曲面和BP神經(jīng)網(wǎng)絡(luò)組合模型的GPS高程異常擬合[J].大地測(cè)量與地球動(dòng)力學(xué),2012,32(6).
[9] 聞新,周露,王丹力,等.MATLAB神經(jīng)網(wǎng)絡(luò)應(yīng)用設(shè)計(jì)[M].北京:科學(xué)出版社,2000.
[10] 駱?biāo)棘?,顏懷成,劉?基于MATLAB的神經(jīng)網(wǎng)絡(luò)法在GPS高程擬合中的應(yīng)用[A].江蘇省測(cè)繪地理信息學(xué)會(huì)2015年學(xué)術(shù)年會(huì)論文集[C].2015.
U412.3
A
1671-2668(2016)06-0133-04
2016-08-01