混合總體最小二乘法在平面坐標轉(zhuǎn)換中的相對有效性

楊 瑛

(西安市不動產(chǎn)登記服務中心，陜西 西安 710002)

0 引言

在平面坐標轉(zhuǎn)換中，針對觀測值誤差，一般都是按照最小二乘法(LS法)進行解算,但是LS法只考慮了觀測向量L上的隨機誤差，卻沒有考慮由觀測值組成的系數(shù)矩陣A中的隨機誤差，這在實際情況中并不合理?？傮w最小二乘法(TLS法)的產(chǎn)生解決了上述問題，TLS法同時對系數(shù)矩陣A和觀測向量L進行平差誤差處理，參照文獻[2]。隨之出現(xiàn)的問題便是：TLS法在坐標轉(zhuǎn)換的解算中，對系數(shù)矩陣進行改正的同時改正了其常數(shù)列，這使得TLS法對系數(shù)矩陣A的改正顯得很不合理。汪奇生和楊德宏也注意到了這個問題，他們提出了顧及常數(shù)列的總體最小二乘法，但是這種方法也有一定的局限性，其在于每次迭代過程中的觀測值單位權中誤差并不是真實的單位權中誤差?；旌峡傮w最小二乘法(LS-TLS法)應運而生，在解決了上述問題的同時，遵循一定的平差準則，對系數(shù)陣中常數(shù)列不加改正，使其在迭代過程中保持不變，文獻[1]詳細推導了混合總體最小二乘的迭代步驟，并證明了在二元線性回歸中，LS-TLS法解算出的參數(shù)要優(yōu)于LS法和TLS法。

本文將LS-TLS法運用在平面坐標轉(zhuǎn)換中。通過算例和仿真實驗的方法，運用LS,TLS,LS-TLS3種方法解算不同觀測值個數(shù)、不同誤差模型的平面四參數(shù)坐標轉(zhuǎn)換參數(shù)，比較了三種方法的優(yōu)劣，并對其進行了分析。

1 坐標轉(zhuǎn)換模型

A原坐標系下坐標轉(zhuǎn)換到B目標系統(tǒng)下的坐標的四參數(shù)轉(zhuǎn)換模型：

(1)

式中：XA，YA——坐標系統(tǒng)下的坐標；

XB,YB——B坐標系統(tǒng)下的坐標；

x0,y0,k,a——A坐標系統(tǒng)轉(zhuǎn)換到B坐標系統(tǒng)的坐標轉(zhuǎn)換參數(shù)。

這四個轉(zhuǎn)換參數(shù)是由兩坐標的重合點算得，設兩個坐標系有n個重合點，則觀測值個數(shù)為m=2n，參數(shù)個數(shù)t=4，自由度r=2m-4，則四參數(shù)模型坐標轉(zhuǎn)換的誤差方程為：

(2)

2 LS-TLS數(shù)學模型及比較指標

混合最小二乘的數(shù)學模型為：

(3)

3 實驗與分析

3.1 實驗數(shù)據(jù)

3.2 算例

本文算例只是接下來3.3中仿真實驗的一次計算過程，計算步驟如下：

1)從表1中選取P1～P5已加入隨機誤差的5個重合點，組成系數(shù)矩陣A和常數(shù)項矩陣L。

2)按照2.1中闡述的LS-TLS法的迭代步驟進行迭代。參照文獻[2]和文獻[6]，分別用LS，TLS進行解算，得出參數(shù)X估值及相應L的改正數(shù)。

3)計算這3種方法的四個轉(zhuǎn)換參數(shù)X、觀測向量L的均方誤差MSRTE以及其余兩種方法相對于LS法的均方誤差之比(RR)(見表2，表3)。

表1 15個重合點原坐標系下XA,YA和

表2 參數(shù)X的真值、估值、殘余真誤差、均方誤差以及均方誤差之比

表3 觀測向量L的真值、估值、殘余真誤差、均方誤差以及均方誤差之比

表4 基于LS,TLS,LS-TLS解算得到轉(zhuǎn)換參數(shù)和觀測向量的MSRTE

3.3 仿真實驗

A,B兩坐標系下的坐標(XA,YA,XB,YB)分別加入3類不同中誤差的隨機誤差(ΔxA,ΔyA,ΔxB,ΔyB)來模擬實驗數(shù)據(jù)，其中隨機誤差絕對值的最大值小于2.5倍的中誤差。

1)隨機誤差服從σ0=5 mm的正態(tài)分布，|ε|≤2.5σ0。

2)隨機誤差服從σ0=1 cm的正態(tài)分布，|ε|≤2.5σ0。

3)隨機誤差服從σ0=5 cm的正態(tài)分布，|ε|≤2.5σ0。

3.4 實驗分析

1)由表4明顯可以看出，隨著隨機誤差中誤差的增加，經(jīng)過LS,TLS,LS-TLS 3種方法解算之后的轉(zhuǎn)換參數(shù)和觀測向量的殘余真誤差均方誤差呈現(xiàn)變大的趨勢，有效性也隨之減少。

2)表5中，當隨機誤差中誤差為0.5 cm和1 cm時，經(jīng)過TLS和LS解算之后的轉(zhuǎn)換參數(shù)的殘余真誤差均方誤差之比RR略大于1.05,當隨機誤差中誤差為5 cm時，其RR大于1.05。就觀測估值而言，TLS與LS法的RR始終大于1.05。LS-TLS與LS解算之后的轉(zhuǎn)換參數(shù)和觀測向量的RR均大于0.95，小于1.05。

表5 基于LS，TLS，LS-TLS解算得到轉(zhuǎn)換參數(shù)和觀測向量的RR

4 結語