基于非線性高斯-赫爾默特模型的混合整體最小二乘估計

方　興，曾文憲，劉經(jīng)南,2，姚宜斌，王　勇

1. 武漢大學(xué)測繪學(xué)院，湖北 武漢 430079； 2. 武漢大學(xué)衛(wèi)星導(dǎo)航定位技術(shù)研究中心，湖北 武漢 430079； 3. 鄭州測繪學(xué)校，河南 鄭州 450015

?

基于非線性高斯-赫爾默特模型的混合整體最小二乘估計

方興1，曾文憲1，劉經(jīng)南1,2，姚宜斌1，王勇3

1. 武漢大學(xué)測繪學(xué)院，湖北 武漢 430079； 2. 武漢大學(xué)衛(wèi)星導(dǎo)航定位技術(shù)研究中心，湖北 武漢 430079； 3. 鄭州測繪學(xué)校，河南 鄭州 450015

Foundation support： The National Natural Science Foundation of China (Nos. 41404005；41474006；41231174；41274022 ); The Fundamental Research Founds for the Central Universities(No.2042014kf053)

摘要：針對EIV模型的系數(shù)矩陣同時包含固定量和隨機量的情況，通過將系數(shù)矩陣中的隨機量提取出來納入平差的隨機模型，從而將EIV模型表示為非線性高斯-赫爾默特(Gauss-Herlmert,GH)模型形式，推導(dǎo)了混合LS-TLS(least squares-total least squares, LS-TLS)算法及其精度估計公式。算法適用于系數(shù)矩陣包含固定列、固定元素和隨機元素的一般情況。模擬實例結(jié)果表明，混合LS-TLS算法與已有能夠解決系數(shù)矩陣同時含固定量和隨機量的結(jié)構(gòu)性或加權(quán)TLS算法的估計結(jié)果一致；混合LS-TLS的估計結(jié)果統(tǒng)計上要優(yōu)于LS或TLS估計結(jié)果。

關(guān)鍵詞：混合整體最小二乘估計；精度估計；EIV模型；非線性高斯-赫爾默特模型

高斯-馬爾科夫(Gauss-Markov，GM)模型的系數(shù)矩陣是固定量(也稱非隨機量)，最小二乘(least squares，LS)估計可求得GM模型的最優(yōu)無偏解，LS算法簡單、高效，是大地測量領(lǐng)域最常用的估計方法。EIV(errors-in-variables)模型的系數(shù)矩陣含隨機誤差，如果忽略系數(shù)矩陣的隨機誤差采用LS得到的結(jié)果有偏[1-2]，整體最小二乘(total least squares，TLS)估計由于同時顧及了觀測向量和系數(shù)矩陣中的隨機誤差，解具有漸近無偏性[3]。文獻[4]于19世紀末最早提出整體最小二乘估計準則，但TLS估計的非線性特性致其受制于計算機技術(shù)的發(fā)展，直到20世紀80年代初，文獻[1]提出了著名的奇異值分解算法后，TLS才開始廣泛應(yīng)用于各專業(yè)領(lǐng)域。大地測量領(lǐng)域結(jié)合測量數(shù)據(jù)的特性和需求，21世紀初起對TLS進行了深入研究，提出了加權(quán)TLS算法[5-11](weighted total least squares,WTLS)。此外，擴展TLS算法如非線性TLS算法[10,12]、附有等式和不等式約束的TLS算法[13-18]等相繼得到了研究。

當(dāng)EIV模型的系數(shù)矩陣并非全為隨機量，而是同時包含固定量和隨機量時，不能簡單運用TLS算法求解，需采用混合整體最小二乘(least squares-total least squares, LS-TLS)估計?，F(xiàn)有混合LS-TLS算法可分為兩類,一類算法僅針對固定列的特殊混合LS-TLS算法，如文獻[19—20]的算法基于矩陣QR分解，文獻[3]采用廣義奇異值分解方法，這些數(shù)值算法并不能得到統(tǒng)計意義上的最優(yōu)解[2]，文獻[21—22]討論了固定列混合模型的統(tǒng)計最優(yōu)解。另一類算法針對結(jié)構(gòu)性系數(shù)矩陣情況，提出的結(jié)構(gòu)TLS算法或者加權(quán)TLS算法能夠解決系數(shù)矩陣同時含固定列和隨機量的估計問題，如文獻[23]采用將權(quán)矩陣中對應(yīng)于固定元素的方差置零，文獻[2]將混合模型系數(shù)矩陣中的隨機量納入平差的函數(shù)模型作為待估參數(shù),文獻[16]將系數(shù)矩陣表達為獨立隨機量的函數(shù)等。

文獻[9—10]將EIV模型表示為非線性GH模型推導(dǎo)了WTLS算法，但并沒有考慮系數(shù)矩陣同時包含固定量和隨機量的情況。針對這類一般性的EIV模型，本文推導(dǎo)了基于非線性GH模型的混合LS-TLS算法。通過將系數(shù)矩陣中的隨機量納入平差的隨機模型，從而將平差模型表示為含隨機系數(shù)矩陣的非線性GH模型形式，提出的算法適用于系數(shù)矩陣包含固定列、隨機和非隨機量的一般情況。同時，本文推導(dǎo)了混合LS-TLS估計的一階精度評定公式。實例計算結(jié)果表明，混合LS-TLS估計結(jié)果與現(xiàn)有能夠解決混合LS-TLS問題的結(jié)構(gòu)性TLS算法或加權(quán)TLS算法估計結(jié)果相同，混合LS-TLS算法與參數(shù)真值的差異要小于LS或TLS估計結(jié)果與真值的差異。當(dāng)系數(shù)矩陣元素全部為固定元素或者全部為隨機元素時，混合LS-TLS算法轉(zhuǎn)換為LS或者TLS算法,因此該算法具有一般性。

1EIV模型的非線性GH模型形式

EIV函數(shù)模型形式為[3]

y+vy=(A+VA)β

(1)

式中,y和vy表示n×1的觀測向量和改正數(shù)向量；β表示t×1的參數(shù)向量；A和VA表示n×t的系數(shù)矩陣及其改正數(shù)矩陣。

系數(shù)矩陣A同時包含固定列、隨機元素和固定元素，是EIV模型的一般形式，如布爾莎(Bursa—wolf)七參數(shù)坐標轉(zhuǎn)換模型，假定式(1)中系數(shù)矩陣的前u列為固定列，后t-u列含隨機元素和固定元素，對應(yīng)的(t-u)×1參數(shù)向量用βr表示，式(1)可表示為

y+vy=Aβ+VArβr

(2)

式中，VAr表示系數(shù)矩陣非固定列部分的隨機元素對應(yīng)的n×(t-u)的改正數(shù)矩陣(其中固定元素對應(yīng)0)，將VArβr移到等式左邊

y+(vy-VArβr)=Aβ

(3)

令

B(βr)v=vy-vArβr

(4)

y+B(βr)v=Aβ

(5)

2混合LS-TLS估計

2.1混合LS-TLS算法

本節(jié)在整體最小二乘準則下，導(dǎo)出模型式(5)的混合LS-TLS算法。模型式(5)的目標函數(shù)為

Φ(v,λ,β)=vTPv+2λT[y-Aβ+B(βr)v]

(6)

式(6)分別對待估計量求一階偏導(dǎo)并令其為0

(7)

(8)

(9)

式中，變量上加尖號表示模型的估計量，由以上3式可得

(10)

(11)

(12)

式(12)代入式(11)

(13)

式(12)代入式(10)可導(dǎo)出參數(shù)的LS-TLS解如下

(14)

(15)

2.2混合LS-TLS解的一階近似精度估計

整體最小二乘屬于非線性估計，文獻[3]證明了整體最小二乘是EIV模型的最優(yōu)估計，當(dāng)觀測值個數(shù)趨于無窮時，估計結(jié)果具有弱一致性和漸進無偏性。但是，有限樣本情況下整體最小二乘估計結(jié)果有偏，文獻[2]推導(dǎo)了參數(shù)解的偏差估計公式。

目前主要采用線性化方法推導(dǎo)TLS參數(shù)估計值的一階近似精度[2，24]，模型式(1)可表示為

(16)

式中，變量上加“～”表示真值。將式(16)在近似值y0、A0和β0處線性化，并省略二階項得

y0+Δy=A0β0+A0Δβ+ΔArβr0

(17)

式中，ΔAr表示系數(shù)矩陣非固定列的隨機元素的一階項對應(yīng)的n×(t-u)矩陣；βr0表示式(4)中βr對應(yīng)的近似值，整理式(17)得

(y0-A0β0)+B(βr0)v1=A0Δβ

(18)

(19)

3實例分析

本節(jié)針對系數(shù)矩陣同時包含固定列、隨機元素和固定元素的一般情況，設(shè)計實例說明本文算法的應(yīng)用，比較了混合LS-TLS算法結(jié)果與文獻[2、23]以及文獻[16]中3種算法的結(jié)果，并且比較了混合LS-TLS算法與LS算法和TLS算法結(jié)果的差異。

布爾莎七參數(shù)坐標轉(zhuǎn)換模型是系數(shù)矩陣同時含固定列、固定量和隨機量的典型EIV模型，但由于坐標轉(zhuǎn)換模型的強非線性特性，該模型要求旋轉(zhuǎn)角度為微小值以避免線性化引起的模型誤差過大[26]，加之模型主要用于長距離大地坐標系統(tǒng)間的轉(zhuǎn)換，LS和TLS估計結(jié)果相差很小[2]。因此，為了比較混合LS-TLS與LS和TLS估計結(jié)果的差異，模擬了與布爾莎模型類似的系數(shù)矩陣包含固定列、隨機元素和固定元素的EIV模型如下

(20)

式中，*符號表示隨機元素，系數(shù)矩陣前兩列為固定列，后兩列含固定量和隨機量，系數(shù)矩陣共含24個元素，固定元素18個，隨機元素6個。根據(jù)式(2)，式(20)可表示為

(21)

式中，符號上加‘-’表示隨機元素的觀測值，式(21)寫成GH模型式(5)的形式，對應(yīng)的矩陣和向量分別為

表1　平差模型模擬數(shù)據(jù)真值

為了比較不同算法的估計結(jié)果，避免數(shù)據(jù)的偶然性的影響，以表1數(shù)據(jù)真值為基礎(chǔ)，設(shè)定A和y中隨機量的中誤差分別為±0.6和±0.3，且誤差均獨立，共生成1000組隨機誤差，計算了混合LS-TLS算法及其他各類算法的估計值，表2列出了估計結(jié)果的平均值，可以看到：

(1) 混合LS-TLS算法與目前能夠解決混合LS-TLS問題的文獻[2]、[16]和[23]中3種結(jié)構(gòu)或加權(quán)TLS算法估計結(jié)果相同。與文獻[16]和[23]的算法比較，混合LS-TLS算法僅考慮了系數(shù)矩陣中隨機量的權(quán)陣，權(quán)陣維數(shù)要低于將固定量權(quán)置零的處理方法，當(dāng)系數(shù)矩陣的固定量較多時，計算效率顯著提高。文獻[2]將系數(shù)矩陣的隨機量提取出來作為待估計參數(shù)，與本文算法的計算效率相當(dāng)。

表2　平差模型估計結(jié)果(1000次估計均值)

4結(jié)論

EIV模型的整體最小二乘估計被證明具有漸進無偏性，當(dāng)EIV模型的系數(shù)矩陣同時包含固定量和隨機量時，需采用混合LS-TLS估計。目前，混合LS-TLS算法可分為兩類，一類為直接算法，這些算法僅考慮了系數(shù)矩陣為固定列和隨機元素的特殊情況，如線性回歸模型；另一類為針對結(jié)構(gòu)性系數(shù)矩陣的TLS算法，能夠解決混合整體最小二乘估計問題，如文獻[23]通過將系數(shù)矩陣固定量的方差置零,文獻[2]將系數(shù)矩陣中的隨機量納入平差的函數(shù)模型作為待估參數(shù)求解，文獻[16]將系數(shù)矩陣表達為其包含的獨立量的函數(shù)運用WTLS算法求解。文獻[9]和文獻[10]研究了將EIV模型改寫為高斯-赫爾默特模型形式推導(dǎo)WTLS算法，但并沒有考慮系數(shù)矩陣固定量與隨機量并存的情況，針對EIV模型的這類一般情況，本文通過把系數(shù)矩陣隨機元素納入平差的隨機模型，從而將模型表示為含系數(shù)矩陣隨機誤差的非線性高斯赫爾默特模型形式，在此基礎(chǔ)上提出了混合LS-TLS算法，并推導(dǎo)了一階近似精度估計公式。與已有的混合LS-TLS直接算法比較，本文算法適用于系數(shù)矩陣含固定列、隨機元素和固定元素的一般情況。與將固定元素的方差置零的方法比較，本文算法僅提取了隨機元素構(gòu)建相應(yīng)的方差協(xié)方差陣，維數(shù)要低于固定元素方差置零的方法，尤其當(dāng)系數(shù)矩陣含有大量固定元素時，本文算法的計算效率顯著提高。與將系數(shù)矩陣隨機元素納入函數(shù)模型的方法比較，本文提出了將系數(shù)矩陣隨機元素納入平差的隨機模型的一種新思路。模擬實例計算結(jié)果表明，本文算法與當(dāng)前其他能解決混合LS-TLS算法的估計結(jié)果相同；此外，由于單純的LS算法和TLS算法未能顧及系數(shù)矩陣固定量和隨機量并存的情況，混合LS-TLS估計結(jié)果統(tǒng)計上要顯著優(yōu)于LS或者TLS估計結(jié)果。本文提出的混合LS-TLS算法具有一般性，適用于系數(shù)矩陣包含隨機和非隨機元素、全部為固定元素或隨機元素等各種情況。

參考文獻：

[1]GOLUB GH, VAN LOAN C F. An Analysis of the Total Least Squares Problem[J]. SIAM Journal on Numerical Analysis, 1980, 17(6): 883-893.

[2]XU Peiliang, LIU Jingnan, SHI Chuang. Total Least Squares Adjustment in Partial Errors-in-variables Models: Algorithm and Statistical Analysis[J]. Journal of Geodesy, 2012, 86(8): 661-675.

[3]VAN HUFFEL S,VANDEWALLE J.The Total Least Squares Problem: Computational Aspects and Analysis[M]. Philadelphia: Society for Industrial and Applied Mathematics, 1991.

[4]ADCOCK R J. Note on the Method of Least Squares[J]. The Analyst, 1877, 4(6): 183-184.

[5]SCHAFFRIN B, WIESER A. On Weighted Total Least-squares Adjustment for Linear Regression[J]. Journal of Geodesy, 2008, 82(7): 415-421.

[6]SHEN Yunzhong, LI Bofeng, CHEN Yi. An Iterative Solution of Weighted Total Least-squares Adjustment[J]. Journal of Geodesy, 2010, 85(4): 229-238.

[7]FANG Xing. Weighted Total Least Squares: Necessary and Sufficient Conditions, Fixed and Random Parameters[J]. Journal of Geodesy, 2013, 87(8): 733-749.

[8]FANG Xing. A Total Least Squares Solution for Geodetic Datum Transformations[J]. Acta Geodaetica et Geophysica, 2014, 49(2): 189-207.

[9]NEITZELF. Generalization of Total Least-squares on Example of Unweighted and Weighted 2D Similarity Transformation[J]. Journal of Geodesy, 2010, 84(12): 751-762.

[10]FANG Xing. Weighted Total Least Squares Solutions for Applications in Geodesy[D]. Germany: Leibniz University Hannover, 2011.

[11]TONG Xiaohua, JIN Yanmin, ZHANG Songlin, et al. Bias-Corrected Weighted Total Least-squares Adjustment of Condition Equations[J]. Journal of Surveying Engineering,2014, 141(2): 0401-0413.

[12]胡川,陳義. 非線性整體最小平差迭代算法[J]. 測繪學(xué)報, 2014, 43(7): 668-674. DOI: 10.13485/j.cnki.11-2089.2014.0111.

HU Chuan, CHEN Yi. An Iterative Algorithm for Nonlinear Total Least Squares Adjustment[J]. Acta Geodaetica et Cartographica Sinica, 2014, 43(7): 668-674.DOI: 10.13485/j.cnki.11-2089.2014.0111.

[13]ZENG Wenxian, LIU Jingnan, YAO Yibin. On Partial Errors-in-variables Models with Inequality Constraints of Parameters and Variables[J]. Journal of Geodesy, 2015, 89(2): 111-119.

[14]曾文憲, 方興, 劉經(jīng)南, 等. 附有不等式約束的加權(quán)整體最小二乘算法[J]. 測繪學(xué)報, 2014, 43(10): 1013-1018. DOI: 10.13485/j.cnki.11-2089.2014.0173.

ZENG Wenxian, FANG Xing, LIU Jingnan, et al. Weighted Total Least Squares Algorithm with Inequality Constraints[J]. Acta Geodaetica et Cartographica Sinica, 2014, 43(10): 1013-1018. DOI: 10.13485/j.cnki.11-2089.2014.0173.

[15]FANG Xing. On Non-combinatorial Weighted Total Least Squares with Inequality Constraints[J]. Journal of Geodesy, 2013, 88(8): 805-816.

[16]FANG Xing. A Structured and Constrained Total Least-Squares Solution with Cross-covariances[J]. Studia Geophysica et Geodaetica, 2014, 58(1): 1-16.

[17]FANG Xing. Weighted Total Least-squares with Constraints: A Universal Formula for Geodetic Symmetrical Transformations[J]. Journal of Geodesy, 2015, 89(5): 459-469.DOI: 10.1007/s00190-015-0790-8.

[18]ZHANG Songlin, ZHANG Kun. On a Basic Multivariate EIV Model with Linear Equality Constraints[J]. Applied Mathematics and Computation, 2014, 236: 247-252.

[19]GOLUB GH, HOFFMAN A, STEWART GW. A Generalization of the Eckart-Young-Mirsky Matrix Approximation Theorem[J]. Linear Algebra and Its Applications, 1987, 88-89: 317-327.

[20]DUNNE BE, WILIILAMSONGA. QR-based TLS and Mixed LS-TLS Algorithms with Applications to Adaptive IIR Filtering[J]. IEEE Transactions on Signal Processing, 2003, 51(2): 386-394.

[21]YAN Shijian, FAN Jinyan. The Solution Set of the Mixed LS-TLS Problem[J]. International Journal of Computer Mathematics, 2001, 77(4): 545-561.

[22]胡川, 陳義, 彭友. 混合結(jié)構(gòu)總體最小二乘參數(shù)估計[J]. 大地測量與地球動力學(xué), 2013, 33(4): 56-60.

HU Chuan, CHEN Yi, PENG You.On Mixed Structured Total Least Squares for Parameters Estimation[J]. Journal of Geodesy and Geodynamics, 2013, 33(4): 56-60.

[23]MAHBOUB V, SHARIFI MA. On Weighted Total Least-squares with Linear and Quadratic Constraints[J]. Journal of Geodesy, 2013, 87(3): 279-286.

[24]孔建,姚宜斌, 黃承猛. 非線性模型的一階偏導(dǎo)數(shù)確定方法及其在TLS精度評定中的應(yīng)用[J]. 大地測量與地球動力學(xué), 2011, 31(3): 1-5.

KONG Jian, YAO Yibin, HUANG Chengmeng. Method for Determining First-order Partial Derivative of Nonlinear Model and Its Application in TLS Accuracy Assessment[J]. Journal of Geodesy and Geodynamics, 2011, 31(3): 1-5.

[25]KOCH K R. Parameter Estimation and Hypothesis Testing in Linear Models[M]. Berlin: Springer, 1999.

[26]曾文憲, 陶本藻. 三維坐標轉(zhuǎn)換的非線性模型[J]. 武漢大學(xué)學(xué)報(信息科學(xué)版), 2003, 28(5): 566-568.

ZENG Wenxian, TAO Benzao. Non-linear Adjustment Model of Three-dimensional Coordinate Transformation[J].Geomatics and Information Science of Wuhan University, 2003, 28(5): 566-568.

(責(zé)任編輯：宋啟凡)

Mixed LS-TLS Estimation Based on Nonlinear Gauss-Helmert Model

FANG Xing1，ZENG Wenxian1，LIU Jingnan1,2，YAO Yibin1，WANG Yong3

1. School of Geodesy and Geomatics, Wuhan University, Wuhan 430079, China; 2. Research Center of GNSS, Wuhan University, Wuhan 430079, China; 3. Surveying and Mapping School of Zhengzhou, Zhengzhou 450015, China

Abstract：For the case of design matrix in EIV (errors-in-variables) model containing both fixed elements and random elements, this paper proposes a mixed LS-TLS (least squares-total least squares) algorithm and deduces the precision estimator by reformulating an EIV model as a nonlinear Gauss-Helmert model, in which random elements are extracted to the random model of adjustment. This algorithm can be applied to the general design matrix including simultaneously fixed columns, fixed elements and random elements. The example illustrates that the solution of mixed LS-TLS equal the solution of structured or weighted TLS algorithms which can solve mixed LS-TLS problem. Additionally, the solution of mixed LS-TLS statistically superior to solution of LS or TLS.

Key words：mixed LS-TLS estimation; precision estimator; errors-in-variables model;nonlinear Gauss-Herlmert model

基金項目：國家自然科學(xué)基金(41404005；41474006；41231174；41274022)；中央高?；究蒲谢?2042014kf053)

中圖分類號：P207

文獻標識碼：A

文章編號：1001-1595(2016)03-0291-06

Corresponding author：ZENG Wenxian

通信作者：曾文憲

作者簡介：第一 方興(1981—)，男，博士，主要從事測量數(shù)據(jù)處理理論與應(yīng)用的研究。

收稿日期：2015-03-26

引文格式：方興，曾文憲，劉經(jīng)南，等.基于非線性高斯-赫爾默特模型的混合整體最小二乘估計[J].測繪學(xué)報，2016,45(3)：291-296. DOI:10.11947/j.AGCS.2016.20150157.

FANG Xing, ZENG Wenxian, LIU Jingnan, et al.Mixed LS-TLS Estimation Based on Nonlinear Gauss-Helmert Model[J]. Acta Geodaetica et Cartographica Sinica,2016,45(3):291-296. DOI:10.11947/j.AGCS.2016.20150157.

修回日期： 2015-11-01

First author： FANG Xing(1981—), male, PhD, majors in the theory and method of surveying data processing.

E-mail： xfang@sgg.whu.edu.cn

E-mail： wxzeng@sgg.whu.edu.cn