加權(quán)最小二乘估計(jì)與線性無偏最小方差估計(jì)的比較

孫曉杰

(四川大學(xué)數(shù)學(xué)學(xué)院,四川成都 610064)

加權(quán)最小二乘估計(jì)與線性無偏最小方差估計(jì)的比較

孫曉杰

(四川大學(xué)數(shù)學(xué)學(xué)院,四川成都 610064)

在已知的線性模型中,考慮加權(quán)最小二乘估計(jì)與線性無偏最小方差估計(jì)的結(jié)果的差異。發(fā)現(xiàn)在兩種條件下,加權(quán)最小二乘估計(jì)與線性無偏最小方差估計(jì)的結(jié)果趨于一致。

加權(quán)最小二乘估計(jì) 線性無偏最小方差估計(jì)

1 引言

加權(quán)最小二乘估計(jì)與線性無偏最小方差估計(jì)是線性模型估計(jì)中最常使用的方法。本文主要討論這兩種方法在估計(jì)中結(jié)果有什么不同。

2 問題描述

Z=Xβ+ε(其中X 是m×n矩陣(已知)，β是1×n的列向量(要估計(jì)的未知參數(shù))，ε為殘差項(xiàng)，Z為觀察值)?？紤]用加權(quán)最小二乘估計(jì)和無偏線性最小方差兩種方法對(duì)β進(jìn)行估計(jì)，考慮這兩種估計(jì)所得結(jié)果是否相等。

3 兩種方法的比較

線性無偏最小方差估計(jì)：

該估計(jì)的誤差方差：

加權(quán)最小二乘估計(jì)：

該估計(jì)的誤差方差：

3.1 對(duì)W1進(jìn)行變形

所以

將上面的式子(1)--(4)帶入則

3.2 求差值

3.3 進(jìn)一步考慮(6)式子,在兩種可能情況下趨于0

[1]孫榮恒.應(yīng)用數(shù)理統(tǒng)計(jì)(第3版) [M].科學(xué)出版社,2014年1月1日.

[2]Jun Shao.Mathematical statistics：exercises and solutions[M].世界圖書出版公司.2010.

[3]Huart. David.Mathématiques et statistique[M].武漢大學(xué)出版社,2010.

[4]Hogg. Robert V.Introduction to mathematical statistics[M].Higher Education Press.2004.

[5]劉謝進(jìn),朱允民.最優(yōu)加權(quán)最小二乘估計(jì)與線性無偏 最小方差估計(jì)性能比較[J].四川大學(xué)學(xué)報(bào)(自然科學(xué)版),2001年10月第38卷第5期.