限制線性模型和轉(zhuǎn)換線性模型參數(shù)估計的等價性

崔文婧 趙 強(qiáng)

( 山東師范大學(xué)數(shù)學(xué)與統(tǒng)計學(xué)院,250358,濟(jì)南 )

1 引 言

線性模型是現(xiàn)代統(tǒng)計學(xué)中理論豐富、應(yīng)用廣泛的一個重要分支,在現(xiàn)代統(tǒng)計學(xué)中占據(jù)著十分重要的地位.線性模型是一類統(tǒng)計模型的總稱,它包括了線性回歸模型,方差分析模型和協(xié)方差分析模型等.生物、醫(yī)學(xué)、經(jīng)濟(jì)和工程技術(shù)等眾多領(lǐng)域的現(xiàn)象均可以通過線性模型來近似的描述,所以線性模型是現(xiàn)代統(tǒng)計學(xué)中應(yīng)用最為廣泛的模型之一.對于線性模型的研究吸引了許多學(xué)者的關(guān)注.在實際問題中對模型的分析少不了對參數(shù)進(jìn)行估計,因此對參數(shù)估計的研究顯得尤為重要,關(guān)于參數(shù)估計許多學(xué)者已經(jīng)做了大量研究.在線性模型參數(shù)估計中最小二乘估計(OLSE)有著重要地位,而最佳線性無偏估計(BLUE)也是應(yīng)用非常廣泛的參數(shù)估計之一.對于一般線性模型M={y,Xβ,∑},OLSE,BLUE是關(guān)于參數(shù)函數(shù)Kβ最常用的兩個估計,因此研究兩者之間關(guān)系是有意義的.

下面討論限制線性模型和轉(zhuǎn)換線性模型下,參數(shù)函數(shù)Kβ的OLSE和BLUE之間的關(guān)系.限制線性模型記為

Mr={y,Xβ|Aβ=b,∑},

(1)

其中y是n×1階可觀測的隨機(jī)向量,X是n×p階任意秩的已知矩陣,A是m×p階的已知矩陣,b是m×1階的已知向量,β是p×1階可估的參數(shù)向量,∑是已知或未知的n×n階任意秩的對稱非負(fù)定矩陣.轉(zhuǎn)換線性模型記為

Mt={By,BXβ,B∑B'},

(2)

其中B是m×n階任意秩的給定矩陣.

本文將利用矩陣廣義逆的表達(dá)式和矩陣秩公式,對限制線性模型(1)和轉(zhuǎn)換線性模型(2)下，參數(shù)函數(shù)Kβ的OLSE和BLUE之間相等關(guān)系成立的等價條件進(jìn)行研究,給出參數(shù)函數(shù)Kβ在不同模型下同一參數(shù)估計相等關(guān)系成立的等價條件.本文的結(jié)構(gòu)如下:第一部分介紹研究背景和研究現(xiàn)狀;第二部分給出證明需要的相關(guān)定義、引理等準(zhǔn)備知識;第三部分給出在(1)式和(2)式下的參數(shù)函數(shù)Kβ的OLSE和BLUE相等的等價條件以及相應(yīng)的證明過程.

2 預(yù)備知識

在本文中Rm×n表示所有的m×n階實矩陣,假設(shè)矩陣M∈Rm×n,用符號M',r(M),R(M)分別表示矩陣M的轉(zhuǎn)置、秩和列空間.

定義1[1]設(shè)矩陣M∈Rm×n,若矩陣G滿足如下四個方程:

1)MGM=M；

2)GMG=G；

3) (MG)'=MG；

4)(GM)'=GM；

則矩陣G稱為矩陣M的Moore-Penrose廣義逆,簡稱為M的M-P逆,記為M+.有時稱上述四個方程為Penrose方程.令PM,EM和FM分別表示三個正交投影陣,其中PM=MM+,EM=Im-MM+,FM=In-M+M.

定義2[2,3]若y∈R[X,∑],則稱一般線性模型M={y,Xβ,∑}是一致的.

為了研究模型(1)和(2)下估計量的關(guān)系,假設(shè)兩個模型均是一致的.

定義3[4]設(shè)K是給定的q×p階矩陣,參數(shù)函數(shù)Kβ在一般線性模型M下可估,當(dāng)且僅當(dāng)R(K')?R(X')成立.

由定義3知當(dāng)且僅當(dāng)R(K')∈R[X',A']成立時,參數(shù)函數(shù)Kβ在(1)式下可估;當(dāng)且僅當(dāng)R(K')?R(BX')成立時,參數(shù)函數(shù)Kβ在(2)式下可估[5].

引理1[6,7]假設(shè)Kβ在Mr和Mt下均是可估的,則Kβ在Mr和Mt下的OLSE可寫成如下參數(shù)形式:

(3)

OLSEMt(Kβ)=K(BX)+By,

(4)

其中KA=KFA,XA=XFA.

引理2[6,8]假設(shè)Kβ在Mr和Mt下均是可估的,則Kβ在Mr和Mt下的BLUE可寫成如下參數(shù)形式:

BLUEMr(Kβ)=(I-PKA;XA;∑)XA+b+PKA;XA;∑y,

(5)

其中KA=KFA,XA=XFA,PKA;XA;∑=[KA,0][XA,∑EXA]++UE[XA,∑EXA],U是q×n階的任意矩陣；

BLUEMt(Kβ)=PK;BX;B∑B'By,

(6)

其中PK;BX;B∑B'=[K,0][BX,B∑B'EBX]++VE[BX,B∑B'EBX],V是k×q階的任意矩陣.

引理3[8]設(shè)A∈Rm×n,B∈Rm×k,C∈Rq×k,D∈Rq×k,則下述結(jié)論成立：

1)r[A,B]=r(A)+r(EAB)=r(B)+r(EBA)；

6)r[A,B]=r(A)?EAB=0?R(B)?R(A).

眾所周知,當(dāng)且僅當(dāng)矩陣A的秩為零時,矩陣A是零矩陣.由此可知對于兩個同階矩陣A和B,當(dāng)且僅當(dāng)r(A-B)=0時有矩陣A和B相等.如果能推導(dǎo)出r(A-B)的相關(guān)公式,就可以以此來刻畫兩個矩陣之間的關(guān)系.因此研究同階的兩個矩陣關(guān)系的一個簡單且有效的方法是考慮兩個矩陣差的秩,這種代數(shù)方法稱為矩陣秩法.Tian Y等人[9,10]利用矩陣秩方法刻畫了一般線性模型M下估計量的各種等式.在本文中,將使用這種方法來研究在Mr和Mt下參數(shù)函數(shù)Kβ的OLSE和BLUE的等價性.

3 參數(shù)函數(shù)的估計量之間的關(guān)系

引理4[6]假設(shè)一般線性模型M是一致的,L1y+c1和L2y+c2為Kβ在M下的兩個無偏估計,即E(L1y+c1)=E(L2y+c2)=Kβ，則當(dāng)且僅當(dāng)L1∑=L2∑時,有等式L1y+c1=L2y+c2L2y成立.

定理1假設(shè)Kβ在Mt下可估,OLSEMr(Kβ)和OLSEMt(Kβ)如(3)式與(4)式所示,則

1) 下列結(jié)論等價:

①OLSEMr(Kβ)=OLSEMt(Kβ)；

2) 若∑是正定的,下列結(jié)論等價:

①OLSEMr(Kβ)=OLSEMt(Kβ);

下面證明1)中的結(jié)論②等價于結(jié)論③.利用引理3中的結(jié)論5)和初等矩陣分塊運(yùn)算,可得

所以當(dāng)且僅當(dāng)

(7)

成立時,1)中的結(jié)論②也成立,而由引理3的結(jié)論6)可知(7)式等價于1)中的結(jié)論③,則結(jié)論②和結(jié)論③的等價性得證.

下面再考慮定理中2)的情況.當(dāng)∑是正定的,此時可對(7)式簡化得到

由引理3的結(jié)論6)可知上式等價于2)中的結(jié)論②,同理2)中的結(jié)論①和結(jié)論②等價.因此定理1得證.

定理2假設(shè)Kβ在Mt下可估,BLUEMr(Kβ)和BLUEMt(Kβ)如(5)式與(6)式所示,則下列結(jié)論等價:

1)BLUEMr(Kβ)=BLUEMt(Kβ)；

證由引理4可知,當(dāng)且僅當(dāng)PKA;XA;∑∑=PK;BX;B∑B'B∑時，有BLUEMr(Kβ)=BLUEMt(Kβ).利用引理3中的結(jié)論2) 和初等矩陣分塊運(yùn)算,可得

r(PKA;XA;∑∑-PK;BX;B∑B'B∑)

因為EXFA=F(XFA)',EBX=F(BX)',由引理3的結(jié)論2)可知

由引理3的結(jié)論2)可知

所以

r(PKA;XA;∑∑-PK;BX;B∑B'B∑)

令(8)式右邊等于0可知定理2中的結(jié)論1)和結(jié)論2)是等價的,即當(dāng)且僅當(dāng)

(8)

成立時定理2中的結(jié)論1)和2)是等價的.由(9)式可知定理2中的結(jié)論2)和結(jié)論3)是等價的,因此定理2得證.