王理峰,朱道元(.南京鐵道職業(yè)技術學院 社科部,南京003;.東南大學 數學系,南京 0096)
二次損失下帶約束的增長曲線模型的Minimax估計
王理峰1,朱道元2
(1.南京鐵道職業(yè)技術學院 社科部,南京210031;2.東南大學 數學系,南京 210096)
文章對于帶橢球約束的增長曲線模型,在二次損失函數下給出回歸系數在線性估計類中的Mini?max估計,證明該估計是壓縮有偏、可容許估計。在一些特殊的情形下,該估計包括了增長曲線功效嶺回歸估計、多元線性Minimax估計等。
增長曲線模型;Minimax估計;二次損失函數;橢球約束
Minimax估計是一類重要的估計,它使極大風險極小化,是避免損失的一種選擇,因此在實際生活中有重要的用途。用Minimax原理來估計模型的回歸系數最早由Kuks和Olman(1971,1972)提出,之后有許多學者用這種原理來研究模型的估計和預測問題。Minimax估計與損失函數和所考慮的估計類有關,主要是在矩陣損失與二次損失函數下,在齊次線性估計類和非齊次線性估計類中展開的。但實際應用中總是對參數有或多或少的認識,會得到一些約束條件。譚萄[1]和高婷婷[2]給出了帶等式約束的多元回歸系數線性估計在齊次線性估計類中的Minimax估計。周明華[3]在矩陣損失函數下,研究帶橢球約束的增長曲線模型中回歸系數的線性Minimax估計。HelgeBlaker[4]討論二次損失下帶約束的線性回歸模型的線性Minimax估計。橢球約束下增長曲線模型的Minimax估計并不能通過拉直后利用HelgeBlaker的結論得到。本文將研究二次損失下帶橢球約束的增長曲線的Minimax估計,一定意義上這也是將HelgeBlaker的主要結果推廣到了增長曲線情形。
為了計算方便,將介紹幾個符號及引理:
符號1[5]:a∨b=max(a,b),a∧b=min(a,b),x+=max(x,0)
若A為n×n階對稱矩陣,有譜分解A=PDP',其中P為n×n階正à陣,D為對角陣,其對角元記為di,i=1,2,…,n。定義 A+=PD+P′,其中 D+=diag((d1∨0),…(di∨0),…(dn∨0))。
引理1[5]:A?(B1+B2)=A?B1+A?B2,(A1?B1)(A2?B2)=(A1A2)?(B1B2),tr(A?B)=trA·trB
引理2[5]:E(xAx)=u'Au+tr(AΣ),其中Ex=u,var(x)=Σ。
證明:參見文獻[5]
引理4:對于線性模型y=Xβ+e,E(e)=0,cov(e)=σ2∑,∑>0。若rk(Xn×p)=p,則?~Cβ?A(X'∑-1X)-1A'≤A(X'∑-1X)-1C'
證明:參見文獻[5]
本文采用的二次損失函數為L(B?,B,A)=tr(B?-B)'A (B?-B),A為 p×p階正定陣,其相應的風險函數為EL(B?,B,A)。
其中Y為n×q階觀測矩陣,X1,X2為n×p,t×q階設計矩陣且rk(X1)=p,rk(X2)=t。E=(e1…eq)為n×q階誤差矩陣,W=(wij)為已知的q階非零非負定陣。B為 p×t階未知參數矩陣,滿足橢球約束tr(X2'B'X1'FX1BX2)≤ρ,其中F為n×n階非負定陣。記≤ρ},模型(1)的最小二乘估計為:
1.1 增長曲線模型典則化
增長曲線模型的估計問題,在典則形式下變的易理解。下面將把模型(1)化為典則形式。
對X1進行奇異值分解,其中U1、V1分別為n×n、p×p階正à陣,為n×p階矩陣。的(i,i)元為,其余位置為0,則:其中的非零特征根,其中
同理對X2進行奇異值分解U2、V2分別為t×t、q×q階正à陣,為t×q階矩陣,的(i,i)元為其余位置為0,則其中為的非零特征根,其中
模型(2)的最小二乘估計為:
1.2 將模型進一步簡化處理
為使tr(B'X'FXB)、L(?,B,A)能化為簡潔形式,須規(guī)定A、F、W滿足條件1:
估計R只需考慮模型(3)即可,而模型中D1,D2為對角陣,這樣問題就變得簡潔,易求。將模型(3)拉直得:
參數約束空間可簡化為:
損失函數可簡化為:
對于模型(3)有:
定理1:將模型(3)寫成元素形式為:
則模型(3)的Minima風險為:
其中?表示所有p×p階矩陣組成的類,τ表示所有t×t階矩陣組成的類,
證明:(1)首先證明使極大風險極小化的K,L是對角矩陣,本文利用Speckman[6]的思路來討論。記KL的 (i,j)元為
取R滿足:i≠m,j≠n時,rij=0。則:
所以:
當且僅當矩陣K,L為對角陣時上面等號成立。即證明了使極大風險極小化的矩陣K,L是對角陣。
顯然ν2在約束條件邊界上達到。下面利用Lagrange乘子法求ν2:
對于 h>0,i=1,…,p, j=1,…,t,記 G(R,h)=則
當kilj=(kilj)*,i=1,…,p,j=1,…,t時,上面不等式仍成立。而:
由上面的不等式及證明中的(1)部分可知:
由定義1知(kilj)*zij為rij的Minimax估計。即?M,ij= (kilj)*zij,i=1,…,p, j=1,…,t
綜上即證定理。
由上面的定理容易得到本文的主要定理:
定理2:對于增長曲線回歸模型(1),B∈Θ={B| tr(X2' B'X1'FX1BX2)≤ρ},F滿足條件1,則 β=νec(B)的線性Minimax估計為:其中h滿足:
令?表示任意的p×n階矩陣組成的類,τ表示任意的q×t階矩陣組成的類。則線性Minimax估計的風險為:
證明:由前面的變換知:
則:
由定理1知:
寫成矩陣形式為:
下面證明νecB?M為νecB的線性Minimax估計:為R的線性Minimax估計,由定義1知
綜上即證定理。
增長曲線Minimax估計具有以下性質:
顯然成立。
而β=(V2?V1)r,由引理3知?M是β的可容許估計。
例2:當 X2X2'=I時,其中h滿足:其Minimax風險為:
該結果與文獻[7]所求的多元線性模型的Minimax估計結果一致。
[1]譚萄.多元回歸系數線性估計的Minimax可容許性[J].廣西師范大學學報,2001,19(1).
[2]高婷婷,田麗.矩陣損失下帶約束的多元回歸系數的Minimax估計[J].安徽師范大學學報(自然科學版),2009,32(1).
[3]周明華等.受橢球約束回歸系數在矩陣損失下的線性Minimax估計[J].浙江工業(yè)大學學報,1998,26(3).
[4]Blaker H.Minimax Estimation in Linear Regression Under Restric?tions[J].Journal of Statistical Planning and Inference,2000,(90).
[5]王松桂.線性模型的理論及其應用[M].合肥:安徽科技出版社, 1987.
[6]Speckman P,Spline Smoothing and Optimal Rates of Convergence in Nonparametric Regression Models[J].Annals of Statistics,1985,(13).
[7]王理峰,朱道元.有約束的多元線性回歸模型的Minimax估計[J].重慶工商大學學報(自然科學版),2009,26(6).
(責任編輯/易永生)
O212.1
A
1002-6487(2016)24-0007-05
王理峰(1981—),女,河南平頂山人,碩士,講師,研究方向:多元統計分析。(通訊作者)朱道元(1947—),男,江蘇揚州人,教授,研究方向:多元統計分析與數學建模。