周一美,張 拓
(渤海大學(xué) 數(shù)理學(xué)院,遼寧 錦州121013)
嶺估計(jì)[1~2]在有偏估計(jì)[3]中占有著重要地位,具有很多良好性質(zhì),也是很多學(xué)者心中最理想的一種有偏估計(jì).目前已有大量學(xué)者對(duì)其進(jìn)行了不同程度的改進(jìn)[4~5],以期獲得更小均方誤差,以便于解決生產(chǎn)生活中的實(shí)際問題.而大部分已經(jīng)提出的改進(jìn)后的嶺估計(jì)都是在線性模型下完成的.一般來講,對(duì)模型的限制條件越少越好,這樣會(huì)有更廣泛的應(yīng)用價(jià)值.
在奇異線性模型中:
現(xiàn)討論其參數(shù)β,σ2估計(jì)問題.假設(shè)存在Σ >0,則存在唯一正定對(duì)稱陣使.對(duì)其進(jìn)行如下變換:
則可得到一般線性模型形式:
于是可以得到β 的LS 解為:
稱其為廣義LS 解.線性函數(shù)c′β 的可估計(jì)性與協(xié)方差無關(guān),則對(duì)模型(1)的c′β 可估計(jì)的充要條件是c ∈μ(X′),稱c′^β 為c′β 的廣義LS 估計(jì).
模型(2)的典則形式:設(shè)X′X=X′Σ-1X 的特征值為λ1,λ2,…,λp,對(duì)應(yīng)的標(biāo)準(zhǔn)正交化特征向量為φ1,φ2,…,φp,記Φ=(φ1,φ2,…,φp),Φ 為p×p 標(biāo)準(zhǔn)正交陣,即Φ′Φ =I.記Δ =diag(λ1,λ2,…,λp),則,其中Z=XΦ,α=Φ′β.
因?yàn)椋视?
于是其廣義嶺估計(jì)為:
現(xiàn)對(duì)其進(jìn)行進(jìn)一步改進(jìn),給出β 的一個(gè)新估計(jì):
證明:
證畢.
證明:
證畢.
性質(zhì)3 對(duì)任意ki>d >0,有
證明: 對(duì)實(shí)對(duì)稱陣X′Σ-1X 進(jìn)行分解,設(shè)rk(X′Σ-1X)=r ≤p,則存在p×p 階正交陣Q,使:
其中Δr=diag(λ1,λ2,…,λr)為X′Σ-1X 非零特征值組成的對(duì)角陣,根據(jù)Moore-Penrose 廣義逆,^β(K,d)的估計(jì)可定義為:
定理得證.
表明當(dāng)ki>d >0 時(shí)是的壓縮估計(jì).
定理3.1 存在ki>0,使
證明: 因?yàn)?
記
且
故有:
若
則有:
定理得證.
[1] HOERL A.E.,KENNARDR.W..Ridge Regression:Biased Estimation for Non -orthogonal Problems[J].Technometrics,1970,12(1):55-67.
[2] HOERLA.E.,KENNARDR.W..Ridge Regression:Applications to Non-orthogonal Problems[J].Technometrics,1970,12(1):69-82.
[3] 陳希孺,王松桂.近代回歸分析-原理方法及應(yīng)用[M].合肥:安徽教育出版社,1986:217-279.
[4] 張建軍,吳曉平.線性回歸模型系數(shù)嶺估計(jì)的改進(jìn)研究[J].海軍工程大學(xué)學(xué)報(bào),2005,17(1):54-57.
[5] 張拓,李勝起,徐坤哲.廣義嶺型主成分估計(jì)優(yōu)良性研究[J].佳木斯大學(xué)學(xué)報(bào)(自然科學(xué)版),32,2014:939-940.