廣義線性模型擬似然估計(jì)的弱相合性

張 戈，吳黎軍

(新疆大學(xué)數(shù)學(xué)與系統(tǒng)科學(xué)學(xué)院，烏魯木齊 830046)

1 主要結(jié)果

廣義線性模型(GLM)的理論是對(duì)線性模型的經(jīng)典理論的重要推廣，自從Nelder和Wedderburn［1］引入以來(lái)，已被廣泛應(yīng)用到許多領(lǐng)域。

設(shè)q×1維響應(yīng)變量yi是相互獨(dú)立的，協(xié)變量Xi是已知的p×q階設(shè)計(jì)陣，yi服從指數(shù)分布:

其中

然而，在很多情形下，假定yi服從指數(shù)分布是不切實(shí)際的。事實(shí)上，只要均值函數(shù)假定正確，就可以預(yù)先假定響應(yīng)變量的“工作分布”，進(jìn)而用“工作方差”Λ(·)替換式(2)中的真實(shí)方差∑(·)，并保留響應(yīng)變量獨(dú)立的假設(shè)，便可以得到擬似然方程:

方程Ln(β)=0的根稱作β0的擬極大似然估計(jì)。

關(guān)于廣義線性模型的極大似然估計(jì)或極大擬似然估計(jì)的大樣本性質(zhì)在相關(guān)文獻(xiàn)中已有不少討論［1-4］。張三國(guó)，廖原［4］在假定誤差方差有界的條件下研究了擬似然估計(jì)的弱相合性，但他們只討論了典則聯(lián)結(jié)的情形。本文在他們研究的基礎(chǔ)上進(jìn)一步推廣到非典則聯(lián)結(jié)情況下的弱相合性，并得到了與典則聯(lián)結(jié)一樣的結(jié)論，即的弱相合的必要條件。

本文所用到的c在不同的位置代表不同的正常數(shù)，‖·‖表示Euclid模，記{ei=yi-h(X'iβ0)，i=1，…，n}為殘差表示方陣的最大(小)特征值。

對(duì)一維響應(yīng)變量，列出所需假設(shè)條件如下:

1)Xi有界;

2)對(duì)每個(gè) t∈Rq，Λ(t)＞0，det(t)≠0，Λ(t)一階偏導(dǎo)連續(xù)，h(t)的二階偏導(dǎo)連續(xù);

4){ei}不含漸近退化子列;

主要結(jié)果表述為下面的2個(gè)定理:

定理1 若條件1)、2)、4)和5)成立，則可以得到如下收斂速度

2 定理的證明

引理1［5］假設(shè)獨(dú)立隨機(jī)變量序列{ξi，i≥1}不含漸近退化的子列。設(shè)cn1，…，cnn和bn為常數(shù)，使得當(dāng)n→∞時(shí)，依概率有，則當(dāng) n → ∞ 時(shí)

定理1的證明

以不小于1-ε'n的概率成立。記

由式(4)以及引理1，存在常數(shù)序列ε″n↓0，使得

等價(jià)于

以不小于1-ε″n的概率成立，再由≤-1，有

以不小于1-ε″n的概率成立，又由于對(duì)任意p維單位向量an，

以不小于1-ε″n的概率成立。由式(8)、條件5)以及λmax()≤c2λn，可得

即

另一方面，記

由 Ln)=0 有

這樣，對(duì)任意的p維單位向量an，

對(duì)任意依概率滿足

的序列{an，n≥1}，令這里序列{an，n≥1}的存在性由條件2)保證)。記

?Mn表示Mn的邊界。由于則有記從而

這說(shuō)明

即，當(dāng)n→∞時(shí)，依概率有

再由引理1，對(duì)任意單位向量an依概率有

特別取an為對(duì)應(yīng)特征值的單位向量，由于，有

與式(14)矛盾。

引理2［4］對(duì)響應(yīng)變量一維的線性回歸模型yi=X'iγ0+ei，(1≤i≤n，n≥1)，其中誤差{ei}滿足條件4，γ0的最小二乘估計(jì)為此處若單位向量a1，a2… 使得，則依概率有 a'n- γ0)→/0。

定理2的證明

矩陣Rn和的定義與定理1中的證明一樣，有

這樣，當(dāng)n充分大時(shí)，以概率1有

即

另一方面，

由式(16)得

［1］Nelder J A，Wedderburn R W M.Generalized linear model［J］.J Roy Statist Soc Ser A，1972，135(3):370-384.

［2］Fahrmeir L，Kaufmann H.Consistency and asymptotic normality of the maximum likelihood estimator in generalized linear models［J］.Ann Statist，11985，3(1):342-368.

［3］Yin C M，Zhao L C.Strong consistency of maximum quasi-likelihood estimate in generalized linear models［J］.Sci China Ser-A-Math，2005，48(8):1009-1014.

［4］張三國(guó)，廖原.關(guān)于廣義線性模型擬似然估計(jì)弱相合性的幾個(gè)問(wèn)題［J］.中國(guó)科學(xué)A輯:數(shù)學(xué)，2007，37(11):1368-1376.

［5］陳希孺.線性模型參數(shù)的估計(jì)理論［M］.北京:科學(xué)出版社，1985.