熵?fù)p失函數(shù)下Burr(α)X分布參數(shù)的貝葉斯估計(jì)

陳家清，王 玉，陳志強(qiáng)

（武漢理工大學(xué) 理學(xué)院，武漢 430070）

熵?fù)p失函數(shù)下Burr(α)X分布參數(shù)的貝葉斯估計(jì)

陳家清，王 玉，陳志強(qiáng)

（武漢理工大學(xué) 理學(xué)院，武漢 430070）

文章研究了Burr(α)X分布參數(shù)的各類(lèi)貝葉斯估計(jì)問(wèn)題。在熵?fù)p失函數(shù)下分別獲得了參數(shù)的貝葉斯估計(jì)、經(jīng)驗(yàn)貝葉斯估計(jì)、多層貝葉斯估計(jì)和E-Bayes估計(jì)。證明了參數(shù)經(jīng)驗(yàn)貝葉斯估計(jì)的漸近最優(yōu)性，討論了參數(shù)多層貝葉斯估計(jì)和E-Bayes估計(jì)的穩(wěn)健性，通過(guò)蒙特卡洛方法對(duì)各類(lèi)估計(jì)的MSE進(jìn)行了數(shù)值模擬和比較分析，結(jié)果表明：經(jīng)驗(yàn)貝葉斯估計(jì)的均方誤差最小，精度較高。

Burr X分布；Bayes估計(jì)；經(jīng)驗(yàn)Bayes估計(jì)；多層Bayes估計(jì)；E-Bayes估計(jì)

0 引言

1942年，Burr在研究壽命數(shù)據(jù)模型時(shí)給出了12類(lèi)分布函數(shù)族[1]，其中Burr X分布是在生存分析問(wèn)題中使用較廣的重要分布之一。Raqab和Kundu[2]指出Burr X分布在處理常規(guī)的壽命數(shù)據(jù)和強(qiáng)度數(shù)據(jù)時(shí)效果非常顯著，并且Burr X分布與weibull分布、Gamma分布和某些廣義指數(shù)分布一樣，具有很好的處理生存數(shù)據(jù)問(wèn)題的統(tǒng)計(jì)性質(zhì)，并且它對(duì)截尾數(shù)據(jù)的統(tǒng)計(jì)分析方面較其他壽命分布會(huì)更加方便。因此，近年Burr X分布受到許多學(xué)者的廣泛關(guān)注。

Burr(α)X分布函數(shù)及其概率密度函數(shù)分別如下：

本文基于熵?fù)p失函數(shù)研究了Burr(α)X分布參數(shù)α的各類(lèi)貝葉斯估計(jì)。通過(guò)熵?fù)p失函數(shù)分別獲得了參數(shù)的貝葉斯估計(jì)、經(jīng)驗(yàn)貝葉斯估計(jì)、多層貝葉斯估計(jì)以及E—Bayes估計(jì)。進(jìn)一步證明了所構(gòu)造的經(jīng)驗(yàn)貝葉斯估計(jì)是漸近最優(yōu)的，同時(shí)討論了多層貝葉斯估計(jì)和E—Bayes估計(jì)的穩(wěn)健性。最后，利用蒙特卡洛方法對(duì)各類(lèi)估計(jì)的均方誤差（MSE）進(jìn)行了數(shù)值模擬，并對(duì)估計(jì)的優(yōu)良性進(jìn)行了比較分析。

1 貝葉斯估計(jì)和經(jīng)驗(yàn)貝葉斯估計(jì)

1．1 一致最小方差無(wú)偏估計(jì)(UMVUE)

假設(shè)x1,x2,...,xn為來(lái)自Burr(α)X分布的一組樣本，其聯(lián)合密度為：

易知Burr(α)X分布來(lái)自指數(shù)分布族，并且為α的充分完備統(tǒng)計(jì)量。

引理1[3]：設(shè)T為充分完備統(tǒng)計(jì)量， (T)為g(θ)的一個(gè)無(wú)偏估計(jì)，滿足 Var((T))＜∞ ，對(duì)任意θ∈Θ ，則(T)是g(θ)的UMVUE，且在幾乎處處意義下，該估計(jì)是唯一的。

定理1：對(duì)于Burr(α)X分布，其未知參數(shù)α的一致最小方差無(wú)偏估計(jì)為，且在幾乎處處意義下，該估計(jì)還是唯一的。

1．2 貝葉斯估計(jì)

本文取參數(shù)α的先驗(yàn)分布為共軛先驗(yàn)分布Gamma(β,λ),即 π(α)=Gamma(β,λ)，由式（3）及貝葉斯公式可得α的后驗(yàn)分布密度函數(shù)為：

即 π(α|x1,x2,...,xn)=Gamma(n+β,λ+T(x))

定義1[4]：設(shè)隨機(jī)變量X具有概率密度函數(shù)f(x,α)，其中α為參數(shù)，若δ是α的一個(gè)估計(jì)，則熵?fù)p失函數(shù)定義為似然比對(duì)數(shù)的數(shù)學(xué)期望，即：

引理2：在熵?fù)p失函數(shù)（5）下，對(duì)于任意的先驗(yàn)分布π(α)，α的貝葉斯估計(jì)為，且該貝葉斯估計(jì)具有唯一性。

證明：設(shè)δ(x)為α的貝葉斯估計(jì)，其中x=(x1,x2,...,xn)，則在熵?fù)p失函數(shù)下，α的貝葉斯風(fēng)險(xiǎn)為：

要使R(δ)達(dá)到最小，只需使最小，令得時(shí)，R(δ)有極小值，所以為α的貝葉斯估計(jì)，又易知g(t)是關(guān)于t的嚴(yán)格凸函數(shù)，所以δ是其唯一的極小值點(diǎn)，即δ是其唯一的貝葉斯估計(jì)。

定理2：在熵?fù)p失函數(shù)（5）下，取Burr(α)X分布參數(shù)α的先驗(yàn)分布為Gamma(β,λ)，則參數(shù)的貝葉斯估計(jì)為，且該估計(jì)是唯一的。

證明：由引理2知，在熵?fù)p失函數(shù)（5）下α的唯一貝葉斯估計(jì)為

1．3 經(jīng)驗(yàn)貝葉斯估計(jì)

Robbins[5]和Efron&Morries[6]分別在1955年和1972年提出了兩種不同的經(jīng)驗(yàn)貝葉斯方法。前者一般稱(chēng)為非參數(shù)經(jīng)驗(yàn)貝葉斯(NPEB)方法，該方法主要是利用非參數(shù)方法來(lái)進(jìn)行貝葉斯估計(jì)，對(duì)先驗(yàn)分布的信息需求不多；后者稱(chēng)為參數(shù)經(jīng)驗(yàn)貝葉斯(PEB)方法，該方法首先是利用歷史樣本數(shù)據(jù)來(lái)估計(jì)先驗(yàn)分布中的參數(shù)，然后再對(duì)樣本分布中的參數(shù)進(jìn)行貝葉斯估計(jì)，因此需要知道先驗(yàn)分布的分布類(lèi)型，并且要有一些歷史數(shù)據(jù)。本文將采用后者的PEB方法對(duì)Burr X分布的參數(shù)進(jìn)行估計(jì)。

設(shè)有X1,X2,...,Xk為k個(gè)歷史樣本，其中Xi=(xi1,xi2,...,xin)。又由可得統(tǒng)計(jì)量T的k個(gè)歷史樣本，設(shè)為t1,t2,...,tk，由T～Γ(n,α)及α的先驗(yàn)分布π(α)可以得到T的邊緣分布為：

下面將利用矩估計(jì)的方法來(lái)估計(jì)先驗(yàn)分布中的參數(shù)β和λ。由式（8）可得T的一階矩和二階矩分別為：

且其方差為：

從而利用歷史樣本可以求得T的樣本均值和樣本方差，再由矩估計(jì)方法可以得到：

定義2[7]：如果對(duì)任何先驗(yàn)分布有就叫做漸近最優(yōu)的經(jīng)驗(yàn)貝葉斯估計(jì)。其中Rk是經(jīng)驗(yàn)Bayes估計(jì)的全面Bayes風(fēng)險(xiǎn)，是Bayes估計(jì)的貝葉斯風(fēng)險(xiǎn)。

定理3：在熵?fù)p失函數(shù)和伽瑪共軛先驗(yàn)分布下，當(dāng)ns2-＞0 時(shí)，Burr X分布參數(shù)α的經(jīng)驗(yàn)貝葉斯估計(jì)是漸近最優(yōu)的經(jīng)驗(yàn)貝葉斯估計(jì)。

證明：當(dāng)k→∞時(shí)，由大數(shù)定律可得：

所以：

即當(dāng)k→∞時(shí)，經(jīng)驗(yàn)貝葉斯估計(jì)是收斂于貝葉斯估計(jì)的。又由：

其中：

此處E*表示在ns2-＞＞0 的條件下對(duì) (T,α),T1,T2,...,Tn的聯(lián)合分布求期望。由又由ns2-＞ ＞ 0 ，可得于是：

因此由式（18）和式（19）可得：

由于T,T1,T2,...,Tn相互獨(dú)立且服從參數(shù)相同的Gamma分布，易知E*(1/)＜ ∞ ，E*()＜ ∞ ，E*(1/T)＜ ∞ ，從而有：

再結(jié)合式（20）和式（21）知J1和J2都滿足控制收斂定理的條件，于是：

2 多層Bayes估計(jì)和E-Bayes估計(jì)

2．1 多層Bayes估計(jì)

Good[8]在1956年首次提出了多層Bayes估計(jì)方法，并證明了所獲得的Bayes估計(jì)具有較好的穩(wěn)健性。事實(shí)上多層Bayes估計(jì)是一種構(gòu)造先驗(yàn)分布的方法，該方法主要是通過(guò)構(gòu)造參數(shù)的多層先驗(yàn)分布，進(jìn)而得到了參數(shù)Bayes估計(jì)。

定義3[8]：設(shè)隨機(jī)變量X有密度函數(shù)f(x,λ)，參數(shù)λ的先驗(yàn)分布為π(λ|a,b)，超參數(shù)服從密度函數(shù)為π(a,b)的分布，則λ的多層先驗(yàn)密度為λ的多層后驗(yàn)密度為，則在損失函數(shù)LE(λ,δ)下，以 π(λ)為先驗(yàn)分布的λ的貝葉斯估計(jì)稱(chēng)為λ的多層貝葉斯估計(jì)。

由文獻(xiàn)[9]知，若根據(jù)先驗(yàn)信息知道產(chǎn)品的失效率小的可能性大，或者失效率大的可能性小，此時(shí)應(yīng)選取β和λ使得 π(α|β,λ)為α的減函數(shù)。由及α＞0,β＞0,λ＞0，可得當(dāng)0＜β＜1且λ＞0時(shí)＜0 ，即 π(α|β,λ)為α的減函數(shù)。進(jìn)一步考慮到Bayes估計(jì)的穩(wěn)健性，此時(shí)所選取的λ不宜過(guò)大，應(yīng)有一個(gè)界限，不失一般性，設(shè)c為λ的上限（c＞0為常數(shù)且c應(yīng)較?。?。因此，本文選取超參數(shù)β和λ的先驗(yàn)分布分別為U(0,1)和U(0,c)，于是得到如下定理4的結(jié)果。

定理4：在熵?fù)p失函數(shù)（5）下，取Burr(α)X分布參數(shù)α的先驗(yàn)分布為Gamma(β,λ)，其中超參數(shù)β和λ的先驗(yàn)分布分別選取為 π1(β)=U(0,1)，π2(λ)=U(0,c)，則Burr X參數(shù)α的多層貝葉斯估計(jì)為：

證明：由超參數(shù)β和λ的先驗(yàn)分布分別為 π1(β)=U(0,1)，π2(λ)=U(0,c)，因此超參數(shù)β和λ的聯(lián)合密度為于是由定義3得參數(shù)α的多層先驗(yàn)分布為dλdβ從而參數(shù)α的多層后驗(yàn)密度為：

因此，在熵?fù)p失函數(shù)(5)下參數(shù)的多層貝葉斯估計(jì)為：

由式（23）可以看出，多層貝葉斯估計(jì)往往是利用如上的兩個(gè)積分的比率來(lái)表示，在實(shí)際應(yīng)用中多需要利用數(shù)值方法來(lái)計(jì)算。

2．2 E-Bayes估計(jì)

由于多層貝葉斯估計(jì)經(jīng)常涉及到高維積分的計(jì)算，這在一定程度上制約了多層Bayes方法的應(yīng)用，為了解決這一問(wèn)題，韓明[10]提出了一種新的貝葉斯估計(jì)方法，即E-Bayes估計(jì),并證明了對(duì)于某些分布，E-Bayes估計(jì)是收斂到多層貝葉斯估計(jì)的。

定義4：[10]設(shè)隨機(jī)變量X服從密度函數(shù)為f(x,λ)的分布，λ的先驗(yàn)分布為π(λ|a,b)，其中(a,b)∈D稱(chēng)為超參數(shù)，(a,b)的分布為 π(a,b)。如果(a,b)是在損失函數(shù)LE(λ,δ) 及 先 驗(yàn) 分 布 π(λ|a,b) 下 的 Bayes 估 計(jì) ，則 稱(chēng)為λ的 E-Bayes 估 計(jì) ，其 中(a,b)是連續(xù)的且滿足

定理5：在熵?fù)p失函數(shù)（5）下，選取Burr X參數(shù)α的先驗(yàn)分布為Gamma(β,λ)，且選取超參數(shù)β和λ先驗(yàn)分布分別 取 為 π1(β)=U(0,1)，π2(λ)=U(0,c)，則 參 數(shù)α的E-Bayes估計(jì)為，且該估計(jì)還是唯一的。

證明：由定理2可知α的唯一貝葉斯估計(jì)為由E-Bayes估計(jì)的定義可得：

3 數(shù)值模擬

首先，通過(guò)蒙特卡洛方法對(duì)經(jīng)驗(yàn)貝葉斯估計(jì)的漸近最優(yōu)性進(jìn)行了驗(yàn)證，然后在c取不同值的情形下，對(duì)多層貝葉斯估計(jì)和E-Bayes估計(jì)的穩(wěn)健性進(jìn)行了模擬分析，最后在不同的樣本量下，對(duì)經(jīng)驗(yàn)貝葉斯估計(jì)、一致最小方差無(wú)偏估計(jì)、多層貝葉斯估計(jì)和E-Bayes估計(jì)的均方誤差（MSE）進(jìn)行了比較分析。

（1）經(jīng)驗(yàn)貝葉斯估計(jì)漸近最優(yōu)性模擬。由定理3可知，當(dāng)k→∞時(shí)，參數(shù)α經(jīng)驗(yàn)貝葉斯估計(jì)收斂于貝葉斯估計(jì)，且在ns2-＞＞0 的條件下，經(jīng)驗(yàn)貝葉斯估計(jì)的風(fēng)險(xiǎn)是收斂到貝葉斯估計(jì)的風(fēng)險(xiǎn)的，下面利用蒙特卡洛方法來(lái)驗(yàn)證這一結(jié)論。

圖1 和 隨 k 的變化

圖2 - 隨 k 變化

從圖1和圖2可以看出，隨著歷史數(shù)據(jù)的個(gè)數(shù)k的增加，經(jīng)驗(yàn)貝葉斯估計(jì)確實(shí)會(huì)收斂到貝葉斯估計(jì)，并且在k＞100后，該收斂過(guò)程達(dá)到穩(wěn)定。

圖3 Rk-隨k的變化

從圖3中可以看出，隨著k的增大，Rk-→0，從而經(jīng)驗(yàn)貝葉斯估計(jì)是漸近最優(yōu)的。

（2）多層貝葉斯估計(jì)和E-Bayes估計(jì)穩(wěn)健性模擬。此處通過(guò)選取不同的樣本量和c值來(lái)討論多層貝葉斯估計(jì)和E-Bayes估計(jì)的穩(wěn)健性，數(shù)值模擬的結(jié)果如下頁(yè)表1所示。

由表1的數(shù)值算例可以看出，對(duì)于相同的c，-B和非常接近；對(duì)于不同的c(c=2,3,4,5,6)，-B和都是比較穩(wěn)健的，隨著樣本容量n的增加(10→20→30→60→100)，-B和越來(lái)越接近，但比-B的極差小，因此對(duì)于Burr(α)X分布而言，多層Bayes估計(jì)比E-Bayes估計(jì)的穩(wěn)健性要好。

（3）各類(lèi)估計(jì)MSE的比較模擬。給定α,k,c的值，運(yùn)用Monte-Carlo方法產(chǎn)生樣本容量為n且服從Gamma(n,α)（T的分布）的樣本和歷史樣本。利用該組數(shù)據(jù)給出參數(shù)α的一致最小方差無(wú)偏估計(jì)、經(jīng)驗(yàn)貝葉斯估計(jì)、多層貝葉斯估計(jì)和E-Bayes估計(jì)。重復(fù)上述模擬1000次，分別計(jì)算各種估計(jì)的均方誤差，模擬結(jié)果如下頁(yè)表2所示。

表1 多層貝葉斯估計(jì)和E-Bayes估計(jì)

表2 各類(lèi)參數(shù)估計(jì)均方誤差的數(shù)值模擬(α=1.2,k=10,c=4)

從表2可以看出，當(dāng)樣本量n相同時(shí)，經(jīng)驗(yàn)貝葉斯估計(jì)的均方誤差最小，精度最高，其次是一致最小方差無(wú)偏估計(jì)、多層貝葉斯估計(jì)，E-Bayes估計(jì)的均方誤差最大，精度最低。當(dāng)樣本量n增大時(shí)，各個(gè)估計(jì)的均方誤差都變小，但其變化幅度開(kāi)始很大，后來(lái)逐漸變小。在實(shí)際應(yīng)用中，當(dāng)擁有一定的歷史數(shù)據(jù)時(shí)，可以利用經(jīng)驗(yàn)貝葉斯方法，當(dāng)不具備這一條件時(shí)，一致最小方差無(wú)偏估計(jì)是一個(gè)不錯(cuò)的選擇。

4 結(jié)束語(yǔ)

本文給出了Burr X分布的參數(shù)α的一致最小方差無(wú)偏估計(jì)、貝葉斯估計(jì)、經(jīng)驗(yàn)貝葉斯估計(jì)、多層貝葉斯估計(jì)和E-Bayes估計(jì)，并證明了經(jīng)驗(yàn)貝葉斯估計(jì)的漸近最優(yōu)性。還利用數(shù)值模擬對(duì)多層貝葉斯估計(jì)和E-Bayes估計(jì)的穩(wěn)健性進(jìn)行了比較分析，同時(shí)對(duì)各類(lèi)參數(shù)估計(jì)的均方誤差進(jìn)行了數(shù)值模擬。結(jié)果表明多層貝葉斯估計(jì)比E-Bayes估計(jì)的穩(wěn)健性好，而經(jīng)驗(yàn)貝葉斯估計(jì)均方誤差最小，估計(jì)效果最好。因此在實(shí)際工程應(yīng)用中，采用經(jīng)驗(yàn)貝葉斯方法較好。

[1]Burr I W.Cumulative Frequency Functions[J].Ann.Math.Statist.,1942,(13).

[2]Raqab M Z,Kundu D.Burr Type X Distribution:Revisited[J].JPSS,2006,(8).

[3]師義民,許勇,周丙常.近代統(tǒng)計(jì)方法選講[M].西安:西北工業(yè)大學(xué)出版社,2008.

[4]鄢偉安,師義民,孫天宇,王亮.熵?fù)p失下廣義指數(shù)分布的可靠性估計(jì)[J].系統(tǒng)工程理論與實(shí)踐,2011,31(9).

[5]Robbins H.An Empirical Bayes Approach to Statistics[C].Proc.Third Berleley Symposium on Math.Statist.,1955,(1).

[6]Efron B,Morris C.Limiting the Risk of Bayes and Empirical Bayes Estimators-Part II:The Empirical Bayes Case[J].Journal of the American Statistical Association,1972,67(337).

[7]Robbins H.The Empirical Bayes Approach to Statistical Problems[J].Ann.Math.Statist.,1964,(35).

[8]Good I J.On the Estimation of Small Frequencies in Contingency Tables[J].J.Roy.Statist.Soc.B,1956,(18).

[9]韓明.多層先驗(yàn)分布的構(gòu)造及其應(yīng)用[J].運(yùn)籌與管理,1997,6(3).

[10]韓明.可靠度的一種新估計(jì)方法[J].兵工學(xué)報(bào),2004,25(1).

Bayes Estimation of Parameter for Burr(α )X Distribution under Entropy Loss Function

Chen Jiaqing,Wang Yu,Chen Zhiqiang
(College of Science,Department of Statistics,Wuhan University of Technology,Wuhan 430070,China)

This paper investigates all kinds of Bayes estimations of parameter for Burr(α)X distribution,and respectively obtains Bayes estimation,empirical Bayes estimation,hierarchical Bayes estimation and E-Bayes estimation under the entropy loss function.Furthermore the paper verifies that the empirical Bayes estimation is asymptotically optimal,and at the same time discusses the robustness of the hierarchical Bayes estimation and E-Bayes estimation.Finally the paper conducts a value simulation and comparison of the mean square error(MSE)of various estimations based on Monte Carlo method.The study result shows that the empirical Bayes estimation has minimum MSE and high-precision.

Burr X distribution;Bayes estimation;empirical Bayes estimation;hierarchical Bayes estimation;E-Bayes estimation

O212.1

A

1002-6487（2017）20-0005-05

國(guó)家自然科學(xué)基金面上資助項(xiàng)目（81671633）；湖北省自然科學(xué)基金資助項(xiàng)目（2014CFB863）

陳家清（1972—），男，湖北襄陽(yáng)人，博士，副教授，研究方向：貝葉斯統(tǒng)計(jì)學(xué)。

(責(zé)任編輯/亦 民)