基于Bootstrap抽樣技術的部分信息不可觀測模型估計量比較

范紅崗， 侯 軒

(1. 中國人民大學 信息學院， 北京 100872； 2. 北方自動控制技術研究所， 山西 太原 030006)

0 引 言

實證研究時， 為估計部分信息不可觀測模型(即模型中有部分變量的數據不可觀測)， 計量經濟學家通常采用邊際極大似然估計法或矩估計法進行估計. 然而， 由于在不同的假設下， 邊際極大似然函數和矩條件的復雜程度不同， 理論上難以明確兩者的有限樣本性質， 進而無法比較兩者優(yōu)劣. 本文將基于Bootstrap抽樣方法[1-4]重點分析兩種估計的有限樣本性質， 并給出了實踐中選擇這兩種方法的具體建議.

目前， Bootstrap抽樣技術在計量經濟和統(tǒng)計方法的研究中， 主要應用集中于假設檢驗和參數或方差難以估計的問題研究中： Dufour et al.與Davidson et al.把該技術應用于異方差和ARCH效應的檢驗中[5-6]. Hong和Li把數值Bootstrap技術應用于參數不可微問題的推斷中， 這是對數值Bootstrap技術應用的一個有意義的探索[7]. Lubke et al. 把Bootstrap技術應用于評價模型選擇不確定性問題中， 證明了Bootstrap選擇率可以為AIC和BIC選擇標準提供額外的有意補充[8]. Trucíos et al.把Bootstrap 技術應用到GARCH收益和波動率的密度估計中， 具體而言， 該文借助穩(wěn)健的參數估計量構造了GARCH收益和波動率的Bootstrap密度， 從而使得對這類模型估計更加穩(wěn)健[9]. 但是鮮有文獻把Bootstrap抽樣技術應用于對部分信息不可觀測模型估計量的小樣本性質的分析中. 因此， 本文的分析是一個有意義的探索.

本文在一個經典的部分信息模型框架下， 首先推導出估計該模型的邊際極大似然估計量或矩估計量， 然后使用Bootstrap抽樣技術生成樣本， 并在此基礎上分析兩個估計量的小樣本性質.

1 模型框架與假設

假設Xt為二元時間序列 (取0或1)，Yt為連續(xù)時間序列Yt，t=1,2,…,T， 且滿足條件：

ii)P(Xt=j|Xt-1=i,Xt-2…)=P(Xt=j|Xt-1=i)=Pij， 其中i,j取0或1， 且P00=P11=θ;P01=P10-1-θ,θ∈[0,1];

當Xt和Yt均可觀測時， 我們稱上述模型是完全信息模型； 當Yt可觀測而Xt不可觀測時， 我們稱上述模型是部分信息不可觀測模型.

下面， 本文以(y2,y1,y0)的聯(lián)立密度函數為例說明其似然函數復雜原因.

由全期望公式， 可得

f(y2,y1,y0)=f(y2,y1,y0,Z1=1)+f(y2,y1,y0,Z1=0)=f(y2|y1,y0,Z1=1)·

f(Z1=1|y1,y0)f(y1y0)+f(y2|y1,y0,Z1=0)f(Z1=0|y1,y0)f(y1,y0).

根據全期望公式以及分布函數與密度函數間的關系， 可得

易知f(Z1=0|y1,y0)有相似表達式. 當T較大時，f(yT,yT-1,…,y2,y1,y0)非常復雜， 不易獲得參數的極大似然估計值. 本文將討論部分信息不可觀測模型兩種可行的估計方法， 并基于Bootstrap抽樣重點分析兩種估計方法的優(yōu)缺點.

2 部分信息不可觀測模型的估計

本節(jié)討論部分信息不可觀測模型兩種可行的估計方法： 邊際極大似然估計法和矩估計法.

2.1 邊際極大似然估計法

由上節(jié)討論， 可知由于f(yT,yT-1,…,y2,y1,y0)的公式比較復雜， 故難以使用極大似然估計， 因此， 本文將推導其他有關Yt的密度函數來獲得三個未知參數的估計值. 通過推導， 本文發(fā)現(xiàn)

對應的極大似然函數為

(2)

可通過對式(2)求最大值來獲得參數估計值， 這一方法稱為邊際極大似然估計法[10-12].

2.2 矩估計法

矩估計法的關鍵在于找到合適的矩條件. 由期望的線性和伽馬分布的數字特征值可得

由此， 可獲得三個矩條件

(3)

通過求解矩條件獲得參數估計值的方法稱為矩估計法. 通過求解(3)來獲得參數的矩估計值的方法就是本文所使用的矩估計方法.

3 基于Bootstrap抽樣的有限樣本性質分析

基于大樣本， 容易證明上節(jié)所討論的邊際極大似然估計值和矩估計值均收斂于真實值， 即兩種估計均是一致的. 由于在不同的假設下， 邊際極大似然函數和矩條件的復雜程度不同， 故從理論上難以明確兩者的有限樣本性質， 進而無法比較兩者優(yōu)劣. 下面， 本文基于Bootstrap抽樣方法重點分析兩種估計的有限樣本性質， 并討論兩者的優(yōu)缺點.

步驟一， 使用上述樣本生成B個Bootstrap樣本(本文中B=100)；

步驟三， 計算參數估計值的樣本偏差和樣本方差.

通過比較， 可以發(fā)現(xiàn)：

1) 邊際極大似然估計量的樣本偏差和方差在數值上， 均小于矩估計量的樣本偏差和方差， 表明邊際極大似然估計量的有限樣本精度高于矩估計量.

表 1 兩個估計量的方差

2) 從計算耗時來看， 邊際極大似然法遠高于矩估計法. 在我們的計算過程中， 矩估計法的計算過程耗時僅2分鐘， 而邊際極大似然估計法耗時達7小時；

3) 圖 1為兩個估計量的直方圖和經驗CDF， 通過比較可發(fā)現(xiàn)三個參數的極大似然估計量更集中于真實值. 這一結果表現(xiàn)為： 極大似然估計量的直方圖更窄， 經驗CDF圖橫坐標值的跨度范圍更小.

圖 1 直方圖和經驗CDFFig.1 Histogram and empirical CDF

4 結 論

基于Bootstrap抽樣的有限樣本性質表明： 相對于矩估計， 邊際極大似然估計法的精度更高， 但耗時較長. 因此， 對于擁有高性能計算機的研究人員， 邊際極大似然估計法是一個較好的選擇； 而在時間或計算設備有限的情況下， 矩估計法也是一個可以選擇的方法.

[1] Efron B. Bootstrap methods: another look at the Jackknife[J]. Annals of Statistics, 1979, 7: l-26.

[2] Efron B. Estimating the error rate of a prediction rule: improvement on cross-validation[J]. Journal of the American Statistical Association, 1983, 78: 316-331.

[3] Horowitz J L. Bootstrap-based critical values for the information matrix test[J]. Journal of Econometrics, 1994, 61(2): 395-411.

[4] Horowitz J L. The Bootstrap[C]∥Heckman J J, Leámer E E. In Handbook of Econometrics. The Netherlands: North-Holland Publishing Co, 2001.

[5] Dufour J M, Lynda K, Jean-Thomas B. Simulation-based finite-sample tests for heteroskedasticity and ARCH effects[J]. Journal of Econometrics, 2004, 122(2): 317-347.

[6] Davidson R, Flachaire E. The wild bootstrap, tamed at last[J]. Journal of Econometrics, 2008, 146(1): 162-169.

[7] Han Hong, Jessie Li. The numerical delta method and bootstrap[EB/OL]. https:∥economics.stanford.edu/sites/default/files/jobmarketpaperli.pdf， 2016-01-83.

[8] Lubke G H, Campbell I, Dan M A, e al. Assessing model selection uncertainty using a bootstrap approach: an update[J]. Structural Equation Modeling A Multidisciplinary Journal, 2017, 24(2): 230.

[9] Trucíos C, Hotta L K, Ruiz E. Robust bootstrap forecast densities for GARCH returns and volatilities[J]. Journal of Statistical Computation & Simulation, 2017, 87(16): 3152-3174.

[10] Amemiya Takeshi. Advanced econometrics[M]. Cambridge: Harvard University Press, 1985.

[11] Gourieroux C, Trognon A. A general approach to serial correlation[J]. Econometric Theory, 1985, 1(45): 315-340.

[12] Hamilton J D. A new approach to the economic analysis of nonstationary time series and the business cycle[J]. Econometrica, 1989, 57(2): 357-84.