最大似然估計法的思想及其應(yīng)用

李 娜 于曉要

（商丘工學(xué)院基礎(chǔ)教學(xué)部，河南 商丘 476000）

1 引言

在數(shù)理統(tǒng)計中，參數(shù)估計是統(tǒng)計推斷的基本問題之一.當(dāng)總體的分布類型已知，但含有一個或多個未知參數(shù)時，如何求出未知參數(shù)的估計值或估計出未知參數(shù)的取值范圍的一類問題，即是參數(shù)估計問題.參數(shù)估計一般有兩種形式：其一是通過總體的一組樣本X1,X2,… ,Xn所提供的信息，來求出未知參數(shù)θ的估計值，這就是一類點估計問題；其二是通過樣本尋求一個區(qū)間使它有一定的把握包含被估的參數(shù)，此類即為區(qū)間估計問題.求點估計的方法很多，最常用的是矩估計法與最大似然估計法.本文介紹最大似然估計法的基本思想及其應(yīng)用.

2 最大似然估計法的思想及其應(yīng)用

最大似然估計法是參數(shù)點估計中一種重要方法，它的思想是由著名數(shù)學(xué)家高斯提出，后被統(tǒng)計學(xué)家費希爾（R.A.Figher）于1912年在一項工作中應(yīng)用并得到證明.

最大似然估計法的直觀想法是：在條件未知的隨機試驗中，如果某事件已經(jīng)發(fā)生，則根據(jù)事件發(fā)生的概率最大原則去推斷試驗條件。即：在已經(jīng)得到試驗結(jié)果的條件下，應(yīng)該尋找使這個結(jié)果出現(xiàn)的概率最大的那個估計作為總體未知參數(shù)的估計。

若總體X屬離散型，其分布律P{X=x}=p(x;θ)，θ∈Θ的形式為已知，θ為待估參數(shù)，Θ是θ可能取值范圍.設(shè)X1,X2,… ,Xn為來自總體X樣本，則X1,X2,… ,Xn的聯(lián)合分布律為

又設(shè)x1,x2,… ,xn是相應(yīng)于樣本X1,X2,… ,Xn的一個樣本值.易知樣本取到觀察值x1,x2,… ,xn的概率，亦即事件發(fā)生的概率為

這一概率隨θ的取值而變化，它是θ的函數(shù)，L(θ)稱為樣本的似然函數(shù)（這里x1,x2,… ,xn是已知的樣本值，它們都是常數(shù)）.

若總體X屬連續(xù)型，其概率密度f(x;θ)，θ∈Θ的形式為已知，θ為待估參數(shù)，Θ是θ可能取值范圍.設(shè)X1,X2,… ,Xn為來自總體X樣本，則的聯(lián)合密度為即為樣本的似然函數(shù)L(θ).

于是求總體參數(shù)θ的最大似然估計值，就轉(zhuǎn)化為求似然函數(shù)L(θ)的最大值問題.因此當(dāng)L(θ)關(guān)于θ可微時，?？蓮姆匠探獾?又因L(θ)與lnL(θ)在同一處取到極值，因此，θ的最大似然估計也可從方程求得，而后一方程求解往往比較簡便.稱為對數(shù)似然方程.結(jié)合以上分析，我們可得到求最大似然估計的步驟：

例1 設(shè)總體X服從參數(shù)為λ的泊松分布，其中λ＞0為未知參數(shù)，是來自總體X的樣本，求參數(shù)λ的最大似然估計量.

關(guān)于λ求導(dǎo)，并令其為0，即

解得λ的最大似然估計值，

λ的最大似然估計量，

最大似然估計法也適用于分布中含多個未知參數(shù)θ1,θ2,…,θk的情況.這時，似然函數(shù)L是這些未知參數(shù)的函數(shù).分別令

解上述k個方程組，即可得到各未知參數(shù)的最大似然估計值.

例2 設(shè)X～N(μ,σ2)，μ,σ2均為未知參數(shù)，x1,x2,… ,xn是來自總體X的樣本值.求μ,σ2的最大似然估計量.

解X的概率密度為

似然函數(shù)為

3 結(jié)束語

最大似然估計法是參數(shù)點估計中一種重要方法，它是在已經(jīng)得到試驗結(jié)果的條件下, 應(yīng)該尋找使這個結(jié)果出現(xiàn)的概率最大的那個參數(shù)值作為總體未知參數(shù)的估計值.在一定條件下，只要樣本容量足夠大，最大似然估計與待估的未知參數(shù)的真值可相差任意小，最大似然估計法是較理想的估計方法.