張軍霞 石倩
一、隨機(jī)過(guò)程發(fā)展簡(jiǎn)述
在當(dāng)今社會(huì)的廣闊天地里,人們可以看到一種叫作隨機(jī)過(guò)程的數(shù)學(xué)模型:一些看似毫無(wú)規(guī)律的偶然現(xiàn)象經(jīng)過(guò)隨機(jī)理論的研究發(fā)現(xiàn)竟然有章可尋,從銀河亮度的起伏到星系空間的物質(zhì)分布、從分子的布朗運(yùn)動(dòng)到原子的蛻變過(guò)程,從化學(xué)反應(yīng)動(dòng)力學(xué)到電話(huà)通訊理論、從謠言的傳播到傳染病的流行、從市場(chǎng)預(yù)測(cè)到密碼破譯,隨機(jī)過(guò)程理論及其應(yīng)用幾乎無(wú)所不在。
馬爾可夫經(jīng)多次觀察試驗(yàn)發(fā)現(xiàn),一個(gè)系統(tǒng)的狀態(tài)轉(zhuǎn)換過(guò)程中第n次轉(zhuǎn)換獲得的狀態(tài)常決定于前一次(第n-1次)試驗(yàn)的結(jié)果。目前,馬爾可夫鏈理論與方法已經(jīng)被廣泛應(yīng)用于自然科學(xué)、工程技術(shù)和公用事業(yè)中。
二、馬爾可夫過(guò)程發(fā)展
2.1 馬爾可夫過(guò)程簡(jiǎn)介
馬爾科夫過(guò)程(MarKov Process)是一個(gè)典型的隨機(jī)過(guò)程。設(shè)X(t)是一隨機(jī)過(guò)程,當(dāng)過(guò)程在時(shí)刻t0所處的狀態(tài)為已知時(shí),時(shí)刻t(t>t0)所處的狀態(tài)與過(guò)程在t0時(shí)刻之前的狀態(tài)無(wú)關(guān),這個(gè)特性成為無(wú)后效性。無(wú)后效的隨機(jī)過(guò)程稱(chēng)為馬爾科夫過(guò)程。
2.2 馬爾可夫鏈的定義
[定義] 設(shè)有隨機(jī)過(guò)程 { Xn,n∈T }, 若對(duì)于任意的整數(shù)n∈T 和任意的 i0,i1,…,in+1∈I,其中:
T={0,1,2…}為離散的時(shí)間集合,
I ={i0,i1,…,in+1 }為Xn 所有可能取值的全體組成的狀態(tài)變量
P{Xn+1=in+1|X0=i0,X1=i1,Xn=in}
P{Xn+1=in+1|Xn=in}
若條件概率滿(mǎn)足
則稱(chēng) { Xn,n∈T } 為馬爾可夫鏈,簡(jiǎn)稱(chēng)馬氏鏈。
經(jīng)過(guò)推導(dǎo)所知,Markov鏈的統(tǒng)計(jì)特性完全由條件概率P{Xn+1=in+1|Xn=in}決定,所以確定條件概率及如何利用是Markov鏈重點(diǎn)解決的問(wèn)題。
2.3 馬爾可夫鏈的算法
2.3.1 轉(zhuǎn)移概率
·馬爾可夫鏈 { Xn,n∈T }在時(shí)刻n的一步轉(zhuǎn)移概率為P{Xn+1=in+1|Xn=in},i,j∈I所以pij(n)與時(shí)刻n有關(guān)
·當(dāng)轉(zhuǎn)移概率pij(n)與時(shí)刻n無(wú)關(guān)時(shí),則稱(chēng)馬爾可夫鏈?zhǔn)驱R次的,并記為pij(n)為pij
·設(shè)P為一步轉(zhuǎn)移概率pij組成的矩陣,稱(chēng)為一步轉(zhuǎn)移概率矩陣P=p
p
…
p …
p
p
…
p …
… … … … …
該矩陣滿(mǎn)足:
(1)pij≥0,i,j∈I
(2)pij=1,i∈I
2.3.2 n步轉(zhuǎn)移概率
·[定義]稱(chēng)條件概率
·p=P{Xm+n=j|Xm=i},(i,j∈I,m≥0,n≥1)為馬爾可夫鏈 { Xn,n∈T }的n步轉(zhuǎn)移概率,并稱(chēng)P=
p
為馬爾可夫鏈的n步轉(zhuǎn)移概率。
·同樣有
(1)pij≥0,i,j∈I
(2)pij=1,i∈I
特別的
p=0 i≠j
1 i=j
2.3.3 推論1—C-K方程
·[定義]設(shè) { Xn,n∈T }為馬爾可夫鏈,則對(duì)于任意整數(shù)n≥0,0≤l p=pp稱(chēng)為C-K方程 2.3.4 推論2 p=… pp…p 2.3.5 推論3 P=P·P 2.3.6 推論4 P=P 三、馬爾可夫過(guò)程在移動(dòng)通信中的應(yīng)用 馬爾可夫隨機(jī)過(guò)程的發(fā)展史說(shuō)明了理論與實(shí)際之間的密切關(guān)系,其研究方向的提出是有其實(shí)際背景的。當(dāng)這個(gè)方向被深入研究后,可指導(dǎo)實(shí)踐,進(jìn)一步擴(kuò)大和深化應(yīng)用范圍。以移動(dòng)網(wǎng)為例,對(duì)馬爾可夫過(guò)程進(jìn)行應(yīng)用簡(jiǎn)單應(yīng)用如下: 1996年ITU制訂了一種語(yǔ)音質(zhì)量的主觀評(píng)測(cè)標(biāo)準(zhǔn)MOS(Mean Opinion Score)測(cè)試,將用戶(hù)接聽(tīng)和感知語(yǔ)音質(zhì)量的行為進(jìn)行調(diào)研和量化,由不同的調(diào)查用戶(hù)分別對(duì)原始標(biāo)準(zhǔn)語(yǔ)音和經(jīng)過(guò)無(wú)線(xiàn)網(wǎng)傳播后的衰退聲音進(jìn)行主觀感受對(duì)比,評(píng)出MOS分值,實(shí)際網(wǎng)絡(luò)測(cè)試中,一般市區(qū)內(nèi)MOS值達(dá)到3以上的時(shí)候,就表明網(wǎng)絡(luò)質(zhì)量處于較好的水平?,F(xiàn)對(duì)某無(wú)線(xiàn)網(wǎng)絡(luò)進(jìn)行等時(shí)間間隔的觀測(cè),發(fā)現(xiàn)當(dāng)級(jí)別為優(yōu)后即以概率1保證維持在優(yōu),當(dāng)級(jí)別為劣后即以概率1保證維持在劣,在其他級(jí)別分別以概率1/3向上一個(gè)級(jí)別遷移、維持當(dāng)前級(jí)別、向下一個(gè)級(jí)別遷移。設(shè)每個(gè)觀測(cè)間隔為一步轉(zhuǎn)移,可利用馬爾可夫鏈的知識(shí)對(duì)該問(wèn)題進(jìn)行分析。 根據(jù)上述描述可以求得馬爾可夫鏈的一步轉(zhuǎn)移概率矩陣為 根據(jù)其一步轉(zhuǎn)移矩陣可得出其二步轉(zhuǎn)移概率矩陣,假設(shè)該無(wú)線(xiàn)網(wǎng)絡(luò)當(dāng)前時(shí)刻的語(yǔ)音級(jí)別為中,可以計(jì)算出經(jīng)過(guò)二步轉(zhuǎn)移后級(jí)別還為中的概率。 二步轉(zhuǎn)移概率矩陣如下: 若該無(wú)線(xiàn)網(wǎng)絡(luò)當(dāng)前時(shí)刻的語(yǔ)音級(jí)別為中,則經(jīng)過(guò)二步轉(zhuǎn)移后級(jí)別還為中的概率是1/3。 計(jì)算任意階轉(zhuǎn)移矩陣,發(fā)現(xiàn)任意階轉(zhuǎn)移矩陣中總有零元存在,所以沒(méi)有平穩(wěn)分布。 四、與馬爾可夫過(guò)程相關(guān)的歷史事件 (1)1997年提出在因果馬爾科夫條件下,可以由網(wǎng)絡(luò)的條件獨(dú)立和條件相關(guān)關(guān)系推斷因果關(guān)系。(2)夸(Qllah)于 1993年采用馬爾科夫漣模型 對(duì)歐洲經(jīng)濟(jì)的發(fā)展作了進(jìn)一步分析,認(rèn)為以前傳統(tǒng)的經(jīng)驗(yàn)方法對(duì)研究收斂性有時(shí)可能有 誤導(dǎo)作用。(3)1991年Cohen等采用高斯一馬爾科夫隨機(jī)場(chǎng)(GMRF)紋理模型對(duì)織物疵點(diǎn)的檢測(cè)進(jìn)行了研究,從正常紋理中提取模型參數(shù),再通過(guò)統(tǒng)計(jì)假設(shè)檢驗(yàn)判別疵點(diǎn)。(4)1990年撰寫(xiě)“馬爾科夫鏈預(yù)測(cè)技術(shù)的應(yīng)用”等論文 1992年之后撰寫(xiě)成“現(xiàn)代控制理論在森林資源動(dòng)態(tài)預(yù)測(cè)中的應(yīng)用”和“森林資源動(dòng)態(tài)系統(tǒng)Kalman濾波”等文章。(5)1973年Dudley“和Burt把動(dòng)態(tài)規(guī)劃應(yīng)用于灌溉水庫(kù)的管理上,利用馬爾科夫鏈的轉(zhuǎn)移概率對(duì)遞推動(dòng)態(tài)方程加權(quán)。(6)直到 1971年 Hammersly等提出H C定理 從理論上證明了馬爾科夫性與吉布斯分布等價(jià)性以吉布斯為代表的隨機(jī)場(chǎng)理論才得到空前發(fā)展與運(yùn)用。7()1948年,Shannon首先證明遍歷齊次馬爾科夫鏈的極限是存在的;1957年,Briemann證明了平穩(wěn)遍歷的馬爾科夫鏈的極限是存在的。(8)1940年克拉默斯(Kramers)將裂變過(guò)程看作復(fù)合核內(nèi)部的各種可能的分裂碎片的無(wú)規(guī)運(yùn)動(dòng)行為,但不是完全隨機(jī)行為,而是僅保持對(duì)前一步記憶的馬爾科夫無(wú)規(guī)運(yùn)動(dòng),例如布朗運(yùn)動(dòng)。