MCMC(二)馬爾科夫鏈
MCMC(三)M-H采樣和Gibbs采樣(待填坑)
在MCMC(一)蒙特卡羅方法中,我們講到了如何用蒙特卡羅方法來隨機(jī)模擬求解一些復(fù)雜的連續(xù)積分或者離散求和的方法,但是這個方法需要得到對應(yīng)的概率分布的樣本集,而想得到這樣的樣本集很困難。因此我們需要本篇講到的馬爾科夫鏈來幫忙。
1. 馬爾科夫鏈概述
馬爾科夫鏈定義本身比較簡單,它假設(shè)某一時刻狀態(tài)轉(zhuǎn)移的概率只依賴于它的前一個狀態(tài)。舉個形象的比喻,假如每天的天氣是一個狀態(tài)的話,那個今天是不是晴天只依賴于昨天的天氣,而和前天的天氣沒有任何關(guān)系。當(dāng)然這么說可能有些武斷,但是這樣做可以大大簡化模型的復(fù)雜度,因此馬爾科夫鏈在很多時間序列模型中得到廣泛的應(yīng)用,比如循環(huán)神經(jīng)網(wǎng)絡(luò)RNN,隱式馬爾科夫模型HMM等,當(dāng)然MCMC也需要它。
如果用精確的數(shù)學(xué)定義來描述,則假設(shè)我們的序列狀態(tài)是
延伸閱讀
學(xué)習(xí)是年輕人改變自己的最好方式