Gibbs Sampling Gibbs采樣

假設(shè)參數(shù)向量可以被分為M個(gè)子向量 

采樣過程

假設(shè) theta 服從先驗(yàn)分布 

1) 初始化

2) 分別計(jì)算

如 

用所有不為i的(M-1)個(gè)上一個(gè)階段的子向量來抽樣的條件概率，得到 ；

分別抽樣M次，得到M個(gè)子向量，合并得到 ；

3)    同理，可以從 抽樣子向量再合并得到 ；

最終我們得到的參數(shù)估計(jì)的序列

為一馬爾科夫鏈，當(dāng)收斂達(dá)到穩(wěn)態(tài)時(shí)，為我們要估測的后驗(yàn)概率

參數(shù)的馬爾科夫鏈達(dá)到穩(wěn)態(tài)Stationary Distribution時(shí)，這個(gè)穩(wěn)態(tài)分布即為后驗(yàn)概率Posterior PRobability

MCMC的Sampler需要一個(gè)前N0次burn-in period的迭代，才能達(dá)到穩(wěn)態(tài);

Metropolis-Hastings方法

采樣過程

1) 初始化 

2)   假設(shè)當(dāng)前的參數(shù)為，根據(jù)Jumping 分布Jump生成一個(gè)Candidate 備選的參數(shù)向量，這個(gè)生成被選的分布J(x,y)也叫做Proposal Density；通常選擇對(duì)稱分布J(x,y)=J(y,x);

Jumping分布概率被接受的概率為min(r, 1),

J(t)為Proposal Density，通常取對(duì)稱分布值比如高斯分布或者t分布，

3)    計(jì)算密度函數(shù)的比例r來判斷是否接收

當(dāng)一次Jump 使得概率密度上升(a>=1)，則直接更新 ，繼續(xù)迭代;

當(dāng)一次Jump 使得概率密度下降(a<1)，則以a的概率接收更新;

生成均勻分布，如果, 則接收，如果則拒絕接受，重新生成

4)    當(dāng)J(t)不為對(duì)稱分布時(shí), 接受概率為min(r,1)

則最終參數(shù)形成了馬爾科夫鏈