Bayesian

Gibbs 抽樣與一般 MH-MCMC

  • June 26, 2014

我剛剛閱讀了一些關於 Gibbs 採樣和 Metropolis Hastings 算法的文章,並且有幾個問題。

據我了解,在吉布斯抽樣的情況下,如果我們有一個大的多變量問題,我們從條件分佈中抽樣,即抽樣一個變量,同時保持所有其他變量不變,而在 MH 中,我們從完整的聯合分佈中抽樣。

文件說的一件事是,建議的樣本在 Gibbs Sampling 中總是被接受,即建議接受率總是 1。對我來說,這似乎是一個很大的優勢,因為對於大型多元問題,MH 算法的拒絕率似乎變得相當大. 如果確實如此,那麼不一直使用 Gibbs Sampler 來生成後驗分佈的原因是什麼?

使用 Metropolis 算法的主要理由在於,即使結果後驗未知,您也可以使用它。對於吉布斯採樣,您必須知道從中得出變量的後驗分佈。

引用自:https://stats.stackexchange.com/questions/104815

comments powered by Disqus