Markov-Chain-Montecarlo
MCMC 什麼時候有用?
我無法理解 MCMC 方法在哪種情況下真正有用。我正在瀏覽 Kruschke 書中“做貝葉斯數據分析:R 和 BUGS 教程”中的一個玩具示例。
到目前為止我所理解的是,我們需要一個與為了有一個樣本. 然而,在我看來,一旦我們有我們只需要對分佈進行歸一化即可得到後驗,歸一化因子可以很容易地從數值上找到。那麼在哪些情況下這是不可能的呢?
蒙特卡羅積分是數值積分的一種形式,它比例如通過用多項式逼近被積函數的數值積分**更有效。**在高維情況下尤其如此,簡單的數值積分技術需要大量的函數評估。計算歸一化常數,我們可以使用重要性抽樣,
在哪裡和採樣自. 請注意,我們只需要評估採樣點的聯合分佈。對於權利,這個估計器在需要很少樣本的意義上是非常有效的。在實踐中,選擇合適的可能很困難,但這是 MCMC 可以提供幫助的地方!退火重要性抽樣(Neal, 1998)將 MCMC 與重要性抽樣相結合。
MCMC 有用的另一個原因是:我們通常甚至對,而是在匯總統計和期望中,例如,
會心通常並不意味著我們可以解決這個積分,但樣本是一種非常方便的估計方法。
最後,能夠評估是某些 MCMC 方法的要求,但不是所有方法(例如,Murray 等人,2006 年)。