為什麼冗餘均值參數化會加速 Gibbs MCMC？

在 Gelman & Hill (2007) 的書（使用回歸和多級/分層模型的數據分析）中，作者聲稱包含冗餘平均參數可以幫助加速 MCMC。

給定的示例是“飛行模擬器”（Eq 13.9）的非嵌套模型：

他們建議重新參數化，添加平均參數和如下：

提供的唯一理由是（第 420 頁）：

模擬可能會卡在一個配置中，其中整個向量（或者) 遠非零（即使它們被分配了一個均值為 0 的分佈）。最終，模擬將收斂到正確的分佈，但我們不想等待。

冗餘平均參數如何幫助解決這個問題？

在我看來，非嵌套模型很慢主要是因為和是負相關的。（事實上，如果一個上升，另一個必須下降，因為它們的總和是由數據“固定”的）。冗餘的平均參數是否有助於降低兩者之間的相關性和，或者完全是別的什麼？

要避免的相關性是和和.

通過更換和在具有圍繞中心的替代參數的計算模型中相關性降低。

請參閱第 25.1 節“什麼是分層居中？”以獲得非常清晰的描述。在William J. Browne 和其他人 的（免費提供的）書“MLwiN 中的 MCMC 估計”中。http://www.bristol.ac.uk/cmm/software/mlwin/download/manuals.html

引用自：https://stats.stackexchange.com/questions/296415