在貝葉斯模型選擇中正確使用偽先驗
在貝葉斯框架中進行模型比較的一種方法使用伯努利指標變量來確定兩個模型中的哪一個可能是“真實模型”。在應用基於 MCMC 的工具來擬合此類模型時，通常使用偽先驗來改善鏈中的混合。請參閱此處，了解為什麼偽先驗有用的一個非常容易理解的處理方法。
在他們關於該主題的開創性論文中，Carlin & Chib (p. 475) 指出“[偽先驗] 的形式是無關緊要的”，我認為它不應該影響基於模型的後驗推斷（儘管它可能會影響模型擬合期間的 MCMC 混合）。但是，我的直覺是偽先驗的形式確實很重要。我之前在這個問題中問過這個問題。@Xi’an 評論（第 4 條評論）：“關於哪個模型正確的推斷不依賴於偽先驗”。
最近，我閱讀了 Martyn Plummer 的評論，這些評論與我對 Carlin & Chib 的理解相矛盾。Martyn 說：“為了讓 Carlin-Chib 方法起作用，當模型為真時，偽先驗必須與後驗相匹配。 ”
（我並不是說 Plummer 與 Carlin & Chib 相矛盾；只是他與我對Carlin & Chib 主張的理解相矛盾）。
所有這些都給我留下了五個問題：
- 這裡發生了什麼？假設模型收斂並從後驗產生良好的有效樣本量，我對模型中包含哪些變量的推斷是否取決於我的偽先驗？
- 如果不是，我們如何將其與我的直覺和Plummer 的評論相提並論？如果是這樣，我們如何將其與Carlin & Chib 的論文和西安的評論（第 4 條評論）相提並論？
- 如果我對 Plummer 評論的理解是正確的，並且當包含變量時偽先驗必須對應於後驗……這是否意味著偽先驗與真正的先驗完全對應是不允許的？這意味著偽先驗不僅僅是改善 MCMC 中混合的便捷技術！
- 如果指示變量使用多個參數（例如，具有總均值、方差和n組效應的隨機效應）打開和關閉模型的一部分怎麼辦？以下哪一項是允許的（按照我對這種方法是否允許的自信程度排序）？有沒有我沒有列出的更好的方法？
一世。使用近似於所有參數的完整聯合 後驗分佈的偽先驗。
ii. 如果混合是可以接受的非殘暴的，則根本不要使用偽先驗（即使用等同於真正先驗的偽先驗）。
iii. 使用基於每個參數的單變量後驗分佈的偽先驗，但不要擔心它們是如何联合分佈的。
iv. 按照 Carlin & Chib 的明顯簡單語言，使用任何在 MCMC 鏈中提供計算有效混合的偽先驗，因為“[偽先驗] 的形式是無關緊要的”。 5. @Xi’an 在對我的問題的第一條評論中說“偽先驗需要在重要性採樣類型的校正中進行校正”是什麼意思。
- 這裡發生了什麼？
這是一個非常籠統的問題，有明顯的答案要詳細研究Carlin & Chib (1995)。基本思想是考慮聯合參數在哪裡表示模型索引 (） 和兩個模型的參數，從某種意義上說，數據來自密度
即兩個參數之一一旦模型索引是多餘的已設置。 完成此操作後，必須在三元組上選擇先驗，即
我用和模型索引和每個模型參數的真實先驗。額外的是免費的，因為在後面等於先驗：
數據不會影響它不依賴的參數。因此推斷不受選擇的影響. 在實踐中，這意味著從增強模型模擬的算法會產生
- 每個模型的頻率近似於該模型的後驗概率
- 一系列參數什麼時候是模型索引，用於推斷此參數
- 一系列參數什麼時候 是模型索引，可以忽略。
- 我們如何將其與我的直覺和 Plummer 的評論相提並論？
Martyn Plummer 在他的評論中的意思是偽先驗與其他索引的參數無關但必須是具有當前索引的參數的真實先驗. 這與Carlin & Chib (1995) 的論文100% 一致。
- 這是否意味著與真正的先驗完全對應的偽先驗是不允許的？
偽先驗可以被視為真正的先驗，只要它們是正確的。但正如Carlin & Chib (1995)所指出的，採用真實後驗的近似值要有效得多，，可以通過對每個模型的初步 MCMC 運行獲得的近似值。
- 如果指示變量打開和關閉具有多個參數的模型的一部分怎麼辦
解決這個難題的方法是為所有不同的模型考慮不同的參數集，即在任何兩個模型之間都沒有共同的參數。如果您遇到變量選擇問題，這意味著對變量係數使用不同的參數和不同的符號什麼時候是回歸的一部分，何時不是回歸的一部分。從這一點開始，在多餘的參數上使用任何你想要的偽先驗。
- @Xi’an 在第一條評論中是什麼意思
我的意思是，如果訪問這兩個模型的概率不是先驗的概率，則必須校正一個模型的模擬頻率估計的後驗概率。