Bayesian
在正態和二項式模型中,後驗方差總是小於先驗方差嗎?
或者什麼條件可以保證?一般來說(不僅是正態模型和二項式模型),我認為打破這種說法的主要原因是採樣模型和先驗模型之間存在不一致,但還有什麼?我從這個主題開始,所以我非常感謝簡單的例子
由於後驗和先驗方差滿足(與表示樣本)
假設所有數量都存在,您可以預期後驗方差平均較小(在)。當後驗方差在. 但是,如另一個答案所示,後驗方差的實現可能更大,因為結果僅在預期中成立。 引用 Andrew Gelman 的話,
我們在貝葉斯數據分析的第 2 章中考慮了這一點,我認為這是一些家庭作業問題。簡短的回答是,在預期中,後驗方差會隨著您獲得更多信息而減小,但是,根據模型,在特定情況下方差會增加。對於一些模型,例如正態和二項式,後驗方差只能減小。但是考慮具有低自由度的 t 模型(可以解釋為具有共同均值和不同方差的法線的混合)。如果你觀察到一個極值,那就證明方差很高,而且你的後驗方差確實會上升。