Bayesian
非信息性和不當先驗之間的區別
我想知道這兩種先驗有什麼區別:
- 非信息性
- 不當
不正確的先驗是- 有限的非消極措施關於參數空間這樣
因此,他們概括了先驗分佈的概念,這是參數空間上的概率分佈這樣它們以多種方式用於表徵
- 適當貝葉斯程序的一組極限,並非所有適當的貝葉斯程序;
- 常客最優程序,如(可接納性)完備類定理,如 Wald 的;
- 常客最佳不變估計量(因為它們可以在相應的右 Haar 度量下表示為貝葉斯估計,通常不正確);
- 先驗來自似然函數的形狀,例如非信息先驗(例如,Jeffreys')。
因為它們沒有積分到有限數,所以它們不允許概率解釋,但如果邊際似然是有限的,它們仍然可以用於統計推斷
由於後驗分佈然後是明確定義的。這意味著它可以以與使用從適當先驗導出的後驗分佈完全相同的方式使用,以導出用於估計的後驗量,例如後驗均值或後驗可信區間。
**警告:**貝葉斯推理的一個分支不能很好地處理不恰當的先驗,即在測試尖銳假設時。實際上,這些假設需要構建兩個正交的先驗分佈,一個在零分佈下,一個在替代分佈下。如果這些先驗之一不正確,則無法對其進行歸一化,並且由此產生的貝葉斯因子是不確定的。
在貝葉斯決策理論中,當尋求最優決策過程時在損失函數下不恰當的先驗在最小化問題的情況下很有用
允許一個非平凡的解決方案(即使沒有定義後驗分佈)。這種區別的原因是決定只取決於產品,這意味著它在乘法項的先驗變化下是不變的假設損失函數除以相同的乘法項, 非信息先驗是根據與似然函數相關的特定信息標準確定的(適當或不適當)先驗分佈類別,例如
- 拉普拉斯不充分理由先驗;
- Jeffreys (1939) 不變先驗;
- 最大熵(或 MaxEnt)先驗(Jaynes,1957);
- 最小描述長度先驗(Rissanen,1987;Grünwald,2005);
- 參考先驗 (Bernardo, 1979, 1781; Berger & Bernardo, 1992; Bernardo & Sun, 2012)
- 概率匹配先驗 (Welsh & Peers, 1963; Scricciolo, 1999; Datta, 2005)
以及更多的類,其中一些在 Kass & Wasserman (1995) 中有描述。非信息性的名稱是用詞不當,因為沒有先驗是完全非信息性的。請參閱我在此論壇上的討論。或者拉里·沃瑟曼的謾罵。(非信息性先驗通常是不正確的。)