Bayesian

貝葉斯後驗(Bernstein-von Mises)的漸近正態性何時失效?

  • February 23, 2017

考慮(像往常一樣)由下式給出的後驗密度函數

具有先驗密度和分佈的觀察, 以參數值為條件. 在某些條件下,後驗分佈是漸近正態的(這一結果被稱為 Bernstein-von Mises 定理,請參閱 egvd Vaart,Asymptotic Statistics,第 10.2 節,以獲得嚴格的論證,或 Young & Smith,Essentials of Statistical Inference,第 9.12 節,用於非正式討論。)

有沒有(希望是基本的)貝葉斯後驗不是漸近正態的例子?特別是有例子

  1. 和是連續可微的?
  2. 對所有人?

我在文獻中提到的一個例子是是具有位置參數的獨立柯西隨機變量. 在這種情況下,具有正概率的似然函數存在多個局部最大值(參見 Young & Smith,示例 8.3)。也許這可能會在 B-vM 定理中出現問題,儘管我不確定。

更新: BvM 的充分條件是(如 vd Vaart,第 10.2 節所述):

  • 數據是從具有固定參數的分佈中獲得的
  • 實驗是“二次均值可微”的具有非奇異 Fisher 信息矩陣
  • 先驗在周圍的區域中是絕對連續的
  • 該模型是連續且可識別的
  • 存在一個分開的測試從對於一些

1.柯西例子與伯恩斯坦馮米塞斯定理相矛盾嗎?

不可以。當聯合分佈沒有可微分的二階矩時,Bernstein von-Mises 定理不適用。顯然,聯合獨立同分佈的柯西隨機變量甚至沒有有限的二階矩。該條件需要對由 Rao-Fisher 度量定義的黎曼流形進行有界能量假設,而柯西不滿足該假設。

2.有沒有(希望是基本的)貝葉斯後驗不是漸近正態的例子?特別是有例子 是連續可微的?對所有人?

是的。事實上,我們可以選擇一個(非信息性的)不恰當的先驗使後路也不合適。例如是一個簡單的例子。不合適的後路不可能是正常的。例如,[Rubio&Steel] (14) 提供了一個示例,其中 Jeffereys 先驗導致不正確的後驗,無論樣本量有多大,這都不可能是正常的。

參考

[Rubio&Steel]Rubio、Francisco J. 和 Mark FJ Steel。“使用 Jeffreys 先驗推斷兩件式位置尺度模型。” 貝葉斯分析 9.1(2014):1-22。

引用自:https://stats.stackexchange.com/questions/263640

comments powered by Disqus