Bayesian

您是否必須遵守似然原則才能成為貝葉斯?

  • February 7, 2016

這個問題是由以下問題引發的:何時(如果有的話)頻率論方法實質上優於貝葉斯方法?

正如我在我對該問題的解決方案中發布的那樣,我認為,如果您是常客,則不必相信/遵守似然原則 ,因為時常常客的方法經常會違反它。然而,這通常是在適當的先驗假設下,貝葉斯方法從不違反似然原則。

所以現在,說你是貝葉斯主義者,這是否證實了一個人對似然原理的信念或同意,或者說你是貝葉斯主義者只是有一個很好的結果,即似然原理不會被違反?

在使用貝葉斯定理計算構成模型參數推斷的後驗概率時,自動遵循弱似然原則:

然而,在一些客觀的貝葉斯方法中,採樣方案決定了先驗的選擇,其動機是無信息的先驗應該最大化先驗分佈和後驗分佈之間的差異——讓數據具有盡可能大的影響。因此它們違反了強似然原則。

例如,Jeffreys 先驗與 Fisher 信息行列式的平方根成正比,這是對樣本空間的期望。考慮關於概率參數的推斷二項式和負二項式抽樣下的伯努利試驗。杰弗里斯先驗是

&調理成功來自試驗導致後驗分佈

因此,觀察 10 次試驗中的 1 次成功將導致兩種抽樣方案下完全不同的後驗分佈:

在此處輸入圖像描述

儘管遵循此類推導無信息先驗的規則有時會給您留下不正確的先驗,但這本身並不是違反實踐所包含的似然原則的根源。杰弗里斯先驗的近似值,, 在哪裡, 是非常合適的,並且對後驗的影響可以忽略不計。

你也可以考慮模型檢查——或者作為你檢查的結果做任何事情——與弱似然原則相反;使用數據的輔助部分的公然案例。

引用自:https://stats.stackexchange.com/questions/194448

comments powered by Disqus