Bayesian

二項式均勻先驗貝葉斯統計

  • December 5, 2015

假設有一個二項分佈,其中參數的先驗是均勻的。如何獲得參數的後驗分佈?

如果您使用與二項式似然函數共軛的先驗分佈,這很容易做到。當得到的後驗分佈與先驗分佈類型相同時,則稱先驗分佈和似然是共軛的。這意味著,如果您有二項式數據,則可以在獲得 beta 後驗之前使用 beta。進行貝葉斯更新不需要共軛先驗,但它們使計算更容易,因此如果可以的話,它們很好用。

Beta 先驗有兩個形狀參數來確定它的外觀,並表示為 Beta(α, β)。將 p(成功概率)的先驗值設為統一等效於使用兩個參數都設置為 1 的 Beta 分佈。

為了獲得後驗,只需使用貝葉斯規則:

後部先驗 x 可能性

後驗與似然乘以先驗成正比。使用共軛分佈的好處是貝葉斯更新真的和基本代數一樣簡單。我們採用二項式似然函數的公式,

其中 x 是 n 次試驗中的成功次數。然後將其乘以帶有α和β形狀參數的β先驗公式,

得到以下後驗公式,

您會看到我們將具有相同基數的項相乘,這意味著可以將指數相加。所以後驗公式可以改寫為,

這簡化為,

這相當於:取先驗,將成功和失敗添加到不同的指數中,瞧。換句話說,您採用先驗 Beta(α, β),並將數據 x 中的成功添加到和故障,n - x,到,還有你的後驗,Beta(+x,+nx)。

當您以 Beta(1,1) 作為先驗開始時,後驗將具有二項式似然的確切形狀,並且後驗寫為 Beta(1+x,1+nx)。

圖表

如果您從制服之前的 Beta(1,1) 開始,它看起來像這樣:

統一先驗,Beta(1,1)

如果您在 25 次試驗中有 13 次成功,則新的後驗是 Beta(1+13,1+12) 或 Beta(14,13),如下所示:

後部,Beta (14,13)

在我的博客上,有代碼可以製作這樣的圖表和其他圖表,這裡

引用自:https://stats.stackexchange.com/questions/185221

comments powered by Disqus