貝葉斯參數估計中如何選擇先驗

我知道 3 種方法來進行參數估計，ML、MAP 和貝葉斯方法。對於 MAP 和貝葉斯方法，我們需要為參數選擇先驗，對嗎？

說我有這個模型, 其中是參數，為了使用 MAP 或貝葉斯進行估計，我在書中讀到我們最好先選擇一個共軛先驗，這是一個聯合概率， 對？

我有兩個問題：

1. 除了這個共軛選項，我們還有其他選擇嗎？
2. 我們可以選擇先驗嗎和分別喜歡和，除了把它們放在一起嗎？

如評論中所述，先驗分佈表示對參數分佈的先驗信念。

當先前的信念實際可用時，您可以：

• 將它們轉換為矩（例如均值和方差）以適應這些矩的公共分佈（例如，如果您的參數位於實線，則為高斯，如果位於實線上，則為伽瑪）。
• 使用您對這些信念的直觀理解來提出給定的先驗分佈，並檢查它是否真的符合您的目的，並且它對任意選擇不敏感（執行穩健性或敏感性分析）

當沒有明確的先驗信念可用時，您可以：

• 派生（或簡單地使用，如果已經可用，一個很好的資源是http://www.stats.org.uk/priors/noninformative/YangBerger1998.pdf）杰弗里斯（例如位置參數的統一）或參考先驗（尤其是在多變量參數的情況）。
• 有時這樣的選擇是不可能或很難得出的，在這種情況下，您可以嘗試在眾多“通用”弱信息先驗中進行選擇（例如，分層模型的尺度參數的均勻收縮分佈或-高斯回歸的先驗）。

話雖如此，使用聯合或獨立先驗沒有限制（VS）。作為補充，我想說的是，在我的拙見中，選擇先驗時需要注意三件事：

• 注意你的後驗幾乎在任何地方（或適當的）都是可積的，如果你使用可積的先驗，這總是正確的（有關更多詳細信息，請參閱貝葉斯後驗是否需要正確分佈？），
• 僅當您對支持範圍非常有信心時才限制您的先驗支持（因此避免這樣做）。
• 最後但並非最不重要的一點是，確保（大部分時間通過實驗）您選擇的先驗意味著您想要表達的內容。在我看來，這項任務有時更為關鍵。永遠不要忘記，在進行先驗推斷本身並沒有任何意義時，您必須考慮後驗（這是先驗和可能性的組合）。

引用自：https://stats.stackexchange.com/questions/78606