Bayesian

在貝葉斯模型中,您可以使用 Uniform(-inf, inf) 作為先驗嗎?

  • December 18, 2021

在貝葉斯模型中,您可以使用 Uniform(-inf, inf) 作為先驗嗎?

我問是因為在課堂上,我們查看了 MH MCMC 採樣器,並表明要從分佈中採樣,我們不需要明確求解分母,因為分子與後驗成正比,這將告知採樣器應該在哪里花費更多/更少的時間,所以你真的只需要關心先驗和可能性條款。

我問了一個問題,“如果分子中的前一項只是將可能性乘以 1 怎麼辦?” 我的教授說,“這類似於指定一個統一的先驗,支持從負無窮到正無窮,因為沒有範圍限制,並且參數可以採用的每個值的權重都相同。”

首先,我不確定這是否可行。其次,我聽說“確實沒有任何不具信息性的先驗”,儘管這聽起來與先驗一樣不具信息性。

有人可以澄清一下嗎?

在此處輸入鏈接描述在此處輸入圖像描述

在這個論壇上,有很多關於平面先驗的相關問答。它們不是統一的先驗,因為它們不是分佈,而是 $ \sigma $ -有限度量(具有無限質量),並且由於這些答案(和貝葉斯教科書)中詳述的許多原因,它們不是最信息或無信息的先驗。如果後附有可能 $ f(x|\theta) $ 和一個平坦(常數)的先驗 $ \pi(\theta)=c $ 是明確定義的,即可以將隨機變量的幾乎所有實現歸一化為概率密度 $ X $ 在觀察到的數據背後, $$ \int_\Theta f(x|\theta)~\text d\theta < \infty\qquad\forall x\quad\text{a.s.} $$ 那麼使用標準貝葉斯框架的這種擴展是可以接受的。

**注意:**這個問題與 MCMC 無關(儘管不應使用帶有不正確後驗的 MCMC)。正確的條目關鍵字是所有貝葉斯教科書improper priors的一節或一章。不正確的先驗是 $ \sigma $ - 有限的措施 $ \pi(\cdot) $ (具有無限質量)可用作提供的事先措施 $$ \int_\Theta f(x|\theta) \pi(~\text d\theta) < \infty\qquad\forall x\quad\text{a.s.} $$平坦先驗(在無限空間上)是不正確先驗的一種特殊情況,但不是非常特殊的情況,因為平坦先驗在大多數重新參數化(變量變化) 下不會保持不變。

引用自:https://stats.stackexchange.com/questions/557589

comments powered by Disqus