Bayesian
適當的先驗和指數似然會導致不適當的後驗嗎?
眾所周知,如果先驗分佈 π(θ) 是適當的和可能性 L(θ|x) 是明確定義的,那麼後驗分佈 π(θ|x)∝π(θ)L(θ|x) 幾乎可以肯定是正確的。
在某些情況下,我們使用緩和或指數似然來代替,導致偽後驗
˜π(θ|x)∝π(θ)L(θ|x)α
對於一些 α>0 (例如,這可能具有計算優勢)。在這種情況下,是否有可能有一個正確的先驗但不正確的偽後驗?
為了 α≤1 ,也許這是一個論證,表明不可能構造這樣的後驗?
我們想知道是否有可能 ∫˜π(θ|x)dθ=∞ .
在 RHS 上:
∫π(θ)Lα(θ|x)dθ=Eθ(Lα(θ|x))
如果 α≤1 , xα 是一個凹函數,所以由 Jensen 不等式:
Eθ(Lα(θ|x))≤Eαθ(L(θ|x))=m(x)α<∞
… 在哪裡 m(x) 正如西安所指出的,是歸一化常數(證據)。