Jeffreys 先驗二項似然

如果我使用 Jeffreys 先驗作為二項式概率參數 θ 那麼這意味著使用 θ∼beta(1/2,1/2) 分配。

如果我轉換到一個新的參考系 ϕ=θ2 然後清楚地 ϕ 也不是作為 beta(1/2,1/2) 分配。

我的問題是，Jeffreys 在什麼意義上對重新參數化具有先驗不變性？老實說，我想我誤解了這個話題……

讓我們 ϕ=g(θ) ， 在哪裡 g 是一個單調函數 θ 然後讓 h 是的倒數 g ， 以便 θ=h(ϕ) . 我們可以得到杰弗裡的先驗分佈 pJ(ϕ) 有兩種方式：

1. 從二項式模型開始 (1) p(y|θ)=(ny)θy(1−θ)n−y
   重新參數化模型 ϕ=g(θ) 要得到 p(y|ϕ)=(ny)h(ϕ)y(1−h(ϕ))n−y
   並獲得杰弗裡的先驗分佈 pJ(ϕ) 對於這個模型。
2. 獲得杰弗裡的先驗分佈 pJ(θ) 從原始二項式模型 1 並應用變量變化公式獲得誘導先驗密度 ϕ pJ(ϕ)=pJ(h(ϕ))|dhdϕ|.

對重新參數化保持不變意味著密度 pJ(ϕ) 兩種方式導出的應該是一樣的。Jeffrey 的先驗具有此特徵 [參考：P. Hoff 的 A First Course in Bayesian Statistical Methods。]

回答您的評論。獲得杰弗裡的先驗分佈 pJ(θ) 從二項式模型的可能性 p(y|θ)=(ny)θy(1−θ)n−y

我們必須通過取似然的對數來計算 Fisher 信息 l 併計算二階導數 l l:=log(p(y|θ))∝ylog(θ)+(n−y)log(1−θ) ∂l∂θ=yθ−n−y1−θ ∂2l∂θ2=−yθ2−n−y(1−θ)2

和費雪信息是 I(θ)=−E(∂2l∂θ2|θ) =nθθ2+n−nθ(1−θ)2 =nθ(1−θ) ∝θ−1(1−θ)−1.

杰弗裡對此模型的先驗是 pJ(θ)=√I(θ) ∝θ−1/2(1−θ)−1/2

這是 beta(1/2,1/2) .

引用自：https://stats.stackexchange.com/questions/275600