MCMC 處理平坦可能性問題
我有一個非常平坦的可能性導致 Metropolis-Hastings 採樣器非常不規則地通過參數空間,即無論提案分佈的參數是什麼(在我的情況下是高斯分佈),都無法實現收斂。我的模型沒有很高的複雜性——只有 2 個參數,但似乎 MH 無法處理這個任務。那麼,解決這個問題有什麼技巧嗎?是否有一個採樣器不會產生移動到後尾很遠的馬爾可夫鏈?
問題更新:
我將嘗試重新表述我的問題,提供更多細節。首先,我將描述模型。
我有一個帶有兩個節點的圖形模型。每個節點都由一個自動泊松模型(Besag,1974)管理,如下所示:
或者,因為只有兩個節點並假設全局強度相等:
由於它是馬爾可夫場,聯合分佈(或實現的可能性) 如下:
因為我假設平坦的先驗和, 後驗則與
自從一般來說,很難評估(很多很多的總和)由於 J. Moller(2006),我正在使用輔助變量方法。按照這個方法,我先畫一個數據樣本由 Gibbs 採樣器(因為條件只是泊松分佈)然後我從高斯分佈中得出一個建議並相應地計算接受標準. 在這裡,我得到了一個狂野的馬爾可夫鏈。當我強加一些鏈可以移動的邊界時,採樣器似乎會收斂到某個分佈,但是一旦我移動了至少一個邊界,得到的分佈也會移動並且總是顯示轉移。
我認為@Xi’an 是正確的 - 後面可能不合適。
我發現平坦的可能性會產生收斂問題令人驚訝:通常相反的情況會導致問題!通常對這種情況的第一次檢查是確保你的後部是正確的:如果不是,它會解釋“尾巴”中無休止的遠足。如果後驗確實是正確的,你可以使用像柯西分佈這樣的胖尾提議……以及羅伯茨和羅森塔爾的自適應算法。
如果這仍然“不起作用”,我建議考慮對模型進行重新參數化,例如使用(即如果沒有其他自然參數化)邏輯變換,
(帶有可能的比例參數),它將參數帶入單位平方。 關於較早的答案,Gibbs 採樣聽起來比接受拒絕更可能的解決方案,這需要找到一個邊界並將 t 分佈縮放到後驗,這對於更強大的 Metropolis-Hastings 採樣器來說似乎不可行……