Bayesian
為什麼邊際可能性難以/難以估計？
我在這裡有一個基本的問題要問，這一直困擾著我一段時間。通過我對貝葉斯統計的大部分閱讀，它實事求是地表明，邊際似然通常是難以處理或難以估計的。為什麼？
經常陳述的原因包括關於要估計的積分/求和的高維性質的陳述，或者可能模型的範圍是無限的。
我希望這個社區能夠向我指出一些原因，並用簡單的語言解釋這個問題。
資源鏈接也將不勝感激。我搜索了這些術語以尋找清楚解釋這一點的資源，但其中大多數只是陳述問題而沒有解釋。我也有機器學習中的模式識別書籍和凱文墨菲機器學習書籍。我對這些文本中的解釋不滿意，所以我正在尋找一些簡單明了的東西。
這是一個例子的答案。假設您有以下層次模型
團體用和組內的觀察和已知值和. 和
邊際可能性是
積分的維數是而如果很大，那麼這是一個高維積分。大多數數值積分技術需要大量的樣本或迭代才能獲得對該積分的合理近似。 該積分恰好具有封閉形式的邊際似然，因此您可以評估數值積分技術估計邊際似然的程度。要理解為什麼計算邊際似然度很困難，你可以從簡單的開始，例如，有一個觀察，有一個組，有和你可以慢慢地讓問題變得越來越困難，看看數值積分技術與事實的關係如何。您會注意到它們變得越來越差，即它們將需要越來越多的樣本或迭代才能獲得與問題維度相同的精度，即, 增加。最後，讓現在你有一個沒有封閉形式的邊際可能性。根據你知道真相時的經驗，當你不知道真相時，你會相信多少數字？我猜你對數字估計不會有太大的信心。