Bayesian
關於似然原理的問題
我目前試圖理解似然原則,坦率地說我根本不明白。所以,我會把我所有的問題寫成一個列表,即使這些可能是非常基本的問題。
- 在此原則的上下文中,“所有信息”短語究竟是什麼意思?(因為樣本中的所有信息都包含在似然函數中。)
- 這個原理是否與一個非常可證明的事實有某種聯繫,即? 原理中的“可能性”是否相同,如, 或不?
- 一個數學定理怎麼會“有爭議”?我對數學的(薄弱)理解是,一個定理要么被證明,要么未被證明。似然原則屬於哪一類?
- 似然原理對於貝葉斯推理有多重要,它基於公式?
似然原理已經以許多不同的方式表述,具有不同的含義和可理解性。AWF Edwards 的書《可能性》是對可能性許多方面的出色介紹,並且仍在印刷中。Edwards 是這樣定義似然原理的:
“在統計模型的框架內,數據提供的有關兩個假設的相對優點的所有信息都包含在這些假設的似然比中。” (愛德華茲 1972、1992 第 30 頁)
所以現在來回答。
- 正如您所引用的,“樣本中的所有信息”只是對似然原理相關部分的不充分錶達。愛德華茲說得更好:模型很重要,相關信息是與假設的相對優點相關的信息。值得注意的是,似然比僅在所討論的假設來自相同的統計模型並且相互排斥的情況下才有意義。實際上,它們必須是相同似然函數上的點才能使比率有用。
- 如您所見,似然原理與貝葉斯定理有關,但無需參考貝葉斯定理即可證明。是的,只要 x 是數據並且 y 是假設(可能只是假設的參數值) , p (x|y) 就是(與)可能性成正比。
- 似然原理是有爭議的,因為它的證明存在爭議。在我看來,這些反證是錯誤的,但它仍然是有爭議的。(在不同的層面上,可以說似然原理是有爭議的,因為它暗示頻率論的推理方法在某些方面是錯誤的。有些人不喜歡這樣。)似然原理已經被證明,但它的範圍相關性可能比其批評者想像的更受限制。
- 似然原理對於貝葉斯方法很重要,因為數據通過似然的方式進入貝葉斯方程。大多數貝葉斯方法都符合似然原理,但不是全部。有些人,如 Edwards 和 Royall,認為可以在不使用貝葉斯定理的情況下根據似然函數進行推斷,即“純似然推斷”。這也是有爭議的。事實上,它可能比似然原理更具爭議性,因為貝葉斯主義者傾向於同意常客的觀點,即純似然方法是不合適的。(敵人的敵人……)