術語“逆概率”究竟是什麼意思？
我一直看到順便提到的“逆概率”一詞，儘管沒有任何解釋。
我知道這與貝葉斯推理有關，但我們所說的反轉概率到底是什麼意思？
我目前的想法是，在“正常”概率中，我們採用隨機實驗的結果，並嘗試根據這些實驗的結果來估計概率，而在“逆概率”中，我們感興趣的是從概率（先驗未知量）到知道“實驗的結果”，實驗正在找出未知量的值（即通過後驗，並且可能找到 MAP 假設）。
也就是說，在“常規概率”中，我們從實驗的結果到概率，而在逆概率中，我們走另一條路：我們從先驗到揭示實驗的結果。
“逆概率”是指貝葉斯推理的一種相當老式的方式。現在使用它時，通常是對歷史的致敬。De Morgan (1838)，概率論，Ch。3“關於逆概率”，很好地解釋了它：
在前一章中，我們已經計算了事件發生的機率，知道它發生或失敗的情況。我們現在將自己置於一個顛倒的位置：我們知道事件，並詢問事件產生的概率是多少，有利於任何可能發生相同情況的情況。
下面是一個使用貝葉斯定理的例子。
我不確定該術語在某些時候可能不包含推定或提議的非貝葉斯、無先驗的方法 $ f(y|\theta) $ 到 $ p(\theta|y) $ （在@Christopher Hanck 的符號中）；但無論如何，費舍爾在 1930 年代已經清楚地區分了“逆概率”和他的方法——最大似然、基準推理。令我震驚的是，幾位 20 世紀早期的作家似乎將使用我們現在所謂的無信息/無知/參考先驗作為“逆概率”方法†甚至“貝葉斯定理”的一部分‡ .
† 費舍爾 (1930)，數學。過程。凸輪。菲洛斯。社會黨。, 26 , p 528, “逆概率”, 也許是第一次清楚地區分貝葉斯推理與平坦的“無知”先驗（“正確的逆參數”），當先驗描述偶然時貝葉斯定理的無例外應用概率（“嚴格來說不是逆概率”），以及他的基準論點。
‡ 例如，Pearson (1907)，Phil。麥格。, p365，“關於過去經驗對未來預期的影響”，將貝葉斯定理與“無知的平均分佈”混為一談。