Probability

條件概率和貝葉斯規則的區別

  • December 9, 2016

我知道貝葉斯規則是從條件概率推導出來的。但直覺上,有什麼區別?這個等式在我看來是一樣的。提名者是聯合概率,分母是給定結果的概率。

這是條件概率: $ P(A∣B)=\frac{P(A \cap B)}{P(B)} $

這是貝葉斯規則: $ P(A∣B)=\frac{P(B|A) * P(A)}{P(B)} $ .

不是嗎 $ P(B|A)*P(A) $ 和 $ P(A \cap B) $ 相同?什麼時候 $ A $ 和 $ B $ 是獨立的,沒有必要使用貝葉斯規則,對吧?

好的,現在您已經更新了問題以包含兩個公式:

$$ P(A\mid B) = \frac{P(A\cap B)}{P(B)} ~~ \text{provided that } P(B) > 0, \tag{1} $$ 是條件概率的定義 $ A $ 鑑於 $ B $ 發生了。相似地, $$ P(B\mid A) = \frac{P(B\cap A)}{P(A)} = \frac{P(A\cap B)}{P(A)} ~~ \text{provided that } P(A) > 0, \tag{2} $$ 是條件概率的定義 $ B $ 鑑於 $ A $ 發生了。現在,用 $ P(A\cap B) $ 從 $ (2) $ 進入 $ (1) $ 到達 $$ P(A\mid B) = \frac{P(B\mid A)P(A)}{P(B)} ~~ \text{provided that } P(A), P(B) > 0, \tag{3} $$ 這是貝葉斯公式,但請注意貝葉斯公式實際上連接了兩個不同的條件概率 $ P(A\mid B) $ 和 $ P(B\mid A) $ ,並且本質上是“扭轉空調”的公式。托馬斯·貝葉斯牧師用“逆概率”的術語提到了這一點,即使在今天,關於統計推斷是否應該基於 $ P(B\mid A) $ 或逆概率(稱為驗概率或後驗概率)。

毫無疑問,當我第一次發現貝葉斯公式只是對 $ (2) $ 進入 $ (1) $ . 也許如果您出生於 250 年前, (注意:當我寫這個答案時,OP 偽裝成用戶名 AlphaBetaGamma,但後來更改了他的用戶名)可以進行替換,然後今天的人們會談論 AlphaBetaGamma 公式和AlphaBetaGammian 異端和朴素的 AlphaBetaGamma 方法 $ ^* $ 而不是到處調用貝葉斯的名字。因此,讓我通過指出貝葉斯公式的不同版本來安慰你失去名聲。 全概率定律說 $$ P(B) = P(B\mid A)P(A) + P(B\mid A^c)P(A^c) \tag{4} $$ 並使用它,我們可以寫 $ (3) $ 作為

$$ P(A\mid B) = \frac{P(B\mid A)P(A)}{P(B\mid A)P(A) + P(B\mid A^c)P(A^c)}, \tag{5} $$ 或更一般地,如 $$ P(A_i\mid B) = \frac{P(B\mid A_i)P(A_i)}{P(B\mid A_1)P(A_1) + P(B\mid A_2)P(A_2) + \cdots + P(B\mid A_n)P(A_n)}, \tag{6} $$ 其中一個可能的“原因”的後驗概率 $ A_i $ 一個“基準” $ B $ 與 $ P(B\mid A_i) $ , 觀察的可能性 $ B $ 什麼時候 $ A_i $ 是真實的假設並且 $ P(A_i) $ ,假設的先驗概率(恐怖!) $ A_i $ .


$ ^* $ 有一篇著名論文 R. Alpher、H. Bethe 和 G. Gamow,《化學元素的起源》,物理評論,1948 年 4 月 1 日,通常被 稱為 $ \alpha\beta\gamma $ 紙

引用自:https://stats.stackexchange.com/questions/250522

comments powered by Disqus