Bayesian

為什麼使用因子圖進行貝葉斯推理?

  • February 4, 2014

我不明白為什麼將貝葉斯網絡轉換為因子圖有利於貝葉斯推理?

我的問題是:

  1. 在貝葉斯推理中使用因子圖有什麼好處?
  2. 如果我們不使用它會發生什麼?

任何具體的例子將不勝感激!

我將嘗試回答我自己的問題。

信息

因子圖的一個非常重要的概念是message,可以理解為如果消息從 A 傳遞到 B,則 A 告訴 B 一些事情。

在概率模型上下文中,來自因子的消息 $ f $ 可變 $ x $ 可以表示為 $ \mu_{f \to x} $ , 可以理解為 $ f $ 知道一些事情(在這種情況下是概率分佈)並告訴它 $ x $ .

因素總結消息

在“因子”上下文中,要知道某個變量的概率分佈,需要從其相鄰因子中準備好所有消息,然後匯總所有消息以得出分佈。

例如,在下圖中,邊, $ x_i $ , 是變量和節點, $ f_i $ , 是由邊連接的因子。

示例因子圖

要知道 $ P(x_4) $ ,我們需要知道 $ \mu_{f_3 \to x_4} $ 和 $ \mu_{f_4 \to x_4} $ 並將它們匯總在一起。

消息的遞歸結構

那麼如何知道這兩條消息呢?例如, $ \mu_{f_4 \to x_4} $ . 可以看成是兩條消息匯總後的消息, $ \mu_{x_5 \to f_4} $ 和 $ \mu_{x_6 \to f_4} $ . 和 $ \mu_{x_6 \to f_4} $ 本質上是 $ \mu_{f_6 \to x_6} $ ,可以從其他一些消息中計算出來。

這是消息的遞歸結構,消息可以通過 messages 來定義

遞歸是一件好事,一種是為了更好地理解,一種是為了更容易實現計算機程序。

結論

因素的好處是:

  1. 因子,它匯總流入消息並輸出流出消息,啟用對計算邊際至關重要的消息
  2. 因子使計算消息的遞歸結構成為可能,使消息傳遞或信念傳播過程更容易理解,並且可能更容易實現。

引用自:https://stats.stackexchange.com/questions/85453

comments powered by Disqus