Modeling

有人可以用非常簡單的語言解釋吉布斯抽樣嗎?[複製]

  • May 1, 2011

我正在閱讀使用吉布斯採樣的主題建模(使用潛在狄利克雷分配)。作為統計學的新手——嗯,我知道二項式、多項式、先驗等。我發現很難掌握吉布斯抽樣的工作原理。有人可以用簡單的英語和/或使用簡單的例子來解釋嗎?(如果您不熟悉主題建模,任何示例都可以。)

您是主持龍與地下城的地下城主,並且玩家施放了“Eldritch 混亂天氣咒語 (SECW)。你以前從未聽說過這個咒語,但事實證明它相當複雜。玩家遞給你一本厚厚的書,然後說,“這個法術的效果是這本書中的一個事件發生了。” 這本書包含了多達 1000 種不同的效果,而且這些事件具有不同的“相對概率”。這本書告訴你,最有可能的事件是“火球”;其他事件的所有概率都是相對於“火球”的概率來描述的;例如:在第 155 頁上,它說“鴨風暴”的可能性是“火球”的一半。

你,地下城主,如何從這本書中隨機抽取一個事件?以下是您的操作方法:

接受拒絕算法:

  1. 擲 d1000 來決定一個“候選”事件。

  2. 假設候選事件的可能性是最有可能的事件“火球”的 44%。然後以 44% 的概率接受候選人。(擲一個 d100,如果擲出 44 或更低,則接受。否則,返回步驟 1,直到接受一個事件。)

  3. 接受的事件是您的隨機樣本。

接受拒絕算法保證從具有指定相對概率的分佈中採樣。

經過多次擲骰子,您最終接受了一個候選人:“召喚青蛙”。你鬆了一口氣,因為你現在可以回到處理巨魔獸人和龍精靈之間戰鬥的(比較例行的)事務了。

然而,為了不甘示弱,另一位玩家決定施放’Level. 2 神秘的網絡效應風暴。對於此法術,會出現兩種不同的隨機效果:隨機生成的攻擊和隨機生成的角色增益。這個咒語的手冊太大了,只能裝在一張CD上。播放器啟動並顯示一個頁面。你的下巴掉了:每次攻擊的條目大約與上一個法術的手冊一樣大,因為它列出了每個可能伴隨的增益的相對概率

‘銅刀片’

伴隨這次攻擊的最有可能的增益是“Hotelling aura”

“Jackal Vision”伴隨這次攻擊的可能性是“Hotelling aura”的 33%

伴隨這次攻擊的“烤麵包機耳朵”的可能性是“霍特林光環”的 20%

同樣,特定攻擊法術發生的概率取決於增益發生的概率。

有理由懷疑是否可以根據這些信息定義適當的概率分佈。好吧,事實證明,如果有的話,它是由手冊中給出的條件概率唯一指定的。但是如何從中採樣呢?

幸運的是,CD 附帶了一個自動 Gibbs 採樣器,因為您將不得不花費很長時間手動完成以下操作。

Gibbs 採樣器算法

1)隨機選擇一個攻擊法術

  1. 使用accept-reject算法選擇攻擊條件的buff

  2. 忘記您在第 1 步中選擇的攻擊法術。使用以第 2 步中的增益為條件的接受-拒絕算法選擇一個新的攻擊法術

4)轉到第2步,永遠重複(儘管通常10000次迭代就足夠了)

5)無論您的算法在最後一次迭代中具有什麼,都是您的樣本。

您會看到,通常,MCMC 採樣器只能漸近地保證從具有指定條件概率的分佈中生成樣本。但在許多情況下,MCMC 採樣器是唯一可用的實用解決方案。

引用自:https://stats.stackexchange.com/questions/10213

comments powered by Disqus