Self-Study
EM算法練習題
這是期中考試的練習題。問題是一個 EM 算法示例。我在 (f) 部分遇到問題。我列出了 (a)-(e) 部分以供完成，以防我之前犯了錯誤。
讓是具有速率的獨立指數隨機變量. 不幸的是，實際沒有觀察到值，我們只觀察是否值落在一定的區間內。讓,， 和 為了. 觀察到的數據包括.
(a) 給出觀測數據的可能性：
(b) 給出完整的數據可能性
(c) 導出潛在變量的預測密度
(d) E 步。給函數
在哪裡
(e) 給出表達式為了.
我將列出我很確定是正確的結果，但是對於這個已經很長的問題，推導會有點長：
這是我堅持的部分，可能是因為早期的錯誤：
(f) M 步。找出最大化
從總期望定律我們有 為此
接下來我應該將其設置為零並求解，但我已經嘗試了很長時間，但我似乎無法解決！
完整的數據似然不應該涉及 G！它應該只是可能性當。。。的時候是指數級的。請注意，您編寫的完整數據可能性簡化為指數可能性，因為只有一個可以是 1. 離開但是，在完整的數據可能性中，稍後會搞砸你。
在 (d) 部分中，應該對完整的數據記錄可能性進行預期，而不是觀察到的數據記錄可能性。
此外，您不應該使用總期望定律！回想一下 G 是被觀察到的並且不是隨機的，所以你應該只對每個執行這些條件期望中的一個. 只需將這個條件期望替換為術語然後執行 M 步。