Mathematical-Statistics
兩個多元高斯分佈之間的 KL 散度
假設兩個多元正態分佈，我在推導 KL 散度公式時遇到了麻煩。我已經相當容易地完成了單變量案例。但是，自從我學習數學統計數據以來已經有一段時間了，所以我在將其擴展到多變量情況時遇到了一些麻煩。我確定我只是缺少一些簡單的東西。
這就是我所擁有的…
假設兩者和是具有均值的正態分佈的 pdf和和差異和， 分別。Kullback-Leibler 距離到是：
，對於兩個多元法線是：
遵循與此證明相同的邏輯，在我被卡住之前，我到達了這裡：
我想我必須實現跟踪技巧，但我只是不確定之後該怎麼做。任何使我回到正確軌道的有用提示將不勝感激！
從你開始的地方開始，稍作修正，我們可以寫
請注意，我使用了Matrix Cookbook 第 8.2 節中的幾個屬性。