變分推理，KL散度需要真𝑝pp
根據我（非常謙虛）對變分推斷的理解，嘗試逼近未知分佈通過找到一個分佈優化以下內容：
每當我花時間理解變分推理時，我都會不斷地使用這個公式，並且不禁覺得我錯過了重點。看來我需要知道為了計算. 但重點是我不知道這個分佈.
每次我嘗試閱讀一些變體時，正是這一點一直困擾著我。我錯過了什麼？
編輯：
由於@wij 的回答，我將在這裡添加一些額外的評論，我會嘗試更準確。
在我感興趣的情況下，認為以下成立似乎是完全合理的；
在這種情況下，我可以知道什麼應該成比例地看起來像，因為我會為和. 那麼我是否正確地說我需要選擇一個家庭分佈[讓我們說高斯] 這樣我現在可以估計. 感覺就像在這種情況下，我試圖擬合一個接近非歸一化的高斯. 這個對嗎？
如果是這樣，感覺就像我假設我的後驗是一個正態分佈，我只是試圖找到這個分佈的可能值分歧。
我有一種感覺，你對待作為一個完全未知的物體。我認為情況並非如此。這可能是你錯過的。
假設我們觀察(iid) 我們想推斷我們假設和為了由模型指定。根據貝葉斯規則，
第一個觀察結果是我們對後驗分佈有所了解. 如上所述。通常，我們只是不知道它的歸一化器. 如果可能性非常複雜，那麼我們最終會得到一些複雜的分佈.
使變分推理成為可能的第二件事是對形式有一個約束，即可以採取。沒有任何約束，將是這通常是棘手的。通常，假設生活在指數族的選定子集中。例如，這可能是完全分解的高斯分佈族，即，. 事實證明，如果這是您的約束集，那麼是（誰）給的
在哪裡確切的公式並不重要。點是近似值可以依靠真實的知識找到, 以及近似形式的假設應該採取。
更新
以下是回答問題中更新的部分。我才意識到我一直在想. 我會一直使用對於真實數量，和一個近似值。在變分推理或變分貝葉斯中，是（誰）給的
有約束集如上所述，解決方案是前面給出的解決方案。現在，如果您正在考慮
為了定義為指數族的一個子集，那麼這種推論稱為期望傳播（EP）。解決方案在這種情況下，它的矩與.
無論哪種方式，你說得對，基本上你試圖通過一個分佈來近似 KL 意義上的真實後驗分佈被迫採取某種形式。