Backpropagation

變分自動編碼器如何通過採樣步驟反向傳播[重複]

  • April 25, 2018

根據我對 VAE 的理解,在訓練過程的中間有一個步驟,在編碼器產生平均值和標準偏差之後,從給定的學習分佈中抽取隨機樣本以創建解碼器用於解碼的編碼向量。我了解如何使用 KL 散度來強制學習分佈近似為標準高斯分佈,但我不明白重建損失如何通過此採樣步驟反向傳播。隨機採樣不是一個可微操作,那麼梯度如何傳播過去呢?我對VAE的理解是錯誤的嗎?

重新參數化技巧。

不可反向傳播要么. 但是,我們可以將其重寫為:

這顯然是等效且可反向傳播的。

引用自:https://stats.stackexchange.com/questions/342762

comments powered by Disqus