Gan
GAN：為什麼太好的鑑別器應該提供“小錯誤”？
讀到這裡，我發現：
如果鑑別器以太大的優勢獲勝，則生成器無法學習，因為鑑別器誤差太小。
這也是我在其他地方讀到的東西，但我無法真正理解。如果判別器的損失很低，這意味著當我給它一個假樣本（帶有“假”標籤）時，它會給我一個低分（假設它的輸出是“真實概率”），並且確定性很高，所以我可以想像誤差的梯度會很小。
當我訓練生成器時，我傳遞了相同的假圖像，但帶有“真實”標籤。在這種情況下，我希望誤差的梯度應該很高，因為我們基本上是在告訴判別器它犯了一個錯誤（如果判別器的損失很低，這是一個很大的錯誤），所以誤差梯度應該很高，這個梯度將成為生成器進行訓練的梯度。
您可能會在這篇論文“訓練生成對抗網絡的原則方法”（https://arxiv.org/pdf/1701.04862.pdf）中找到答案。它有一部分解釋了為什么生成器的梯度隨著鑑別器的增強而消失。