Neural-Networks
自編碼神經網絡的起源是什麼？
我搜索了谷歌、維基百科、谷歌學者等，但我找不到自動編碼器的起源。也許這是那些非常緩慢演變的概念之一，不可能追溯到一個明確的起點，但我仍然想找到一些關於他們發展的主要步驟的總結。
Ian Goodfellow、Yoshua Bengio 和 Aaron Courville 的深度學習書中關於自動編碼器的章節說：
幾十年來，自動編碼器的想法一直是神經網絡歷史景觀的一部分（LeCun，1987；Bourlard 和 Kamp，1988；Hinton 和 Zemel，1994）。傳統上，自動編碼器用於降維或特徵學習。
帕斯卡爾文森特的這個演講說：
使用經典自動編碼器去噪實際上是在更早之前引入的（LeCun，1987；Gallinari 等，1987），作為 Hopfield 網絡的替代方案（Hopfield，1982）。
這似乎暗示在此之前存在“經典自動編碼器”：LeCun 和 Gallinari 使用它們但沒有發明它們。我沒有看到早於 1987 年的“經典自動編碼器”的踪跡。
有任何想法嗎？
根據 Schmidhuber 提供的歷史，“神經網絡中的深度學習：概述”，“神經網絡” （2015 年），自動編碼器被提議作為巴拉德中無監督預訓練的一種方法，“神經網絡中的模塊化學習”，Proceedings美國人工智能學會(1987)。然而，尚不清楚這是否是第一次使用自動編碼器。這只是第一次將它們用於預訓練 ANN。
正如 Schmidhuber 文章的介紹所表明的那樣，將 ANN 中使用的所有想法歸因於其中有些困難，因為文獻多種多樣，並且術語隨著時間的推移而演變。